A.- Die 1974 geborene G._, ausgebildete Kosmetikerin und Mutter einer am 20. August 1998 geborenen Tochter, war bis 21. Dezember 1995 als Kosmetikerin, Serviceangestellte und Kioskverkäuferin tätig. Am 3. Juni 1997 meldete sie sich unter Hinweis auf Bauch-, Nerven-, Extremitäten-, Nieren- sowie gynäkologische Probleme auf Grund vier durchgeführter Operationen bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Basel-Stadt (nachfolgend: IV-Stelle) klärte unter Beizug verschiedener Arztberichte (diverse Berichte der Allgemeinchirurgischen Abteilung des Spitals X._, vom 1. Juli 1993 bis
16. September 1994, Berichte der Chirurgischen Klinik, Spital Y._, vom 5. und 25. Juli 1991 sowie 6. November 1997, des Dr. med. K._, Spezialarzt FMH für Neurologie, vom 18. Dezember 1996 und 9. Juli 1997, der Dres.
med. R._ und S._, Rehaklinik Z._, vom 27. August 1997 sowie des Dr. med. E._, Spezialarzt FMH für Chirurgie, vom 17. März 1998) sowie eines Arbeitgeberberichtes und einer Auskunft der Arbeitslosenkasse die medizinischen und erwerblichen Verhältnisse ab. Zudem veranlasste die IV-Stelle Abklärungen bei Dr. med. M._, Spezialarzt FMH für Neurologie (Gutachten vom 14. September 1998) und Dr. med. F._, Spezialarzt FMH für Psychiatrie und Psychotherapie (Gutachten vom 8. März 1999).
Nach Durchführung des Vorbescheidverfahrens lehnte die IV-Stelle mit Verfügung vom 3. Juni 1999 den Anspruch auf berufliche Massnahmen oder andere Leistungen der Invalidenversicherung ab.
B.- Gegen diese Verfügung liess G._ Beschwerde erheben und beantragen, es sei die angefochtene Verfügung aufzuheben und es seien ihr die gesetzlichen Leistungen zuzusprechen. Eventualiter sei ein bauchchirurgisches Gutachten einzuholen. Subeventualiter sei die Sache zur Einholung eines interdisziplinären Gutachtens an die IV-Stelle zurückzuweisen. Im Verlauf des Verfahrens liess sie ein Gutachten des Dr. med. E._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 15. November 1999 einreichen.
Mit Eingabe vom 21. Januar 2000 teilte die IV-Stelle mit, sie hebe die Verfügung pendente lite auf und werde nach Einholung eines Gutachtens bei der Medizinischen Abklärungsstelle (MEDAS) Basel neu verfügen, worauf das Verfahren bis 31. Dezember 2000 sistiert wurde. Nach Eingang des MEDAS-Gutachtens vom 16. November 2000 reichte die IV-Stelle die neue Verfügung vom 10. Januar 2001 ein, mit welcher sie das Leistungsbegehren erneut ablehnte.
G._ hielt mit Vernehmlassung vom 22. Februar 2001 an ihren Anträgen fest. Die Kantonale Rekurskommission für die Ausgleichskassen und die IV-Stellen, Basel (heute: Sozialversicherungsgericht Basel-Stadt), hiess die Beschwerde mit Entscheid vom 30. August 2001 teilweise gut und wies die Sache zur ergänzenden Abklärung an die IV-Stelle zurück.
C.- Mit Verwaltungsgerichtsbeschwerde beantragt die IV-Stelle die Aufhebung des angefochtenen Entscheids.
G._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, während das Bundesamt für Sozialversicherung (nachfolgend: BSV) deren Gutheissung beantragt.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die massgeblichen Bestimmungen und Grundsätze über den Invaliditätsbegriff (Art. 4 IVG), über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) und den Anspruch auf berufliche Eingliederungsmassnahmen (Art. 8 Abs. 1 IVG), über die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG (BGE 126 V 76 Erw. 3b/bb, 124 V 322 Erw. 3b/aa) sowie die Rechtsprechung zur Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (BGE 115 V 134 Erw. 2 mit Hinweisen) zutreffend dargelegt. Darauf wird verwiesen.
2.- Streitig ist, ob die beschwerdeführende IV-Stelle mit der Verfügung vom 3. Juni 1999 einen Leistungsanspruch der Beschwerdegegnerin gegenüber der Invalidenversicherung zu Recht abgelehnt hat.
Dabei steht zunächst in Frage, ob die durchgeführten Abklärungen und die entsprechend vorliegenden medizinischen Unterlagen zur Beurteilung des streitigen Anspruches genügen.
Die IV-Stelle hat dies bejaht. Sie ging in der Verfügung vom 3. Juni 1999 zunächst gestützt auf das psychiatrische Gutachten des Dr. med. F._ und auf das neurologische Gutachten des Dr. med. M._ davon aus, die Versicherte sei voll arbeitsfähig. Nach der polydisziplinären Begutachtung durch die MEDAS mit ihren neurologischen, psychiatrischen und gastro-enterologischen Untergutachten stellte sie sich auf den Standpunkt, es bestehe aus medizinischer Sicht eine minimale Einschränkung der Arbeitsfähigkeit, welche erst noch vorübergehender Natur sei, nachdem die Versicherte im Zeitpunkt des Gutachtens im bisherigen Beruf maximal 30 % eingeschränkt und ihr mittelfristig für eine leichte bis mittelschwere Tätigkeit eine Arbeitsfähigkeit von 100 % zumutbar sei. Demgegenüber sprach die Vorinstanz dem MEDAS-Gutachten auf Grund der Widersprüche zu den psychiatrischen Beurteilungen des Dr. med. F._ wie auch des Dr. med. E._ die volle Beweiskraft ab und ordnete eine ergänzende Abklärung (psychiatrisches Obergutachten) an.
3.- a) Das Bundesrecht schreibt nicht vor, wie die einzelnen Beweismittel zu würdigen sind. Für das gesamte Verwaltungs- und Verwaltungsgerichtsbeschwerdeverfahren gilt der Grundsatz der freien Beweiswürdigung (Art. 40 BZP in Verbindung mit Art. 135 OG; Art. 95 Abs. 2 OG in Verbindung mit Art. 113 und 132 OG; Art. 85 Abs. 2 lit. c AHVG in Verbindung mit Art. 69 IVG; Meyer-Blaser, Rechtsprechung des Bundesgerichts zum IVG, Zürich 1997, S. 229). Danach haben Versicherungsträger und Sozialversicherungsrichter die Beweise frei, d.h. ohne Bindung an förmliche Beweisregeln, sowie umfassend und pflichtgemäss zu würdigen. Für das Beschwerdeverfahren bedeutet dies, dass der Sozialversicherungsrichter alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Rechtsanspruches gestatten. Insbesondere darf er bei einander wiedersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum er auf die eine und nicht auf die andere medizinische These abstellt. Hinsichtlich des Beweiswertes eines Arztberichtes ist also entscheidend, ob der Bericht für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation einleuchtet und ob die Schlussfolgerungen des Experten begründet sind. Ausschlaggebend für den Beweiswert ist somit weder die Herkunft eines Beweismittels noch die Bezeichnung der eingereichten oder in Auftrag gegebenen Stellungnahmen als Bericht oder Gutachten, sondern dessen Inhalt (BGE 125 V 352 Erw. 3a mit Hinweisen).
b) Nach der Rechtsprechung ist die Grenze zwischen invalidisierenden und nichtinvalidisierenden Psychogenien durch die Rechtsfigur der Zumutbarkeit zu ziehen. Dabei sind die Erwerbsunfähigkeit und ihr Mass nach objektiven Kriterien zu beurteilen. Es ist festzustellen, ob und in welchem Masse eine versicherte Person infolge ihres Gesundheitsschadens auf dem ihr nach ihren Fähigkeiten offen stehenden ausgeglichenen Arbeitsmarkt eine Einbusse an Erwerbseinkommen erleidet im Vergleich zu ihrer Einkommenslage, wenn sie nicht mit dem Gesundheitsschaden behaftet wäre. Dabei kommt es darauf an, welche Tätigkeit der gesundheitsgeschädigten Person zugemutet werden kann. Entscheidend ist, ob, nach psychiatrischer Feststellung, die erhobenen Befunde eine derartige Schwere aufweisen, dass sozialpraktisch die Verwertung der Arbeitsfähigkeit auf dem Arbeitsmarkt der versicherten Person nicht mehr zumutbar oder dies für die Gesellschaft nicht mehr tragbar ist (Meyer-Blaser, Bundesgesetz über die Invalidenversicherung, Zürich 1997, S. 11 mit Hinweisen auf die Rechtsprechung).
Die Frage nach der objektiv zu verstehenden Zumutbarkeit beurteilt sich entscheidend nach dem, was der Arzt, nötigenfalls der Psychiater als Spezialarzt sagt (ZAK 1971 S. 213, 1968 S. 409). Allerdings lässt die fachärztlich festgestellte psychische Krankheit oder psychische Auffälligkeit für sich allein genommen nicht ohne weiteres auch auf das Vorliegen einer Invalidität schliessen; es muss zudem eine Beeinträchtigung der Erwerbsfähigkeit, unabhängig von der Diagnose und grundsätzlich unbesehen der Ätiologie, ausgewiesen und in ihrem Ausmass bestimmt sein (ZAK 1973 S. 655 Erw. 2; Meyer-Blaser, Bundesgesetz über die Invalidenversicherung, S. 12).
Im Urteil K. vom 19. Januar 2000, I 554/98, hat das Eidgenössische Versicherungsgericht die Aufgabe näher umschrieben, die den medizinischen Experten bei der Beurteilung des invalidisierenden Charakters von somatoformen Störungen zukommt. Nebst der Diagnosestellung haben sich diese zum Schweregrad der Symptomatik und zur Prognose zu äussern und darauf abgestützt Aussagen zur Leistungsfähigkeit und Zumutbarkeit zu machen. In diesem Zusammenhang hat der Gutachter das Vorliegen von invaliditätsbegründenden Faktoren wie auffällige prämorbide Persönlichkeitsstruktur, psychiatrische Komorbidität, chronische körperliche Begleiterkrankungen, Verlust der sozialen Integration, ausgeprägter Krankheitsgewinn, mehrjähriger Krankheitsverlauf mit unveränderter oder progredienter Symptomatik, unbefriedigende Behandlungsergebnisse und gescheiterte Rehabilitationsmassnahmen zu beurteilen. Er hat aber auch Stellung zu nehmen zu den rentenausschliessenden Faktoren wie Diskrepanz zwischen Beschwerdeschilderung und beobachtetem Verhalten, hohe Intensitätsangaben, erhebliche Diskrepanz der Angaben im Vergleich zur fremdanamnestischen Information, Angabe intensiver Beschwerden ohne Nachsuchen von therapeutischer Hilfe, appellativ-demonstrative Klagen, welche beim Untersucher kaum emotionale Betroffenheit auslösen, Angabe schwerer Beeinträchtigung bei real weitgehend intaktem psychosozialem Funktionsniveau im Alltag (vgl. zum Ganzen Mosimann, Somatoforme Störungen: Gerichte und (psychiatrische) Gutachten, in: SZS 1999 S. 1 ff. und S. 105 ff.). Der Prognose kommt insofern besondere Bedeutung zu, als hier in erster Linie zu prüfen ist, ob vom Versicherten ein - allenfalls beträchtlicher - Willenseffort verlangt werden kann, der seine Erwerbsfähigkeit wieder herstellt oder verbessert, selbst wenn es wahrscheinlich ist, dass er sich weigern wird, dies zu tun - sofern die Verweigerungshaltung eine willentliche ist und nicht ihrerseits eine psychische Beeinträchtigung mit Krankheitswert darstellt (Meyer-Blaser, Bundesgesetz über die Invalidenversicherung, S. 13; Mosimann, a.a.O., S. 111; vgl. auch ZAK 1983 S. 156 Erw. 4).
4.- a) Betreffend die Arbeitsfähigkeit aus psychiatrischer Sicht liegen drei Gutachten von Fachärzten vor. Dr.
med. F._ diagnostiziert in seinem Gutachten vom 8. März 1999 eine anhaltende somatoforme Schmerzstörung (ICD-10 F45. 4), welche indes eine Arbeitsunfähigkeit nicht zu begründen vermöge; der Versicherten sei es zumutbar, ganztags einer körperlich nicht zu anstrengenden Tätigkeit nachzugehen. Dr. med. E._ schätzt die Arbeitsunfähigkeit in seinem vom behandelnden Neurologen der Versicherten, Dr. med. K._, veranlassten konsiliarischen Gutachten vom 15. November 1999 auf 100 %, wobei als die Arbeitsfähigkeit beeinflussende Diagnose vor allem die hysterische Persönlichkeitsstruktur ICD 10 F60. 4; F 45.4 nach Hinweisen auf eine neurotische Entwicklung und weniger die ebenfalls diagnostizierte mittelgradig depressive Episode ICD-10 F 32.1 eine Rolle spielt. Das psychiatrische Untergutachten der MEDAS der Dr. med. A._ vom 11. Oktober 2000 stellt aus psychiatrischer Sicht keine Einschränkung der Arbeitsfähigkeit fest; die gegenwärtigen Beschwerden erfüllten die Kriterien einer anhaltenden somatoformen Schmerzstörung nicht und auch nicht mehr diejenigen der Depression.
b) Dem im Rahmen des Verwaltungsverfahrens eingeholten Gutachten des Facharztes Dr. med. F._ ist bei der Beweiswürdigung hohe Beweiskraft zuzuerkennen. Es erfüllt alle rechtsprechungsgemässen (BGE 125 V 352 Erw. 3 mit Hinweisen) Kriterien für eine beweiskräftige ärztliche Entscheidungsgrundlage und ist umfassend, beruht auf eingehender Untersuchung, berücksichtigt die beklagten Beschwerden, ist in Kenntnis der Vorakten (Anamnese) abgegeben worden und überzeugt auch mit seinen Schlussfolgerungen. Schliesslich sprechen keine konkreten Indizien dafür, dass die Untersuchung in einem für die Beurteilung wesentlichen Punkt unvollständig gewesen wäre. Beim Parteigutachten des Dr.
med. E._ rechtfertigt der Umstand, dass diese Stellungnahme von der Beschwerdeführerin eingeholt und in das Verfahren eingebracht wurde, nicht Zweifel am ebenfalls hohen Beweiswert. Der Arzt hat sich in seiner Expertise auf Grund persönlicher Untersuchungen der Versicherten und in Kenntnis der medizinischen Vorakten ebenso umfassend, nachvollziehbar und folgerichtig zur Frage geäussert, ob bei der Beschwerdegegnerin eine psychische Störung mit Krankheitswert vorliegt. Es ist somit im Prinzip von einer Gleichwertigkeit dieser einander in den die Arbeitsfähigkeit betreffenden Schlussfolgerungen widersprechenden Gutachten auszugehen.
Demgegenüber ist das psychiatrische MEDAS-Untergutachten weniger umfassend und insofern nicht schlüssig, als angegeben wird, unter der laut Angaben der Versicherten fünf Monate dauernden antidepressiven Therapie mit Efexor sei die Depression, die ein Jahr früher diagnostiziert worden war, fast vollständig zurückgegangen, ohne dass dazu näher ausgeführt wird, woraus sich dies schliessen lässt und weshalb sich der Zustand der Versicherten gebessert haben soll. Ebenso wenig wird bei der Angabe, es finde sich noch eine Restsymptomatik einer depressiven Episode, die indes die Kriterien der Depression nicht mehr erfülle, dargelegt, worin diese Restsymptomatik besteht und welche Elemente des Depressionsbefundes seit der letzten Diagnose weggefallen sind, um einen solchen nunmehr zu verneinen.
Eine Auseinandersetzung mit den Ausführungen der in den Schlussfolgerungen divergierenden fachärztlichen Beurteilungen der Dres. med. F._ und E._ fehlt.
Jedoch gerade mit Blick darauf, dass das MEDAS-Gutachten auf Grund zweier bereits vorliegender, zwar in ihren Schlussfolgerungen divergierender, aber umfassender und nachvollziehbarer fachärztlicher Gutachten bereits im Sinne eines Obergutachtens veranlasst wurde, muss dies als ungenügend qualifiziert werden.
Was dagegen in der Verwaltungsgerichtsbeschwerde vorgebracht wird, ist nicht stichhaltig. Entgegen der Auffassung der IV-Stelle wurden die Divergenzen in den beiden früheren psychiatrischen Gutachten gerade nicht gelöst. Die Notwendigkeit einer abermaligen Begutachtung beurteilt sich zudem nicht auf Grund der Tatsache, dass das MEDAS-Gutachten von vorherigen fachärztlichen Beurteilungen abweicht, sondern allein danach, ob es die rechtsprechungsgemässen Kriterien an ein beweiskräftiges Gutachten erfüllt, was vorliegend wie dargelegt nicht der Fall ist.
c) Das MEDAS-Gutachten erweist sich indes nicht nur mit Blick auf die anderen psychiatrischen Beurteilungen als ungenügend. Auch in der Gesamtbeurteilung vermag das MEDAS-Gutachten im Sinne eines Obergutachtens mit Blick auf die übrigen medizinischen Unterlagen nicht zu überzeugen.
So bleibt zum einen unklar, weshalb bei der konkreten Schätzung der Arbeitsfähigkeit im erlernten Beruf der Kosmetikerin, einer gemäss den Angaben der Versicherten vorwiegend sitzenden Tätigkeit, eine Einschränkung der Arbeitsunfähigkeit von aktuell 30 % berücksichtigt und erst mittelfristig von einer vollen Arbeitsfähigkeit ausgegangen wurde, nachdem zunächst festgestellt worden war, durch die sekundäre funktionelle Dysfunktion der rechten Hüfte auf Grund der chronischen Schonhaltung mit Flexion des rechten Beines sei eine gewisse Einschränkung der Arbeitsfähigkeit gegeben, indem Arbeiten, die ein erhöhtes Pensum von Stehen erforderten (z.B. Serviceangestellte), nicht geeignet seien, die erlernte Tätigkeit als Kosmetikerin hingegen durchaus zumutbar sei. Soweit damit die im Neurologischen Untergutachten geschätzte Arbeitsfähigkeit von mindestens 50 % auf Grund der Schmerzsymptomatik einbezogen werden wollte, die sonst in der Gesamtbeurteilung nirgends ihren Niederschlag fand, wäre nicht einzusehen, weshalb gerade eine Reduktion von 50 % auf 30 % erfolgte und weshalb mittelfristig wieder eine Arbeitsfähigkeit von 100 % angenommen werden könnte.
Zum anderen wird eine organische Ursache der von der Versicherten beklagten Beschwerden auf Grund des gastro-enterologischen Untergutachtens ausgeschlossen. Deren Ergebnis stützt sich im Wesentlichen auf eine Abklärung mittels Ösophago-Gastroduodenoskopie und Ileokoloskopie des Dr. med. D._ von 1996, die in den Akten nicht dokumentiert ist, sowie auf wenige eigene Untersuchungen.
Obwohl in den Akten mehrfach der Hinweis besteht, dass die Schmerzen von Vernarbungen herrühren könnten (Dr. med.
M._ hatte in seinem Gutachten bereits eine Abklärung durch einen Bauchchirurgen vorgeschlagen; anlässlich der Laparoskopie vom 27. August 1994 wurde eine mässige Adhärenz zum Zökum [Blinddarm] festgestellt und gelöst) und auch die Neurologen der MEDAS angeben, die Unterbauchschmerzen seien am ehesten durch intraabdominale Vernarbungen sowie Adhäsionen erklärbar, wurden keine entsprechenden Untersuchungen veranlasst. Angesichts der verschiedenen, wie auch die MEDAS ausführt, teilweise komplizierten operativen Eingriffe und insbesondere mit Blick auf die Tragweite der Beurteilung einer somatischen Ursache für die Beurteilung der Arbeitsfähigkeit aus psychiatrischer Sicht erweist sich dieses Teilgutachten entgegen der Auffassung der Vorinstanz ebenfalls als ungenügend.
d) Bei dieser Aktenlage lässt sich die zentrale Frage, ob die Versicherte bei Aufbietung allen guten Willens Arbeit in ausreichendem Masse verrichten könnte, nicht zuverlässig beantworten. Vielmehr drängt sich ausnahmsweise die Einholung eines Obergutachtens auf. Dabei ist einerseits eine Begutachtung bei einem spezialisierten Chirurgen zur Frage der möglichen organischen Ursache der abdominalen Beschwerden einzuholen und hernach in psychiatrischer Hinsicht zu den bisherigen psychiatrischen Gutachten im Sinne eines Obergutachtens Stellung zu nehmen. Die Sache ist zu diesem Zweck an die IV-Stelle zurückzuweisen, welche anschliessend über den Anspruch auf eine Invalidenrente neu verfügen wird.
5.- Dem Ausgang des letztinstanzlichen Verfahrens entsprechend steht der Beschwerdegegnerin eine Parteientschädigung zu (Art. 135 in Verbindung mit Art. 159 Abs. 1 OG); damit erweist sich ihr Antrag auf Gewährung der unentgeltlichen Verbeiständung als gegenstandslos.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird im Sinne der
Erwägungen abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle Basel-Stadt hat der Beschwerdegegnerin für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 1500.-
(einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt, der Ausgleichskasse Basel- Stadt und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 30. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: