A.- Mit Verfügung vom 1. September 1998 lehnte die IV-Stelle des Kantons Zürich das Gesuch der 1950 geborenen B._ um Zusprechung einer Invalidenrente ab, weil sie sowohl aus rheumatologischer wie auch aus psychiatrischer Sicht in der früheren Tätigkeit als Hausangestellte eines Altersheims sowie in jeder anderen leichten, wechselbelastenden Tätigkeit ohne repetitives Heben von Lasten über 15 kg voll arbeitsfähig sei und aus gesundheitlicher Sicht keine rentenbegründende Erwerbseinbusse erleide. Das Vorliegen eines psychiatrischen Leidens von Krankheitswert, aus welchem eine Arbeitsunfähigkeit abzuleiten wäre, verneinte sie gestützt auf ein in Auftrag gegebenes Gutachten von Dr. med. V._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 21. Januar 1998.
B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 17. April 2000 ab. Es stellte dabei auf das Gutachten von Dr. med. V._ ab. Zu dem von B._ im Verlaufe des Verfahrens eingereichten Gutachten von Dr. med.
R._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 14. April 1999, in welchem der Arzt einen psychischen Gesundheitsschaden mit Krankheitswert diagnostiziert und die Verminderung der Arbeitsfähigkeit auf Grund der psychischen Erkrankung auf 60 - 70 % geschätzt hatte, stellte das kantonale Gericht fest, es sei in der Darlegung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation nicht einleuchtend und die Schlussfolgerungen seien wenig nachvollziehbar, weshalb es keine taugliche Grundlage zur Bestimmung der Arbeitsfähigkeit biete und das Gutachten von Dr. med. V._ nicht in Frage zu stellen vermöge.
C.- B._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben und die Sache zwecks Einholung eines Obergutachtens an die Vorinstanz zurückzuweisen; zudem sei ihr die unentgeltliche Verbeiständung zu gewähren.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Streitig ist, ob die Beschwerdeführerin Anspruch auf eine Rente der Invalidenversicherung hat, wobei zunächst die Frage zu prüfen ist, ob die Beschwerdesache zwecks Einholung eines medizinischen Obergutachtens an die Vorinstanz zurückzuweisen ist.
2.- Das kantonale Gericht hat die gesetzlichen Bestimmungen über den Invaliditätsbegriff (Art. 4 IVG), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und Abs. 1bis IVG) sowie die Rechtsprechung zu den geistigen Gesundheitsschäden (BGE 102 V 165; AHI 1996 S. 302 Erw. 2a, 305 Erw. 1a und 308 Erw. 2a; ZAK 1992 S. 170 Erw. 2a), zur Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (BGE 115 V 134 Erw. 2, 105 V 158 Erw. 1) und zur Beweiswürdigung von medizinischen Berichten (BGE 122 V 160 Erw. 1c; vgl. auch BGE 125 V 352 Erw. 3a) zutreffend dargelegt. Darauf wird verwiesen.
3.- a) Der Gutachter der IV-Stelle, Dr. med.
V._, diagnostizierte bei der Beschwerdeführerin eine emotional instabile, hypoman-reizbare, aggressiv-misstrauische Borderline-Persönlichkeit (ICD-10 F60. 3) mit histrionischem Einschlag (ICD-10 F60. 4) sowie eine leichtgradige, anhaltende, somatoforme Schmerzstörung (ICD-10 F45. 4) und aggravierte somatische Störungen (ICD-10 F68. 0). Er führte an, die im Vordergrund stehende maniforme Charakterstruktur könne "nicht im eigentlichen Sinne" als krankhaft bezeichnet werden und stelle mehr oder minder eine Normvariante dar. Folglich sei aus dieser Wesenseigenart keine Einbusse an Arbeitsfähigkeit abzuleiten. Die leichtgradige somatoforme Schmerzstörung sei zwar erkennbar, in Umfang und Ausprägung jedoch "kaum solcherart", als daraus wesentliche Einschränkungen der Arbeitsfähigkeit entstünden. Die Angaben der Untersuchten müssten als "vermutlich überhöht und aggraviert" beurteilt werden. Er glaube, dass die Schilderung der Beschwerden "einer etwas blumigen Übertreibung" unterliege, wozu sie "von Natur aus im Rahmen ihrer Charaktereigenschaften" neige. Zusammenfassend könne ein psychiatrisches Leiden von Krankheitswert, aus welchem eine Arbeitsfähigkeit abzuleiten wäre, nicht festgestellt werden.
"Die Motive" der Untersuchten seien "nicht im medizinisch-psychiatrischen Bereich, sondern anderweitig" gelagert.
b) Der Parteigutachter Dr. med. R._ kam zur Diagnose einer "Schmerzstörung in Verbindung mit sowohl psychischen Faktoren wie einem medizinischen Krankheitsfaktor - chronisch" (ICD-10 F45. 4). Es komme auch die Kodifizierung als "Anpassungsstörung mit emotionalen Störungen und Störungen des Sozialverhaltens - gemischt - chronisch" (ICD-10 F43. 25) in Frage. Insgesamt führe die komplexe Störung "eindeutig zu einer psychischen Störung mit erheblichem Krankheitswert" und mit einer Verminderung der Arbeitsfähigkeit aus psychischen Gründen von 60 - 70 %.
c) Nach dem Gesagten bestehen entgegengesetzte Interpretationen der medizinischen Gegebenheiten, indem der von der IV-Stelle beauftragte Gutachter Dr. med. V._ gestützt auf die Akten und eine einmalige Untersuchung der Beschwerdeführerin das Vorliegen eines psychiatrischen Leidens mit Krankheitswert und einer dadurch verursachten Einschränkung der Arbeitsfähigkeit verneint, während der Parteigutachter Dr. med. R._ rund ein Jahr später - in Kenntnis der medizinischen Akten, des Gutachtens von Dr.
med. V._, nach vier Gesprächen mit der Beschwerdeführerin und eigenen Beobachtungen anlässlich der Behandlung in der der Praxis angeschlossenen ambulanten psychiatrischen Ergotherapie - den Krankheitswert der psychischen Störungskomponente als erheblich erachtete und die Einschränkung der Arbeitsfähigkeit auf 60 - 70 % schätzte.
d) Für das Verwaltungsgerichtsbeschwerdeverfahren gilt der Grundsatz der freien Beweiswürdigung (Art. 95 Abs. 2 OG in Verbindung mit Art. 113 und 132 OG). Danach hat das Gericht die Beweise frei, d.h. ohne Bindung an förmliche Beweisregeln, sowie umfassend und pflichtgemäss zu würdigen.
Für das vorliegende Verfahren bedeutet dies, dass das Gericht alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Rechtsanspruches gestatten. Insbesondere darf es bei einander widersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum es auf die eine und nicht auf die andere medizinische These abstellt.
Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob der Bericht für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge und der medizinischen Situation einleuchtet und ob die Schlussfolgerungen des Experten begründet sind. Ausschlaggebend für den Beweiswert ist grundsätzlich somit weder die Herkunft eines Beweismittels noch die Bezeichnung der eingereichten oder in Auftrag gegebenen Stellungnahme als Bericht oder Gutachten. Dennoch hat es die Rechtsprechung mit dem Grundsatz der freien Beweiswürdigung als vereinbar erachtet, in Bezug auf bestimmte Formen medizinischer Berichte und Gutachten Richtlinien für die Beweiswürdigung aufzustellen (BGE 125 V 352 f.
Erw. 3, 122 V 160 f. Erw. 1c, je mit Hinweisen).
e) Nach dem Gesagten ist bezogen auf den vorliegenden Fall festzustellen, dass dem im Rahmen des Verwaltungsverfahrens eingeholten Gutachten des externen Facharztes Dr.
med. V._ bei der Beweiswürdigung hohe Beweiskraft zuzuerkennen ist und keine konkreten Indizien gegen die Unabhängigkeit des Experten und die Zuverlässigkeit der Expertise sprechen. Beim Parteigutachten von Dr. med.
R._ rechtfertigt der Umstand, dass diese Stellungnahme von der Beschwerdeführerin eingeholt und in das Verfahren eingebracht wurde, nicht Zweifel am ebenfalls hohen Beweiswert. Der Arzt hat sich in seiner Expertise auf Grund persönlicher Untersuchungen der Versicherten und in Kenntnis der medizinischen Vorakten ebenso umfassend, nachvollziehbar und folgerichtig zur Frage geäussert, ob bei der Beschwerdeführerin eine psychische Störung mit Krankheitswert vorliegt. Wie in der Beschwerde mit Recht vorgebracht wird, sind einzelne etwas kategorisch ausgefallene Feststellungen der Vorinstanz, wie etwa, dass das Gutachten R._ in der Darlegung der medizinischen Zusammenhänge nicht einleuchtend sei, oder dass dessen Schlussfolgerungen wenig nachvollziehbar seien, in ihrer Begründung objektiv nicht ohne weiteres zu vergegenwärtigen. Auch fehlte zu gewissen bei der Interpretation der beiden Expertisen getroffenen Aussagen möglicherweise ohne ein zusätzliches Gutachten oder ein Obergutachten das fachmedizinische Wissen.
Es ist somit im Prinzip von einer Gleichwertigkeit der einander in den Schlussfolgerungen widersprechenden Gutachten auszugehen, wobei zur Beweiskraft beider Expertisen doch einschränkend anzumerken ist, dass sich die zwei Sachverständigen zum Grad der Arbeitsunfähigkeit und seiner Begründung nur wenig präzis geäussert haben. Bei dieser Aktenlage kann das Eidgenössische Versicherungsgericht den Fall nicht abschliessend beurteilen. Vielmehr drängt sich ausnahmsweise die Einholung eines Obergutachtens auf, welches sich mit den Widersprüchen zwischen dem IV-Stellen-Gutachter und dem Parteigutachter befassen und prüfen wird, ob bei der Beschwerdeführerin ein Gesundheitsschaden mit Krankheitswert vorliegt.
f) Dazu ist die Sache an die Vorinstanz zurückzuweisen, welche unter Gewährung des rechtlichen Gehörs das Obergutachten veranlassen und hernach erneut über den Leistungsanspruch der Beschwerdeführerin befinden wird. Es wird dabei auch in Betracht zu ziehen sein, dass das Eidgenössische Versicherungsgericht in BGE 127 V 299 Erw. 5 unter Hinweis auf die Rechtsprechung präzisierend festgehalten hat, dass Art. 4 Abs. 1 IVG zu Erwerbsunfähigkeit führende Gesundheitsschäden versichert, worunter soziokulturelle Umstände nicht zu begreifen sind. Es braucht in jedem Fall zur Annahme einer Invalidität ein medizinisches Substrat, das (fach)ärztlicherseits schlüssig festgestellt wird und nachgewiesenermassen die Arbeits- und Erwerbsfähigkeit wesentlich beeinträchtigt. Je stärker psychosoziale oder soziokulturelle Faktoren im Einzelfall in den Vordergrund treten und das Beschwerdebild mitbestimmen, desto ausgeprägter muss eine fachärztlich festgestellte psychische Störung von Krankheitswert vorhanden sein. Das bedeutet, dass das klinische Beschwerdebild nicht einzig in Beeinträchtigungen, welche von den belastenden soziokulturellen Faktoren herrühren, bestehen darf, sondern davon psychiatrisch zu unterscheidende Befunde zu umfassen hat, zum Beispiel eine von depressiven Verstimmungszuständen klar unterscheidbare andauernde Depression im fachmedizinischen Sinne oder einen damit vergleichbaren psychischen Leidenszustand.
Solche von der soziokulturellen Belastungssituation zu unterscheidende und in diesem Sinne verselbstständigte psychische Störungen mit Auswirkungen auf die Arbeits- und Erwerbsfähigkeit sind unabdingbar, damit überhaupt von Invalidität gesprochen werden kann. Wo der Gutachter dagegen im Wesentlichen nur Befunde erhebt, welche in den psychosozialen und soziokulturellen Umständen ihre hinreichende Erklärung finden, gleichsam in ihnen aufgehen, ist kein invalidisierender psychischer Gesundheitsschaden gegeben (vgl. AHI 2000 S. 153 Erw. 3). Ist anderseits eine psychische Störung von Krankheitswert schlüssig erstellt, kommt der Frage zentrale Bedeutung zu, ob und inwiefern, allenfalls bei geeigneter therapeutischer Behandlung, von der versicherten Person trotz des Leidens willensmässig erwartet werden kann zu arbeiten (eventuell in einem geschützten Rahmen; vgl. Praxis 1997 Nr. 49 S. 255 Erw. 4b) und einem Erwerb nachzugehen (vgl. Hans-Jakob Mosimann, Somatoforme Störungen: Gerichte und [psychiatrische] Gutachten, in: SZS 1999 S. 1 ff. und 105 ff., insbes. S. 15 ff.
mit zahlreichen Hinweisen auf die neuere medizinische Lehre; ferner Jacques Meine, L'expertise médicale en Suisse:
satisfait-elle aux exigences de qualité actuelles? in: SVZ 1999 S. 37 ff.).
4.- Im vorliegenden Verfahren geht es um die Bewilligung oder Verweigerung von Versicherungsleistungen, weshalb von der Auferlegung von Gerichtskosten abzusehen ist (Art. 134 OG). Dem Prozessausgang entsprechend ist der Beschwerdeführerin eine Parteientschädigung in der von ihrem Rechtsvertreter für das Verfahren vor dem Eidgenössischen Versicherungsgericht verlangten Höhe zuzusprechen (Art. 135 in Verbindung mit Art. 159 OG). Das Gesuch um unentgeltliche Rechtspflege, einschliesslich der unentgeltlichen Verbeiständung, erweist sich damit als gegenstandslos.
Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde wird
der angefochtene Entscheid vom 17. April 2000 aufgehoben
und es wird die Sache an das Sozialversicherungsgericht
des Kantons Zürich zurückgewiesen, damit es im
Sinne der Erwägungen verfahre.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle des Kantons Zürich hat der Beschwerdeführerin eine Parteientschädigung von Fr. 1690.- (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 20. März 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: