A.- Die 1963 geborene A._ nahm am 10. Mai 1994 im Restaurant F._ eine Tätigkeit als Serviceangestellte auf. Gleichentags glitt sie bei der Arbeit aus.
Dabei erlitt sie eine Fraktur des Os coccygum, welche am 9.
Dezember 1994 eine Resektion des Steissbeines erforderlich machte. Auf den 1. September 1995 trat die Versicherte eine neue Stelle im Restaurant R._ an, welche sie im Rahmen eines Pensums von 50 %ausübte.
Am 23. März 1995 meldete sich A._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich holte nebst Auskünften des letzten Arbeitgebers vom 28. August 1996 die Stellungnahme des Dr.
med. U._ vom 17. Mai 1995 und des Dr. med.
N._ vom 20. April 1995 sowie das Gutachten der Rheumaklinik des Spitals X._ vom 27. März 1996 ein.
Zudem zog sie die Akten der Unfallversicherung bei. Mit Vorbescheid vom 10. September 1996 teilte sie der Versicherten mit, sie habe bei einem Invaliditätsgrad von 50 % mit Wirkung ab 1. Mai 1995 Anspruch auf eine halbe Invalidenrente. Am 25. März 1997 erging das vom Unfallversicherer eingeholte Gutachten der Orthopädischen Klinik Y._ und am 28. November 1997 erstellten die Ärzte der Neurologischen Klinik des Spitals X._ einen Bericht. Ferner klärte die IV-Stelle die beruflichen Eingliederungsmöglichkeiten ab (Bericht vom 22. September 1997). Mit Verfügung vom 26. März 1998 sprach sie A._ mit Wirkung ab 1. Mai 1995 eine halbe Invalidenrente zu.
Im Rahmen des von der IV-Stelle eingeleiteten Revisionsverfahrens stellte diese fest, dass die seinerzeitige Rentenzusprache zu Unrecht erfolgt war, weil bei der Bemessung des Invaliditätsgrades auf die Arbeitsunfähigkeit im angestammten Beruf abgestellt, dieser Grad der Arbeitsunfähigkeit dem Invaliditätsgrad gleichgesetzt und das Invalideneinkommen auf 50 % des Valideneinkommens beziffert worden war. Mit Vorbescheid vom 18. Mai 1998 orientierte die IV-Stelle die Versicherte darüber, dass bei der Invaliditätsbemessung die Arbeitsunfähigkeit anstelle der Erwerbsunfähigkeit berücksichtigt worden sei. Da ihr eine leidensangepasste leichte Hilfsarbeit zu 70 % zumutbar sei und sie damit ein Jahreseinkommen von Fr. 31 244.- erzielen könne, ergebe sich verglichen mit dem Valideneinkommen von Fr. 43 115.- ein rentenausschliessender Invaliditätsgrad von 28 %. Mit Verfügung vom 31. August 1998 hielt die IV-Stelle an der Verneinung des Anspruchs auf Leistungen fest und hob die Invalidenrente mit Wirkung ab Ende des der Zustellung der Verfügung folgenden Monats auf.
B.- Die von A._ hiegegen erhobene Beschwerde mit dem Antrag auf Aufhebung der Verfügung und Weitergewährung einer 50%igen Invalidenrente wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. März 2000 ab.
C.- Mit Verwaltungsgerichtsbeschwerde lässt A._ beantragen, vorinstanzlicher Entscheid und Verfügung seien aufzuheben und es sei die IV-Stelle zu verpflichten, ihr eine Invalidenrente auf der Basis eines Invaliditätsgrades von mindestens 50 % auszurichten. Ferner ersucht sie um unentgeltliche Verbeiständung.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, hat sich das Bundesamt für Sozialversicherung nicht vernehmen lassen.
D.- Mit Schreiben vom 13. März 2001 hat die IV-Stelle dem Eidgenössischen Versicherungsgericht das Gutachten der Orthopädischen Klinik Y._ vom 23. Januar 2001 eingereicht.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) In der Verwaltungsgerichtsbeschwerde wird, wie bereits im kantonalen Verfahren, eine Verletzung des Anspruchs auf rechtliches Gehör durch die IV-Stelle gerügt.
Die Verwaltung sei in ihrer Verfügung nicht auf die im Vorbescheidverfahren erhobenen Einwendungen eingegangen und habe lediglich mittels einer allgemeinen Formel Stellung genommen. Da die IV-Stelle regelmässig in diesem Sinne verfahre, komme eine Heilung des Mangels im Rahmen des Beschwerdeverfahrens nicht in Frage.
b) Im angefochtenen Entscheid werden die nach der Rechtsprechung an die Begründung einer Verfügung gestellten Anforderungen (<ref-ruling> Erw. 1a mit Hinweisen; vgl. auch <ref-law>) und die Voraussetzungen für die ausnahmsweise Heilung des Mangels einer ungenügend begründeten Verfügung (<ref-ruling> Erw. 4a mit Hinweisen) zutreffend dargelegt. Darauf kann verwiesen werden. Beizufügen ist, dass nach <ref-law> die IV-Stelle, bevor sie über die Ablehnung eines Leistungsbegehrens oder über den Entzug oder die Herabsetzung einer bisherigen Leistung beschliesst, dem Versicherten oder seinem Vertreter Gelegenheit zu geben hat, sich mündlich oder schriftlich zur geplanten Erledigung zu äussern und die Akten seines Falles einzusehen. Dieses Vorbescheidverfahren bezweckt - nebst der Entlastung der Verwaltungsrechtspflegeorgane - dem Versicherten den Anspruch auf rechtliches Gehör zu gewährleisten. Bei der Anwendung dieser Verordnungsnorm hat sich das Gericht an den aus der Bundesverfassung abgeleiteten Grundsätzen zum rechtlichen Gehör zu orientieren (vgl. <ref-law>, Art. 4 Abs. 1 aBV; <ref-ruling> Erw. 1c). Dabei darf sich die Verwaltung nicht darauf beschränken, die vom Versicherten im Vorbescheidverfahren vorgebrachten Einwände tatsächlich zur Kenntnis zu nehmen und zu prüfen; sie hat ihre Überlegungen dem Betroffenen gegenüber auch namhaft zu machen und sich dabei ausdrücklich mit den (entscheidwesentlichen) Einwänden auseinanderzusetzen oder aber zumindest die Gründe anzugeben, weshalb sie gewisse Gesichtspunkte nicht berücksichtigen kann (<ref-ruling> Erw. 2b).
c) Die Vorinstanz hat erwogen, die IV-Stelle habe sich mit einer allgemeinen Formulierung begnügt, die keinerlei ersichtlichen spezifischen Bezug zum konkreten Fall und den erhobenen Einwänden aufweise, womit sie ihrer Begründungspflicht nur ungenügend nachgekommen sei. In der Beschwerdeantwort habe die Verwaltung dann jedoch dargelegt, weshalb sie zur Wiedererwägung der ihres Erachtens fehlerhaften Verfügung berechtigt sei. Damit habe sie, wenn auch verspätet, die verlangte Begründung geliefert. Eine Rückweisung der Sache zur gehörigen Begründung der angefochtenen Verfügung sei bei diesen Gegebenheiten äusserst fragwürdig und würde lediglich zu einer Verzögerung des Verfahrens führen.
Das kantonale Gericht betrachtete deshalb die festgestellte Verletzung des rechtlichen Gehörs als im erstinstanzlichen Verfahren geheilt.
Dieser Auffassung ist beizupflichten. Nach der Rechtsprechung ist von einer Rückweisung der Sache zur Gewährung des rechtlichen Gehörs an die Verwaltung im Sinne einer Heilung des Mangels selbst bei einer schwerwiegenden Verletzung des rechtlichen Gehörs dann abzusehen, wenn und soweit die Rückweisung zu einem formalistischen Leerlauf und damit zu unnötigen Verzögerungen führen würde, die mit dem (der Anhörung gleichgestellten) Interesse des Versicherten an einer möglichst beförderlichen Beurteilung seines Anspruchs nicht zu vereinbaren wären (<ref-ruling> Erw. 3d; Urteil S. vom 30. März 2001 [C 122/00]). Diese Voraussetzungen sind vorliegend erfüllt, weil der rechtserhebliche Sachverhalt hinreichend abgeklärt und der Standpunkt der Verwaltung aus der Verfügung vom 31. August 1998 in Verbindung mit der Vernehmlassung vom 4. November 1998 hinreichend klar hervorgeht. Die Vorinstanz gab der Versicherten zudem Gelegenheit, zur Beschwerdeantwort Stellung zu nehmen, wovon diese allerdings keinen Gebrauch gemacht hat. Bei diesen Gegebenheiten käme die Rückweisung der Sache zur Begründung der Verfügung einem blossen Formalismus gleich.
2.- In materieller Hinsicht streitig ist die vorinstanzlich bestätigte wiedererwägungsweise Aufhebung der halben Invalidenrente. Die für die Beurteilung dieser Frage massgeblichen Rechtsgrundlagen werden im angefochtenen Entscheid und in der Verwaltungsverfügung, auf welche die Vorinstanz Bezug nimmt, zutreffend dargelegt (vgl. auch <ref-ruling> Erw. 4b, 46 Erw. 2b, je mit Hinweisen), sodass darauf verwiesen werden kann. Zu ergänzen ist, dass auch eine unrichtige Feststellung im Sinne der Würdigung des Sachverhalts Anlass für eine Wiedererwägung der darauf beruhenden Verfügung bilden kann (<ref-ruling> Erw. 4a/cc) und in zeitlicher Hinsicht Art. 85 Abs. 2 in Verbindung mit <ref-law> zu beachten ist, wenn der nachträglich im Rahmen einer Wiedererwägung festgestellte Fehler eine spezifisch IV-rechtliche Frage betrifft und - kumulativ - keine Meldepflichtverletzung vorliegt (vgl.
auch <ref-ruling> Erw. 2).
3.- a) Gemäss den Feststellungen des kantonalen Gerichts beruht die Rentenverfügung vom 26. März 1998 auf der zweifellos unrichtigen Annahme, dass für die Invaliditätsbemessung von einer Arbeitsunfähigkeit von 50 % im angestammten Beruf auszugehen und der Invaliditätsgrad im Sinne eines Prozentvergleichs (vgl. <ref-ruling> Erw. 2, 114 V 312 Erw. 3a) festzulegen sei. Dabei sei übersehen worden, dass gemäss Arztbericht des Dr. med. U._ vom 17. Mai 1995 im Rahmen einer geeigneten Tätigkeit (keine Belastung des Rückens, keine schweren Lasten, wenig körperlich ungünstige Stellungen, wenig längeres Stehen und Sitzen) eine Steigerung der Arbeitsfähigkeit auf über 50 %, im Idealfall bis zu einer vollen Tätigkeit, möglich sei, welche Beurteilung mit jener der Gutachter der Orthopädischen Klinik Y._ (Expertise vom 25. März 1997) übereinstimme, welche von einer Arbeitsfähigkeit von 70 % in einer der Behinderung angepassten Tätigkeit mit wechselnden kurzzeitigen Steh-, Sitz- und Stehperioden ausgingen. Ebenfalls damit übereinstimmend sei dem Bericht der Schmerzsprechstunde des Spitals X._ vom 28. November 1997 eine Arbeitsfähigkeit von 70 % für leichtere Arbeit zu entnehmen.
Im Gutachten der Rheumaklinik des Spitals X._ vom 27. März 1996, welches die Verwaltung als Grundlage der ursprünglichen Rentenzusprechung herangezogen hatte, wird dagegen nur zur Arbeitsfähigkeit in der angestammten Tätigkeit Stellung genommen und nicht zur Arbeitsfähigkeit in anderen, geeigneten Tätigkeiten. Bei diesen Gegebenheiten hat die Vorinstanz zutreffend erkannt, dass die Verwaltung bei ihrer ersten Verfügung von unrichtigen tatsächlichen Verhältnissen ausgegangen ist, wenn sie den Invaliditätsgrad mit dem Grad der Arbeitsunfähigkeit im angestammten Beruf gleichgesetzt hat. Vielmehr ist gestützt auf die ärztliche Beurteilung von einer 70%igen Arbeitsfähigkeit in einer leichten, leidensangepassten Tätigkeit auszugehen, wogegen die Beschwerdeführerin grundsätzlich nichts einzuwenden hat.
b) An diesem Ergebnis vermag das von der IV-Stelle im letztinstanzlichen Verfahren eingereichte Gutachten der Orthopädischen Klinik Y._ vom 23. Januar 2001 nichts zu ändern, weil es nichts beiträgt zur Feststellung des Sachverhaltes, wie er sich bis zum Verfügungserlass verwirklicht hat, welcher Zeitpunkt rechtsprechungsgemäss die Grenze der richterlichen Überprüfungsbefugnis bildet (<ref-ruling> Erw. 1b). Unter diesen Umständen kann offen bleiben, ob dieses neue Beweismittel überhaupt berücksichtigt werden kann, nachdem es nach Ablauf der Beschwerdefrist, und ohne dass ein zweiter Schriftenwechsel angeordnet wurde, aufgelegt worden ist (<ref-ruling> Erw. 3c; ferner nicht veröffentlichtes Urteil des Bundesgerichts vom 10. Oktober 1997, 2A.616/1996).
4.- a) Für die Bestimmung des trotz gesundheitlicher Beeinträchtigung auf dem ausgeglichenen Arbeitsmarkt zumut- barerweise erzielbaren Einkommens ist die Vorinstanz - im Sinne einer Plausibilitätsprüfung - vom monatlichen Brutto- lohn für Frauen in einfachen und repetitiven Tätigkeiten (Anforderungsniveau des Arbeitsplatzes 4, privater und öffentlicher Sektor [Bund] zusammen in produktionsnahen Tätigkeiten) von Fr. 3380.- ausgegangen (vgl. LSE 1996 S. 25 TA7). Diesen Betrag hat sie auf die durchschnittliche Arbeitszeit im Jahre 1996 von 41.9 Stunden umgerechnet und entsprechend der 70%igen Restarbeitsfähigkeit in einer den körperlichen Beschwerden angepassten Tätigkeit reduziert, was ein Einkommen von Fr. 29 741.- im Jahr ergibt. Unter Berücksichtigung der Nominallohnentwicklung für 1997 (+ 0,5 %) und 1998 (+ 0.7 %; Die Volkswirtschaft 2001, Heft 3, S. 101, Tabelle B 10.2) entspricht dies im Jahre 1998 Fr. 30'099.-.
Die Ermittlung des Invalideneinkommens auf der Grundlage von statistischen Durchschnittswerten erweist sich als zutreffend, wenn die versicherte Person - wie die Beschwerdeführerin - nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihr an sich zumutbare neue Erwerbstätigkeit aufgenommen hat (<ref-ruling> Erw. 3b/aa und bb mit Hinweisen). Auf die in der Verwaltungsgerichtsbeschwerde vorgebrachten Rügen hinsichtlich der von der Verwaltung beigezogenen internen Arbeitsplatzdokumentationen (DAP) ist daher nicht näher einzugehen.
b) Was den von der Rechtsprechung zugelassenen Abzug vom Tabellenlohn anbelangt, ist anzumerken, dass es sich nicht rechtfertigt, für jedes Merkmal, das ein unter den Durchschnittswerten liegendes Einkommen erwarten lässt, separat quantifizierte Abzüge vom in der LSE ausgewiesenen Durchschnittsverdienst vorzunehmen und diese zusammenzuzählen, da damit Wechselwirkungen ausgeblendet werden (<ref-ruling> Erw. 5b/bb). Vielmehr ist ganz allgemein der Einfluss aller Merkmale auf das Invalideneinkommen (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) unter Würdigung der Umstände im Einzelfall nach pflichtgemässem Ermessen gesamthaft zu schätzen (<ref-ruling> Erw. 5b/bb mit Hinweisen). Dabei hat das Eidgenössische Versicherungsgericht erkannt, dass der Abzug vom statistischen Lohn unter Berücksichtigung aller jeweils in Betracht fallenden Merkmale auf insgesamt höchstens 25 % begrenzt ist (<ref-ruling> Erw. 5b/cc).
In Würdigung der gesamten persönlichen und beruflichen Umstände lässt es sich vorliegend aufgrund der Teilzeitarbeit sowie der Tatsache, dass gesundheitlich beeinträchtigte Versicherte, die selbst im Rahmen leichter Hilfsarbeitertätigkeiten nicht mehr voll leistungsfähig sind, lohnmässig gegenüber ihren gesunden Kolleginnen benachteiligt sind, nicht beanstanden, wenn die Vorinstanz einen Abzug von höchstens 10 % angenommen hat. Triftige Gründe für eine nach den Grundsätzen über die richterliche Ermessenskontrolle (<ref-ruling> Erw. 2) abweichende Ermessensausübung liegen jedenfalls nicht vor. Damit resultiert ein massgebendes hypothetisches Invalideneinkommen von Fr. 27 089.- (Fr. 30 099.- x 0.9).
c) Aus der Gegenüberstellung mit dem unbestrittenen, ohne Gesundheitsschaden erzielbaren Einkommen (Valideneinkommen) von Fr. 43 115.- im Jahre 1997, welches unter Anpassung an die Nominallohnentwicklung (+ 0.7 %) für das Jahr 1998 auf Fr. 43 417.- festzusetzen ist, resultiert ein rentenausschliessender Invaliditätsgrad von rund 38 %.
Somit hat die Vorinstanz zu Recht erkannt, dass die am 26. März 1998 verfügte halbe Invalidenrente zweifellos zu Unrecht gesprochen wurde. Die Erheblichkeit der Berichtigung ist ohne weiteres gegeben, da eine periodische Dauerleistung im Streite liegt (<ref-ruling> Erw. 1c).
5.- Das Gesuch um unentgeltliche Verbeiständung kann gewährt werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (<ref-ruling> Erw. 4a mit Hinweisen). Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Dominique Chopard, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung (einschliesslich
Mehrwertsteuer) von Fr. 1500.- ausgerichtet.
IV. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse Hotela und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 16. Juli 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: