A.- Die 1963 geborene A._ nahm am 10. Mai 1994 im Restaurant F._ eine Tätigkeit als Serviceangestellte auf. Gleichentags glitt sie bei der Arbeit aus. Dabei erlitt sie eine Fraktur des Os coccygum, welche am 9. Dezember 1994 eine Resektion des Steissbeines erforderlich machte. Auf den 1. September 1995 trat die Versicherte eine neue Stelle im Restaurant R._ an, welche sie im Rahmen eines Pensums von 50 %ausübte. Am 23. März 1995 meldete sich A._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich holte nebst Auskünften des letzten Arbeitgebers vom 28. August 1996 die Stellungnahme des Dr. med. U._ vom 17. Mai 1995 und des Dr. med. N._ vom 20. April 1995 sowie das Gutachten der Rheumaklinik des Spitals X._ vom 27. März 1996 ein. Zudem zog sie die Akten der Unfallversicherung bei. Mit Vorbescheid vom 10. September 1996 teilte sie der Versicherten mit, sie habe bei einem Invaliditätsgrad von 50 % mit Wirkung ab 1. Mai 1995 Anspruch auf eine halbe Invalidenrente. Am 25. März 1997 erging das vom Unfallversicherer eingeholte Gutachten der Orthopädischen Klinik Y._ und am 28. November 1997 erstellten die Ärzte der Neurologischen Klinik des Spitals X._ einen Bericht. Ferner klärte die IV-Stelle die beruflichen Eingliederungsmöglichkeiten ab (Bericht vom 22. September 1997). Mit Verfügung vom 26. März 1998 sprach sie A._ mit Wirkung ab 1. Mai 1995 eine halbe Invalidenrente zu. Im Rahmen des von der IV-Stelle eingeleiteten Revisionsverfahrens stellte diese fest, dass die seinerzeitige Rentenzusprache zu Unrecht erfolgt war, weil bei der Bemessung des Invaliditätsgrades auf die Arbeitsunfähigkeit im angestammten Beruf abgestellt, dieser Grad der Arbeitsunfähigkeit dem Invaliditätsgrad gleichgesetzt und das Invalideneinkommen auf 50 % des Valideneinkommens beziffert worden war. Mit Vorbescheid vom 18. Mai 1998 orientierte die IV-Stelle die Versicherte darüber, dass bei der Invaliditätsbemessung die Arbeitsunfähigkeit anstelle der Erwerbsunfähigkeit berücksichtigt worden sei. Da ihr eine leidensangepasste leichte Hilfsarbeit zu 70 % zumutbar sei und sie damit ein Jahreseinkommen von Fr. 31 244.- erzielen könne, ergebe sich verglichen mit dem Valideneinkommen von Fr. 43 115.- ein rentenausschliessender Invaliditätsgrad von 28 %. Mit Verfügung vom 31. August 1998 hielt die IV-Stelle an der Verneinung des Anspruchs auf Leistungen fest und hob die Invalidenrente mit Wirkung ab Ende des der Zustellung der Verfügung folgenden Monats auf. B.- Die von A._ hiegegen erhobene Beschwerde mit dem Antrag auf Aufhebung der Verfügung und Weitergewährung einer 50%igen Invalidenrente wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. März 2000 ab. C.- Mit Verwaltungsgerichtsbeschwerde lässt A._ beantragen, vorinstanzlicher Entscheid und Verfügung seien aufzuheben und es sei die IV-Stelle zu verpflichten, ihr eine Invalidenrente auf der Basis eines Invaliditätsgrades von mindestens 50 % auszurichten. Ferner ersucht sie um unentgeltliche Verbeiständung. Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, hat sich das Bundesamt für Sozialversicherung nicht vernehmen lassen. D.- Mit Schreiben vom 13. März 2001 hat die IV-Stelle dem Eidgenössischen Versicherungsgericht das Gutachten der Orthopädischen Klinik Y._ vom 23. Januar 2001 eingereicht.