A.- L._, geboren 1964, verfügt über eine dreijährige Handelsschulausbildung (April 1980 bis März 1983) mit Eidg. Fähigkeitsausweis. Vom 1. April 1984 bis
15. Juli 1985 arbeitete sie in einer Bankfiliale. In den Jahren 1985/86 absolvierte sie eine Tanzausbildung und von Oktober 1986 bis September 1988 eine Schauspielausbildung.
Von 1987 bis Ende 1994 betrieb sie eine eigene Tanzschule.
Ab dem 1. August 1992 arbeitete sie als Telefonistin bei der D._ AG mit einer Arbeitszeit von 34 Stunden in der Woche (80 %). Am 10. Oktober 1992 erlitt sie als Mitfahrerin in einem Personenwagen einen Verkehrsunfall, bei dem sie sich den Kopf anschlug und Rissquetschwunden im Bereich des rechten Ellbogens sowie Kontusionen mit starken Schwellungen im Schulter- und im Scapulagebiet zuzog. In der Folge klagte sie über Nacken-, Thorax- und Armbeschwerden, welche während längerer Zeit physiotherapeutisch behandelt wurden. Im Januar 1993 nahm sie die Arbeit wieder auf, wobei sie das Arbeitspensum bei der D._ AG auf zunächst 60 % und später auf 50 % reduzierte, um sich vermehrt der Tanzschule und dem Aufbau einer Model-Agentur widmen zu können. Ende Juli 1993 gab sie die Stelle bei der D._ AG auf. Wegen erneuter Nacken- und Kopfschmerzen musste sie die Tätigkeit als Tanzlehrerin einschränken und die Tanzschule gegen Ende 1994 schliessen. In beschränktem Umfang beschäftigte sie sich weiterhin mit der Model-Agentur.
Daneben war sie vom 11. April 1994 bis 31. Oktober 1995 während einer bis zwei Stunden in der Woche als Gymnastiklehrerin bei der Firma C._ tätig, übernahm Moderations- und Präsentationsaufträge und wirkte bei Theaterproduktionen mit.
Am 3. März 1997 meldete sich L._ zum Leistungsbezug bei der Invalidenversicherung an und machte geltend, dass am 27. April 1994 ein schwerer Rückfall in Zusammenhang mit dem Unfall vom 10. Oktober 1992 eingetreten sei.
Sie reichte ein vom beteiligten Haftpflichtversicherer in Auftrag gegebenes Gutachten vom 18. Juli 1995 ein, in welchem Prof. Dr. med. U._, Chefarzt der Klinik für Neurologie am Spital X._, eine schmerzhaft eingeschränkte Beweglichkeit des Kopfes sowie eine verminderte Kraft mit Sensibilitätsstörung an der rechten oberen Extremität bei Status nach Distorsion der Halswirbelsäule (HWS) feststellte und eine Arbeitsunfähigkeit von 80 % als Tänzerin und Leiterin einer Tanzschule, von 50 % als Model und Model-Ausbildnerin sowie von 10 % als TV-Moderatorin bestätigte, wobei er darauf hinwies, dass der gegenwärtige Zustand noch nicht als bleibend zu betrachten sei. In einem weiteren Gutachten vom 25. September 1997 gelangte Prof.
Dr. med. U._ zum Schluss, dass als Tänzerin keine nennenswerte Arbeitsfähigkeit mehr bestehe und die Versicherte als Inhaberin einer Model-Agentur zu 30 % bis 50 % arbeitsunfähig sei, je nachdem, in welchem Masse sie sich selber als Model betätige; als kaufmännische Angestellte sei sie zu 25 % arbeitsunfähig: medizinisch sei nunmehr der Endzustand erreicht. Nach Durchführung des Vorbescheidverfahrens lehnte die IV-Stelle des Kantons Zürich das Leistungsbegehren mit der Feststellung ab, dass die Versicherte als kaufmännische Angestellte noch ein praktisch volles Pensum zu absolvieren vermöchte und weder ein Rentenanspruch noch ein Anspruch auf Umschulungsmassnahmen gegeben sei (Verfügung vom 29. September 1998).
B.- Die hiegegen erhobene Beschwerde, mit welcher L._ sinngemäss die Zusprechung einer ganzen Invalidenrente beantragte, wurde vom Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Januar 2000 abgewiesen.
C.- L._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, in Aufhebung des angefochtenen Entscheids sei die IV-Stelle zu verpflichten, ihr eine Invalidenrente auszurichten; eventuell sei zur Frage der Arbeitsfähigkeit ein medizinisches Obergutachten einzuholen.
Die IV-Stelle beantragt Abweisung der Verwaltungsgerichtsbeschwerde.
Das Bundesamt für Sozialversicherung lässt sich nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Im vorinstanzlichen Entscheid werden die für den Rentenanspruch in der Invalidenversicherung geltenden Voraussetzungen und die für die Invaliditätsbemessung bei Erwerbstätigen massgebenden Regeln zutreffend dargelegt, sodass darauf verwiesen werden kann.
2.- Streitig sind die für die Invaliditätsbemessung nach der Methode des Einkommensvergleichs massgebenden hypothetischen Erwerbseinkommen (<ref-law>).
a) Was das Einkommen betrifft, welches die Versicherte ohne den Gesundheitsschaden zu erzielen vermöchte (Valideneinkommen), ist davon auszugehen, dass sie im Zeitpunkt des Unfallereignisses vom 10. Oktober 1992 zu 80 % als Telefonistin gearbeitet und daneben eine Tanzschule betrieben hat. Nach dem Unfall war sie zunächst wieder praktisch voll arbeitsfähig und hat die unselbstständige Tätigkeit sukzessive eingeschränkt, um sich vermehrt dem Auf- und Ausbau der Tanzschule (sowie einer Model-Agentur) widmen zu können. Die Erfolgsrechnungen für die Jahre 1991 bis 1993 zeigen steigende Bruttoerträge bei allerdings stagnierenden Gewinnen, bis es im Jahr 1994 zu einem Umsatzeinbruch und einem Geschäftsverlust kam. Auf Grund der in den Akten enthaltenen medizinischen Unterlagen ist anzunehmen, dass die negative Geschäftsentwicklung und die schliessliche Geschäftsaufgabe gesundheitsbedingt waren und die Beschwerdeführerin ohne den Gesundheitsschaden hauptberuflich als Inhaberin einer Tanzschule (allenfalls verbunden mit einer Model-Agentur) tätig gewesen wäre. Des Weiteren darf davon ausgegangen werden, dass sie nebenberuflich gelegentlich Präsentations- und Moderationsaufträge sowie Theaterengagements angenommen hätte.
Aus der Tanzschule hat die Versicherte einen Gewinn von Fr. 34'036. 60 im Jahre 1991, Fr. 42'068. 95 im Jahre 1992 und Fr. 30'769. 55 im Jahre 1993 erzielt, was einem Durchschnitt von Fr. 35'625. 70 entspricht. Wird die vorübergehende Arbeitsunfähigkeit vom 10. Oktober 1992 bis Ende 1992 in Rechnung gestellt, so rechtfertigt es sich, das Durchschnittseinkommen auf rund Fr. 38'000.- festzusetzen.
Entgegen den Ausführungen in der Verwaltungsgerichtsbeschwerde besteht kein Anlass zu einem Abzug für zusätzliche Fremdkosten, weil diese nicht invaliditätsbedingt waren, sondern in Zusammenhang mit der Betriebserweiterung standen, wie sich aus den Geschäftsrechnungen ergibt. Es fehlen sodann hinreichende Anhaltspunkte dafür, dass sich das Einkommen aus der Tanzschule ohne den Gesundheitsschaden bis zu dem für die Beurteilung massgebenden Zeitpunkt des Verfügungserlasses (29. September 1998) wesentlich erhöht hätte.
Zum einen bestand die Tanzschule schon seit 1987 und befand sich nicht mehr in der eigentlichen Aufbauphase. Zum andern war ungeachtet des Umstandes, dass sich die Beschwerdeführerin ab 1991 vermehrt dem Ausbau der Tanzschule gewidmet hat, bereits vor dem Rückfall im April 1994 ein Gewinnrückgang eingetreten. Dass sich der Betrieb ertragsmässig weiter entwickelt hätte, ist wohl möglich, steht jedoch nicht mit überwiegender Wahrscheinlichkeit fest, weshalb eine entsprechende Entwicklung des Valideneinkommens nicht berücksichtigt werden kann. Dagegen hat eine Anpassung an die allgemeine Einkommensentwicklung zu erfolgen, wobei mangels anderer Angaben auf den Nominallohnindex abzustellen ist. Der Nominallohnindex erhöhte sich 1994 um 1,5 %, 1995 um 1,3 %, 1996 um 1,2 %, 1997 um 0,5 % und 1998 um 0,7 % (Stat. Jahrbuch 2000, S. 121 T 3.16a). Das Valideneinkommen aus der Tanzschule ist damit auf rund Fr. 40'000.- festzusetzen. Dass sich aus der in Aufbau begriffenen Model-Agentur erhebliche zusätzliche Einnahmen ergeben hätten, ist nicht anzunehmen und wird auch nicht geltend gemacht. Soweit die Beschwerdeführerin vor dem im April 1994 erlittenen Unfall entsprechende Einkommen erzielt hat, wurden sie offenbar über die Tanzschule verbucht.
Jedenfalls ergeben sich weder aus den individuellen Konten der AHV/IV noch aus den Steuerveranlagungen Anhaltspunkte für weitere Einkommen.
Mit der Moderations-, Präsentations- und Schauspieltätigkeit hat die Beschwerdeführerin in den Jahren 1994 bis 1996 AHV-Beitragspflichtige Einkommen von Fr. 8150.- (1994), Fr. 9517.- (1995) und Fr. 4800.- (1996) erzielt. Es ist davon auszugehen, dass sie auch bei hauptberuflicher Weiterführung der Tanzschule mindestens in diesem Umfang nebenberuflich tätig gewesen wäre. Ferner ist anzunehmen, dass sie ohne den Rückfall vom April 1994 zusätzlich Engagements als Tänzerin erhalten hätte. Es rechtfertigt sich daher, das Nebenerwerbseinkommen ermessensweise auf Fr. 15'000.- festzusetzen, womit sich ein massgebendes Valideneinkommen von Fr. 55'000.- ergibt.
b) Im Gutachten vom 25. September 1997 attestiert Prof. Dr. med. U._ der Beschwerdeführerin keine nennenswerte Arbeitsfähigkeit als Tänzerin/Tanzlehrerin mehr; dagegen schätzt er die Arbeitsfähigkeit als kaufmännische Angestellte auf 75 %. Die Beschwerdeführerin bestreitet diese Feststellung und macht geltend, sie stehe nicht nur im Widerspruch zu den Angaben der behandelnden Ärzte, wonach die Arbeitsfähigkeit für eine Bürotätigkeit höchstens 50 % betrage, sondern auch zu den eigenen Angaben des Gutachters in der Beurteilung vom 18. Juli 1995. Dies trifft jedoch nicht zu. Zwar hat Prof. U._ im ersten Gutachten noch von einer Arbeitsfähigkeit für eine Bürotätigkeit von 60 % gesprochen, jedoch darauf hingewiesen, dass der Zustand noch besserungsfähig und eine abschliessende Beurteilung in etwa zwei Jahren angezeigt sei. Im zweiten Gutachten vom 25. September 1997 führte er aus, in der Zwischenzeit sei es zu einer gewissen Besserung gekommen und es liege nunmehr ein Endzustand vor, wobei die Arbeitsunfähigkeit der Versicherten als kaufmännische Angestellte auf 25 % zu schätzen sei. Auf eine Anfrage des Rechtsvertreters der Beschwerdeführerin hielt der Gutachter am 1. Dezember 1997 ausdrücklich daran fest, dass eine Besserung eingetreten und die Arbeitsfähigkeit nunmehr auf 75 % festzusetzen sei. Es besteht kein Grund, von dieser einlässlich begründeten und auf wiederholten Untersuchungen beruhenden Beurteilung abzugehen, zumal die Beschwerdeführerin selber eine deutliche Besserung der Beschwerden angegeben hatte (Bericht Dr. med. D._ vom 18. Februar 1997) und Dr. med. R._ die Arbeitsfähigkeit als kaufmännische Angestellte für überwiegende Schreibarbeiten zwar auf 50 %, für abwechslungsreichere Arbeiten aber als höher beurteilt und eine geeignete Tätigkeit mit wechselnder Körperhaltung als zu 60 % bis 80 % zumutbar erachtet hat. Auch wenn Dr. med. H._ in seinem Bericht vom 8. Mai 1998 eine Arbeitsunfähigkeit für eine Bürotätigkeit von 50 % bestätigt, ist auf Grund der vorhandenen medizinischen Unterlagen davon auszugehen, dass die Beschwerdeführerin als kaufmännische Angestellte jedenfalls bei einer nicht ausschliesslich sitzend zu verrichtenden Arbeit (beispielsweise am Empfang oder als Kundenberaterin) zu mindestens 75 % arbeitsfähig wäre. Weiterer Abklärungen, wie sie die Beschwerdeführerin mit dem Eventualbegehren um Anordnung eines medizinischen Obergutachtens zur Frage der Arbeitsfähigkeit beantragt, bedarf es nicht.
c) Die Vorinstanz hat das Invalideneinkommen auf Grund des nach der Schweizerischen Lohnstrukturerhebung (LSE) 1994 für Frauen bei der Verrichtung kaufmännisch-administrativer Tätigkeiten des Anforderungsniveaus 3 (Berufs- und Fachkenntnisse vorausgesetzt) im Jahre 1994 durchschnittlich erzielten monatlichen Bruttolohnes (Zentralwert) von Fr. 4515.- (LSE 1994 S. 71, Tab. TA 3.3.1 Ziff. 23) auf Fr. 42'665.- festgesetzt, indem sie den statistischen Lohn auf die betriebsübliche Arbeitszeit umgerechnet und hievon 75 % in Anschlag gebracht hat. Die Beschwerdeführerin wendet hiegegen ein, angesichts ihrer fehlenden Berufserfahrung sei auf den Tabellenlohn für das Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) abzustellen. Dieser Auffassung kann nicht beigepflichtet werden. Die Beschwerdeführerin verfügt über eine abgeschlossene dreijährige Handelsschulausbildung und hat wiederholt während längerer Zeit kaufmännisch-administrative Tätigkeiten ausgeübt. Auch wenn diese Tätigkeiten mehrere Jahre zurückliegen, verfügt sie über die erforderlichen Berufs- und Fachkenntnisse, um in diesem Bereich mehr als blosse Hilfsarbeiten verrichten zu können. Die Vorinstanz hat dem Tabellenlohnvergleich daher zu Recht den für das Anforderungsniveau 3 geltenden Durchschnittslohn zugrunde gelegt. Nicht gefolgt werden kann der Beschwerdeführerin auch, soweit sie geltend macht, unter den gegebenen Umständen sei auf den Durchschnittslohn im unteren Quartilbereich gemäss Tabelle TA 3.3.1 LSE 1994 abzustellen.
Besonderheiten des Einzelfalls ist mittels eines prozentualen Abzugs vom Tabellenlohn und nicht durch ein Abstellen auf den unteren Quartilbereich des Zentralwertes Rechnung zu tragen (unveröffentlichtes Urteil T. vom 28. April 1999, I 446/98). Zu einem Abzug vom Tabellenlohn vermag im vorliegenden Fall aber lediglich der Umstand zu führen, dass die Beschwerdeführerin wegen der Teilarbeitsfähigkeit mit einem unterdurchschnittlichen Lohn zu rechnen hat (<ref-ruling> Erw. 3b/aa; zur Publikation vorgesehenes Urteil A. vom 9. Mai 2000, I 562/99). Bei einer Arbeitsfähigkeit von 75 % und Anforderungsniveau 3 rechtfertigt sich ein Abzug von höchstens 5 % (vgl. LSE 1994 S. 30 Tab. 13), sodass sich das Invalideneinkommen für 1994 auf Fr. 40'531.- beläuft. Unter Berücksichtigung der Nominallohnentwicklung (1995 1,3 %, 1996 1,2 %, 1997 0,5 % und 1998 0,7 %) ergibt sich für das Jahr 1998 ein massgebendes Invalideneinkommen von Fr. 42'050.-. Im Vergleich zum Valideneinkommen von Fr. 55'000.- resultiert ein Invaliditätsgrad von lediglich 23,5 %, womit die nach <ref-law> für den Rentenanspruch vorausgesetzte Mindestinvalidität nicht erreicht wird.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 5. September 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Die Gerichtsschreiberin: