A.- Der 1950 geborene, als selbständiger Sanitärinstallateur tätige B._ leidet seit Jahren an Rückenbeschwerden, welche sich durch einen 1991 erlittenen Arbeitsunfall und einen Skiunfall im Februar 1992 noch intensivierten. Am 2. Juli 1992/1. März 1993 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Die am 20. August 1993 gewährte Umschulung zum Technischen Kaufmann musste der Versicherte aus gesundheitlichen Gründen per 22. August 1994 vorzeitig beenden. In der Folge sprach ihm die IV-Stelle des Kantons Zürich mit Verfügung vom 21. Juli 1995 gestützt auf einen Invaliditätsgrad von 54 % eine halbe Invalidenrente ab 1. September 1994 zu.
Ein erneuter am 7. Mai 1996 gewährter Umschulungsversuch zum Technischen Kaufmann musste aus gesundheitlichen
Gründen ebenfalls abgebrochen werden, worauf die IV-Stelle am 16. August 1996 die Taggelder und die Leistungen für die
Umschulung per 31. Juli 1996 einstellte. Ab 1. August 1996 richtete sie sodann wiederum gestützt auf einen Invaliditätsgrad von 54 % eine halbe Invalidenrente aus (Verfügung vom 8. November 1996).
B.- Die gegen die Verfügung vom 8. November 1996 erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. September 1999 ab.
C.- Mit Verwaltungsgerichtsbeschwerde lässt B._ unter Beilage eines ergänzenden Berichts von Dr. med. H._, Spezialarzt für Neurologie FMH, (vom 27. Oktober 1999) beantragen, in Aufhebung des vorinstanzlichen Entscheides sei die IV-Stelle zu verpflichten, dem Versicherten die gesetzlichen Leistungen aus der Invalidenversicherung, insbesondere eine ganze einfache Invalidenrente ab 1. August 1996, auszurichten.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, hat sich das Bundesamt für Sozialversicherung nicht vernehmen lassen.
D.- Mit Schreiben vom 28. Januar 2000 reichte der Rechtsvertreter des Versicherte u.a. einen Bericht der X._ Handels- Bürofachschule, (vom 26. Januar 2000), zur Frage der 50 %igen Restarbeitsfähigkeit ein.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nach ständiger Rechtsprechung beurteilt das Sozialversicherungsgericht die Rechtmässigkeit der streitigen Verwaltungsverfügung in der Regel nach dem bis zum Zeitpunkt ihres Erlasses eingetretenen Sachverhalt (<ref-ruling> Erw. 1b). Erstmals im letztinstanzlichen Verfahren eingereichte Beweismittel sind in Streitigkeiten um Versicherungsleistungen zu berücksichtigen, soweit sie zur Feststellung des massgebenden Sachverhalts beitragen (<ref-ruling> Erw. 4a; RKUV 1994 Nr. U 179 S. 35 Erw. 4, 1988 Nr. K 769 S. 244 Erw. 5a).
2.- Das kantonale Gericht hat die Bestimmungen und Grundsätze über den Begriff der Invalidität (<ref-law>), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der allgemeinen Methode des Einkommensvergleichs (<ref-law>), den Taggeldanspruch während der Eingliederung (<ref-law>) sowie den zwischenzeitlichen Unterbruch des Rentenanspruchs (<ref-law>) zutreffend dargelegt. Richtig sind auch die Ausführungen über die Revision der Invalidenrente (<ref-law>; <ref-ruling> mit Hinweisen) und die dabei zu vergleichenden Sachverhalte (<ref-ruling> Erw. 2b und 390 1b, 109 V 265 Erw. 4a), die Bedeutung ärztlicher Auskünfte im Rahmen der Ermittlung des Invaliditätsgrades (<ref-ruling> Erw. 1b, 115 V 134 Erw. 2 mit Hinweisen) sowie den Beweiswert und die richterliche Würdigung von medizinischen Berichten und Gutachten (<ref-ruling> Erw. 1c; vgl. auch <ref-ruling>). Darauf kann verwiesen werden.
3.- Streitig und zu prüfen ist, ob seit Erlass der ursprünglichen Rentenverfügung vom 21. Juli 1995 eine wesentliche anspruchsbeeinflussende Änderung der Arbeitsfähigkeit eingetreten ist.
Unbestritten ist demgegenüber, dass der Beschwerdeführer in seiner angestammten Tätigkeit als Sanitärinstallateur sowohl im Zeitpunkt der ursprünglichen Leistungsverfügung als auch in demjenigen der Revisionsverfügung zu 100 % arbeitsunfähig war.
4.- Die Vorinstanz hat eine Verschlechterung des Gesundheitszustandes gegenüber der in Rechtskraft erwachsenen Verfügung vom 21. Juli 1995 in Würdigung der medizinischen Aktenlage verneint. Dabei ist sie davon ausgegangen, dass Dr. med. L._ im Gutachten der Neurologischen Poliklinik Y._, vom 10. September 1995, im wesentlichen auf Grund der gleichen Diagnosen wie in der ursprünglichen Leistungsverfügung die Arbeitsunfähigkeit des Beschwerdeführers als technischer Kaufmann mit geringer körperlicher Belastung und abwechslungsreicher Haltung bzw. bei Vermeiden von monotoner Haltung/Tätigkeit auf 25 % festgesetzt hat und unter Vorbehalt von physikalischen Behandlungen gar eine Steigerung auf 100 % an einem angepassten Arbeitsplatz für möglich hielt. Überdies hat sie erwogen, dass weder der Abbruch der Umschulung zum Technischen Kaufmann, noch die Zeugnisse des Hausarztes Dr. med. S._, Spezialarzt Innere Medizin FMH, der den Versicherten vom 22. Juli 1996 bis auf weiteres zu 100 % arbeitsunfähig schrieb, noch der Bericht des Neurologen Dr. med. H._ an die IV-Stelle vom 25. März 1997 eine Verschlechterung des Gesundheitszustandes zu belegen vermögen. So habe Dr. med. H._ in Kenntnis aller medizinischen Vorakten den Versicherten zwar in seiner angestammten Tätigkeit als Sanitärinstallateur als zu 100 % arbeitsunfähig bezeichnet, entgegen den Ausführungen des Versicherten aber nicht gesagt, der Patient weise keine verwertbare Restarbeitsfähigkeit von 50 % auf und damit auch keine Verschlechterung des Gesundheitszustandes dargetan. Zudem müsse der Abbruch der Umschulung zum Technischen Kaufmann nicht zwingend einer gesundheitlichen Verschlechterung über die 50 %-Einschränkung hinaus zugeschrieben werden.
5.- Mit Verwaltungsgerichtsbeschwerde hat der Rechtsvertreter des Beschwerdeführers ein Erläuterungsschreiben von Dr. med. H._ vom 27. Oktober 1999 zu dessen Bericht vom 25. März 1997 eingereicht. Darin bestätigt der Arzt, dass es für ihn damals aus medizinischen Gründen klar war, dass der Versicherte auch nicht für andere, leichte wechselbelastende Tätigkeiten 50 % restarbeitsfähig gewesen sei. Damit erweist sich die vorinstanzliche Interpretation des Berichts von Dr. med. H._, wie der Beschwerdeführer zu Recht vorbringt, als nicht stichhaltig. Entgegen der Vorinstanz geht Dr. med. H._ von einer Verminderung der Arbeitsfähigkeit aus. Es handelt sich nicht bloss um eine unterschiedliche Beurteilung der Arbeitsfähigkeit aufgrund des gleichen Sachverhalts, sondern es ist darin eine Verschlechterung des Gesundheitszustandes zu sehen, zumal Dr. med. H._ im Bericht vom 25. März 1997 erstmals von zervicalen Funktionsstörungen spricht, vor allem am cervico-cranialen Übergang und im Bereich der mittleren HWS, welche zusätzlich Minderbelastbarkeit in diesem Bereich verursachen. In diesem Zusammenhang ist auch der vor Vorinstanz aufgelegte Arztbericht von Dr. med. H._ vom 17. März 1999 nicht ganz ausser Acht zu lassen, so steht nicht fest, ob der darin auf Grund der am 11. März 1999 durchgeführten MRI-Untersuchung erstmals erhobene Befund betreffend Diskushernie C5/6 und Spinalkanaleinengung C4/5 bereits vor Verfügungserlass bestanden hat.
Mithin lässt sich aufgrund der bestehenden Aktenlage nicht zuverlässig beurteilen, ob und inwieweit Änderungen der gesundheitlichen Situation eingetreten sind, die sich erwerblich auswirken. Der Sachverhalt erweist sich in medizinischer Hinsicht als ungenügend abgeklärt. Daher ist die Sache zur Durchführung eines interdisziplinären Gutachtens an die Verwaltung zurückzuweisen. Diese wird nach entsprechenden Abklärungen über den Rentenanspruch des Beschwerdeführers revisionsweise neu zu verfügen haben.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 21. September 1999 und die Verfügung vom 8. November 1996 aufgehoben werden und die Sache an die IV-Stelle des Kantons Zürich zurückgewiesen wird, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch neu verfüge.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle des Kantons Zürich hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2'500. - (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Das Sozialversicherungsgericht des Kantons Zürich wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses zu befinden haben.
V.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 20. März 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Die Gerichtsschreiberin: