Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die Vorinstanz hat die gesetzlichen Bestimmungen über den Begriff der Invalidität (<ref-law>), den Anspruch auf Eingliederungsmassnahmen im Allgemeinen (<ref-law>) und auf Umschulung im Besonderen (<ref-law>; vgl. AHI 2000 S. 27 Erw. 2b und S. 62, Erw. 1; <ref-ruling> Erw. 2b mit Hinweisen), die Voraussetzungen und den Umfang des Anspruchs auf eine Invalidenrente (Art. 28 Abs. 1 und 1bis IVG) sowie die Ermittlung des Invaliditätsgrades von erwerbstätigen Versicherten auf Grund der allgemeinen Methode des Einkommensvergleichs (<ref-law>; vgl. <ref-ruling> Erw. 2a und b) zutreffend dargelegt. Darauf wird verwiesen.
2.- Streitig und zu prüfen ist, ob die Voraussetzungen des Anspruchs auf Umschulung oder eine Rente erfüllt sind.
a) Die Vorinstanz stellte für die Beurteilung der Arbeitsfähigkeit im Wesentlichen auf die Berichte der Ärzte der Rheumaklinik des Spitals X._ vom 17. Oktober 1995 sowie ein Gutachten des Dr. V._ vom 18. Juni 1996 ab: Erstere diagnostizierten ein chronifiziertes lumbales Schmerzsyndrom bei Wirbelsäulen-Fehlform (Flachrücken), muskulärer Insuffizienz, kleiner mediolateraler Diskushernie L4/5 links und psychosozialer Problematik. Der Versicherte sei für leichte bis mittelschwere Tätigkeiten inklusive Tragen von Lasten bis ca. 20 kg, auch auf dem Bau, zu 100 % arbeitsfähig. Aus rheumatologischer Sicht seien berufliche Massnahmen im Sinne einer Umschulung nicht nötig, hingegen empfehle sich aus psychosozialen Gründen, dass der Versicherte längerfristig in der gelernten Tätigkeit als Elektrotechniker arbeiten könnte. Im psychiatrischen Gutachten des Dr. V._, Spezialarzt FMH für Psychiatrie und Psychotherapie, werden als Befunde eine psychogene Anpassungsstörung als Fehlverarbeitung des bekannten lumbalen Schmerzsyndroms in Form einer anhaltenden somatoformen Schmerzstörung, eine Aggravation sowie eine einfach strukturierte, ängstlich-zwanghafte Persönlichkeit mit leichter Intelligenzminderung erhoben. Es handle sich um eine psychogene Störung von Krankheitswert. Umfang und Bedeutung der Störung für die Arbeitsfähigkeit würden durch die massiven Aggravationstendenzen hingegen gemindert. Aus psychiatrischer Sicht bestehe im bisher angestammten Beruf wegen der ausgewiesenen und kaum veränderbaren Fixierung eine Arbeitsfähigkeit von mindestens 50 %. In einer angepassten Tätigkeit wäre unter Umständen die volle Arbeitsfähigkeit gegeben. Auf Grund des Bestehens einer primären Schwachintelligenz käme der Versicherte für jegliche Bemühungen in Richtung einer differenzierten Umschulung nicht in Frage. Es sei davon auszugehen, dass mehr als Handlangertätigkeiten kaum in Betracht fielen.
b) Die Vorinstanz hat einen Anspruch auf Umschulung in einlässlicher Würdigung der Akten verneint mit der Begründung, der Beschwerdeführer sei in der Schweiz ausschliesslich als angelernte Hilfskraft in der Baubranche tätig gewesen und es könne nicht auf seinen Gesundheitsschaden zurückgeführt werden, wenn ihm ohne zusätzliche Ausbildung nur Stellen als Hilfsarbeiter offen stünden. Soweit er eine Umschulung zum Ingenieur anstrebe, bestehe zu den bisherigen Tätigkeiten keine annähernde Gleichwertigkeit. Er weise zudem keine derart schwere Behinderung auf, dass nur eine vergleichsweise anspruchsvollere Ausbildung zu einer optimalen Verwertung der Arbeitsleistung führe, zumal die subjektiven Voraussetzungen für eine anspruchsvolle Ausbildung gemäss den Feststellungen des Psychiaters offensichtlich fehlten.
Gestützt auf die ärztlichen Berichte, an deren Richtigkeit nicht zu zweifeln ist, ist nicht ersichtlich, inwieweit berufliche Umschulungsmassnahmen hier eingliederungswirksam wären, mithin zu einer wesentlichen Verbesserung der Verdienstmöglichkeiten beizutragen oder vor Verlust der noch vorhandenen beträchtlichen Erwerbsfähigkeit zu schützen vermöchten. Nach den zutreffenden Erwägungen der Vorinstanz stehen dem Beschwerdeführer trotz seiner Beschränkung auf körperlich leichte bis mittlere Tätigkeiten ausreichend Hilfsarbeitertätigkeiten offen, die keiner vorgängigen beruflichen Ausbildung bedürfen.
c) An diesem Ergebnis vermögen auch die Einschätzungen in den vom Beschwerdeführer ins Recht gelegten Berichten der Dres. med. D._ vom 20. August 1996 und A._ vom 12. Dezember 1996 nichts zu ändern. Erster empfiehlt eine Umschulung, "um eine volle Arbeitsfähigkeit zu erlangen. " Daraus ergibt sich, dass auch dieser Arzt von einer aus medizinischer Sicht grundsätzlich vollen Arbeitsfähigkeit des Beschwerdeführers in einer angepassten Tätigkeit ausgeht. Dr. A._ setzt sich nicht nicht substanziell mit der Frage der Arbeitsfähigkeit auseinander.
3.- Zu prüfen bleibt der Rentenanspruch.
a) Bei der bekannten Aktenlage durfte die Vorinstanz ohne weiteres davon ausgehen, dass dem Beschwerdeführer aus medizinischer Sicht eine ganztägige angepasste Arbeit zuzumuten ist. Dass er eine solche bisher nicht gefunden hat, ist für die hier zu entscheidende Frage ohne Belang, denn gemäss <ref-law> ist lediglich die hypothetische Verwertbarkeit der Restarbeitsfähigkeit in einem ausgeglichenen Arbeitsmarktzuprüfen. Die versicherte Person, die von ihrer restlichen Erwerbsfähigkeit keinen Gebrauch macht, obwohl sie hierzu nach ihren persönlichen Verhältnissen und gegebenenfalls nach einer gewissen Anpassungszeit in der Lage wäre, ist nach der Tätigkeit zu beurteilen, die sie bei gutem Willen ausüben könnte. Fehlt es an der erforderlichen Willensanstrengung, so liegt nur dann eine relevante Erwerbsunfähigkeit vor, wenn dem Willensmangel oder der Willensschwäche Krankheitswert zukommt (vgl. dazu <ref-ruling> f. Erw. 2).
b) An seiner bisherigen Arbeitsstelle erzielte der Beschwerdeführer im Jahre 1994 ohne Invalidität Fr. 19.70 pro Stunde, zuzüglich je 8,3 % Ferienentschädigung und Anteil 13. Monatslohn, was einen Stundenlohn von Fr. 22.90 ergibt.
c) Für die Bemessung des trotz Gesundheitsschadens noch realisierbaren Einkommens können nach der Rechtsprechung Tabellenlöhne beigezogen werden; dies gilt insbesondere dann, wenn der Versicherte nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihm an sich noch zumutbare neue Erwerbstätigkeit aufgenommen hat. Dabei ist seit 1994 von den Tabellenlöhnen auszugehen, die in der Schweizerischen Lohnstrukturerhebung (LSE) des Bundesamtes für Statistik ausgewiesen sind. Diese basieren auf 41/3 Arbeitswochen mit einer wöchentlichen Arbeitszeit von 40 Stunden. Laut Tabelle A 1.1.1. der LSE 1994 (S. 53) belief sich der Zentralwert für die mit einfachen und repetitiven Aufgaben(Anforderungsniveau4)beschäftigtenMännerimgesamtenprivatenSektoraufFr. 4127. -,im -relativtiefentlöhnten-Teilsektor"Handel, Gast-undReparaturgewerbe"aufFr. 3575. -. Dies entspricht einem Stundenlohn (einschliesslich Ferienentschädigung und Gratifikation) von Fr. 23.82 bzw. Fr. 20.86. Im Vergleich zum Valideneinkommen von Fr. 22.90 tritt damit nur im schlechteren Fall eine Einkommenseinbusse von weniger als 10 % ein.
Ginge man zugunsten des Beschwerdeführers davon aus, dass er wegen seines Gesundheitsschadens keine Schwerarbeit mehr ausüben kann, nicht uneingeschränkt einsatzfähig und deshalb lohnmässig benachteiligt wäre, so liesse sich dies allenfalls mit einem Abzug vom Tabellenlohn von höchstens 10 % veranschlagen. Selbst in einem solchen Fall ergäbe sich keine rentenbegründende Invalidität von mindestens 40 %. Der vorinstanzliche Entscheid ist daher auch im Rentenpunkt nicht zu beanstanden.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 11. Juni 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: