A.- W._, geboren 1957, war 1995 als Aussendienstmitarbeiter bei der X._ AG tätig. Seine frühere berufliche Tätigkeit umfasste nach dem Abbruch einer kaufmännischen Lehre nach 2 1⁄2 Jahren sowie einer Malerlehre nach einem halben Jahr und verschiedenen Tätigkeiten in Verkauf, Service und Büro unter anderem die Gründung einer eigenen Firma mit den Geschäftszweigen Maler- und Gipserarbeiten, Gerüstvermietung, Liegenschafts- und Auftragsvermittlung sowie die Anstellung als Geschäftsführer bei den Firmen Z._ und R._ AG. Ab Oktober 1995 bezog W._ Arbeitslosenentschädigung und war hierauf wiederum selbstständigerwerbend tätig.
Am 20. September 1996 meldete er sich unter Hinweis auf seit Jahren bestehende Rückenbeschwerden bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich zog diverse medizinische Unterlagen bei, so einen Bericht der Hausärztin Frau Dr. med. S._, Fachärztin FMH für Innere Medizin (Bericht vom 20. Juni 1997) wie auch Angaben von früheren behandelnden Ärzten (Berichte des Dr. med. C._, Facharzt FMH für Innere Medizin, vom 4. Oktober 1996, der Frau Dr. med. B._, vom 17. November 1988; des Dr. med. E._, Facharzt FMH Allgemeine Medizin, vom 27. Oktober 1996), und veranlasste eine Begutachtung durch Dr. med. M._, Spezialarzt FMH für Physikalische Medizin und Rehabilitation, speziell Rheumaerkrankungen (Gutachten vom 28. Juli 1997).
Im Weiteren prüfte sie die erwerblichen Verhältnisse, indem sie Angaben des Arbeitgebers (Schreiben der X._ AG vom 18. April 1997 mitsamt Beilagen) sowie einen Bericht der internen Berufsberatungsstelle vom 9. Juni 1997 beizog.
Gestützt auf diese Abklärungen ermittelte sie einen Invaliditätsgrad von 20 % und lehnte mit Verfügung vom 17. Oktober 1997 den Anspruch auf eine Rente der Invalidenversicherung ab.
B.- Die hiegegen erhobene Beschwerde, mit welcher W._ einen Arztbericht des Dr. med. L._, Spezialarzt FMH für Innere Medizin und Rheumatologie, vom 24. März 1998 ins Recht legen liess, wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Mai 2000 ab.
C.- Mit Verwaltungsgerichtsbeschwerde beantragt W._, die Sache sei zur weiteren Abklärung an die IV-Stelle zurückzuweisen. Dazu legt er einen undatierten Teil eines Gutachtens der Klinik Y._ ins Recht.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während sich das Bundesamt für Sozialversicherung nicht vernehmen lässt.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Das kantonale Gericht hat die gesetzlichen Bestimmungen und Grundsätze über den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und Abs. 1bis IVG) sowie die Ermittlung des Invaliditätsgrads nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG; <ref-ruling> Erw. 2a und b), insbesondere unter Zuhilfenahme von Tabellenlöhnen (<ref-ruling> Erw. 3b/aa; AHI 1998 S. 177 Erw. 3a, S. 292 Erw. 3b; vgl. auch <ref-ruling> mit Hinweisen), zutreffend dargelegt. Richtig sind auch die Erwägungen zum Beweiswert und zur richterlichen Würdigung von medizinischen Berichten und Gutachten (vgl. <ref-ruling> Erw. 3). Darauf wird verwiesen.
b) In der Invalidenversicherung kann die Feststellung des rechtserheblichen medizinischen Sachverhalts auf verschiedenen Wegen erfolgen, zum Beispiel durch die von der IV-Stelle eingeholten Berichte der behandelnden Ärzte, durch Gutachten aussenstehender Fachleute, durch Untersuchung der versicherten Person in den zu diesem Zweck eingerichteten medizinischen Abklärungsstellen (Art. 59 Abs. 2 IVG; Art. 69 Abs. 2 und Art. 72bis IVV), durch Parteigutachten oder vom Gericht angeordnete medizinische Gutachten.
Es liegt im pflichtgemässen Ermessen der rechtsanwendenden Behörde, darüber zu befinden, mit welchen Mitteln der Sachverhalt abzuklären ist und ob im Einzelfall ein Arztbericht genügt, ergänzende Untersuchungen anzuordnen sind oder ein Gutachten einzuholen ist (<ref-ruling> oben mit Hinweis).
2.- a) In medizinischer Hinsicht steht auf Grund der diesbezüglich übereinstimmenden Arztberichte fest, dass der Beschwerdeführer an chronisch-rezidivierenden Schmerzen bei einer Hyperkyphose der Brustwirbelsäule, einer Hyperlordose der Lendenwirbelsäule mit leichter S-förmiger Skoliose bei ausgeprägter Haltungsinsuffizienz im Sinne einer muskulären Dysbalance sowie Neigung zu Untergewicht leidet und einen Status nach Morbus Scheuermann aufweist. Umstritten ist, inwieweit sich diese Beschwerden auf die Arbeitsfähigkeit auswirken. Die Vorinstanz geht von einer Arbeitsfähigkeit von mindestens 70 % in einer geeigneten Tätigkeit, als Verkaufsmitarbeiter, aus, während der Versicherte der Auffassung ist, der Sachverhalt sei diesbezüglich nicht genügend abgeklärt.
aa) Die Hausärztin Frau Dr. med. S._, Spezialärztin FMH für Innere Medizin, verneint in ihrem Bericht vom 20. Juni 1997 die Frage, ob infolge der Behinderung eine berufliche Umstellung nötig sei. Eine Tätigkeit, bei welcher der Versicherte öfters Pausen einschalten könne, um die Position zu ändern, sei ideal, also z.B. die von ihm vorgeschlagene Arbeit als selbstständiger Treuhänder und Unternehmensberater. Nach ihrer Auffassung betrage die zumutbare Arbeitsfähigkeit 60-70 %, wobei der Versicherte 40 % vorschlage. Bei einer selbstständigen Tätigkeit könne er die Zeit selber einteilen und so Pausen einschalten.
Eine allfällige genauere Einschätzung wäre allenfalls durch eine Abklärungsstelle vorzunehmen, da auch eine gewisse Chronifizierung und Fixierung möglich sei.
bb) Dr. med. M._, Spezialarzt FMH für Physikalische Medizin und Rehabilitation, speziell Rheumaerkrankungen, führt in seinem Gutachten vom 28. Juli 1997 aus, eine Umschulung sei im heutigen Zeitpunkt nicht nötig, da der Versicherte seit dem 1. Januar 1997 als selbstständiger Kaufmann tätig sei. Damit könne er sich sein Arbeitspensum einigermassen selbst einteilen und er habe für seinen Rücken eine Wechselbelastung, was sehr sinnvoll sei. Der Versicherte gebe an, dass er zur Zeit 50 % arbeite. Aus medizinisch objektiver Sicht sei ihm in diesem Beruf, den er zur Zeit ausübe, jedoch eine Arbeitsfähigkeit von 80-90 % zumutbar. Als Geschäftsführer oder Kundenberater betrage die Arbeitsfähigkeit 80 %. Wenn er jedoch eine Verkaufstätigkeit im Aussendienst absolvieren müsste, bei der er Maler-, Farben-, Lack- und Werkzeugkisten herumtragen müsste, würde eine Arbeitsfähigkeit von etwa 70 % bestehen.
cc) Im Gutachten vom 24. März 1998 führt Dr. med.
L._, Spezialarzt FMH für Innere Medizin und Rheumatologie, aus, ohne die Differenzierung zwischen objektivem und subjektivem Gesundheitszustand sei die Frage der (zumutbaren) Tätigkeit nicht zu beantworten. Der Versicherte gebe an, im Jahresdurchschnitt 60-70 % aller Tage unter einer Schmerzattacke zu leiden, d.h. im Mittel an 230 Tagen jährlich. Betreffend die Glaubwürdigkeit dieser Angaben sei festzuhalten, dass ein Schmerz weder einwandfrei zu objektivieren noch zu beweisen sei. Der Arzt sei auf die Angaben des Schmerzpatienten angewiesen. Ohne schwerwiegende beweisbare Gegenargumente sei die Glaubwürdigkeit der Schmerzäusserungen nicht in Frage zu ziehen, was auf alle Qualitäten wie auch auf die Zeitdauer des Phänomens Schmerz zu beziehen sei. Die Schmerzattacken, die sowohl die berufliche Tätigkeit wie die Befindlichkeit in hohem Masse beeinträchtigten, seien somatisch kaum zu erklären. So wie die Schmerzanfälle geschildert würden, müsse die Arbeitsfähigkeit weitgehend eingeschränkt, wenn nicht verunmöglicht sein. Sie käme nur in den schmerzfreien Intervallen in Frage, besonders deshalb, weil durch die Schmerzattacken auch das Autofahren beeinträchtigt sei. Wenn der Versicherte keinen Schmerzanfall habe, sei seine Arbeitsfähigkeit als Kundenberater im Baugewerbe respektive Unternehmensberater nicht eingeschränkt. Im Rahmen einer gesamthaften Schätzung der Arbeitsfähigkeit stufe er auf Grund seines subjektiven Gesundheitszustandes den Versicherten während der Schmerzattacken als nicht arbeitsfähig ein. Auf Grund des objektiven Gesundheitszustandes sei er dagegen der Ansicht, der Versicherte sei in den erwähnten Tätigkeiten voll arbeitsfähig.
Wenn aber die Schmerzattacken im Jahresmittel an ca.
230 Tagen auftreten, so ergäbe dies gesamthaft betrachtet eine weitgehende Arbeitsunfähigkeit. Diese in Prozenten auszudrücken, falle schwer, da sie von den in den schmerzfreien Intervallen noch täglich möglichen Tätigkeiten abhängig zu machen sei. Zu letzteren bestünden jedoch keine Angaben.
b) Das Administrativgutachten des Dr. med. M._ ist in sich schlüssig. Insbesondere ist die darin enthaltene Stellungnahme, wonach der Beschwerdeführer als Geschäftsführer oder Kundenberater zu 80 %, bei einer Verkaufstätigkeit im Aussendienst zu etwa 70 % arbeitsfähig sei, zwar kurz, in Anbetracht der festgestellten Befunde aber einleuchtend begründet. Die Angaben des Dr. med.
M._ stehen überdies mit dem Bericht der Frau Dr.
med. S._ in Einklang.
Es fragt sich, ob das Gutachten des Dr. med.
L._ die Administrativexpertise des Dr. med.
M._ widerlegt oder in Zweifel zu ziehen vermag. Den Darlegungen des Dr. med. L._ ist in dem Sinne bis zu einem gewissen Grade beizupflichten, als der Arzt auf die Problematik der Unterscheidung von objektiven Befunden und subjektiven Schmerzangaben hinweist und abschliessend bemerkt, die Feststellung von Schmerzen entziehe sich weitgehend einer wissenschaftlichen Beweisführung. Gerade in Anbetracht der sich aus der Natur der Sache ergebenden Beweisschwierigkeiten können indessen Schmerzangaben der versicherten Person allein nicht genügen; vielmehr muss im Rahmen der sozialversicherungsrechtlichen Leistungsprüfung verlangt werden, dass Schmerzangaben durch damit korrelierende, schlüssig feststellbare Befunde hinreichend erklärbar sind, andernfalls sich eine rechtsgleiche Beurteilung der Rentenansprüche nicht gewährleisten liesse. Vorbehalten bleibt der Tatbestand, dass somatisch nicht begründbare Schmerzsyndrome mit psychischen Befunden vergesellschaftet sind, die für sich oder im Verein mit den - subjektiv erlebten - Schmerzen die Arbeitsfähigkeit dauernd und erheblich beeinträchtigen, eine Erwerbsunfähigkeit bewirken und zur Invalidität führen. Weder das eine - zuverlässiger medizinischer Feststellung und Überprüfung zugängliche Schmerzangaben - noch das andere - psychische Befunde von Krankheitswert (oder auch nur abklärungsbedürftige Anhaltspunkte dafür) - sind im Falle des Beschwerdeführers ausgewiesen, durch das Gutachten des Dr. med. L._ ebenso wenig wie durch den erwähnten letztinstanzlich aufgelegten Gutachtensauszug. Sämtliche Vorbringen in der Verwaltungsgerichtsbeschwerde vermögen daran nichts zu ändern.
3.- Zu prüfen bleibt, wie sich diese Arbeitsunfähigkeit erwerblich auswirkt. Während die IV-Stelle in ihrer Verfügung noch davon ausging, der Beschwerdeführer sei in seiner angestammten Tätigkeit im Verkauf-Aussendienst oder als Kundenberater zu 80 % arbeitsfähig und erleide deshalb eine maximale Erwerbseinbusse von 20 %, was gleichzeitig dem Invaliditätsgrad entspreche, ermittelte die Vorinstanz auf Grund eines Einkommensvergleichs einen Invaliditätsgrad von 33,4 %.
a) Die Vorinstanz ging mit Blick auf den Eintrag im Individuellen Konto (IK) und dem von der Arbeitslosenkasse berücksichtigten versicherten Verdienst von einem Valideneinkommen von rund Fr. 70'000.- aus.
Für die Ermittlung des Einkommens, welches die versicherte Person ohne Invalidität erzielen könnte (Valideneinkommen), ist entscheidend, was sie im massgebenden Zeitpunkt nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunde tatsächlich verdienen würde (RKUV 1993 Nr.
U 168 S. 100 Erw. 3b mit Hinweis). Die Einkommensermittlung hat so konkret wie möglich zu erfolgen. Es ist daher in der Regel vom letzten Lohn vor Eintritt der Gesundheitsschädigung auszugehen (ZAK 1980 S. 593 mit Hinweisen). Vom letzten Arbeitgeber, der X._ AG, liegt kein Arbeitgeberbericht vor, indes wurde eine Lohnabrechnung von April 1997 eingereicht, die einen Bruttolohn von Fr. 5500.- ausweist.
Aus den in den Akten liegenden Arbeitgeberbescheinigungen für die Arbeitslosenversicherung ist ersichtlich, dass der Versicherte bei der X._ AG für die Monate Februar bis Juli 1995, tätig "als Aussendienst Fachberater/Handelsreisender", ein Einkommen von Fr. 5500.- erzielte; im August bis September 1995 war er auf Provisionsbasis angestellt und verdiente Fr. 382.- bzw. Fr. 4292.-. Zudem erhielt er anteilsmässig einen Monatslohn von Fr. 2750.-.
Dies entspricht rund dem im Individuellen Konto (IK) verbuchten Verdienst von Fr. 40'426.- während seiner siebenmonatigen Anstellungsdauer bei der X._ AG. Gestützt auf das monatliche Einkommen von Fr. 5500.- ergibt sich unter Berücksichtigung eines 13. Monatslohnes sowie der Nominallohnentwicklung bis 1997 (1996: 1,3 %, 1997: 0,5 %; Die Volkswirtschaft 2001, Heft 4, S. 81 Tabelle B 10.2) ein Valideneinkommen von höchstens Fr. 72'792.-.
b) Zur Bestimmung des Invalideneinkommens hat die Vorinstanz zu Recht auf die praxisgemäss anzuwendenden (<ref-ruling> Erw. 3b/bb) Tabellenlöhne der vom Bundesamt für Statistik herausgegebenen Schweizerischen Lohnstrukturerhebung (LSE) abgestellt. Dem Beschwerdeführer ist aus ärztlicher Sicht eine Tätigkeit als Aussendienstmitarbeiter/ Kundenberater möglich, weshalb das kantonale Gericht richtigerweise ein Invalideneinkommen in der Branche Handelsvermittlung und Grosshandel angenommen hat und zudem zu Recht infolge der langjährigen Erfahrung und der Fachkenntnisse des Versicherten in diesem Bereich vom Anforderungsniveau 3 (Berufs- und Fachkenntnisse vorausgesetzt, vgl. LSE 1996, TA1; Fr. 5300.- für Männer) ausgegangen ist. Unter Berücksichtigung der betriebsüblichen Arbeitszeit von 41,9 Stunden und der Nominallohnentwicklung (1997: 0,5 %; Die Volkswirtschaft 2001, a.a.O.) ergibt sich ein Jahreseinkommen von Fr. 66'954.-, was bei einem Arbeitspensum von 70 % einem Valideneinkommen von Fr. 46'868.- entspricht.
Dabei ist kein leidensbedingter Abzug vorzunehmen, wie die Vorinstanz zutreffend dargelegt hat, da der Versicherte im Anforderungsprofil auf Grund seiner Erfahrung sogar an der Grenze zu Anforderungsniveau 2 (Verrichtung selbstständiger und qualifizierter Arbeiten) anzusiedeln wäre.
Damit ergibt sich aus dem Einkommensvergleich ein Invaliditätsgrad von 35,6 %, womit der angefochtenen Entscheid im Ergebnis Stand hält.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 9. Oktober 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: