A.- Der 1956 geborene F._, gelernter Maler und seit 1. November 1991 als Selbstständigerwerbender tätig, meldete sich am 2. November 1999 unter Hinweis auf eine Diskushernie bei der Invalidenversicherung zum Bezug einer Rente an. Die IV-Stelle Schwyz (nachfolgend: IV-Stelle) klärte unter Beizug eines Berichtes der Frau Dr. med.
S._, Ärztin für Allgemeine Medizin FMH, vom 2. Februar 2000, dem ein Bericht der X._ Klinik, Dr. med.
R._, vom 20. September 1999 und ein Bericht des Dr.
med. P._, Spezialarzt FMH für Radiodiagnostik, vom 9. März 1999 beigelegt waren, sowie eines Fragebogens für Selbstständigerwerbende vom 17. November 1999 und der Buchhaltungsabschlüsse 1995 bis 1999 die medizinischen und erwerblichen Verhältnisse ab. Gestützt darauf lehnte sie nach Durchführung des Vorbescheidverfahrens mit Verfügung vom 17. Oktober 2000 einen Anspruch auf Rente und auf berufliche Massnahmen ab.
B.- Die hiegegen erhobene Beschwerde, mit welcher F._ Umschulung und eventualiter Rente beanspruchte und subeventualiter die Rückweisung der Sache zur weiteren Abklärung verlangte, wies das Verwaltungsgericht des Kantons Schwyz nach Beizug der Steuerakten mit Entscheid vom 7. März 2001 ab.
C.- Mit Verwaltungsgerichtsbeschwerde lässt F._ beantragen, in Aufhebung des angefochtenen Entscheides und der Verfügung der IV-Stelle seien ihm berufliche Massnahmen zuzusprechen.
Die IV-Stelle und das Verwaltungsgericht des Kantons Schwyz schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Das kantonale Gericht hat die Bestimmungen und Grundsätze über den Invaliditätsbegriff (Art. 4 IVG), über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG), die Invaliditätsbemessung bei Erwerbstätigen nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG; BGE 104 V 136 Erw. 2a und b) sowie die Rechtsprechung zur Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (BGE 115 V 134 Erw. 2 mit Hinweisen) zutreffend dargelegt. Darauf wird verwiesen.
b) Zu ergänzen ist, dass gemäss Art. 8 Abs. 1 IVG invalide oder von einer Invalidität unmittelbar bedrohte Versicherte Anspruch auf Eingliederungsmassnahmen haben, soweit diese notwendig und geeignet sind, die Erwerbsfähigkeit wiederherzustellen, zu verbessern, zu erhalten oder ihre Verwertung zu fördern. Dabei ist die gesamte noch zu erwartende Arbeitsdauer zu berücksichtigen.
Gemäss Art. 17 Abs. 1 IVG hat der Versicherte Anspruch auf Umschulung auf eine neue Erwerbstätigkeit, wenn die Umschulung infolge Invalidität notwendig ist und dadurch die Erwerbsfähigkeit voraussichtlich erhalten oder wesentlich verbessert werden kann. Nach der Rechtsprechung ist unter Umschulung grundsätzlich die Summe der Eingliederungsmassnahmen berufsbildender Art zu verstehen, die notwendig und geeignet sind, dem vor Eintritt der Invalidität bereits erwerbstätig gewesenen Versicherten eine seiner früheren annähernd gleichwertige Erwerbsmöglichkeit zu vermitteln (BGE 124 V 110 Erw. 2a mit Hinweisen).
c) Im Weiteren ist beizufügen, dass in der Invalidenversicherung der Grundsatz der Schadenminderungspflicht gilt. Danach hat die invalide Person, bevor sie Leistungen verlangt, alles ihr Zumutbare selbst vorzukehren, um die Folgen ihrer Invalidität bestmöglich zu mildern; deshalb besteht kein Rentenanspruch, wenn der Versicherte selbst ohne Eingliederungsmassnahmen zumutbarerweise in der Lage wäre, ein rentenausschliessendes Erwerbseinkommen zu erzielen (BGE 113 V 28 Erw. 4a mit Hinweisen).
Kann der Versicherte seine erwerbliche Beeinträchtigung in zumutbarer Weise selber beheben, so besteht keine Invalidität, womit es an der unabdingbaren Anspruchsvoraussetzung für jegliche Leistungen der Invalidenversicherung fehlt. Die zumutbare Selbsteingliederung ist Ausdruck der allgemeinen Schadenminderungspflicht und greift je nach den Umständen in die verschiedensten Lebensbereiche ein, wobei jedoch vom Versicherten nur Vorkehren verlangt werden können, die unter Berücksichtigung der gesamten objektiven und subjektiven Gegebenheiten des Einzelfalles zumutbar sind (vgl. Art. 31 Abs. 2 IVG; BGE 113 V 28 Erw. 4a; Meyer-Blaser, Zum Verhältnismässigkeitsprinzip im staatlichen Leistungsrecht, Bern 1985, S. 134 f. und 138 f. mit Hinweisen).
2.- Letztinstanzlich noch streitig und zu prüfen ist der Anspruch auf Umschulung. Dabei steht nicht mehr in Frage, dass der Versicherte in seiner angestammten Tätigkeit als Maler nur noch zu 50 %, in einer leichten, wechselbelastenden Tätigkeit ohne Heben von schweren Lasten aber zu 100 % arbeitsfähig ist. Streitig ist indes, welche Erwerbseinbusse er bei Ausübung einer solchen behinderungsangepassten Tätigkeit erleidet.
a) Bei der Ermittlung des ohne invalidisierenden Gesundheitsschaden erzielbaren Einkommens (Valideneinkommen) ist entscheidend, was die versicherte Person im Zeitpunkt des Rentenbeginns auf Grund ihrer beruflichen Fähigkeiten und persönlichen Umstände mit überwiegender Wahrscheinlichkeit ohne den Gesundheitsschaden, aber bei sonst unveränderten Verhältnissen verdienen würde (RKUV 1993 Nr. U 168 S. 100 Erw. 3b mit Hinweis). Die Einkommensermittlung hat so konkret wie möglich zu erfolgen. Es ist daher in der Regel vom letzten Lohn vor Eintritt der Gesundheitsschädigung auszugehen (ZAK 1980 S. 593 mit Hinweisen).
Die Vorinstanz hat gestützt auf den Durchschnitt der vom Versicherten in seinem Malerbetrieb vor Eintritt des Gesundheitsschadens in den Jahren 1995 bis 1998 erzielten Reingewinne ein Valideneinkommen von Fr. 23'222.- ermittelt.
Dies ist grundsätzlich nicht zu beanstanden, abgesehen davon, dass das so ermittelte Durchschnittseinkommen unter Berücksichtigung der Nominallohnentwicklung (1999:
0,3 %; 2000: 1,3 %; Die Volkswirtschaft, Heft 2/2002, S.
89, Tabelle B 10.2) auf das Jahr 2000 aufzurechnen ist, was ein Valideneinkommen von Fr. 23'594.- ergibt.
b) Soweit für die Ermittlung des Invalideneinkommens der Tabellenwert für Arbeitnehmer mit einfachen und repetitiven Tätigkeiten im privaten Sektor von Fr. 4'268.- im Jahre 1998 (LSE 1998, Tabelle A1, Anforderungsniveau 4) verwendet wird, ergibt sich bei einer betriebsüblichen Arbeitszeit von 41,8 Stunden (Die Volkswirtschaft, Heft 2/2002, S. 88, Tabelle B 9.2) sowie unter Berücksichtigung der Lohnentwicklung (1999: 0,3 %; 2000: 1,3 %; Die Volkswirtschaft, Heft 2/2002, S. 89, Tabelle B 10.2) für das Jahr 2000 ein Einkommen von jährlich Fr. 54'379.-. Davon ist im Lichte der Rechtsprechung (vgl. BGE 126 V 78 f. Erw.
5a und b, bestätigt in AHI 2000 S. 62) schon deswegen kein Abzug vorzunehmen, da der Beschwerdeführer auf Grund seiner beruflichen Ausbildung und Erfahrung eher auf Anforderungsniveau 3 (Berufs- und Fachkenntnisse vorausgesetzt) einzustufen wäre.
c) Der Vergleich der beiden Einkommen zeigt somit, dass der Versicherte als Unselbstständigerwerbender trotz seines Gesundheitsschadens nahezu das Doppelte des vor Eintritt des Gesundheitsschadens als Geschäftsinhaber durchschnittlich Erzielten verdienen könnte. Damit ist er nicht als invalid im Sinne des Art. 17 IVG zu betrachten, weil er in den für ihn ohne zusätzliche berufliche Ausbildung noch offen stehenden zumutbaren Tätigkeiten keine bleibende oder längere Zeit dauernde Erwerbseinbusse von ungefähr 20 % erleidet (BGE 124 V 110 f. Erw. 2b mit Hinweisen; AHI 2000 S.
62 Erw. 1).
Nun beruft sich der Beschwerdeführer auf die Rechtsprechung, wonach invaliditätsfremde Gründe, welche zu einem unterdurchschnittlichen Einkommen führen, entweder sowohl beim Validen- wie beim Invalideneinkommen oder überhaupt nicht zu berücksichtigen sind (ZAK 1989 S. 456 Erw.
3b, RKUV 1993 NR. U 168 S. 97 Erw. 5a und b). In der Tat hat er als Maler in seinem Betrieb ein unterdurchschnittliches Einkommen erzielt. Anders als in Fällen, in denen ein Versicherter aus invaliditätsfremden Gründen wie mangelnder Ausbildung (ZAK 1989 S. 456 Erw. 3b) oder seiner ausländerrechtlichen Stellung (Urteil A. vom 7. März 2001, U 132/00) unterdurchschnittlich entlöhnt worden war, hat der Beschwerdeführer aus freien Stücken eine selbstständige Erwerbstätigkeit ausgeübt und auf eine einträglichere Anstellung als Arbeitnehmer verzichtet. Es sind keine Gründe aus den Akten ersichtlich noch wird stichhaltig behauptet, dass der Beschwerdeführer, ohne vom Gesundheitsschaden betroffen zu sein, seine selbstständige Erwerbstätigkeit aufgegeben hätte. Daher kann er für die Belange der Invaliditätsbemessung nicht mit Erfolg geltend machen, er würde im Gesundheitsfall als Vorarbeiter mindestens einen Jahreslohn von Fr. 64'870.- gemäss GAV-Ansätzen für das Baugewerbe verdienen.
Richtig ist indes, dass der invaliditätsfremde Gesichtspunkt der (aus Gründen subjektiver Lebensgestaltung gewählten) unterdurchschnittlich bezahlten Erwerbsarbeit als Inhaber eines Einmann-Betriebes auch seitens des Invalideneinkommens berücksichtigt werden muss. Selbst wenn aber aus dieser Überlegung heraus dem Beschwerdeführer nur die Hälfte des Tabellenwertes von Fr. 54'379.-, somit Fr. 27'189.-, angerechnet wird, übersteigt das Invaliden- das Valideneinkommen (Fr. 23'594.-) nach wie vor. Soweit in der Verwaltungsgerichtsbeschwerde die Zumutbarkeit einer solchen Einkommenserzielung bestritten wird, kann ihr mit Blick auf die Rechtsprechung (vgl. zuletzt Urteil H. vom 18. April 2002, I 354/00) ohnehin nicht gefolgt werden, zumal der Beschwerdeführer dadurch nicht daran gehindert wird, den von ihm begonnenen Berufswechsel zum PC-Anwender und -Supporter weiterzuverfolgen.
Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Schwyz, der Ausgleichskasse des Kantons Schwyz und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 5. Juni 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: