A.- E._ (geboren 1943) ist gelernter Sanitärinstallateur und arbeitete seit 1980 als Selbständigerwerbender. Mit Anmeldung vom 12. April 1995 ersuchte er um berufliche Eingliederungsmassnahmen, da er infolge Rückenbeschwerden nicht mehr in seinem angestammten Beruf tätig sein könne. Vom 1. Juli 1995 bis 29. Februar 1996 erhielt er eine ganze Invalidenrente (Verfügung vom 5. Juli 1996).
Ab 5. Februar 1996 bewilligte die IV-Stelle des Kantons St. Gallen eine Umschulung (samt Taggelder) bei der Computerschule Z._ zum PC-Supporter (Verfügungen vom 15. Februar und 14. Mai 1996), welche der Versicherte jedoch am 6. Juli 1996 aufgab, da er mit der laufenden Ausbildung nicht Schritt halten konnte. Für die Zeit vom 1. August 1996 bis 31. März 1997 erhielt E._ erneut eine ganze Invalidenrente (Verfügung vom 4. Juli 1997). Vom 10. März 1997 bis 31. Juli 1997 absolvierte er eine berufliche Abklärung im EDV/CAD-Bereich in der Eingliederungsstätte der Rheuma- und Rehabilitationsklinik V._ (X._). Während dieser Zeit richtete die Invalidenversicherung wieder Taggelder aus (Verfügungen vom 21. März 1997). Im Schlussbericht vom 31. Juli 1997 hielt die X._ fest, dass auch eine Umschulung zum Informatik-Anwender nicht realistisch sei, E._ für einfache Büroarbeiten (Datatypist) zu 100 % belastet werden könne, eine Anstellung in dieser oder einer leichten industriellen Tätigkeit jedoch schwierig sei. Mit Verfügung vom 5. November 1997 verneinte die IV-Stelle bei einem Invaliditätsgrad von 21 % den Anspruch auf eine Rente. Trotz Abbruch der beruflichen Massnahmen könne mit einfacheren Arbeiten als PC-Anwender ein rentenausschliessendes Erwerbseinkommen erzielt werden. Die Möglichkeit von beruflichen Massnahmen sei weiterhin gegeben.
B.- Die hiegegen mit dem Antrag auf Zusprechung einer Rente, eventualiter von beruflichen Massnahmen eingereichte Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 13. Januar 2000 gut und wies die Sache zur weiteren Abklärung bezüglich Umschulung und Rente an die IV-Stelle zurück.
C.- Die IV-Stelle führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben und die Sache zur polydisziplinären medizinischen Untersuchung an sie zurückzuweisen; eventualiter sei die Verfügung vom 5. November 1997 zu bestätigen.
Sowohl E._ als auch das Bundesamt für Sozialversicherung verzichten auf eine Stellungnahme.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die Vorinstanz hat die massgebenden Bestimmungen und Grundsätze über den Begriff der Invalidität (<ref-law>) sowie den Anspruch auf Eingliederungsmassnahmen im Allgemeinen (<ref-law>) und auf Umschulung im Besonderen (<ref-law>; <ref-ruling> Erw. 2 mit Hinweisen) zutreffend dargelegt. Darauf kann verwiesen werden.
Zu ergänzen bleibt, dass Massnahmen im Sinne von <ref-law> die objektive und subjektive Eingliederungsfähigkeit des Versicherten voraussetzen (AHI 1997 S. 82 Erw. 2b/aa, ZAK 1991 S. 179 Erw. 3); nicht unter die Umschulung fallen daher Massnahmen der sozialberuflichen Rehabilitation (wie Gewöhnung an den Arbeitsprozess, Aufbau der Arbeitsmotivation, Stabilisierung der Persönlichkeit, Einüben der sozialen Grundelemente) mit dem primären Ziel, die Eingliederungsfähigkeit des Versicherten zu erreichen (ZAK 1992 S. 367 Erw. 2b).
2.- a) Die X._ kommt in ihrem Bericht vom 31. Juli 1997 zum Schluss, dass der Beschwerdeführer trotz positiver Einstellung und Reduzierung des Ausbildungsziels vom Informatik-dB-Programmierer zum Informatik-Anwender überfordert war und nur eine geringe Leistung zustande brachte. Eine einjährige Umschulung zum Informatik-Anwender sei nicht realistisch. Wiederholt wird darauf verwiesen, dass er keine Arbeiten unter Zeitdruck durchführen konnte und sich allgemein sehr unselbstständig verhielt. Er solle keine selbstständige Erwerbstätigkeit mehr anstreben, sondern sich für einfachere Büroaufgaben oder leichte industrielle Tätigkeiten anstellen lassen. Für Arbeiten als Datatypist sei er nach Einarbeitung zu 100 % belastbar. Infolge der persönlichen Eigenheiten (fachliche und persönliche Selbsteinschätzung, Fixierung auf eine selbstständige Erwerbstätigkeit sowie Schwierigkeit, sich in Strukturen einzufügen) werde sich eine Eingliederung jedoch als schwierig erweisen.
Der Berufsberater hält in seinem Bericht vom 17. September 1997 fest, dass die bisherigen Umschulungsversuche
gescheitert seien, weil der Versicherte einer solchen Massnahme nicht gewachsen war und nicht zu einer weniger anspruchsvollen Umschulung bewegt werden konnte. Auch nach dem Aufenthalt in der X._ sei er der Ansicht, im Informatikbereich arbeiten zu können. Weder der frühere Berufsberater noch die X._ hätten ihn zu überzeugen vermögen, dass die Vermarktung seines eigenen Biorhythmusprogrammes nicht realistisch sei. Auf Grund seiner fixen Idee habe sich der Beschwerdeführer anderen beruflichen Möglichkeiten gegenüber verschlossen. Insbesondere lehne er die Eingliederung in ein grösseres Unternehmen ab, da er sich hier unterzuordnen hätte. Dies gelte auch für alle kaufmännischen und industriellen Tätigkeiten. Dennoch sei von einer derartigen Tätigkeit auszugehen, da er auf Grund der erworbenen PC-Kenntnisse in der Lage sei, einfachere Verwaltungsarbeiten auszuüben bzw. entsprechende PC-Anwendungen zu generieren. Wie der Aufenthalt in V._ gezeigt habe, sei dies von der Konstitution her möglich. Ein neurologisches oder depressives Leiden werde ausgeschlossen. Nach einer Einarbeitung könne er eine Hilfstätigkeit im kaufmännischen Sektor voll ausüben und ein entsprechendes Einkommen erzielen.
b) Nach dem Gesagten ist davon auszugehen, dass der Beschwerdeführer selbst bei Reduzierung des Ausbildungsziels auf dasjenige eines Informatik-Anwenders überfordert und einem einjährigen Ausbildungsgang nicht gewachsen ist. Zudem erscheint seine Eingliederung als Arbeitnehmer in einen Betrieb auf Grund seiner Persönlichkeit als äusserst schwierig. Auch lehnt er jegliche Tätigkeit ausserhalb der Computerbranche ab, insbesondere die Anstellung in einem kaufmännischen oder industriellen Beruf. In Anbetracht der Tatsache, dass sogar eine in den Anforderungen verminderte Umschulung im vom Versicherten gewünschten Bereich gescheitert ist, kann entgegen der Vorinstanz nicht gesagt werden, dass eine mit ihm abgesprochene weitere Umschulung erfolgsversprechender ist. Vielmehr liegt beim Versicherten sowohl objektiv als auch subjektiv Eingliederungsunfähigkeit vor, weshalb diesbezüglich keine weiteren Abklärungen vorzunehmen sind.
3.- Zu prüfen bleibt der Anspruch auf eine Invalidenrente.
In den Akten der IV-Stelle finden sich bereits im Dezember 1996 erste Anzeichen einer Depression (Aktennotiz vom 9. Dezember 1996, Bericht des Dr. med. B._, Facharzt für Psychiatrie und Physiotherapie, vom 18. Dezember 1996). Auch Dr. phil. K._, Neuropsychologe, und Dr. med. E._, Facharzt für Neurologie, Klinik V._, halten in ihren Berichten vom 11. Juni 1997 und vom 10. Juli 1997 eine depressive Entwicklung für wahrscheinlich. Dr. med. F._, Facharzt für Allgemeine Medizin, bestätigt eine depressive Symptomatik mit Beginn im August 1995 (Berichte vom 20. Januar 1998 und vom 11. August 1998). Dr. med. S._, Kantonale Psychiatrische Dienste - Klinik Y._, attestiert einen seit mindestens Ende 1996 andauernden chronischen Erschöpfungszustand mit chronischer Schmerzstörung und eine Arbeitsunfähigkeit aus psychiatrischer Sicht von 50 % (Schreiben vom 2. September 1998).
Die der Bemessung des Invaliditätsgrades zugrunde
gelegte Arbeitsfähigkeit von 100 % für einfache Büroarbeiten scheint somit auf Grund der obgenannten ärztlichen Aussagen zumindest als fraglich, weshalb die von der IV-Stelle beantragte umfassende medizinische Untersuchung des Beschwerdeführers angebracht ist. Die IV-Stelle wird nach Einholung eines polydiszplinären Gutachtens über den Rentenanspruch neu verfügen.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird in dem Sinne
gutgeheissen, dass der Entscheid des Versicherungs-
gerichts des Kantons St. Gallen vom 13. Januar 2000
und die Verfügung vom 5. November 1997 aufgehoben
werden und die Sache an die IV-Stelle zurückgewiesen
wird, damit sie, nach erfolgter Abklärung im Sinne der
Erwägungen, über den Anspruch auf eine Invalidenrente
neu verfüge.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungs-
gericht des Kantons St. Gallen und dem Bundesamt für
Sozialversicherung zugestellt.
Luzern, 19. Februar 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: