A.- F._, geboren 1951, arbeitete seit 1985 als kaufmännische Angestellte bei der Firma X._. Nachdem Anfangs Dezember 1995 ein dämmerartiger Zustand eingetreten war, wurde F._ anlässlich einer Operation am 21. Dezember 1995 ein Aneurysma der Arteria cerebri media links geklippt; seither verfiel sie mehrmals in den dämmerartigen Zustand mit wechselnder Hemisymptomatik. Am 17. Februar 1997 meldete sich F._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons St. Gallen holte eine Auskunft der Arbeitgeberfirma vom 27. Februar 1997 sowie diverse Arztberichte und ein psychiatrisches Konsilium bei Dr. med. S._ vom 26. September 1997 ein; weiter veranlasste sie zur Abklärung der Belastbarkeit und Leistungsfähigkeit einen vierwöchigen Aufenthalt in der Eingliederungsstätte der Rheuma- und Rehabilitationsklinik Y._. Nach durchgeführtem Vorbescheidverfahren sprach die IV-Stelle mit Verfügung vom 29. Oktober 1998 F._ rückwirkend ab 1. Dezember 1996 eine halbe Invalidenrente zu, da es ihr zumutbar sei, zu 50 % einer einfachen kaufmännischen Tätigkeit nachzugehen, sodass beim Einkommensvergleich ein Invaliditätsgrad von 58 % resultiere.
B.- Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 7. Dezember 2000 ab.
C.- F._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, unter Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung sei ihr eine ganze Invalidenrente zuzusprechen, eventualiter sei die Sache zur Beweisergänzung an die Vorinstanz zurückzuweisen.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Stellungnahme verzichtet.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die Beschwerdeführerin rügt, dass die Vorinstanz ihre Begründungspflicht verletzt und kein korrektes Beweisverfahren durchgeführt habe.
Dem ist nicht zuzustimmen. Der vorinstanzliche Entscheid ist ausreichend begründet; die entscheidrelevanten Punkte sind nachvollziehbar dargelegt. In Anbetracht der Sachlage war das kantonale Gericht insbesondere nicht verpflichtet, ein weiteres Gutachten über die Arbeitsfähigkeit der Beschwerdeführerin einzuholen, sondern konnte in antizipierter Beweiswürdigung (vgl. dazu 124 V 94 Erw. 4b und 122 V 162 Erw. 1d) davon absehen. Dass die Vorinstanz für die hälftige Arbeitsfähigkeit auf das psychiatrische Konsilium des Dr. med. S._ vom 26. September 1997 und den Bericht der Y._ vom 28. Mai 1998 abstellte, wird zwar nicht ausdrücklich gesagt, ist jedoch offensichtlich.
2.- a) Nach <ref-law> gilt als Invalidität die durch einen körperlichen oder geistigen Gesundheitsschaden als Folge von Geburtsgebrechen, Krankheit oder Unfall verursachte, voraussichtlich bleibende oder längere Zeit dauernde Erwerbsunfähigkeit.
Zu den geistigen Gesundheitsschäden, welche in gleicher Weise wie die körperlichen eine Invalidität im Sinne von <ref-law> zu bewirken vermögen, gehören neben den eigentlichen Geisteskrankheiten auch seelische Abwegigkeiten mit Krankheitswert. Nicht als Auswirkungen einer krankhaften seelischen Verfassung und damit invalidenversicherungsrechtlich nicht als relevant gelten Beeinträchtigungen der Erwerbsfähigkeit, welche die versicherte Person bei Aufbietung allen guten Willens, Arbeit in ausreichendem Masse zu verrichten, zu vermeiden vermöchte, wobei das Mass des Forderbaren weitgehend objektiv bestimmt werden muss. Es ist somit festzustellen, ob und in welchem Masse eine versicherte Person infolge ihres geistigen Gesundheitsschadens auf dem ihr nach ihren Fähigkeiten offen stehenden ausgeglichenen Arbeitsmarkt erwerbstätig sein kann. Dabei kommt es darauf an, welche Tätigkeit ihr zugemutet werden darf. Zur Annahme einer durch einen geistigen Gesundheitsschaden verursachten Erwerbsunfähigkeit genügt es also nicht, dass die versicherte Person nicht hinreichend erwerbstätig ist; entscheidend ist vielmehr, ob anzunehmen ist, die Verwertung der Arbeitsfähigkeit sei ihr sozial-praktisch nicht mehr zumutbar oder - als alternative Voraussetzung - sogar für die Gesellschaft untragbar (<ref-ruling>; AHI 2000 S. 151 Erw. 2a mit Hinweisen).
b) Nach <ref-law> hat der Versicherte Anspruch auf eine ganze Rente, wenn er mindestens zu 66 2/3 %, auf eine halbe Rente, wenn er mindestens zu 50 % oder auf eine Viertelsrente, wenn er mindestens zu 40 % invalid ist; in Härtefällen hat der Versicherte nach <ref-law> bereits bei einem Invaliditätsgrad von mindestens 40 % Anspruch auf eine halbe Rente.
c) Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung (und im Beschwerdefall das Gericht) auf Unterlagen angewiesen, die ärztliche und gegebenenfalls auch andere Fachleute zur Verfügung zu stellen haben. Aufgabe des Arztes ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Im Weiteren sind die ärztlichen Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der Person noch zugemutet werden können (<ref-ruling> Erw. 4, 115 V 134 Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1).
3.- Umstritten ist, inwieweit sich die dämmerartigen Zustände der Versicherten auf ihre Arbeitsfähigkeit auswirken.
a) Die Vorinstanz ist von einer Arbeitsfähigkeit der Versicherten von 50 % ausgegangen. Die Beschwerdeführerin rügt, dies sei zu Unrecht und ohne Begründung erfolgt; der Hausarzt Dr. med. K._, Arzt für allgemeine Medizin FMH, habe die Versicherte mehrfach für 100 % arbeitsunfähig erklärt. Zudem hätten die Behörden der Arbeitslosenversicherung die Beschwerdeführerin als vermittlungsunfähig erachtet.
b) Gemäss dem psychiatrischen Konsilium des Dr. med.
S._ vom 26. September 1997 ist die Versicherte, auf die Persönlichkeit bezogen, aus psychiatrischer und somatischer Sicht in ihrer Arbeitsfähigkeit nicht wesentlich eingeschränkt; da die Beschwerden durch die medizinischen Massnahmen jedoch fixiert worden seien, bestehe eine Arbeitsunfähigkeit aus rein psychischen Gründen von 50 %. Das Gutachten des Dr. med. S._ ist umfassend, beruht auf allseitigen Untersuchungen, berücksichtigt die geklagten Beschwerden, ist in Kenntnis der Vorakten (Anamnese) abgegeben worden und leuchtet in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation ein; die Schlussfolgerungen sind zudem begründet (<ref-ruling> Erw. 3a) und werden durch den Bericht der Y._ vom 28. Mai 1998 bestätigt. Aufgrund dieser Abklärungen ist davon auszugehen, dass bei F._ eine Konversion vorliegt.
Trotz der Angaben des Hausarztes Dr. med. K._ ist deshalb nicht von der Auffassung des Spezialisten Dr.
med. S._ sowie der Y._ abzuweichen, und es ist eine Arbeitsfähigkeit von 50 % anzunehmen. Es erübrigt sich somit, ein weiteres Gutachten einzuholen.
An der hälftigen Arbeitsfähigkeit ändert auch nichts, dass die Beschwerdeführerin vorbringt, die Ausführungen der Y._ seien falsch interpretiert worden. Bei richtigem Verständnis sei daraus ein geringerer Grad der Arbeitsfähigkeit herauszulesen: wenn die Versicherte während einer täglichen Arbeitszeit von maximal 3.5 Stunden zu 70 % leistungsfähig sei, entspreche dies einer Arbeitszeit von 2.5 Stunden im Tag, was nicht einmal einem Drittel der täglichen Arbeitszeit von acht Stunden entspreche. Die Leistungsfähigkeit während der Arbeitszeit kann jedoch nicht dazu herangezogen werden, die Arbeitszeit zu verkürzen und damit auf einen höheren Arbeitsunfähigkeitsgrad zu schliessen - die Versicherte ist während eines halben Tages in der Lage zu arbeiten. Eingeschränkte Fähigkeiten werden vielmehr bei der Bemessung des Invalideneinkommens (Wahl von Tabelle und Leidensabzug; vgl. Erw. 4c hienach) berücksichtigt.
Wenn die Organe der Arbeitslosenversicherung die Beschwerdeführerin als nicht vermittlungsfähig betrachten, haben sie diesbezüglich ihre Kompetenzen überschritten.
Denn <ref-law> schreibt vor, dass ein Versicherter, der - wie die Beschwerdeführerin - nicht offensichtlich vermittlungsunfähig ist, und sich bei der Arbeitslosen- und der Invalidenversicherung gemeldet hat, bis zum Entscheid der Invalidenversicherung als vermittlungsfähig gilt. Deshalb ist die Versicherte trotz der Qualifikation durch die Arbeitslosenversicherung nicht als 100 % arbeitsunfähig zu erachten.
4.- a) Für die Ermittlung des Invaliditätsgrades nahm die Vorinstanz ein hypothetisches Einkommen ohne Invalidität (Valideneinkommen) in der Höhe von Fr. 69'550.-- und ein trotz Gesundheitsschädigung zumutbarerweise noch realisierbares Einkommen (Invalideneinkommen) von Fr. 31'484.-- an, dies unter Berücksichtigung einer hälftigen Arbeitsfähigkeit und eines leidensbedingten Abzugs von 10 %. Dabei stützte sich das kantonale Gericht auf die Schweizerische Lohnstrukturerhebung (LSE 94) des Bundesamtes für Statistik, nahm aber keine Anpassung an die Nominallohnentwicklung vor. Demgemäss schloss die Vorinstanz auf einen Invaliditätsgrad von 54.7 %.
b) Ausgangspunkt für das Valideneinkommen ist der von der Versicherten gemäss Arbeitgeberbericht im Jahre 1995 erzielte Verdienst von Fr. 69'550.--. Dieser Betrag ist der Lohnentwicklung bis 1998 (Jahr des Verfügungserlasses) anzupassen und zwar für 1996 mit dem Faktor 1.3 %, für 1997 mit dem Faktor 0.5 % und für 1998 mit dem Faktor 0.7 % (Die Volkswirtschaft 3/2001, S. 101 Tabelle B 10.2); dies ergibt ein massgebendes Valideneinkommen von Fr. 71'302. 10.
c) Was das Invalideneinkommen betrifft, ist - da die Beschwerdeführerin keine Tätigkeit mehr aufgenommen hat - praxisgemäss auf die Tabellenlöhne der vom Bundesamt für Statistik herausgegebenen Schweizerischen Lohnstrukturerhebung abzustellen (<ref-ruling> f. Erw. 3b/bb mit Hinweisen).
Wie schon für das Validen-, sind auch für das Invalideneinkommen die Zahlen des Jahres 1998 massgebend.
Wie die Abklärung in der Y._ gezeigt hat, ist die Versicherte nicht mehr in der Lage, wie früher qualifizierte und selbständige Arbeiten auszuführen; es ist deshalb entgegen der Vorinstanz nicht auf das entsprechende Anforderungsniveau 2, sondern nur auf Anforderungsniveau 3 (Berufs- und Fachkenntnisse vorausgesetzt) abzustellen.
Gemäss Tabelle A1 der Schweizerischen Lohnstrukturerhebung 1998 beträgt der diesbezügliche Zentralwert für im privaten Dienstleistungssektor bei einer wöchentlichen Arbeitszeit von 40 Stunden beschäftigte Frauen monatlich Fr. 4'410.-- brutto. Dieser Betrag ist auf die im Jahr 1998 betriebsübliche Wochenarbeitszeit von 42 Stunden im Dienstleistungssektor (Sektor 3; Die Volkswirtschaft 3/2001, S. 100 Tabelle B 9.2) aufzurechnen; somit ergibt sich ein Betrag von monatlich Fr. 4'630. 50 resp. jährlich Fr. 55'566.--.
Bei einer hälftigen Arbeitsfähigkeit resultiert ein Invalideneinkommen von Fr. 27'783.-- pro Jahr; davon ist ein behinderungsbedingter Abzug von 10 % vorzunehmen, da die Beschwerdeführerin - wie die Abklärung in der Y._ gezeigt hat - nicht mehr voll leistungsfähig ist (vgl. <ref-ruling> Erw. 5). Ein höherer Abzug ist nicht gerechtfertigt, da den beschränkten Möglichkeiten der Versicherten auch schon dadurch Rechnung getragen worden ist, dass das Invalideneinkommen von Anforderungsstufe 3 statt 2 ausgeht; zudem wirkt sich eine Teilzeitbeschäftigung von Frauen nicht lohnmindernd aus (vgl. Tabelle 6* der Schweizerischen Lohnstrukturerhebung 1998, S. 20).
d) Bei Annahme eines Valideneinkommens von Fr.
71'302. 10 und eines Invalideneinkommens von Fr. 25'004. 70 (Hälfte von Fr. 55'556.--, zusätzlich 10 % leidensbedingter Abzug) ergibt sich ein Invaliditätsgrad von 64.93 %, der den Anspruch auf eine halbe Invalidenrente begründet. Zu keinem anderen Ergebnis führt, wenn der Einkommensvergleich auf der Grundlage der Zahlen des Jahre 1996 (Zeitpunkt des Rentenbeginns) durchgeführt wird.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, der Ausgleichskasse des Kantons St. Gallen und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 22. Juni 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: