A.- Die 1960 geborene S._ konnte sowohl in ihrer angestammten Arbeit als gelernte Coiffeuse als auch in der zuletzt ausgeübten Tätigkeit als ungelernte Nachtwache in einem Pflegeheim nicht mehr beschwerdefrei arbeiten. Deshalb meldete sie sich am 29. November 1995 bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 17. Oktober 1997 gewährte die IV-Stelle des Kantons St. Gallen der Versicherten die Umschulung zur Büroangestellten, bestehend aus einem einjährigen Besuch einer Tageshandelsschule (vom 11. August 1997 bis 4. Juli 1998) sowie einem darauf folgenden Praktikumsjahr (vom 10. August 1998 bis 9. August 1999). Im Verlauf des Schuljahres änderte S._ ihr persönliches Ausbildungsziel dahin, nicht mehr die Bürolehre abschliessen zu wollen, sondern den Fähigkeitsausweis als kaufmännische Angestellte zu erwerben. Dies machte ein auf dem Schuljahr zur Büroangestellten aufbauendes weiteres Schuljahr und ein daran anschliessendes Praktikumsjahr notwendig. Die IV-Stelle erklärte sich im Sinne eines teilweisen Widerrufs der Verfügung vom 17. Oktober 1997 bereit, an Stelle der bereits gesprochenen Leistungen für das Praktikum zur Büroangestellten die Kosten für das zweite Schuljahr zu übernehmen, verweigerte aber gleichzeitig weitere Umschulungsleistungen (Verfügung vom 18. August 1998).
B.- Eine dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 21. Oktober 1999 gut, hob die angefochtene Verfügung auf und verpflichtete die IV-Stelle zur Übernahme der gesamten Kosten für die Ausbildung zur kaufmännischen Angestellten.
C.- Die IV-Stelle führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben.
Während S._ auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen lässt, hat sich das Bundesamt für Sozialversicherung nicht vernehmen lassen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Im Beschwerdeverfahren um die Bewilligung oder Verweigerung von Versicherungsleistungen ist die Überprüfungsbefugnis des Eidgenössischen Versicherungsgerichts nicht auf die Verletzung von Bundesrecht einschliesslich Überschreitung oder Missbrauch des Ermessens beschränkt, sondern sie erstreckt sich auch auf die Angemessenheit der angefochtenen Verfügung; das Gericht ist dabei nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden und kann über die Begehren der Parteien zu deren Gunsten oder Ungunsten hinausgehen (Art. 132 OG).
2.- a) Das kantonale Gericht hat die gesetzliche Bestimmung über den Anspruch auf Umschulung als berufliche Eingliederungsmassnahme (Art. 17 Abs. 1 IVG) sowie die Rechtsprechung zur Voraussetzung der annähernden Gleichwertigkeit der ursprünglichen und der angestrebten Erwerbstätigkeit (<ref-ruling> Erw. 2a, 122 V 79 Erw. 3b/bb; AHI 1997 S. 84 Erw. 1) zutreffend dargelegt. Darauf ist zu verweisen. Richtig ist auch, dass in der Regel nur Anspruch auf die dem jeweiligen Eingliederungszweck angemessenen, notwendigen Massnahmen, nicht aber auf die nach den gegebenen Umständen bestmöglichen Vorkehren besteht. Denn das Gesetz will die Eingliederung lediglich so weit sicherstellen, als diese im Einzelfall notwendig, aber auch genügend ist (<ref-ruling> Erw. 2a mit Hinweisen).
b) Wählt nun eine versicherte Person ohne invaliditätsbedingte Notwendigkeit eine Ausbildung, die den Rahmen der Gleichwertigkeit sprengt, kann die Invalidenversicherung daran Beiträge gewähren im Ausmass des Leistungsanspruchs auf eine gleichwertige Umschulungsmassnahme (sog. Austauschbefugnis; <ref-ruling> Erw. 4, 285 Erw. 4a, 292 Erw. 3c, 111 V 213 Erw. 2b, 215; Meyer-Blaser, Rechtsprechung des Bundesgerichtes zum IVG; Zürich 1997, S. 60 f.; derselbe, Zum Verhältnismässigkeitsgrundsatz im staatlichen Leistungsrecht, Diss. Bern 1985, S. 87 ff.; vgl. auch das Kreisschreiben des Bundesamtes für Sozialversicherung über die Eingliederungsmassnahmen beruflicher Art vom 1. Januar 2000, Rz 4026). Darüber hinausgehende Beiträge fallen jedoch ausser Betracht.
3.- a) Wie sich aus der am 19. August 1998 nachgelieferten Begründung zur am Vortag eröffneten Verfügung ergibt, lehnte die IV-Stelle die Übernahme der über das zweite Schuljahr hinausgehenden Ausbildungskosten zur kaufmännischen Angestellten ab, weil sie eine dem ursprünglichen Ausbildungsplan folgende Umschulung zur Büroangestellten als ausreichend betrachtete. Von einer Änderung des Ausbildungsziels durch die Verwaltung kann entgegen den Erwägungen im angefochtenen Entscheid keine Rede sein.
Obwohl die IV-Stelle selbst im Schreiben vom 19. August 1998 ausgeführt hatte, sie könne für die durch die "Weiterbildung" zur kaufmännischen Angestellten entstehenden Mehrkosten nicht aufkommen, hat sie übersehen, dass für den Abschluss der ursprünglich bewilligten Umschulung zur Büroangestellten einzig noch die Kosten für das Praktikumsjahr im Raum standen. Diese hätten gemäss der Verfügung vom 17. Oktober 1997 Fr. 4300. - betragen, wogegen jene für das zweite Schuljahr auf Fr. 10'900. - zu stehen kommen. Vorausgesetzt, die Ausbildung zur kaufmännischen Angestellten sprengt tatsächlich den Rahmen der annähernden Gleichwertigkeit, können der Beschwerdegegnerin lediglich Fr. 4300. - zugesprochen werden (vgl. Erw. 2b hievor).
b) An diesem Zwischenergebnis ändern die Vorbringen der Beschwerdegegnerin nichts. Selbst wenn das Verhalten der Berufsberaterin Hoffnung auf Finanzierung des neuen Ausbildungsziels durch die IV-Stelle geweckt haben sollte, so hätte die Versicherte bei hinreichender Sorgfalt zumindest wissen müssen, dass die Berufsberaterin nicht allein über das Leistungsbegehren entscheidet. Entsprechend erweist sich in diesem Zusammenhang die Berufung auf den Vertrauensgrundsatz als unbegründet (vgl. AHI 2000 S. 193). Soweit sodann der Verfügung vom 18. August 1998 der Mangel der fehlenden Begründung anhaftete, ist dieser durch die von der IV-Stelle noch am Folgetag nachgereichte Erörterung behoben worden. Dergestalt ist der Beschwerdegegnerin kein Rechtsnachteil erwachsen. Insbesondere war sie damit in die Lage versetzt, in gehöriger Form Beschwerde zu erheben.
4.- Es bleibt somit das Kriterium der annähernden Gleichwertigkeit zu prüfen. Die Vorinstanz wie auch die Beschwerdegegnerin bezeichnen den Umschulungsplan der IV- Stelle als ungenügend. Dies in erster Linie unter Hinweis auf die fehlende qualitative Gleichwertigkeit der Berufsausbildung der Versicherten als Coiffeuse und der gewährten Bürolehre.
Dieser Auffassung kann nicht beigepflichtet werden. Wie von der Vorinstanz selbst dargelegt, bezieht sich der Begriff der annähernden Gleichwertigkeit nicht in erster Linie auf das Ausbildungsniveau als solches, sondern die nach erfolgter Eingliederung zu erwartenden Verdienstmöglichkeiten (<ref-ruling> Erw. 3b/bb; ZAK 1988 S. 470 Erw. 2c, 1978 S. 517 Erw. 3a). Auch wenn die Ausbildung zur Büroangestellten ordentlicherweise nur zwei Jahre dauert, dagegen jene zur Coiffeuse deren drei, so ist die künftige Entwicklung der erwerblichen Möglichkeiten zwischen der alten und neuen Tätigkeit durchaus vergleichbar. Diesbezüglich weist die Beschwerdeführerin zu Recht darauf hin, dass die Einkommen von angestellten Coiffeusen zusammen mit denjenigen im Gastgewerbe und im Detailhandel zu den tiefsten überhaupt gehören (vgl. Die Schweizerische Lohnstrukturerhebung 1996 des Bundesamtes für Statistik, Tabelle TA1, Ziff. 52, 55 und 93). Dass Personen mit einer abgeschlossenen (zweijährigen) Bürolehre gegenüber jenen mit einem kaufmännischen Abschluss zumindest bei der erstmaligen Stellensuche oftmals benachteiligt sind und mit einem vergleichsweise tieferen Salär rechnen müssen, ist in diesem Zusammenhang ohne Bedeutung. Eine Büroangestellte findet bei einer ausgeglichenen Arbeitsmarktlage auch heute noch eine Anstellung, die einen mit dem Einkommen einer Coiffeuse, aber auch einer ungelernten Nachtwache im Altersheim, vergleichbaren Verdienst ermöglicht.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 21. Oktober 1999 und die Verfügung der IV-Stelle vom 18. August 1998 aufgehoben werden, und es wird festgestellt, dass die Beschwerdegegnerin Anspruch auf eine Kostenbeteiligung für die Ausbildung zur kaufmännischen Angestellten ab 10. August 1998 in der Höhe von insgesamt Fr. 4300. - hat.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 23. Oktober 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: