Aufenthaltsbewilligung/Familiennachzug, hat sich ergeben:
A.- A._, geb. 15. Mai 1964, stammt ursprünglich aus der Bundesrepublik Jugoslawien. Am 29. Mai 1982 gebar sie ihren Sohn B._, mit dessen Vater, C._, sie zusammen lebte, ohne dass sie mit ihm verheiratet war. A._ hielt sich erstmals im Jahre 1990 mit einer Saisonbewilligung in der Schweiz auf. Am 30. August 1991 heiratete sie den Schweizer Bürger D._ und erhielt nach damaligem Recht die schweizerische Staatsangehörigkeit. Zwei Jahre nach der Heirat verstarb der Ehemann infolge eines Unfalles. In einer Verfügung vom 9. März 1993 lehnte das Zentrum für Sozialarbeit in Cuprija das Begehren von A._ ab, ihr das Kind B._ zu Pflege, Obhut und Erziehung zuzuweisen. Es blieb bei seinem Vater C._, der es bei seinen Eltern unterbrachte. Am 18. November 1997 kam das Zentrum für Sozialarbeit auf seinen Entscheid zurück und sprach das Kind der Mutter zu.
B.- Am 20. Mai 1998 reichte A._ bei der Fremdenpolizei des Kantons St. Gallen ein Gesuch um Erteilung der Aufenthaltsbewilligung für ihren Sohn ein. Mit Verfügung vom 19. Juni 1998 lehnte die Fremdenpolizei des Kantons St. Gallen dieses Gesuch ab.
A._ erhob gegen die ablehnende Verfügung der Fremdenpolizei Rekurs beim Justiz- und Polizeidepartement des Kantons St. Gallen. Während des Rekursverfahrens reiste B._ am 7. Dezember 1998 ohne Visum in die Schweiz ein und hält sich seither hier auf. Das Justiz- und Polizeidepartement wies den Rekurs am 6. Mai 1999 ab. Gleich entschied das Verwaltungsgericht des Kantons St. Gallen auf Beschwerde hin mit Urteil vom 17. August 1999.
C.- Mit Eingabe vom 22. September 1999 hat A._ Verwaltungsgerichtsbeschwerde an das Bundesgericht erhoben. Sie beantragt, das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 17. August 1999 aufzuheben und die Fremdenpolizei anzuweisen, für den Sohn B._ die Aufenthaltsbewilligung zu erteilen.
Das Justiz- und Polizeidepartement des Kantons St. Gallen, das kantonale Verwaltungsgericht sowie das Bundesamt für Ausländerfragen (für das Eidgenössische Justiz- und Polizeidepartement) beantragen die Abweisung der Verwaltungsgerichtsbeschwerde.
D.- Mit Verfügung vom 15. Oktober 1999 hat das präsidierende Mitglied der II. öffentlichrechtlichen Abteilung der Beschwerde die aufschiebende Wirkung erteilt.

Das Bundesgericht zieht in Erwägung:
1.- a) Nach Art. 100 Abs. 1 lit. b Ziff. 3 OG ist die Verwaltungsgerichtsbeschwerde auf dem Gebiete der Fremdenpolizei unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt. Gemäss Art. 4 ANAG entscheiden die zuständigen Behörden, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt oder Niederlassung. Es besteht damit grundsätzlich kein Anspruch auf Erteilung einer Aufenthaltsbewilligung, es sei denn, der Ausländer könne sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen (<ref-ruling> E. 2a, 361 E. 1a; <ref-ruling> E. 1b, mit Hinweisen).
b) Gemäss Art. 17 Abs. 2 dritter Satz ANAG haben ledige Kinder unter 18 Jahren Anspruch auf Einbezug in die Niederlassungsbewilligung ihrer Eltern, wenn sie mit diesen zusammen wohnen. Die genannte Bestimmung gilt sinngemäss auch für ausländische Kinder einer Schweizerin (<ref-ruling> E. 1b S. 155/156). Die Beschwerdeführerin verfügt über das Schweizer Bürgerrecht. Ihr Sohn, den sie nachziehen will, war zum Zeitpunkt der Gesuchseinreichung, auf den es beim Einbezug in die Niederlassungsbewilligung nach Art. 17 Abs. 2 ANAG ankommt (<ref-ruling> E. 1b S. 156/157), noch nicht ganz 16 Jahre alt. Die Beschwerdeführerin hat daher gestützt auf diese Bestimmung grundsätzlich einen Anspruch auf Nachzug ihres Sohnes, weshalb die Verwaltungsgerichtsbeschwerde zulässig ist.
c) Die Beschwerdeführerin beantragt nur, die Fremdenpolizei anzuweisen, ihrem Sohn die Aufenthaltsbewilligung zu erteilen. Sollte ein Recht auf Erteilung der Niederlassungsbewilligung bestehen, was als Rechtsfrage von Amtes wegen zu prüfen ist, kann die ein weniger gefestigtes Anwesenheitsrecht gewährende Aufenthaltsbewilligung erst recht nicht verweigert werden (<ref-ruling> E. 3a).
2.- a) Zweck des Familiennachzuges ist es, das familiäre Zusammenleben zu ermöglichen. Sind die Eltern voneinander getrennt oder gar geschieden, und hält sich der eine Elternteil in der Schweiz, der andere aber im Ausland auf, kann es nicht um eine Zusammenführung der Gesamtfamilie gehen. In solchen Fällen entspricht es dem Gesetzeszweck nicht, einen bedingungslosen Anspruch auf Nachzug der Kinder anzunehmen. Ein Nachzugsrecht setzt voraus, dass das Kind zum in der Schweiz lebenden Elternteil die vorrangige familiäre Beziehung unterhält. Dabei kommt es nicht nur auf die bisherigen Verhältnisse an, sondern es können auch nachträglich eingetretene oder gar künftige Umstände wesentlich werden. Namentlich kann nicht entscheidend sein, in welchem Land das Kind bisher seinen Lebensmittelpunkt hatte, bliebe doch sonst ein Nachzugsrecht praktisch immer wirkungslos. Zu berücksichtigen ist aber, bei welchem Elternteil das Kind bisher gelebt hat, beziehungsweise wem die elterliche Gewalt zukommt; wenn sich das Kindesinteresse in der Zwischenzeit geändert hat, so ist für eine Anpassung der familiären Verhältnisse in der Regel zunächst der privatrechtliche Weg zu beschreiten. Vorbehalten bleiben Fälle, in denen klare Anhaltspunkte für neue familiäre Abhängigkeiten oder für eine wesentliche Verlagerung der Beziehungsintensitäten bestehen, wie etwa beim Hinschied desjenigen Elternteils, der das Kind bisher betreut hat (<ref-ruling> E. 3a; <ref-ruling> E. 2b). Im Übrigen wird das gesetzgeberische Ziel von Art. 17 Abs. 2 ANAG, das familiäre Zusammenleben zu ermöglichen und rechtlich abzusichern, nicht erreicht, wenn der in der Schweiz niedergelassene Ausländer jahrelang von seinem Kind getrennt lebt und dieses erst kurz vor dem Erreichen des 18. Altersjahrs in die Schweiz holt. Eine Ausnahme kann nur gelten, wenn es gute Gründe gibt, aus denen die Familiengemeinschaft in der Schweiz erst nach Jahren hergestellt wird; solche Gründe müssen sich aus den Umständen des Einzelfalles ergeben (<ref-ruling> E. 3a; <ref-ruling> E. 3a).
b) Nach der Rechtsprechung des Bundesgerichts kommt es beim nachträglichen Familiennachzug einer Teilfamilie freilich nicht nur darauf an, zu welchem der beiden Elternteile die vorrangige Beziehung besteht. In die Beurteilung einzubeziehen ist die Beziehung zu Drittpersonen, welche die Kinder bisher betreut haben; zu berücksichtigen ist sodann auch, ob bei einer Änderung der Verhältnisse alternative Betreuungsmöglichkeiten im Heimatland zur Verfügung stehen, die dem Kindeswohl besser entsprechen, beispielsweise weil dadurch vermieden werden kann, dass die Kinder aus ihrer bisherigen Umgebung und dem ihnen vertrauten Beziehungsumfeld herausgerissen werden (zur Publikation bestimmtes Urteil des Bundesgerichts vom 2. November 1999 i.S. O.; vgl. auch AJP 2000 S. 106).
3.- a) Die Beschwerdeführerin hat ihre Heimat im Jahre 1990 verlassen, um in der Schweiz eine Stelle anzutreten. Ihr Kind liess sie zurück. Etwas anderes war ihr aber auch nicht möglich, da sie lediglich über eine Saisonbewilligung verfügte, welche den Familiennachzug nicht erlaubt (vgl. Art. 38 Abs. 2 der Verordnung vom 6. Oktober 1986 über die Begrenzung der Zahl der Ausländer, BVO; SR 823. 21). Nachdem sie - durch Heirat - das Schweizer Bürgerrecht erlangt hatte, wollte sie das Kind zu sich in die Schweiz nehmen. Der Vater des Kindes widersetzte sich, und das Zentrum für Sozialarbeit in Cuprija sprach es ihm zu Pflege, Obhut und Erziehung zu. Tatsächlich verblieb der Sohn der Beschwerdeführerin aber bei den Grosseltern väterlicherseits. Nach der Darstellung der Beschwerdeführerin hat sie den Kontakt aufrechterhalten können, obwohl der Vater - der gewalttätig sei - versucht habe, den Kontakt des Kindes zu ihr zu unterbinden. Sie sei alle drei bis vier Monate nach Jugoslawien gereist, um dort ein bis zwei Wochen mit ihrem Sohn zu verbringen. Aus Angst, der Sohn würde nicht mehr zurückkehren, habe der Vater ihm strikte verboten, seine Mutter in der Schweiz zu besuchen. Sie habe auch all die Jahre finanziell für ihren Sohn gesorgt. Im Laufe der Jahre 1996/97 habe sich die Situation für den Sohn verschlimmert; er habe sie immer wieder gebeten, ihn aus "dieser Tragödie zu befreien", und habe gar damit gedroht, sich das Leben zu nehmen. In dieser Situation habe sie erneut ein Gesuch um Übertragung des Sorgerechts gestellt, das trotz Widerstands des Vaters gutgeheissen worden sei.
b) Das Verwaltungsgericht gelangte im angefochtenen Urteil zur Auffassung, dass eine vorrangige familiäre Beziehung während der vergangenen acht Jahre zum Vater bzw. den betreuenden Grosseltern väterlicherseits, nicht aber zur Mutter bestanden habe. Diese habe ihr Kind bei der Übersiedlung in die Schweiz freiwillig in Jugoslawien zurückgelassen. Da keine familiären Kontakte zwischen Mutter und Kind nachgewiesen seien und die Übertragung des Sorgerechts erst im sechzehnten Altersjahr des Sohnes erfolgt sei, bestünden keine zwingenden Gründe, die langjährige Familiengemeinschaft des Sohnes mit seinen Grosseltern auf die Mutter zu übertragen. Weiter wird im Urteil des Verwaltungsgerichts ausgeführt, dass es auf den Gesundheitszustand und auf den Verbleib der in Pec (Kosovo) lebenden Grosseltern mütterlicherseits, bei denen sich der Sohn nach der Übertragung des Sorgerechts auf die Mutter zunächst aufgehalten habe, - sie sollen im Gefolge der kriegerischen Auseinandersetzungen verschollen sein - nicht ankomme. Über die Grosseltern väterlicherseits, die in Serbien leben, lägen jedenfalls keine Angaben dazu vor, dass diese gesundheitlich nicht mehr in der Lage wären, den Sohn zu betreuen.
c) Mit der Verwaltungsgerichtsbeschwerde an das Bundesgericht macht die Beschwerdeführerin geltend, sie habe für ihre Darstellung der Sachlage namentlich beantragt, ihren Sohn persönlich zu befragen. Die Vorinstanz hat auf eine solche Befragung verzichtet mit der Begründung, die Angaben des Sohnes über Vorfälle in der Heimat liessen sich ohnehin nicht überprüfen. Im Verfahren der Verwaltungsgerichtsbeschwerde ist das Bundesgericht an die Sachverhaltsfeststellungen der Vorinstanz gebunden, wenn wie hier eine richterliche Behörde entschieden hat, ausser die tatsächlichen Feststellungen erwiesen sich als offensichtlich unrichtig oder unvollständig oder seien unter Verletzung wesentlicher Verfahrensvorschriften getroffen worden (Art. 105 Abs. 2 OG).
Im vorliegenden Fall stellt sich die Frage, ob das Verwaltungsgericht zur Abklärung des massgebenden Sachverhaltes dem Beweisantrag auf Befragung des Sohnes der Beschwerdeführerin hätte stattgeben müssen. Der Anspruch auf rechtliches Gehör gebietet, rechtzeitig und formrichtig angebotene Beweismittel abzunehmen, es sei denn, diese beträfen eine nicht erhebliche Tatsache oder seien offensichtlich untauglich, über die streitige Tatsache Beweis zu erbringen (<ref-ruling> E. 2; <ref-ruling> E. 4b). Eine vorweggenommene Beweiswürdigung wird dadurch nicht ausgeschlossen; der Richter kann das Beweisverfahren schliessen, wenn er aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und er ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass diese seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 4a; <ref-ruling> E. 5 b bb; <ref-ruling> E. 5b; <ref-ruling> E. 5).
d) Das Verwaltungsgericht hat der Sachdarstellung über die Beziehung der Beschwerdeführerin zu ihrem Kind und namentlich über die Entwicklung des Verhältnisses des Sohnes zu seinem Vater und zu den Grosseltern nicht die Erheblichkeit abgesprochen, und es hat auch nicht aufgrund weiterer abgenommener Beweise ausgeführt, davon überzeugt zu sein, dass ihre Vorbringen unzutreffend wären. Es hat vielmehr angenommen, die Beschwerdeführerin habe den Beweis für ihre Darstellung nicht erbringen können. Das Verwaltungsgericht lehnte die Befragung des Sohnes deshalb ab, weil dessen Angaben nicht nachprüfbar wären. Indessen ist der Richter vielfach darauf angewiesen, aufgrund der Aussagen von Auskunftspersonen die Richtigkeit von Tatsachenbehauptungen zu prüfen, ohne dass ihm weitere, objektive Beweismittel zur Verfügung stehen. Die Befragung von Zeugen und selbst von Parteien ist eine wichtige Erkenntnisquelle zur Erforschung der materiellen Wahrheit. Ob die Aussage glaubhaft ist und Beweis zu erbringen vermag, ist aufgrund einer kritischen Würdigung der Aussage selbst zu beurteilen (dazu: Bender/ Nack, Tatsachenfeststellung vor Gericht, 2. Aufl. , München 1995). Zum Vornherein untauglich zur Beweisführung ist das Beweismittel nicht.
4.- a) Im vorliegenden Fall ist zwar nicht zu übersehen, dass der Sohn der Beschwerdeführerin nunmehr verhältnismässig kurze Zeit vor Erreichen des 18. Altersjahres nachgezogen werden soll. Auch scheint für den Entscheid der zuständigen jugoslawischen Sozialbehörde über die Übertragung der Obhut - vom Vater an die Mutter - unter anderem eine Rolle gespielt zu haben, dem Sohn der Beschwerdeführerin eine Ausbildung in der Schweiz zu ermöglichen. Aufgrund der vorliegenden Akten lässt sich aber nicht ausschliessen, dass das Kind seine vorrangige familiäre Beziehung zur Beschwerdeführerin unterhält, ihr diese jedenfalls mit der Zeit zufiel. Sie scheint sich von Anfang an darum bemüht zu haben, ihr Kind zu sich in die Schweiz zu nehmen, was aber vorerst am Widerstand des Vaters gescheitert ist. Während dieser, gemäss der Darstellung der Beschwerdeführerin, für das Kind nicht gesorgt haben soll, will sie selber sich weit über das hinaus, was aufgrund des ihr zustehenden Besuchsrechts und angesichts der Distanz zwischen der Schweiz und Jugoslawien zu erwarten gewesen wäre, um ihren Sohn gekümmert haben. Sie habe sich nicht nur finanziell, sondern auch in persönlicher und affektiver Hinsicht um ihn gesorgt. Wichtig ist sodann, dass das Kind nicht bei seinem Vater lebte, sondern bei seinen Grosseltern väterlicherseits; auch wenn dieser Umstand für sich allein nicht bereits zwingend eine vorrangige Beziehung zur Mutter belegt (vgl. E. 2b), steht jedenfalls nicht die Auflösung einer unmittelbaren Lebensgemeinschaft mit dem Vater, sondern der Umzug von den Grosseltern väterlicherseits zur Mutter in Frage. Unklar bleibt allerdings, aus welchen Gründen der Sohn nicht mehr bei den Eltern seines Vaters bleiben wollte.
Die vorliegenden Akten lassen keine abschliessende Beurteilung darüber zu, zu wem der Sohn der Beschwerdeführerin die vorrangige Beziehung unterhält. Die besondere Ausgangslage rechtfertigt eine vertiefte und, soweit als möglich, umfassende Abklärung der tatsächlichen Umstände. Die Vorinstanz hat jedoch nicht alle entsprechenden Möglichkeiten ausgeschöpft. Das Verwaltungsgericht hätte es namentlich nicht ablehnen dürfen, den Sohn der Beschwerdeführerin zu befragen. Dieser sollte genau zu denjenigen Gründen, die zum Umzug von den Grosseltern zur Mutter führten, Aufschluss geben können.
b) Im Übrigen vermittelt Art. 12 des Übereinkommens vom 20. November 1989 über die Rechte des Kindes (UNO-Kinderrechtekonvention; SR 0.107) dem Sohn der Beschwerdeführerin grundsätzlich das Recht, sich im vorliegenden ausländerrechtlichen Verfahren frei zu äussern und angehört zu werden (vgl. <ref-ruling> E. 3c S. 368). Nachdem er sich bereits in der Schweiz aufhält, stehen einer Anhörung keine unüberwindbaren Hindernisse entgegen. Wohl hat das Bundesgericht in <ref-ruling> E. 3c S. 368 ausgeführt, auf eine zusätzliche mündliche Anhörung könne verzichtet werden, wenn sich das Kind bereits schriftlich geäussert hat und davon ausgegangen werden darf, der Antragsteller im fremdenpolizeilichen Verfahren vertrete auch die Interessen bzw. den Standpunkt des Kindes. Der letztere Umstand ist zwar auch im vorliegenden Fall gegeben. Im Unterschied zu <ref-ruling> sind für die Entscheidfindung aber gerade solche Tatsachen wesentlich, die nicht rechtsgenüglich bekannt sind, über die jedoch vermutlich der Sohn der Beschwerdeführerin - und wohl nur er - ergänzend Aufschluss erteilen kann.
c) Ohne weitere Abklärungen lässt sich demnach nicht entscheiden, ob die Verweigerung des Familiennachzugs Bundesrecht verletzt oder nicht. Es rechtfertigt sich nicht, dass das Bundesgericht diese Abklärungen selbst vornimmt; vielmehr ist die Angelegenheit an das Verwaltungsgericht zurückzuweisen zu ergänzender Abklärung des Sachverhalts, namentlich zur Anhörung des Sohnes der Beschwerdeführerin, und zu neuem Entscheid in der Sache (vgl. Art. 114 Abs. 2 OG); der Ausgang des Verfahrens hängt dabei vom Ergebnis der Sachverhaltsergänzung ab.
5.- Die Verwaltungsgerichtsbeschwerde ist demgemäss gutzuheissen, das angefochtene Urteil aufzuheben und die Sache an die Vorinstanz zurückzuweisen zu neuem Entscheid im Sinne der Erwägungen.
Entsprechend diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 156 Abs. 2 OG). Hingegen hat der Kanton St. Gallen die Beschwerdeführerin für das bundesgerichtliche Verfahren zu entschädigen (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird gutgeheissen, das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 17. August 1999 aufgehoben und die Sache an die Vorinstanz zurückgewiesen zu neuem Entscheid im Sinne der Erwägungen.
2.- Es werden keine Kosten erhoben.
3.- Der Kanton St. Gallen hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2'000. - zu entschädigen.
4.- Dieses Urteil wird der Beschwerdeführerin, dem Justiz- und Polizeidepartement sowie dem Verwaltungsgericht des Kantons St. Gallen und dem Eidgenössischen Justiz- und Polizeidepartement (Bundesamt für Ausländerfragen) schriftlich mitgeteilt.
_
Lausanne, 25. Februar 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: