hat sich ergeben:
A.- Der am 13. Januar 1944 geborene A._, Staatsangehöriger der Bundesrepublik Jugoslawien, reiste 1969 in die Schweiz ein. Er hat die Niederlassungsbewilligung.
Aus der 1974 geschlossenen Ehe mit B._ ging der Sohn C._, geboren am 7. April 1976, hervor. Im Jahre 1982 wurde die Ehe in Jugoslawien geschieden, und C._ wurde unter die elterliche Gewalt des Vaters gestellt. Dieser brachte C._, der die ersten sechs Lebensjahre bei seinen Eltern in der Schweiz verbracht hatte, nach Novi Sad zu seiner Grossmutter väterlicherseits. Dort besuchte C._ die Volksschule und anschliessend eine Schule für Grafik und Design. 1989 starb die Grossmutter. In der Folge lebte C._ (angeblich allein) in der Wohnung seiner Grossmutter, teilweise bei Bekannten.
B.- Am 25. Februar 1994 stellte A._ ein Gesuch um Einreise- bzw. Niederlassungsbewilligung für seinen Sohn C._. Am 11. Januar 1995 reiste dieser mit einem gültigen Visum in die Schweiz ein, wo er sich jedoch nur eine Woche aufhielt, um wieder in seine Heimat zurückzukehren, wo er, wie sich später herausstellte, seine Grafikerausbildung weiterführte. In der Folge erneuerten A._ und C._ das Gesuch um Niederlassungsbewilligung mehrfach.
Nach mehrmaligem Briefwechsel zwischen der Fremdenpolizei des Kantons Zürich und A._ meldete dieser seinen Sohn C._ am 26. September 1995 rückwirkend auf den 31. Juli 1995 bei der Einwohnerkontrolle ab. Auf erneute Gesuche um Niederlassungsbewilligung, und nachdem A._ zwischenzeitlich den Ombudsmann des Kantons Zürich angerufen hatte, welcher sich wiederum an die Fremdenpolizei wandte,
lehnte diese mit Verfügung vom 3. April 1997 die Erteilung einer Niederlassungsbewilligung ab. Bereits am 8. Februar 1997 war C._ mit einem Besuchervisum wieder in die Schweiz eingereist, wo er sich seither aufhält, da ihm in den nachfolgenden Rechtsmittelverfahren jeweils gestattet wurde, das Ergebnis des Verfahrens hier abzuwarten.
C.- Am 24. März 1999 wies der Regierungsrat des Kantons Zürich einen gegen die ablehnende Verfügung der Fremdenpolizei gerichteten Rekurs von A._ ab. Ebenso wies das Verwaltungsgericht des Kantons Zürich am 27. Oktober 1999 eine bei ihm erhobene Beschwerde ab.
D.- Mit Verwaltungsgerichtsbeschwerde vom 3. Januar 2000 an das Bundesgericht beantragt A._, der Entscheid des Verwaltungsgerichts vom 27. Oktober 1999 sei aufzuheben und dem Gesuch vom 25. Februar 1994 um Erteilung einer Niederlassungsbewilligung an seinen Sohn C._ sei stattzugeben.
Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Staatskanzlei beantragt für den Regierungsrat des Kantons Zürich Abweisung der Beschwerde. Das Bundesamt für Ausländerfragen stellt demgegenüber den Antrag, die Beschwerde sei gutzuheissen und die Sache an den Kanton zurückzuweisen zur neuen Beurteilung im Sinne der Erwägungen.
E.- Mit Verfügung vom 25. Januar 2000 hat der Präsident der II. öffentlichrechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung erteilt.

Das Bundesgericht zieht in Erwägung:
1.- a) Nach Art. 100 Abs. 1 lit. b Ziff. 3 OG ist die Verwaltungsgerichtsbeschwerde auf dem Gebiete der Fremdenpolizei unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt.
Gemäss Art. 4 ANAG entscheidet die zuständige Behörde, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt oder Niederlassung. Es besteht damit grundsätzlich kein Anspruch auf Erteilung einer Aufenthaltsbewilligung, es sei denn, der Ausländer könne sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen (<ref-ruling> E. 2a, 361 E. 1a; <ref-ruling> E. 1b, mit Hinweisen).
Gemäss Art. 17 Abs. 2 dritter Satz ANAG haben ledige Kinder unter 18 Jahren Anspruch auf Einbezug in die Niederlassungsbewilligung der Eltern, wenn sie mit diesen zusammen wohnen. Da der Sohn des Beschwerdeführers im Zeitpunkt der Gesuchseinreichung, worauf es im vorliegenden Zusammenhang ankommt (<ref-ruling> E. 1f; <ref-ruling> E. 1b), sein 18. Lebensjahr noch nicht vollendet hatte, ist auf die Verwaltungsgerichtsbeschwerde schon aus diesem Grunde einzutreten.
Der Beschwerdeführer beruft sich weiter auf Art. 8 EMRK mit der Begründung, er selber sei heute von seinem inzwischen 24-jährigen Sohn abhängig. Nach der Rechtsprechung setzt, abgesehen vom Verhältnis zwischen Ehegatten und zwischen Eltern und ihren minderjährigen Kindern, eine schützenswerte familiäre Beziehung, welche allenfalls gestützt auf Art. 8 EMRK zu einem Anspruch auf Anwesenheit führen
könnte, voraus, dass zwischen den betroffenen Angehörigen ein Abhängigkeitsverhältnis besteht (<ref-ruling> E. 1d; <ref-ruling> E. 2). Ob der Beschwerdeführer, wie er geltend macht, in der Weise von seinem Sohn abhängig ist, dass diesem deshalb die Anwesenheit in der Schweiz bewilligt werden müsste, ist fraglich, kann aber offen bleiben.
Sodann trägt das Bundesamt für Ausländerfragen vor, der Beschwerdeführer habe auch darum einen Anspruch auf Anwesenheitsbewilligung, weil ihm eine solche für seinen Sohn zugesichert worden sei. Nach der Rechtsprechung hat der Ausländer, dem eine Anwesenheitsbewilligung zugesichert worden ist, in der Tat grundsätzlich einen Rechtsanspruch darauf, dass ihm die Bewilligung auch erteilt wird, sofern dem nicht besondere Gründe entgegenstehen (<ref-ruling> E. 1). Da im vorliegenden Fall auf die Beschwerde ohnehin einzutreten ist, braucht im Rahmen der Prüfung der Zulässigkeit der Beschwerde nicht abschliessend entschieden zu werden, ob sich auch ein Anwesenheitsrecht aus behördlicher Zusicherung ergibt.
Die Frage ist aber wie diejenige, ob im konkreten Fall die Voraussetzungen zur Verfolgung des Anspruches erfüllt sind, unter materiellen Gesichtspunkten (vgl. <ref-ruling> E. 2b) zu behandeln. Offen bleiben kann im Übrigen auch, ob die Beschwerde allenfalls zusätzlich deshalb in Anwendung von Art. 101 lit. d OG zulässig wäre, weil das Vorgehen der Vorinstanzen als Widerruf einer begünstigenden Verfügung zu beurteilen ist (vgl. <ref-ruling> E. 1).
b) Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht, einschliesslich Überschreitung oder Missbrauch des Ermessens, sowie die unrichtige oder unvollständige Feststellung des rechtserheblichen Sachverhalts (Art. 104 lit. a und b OG), nicht jedoch die Unangemessenheit des angefochtenen Entscheids (vgl. Art. 104 lit. c OG)
gerügt werden. Hat - wie hier - eine richterliche Behörde als Vorinstanz entschieden, ist das Bundesgericht an deren Sachverhaltsfeststellung gebunden, sofern diese nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensgarantien ergangen ist (Art. 105 Abs. 2 OG).
c) Das Bundesgericht wendet im Verfahren der Verwaltungsgerichtsbeschwerde das Bundesrecht von Amtes wegen an; es ist gemäss Art. 114 Abs. 1 OG an die von den Parteien vorgebrachten Begründungen nicht gebunden und kann die Beschwerde auch aus anderen als den geltend gemachten Gründen gutheissen oder abweisen (<ref-ruling> E. 4a S. 117, mit Hinweis).
2.- a) Ausgangspunkt des vorliegenden Verfahrens ist das Gesuch des Beschwerdeführers um Nachzug seines Sohnes vom 25. Februar 1994. Dieses Gesuch wurde von der Fremdenpolizei des Kantons Zürich bearbeitet und führte am 8. Dezember 1994 zu einer Ermächtigung zur Visumserteilung für die Schweizer Vertretungen durch das Bundesamt für Ausländerfragen.
Die Vorinstanz hält dazu fest, der Sohn des Beschwerdeführers sei im Januar 1995 mit einem Besuchervisum in die Schweiz eingereist.
b) Abgesehen von hier nicht zutreffenden besonde-ren Fällen ist für die Visumserteilung das Bundesamt für Ausländerfragen zuständig (vgl. die heutige Regelung in Art. 18 Abs. 1 der Verordnung vom 14. Januar 1998 über Einreise und Anmeldung von Ausländerinnen und Ausländern, VEA; SR 142. 211). Schweizer Auslandvertretungen können lediglich Visa für längstens drei Monate dauernde Aufenthalte zu bestimmten Zwecken wie Tourismus oder Besuch selbständig ausstellen (<ref-law>).
c) Das Bundesamt für Ausländerfragen führt in seiner Vernehmlassung an das Bundesgericht aus, es stelle eine Ermächtigung zur Visumserteilung nur nach entsprechender elektronischer Übersteuerung des kantonalen Gesuchs mit Hilfe des Zentralen Ausländerregisters (ZAR; vgl. die Verordnung vom 23. November 1994 über das Zentrale Ausländerregister; ZAR-Verordnung, SR 142. 215; insbes. Art. 2 Abs. 2 lit. a) aus. Werde ein solches Gesuch übersteuert, sei davon auszugehen, dass der Kanton grundsätzlich zur Bewilligungserteilung bereit sei. Die anschliessende Ermächtigung durch das Bundesamt enthalte folglich die Zustimmung desselben zur Bewilligung.
d) Im vorliegenden Fall hat, wie aus der Ermächtigung vom 8. Dezember 1994 hervorgeht, das Bundesamt für Ausländerfragen die Zustimmung zur Erteilung einer Bewilligung C mit unbefristeter Anwesenheitsdauer, d.h. zu einer Niederlassungsbewilligung, gegeben. Die Bemerkung "Gesuchseinreichung vor 18. Altersjahr" weist darauf hin, dass von einem Nachzug in Anwendung von Art. 17 Abs. 2 dritter Satz ANAG ausgegangen wurde. Da Voraussetzung für die Ermächtigung zur Visumserteilung die grundsätzliche Zustimmung der kantonalen Behörden zur Bewilligungserteilung ist, muss geschlossen werden, dass die kantonale Fremdenpolizei dem Nachzugsgesuch vorweg prinzipiell stattgegeben hatte. Das Bundesamt für Ausländerfragen hat dem Bundesgericht mit seiner Vernehmlassung denn auch einen ZAR-Auszug vom 28. November 1994 eingereicht, aus dem unter anderem die Übersteuerung des kantonalen Gesuchs an das Bundesamt im vorliegenden Fall hervorgeht.
Daraus ergibt sich, dass sowohl die kantonale Fremdenpolizei als auch das Bundesamt Ende 1994 ihr Einverständnis mit der Erteilung einer Niederlassungsbewilligung bekundet und damit eine solche Erteilung in Aussicht gestellt hatten.
Demnach ist der Sohn des Beschwerdeführers im Januar 1995 nicht mit einem Besuchervisum, sondern mit einem Visum zu Niederlassungszwecken eingereist. Die entsprechende Sachverhaltsfeststellung des Verwaltungsgerichts ist offensichtlich unrichtig und kann vom Bundesgericht in Anwendung von Art. 105 Abs. 2 OG korrigiert werden.
3.- a) Nach Art. 6 Abs. 2 ANAV können der Ausländer, sein schweizerischer Arbeitgeber, oder wer sonst ein berechtigtes Interesse nachweist - insbesondere bereits hier ansässige Angehörige -, gegebenenfalls vom Ausland aus, ein Gesuch um Zusicherung einer Anwesenheitsbewilligung stellen.
Die Visumsermächtigung an eine Schweizer Vertretung durch das Bundesamt für Ausländerfragen in Anwendung von <ref-law> zum Zwecke der Niederlassung entspricht vom Zweck und Gehalt der Ermächtigung her der Zusicherung einer Anwesenheitsbewilligung bei nichtvisumpflichtigen Personen (Bundesamt für Ausländerfragen, Weisungen und Erläuterungen, Einreise, Aufenthalt und Niederlassung, Ziff. 22 ff.; vgl. auch <ref-ruling>; unveröffentlichtes Urteil des Bundesgerichts vom 25. September 1995 i.S. Lepore).
b) Der Ausländer, dem eine Anwesenheitsbewilli-gung zugesichert worden ist, hat - wie bereits in E. 1a dargelegt - grundsätzlich einen Rechtsanspruch darauf, dass ihm die Bewilligung auch erteilt wird, sofern dem nicht besondere Gründe entgegenstehen. Solche können sich aus einer analogen Anwendung der Regeln des Widerrufs fremdenpolizeilicher Bewilligungen ergeben (vgl. <ref-ruling> E. 2 und 3).
Da im vorliegenden Fall eine Niederlassungsbewilligung zugesichert war, geht es um eine sinngemässe Anwendung von Art. 9 Abs. 4 ANAG, wonach eine Niederlassungsbewilligung insbesondere dann widerrufen werden kann, wenn der Auslän- der sie durch falsche Angaben oder wissentliches Verschweigen wesentlicher Tatsachen erschlichen hat. Eine zugesicherte Bewilligung kann aber noch in weiteren Fällen verweigert werden, auch wenn die Zusicherung nicht erschlichen worden ist. Die Zusicherung ist keine vorbehaltlose Zustimmung zur Bewilligung, sondern die Behörden haben nach erfolgter Einreise die Pflicht und das Recht, die Voraussetzungen für die Bewilligungserteilung zu prüfen. In Anwendung von Art. 6 Abs. 1 ANAV sind nach der Einreise und der Anmeldung des Ausländers die Anwesenheitsverhältnisse zu regeln. Es ist zu entscheiden, ob eine Bewilligung erteilt wird und wel-cher Art diese sein soll. Dabei sind vor allem die wirklichen Absichten hinsichtlich des Zwecks und der Dauer der Anwesenheit festzustellen. Die Nichterteilung der Bewilligung stellt freilich einen Widerruf einer amtlichen Zusage dar, die nach dem Grundsatz von Treu und Glauben zu beurteilen ist (<ref-ruling> E. 4a S. 100). Die bindende Wirkung einer Zusage fällt sodann auch bei Vorliegen von Umständen, welche zum Erlöschen einer Bewilligung führen würden, dahin (vgl. zu den Erlöschensgründen für die Niederlassungsbewilligung Art. 9 Abs. 3 ANAG).
c) Dem Beschwerdeführer war Ende 1994 mit der Ermächtigung zur Visumserteilung die Ausstellung einer Niederlassungsbewilligung an seinen Sohn zugesichert worden. Dieser reiste am 11. Januar 1995 erstmals in die Schweiz ein, verliess diese aber nach nur rund einer Woche am 18. Januar 1995 bereits wieder und kehrte in seine Heimat zurück, wo er die Ausbildung weiterführte. Am 30. Januar 1995 stellte der Beschwerdeführer ein neues Gesuch um Niederlassungsbewilligung.
Es scheint, dass er davon ausging, das ursprüngliche Gesuch sei noch nicht behandelt worden, was in dem Sinne zutrifft, dass zwar die Zusicherung der Bewilligung vorlag, diese selber aber noch nicht erteilt worden war. Am 5. März
1995 reiste der Sohn wieder ein, und am 7. März 1995 erging ein neues Gesuch um Niederlassungsbewilligung. Am 1. April 1995 kehrte der Sohn erneut in die Heimat zurück. In der Folge kam es zu einem Schriftenwechsel zwischen der Fremdenpolizei und dem Beschwerdeführer über die Abwicklung des Nachzugsgesuchs. Vermutlich als Ergebnis der Diskussionen mit der Fremdenpolizei meldete der Beschwerdeführer am 26. September 1995 seinen Sohn rückwirkend per 31. Juli 1995 ab. Dabei schien er aber davon auszugehen, dass das Nachzugsgesuch weiter behandelt werde; es ist sogar anzunehmen, dass er die Abmeldung als Voraussetzung der Weiterbehandlung betrachtete. Die Fremdenpolizei erachtete demgegenüber das Gesuch als hinfällig, nahm das Verfahren aber im Jahre 1996 wieder auf, nachdem der Beschwerdeführer in der Zwischenzeit den Ombudsmann des Kantons Zürich angerufen hatte und dieser an die Fremdenpolizei gelangt war.
Offenbar verkannten beide Parteien die rechtliche Bedeutung der ursprünglichen Visumsermächtigung als Zusicherung der Bewilligung. Die Fremdenpolizei - wie in der Folge auch die Rechtsmittelinstanzen - behandelte die verschiedenen späteren Gesuche von Grund auf neu, und der Beschwerdeführer wandte dagegen nie ein, die Bewilligung sei ursprünglich ja behördlich zugesichert worden, nur sei es nie zu einem definitiven Entscheid in der Sache gekommen. Dass er mit dem Nachreichen weiterer Gesuche in der Sache insistierte, zeigt aber, dass ihm an einem materiellen Entscheid lag.
Soweit er mangels Niederlassungsbewilligung auch von einer Pflicht zur Wiederausreise ausgegangen sein sollte, ist zweifelhaft, ob er sich über die Bedeutung der (verschiedenen) Wiederausreisen bzw. der Abmeldung seines Sohnes im Klaren war. Fraglich ist aber auch, ob sich die Fremdenpolizei nicht bis zu einem gewissen Grad widersprüchlich verhalten hat, indem sie das Nachzugsgesuch ursprünglich durch
Übersteuerung an das Bundesamt unterstützte und davon in der Folge offenbar keine Kenntnis mehr nahm. Wie es sich damit verhält, kann im vorliegenden Verfahren jedoch offen bleiben.
d) Aufgrund der Ausgangslage hätten die Vorinstanzen nämlich untersuchen und prüfen müssen, ob die Voraussetzungen für einen Widerruf oder ein Erlöschen der Zusicherung der Niederlassungsbewilligung vorlagen. Die von ihnen einzig behandelte Frage der Bewilligung des Familiennachzugs stellt sich nur, wenn davon auszugehen ist, dass die infolge des ersten Nachzugsgesuchs ergangene Zusicherung der Bewilligung zulässigerweise widerrufen wurde oder erloschen ist und damit ein nachträglich neu eingereichtes Gesuch zum Entscheid anstand. Damit haben sich die Vorinstanzen aber überhaupt nicht auseinander gesetzt.
Im Rahmen des vorliegenden Verfahrens steht es dem Bundesgericht nicht frei, anstelle der Vorinstanzen über die sich vorweg stellenden Fragen des Widerrufs bzw.
des Erlöschens zu entscheiden. Der Widerruf als Gestaltungsverfügung und die Feststellung des Erlöschens in Form einer Feststellungsverfügung (vgl. dazu das unveröffentlichte Urteil des Bundesgerichts vom 1. März 1999 i.S. Pantelic) bilden andere Hoheitsakte als der Entscheid über die Gewährung bzw. Verweigerung einer Bewilligung. Im Verfahren der Verwaltungsgerichtsbeschwerde sind nur Rechtsverhältnisse zu überprüfen bzw. zu beurteilen, zu denen die zuständige Verwaltungs- und eventuell Verwaltungsgerichtsbehörde (vgl.
insbes. Art. 98a OG) vorgängig verbindlich - in Form einer Verfügung - Stellung genommen hat. Insoweit bestimmt die Verfügung den beschwerdeweise weiterziehbaren Anfechtungsgegenstand.
Umgekehrt fehlt es an einem Anfechtungsgegenstand und somit an einer Sachurteilsvoraussetzung, wenn und
soweit keine Verfügung ergangen ist (<ref-ruling> E. 1b S. 36, mit Hinweisen; gleich auch das unveröffentlichte Urteil des Bundesgerichts vom 1. März 1999 i.S. Pantelic).
Nachdem sich die Vorinstanzen im vorliegenden Fall zum Widerruf bzw. Erlöschen nie geäussert haben, fehlt es an dieser Voraussetzung.
Die Sache muss demnach vom Kanton im Sinne der vorliegenden Erwägungen neu abgeklärt und entschieden werden.
Da sich bisher keine kantonale Instanz mit der massgeblichen Frage befasst hat, rechtfertigt sich eine Rückweisung an die Fremdenpolizei (vgl. Art. 114 Abs. 2 OG).
4.- Die Verwaltungsgerichtsbeschwerde ist gutzuheissen, das Urteil des Verwaltungsgerichts (2. Abteilung, 2. Kammer) vom 27. Oktober 1999 aufzuheben und die Sache an die Fremdenpolizei des Kantons Zürich zurückzuweisen zu neuem Entscheid im Sinne der Erwägungen.
Bei diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 156 Abs. 2 OG). Hingegen hat der Kanton Zürich den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 159 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird gutgeheissen, das Urteil des Verwaltungsgerichts (2. Abteilung,
2. Kammer) vom 27. Oktober 1999 wird aufgehoben, und die Sache wird an die Fremdenpolizei des Kantons Zürich zurückgewiesen zu neuem Entscheid im Sinne der Erwägungen.
2.- Es werden keine Kosten erhoben.
3.- Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4.- Dieses Urteil wird dem Beschwerdeführer, dem Regierungsrat und dem Verwaltungsgericht (2. Abteilung, 2. Kammer) des Kantons Zürich sowie dem Eidgenössischen Justiz- und Polizeidepartement (Bundesamt für Ausländerfragen) schriftlich mitgeteilt.
_
Lausanne, 16. Mai 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: