Kostenersatz in der Unterstützungsangelegenheit G._, hat sich ergeben:
A.-Der 1993 geborene G._ lebte zunächst in Kreuzlingen bei seiner Mutter, der auch die elterliche Gewalt bzw. Obhut zusteht. Am 1. September 1996 wurde er bei einer Pflegefamilie in Sulgen fremdplatziert, wofür die Fürsorgekommission der Stadt Kreuzlingen am 11. April 1996 subsidiäre Kostengutsprache erteilt hatte. Am 1. November 1997 zog die Mutter nach Zürich. G._ blieb vorerst bei der bisherigen Pflegefamilie. Da sich das Pflegeverhältnis in dieser Familie aber nicht weiterführen liess, versuchten die Zürcher Fürsorgebehörden zunächst, ihn bei einer Pflegefamilie in Zürich unterzubringen. Vom 26. Februar bis zum 26. Juli 1998 weilte er im Kinderhaus Entlisberg in Zürich; seit dem 27. Juli 1998 ist er im Stadtzürcher Jugendheim Neumünsterallee, Zürich, platziert.
B.- Schon am 3. Dezember 1997 hatte das Jugendsekretariat Waidberg in Zürich die Fürsorgekommission Kreuzlingen um Übernahme der anfallenden Fremdplatzierungskosten ersucht. Zur Begründung wies sie darauf hin, dass der Unterstützungswohnsitz G._s nach Art. 7 Abs. 3 lit. c des Bundesgesetzes über die Zuständigkeit für die Unterstützung Bedürftiger vom 24. Juni 1977 (Zuständigkeitsgesetz, ZUG; SR 851. 1) sich weiterhin in Kreuzlingen befinde. Die Fürsorgekommission Kreuzlingen erachtete sich jedoch nicht für zuständig und hielt an diesem Standpunkt auch in der Folge fest. Am 10. September 1998 erstattete die Direktion der Fürsorge des Kantons Zürich dem zuständigen Departement des Kantons Thurgau eine Unterstützungsanzeige gemäss Art. 30 ZUG (Anzeige in Notfällen) und verlangte unter Hinweis auf den nach Art. 7 Abs. 3 lit. c ZUG in Kreuzlingen verbliebenen Unterstützungswohnsitz G._s die Rückerstattung der seit November 1997 bis und mit Juni 1998 aufgelaufenen Kosten von total Fr. 24'629. 80. Innert der 30-tägigen Frist wurde hiegegen weder seitens der Stadt Kreuzlingen noch des Kantons Thurgau Einsprache nach Art. 33 ZUG erhoben.
C.- Mit Schreiben vom 30. November 1998 ersuchte die Fürsorge der Stadt Kreuzlingen das Fürsorgeamt des Kantons Thurgau um Einleitung eines Verfahrens um Richtigstellung nach Art. 28 ZUG. Sie machte gestützt auf verschiedene Gründe geltend, dass der vorliegende Fall offensichtlich unrichtig geregelt sei. Das Fürsorgeamt des Kantons Thurgau stellte der Direktion der Fürsorge des Kantons Zürich mit Schreiben vom 17. Dezember 1998 ein entsprechendes Gesuch. Darin legte es unter anderem dar, dass die Interkantonale Vereinbarung über Vergütungen an Betriebsdefizite und die Zusammenarbeit zugunsten von Kinder- und Jugendheimen sowie von Behinderteneinrichtungen vom 2. Februar 1984 (Heimvereinbarung; IHV) anwendbar sei, sodass die Unterstützungswohnsitzgemeinde richtigerweise nur für das Kostgeld von rund Fr. 25.--/Tag aufzukommen habe. Es bezweifelte auch, dass überhaupt eine ununterbrochene Fremdplatzierung im Sinne von Art. 7 Abs. 3 lit. c ZUG vorliege.
D.- Gegen dieses Richtigstellungsbegehren erhob die Direktion für Soziales und Sicherheit (bis Ende 1998: Fürsorgedirektion) des Kantons Zürich am 11. Januar 1999 Einsprache nach Art. 33 ZUG beim Fürsorgeamt des Kantons Thurgau. Sie machte geltend, dass die zur Begründung des Richtigstellungsbegehrens herangezogenen Einwände mit fristgerechter Einsprache geltend zu machen gewesen wären, und sie bestritt, dass der vorliegende Fall offensichtlich unrichtig geregelt sei. Die Heimvereinbarung erachtete sie nicht als anwendbar, da diese auf den zivilrechtlichen Wohnsitz abstelle. Der zivilrechtliche Wohnsitz G._s befinde sich bei seiner im Kanton Zürich wohnhaften Mutter. Somit liege insoweit keine ausserkantonale Heimplatzierung im Sinne der Heimvereinbarung vor.
E.- Mit Entscheid vom 10. März 1999 wies das Fürsorgeamt des Kantons Thurgau die Einsprache ab. Es erwog im Wesentlichen, dass zufolge falscher Bezeichnung des Unterbringungsortes G._s auf der Unterstützungsanzeige erst nach Ablauf der durch diese Anzeige eröffneten Einsprachefrist erkennbar geworden sei, dass das fragliche Heim auf der Heimliste aufgeführt und somit die Heimvereinbarung anwendbar sei. Dadurch habe sich für die Finanzierung des Heimaufenthalts ein neuer Gesichtspunkt ergeben, der zeige, dass der Fall offensichtlich unrichtig geregelt und eine Richtigstellung gerechtfertigt sei. Die Frage, ob eine ausserkantonale Heimplatzierung vorliege, sei, wenn schon, aus der Optik des unterstützungsrechtlichen Wohnsitzes zu beurteilen. Zudem hätten zwischenzeitliche Abklärungen ergeben, dass keine ununterbrochene Fremdplatzierung vorliege, sodass Kreuzlingen nicht mehr Unterstützungswohnsitz sei und eine Kostenbeteiligung auch deshalb entfalle.
F.- Gegen diesen Entscheid beschwerte sich die Direktion für Soziales und Sicherheit des Kantons Zürich beim Eidgenössischen Justiz- und Polizeidepartement. Dieses hiess am 2. September 1999 die Beschwerde gut und hob den Einspracheentscheid des Fürsorgeamtes des Kantons Thurgau vom 10. März 1999 auf.
G.- Der Kanton Thurgau, vertreten durch sein Departement für Finanzen und Soziales, führt mit Eingabe vom 1. Oktober 1999 Verwaltungsgerichtsbeschwerde beim Bundesgericht und beantragt:
"1. Es sei der Entscheid des EJPD vom 2. September 1999 aufzuheben.
2. Der Beschwerdegegner sei zu verpflichten, ab Unterbringung
von G._ im "Stadtzürcher
Jugendheim Neumünsterallee" in Zürich für deren
Kosten aufzukommen, soweit diese über das Kostgeld
von rund Fr. 25.-- pro Tag hinausgehen;
unter Kosten- und Entschädigungsfolgen. "
Die Direktion für Soziales und Sicherheit des Kantons Zürich sowie das Eidgenössische Justiz- und Polizeidepartement schliessen auf Abweisung der Beschwerde.

Das Bundesgericht zieht in Erwägung:
1.- a) Das Bundesgericht prüft frei und von Amtes wegen, ob die Eintretensvoraussetzungen eines bei ihm anhängig gemachten und gegebenenfalls welchen Rechtsmittels oder Rechtsbehelfs gegeben sind (<ref-ruling> E. 1, mit Hinweis).
b) Gemäss Art. 97 Abs. 1 OG beurteilt das Bundesgericht Verwaltungsgerichtsbeschwerden gegen Verfügungen im Sinne von Art. 5 VwVG, sofern sie von einer der in Art. 98 OG genannten Vorinstanzen ausgehen und keiner der in Art. 99 ff. OG oder in der Spezialgesetzgebung vorgesehenen Ausschlussgründe vorliegt. Der angefochtene Entscheid beruht auf Bundesverwaltungsrecht, indem er in Anwendung von Art. 28 ZUG die Voraussetzungen der Richtigstellung einer rechtskräftigen Unterstützungsanzeige ablehnt, die sich ihrerseits auf Art. 7 Abs. 3 lit. c ZUG stützte. Das Eidgenössische Justiz- und Polizeidepartement ist eine Vorinstanz nach Art. 98 lit. b OG, und eine Ausnahme nach den Art. 99 ff. OG ist nicht gegeben.
c) Der Beschwerdeführer ist nach Art. 103 lit. c OG in Verbindung mit Art. 34 ZUG zur Verwaltungsgerichtsbeschwerde legitimiert, da die vom Gesetzgeber vorgesehene Möglichkeit der Verwaltungsgerichtsbeschwerde zwingend auch die Legitimation des beschwerten Kantons voraussetzt.
d) Als Beschwerdegründe fallen die Verletzung von Bundesrecht unter Einschluss der Überschreitung oder des Missbrauchs des Ermessens (Art. 104 lit. a OG) sowie die unrichtige oder unvollständige Feststellung des rechtserheblichen Sachverhalts (Art. 104 lit. b OG) in Betracht. Dagegen kann das Bundesgericht die Angemessenheit des angefochtenen Entscheides nicht überprüfen, da keiner der in Art. 104 lit. c OG genannten Fälle vorliegt.
Bei der Auslegung und Anwendung des Zuständigkeitsgesetzes handelt es sich um eine bundesrechtliche Frage. Eine Bundesrechtsverletzung kann dabei auch gegeben sein, wenn dieses Gesetz auf einen Sachverhalt angewendet wird, für den es nicht einschlägig ist. Dagegen ist die Auslegung und Anwendung der Heimvereinbarung keine Frage des Bundesrechts.
e) Nach Art. 113 in Verbindung mit Art 96 Abs. 3 OG ist die in der Hauptsache zuständige Behörde auch für Vorfragen zuständig, selbst wenn diese Rechtsgebiete betreffen, für welche die Behörde hauptfrageweise nicht zuständig ist (<ref-ruling> E. 1 S. 118; 76 IV 109 E. 1 S. 114; Wilhelm Birchmeier, Bundesrechtspflege, Zürich 1950, S. 410 ff., 412 ff.). Darunter kann auch die nicht bundesrechtliche Frage der Anwendbarkeit und Auslegung der Heimvereinbarung fallen, soweit dies zur Beurteilung der Voraussetzungen der Richtigstellung nach Art. 28 ZUG erforderlich ist.
f) Im Übrigen ist die Anwendbarkeit und Auslegung der Heimvereinbarung eine konkordatsrechtliche Frage. Solche Fragen können Gegenstand einer staatsrechtlichen Klage nach Art. 189 Abs. 1 lit. d BV (vgl. Art. 113 Abs. 1 Ziff. 2 aBV) in Verbindung mit Art. 83 lit. b OG bilden. Da das Bundesgericht seine Zuständigkeit und die Frage des anwendbaren Rechtsmittels von Amtes wegen und frei prüft, kann das Bundesgericht die vorliegende Eingabe allenfalls als staatsrechtliche Klage entgegennehmen, soweit sich dies als erforderlich erweist; die Verwaltungsgerichtsbeschwerde ist gegenüber der staatsrechtlichen Klage subsidiär (Art. 102 lit. a OG). Gegenstand der staatsrechtlichen Klage nach Art. 83 lit. b OG können alle öffentlichrechtlichen (nicht bundesverwaltungsrechtlichen) Streitigkeiten zwischen Kantonen sein, einschliesslich solche verwaltungsrechtlicher Natur (Walter Haller, in Kommentar BV, Rz. 28 zu Art. 113; sinngemäss wohl auch Walther Burckhardt, Kommentar der schweizerischen Bundesverfassung vom 29. Mai 1874, 3. Aufl. Bern 1931, S. 778). Darunter fallen auch Streitigkeiten über Tragweite und Auslegung interkantonaler Vereinbarungen (vgl. Haller, a.a.O., Rz. 29 f.; Birchmeier, a.a.O., S. 288 f., Burckhardt, a.a.O., S. 778).
Die im vorliegenden Zusammenhang als Parteien auftretenden Kantone Thurgau und Zürich sind im Verfahren der staatsrechtlichen Klage parteifähig (Birchmeier, a.a.O., S. 300) und machen rechtliche Interessen geltend (Birchmeier, a.a.O., S. 286). Die Rechtsfragen, welche sich im Zusammenhang mit der Heimvereinbarung ergeben, können somit nötigenfalls sogar hauptfrageweise mitgeprüft werden, da wegen der in beiden Fällen gegebenen Zuständigkeit des Bundesgerichts einer allenfalls erforderlichen Verfahrensvereinigung nichts entgegensteht (vgl. Art. 40 OG in Verbindung mit Art. 24 Abs. 1 BZP).
2.- Vorab zu entscheiden ist, ob die Voraussetzungen einer Richtigstellung nach Art. 28 ZUG gegeben sind. Diese
Bestimmung lautet:
"Ein beteiligter Kanton kann eine Richtigstellung
verlangen, wenn ein Unterstützungsfall offensichtlich
unrichtig geregelt oder beurteilt worden ist.
...
Der Anspruch auf Richtigstellung besteht nur für
Unterstützungsleistungen, die in den letzten fünf
Jahren vor dem Begehren ausgerichtet worden sind. "
Die Richtigstellung wird sowohl in der bundesrätlichen Botschaft vom 17. November 1976 zum Zuständigkeitsgesetz (BBl 1976 III S. 1193 ff., S. 1214, Ziff. 254) als auch in der Literatur (Werner Thomet, Kommentar zum Bundesgesetz über die Zuständigkeit für die Unterstützung Bedürftiger, 2. Aufl. Zürich 1994, Rz. 272) sinngemäss als ein der Revision nachgebildetes Rechtsinstitut bezeichnet. Indes beschränkt sich die Richtigstellung nicht auf die klassischen Revisionsgründe, wie sie etwa in Art. 136 f. OG oder in Art. 66 VwVG enthalten sind. Vielmehr soll nach der zitierten Botschaft ein Kanton die Richtigstellung verlangen können, sobald er entdeckt, dass die bisherige Regelung des Falls, auf die sich die Kantone ausdrücklich oder stillschweigend geeinigt hatten, auf einem Sachverhalt beruhte, den sie irrtümlich als richtig betrachteten.
Ob die in der Literatur vertretene Auffassung, dass es bei der Richtigstellung nicht um eine Änderung von Art oder Mass der Unterstützung, sondern (nur) um die Berichtigung des für die Beurteilung der Unterstützungs- oder Kostenersatzpflicht eines Kantons massgebenden Tatbestandes sowie um die Rechtsfolgen dieser Berücksichtigung gehe (vgl. Thomet, a.a.O., Rz. 272; ähnlich auch Peter Stadler, Erläuterungen zur Richtigstellung im ZUG, ZeSo 12/1998, S. 193 ff.), in dieser Allgemeinheit richtig ist, kann offen bleiben. Jedenfalls hebt die gesetzlich vorgesehene Möglichkeit der Richtigstellung die allgemeinen Grundsätze des Verwaltungsrechts, insbesondere die sich aus der formellen Rechtskraft von Verfügungen ergebenden Folgen nicht auf. Aus Art. 28 ZUG lässt sich daher nicht ein vorbehaltloser Anspruch auf Korrektur sachlich nicht voll befriedigender Unterhaltsregelungen ableiten, mit dem sich die Folgen einer versäumten Rechtsmittelfrist jederzeit rückgängig machen lassen. Vielmehr folgt aus dem in Art. 28 ZUG verwendeten Ausdruck "offensichtlich", dass qualifizierte Gründe für eine Richtigstellung sprechen müssen und es nicht ausreicht, wenn sich eine andere Lösung ebenfalls mit sachlichen Erwägungen vertreten lässt.
3.- a) Im vorliegenden Verfahren begründet der Beschwerdeführer die Richtigstellung vor dem Bundesgericht nur noch mit der Anwendbarkeit der Heimvereinbarung und dem Argument, die Fürsorge Kreuzlingen habe wegen der falschen Bezeichnung auf der Unterstützungsanzeige ("Kinderheim Münsterallee" statt "Stadtzürcher Jugendheim Neumünsterallee") keinen Anlass gehabt, von der Anwendbarkeit der Heimvereinbarung auszugehen und die Unterstützungsanzeige anzufechten, da die IHV-Liste ein "Kinderheim Münsterallee" nicht aufführe. Sei aber die Heimvereinbarung anwendbar, so könnten dem Unterstützungswohnsitz Kreuzlingen nicht die ganzen Kosten der Unterbringung G._s in diesem Heim, sondern lediglich ein Kostgeld auferlegt werden. Die übrigen Argumente, auf die er sich zuvor berufen hatte - die Fremdplatzierung sei seit 1996 unterbrochen worden und Kreuzlingen daher nicht mehr Unterstützungswohnsitz, und die zuständigen Kreuzlinger Behörden seien von den handelnden Zürcher Stellen vor dem Entscheid über die Platzierung G._s nicht konsultiert worden - hat der Beschwerdeführer fallen lassen.
b) Der Beschwerdeführer macht geltend, er habe wegen der falschen Bezeichnung des Unterbringungsortes G._s nicht erkennen können, dass richtigerweise die Kostentragungsgrundsätze der Heimvereinbarung und nicht des Zuständigkeitsgesetzes anwendbar seien. Diese Argumentation stellt bei richtiger Betrachtung nicht so sehr einen Anlass für eine Richtigstellung nach Art. 28 ZUG dar, die an sich (qualifizierte) materielle Gründe voraussetzt, sondern ähnelt seiner Art nach eher einem Grund zur Wiederherstellung einer versäumten Rechtsmittelfrist (vgl. etwa Art. 35 OG oder Art. 24 VwVG). Für eine Wiederherstellung wird regelmässig verlangt, dass der Gesuchsteller wegen eines unverschuldeten Hindernisses oder wenigstens in entschuldbarer Weise eine Frist nicht eingehalten hat. Aber auch diesfalls sind gewisse Fristen ab Entdeckung des Wiederherstellungsgrundes einzuhalten, und die versäumte Prozesshandlung muss entweder zugleich oder innert Nachfrist nachgeholt werden. Wie es sich damit verhält, kann jedoch offen bleiben, weil der behauptete Umstand, dass die Fürsorgebehörde Kreuzlingen die Anwendbarkeit der Heimvereinbarung wegen der falschen Bezeichnung in der Unterstützungsanzeige nicht erkannt haben will, nicht unverschuldet oder entschuldbar ist. Zunächst war im Begleitbrief vom 10. September 1998 zur Unterstützungsanzeige das Heim mit seinem richtigen Namen genannt (ausser dass von "Kinderheim" statt von "Jugendheim" die Rede war). Die Stellungnahme der Fürsorgekommission Kreuzlingen lässt sodann, wie der angefochtene Entscheid zu Recht darlegt, darauf schliessen, dass diese sich die Frage der Anwendbarkeit der Heimvereinbarung schon unmittelbar nach Zugang der Unterstützungsanzeige im September 1998 gestellt hat. Zudem war die Zuständigkeitsfrage schon seit Dezember 1997 streitig, was seinerseits erhöhte Aufmerksamkeit nahelegte. Unter diesen Umständen fehlt es an einem Wiederherstellungsgrund, der rechtfertigen würde, die streitige Frage gleich wie in einem ordentlichen Rechtsmittelverfahren gegen die Sachverfügung (hier die Unterstützungsanzeige) in vollem Umfang frei zu prüfen.
4.- Zu entscheiden bleibt, ob der angefochtene Entscheid und damit die Auffassung, dass die Gemeinde Kreuzlingen als Unterstützungswohnsitz G._s nach wie vor für dessen Unterbringung kostenpflichtig sei, als offensichtlich unrichtig im Sinne von Art. 28 ZUG anzusehen ist.
a) Nachdem heute nicht mehr bestritten wird, dass G._ seit dem 1. September 1996 ununterbrochen fremdplatziert ist, muss davon ausgegangen werden, dass Kreuzlingen nach wie vor Unterstützungswohnsitz von G._ ist. Damit ist die Gemeinde Kreuzlingen für seine Unterstützung in Anwendung von Art. 1 Abs. 1 ZUG zuständig. Daran ändert nichts, dass G._ inzwischen zivilrechtlichen Wohnsitz im Kanton Zürich hat, wo seine Mutter, der die elterliche Gewalt bzw. Obhut weiterhin zusteht, heute wohnt. Es fragt sich einzig, ob sich aus der vom Beschwerdeführer angerufenen Heimvereinbarung ergibt, dass die aus dem Zuständigkeitsgesetz gezogenen Folgerungen offensichtlich nicht zutreffen. Das Bundesgericht ist, wie dargelegt (vgl. E. 1e), gemäss Art. 113 in Verbindung mit Art. 96 Abs. 3 OG zumindest zur vorfrageweisen Beurteilung dieser Frage zuständig.
b) Bundesrecht geht kantonalem Recht - und damit auchKonkordatsrecht - vor (Art. 48 Abs. 3 und 49 Abs. 1 BV; Art. 2 ÜbBest. aBV). Konkordatsrecht könnte daher nicht eine bundesgesetzliche Regelung in allgemeinverbindlicher Weise abändern oder einschränken. Die im Zuständigkeitsgesetz enthaltenen Bestimmungen über die Zuständigkeit zur Unterstützung Bedürftiger (Art. 1 und 14 ff. ZUG) und zum Unterstützungswohnsitz (Art. 4 ff. ZUG) sind vorbehaltlos formuliert. Dies lässt eine einschränkende Auslegung in dem Sinne, dass abweichende interkantonale Vereinbarungen vorbehalten bleiben, als ausgeschlossen erscheinen; es fehlt an einem Vorbehalt kantonalen (oder interkantonalen) Rechts.
c) Art. 3 Abs. 3 IHV sieht allerdings vor, dass die Vereinbarungskantone im Rahmen der Anwendbarkeit dieses Konkordats darauf verzichten, die bei Unterbringung von Kantonseinwohnern in einem ausserkantonalen Heim nach Abs. 1 und 2 zu vergütenden Betriebsdefizitanteile nach dem Zuständigkeitsgesetz zurückzufordern. Dies zeigt, dass diese Vereinbarung die Rechtslage gemäss diesem Gesetz gar nicht abändern will - was sie aus den bereits dargelegten Gründen auch nicht könnte -, sondern dass die Vereinbarungskantone aus praktischen Erwägungen rechtsgeschäftlich auf eine ihnen bundesgesetzlich eingeräumte Möglichkeit gegenseitig verzichten, um die interkantonale Kooperation zu erleichtern. Die vom Beschwerdeführer eingereichten Erläuterungen zur Heimvereinbarung (überschrieben als Kommentar zur Heimvereinbarung ohne Angaben zu Autor und Erscheinungsort und -jahr) verweisen denn auch darauf, dass es sich bei der Heimvereinbarung um eine blosse Verwaltungsvereinbarung ohne allgemeinverbindlichen (d.h. rechtsetzenden) Charakter handle. Inwieweit auch solche blosse Verwaltungsvereinbarungen als verbindliche, eine bundesgesetzliche Normierung (rechtsgeschäftlich) einschränkende Entscheidregeln eines interkantonalen Rechtsstreits dienen können, braucht indes nur dann näher geklärt zu werden, wenn sich zeigen würde, dass der angefochtene Entscheid in offensichtlicher Weise dem Sinn dieser Vereinbarung zuwiderliefe, was jedoch zu verneinen ist.
d) Zwischen den Parteien ist an sich unbestritten, dass die Heimvereinbarung grundsätzlich auf den zivilrechtlichen Wohnsitz abstellt. Allerdings ziehen sie daraus unterschiedliche Schlüsse. Der Beschwerdegegner nimmt gestützt darauf an, dass gar kein der Heimvereinbarung unterstehender interkantonaler Tatbestand gegeben sei, da der zivilrechtliche Wohnsitz von G._ im Kanton Zürich liege und er auch dort untergebracht sei. Der Beschwerdeführer geht demgegenüber davon aus, dass die Frage, ob eine Heimunterbringung als ausserkantonal zu bezeichnen sei oder nicht, immer vom Standpunkt des ursprünglich fremdplatzierenden Kantons aus beurteilt werden müsse. Die Heimvereinbarung bezwecke in Übereinstimmung mit der Auslegung des Eidgenössischen Justiz- und Polizeidepartements den Ausgleich der Kostentragung von Heimen unter den Vereinbarungskantonen. Vorliegend werde vom Kanton Thurgau für eine Heimunterbringung in einer der Heimvereinbarung unterstehenden Institution im Kanton Zürich Kostentragung verlangt. Dieser interkantonale Tatbestand stelle eine die Kantonsgrenzen überschreitende Finanzierung dar und falle somit offensichtlich unter die Regelung der Heimvereinbarung. Diese bestimme, dass das Restdefizit von dem Kanton zu tragen sei, in dem die im Heim untergebrachte Person zivilrechtlichen Wohnsitz habe. Da eine Heimunterbringung stets mit einer Fremdplatzierung verbunden sei und nach dem Zuständigkeitsgesetz der Unterstützungswohnsitz eines fremdplatzierten Kindes andaure, finde im Falle der Verlegung des zivilrechtlichen Wohnsitzes ein Splitting der Kosten statt.
Die Heimvereinbarung kann von vornherein nur dann zur Anwendung gelangen, wenn ein interkantonaler Sachverhalt gegeben ist. Dieser liegt im zu beurteilenden Fall insoweit vor, als der Kanton des Unterstützungswohnsitzes (Beschwerdeführer) und derjenige des zivilrechtlichen Wohnsitzes (Beschwerdegegner) nicht identisch sind. Soweit die Heimvereinbarung ausschliesslich auf den zivilrechtlichen Wohnsitz abstellen sollte - wie es die Vorinstanz im angefochtenen Entscheid und der Beschwerdegegner darlegen und wofür unter anderem Hinweise im genannten Kommentar zur Heimvereinbarung sprechen -, liegt keine ausserkantonale Platzierung im Sinne dieser Vereinbarung vor. Wäre aber mit dem Beschwerdeführer die Frage, ob eine ausserkantonale Heimunterbringung anzunehmen sei, vom Standpunkt des ursprünglich fremdplatzierenden Kantons aus zu beurteilen, so schiene, wenn schon, die Konsequenz naheliegender, dass dieser Kanton - zumal er ja der Kanton des Unterstützungswohnsitzes ist - die entsprechenden Anteile am Betriebsdefizit (Art. 14 i.V.m. Art. 3 IHV) und nicht (nur) Kostgelder zu tragen hätte. Diese Konsequenz zieht der Beschwerdeführer aber nicht. Seine Lösung, die zwar mit Bezug auf die Frage, ob eine ausserkantonale Platzierung vorliege, auf die Optik des ursprünglich fremdplatzierenden Kantons abstellt, diesen dann aber - obwohl er nach wie vor Unterstützungswohnsitz ist - lediglich zu einem Kostgeld verpflichten will, erscheint gegenteils als geradezu methodendualistisch und lässt den angefochtenen Entscheid jedenfalls nicht als offensichtlich unrichtig erscheinen.
5.- Damit erweist sich die Verwaltungsgerichtsbeschwerde als unbegründet. Dies gilt auch insoweit, als sie allenfalls als staatsrechtliche Klage entgegenzunehmen wäre.
Bei diesem Verfahrensausgang wird der beschwerdeführende Kanton Thurgau kostenpflichtig, da es sich um eine vermögensrechtliche Sache handelt (Art. 156 Abs. 1 und 2 OG). Eine Parteientschädigung entfällt, da der Kanton Zürich seine Sache - zumutbarerweise - selber durch seine Verwaltung vertreten hat.

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000. -- wird dem Kanton Thurgau auferlegt.
3.- Dieses Urteil wird dem Kanton Thurgau (Departement für Finanzen und Soziales), dem Kanton Zürich (Direktion für Soziales und Sicherheit, Sozialamt, Abteilung Öffentliche Fürsorge) und dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
_
Lausanne, 9. März 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: