Sachverhalt:
A.
A.a. A._ ersuchte das Amt für Gesundheit des Kantons Thurgau (im Weiteren auch: Gesundheitsamt) am 1. Oktober 2015, ihm eine Berufsausübungsbewilligung als selbständiger Osteopath zu erteilen. Das Gesundheitsamt teilte ihm am 12. Oktober 2015 mit, dass es zur weiteren Bearbeitung seines Gesuchs die Anerkennungsbestätigung der Schweizerischen Konferenz der kantonalen Gesundheitsdirektorinnen und -direktoren (im Weiteren auch: GDK) benötige. Am 28. November 2015 erklärte A._, er habe ein Gesuch um Anerkennung seiner ausländischen Berufsausbildung bei der GDK eingereicht und werde sich melden, sobald eine diesbezügliche Antwort eintreffe.
A.b. Eine Überprüfung des Internetauftritts der "Therapie A._" durch das Gesundheitsamt im September 2018 ergab, dass A._ neben Physio- auch Osteopathiebehandlungen anbot. Am 28. September 2018 forderte ihn das Gesundheitsamt auf, über den Ausgang des Anerkennungsverfahrens bei der GDK zu informieren. Am 11. Dezember 2018 beantragte A._ dem Gesundheitsamt, ihm "die gewünschte Bewilligung zu erteilen, auch wenn er die Voraussetzungen aufgrund des exakten Wortlauts der massgebenden Bestimmungen nicht vollumfänglich" erfülle.
B.
Das Departement für Finanzen und Soziales des Kantons Thurgau wies das Gesuch von A._ um Erteilung einer Bewilligung zur selbständigen Ausübung des Berufs als Osteopath am 28. März 2019 ab und wies ihn an, sämtliche bewilligungspflichtigen Tä tigkeiten als Osteopath im Kanton Thurgau per sofort einzustellen; diesbezügliche Anpreisungen seien unverzüglich zu entfernen. Die hiergegen gerichtete Beschwerde an das Verwaltungsgericht des Kantons Thurgau blieb ohne Erfolg (Urteil vom 18. September 2019 [VG.2019.60/E]).
C.
Mit Beschwerde vom 9. Dezember 2019 beantragt A._ vor Bundesgericht, das Urteil des Verwaltungsgerichts des Kantons Thurgau vom 18. September 2019 sei aufzuheben. Es sei festzustellen, dass die Verweigerung der nachgesuchten Bewilligung durch die Vorinstanz rechtswidrig war, und es seien die Vorinstanzen (insbesondere das Departement für Finanzen und Soziales des Kantons Thurgau) anzuweisen, ihm die Bewilligung zur selbständigen Berufsausübung als Osteopath im Kanton Thurgau zu erteilen; eventuell sei die Angelegenheit zur Prüfung der weiteren Voraussetzungen nebst dem Bestehen der Prüfung gemäss Reglement der Schweizerischen Konferenz der kantonalen Gesundheitsdirektorinnen und -direktoren für die interkantonale Prüfung von Osteopathen und Osteopathinnen (im Weiteren auch: GDK-Prüfung) an die Vorinstanz zurückzuweisen.
Das Verwaltungsgericht, das Departement für Finanzen und Soziales sowie das Gesundheitsamt des Kantons Thurgau beantragen, die Beschwerde abzuweisen.
Erwägungen:
1.
1.1. Die Eingabe des Beschwerdeführers richtet sich gegen ein kantonal letztinstanzliches, verfahrensabschliessendes Urteil in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a BGG, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG). Die Verweigerung der Berufsausübungsbewilligung wurde nicht gestützt auf eine Bewertung von intellektuellen oder physischen Fähigkeiten des Beschwerdeführers verfügt. Keine Anwendung findet deshalb Art. 83 lit. t BGG, der die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide über das Ergebnis von Prüfungen und anderen Fähigkeitsbewertungen ausschliesst (BGE 138 II 42 E. 1.1 S. 44; Urteil 2C_38/2018 vom 28. März 2019 E. 1.1). Da die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde - unter Vorbehalt der nachstehenden E. 1.2 - einzutreten (vgl. Art. 42, Art. 89 Abs. 1 und Art. 100 Abs. 1 BGG).
1.2. Neben der Aufhebung des vorinstanzlichen Urteils beantragt der Beschwerdeführer, es sei festzustellen, dass die Verweigerung der nachgesuchten Bewilligung durch die Vorinstanz rechtswidrig gewesen sei. Ein solches Feststellungsbegehren ist im bundesgerichtlichen Verfahren zulässig, sofern an der Feststellung ein schutzwürdiges Interesse besteht, das nicht ebenso gut mit einem Leistungs- oder Gestaltungsbegehren gewahrt werden kann (BGE 126 II 300 E. 2c S. 303; Urteil 2C_45/2019 vom 29. Januar 2020 E. 1.2). Der Antrag auf Aufhebung des angefochtenen Urteils würde im Fall einer Gutheissung der Beschwerde zum Schluss führen, dass eine Bewilligung zur selbständigen Ausübung des Berufs als Osteopath zu erteilen wäre. Damit würde implizit auch dem Feststellungsbegehren entsprochen, weshalb darauf nicht einzutreten ist.
1.3. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht kann die Verletzung von Bundesrecht und Völkerrecht gerügt werden (Art. 95 lit. a und lit. b BGG). Die Anwendung kantonalen Rechts wird vom Bundesgericht ausser in den Fällen von kantonalen verfassungsmässigen Rechten sowie kantonalen Bestimmungen über die politische Stimmberechtigung der Bürger und Bürgerinnen und über Volkswahlen und -abstimmungen (Art. 95 lit. c und d BGG) als solche nicht überprüft. Möglich ist nur die Rüge, die Anwendung kantonalen Rechts widerspreche dem Bundes-, Völker- oder interkantonalen Recht (Art. 95 lit. a, b und e BGG). Dies ist der Fall, wenn das angewendete kantonale Recht als solches dem übergeordneten Recht widerspricht, aber auch dann, wenn das an sich rechtskonforme kantonale Recht auf eine willkürliche Weise (Art. 9 BV) angewendet worden ist (BGE 142 II 369 E. 2.1 S. 372; 138 I 143 E. 2 S. 149 f.). Ob eine willkürfreie auf kantonales Recht gestützte Anordnung einen Eingriff in die von der Bundesverfassung gewährleisteten Rechte darstellt und ob die in Art. 36 BV statuierten Voraussetzungen für den Grundrechtseingriff erfüllt sind, prüft das Bundesgericht mit freier Kognition (vgl. BGE 142 I 121 E. 3.3 S. 125; 142 I 76 E. 3.3 S. 80).
1.4. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), prüft jedoch unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG) nur die geltend gemachten Vorbringen, sofern rechtliche Mängel nicht geradezu offensichtlich sind (BGE 138 I 274 E. 1.6 S. 280 f.). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht (Art. 106 Abs. 2 BGG; BGE 142 II 369 E. 2.1 S. 372). Diese verlangt, dass in der Beschwerde klar und detailliert anhand der Erwägungen des angefochtenen Entscheids dargelegt wird, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (vgl. BGE 143 I 1 E. 1.4 S. 5; 133 II 249 E. 1.4.2 S. 254).
1.5. Das Bundesgericht ist an den Sachverhalt gebunden, wie ihn die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), es sei denn, dieser erweise sich in einem entscheidwesentlichen Punkt als offensichtlich falsch oder unvollständig (Art. 105 Abs. 2 BGG; vgl. BGE 133 II 249 E.1.4.3 S. 254 f.; 133 III 350 E. 1.3 S. 351 f.). Der Beschwerdeführer rügt die vorinstanzliche Sachverhaltsfeststellung nicht, weshalb von dieser auszugehen ist.
2.
2.1. Die Vorinstanz verweigerte dem Beschwerdeführer die Erteilung einer Bewilligung zur selbständigen Berufsausübung als Osteopath im Kanton Thurgau, da er die dafür gesetzlich vorausgesetzte GDK-Prüfung bislang nicht erfolgreich abgelegt hat.
2.2. Der Beschwerdeführer macht dagegen geltend, er verfüge seit dem 10. September 2012 über ein Diplom als Master of Science in Osteopathie der fhg - Zentrum für Gesundheitsberufe Tirol GmbH, das von der deutschen Akkreditierungsstelle Gesundheit und Soziales anerkannt werde; er verfüge über etliche Berufserfahrung auf diesem Gebiet. Er rügt damit sinngemäss die fehlende Anerkennung des ausländischen Ausweises in der Schweiz.
2.3. Die Verweigerung einer Berufsausübungsbewilligung in der Schweiz aufgrund eines österreichischen Diploms bildet einen grenzüberschreitenden Sachverhalt, der in den Anwendungsbereich des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (FZA; SR 0.142.112.681) fällt.
2.4. Nach Art. 2 FZA dürfen die Staatsangehörigen einer Vertragspartei, die sich rechtmässig im Hoheitsgebiet einer anderen Vertragspartei aufhalten, bei der Anwendung des Freizügigkeitsabkommens gemäss den Anhängen I, II und III nicht aufgrund ihrer Staatsangehörigkeit diskriminiert werden. Dieses allgemeine Diskriminierungsverbot bzw. Gleichbehandlungsgebot wird in Art. 9 Abs. 1 Anhang I FZA für Arbeitnehmer und in Art. 15 Abs. 1 Anhang I FZA für selbständig Erwerbstätige konkretisiert.
2.5. Gemäss Art. 9 FZA treffen die Vertragsparteien nach Anhang III die erforderlichen Massnahmen zur gegenseitigen Anerkennung der Diplome, Zeugnisse und sonstigen Befähigungsnachweise und zur Koordinierung ihrer Rechts- und Verwaltungsvorschriften über den Zugang zu unselbständigen und selbständigen Erwerbstätigkeiten und deren Ausübung sowie die Erbringung von Dienstleistungen. Die Schweiz hat sich in Anhang III FZA verpflichtet, Diplome, Zeugnisse und sonstige Befähigungsnachweise gemäss den dort genannten Rechtsakten der EU anzuerkennen. Zu diesen Rechtsakten gehört auch die Richtlinie 2005/36/EG, die mit dem Beschluss Nr. 2/2011 des Gemischten Ausschusses für die gegenseitige Anerkennung von Berufsqualifikationen (AS 2011 4859 ff.) für anwendbar erklärt wurde.
2.6. Damit ein im Aufnahmemitgliedstaat reglementierter Beruf in selbständiger Tätigkeit ausgeübt werden darf, müssen ausländische Diplome von diesem anerkannt werden. Mit Blick auf die Anerkennungsbedingungen unterscheidet die Richtlinie 2005/36/EG, ob der betreffende Beruf nur im Aufnahmemitgliedstaat oder aber auch im Herkunftsmitgliedstaat reglementiert ist (vgl. Art. 13 der Richtlinie 2005/36/EG).
Die Ausbildung als Osteopath/Osteopathin hat in der Europäischen Union keine Harmonisierung erfahren. Für die Anerkennung der Befähigungs- und Ausbildungsnachweise aus einem Staat, der den Beruf nicht reglementiert, sind vier Voraussetzungen kumulativ zu erfüllen (Art. 13 Abs. 2 der Richtlinie 2005/36/EG) : Die antragstellende Person hat den Beruf vollzeitlich zwei Jahre lang in den vorhergehenden zehn Jahren in einem anderen Mitgliedstaat, der diesen Beruf nicht reglementiert, ausgeübt und ist im Besitz eines oder mehrerer Befähigungs- oder Ausbildungsnachweise (1); das Diplom, um dessen Anerkennung ersucht wird, wurde von einer staatlichen Behörde ausgestellt (2); die Berufsqualifikation, die durch die Ausstellung des Diploms validiert wurde, ist äquivalent zu jener, welche in der Schweiz von den Inländern verlangt wird (3); die Berufsqualifikation muss bescheinigen, dass die Inhaberin oder der Inhaber auf die Ausübung des betreffenden Berufs vorbereitet wurde (4). Ergibt die Überprüfung, dass zwischen der im Aufnahmemitgliedstaat verlangten und der in einem anderen Mitgliedstaaten erworbenen Qualifikation erhebliche Unterschiede bestehen, kann der Aufnahmemitgliedstaat von der antragstellenden Person einen Ausgleich verlangen; Art. 14 der Richtlinie 2005/36/EG regelt die Voraussetzungen für die Anordnung allfälliger Ausgleichsmassnahmen.
2.7. In Österreich, wo dem Beschwerdeführer von der fhg - Zentrum für Gesundheitsberufe Tirol GmbH ein Diplom als Master of Science in Osteopathie verliehen wurde, ist der Beruf Osteopath/Osteopathin nicht reglementiert (im Sinne von Art. 3 Abs. 1 lit. a der Richtlinie 2005/36/EG), in der Schweiz hingegen schon: Der Beruf Osteopath/ Osteopathin wird in der Liste "Reglementierte Berufe/Tätigkeiten in der Schweiz" des Staatssekretariats für Bildung, Forschung und Innovation (SBFI) des Eidgenössischen Departements für Wirtschaft, Bildung und Forschung (WBF) aufgeführt.
Im Kanton Thurgau, wo der Beschwerdeführer bisher beruflich tätig war, ist die selbständige Ausübung des Berufs als Osteopath und Osteopathin gestützt auf bisheriges kantonales Recht bewilligungspflichtig (§ 9 Abs. 1 und 2 des Gesetzes über das Gesundheitswesen des Kantons Thurgau vom 3. Dezember 2014 [Gesundheitsgesetz; GG; RB 810.1] i.V.m. § 8 Ziff. 11 der Verordnung des Regierungsrates über Berufe und Einrichtungen des Gesundheitswesens vom 25. August 2015 [GGV; RB 811.121]); die Bewilligung zur selbständigen Berufsausübung wird erteilt, wenn die gesuchstellende Person die Prüfung gemäss Reglement der Schweizerischen Konferenz der kantonalen Gesundheitsdirektorinnen und -direktoren für die interkantonale Prüfung von Osteopathen und Osteopathinnen in der Schweiz bestanden hat (§ 30 GGV). Auch gestützt auf das am 1. Februar 2020 in Kraft getretene Bundesgesetz über die Gesundheitsberufe (Gesundheitsberufegesetz; GesBG; SR 811.21) bedarf es für die Berufsausübung als Osteopathin oder Osteopath in eigener fachlicher Verantwortung einer Bewilligung des Kantons, auf dessen Gebiet der Beruf ausgeübt wird (Art. 2 Abs. 1 lit. g i.V.m. Art. 11 GesBG). Eine solche Bewilligung wird erteilt, wenn die gesuchstellende Person über einen Master of Science in Osteopathie FH oder einen anerkannten ausländischen Abschluss verfügt (Art. 12 Abs. 1 lit. a GesBG). Bewilligungspflichten und Bewilligungsvoraussetzungen nach kantonalem Recht werden damit obsolet.
Welches Recht auf Bewilligungsgesuche, die im Zeitpunkt des Inkrafttretens des Gesundheitsberufegesetzes hängig waren, zur Anwendung gelangt, regeln die Übergangsbestimmungen des Gesundheitsberufegesetzes nicht (vgl. Art. 34 GesBG). Es kann indessen offen bleiben, ob der Beschwerdeführer mit der vorliegenden Beschwerde die Erteilung einer Berufsausübungsbewilligung noch gestützt auf kantonales Recht verlangen kann, weil sowohl danach als auch nach dem Gesundheitsberufegesetz im Zusammenhang mit ausländischen Abschlüssen deren Anerkennung vorausgesetzt wird.
2.8. Die zuständige Behörde des Aufnahmemitgliedstaats muss prüfen, ob die in Art. 13 Abs. 2 der Richtlinie 2005/36/EG statuierten Voraussetzungen zur Anerkennung ausländischer Berufsqualifikationen in Osteopathie kumulativ erfüllt sind. In der Schweiz war bis am 31. Januar 2020 die GDK dafür zuständig (Art. 1 Abs. 1 und 2 i.V.m. Art. 4 Abs. 1 i.V.m. Anhang gemäss Art. 12ter Abs. 1 der [revidierten] interkantonalen Vereinbarung vom 18. Februar 1993 über die Anerkennung von Ausbildungsabschlüssen [IVAA; in der Fassung seit 1. Januar 2017; RB 412.615]; Urteil 2C_654/2011 vom 2. Dezember 2011 E. 3.1). Seit 1. Februar 2020 ist für die Anerkennung ausländischer Bildungsabschlüsse das Schweizerische Rote Kreuz (SRK) zuständig (Art. 2 Abs. 1 der Verordnung vom 13. Dezember 2019 über die Anerkennung ausländischer und die Gleichstellung inländischer Bildungsabschlüsse nach bisherigem Recht in den Gesundheitsberufen nach dem Gesundheitsberufegesetz [Gesundheitsberufeanerkennungsverordnung, GesBAV; SR 811.214]).
2.9. Weder die Vorinstanz, das Departement für Finanzen und Soziales noch das Gesundheitsamt des Kantons Thurgau sind für die Prüfung der Anerkennungsbedingungen zuständig. Wie ihn das Gesundheitsamt bereits im Oktober 2015 darauf hinwies, hätte der Beschwerdeführer die Anerkennung seines ausländischen Ausbildungsabschlusses der GDK beantragen müssen (vgl. vorstehende E. 2.8). Im vorliegenden Verfahren hinsichtlich der Verweigerung der kantonalen Berufsausübungsbewilligung kann nicht darüber entschieden werden, ob der ausländische Ausbildungsabschlusses in Osteopathie im Sinne von Art. 13 Abs. 2 der Richtlinie 2005/36/EG hätte anerkannt werden sollen; diese Frage bildet nicht Streitgegenstand des vorligenden Verfahrens.
2.10. Nicht Verfahrensgegenstand bildet sodann die Frage, ob der Beschwerdeführer allenfalls zu Unrecht nicht zur GDK-Prüfung zugelassen wurde: Der entsprechende Entscheid wäre mittels Rekurses bei der Rekurskommission der Schweizerischen Konferenz der kantonalen Erziehungsdirektoren und der GDK anfechtbar gewesen (vgl. BGE 136 II 470 E. 1.1 S. 472 ff.; Urteil 2C_345/2014 vom 23. September 2014 E. 1.3).
3.
3.1. Im Weiteren macht der Beschwerdeführer geltend, die Verweigerung der Berufsausübungsbewilligung sei unverhältnismässig und verletze die Wirtschaftsfreiheit (Art. 27 BV); dies werde allein schon daraus ersichtlich, dass die Vorinstanzen ihre Entscheide stets nur auf das formale Kriterium der fehlenden GDK-Prüfung abgestützt und nie angezweifelt hätten, dass der Beschwerdeführer sämtliche fachlichen Kenntnisse und persönlichen Eingenschaften besitze, um auch Osteopathiebehandlungen anzubieten.
3.2. Das Grundrecht der Wirtschaftsfreiheit schützt jede auf die Erzielung eines Gewinns oder eines Erwerbseinkommens gerichtete privatwirtschaftliche Betätigung. Sie umfasst insbesondere den freien Zugang zu einer privatwirtschaftlichen Erwerbstätigkeit und deren freie Ausübung (Art. 27 Abs. 2 BV; vgl. BGE 142 II 369 E. 6.2 S. 386; 140 I 218 E. 6.3 S. 229; Urteil 1C_530/2014 vom 4. Januar 2016 E. 4.3.1 mit weiteren Hinweisen). Entsprechend stellt die Statuierung einer Bewilligungspflicht für die Ausübung eines Berufs einen schweren Eingriff in die Wirtschaftsfreiheit dar (vgl. BGE 122 I 130 E. 3bb S. 134; Urteil 2C_501/2016 vom 7. Dezember 2016 E. 3.2).
3.3. Abweichungen vom Grundsatz der Wirtschaftsfreiheit, die darauf abzielen, gewisse Gewerbezweige oder Bewirtschaftungsformen zu begünstigen (wirtschaftspolitische Massnahmen) müssen in der Bundesverfassung vorgesehen oder durch kantonale Regalrechte begründet sein (Art. 94 Abs. 4 BV); grundsatzkonforme Beschränkungen (im öffentlichen Interesse begründete polizeiliche Massnahmen) sind hingegen unter den für Grundrechtseingriffe allgemein geltenden Voraussetzungen des Art. 36 BV zulässig (BGE 138 I 378 E. 6.1 S. 384 f., E. 6.3 S. 387 und E. 8.3 S. 394; 131 I 223 E. 4.2 S. 231; 125 I 431 E. 4b/aa S. 435; je mit Hinweisen).
Das Erfordernis einer Bewilligung zur selbständigen Berufsausübung als Osteopath gemäss § 30 GGV dient der Qualitätssicherung sowie dem Patientenschutz; es liegt keine grundsatzwidrige Massnahme vor.
3.4.
3.4.1. Zu Recht bestreitet der Beschwerdeführer weder die gesetzliche Grundlage (§ 30 GGV), das öffentliche Interesse (Qualitätssicherung und Patientenschutz) noch die Geeignetheit, die Erteilung einer Berufsausübungsbewilligung an die bestandene GDK-Prüfung zu knüpfen. Er hält es zwar für notwendig, die persönliche und fachliche Eignung zu überprüfen, indessen solle die GDK-Prüfung, zu deren Zulassung eine erneute Vollzeit-Ausbildung von sechs Semestern vorausgesetzt werde, nicht die einzige Möglichkeit zur Eignungsüberprüfung sein. Damit rügt er sinngemäss die Erforderlichkeit der ihm gestützt auf die fehlende GDK-Prüfung verweigerten Berufsausübungsbewilligung.
3.4.2. Personen, deren Ausbildungsabschluss nicht anerkannt wird und welche die Prüfung nicht bestehen, oder - wie der Beschwerdeführer - die Zulassungsvoraussetzungen nicht erfüllen, verfügen nicht über die fachlich erforderlichen Kentnisse, um einwandfrei als Osteopath oder Osteopathin tätig zu sein. Die geforderte alternative Überprüfung der persönlichen und fachlichen Eignung anstelle der GDK-Prüfung würde die im Reglement der GDK für die interkantonale Prüfung von Osteopathinnen und Osteopathen in der Schweiz vom 23. November 2006 (im Weiteren auch: Prüfungsreglement bzw. PR/GDK) für schweizerische Berufsqualifikationen in Osteopathie statuierten Mindestgrundsätze einschränken; sie vermag ausserhalb der GDK-Prüfung das öffentliche Interesse an der Qualitätssicherung und am Patientenschutz nicht zu garantieren und die rechtsgleiche Behandlung sicher-zustellen. Das Bundesgericht hat denn auch in einem früheren Urteil bereits entschieden, dass das Erfordernis der GDK-Prüfung verhältnismässig ist (vgl. Urteil 2C_345/2014 vom 23. September 2014 E. 6.2). Folglich ist die Verweigerung der Berufsausübungsbewilligung - entgegen den Vorbringen des Beschwerdeführers - mit dem Grundsatz der Verhältnismässigkeit vereinbar; sie verletzt die Wirtschaftsfreiheit (Art. 27 BV) nicht.
4.
4.1. Der Beschwerdeführer wendet sodann ein, die gesetzliche Grundlage, die für eine Bewilligung zur selbständigen Berufsausübung eine bestandene GDK-Prüfung voraussetzt (§ 30 GGV), schränke die Wirtschaftsfreiheit unverhältnismässig ein. Er verlangt damit neben der Prüfung der konkreten Bewilligungsverweigerung eine inzidente Normenkontrolle.
4.2. Grundsatzkonforme Einschränkungen der Wirtschaftsfreiheit sind zulässig, wenn sie auf einer gesetzlichen Grundlage beruhen, durch ein öffentliches Interesse oder den Schutz von Grundrechten Dritter gerechtfertigt und verhältnismässig sind (Art. 36 BV; vgl. vorstehende E. 3.3). Soweit der Beschwerdeführer lediglich die Verhältnismässigkeit und dabei insbesondere die Erforderlichkeit des in § 30 GGV für die Bewilligungserteilung vorausgesetzten Bestehens der GDK-Prüfung bestreitet, ist auf die vorstehenden Ausführungen zur Verhältnismässigkeit dieser Voraussetzung im Zusammenhang mit der Anwendung des kantonalen Rechts zu verweisen (vgl. vorstehende E. 3.4). Die zur Erteilung einer Berufsausübungsbewilligung statuierte Voraussetzung der bestandenen GDK-Prüfung ist mit dem Grundsatz der Verhältnismässigkeit vereinbar; § 30 GGV verletzt die Wirtschaftsfreiheit (Art. 27 BV) nicht.
5.
5.1. Der Beschwerdeführer macht geltend, er sei als juristischer Laie gutgläubig davon ausgegangen, die bilateralen Verträge, das Bundesgesetz über den Binnenmarkt vom 6. Oktober 1995 (Binnenmarktgesetz; BGBM; SR 943.02) sowie die Berufsausübungsbewilligung des Kantons Zug berechtigten ihn, Osteopathiebehandlungen im Kanton Thurgau anzubieten. Dieser Einwand überzeugt nicht:
5.2. Der Beruf Osteopath/Osteopathin gehört in der Schweiz zu den reglementierten Berufen, zu dessen Ausübung im Kanton Thurgau eine Berufsausübungsbewilligung benötigt wird (vgl. vorstehende E. 2.7). Der Beschwerdeführer muss auch im Anwendungsbereich des FZA und der in der Schweiz anwendbaren Richtlinie 2005/36/EG die GDK ersuchen, die Gleichwertigkeit seiner ausländischen Ausbildung zu prüfen; er darf nicht ohne Weiteres selbständig praktizieren (vgl. vorstehende E. 2.3 ff.; Urteil 2C_662/2018 vom 25. Februar 2019 E. 3). Der Beschwerdeführer kann sich in diesem Zusammenhang nicht auf seine Gutgläubigkeit berufen. Spätestens nachdem er am 1. Oktober 2015 ein Gesuch um Erteilung einer Berufsausübungsbewilligung als selbständiger Osteopath beim Gesundheitsamt gestellt hatte und ihm dieses am 12. Oktober 2015 mitteilte, dass es zur weiteren Bearbeitung seines Gesuchs die Anerkennungsbestätigung hinsichtlich seines ausländischen Diploms der GDK benötige, hat er nicht mehr als gutgläubig zu gelten.
5.3. Gemäss der verbindlichen Sachverhaltsfeststellung der Vorinstanz verfügt der Beschwerdeführer zwar über eine Berufsausübungsbewilligung als Osteopath im Kanton Zug, hat dort indessen nie eine entsprechende Tätigkeit aufgenommen. Wie die Vorinstanz richtig erwogen hat, muss die bewilligte Tätigkeit im ursprünglichen Bewilligungskanton ausgeübt worden sein, damit eine Berufung auf die Binnenmarktregelungen in Betracht kommt (vgl. Urteil 2C_848/2009 vom 11. Mai 2010 E. 4.2). Denn Voraussetzung, damit der in Art. 2 BGBM gewährleistete freie Zugang zum Markt überhaupt zum Tragen kommt, ist, dass die angebotene Ware oder Dienstleistung im Kanton, in welchem die anbietende Person ihren Geschäftssitz oder ihre Geschäftsniederlassung hat, zulässig ist; aus dem Binnenmarktgesetz kann nicht abgeleitet werden, dass auf die Geschäftsniederlassung in einem Kanton die (für den Gewerbetreibenden allenfalls weniger strengen) Vorschriften eines anderen Kantons anwendbar sind (vgl. BGE 125 I 322 E. 2b S. 324 f.; Urteil 2C_284/2019 vom 16. September 2016 E. 4.1). Vor diesem Hintergrund kann der Beschwerdeführer, der seine Geschäftsniederlassung unbestrittenermassen im Kanton Thurgau hat, weder gestützt auf das Binnenmarktgesetz noch auf die Berufsausübungsbewilligung des Kantons Zug etwas zu seinen Gunsten ableiten. Wenn der Beschwerdeführer bereits im Jahr 2015 keine Bewilligung zur selbständigen Berufsausübung im Kanton Thurgau erhielt, weil er nicht über die nötigen Voraussetzungen verfügte, kann er sich auch in diesem Zusammenhang nicht auf seinen guten Glauben berufen.
6.
Der Beschwerdeführer macht schliesslich geltend, er sei seit 2012 im "Erfahrungsmedizinischen Register" (EMR) aufgenommen worden und könne dementsprechend seine osteopathische Tätigkeit über die Krankenkassen abrechnen. Dieser Einwand ist unbehelflich: Die EMR-Registrierung befreit nicht von der gesetzlichen Pflicht, eine gesundheitspolizeiliche Bewilligung einzuholen (vgl. auch Ziff. 3.1 lit. e Allgemeine Geschäftsbedingungen des EMR; abrufbar unter <https://emr.ch/das-emr>, besucht am 6. März 2020).
7.
7.1. Die Beschwerde erweist sich somit als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Es besteht kein Anlass, die Angelegenheit zur Prüfung der weiteren Voraussetzungen nebst dem Bestehen der GDK-Prüfung an die Vorinstanz zurückzuweisen.
7.2. Bei diesem Ausgang des Verfahrens wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG). Es ist keine Parteientschädigung geschuldet (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Kosten des bundesgerichtlichen Verfahrens von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 30. April 2020
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Meyer