Sachverhalt:
A.
Bei D._, geboren 2006, kam es Mitte Oktober 2011 in der Folge einer Erkältung zu einem sich rasch verschlechternden Allgemeinzustand mit verschiedenen Symptomen (unter anderem einem leichten Meningismus und Ateminsuffizienz), weshalb er am 18. Oktober 2011 in die Intensivstation des Spitals X._ (nachfolgend: Kinderspital) eingeliefert werden musste, wo ein Guillain-Barré-Syndrom mit entzündlichen Veränderungen des peripheren Nervensystems diagnostiziert wurde. Nachdem er bis zum 22. November 2011 im Kinderspital hospitalisiert blieb, musste er vom 22. November bis 6. Dezember 2011 stationär im Rehabilitationszentrum des Spitals Y._ (nachfolgend: Rehabilitationszentrum) betreut werden. Anschliessend benötigte er ambulante Physiotherapie. Im Auftrag der zuständigen Krankenpflegeversicherung - der CONCORDIA Schweizerische Kranken- und Unfallversicherung AG (nachfolgend: CONCORDIA oder Beschwerdeführerin) - liess D._ am 29. November 2011 durch seinen Vater bei der IV-Stelle des Kantons Appenzell Innerrhoden (nachfolgend: IV-Stelle oder Beschwerdegegnerin) medizinische Eingliederungsmassnahmen beantragen. Nach dem Beizug verschiedener medizinischer Berichte kündigte die IV-Stelle mit Vorbescheid vom 28. März 2012 für die Dauer vom 6. Dezember 2011 bis 31. Dezember 2012 die Übernahme von maximal zwei bis drei Physiotherapiesitzungen pro Woche an. Mit Stellungnahme vom 20. April 2012 ersuchte die CONCORDIA demgegenüber zusätzlich um vollumfängliche Übernahme des stationären Rehabilitationsaufenthalts vom 22. November bis 6. Dezember 2011. Nach Kenntnisnahme von weiteren Untersuchungsberichten verneinte die IV-Stelle einen Anspruch auf medizinische Massnahmen, weil sowohl der Rehabilitationsaufenthalt als auch die ambulante Physiotherapie der Leidensbehandlung an sich dienten (Verfügung vom 2. Juli 2012).
B.
Die hiegegen erhobene Beschwerde der CONCORDIA wies das Kantonsgericht Appenzell Innerrhoden mit Entscheid vom 20. November 2012 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt die CONCORDIA unter Aufhebung des angefochtenen Gerichtsentscheids und der Verfügung vom 2. Juli 2012 beantragen, die Invalidenversicherung habe sowohl die stationäre Rehabilitation als auch die anschliessende ambulante Physiotherapie als medizinische Massnahme zu übernehmen.
Während das kantonale Gericht und die IV-Stelle auf Abweisung der Beschwerde schliessen, verzichtet das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob und inwiefern auf eine Beschwerde einzutreten ist; immerhin muss die Eingabe auch bezüglich der Prozessvoraussetzungen hinreichend begründet werden (Art. 42 Abs. 1 und 2 BGG; <ref-ruling> E. 1 S. 121).
1.2. Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ist berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (<ref-law>). Verlangt ist somit neben der formellen Beschwer (<ref-law>), dass die Beschwerdeführerin über eine spezifische Beziehungsnähe zur Streitsache verfügt (<ref-law>) und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht (<ref-law>; <ref-ruling> E. 2.2 S. 404; vgl. auch <ref-ruling> E. 4.3.1 S. 191, 239 E. 6.2 S. 242).
1.3. Die Beschwerde führende CONCORDIA nahm als zuständige Krankenpflegeversichererin bereits am Verwaltungsverfahren sowie am Beschwerdeverfahren vor kantonalem Sozialversicherungsgericht teil (<ref-law>). Sie unterlag vor Vorinstanz und ist deshalb durch den angefochtenen Entscheid beschwert und besonders berührt (<ref-law>), weil das kantonale Gericht die Verfügung der IV-Stelle vom 2. Juli 2012 bestätigte, mit welcher Letztere ihre Leistungspflicht hinsichtlich der umstrittenen medizinischen Massnahmen verneint und diese Vorkehren damit de facto dem Aufgabenbereich der sozialen Krankenversicherung (SVR 2011 IV Nr. 40 S. 118, 9C_430/2010 E. 2.3), also der CONCORDIA, zugewiesen hatte. Die Beschwerdeführerin hat demnach ein schutzwürdiges Interesse an der Aufhebung des angefochtenen Entscheides und ist folglich beschwerdelegitimiert.
2.
2.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen; <ref-ruling> E. 2.2 S. 550; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Offensichtlich unrichtig im Sinne von <ref-law> ist die Sachverhaltsfeststellung, wenn sie willkürlich ist (<ref-ruling> E. 1.4.1 S. 39). Die entsprechende Rüge prüft das Bundesgericht nur insoweit, als sie in der Beschwerde explizit vorgebracht und substanziiert begründet ist (SVR 2012 IV Nr. 50 S. 181, 9C_725/2011 E. 1.2).
3.
3.1. Das kantonale Gericht hat die gesetzlichen Bestimmungen zum Anspruch von Personen vor vollendetem 20. Altersjahr auf medizinische Massnahmen (<ref-law>, <ref-law> in Verbindung mit <ref-law>) richtig dargelegt. Darauf wird verwiesen.
3.2. Ergänzend ist auf die zu <ref-law> (in der bis 31. Dezember 2007 gültig gewesenen Fassung) ergangene Rechtsprechung (<ref-ruling> E. 3a, AHI 2003 S. 104 E. 2, 2000 S. 64 E. 1) hinzuweisen, an welcher auch in Anwendung der seit 1. Januar 2008 gültigen Fassung von <ref-law> festzuhalten ist (Urteil 9C_355/2012 vom 29. November 2012 E. 1). Vom strikten Erfordernis der Korrektur stabiler Funktionsausfälle oder Defekte ist im Fall von Minderjährigen gegebenenfalls abzusehen. Hier können medizinische Vorkehren schon dann überwiegend der beruflichen Eingliederung dienen und trotz des einstweilen noch labilen Charakters des Leidens von der Invalidenversicherung übernommen werden, wenn ohne diese Vorkehren eine Heilung mit Defekt oder ein anderer stabilisierter Zustand einträte, welcher die Berufsbildung oder die Erwerbsfähigkeit voraussichtlich beeinträchtigen würde. Die entsprechenden Kosten werden bei Minderjährigen also von der Invalidenversicherung getragen, wenn das Leiden mit hinreichender Wahrscheinlichkeit zu einem schwer korrigierbaren, die spätere Ausbildung und Erwerbsfähigkeit erheblich behindernden stabilen pathologischen Zustand führen würde (<ref-ruling> E. 4.2 S. 21 mit Hinweisen).
4.
Strittig ist der Anspruch auf medizinische Massnahmen des minderjährigen Versicherten, bei welchem im Oktober 2011 ein Guillain-Barré-Syndroms diagnostiziert wurde.
4.1. Die Vorinstanz stellte zunächst aufgrund der medizinischen Unterlagen fest, dass der Versicherte ab 18. Oktober 2011 zur Verhinderung eines Fortschreitens der akuten Polyradikulitis infolge des Guillain-Barré-Syndroms während fünf Tagen mit einer intravenösen Immunglobulingabe behandelt und zur Überwachung der lebensbedrohlichen Atmungseinschränkung in der Intensivstation des Kinderspitals gepflegt werden musste. Anschliessend habe er noch über Schmerzen in den Beinen geklagt. Diese seien weiterhin medikamentös behandelt worden. Gemäss Dr. med. M._ hätten sich die Paresen im stationären Verlauf unter physiotherapeutischer Anleitung, Logotherapie und Ergotherapie deutlich gebessert. Infolge einer anhaltenden Schwäche der Rumpfextensoren und der unteren Extremitäten habe sich der Versicherte nach dem fünfwöchigen stationären Aufenthalt im Kinderspital bei Verlegung ins Rehabilitationszentrum am 22. November 2011 nur auf dem Boden kriechend oder im Kniestand fortbewegen können. Sodann führte das kantonale Gericht aus, die Heilung der Krankheit erfolge "in der Regel in umgekehrter Richtung, also absteigend, indem sich die Myelinscheiden langsam wieder aufbauen, worauf sich auch die Lähmungserscheinungen" wieder zurückbilden würden. Der Heilungsprozess könne sich auch spontan und ohne spezifische Therapie einstellen. Die Prognose sei in der Regel günstig. Mit Physiotherapie werde der Genesungsprozess bzw. die spontane Regeneration nur unterstützt. Diese Therapie stelle hier Nachbehandlung der Krankheit und somit Behandlung des Leidens an sich dar. Es liege jedoch "keine hinreichende Wahrscheinlichkeit vor, dass bei D._ ohne die erfolgte Physiotherapie eine schwer korrigierbare, die spätere Ausbildung und Erwerbsfähigkeit erheblich [beeinträchtigende] Gehfähigkeit zurückgeblieben wäre [...]. Die Therapie [sei] demnach keine medizinische Massnahme gemäss <ref-law> und somit nicht von der Beschwerdegegnerin zu übernehmen."
4.2. Die Beschwerde führende CONCORDIA rügt, die Vorinstanz habe den Sachverhalt offensichtlich unrichtig festgestellt und unter Missachtung der höchstrichterlichen Rechtsprechung Bundesrecht verletzt. Soweit das kantonale Gericht den angefochtenen Entscheid auf Ausführungen seines Fachrichters abstützte und mit Blick auf den Gesundheitsschaden des Versicherten die Auffassung vertrat, der Heilungsprozess hätte "sich auch spontan und ohne spezifische Therapie einstellen" können, macht die CONCORDIA geltend, nach der notfallmässigen Behandlung des akuten entzündlichen Geschehens während des stationären Aufenthalts im Kinderspital wäre der Versicherte ohne anschliessende Fortsetzung der rehabilitativen Massnahmen auf einem Niveau der permanenten Hilfsbedürftigkeit stehen geblieben. Unter Bezugnahme auf die medizinische Aktenlage legt die Beschwerdeführerindar, dass der akute Entzündungsprozess während der fünfwöchigen intensiven Leidensbehandlung im Kinderspital habe gestoppt werden können. Ohne die Übernahme der anschliessenden stationären und ambulanten Rehabilitation als medizinische Massnahme hätte nicht mit einer "Spontanheilung", sondern vielmehr mit einem zurück bleibenden, stabilen Defektzustand gerechnet werden müssen, welcher die Eingliederung ins spätere Erwerbsleben beeinträchtigt hätte. Sowohl den stationären Aufenthalt vom 22. November bis 6. Dezember 2011 im Rehabilitationszentrum wie auch die anschliessende ambulante Physiotherapie habe demzufolge praxisgemäss die Beschwerdegegnerin als medizinische Massnahme im Sinne von <ref-law> zu übernehmen.
5.
Vorweg zu prüfen ist, ob Verwaltung und Vorinstanz zu Recht einen Anspruch auf ambulante Physiotherapie ab 6. Dezember 2011 verneint haben.
6.
6.1. Die IV-Stelle hält auch vor Bundesgericht an ihrer Auffassung fest, wonach die strittigen Leistungen zur Leidensbehandlung an sich gehörten und deshalb im Rahmen der Grunderkrankung von der Krankenkasse zu übernehmen seien. In medizinischer Hinsicht stützt sich die Beschwerdegegnerin auf zwei Kurzeinschätzungen des Regionalen Ärztlichen Dienstes (RAD) der IV-Stelle, welchen zwar - wenn überhaupt, dann nur - eine rudimentärste Begründung zu entnehmen ist, die jedoch eine Auseinandersetzung mit der nachvollziehbar erläuterten prognostischen Beurteilung der behandelnden Ärztin des Kinderspitals vom 12. Dezember 2011 vollständig vermissen lassen. In seinem etwas ausführlicheren Bericht vom 25. Mai 2012 hielt der RAD-Arzt Dr. med. S._ demgegenüber fest, die Invalidenversicherung könne die ambulante Rehabilitation nach Austritt aus dem Rehabilitationszentrum als medizinische Massnahme nach <ref-law> übernehmen. Das kantonale Gericht begnügte sich - ohne im angefochtenen Entscheid auf die letztgenannte Aussage des Dr. med. S._ einzugehen - mit dem Hinweis darauf, es sei nicht hinreichend wahrscheinlich, dass ohne Physiotherapie eine schwer korrigierbare, die spätere Ausbildung und Erwerbsfähigkeit erheblich beeinträchtigende Einschränkung der Gehfähigkeit zurückgeblieben wäre.
6.2. Weder Verwaltung noch Vorinstanz nahmen mit Vernehmlassungen vom 1. und 15. März 2013 Bezug auf die von der Beschwerdeführerin angerufene Rechtsprechung des Eidgenössischen Versicherungsgerichts (EVG, heute: sozialrechtliche Abteilungen des Bundesgerichts), wonach bei Polyradiculitis Guillain-Barré ein Anspruch auf medizinische Massnahmen im Sinne von <ref-law> erfahrungsgemäss in der Regel vier Wochen seit Beginn der Lähmung oder seit dem letzten Krankheitsschub entsteht, sofern nicht ein Ausnahmetatbestand hinreichend nachgewiesen werden kann (ZAK 1968 S. 693, Urteil des EVG vom 4. September 1968 in Sachen H.F.). Physiotherapie ist unter diesen Umständen als medizinische Massnahme von der Invalidenversicherung zu übernehmen; Gleiches gilt in Bezug auf Physiotherapie bei poliomyelitischen Lähmungen Jugendlicher (vgl. ULRICH MEYER, Rechtsprechung des Bundesgerichts zum IVG, 2. Aufl. 2010, S. 131 mit Hinweis). Während das Kreisschreiben des BSV über die medizinischen Eingliederungsmassnahmen (KSME) in der bis 31. Dezember 2007 gültig gewesenen Fassung unter Rz. 604 noch ausdrücklich zur Krankheit "Polyradiculitis (Guillain-Barré) " auf die frühestens vier Wochen nach der letzten Lähmung in Frage kommende Leistungspflicht nach <ref-law> sowie auf die Rz. 603 (Poliomyelitis) verwies, ist die Rz. 604 im Gegensatz zur Rz. 603 mit der am 1. Januar 2008 in Kraft getretenen Fassung des KSME gestrichen worden, wobei das Stichwortverzeichnis der KSME immer noch den Hinweis auf dieses Leiden sowie einen Verweis auf die Rz. 604 enthält. Es ist kein Grund ersichtlich und wird von keiner Seite geltend gemacht, weshalb die Invalidenversicherung - insbesondere auch mit Blick auf Rz. 603 der KSME in der hier massgebenden, seit 1. Januar 2010 gültig gewesenen Fassung - nicht weiterhin entsprechend der erleichterten Voraussetzungen gemäss <ref-ruling> E. 4.2 S. 21 (vgl. hievor E. 3.2 i.f.) bei Polyradiculitis Guillain-Barré im Falle von nichterwerbstätigen Minderjährigen als vorbeugende Massnahme zur Verhinderung eines späteren stabilen Defektes frühestens ab einem Zeitpunkt vier Wochen nach der letzten Lähmung oder dem letzten Krankheitsschub grundsätzlich Vorkehren wie Physiotherapie als medizinische Massnahme im Sinne von <ref-law> übernehmen kann.
6.3. Soweit die Beschwerdeführerin beantragt, die Invalidenversicherung habe die ambulante Physiotherapie im Anschluss an den stationären Aufenthalt im Rehabilitationszentrum vom 22. November bis 6. Dezember 2011 als medizinische Massnahme gemäss <ref-law> zu übernehmen, hat das kantonale Gericht in Verkennung der nach wie vor anwendbaren Rechtsprechung und ohne Grundlage in tatsächlicher Hinsicht sowie entgegen der RAD-ärztlichen Empfehlung vom 25. Mai 2012 die entsprechenden Voraussetzungen zur Übernahme dieser Vorkehr zu Unrecht verneint. Insoweit ist demnach die Beschwerde gutzuheissen. Die Invalidenversicherung hat folglich - wie im Vorbescheid vom 28. März 2012 vorgesehen war - ab 6. De-zember 2011 bis 31. Dezember 2012 die Kosten für höchstens zwei bis drei ambulante Physiotherapiesitzungen pro Woche nach ärztlicher Verordnung zu übernehmen und nach IV-Tarif zu vergüten; eine allfällige Verlängerung dieser Massnahme steht unter dem Vorbehalt der frühzeitigen Einreichung eines Verlängerungsgesuches und der entsprechenden Bewilligung dieses Gesuchs.
7.
Soweit die CONCORDIA an ihrem Antrag festhält, wonach die Invalidenversicherung unter den konkreten Umständen des hier zu beurteilenden Falles nicht nur die ambulante Physiotherapie ab 6. De-zember 2011, sondern auch den stationären Rehabilitationsaufenthalt vom 22. November bis 6. Dezember 2011 als medizinische Massnahme nach <ref-law> zu übernehmen habe, besteht aus folgenden Gründen weiterer Abklärungsbedarf:
7.1. Ihrer körperlichen und geistigen Entwicklungsphase Rechnung tragend sind bei Jugendlichen medizinische Vorkehren trotz des einstweilen noch labilen Leidenscharakters von der Invalidenversicherung zu übernehmen, wenn ohne diese in absehbarer Zeit eine Heilung mit Defekt oder ein sonst wie stabilisierter Zustand einträte, wodurch die Berufsbildung oder die Erwerbsfähigkeit oder beide beeinträchtigt würden (<ref-ruling> E. 2 S. 214 f.; <ref-ruling> S. 20). Die Invalidenversicherung hat daher bei Jugendlichen - die Erfüllung der übrigen Voraussetzungen vorbehalten - nicht nur unmittelbar auf die Beseitigung oder Korrektur stabiler Defektzustände oder Funktionsausfälle gerichtete Vorkehren zu übernehmen, sondern nach wiederholt bestätigter Rechtsprechung auch dann Leistungen zu erbringen, wenn es darum geht, mittels geeigneter Massnahmen einem die berufliche Ausbildung oder die künftige Erwerbsfähigkeit beeinträchtigenden Defektzustand vorzubeugen (Urteil 9C_89/2011 vom 27. Juli 2011 E. 3.2 mit Hinweisen).
7.2. Aufgrund einer prognostischen Beurteilung, wie sie bei der Prüfung des Anspruchs auf medizinische Eingliederungsmassnahmen vorzunehmen ist (SVR 2011 IV Nr. 5 S. 15, 9C_287/2010 E. 5.2 mit Hinweis), kann der Erfolg der Behandlung mit Wiedergewinnung der Gehfähigkeit nach anfänglicher Lähmung nicht berücksichtigt werden (Urteil 9C_355/2012 vom 29. November 2012 E. 3.1). Die für die Beurteilung der Leistungspflicht der Invalidenversicherung massgebliche fachärztliche Prognose muss zwei Aussagen enthalten: Zunächst muss erstellt sein, dass ohne die vorbeugende Behandlung in naher Zukunft eine bleibende Beeinträchtigung eintreten würde; gleichzeitig muss ein ebenso stabiler Zustand herbeigeführt werden können, in dem vergleichsweise erheblich verbesserte Voraussetzungen für die spätere Ausbildung und Erwerbsfähigkeit herrschen. Daraus folgt, dass eine therapeutische Vorkehr, deren Wirkung sich in der Unterdrückung von Symptomen erschöpft, nicht als medizinische Massnahme im Sinne des <ref-law> gelten kann, selbst wenn sie im Hinblick auf die schulische und erwerbliche Eingliederung unabdingbar ist (Urteil 9C_393/2012 vom 20. August 2012 E. 3 mit Hinweisen).
7.3. Für die nach dem in Erwägung 6 Gesagten noch strittige Übernahme des Rehabilitationsaufenthaltes durch die Invalidenversicherung spricht zunächst die Praxis, wonach bei Polyradiculitis Guillain-Barré ein Anspruch auf medizinische Massnahmen im Sinne von <ref-law> erfahrungsgemäss in der Regel vier Wochen seit Beginn der Lähmung oder seit dem letzten Krankheitsschub entsteht (ZAK 1968 S. 693, Urteil des EVG vom 4. September 1968 in Sachen H.F.; vgl. E. 7.2 hievor), sowie die Tatsache, dass der Versicherte genau fünf Wochen nach der notfallmässigen Einlieferung zur stationären Behandlung des akuten Entzündungsprozesses, welche die Beschwerdeführerin unbestritten als Krankenpflegeleistung übernommen hat, am 22. November 2011 vom Kinderspital ins Rehabilitationszentrum übertreten konnte.
7.4. Laut RAD-ärztlicher Beurteilung des Dr. med. S._ vom 25. Mai 2012 bezweckten die therapeutischen Bemühungen im Rehabilitationszentrum den Kraftaufbau und das Gehtraining. Die Rehabilitationsziele einer Verbesserung der Gehfähigkeit und des Treppensteigens seien erreicht worden. Die stationäre Rehabilitation sei "im therapeutischen Kontext der Leidensbehandlung" gestanden. "Auch unabhängig von einer Beschulung" hätte die grundlegende Funktion der Gehfähigkeit behandelt werden müssen. Das Wiedererlangen dieser Fähigkeit sei ganz im Vordergrund gestanden, die schulische Eingliederungswirkung dagegen sekundär gewesen. Der stationäre Rehabilitationsaufenthalt könne daher - im Gegensatz zur anschliessenden ambulanten Physiotherapie (vgl. E. 6.3 hievor) - nicht als medizinische Vorkehr im Sinne von <ref-law> übernommen werden. Demgegenüber lässt sich der vertrauensärztlichen Einschätzung des Dr. med. T._ vom 12. Juli 2012 entnehmen, dass nach einer akuten Phase des Guillain-Barré-Syndroms in 5% der Fälle signifikante Behinderungen zurück bleiben. Zwar sind Dr. med. T._ und der RAD-Arzt insoweit gleicher Meinung, als nicht nur die spätere ambulante Physiotherapie, sondern auch der stationäre Aufenthalt im Rehabilitationszentrum in erster Linie eine Verbesserung der Gehfähigkeit bezweckte. Der Vertrauensarzt der CONCORDIA betont jedoch, dass mit Abschluss der stationären Behandlung des akuten Entzündungsprozesses und dem Übertritt vom Kinderspital ins Rehabilitationszentrum die "auf die Ursache ausgerichtete Behandlung des Gesundheitsschadens" beendet war. Die anschliessende Physiotherapie habe sowohl während des stationären Aufenthaltes im Rehabilitationszentrum als auch während der darauf folgenden ambulanten Phase eine Einheit gebildet und ein und demselben Ziel gedient, nämlich der Wiedereingliederung durch Verbesserung der Gehfähigkeit des den Kindergarten besuchenden Versicherten. Deshalb gehe nicht nur die ambulante Physiotherapie (vgl. E. 6.3 hievor), sondern auch der stationäre Aufenthalt im Rehabilitationszentrum nach <ref-law> zu Lasten der Invalidenversicherung.
7.5. Wie es sich damit verhält, wird das kantonale Gericht in geeigneter Form abklären und hernach über den noch strittigen Anspruch auf Übernahme des stationären Rehabilitationsaufenthaltes vom 22. November bis 6. Dezember 2011 als medizinische Vorkehr im Sinne von <ref-law> unter Berücksichtigung der massgebenden Rechtsprechung (vgl. hievor insbesondere E. 7.1-7.3) neu entscheiden. Für die Übernahme des Rehabilitationsaufenthaltes durch einen der beiden am Recht stehenden Sozialversicherungsträger wird ausschlaggebend sein, wie aus fachärztlicher Sicht die massgebenden Fragen gemäss Erwägung 7.2 hievor widerspruchsfrei, nachvollziehbar und überzeugend beantwortet werden.
7.5.1. Dabei wird die Vorinstanz nicht allein entscheidwesentlich gemäss angefochtenem Entscheid auf die nicht in den Akten dokumentierten "Ausführungen des [im Spruchkörper mitwirkenden] Fachrichters" abstellen, wonach "keine hinreichende Wahrscheinlichkeit [vorliege], dass bei D._ ohne die erfolgte Physiotherapie" - während des stationären Aufenthalts im Rehabilitationszentrum vom 22. November bis 6. Dezember 2011 - "eine schwer korrigierbare, die spätere Ausbildung und Erwerbsfähigkeit erheblich beeinträchtigte Gehfähigkeit zurückgeblieben wäre". In diesem Zusammenhang ist darauf hinzuweisen, dass die Doppelfunktion der Fachmitglieder kantonaler Sozialversicherungsgerichte als Richter und Sachverständige unter dem Blickwinkel von <ref-law> nicht unproblematisch ist (vgl. <ref-ruling> E. 5.2 S. 86) und jedenfalls den Anspruch auf Unabhängigkeit des Sachverständigen verletzt (<ref-ruling> E. 4.4 S. 292 mit Hinweisen; Urteil 5A_787/2011 vom 24. November 2011 E. 3.4 i.f.).
7.5.2. Soweit sich die CONCORDIA durch den Entscheid des kantonalen Gerichts dazu veranlasst sah (<ref-law>; vgl. <ref-ruling>), vor Bundesgericht erstmals die nach Ausfällung des angefochtenen Entscheides eingeholten und erstellten Berichte vom 24. Dezember 2012 des Leitenden Arztes der Neuropädiatrie des Kinderspitals O._, Dr. med. A._, sowie vom 9. Januar 2013 ihres Vertrauensarztes Dr. med. T._, einzureichen, kann hier offen bleiben, ob es sich dabei um ausnahmsweise nach <ref-law> zulässige Noven handelte, weil die Sache diesbezüglich ohnehin zur weiteren medizinischen Abklärung an die Vorinstanz zurückzuweisen ist. Es sei jedoch darauf hingewiesen, dass das kantonale Gericht eine Verletzung des Anspruchs auf rechtliches Gehör riskiert, soweit es seine Entscheidfindung ausschlaggebend auf medizinischen Tatsacheneinschätzungen gemäss "Ausführungen des [mitwirkenden] Fachrichters" abstützt, ohne der Beschwerdeführerin hiezu vorgängig die Gelegenheit zur Stellungnahme einzuräumen (vgl. Urteil 8C_837/2008 vom 26. Juni 2009 E. 6.3 mit Hinweisen).
8.
Die Rückweisung der Sache an das kantonale Gericht oder an den Versicherungsträger zur erneuten Abklärung (mit noch offenem Ausgang) gilt praxisgemäss (<ref-ruling> E. 6.1 S. 235 mit Hinweisen) für die Frage der Auferlegung der Gerichtskosten wie auch der Parteientschädigung als volles Obsiegen im Sinne von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie überhaupt beantragt, oder ob das entsprechende Begehren im Haupt- oder Eventualantrag gestellt wird. Die Gerichtskosten sind der IV-Stelle als der unterliegenden Partei aufzuerlegen (<ref-law>). Da sich zwei Sozialversicherungsträger gegenüberstehen, gilt für die Gerichtsgebühr der ordentliche Rahmen nach <ref-law>, während <ref-law> keine Anwendung findet ( Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz [BGG], Bern 2007, S. 223, N. 28 zu <ref-law>; Geiser, in: Basler Kommentar zum Bundesgerichtsgesetz, 2. Aufl. 2011, N. 20 zu <ref-law>; Urteile 8C_648/2010 vom 12. Januar 2011 E. 4, 8C_712/2010 vom 16. No-vember 2010 E. 5, 8C_241/2008 vom 25. März 2009 E. 9 mit Hinweisen).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen und der Entscheid des Kantonsgerichts Appenzell I.Rh., Abteilung Verwaltungsgericht, vom 20. November 2012 sowie die Verfügung der IV-Stelle des Kantons Appenzell I. Rh. vom 2. Juli 2012 werden insoweit abgeändert, als die Leistungspflicht der Invalidenversicherung im Sinne von Erwägung 6.3 zu bejahen ist.
2.
Im Übrigen wird die Beschwerde insoweit teilweise gutgeheissen und der Entscheid des Kantonsgerichts Appenzell I.Rh., Abteilung Verwaltungsgericht, vom 20. November 2012 aufgehoben, als die Sache im Sinne der Erwägung 7 zur weiteren Abklärung und zu neuer Entscheidung an die Vorinstanz zurückgewiesen wird.
3.
Die Gerichtskosten von Fr. 3'000.- werden der Beschwerdegegnerin auferlegt.
4.
Dieses Urteil wird den Parteien, D._, dem Kantonsgericht Appenzell I.Rh., Abteilung Verwaltungsgericht, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 14. Juni 2013
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Der Gerichtsschreiber: Hochuli