Sachverhalt:
Mit Verfügung vom 24. März 2020 verneinte die IV-Stelle des Kantons Thurgau den Anspruch des am 5. Juli 2018 geborenen A.A._ auf Auszahlung eines Intensivpflegezuschlags. Sie sprach ihm aber für die Zeit ab 1. März 2019 bis 30. Juni 2021 eine Entschädigung wegen mittlerer Hilflosigkeit zu.
Die hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Thurgau in dem Sinne teilweise gut, als es die Sache zur neuen Verfügung des Anspruchs auf Hilflosenentschädigung und Intensivpflegzuschlag für den Zeitraum ab der Geburt von A.A._ bis zum 28. Februar 2019 an die IV-Stelle zurückwies. Im Übrigen wies es die Beschwerde ab.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A.A._ beantragen, es seien der vorinstanzliche Entscheid und die Verfügung vom 24. März 2020 betreffend Intensivpflegezuschlag aufzuheben und ihm ab dem 1. März 2019 ein solcher zuzusprechen.

Erwägungen:
1.
Das Bundesgericht prüft die Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; <ref-ruling> E. 1.1 mit Hinweis).
2.
Anfechtbar beim Bundesgericht sind Endentscheide, die das Verfahren ganz (Art. 90 BGG) oder in Bezug auf unabhängig voneinander zu beurteilende Begehren oder auf einen Teil von Streitgenossen abschliessen (Teilentscheid; Art. 91 BGG). Selbständig eröffnete Vor- oder Zwischenentscheide können demgegenüber nur unter den Voraussetzungen von Art. 92 oder 93 BGG angefochten werden (<ref-ruling> E. 2). Für die Abgrenzung zwischen anfechtbarem End- beziehungsweise Teilentscheid und nur unter besonderen Zulässigkeitsvoraussetzungen anfechtbarem Zwischenentscheid ist massgebend, ob der Entscheid ein Begehren behandelt, das unabhängig von anderen beurteilt werden kann (Art. 91 lit. a BGG; <ref-ruling> E. 2.3).
3.
In Bezug auf die Prüfung eines Anspruchs auf Hilflosenentschädigung und Intensivpflegzuschlag für die Zeit bis zum 28. Februar 2019 hat das kantonale Gericht die Sache zu weiteren Abklärungen an die Verwaltung zurückgewiesen. Im Übrigen und somit für die Zeit ab dem 1. März 2019 wies die Vorinstanz die Beschwerde ab.
4.
Betreffend Rentenansprüche hat das Bundesgericht festgehalten, dass es sich bei einem Urteil, mit welchem eine Vorinstanz des Bundesgerichts für eine vorangehende Teilperiode des Rentenanspruchs die Sache zu neuer Beurteilung an die Verwaltung zurückweist und für eine darauf folgende Teilperiode den Rentenanspruch abschliessend beurteilt, gesamthaft um einen Zwischenentscheid handelt (<ref-ruling> E. 5.3). Dies im Wesentlichen mit der Begründung, eine einmal rechtskräftig festgelegte Rente bleibe (unter Vorbehalt der prozessualen Revision oder der Wiedererwägung gemäss Art. 53 Abs. 1 oder 2 ATSG) auch für die Zukunft verbindlich, bis sie gegebenenfalls in einem neuen Verfahren wegen erheblicher Änderung des Invaliditätsgrads erhöht, herabgesetzt oder aufgehoben wird (Art. 17 Abs. 1 ATSG; <ref-ruling> E. 5.2). Aus spezifischen sozialversicherungsrechtlichen Gründen ist es daher nicht zulässig, wenn eine Vorinstanz des Bundesgerichts die Streitsache für die vorangehende Periode zu weiteren Abklärungen an die Verwaltung zurückweist und für die darauf folgende Teilperiode einen abschliessenden materiellen Rentenentscheid fällt (<ref-ruling> E. 5.2).
5.
Es ist nicht ersichtlich, weshalb der Anspruch auf einen zusätzlich zur Hilflosenentschädigung ausgerichteten Intensivpflegezuschlag (Art. 42ter Abs. 3 IVG) anders beurteilt werden sollte. Wie bei einer Rentenleistung handelt es sich sowohl bei der Hilflosenentschädigung als auch beim Intensivpflegezuschlag um eine Dauerleistung, die nur - unter Vorbehalt der prozessualen Revision oder der Wiedererwägung nach Art. 53 Abs. 1 oder 2 ATSG - nach den Voraussetzungen von Art. 17 Abs. 2 ATSG abänderbar ist, was eine erhebliche Änderung des ihr zu Grunde liegenden Sachverhalts voraussetzt. Daraus folgt, dass der Intensivpflegezuschlag (oder auch die Hilflosenentschädigung) genauso wie eine Rentenleistung für eine folgende Teilperiode nicht endgültig festgelegt werden kann, solange er für die vorangehende Teilperiode nicht rechtskräftig beurteilt ist. Somit liegt gesamthaft ein Zwischenentscheid vor.
6.
Es bleibt zu prüfen, ob die Voraussetzungen für ein ausnahmsweises Eintreten nach Art. 92 f. BGG vorliegen. Dies ist offensichtlich nicht der Fall. Insbesondere liegt genauso wie in <ref-ruling> kein nicht wieder gutzumachender Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG vor. Denn die Verwaltung wird für den Zeitraum seit der Geburt des Beschwerdeführers und dem 28. Februar 2019 neu verfügen. Im Anschluss daran bleibt dem Beschwerdeführer die Möglichkeit gewahrt, die Verfügung in ihrer Gesamtheit - auch für den Zeitraum ab 1. März 2019 - mittels Beschwerde gerichtlich überprüfen zu lassen (Art. 57 und 62 ATSG).
7.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 300.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 26. Juli 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Grünvogel