Sachverhalt:
A.
Am 28. September 2012 erliess die Ausgleichskasse Swissmem gegenüber dem 1962 geborenen B._ im Namen der IV-Stelle des Kantons Thurgau eine Rentenverfügung. In der Folge wies die IV-Stelle des Kantons Zürich darauf hin, dass sie und nicht die IV-Stelle des Kantons Thurgau zuständig sei. Daraufhin erliess die Ausgleichskasse Swissmem am 7. November 2012 eine inhaltlich identische Rentenverfügung gegenüber B._ im Namen der IV-Stelle des Kantons Zürich.
B.
Bereits am 25. Oktober 2012 hatte B._ gegen die Verfügung vom 28. September 2012 Beschwerde beim Verwaltungsgericht des Kantons Thurgau erhoben und eine höhere Rente beantragt. Mit Entscheid vom 9. Januar 2013 hiess dieses die Beschwerde in dem Sinne gut, als es die Verfügung vom 28. September 2012 wegen Unzuständigkeit der IV-Stelle des Kantons Thurgau ersatzlos aufhob. Gleichzeitig sprach das Gericht B._ eine reduzierte Parteientschädigung in der Höhe von Fr. 1'050.- zuzüglich Mehrwertsteuer zu.
C.
Mit Beschwerde beantragt B._, ihm sei unter Abänderung des kantonalen Entscheides eine ungekürzte Parteientschädigung in der Höhe von Fr. 2'555.65 zuzusprechen. Gleichzeitig stellt B._ ein Gesuch um unentgeltliche Rechtspflege.
Während die IV-Stelle des Kantons Thurgau auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.
D.
In seiner Eingabe vom 12. April 2013 hält B._ an seinen Anträgen fest.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
2.
Streitig und zu prüfen ist, ob der Beschwerdeführer für das kantonale Verfahren Anspruch auf eine höhere als die zugesprochene Parteientschädigung hat.
3.
Gemäss <ref-law> hat im kantonalen Verfahren die obsiegende Beschwerde führende Person Anspruch auf Ersatz der Parteikosten. Diese werden vom Versicherungsgericht festgesetzt und ohne Rücksicht auf den Streitwert nach der Bedeutung der Streitsache und nach der Schwierigkeit des Prozesses bemessen.
4.
Mit Verfügung vom 28. September 2012 sprach die Ausgleichskasse Swissmem dem Beschwerdeführer im Namen der IV-Stelle des Kantons Thurgau eine Viertelsrente der Invalidenversicherung zu. Der Versicherte beantragte mit Beschwerde vor dem Verwaltungsgericht des Kantons Thurgau eine höhere als eine Viertelsrente. Die Vorinstanz hob daraufhin diese den Beschwerdeführer begünstigende Verfügung ersatzlos auf, da die IV-Stelle des Kantons Thurgau für deren Erlass nicht zuständig war. Das ersatzlose Aufheben einer die versicherte Person begünstigenden Verfügung kann entgegen den Darlegungen des Beschwerdeführers nicht als vollständiges Obsiegen betrachtet werden. Der Fall ist insbesondere nicht vergleichbar mit einer Rückweisung der Sache an die Verwaltung zu weiteren Abklärungen: Dieser letztere Fall gilt rechtsprechungsgemäss als vollständiges Obsiegen der versicherten Person, da ihre Position durch den Rückweisungsentscheid verbessert wird (vgl. <ref-ruling> E. 6.2 S. 235). So verhält es sich aber hier nicht, da nicht erkennbar ist, welchen Vorteil der Beschwerdeführer aus der ersatzlosen Aufhebung der ihn begünstigenden Verfügung ziehen könnte. Daran vermag auch der Umstand nichts zu ändern, dass der Versicherte die Aufhebung der Verfügung in der letzten Phase des kantonalen Prozesses selber beantragt hat.
5.
Bei richtiger Betrachtungsweise wäre dem Beschwerdeführer somit im vorinstanzlichen Verfahren trotz formellen Obsiegens grundsätzlich keine - auch keine reduzierte - Parteientschädigung zuzusprechen gewesen. Es braucht daher nicht näher geprüft zu werden, ob die Vorinstanz bei der Kürzung der Entschädigung korrekt vorging. Dass die Vorinstanz das Verfahren infolge Gegenstandslosigkeit hätte abschreiben und bei den Kostenfolgen die dabei geltenden Grundsätze hätte anwenden müssen, wird letztinstanzlich zu Recht nicht mehr geltend gemacht. Bezüglich der Bedenken des Beschwerdeführers, seinen Aufwand auch im mittlerweile vor dem Sozialversicherungsgericht des Kantons Zürich eröffneten Verfahren nicht entschädigt zu bekommen, ist festzuhalten, dass der Entscheid dieses Gerichts ebenfalls vor Bundesgericht anfechtbar sein wird. Die Beschwerde des Versicherten gegen den Entscheid des Verwaltungsgerichts des Kantons Thurgau ist ohne weiteres abzuweisen.
6.
6.1. Das Verfahren ist kostenpflichtig (<ref-law>). Aufgrund des Verfahrensausganges hat der Beschwerdeführer die Kosten zu tragen (<ref-law>).
6.2. Dem Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist stattzugeben, da die entsprechenden gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwältin Stephanie Schwarz wird als unentgeltliche Anwältin bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4.
Der Rechtsvertreterin des Beschwerdeführers wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Dezember 2013
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Der Gerichtsschreiber: Nabold