Sachverhalt:
A.
Am 27. April 2016 stellte A._, Eigentümer der Liegenschaft GB Nr. xxx an der B._-Strasse yyy in U._, ein Baugesuch bei der Politischen Gemeinde U._ für eine Kernsanierung des Wohnhauses sowie die Umnutzung der Garage. Die Politische Gemeinde U._ erteilte A._ am 21. März 2017 eine Teil-Baubewilligung, wobei der Umbau und die Umnutzung der bestehenden Doppelgarage in ein Wohnstudio von der Bewilligung ausgenommen wurden.
Gegen diesen Entscheid erhob A._ mit Eingabe vom 10. April 2017 Rekurs beim Departement Bau und Umwelt des Kantons Thurgau. Gleichentags stellte er bei der Politischen Gemeinde U._ den Antrag auf Teil-Baufreigabe der unbestritten bewilligten Punkte der Teil-Baubewilligung vom 21. März 2017. Mit Entscheid vom 30. Mai 2017 lehnte die Politische Gemeinde U._ das Gesuch um vorzeitigen Baubeginn ab.
Mit Eingabe vom 19. Juni 2017 erhob A._ gegen diesen Entscheid ebenfalls Rekurs beim Departement Bau und Umwelt. Dieses vereinigte die beiden Rekurse mit Entscheid vom 21. August 2017 und wies den Rekurs gegen die teilweise Verweigerung der Baubewilligung vom 10. April 2017 ab. Den Rekurs gegen die Verweigerung des vorzeitigen Baubeginns hiess es hingegen teilweise gut. Es setzte die amtlichen Kosten für das Rekursverfahren auf Fr. 2'800.-- fest und auferlegte sie im Umfang von Fr. 1'400.-- A._.
Dagegen erhob A._ mit Eingabe vom 28. August 2017 Beschwerde beim Verwaltungsgericht des Kantons Thurgau. Er führte aus, er sei weder mit dem Teilungsverhältnis der Prozesskosten noch mit dem Umstand, dass ihm eine Parteientschädigung versagt worden sei, einverstanden.
Mit Entscheid vom 29. November 2017 wies das Verwaltungsgericht die Beschwerde ab.
B.
Mit Eingabe vom 13. Februar 2018 führt A._ Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht und beantragt sinngemäss die Aufhebung des angefochtenen Entscheids.
Das Departement Bau und Umwelt verzichtet auf eine Vernehmlassung und beantragt die Abweisung der Beschwerde. Das Verwaltungsgericht sowie die Politische Gemeinde U._ stellen ebenfalls den Antrag, die Beschwerde sei abzuweisen. Dazu nahm der Beschwerdeführer erneut Stellung.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Endentscheid des Verwaltungsgerichts im Bereich des Baurechts steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offen (Art. 82 f. BGG; <ref-ruling> E. 2 S. 356). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und ist als Baugesuchsteller zur Erhebung der Beschwerde legitimiert (<ref-law>). Da auch die weiteren Sachurteilsvoraussetzungen gegeben sind, ist auf die Beschwerde grundsätzlich einzutreten.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann geltend gemacht werden, der angefochtene Entscheid verletze Bundes- oder Völkerrecht (Art. 95 lit. a und b BGG). Zulässig ist auch die Rüge der Verletzung von kantonalen verfassungsmässigen Rechten, kantonalen Bestimmungen über die politische Stimmberechtigung der Bürger und über Volkswahlen und -abstimmungen (Art. 95 lit. c und d BGG). Abgesehen davon überprüft das Bundesgericht die Anwendung des kantonalen Rechts nicht als solche. Jedoch kann gerügt werden, diese Anwendung widerspreche dem Bundesrecht, namentlich dem Willkürverbot gemäss <ref-law> (<ref-ruling> E. 2.1 S. 372 mit Hinweisen). Nach der Praxis des Bundesgerichts verstösst ein Entscheid gegen dieses Verbot, wenn er im Ergebnis offensichtlich unhaltbar ist, weil er zum Beispiel eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt. Dass eine andere Lösung ebenfalls als vertretbar erscheint, genügt nicht (<ref-ruling> E. 2.2 S. 72 mit Hinweisen).
1.3. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich, ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; <ref-ruling> E. 5.1; <ref-ruling> E. 4.2; je mit Hinweisen). Eine entsprechende Willkürrüge ist substanziiert vorzubringen (<ref-law>; <ref-ruling> E. 5.4 S. 324; <ref-ruling> E. 4.2 S. 233 f.; je mit Hinweisen).
1.4. Soweit der Beschwerdeführer rügt, der von der Vorinstanz beschriebene Sachverhalt sei falsch, ist darauf nicht einzutreten. Er zeigt nicht auf, inwiefern die Vorinstanz den Sachverhalt offensichtlich unrichtig festgestellt hätte. Was er gegen die tatsächlichen Feststellungen der Vorinstanz einwendet, erschöpft sich in einer appellatorischen Kritik. Er beschränkt sich lediglich darauf, seine Sicht der Dinge darzulegen. Damit vermag er keine Willkür darzutun.
2.
2.1. Der Beschwerdeführer macht geltend, das Departement für Bau und Umwelt habe die Kostenverteilung nicht sachgerecht festgelegt. Er wendet sich insbesondere gegen das Teilungsverhältnis der Prozesskosten sowie den Umstand, dass ihm keine Parteientschädigung zugesprochen worden ist. Seiner Ansicht nach müsste die Stadt U._ die Hauptlast der Prozesskosten tragen.
2.2. Die Vorinstanz hat erwogen, es sei nicht zu beanstanden, dass das Departement für Bau und Umwelt dem Beschwerdeführer die Hälfte der gesamten Verfahrensgebühr auferlegt habe. Weiter seien auch die Voraussetzungen gemäss § 80 Abs. 2 des Gesetzes über die Verwaltungsrechtspflege des Kantons Thurgau vom 23. Februar 1981 (RB 170.1; VRG) für die Zusprache einer ausseramtlichen Entschädigung nicht gegeben. Die Beschwerde erweise sich daher als unbegründet und sei abzuweisen.
2.3. Hinsichtlich kantonaler Kostenentscheide, die in Anwendung kantonalen Rechts ergehen, ist die Kognition des Bundesgerichts auf Willkür (<ref-law>), d.h. auf schlechthin unhaltbare Fehler, beschränkt (<ref-ruling> E. 6 S. 2; Urteil 1C_185/2010 vom 27. Oktober 2010 E. 5.3).
2.4. Vorliegend ist fraglich, ob der Beschwerdeführer mit seinen Ausführungen in der Beschwerde genügend substanziiert dargelegt hat, inwiefern die Vorinstanz in Willkür verfallen sein soll, indem sie den Entscheid des Departements Bau und Umwelt gestützt hat. Diese Frage kann jedoch offen bleiben, da die Beschwerde ohnehin abzuweisen ist.
Die Begründung der Vorinstanz, die Verfahrenskosten von insgesamt Fr. 2'800.-- für zwei vereinigte Verfahren lägen im Rahmen des Zulässigen, ist nicht zu beanstanden. Dasselbe hat für die Erwägung zu gelten, wonach das Rekursverfahren betreffend die verweigerte Teil-Baubewilligung das umfangreichere gewesen sei, da dort mehr Akten zu prüfen gewesen seien und ein Augenschein durchgeführt worden sei. Die Auffassung der Vorinstanz, es sei nicht zu beanstanden und sogar entgegenkommend, wenn das Departement Bau und Umwelt dem Beschwerdeführer für das Rekursverfahren dennoch nur die Hälfte der gesamten Verfahrensgebühr auferlegt habe, ist ohne Weiteres vertretbar und lässt keine Willkür erkennen. Daran ändert auch der Einwand des Beschwerdeführers nichts, wonach er nicht nur bezüglich des vorzeitigen Baubeginns, sondern auch betreffend die Feststellung des illegalen Baustopps obsiegt habe. Die Ausführungen der Vorinstanz verstossen nicht gegen das Willkürverbot.
Im Bezug auf die verweigerte Parteientschädigung ist ebenfalls keine Willkür erkennbar. Gemäss § 80 Abs. 2 VRG wird der Ersatz ausseramtlicher Kosten nur zugesprochen, wenn sich dies bei komplizierter Sachlage oder schwierigen Rechtsfragen rechtfertigt. Wie die Vorinstanz festgestellt hat, liegen diese Voraussetzungen nicht vor. Die Erwägung der Vorinstanz, wonach die Frage, ob mit einem Bauvorhaben vorzeitig begonnen werden könne, keine schwierige Rechtsfrage darstelle, ist einleuchtend und jedenfalls nicht offensichtlich unrichtig. Weiter ist auch die Feststellung, ein fehlerhafter Entscheid vermöge den Nachweis für einen komplizierten Sachverhalt nicht zu erbringen, nicht willkürlich. Dasselbe gilt für die Ausführungen der Vorinstanz, es seien keine wesentlichen Rechtsgrundsätze in offensichtlicher und schwerer Weise verletzt worden. Hingegen vermag der Beschwerdeführer nicht aufzuzeigen, inwiefern das Departement Bau und Umwelt respektive die Politische Gemeinde U._ vorsätzlich und wider besseres Wissen gehandelt haben sollen, indem sie den Baustopp verfügt und den vorzeitigen Baubeginn verweigert haben. Dies ist auch nicht ersichtlich. Es ist daher ohne Weiteres haltbar und keineswegs willkürlich, dass dem Beschwerdeführer keine Parteientschädigung zugesprochen wurde. Die Vorinstanz hat kein Bundesrecht verletzt, indem sie den Entscheid des Departements Bau und Umwelt gestützt hat.
3.
Die Beschwerde erweist nach dem Gesagten als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 und Art. 65 BGG). Den in ihrem amtlichen Wirkungskreis obsiegenden Behörden steht keine Parteientschädigung zu (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird dem Beschwerdeführer, der Politischen Gemeinde U._, dem Departement für Bau und Umwelt des Kantons Thurgau und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 17. Juli 2018
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Die Gerichtsschreiberin: Sauthier