Erwägungen:
1.
Mit Entscheid vom 19. Juli 2019 erteilte das Bezirksgericht Kreuzlingen der Beschwerdegegnerin gegenüber dem Beschwerdeführer in der Betreibung Nr. xxx des Betreibungsamtes Kreuzlingen die definitive Rechtsöffnung für Fr. 500.-- nebst Zins.
Dagegen erhob der Beschwerdeführer am 20. August 2019 (Postaufgabe) Beschwerde. Mit Entscheid vom 5. September 2019 trat das Obergericht des Kantons Thurgau auf die Beschwerde infolge Verspätung nicht ein.
Am 3. Oktober 2019 hat der Beschwerdeführer Beschwerde an das Bundesgericht erhoben.
2.
Der Beschwerdeführer will eine "allgemeine Grundsatzfrage, ob das Recht auf Berufung das Recht auf Verrechnung aushebeln darf" geklärt haben. Mit keinem Wort setzt er sich jedoch damit auseinander, dass seine Beschwerde an das Obergericht verspätet war. Vor Bundesgericht müsste er allerdings in Auseinandersetzung mit den obergerichtlichen Erwägungen dartun, weshalb das Obergericht auf seine Beschwerde hätte eintreten müssen (<ref-law>).
Die Beschwerde enthält damit offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (<ref-law>).
3.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 8. Oktober 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg