Erwägungen:
1.
Mit Entscheid vom 11. Juni 2018 erteilte das Kreisgericht Rheintal in der Betreibung Nr. xxx des Betreibungsamtes U._ den Beschwerdegegnern gegenüber dem Beschwerdeführer definitive Rechtsöffnung für Fr. 1'278.37 nebst Zins und Kosten.
Dagegen erhob der Beschwerdeführer am 15. Juli 2018 Beschwerde an das Kantonsgericht St. Gallen. Mit Entscheid vom 13. Mai 2019 wies das Kantonsgericht die Beschwerde ab.
Gegen diesen Entscheid hat der Beschwerdeführer am 27. Mai 2019 Beschwerde in Zivilsachen und subsidiäre Verfassungsbeschwerde an das Bundesgericht erhoben. Mit Verfügung vom 28. Mai 2019 hat das Bundesgericht das Gesuch um aufschiebende Wirkung abgewiesen. Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
2.
Der Streitwert erreicht den für eine Beschwerde in Zivilsachen erforderlichen Betrag von Fr. 30'000.-- nicht (<ref-law>). Der Beschwerdeführer beruft sich auf eine Rechtsfrage von grundsätzlicher Bedeutung (<ref-law>). Er legt jedoch entgegen <ref-law> nicht dar, weshalb die entsprechenden Voraussetzungen gegeben sein sollen, d.h. weshalb vorliegend ein allgemeines und dringendes Interesse bestehen soll, dass eine umstrittene Frage höchstrichterlich geklärt wird, um eine einheitliche Anwendung und Auslegung des Bundesrechts herbeizuführen und damit eine erhebliche Rechtsunsicherheit auszuräumen (<ref-ruling> E. 1 S. 165; <ref-ruling> E. 1.2 S. 161; <ref-ruling> E. 1.3 S. 503; <ref-ruling> E. 1.1 S. 582 f.; je mit Hinweisen). Solches ist auch nicht ersichtlich. Die Beschwerde in Zivilsachen ist damit unzulässig und die Eingabe ist als subsidiäre Verfassungsbeschwerde zu behandeln (<ref-law>).
In einer subsidiären Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (<ref-law>). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. <ref-law> in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-ruling> E. 3.1 S. 399; <ref-ruling> E. 2.4 S. 368).
3.
Die Beschwerdegegner stützen sich auf ihre je vom 12. Dezember 2013 datierende Ermessensveranlagungsverfügung und ihre Schlussrechnung sowie ihre vom 13. Oktober 2013 datierende Bussenverfügung. Der Beschwerdeführer bestreitet die Zustellung.
Das Kantonsgericht hat erwogen, der Beweis für die Zustellung der nicht eingeschrieben versandten Verfügungen könne durch Indizien erbracht werden. Gemäss den Akten habe das Steueramt die Steuererklärung am 19. Mai und am 18. Juli 2013 angemahnt. Am 13. Oktober 2013 habe es eine Bussenverfügung wegen Nichteinreichung der Steuererklärung erlassen. Alle drei Dokumente seien an die Adresse "B._strasse yyy, zzzz Luzern" adressiert worden. Ebenfalls an diese Adresse seien die Mahnungen vom 30. Januar und 27. März 2014 für den Steuerbetrag laut Rechnung vom 12. Dezember 2013 gegangen. Mit Schreiben vom 29. Dezember 2017 (nunmehr an die Adresse in U._ gerichtet) habe das Steueramt den Ausstand 2012 erneut gemahnt.
Es sei wenig wahrscheinlich, dass ein Adressat keine einzige von mindestens sechs mit gewöhnlicher Post versandten Sendungen erhalte, ohne dass der Absender von der Unzustellbarkeit erfahre. Dies lasse sich vernünftigerweise nur damit erklären, dass der Beschwerdeführer zwar postalisch immer noch unter der bisherigen Adresse erreichbar war, es aber unterliess, für die Nachsendung besorgt zu sein. Jedenfalls die Mahnung vom 29. Dezember 2017 samt Kontoauszug mit den Angaben über die gegen ihn gerichtete Forderung habe der Beschwerdeführer erhalten, ohne dass er darauf angemessen reagiert hätte. Zwar mache er geltend, er habe Kontakt mit der Behörde in Luzern gesucht. Was er damit bezweckte und was Inhalt seiner Bemühungen war, habe er mit Ausnahme eines Hinweises auf die Bitte um einen persönlichen Termin zur Klärung der Angelegenheit nicht dargelegt. Der Beschwerdeführer wäre nach Treu und Glauben verpflichtet gewesen, Erkundigungen einzuholen und gegebenenfalls Rechtsmittel zu ergreifen, und habe nicht einfach zuwarten dürfen, bis er betrieben würde. Vielmehr könne sein Untätigbleiben als Akzept gewertet werden, mit der Folge, dass der formell nicht korrekt zugestellte Entscheid trotzdem rechtskräftig und vollstreckbar wurde (unter Hinweis auf <ref-ruling> E. 7.1 S. 103).
4.
Der Beschwerdeführer bringt vor, der angefochtene Entscheid beruhe auf unbewiesenen Behauptungen der Beschwerdegegner. Seine Beweise seien ignoriert worden. Im Einzelnen macht er geltend, er sei im Mai 2013 in Luzern abgemeldet worden. Es sei viel glaubhafter, dass deshalb keine weiteren Zustellversuche erfolgt seien. Mit alldem schildert er jedoch nur seine Sicht der Dinge. Damit kann er keine Willkür bei der Beweiswürdigung dartun. Er verweist zwar auf angebliche Belege, welche seine Angaben zweifelsfrei belegen würden. Auf welche Belege er sich stützt, legt er jedoch nicht im Einzelnen dar. Im Übrigen übergeht er, dass er im kantonalen Verfahren zwar Belege offeriert, sie aber nicht eingereicht hat, und das Kantonsgericht festgehalten hat, das Kreisgericht habe sie nicht nachfordern müssen. Vor allem bestreitet der Beschwerdeführer nicht, dass er die Mahnung vom 29. Dezember 2017 erhalten hat. Ebensowenig setzt er sich mit den Erwägungen des Kantonsgerichts zur rechtlichen Bedeutung dieser nachträglichen Mahnung auseinander. Inwieweit der Prozess nicht ordentlich geführt oder das rechtliche Gehör verletzt worden sein sollen, legt er nicht in nachvollziehbarer Weise dar.
Die Beschwerde enthält damit offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. <ref-law>).
5.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Einzelrichter für Beschwerden SchKG, schriftlich mitgeteilt.
Lausanne, 11. Juni 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg