Erwägungen:
1.
Mit Entscheid vom 29. Januar 2018 erteilte das Gericht des Sensebezirks dem Beschwerdegegner gegenüber dem Beschwerdeführer in der Betreibung Nr. xxx des Betreibungsamts des Sensebezirks die provisorische Rechtsöffnung für Fr. 24'709.10 und Kosten.
Gegen diesen Entscheid erhob der Beschwerdeführer am 10. Februar 2018 Beschwerde an das Kantonsgericht Freiburg. Mit Urteil vom 9. April 2018 trat das Kantonsgericht auf die Beschwerde nicht ein.
Gegen dieses Urteil hat der Beschwerdeführer am 28. Mai 2018 (Postaufgabe) Verfassungsbeschwerde an das Bundesgericht erhoben.
2.
Aufgrund des tiefen Streitwerts (<ref-law>) und mangels Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung (<ref-law>) ist einzig die subsidiäre Verfassungsbeschwerde zulässig (<ref-law>). In einer subsidiären Verfassungsbeschwerde kann nur die Rüge der Verletzung verfassungsmässiger Rechte vorgebracht werden (<ref-law>). Diese ist zu begründen (Art. 117 i.V.m. <ref-law>), d.h. anhand der Erwägungen des kantonalen Entscheids ist klar und detailliert darzulegen, welche verfassungsmässigen Rechte und inwiefern sie durch den angefochtenen Entscheid verletzt sein sollen (<ref-ruling> E. 3.1 S. 399; <ref-ruling> E. 2.4 S. 368).
3.
Das Kantonsgericht ist auf die Beschwerde mangels genügender Begründung nicht eingetreten. Der Beschwerdeführer habe sich in keiner Weise mit den Erwägungen des Bezirksgerichts auseinandergesetzt, wonach ein Verlustschein von Gesetzes wegen als Schuldanerkennung gemäss <ref-law> gelte und er daher nur Einwendungen in Bezug auf den Verlustschein geltend machen könne. Stattdessen habe der Beschwerdeführer vor Kantonsgericht vorgebracht, die Lieferscheine mit gültiger Unterschrift fehlten und die Forderung sei daher haltlos. Er wiederhole nur die vor Bezirksgericht vorgebrachte Argumentation.
Vor Bundesgericht geht der Beschwerdeführer auf diese Erwägungen des Kantonsgerichts nicht ein. Stattdessen wiederholt er, dass die Lieferscheine vom Gericht nicht angefordert worden seien. Weder legt er dar, weshalb das Kantonsgericht auf seine Beschwerde hätte eintreten müssen, noch weshalb es auf diese Lieferscheine überhaupt ankommen soll.
Der Beschwerdeführer zeigt demnach nicht ansatzweise auf, inwiefern das Kantonsgericht verfassungsmässige Rechte verletzt haben soll. Die Beschwerde enthält offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. <ref-law>).
4.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Verfassungsbeschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Kantonsgericht Freiburg, II. Zivilappellationshof, schriftlich mitgeteilt.
Lausanne, 1. Juni 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg