Erwägungen:
1.
Mit Entscheid vom 2. Oktober 2019 wies das Kreisgericht Werdenberg-Sarganserland eine vom Beschwerdeführer gegen die Beschwerdegegnerin erhobene Aberkennungsklage ab.
Mit Entscheid vom 9. März 2021 wies das Kantonsgericht St. Gallen die vom Beschwerdeführer gegen den kreisgerichtlichen Entscheid vom 2. Oktober 2019 erhobene Berufung ab.
Mit Eingabe vom 2. April 2021 erklärte der Beschwerdeführer dem Bundesgericht, den Entscheid des Kantonsgerichts vom 9. März 2021 mit Beschwerde anfechten zu wollen.
Es wurden keine Vernehmlassungen eingeholt.
2.
2.1. Beschwerden an das Bundesgericht sind hinreichend zu begründen, ansonsten darauf nicht eingetreten werden kann. Dazu muss in der Beschwerdeschrift unter Bezugnahme auf die Erwägungen des angefochtenen Entscheids dargelegt werden, inwiefern dieser Recht verletzt (<ref-law>; <ref-ruling> E. 2 S. 88 f., 115 E. 2 S. 116). Eine allfällige Verletzung von Grundrechten wird vom Bundesgericht nicht von Amtes wegen geprüft, sondern nur insofern, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>).
Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 und <ref-law>, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Rechtsverletzung liegt. Die beschwerdeführende Partei soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im vorinstanzlichen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (<ref-ruling> E. 2 S. 89, 115 E. 2 S. 116). Die Begründung hat ferner in der Beschwerdeschrift selbst zu erfolgen und der blosse Verweis auf Ausführungen in anderen Rechtsschriften oder auf die Akten reicht nicht aus (<ref-ruling> E. 1.2.3; <ref-ruling> E. 2 S. 116). Stützt sich der angefochtene Entscheid auf mehrere selbständige Begründungen, so muss sich die Beschwerde mit jeder einzelnen auseinandersetzen, sonst wird darauf nicht eingetreten (<ref-ruling> E. 2.4 S. 368 mit Hinweisen; vgl. auch <ref-ruling> E. 3.4 S. 44).
2.2. Der Beschwerdeführer geht in seiner Beschwerdeeingabe vom 2. April 2021 nicht auf die konkreten Erwägungen des angefochtenen Entscheids ein und zeigt auf, inwiefern der Vorinstanz eine Verletzung von Bundesrecht vorzuwerfen wäre. Er bezeichnet die gegen ihn in Betreibung gesetzte Forderung als willkürlich, legt jedoch nicht hinreichend dar, inwiefern eine Verletzung von <ref-law> vorliegen soll. Die Eingabe erfüllt die erwähnten Begründungsanforderungen offensichtlich nicht.
Auf die Beschwerde ist somit mangels hinreichender Begründung nicht einzutreten (<ref-law>).
3.
Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kostenpflichtig (<ref-law>). Die Beschwerdegegnerin hat keinen Anspruch auf eine Parteientschädigung, da ihr aus dem bundesgerichtlichen Verfahren kein Aufwand erwachsen ist (<ref-law>).

Demnach erkennt die Präsidentin:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Es wird keine Parteientschädigung zugesprochen.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 10. Mai 2021
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Leemann