Erwägungen:
1.
Mit Eingabe vom 19. Juli 2018 machte C._, vertreten durch den Beschwerdeführer, am Kantonsgericht Nidwalden gegen die Beschwerdegegnerin eine Forderung von Fr. 50'007.75 geltend. Das Kantonsgericht verlangte daraufhin einen Gerichtskostenvorschuss, wies die Rechtsschrift zur Verbesserung zurück und machte die Klägerschaft auf die Anforderungen der vertraglichen Vertretung vor den kantonalen Gerichten aufmerksam. Nachdem in der Folge wiederum der Beschwerdeführer Eingaben einreichte, verfügte das Kantonsgericht am 8. Oktober 2018, dass die Klage "als nicht erfolgt" gelte und auferlegte dem Beschwerdeführer die (reduzierten) Kosten.
Dagegen reichte der Beschwerdeführer eine Eingabe am Obergericht des Kantons Nidwalden ein. Das Obergericht nahm diese als Kostenbeschwerde entgegen und trat mit Entscheid vom 5. April 2019 nicht darauf ein, da keine gültigen Beschwerdegründe geltend gemacht worden seien.
Gegen den Entscheid des Obergerichts erhob der Beschwerdeführer mit der am 23. Mai 2019 datierten Eingabe Beschwerde an das Bundesgericht. Dazu reichte er ein Schreiben vom 27. Mai 2019 ein. Mit E-Mail vom 31. Juli 2019 liess er dem Bundesgericht eine weitere, mit 30. Juli 2019 datierte Eingabe zukommen. Diese stellte er dem Bundesgericht zusätzlich per Brief zu.
Auf das Einholen von Vernehmlassungen zur Beschwerde wurde verzichtet.
2.
2.1. Beschwerden an das Bundesgericht sind hinreichend zu begründen, ansonsten darauf nicht eingetreten werden kann (<ref-ruling> E. 2 S. 116; <ref-ruling> E. 2.1). Dafür muss in der Beschwerdeschrift unter Bezugnahme auf die Erwägungen des angefochtenen Entscheids dargelegt werden, inwiefern dieser Recht verletzt (Art. 42 Abs. 1 und 2 BGG; <ref-ruling> E. 2 S. 116, 86 E. 2 S. 89). Eine Verletzung von Grundrechten wird vom Bundesgericht nicht von Amtes wegen geprüft, sondern nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18).
3.
Die Beschwerde an das Bundesgericht ist nur gegen Entscheide letzter kantonaler Instanzen zulässig (<ref-law>). Auf die Beschwerde ist daher von vornherein nicht einzutreten, soweit sie sich gegen den Entscheid des Kantonsgerichts vom 8. Oktober 2018 richtet, da es sich dabei nicht um einen letztinstanzlichen Entscheid im Sinne von <ref-law> handelt.
Der Beschwerdeführer wendet sich sodann gegen den Entscheid des Kantonsgerichts vom 4. September 2018 in einem anderen Verfahren zwischen den gleichen Parteien. Auch darauf ist offensichtlich nicht einzutreten, da dies zusätzlich über den Gegenstand des obergerichtlichen Entscheids hinausgeht (zu diesem Verfahren bereits Urteil 4A_649/2018 vom 10. Januar 2019).
4.
Der Beschwerdeführer macht geltend, dass er "vollständig Eigentümer der Mietkaution von Herrn Baumgartner geworden" sei und daher in "Eigenregie" den Prozess habe führen können. Er geht damit über die vorinstanzlichen Sachverhaltsfeststellungen hinaus. Dabei erfüllt er die Begründungsanforderungen an Sachverhaltsrügen offensichtlich nicht (dazu oben Erwägung 2.2). Er verweist zwar darauf, dass er solches bereits in der vorinstanzlichen Beschwerdeschrift behauptet habe. Er zeigt aber nicht mit präzisen Aktenhinweisen auf, dass er daneben die dazugehörenden tauglichen Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hätte.
5.
Auch im Übrigen erfüllen die Eingaben des Beschwerdeführers die genannten Begründungsanforderungen offensichtlich nicht. Er ruft darin zwar die Bestimmungen von <ref-law>, Art. 6 Abs. 1 EMRK, <ref-law> an und rügt eine Rechtsverweigerung. Er legt vor Bundesgericht aber bloss in frei gehaltenen Ausführungen seine Sicht der Dinge dar, ohne indessen auf die Erwägungen der Vorinstanz hinreichend konkret einzugehen, geschweige denn nachvollziehbar aufzuzeigen, inwiefern diese mit ihrem Nichteintretensentscheid die genannten Bestimmungen verletzt oder ihm das Recht verweigert haben soll.
Auf die Beschwerde ist somit mangels hinreichender Begründung nicht einzutreten (<ref-law>).
6.
Der Beschwerdeführer stellt dem Bundesgericht die Frage, wie er sich in den kantonalen Verfahren bezüglich der Mietkaution zu verhalten habe und ob eine "heimliche und präjudizierende Aufteilung des Prozessgegenstandes vor dem Entscheid des Bundesgerichts zulässig sei".
Das Bundesgericht ist die oberste Recht sprechende Behörde des Bundes (<ref-law>) und keine Auskunftsstelle für Rechtssuchende. Auf die Frage ist daher nicht einzugehen.
7.
Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Die Beschwerdegegnerin hat keinen Anspruch auf eine Parteientschädigung, da ihr aus dem bundesgerichtlichen Verfahren kein Aufwand erwachsen ist (<ref-law>).

Demnach erkennt die Präsidentin:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 200.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Nidwalden, Beschwerdeabteilung in Zivilsachen, schriftlich mitgeteilt.
Lausanne, 26. August 2019
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Brugger