Sachverhalt:
A.
A.a. A._ (Kläger, Beschwerdeführer) schloss mit der B._ AG (Beklagte, Beschwerdegegnerin) neben der obligatorischen Krankenversicherung verschiedene Zusatzversicherungen ab, darunter die Spitalversicherung Halbprivat. Diese Spitalversicherung gewährt ihm bei krankheits- oder unfallbedingten stationären Behandlungen einen Anspruch auf Behandlung in der halbprivaten Abteilung bei freier Arzt- und Spitalwahl.
Mit Schreiben vom 3. Januar 2018 erteilte die Beklagte für die muskuloskelettale Rehabilitation des Klägers in der Privatklinik C._ in U._ eine Kostengutsprache für die Mehrkosten der halbprivaten Abteilung während 21 Tagen. Die Gutsprache erfolgte mit der Einschränkung, dass nur Kosten im Rahmen des von ihr festgesetzten VVG-Maximaltarifs in der Höhe von Fr. 155.-- pro Tag übernommen würden.
Gleichtags unterzeichnete der Kläger und die Privatklinik C._ eine mit "Versicherungsdeckung und Garantie-Erklärung" betitelte Vereinbarung mit folgendem Inhalt:
"Gestützt auf die erhaltenen Angaben im Versicherungsausweis zur Spitalversicherung besteht für den vereinbarten Klinikaufenthalt ab: 04.01.2018 auf der Abteilung 2 Bettzimmer volle Kostendeckung für Krankenpflege, Unterkunft und Verpflegung [...].
Im Rahmen der stationären Behandlung fallen keine weiteren Kosten für Sie an [...].
Falls Ihre Versicherung die Auszahlung der berechtigen Spitalleistungen verweigert, erteilen Sie eine Vollmacht, damit der Versicherungsanspruch in Ihrem Namen geltend gemacht werden kann, was für Sie mit keinerlei Kosten verbunden ist.
Die vorstehend gestützt auf den Versicherungsausweis abgegebene Garantie-Erklärung hat im Falle verweigerter Versicherungsleistungen Gültigkeit, wenn die Vollmacht zur Durchsetzung der Versicherungsansprüche erteilt wird [...]
Soweit Rechnungsbeträge von der Versicherung nicht voll übernommen werden und auch nicht erhältlich gemacht werden können, werden Sie in diesem Ausmass entlastet."
Ebenfalls am 3. Januar 2018 erteilte der Kläger auf dem Briefpapier der Privatklinik der D._ Consulting und/oder E._ eine Vollmacht zur "Durchsetzung der Ansprüche auf Auszahlung der versicherten Spitalleistungen aus OKP und VVG für den stationären Behandlungsaufenthalt in der Privat-Klinik C._ in U._ gegenüber Krankenkasse/Versicherung".
A.b. Der Kläger hielt sich vom 4. bis am 24. Januar 2018 stationär in der Privatklinik C._ auf. Von den dafür angefallenen Behandlungskosten von Fr. 5'250.-- übernahm die Beklagte den Betrag von Fr. 3'255.-- (21 Tage à Fr. 155.--).
B.
Für den offenen Restbetrag erhob der Kläger am 22. Juni 2018 beim Versicherungsgericht des Kantons Aargau Klage. Er beantragte, die Beklagte sei zu verpflichten, ihm für die Behandlung in der Privatklinik C._ vom 4. Januar bis 24. Januar 2018 (21 Pflegetage), Fr. 1'995.-- nebst 5 % Zins ab Klagedatum zu bezahlen.
Mit Urteil vom 5. Februar 2019 trat das Versicherungsgericht auf die Klage mangels Rechtsschutzinteresse nicht ein.
C.
Gegen den Entscheid des Versicherungsgerichts erhob der Beschwerdeführer Beschwerde in Zivilsachen an das Bundesgericht. Er beantragte, das Urteil des Versicherungsgerichts sei aufzuheben und die Angelegenheit sei an die Vorinstanz zurückzuweisen mit dem Auftrag, auf die Klage einzutreten und einen Sachentscheid zu fällen.
Die Beschwerdegegnerin beantragte, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen. Das Versicherungsgericht verzichtete unter Hinweis auf die Begründung im angefochtenen Entscheid auf eine Vernehmlassung. Der Beschwerdeführer replizierte.

Erwägungen:
1.
1.1. Die Beschwerde richtet sich gegen den Endentscheid (<ref-law>) eines kantonalen Gerichts, das in einer Zivilsache (<ref-law>) entschieden hat. Der Beschwerdeführer ist mit seinen Anträgen unterlegen (<ref-law>). Die Vorinstanz hat als einzige kantonale Instanz entschieden (<ref-law> i.V.m. <ref-law>), weshalb die Beschwerde in Zivilsachen unabhängig von der Erreichung der Streitwertgrenze von <ref-law> zulässig ist (<ref-law>).
1.2. Die Beschwerde in Zivilsachen ist ein reformatorisches Rechtsmittel (<ref-law>). Grundsätzlich muss die rechtsuchende Partei einen Antrag in der Sache stellen. Ein blosser Rückweisungsantrag reicht ausnahmsweise aus, wenn das Bundesgericht im Falle der Gutheissung naturgemäss nicht selbst in der Sache entscheiden könnte (<ref-ruling> E. 1.2; <ref-ruling> E. 1.3 S. 383). Dieser Fall ist hier offensichtlich gegeben, da sich die Beschwerde gegen einen Nichteintretensentscheid richtet.
1.3. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2.
Die Vorinstanz erwog, der Beschwerdeführer mache klageweise die Zahlung der ungedeckten Kosten für den stationären Aufenthalt in der Privatklinik C._ in der Höhe von Fr. 1'995.-- geltend. Am 3. Januar 2018 habe die Privatklinik mit dem Beschwerdeführer vereinbart, dass er für Rechnungsbeträge, die von der Versicherung nicht voll übernommen würden und die auch nicht erhältlich gemacht werden könnten, von der Privatklinik entlastet werde. Die Höhe der zu erlassenden Kosten werde zwar in der Garantieerklärung vom 3. Januar 2018 nicht betragsmässig festgelegt. Es ergebe sich allerdings nach ihrem Wortlaut und dem Sinn und Zweck, dass die Privatklinik dem Beschwerdeführer gegebenenfalls den vollen Betrag von Fr. 1'995.-- erlassen werde. Diese Garantieerklärung habe damit zur Folge, dass dem Beschwerdeführer ein (vollständiges oder teilweises) Obsiegen im vorliegenden Prozess keinen Nutzen bringen würde. Damit fehle es ihm an einem praktischen Rechtsschutzinteresse.
Im Weiteren verweise der Beschwerdeführer auf die Interessen privater Dritter, nämlich der Privatklinik sowie anderer Versicherter. Die Wahrnehmung der Interessen von Drittpersonen sei grundsätzlich nicht schutzwürdig, da jedermann gehalten sei, seine Interessen selbst wahrzunehmen. Der Beschwerdeführer könne daraus kein Rechtsschutzinteresse für sich selber ableiten. Nach dem Dargelegten fehle es dem Beschwerdeführer an einem schutzwürdigen Interesse nach <ref-law>. Auf die Klage sei somit nicht einzutreten.
3.
Dagegen bringt der Beschwerdeführer vor, er habe sich aufgrund der Spitalzusatzversicherung darauf verlassen, dass sein Aufenthalt in der Privatklinik C._ angemessen versichert sei und ihm keine Zusatzkosten erwachsen würden. Sein vertragliches Recht auf freie Spitalwahl sei verletzt, was er mit der vorliegenden Klage durchsetzen möchte. Es gehe ihm neben der Leistung der vorliegend strittigen Summe von Fr. 1'995.-- auch um die prinzipielle Feststellung der Leistungspflicht der Beschwerdegegnerin für künftige Klinikaufenthalte. Er könne aufgrund seines Alters die Krankenkasse nicht mehr wechseln und habe ein berechtigtes Interesse daran, den vertragskonformen Leistungsanspruch bei freier Spitalwahl "gewissermassen für den Rest seines Lebens" mit einem Gerichtsentscheid sicherzustellen. Entgegen der Vorinstanz habe er somit ein persönliches, aktuelles und praktisches Interesse, nämlich ein Leistungsinteresse betreffend der Bezahlung der strittigen Summe und ein Feststellungsinteresse, weil mit diesem Entscheid auch der Umfang der Leistungspflicht für die vertraglich zugesicherte, freie Spitalwahl bei künftigen Klinikaufenthalten definiert werde. Mit dem Nichteintretensentscheid habe die Vorinstanz <ref-law> verletzt.
4.
<ref-law> verlangt ein schutzwürdiges Interesse der klagenden oder gesuchstellenden Partei, damit das Gericht materiell auf die Sache eintritt. Erforderlich ist im Regelfall ein persönliches Interesse des Klägers, welches in dem Sinn rechtlicher Natur ist, als die verlangte Leistung, die anbegehrte Feststellung oder Gestaltung einer Rechtslage ihm einen Nutzen eintragen muss (<ref-ruling> E. 3a; Urteile 4A_630/2012 vom 19. März 2013 E. 3.1; 4A_404/2011 vom 7. November 2011 E. 5.1; 4C.45/2006 vom 26. April 2007 E. 5, nicht publ. <ref-ruling>; 5P.329/2002 vom 23. Dezember 2002 E. 3.1).
Demgegenüber fehlt das Rechtsschutzinteresse, wenn das Urteil dem Kläger auch im Falle des Obsiegens keinen Nutzen bringt (Max Kummer, Das Klagerecht und die materielle Rechtskraft im schweizerischen Recht, 1954, S. 35; Simon Zingg, Berner Kommentar, Schweizerische Zivilprozessordnung, 2012, N. 47 zu <ref-law>). Ein solcher Nutzen fehlt im Allgemeinen, wenn der streitige Anspruch bereits befriedet ist oder überhaupt nicht befriedet werden kann (<ref-ruling> E. 3a; Urteile 4C.45/2006 vom 26. April 2007 E. 5; 5P.329/2002 vom 23. Dezember 2002 E. 3.1).
5.
Im vorliegenden Fall fordert der Beschwerdeführer von der Beschwerdegegnerin Fr. 1'995.-- für ungedeckte Kosten der Behandlung vom 4. bis 24. Januar 2018 in der Privatklinik C._. Eine Klage auf Feststellung der Leistungspflicht für künftige Klinikaufenthalte erhob der Beschwerdeführer nicht. Soweit er sein Rechtsschutzinteresse mit allfälligen weiteren Klinikaufenthalten begründet, ist er nicht zu hören.
Bei der geltend gemachten Leistungsklage über Fr. 1'995.-- stützt sich der Beschwerdeführer auf den zwischen ihm und der Beschwerdegegnerin abgeschlossenen Spitalzusatzversicherungsvertrag. Für die Geltendmachung dieser Leistungsklage besteht ein persönliches Interesse des Beschwerdeführers und zwar das Leistungsinteresse an der Bezahlung der strittigen Summe von Fr. 1'995.--. Die Klage trägt ihm entgegen der Auffassung der Vorinstanz auch einen Nutzen ein, denn bei Obsiegen hat ihm die Beschwerdegegnerin den eingeforderten Betrag zu bezahlen. Ob der Beschwerdeführer bei Obsiegen eine Forderung einer Drittpartei, der Privatklinik, zu begleichen hat oder diese ihm bei Unterliegen die Schuld erlässt, ist für die Frage des Rechtsschutzinteresses für die Geltendmachung des vertraglichen Anspruchs gegenüber der Beschwerdegegnerin irrelevant.
Es besteht damit ein Rechtsschutzinteresse des Beschwerdeführers. Die Argumentation der Vorinstanz, dass das Urteil dem Beschwerdeführer auch im Falle des Obsiegens keinen Nutzen bringt, verletzt <ref-law>.
6.
Die Beschwerde ist daher gutzuheissen, soweit darauf einzutreten ist. Der angefochtene Entscheid ist aufzuheben. Die Sache ist zur Fortführung des Verfahrens an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens wird die Beschwerdegegnerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Der Entscheid des Versicherungsgerichts des Kantons Aargau, 3. Kammer, vom 5. Februar 2019, wird aufgehoben. Die Sache wird zu neuer Beurteilung an das Versicherungsgericht zurückgewiesen.
2.
Die Gerichtskosten von Fr. 1'000.-- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Versicherungsgericht des Kantons Aargau, 3. Kammer, schriftlich mitgeteilt.
Lausanne, 7. Juni 2019
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Brugger