Sachverhalt:
A.
A._ (Versicherter, Kläger, Beschwerdeführer) trat per 1. März 2008 als Geschäftsführer/Koch des Hotel U._ der B._ AG bei (Versicherung, Beklagte, Beschwerdegegnerin). Am 1. Juli 2013 liess der Versicherte der Versicherung eine Krankmeldung per 28. Juni 2013 zukommen. Diese erbrachte ab dem 28. Juni 2013 das versicherte Krankentaggeld. Nachdem sie Abklärungen getätigt hatte, informierte die Versicherung den Versicherten mit Schreiben vom 9. Dezember 2013 darüber, dass eine 80-prozentige Arbeitsfähigkeit für eine angepasste Tätigkeit vorliege, weshalb sie noch während einer Anpassungsfrist von 3 Monaten Taggeldleistungen erbringe (bis 31. März 2014) und verwies ihn für die Zeit danach an die Arbeitslosenversicherung.
Mit Schreiben vom 11. Juli 2014 teilte der Versicherte mit, dass er unmöglich vermittelbar sei. Am 26. Januar 2015 unterbreitete die Versicherung dem Versicherten ein Vergleichsangebot, welches dieser ablehnte. Gemäss Schreiben vom 16. Februar 2015 erachtete die Versicherung keine weiteren Taggeldleistungen für berechtigt.
B.
Mit Eingabe vom 1. Mai 2015 reichte der Kläger beim Obergericht des Kantons Uri, Verwaltungsrechtliche Abteilung, verwaltungsrechtliche Klage ein und beantragte, die Beklagte sei zu verpflichten, ihm Fr. 30'682.05 zu bezahlen.
Mit Entscheid vom 3. Juni 2016 wies das Obergericht des Kantons Uri die Klage ab.
C.
Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, der Entscheid des Obergerichts des Kantons Uri vom 3. Juni 2016 sei aufzuheben und die Beschwerdegegnerin sei zu verpflichten, ihm Fr. 30'682.05 zu bezahlen. Eventualiter sei die Sache zur Sachverhaltsergänzung und Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin sowie die Vorinstanz haben auf eine Stellungnahme verzichtet.

Erwägungen:
1.
Zu beurteilen ist die Leistungspflicht aus einer Zusatzversicherung zur sozialen Krankenversicherung. Derartige Zusatzversicherungen unterstehen gemäss Art. 2 Abs. 2 des Bundesgesetzes betreffend die Aufsicht über die soziale Krankenversicherung (Krankenversicherungsaufsichtsgesetz, KVAG; SR 832.12; bis zum 1. Januar 2016: Art. 12 Abs. 2 und 3 des Bundesgesetzes über die Krankenversicherung [KVG; SR 832.10], vgl. Botschaft zum Bundesgesetz betreffend die Aufsicht über die soziale Krankenversicherung, BBl 2012 S. 1941 ff., S. 1956) dem Bundesgesetz über den Versicherungsvertrag (Versicherungsvertragsgesetz, VVG; SR 221.229.1). Streitigkeiten aus solchen Versicherungen sind privatrechtlicher Natur, womit als Rechtsmittel an das Bundesgericht die Beschwerde in Zivilsachen gemäss <ref-law> in Betracht kommt (<ref-ruling> E. 1.1 S. 3; <ref-ruling> E. 2.1 S. 441 f. mit Hinweis).
Die Beschwerde richtet sich gegen einen Endentscheid (<ref-law>). Die Verwaltungsrechtliche Abteilung des Obergerichts des Kantons Uri hat als einzige kantonale Instanz im Sinne von <ref-law> und <ref-law> entschieden, weshalb die Beschwerde in vermögensrechtlichen Angelegenheiten gemäss <ref-law> unabhängig vom Erreichen der Streitwertgrenze nach <ref-law> zulässig ist (vgl. <ref-ruling> E. 1.2.2 S. 4 ff., 799 E. 1.1 S. 800). Die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 i.V.m. <ref-law>). Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist unter Vorbehalt rechtsgenügend begründeter Rügen auf die Beschwerde einzutreten.
2.
2.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind; es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4 S. 400; <ref-ruling> E. 1.1 S. 104).
Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117; <ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>).
Für eine Kritik am festgestellten Sachverhalt gilt das strenge Rügeprinzip von <ref-law> (<ref-ruling> E. 2.3 S. 266 mit Hinweisen). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18).
2.3. Soweit der Beschwerdeführer diesen Begründungsanforderungen nicht genügt und in seiner Beschwerde den Sachverhalt frei ergänzt oder abändert, ohne entsprechende Sachverhaltsrügen vorzubringen, haben seine Ausführungen unbeachtet zu bleiben.
3.
3.1. Art. 9 der Allgemeinen Versicherungsbedingungen der Beschwerdegegnerin (AVB; Ausgabe 2013) bezeichnet die Arbeitsunfähigkeit als die durch eine Beeinträchtigung der körperlichen oder geistigen Gesundheit bedingte volle oder teilweise Unfähigkeit, im bisherigen Beruf oder Aufgabenbereich zumutbare Arbeit zu leisten. Nach 3 Monaten Arbeitsunfähigkeit wird auch die zumutbare Tätigkeit in einem anderen Beruf oder Aufgabenbereich berücksichtigt.
Art. 23 AVB bestimmt sodann, dass ein in seinem angestammten Beruf arbeitsunfähiger Versicherter innert 3 Monaten Arbeit in einem anderen Erwerbszweig zu suchen hat. Wird die Restarbeitsfähigkeit nicht verwertet, so erfolgt die Taggeldabrechnung unter Berücksichtigung der Schadenminderungspflicht des Versicherten.
3.2. Unbestritten ist, dass der Beschwerdeführer im Zeitpunkt der Leistungseinstellung durch die Beschwerdegegnerin (im März 2014) in seiner angestammten Tätigkeit als Koch/Geschäftsführer arbeitsunfähig war. Ebenso unbestritten ist, dass der Beschwerdeführer im September 2014 seine Arbeitsfähigkeit in seinem Beruf (vorerst teilweise) wieder zurückgewonnen hat.
Folglich ermittelte die Vorinstanz anhand der medizinischen Akten, ob und in welchem Ausmass der Beschwerdeführer in einer angepassten Tätigkeit zwischen Dezember 2013 und September 2014 arbeitsfähig gewesen wäre. Dazu würdigte sie die diversen Arztberichte wobei sie unter Hinweis auf den Bericht von Dr. med. C._ und Dr. med. D._ festhielt, die Einschätzung der Beschwerdegegnerin, wonach der Beschwerdeführer in einer leichten Tätigkeit ganztags arbeitsfähig sei, erscheine plausibel. Alsdann hielt sie fest, dass die Prognose betreffend Zurückgewinnung der Arbeitsfähigkeit im angestammten Beruf als Koch im Zeitpunkt der Leistungseinstellung negativ zu beurteilen gewesen sei; der Beschwerdeführer sei in diesem Zeitpunkt schon seit fast 6 Monaten in hohem Grade arbeitsunfähig gewesen und es habe sich keine Besserung abgezeichnet. Aus diesem Grund sei nachvollziehbar, dass die Beschwerdegegnerin dem Beschwerdeführer eine 3monatige Frist angesetzt habe, um sich um eine angepasste Tätigkeit zu bemühen. Der Beschwerdeführer habe folglich seine Schadenminderungspflicht verletzt, indem er an seiner Tätigkeit als Koch festgehalten habe, obwohl ihm diese aus medizinischer Sicht nicht mehr zumutbar gewesen sei.
3.3. Der Beschwerdeführer stellt sich nach wie vor auf den Standpunkt, dass er entgegen der Ansicht der Vorinstanz auch für eine leidensangepasste Tätigkeit nicht arbeitsfähig gewesen sei und ihm die Aufgabe seiner selbstständigen Tätigkeit nicht habe zugemutet werden können, weshalb die Beschwerdegegnerin den Taggeldanspruch im März 2014 (noch) nicht hätte einstellen dürfen.
Dabei rügt er eine falsche Feststellung des Sachverhaltes bzw. eine willkürliche Beweiswürdigung. Er macht geltend, sowohl sein Hausarzt Dr. med. D._ als auch die beiden Ärzte Dr. med. E._ und Dr. med. F._ hätten ein chronisch abdominales Schmerzsyndrom diagnostiziert. Aufgrund seiner Schmerzen habe er gerade mal 15 Minuten sitzen und maximal 2 Stunden stehen können, womit keine wechselbelastende Tätigkeit möglich gewesen sei. Gestützt darauf sei auch "völlig realitätsfremd", inwiefern ihm - als nachgewiesener Legastheniker - eine Einsatzmöglichkeit in einem anderen Erwerbszweig habe zugemutet werden können. Unter Berücksichtigung der gesamten objektiven und subjektiven Gegebenheiten hätten von ihm keine derartigen Vorkehrungen verlangt werden dürfen, weshalb keine Verletzung seiner Schadenminderungspflicht angenommen werden könne. Vielmehr habe er alles dafür getan, um in seinen bisherigen Beruf zurückzukehren, was ihm Dank der von Dr. med. F._ angeordneten Behandlung im September 2014 auch gelungen sei.
3.4. Die Rügen erweisen sich als unbegründet.
Dem angefochtenen Urteil kann entnommen werden, dass die Vorinstanz den Gesundheitszustand des Beschwerdeführers bzw. die Einschätzung seiner Arbeitsfähigkeit durch die verschiedenen Ärzte anhand der wichtigsten medizinischen Akten detailliert wiedergegeben hat. Unter Würdigung dieser umfangreichen Akten hat sie sodann, entgegen dem was der Beschwerdeführer behauptet, sehr wohl festgehalten, dass der Beschwerdeführer nur "einfache Arbeiten" ausführen konnte, "die kein sich bücken oder heben von Pfannen oder sonstigen Gegenständen beinhalten". Ebenso hielt die Vorinstanz fest, dass "rein sitzende Tätigkeiten nur eingeschränkt möglich sind". Der "medizinische Sachverhalt", wie der Beschwerdeführer ihn nennt, wurde somit richtig wiedergegeben. Weshalb gestützt darauf nicht hätte geschlossen werden dürfen, dass im Zeitpunkt der Leistungseinstellung eine leichte wechselbelastende Tätigkeit mit stabilisierendem Bauchgurt und einer um 20 % (schmerzbedingt) eingeschränkten Leistungsfähigkeit möglich gewesen wäre, tut der Beschwerdeführer nicht dar. Einzig mit dem Vorbringen, ihm sei aufgrund seiner gesundheitlichen Situation keine wechselseitig belastende Tätigkeit möglich gewesen, vermag er keine Willkür zu begründen. Ebensowenig vermag er Willkür aufzuzeigen soweit er vorbringt, es sei ihm im Zeitpunkt der Leistungseinstellung nicht zumutbar gewesen, seine selbstständige Erwerbstätigkeit zugunsten einer leidensangepassten Tätigkeit aufzugeben. Wie die Vorinstanz festgehalten hat, ist den diversen Arztberichten - auf welche sich im Übrigen auch der Beschwerdeführer bezieht - zu entnehmen, dass im Zeitpunkt, in welchem die Beschwerdegegnerin dem Beschwerdeführer die Leistungseinstellung nach einer 3-monatigen Anpassungsfrist ankündigte, die Weiterführung seiner Tätigkeit als Koch als kaum mehr möglich angesehen wurde. Es war zu diesem Zeitpunkt auch keine Besserung in Sicht, was der Beschwerdeführer denn auch gar nicht in Abrede stellt. Er ist einzig der Ansicht, dass mit der Leistungseinstellung hätte zugewartet werden müssen, da eine spätere Therapie zum Erfolg geführt habe, weshalb ihm ein Berufswechsel nicht habe zugemutet werden dürfen. Damit setzt er sich jedoch keineswegs mit den Ausführungen der Vorinstanz auseinander: Die Vorinstanz hat die Anstrengungen des Beschwerdeführers, weiterhin in seinem angestammten Beruf arbeiten zu können, sehr wohl berücksichtigt, ja gar anerkannt. So hielt sie es auch für durchaus verständlich, dass der Beschwerdeführer seine selbständige Tätigkeit nicht habe aufgeben wollen, hielt aber fest, dass dafür nicht die Taggeldversicherung einzustehen habe. Es könne von der Versicherung nicht erwartet werden, dass sie über Monate Taggeldleistungen erbringe, wenn keine Verbesserung der Arbeitsfähigkeit in Sicht - eine angepasste Tätigkeit hingegen vollschichtig zumutbar sei. Von einer rein administrativen Tätigkeit war dabei jedoch entgegen den Vorbringen des Beschwerdeführers nicht die Rede. Die Vorinstanz hielt die Einsatzmöglichkeit in einer angepassten Tätigkeit für zumutbar, welche - anders als der Beschwerdeführer dies unter Hinweis auf das Urteil 9C_818/2011 ausdrückt - nicht als realitätsfremd angesehen werden kann; es können nur Vorkehren hinsichtlich eines Berufswechsels verlangt werden, die unter Berücksichtigung der gesamten objektiven und subjektiven Gegebenheiten des Einzelfalles zumutbar sind, wobei bei der Bestimmung der Zumutbarkeit eines Berufswechsels, auch das trotz der gesundheitlichen Beeinträchtigung zumutbarerweise erzielbare Einkommen bezogen auf einen ausgeglichenen Arbeitsmarkt zu ermitteln ist (Urteil 9C_818/2011 vom 7. September 2012 E. 3.2 mit Hinweisen). Entsprechend hielt die Vorinstanz auch fest, dass dem Beschwerdeführer auch unter diesem Aspekt die Aufgabe seiner selbstständigen Tätigkeit zumutbar sei, denn gemäss der unangefochten gebliebenen Verfügung der IV-Stelle vom 5. November 2014 würde er in einer angepassten Tätigkeit deutlich mehr verdienen. Dagegen bringt der Beschwerdeführer nichts Sachdienliches vor, womit er den Begründungsanforderungen (vgl. E. 2 hiervor) nicht nachkommt.
4.
Die Beschwerde ist damit abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des bundesgerichtlichen Verfahrens wird der Beschwerdeführer kostenpflichtig (<ref-law>). Der durch ihren Rechtsdienst vertretenen Beschwerdegegnerin ist praxisgemäss keine Parteientschädigung zuzusprechen (vgl. BGE <ref-ruling> E. 4 S. 446; Urteil 4A_678/2011 vom 2. Mai 2012 E. 4, nicht publ. in: <ref-ruling>; je mit Hinweisen).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Es wird keine Parteientschädigung zugesprochen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Uri, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 29. September 2016
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Die Gerichtsschreiberin: Reitze-Page