Sachverhalt:
A.
A._ (geb. 1927) war mit B._ (geb. 1925) in zweiter Ehe verheiratet. Seit dem 19. März 2014 lebte B._ im Alters- und Pflegeheim E._ in W._. Am 22. Mai 2015 ist B._ verstorben. A._ hat (aus erster Ehe) eine Tochter, C._, welche in den USA wohnt.
B.
Nachdem A._ bereits im Mai 2014 im Kantonsspital Olten hospitalisiert worden war, musste er am 17. Juli 2014 erneut hospitalisiert werden. Am 28. Juli 2014 beantragte die Sozialberatung des Kantonsspitals Olten bei der Kindes- und Erwachsenenschutzbehörde (KESB) Olten-Gösgen die Prüfung erwachsenenschutzrechtlicher Massnahmen, insbesondere eine Beistandschaft zur Regelung der finanziellen Belange. Gestützt auf einen bei der Sozialregion Untergäu SRU in Auftrag gegebenen Abklärungsbericht vom 27. August 2014 sowie nach Anhörung von A._ am 2. September 2014 ordnete die KESB Olten-Gösgen mit Entscheid vom 10. September 2014 für A._ gestützt auf Art. 394 i.V.m. Art. 395 ZGB eine Vertretungsbeistandschaft mit Vermögensverwaltung an und übertrug der Beiständin die Aufgaben, das Einkommen und das Vermögen von A._ sorgfältig zu verwalten, ihn beim Erledigen der administrativen Angelegenheiten und im Rechtsverkehr zu vertreten, namentlich im Verkehr mit Behörden, Ämtern, Banken, Post, (Sozial-) Versicherungen, sonstigen Institutionen und Privatpersonen sowie, soweit notwendig, ihn bei Fragen der Unterbringung im Heim zu vertreten (Ziff. 3.1). Als Beiständin ernannte die KESB Olten-Gösgen D._ (Ziff. 3.2). Einer allfälligen Beschwerde gegen den Entscheid wurde die aufschiebende Wirkung entzogen (Ziff. 3.3) und für den Entscheid eine Gebühr von Fr. 550.-- erhoben (Ziff. 3.4).
C.
Gegen diesen Entscheid erhob A._ am 11. Oktober 2014 beim Verwaltungsgericht des Kantons Solothurn Beschwerde mit den Anträgen, anstelle einer Vertretungsbeistandschaft mit Vermögensverwaltung nach Art. 394 und 395 ZGB sei eine Begleitbeistandschaft nach Art. 393 ZGB anzuordnen, der Entscheid über die Anordnung einer Beistandschaft betreffend seiner Ehefrau B._ sei mit einer Rechtsmittelbelehrung ihm persönlich zu eröffnen und es seien den Verfahrensbeteiligten und ihm keine Kosten aufzuerlegen. Mit Urteil vom 5. Dezember 2014 wies das Verwaltungsgericht des Kantons Solothurn die Beschwerde ab, soweit darauf eingetreten wurde (Ziff. 1), und auferlegte A._ die Kosten des Verfahrens vor Verwaltungsgericht (Ziff. 2).
D.
Mit Beschwerde in Zivilsachen vom 7. Januar 2015 beantragt A._ (Beschwerdeführer) dem Bundesgericht, anstelle einer Vertretungsbeistandschaft mit Vermögensverwaltung nach Art. 394 und 395 ZGB sei eine Begleitbeistandschaft nach Art. 393 ZGB anzuordnen und die Verfahrenskosten - auch die vor der Vorinstanz - seien der KESB Olten-Gösgen aufzuerlegen. Am 27. Januar 2015 reichte der Beschwerdeführer eine weitere Eingabe zu den Akten, in welcher er ergänzende Ausführungen zur Beschwerde vom 7. Januar 2015 machte. Mit Eingabe vom 9. Juni 2015 teilte der Beschwerdeführer sodann mit, dass seine Ehefrau B._ am 22. Mai 2015 verstorben sei.
Es sind die Akten, in der Sache jedoch keine Vernehmlassungen eingeholt worden.
Erwägungen:
1.
1.1. Angefochten ist ein Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz (Art. 75 Abs. 1 BGG) über die Anordnung einer Beistandschaft. Der Entscheid ist öffentlichrechtlich, steht aber in unmittelbarem Zusammenhang mit dem Zivilrecht (Art. 72 Abs. 2 lit. b Ziff. 6 BGG). Die Angelegenheit ist nicht vermögensrechtlicher Natur (Urteil 5A_702/2013 vom 10. Dezember 2013 E. 1, nicht publ. in: BGE 140 III 49). Die Beschwerde ist rechtzeitig eingereicht worden (Art. 100 Abs. 1 i.V.m. Art. 46 Abs. 1 lit. c BGG). Der Beschwerdeführer hat am Verfahren vor der Vorinstanz teilgenommen, ist durch den angefochtenen Entscheid besonders berührt und hat ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung (Art. 76 Abs. 1 BGG). Auf die Beschwerde ist grundsätzlich einzutreten.
1.2. Nicht eingetreten werden kann auf die ergänzenden Ausführungen des Beschwerdeführers in seinen Eingaben vom 27. Januar 2015 sowie 9. Juni 2015. Die Beschwerde ist innert der Beschwerdefrist vollständig begründet einzureichen. Eine nachträgliche Verbesserung und/oder Ergänzung der Beschwerde ist unzulässig (Art. 42 Abs. 1 und Art. 43 BGG; vgl. BGE 134 II 244 E. 2.4 S. 247 f.; Urteil 5A_77/2013 vom 14. Juni 2013 E. 6.3).
2.
2.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen gemäss Art. 95 f. BGG geltend gemacht werden. Mit Ausnahme der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht wendet das Bundesgericht das Recht von Amtes wegen an (Art. 106 BGG). Es ist allerdings nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen von sich aus zu untersuchen, wenn der Beschwerdeführer diese nicht mehr thematisiert (BGE 140 III 86 E. 2 S. 88 f.; 137 III 580 E. 1.3 S. 584; je mit Hinweisen). Deshalb ist in der Beschwerde in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Der Beschwerdeführer muss auf den angefochtenen Entscheid eingehen und aufzeigen, worin eine Verletzung von Bundesrecht liegt; er soll im Schriftsatz mit seiner Kritik an den Erwägungen der Vorinstanz ansetzen, die er als rechtsfehlerhaft erachtet (vgl. BGE 140 III 115 E. 2 S. 116; 134 II 244 E. 2.1 S. 245 f.; vgl. zu Art. 55 Abs. 1 lit. c OG BGE 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 749). Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten (einschliesslich der Willkür bei der Sachverhaltsfeststellung) geltend gemacht wird. Diesbezüglich gilt das Rügeprinzip (Art. 106 Abs. 2 BGG). Die Beschwerde führende Partei muss präzise angeben, welches verfassungsmässige Recht durch den angefochtenen kantonalen Entscheid verletzt wurde, und im Einzelnen darlegen, worin die Verletzung besteht. Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (BGE 137 II 305 E. 3.3 S. 310; 134 II 244 E. 2.2 S. 246).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Der Beschwerdeführer kann die Feststellung des Sachverhalts rügen, wenn sie offensichtlich unrichtig, d.h. willkürlich, ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 140 III 16 E. 1.3.1 S. 18; 133 II 249 E. 1.2.2 S. 252). Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351).
3.
3.1. Der Beschwerdeführer rügt eine Verletzung des rechtlichen Gehörs. Ihm seien das Schreiben der Sozialberatung des Kantonsspitals wie auch das Protokoll der Befragung durch ein Mitglied der KESB nie vorgelegt worden. Von den ihm nun vorgehaltenen Vorwürfen (Nichtleeren der Post etc.) habe er deshalb erst durch den Entscheid der Vorinstanz Kenntnis erhalten.
3.2. Nach Art. 29 Abs. 2 BV haben die Parteien eines Verfahrens Anspruch auf rechtliches Gehör. Dieser Anspruch stellt ein persönlichkeitsbezogenes Mitwirkungsrecht der Partei dar und beinhaltet namentlich das Recht der betroffenen Partei, sich vor Erlass eines in ihre Rechtsstellung eingreifenden Entscheids zur Sache zu äussern (BGE 138 V 125 E. 2.1 S. 127; 134 I 140 E. 5.3 S. 148; 127 I 54 E. 2b S. 56). Teilgehalt des Anspruchs auf rechtliches Gehör bildet der verfahrensrechtliche Anspruch auf Akteneinsicht, für das Verfahren vor der Erwachsenenschutzbehörde konkretisiert in Art. 449b Abs. 1 ZGB (vgl. Urteil 5A_706/2013 vom 5. Dezember 2013 E. 4.2). Akteneinsicht wird indessen grundsätzlich nur auf entsprechendes Gesuch hin gewährt (BGE 132 V 387 E. 6.2 S. 391; Urteil 2C_440/2014 vom 10. Oktober 2014 E. 6.2), wobei die KESB - unter Vorbehalt überwiegender entgegenstehender Interessen - auch von sich aus Akten zustellen kann (vgl. Christoph Auer/Michèle Marti, in: Basler Kommentar, Zivilgesetzbuch I, 5. Aufl. 2014, N. 18 zu Art. 449b ZGB).
Der Anspruch auf rechtliches Gehör und damit auch der Anspruch auf Akteneinsicht ist formeller Natur. Seine Verletzung führt ungeachtet der Erfolgsaussichten der Beschwerde in der Sache selbst zur Aufhebung des angefochtenen Entscheids (BGE 137 I 195 E. 2.2 S. 197 mit Hinweis). Vorbehalten bleiben praxisgemäss Fälle, in denen die Verletzung des Akteneinsichtsrechts nicht besonders schwer wiegt und dadurch geheilt wird, dass die Partei, deren rechtliches Gehör verletzt wurde, sich vor einer Rechtsmittelinstanz äussern kann, welche sowohl die Tat- als auch Rechtsfragen uneingeschränkt überprüfen kann. Unter dieser Voraussetzung ist darüber hinaus von einer Rückweisung der Sache an die Vorinstanz - im Sinne einer Heilung des Mangels - selbst bei einer schwer wiegenden Verletzung des rechtlichen Gehörs abzusehen, wenn und soweit die Rückweisung zu einem formalistischen Leerlauf und damit zu unnötigen Verzögerungen führen würde, die mit dem (der Anhörung resp. Akteneinsicht gleichgestellten) Interesse der betroffenen Partei an einer beförderlichen Beurteilung der Sache nicht zu vereinbaren wären (BGE 137 I 195 E. 2.3.2 S. 197 f.; 132 V 387 E. 5.1; Urteil 4A_29/2014 vom 7. Mai 2014 E. 3.2, nicht publ. in: BGE 140 III 159; je mit Hinweisen).
3.3. Anlass zur Prüfung erwachsenenschutzrechtlicher Massnahmen für den Beschwerdeführer wie auch für seine Ehefrau bildete für die KESB Olten-Gösgen das Schreiben der Sozialberatung des Kantonsspitals Olten vom 28. Juli 2014. Ob die KESB Olten-Gösgen dieses Schreiben dem Beschwerdeführer zur Kenntnis gebracht hat, ergibt sich nicht aus den Akten. Allerdings lässt sich dem Schreiben der Sozialberatung des Kantonsspitals Olten entnehmen, dass die Prüfung erwachsenenschutzrechtlicher Massnahmen in Absprache mit dem Beschwerdeführer beantragt wurde. Sodann wird in der dem Be-schwerdeführer zugestellten Verfügung der KESB Olten-Gösgen vom 31. Juli 2014, mit welcher bei der Sozialregion Untergäu SRU ein Abklärungsbericht in Auftrag gegeben wurde, wie auch im Entscheid vom 10. September 2014, mit welchem die Vertretungsbeistandschaft mit Vermögensverwaltung angeordnet wurde, festgehalten, dass die KESB mit dem betreffenden Schreiben der Sozialberatung des Kantonsspitals Olten über die Situation des Beschwerdeführers und seiner Ehefrau informiert worden sei. Der Beschwerdeführer hatte somit zumindest Kenntnis von der Existenz dieses Schreibens. Ebenso hatte er Kenntnis von seiner Anhörung am 2. September 2014. Der Beschwerdeführer hatte weder vor Erlass des Entscheids der KESB Olten-Gösgen vom 10. September 2014 noch nach dessen Erlass im Rechtsmittelverfahren vor Vorinstanz um Akteneinsicht und/oder Zustellung des Protokolls seiner Anhörung ersucht. Ebenso wenig hat er vor Vorinstanz eine Verletzung des rechtlichen Gehörs resp. seines Anspruchs auf Akteneinsicht moniert. Der Beschwerdeführer hätte sowohl im Verfahren vor der KESB Olten-Gösgen wie auch im vorinstanzlichen Beschwerdeverfahren, in welchem der Sachverhalt wie auch die Rechtsfragen frei überprüft werden konnten und damit eine Heilung einer allfälligen Verletzung des rechtlichen Gehörs möglich gewesen wäre, Gelegenheit gehabt, Einsicht in das Schreiben der Sozialberatung des Kantonsspitals Olten vom 28. Juli 2014 und die Aktennotiz der KESB Olten-Gösgen zu seiner Anhörung vom 2. September 2014 zu nehmen, respektive diese zu beantragen. Nachdem der Gesuchsteller nicht um Akteneinsicht nachgesucht hat, erweist sich die Rüge der Verletzung des rechtlichen Gehörs resp. seines Anspruchs auf Akteneinsicht als unbegründet und ist die Beschwerde in diesem Punkt abzuweisen.
4.
4.1. Die Vorinstanz erwägt, der Beschwerdeführer sei nicht mehr in der Lage, seine administrativen und finanziellen Angelegenheiten selber innert nützlicher Frist zu ordnen. Von der Enkelin der Ehefrau sei gemeldet und von der Abklärungsperson der Sozialregion SRU festgehalten worden, dass er eingehende Post teils nicht mehr öffne und bearbeite. Er habe verschiedentlich zu verstehen gegeben, dass er mit der Situation überlastet sei und Hilfe benötige. Auch wenn der Beschwerdeführer geistig uneingeschränkt sei, sei er, bedingt durch seine gesundheitlichen Probleme und sein Alter, nicht mehr in der Lage, alle notwendigen administrativen und finanziellen Vorkehren rechtzeitig zu treffen. Aufgrund dieses Schwächezustands benötige er einen Beistand, welcher befugt sei, falls notwendig die für ihn erforderlichen Massnahmen vorzunehmen. Es sei keine mildere und dennoch zielführende Massnahme ersichtlich. Dies auch deshalb, weil keine andere nahestehende Person diese Aufgabe übernehmen könne; die pflegebedürftige Ehefrau lebe seit 19. März 2014 im Pflegeheim E._ in W._, die Tochter des Beschwerdeführers in den USA. Eine Unterstützung durch öffentliche und private Dienste falle aufgrund der dauernden Hilfsbedürftigkeit des Beschwerdeführers ausser Betracht. Die gesundheitliche Situation des Beschwerdeführers - er leide unter Nesselfieber und habe eine Gehbehinderung - und seine diversen Spitalaufenthalte hätten gezeigt, dass seine Interessen nicht genügend gewahrt blieben, wenn ein Beistand nur auf sein Geheiss handeln dürfe. Aus den Akten sei zudem ersichtlich, dass es dem Beschwerdeführer ohne Hilfe nicht mehr möglich sei, alleine zu Hause zu leben. Momentan werde seine Betreuung durch die Organisation "Home Instead" sichergestellt. Sollte der Beschwerdeführer zu Hause nicht mehr genügend betreut werden können und wäre ein Heimeintritt unumgänglich, könne die Beiständin für ihn den Heimvertrag unterzeichnen, sollte er dazu nicht mehr in der Lage sein.
4.2. Der Beschwerdeführer rügt eine Verletzung des im Erwachsenenschutz geltenden Grundsatzes der Subsidiarität (Art. 389 ZGB). Es treffe zwar zu und er willige ein, dass ihm jemand bei der Besorgung der administrativen und finanziellen Angelegenheiten helfe. Seine körperlichen Gebrechen, die eine gewisse fremde Hilfe notwendig machten, würden jedoch seine Denkfähigkeit nicht beeinträchtigen. Sein Alter von 87 Jahren und seine körperlichen Gebrechen seien kein Grund, ihm seine Handlungsfähigkeit zu entziehen. Er könne mit einer Begleitbeistandschaft nach Art. 393 ZGB seine administrativen und finanziellen Angelegenheiten ohne Weiteres erledigen. Eine Vertretungsbeistandschaft sei nicht notwendig.
4.3. In Art. 389 ZGB unterstellt der Gesetzgeber alle behördlichen Massnahmen des Erwachsenenschutzes den beiden Maximen der Subsidiarität und der Verhältnismässigkeit. Subsidiarität (Art. 389 Abs. 1 ZGB) heisst, dass behördliche Massnahmen nur dann anzuordnen sind, wenn die Betreuung der hilfsbedürftigen Person auf andere Weise nicht angemessen sichergestellt ist (Botschaft vom 28. Juni 2006 zur Änderung des Schweizerischen Zivilgesetzbuches [Erwachsenenschutz, Personenrecht und Kindesrecht], BBl 2006 7042 Ziff. 2.2.1). Ist die gebotene Unterstützung der hilfsbedürftigen Person auf andere Art - durch die Familie, andere nahestehende Personen (vgl. dazu Urteil 5A_663/2013 vom 5. November 2013 E. 3) oder private oder öffentliche Dienste - schon gewährleistet, so ordnet die Erwachsenenschutzbehörde keine Massnahme an (Art. 389 Abs. 1 Ziff. 1 ZGB). Kommt die Erwachsenenschutzbehörde demgegenüber zum Schluss, die vorhandene Unterstützung der hilfsbedürftigen Person sei nicht ausreichend oder von vornherein ungenügend, so muss ihre Massnahme verhältnismässig, das heisst erforderlich und geeignet sein (Art. 389 Abs. 2 ZGB). Die Erwachsenenschutzbehörde hat dabei nicht gesetzlich fest umschriebene, starre Massnahmen, sondern "Massnahmen nach Mass" zu treffen, das heisst solche, die den Bedürfnissen der betroffenen Person entsprechen (Art. 391 Abs. 1 ZGB). Es gilt der Grundsatz "so viel staatliche Fürsorge wie nötig, so wenig staatlicher Eingriff wie möglich" (vgl. Botschaft, a.a.O., 7017 Ziff. 1.3.4). Dies gilt auch für die Errichtung einer Vertretungsbeistandschaft mit Vermögensverwaltung nach Art. 394 Abs. 1 i.V.m. Art. 395 ZGB (siehe BGE 140 III 49 E. 4.3.1 S. 51 f.).
4.4. Die Vorinstanz hat für das Bundesgericht verbindlich festgestellt, dass der Beschwerdeführer aufgrund seiner gesundheitlichen Situation - Nesselfieber und Gehbehinderung - und seines Alters dauernd hilfsbedürftig und auf Unterstützung angewiesen ist. Dies wird denn auch vom Beschwerdeführer nicht bestritten. Von ihm ebenfalls nicht in Abrede gestellt wird, dass keine nahestehende Person diese Aufgabe übernehmen könnte und eine Unterstützung durch öffentliche und private Dienste ausser Betracht fällt. Die Anordnung einer erwachsenenschutzrechtlichen Massnahme verletzt daher den Grundsatz der Subsidiarität nicht. Indessen ist zu prüfen, was der Beschwerdeführer mit seinen Ausführungen denn auch sinngemäss rügt, ob die Anordnung einer Vertretungsbeistandschaft mit den der Beiständin übertragenen Aufgaben den Grundsatz der Verhältnismässigkeit verletzt.
4.5.
4.5.1. Eine Begleitbeistandschaft wird mit Zustimmung der hilfsbedürftigen Person errichtet, wenn diese für die Erledigung bestimmter Angelegenheiten begleitende Unterstützung braucht (Art. 393 Abs. 1 ZGB). Die Begleitbeistandschaft schränkt die Handlungsfähigkeit der betroffenen Person nicht ein (Art. 393 Abs. 2 ZGB). Sie bildet die mildeste Form der Beistandschaften. Zwingendes Erfordernis ist - unter anderen - die Zustimmung der betroffenen Person. Ein späterer Widerruf der Zustimmung führt zur Aufhebung der Massnahme, selbst wenn die anderen Voraussetzungen für die Massnahme, insbesondere die Unterstützungsbedürftigkeit der betroffenen Person, weiterhin gegeben sind. Im Vordergrund steht bei der Begleitbeistandschaft die Beratung und Vermittlung von Hilfe zur Selbsthilfe um die Selbstbestimmung der betroffenen Person zu erhalten und zu fördern. Diese muss aber selber handeln. Der Begleitbeistand kann nicht für die betroffene Person handeln und diese muss sich Handlungen des Beistands weder gefallen noch anrechnen lassen ( HELMUT HENKEL, in: Basler Kommentar, Zivilgesetzbuch I, 5. Aufl. 2014, N. 2, N. 7, N. 20 und N. 27 zu Art. 393 ZGB).
4.5.2. Eine Vertretungsbeistandschaft wird errichtet, wenn die hilfsbedürftige Person bestimmte Angelegenheiten nicht erledigen kann und deshalb vertreten werden muss (Art. 394 Abs. 1 ZGB). Voraussetzung ist, dass der für die Anordnung einer erwachsenenschutzrechtlichen Massnahme erforderliche Schwächezustand bewirkt, dass die hilfsbedürftige Person bestimmte Angelegenheiten nicht oder nicht zweckmässig erledigen kann, ihr Wohl dadurch in relevanter Weise gefährdet ist, und sie deshalb vertreten werden muss. Eine Vertretungsbeistandschaft ist unter anderem angezeigt, wenn die hilfsbedürftige Person als Folge des Schwächezustands nicht in der Lage ist, sich um bestimmte Angelegenheiten zu kümmern oder sich völlig passiv verhält, und sich deshalb nicht um diese Angelegenheiten kümmert (Helmut Henkel, a.a.O., N. 7 f. zu Art. 394 ZGB). Der Beistand vertritt die verbeiständete Person im Rahmen der ihm übertragenen Aufgaben selbständig und direkt, auch ohne Einverständnis des Verbeiständeten ( HELMUT HENKEL, a.a.O., N. 18 und N. 20 zu Art. 394 ZGB). Die Vertretungsbeistandschaft schränkt indessen die Handlungsfähigkeit der verbeiständeten Person grundsätzlich nicht ein, sofern die Erwachsenenschutzbehörde nichts anderes verfügt hat (Art. 394 Abs. 2 ZGB e contrario, Urteil 5A_702/2013 vom 10. Dezember 2013 E. 3, nicht publ. in: BGE 140 III 49). Der Verbeiständete kann deshalb auch in den dem Beistand übertragenen Aufgabenbereichen weiterhin selbst handeln. Für die in Art. 416 Abs. 1 ZGB aufgezählten Geschäfte, die der Beistand in Vertretung der betroffenen Person vornimmt, ist zudem die Zustimmung der Erwachsenenschutzbehörde erforderlich, es sei denn, der in seiner Handlungsfähigkeit nicht eingeschränkte urteilsfähige Verbeiständete erteile seine Zustimmung (Art. 416 Abs. 1 und 2 ZGB; HELMUT HENKEL, a.a.O.,N. 20 und N. 23 zu Art. 394 ZGB). Dazu zählt auch der Abschluss von Dauerverträgen über die Unterbringung der betroffenen Person (Art. 416 Abs. 1 Ziff. 2 ZGB). Ist die hilfsbedürftige Person im Bereich der Vermögensverwaltung zu vertreten, so ist die Vertretungsbeistandschaft nach Art. 394 ZGB gestützt auf Art. 395 ZGB entsprechend zu ergänzen ( HELMUT HENKEL, a.a.O.,N. 1 zu Art. 395 ZGB).
4.6. Die Vorinstanz hat weiter verbindlich festgestellt, dass der Beschwerdeführer wegen seiner gesundheitlichen Probleme und seines Alters nicht mehr in der Lage ist, seine administrativen und finanziellen Angelegenheiten innert nützlicher Frist zu ordnen und alle notwendigen finanziellen Vorkehren rechtzeitig zu treffen, insbesondere als er eingehende Post teils nicht mehr öffnet und bearbeitet. Der Beschwerdeführer zeigt nicht auf und erhebt auch keine dem Rügeprinzip genügende Rüge, inwiefern diese Sachverhaltsfeststellungen der Vorinstanz offensichtlich unrichtig bzw. willkürlich oder auf einer Rechtsverletzung nach Art. 95 BGG beruhen sollen. Ist der Beschwerdeführer indessen nicht mehr in der Lage, rechtzeitig seine administrativen und finanziellen Angelegenheiten zu besorgen, hat es die Vorinstanz resp. die KESB Olten-Gösgen zu Recht als angezeigt erachtet, in diesen Belangen eine Vertretungsbeistandschaft mit Vermögensverwaltung anzuordnen. Die vorwiegend auf Beratung ausgerichtete Begleitbeistandschaft ist nicht ausreichend, den mit der Erledigung dieser Angelegenheiten überforderten Beschwerdeführer zu unterstützen. Eine Unterstützung ist nur möglich, wenn die ernannte Beiständin in Phasen der Passivität des Beschwerdeführers, überforderungs- oder gesundheitsbedingt, für ihn handeln kann. Dies bedingt eine Vertretungsbefugnis der Beiständin und deren Ermächtigung, das Vermögen des Beschwerdeführers zu verwalten, ansonsten die finanziellen Angelegenheiten nicht geregelt werden können. Aus den vorinstanzlichen Feststellungen ergibt sich weiter, dass der Beschwerdeführer ohne externe Hilfe nicht mehr alleine zu Hause leben kann. Nachdem die Spitex ihre Dienste per 31. August 2014 eingestellt hatte, wurde die Betreuung durch die Organisation "Home Instead" sichergestellt. Die Betreuungssituation des Beschwerdeführers bedarf daher der regelmässigen Kontrolle, und es verletzt kein Bundesrecht, wenn die Vorinstanz resp. die KESB Olten-Gösgen der Beiständin zusätzlich die Aufgabe übertragen hat, den Beschwerdeführer - soweit notwendig - bei Fragen der Unterbringung im Heim zu vertreten. Angesichts der dargelegten Unterstützungsbedürftigkeit des Beschwerdeführers erweist sich die von der Vorinstanz resp. der KESB Olten-Gösgen angeordnete Vertretungsbeistandschaft mit den der Beiständin übertragenen Aufgabenbereichen als erforderlich und geeignet, mithin verhältnismässig, dem Beschwerdeführer die erforderliche Unterstützung zukommen zu lassen.
Kernanliegen des Beschwerdeführers in seiner Beschwerde scheint der Entzug der Handlungsfähigkeit zu sein. Diesbezüglich ist festzuhalten, dass ihm die Handlungsfähigkeit weder beschränkt noch entzogen worden ist. Der Beschwerdeführer ist weiterhin berechtigt, seine finanziellen und administrativen Angelegenheiten selber zu besorgen, soweit er dazu selbst in der Lage ist. Auch ist dem angefochtenen Entscheid und der Verfügung der KESB Olten-Gösgen nicht zu entnehmen, dass der Beschwerdeführer gegen seinen Willen in ein Heim eingewiesen werden sollte. Wie bereits erwähnt bräuchte es für die Unterbringung des Beschwerdeführers in einem Heim die Zustimmung der KESB Olten-Gösgen (Art. 416 Abs. 1 Ziff. 2 ZGB), sollte der Beschwerdeführer zu gegebenem Zeitpunkt mit einem Übertritt in eine solche Institution nicht einverstanden sein. Auch unter diesem Aspekt ist die angeordnete Massnahme als verhältnismässig zu bezeichnen.
5.
Die Beschwerde erweist sich damit als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Entsprechend hat der Beschwerdeführer die Verfahrenskosten zu tragen (Art. 66 Abs. 1 BGG). Eine Parteientschädigung ist nicht auszurichten (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 700.-- werden dem Beschwerdeführer auferlegt.
3.
Es wird keine Parteientschädigung zugesprochen.
4.
Dieses Urteil wird dem Beschwerdeführer, der Kindes- und Erwachsenenschutzbehörde KESB Olten-Gösgen und dem Verwaltungsgericht des Kantons Solothurn schriftlich mitgeteilt.
Lausanne, 10. August 2015
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Die Gerichtsschreiberin: Griessen