Sachverhalt:
A.
A.a. Die Kindes- und Erwachsenenschutzbehörde Olten-Gösgen (KESB) errichtete am 27. November 2013 über den damals bereits seit Jahrzehnten schwer suchtkranken A._ (geb. 1968) eine Vertretungsbeistandschaft mit Vermögensverwaltung.
A.b. A._ wurde 2015 wegen mehrfacher Übertretung und mehrfacher Vergehen gegen das Betäubungsmittelgesetz, mehrfachen Verabreichens gesundheitsgefährdender Stoffe an Kinder und mehrfacher sexueller Handlungen mit Kindern zu einer unbedingten Gefängnisstrafe von 12 Monaten verurteilt. Er trat den Strafvollzug am 26. Juni 2019 auf der Bewachungsstation der Universitären Psychiatrischen Dienste V._ an, wo eine somatische Abklärung erfolgte. Aufgrund seiner besonderen, auf seinen Gesundheitszustand zurückzuführenden Bedürfnisse wurde die Strafe ab dem 20. August 2019 im Pflegezentrum U._ vollstreckt. Der Strafvollzug sollte am 25. Juni 2020 enden.
A.c. Mit Schreiben vom 19. Februar 2020 stellte der Beistand von A._ bei der KESB den Antrag auf dessen fürsorgerische Unterbringung direkt im Anschluss an den Strafvollzug. Die KESB folgte diesem Antrag und ordnete die fürsorgerische Unterbringung von A._ an (Entscheid vom 27. Mai 2020). Sodann sollte diese Massnahme spätestens nach sechs Monaten überprüft werden. Gegen diesen Entscheid wandte sich A._ an das Verwaltungsgericht des Kantons Solothurn, das seine Beschwerde am 12. Juni 2020 abwies (Verfahren VWBES.2020.204). Dieser Entscheid erwuchs unangefochten in Rechtskraft.
A.d. Am 17. Dezember 2020 entschied die KESB, A._ in der fürsorgerischen Unterbringung zu belassen und die Massnahme spätestens nach zwölf Monaten zu überprüfen.
B.
Gegen diesen Entscheid wandte sich A._ wiederum an das Verwaltungsgericht, welches die Beschwerde mit Entscheid vom 12. Januar 2021 insofern guthiess, als die nächste Überprüfung bereits nach sechs Monaten stattfinden müsse (Dispositiv-Ziff. 1). Soweit weitergehend, wies es das Rechtsmittel ab (Dispositiv-Ziff. 2), überband die Kosten des Verfahrens vor Verwaltungsgericht dem Kanton (Dispositiv-Ziff. 3) und setzte die Entschädigung des unentgeltlichen Rechtsbeistands fest (Dispositiv-Ziff. 4).
C.
Mit Eingabe vom 15. Februar 2021 gelangt A._ (Beschwerdeführer) an das Bundesgericht. In der Hauptsache beantragt er, Ziff. 2 des Entscheids des Verwaltungsgerichts aufzuheben und daher die Ziff. 3.1, 3.2 und 3.3 des Entscheids der KESB aufzuheben, die fürsorgerische Unterbringung nicht zu verlängern und ihn sofort aus dem Pflegezentrum U._ zu entlassen. Ferner beantragt der Beschwerdeführer, die Regelung der Kosten- und Entschädigungsfolgen (Ziff. 3 und 4) zu neuer Beurteilung an das Verwaltungsgericht zurückzuweisen. Eventualiter sei die fürsorgerische Unterbringung bis längstens am 31. März 2020 [ recte : 2021] zu verlängern und der Beistand sei anzuweisen, für den Beschwerdeführer im Raum W._ ein Setting zu organisieren, welches dessen Freiheit weniger stark beeinträchtige und die vom Beistand identifizierten Gefahren für das Wohlergehen des Beschwerdeführers verringere. Subeventualiter sei die Sache zu neuer Entscheidung an das Verwaltungsgericht oder an die KESB zurückzuweisen. Sodann ersucht der Beschwerdeführer um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung im Verfahren vor dem Bundesgericht.
In seiner Vernehmlassung vom 22. Februar 2021 beantragt das Verwaltungsgericht die kostenfällige Abweisung der Beschwerde. Der Beschwerdeführer hat darauf nicht reagiert.
Im Übrigen hat das Bundesgericht die kantonalen Akten eingeholt.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Endentscheid betreffend fürsorgerische Unterbringung; die Beschwerde in Zivilsachen steht offen (Art. 72 Abs. 2 lit. b Ziff. 6, Art. 75 Abs. 1 und Art. 90 BGG). Der Beschwerdeführer ist gemäss <ref-law> zur Beschwerde berechtigt und die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 i.V.m. <ref-law>). Insofern kann auf die Beschwerde eingetreten werden.
1.2. Nicht einzutreten ist auf das Begehren, die Kostenfolgen des angefochtenen Entscheids aufzuheben und zu neuer Beurteilung an das Verwaltungsgericht zurückzuweisen, denn der Beschwerdeführer ist durch die fragliche Dispositiv-Ziff. 3 nicht belastet, weshalb er kein schützenswertes Interesse an deren Abänderung hat (<ref-law>).
1.3. Mit der Beschwerde in Zivilsachen können Rechtsverletzungen gemäss Art. 95 f. BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>) und prüft mit freier Kognition, ob der angefochtene Entscheid Recht verletzt. Es befasst sich aber nur mit formell ausreichend begründeten Einwänden (vgl. <ref-law>; <ref-ruling> E. 2, 86 E. 2). Ausserhalb der Teilbereiche von Art. 95 lit. c-e BGG kann mit Bezug auf kantonales Recht nur geltend gemacht werden, dessen Anwendung verletze Bundesrecht; im Vordergrund steht dabei die Verletzung verfassungsmässiger Rechte, namentlich des Willkürverbots (<ref-law>; <ref-ruling> E. 2.1; <ref-ruling> E. 2 mit Hinweisen). Ebenfalls nur auf die Verletzung verfassungsmässiger Rechte hin überprüft das Bundesgericht die Anwendung der ZPO, soweit diese in einem Erwachsenenschutzverfahren als subsidiäres kantonales Recht zur Anwendung gelangt (vgl. <ref-law>; <ref-ruling> E. 2.3; Urteil 5A_724/2015 vom 2. Juni 2016 E. 2.2, nicht publ. in: <ref-ruling>). Dabei gilt das Rügeprinzip nach <ref-law> (Urteil 5A_724/2015 vom 2. Juni 2016 E. 2.2, nicht publ. in: <ref-ruling>).
1.4. Was den Sachverhalt angeht, legt das Bundesgericht seinem Urteil die vorinstanzlichen Feststellungen zugrunde (vgl. <ref-law>). Diesbezüglich kann die rechtsuchende Partei nur vorbringen, die vorinstanzlichen Feststellungen seien offensichtlich unrichtig, das heisst willkürlich, oder würden auf einer anderen Bundesrechtsverletzung im Sinn von <ref-law> (z.B. Verletzung von <ref-law> oder <ref-law>) beruhen. In der Beschwerde ist überdies darzutun, inwiefern die Behebung der gerügten Mängel für den Ausgang des Verfahrens entscheidend sein kann (vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Auch in diesem Zusammenhang gilt das Rügeprinzip nach <ref-law> (<ref-ruling> E. 1.3.1; Urteil 5A_104/2018 vom 2. Februar 2021 E. 2). Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen, während es auf ungenügend substanziierte Rügen und rein appellatorische Kritik am Sachverhalt nicht eintritt (<ref-ruling> E. 5.4; <ref-ruling> E. 2.3; je mit Hinweisen).
1.5. Die Beschwerde an das Bundesgericht hat eine Begründung zu enthalten (<ref-law>), in der in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen aufzuzeigen ist, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2.4; <ref-ruling> E. 2, 86 E. 2). Auf Vorbringen, die den Begründungsanforderungen nicht genügen, ist nicht einzutreten (<ref-ruling> E. 1.3). In seiner Beschwerde erklärt der Beschwerdeführer mit keinem Wort, weshalb die Dispositiv-Ziff. 4 des angefochtenen Entscheids rechtsfehlerhaft sein soll. Diesbezüglich kann auf seine Beschwerde ebenfalls nicht eingetreten werden.
2.
Das Verwaltungsgericht erwog, aufgrund der Berichte des Pflegezentrums U._ vom 8. Juni 2020 und 23. November 2020, des nach wie vor aktuellen Berichts der Psychiatrischen Universitätsklinik X._ vom 31. Januar 2020, der glaubhaften Aussagen des zuständigen Betreuungspersonals des Pflegezentrums U._ und des anlässlich der Instruktionsverhandlung gewonnenen Eindrucks des Gerichts lägen beim Beschwerdeführer eine psychische Störung in Form eines Abhängigkeitssyndroms von diversen Substanzen sowie kognitive Störungen und eine Vielzahl an körperlichen Beschwerden vor. Weiter bestehe eine deutliche Verwahrlosungstendenz. Dies sei ein Schwächezustand im Sinn von <ref-law>.
Aufgrund der Ausführungen der involvierten Fachpersonen stehe fest, dass der Beschwerdeführer in erster Linie aufgrund seiner Suchtproblematik nach wie vor dauerhaft der Behandlung bzw. Betreuung in einem stationären Setting bedürfe. Er benötige eine gewisse Tagesstruktur und sei auch aufgrund der somatischen Diagnosen auf Hilfe und Unterstützung im Alltag angewiesen. Der Beschwerdeführer wünsche, selbständig zu wohnen, und reiche eine Bestätigung seines ehemaligen Vermieters ein, wonach er in seine alte Wohnung zurückkehren könne. Der psychisch als auch gesundheitlich angeschlagene Beschwerdeführer verkenne, dass er in seinem Zustand vorderhand nicht in der Lage sei, in einer Wohnung alleine zu leben und für sich selbst zu sorgen. Wenn er das Pflegeheim verlasse, drohe die Gefahr einer schweren Verwahrlosung. Es könne auf die nach wie vor zutreffende E. 4.2 des Urteils VWBES.2020.204 vom 12. Juni 2020 (vgl. vorne Sachverhalt lit. A.c) verwiesen werden. Der Beschwerdeführer behaupte sodann, in W._ ein bestehendes Beziehungsnetz aus Kollegen zu haben. Es erscheine allerdings höchst fraglich, ob dieses Umfeld den Beschwerdeführer von der Befriedigung seiner Suchtbedürfnisse abhalten könnte. Der Beschwerdeführer würde bei einem Austritt aus dem Pflegeheim mit sehr grosser Wahrscheinlichkeit sofort wieder Kontakt mit Personen haben, die Alkohol und Drogen konsumieren; dadurch würde er sich selbst lebensbedrohlich gefährden. Eine sinnvolle Freizeitgestaltung wäre ausserhalb des geschützten Rahmens zweifelhaft. Es seien zwar schrittweise Lockerungen des Settings möglich, welche es dem Beschwerdeführer ermöglichen, sich zunehmend in der Aussenwelt zu bewegen. Die Behandlung und Betreuung des Beschwerdeführers könne aber zum jetzigen Zeitpunkt nicht auf andere Weise als durch den Verbleib im schützenden Rahmen des Pflegezentrums U._ erfolgen. Ein Fürsorgebedarf im Sinn von <ref-law> sei gegeben. Das Pflegezentrum U._ sei eine geeignete Einrichtung und die Massnahme verhältnismässig.
3.
Der Beschwerdeführer wendet in erster Linie ein, das Verwaltungsgericht habe im Widerspruch zu <ref-law> nicht gestützt auf ein Gutachten entschieden.
3.1. Eine Person, die an einer psychischen Störung oder an geistiger Behinderung leidet oder schwer verwahrlost ist, darf in einer geeigneten Einrichtung untergebracht werden, wenn die nötige Behandlung oder Betreuung nicht anders erfolgen kann (<ref-law>). Über die Beschwerde auf dem Gebiet der fürsorgerischen Unterbringung ist bei psychischen Störungen gestützt auf das Gutachten einer sachverständigen Person zu entscheiden (<ref-law>), und zwar unabhängig davon, ob sich der Streit um die Anordnung der fürsorgerischen Unterbringung oder um die Entlassung aus der fürsorgerischen Unterbringung dreht (vgl. <ref-ruling> E. 2.6).
3.1.1. Suchtkranke, namentlich Alkoholabhängige, leiden unter einer psychischen Störung im Sinn von <ref-law> (<ref-ruling> E. 2.3; vgl. auch <ref-ruling> E. 4.2 zum altrechtlichen Begriff der psychischen Krankheit im Sinn von aArt. 397e Ziff. 5 ZGB).
3.1.2. Das in Beachtung von <ref-law> einzuholende Gutachten hat es der Beschwerdeinstanz zu ermöglichen, die sich aus <ref-law> ergebenden Rechtsfragen zu beantworten. Es hat sich insbesondere über den Gesundheitszustand der betroffenen Person, aber auch darüber zu äussern, wie sich allfällige gesundheitliche Störungen hinsichtlich der Gefahr einer Selbst- bzw. Drittgefährdung oder einer Verwahrlosung auswirken können und ob sich daraus ein Handlungsbedarf ergibt. In diesem Zusammenhang interessiert insbesondere, ob ein Bedarf an der Behandlung einer festgestellten psychischen Erkrankung bzw. an Betreuung der betroffenen Person besteht. Wird ein Behandlungs- bzw. Betreuungsbedarf bejaht, hat das Gutachten weiter darüber Auskunft zu geben, mit welcher konkreten Gefahr für die Gesundheit oder das Leben der betroffenen Person bzw. von Dritten zu rechnen ist, wenn die Behandlung der gutachterlich festgestellten Krankheit bzw. die Betreuung unterbleibt. Im Weiteren ist durch den Gutachter Antwort darauf zu geben, ob aufgrund des festgestellten Handlungsbedarfs eine stationäre Behandlung bzw. Betreuung unerlässlich ist. Dabei hat der Experte auch darüber Auskunft zu geben, ob die betroffene Person über glaubwürdige Krankheits- und Behandlungseinsicht verfügt. Schliesslich hat der Gutachter zu beantworten, ob eine Anstalt zur Verfügung steht und wenn ja, warum diese infrage kommt (zum Ganzen: <ref-ruling> E. 3.3 mit Hinweisen).
3.1.3. <ref-law> fordert den Beizug eines unabhängigen Gutachters. Anders als beispielsweise bei der Errichtung einer umfassenden Beistandschaft (<ref-ruling> E. 4) erfüllen Fachrichter diese Voraussetzungen nicht (<ref-ruling> E. 4.4 mit Hinweis).
3.1.4. Grundsätzlich hat die Beschwerdeinstanz für das von <ref-law> geforderte Gutachten besorgt zu sein. Hat schon die Erwachsenenschutzbehörde ein unabhängiges Gutachten eingeholt, so darf die gerichtliche Beschwerdeinstanz darauf abstellen (Botschaft vom 28. Juni 2006 zur Änderung des Schweizerischen Zivilgesetzbuches [Erwachsenenschutz, Personenrecht und Kindesrecht], BBl 2006 7088 Ziff. 2.3.3 [zu Art. 450e]). Ebenso ist nicht generell ausgeschlossen, Gutachten aus anderen oder früheren Verfahren zu verwenden. Entscheidend ist die Aktualität des Gutachtens. Der Verwendung von Gutachten früherer Verfahren sind daher enge Grenzen gesetzt, weil sich der Gutachter zu den Fragen des konkreten Verfahrens zu äussern hat. Ist die Fortführung einer früher angeordneten fürsorgerischen Unterbringung zu prüfen und darüber zu befinden, ob die betroffene Person weiter in der Einrichtung zurückbehalten werden darf, so hat sich das nach <ref-law> erforderliche Gutachten darüber zu äussern, ob und inwiefern in den im früheren bzw. ursprünglichen Gutachten festgestellten tatsächlichen Parametern eine Änderung eingetreten ist (<ref-ruling> E. 2.7; Urteil 5A_63/2013 vom 7. Februar 2013 E. 5.2 [noch zu aArt. 397e Ziff. 5 ZGB]).
3.1.5. Das Gutachten kann auch mündlich an der Verhandlung erstattet werden (vgl. <ref-ruling> E. 3.4). Die mündliche Befragung ist zu protokollieren. Aus dem Protokoll muss sich ergeben, welche konkreten Fragen dem Gutachter unterbreitet worden sind und wie er diese beantwortet hat, ansonsten sich nicht überprüfen lässt, ob ein <ref-law> und der dazu entwickelten bundesgerichtlichen Rechtsprechung genügendes Gutachten erstellt worden ist (zum Ganzen: Urteil 5A_469/2013 vom 17. Juli 2013 E. 2.5).
3.1.6. Ob die Beschwerdeinstanz auf Grundlagen entschieden hat, die den Voraussetzungen von <ref-law> entsprechen, ist Rechtsfrage, die der freien Prüfung durch das Bundesgericht unterliegt. Ist kein Gutachten vorhanden oder erweist sich dieses als unvollständig, liegen mit anderen Worten offensichtliche rechtliche Mängel vor, hebt das Bundesgericht den angefochtenen Entscheid auf. Erweist sich das Gutachten als unvollständig, ist es durch den gerichtlich bestellten Sachverständigen zu ergänzen (<ref-ruling> E. 6.2.2 in fine).
3.2. Der Beschwerdeführer ist suchtkrank und leidet folglich unter einer psychischen Störung (E. 3.1.1), weshalb das Verwaltungsgericht grundsätzlich nicht ohne Einholung eines Sachverständigengutachtens über das Gesuch des Beschwerdeführers um Entlassung aus der fürsorgerischen Unterbringung entscheiden durfte (E. 3.1). Unbestrittenermassen hat das Verwaltungsgericht kein Gutachten eingeholt, was indes nicht per se Bundesrecht verletzt (E. 3.1.4). Es stellt sich auf den Standpunkt, es habe hinsichtlich der Frage des Schwächezustands auf den Verlaufsbericht der Psychiatrischen Universitätsklinik X._ vom 31. Januar 2020 und auf die Einschätzungen der behandelnden Fachpersonen des Pflegezentrums U._ vom 8. Juni bzw. 23. November 2020 abstellen und auf den Beizug eines Sachverständigen verzichten dürfen. Selbst wenn es nicht von vornherein ausgeschlossen ist, auf mehrere Gutachten abzustellen, und der Verlaufsbericht der Psychiatrischen Universitätsklinik X._ jedenfalls mit Bezug auf die erste der gutachterlich zu beantwortenden Frage als gutachterliche Antwort aufgefasst werden kann (Diagnose), gilt dies nicht hinsichtlich der Antworten auf die verbleibenden Fragen. Wie der Beschwerdeführer zutreffend ausführt, hat das Verwaltungsgericht seinen Entscheid gefällt, ohne auf ein den gesetzlichen Anforderungen genügendes Gutachten abzustellen. Selbst wenn im Spruchkörper des Verwaltungsgerichts ein Fachrichter oder eine Fachrichterin mitgewirkt haben sollte, würde dies an der im Gesetz statuierten Pflicht zur Einholung eines Gutachtens nichts ändern (E. 3.1.3); soweit es um gutachterlich festzustellende Tatsachen geht (E. 3.1.2), kann das Gericht nicht auf den anlässlich der Instruktionsverhandlung gewonnenen Eindruck abstellen.
3.3. An alledem ändert der vernehmlassungsweise gemachte Hinweis des Verwaltungsgerichts nichts, im angefochtenen Entscheid werde neben der festgestellten psychischen Störung auch die deutliche Verwahrlosungstendenz als Grund für die fürsorgerische Unterbringung genannt. Dieser Hinweis trifft zwar zu (vgl. E. 4.1 des angefochtenen Entscheids). Indes hat das Verwaltungsgericht hiezu weder eigenständige Sachverhaltsfeststellungen getroffen noch eine eigenständige Verhältnismässigkeitsprüfung vorgenommen. Soweit das Verwaltungsgericht die fürsorgerische Unterbringung wegen Verwahrlosung für gerechtfertigt hält, genügt der angefochtene Entscheid den Begründungsanforderungen nicht, weshalb er aus diesem Grund aufzuheben und zur Verbesserung an das Verwaltungsgericht zurückzuweisen ist.
3.4. Zusammenfassend ergibt sich somit, dass das Verwaltungsgericht mit Bezug auf die psychische Störung den massgebenden Sachverhalt nicht anhand eines Gutachtens nach den Vorgaben der bundesgerichtlichen Rechtsprechung ermittelt hat. Aufgrund der ungenügenden tatsächlichen Feststellungen lässt sich nicht abschliessend beurteilen, ob die Aufrechterhaltung der fürsorgerischen Unterbringung durch die Vorinstanz den Anforderungen von <ref-law> entspricht. Die Ziffern 1 und 2 des angefochtenen Entscheiddispositivs sind somit aufzuheben und die Sache an das Verwaltungsgericht zurückzuweisen (<ref-law>), damit es nach Einholen eines Gutachtens und Anhörung des Beschwerdeführers dazu über die fürsorgerische Unterbringung neu entscheide. Bei dieser Ausgangslage erübrigt es sich, auf die übrigen Einwendungen des Beschwerdeführers einzugehen.
Mit diesem Rückweisungsentscheid befindet sich das Verfahren wieder im zweitinstanzlichen Instruktionsstadium. Nachdem die Beschwerde im Sinn von <ref-law> keine aufschiebende Wirkung, die KESB nichts anderes angeordnet, das Verwaltungsgericht diese nicht wiederhergestellt und der Beschwerdeführer im bundesgerichtlichen Verfahren nicht um aufschiebende Wirkung ersucht hat, ist die von der KESB angeordnete fürsorgerische Unterbringung weiterhin vollstreckbar.
4.
Die Rückweisung der Sache zu neuem Entscheid gilt für die Frage der Auferlegung der Gerichtskosten wie auch der Parteientschädigung als vollständiges Obsiegen im Sinn von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie beantragt und ob das entsprechende Begehren im Haupt- oder im Eventualantrag gestellt wird (<ref-ruling> E. 11.1 mit Hinweis). Dem Kanton sind keine Gerichtskosten aufzuerlegen (<ref-law>), doch hat er den anwaltlich vertretenen Beschwerdeführer für seinen Aufwand im Verfahren vor Bundesgericht zu entschädigen (Art. 68 Abs. 1 und 2 BGG). Damit wird das Gesuch um unentgeltliche Rechtspflege hinfällig.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Die Ziff. 1 und 2 des Urteils des Verwaltungsgerichts des Kantons Solothurn vom 12. Januar 2021 werden aufgehoben. Die Sache wird an das Verwaltungsgericht zurückgewiesen, damit es nach Einholen eines Gutachtens über die fürsorgerische Unterbringung neu entscheide. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Solothurn hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4.
Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
5.
Dieses Urteil wird dem Beschwerdeführer, der Kindes- und Erwachsenenschutzbehörde Olten-Gösgen und dem Verwaltungsgericht des Kantons Solothurn schriftlich mitgeteilt.
Lausanne, 19. April 2021
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Die Gerichtsschreiberin: Gutzwiller