Sachverhalt:
A.
A.a. A._ (Staatsangehöriger von Äthiopien) reiste am 4. Juli 2012 in die Schweiz ein. Ein erstes Asylgesuch wies das Staatssekretariat für Migration (SEM) am 17. Juni 2014 ab. Die Beschwerde dagegen an das Bundesverwaltungsgericht war erfolglos. In der Folge tauchte A._ unter. Auch das zweite Asylgesuch von A._ war ohne Erfolg; dieser liess die Ausreisefrist wiederum verstreichen und zeigte keinen Ausreisewillen. Erfolglos war ebenfalls das Gesuch um Erteilung einer Aufenthaltsbewilligung aufgrund eines schwerwiegenden persönlichen Härtefalls. Ende Oktober/anfangs November 2019 tauchte A._ wiederum unter, nachdem er von einer äthiopischen Identifizierungskommission als Äthiopier anerkannt worden war und Ersatzreisedokumente vorhanden waren. Am 5. Februar 2020 wurde er im Rahmen eines Dublin-Verfahrens von Deutschland an die Schweiz rücküberstellt. Am folgenden Tag ordnete das Migrationsamt des Kantons Solothurn (nachfolgend: Migrationsamt) eine dreimonatige Ausschaffungshaft an. Die Beschwerde dagegen wurde vom Verwaltungsgericht des Kantons Solothurn abgewiesen. A._ weigerte sich am 28. Februar 2020 allerdings, einen Flug in seine Heimat anzutreten. Eine begleitete Ausschaffung konnte am 20. März 2020 wegen der Corona-Pandemie nicht mehr stattfinden. In der Folge wurde die Haft erstmals am 4. Mai und ein weiteres Mal bis am 4. November 2020 verlängert. Letztinstanzlich hiess das Bundesgericht eine Beschwerde dagegen gut (Urteil 2C_768/2020 vom 21. Oktober 2020).
A.b. A._ reichte am 11. September 2020 sein drittes Asylgesuch ein. Das SEM trat am 18. September 2020 darauf nicht ein, wies A._ erneut aus der Schweiz weg und beauftragte das Migrationsamt mit dem Vollzug. Die gegen den Asylentscheid erhobene Beschwerde wies das Bundesverwaltungsgericht am 26. Oktober 2020 (Urteil E-4809/2020) ab, hielt aber präzisierend fest, dass das SEM die Beschwerde materiell behandelt und somit das Gesuch abgewiesen habe. Am gleichen Tag ordnete das Migrationsamt gegen A._ Durchsetzungshaft, eventualiter Vorbereitungshaft mit anschliessender Durchsetzungshaft an. Das Haftgericht des Kantons Solothurn genehmigte nach mündlicher Anhörung (27. Oktober 2020) die Vorbereitungshaft vom 23. bis 26. Oktober und die daran anschliessende Durchsetzungshaft bis 25. November 2020. Die Beschwerde dagegen beim Verwaltungsgericht des Kantons Solothurn war erfolglos (Entscheid vom 18. November 2020). Am 26. November 2020 wurde der Beschwerdeführer "gegen Leistung eines Depots als Sicherheit" aus der Haft entlassen. Seine Beschwerde vom 23. November 2020 hiess das Bundesgericht am 24. März 2021 gut und stellte fest, dass das Verwaltungsgericht des Kantons Solothurn zu Unrecht eine Vorbereitungshaft und vor dem 28. Oktober 2020 eine Durchsetzungshaft als zulässig erachtet hatte und der Beschwerdeführer bundesrechtswidrig einen Teil der administrativen Haft im Untersuchungsgefängnis Solothurn verbringen musste (Urteil 2C_961/2020).
B.
Am 14. Januar 2021 verfügte das Migrationsamt wiederum Ausschaffungshaft bis zum 12. März 2021. Das Haftgericht genehmigte diese. Am 24. Januar 2021 wandte sich A._ an das Komitee gegen Folter der UN-Menschenrechtskommission (= Auschuss nach Art. 17 ff. des Übereinkommens vom 10. Dezember 1984 gegen Folter und andere grausame, unmenschliche oder erniedrigende Behandlung oder Strafe [FoK; SR 0.105]), welche ein Verfahren gegen die Schweiz eröffnete. In der Folge wurde der Wegweisungsvollzug ausgesetzt und A._ aus der Haft entlassen. Das Verwaltungsgericht des Kantons Solothurn wies am 9. März 2021 seine Beschwerde ab.
C.
Vor Bundesgericht beantragt A._, Ziff. 1 des Urteils des Verwaltungsgerichts des Kantons Solothurn vom 9. März 2021 aufzuheben, die Unrechtmässigkeit und Unangemessenheit der Haft sowie die Unrechtmässigkeit seiner Unterbringung im Untersuchungsgefängnis Solothurn festzustellen, Ziff. 3 des Urteils aufzuheben, ihm vor Vorinstanz die unentgeltliche Rechtspflege zu gewähren, eventualiter die Sache an die Vorinstanz zur weiteren Abklärung zurückzuweisen. Prozessual beantragt A._, ihm die unentgeltliche Rechtspflege und Verbeiständung zu gewähren und auf einen allfälligen Kostenvorschuss zu verzichten. Er rügt eine Verletzung von Art. 5 Abs. 1 lit. f EMRK, Art. 29 Abs. 2 und 3 BV sowie verschiedener Artikel des AIG (SR 142.20). Obwohl der Beschwerdeführer aus der Haft entlassen worden sei, bestünde wie vor Vorinstanz ein Feststellungsinteresse, dass die Haft Art. 5 EMRK verletzt habe.
D.
Das Verwaltungsgericht des Kantons Solothurn beantragt ohne Vernehmlassung Abweisung der Beschwerde, das Migrationsamt vernehmlassungsweise die Abweisung der Beschwerde. Das SEM führt in seinem Amtsbericht aus, dass weder der derzeitige politische Kontext noch die Situation bezüglich COVID-19 in Äthiopien negative Auswirkungen auf die Rückkehrzusammenarbeit mit den äthiopischen Behörden hätten. Der Beschwerdeführer sei als Äthiopier identifiziert worden und verfüge über ein Laissez-Passer, das von den äthiopischen Behörden erneuert worden sei. Der Beschwerdeführer repliziert.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Entscheid über eine Zwangsmassnahme im Ausländerrecht kann die betroffene Person mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht gelangen (Art. 82 i.V.m. Art. 86 Abs. 1 lit. d BGG; Urteil 2C_961/2020 vom 24. März 2021 E. 1.1). Wegen des mit der Anordnung ausländerrechtlicher Administrativhaft verbundenen schweren Eingriffs in die persönliche Freiheit kommt dem entsprechenden Freiheitsentzug eigenständige Bedeutung zu; die Haft erscheint nicht als bloss untergeordnete Vollzugsmassnahme zur Wegweisung, weshalb der Ausschlussgrund von Art. 83 lit. c Ziff. 4 BGG der Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht entgegensteht (<ref-ruling> E. 1.1.3; <ref-ruling> E. 5.5; 2C_961/2020 vom 24. März 2021 E. 1.1).
1.2.
1.2.1. Das Bundesgericht verzichtet ausnahmsweise im Rahmen von Art. 89 BGG auf das Erfordernis des aktuellen praktischen Interesses, wenn sich die aufgeworfenen Fragen unter gleichen oder ähnlichen Umständen jederzeit wieder stellen können, eine rechtzeitige Überprüfung im Einzelfall kaum je möglich wäre und die Beantwortung wegen deren grundsätzlicher Bedeutung im öffentlichen Interesse liegt (<ref-ruling> E. 1; <ref-ruling> E. 1.1; <ref-ruling> E. 1.1). Das Bundesgericht tritt - trotz Haftentlassung oder eines Verlängerungsentscheids, welcher den ursprünglich angefochtenen Haftentscheid ablöst (vgl. <ref-ruling> E. 1) - auf Beschwerden gegen die Genehmigung der ausländerrechtlichen Festhaltung durch den Haftrichter bzw. den entsprechenden kantonalen Rechtsmittelentscheid ein, wenn der Betroffene rechtsgenügend begründet (Art. 42 BGG) und in vertretbarer Weise ("griefs défendables") die Verletzung einer Garantie der EMRK rügt (vgl. Urteil 2C_961/2020 vom 24. März 2021 E. 1.2.1).
1.2.2. Die strittigen freiheitsentziehenden ausländerrechtlichen Zwangsmassnahmen fallen in den Anwendungsbereich von Art. 5 EMRK (vgl. das EGMR-Urteil Jusic gegen Schweiz vom 2. Dezember 2010 [Nr. 4691/06], §§ 67 ff.). Der Beschwerdeführer macht im vorliegenden Verfahren inhaltlich in vertretbarer Weise geltend, unter Verletzung von Art. 5 Ziff. 1 EMRK in Haft gesetzt und belassen worden zu sein. An der Beurteilung der Konventionskonformität seiner Festhaltung hat er ein fortbestehendes Interesse. Da neben der Beschwerdelegitimation auch alle weiteren Prozessvoraussetzungen gegeben sind, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten (vgl. Art. 42, Art. 100 Abs. 1 i.V.m. Art. 106 Abs. 1 BGG).
2.
2.1. Die Vorinstanz ist davon ausgegangen, dass beim Beschwerdeführer konkrete Anzeichen befürchten liessen, dass er sich der Ausschaffung entziehen wolle, da er seinen Mitwirkungspflichten zur Ausreise nicht nachgekommen sei (Art. 76 Abs. 1 lit. b Ziff. 3 AIG); im Übrigen lasse sein bisheriges Verhalten darauf schliessen, dass er sich behördlichen Anordnungen widersetze (Art. 76 Abs. 1 lit. b Ziff. 4 AIG).
2.2. Der Beschwerdeführer macht geltend, dass der Haftgrund der Untertauchensgefahr fehle und verweist textlich auf Art. 76 Abs. 1 lit. b Ziff. 4 AIG und Art. 5 Abs. 1 lit. f EMRK. Der Haftgrund der Untertauchensgefahr wird durch Art. 76 Abs. 1 lit. b Ziff. 3 und 4 AIG umschrieben. Es macht wenig Sinn, die erwähnten Ziffern als Haftgründe zu unterscheiden, da sie - wie der Beschwerdeführer moniert - gemeinsam die Verhaltensweise umschreiben, aufgrund welcher auf Untertauchensgefahr geschlossen werden kann (vgl. ANDREAS ZÜND, in: Spescha/Zünd/Bolzli/Hruschka/de Weck, Migrationsrecht. Kommentar, 5. Aufl. 2019, N. 7 zu Art. 76 AIG).
2.3. Im in der gleichen Sache ergangenen Urteil 2C_768/2020 vom 21. Oktober 2020 (E. 4.2) hat das Bundesgericht - im Einklang mit der Rechtsprechung zu gleichgelagerten Fällen (siehe z.B. Urteile 2C_442/2020 vom 24. Juni 2020 E. 3.2.2; 2C_312/2018 vom 11. Mai 2018 E. 3.2) - festgehalten, dass der Haftgrund der Untertauchensgefahr gegeben sei. Der Beschwerdeführer sei nach der rechtskräftigen Abweisung seines ersten Asylgesuchs untergetaucht, zudem habe er sich am 28. Februar 2020 geweigert, einen Rückflug nach Äthiopien anzutreten. Gestützt auf dieses Verhalten hätten die kantonalen Behörden davon ausgehen dürfen, dass der Beschwerdeführer sich auch künftig für den Vollzug der Wegweisung nicht zu ihrer Verfügung halten dürfte. Daran hat sich drei Monate später nichts geändert. Der Beschwerdeführer hat sich nicht nur "bloss", sondern über mehrere Jahre immer wieder geäussert, dass er nicht in sein Heimatland zurückkehren wolle - so auch im hier strittigen Verfahren. Zudem hat er seinen Worten jeweils auch Taten folgen lassen, indem er untergetaucht oder ins Ausland verschwunden ist.
Das vom Beschwerdeführer vorgebrachte Argument, dass während des Asylverfahrens vorgebrachte Erklärungen, nicht in den Heimatstaat zurückkehren zu wollen, dem Betroffenen nicht zum Nachteil gereichen sollen, auch für ihn gelten müsse, da die Rechtmässigkeit des rechtskräftigen Wegweisungsentscheids vor einer internationalen Instanz überprüft werde, ist nicht einschlägig: Im vorliegenden Fall sind die Asylverfahren nicht mehr hängig, sondern abgeschlossen. Es ist rechtskräftig entschieden, dass der Beschwerdeführer die Flüchtlingseigenschaften nach Art. 1 des Abkommens vom 28. Juli 1951 über die Rechtsstellung der Flüchtlinge (FK; SR 0.142.30) mit Protokoll vom 31. Januar 1967 (SR 0.142.301) und Art. 3 AsylG (SR 142.31) nicht erfüllt. Mit einer Individualbeschwerde beim Komitee gegen Folter der UN-Menschenrechtskommission (siehe dazu etwa FANNY DE WECK, Die Praxis des Ausschusses der Vereinten Nationen gegen die Folter in Individualmitteilungsverfahren zum Non-Refoulement-Prinzip, Asyl 2011/2, S. 4 ff., 5 f.) wird das Asylverfahren nicht (wieder) rechtshängig.
2.4.
2.4.1. Der Beschwerdeführer moniert sodann, seine Haft sei unverhältnismässig. Die Untertauchensgefahr könne mit einer Eingrenzung verhindert werden, habe er doch durch seinen Aufenthalt in der Asylunterkunft B._ bewiesen, dass mildere Mittel mehr als ausreichend gewesen wären.
2.4.2. Die Ausschaffungshaft soll den Vollzug der Entfernungsmassnahme sicherstellen und muss ernsthaft geeignet sein, diesen Zweck zu erreichen, was nicht (mehr) der Fall ist, wenn die Weg- oder Ausweisung trotz der behördlichen Bemühungen nicht in einem dem konkreten Fall angemessenen Zeitraum vollzogen werden kann. Die Festhaltung hat, weil unverhältnismässig, dann als unzulässig zu gelten, wenn triftige Gründe für solche Verzögerungen sprechen oder praktisch feststeht, dass sich der Vollzug kaum innert vernünftiger Frist wird realisieren lassen (<ref-ruling> E. 4.1.3 mit Hinweisen). Die Ausschaffungshaft muss verhältnismässig und zweckbezogen auf die Sicherung des Wegweisungsverfahrens ausgerichtet sein; es muss jeweils aufgrund sämtlicher Umstände geklärt werden, ob sie (noch) geeignet bzw. erforderlich erscheint und nicht gegen das Übermassverbot, d.h. das sachgerechte und zumutbare Verhältnis von Mittel und Zweck, verstösst (vgl. <ref-ruling> E. 5.1 und unpublizierte E. 7; <ref-ruling> E. 4).
2.4.3. Die entsprechenden Anforderungen an die ausländerrechtliche Festhaltung ergeben sich aus dem Haftzweck, aus Art. 5 Ziff. 1 lit. f EMRK und dem Verhältnismässigkeitsgrundsatz (Art. 5 Abs. 2 und Art. 36 Abs. 3 i.V.m. Art. 10 Abs. 2 BV), aber auch aus der für die Schweiz im Rahmen des Schengen-Besitzstands anwendbaren "Rückführungsrichtlinie" (Richtlinie 2008/115/EG des Europäischen Parlaments und des Rats vom 16. Dezember 2008 über gemeinsame Normen und Verfahren in den Mitgliedstaaten zur Rückführung illegal aufhältiger Drittstaatsangehöriger, ABl. L 348 vom 24. Dezember 2008 S. 98 ff.) : Diese geht grundsätzlich vom Vorrang der freiwilligen Ausreise aus (vgl. Art. 7 RL 2008/115/EG). Machen die Mitgliedstaaten - als "letztes Mittel" - von Zwangsmassnahmen zur Durchführung der Abschiebung von Widerstand leistenden Drittstaatsangehörigen Gebrauch, so müssen diese Massnahmen verhältnismässig sein und dürfen nicht über die Grenzen des Erforderlichen hinausgehen. Sie müssen nach dem einzelstaatlichen Recht im Einklang mit den Grundrechten und unter gebührender Berücksichtigung der Menschenwürde und körperlichen Unversehrtheit der betroffenen Personen erfolgen (Art. 8 Abs. 4 RL 2008/115/EG). Drittstaatsangehörige, gegen die ein Rückkehrverfahren hängig ist, können nur in Haft genommen werden, wenn im konkreten Fall keine anderen, milderen Zwangsmassnahmen wirksam erscheinen; die Haftdauer hat so kurz wie möglich zu sein; sie darf sich nur auf die Dauer der laufenden Abschiebungsvorkehrungen erstrecken, soweit diese mit der gebotenen Sorgfalt vorangetrieben werden (vgl. Art. 15 Abs. 1 RL 2008/115/EG; dazu Urteil 2C_312/2018 vom 11. Mai 2018 E. 3.3.3).
2.4.4. Zwar hat es sich das Verwaltungsgericht bei der Verhältnismässigkeitsprüfung einfach gemacht, indem es im Wesentlichen auf seinen Entscheid vom 18. November 2020 verwies und die dort gemachten Erwägungen wörtlich wiedergab. Dabei handelt es sich nicht um irgendeinen Entscheid, sondern um den zwei Monate zuvor gefällten, den Beschwerdeführer betreffenden Entscheid, beim welchen die Anforderungen an die Durchführungshaft in Frage standen. In der Sache ist aber die Verhältnismässigkeit der Ausschaffungshaft nicht zu beanstanden: Zwar hat sich der Beschwerdeführer während einigen Wochen in der Asylunterkunft B._ aufgehalten. Während dieser Zeit stand aber keine Ausschaffung in Frage, weshalb der Beschwerdeführer sich dort ohne Untertauchensgefahr aufhielt. Die Vergangenheit hat aber gezeigt, dass der Beschwerdeführer sich ins Ausland abgesetzt hat oder einfach untergetaucht ist (im Wald gelebt), wenn die Möglichkeit bestand, dass er nach Äthiopien ausgeschafft werden sollte. Insofern bildet die Eingrenzung keine geeignete Massnahme, denn es wäre nicht sichergestellt, dass der Beschwerdeführer sich nicht absetzen und sich der Ausschaffung entziehen würde. Was die psychische Gesundheitsbeeinträchtigung betrifft, so hat sich der Beschwerdeführer in den vorinstanzlichen Verfahren diesbezüglich nicht geäussert. Er nimmt denn auch nicht auf Aussagen Bezug, welche er dort gemacht hat, sondern auf Feststellungen vom 4. Mai 2020. Dass jene Situation mit der gegenwärtigen übereinstimme, macht er denn auch nicht geltend.
2.5. Zusammenfassend ergibt sich somit, dass der Haftgrund der Untertauchensgefahr gegeben und es zudem nicht zu beanstanden ist, wenn die Vorinstanz davon ausging, die Ausschaffungshaft sei geeignet und erforderlich, um den Vollzug der Wegweisung sicherzustellen; sie steht auch in einem zumutbaren Verhältnis von Mittel (administrative Festhaltung) und Zweck (Sicherung des Wegweisungsvollzugs).
3.
3.1. Der Beschwerdeführer wendet ferner ein, dass der Wegweisungsvollzug rechtlich unmöglich sei, weil dieser das Refoulement-Verbot verletzen würde. Er habe die kantonalen Migrationsbehörden mehrfach auf das Risiko hingewiesen, dass er mit seiner Rückführung nach Äthiopien in seinen unantastbaren Menschenrechten beeinträchtigt würde, was ja nun das Komitee gegen Folter der UN-Menschenrechtskommission mit seiner Intervention bestätigt habe. Er sei politisch besonders exponiert und den äthiopischen Behörden bekannt. Zudem hätte er auf die Bürgerkriegssituation und die dementsprechende unabsehbare Lage jeweils hingewiesen, welche durch die COVID-19-Pandemie zudem verschlimmert worden sei. Die Behörde sei verpflichtet, auch im Rahmen der Haft die Unzulässigkeit des Wegweisungsvollzugs zu berücksichtigen.
3.2.
3.2.1. Nach Art. 3 EMRK und Art. 10 Abs. 3 BV darf niemand der Folter oder unmenschlicher oder erniedrigender Strafe oder Behandlung unterworfen werden (<ref-ruling> E. 6.3.1; <ref-ruling> E. 2.4.1; <ref-ruling> E. 6.4), wofür konkrete und auf den Einzelfall bezogene Anhaltspunkte von einem gewissen Gewicht geltend gemacht werden müssen ("real risk"). Vollzugshindernisse rechtlicher Art sowie konkrete Anzeichen für eine Verletzung von Art. 3 EMRK im Einzelfall können von jedem aus- oder weggewiesenen Ausländer gegenüber jeder wegweisenden Behörde (<ref-ruling> E. 3.2) und praxisgemäss auch im Rahmen eines Entlassungsgesuchs aus der Ausschaffungshaft (Art. 80 Abs. 5 i.V.m. Art. 80 Abs. 6 lit. a AIG) vorgebracht werden. Angesichts der kurzen Frist, innert welcher die richterliche Behörde über das Gesuch zu entscheiden hat, setzt eine Überprüfung der Zumutbarkeit, Zulässigkeit und Realisierbarkeit der Aus- oder Wegweisung indessen konkrete und auf den Einzelfall bezogene Vorbringen des Gesuchstellers voraus (Urteil 2C_312/2018 vom 11. Mai 2018 E. 4.2.1 mit Hinweisen; grundlegend Urteile des EGMR J.K. et al. gegen Schweden vom 23. August 2016 [Nr. 59166/12], § 51; Saadi gegen Italien vom 28. Februar 2008 [Nr. 37201/06], § 129 ff.).
3.2.2. Der Haftrichter hat zu prüfen, ob die Voraussetzungen erfüllt sind, um den Wegweisungsvollzug durch eine administrative Festhaltung sicherstellen zu können. Ob Gründe gegen die frühere Anordnung der Wegweisung sprachen, ist indessen - vorbehältlich besonderer Umstände - nicht Prüfungsgegenstand seines Verfahrens (<ref-ruling> E. 2.2; <ref-ruling> E. 2b und c; Urteil 2C_312/2018 vom 11. Mai 2018 E. 4.2.2 mit Hinweisen). Einwendungen gegen die Wegweisung sind grundsätzlich im dafür vorgesehenen Verfahren vorzutragen, nötigenfalls mit einem Wiedererwägungs- oder Revisionsgesuch (<ref-ruling> E. 2), wobei vorsorglich auch ein prozeduraler Aufenthalt erwirkt werden kann. Eine Überprüfung der Rechtmässigkeit der Wegweisung bzw. der Zumutbarkeit des Wegweisungsvollzugs im Stadium der Haftprüfung aufgrund von Art. 80 Abs. 6 lit. a AIG setzt voraus, dass in konkreter Weise und auf den Einzelfall bezogen Unzumutbarkeits- oder Unzulässigkeitsgründe vorliegen, welche einem Wegweisungsvollzug entgegenstehen. In solchen Fällen hat der Haftrichter die Haftgenehmigung zu verweigern, da der Vollzug einer in diesem Sinn nicht (mehr) rechtmässigen Anordnung nicht mit einem ausländerrechtlichen Freiheitsentzug sichergestellt werden darf (Art. 80 Abs. 6 lit. a AIG; vgl. auch <ref-ruling> E. 1, 56 E. 2 in fine; Urteil 2C_312/2018 vom 11. Mai 2018 E. 4.2.2 mit zahlreichen Hinweisen).
3.3. Am 26. Oktober 2020 hat das Bundesverwaltungsgericht nach einlässlicher Auseinandersetzung mit den Vorbringen des Beschwerdeführers zum einen festgehalten, dass das politische Profil des Beschwerdeführers keine ernsthafte Gefahr vor Verfolgung zu begründen vermöchte (E. 9.3), zum anderen weder unzulässige, unzumutbare noch unmögliche Vollzugshindernisse vorlägen (E. 11). In Bezug auf die unzulässigen Hindernisse führte das Bundesverwaltungsgericht aus, dass weder das flüchtlingsrechtliche (Art. 33 FK) noch das menschenrechtliche (Art. 3 EMRK, Art. 3 FoK) Non-Refoulement verletzt wäre. Fünf Monate später bringt der Beschwerdeführer in seiner Beschwerde nicht ernsthaft vor, dass der Vollzug der Wegweisung aus rechtlichen Gründen undurchführbar sei. Er verweist lediglich unspezifisch auf die Bürgerkriegssituation, auf das Gefährdungsrisiko und auf seine politische Exponiertheit, ohne allerdings auszuführen, worin denn das Gefährdungsrisiko bzw. die Exponiertheit bestehe. Er zeigt insofern nicht auf, dass konkrete, auf seinen Fall bezogene neue, für den gegenwärtigen Zeitpunkt relevante, gewichtige Anzeichen von Folter oder unmenschlicher Behandlung (real risk) vorliegen. Mit seinen repetitiven gleichen Vorbringen hat sich das Bundesverwaltungsgericht bei der Wegweisung bereits auseinandergesetzt. Neues, das dem Vollzug der Wegweisung entgegenstehen soll, nennt er nicht. Dass seine Sache nun beim Komitee gegen Folter der UN-Menschenrechtskommission liegt, ändert daran nichts.
4.
4.1. Der Beschwerdeführer moniert sodann, dass er unrechtmässig im Untersuchungsgefängnis Solothurn untergebracht worden sei und die Vorinstanz zu Unrecht mangels eines aktuellen und praktischen Interesses eine diesbezügliche Überprüfung verweigert hätte.
4.2. Das Feststellungsinteresse an der Konventionskonformität betrifft - wie der Beschwerdeführer zu Recht ausführt - nach der Haftentlassung auch die Haftbedingungen (vgl. bereits 2C_961/2020 vom 24. März 2021). In diesem den Beschwerdeführer betreffenden Entscheid hat das Bundesgericht gegenüber dem Kanton ein weiteres Mal festgehalten, dass das Untersuchungsgefängnis Solothurn für den Vollzug der ausländerrechtlichen Administrativhaft ungeeignet im Sinne von Art. 81 Abs. 2 AIG sei, weshalb eine ausländische Person nur in begründeten Ausnahmefällen von äusserst beschränkter Zeitdauer dort untergebracht werden darf (ebenda E. 2.4.1 und 2.4.2 i.i.).
4.3. Der Beschwerdeführer befand sich vom 13. Januar 2021 bis zum 26. Januar 2021 im Untersuchungsgefängnis Solothurn. Vorgesehen war die Ausschaffungshaft zudem bis zum 12. März 2021. Am 26. Januar 2021 wurde er als Folge der Intervention des Komitees gegen Folter der UN-Menschenrechtskommission aus der Ausschaffungshaft im Untersuchungsgefängnis Solothurn entlassen. Der Beschwerdeführer sass somit während zwei Wochen, vorgesehen waren rund acht Wochen, in einer nicht Art. 81 Abs. 2 AIG konformen Hafteinrichtung. Damit wird die kurze Dauer von wenigen Stunden oder Tagen (<ref-ruling> E. 6.2.2) massiv überschritten. Abgesehen davon fehlt auch eine spezifische Begründung, weshalb der Beschwerdeführer seine administrative Haft in einer allgemeinen Haftanstalt anstelle einer Spezialanstalt verbringen musste (Urteil 2C_961/2020 vom 24. März 2021 E. 2.4.2 i.f.). Diesbezüglich ist die Beschwerde gutzuheissen.
5.
Der Beschwerdeführer rügt sodann eine Verletzung des rechtlichen Gehörs in seinem Teilanspruch auf Begründung eines Entscheids, weil die Vorinstanz mehrfach und über mehrere Seiten ihren eigenen Entscheid vom 26. November 2020 wörtlich zitiert habe. Bei diesem Entscheid sei es um die Durchsetzungshaft gegangen und nicht um eine Ausschaffungshaft. Zudem sei der Entscheid zweieinhalb Monate alt und darum seien wesentliche, neue Umstände unberücksichtigt geblieben.
Es liegt keine Verletzung des rechtlichen Gehörs vor: Die Vorinstanz hat festgehalten, dass die Voraussetzungen für das Vorliegen der Haftgründe gegeben seien und dabei als Begründung auf die Argumentation ihres früheren Entscheids verwiesen. Ob die Begründung korrekt oder falsch ist, ist nicht eine Frage der Verletzung des rechtlichen Gehörs, sondern eine Frage der Rechtsanwendung. Dasselbe gilt in Bezug auf die Frage, ob die Haft verhältnismässig war.
6.
6.1. Der Beschwerdeführer rügt sodann eine Verletzung des Anspruchs der unentgeltlichen Rechtsverbeiständung nach Art. 29 Abs. 3 BV. Nach seiner Auffassung sei es aufgrund seiner Ausführungen nicht nachvollziehbar, weshalb die Vorinstanz die unentgeltliche Rechtspflege und Verbeiständung verweigert habe. Zudem sei er - zwar mit Unterbruch - während ca. zehn Monaten in Administrativhaft gewesen, weshalb sein Gesuch um unentgeltliche Rechtspflege und -verbeiständung unabhängig der Erfolgsaussichten gutzuheissen sei.
6.2. Nach der bundesgerichtlichen Rechtsprechung sind als aussichtslos Begehren anzusehen, bei denen die Gewinnaussichten beträchtlich geringer sind als die Verlustgefahren und die deshalb kaum als ernsthaft bezeichnet werden können. Dagegen gilt ein Begehren nicht als aussichtslos, wenn sich Gewinnaussichten und Verlustgefahren ungefähr die Waage halten oder jene nur wenig geringer sind als diese. Massgebend ist, ob eine Partei, die über die nötigen Mittel verfügt, sich bei vernünftiger Überlegung zu einem Prozess entschliessen würde. Eine Partei soll einen Prozess, den sie auf eigene Rechnung und Gefahr nicht führen würde, nicht deshalb anstrengen können, weil dieser sie - zumindest vorläufig - nichts kostet. Ob im Einzelfall genügende Erfolgsaussichten bestehen, beurteilt sich aufgrund einer vorläufigen und summarischen Prüfung der Prozessaussichten, wobei die Verhältnisse im Zeitpunkt der Einreichung des Gesuchs massgebend sind (<ref-ruling> E. 5.1 mit Hinweisen).
6.3. Das Bundesgericht hat den Kanton Solothurn mit Entscheid vom 30. Oktober 2020 (2C_844/2020 E. 6.2), also lange vor dem hier strittigen Entscheid, bereits darauf hingewiesen, dass das Untersuchungsgefängnis Solothurn für den Vollzug der ausländerrechtlichen Administrativhaft ungeeignet im Sinne von Art. 81 Abs. 2 AIG sei. Ferner besteht nach der bundesgerichtlichen Rechtsprechung ein Feststellungsinteresse an der Konventionskonformität der Haftbedingungen auch nach der Haftentlassung (siehe oben E. 4.2). Insofern konnte das diesbezügliche Rechtsbegehren, wonach festzustellen sei, dass der Beschwerdeführer zu Unrecht im Untersuchungsgefängnis Solothurn einsass, nicht als aussichtslos bezeichnet werden.
Auch in Bezug auf eine verhältnismässigere Administrativmassnahme (Eingrenzung) ist nicht von einem aussichtslosen Rechtsbegehren auszugehen: Da der Beschwerdeführer sich während längerer Zeit in der Asylunterkunft B._ aufgehalten hat und sich insoweit den behördlichen Anordnungen fügte, waren die Gewinnaussichten für das Begehren, anstelle der Ausschaffungshaft eine Eingrenzung zu verfügen, zwar geringer als die Verlustgefahren, dies aber nur in kleinem Umfang. Es ist deshalb davon auszugehen, dass eine Partei, welche über die nötigen Mittel verfügte, sich bei vernünftiger Überlegung ebenfalls zu einer Beschwerde entschlossen hätte.
Abgesehen davon wird nach der bundesgerichtlichen Rechtsprechung die unentgeltliche Rechtspflege aus Gründen der Praktikabilität im Rahmen von Art. 64 BGG regelmässig vollumfänglich gewährt, wenn die Rechtsbegehren einer Beschwerde - wie im vorliegenden Fall - nur zum Teil als nicht aussichtslos erscheinen und sich nicht klar auseinander halten lassen. Gleiches muss auch für die Minimalgarantie nach Art. 29 Abs. 3 BV gelten (zur Übertragung auf Art. 118 ZPO siehe <ref-ruling>). Dies bedeutet auch hier, dass die unentgeltliche Rechtspflege bei teilweiser Erfolgsaussicht des Rechtsmittels grundsätzlich ohne Differenzierung zu gewähren ist (<ref-ruling> E. 4.1; siehe auch Urteil 5D_76/2015 vom 5. Oktober 2015 E. 7). Offen bleiben kann demnach, ob die bundesgerichtliche Rechtsprechung, wonach nach drei Monaten Haft der unentgeltliche Rechtsbeistand nicht mehr verweigert werden kann (<ref-ruling> E. 3.3.1), auch gilt, wenn ein Betroffener in den letzten zwölf Monaten mit Unterbruch rund zehn Monate in Haft verbracht, aber die letzte Haft weniger als drei Monate gedauert hat. Insofern ist auch diesbezüglich die Beschwerde gutzuheissen.
7.
7.1. Die Beschwerde ist deshalb teilweise begründet und insofern gutzuheissen, als erstens festzustellen ist, dass der Beschwerdeführer einen Teil der administrativen Haft bundesrechtswidrig im Untersuchungsgefängnis Solothurn verbringen musste, als zweitens Ziff. 3 des Urteils des Verwaltungsgerichts vom 9. März 2021 aufzuheben und die Sache diesbezüglich zu neuem Entscheid zurückzuweisen ist, da die Vorinstanz dem Beschwerdeführer zu Unrecht die unentgeltliche Rechtsverbeiständung verweigert hat. Im Übrigen ist die Beschwerde abzuweisen.
7.2. Bei diesem Verfahrensausgang mit teilweisem Obsiegen würde der Beschwerdeführer reduzierte Gerichtskosten tragen (Art. 66 Abs. 1 BGG). Er hat allerdings ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt (Art. 64 BGG). Dieses ist gutzuheissen, da der Beschwerdeführer bedürftig ist und die Rechtsbegehren teilweise (siehe oben E. 6) nicht von Vornherein als aussichtslos erscheinen mussten (Art. 64 Abs. 1 BGG). Der Kanton Solothurn hat den Beschwerdeführer für das bundesgerichtliche Verfahren entsprechend einem Drittel der angemessenen Honorarnote zu entschädigen (Art. 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird in dem Sinne gutgeheissen, als erstens festgestellt wird, dass der Beschwerdeführer bundesrechtswidrig einen Teil der administrativen Haft im Untersuchungsgefängnis Solothurn verbringen musste, als zweitens Ziff. 3 des vorinstanzlichen Urteils vom 9. März 2021 aufgehoben und die Sache zu neuem Entscheid im Sinne der Erwägungen zurückgewiesen wird. Im Übrigen wird die Beschwerde abgewiesen.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Solothurn hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.
4.
Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird gutgeheissen, und es wird dem Beschwerdeführer Rechtsanwältin Lea Hungerbühler und diese substituiert durch MLaw Leonie Haug als Rechtsbeistand beigegeben. Ihr wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'000.-- ausgerichtet.
5.
Die Sache wird zur Neuverlegung der Kosten- und Entschädigungsfolgen an die Vorinstanz zurückgewiesen.
6.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Solothurn und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 27. Juli 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Errass