Sachverhalt:
A.
A.a. Mit Verfügung vom 2. Februar 2004 sprach die IV-Stelle Solothurn dem 1973 geborenen A._ wegen einer emotional instabilen Persönlichkeitsstörung vom impulsiven Typ und einer vollen Arbeitsunfähigkeit rückwirkend ab 1. Juni 2001 eine ganze Rente zu. In einem im November 2004 eingeleiteten Revisionsverfahren, in dessen Verlauf die Verwaltung den Versicherten begutachten liess (Expertise des Zentrums für Medizinische Begutachtung [ZMB], Basel, vom 26. September 2006), bestätigte die IV-Stelle den Anspruch auf eine ganze Rente (Mitteilung vom 19. Oktober 2006). Gleiches tat sie mangels massgebender Veränderungen im Zuge zweier weiterer Rentenüberprüfungen (Mitteilungen vom 14. November 2008 und 6. Juli 2012).
A.b. Nach Kenntnisnahme von Strafanzeigen gegen A._ unter anderem wegen Verdachts auf Widerhandlungen gegen das Glücksspielgesetz und Wirten ohne Betriebsbewilligung sowie nach Eingang einer anonymen Meldung, wonach der Versicherte Umbauarbeiten tätige, leitete die IV-Stelle im Mai 2018 ein neues Revisionsverfahren in die Wege. Dabei wurde auf Empfehlung des Regionalen Ärztlichen Dienstes (RAD) eine psychiatrische und neuropsychologische Begutachtung durchgeführt (neuropsychologisches Gutachten der Dr. phil. C._ vom 19. August 2019 und psychiatrisches Gutachten des Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie, vom 26. November 2019). Gestützt auf die fachärztlich psychiatrische Einschätzung des Dr. med. B._ verfügte die IV-Stelle nach durchgeführtem Vorbescheidverfahren eine rückwirkende Rentenaufhebung per 31. März 2017 (Verfügung vom 5. Mai 2020) und forderte die vom 1. April 2017 bis 30. April 2020 ausgerichteten Rentenleistungen (inkl. Kinderrenten) zurück (Verfügung vom 12. Mai 2020).
B.
Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn ab (Urteil vom 30. Juni 2021).
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und beantragen, in Aufhebung des vorinstanzlichen Urteils seien ihm weiterhin die gesetzlichen Leistungen nach Massgabe eines Invaliditätsgrades von 100 % zuzüglich eines Verzugszinses zu 5 % ab wann rechtens auszurichten. Eventualiter seien ihm berufliche Eingliederungsmassnahmen unter Wiederausrichtung der Invalidenrente bis zum Abschluss derselben zu gewähren. Subeventualiter sei die Sache zu weiteren Abklärungen an die Vorinstanz respektive an die Beschwerdegegnerin zurückzuweisen. Allenfalls sei die Invalidenrente auf das Ende des der angefochtenen Verfügung vom 5. Mai 2020 folgenden Monats einzustellen. Ferner ersucht der Beschwerdeführer um unentgeltliche Rechtspflege und -verbeiständung.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2.
2.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie in Bestätigung der Verfügungen vom 5. und 12. Mai 2020 die Rentenaufhebung per 31. März 2017 und die Rückerstattung der vom 1. April 2017 bis 30. April 2020 ausgerichteten Rentenleistungen als rechtens erachtete.
2.2. Im angefochtenen Urteil wurden die massgebenden rechtlichen Grundlagen betreffend den Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 und 2 IVG in der bis 31. Dezember 2021 gültig gewesenen Fassung), die Voraussetzungen der Revision einer Invalidenrente (Art. 17 ATSG; vgl. <ref-ruling> E. 4.1; <ref-ruling> E. 2.3, 3.2, 5.2 und 6.3.2; je mit Hinweisen), insbesondere auch einer rückwirkenden Rentenrevision bei einer Meldepflichtverletzung (Art. 88bis Abs. 2 i.V.m. Art. 77 IVV [SR 831.201]; vgl. Urteil 8C_26/2018 vom 27. September 2018 E. 4.2), zur Zumutbarkeit der Selbsteingliederung nach einem Rentenbezug von mehr als 15 Jahren (vgl. <ref-ruling> E. 5.1) und zur Rückerstattungspflicht unrechtmässig bezogener Leistungen (Art. 25 Abs. 1 ATSG) zutreffend dargelegt. Ebenfalls richtig sind die vorinstanzlichen Ausführungen zur Beweiswürdigung und zum Beweiswert eines medizinischen Berichts (<ref-ruling> E. 5.1; <ref-ruling> E. 3a). Darauf wird verwiesen.
3.
3.1. Das kantonale Gericht mass der gutachterlichen Einschätzung des Dr. med. B._ vom 26. November 2019 Beweiskraft zu und stellte fest, der Gesundheitszustand des Beschwerdeführers habe sich seit der letzten umfassenden Rentenüberprüfung am 19. Oktober 2006 erheblich verbessert. Mit dem RAD-Arzt sei zu schliessen, dass diese Verbesserung schon bei den polizeilichen Ermittlungen am 2. April 2017 bestanden habe. Diese Umstände sowie die Maurer- und Putzarbeiten habe der Beschwerdeführer in schuldhafter Verletzung der Meldepflicht der Beschwerdegegnerin nicht mitgeteilt. Daher sei eine rückwirkende Rentenaufhebung per Ende März 2017 gerechtfertigt. Der Beschwerdeführer könne die attestierte Arbeitsfähigkeit auf dem Weg der Selbsteingliederung verwerten, nachdem er gemäss seinen eigenen Angaben während dreieinhalb Jahren täglich bis zu zehn Stunden Maurer- und Putzarbeiten verrichtet habe. Der Beschwerdeführer habe die ab April 2017 zu Unrecht bezogenen Leistungen zurückzuerstatten.
3.2.
3.2.1. Der Beschwerdeführer bringt dagegen zunächst vor, mit dem Gutachten des Dr. med. B._ werde eine revisionsrechtlich irrelevante Andersbewertung vorgenommen.
Mit diesem Einwand setzte sich bereits das kantonale Gericht auseinander. Es berücksichtigte, dass Dr. med. B._ das ZMB-Gutachten vom 26. September 2006 als mangelhaft erachtet habe, was eine Neubeurteilung des gleichgebliebenen Sachverhalts darstelle. Es erwog jedoch weiter, dass sich aus dem Gutachten des Dr. med. B._ und den vorliegenden Akten genügend Anhaltspunkte ergäben, die auf eine Verbesserung des Gesundheitszustandes schliessen liessen. Die Vorinstanz zeigte dies mit Hinweis auf die Befundveränderung betreffend die akustischen Halluzinationen und die Impulskontrolle sowie die neu festgestellte Fähigkeit des Beschwerdeführers, einfache Maurer- und Putzarbeiten verrichten zu können, nachvollziehbar auf. Im Gutachten wird sodann eine gesundheitliche Verbesserung - trotz Kritik an früheren medizinischen Beurteilungen - auch explizit bejaht. Vor diesem Hintergrund sind die vorinstanzlichen Feststellungen zu einem verbesserten Gesundheitszustand weder offensichtlich unrichtig noch verfängt der Einwand des Beschwerdeführers, die Expertise des Dr. med. B._ genüge den beweisrechtlichen Anforderungen nicht, die es in Revisionsfällen zu beachten gelte (vgl. Urteil 9C_137/2017 vom 8. November 2017 E. 3.1).
3.2.2. In der Beschwerde wird weiter geltend gemacht, das Gutachten des Dr. med. B._ sei widersprüchlich und unvollständig. Die Feststellungen zur Impulskontrolle beruhten auf einer Momentaufnahme und es gebe diesbezüglich zwischen der Einschätzung des Dr. med. B._ und der Dr. C._ diametrale Differenzen, weshalb erhebliche Zweifel an den gutachterlichen Schlussfolgerungen bestünden.
Die Vorinstanz hielt zutreffend fest, dass es die Aufgabe des Arztes ist, den Gesundheitszustand - unter Berücksichtigung der neuropsychologischen Defizite - zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist (Urteil 8C_526/2021 vom 10. November 2021 E. 4.2.1 mit Hinweisen). Dies gilt hier im Besonderen, da sich gemäss den verbindlichen vorinstanzlichen Feststellungen bei der neuropsychologischen Untersuchung des Beschwerdeführers durch Dr. phil. C._ deutliche Hinweise auf eine Aggravation zeigten. Sodann beruht die gestützt auf das psychiatrische Gutachten ergangene vorinstanzliche Feststellung, wonach nur eine vorübergehende Auffälligkeit der Affekt- und Impulsregulation bei einer weitgehend intakten Steuerungsfähigkeit bestehe, nicht lediglich auf einer Momentaufnahme. Denn der Gutachter begründete dies nicht einzig aufgrund seiner eigenen Untersuchungsbefunde, sondern berücksichtigte ebenso die Vorakten, wie etwa das im Strafverfahren Erhobene, was ihn zum Schluss bewog, dass seine Beurteilung schon seit längerer Zeit gelte. Soweit der Beschwerdeführer beanstandet, die Vorinstanz habe nicht dargelegt, weshalb er einem potenziellen Arbeitgeber zumutbar sein solle, ist mit dem kantonalen Gericht auf die gutachterlichen Ausführungen zu verweisen, die dies klar bejahen, da keine aufgehobene oder eingeschränkte Steuerungsfähigkeit in Bezug auf die Impulskontrolle bestehe.
3.2.3. Der Beschwerdeführer macht schliesslich eine Alkoholabhängigkeit sowie damit zusammenhängende Verhaltensstörungen und Verhaltensexzesse geltend, die nicht hinreichend abgeklärt worden seien.
Es mag zutreffen, dass der Gutachter nicht in der Lage war, den Suchtmittelgebrauch zu objektivieren und diesen diagnostisch abschliessend einzuordnen (Alkoholmissbrauch bzw. -abhängigkeit), dies insbesondere mit Blick auf die widersprüchlichen Angaben des Beschwerdeführers bei der neuropsychologischen und psychiatrischen Begutachtung (kein Konsum von Alkohol und anderer Drogen vs. seit zwei Jahren konsumiere er eine Harasse Bier täglich) sowie der nicht mitgebrachten Laborwerte. So oder anders war der medizinische Experte aber im Stande, die psychopathologischen Befunde in Abgrenzung zur präsentierten Aggravation bei im Vordergrund stehender Persönlichkeitsstörung schlüssig einzuschätzen. Denn die bestehenden Einschränkungen und erhaltenen Fähigkeiten konnte er auch anhand der beschriebenen Lebensführung (Freundin, Flugreisen in die Heimat), der angegebenen Umbautätigkeiten, der Erkenntnisse der Hausdurchsuchung vom 2. April 2017 sowie der polizeilichen Einvernahmen des Beschwerdeführers vom 3. April und 14. Juni 2017 verifizieren. Damit ist das Gutachten für die hier interessierenden Belange umfassend und es besteht kein Grund für weitere Abklärungen. Die vorinstanzliche Schlussfolgerung, es gebe keine Anhaltspunkte für eine gravierende Störung, welche eine massgebliche Beeinträchtigung bewirke, verletzt deshalb kein Bundesrecht.
3.2.4. Weiter rügt der Beschwerdeführer eine Verletzung von Art. 8 EMRK, da das Gutachten des Dr. med. B._ in wesentlichen Zügen auf Feststellungen basiere, die aus Erkenntnissen einer polizeilichen Kontrolle vom 14. März 2018 stammten, die gemäss dem auch im sozialversicherungsrechtlichen Prozess zu beachtenden Urteil der Strafkammer des Obergerichts des Kantons Solothurn vom 21. April 2021 einem absoluten Verwertungsverbot unterlägen.
3.2.4.1. In Ergänzung zum vorinstanzlichen Urteil ist darauf hinzuweisen, dass das Sozialversicherungsrecht keine Bestimmung kennt, die sich mit der Verwertbarkeit rechtswidrig erlangter Beweise im Verwaltungsverfahren befasst (ATSG; VwVG [i.V.m. Art. 55 Abs. 1 ATSG]; vgl. <ref-ruling> E. 5.1.1). Andere gesetzliche Vorgaben des Bundesrechts, wie sie namentlich in der Schweizerischen Straf- (Art. 141 StPO) und Zivilprozessordnung (Art. 152 StPO) existieren, sind damit nicht bzw. nicht unmittelbar, sondern höchstens insoweit anwendbar, als in ihnen übergeordnetes Recht zum Ausdruck gelangt (Urteil 8C_7/2020 vom 3. November 2020 E. 3.2.2). Es ist daher auf die allgemeinen Grundsätze zurückzugreifen, wonach gemäss der Rechtsprechung ein grundsätzliches Verwertungsverbot für widerrechtlich erlangte Beweismittel besteht. Dieses Verbot gilt jedoch nicht absolut. Wo im Vergleich überwiegende Interessen an der Durchsetzung des öffentlichen Rechts bestehen, kann ausnahmsweise auch ein rechtswidrig erlangter Beweis verwendet werden. Abzuwägen ist dabei das öffentliche Interesse an der Ermittlung der Wahrheit gegen das Interesse der betroffenen Person. Ausserdem kann - ebenfalls unter Vornahme einer Interessenabwägung - vom Beweisverwertungsverbot abgewichen werden, wenn ein Beweismittel an sich auch rechtmässig hätte beschafft werden können (vgl. <ref-ruling> E. 5.1.1; <ref-ruling> E. 3.1; <ref-ruling> E. 4.1; <ref-ruling> E. 3b; je mit Hinweisen; zum Ganzen auch: AUER/BINDER, Kommentar zum Bundesgesetz über das Verwaltungsverfahren, 2018, N. 26 zu Art. 12 VwVG).
3.2.4.2. Die Vorinstanz erwog, der Beschwerdeführer sei mit dem Urteil der Strafkammer des Obergerichts des Kantons Solothurn vom 21. April 2021 von den Vorwürfen der Widerhandlung gegen das Bundesgesetz über die Betäubungsmittel und psychotropen Stoffe (Vermitteln, Kauf, Besitz und Konsum von Kokain), des Wirtens ohne Betriebsbewilligung und der Missachtung des Rauchverbots durch den Wirt freigesprochen worden. Die Hausdurchsuchung vom 14. März 2018 und die daraus gewonnenen Erkenntnisse seien für nicht verwertbar erklärt worden. Deshalb werde auf den Einbezug der Strafanzeige vom 15. April 2018 und die Erkenntnisse der (zweiten) Hausdurchsuchung vom 14. März 2018 verzichtet. Das diese Unterlagen berücksichtigende Gutachten des Dr. med. B._ wies das kantonale Gericht jedoch nicht aus dem Recht. Denn die darin berücksichtigten Fähigkeiten des Beschwerdeführers bezüglich Betriebs einer Bar und Bewirtung von Gästen liessen sich auch aufgrund einer in der Teil-Einstellungsverfügung (wegen Verjährung) vom 21. Januar 2021 nicht als unrechtmässig eingestuften ersten Hausdurchsuchung vom 2. April 2017 sowie der polizeilichen Einvernahmen vom 3. April und 14. Juni 2017 begründen. Diese vorinstanzlichen Erwägungen zeigen, dass mit dem psychiatrischen Gutachten, das unter anderem auch rechtswidrig erlangte Beweise beachtet hatte, nicht massgeblich in die Interessen des Beschwerdeführers eingegriffen wurde, da sich der ihm zugrunde liegende Sachverhalt bereits aus den rechtmässig erhobenen Beweisen erstellen liess. Entgegen dem Beschwerdeführer sind daher die von der Beschwerdegegnerin eingeholten Gutachten verwertbar. Dabei kann offengelassen werden, ob der Gutachter die Erkenntnisse aus der zweiten Hausdurchsuchung ungeachtet ihrer Rechtswidrigkeit mit Blick auf das öffentliche Interesse, dass keine unrechtmässigen Sozialversicherungsleistungen ausbezahlt werden sollen, nicht auch hätte berücksichtigen dürfen (vgl. BGE <ref-ruling> E. 3.5).
3.2.5. Eine Bundesrechtswidrigkeit vermag der Beschwerdeführer auch nicht aufzuzeigen, soweit er in Abrede stellt, eine Bar geführt zu haben, und weitere Abklärungen verlangt. Denn die diesbezüglichen vorinstanzlichen Feststellungen sind nicht offensichtlich unrichtig. Der Beschwerdeführer räumte bei den durchgeführten polizeilichen Einvernahmen am 3. April und 14. Juni 2017 (losgelöst von sozialversicherungsrechtlichen Überlegungen) vorbehaltlos ein, dass diese Bar, die seinen Spitznamen trägt, "sein Lokal" bzw. "seine Disco" sei und er dort Essen und Getränke ausgebe. Vor diesem Hintergrund sind von weiteren Beweisabnahmen keine zusätzlichen Erkenntnisse zu erwarten. Die willkürfreie und (implizite) antizipierte Beweiswürdigung der Vorinstanz verletzt daher weder den Untersuchungsgrundsatz noch den Anspruch auf ein faires Verfahren und auf rechtliches Gehör (<ref-ruling> E. 6.5; Urteil 9C_216/2020 vom 8. Juli 2020 E. 3.2). Ebenso wenig ist alsdann bundesrechtswidrig, wenn das kantonale Gericht mit Blick auf die geführte Bar sowie die ausgeübten Maurer- und Putzarbeiten auf eine besondere Agilität, Gewandtheit und Integration des Beschwerdeführers schloss, die eine Selbsteingliederung trotz einer Rentenbezugsdauer von mehr als 15 Jahren zumutbar mache (vgl. <ref-ruling> E. 5.1).
3.2.6. Die Vorinstanz hat sodann nachvollziehbar dargelegt, dass der Beschwerdeführer schuldhaft die Meldepflicht verletzte, indem er die Beschwerdegegnerin nicht über die während dreieinhalb Jahren täglich verrichteten Maurer- und Putzarbeiten sowie das Führen eines Klubs informiert hatte. Die dagegen erhobenen Vorbringen des Beschwerdeführers sind weitgehend appellatorischer Natur und erschöpfen sich in der Wiedergabe der eigenen Sicht der Dinge. Damit sind die Voraussetzungen für eine rückwirkende Rentenaufhebung erfüllt, muss doch - wie das kantonale Gericht zutreffend darlegte - nach (dem seit 1. Januar 2015 in Kraft stehenden) Art. 88a Abs. 2 lit. b IVV die Meldepflichtverletzung nicht kausal für die Weiterausrichtung der Rente sein. Der Einwand des Beschwerdeführers, es liege keine unrechtmässige Erwirkung von Rentenleistungen vor, ist somit irrelevant und verkennt die vorinstanzlichen Erwägungen, in denen ein solcher Vorwurf nicht erhoben wurde.
3.3. Nach dem Dargelegten ist die Beschwerde unbegründet.
4.
Das Verfahren ist kostenpflichtig (Art. 65 BGG). Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (Art. 66 Abs. 1 BGG). Seinem Gesuch um Gewährung der unentgeltlichen Rechtspflege kann entsprochen werden, da die Voraussetzungen erfüllt sind (Art. 64 Abs. 1 BGG). Ausdrücklich wird auf Art. 64 Abs. 4 BGG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Claude Wyssmann wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. Februar 2022
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Wirthlin
Die Gerichtsschreiberin: Möckli