Sachverhalt:
A.
A.a. Der 1984 geborene A._ war seit 1. Oktober 2002 als "Küchenbursche" beim Hotel B._ tätig und dadurch für kurzfristige Leistungen bei der Hotela, Kranken- und Unfallkasse des Schweizer Hotelier-Vereins (nachfolgend: Hotela) und für langfristige Leistungen bei Lloyd's Underwriters London (nachfolgend: Lloyd's) obligatorisch gegen Unfallfolgen versichert. Am 19. April 2003 zog er sich bei einem Autounfall diverse Verletzungen zu. Die Hotela erbrachte die gesetzlichen Leistungen in Form von Heilbehandlung sowie Taggeldern und holte namentlich beim Zentrum für Medizinische Begutachtungen (ZMB), Basel, das polydisziplinäre Gutachten vom 11. September 2008 ein. Mit Verfügung vom 1. Februar 2010 stellte sie die kurzfristigen Leistungen rückwirkend per 31. Dezember 2008 ein.
Die Lloyd's veranlasste diverse weitere medizinische Abklärungen und stellte die Einholung eines zusätzlichen polydisziplinären Gutachtens in Aussicht. Mit Schreiben vom 8. Mai 2012 unterbreitete sie A._ dann aber einen Vergleichsvorschlag, gemäss welchem ihm für die Folgen des Unfalls vom 19. April 2003 ab 1. Februar 2010 eine Invalidenrente basierend auf einem Invaliditätsgrad von 50 % sowie eine Integritätsentschädigung auf der Basis einer Integritätseinbusse von 50 % zugesprochen werde. Nachdem A._ diesen Vorschlag akzeptiert hatte, erliess die Lloyd's am 23. Juli 2012 eine Verfügung mit entsprechender Leistungszusprache.
A.b. A._ hatte sich auch bei der Invalidenversicherung zum Leistungsbezug angemeldet. Nach Durchführung von Eingliederungsversuchen verneinte die IV-Stelle des Kantons Solothurn mit Verfügung vom 10. September 2013 den Anspruch auf eine Invalidenrente, was das Versicherungsgericht des Kantons Solothurn mit Urteil vom 31. März 2015 bestätigte. Aufgrund einer erneuten Anmeldung im Juni 2016 holte die IV-Stelle das polydisziplinäre Gutachten des BEGAZ Begutachtungszentrum BL (nachfolgend: BEGAZ) vom 17. Mai 2017 ein. Gestützt darauf sprach sie A._ mit in Rechtskraft erwachsener Verfügung vom 21. November 2017 rückwirkend ab 1. Dezember 2016 eine halbe Invalidenrente zu.
A.c. Die Lloyd's hob mit Verfügung vom 18. Mai 2017 ihre Verfügung vom 23. Juli 2012 wiedererwägungsweise auf und stellte die gestützt darauf erbrachten Rentenleistungen per 31. Mai 2017 ein. Zur Begründung hielt sie fest, die ursprüngliche Verfügung sei zweifellos unrichtig, da A._ gemäss Urteil des Versicherungsgerichts vom 31. März 2015 in einer Verweistätigkeit ab 27. November 2003 zu 100 % arbeitsfähig gewesen sei. Nachdem A._ im dagegen anhängig gemachten Einspracheverfahren das von der IV-Stelle in Auftrag gegebene Gutachten des BEGAZ vom 17. Mai 2017 eingereicht hatte, holte die Lloyd's das psychiatrische Gutachten des Dr. med. C._, Psychiatrie und Psychotherapie FMH, leitender Arzt des Psychiatrischen Zentrums D._, vom 7. November 2018 ein. Mit Einspracheentscheid vom 29. November 2019 hielt sie an ihrem Standpunkt fest.
B.
In Gutheissung der von A._ hiegegen erhobenen Beschwerde hob das Versicherungsgericht des Kantons Solothurn den Einspracheentscheid vom 29. November 2019 mit Urteil vom 20. Januar 2021 auf.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die Lloyd's, das vorinstanzliche Urteil sei aufzuheben und der Einspracheentscheid vom 29. November 2019 sei zu bestätigen, eventualiter sei die Sache in Aufhebung des angefochtenen Urteils zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Zudem ersucht sie darum, der Beschwerde die aufschiebende Wirkung zu erteilen.
Mit Vernehmlassung vom 26. März 2021 betreffend Gesuch um aufschiebende Wirkung lässt A._ die Abweisung des Gesuchs, eventualiter die Abweisung in Bezug auf künftige Leistungen beantragen. Zudem lässt er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung ersuchen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel betreffend der Beschwerde wurde nicht durchgeführt.
D.
Mit Verfügung vom 20. April 2021 erkannte der Instruktionsrichter der Beschwerde die aufschiebende Wirkung zu.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 4.2 mit Hinweis).
1.2. Im Beschwerdeverfahren um die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung ist das Bundesgericht nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden (Art. 97 Abs. 2 und Art. 105 Abs. 3 BGG).
2.
2.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie den Einspracheentscheid vom 29. November 2019 aufhob, mit welchem die Beschwerdeführerin die auf einem Vergleich basierende Verfügung vom 23. Juli 2012 wiedererwägungsweise aufgehoben und die gestützt darauf erbrachten Rentenleistungen per 31. Mai 2017 eingestellt hatte.
2.2.
2.2.1. Gemäss <ref-law> kann der Versicherungsträger, wie das kantonale Gericht zutreffend darlegte, auf formell rechtskräftige Verfügungen oder Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist. Die erstgenannte Voraussetzung der Wiedererwägung bedingt, dass kein vernünftiger Zweifel an der (von Beginn weg bestehenden) Unrichtigkeit der Verfügung (gemeint ist hierbei immer auch ein allfälliger Einspracheentscheid) besteht, also nur dieser einzige Schluss denkbar ist. Dieses Erfordernis ist in der Regel erfüllt, wenn eine Leistungszusprache aufgrund falscher Rechtsregeln erfolgt ist oder wenn massgebliche Bestimmungen nicht oder unrichtig angewandt wurden. Ob dies zutrifft, beurteilt sich nach der bei Erlass der Verfügung bestehenden Sach- und Rechtslage, einschliesslich der damaligen Rechtspraxis (<ref-ruling> E. 3.1 mit Hinweisen).
Um wiedererwägungsweise auf eine verfügte Leistung zurückkommen zu können, genügt es aber nicht, wenn ein einzelnes Anspruchselement rechtswidrig festgelegt wurde. Vielmehr hat sich die Leistungszusprache auch im Ergebnis als offensichtlich unrichtig zu erweisen. So muss etwa, damit eine zugesprochene Rente wegen einer unkorrekten Invaliditätsbemessung wiedererwägungsweise aufgehoben werden kann, - nach damaliger Sach- und Rechtslage - erstellt sein, dass eine korrekte Invaliditätsbemessung hinsichtlich des Leistungsanspruchs zu einem anderen Ergebnis geführt hätte (<ref-ruling> E. 3.1 mit Hinweisen).
2.2.2. Die in <ref-law> statuierte Befugnis, Streitigkeiten über sozialversicherungsrechtliche Leistungen durch Vergleich zu erledigen, ermächtigt die Behörde nicht, bewusst eine gesetzwidrige Vereinbarung zu schliessen bzw. von einer von ihr als richtig erkannten Gesetzesanwendung im Sinne eines Kompromisses abzuweichen. Ist der Vergleich im Gesetzesrecht zugelassen, wird damit aber den Parteien bei ungewisser Sach- oder Rechtslage die Befugnis eingeräumt, ein Rechtsverhältnis vertraglich zu ordnen, um die bestehende Rechtsunsicherheit zu beseitigen. Dabei und damit wird - worauf die Vorinstanz zu Recht hinwies - in Kauf genommen, dass der Vergleichsinhalt von der Regelung des Rechtsverhältnisses abweicht, zu der es bei umfassender Klärung des Sachverhalts und der Rechtslage allenfalls gekommen wäre. Ein Vergleich ist somit zulässig, soweit der Verwaltung ein Ermessensspielraum zukommt sowie zur Beseitigung rechtlicher und/oder tatsächlicher Unklarheiten (<ref-ruling> E. 3.2.1 mit Hinweisen).
2.2.3. Rechtsprechungsgemäss kann ein Vergleich, wie das kantonale Gericht darlegte, grundsätzlich ebenso in Wiedererwägung gezogen werden wie eine Verfügung. Es sind jedoch im Rahmen von <ref-law> höhere Anforderungen zu stellen, um dem Vergleichscharakter Rechnung zu tragen. Der Mechanismus der Interessenabwägung ist somit bei der Wiedererwägung eines Vergleichs bzw. einer Verfügung der gleiche. Unterschiede ergeben sich jedoch bei der Gewichtung, namentlich des Schutzes des berechtigten Vertrauens in den Bestand, der tendenzmässig beim Vergleich stärker als bei der Verfügung ausfällt (<ref-ruling> E. 3.2.2 mit Hinweis).
Zu beachten ist dabei, dass ein Vergleich, gestützt auf den Sozialversicherungsleistungen zugesprochen werden, für gewöhnlich eine gesamthafte Würdigung aller relevanten Anspruchsfaktoren umfasst. Das heisst, jede Vergleichspartei bezieht in ihre Überlegungen mit ein und nimmt in Kauf, dass bei der vergleichsweisen Erledigung einige Anspruchsfaktoren eher zu ihren Gunsten, andere eher zu ihren Ungunsten ausgelegt werden als bei einer umfassenden Prüfung. Sie wägt in diesem Sinne ab, welchem Ergebnis sie bei gesamthafter Betrachtung zustimmen will. Der Versicherungsträger hat sich hierbei im Rahmen des ihm zustehenden Ermessens zu halten. Für die versicherte Person wird die rasche Zusprechung einer möglichst hohen Leistung im Vordergrund stehen (vgl. E. 2.2.2 hiervor bzw. <ref-ruling> E. 3.2.2).
3.
3.1. Die Vorinstanz erwog zunächst, der Beschwerdegegner habe mit Schreiben vom 27. November 2017 entgegen der Auffassung der Beschwerdeführerin nicht sein Einverständnis mit der Wiedererwägung erklärt, sondern lediglich auf Einwendungen zur Begutachtung durch Dr. med. C._ verzichtet, weshalb die Rechtmässigkeit der Wiedererwägung zu prüfen sei. Dazu sei - so das kantonale Gericht - ausschliesslich die Aktenlage im Zeitpunkt der ursprünglichen Verfügung vom 23. Juli 2012 massgebend. Von vornherein nicht stichhaltig sei daher die im Einspracheentscheid vom 29. November 2019 enthaltene Begründung, welche die Wiedererwägung auf das im Invalidenversicherungsverfahren ergangene Urteil des Versicherungsgerichts vom 31. März 2015 und das dort berücksichtigte Gutachten des Psychiaters Dr. med. D._ vom 8. Februar 2013 abstütze.
3.2. In Würdigung der im Zeitpunkt der Rentenzusprechung vom 23. Juli 2012 vorhandenen medizinischen Aktenlage stellte die Vorinstanz sodann fest, das eingeholte polydisziplinäre Gutachten des ZMB vom 11. September 2008 habe Mängel aufgewiesen und es hätte sowohl in somatischer als auch in psychiatrischer Hinsicht Bedarf nach ergänzenden Abklärungen bestanden. Nachdem die Beschwerdeführerin zunächst eine erneute polydisziplinäre Begutachtung in Aussicht gestellt habe, habe sie es in der Folge jedoch vorgezogen, dem Beschwerdegegner einen Vergleich vorzuschlagen, der u.a. eine Invalidenrente auf der Basis eines Invaliditätsgrades von 50 % umfasst habe. Das kantonale Gericht ging davon aus, dass die Beschwerdeführerin sowohl die durch das ZMB geschätzte, primär psychiatrisch und neuropsychologisch begründete Arbeitsunfähigkeit von 60 % in einer Verweistätigkeit als auch die durch ihren beratenden Arzt Dr. med. E._, Chirurgie FMH, in der Stellungnahme vom 14. April 2011 angegebene "generelle" Arbeitsunfähigkeit von 50 % aus rein somatischer Sicht als eher zu hoch angesehen habe, jedoch von einer teilweisen Kumulation ausgegangen sei. Dieses Vorgehen möge als diskutabel erscheinen und es wäre namentlich mit Blick auf das Alter des Beschwerdegegners vorzuziehen gewesen, mit einer neuen Begutachtung eine zuverlässige medizinische Grundlage zu schaffen. Von einer groben Fehleinschätzung oder einem offensichtlichen krassen Irrtum könne - so das kantonale Gericht - jedoch nicht gesprochen werden. Die Annahme, weitere Abklärungen hätten eine unfallkausale Arbeitsunfähigkeit von 50 % in einer Verweistätigkeit ergeben, lasse sich nicht als vollkommen abwegig bezeichnen, weshalb der abgeschlossene Vergleich und die darauf basierende Verfügung vom 23. Juli 2012 nicht als (auch im Ergebnis) zweifellos unrichtig zu qualifizieren seien. Da eine Wiedererwägung somit ausgeschlossen sei, sei die auf dieser Begründung basierende, mit Verfügung vom 18. Mai 2017 vorgenommene und mit Einspracheentscheid vom 29. November 2019 bestätigte Rentenaufhebung per 31. Mai 2017 zu Unrecht erfolgt.
3.3. Die Vorinstanz prüfte abschliessend, obwohl kein entsprechender Antrag vorlag, ob die Rentenaufhebung im Rahmen einer substituierten Begründung oder Motivsubstitution ganz oder teilweise bestätigt werden könnte. In diesem Sinne verneinte sie dann aber die Möglichkeit der Bestätigung des Einspracheentscheids unter dem Titel einer prozessualen Revision gemäss <ref-law> und hielt zudem die Prüfung unter dem Aspekt einer materiellen Rentenrevision im Sinne von <ref-law> für nicht angezeigt.
4.
Was die Beschwerdeführerin in weitgehender Wiederholung des bereits im kantonalen Verfahren Vorgebrachten rügt, lässt die Beurteilung der Vorinstanz nicht als bundesrechtswidrig erscheinen:
4.1. Soweit die Beschwerdeführerin geltend macht, das kantonale Gericht habe den Sachverhalt falsch gewürdigt, wenn es im Verhalten des Beschwerdegegners kein Einverständnis zur vorgenommenen Wiedererwägung gesehen habe, kann ihr nicht beigepflichtet werden, zumal in der Beschwerde lediglich die eigene Sichtweise beinahe wörtlich wiederholt wird. Wie die Vorinstanz zutreffend darlegte, hatte der Beschwerdegegner in der Einsprache vom 21. Juni 2017 das Vorliegen eines Wiedererwägungsgrundes bestritten und in der Folge nie sein Einverständnis mit der Wiedererwägung erklärt. Insbesondere kann ein solches nicht aus dem Schreiben vom 27. November 2017 herausgelesen werden. Denn mit der darin verwendeten Formulierung ("Zum Gutachten und zum Gutachter habe ich keine Bemerkungen anzubringen.") verzichtete der Beschwerdegegner einzig auf Einwendungen gegen die in Aussicht gestellte Begutachtung durch Dr. med. C._. Ebenso fehl geht sodann die Berufung der Beschwerdeführerin auf ihren unzutreffenden Hinweis im Schreiben vom 1. Mai 2018, wonach der Beschwerdegegner nebst der Tatsache, dass eine Wiedererwägung vorgenommen worden sei, auch die Veranlassung eines Gutachtens vorbehaltlos akzeptiert habe. Insbesondere lässt sich aus dem hierauf unterbliebenen Widerspruch kein Einverständnis zur Wiedererwägung ableiten. Schliesslich liegt auch in der Mitwirkung des Beschwerdegegners an der Begutachtung keine Akzeptanz der Wiedererwägung, hätte doch die Einholung eines Gutachtens, wie das kantonale Gericht richtig festhielt, auch anderen Zielen, namentlich etwa der Prüfung einer Revision der laufenden Rente, dienen können.
4.2. Nicht stichhaltig ist des Weiteren die Rüge, die Vorinstanz verkenne, dass das Urteil des Versicherungsgerichts vom 31. März 2015 aufgrund der im massgebenden Zeitpunkt geltenden Sachlage alle relevanten Faktoren berücksichtigt habe, welche die vorgenommene Wiedererwägung rechtfertigten. Wie das kantonale Gericht korrekt darlegte, ist für die Beurteilung der Wiedererwägungsvoraussetzungen ausschliesslich die Aktenlage massgebend, wie sie sich im Zeitpunkt der Verfügung vom 23. Juli 2012 präsentierte. Insofern kann eine Begründung der Wiedererwägung, die sich auf ein später ergangenes Gutachten und darauf basierendes Gerichtsurteil abstützt, nicht stichhaltig sein, selbst wenn sich diese auch zur Arbeits (un) fähigkeit vor Verfügungserlass äussern.
4.3. Was sodann die medizinische Aktenlage im Zeitpunkt der ursprünglichen Verfügung vom 23. Juli 2012 anbelangt, zeigte das kantonale Gericht in einlässlicher Würdigung auf, dass das polydisziplinäre Gutachten des ZMB vom 11. September 2008 Mängel aufgewiesen habe und an sich Bedarf zu weiteren Abklärungen bestanden hätte. Die Beschwerdeführerin habe dies erkannt und zunächst eine nochmalige polydisziplinäre Begutachtung in Aussicht gestellt, es dann aber vorgezogen, einen Vergleich vorzuschlagen, der u.a. eine Invalidenrente auf der Basis eines Invaliditätsgrades von 50 % umfasst habe. Wie das kantonale Gericht festhielt, attestierte das ZMB eine primär psychiatrisch und neuropsychologisch begründete Arbeitsunfähigkeit von 60 % in einer Verweistätigkeit und setzte der beratende Arzt der Beschwerdeführerin eine "generelle" Arbeitsunfähigkeit von 50 % aus rein somatischer Sicht fest. Die Beschwerdeführerin stellte gemäss ihren Vorbringen auf diese beiden Einschätzungen ab. Sie wies zudem darauf hin, dass auch der ehemalige Hausarzt des Beschwerdegegners eine 50%ige Arbeitsfähigkeit für leichte Arbeiten als realistisch bezeichnet, jedoch aus ärztlicher Sicht nicht alle Beschwerden für erklärbar gehalten habe. Inwiefern bei dieser Sachlage die Folgerung des kantonalen Gerichts, die Annahme, dass weitere Abklärungen eine unfallkausale Arbeitsunfähigkeit von 50 % in einer Verweistätigkeit ergeben hätten, lasse sich nicht als vollkommen abwegig bezeichnen, unrichtig oder anderweitig bundesrechtswidrig sein soll, vermag die Beschwerdeführerin nicht darzutun. Wie in E. 4.2 hiervor dargelegt, kann sie sich dazu nicht auf spätere Gutachten oder Urteile berufen, die ihr klar gemacht hätten, dass die Sach- und Rechtslage falsch eingeschätzt worden seien. Dementsprechend ist nicht zu beanstanden, dass die Vorinstanz den abgeschlossenen Vergleich und die darauf basierende Verfügung vom 23. Juli 2012 (auch im Ergebnis) nicht als zweifellos unrichtig qualifizierte. Dass der Vergleichsinhalt von der Regelung des Rechtsverhältnisses, zu der es bei umfassender Klärung des Sachverhalts und der Rechtslage allenfalls gekommen wäre, abweichen kann, wird, wie in E. 2.2.2 hiervor aufgezeigt wurde, durch den Abschluss eines Vergleichs gerade in Kauf genommen und bei der Prüfung der Wiedererwägungsvoraussetzungen berücksichtigt.
4.4. Da demnach seine soeben dargelegte Schlussfolgerung standhält, durfte das kantonale Gericht auf weitere Erwägungen und Abklärungen in Bezug auf die Kausalitätsfrage verzichten. Dies verstösst weder gegen den Untersuchungsgrundsatz (<ref-law>) noch gegen die Ansprüche auf rechtliches Gehör bzw. auf Beweisabnahme (<ref-law>). Dementsprechend ist auf die Vorbringen der Beschwerdeführerin zur Kausalitätsfrage, die sich auf eine Wiederholung der diesbezüglichen Ausführungen in der Beschwerdeantwort im kantonalen Verfahren beschränken, nicht weiter einzugehen.
4.5. Soweit die Vorinstanz schliesslich die Möglichkeit der Bestätigung des Einspracheentscheids im Rahmen einer substituierten Begründung unter dem Titel einer prozessualen Revision verneinte und die Prüfung einer Motivsubstitution unter dem Aspekt einer materiellen Rentenrevision für nicht angezeigt hielt, stellt die Beschwerdeführerin lediglich fest, dass sie zu Recht keine prozessuale Revision vorgenommen habe. Mangels Rügen oder offenkundiger Fehler in der vorinstanzlichen Erwägung ist auf die Frage der Motivsubstitution nicht weiter einzugehen.
4.6. Zusammenfassend hält das angefochtene Urteil vor Bundesrecht stand, weshalb die Beschwerde abzuweisen ist.
5.
Die Kosten des Verfahrens sind von der unterliegenden Beschwerdeführerin zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdeführerin auferlegt.
3.
Die Beschwerdeführerin hat die Rechtsvertreterin des Beschwerdegegners für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 9. November 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Kopp Käch