Sachverhalt:
A. Der 1962 geborene P._ bezog seit August 1997 eine ganze Invalidenrente (Verfügung der IV-Stelle des Kantons Solothurn vom 18. Juni 1998). Die Verwaltung stützte sich hierbei unter anderem auf einen Austrittsbericht der psychiatrischen Klinik des Kantons Solothurn vom 26. September 1996 und auf einen Bericht des behandelnden Psychiaters Dr. med. S._, vom 25. November 1997, welcher aufgrund einer rezidivierenden depressiven Störung mit somatischem Syndrom (gegenwärtig mittelgradige Episode (ICD-10: F33.11) eine vollständige Arbeitsunfähigkeit attestierte. Mit Mitteilung vom 10. Oktober 2001 bestätigte die IV-Stelle die Zusprechung einer ganzen Rente aufgrund unveränderter Verhältnisse.
Im Rahmen eines im Jahre 2009 eingeleiteten Revisionsverfahrens liess die IV-Stelle P._ durch das Institut X._ interdisziplinär begutachten (Expertise vom 22. März 2010). Die Sachverständigen diagnostizierten eine rezidivierende depressive Störung, gegenwärtig remittiert (ICD-10: F33.4), akzentuierte Persönlichkeitszüge, impulsiv (ICD-10: Z73.1), eine leichte, chronisch-persistierende Hepatitis B (ICD-10: B18.2), rezidivierende gastritische Beschwerden (ICD-10: K29.7) sowie eine medikamentös behandelte arterielle Hypertonie (ICD-10: I10). Alle Beschwerden blieben ohne Auswirkung auf die Arbeitsfähigkeit. Zusammenfassend hielten sie fest, es bestehe weder aus somatischer noch psychiatrischer Sicht eine Arbeitsunfähigkeit für irgendeine Tätigkeit. Mit Verfügung vom 5. Juli 2010 hob die Verwaltung die Invalidenrente revisionsweise auf Ende August 2010 auf.
B. Das Versicherungsgericht des Kantons Solothurn wies die dagegen erhobene Beschwerde ab (Entscheid vom 24. Mai 2011).
C. P._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, die strittige Verfügung und der angefochtene Entscheid seien aufzuheben; es sei ihm weiterhin eine ganze Invalidenrente auszurichten. Ferner wird um unentgeltliche Rechtspflege ersucht.
Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht (<ref-law>) nur zu prüfen, ob der angefochtene Gerichtsentscheid in Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (unter anderem) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>).
1.2 Die Feststellung des Gesundheitsschadens, d.h. die Befunderhebung und die gestützt darauf gestellte Diagnose betreffen ebenso eine Tatfrage wie die aufgrund von medizinischen Untersuchungen gerichtlich festgestellte Arbeitsunfähigkeit (<ref-ruling> E. 3.2 S. 397 ff.). Analoges gilt für die Frage, ob sich eine Arbeits(un)fähigkeit in einem bestimmten Zeitraum in einem revisionsrechtlich relevanten Sinne (<ref-law>) verändert hat (Urteil I 865/06 vom 12. Oktober 2007 E. 4). Ebenso stellt die konkrete Beweiswürdigung eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach <ref-law> eine vom Bundesgericht frei überprüfbare Rechtsfrage (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil 9C_270/2008 vom 12. August 2008 E. 2.2). Gleiches gilt mit Bezug auf die Beachtung der bundesrechtlichen Anforderungen an den Beweiswert ärztlicher Berichte und Gutachten (vgl. <ref-ruling> E. 3 S. 352 ff.).
2. In formeller Hinsicht bringt der Beschwerdeführer vor, das Institut X._ sei finanziell von der Invalidenversicherung abhängig, was einen Verstoss gegen das Recht auf ein faires Verfahren gemäss Art. 6 EMRK bedeute. Das kantonale Gericht habe auch gegen ein faires Verfahren verstossen, indem es der Angabe des Versicherten, die internistische wie psychiatrische Exploration habe je nur eine Viertelstunde gedauert, nicht nachgegangen sei und dementsprechend einen einseitigen Entscheid gefällt habe.
Soweit der Beschwerdeführer damit unter Hinweis auf das von Prof. Dr. iur. Jörg Paul Müller und Dr. iur. Johannes Reich verfasste Rechtsgutachten "Zur Vereinbarkeit der bundesgerichtlichen Rechtsprechung zur medizinischen Begutachtung durch Medizinische Abklärungsstellen betreffend Ansprüche auf Leistungen der Invalidenversicherung mit Art. 6 der Konvention vom 4. November 1950 zum Schutze der Menschenrechte und Grundfreiheiten" vom 11. Februar 2010 in grundsätzlicher Hinsicht die Unabhängigkeit des Instituts X._ in Frage stellt, sei auf <ref-ruling> verwiesen, in welchem Urteil sich das Bundesgericht mit der Beweistauglichkeit von Administrativgutachten der Medizinischen Abklärungsstellen (MEDAS) unter den Aspekten Unabhängigkeit, Verfahrensfairness und Waffengleichheit einlässlich auseinandergesetzt hat. Zu diesbezüglichen Weiterungen besteht kein Anlass, wie das Bundesgericht in <ref-ruling> erkannt hat Die vorhandenen medizinische Berichte und Gutachten sind weiterhin als beweiskräftig zu betrachten und kommen als Grundlage für eine abschliessende Beurteilung immer noch in Frage (erwähntes Urteil E. 6 am Anfang). Doch ist im Einzelfall unter Berücksichtigung aller spezifischer Umstände zu prüfen, ob auf das eingeholte MEDAS- oder sonstige Administrativgutachten abgestellt werden darf (E. 4 hernach).
3. 3.1 Materiell streitig ist, ob die Vorinstanz den seit August 1997 anerkannten Anspruch des Beschwerdeführers auf eine ganze Rente mit Wirkung ab August 2010 verneinen durfte, weil sich sein Gesundheitszustand seit der Bestätigung des Anspruchs auf eine ganze Rente im Oktober 2001 (vgl. <ref-ruling> E. 3 S. 132 und 133 V 108 E. 5.4 S. 114, je mit Hinweisen; in Bezug auf den Vergleichszeitpunkt einer rechtskräftigen Verfügung gleichzustellende Mitteilung: SVR 2010 IV Nr. 4 S. 7 E. 3.1 [9C_46/2009]), bis zum Erlass der angefochtenen Verfügung vom 8. Dezember 2009 rentenrelevant verbessert hat (<ref-law>).
3.2 Im angefochtenen Entscheid werden die zur Beurteilung des Leistungsanspruchs einschlägigen Rechtsgrundlagen zutreffend dargelegt, worauf verwiesen wird.
4. 4.1 Das Gutachten des Instituts X._ vom 22. März 2010 entspricht grundsätzlich den von der Rechtsprechung aufgestellten Kriterien für eine beweiskräftige Expertise (vgl. <ref-ruling> E. 5.1 S. 232 mit Hinweis). Ab dem Zeitpunkt der Begutachtung wurde die Einschätzung einer vollen Arbeitsfähigkeit (aus somatisch internistischer und psychiatrischer Sicht) in nachvollziehbarer Weise begründet. Das kantonale Gericht zog gestützt darauf den Schluss, dass dem Beschwerdeführer grundsätzlich sowohl die zuletzt ausgeübte Tätigkeit als Staplerfahrer wie auch jede andere Beschäftigung wieder vollständig zumutbar war. Die in der Beschwerde vorgebrachten Einwände gegen die Beweiskraft des Gutachtens sind nicht stichhaltig. Das vorinstanzliche Abstellen auf die den rechtsprechungsgemässen Anforderungen genügenden Expertise des Instituts X._ und die darin attestierte fehlende Arbeitsunfähigkeit kann nicht als bundesrechtswidrig bezeichnet werden. Wenn die Vorinstanz den Berichten des Hausarztes Dr. med. M._ (vom 18. November 2009) und des behandelnden Psychiaters Dr. med. S._ (vom 3. Oktober 2009) bezüglich der Einschätzung der aktuellen Arbeits- und Leistungsfähigkeit mit dem Hinweis auf das auftragsrechtliche Vertrauensverhältnis (<ref-ruling> E. 4.5 S. 470; <ref-ruling> E. 3b S. 353) weniger Beweiskraft beimass, ist dies nicht offensichtlich unrichtig, zumal diese überdies nur knapp begründet sind und Dr. S._ nicht näher darlegte, weshalb die festgestellten depressiven Gedankengänge und die depressive Grundstimmung seiner Ansicht nach weiterhin zu einer psychischen Erkrankung mit vollständiger Arbeitsunfähigkeit führen. Aus der Stellungnahme des Hausarztes, Dr. med. M._ ist beweisrechtlich schon deshalb nichts gegen das Gutachten vom 2. Dezember 2006 und damit den angefochtenen Entscheid einzuwenden, da dieser Arzt den Facharzttitel FMH für Allgemeinmedizin führt und nicht spezialärztliche Erfahrung in der Psychiatrie aufweist. Die Vorinstanz hat im Rahmen einer bundesrechtskonformen Beweiswürdigung dargelegt, dass der begutachtende Psychiater Dr. med. G._ schlüssig ausführte, dass die rezidivierende depressive Störung im Begutachtenszeitpunkt remittiert war. Neben Anamnese und Untersuchungsbefund setzte sich Dr. med. G._ in seiner Expertise ausführlich mit den bisherigen psychiatrischen Berichten auseinander, wobei er keinerlei Symptome für die von Dr. med. S._ diagnostizierte mittelgradige depressive Störung habe finden können und die impulsiven Persönlichkeitszüge die Arbeitsfähigkeit nicht beeinflussen würden. Vielmehr wies er auf die subjektive Krankheitsüberzeugung hin. Bezüglich des Einwandes, die internistische wie psychiatrische Exploration habe lediglich nur je eine Viertelstunde gedauert ist mit der Vorinstanz festzuhalten, dass grundsätzlich nicht die Dauer der Untersuchung massgebend ist, sofern der zeitliche Aufwand der Fragestellung und der zu beurteilenden Psychopathologie angemessen ist (Urteile 9C_811/2010 vom 16. Februar 2011 E. 4.2.1, 8C_485/2010 vom 21. September 2010 E. 2.4.3). Für die Annahme, dass die Untersuchungen durch die Dres. med. Z._ (internistische/allgemeinmedizinische Fallführung) und G._ nicht sorgfältig vorgenommen wurden oder der zeitliche Aufwand der Fragestellung und der zu beurteilenden Psychopathologie unangemessen war, liegen keine Anhaltspunkte vor. Entgegen den Einwendungen des Beschwerdeführers wird aus somatischer Sicht im Gutachten sehr wohl dargelegt, weshalb die leichte, chronisch-persistierende Hepatitis B die Arbeitsfähigkeit nicht beeinflusst, zumal der Versicherte viele Jahre nach der labormässig gleichen Situation im Jahre 1988 wie im Gutachtenszeitpunkt, vollständig arbeitsfähig war. Die geklagte Müdigkeit fand ebenfalls Eingang in die Expertise, konnte jedoch weder somatisch noch psychisch begründet werden.
4.2 Sind die vorinstanzlichen Feststellungen zur Verbesserung des Gesundheitszustandes und der Arbeitsfähigkeit des Beschwerdeführers für das Bundesgericht mithin verbindlich, ist die im Übrigen nicht weiter gerügte, im angefochtenen Entscheid bestätigte revisionsweise Aufhebung der Rente bundesrechtskonform.
5. Dem Verfahrensausgang entsprechend werden die Gerichtskosten dem Beschwerdeführer auferlegt (<ref-law>). Die unentgeltliche Rechtspflege (im Sinne der Befreiung von den Gerichtskosten; <ref-law>) und Verbeiständung (<ref-law>) kann gewährt werden, weil die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen ist und die Vertretung durch einen Rechtsanwalt oder eine Rechtsanwältin geboten war. Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Fürsprech Jürg Walker wird als unentgeltlicher Anwalt des Beschwerdeführers bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 20. Oktober 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Polla