Sachverhalt: A. Der 1963 geborene S._ meldete sich am 9. März 2000 wegen einer Darmkrebserkrankung und einer reaktiven Depression bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Thurgau sprach ihm mit Wirkung ab 1. April 2000 ein ganze Rente der Invalidenversicherung zu (Verfügung vom 15. September 2000). Mit Mitteilung vom 21. März 2005 bestätigte sie einen unveränderten Anspruch. Im Rahmen eines weiteren, im Jahr 2010 eingeleiteten Rentenrevisionsverfahrens liess die IV-Stelle S._ beim Institut X._ internistisch und psychiatrisch abklären (Gutachten vom 26. Januar 2011). Mit Verfügung vom 4. August 2011 hob die IV-Stelle die Rente daraufhin auf das Ende des der Zustellung folgenden Monats (bei einem ermittelten Invaliditätsgrad von 25 %) auf. B. Die dagegen eingereichte Beschwerde des S._ wies das Verwaltungsgericht des Kantons Thurgau mit Entscheid vom 8. Februar 2012 ab. C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, unter Aufhebung des vorinstanzlichen Entscheids sei ihm weiterhin eine ganze Rente der Invalidenversicherung zuzusprechen. Eventuell sei die Sache zu weiteren medizinischen Abklärungen an die IV-Stelle oder das kantonale Gericht zurückzuweisen. Ferner wird um unentgeltliche Rechtspflege ersucht.