Sachverhalt: A. A.a P._, geboren am 8. Mai 1991 in Pristina, leidet unter einem ausgeprägten kognitiven und dyspraktischen Entwicklungsrückstand, einer Epilepsie mit myoklonisch-astatischen Anfällen sowie einem Geburts-POS. Am 1. Juli 1994 reiste er in die Schweiz ein. Am 17. September 2001 meldeten ihn die Eltern zum Bezug von Leistungen der Invalidenversicherung an. Mit Verfügung vom 14. Januar 2002 wies die IV-Stelle des Kantons Thurgau den Anspruch auf medizinische Massnahmen und mit Verfügung vom 22. Juli 2004 bestätigt mit Einspracheentscheid vom 18. Februar 2005 den Anspruch auf Pflegebeiträge mit der Begründung ab, P._ sei bereits bei der Einreise in die Schweiz invalid gewesen, weshalb die Anspruchsvoraussetzungen gemäss dem Sozialversicherungsabkommen zwischen der Schweiz und seinem Heimatstaat nicht gegeben seien. A.b Am 9. April und 26. Juni 2008 meldeten die Eltern ihren Sohn erneut bei der Invalidenversicherung zum Leistungsbezug an. Nach Erlass des Vorbescheids trat die IV-Stelle mit Verfügung vom 6. Oktober 2008 auf das neue Leistungsbegehren bezüglich Hilflosenentschädigung nicht ein, da eine Veränderung der tatsächlichen Verhältnisse seit der Verfügung vom 22. Juli 2004 nicht glaubhaft gemacht worden sei. Am 25. Juni 2009 gewährte sie P._ Berufsberatung. Mit Verfügung vom 2. November 2009 verneinte sie einen Anspruch auf Kostengutsprache für erstmalige berufliche Ausbildung und mit Verfügung vom 23. November 2009 sprach sie ihm eine ausserordentliche Invalidenrente bei einem Invaliditätsgrad von 100% zu. A.c Am 23./29. September 2009 stellte P._ ein erneutes Gesuch um Hilflosenentschädigung. Er machte geltend, bei der Hilflosenentschädigung für Erwachsene handle es sich nicht um die gleiche Leistung wie bei den früher abgelehnten Pflegebeiträgen, weshalb das Begehren zu prüfen sei. Mit Einwand vom 20. November 2009 gegen den Vorbescheid vom 22. Oktober 2009 beantragte er sodann Hilflosenentschädigung rückwirkend ab 1. Januar 2008, spätestens jedoch ab 1. Oktober 2008. Er sei Bürger von Serbien und Montenegro. Gemäss dem Sozialversicherungsabkommen seien Bürger aus dem ehemaligen Jugoslawien Schweizer Bürgern gleichgestellt. Eine Hilflosenentschädigung werde Schweizer Bürgern unabhängig vom Zeitpunkt des Eintritts der Invalidität ausgerichtet. Damit bestehe Anspruch auf Hilflosenentschädigung grundsätzlich rückwirkend für fünf Jahre, d.h. ab 1. Januar 2008. Soweit über den Anspruch für den Zeitraum Januar bis Oktober 2008 mit der Verfügung vom 6. Oktober 2008 entschieden wurde, werde um Wiedererwägung dieser Verfügung ersucht. Die IV-Stelle trat mit Verfügung vom 12. Januar 2011 auf das Wiedererwägungsgesuch vom 20. November 2009 nicht ein. Ebenfalls mit Verfügung vom 12. Januar 2011 trat es auf das neue Leistungsbegehren nicht ein. B. Gegen die Verfügung vom 12. Januar 2011 liess P._ Beschwerde beim Verwaltungsgericht des Kantons Thurgau einreichen mit dem Begehren um deren Aufhebung und Verpflichtung der IV-Stelle, auf das Leistungsbegehren einzutreten. Das Verwaltungsgericht wies die Beschwerde mit Entscheid vom 22. Februar 2012 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt P._ beantragen, der vorinstanzliche Entscheid und die Nichteintretensverfügung der IV-Stelle vom 12. Januar 2011 seien aufzuheben, die IV-Stelle sei zu verpflichten, auf das Gesuch einzutreten bzw. es sei festzustellen, dass die IV-Stelle unter dem Titel Wiedererwägung bereits auf das Gesuch eingetreten sei, und sie sei zu verpflichten, über den Anspruch des Beschwerdeführers neu zu verfügen. Zudem wird um Gewährung der unentgeltlichen Prozessführung ersucht. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.