Sachverhalt:
A. A.a Der 1972 geborene R._, welcher über keine abgeschlossene Berufsausbildung verfügt, war vom 1. April 1992 bis 30. April 2000 bei der C._ AG als Produktionsmitarbeiter tätig. Danach war er bei der P._ AG als Temporärmitarbeiter mit Einsatz in verschiedenen Hilfsarbeiten angestellt. Zuletzt leistete er vom 2. Dezember 2002 bis 28. Februar 2003 einen Einsatz als Lagerist/Allrounder bei der A._ AG. Nach Beendigung dieses Einsatzes wurde das Temporär-Arbeitsverhältnis gekündigt. Im Rahmen eines Beschäftigungsprogramms der Arbeitslosenversicherung war R._ schliesslich vom 3. Januar bis 2. Juli 2011 in der Werkstatt V._ beschäftigt.
A.b Ende Januar 2004 meldete sich R._ bei der IV-Stelle Obwalden zum Rentenbezug an. Nach Einholen von Gutachten der Medizinischen Abklärungsstelle X._ vom 29. Juni 2005 und des Instituts für forensische Psychiatrie und Psychotherapie Y._ vom 26. Juli 2007 sprach die IV-Stelle Obwalden R._ mit Verfügung vom 8. Februar 2008 für die Zeit vom 1. Dezember 2004 bis 30. November 2005 eine befristete halbe Invalidenrente zu. Die hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 12. Mai 2009 gut und wies die Sache zu weiteren Abklärungen an die IV-Stelle zurück.
A.c Daraufhin veranlasste die IV-Stelle eine medizinische Begutachtung am Medizinischen Zentrum Z._ (Gutachten vom 7. Juni 2010). Nach durchgeführtem Einwandverfahren sprach die IV-Stelle R._ mit Verfügung vom 8. Februar 2011 wiederum eine befristete halbe Invalidenrente vom 1. Dezember 2004 bis 30. November 2005 zu.
B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 2. April 2012 unter Gewährung der unentgeltlichen Prozessführung und Verbeiständung ab.
C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es sei ihm in Aufhebung des vorinstanzlichen Entscheides vom 1. Dezember 2005 bis Juli 2011 eine halbe Invalidenrente und ab August 2011 bis Juli 2013 (Ausbildung zum Logistiker) IV-Taggelder zuzusprechen, und nach Abschluss der Eingliederungsphase anfangs August 2013 sei über den zukünftigen Leistungsanspruch neu zu entscheiden. Ferner sei ihm für das letztinstanzliche Verfahren die unentgeltliche Prozessführung und Verbeiständung zu gewähren.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen; <ref-ruling> E. 2.2 S. 550; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen; <ref-ruling> E. 2.2 S. 550; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
1.2 1.2.1 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz auf Rüge hin oder von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht, und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law> und <ref-law>). Das Vorliegen dieser Voraussetzungen hat die Beschwerde führende Person genau darzulegen. Dazu genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten oder die eigene Beweiswürdigung zu erläutern (<ref-ruling> E. 5.1 S. 356; SVR 2012 BVG Nr. 11 S. 44, 9C_779/2010 E. 1.1.2 [nicht publ. in: <ref-ruling>]).
Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1 S. 44). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erschiene (vgl. <ref-ruling> E. 2.1 S. 9; Urteil 9C_967/2008 vom 5. Januar 2009 E. 5.1). Diese Grundsätze gelten auch in Bezug auf die konkrete Beweiswürdigung (Urteile 9C_999/2010 vom 14. Februar 2011 E. 1 und 9C_735/2010 vom 21. Oktober 2010 E. 3; SVR 2012 BVG Nr. 11 S. 44, 9C_779/2010 E. 1.1.1).
1.2.2 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen begründet sind (<ref-ruling> E. 3a S. 352). Der Arzt muss über die notwendigen fachlichen Qualifikationen verfügen (Urteil 9C_736/2009 vom 26. Januar 2010 E. 2.1). Untersuchungsberichte regionaler ärztlicher Dienste können, sofern sie diesen Anforderungen genügen, einen vergleichbaren Beweiswert wie ein Gutachten haben (<ref-law>; <ref-ruling> E. 1.2.1 S. 219; <ref-ruling> E. 3.3.2 S. 257; Urteil 9C_999/2010 vom 14. Februar 2011 E. 5.1.2).
1.2.3 Dem Sachgericht steht im Bereich der Beweiswürdigung ein erheblicher Ermessensspielraum zu (<ref-ruling> E. 4b S. 40). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht diesen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (<ref-ruling> E. 2.1 S. 211; zum Begriff der Willkür <ref-ruling> E. 2.4 mit Hinweisen S. 5). Inwiefern das kantonale Gericht sein Ermessen missbraucht haben soll, ist in der Beschwerde klar und detailliert aufzuzeigen (<ref-ruling> E. 1.3 S. 261). Auf ungenügend begründete Rügen oder bloss allgemein gehaltene appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (<ref-ruling> E. 2.2 mit Hinweis S. 246).
2.1 2.1.1 Das kantonale Gericht gelangte in Würdigung sämtlicher medizinischer Unterlagen zur Beurteilung, das Gutachten des Medizinischen Zentrums Z._ berücksichtige sämtliche Vorakten sowie die vom Beschwerdeführer geklagten Leiden. Der Beschwerdeführer sei internistisch, rheumatologisch und psychiatrisch beurteilt worden. Es könne deshalb von einer allseitigen Untersuchung gesprochen werden. Was den Umfang der Beurteilung betreffe, sei dem Beschwerdeführer darin Recht zu geben, dass das Gutachten vom 7. Juni 2010 den Verlauf des Gesundheitszustandes von 2005 bis 2009 nur ungenügend nachzeichne. Zeitpunkt des Eintritts und Ausmasses der Verbesserung des gesundheitlichen Zustands gingen aus dem Gutachten nicht klar hervor. Dieser Mangel des Gutachtens habe aber durch die Beantwortung der Zusatzfragen durch Dr. med. J._ am 17. Oktober 2010 behoben werden können. Das Gutachten des Medizinischen Zentrums Z._ sei daher in Bezug auf den streitigen Sachverhalt als umfassend zu beurteilen. Es beschreibe den Gesundheitszustand und die daraus resultierende volle Arbeitsfähigkeit des Beschwerdeführers im Zeitpunkt der Begutachtung in schlüssiger und nachvollziehbarer Weise. Die von Dr. med. H._ durchgeführte rheumatologische Untersuchung sei unauffällig verlaufen. Dr. med. J._ habe feststellen können, dass sich das metabolische Syndrom seit der Absetzung des Methadons deutlich verbessert habe. Bei Dr. med. M._ berichtete der Beschwerdeführer, er habe keine depressiven Gedanken oder sozialphobische Ängste. Vielmehr mische er sich gerne unter Leute und sei motiviert, wieder in den Arbeitsprozess einzusteigen. Die Gutachter seien auf Grund dieser Befunde zu Recht zum Schluss gekommen, der Beschwerdeführer sei zum Zeitpunkt der Begutachtung zu 100 % arbeitsfähig. Weiter hätten die Gutachter feststellen können, dass sich seit der Begutachtung durch die Medizinische Abklärungsstelle X._ Ende März 2005 viele der vom Beschwerdeführer geklagten Leiden gebessert hätten, wie z.B. das metabolische Syndrom, und die Tagesmüdigkeit und andere Beschwerden seien nicht mehr vorhanden, so insbesondere die psychischen Beschwerden. Die Gutachter führten die Besserung des Gesundheitszustandes des Beschwerdeführers auf die Absetzung des Methadons zurück. Wenn sie hieraus geschlossen hätten, die von der Medizinischen Abklärungsstelle X._ am 29. Juni 2005 bescheinigte 50%ige Arbeitsunfähigkeit sei in erster Linie auf den übermässigen Methadonkonsum zurückzuführen, sei dies nachvollziehbar und schlüssig. Den Gutachtern am Medizinischen Zentrum Z._ könne sodann auch nicht vorgeworfen werden, sie liessen die Wechselwirkungen zwischen den einzelnen Beschwerden ausser Acht bzw. sie beurteilten die einzelnen Leiden isoliert. Vielmehr stellten die Gutachter fest, dass durch den erfolgreichen Methadonentzug eine Linderung der anderen Beschwerden eingetreten sei. Hiermit würden sie implizit bestätigen, dass zwischen den einzelnen Beschwerden (depressive Störung, Esssucht, Tagesmüdigkeit) eine Wechselwirkung bestehe. In dieser Hinsicht sei somit kein Widerspruch zum Gutachten der Medizinischen Abklärungsstelle X._ auszumachen. Dem Beschwerdeführer sei hingegen darin zuzustimmen, dass kein Grund bestehe, die im Urteil des Verwaltungsgerichts vom 12. Mai 2009 vorgenommene Beweiswürdigung anzuzweifeln. Dem Gutachten der Medizinischen Abklärungsstelle X._ vom 29. Juni 2005 komme voller Beweiswert zu. Dem folge auch die IV-Stelle, habe sie dem Beschwerdeführer doch bis zum 30. November 2005 eine halbe Invalidenrente zugesprochen. Aus dem Gutachten der Medizinischen Abklärungsstelle X._ ergebe sich jedoch nicht, dass seither keine Besserung des Gesundheitszustandes eingetreten sei. Genau um dies abzuklären, habe das Verwaltungsgericht die Sache an die IV-Stelle zurückgewiesen. Die Gutachter des Medizinischen Zentrums Z._ hätten als Folge der Einstellung des Methadonkonsums ab Ende 2009 eine Verbesserung des Gesundheitszustandes feststellen können. Überdies seien sie der Ansicht, dass sich seine Arbeitsfähigkeit nicht erst zu diesem Zeitpunkt verbessert habe, sondern bereits im September 2005 keine diesbezügliche Einschränkung mehr bestanden habe. Zur Begründung wiesen sie darauf hin, dass das Institut Y._ anlässlich seiner Untersuchungen im Herbst 2007 die volle Arbeitsfähigkeit des Beschwerdeführers seit September 2005 angenommen habe und kämen deshalb selbst zum Schluss, dass rückwirkend seit September 2005 keine medizinische Diagnose bestehe, die eine Einschränkung der zumutbaren Arbeitsfähigkeit begründen könnte. Wie das Verwaltungsgericht am 12. Mai 2009 festgestellt habe, sei das versicherungspsychiatrische Gutachten des Instituts Y._ vom 26. Juli 2007 zwar mit zahlreichen Widersprüchen behaftet. Die Gutachter des Medizinischen Zentrums Z._ hätten indessen die Einschätzung des Gutachtens des Instituts Y._ überprüft und wie die übrigen Akten kritisch gewürdigt. Auf ihre Beurteilung könne somit abgestellt werden. Hinsichtlich des gegenwärtigen Gesundheitszustandes und der seit der Begutachtung der medizinischen Abklärungsstelle X._ im Jahr 2005 diesbezüglich eingetretenen Verbesserung könne auf das umfassende, nachvollziehbare und schlüssige Gutachten des Medizinischen Zentrums Z._ abgestellt werden.
2.1.2 Das kantonale Gericht ging für die Zeit zwischen 2005 und 2009 von einem fachärztlich ausgewiesenen psychischen Leiden aus. Die Überwindung des psychischen Leidens sei dem Beschwerdeführer nicht nur aus objektiver Warte zumutbar, vielmehr habe er die Störung tatsächlich überwunden. Ihm sei es deshalb auch weiterhin zumutbar gewesen, die sich aus Drogensucht und psychischem Leiden ergebenden Einschränkungen zu überwinden. Die beim Beschwerdeführer anlässlich der Begutachtung der Medizinischen Abklärungsstelle X._ im April 2005 diagnostizierte psychische Störung vermöge auch im Zusammenhang mit der Drogensucht keine invalidisierende Einschränkung der Arbeitsfähigkeit zu begründen. Die morbide Adipositas und das metabolische Syndrom seien ebenfalls nicht von Krankheitswert und vermöchten keine Arbeitsunfähigkeit zu begründen. Eine Arbeitsunfähigkeit ergebe sich auch nicht aus der Wechselwirkung zwischen den beiden Leiden, da sich diese gegenseitig beeinflussen. Da auch in der Suchterkrankung des Beschwerdeführers kein invalidisierender Gesundheitsschaden zu erblicken sei, ergebe sich auch keine Arbeitsunfähigkeit, wenn die Adipositas und das metabolische Syndrom im Zusammenhang mit dem Drogenkonsum bzw. der Methadonsubstitution gesehen werden.
Die Leiden des Beschwerdeführers, mit Ausnahme des Knieleidens, seien auf seine Suchterkrankung zurückzuführen. Diese stellten keinen invalidisierenden Gesundheitsschaden dar und könnten deshalb zu keiner Verminderung der Arbeitsfähigkeit führen. Mit Ausnahme des Venenleidens seien auch die anderen Beschwerden (Adipositas, metabolisches Syndrom) ohne Einfluss auf die Arbeitsfähigkeit des Beschwerdeführers. Eine Arbeitsunfähigkeit ergebe sich auch nicht aus dem Zusammenwirken der einzelnen Beschwerden. Der Beschwerdeführer sei demnach in einer seiner Behinderung (Venenleiden) angepassten Tätigkeit zu 100 % arbeitsfähig. Ein Vergleich des Gutachtens der Medizinischen Abklärungsstelle X._ vom 29. Juni 2005 und des Gutachtens des Medizinischen Zentrums Z._ vom 7. Juni 2010 ergebe, dass beim Beschwerdeführer seit Dezember 2005 kein invalidisierender Gesundheitsschaden vorliege, so dass er seit Dezember 2005 in einer seiner Behinderung angepassten Tätigkeit zu 100 % arbeitsfähig sei. Aus diesem Grund sei er auch nicht invalid im Sinne von <ref-law>. Es liege auch keine drohende Invalidität im Sinne von <ref-law> in Verbindung mit <ref-law> vor, da nicht überwiegend wahrscheinlich sei, dass der Beschwerdeführer erwerbsunfähig werde, wenn er nicht mittels Eingliederungsmassnahmen einer seiner Behinderung angepassten Tätigkeit zugeführt werden könne. Der Anspruch des Beschwerdeführers auf berufliche Massnahmen sei demnach zu verneinen. Da der Beschwerdeführer in einer seiner Behinderung angepassten Tätigkeit seit Dezember 2005 zu 100 % arbeitsfähig sei, sei sein Anspruch auf Integrationsmassnahmen gemäss <ref-law> zu verneinen.
2.2 Im Lichte der eingangs erwähnten Beweisregeln und Grundsätze zur Beweiswürdigung ist die vorinstanzliche Sachverhaltsfeststellung und die entsprechende Beweiswürdigung nicht mangelhaft im Sinne von <ref-law>. Das kantonale Gericht hat sich mit allen relevanten medizinischen sowie beruflichen Unterlagen auseinandergesetzt und eingehend begründet, dass sich der Gesundheitszustand des Beschwerdeführers verbessert hat, seit Dezember 2005 kein invalidisierender Gesundheitsschaden mehr vorliegt und in einer der Behinderung angepassten Tätigkeit eine Arbeitsfähigkeit von 100 % besteht.
2.2.1 Die vom Beschwerdeführer erhobenen Einwendungen ändern daran nichts. Zunächst kann im Umstand, dass das kantonale Gericht seine Sachverhaltserwägungen und Vorgaben im Rückweisungsentscheid vom 12. Mai 2009 auszugsweise wiedergegeben hat, keine offensichtlich unrichtige Feststellung des Sachverhalts erblickt werden. Zu Recht hat es sodann dem Gutachten des Medizinischen Zentrums Z._ vom 7. Juni 2010 mit der Antwort vom 17. Oktober 2010 Beweiskraft zugemessen. Die Gutachter haben in Kenntnis der Vorakten aufgrund eigener Untersuchungen ihre internistischen, rheumatologischen und psychiatrischen Beurteilungen abgegeben. Nichts am Beweiswert ändert der vom Beschwerdeführer gerügte Umstand, dass sich die Gutachter mit den beiden früher eingeholten Gutachten der Medizinischen Abklärungsstelle X._ und des Instituts Y._ auseinandergesetzt haben und die Fragen der IV-Stelle nicht in allen Teilen konkret beantwortet haben, so dass eine ergänzende Stellungnahme eingeholt worden ist. Keine willkürliche Beweiswürdigung kann in der Schlussfolgerung des kantonalen Gerichts erblickt werden, dass die offenen Fragen aufgrund des Schreibens des Medizinischen Zentrums Z._ vom 17. Oktober 2010 geklärt werden konnten und dass die Gutachter des Medizinischen Zentrums Z._ in Würdigung der medizinischen Akten auf Grund eigener Beurteilung zum Ergebnis gelangt sind, der (psychische) Gesundheitszustand des Beschwerdeführers habe sich entscheidend verbessert.
2.2.2 Ebenso wenig liegt eine Verletzung des Rechts auf Beweis oder des Grundsatzes der antizipierten Beweiswürdigung vor. Das kantonale Gericht ist sodann in willkürfreier Weise zum Schluss gekommen, dass die Beschwerdegegnerin die im Rückweisungsentscheid verlangten Abklärungen vorgenommen, sich der Gesundheitszustand des Beschwerdeführers im Laufe des zweiten Halbjahres 2005 verbessert hat und dass der Beschwerdeführer seit Dezember 2005 in einer leidensangepassten Tätigkeit zu 100 % arbeitsfähig ist. Angesichts der vollständigen Arbeitsfähigkeit in einer leidensangepassten Tätigkeit, welche der Beschwerdeführer auch bis Ende Februar 2003 ausgeübt hat, besteht kein Anspruch auf Eingliederungsmassnahmen. Schliesslich hat das kantonale Gericht auch, ohne Bundesrecht zu verletzen, angenommen, es liege keine drohende Invalidität im Sinne von <ref-law> in Verbindung mit <ref-law> vor.
2.3 Nicht Gegenstand der angefochtenen Verwaltungsverfügung vom 8. Februar 2011 ist die Frage, ob der Beschwerdeführer Anspruch auf Taggelder für die Ausbildung zum Logistiker hat. Auf das entsprechende Begehren, welches erstmals in der vorliegenden Beschwerde gestellt wird, ist nicht einzutreten (<ref-law>).
3. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>). Sie sind vorläufig auf die Gerichtskasse zu nehmen, da die Voraussetzungen für die Gewährung der beantragten unentgeltlichen Rechtspflege (fehlende Aussichtslosigkeit des Rechtsmittels, Bedürftigkeit des Gesuchstellers, Notwendigkeit der anwaltlichen Vertretung [Art. 64 Abs. 1 und 2 BGG; vgl. <ref-ruling> E. 4a S. 202 und 371 E. 5b S. 372]) erfüllt sind. Ferner wird seinem Rechtsvertreter eine Entschädigung aus der Gerichtskasse ausgerichtet (<ref-law>), welche praxisgemäss auf Fr. 2'800.- festgelegt wird. Dem nicht näher begründeten Antrag auf eine Entschädigung in Höhe von Fr. 3'500.- kann nicht stattgegeben werden. Der Beschwerdeführer wird indessen auf <ref-law> aufmerksam gemacht, wonach er als Begünstigter der Gerichtskasse Ersatz zu leisten haben wird, wenn er später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt Markus Scheuber wird als unentgeltlicher Anwalt des Beschwerdeführers bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Obwalden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Mai 2013
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Nussbaumer