Sachverhalt: A. Der 1976 geborene S._ meldete sich am 11. Juli 2005 unter Hinweis auf Rücken- und Beinschmerzen bei der Invalidenversicherung zum Leistungsbezug an. Nach erwerblichen und medizinischen Abklärungen, insbesondere der Einholung eines interdisziplinären Gutachtens der Medizinischen Abklärungsstelle (MEDAS) vom 23. März 2007, verneinte die IV-Stelle des Kantons Zürich einen Rentenanspruch (Verfügung vom 24. Oktober 2007). Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich in dem Sinne gut, dass es die Sache zur ergänzenden medizinischen Abklärung an die IV-Stelle zurückwies (Entscheid vom 31. März 2009). Nach Vorliegen des daraufhin erstellten psychiatrischen Gutachtens der Dres. med. H._ und M._, beide Fachärzte für Psychiatrie und Psychotherapie, vom 26. März 2010, sprach ihm die IV-Stelle eine befristete ganze Invalidenrente für die Zeit vom 1. Juni 2005 bis 31. Dezember 2009 zu (Verfügung vom 21. Juni 2011). B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Mai 2012 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt S._ beantragen, unter Aufhebung des kantonalen Gerichtsentscheides und der Verfügung vom 21. Juni 2011 sei ihm bis zum Abschluss allfälliger Eingliederungsmassnahmen (in Form von Integrationsmassnahmen und daran anschliessenden Massnahmen beruflicher Art) weiterhin eine ganze Invalidenrente zuzusprechen. Die kantonalen Akten wurden beigezogen. Auf die Durchführung eines Schriftenwechsels wurde verzichtet.