Sachverhalt:
A. Der 1976 geborene S._ meldete sich am 11. Juli 2005 unter Hinweis auf Rücken- und Beinschmerzen bei der Invalidenversicherung zum Leistungsbezug an. Nach erwerblichen und medizinischen Abklärungen, insbesondere der Einholung eines interdisziplinären Gutachtens der Medizinischen Abklärungsstelle (MEDAS) vom 23. März 2007, verneinte die IV-Stelle des Kantons Zürich einen Rentenanspruch (Verfügung vom 24. Oktober 2007). Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich in dem Sinne gut, dass es die Sache zur ergänzenden medizinischen Abklärung an die IV-Stelle zurückwies (Entscheid vom 31. März 2009). Nach Vorliegen des daraufhin erstellten psychiatrischen Gutachtens der Dres. med. H._ und M._, beide Fachärzte für Psychiatrie und Psychotherapie, vom 26. März 2010, sprach ihm die IV-Stelle eine befristete ganze Invalidenrente für die Zeit vom 1. Juni 2005 bis 31. Dezember 2009 zu (Verfügung vom 21. Juni 2011).
B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Mai 2012 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt S._ beantragen, unter Aufhebung des kantonalen Gerichtsentscheides und der Verfügung vom 21. Juni 2011 sei ihm bis zum Abschluss allfälliger Eingliederungsmassnahmen (in Form von Integrationsmassnahmen und daran anschliessenden Massnahmen beruflicher Art) weiterhin eine ganze Invalidenrente zuzusprechen.
Die kantonalen Akten wurden beigezogen. Auf die Durchführung eines Schriftenwechsels wurde verzichtet.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. Strittig ist der Anspruch des Versicherten auf eine über die befristete ganze Rente hinausgehende Rente der Invalidenversicherung, wobei insbesondere die Frage der zumutbaren Selbsteingliederung im Raum steht. Das kantonale Gericht hat die für die Beurteilung der Streitsache massgebenden Bestimmungen und Grundsätze zutreffend dargelegt. Insbesondere hat die Vorinstanz richtig festgehalten, dass bei rückwirkender Zusprechung einer abgestuften und/oder befristeten Invalidenrente die für die Rentenrevision (Art. 17 ATSG) geltenden Bestimmungen analog anzuwenden sind (BGE 133 V 263 E. 6.1 mit Hinweisen). Darauf wird verwiesen.
3. 3.1 Die Vorinstanz gelangte zum Schluss, in somatischer Hinsicht sei der Versicherte wegen Knie- Bein- Kopf- und Kreuzschmerzen lediglich während drei Monaten nach seinem Sturz am 9. Juni 2004 von einer Rampe mit erlittener Gehirnerschütterung und Kontusion am linken Knie in seiner Arbeitsfähigkeit als Lagerarbeiter erheblich eingeschränkt gewesen. Danach habe diesbezüglich eine vollständige Arbeitsfähigkeit bestanden. Mit Blick auf die psychischen Leiden in Form einer reaktiven depressiven Störung und einer anhaltenden somatoformen Schmerzstörung sei unstrittig, dass der Beschwerdeführer seit dem Unfall im Jahr 2004 bis zur Begutachtung durch die Psychiater Dres. med. H._ und M._ (am 19. September 2009) für jegliche Tätigkeit zwischen 75 bis 100 % arbeitsunfähig gewesen sei. Gestützt auf das beweiskräftige psychiatrische Gutachten vom 26. März 2010 sei der Versicherte hinsichtlich der diagnostizierten anhaltenden somatoformen Schmerzstörung (ICD-10 F45), der leichten depressiven Störung (ICD-10 F32.0) sowie der akzentuierten Persönlichkeitszüge (ängstlich, abhängig, histrionisch; ICD-10 Z71) ab dem Begutachtenszeitpunkt in der angestammten Tätigkeit als Lagerist (einfache handwerkliche Tätigkeiten, Reinigungsarbeiten) wie in einer leidensangepassten Tätigkeit im Umfang von 80 bis 100 % arbeitsfähig. Es sei deshalb von einem verbesserten psychischen Gesundheitszustand auszugehen. Bei einem ermittelten Invaliditätsgrad von 31 % habe die IV-Stelle die Rente zu Recht per 31. Dezember 2009 eingestellt.
3.2 Weder sind die tatsächlichen Feststellungen des kantonalen Gerichts mangelhaft im Sinne von Art. 97 Abs. 1 BGG noch ist die rechtliche Würdigung bundesrechtswidrig. Dies beanstandet der Beschwerdeführer denn auch ebenso wenig wie den vom kantonalen Gericht vorgenommenen Einkommensvergleich. Es besteht kein Anlass für eine nähere Prüfung von Amtes wegen (BGE 125 V 413 E. 1b und 2c S. 415 ff.; 110 V 48 E. 4a S. 53).
4. Der Beschwerdeführer wendet zur Aufhebung der Invalidenrente einzig ein, in Verletzung von Art. 14a IVG und des Grundsatzes "Eingliederung vor Rente" sei die Vorinstanz zu Unrecht davon ausgegangen, dass die medizinisch attestierte Verbesserung der Arbeitsfähigkeit auf dem Weg der Selbsteingliederung, ohne gezielte Reintegrationsmassnahmen, verwertbar sei.
4.1 Im Regelfall ist eine medizinisch attestierte Verbesserung der Arbeitsfähigkeit auf dem Weg der Selbsteingliederung zu verwerten. Nach langjährigem Rentenbezug können ausnahmsweise Erfordernisse des Arbeitsmarktes der Anrechnung einer medizinisch vorhandenen Leistungsfähigkeit und medizinisch möglichen Leistungsentfaltung entgegenstehen, wenn aus den Akten einwandfrei hervorgeht, dass die Verwertung eines bestimmten Leistungspotenzials ohne vorgängige Durchführung befähigender Massnahmen allein vermittels Eigenanstrengung der versicherten Person nicht möglich ist (SVR 2011 IV Nr. 30 S. 86, 9C_163/2009 E. 4.2.2). Diese Rechtsprechung ist grundsätzlich auf Fälle zu beschränken, in denen die revisionsweise Aufhebung der Invalidenrente eine versicherte Person betrifft, welche das 55. Altersjahr zurückgelegt oder die Rente seit mehr als 15 Jahren bezogen hat (SVR 2011 IV Nr. 73 S. 220, 9C_228/2010 E. 3.3).
4.2 Der Versicherte war im Zeitpunkt der Rentenaufhebung 33 Jahre alt und bezog während viereinhalb Jahren eine Invalidenrente. Beide Abgrenzungskriterien sind vorliegend klarerweise nicht erfüllt. Damit durfte die Vorinstanz, ohne Bundesrecht zu verletzen, annehmen, dass ihm die Verwertung des gutachterlich zugesprochenen Leistungspotenzials ohne Durchführung befähigender Massnahmen möglich ist und von der Fähigkeit zur Selbsteingliederung ausgehen, zumal der Beschwerdeführer in seiner zuletzt ausgeübten Tätigkeit als Lagerist zu 80 bis 100 % arbeitsfähig ist. Die Aufhebung der Invalidenrente ist auch unter diesem Aspekt rechtmässig.
5. Dem Verfahrensausgang entsprechend werden die Gerichtskosten dem Beschwerdeführer auferlegt (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Polla