Sachverhalt:
A. Der 1965 geborene K._ meldete sich unter Hinweis auf Angstzustände, Energieabfälle und Energielosigkeit bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich klärte die erwerblichen und medizinischen Verhältnisse ab, holte zu diesem Zweck unter anderem bei Dr. med. U._, FMH Psychiatrie und Psychotherapie, ein Gutachten vom 29. Oktober 2009 ein und zog die Akten des Krankenversicherers von K._ bei. Nach Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle einen Rentenanspruch unter Hinweis auf einen 37%igen Invaliditätsgrad (Verfügung vom 24. Januar 2011).
B. Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde mit Entscheid vom 8. März 2012 ab.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheids sei ihm eine halbe Rente der Invalidenversicherung basierend auf einen Invaliditätsgrad von 55 % zuzusprechen. Eventualiter sei die Sache zur Einholung eines gerichtlichen Gutachtens an die Vorinstanz zurückzuweisen.
Auf die Durchführung eines Schriftenwechsels wurde verzichtet.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Es wendet das Recht von Amtes wegen an (<ref-law>). Immerhin prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
2. Das kantonale Gericht hat die massgeblichen Rechtsgrundlagen zutreffend wiedergegeben. Es betrifft dies insbesondere die Bestimmungen und Grundsätze zum Begriff der Erwerbsunfähigkeit (<ref-law>) und der Invalidität (<ref-law> in Verbindung mit <ref-law>), zu den Voraussetzungen und zum Umfang des Rentenanspruchs (<ref-law> [in der seit 1. Januar 2008 in Kraft stehenden Fassung]), zur Aufgabe des Arztes oder der Ärztin im Rahmen der Invaliditätsbemessung (<ref-ruling> E. 4 S. 99 f.) sowie zum Beweiswert und zur Würdigung ärztlicher Berichte und Gutachten (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352). Darauf wird verwiesen.
3. 3.1 Das kantonale Gericht hat nach eingehender und pflichtgemässer Würdigung der medizinischen Aktenlage - insbesondere gestützt auf das Gutachten des Psychiaters Dr. med. U._ vom 29. Oktober 2009, dem es Beweiskraft beigemessen hat - festgestellt, aufgrund der diagnostizierten Persönlichkeitsstörung (ICD-10: F61.0) mit neurasthenischen, hypochondrischen und phobisch-ängstlichen Anteilen, mit depressiver Episode 2006/2007, gegenwärtig remittiert (ICD-10: F32.4), bestehe eine Arbeitsunfähigkeit von 30 %. Diese Einschätzung des noch vorhandenen Leistungsvermögens zählt zur vorinstanzlichen Sachverhaltsermittlung, welche einer Überprüfung durch das Bundesgericht grundsätzlich entzogen ist (E. 1 hiervor).
3.2 Was der Beschwerdeführer gegen die vorinstanzliche Beweiswürdigung vorbringt, ist nicht stichhaltig: Das kantonale Gericht hat insbesondere kein Bundesrecht verletzt, wenn es dem erwähnten Gutachten vollen Beweiswert zuerkannte. Dieses entspricht grundsätzlich den von der Rechtsprechung aufgestellten Kriterien für eine beweiskräftige Expertise (vgl. <ref-ruling> E. 5.1 S. 232 mit Hinweis). Die psychiatrische Exploration durch Dr. med. U._ umfasst eine ausführliche Anamnese, ergänzende subjektive Angaben, eine Darstellung der Befunde, eine ausführliche psychiatrische Beurteilung, eine begründete Einschätzung der Arbeitsfähigkeit sowie eine Stellungnahme zu den früheren psychiatrischen Diagnosen und Berichten. Insbesondere zur abweichenden Einschätzung des behandelnden Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie FMH, der von einer 50%igen Arbeitsfähigkeit in einer leidensadaptierten Tätigkeit ausging (Schreiben an den Rechtsvertreter des Beschwerdeführers vom 20. April 2010), hat sich der Experte schlüssig geäussert (Stellungnahme vom 7. Oktober 2010). Der beschwerdeführerischen Kritik an der psychiatrischen Exploration - soweit sie nicht appellatorischer Natur ist und demzufolge ausser Acht bleiben muss - kann nicht gefolgt werden. Der Gutachter hat seine Erkenntnisse eingehend und überzeugend begründet und insbesondere auch ausgeführt, weshalb er von einer remittierten depressiven Episode ausging und die in den Akten festgehaltene psychosoziale Belastungssituation mit "Burn-out"-Syndrom grundsätzlich keine Erkrankung im Sinne der anerkannten internationalen Klassifikationssysteme darstellt (vgl. hiezu: Urteil 8C_302/2011 vom 20. September 2011 E. 2.3, veröffentlicht in SVR 2012 IV Nr. 22 S. 95). Mit den in der Beschwerde hiegegen vorgebrachten Einwänden hat sich das kantonale Gericht bereits ausführlich und zutreffend auseinandergesetzt, worauf verwiesen wird. Es hat dabei zu Recht bei der Beweiswürdigung auch der Verschiedenheit von Behandlungs- und Begutachtungsauftrag Rechnung getragen (BGE <ref-ruling> E. 3b/cc S. 353; Urteile 8C_740/2010 vom 29. September 2011 E. 6; 9C_842/2009 vom 17. November 2009 E. 2.2) und ist willkürfrei zum Schluss gelangt, dass die weiteren medizinischen Berichte, namentlich diejenigen des Dr. med. B._, kein abweichendes Beweisergebnis zu begründen vermögen.
3.3 Nach dem Gesagten kann von einer offensichtlich unrichtigen (oder unvollständigen) vorinstanzlichen Feststellung des rechtserheblichen Sachverhalts oder von einer willkürlichen Würdigung der Aktenlage keine Rede sein (was auch hinsichtlich der antizipierten Beweiswürdigung gilt, wonach weitere ärztliche Abklärungen unterbleiben können). Die übrigen Faktoren der Invaliditätsbemessung werden nicht angefochten. Für eine nähere Prüfung von Amtes wegen besteht kein Anlass (<ref-ruling> E. 1b und 2c S. 415 ff.; <ref-ruling> E. 4a S. 53). Unter Hinweis auf den von der IV-Stelle auf 37 % bezifferten Invaliditätsgrad hat das kantonale Gericht folglich zu Recht einen Rentenanspruch mangels eines genügenden Invaliditätsgrades verneint.
4. Die Beschwerde ist offensichtlich unbegründet und wird im vereinfachten Verfahren nach <ref-law> erledigt.
5. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 20. Juni 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Polla