Sachverhalt:
A. Der 1966 geborene Z._ arbeitete als Sanierungstechniker für Brand- und Wasserschäden bei der Firma X._ AG. Mit Anmeldung vom 19. Mai 2008 ersuchte er die Invalidenversicherung um Ausrichtung einer Rente, da er an einer koronaren Herzkrankheit leide. Die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, holte im Rahmen ihrer medizinischen und erwerblichen Abklärungen unter anderem ein Gutachten der Ärzte der Klinik und Poliklinik für Innere Medizin des Spitals Y._ (Dr. med. B._, Assistenzärztin, visiert von Prof. Dr. med. A._, Chefarzt, und Dr. med. T._, Oberarzt) vom 31. August 2010 ein. Sie sprach dem Versicherten in der Folge mit Verfügung vom 13. Januar 2011 ab 1. März 2009 eine Viertelsrente zu.
B. Beschwerdeweise beantragt Z._, es sei ihm ab 1. März 2009 eine ganze Rente zuzusprechen. Er liess weitere Berichte der ihn am Herzkreislaufzentrum des Spitals Y._ behandelnden med. pract. O._, Assistenzärztin, vom 19. Januar und vom 16. März 2011 auflegen.
Das Sozialversicherungsgericht des Kantons Zürich holte eine ergänzende Stellungnahme von Prof. Dr. med. A._ und Dr. med. T._ vom 14. Juni 2011 ein. Mit Entscheid vom 5. April 2012 hiess das Gericht die Beschwerde in dem Sinne teilweise gut, als es feststellte, der Versicherte habe ab 1. März 2009 Anspruch auf eine halbe Rente der Invalidenversicherung.
C. Z._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und in Aufhebung des kantonalen Entscheides um eine ganze Invalidenrente ersuchen. Eventuell sei die Sache zu weiteren Abklärungen an die Vorinstanz zurückzuweisen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht (<ref-law>) nur zu prüfen, ob der angefochtene Gerichtsentscheid in Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (unter anderem) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>).
2. Streitig und zu prüfen ist, ob die Vorinstanz den Gesundheitsschaden und die daraus resultierende Arbeitsunfähigkeit als wesentliche Voraussetzungen für die Invaliditätsbemessung zutreffend beurteilt hat.
Das kantonale Gericht hat die Bestimmungen über die Begriffe Invalidität (<ref-law>) und Erwerbsunfähigkeit (<ref-law>), den nach dem Grad der Invalidität abgestuften Anspruch auf eine Invalidenrente (<ref-law>) und die Bestimmung des Invaliditätsgrades mittels Einkommensvergleich (<ref-law>) zutreffend dargelegt. Gleiches gilt für die Grundsätze über die Beweiswürdigung, insbesondere im Hinblick auf ärztliche Berichte und Gutachten (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352). Darauf wird verwiesen.
3.1 3.1.1 Nach umfassender Würdigung der medizinischen Akten gelangte die Vorinstanz zum nachvollziehbar begründeten Ergebnis, der Versicherte leide an einer koronaren Herzkrankheit mit einer mittelschweren Einschränkung der kardialen Pumpfunktion. Die Parteien sind sich einig, dass der Beschwerdeführer seine angestammte Tätigkeit, bei welcher er auch schwere Gewichte zu tragen hatte, nicht mehr ausüben kann. Uneinigkeit herrscht über den Umfang der Einschränkung in einer behinderungsangepassten Tätigkeit. Gestützt auf das schlüssige und nachvollziehbare Gutachten vom 31. August 2010 und den ergänzenden Bericht vom 14. Juni 2011 sei dem Versicherten gemäss angefochtenem Entscheid eine sitzende Tätigkeit mit vorwiegend auszuführenden Routinearbeiten, ohne Zwangshaltung und der Möglichkeit aufzustehen und umherzugehen, zu 60 % zumutbar, wenn er diesen Einsatz flexibel gestalten könne und an Tagen mit starken Beschwerden nicht arbeiten müsse. Das Treppensteigen sei auf ein Stockwerk beschränkt und die Gehstrecke in der Ebene auf zehn Minuten in einem angemessenen Tempo.
3.1.2 Die Tatsachenfeststellungen des kantonalen Gerichts, namentlich die aus den medizinischen Akten gewonnenen Erkenntnisse und die daraus in erwerblicher Hinsicht gezogenen Schlussfolgerungen, worunter auch fällt, dass dem Beschwerdeführer noch ein breites Betätigungsfeld zur Verfügung steht und er durchaus in der Lage ist, eine neue berufliche Aufgabe zufriedenstellend zu erfüllen, sind im letztinstanzlichen Prozess grundsätzlich verbindlich. Im Rahmen der eingeschränkten Sachverhaltskontrolle (<ref-law>) ist es nicht Aufgabe des Bundesgerichts, die schon im vorinstanzlichen Verfahren im Recht gelegenen medizinischen Berichte neu zu würdigen und die rechtsfehlerfreie Sachverhaltsfeststellung des kantonalen Gerichts hinsichtlich der medizinisch begründeten Einschränkung des Leistungsvermögens und des Ausmasses der trotz gesundheitlicher Einschränkungen verbleibenden Arbeitsfähigkeit zu korrigieren (E. 1 hiervor).
3.1.2 Die Tatsachenfeststellungen des kantonalen Gerichts, namentlich die aus den medizinischen Akten gewonnenen Erkenntnisse und die daraus in erwerblicher Hinsicht gezogenen Schlussfolgerungen, worunter auch fällt, dass dem Beschwerdeführer noch ein breites Betätigungsfeld zur Verfügung steht und er durchaus in der Lage ist, eine neue berufliche Aufgabe zufriedenstellend zu erfüllen, sind im letztinstanzlichen Prozess grundsätzlich verbindlich. Im Rahmen der eingeschränkten Sachverhaltskontrolle (<ref-law>) ist es nicht Aufgabe des Bundesgerichts, die schon im vorinstanzlichen Verfahren im Recht gelegenen medizinischen Berichte neu zu würdigen und die rechtsfehlerfreie Sachverhaltsfeststellung des kantonalen Gerichts hinsichtlich der medizinisch begründeten Einschränkung des Leistungsvermögens und des Ausmasses der trotz gesundheitlicher Einschränkungen verbleibenden Arbeitsfähigkeit zu korrigieren (E. 1 hiervor).
3.2 3.2.1 Der Beschwerdeführer wirft der Vorinstanz eine ungenügende Abklärung des Sachverhaltes und damit eine Verletzung des Untersuchungsgrundsatzes vor, da sie sich hauptsächlich auf das Gutachten der Poliklinik für Innere Medizin vom 31. August 2010 und deren ergänzende Stellungsnahme vom 14. Juni 2011 stützt. Diese stünden im Widerspruch zum Bericht der behandelnden Ärztin am Herzkreislaufzentrum derselben Klinik vom 30. Juni 2011, welche eine vollständige Arbeitsunfähigkeit in jeglicher Tätigkeit attestiert.
3.2.2 Im angefochtenen Entscheid wird indessen einlässlich begründet, weshalb nicht auf diese Einschätzung abgestellt werden kann. Entgegen der Ansicht des Beschwerdeführers hat die Vorinstanz gewürdigt, dass sich sein Gesundheitszustand seit der Begutachtung weiter verschlechtert hat. Dies besagt aber noch nicht, dass sich mit der Verschlechterung der Pumpfunktion des Herzens auch die Arbeitsfähigkeit entsprechend reduziert. Im Ergänzungsbericht vom 14. Juni 2011 nehmen die Gutachter zu den bereits vorinstanzlich angeführten Argumenten und den im Verfügungszeitpunkt erhobenen, im Beschwerdeverfahren neu aufgelegten medizinischen Befunden Stellung und führen aus, dass auch eine nunmehr mittelschwer eingeschränkte Pumpfunktion einem Betroffenen ermögliche, körperlich nicht belastende Routinetätigkeiten, insbesondere im Sitzen, auszuführen. Entgegen der Darstellung in der Beschwerde wird diese Einschätzung der Arbeits- und Leistungsfähigkeit eingehend begründet. Die Vorinstanz hat denn auch berücksichtigt, dass wegen der in der Zwischenzeit eingetretenen Verschlechterung ein künftiger Arbeitsweg kein Treppensteigen von mehr als einem Stockwerk und eine ebene Gehstrecke von höchstens zehn Minuten bei angemessenem Tempo umfassen sollte. Die auf das Ergebnis der Analyse der ärztlichen Stellungnahmen und Berichte gestützte Annahme des kantonalen Gerichts, es sei dem Beschwerdeführer zumutbar, eine Erwerbstätigkeit im Rahmen von 60 % auszuüben, und auf dem ausgeglichenen Arbeitsmarkt seien geeignete Arbeitsstellen vorhanden, basiert nicht auf einer willkürlichen Beweiswürdigung (<ref-ruling> E. 4.1 S. 400). Wenn das kantonale Gericht - wie hier - begründet darlegt, warum es einer ärztlichen Zumutbarkeitsbeurteilung folgt und - bei gleichem Befund - eine andere als weniger überzeugend qualifiziert, hat es den Untersuchungsgrundsatz nicht verletzt. Die Ausführungen in der Beschwerdeschrift sind nicht geeignet, die Sachverhaltsfeststellung des kantonalen Gerichts als offensichtlich unrichtig oder unvollständig erscheinen zu lassen.
4. Da die Beschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach <ref-law>, insbesondere ohne Durchführung eines Schriftenwechsels und mit summarischer Begründung, erledigt.
5. Das Verfahren ist kostenpflichtig (<ref-law>). Dem Prozessausgang entsprechend sind die Gerichtskosten vom Beschwerdeführer als unterliegender Partei zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, II. Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 11. Oktober 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Schüpfer