Sachverhalt: A. Der 1966 geborene Z._ arbeitete als Sanierungstechniker für Brand- und Wasserschäden bei der Firma X._ AG. Mit Anmeldung vom 19. Mai 2008 ersuchte er die Invalidenversicherung um Ausrichtung einer Rente, da er an einer koronaren Herzkrankheit leide. Die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, holte im Rahmen ihrer medizinischen und erwerblichen Abklärungen unter anderem ein Gutachten der Ärzte der Klinik und Poliklinik für Innere Medizin des Spitals Y._ (Dr. med. B._, Assistenzärztin, visiert von Prof. Dr. med. A._, Chefarzt, und Dr. med. T._, Oberarzt) vom 31. August 2010 ein. Sie sprach dem Versicherten in der Folge mit Verfügung vom 13. Januar 2011 ab 1. März 2009 eine Viertelsrente zu. B. Beschwerdeweise beantragt Z._, es sei ihm ab 1. März 2009 eine ganze Rente zuzusprechen. Er liess weitere Berichte der ihn am Herzkreislaufzentrum des Spitals Y._ behandelnden med. pract. O._, Assistenzärztin, vom 19. Januar und vom 16. März 2011 auflegen. Das Sozialversicherungsgericht des Kantons Zürich holte eine ergänzende Stellungnahme von Prof. Dr. med. A._ und Dr. med. T._ vom 14. Juni 2011 ein. Mit Entscheid vom 5. April 2012 hiess das Gericht die Beschwerde in dem Sinne teilweise gut, als es feststellte, der Versicherte habe ab 1. März 2009 Anspruch auf eine halbe Rente der Invalidenversicherung. C. Z._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und in Aufhebung des kantonalen Entscheides um eine ganze Invalidenrente ersuchen. Eventuell sei die Sache zu weiteren Abklärungen an die Vorinstanz zurückzuweisen. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.