Sachverhalt:
A. I._, geboren 1949, Architekt, war bis im Herbst 2000 als Teppichhändler erwerbstätig. Ab 1. Oktober 2000 übte er keine Berufstätigkeit mehr aus. Am 12. Mai 2004 meldete sich I._ erstmals bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 7. Dezember 2004 lehnte die IV-Stelle des Kantons Zürich das Gesuch um eine Invalidenrente ab.
Nachdem der Versicherte in den Jahren 2006 und 2007 erneut ein Teppichgeschäft betrieben hatte, meldete er sich am 30. März 2009 abermals zum Bezug von Leistungen an. Im Rahmen der Abklärung über die beruflich-erwerblichen sowie medizinischen Gegebenheiten beauftragte die IV-Stelle das medizinische Zentrum X._ mit der Erstellung einer polydisziplinären Expertise. Auf der Grundlage dieses Gutachtens der Medizinischen Abklärungsstelle (MEDAS) vom 12. Juni 2010 wies die IV-Stelle das Leistungsgesuch mit Verfügung vom 3. März 2011 ab.
B. Die hiegegen erhobene Beschwerde des I._ blieb gemäss Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 26. September 2012 erfolglos.
C. I._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und unter Aufhebung des angefochtenen Entscheides die Rückweisung der Sache zur ergänzenden Sachverhaltsabklärung und neuer Entscheidung an die Vorinstanz, eventualiter an die IV-Stelle, beantragen. Er reicht einen Austrittsbericht der psychiatrischen Klinik Y._ vom 29. Juni 2011 ein.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Die Kognition des Bundesgerichts ist in Streitigkeiten um Leistungen der Invalidenversicherung auf eine Rechtskontrolle beschränkt (Art. 95 lit. a BGG). Würdigung und Feststellung der dem streitigen Leistungsanspruch zugrunde liegenden Tatsachen, wie z.B. die Entscheidung über die Arbeits(un)fähigkeit (<ref-ruling>), können vom Bundesgericht nur auf Unvollständigkeit oder offensichtliche Unrichtigkeit (Unhaltbarkeit, Willkür; vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG sowie <ref-ruling> E. 8.1 S. 153; <ref-ruling> E. 1.5 S. 130; <ref-ruling> E. 4.3 S. 62, 129 I 8 E. 2.1 S. 9; <ref-ruling> E. 4b S. 40) geprüft werden.
2. Im Lichte dieser kognitionsrechtlichen Grundsätze ist allein zu prüfen, ob das kantonale Gericht zur Beurteilung und zur definitiven Verneinung des Rentenanspruches abschliessend auf das interdisziplinäre MEDAS-Gutachten vom 12. Juni 2010 abstellen durfte. Während die Vorinstanz dies im Rahmen ihrer Beweiswürdigung, insbesondere auch unter Berücksichtigung der Stellungnahme des Arztes des Regionalen Ärztlichen Dienstes (RAD), Dr. med. E._, Facharzt für Psychiatrie und Psychotherapie/Innere Medizin FMH, vom 10. Januar 2011, bejaht hat, bestreitet dies der Beschwerdeführer unter Hinweis auf <ref-ruling>. Die neue bundesgerichtliche Rechtsprechung sehe heute im Vergleich zum Zeitpunkt, in dem das Gutachten in Auftrag gegeben und erstellt wurde, strengere Anforderungen an die Einholung solcher Expertisen vor. Die Beurteilung der MEDAS genüge in Bezug auf die neuen Mitwirkungs- und Verfahrensrechte nicht.
3. 3.1 Mit <ref-ruling> hat das Bundesgericht die Vereinbarkeit der IV-Abklärungen durch die MEDAS mit den Verfahrensgrundrechten unter anderem davon abhängig gemacht, dass die Expertise bei Uneinigkeit fortan durch eine anfechtbare Zwischenverfügung anzuordnen ist (<ref-ruling> E. 3.4.2.6 S. 256) und dass sich die versicherte Person vor der Begutachtung zu den Fragen der Verwaltung an die Sachverständigen äussern kann (<ref-ruling> E. 3.4.2.9 S. 258). Wurde ein entscheidungsrelevantes Gutachten früher als am 28. Juni 2011 (Datum des Urteils) in Auftrag gegeben und fanden die in <ref-ruling> definierten Verfahrensstandards noch keine Anwendung, so wäre es nicht verhältnismässig, einem solchen Gutachten, ungeachtet seiner Überzeugungskraft, den Beweiswert abzusprechen (<ref-ruling> E. 6 Ingress S. 266). Bildet ein nach altem Standard in Auftrag gegebenes Gutachten die massgebende Entscheidungsgrundlage, so führt dieser Umstand daher nicht zwangsläufig zu einer neuen Begutachtung, sondern findet vorab Beachtung in der Beweiswürdigung (Urteile 9C_942/2011 vom 6. Juli 2012 E. 5.2 und 9C_776/2010 vom 20. Dezember 2011 E. 3.3). Erwecken objektive Kriterien erhebliche Zweifel an der Schlüssigkeit einer solchen ärztlichen Feststellung, muss ein Gerichtsgutachten eingeholt werden (Urteil 9C_495/2012 vom 4. Oktober 2012, E. 2.2-2.4).
3.2 Mit Schreiben vom 17. Februar 2010 wurde der Beschwerdeführer zur MEDAS-Begutachtung aufgeboten. Die Untersuchungen für das interdisziplinäre Gutachten vom 12. Juni 2010 fanden am 29. und 30. März 2010 statt. In Anbetracht dieses Verfahrensablaufs konnten die Mitwirkungsrechte des Versicherten nach dem neuen Urteil vom 28. Juni 2011 (<ref-ruling> E. 3.4.2.6 S. 256 und E. 3.4.2.9 S. 258) noch nicht zum Tragen kommen.
4. 4.1 Der Beschwerdeführer macht geltend, das Gutachten der MEDAS widerspreche zahlreichen ärztlichen Berichten und sei nicht schlüssig, weshalb es an einer genügenden Sachverhaltsgrundlage für die Prüfung der gesetzlichen Leistung fehle. Die Vorinstanzen hätten nicht darauf abstellen dürfen.
4.2 Assistenzarzt med. pract. O._ und Oberarzt med. pract. A._ vom psychiatrischen Zentrum Z._ stellten im Austrittsbericht vom 22. April 2009 (Hospitalisierung vom 3. Februar bis 30 März 2009) nebst verschiedenen körperlichen Leiden auch eine rezidivierende depressive Störung, aktuell mittelgradige Episode, fest. Im Bericht des Hausarztes Dr. med. D._ vom 6. Mai 2009 wird ebenfalls eine rezidivierende depressive Episode mit voller Arbeitsunfähigkeit diagnostiziert. Med. pract. C._, Facharzt für Psychiatrie und Psychotherapie FMH, gelangte bezüglich der psychischen Erkrankung und der Arbeitsunfähigkeit im Bericht vom 24. Juli 2009 zum selben Ergebnis. Oberarzt Prof. Dr. med. W._ und Psychologin lic. phil. B._ von der psychiatrischen Klinik Y._ äusserten sich in ihrem Bericht vom 10. November 2010 in dem Sinne, dass die Wiederaufnahme der bisherigen Tätigkeit als Teppichhändler aufgrund des Krankheitsbildes und des Verlaufs, auch längerfristig, kaum realistisch sei. Zurzeit könne der Beschwerdeführer nur einfache, sich wiederholende Arbeit mit reduziertem Pensum auf dem geschützten Arbeitsmarkt leisten. Auch sie legen der vollständigen Arbeitsunfähigkeit des Versicherten eine rezidivierende depressive Störung, gegenwärtig mittel- bis schwergradig, zugrunde.
Gemäss Gutachten der MEDAS vom 12. Juni 2010 leidet der Versicherte an verschiedenen Erkrankungen, welche die Arbeitsfähigkeit nicht beeinflussten. Insbesondere sei keine rezidivierende depressive Episode zu erkennen. Was die diagnostizierten depressiven Episoden in der Vergangenheit betreffe, sei davon auszugehen, dass es sich dabei um eine rezidivierende Anpassungsstörung, ausgelöst durch psychosoziale Umstände, handelte. Am 3. März 2011 nahm RAD-Arzt Dr. med. E._ zur unterschiedlichen Einschätzung der Arbeitsfähigkeit im Gutachten des medizinischen Zentrums X._ und in den Berichten der behandelnden Psychiater Stellung. Dr. med. E._ kam zum Schluss, dass die von der psychiatrischen Klinik Y._ gestellte Diagnose einer rezidivierenden depressiven Störung nicht nachvollziehbar sei. Es fänden sich keine Hinweise auf eine selbstständige depressive Störung. Wie zuvor bereits Dr. med. univ. T._ (Stellungnahme des RAD vom 14. Juli 2010) hält auch Dr. med. E._ das MEDAS-Gutachten für schlüssig und nachvollziehbar.
4.3 Die Einwände des Versicherten gegen die Expertise des medizinischen Zentrums X._ vom 12. Juni 2010 vermögen nicht zu überzeugen und erschüttern deren Beweiswert nicht. Das Gutachten der MEDAS erfüllt die Anforderungen gemäss Rechtsprechung: es ist umfassend, beruht auf allseitigen Untersuchungen, berücksichtigt die Angaben des Versicherten und wurde in Kenntnis der Vorakten abgegeben. Die Beurteilung der medizinischen Situation ist einleuchtend und die Schlussfolgerungen sind begründet. Insbesondere erfolgte eine Auseinandersetzung mit den von den anderen Ärzten aufgeführten Symptomen (vgl. <ref-ruling> E. 3b/bb S. 353).
Beim letztinstanzlich aufgelegten Austrittsbericht der psychiatrischen Klinik Y._ vom 29. Juni über teilstationäre Behandlungen des Beschwerdeführers zwischen Juli und September 2010 sowie von Oktober 2010 bis Mai 2011 handelt es sich um ein unzulässiges neues Beweismittel im Sinne von Art. 99 Abs. 1 BGG, das der Versicherte bereits im kantonalen Beschwerdeverfahren hätte einreichen können.
Sodann sind keine objektiven ärztlichen Aussagen erkennbar, welche hinreichende Zweifel am Gutachten des medizinischen Zentrums X._ aufkommen lassen könnten. Auf die vom behandelnden Arzt Dr. med. C._ geschilderten Symptome wurde in der Expertise eingegangen, wobei die Ärzte ihre abweichende Wertung nachvollziehbar begründet haben. Im Bericht des psychiatrischen Zentrum Z._ wurden unter dem Titel "Therapie und Verlauf" vor allem psychosoziale Faktoren namhaft gemacht. Laut Bericht der psychiatrischen Klinik Y._, Klinik für Affektive Erkrankungen und Allgemeinpsychiatrie, vom 10. November 2010 lag seit 5. Juli 2010 bis auf Weiteres eine volle Arbeitsunfähigkeit vor. Eine einlässliche und einleuchtende Begründung für diese Einschätzung fehlt. Schliesslich bestätigt RAD-Psychiater Dr. med. E._ in seiner Stellungnahme vom 10. Januar 2011 seine früheren Angaben und damit auch die Feststellungen der Gutachter, indem er darlegt, es sei von einer reaktiven, psychosozial ausgelösten Anpassungsstörung auszugehen; dafür spricht im Übrigen auch das jeweils gute Ansprechen des Versicherten auf - vor allem stationäre - fachärztliche Behandlung.
4.4 Die in der Beschwerde vorgetragenen Ausführungen betreffend ein Strafverfahren gegen den früheren Chefarzt des medizinischen Zentrums X._ sind wenig sachdienlich und für den vorliegenden Fall ohne Belang. Die nicht näher belegte Behauptung, die Deutschkenntnisse des Teilgutachters Dr. med. S._ seien nicht ausreichend, vermag die Beweiskraft des Gutachtens ebenfalls nicht in Frage zu stellen. Allfällige Verständigungsschwierigkeiten wären bereits im Rahmen der psychiatrischen (Teil)Begutachtung zu Tage getreten und geltend gemacht worden. Im Weiteren erschöpfen sich die Vorbringen in der Beschwerde zur Hauptsache in einer im Rahmen der gesetzlichen Überprüfungsbefugnis des Bundesgerichts (E. 1 hievor) unzulässigen Kritik an der vorinstanzlichen Beweiswürdigung. Insbesondere ist die blosse Gegenüberstellung der von den an der Begutachtung beteiligten Ärzten gestellten Diagnosen und Einschätzungen zu den Angaben der behandelnden Ärzte nicht geeignet, das Administrativgutachten als zweifelhaft erscheinen zu lassen; vielmehr bedarf es einer materiellen Würdigung der unterschiedlichen Auffassungen. Die Rückweisung der Sache zur Anordnung einer weiteren Expertise an die Vorinstanz oder die Verwaltung ist entbehrlich, da die verschiedenen Arztberichte keine objektiven Zweifel am MEDAS-Gutachten wecken (vgl. E. 4.2).
5. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. März 2013
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Widmer