Sachverhalt:
A. R._ (geboren am 3. April 1949) arbeitete ab 7. Januar 1991 als Automechaniker bei der Firma X._ AG. Wegen Rückenbeschwerden war er ab dem 15. Januar 2001 teils vollständig, teils im Ausmass von 50 % arbeitsunfähig. Vom 10. September 2001 an setzte ihn die Arbeitgeberin nur noch als Hilfsmechaniker, insbesondere für die Radmontage, ein. Im November 2001 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung der medizinischen und erwerblichen Verhältnisse sprach ihm die IV-Stelle des Kantons Zürich mit Verfügung vom 22. Mai 2002 nach Ermittlung eines Invaliditätsgrades von 67 % mit Wirkung ab 1. Januar 2002 eine ganze Invalidenrente nebst Ehegattenzusatzrente sowie Kinderrente zu. Bei Rentenbeginn dauerte das Arbeitsverhältnis noch an. Im Rahmen eines im Januar 2003 eingeleiteten Revisionsverfahrens bestätigte sie die Invalidenrente mit Mitteilung vom 21. Februar 2003.
Am 1. April 2008 leitete die IV-Stelle ein weiteres Revisionsverfahren ein. Nach verschiedenen Abklärungen und nach Einholen eines Gutachtens des Zentrums Y._ GmbH vom 6. November 2008 sowie nach Durchführen des Vorbescheidverfahrens setzte die IV-Stelle mit Verfügung vom 13. Oktober 2009 die ganze Invalidenrente auf eine Viertelsrente per 1. Dezember 2009 herab.
B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. März 2011 ab.
C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides sei ihm weiterhin eine volle (recte: ganze) Invalidenrente auszurichten.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen; <ref-ruling> E. 2.2 S. 550; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Offensichtlich unrichtig im Sinne von <ref-law> ist die Sachverhaltsfeststellung, wenn sie willkürlich ist (<ref-ruling> E. 1.4.1 S. 39). Die entsprechende Rüge prüft das Bundesgericht nur insoweit, als sie in der Beschwerde explizit vorgebracht und substanziiert begründet worden ist.
2. 2.1 Nach <ref-law> in Verbindung mit <ref-law> und <ref-law> kann die IV-Stelle auf formell rechtskräftige Verfügungen und Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist. Eine Wiedererwägung in diesem Sinne ist in den Schranken von <ref-law> jederzeit möglich, insbesondere auch wenn die Voraussetzungen der Revision nach <ref-law> nicht erfüllt sind. Wird die zweifellose Unrichtigkeit der ursprünglichen Rentenverfügung erst vom Gericht festgestellt, so kann es die im Revisionsverfahren verfügte Aufhebung der Rente mit dieser substituierten Begründung schützen (<ref-ruling> E. 2 S. 369; Urteil 9C_11/2008 vom 29. April 2008 E. 2).
2.2 Das kantonale Gericht hat - wie schon die IV-Stelle zuvor - die Wiedererwägungsvoraussetzungen, namentlich die zweifellose Unrichtigkeit der ursprünglichen Rentenverfügung vom 22. Mai 2002, mit der Begründung bejaht, die Ärzte der Klinik W._ hätten damals zwar in der angestammten Tätigkeit als Automechaniker eine Arbeitsunfähigkeit von 50 % bestätigt, hingegen hätten sie ihm in einer behinderungsangepassten Tätigkeit eine vollständige Arbeitsfähigkeit attestiert. Sodann habe die IV-Stelle irrtümlicherweise dem Einkommensvergleich ein Invalideneinkommen von Fr. 28'000.- zugrunde gelegt, welches der eingeschränkten Arbeitsfähigkeit in der angestammten Tätigkeit entsprochen habe. Vielmehr hätte sie jedoch von einer schadenmindernd zumutbaren leidensangepassten Tätigkeit bei einem Vollpensum ausgehen müssen, sodass beim Einkommensvergleich von einem zu tiefen Invalideneinkommen ausgegangen worden sei. Gegen diese Feststellungen und Schlussfolgerungen des kantonalen Gerichts bringt der Beschwerdeführer letztinstanzlich nichts vor, beruft er sich doch ausschliesslich auf den Vertrauensschutz. Es besteht auch kein Anlass, die unbeanstandet gebliebenen Wiedererwägungsvoraussetzungen von Amtes wegen einer näheren Prüfung zu unterziehen (<ref-ruling> E. 1b und 2c S. 415 ff.; <ref-ruling> E. 4a S. 53).
3. 3.1 Der anfangs April 1949 geborene Beschwerdeführer war bis zum Auftreten der gesundheitlichen Probleme mit dem Rücken stets als Automechaniker erwerbstätig gewesen. Nach der Rentenzusprache mit Verfügung vom 22. Mai 2002 ist er keiner Erwerbstätigkeit mehr nachgegangen. Im Zeitpunkt der Rentenaufhebung per 1. Dezember 2009 war er rund 60 Jahre und 8 Monate alt.
3.2 Nach der verbindlichen Feststellung des kantonalen Gerichts ist der Beschwerdeführer in einer leidensangepassten Tätigkeit mit Wechselhaltung beispielsweise Verpackungs-, Kontroll- und Scannarbeiten oder leichte Montagetätigkeiten vollständig arbeitsfähig. Bei einer vollzeitlichen Ausübung einer leidensangepassten Tätigkeit könne er aufgrund der Tabellenlöhne (privater Sektor, einfache und repetitive Tätigkeiten) unter Gewährung eines Abzugs von 10 % ein Invalideneinkommen von Fr. 55'238.- erzielen, was bei einem Validenlohn von Fr. 94'604.- ein Invaliditätsgrad von gerundet 42 % ergebe. Zu diesem Ergebnis sind die Verwaltung und das kantonale Gericht gelangt, indem sie den Beschwerdeführer auf den Weg der Selbsteingliederung verwiesen haben, ohne die Verwertbarkeit der wiedergewonnenen Arbeitsfähigkeit konkret zu prüfen und allenfalls eine berufliche Eingliederungsmassnahme an die Hand zu nehmen. Es ist daher zu prüfen, ob ein Regelfall sofortiger erwerblicher Verwertbarkeit der Arbeitsfähigkeit vorliegt. Auszugehen ist vom Grundsatz, dass aus einer medizinisch attestierten Verbesserung der Arbeitsfähigkeit in der Regel unmittelbar auf eine Verbesserung der Erwerbsfähigkeit geschlossen und damit ein entsprechender Einkommensvergleich (mit dem Ergebnis eines tieferen Invaliditätsgrades) vorgenommen werden kann (Urteil 9C_163/2009 vom 10. September 2010 E. 4.2.2 mit Hinweisen = SVR 2011 IV Nr. 30 S. 86). Eine rentenbestimmende Invaliditätsbemessung setzt aber auch im Revisionsfall (<ref-law>) voraus, dass angezeigte Eingliederungsmassnahmen durchgeführt worden sind. Dementsprechend ist der Eingliederungsbedarf im Falle einer Revision oder Wiedererwägung in gleicher Weise wie im Rahmen einer erstmaligen Invaliditätsbemessung abzuklären. Wie das Bundesgericht in einem neuesten Urteil erkannt hat, ist diese Praxis jedoch auf Sachverhalte zu beschränken, in denen die revisions- oder wiedererwägungsweise Herabsetzung oder Aufhebung der Invalidenrente eine versicherte Person betrifft, die das 55. Altersjahr zurückgelegt hat oder die Rente mehr als 15 Jahre bezogen hat (Urteil 9C_228/2010 vom 26. April 2011).
3.3 Die Übernahme der beiden Abgrenzungskriterien bedeutet nicht, dass die darunter fallenden Rentner/innen in dem revisions- (<ref-law>) bzw. gegebenenfalls wiedererwägungsrechtlichen (<ref-law>) Kontext einen Besitzstandsanspruch geltend machen könnten; es wird ihnen lediglich zugestanden, dass - von Ausnahmen abgesehen - aufgrund des fortgeschrittenen Alters oder einer langen Rentendauer die Selbsteingliederung nicht mehr zumutbar ist. Eine solch ausnahmsweise zumutbare Selbsteingliederung trotz fortgeschrittenen Alters wurde im Urteil 9C_68/2011 vom 16. Mai 2011 bei einem im Zeitpunkt der Rentenaufhebung 60-jährigen Versicherten bejaht, weil er agil (spielte Tennis, fuhr Ski), gewandt (gepflegtes und konzentriertes Auftreten) und im gesellschaftlichen Leben integriert war.
3.4 IV-Stelle und kantonales Gericht haben den Beschwerdeführer auf den Weg der Selbsteingliederung verwiesen, ohne die Verwertbarkeit der Arbeitsfähigkeit konkret zu beurteilen und allenfalls eine berufliche Eingliederungsmassnahme an die Hand zu nehmen. Die Berufsberatung der IV-Stelle hat denn auch lediglich die Akten geprüft und ist zum Schluss gekommen, der Versicherte sei auf dem Arbeitsmarkt "deutlich eingeschränkt", da ihm nur noch leichte bis mittelschwere Tätigkeiten zumutbar seien und er sich in einem fortgeschrittenen Alter befinde, weshalb sich ein Abzug vom Tabellenlohn von 10 % rechtfertige. Das kantonale Gericht ist stillschweigend von einer zumutbaren Selbsteingliederung ausgegangen.
Im vorliegenden Fall ist in Betracht zu ziehen, dass der Beschwerdeführer im Alter von gegen 53 Jahren seine angestammte Tätigkeit als Automechaniker niedergelegt hat und seither keiner Erwerbstätigkeit mehr nachgegangen ist. Im Zeitpunkt der Rentenaufhebung hatte er bereits das 60. Altersjahr vollendet und stand rund 4 1/3 Jahre vor dem ordentlichen AHV-Alter. Die jahrelange Abwesenheit vom Arbeitsmarkt, seine sich auf den Beruf des Automechanikers beschränkende berufliche Erfahrung und sein Wiedereintritt in den Erwerbsprozess kurz vor dem AHV-Alter verbieten den Schluss, dass er sich auf dem allgemeinen ausgeglichenen Arbeitsmarkt selbst eingliedern könnte. Unter diesen Umständen ist die Rentenherabsetzung ohne vorherige Durchführung von Eingliederungsschritten bundesrechtswidrig.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden IV-Stelle aufzuerlegen (<ref-law>), welche überdies dem Beschwerdeführer eine Parteientschädigung auszurichten hat (<ref-law>).

Demnach erkennt das Bundesgericht:
1. In Gutheissung der Beschwerde werden der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 31. März 2011 und die Verfügung der IV-Stelle des Kantons Zürich vom 13. Oktober 2009 aufgehoben mit der Feststellung, dass der Beschwerdeführer über den 1. Dezember 2009 hinaus Anspruch auf eine ganze Invalidenrente hat.
2. Die Gerichtskosten von Fr. 500.- werden der IV-Stelle des Kantons Zürich auferlegt.
3. Die IV-Stelle des Kantons Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Das Sozialversicherungsgericht des Kantons Zürich hat die Gerichtskosten und die Parteientschädigung für das vorangegangene Verfahren neu festzusetzen.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse für das schweizerische Auto-, Motorrad- und Fahrradgewerbe und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. August 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Nussbaumer