Sachverhalt:
A. A.a Der 1952 geborene D._ meldete sich am 19. Oktober 2007 unter Hinweis auf Schulterbeschwerden bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung der erwerblichen und medizinischen Verhältnisse, wobei er an der Klinik X._ begutachtet wurde (Expertise vom 6. Juni 2009), sprach ihm die IV-Stelle Bern nach Einholung einer Stellungnahme ihres Regionalen Ärztlichen Dienstes (RAD) vom 21. Juli 2010, mit Verfügung vom 8. Dezember 2010 ab Januar 2007 eine ganze Rente und ab 1. Mai 2007 eine Viertelsrente der Invalidenversicherung zu. Mit drei Verfügungen vom 5. Januar 2011 legte die IV-Stelle Bern sodann die einzelnen Rentenbeträge und Nachzahlungsmodalitäten fest.
Gegen die Verfügungen vom 8. Dezember 2010 und 5. Januar 2011 liess D._ Beschwerde beim Verwaltungsgericht des Kantons Bern erheben. Nachdem ihn dieses auf eine drohende Schlechterstellung (reformatio in peius) aufmerksam gemacht hatte (Schreiben vom 30. März 2011), zog D._ das Rechtsmittel zurück, worauf das Verwaltungsgericht die Beschwerde abschrieb (Entscheid vom 4. Mai 2011).
A.b Daraufhin kam die IV-Stelle wiedererwägungsweise auf die Verfügungen vom 8. Dezember 2010 und 5. Januar 2011 zurück und hob diese mit Verfügung vom 29. August 2011 insoweit teilweise auf, als sie ab Mai 2007 einen Rentenanspruch bei einem ermittelten Invaliditätsgrad von 32 % verneinte und die Viertelsrente auf Ende des der Zustellung folgenden Monats (per Ende September 2011) aufhob.
B. Mit Entscheid vom 9. März 2012 wies das Verwaltungsgericht des Kantons Bern die dagegen eingereichte Beschwerde ab.
C. D._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheids sei ihm weiterhin eine Viertelsrente der Invalidenversicherung zuzusprechen.
Die IV-Stelle Bern schliesst auf Abweisung der Beschwerde. Die Vorinstanz und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Es wendet das Recht von Amtes wegen an (<ref-law>). Immerhin prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen wurden (<ref-ruling> E. 1.4.1 S. 254).
2. Die Verwaltung ist befugt, unter dem Titel der Wiedererwägung jederzeit von Amtes wegen auf eine formell rechtskräftige Verfügung, welche nicht Gegenstand materieller richterlicher Beurteilung gebildet hat, zurückzukommen, wenn sich diese als zweifellos unrichtig erweist und ihre Berichtigung von erheblicher Bedeutung ist (<ref-law>). Unter diesen Voraussetzungen kann die Verwaltung eine Rentenverfügung auch dann abändern, wenn die Revisionsvoraussetzungen des <ref-law> nicht erfüllt sind. Zweifellose Unrichtigkeit liegt nicht nur vor, wenn die in Wiedererwägung zu ziehende Verfügung aufgrund falscher oder unzutreffender Rechtsregeln erlassen wurde, sondern auch, wenn massgebliche Bestimmungen nicht oder unrichtig angewendet wurden (unter Einschluss unrichtiger Tatsachenfeststellung im Sinne der Beweiswürdigung). Eine gesetzwidrige Leistungszusprechung gilt regelmässig als zweifellos unrichtig (<ref-ruling> E. 2b/bb S. 401 mit Hinweisen).
3. 3.1 Streitig und zu prüfen ist, ob der Beschwerdeführer ab 1. Oktober 2011 weiterhin Anspruch auf eine Viertelsrente hat, wobei einzig zu beurteilen ist, ob die vorinstanzlich geschützte Begründung der Wiedererwägung (<ref-law>) und der darauf fussende Eingriff in das Dauerrechtsverhältnis in Form der Aufhebung des Rentenanspruchs vor Bundesrecht standhält (E. 1).
3.2 Letztinstanzlich kann frei überprüft werden, ob im angefochtenen Entscheid von einem bundesrechtskonformen Verständnis der zweifellosen Unrichtigkeit ausgegangen wurde. Die Feststellungen, welche der entsprechenden Beurteilung zu Grunde liegen, sind hingegen tatsächlicher Natur und folglich nur auf offensichtliche Unrichtigkeit oder Unvollständigkeit überprüfbar (Urteil [des Bundesgerichts] I 803/06 vom 21. Februar 2007 in: SVR 2008 IV Nr. 53 S. 177 f. E. 4.2). Dagegen ist die Auslegung (Konkretisierung) des Begriffs der zweifellosen Unrichtigkeit als Wiedererwägungsvoraussetzung nach <ref-law> frei zu prüfende Rechtsfrage (Urteil [des Bundesgerichts] 9C_994/2010 vom 12. April 2011 in: SVR 2011 IV Nr. 71 S. 213 E. 2).
Ferner ist festzuhalten, dass mit der Annahme zweifelloser Unrichtigkeit im Bereich der invaliditätsmässigen Leistungsvoraussetzungen Zurückhaltung geboten ist (Urteil [des Bundesgerichts] 9C_994/2010 vom 12. April 2011 in: SVR 2011 IV Nr. 71 S. 213 E. 3.2.1).
3.3 Die Vorinstanz bestätigte die Rechtmässigkeit der Verfügung vom 29. August 2011, wobei sie dies zutreffenderweise gestützt auf die gesetzlichen Wiedererwägungsvoraussetzungen nach <ref-law> prüfte. Die IV-Stelle hat dementgegen beim Erlass ihrer streitigen Verfügung übersehen, dass sie - anders als das kantonale Gericht, das als Beschwerdeinstanz nach der mit Schreiben vom 30. März 2011 angedrohten Schlechterstellung des Versicherten, in freier Prüfung der Anspruchsvoraussetzungen für eine Invalidenrente hätte in peius reformieren können, wenn der Versicherte an seiner Beschwerde festgehalten hätte - für den Rückkommensgrund der Wiedererwägung die Voraussetzungen nach <ref-law> hätte beachten müssen. Eine Auseinandersetzung damit, ob der Rückkommenstitel der Wiedererwägung gegeben ist, lässt sich der angefochtenen Verfügung nicht entnehmen, weshalb insofern deren Begründung ungenügend ist.
3.4 Das kantonale Gericht ging nach Würdigung der der ursprünglichen Rentenverfügungen (vom 8. Dezember 2010 und 5. Januar 2011) zugrunde liegenden medizinischen Unterlagen davon aus, dass bereits zum damaligen Zeitpunkt aufgrund des rheumatologischen Gutachtens des Spitals X._ vom 6. Juni 2009 (samt Ergänzung vom 7. September 2010), aus rheumatologischer Sicht für eine leidensadaptierte, rückenschonende Tätigkeit eine vollständige Arbeitsfähigkeit bestanden habe, was sich mit den Einschätzungen der behandelnden Ärzte vereinbaren lasse. Die im Gutachten postulierte Einschränkung der Leistungsfähigkeit von 25 % basiere nicht auf dem rheumatologischen Leiden, sondern werde mit den Auswirkungen der diagnostizierten, generalisierten Schmerzstörung mit Schmerzausweitung (ICD-10 F45.4) begründet. Die willentliche Überwindbarkeit der festgestellten Schmerzstörung beurteilte das kantonale Gericht, allerdings in knapper Form, nach den Kriterien gemäss <ref-ruling> und hielt diese nicht für derart gehäuft und ausgeprägt, um ausnahmsweise von einer invalidisierenden somatoformen Schmerzstörung auszugehen. Die Vorinstanz erwog weiter, mit Blick darauf, dass die Diagnose einer somatoformen Schmerzstörung im Gutachten unter der Rubrik "Diagnosen mit Auswirkung auf die Arbeitsfähigkeit" an erster Stelle genannt worden sei, wäre es für die IV-Stelle offensichtlich erkennbar gewesen, dass die Experten dafür hielten, dass die Arbeitsfähigkeit hauptsächlich durch die Schmerzstörung beeinträchtigt sei. Indem die Verwaltung dies übersehen habe, habe sie sich bei der Rentenfestsetzung auf ein fehlerhaftes Beweisergebnis gestützt, wobei die Zusprache der Viertelsrente der bundesgerichtlichen Rechsprechung zur somatoformen Schmerzverarbeitungsstörung widerspreche. Die Wiedererwägungsvoraussetzungen seien erfüllt.
3.4 Das kantonale Gericht ging nach Würdigung der der ursprünglichen Rentenverfügungen (vom 8. Dezember 2010 und 5. Januar 2011) zugrunde liegenden medizinischen Unterlagen davon aus, dass bereits zum damaligen Zeitpunkt aufgrund des rheumatologischen Gutachtens des Spitals X._ vom 6. Juni 2009 (samt Ergänzung vom 7. September 2010), aus rheumatologischer Sicht für eine leidensadaptierte, rückenschonende Tätigkeit eine vollständige Arbeitsfähigkeit bestanden habe, was sich mit den Einschätzungen der behandelnden Ärzte vereinbaren lasse. Die im Gutachten postulierte Einschränkung der Leistungsfähigkeit von 25 % basiere nicht auf dem rheumatologischen Leiden, sondern werde mit den Auswirkungen der diagnostizierten, generalisierten Schmerzstörung mit Schmerzausweitung (ICD-10 F45.4) begründet. Die willentliche Überwindbarkeit der festgestellten Schmerzstörung beurteilte das kantonale Gericht, allerdings in knapper Form, nach den Kriterien gemäss <ref-ruling> und hielt diese nicht für derart gehäuft und ausgeprägt, um ausnahmsweise von einer invalidisierenden somatoformen Schmerzstörung auszugehen. Die Vorinstanz erwog weiter, mit Blick darauf, dass die Diagnose einer somatoformen Schmerzstörung im Gutachten unter der Rubrik "Diagnosen mit Auswirkung auf die Arbeitsfähigkeit" an erster Stelle genannt worden sei, wäre es für die IV-Stelle offensichtlich erkennbar gewesen, dass die Experten dafür hielten, dass die Arbeitsfähigkeit hauptsächlich durch die Schmerzstörung beeinträchtigt sei. Indem die Verwaltung dies übersehen habe, habe sie sich bei der Rentenfestsetzung auf ein fehlerhaftes Beweisergebnis gestützt, wobei die Zusprache der Viertelsrente der bundesgerichtlichen Rechsprechung zur somatoformen Schmerzverarbeitungsstörung widerspreche. Die Wiedererwägungsvoraussetzungen seien erfüllt.
3.5 3.5.1 Grundsätzlich bedarf es für die Annahme eines invalidisierenden Gesundheitsschadens einer fachärztlichen, lege artis auf die Vorgaben eines anerkannten Klassifikationssystems abgestützten Diagnose (<ref-ruling> E. 6 S. 399 ff.; Urteil [des Bundesgerichts] 9C_510/2009 vom 30. August 2010 E. 3.2.3). Nach der Rechtsprechung kommt einer anhaltenden somatoformen Schmerzstörung (ICD-10 F45.4) ebenso wie grundsätzlich sämtlichen pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebildern ohne nachweisbare organische Grundlage (<ref-ruling> E. 3.2.3 S. 283) nur ausnahmsweise invalidisierender, d.h. einen Rentenanspruch begründender Charakter zu (<ref-law> sowie Art. 3 Abs. 1 und Art. 6 ATSG; grundlegend <ref-ruling>). Entscheidend ist, ob und inwiefern die versicherte Person über psychische Ressourcen verfügt, die es ihr erlauben, trotz den subjektiv erlebten Schmerzen einer Arbeit nachzugehen (<ref-ruling> E. 2.2.4 S. 355; <ref-ruling> E. 4b/cc in fine und E. 5a S. 299 unten). Umstände, die bei Vorliegen eines solchen Krankheitsbildes die Verwertung der verbliebenen Arbeitskraft auf dem Arbeitsmarkt als unzumutbar erscheinen lassen können, sind: Eine Komorbidität im Sinne eines vom Schmerzgeschehen losgelösten eigenständigen psychischen Leidens von erheblicher Schwere, Intensität, Ausprägung und Dauer, chronische körperliche Begleiterkrankungen mit mehrjährigem Krankheitsverlauf bei unveränderter oder progredienter Symptomatik ohne längerfristige Remission, sozialer Rückzug, ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn), unbefriedigende Ergebnisse von konsequent durchgeführten Behandlungen (auch mit unterschiedlichem therapeutischem Ansatz) und gescheiterte Rehabilitationsmassnahmen bei vorhandener Motivation und Eigenanstrengung der versicherten Person (<ref-ruling> E. 4.2.2 S. 71; <ref-ruling> E 2.2.3 S. 353 ff.; Urteil [des Bundesgerichts] 9C_1061/2009 vom 11. März 2010 E. 5.4.3.1.1). Umgekehrt sprechen u.a. eine erhebliche Diskrepanz zwischen den geschilderten Schmerzen und dem gezeigten Verhalten oder der Anamnese, die Angabe intensiver in der Umschreibung vager Schmerzen oder behauptete schwere Einschränkungen im Alltag bei weitgehend intaktem psychosozialen Umfeld gegen das Vorliegen eines invalidisierenden Gesundheitsschadens (<ref-ruling> E. 2.1 S. 51; Urteil [des Bundesgerichts] 9C_736/2011 vom 7. Februar 2012 E. 1.1).
3.5.2 Die ärztlichen Stellungnahmen zum psychischen Gesundheitszustand und zu dem aus medizinischer Sicht (objektiv) vorhandenen Leistungspotential bilden unabdingbare Grundlage für die Beurteilung der Rechtsfrage, ob und gegebenenfalls inwieweit einer versicherten Person unter Aufbringung allen guten Willens die Überwindung ihrer Schmerzen und die Verwertung ihrer verbleibenden Arbeitskraft zumutbar ist. Im Rahmen der freien Beweiswürdigung (<ref-law>) darf sich dabei die Verwaltung - und im Streitfall das Gericht - weder über die (den beweisrechtlichen Anforderungen [<ref-ruling> E. 3a S. 352] genügenden) medizinischen Tatsachenfeststellungen hinwegsetzen noch sich die ärztlichen Einschätzungen und Schlussfolgerungen zur (Rest-)Arbeitsfähigkeit unbesehen ihrer konkreten sozialversicherungsrechtlichen Relevanz und Tragweite zu eigen machen. Letzteres gilt namentlich dann, wenn die begutachtende Fachperson allein aufgrund der Diagnose einer anhaltenden somatoformen Schmerzstörung oder eines vergleichbaren Leidens eine Einschränkung der Arbeitsfähigkeit attestiert. Die rechtsanwendenden Behörden haben diesfalls mit besonderer Sorgfalt zu prüfen, ob die ärztliche Einschätzung der Arbeitsunfähigkeit auch invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mit berücksichtigt, welche vom sozialversicherungsrechtlichen Standpunkt aus unbeachtlich sind (vgl. BGE <ref-ruling> E. 5a S. 299; AHI 2000 S. 149, I 554/98 E. 3), und ob die von den Ärzten anerkannte (Teil-)Arbeitsunfähigkeit auch im Lichte der für eine Unüberwindlichkeit der Schmerzsymptomatik massgebenden rechtlichen Kriterien standhält (<ref-ruling> E. 2.2.5 S. 355 f.).
3.6 Insoweit mit Blick auf die (einzig) im rheumatologischen Gutachten gestellte Diagnose einer sekundär generalisierten Schmerzstörung überhaupt von einer hinreichenden fachärztlichen Stellungnahme zum psychischen Gesundheitszustand ausgegangen werden kann, hat die Vorinstanz zu Recht erkannt, dass der ärztlicherseits attestierten Arbeitsunfähigkeit in Anwendung der mit <ref-ruling> begründeten Rechtsprechung nicht gefolgt werden kann, da die massgebenden Kriterien nicht in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung und somit auf eine invalidisierende Gesundheitsschädigung zu gestatten (Urteil [des Bundesgerichts] 9C_871/2010 vom 25. Februar 2011 E. 1.2, nicht publ. in: <ref-ruling>; SVR 2008 IV Nr. 23 S. 71, I 683/06 E. 2.2).
3.7 Das kantonale Gericht hat, ohne Bundesrecht zu verletzen, festgestellt, dass es insbesondere an einer psychischen Komorbidität von erheblicher Schwere, Ausprägung und Dauer fehlt. Den medizinischen Unterlagen lässt sich kein Hinweis auf eine zur Schmerzstörung zusätzlich aufgetretenen psychischen Erkrankung finden. Die Gutachter verneinten ausdrücklich das Vorliegen von geistigen oder psychischen Beeinträchtigungen. Zu den weiteren Kriterien äusserte sich die Vorinstanz nicht ausdrücklich, indem sie einzig festhielt, die übrigen Voraussetzungen, unter denen eine somatoforme Schmerzstörung ausnahmsweise invalidisierend wirke, seien klar nicht in hinreichend ausgeprägter Form gegeben. Selbst wenn in somatischer Hinsicht in den multietageren, degenerativen Veränderungen des Bewegungsapparates, vorwiegend die Schultergelenke und die Wirbelsäule betreffend, nach dreimaliger Operation (zweimal an der Schulter sowie mikrochirurgische Dekompression des Rezessus Wurzel L4/5 links mit Neurolyse) eine chronische körperliche Begleiterkrankung zu sehen wäre, führte dies nicht zu einer unzumutbaren Schmerzbewältigung. Ebenso wenig liegt gemäss Aktenlage ein sozialer Rückzug in allen Belangen des Lebens vor, zumal der Beschwerdeführer Einkäufe (mit geringem Gewicht) selbstständig erledigt und auch bei der Haushalttätigkeit mithilft. Ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn) ist auch nicht auszumachen. Schliesslich hielten die Experten hinsichtlich der Operationsergebnisse fest, diese seien, insbesondere die Schulter betreffend, ordentlich und für eine leichte bis mittelschwere Tätigkeit genügend. Mit Bezug auf die körperliche Konstitution bestünden aus medizinischer Sicht gute Voraussetzungen für eine Wiedereingliederung in den Arbeitsprozess. Dem Beschwerdeführer wurden denn auch Wiedereingliederungsmassnahmen in Form einer aktivierenden Rehabilitation mit Muskelaufbau und kognitiv verhaltenstherapeutischem Angehen der Schmerzverarbei-tungsstörung mit anschliessender Neubeurteilung der Arbeitsfähigkeit empfohlen.
In einer Gesamtbetrachtung der Kriterien im rechtlichen Sinn resultiert daraus klarerweise keine invalidisierende Einschränkung der Arbeitsfähigkeit. Insbesondere sind die therapeutischen Möglichkeiten auf der körperlichen wie psychischen Ebene nicht ausgeschöpft worden. Diese Massnahmen dürften immer noch offen stehen. Damit bleibt unter den gegebenen Umständen in rechtlicher Hinsicht kein Raum für die Annahme einer mit psychischen Leiden begründeten (teilweisen) Einschränkung der Arbeitsfähigkeit. Vielmehr ist von einer willentlichen Überwindbarkeit des psychisch bedingten Leidens und demnach einer uneingeschränkten Arbeitsfähigkeit für adaptierte Tätigkeiten auszugehen.
3.8 Diese mit Blick auf die Rechtslage qualifizierte, von der Verwaltung korrigierte Unrichtigkeit rechtfertigt auch bei zurückhaltender Annahme zweifelloser Unrichtigkeit ein wiedererwägungsweises Zurückkommen auf die ursprünglichen Rentenentscheide. Deren Berichtigung ist, da es sich um eine periodische Dauerleistung handelt, von erheblicher Bedeutung (<ref-ruling> E. 1c S. 480 mit Hinweisen). Damit hält die von der Vorinstanz bestätigte Wiedererwägung der ursprünglichen Rentenverfügungen (vom 8. Dezember 2010 und 5. Januar 2011) mit der Verfügung der IV-Stelle vom 29. August 2011 vor Bundesrecht stand.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 17. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Polla