Sachverhalt:
A. J._ meldete sich im Dezember 2003 unter Hinweis auf ein psychisches Leiden bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen sprach ihm die IV-Stelle Bern mit Verfügung vom 14. Februar 2005 eine ganze Invalidenrente ab 1. Januar 2004 zu. Im Januar 2007 ersuchte J._ um Hilflosenentschädigung. Die IV-Stelle klärte die Verhältnisse vor Ort ab und liess den Versicherten im Zentrum X._ psychiatrisch begutachten. Am 1. März 2010 äusserte ein anonymer Telefonanrufer die Vermutung, J._ könnte einer erwerblichen Tätigkeit nachgehen. Dieser wurde in der Folge im Zeitraum vom 29. Juni bis 8. September 2010 an insgesamt vierzehn Tagen überwacht. Am 8. Juni 2011 wurde J._ von Dr. med. F._, Facharzt für Psychiatrie und Psychotherapie FMH, vom regionalen ärztlichen Dienst (RAD) untersucht. Nachdem die IV-Stelle im Juli 2011 die Rentenzahlungen sistiert hatte, hob sie nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 12. Dezember 2011 die ganze Rente rückwirkend zum 1. Juni 2010 auf.
B. Die Beschwerde des J._ wies das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, mit Entscheid vom 3. Mai 2012 ab.
C. J._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 3. Mai 2012 sei aufzuheben und ihm rückwirkend seit 1. Juni 2010 eine ganze Invalidenrente auszurichten; eventualiter sei die Sache an die Vorinstanz zurückzuweisen, damit sie ein Gerichtsgutachten einhole und gestützt darauf über den Leistungsanspruch neu entscheide, unter Gewährung der unentgeltlichen Rechtspflege.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Verwaltungsgericht verzichtet auf eine Stellungnahme. Das Bundesamt für Sozialversicherungen hat sich nicht vernehmen lassen.
In einer weiteren Eingabe hat sich J._ zu den Ausführungen der IV-Stelle in ihrer Vernehmlassung geäussert.

Erwägungen:
1. Der angefochtene Entscheid bestätigt die Aufhebung der ganzen Rente der Invalidenversicherung durch die Beschwerdegegnerin gestützt auf <ref-law>, zufolge einer Meldepflichtverletzung rückwirkend zum 1. Juni 2010 (<ref-law>).
2. Die Vorinstanz ist in Würdigung der Akten zum Ergebnis gelangt, aufgrund der schlüssigen Beurteilung des RAD-Arztes Dr. med. F._ (Untersuchungsbericht vom 13. Juli 2011 und Stellungnahme vom 5. Dezember 2011) habe überwiegend wahrscheinlich sachverhaltsmässig als erstellt zu gelten, dass spätestens seit dem Beginn der Beweissicherung vor Ort (BvO) im Juni 2010 kein invalidisierender Gesundheitsschaden mehr vorliege. Der Beschwerdeführer sei in der angestammten Tätigkeit als Betriebsmitarbeiter vollständig arbeitsfähig.
3. Der Beschwerdeführer rügt, die Observation (während insgesamt vierzehn Tagen im Zeitraum vom 29. Juni bis 8. September 2010) sei grundsätzlich unzulässig gewesen und die Ergebnisse demzufolge nicht verwertbar. Zur Begründung bringt er vor, die Rechtsprechung gemäss <ref-ruling> E. 5.2 S. 331 verletze den verfassungsmässig garantierten Persönlichkeitsschutz, was mittlerweile in der Lehre heftig kritisiert worden sei (vgl. Thomas Gächter, Die bundesgerichtliche Rechtsprechung der Jahre 2010 und 2011 zum Verfahrensrecht der Sozialversicherung, ZBJV 2012, S. 199 ff. und Corinne Stöckli, "Ein Rechtsverständnis wie in der DDR", plädoyer 3/1 2012 S. 20 ff.). Dabei wird übersehen, dass an der erwähnten Stelle entschieden wurde, <ref-law> (und Art. 43 in Verbindung mit <ref-law>) bilde eine genügende gesetzliche Grundlage für die privatdetektivliche Observation in einem von jedermann ohne weiteres frei einsehbaren Privatbereich, was Gegenstand der Kritik bildete. Der hier zu beurteilende Sachverhalt fällt jedoch nicht darunter. Nach nicht offensichtlich unrichtiger und somit für das Bundesgericht verbindlicher Feststellung der Vorinstanz (Art. 105 Abs. 1 und 2 BGG) waren ausschliesslich für die Anspruchsbeurteilung relevante Alltagsverrichtungen im öffentlichen Raum gefilmt worden. Inwiefern auch solche Observationen bei offensichtlich gegebenem Verdacht auf missbräuchlichen Sozialversicherungsleistungsbezug verfassungsrechtlich unzulässig sein sollen, legt der Beschwerdeführer nicht dar (vgl. <ref-ruling> E. 5.1 S. 331; Art. 41 Abs. 2 und Art. 106 Abs. 2 BGG). Auf die weiteren Vorbringen gegen die grundsätzliche Zulässigkeit von Observationen in der Invalidenversicherung ist mangels genügend substanziierter Auseinandersetzung mit der bundesgerichtlichen Rechtsprechung nicht einzugehen.
4. Der Beschwerdeführer bestreitet die objektive Gebotenheit der Observation sowie die Verhältnismässigkeit der Beweismassnahme.
4.1 Die objektive Gebotenheit der Observation als wichtiges Element der Interessenabwägung im privatrechtlichen und verfassungsmässigen Persönlichkeitsschutz setzt das Bestehen konkreter Anhaltspunkte voraus, die Zweifel an den geäusserten gesundheitlichen Beschwerden und an der behaupteten Arbeitsunfähigkeit aufkommen lassen, etwa widersprüchliches Verhalten, Inkonsistenzen anlässlich der medizinischen Untersuchung, Aggravation, Simulation, Selbstschädigung oder Zweifel an der Redlichkeit der versicherten Person (eventuell durch Angaben und Beobachtungen Dritter; <ref-ruling> E. 5.4.2.1 S. 332 mit Hinweisen).
4.1.1 Die Vorinstanz hat festgestellt, im Rahmen der Abklärung der Hilflosigkeit im Hinblick auf den Bezug von Hilflosenentschädigung habe es Widersprüchlichkeiten gegeben. An der Erhebung vom ........ habe der Beschwerdeführer angegeben, einmal wöchentlich in die Psychotherapie und zur Hausärztin zu gehen. Tatsächlich sei die psychotherapeutische Behandlung bereits Ende 2004 eingestellt worden, und die Hausärztin sei lediglich einmal im Monat aufgesucht worden. Sodann habe seine Schwägerin mitgeteilt, er sei vor 2007 bei schönem Wetter auch allein hinausgegangen. Demgegenüber hätten der Beschwerdeführer und seine Ehefrau trotz fehlender Hinweise auf eine gesundheitliche Verschlechterung angegeben, er sei nie alleine unterwegs. Es hätten somit genügend konkrete Anhaltspunkte bestanden, die eine Observation objektiv als geboten hätten erscheinen lassen, unabhängig vom anonymen telefonischen Hinweis vom 1. März 2010, wonach der Versicherte sehr aktiv, von gesundheitlichen Problemen nichts zu sehen und er vermutlich im ........ tätig sei.
4.1.2 Der Beschwerdeführer bestreitet diese Feststellungen zu Recht nicht als offensichtlich unrichtig. Sie sind daher für das Bundesgericht verbindlich (Art. 105 Abs. 1 und 2 BGG). Mit seinem Vorbringen, es handle sich bei den Widersprüchen lediglich um ohne weiteres durch ein Missverständnis erklärbare unpräzise Angaben, übt er unzulässige appellatorische Kritik an der vorinstanzlichen Sachverhaltsfeststellung und Beweiswürdigung (<ref-ruling> E. 5.1 S. 356). Inwiefern der daraus gezogene Schluss auf objektive Gebotenheit der Observation Recht verletzt, legt er nicht dar. Soweit er aus gewissen Formulierungen in der vorinstanzlich angefochtenen Verfügung folgert, die IV-Stelle habe allein aufgrund eines anonymen telefonischen Hinweises diese Massnahme angeordnet, verkennt er, dass bei der gerichtlichen Beurteilung der objektiven Gebotenheit einer Observation alle damals aktenkundigen Umstände zu berücksichtigen sind. Davon abgesehen ist Prüfungsgegenstand des bundesgerichtlichen Verfahrens der kantonale Gerichtsentscheid.
4.2 In Bezug auf die Verhältnismässigkeit der Observation hat eine Interessenabwägung unter den Gesichtspunkten der Eignung, Erforderlichkeit (objektive Gebotenheit) und Zumutbarkeit (Verhältnismässigkeit im engeren Sinn) zu erfolgen (<ref-ruling> E. 5.4 S. 332). Bei der Beurteilung der Zumutbarkeit im Besonderen ist vom Grundsatz auszugehen: Wer gegenüber der Versicherung einen Anspruch geltend macht, hat zu dulden, dass diese allenfalls auch ohne sein Wissen die objektiv gebotenen Untersuchungen durchführt. In zeitlicher und inhaltlicher Hinsicht sodann dürfen einzig für die Anspruchsprüfung relevante Alltagsverrichtungen ohne engen Bezug zur Privatsphäre Gegenstand der Observation sein. Es muss gemessen am Erkenntnisgewinn ein vernünftiges Verhältnis bestehen zwischen Ziel (Verhinderung ungerechtfertigten Leistungsbezugs) und Schwere des Grundrechtseingriffs (in die Privatsphäre der versicherten Person; <ref-ruling> E. 5.5 S. 334; <ref-ruling> E. 3.3.3 S. 325).
4.2.1 Die Vorinstanz hat festgestellt, es seien Alltagsverrichtungen (z.B. Einkaufen, Auto Fahren, Spaziergang, Besuch einer Bar) gefilmt worden. In Anbetracht des rezidivierenden Verlaufs der beklagten gesundheitlichen Beeinträchtigungen sei eine Beobachtung über mehrere (insgesamt 14) Tage erforderlich gewesen, um eine genügend aussagekräftige Beurteilung zu erhalten. Es bestünden keine Anhaltspunkte, dass das Observationsmaterial einseitig erhoben worden sei. Die Massnahme sei somit verhältnismässig, die Ergebnisse könnten verwertet werden.
4.2.2 Der Beschwerdeführer bestreitet nicht, dass die Beobachtung der versicherten Person bei der Verrichtung alltäglicher Arbeiten grundsätzlich ein geeignetes Mittel ist, um Aussagen zur tatsächlich bestehenden Arbeitsfähigkeit zu gewinnen, auf die, jedenfalls im Verbund mit einer fachärztlichen Beurteilung, abgestellt werden kann. Ebenfalls rügt er die vorinstanzliche Feststellung eines rezidivierenden Verlaufs der beklagten gesundheitlichen Beeinträchtigungen nicht als offensichtlich unrichtig. Die damit begründete Angemessenheit der Dauer der Überwachung bestreitet er im Wesentlichen mit dem Hinweis auf <ref-ruling> E. 5.6 S. 334. Abgesehen davon, dass an besagter Stelle weder eine allgemein gültige zeitliche Obergrenze für eine Observation festgelegt wurde, legt er nicht dar, inwiefern diesbezüglich der damalige mit dem hier zu beurteilenden Sachverhalt vergleichbar ist.
4.3 Der Bericht über die Beweissicherung vor Ort vom 20. September 2010 samt Videoaufnahmen über die Observation vom 29. Juni bis 8. September 2010 ist somit verwertbar und in eine gesamthafte Beweiswürdigung miteinzubeziehen.
5. Der Beschwerdeführer bestreitet den Beweiswert des Untersuchungsberichts vom 13. Juli 2011 (samt Stellungnahme vom 5. Dezember 2011) des RAD-Arztes Dr. med. F._. Er rügt eine offenkundige Verletzung der Beweiswürdigungsregeln durch die Vorinstanz.
5. Der Beschwerdeführer bestreitet den Beweiswert des Untersuchungsberichts vom 13. Juli 2011 (samt Stellungnahme vom 5. Dezember 2011) des RAD-Arztes Dr. med. F._. Er rügt eine offenkundige Verletzung der Beweiswürdigungsregeln durch die Vorinstanz.
5.1 5.1.1 Im Verfahren vor den kantonalen Versicherungsgerichten gilt der Grundsatz der freien Beweiswürdigung (<ref-law>), d.h. umfassende und pflichtgemässe Würdigung der Beweise ohne Bindung an förmliche Beweisregeln. Alle Beweismittel, unabhängig davon, von wem sie stammen, sind objektiv zu prüfen und danach zu entscheiden, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Anspruchs gestatten. Bei einander widersprechenden medizinischen Berichten im Besonderen ist das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, weshalb auf die eine und nicht auf die andere (fach-)ärztliche Beurteilung abzustellen ist (<ref-ruling> E. 3a S. 352; Urteil 9C_629/2009 vom 4. Juni 2010 E. 4.1 mit Hinweisen).
5.1.2 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen des Arztes begründet sind (<ref-ruling> E. 3a S. 352). Diesen Anforderungen genügende RAD-Untersuchungsberichte können einen vergleichbaren Beweiswert haben wie ein Gutachten (SVR 2009 IV Nr. 53 S. 164, 9C_204/2009 E. 3.3.2 mit Hinweisen [nicht publ. in: <ref-ruling>]; vgl. auch SVR 2011 IV Nr. 2 S. 7, 9C_904/2009 E. 2.2).
5.2 Der Vorwurf der Verletzung des Grundsatzes der freien Beweiswürdigung dringt insofern nicht durch, als die Vorinstanz die Gründe dargelegt hat, weshalb nach ihrer Auffassung der RAD-Untersuchungsbericht vom 13. Juli 2011 beweiskräftig ist und darauf abgestellt werden kann. Insbesondere werde darin in schlüssiger und nachvollziehbarer Weise aufgezeigt, dass sich das Verhalten des Beschwerdeführers während der Untersuchung nicht mit demjenigen anlässlich der Observation vereinbaren lasse. Die Berichte der behandelnden Ärzte, auch die zeitnah erstellten, seien mängelbehaftet und nicht beweiskräftig, da sie sich als Folge der Unkenntnis von den Observationsunterlagen bei der Befunderhebung in erster Linie auf die Angaben des Versicherten hätten abstützen und von unzutreffenden Annahmen hinsichtlich des Tagesablaufs sowie des Verhaltens ausserhalb der eigenen Wohnung ausgehen müssen. Einzig der RAD-Psychiater habe sich mit dem Ergebnis der Beweissicherung vor Ort auseinandersetzen können.
5.3 Zu beachten ist indessen, dass an die Beweiswürdigung strenge Anforderungen zu stellen sind, wenn einzig oder im Wesentlichen gestützt auf eine versicherungsinterne Abklärung und Beurteilung entschieden wird. Diesfalls sind bei auch nur geringen Zweifeln an der Zuverlässigkeit und Schlüssigkeit der ärztlichen Feststellungen ergänzende Abklärungen vorzunehmen (<ref-ruling>; Urteile 8C_23/2012 vom 5. Juni 2012 E. 5.2.3 und 9C_8/2011 vom 21. Feb-ruar 2011 E. 4.1.3).
5.3.1 Dr. med. F._, der die Ergebnisse der Observation kannte und in die betreffenden Unterlagen Einsicht hatte, stellte in seinem Bericht vom 13. Juli 2011 die Diagnose einer "Person, die eine Krankheit aus offensichtlicher Motivation vortäuscht". Er hielt fest, das vom Versicherten präsentierte Bild lasse sich nicht in den Rahmen einer psychiatrischen ICD-Diagnose zusammenfassen. Es sei der Eindruck entstanden, dass er in der Untersuchung nicht sein selbst erlebtes Leiden, sondern eine erfundene oder gelernte Geschichte wiedergegeben habe, um damit die Rolle als Kranker aufrechtzuerhalten, und dass er viel mehr Fähigkeiten habe als das, was von ihm und dem Gutachten des Zentrums X._ vom 23. Februar 2010) an- und wiedergegeben werde. Am Schluss fasste der RAD-Arzt die Ergebnisse der Beweissicherung vor Ort zusammen, wobei er den Unterschied im Verhalten des Versicherten anlässlich der Untersuchung und bei der Observation als evident bezeichnete.
5.3.2 Der Beurteilung des Dr. med. F._ widersprechen die Berichte des Zentrums X._ vom 1. September und des Instituts Y._ vom 17. Dezember 2011 diametral, sowohl in Bezug auf die Diagnose, als auch hinsichtlich der Arbeitsfähigkeit. Danach besteht eine rezidivierende depressive Störung, gegenwärtig schwere Episode mit psychotischen Symptomen (ICD-10 F33.3) bzw. eine paranoide Schizophrenie (ICD-10 F20.0); eine Arbeitsfähigkeit wird aktuell verneint. Es kommt dazu, dass in beiden Berichten ein Vortäuschen der Symptomatik klar verneint wird.
Bei dieser Beweislage darf nicht abschliessend auf den RAD-Untersuchungsbericht vom 13. Juli 2010 abgestellt und gleichzeitig der Beweiswert der gegenteilig lautenden Berichte vom 1. September und 17. Dezember 2011 mit der Begründung verneint werden, die Ärzte des Instituts Y._ hätten keine Kenntnis von den Observationsunterlagen gehabt, weshalb deren Befunderhebung mängelbehaftet sei. Vielmehr sind diese Ärzte mit dem Ergebnis der Beweissicherung vor Ort vom 20. September 2010 samt Videoaufnahmen über die Observation vom 29. Juni bis 8. September 2010 zu konfrontieren. Sollten die Ärzte des Instituts Y._ dennoch an ihrer Auffassung festhalten, wäre die Einholung eines gerichtlichen psychiatrischen Gutachtens unerlässlich, das die Observationsergebnisse mitzuberücksichtigen hätte. Zu diesem Zweck und danach neuer Entscheidung über die streitige Rentenaufhebung ist die Sache an die Vorinstanz zurückzuweisen.
6. Bei diesem Ausgang des Verfahrens hat die IV-Stelle die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Sein Gesuch um unentgeltliche Rechtspflege ist demzufolge gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird teilweise gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Bern, Sozialversicherungsrechtliche Abteilung, vom 3. Mai 2012 wird aufgehoben und die Sache an die Vorinstanz zurückgewiesen, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über die Beschwerde neu entscheide.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. September 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler