Sachverhalt:
A. Der 1958 geborene B._ meldete sich erstmals im November 1996 bei der Invalidenversicherung zum Leistungsbezug an. Nachdem die IV-Stelle Luzern einen Leistungsanspruch verneint hatte (Verfügung vom 22. Oktober 1998), sprach sie ihm auf Neuanmeldung hin ab 1. Oktober 1999 eine ganze Invalidenrente nebst Zusatzrenten für seine Kinder zu (Verfügung vom 4. Oktober 2000). Mit Mitteilung vom 22. November 2006 bestätigte die IV-Stelle dem Versicherten einen unveränderten Invaliditätsgrad und Rentenanspruch. Im März 2009 leitete die Verwaltung erneut ein Revisionsverfahren ein, in dessen Verlauf sie insbesondere eine Observation und eine psychiatrische Begutachtung des Versicherten veranlasste. Nach Durchführung des Vorbescheidverfahrens hob sie mit Verfügung vom 30. September 2010 die bisherige Rente rückwirkend ab 1. Oktober 1999 auf. Gleichzeitig kündigte sie für die Zeit ab 1. Juli 2005 die Rückforderung von zu Unrecht ausgerichteten Rentenleistungen mittels separater Verfügung an.
B. Dagegen liess B._ Beschwerde erheben und u.a. folgende Anträge stellen:
"1. Die Verfügung der Beschwerdegegnerin vom 30. September 2010 sei aufzuheben.
2. Die Beschwerdegegnerin sei anzuweisen, dem Beschwerdeführer weiterhin eine ganze IV-Rente auszurichten.
3. Eventualiter: Von einer Rückerstattungspflicht des Beschwerdeführers von zu Unrecht ausgerichteten Rentenleistungen sei abzusehen."
Das Verwaltungsgericht des Kantons Luzern wies das Rechtsmittel mit Entscheid vom 17. Oktober 2011 ab, soweit es darauf eintrat. Sodann wies es ein Gesuch um unentgeltliche Rechtspflege wegen Aussichtslosigkeit der Beschwerde ab.
C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, der Entscheid vom 17. Oktober 2011 sei aufzuheben und von der rückwirkenden Aufhebung der Invalidenrente sei abzusehen.
Die IV-Stelle und das kantonale Gericht schliessen auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.
Erwägungen:
1. Der Beschwerdeführer bringt gegen die Aufhebung der Invalidenrente an sich, d.h. mit Wirkung ex nunc et pro futuro (vgl. Art. 88bis Abs. 2 lit. a IVV [SR 831.201]) nichts vor, was den gesetzlichen Antrags- und Begründungsanforderungen genügte. Aus der Beschwerdebegründung, welche für die Auslegung der Rechtsbegehren heranzuziehen ist (Anwaltsrevue 2009 8 S. 393, 9C_251/2009 E. 1.3 mit Hinweisen; ULRICH MEYER/JOHANNA DORMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 2a und 7 zu Art. 107 BGG), ergibt sich vielmehr, dass der vorinstanzliche Entscheid effektiv nur insoweit angefochten ist, als damit die Rückwirkung der Rentenaufhebung bestätigt wird.
2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG).
3. 3.1 Nach Art. 53 Abs. 2 ATSG (SR 830.1) in Verbindung mit Art. 2 ATSG und Art. 1 Abs. 1 IVG kann die IV-Stelle jederzeit, insbesondere auch wenn die Voraussetzungen der Revision nach Art. 17 Abs. 1 ATSG nicht erfüllt sind (Urteil 9C_1014/2008 vom 14. April 2009 E. 3.1), auf formell rechtskräftige Verfügungen oder Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist. Die Wiedererwägung im Sinne dieser Bestimmung dient der Korrektur einer anfänglich unrichtigen Rechtsanwendung einschliesslich unrichtiger Feststellung im Sinne der Würdigung des Sachverhalts (BGE 117 V 8 E. 2c S. 17 mit Hinweis; Urteile 9C_290/2009 vom 25. September 2009 E. 3.1.3; 9C_215/2007 vom 2. Juli 2007 E. 3.1). Darunter fällt insbesondere eine unvollständige Sachverhaltsabklärung aufgrund einer klaren Verletzung des Untersuchungsgrundsatzes (vgl. Art. 43 Abs. 1 ATSG und Art. 61 lit. c ATSG; Urteil 9C_466/2010 vom 23. August 2010 E. 3.2.2).
Ob die Verwaltung bei der Rentenzusprache den Untersuchungsgrundsatz (vgl. Art. 43 Abs. 1 ATSG; BGE 132 V 93 E. 4 S. 99 f.; zur Rechtslage vor Inkrafttreten des ATSG vgl. SVR 2006 IV Nr. 10 S. 38, I 457/04 E. 2.2 und 4.1) und andere bundesrechtliche Vorschriften beachtet hat, ist frei überprüfbare Rechtsfrage (BGE 132 V 393 E. 3.2 und 4 S. 397 ff.; Urteile 9C_466/2010 vom 23. August 2010 E. 3.2.2; 9C_941/2008 vom 18. Februar 2009 E. 3.2).
3.2 Das kantonale Gericht hat zu Recht die wiedererwägungsweise Aufhebung der Invalidenrente bestätigt. Sowohl die auf dem Bericht des Dr. med. R._ vom 6. August 1999 beruhende Rentenzusprache als auch die auf das Gutachten des Zentrums Y._ vom 8. September 2005 gestützte Bestätigung des Anspruchs seien zweifellos unrichtig gewesen; aufgrund des Gutachtens des Dr. med. G._ vom 22. Juni 2010 habe keine rentenbegründende Invalidität bestanden, und die Berichtigung der ursprünglichen Leistungsverfügung sei von erheblicher Bedeutung. Mit Relevanz in diesem Zusammenhang fällt einzig die Rüge in Betracht (vgl. E. 1), das Gutachten des Dr. med. G._ sei unvollständig, weil eine Stellungnahme zu den geltend gemachten Schlafstörungen fehle. Das Vorbringen hält nicht stand: Einerseits wies der Experte darauf hin, dass die entsprechende Angabe naturgemäss subjektiver Natur sei; anderseits ist die Einschätzung der medizinischen Situation durch Anamnese und objektive Befunde einleuchtend begründet (vgl. BGE 134 V 231 E. 5.1 S. 232; 125 V 351 E. 3a S. 352 mit Hinweis).
3.3 Die Herabsetzung oder Aufhebung der Renten erfolgt (a) frühestens vom ersten Tag des zweiten der Zustellung der Verfügung folgenden Monats an oder (b) rückwirkend vom Eintritt der für den Anspruch erheblichen Änderung, wenn die unrichtige Ausrichtung einer Leistung darauf zurückzuführen ist, dass der Bezüger sie unrechtmässig erwirkt hat oder der ihm gemäss Artikel 77 zumutbaren Meldepflicht nicht nachgekommen ist (Art. 88bis Abs. 2 IVV). Diese Bestimmungen sind insbesondere auch bei einer wiedererwägungsweisen Rentenaufhebung anwendbar (Urteil 9C_11/2008 vom 29. April 2008 E. 4.2.1 mit Hinweisen). Die Tatbestände von Art. 88bis Abs. 2 lit. b IVV sind zudem mit einer Strafdrohung verbunden (Art. 70 IVG in Verbindung mit Art. 87 Abs. 1 und 5 AHVG).
3.3 Die Herabsetzung oder Aufhebung der Renten erfolgt (a) frühestens vom ersten Tag des zweiten der Zustellung der Verfügung folgenden Monats an oder (b) rückwirkend vom Eintritt der für den Anspruch erheblichen Änderung, wenn die unrichtige Ausrichtung einer Leistung darauf zurückzuführen ist, dass der Bezüger sie unrechtmässig erwirkt hat oder der ihm gemäss Artikel 77 zumutbaren Meldepflicht nicht nachgekommen ist (Art. 88bis Abs. 2 IVV). Diese Bestimmungen sind insbesondere auch bei einer wiedererwägungsweisen Rentenaufhebung anwendbar (Urteil 9C_11/2008 vom 29. April 2008 E. 4.2.1 mit Hinweisen). Die Tatbestände von Art. 88bis Abs. 2 lit. b IVV sind zudem mit einer Strafdrohung verbunden (Art. 70 IVG in Verbindung mit Art. 87 Abs. 1 und 5 AHVG).
3.4 3.4.1 Die Vorinstanz hat zutreffend festgestellt, in der angefochtenen Verfügung sei lediglich der für eine Rückforderung in Frage kommende Zeitrahmen, nicht aber diese selber festgelegt worden. Folglich ist sie auf das Rechtsbegehren betreffend die Rückerstattungspflicht nicht eingetreten. Was den Zeitpunkt der Rentenaufhebung anbelangt, so bildet(e) dieser einen umstrittenen Teilaspekt des durch die Verfügung bestimmten Rechtsverhältnisses (vgl. BGE 125 V 413 E. 1b S. 414 f.). Diesbezüglich hat das kantonale Gericht nur auf die Regelung von Art. 88bis Abs. 2 lit. b IVV verwiesen, ohne Sachverhaltsfeststellungen zu den entsprechenden Tatbestandsvoraussetzungen zu treffen (vgl. Art. 61 lit. c ATSG). Diese lassen sich indessen durch das Bundesgericht ergänzen (E. 2).
3.4.2 Aus dem - vom kantonalen Gericht zu Recht für beweiskräftig gehaltenen (vgl. BGE 125 V 351 E. 3a S. 352) - Gutachten des Dr. med. G._ geht hervor, es beständen keine Hinweise, dass die Arbeitsfähigkeit des Beschwerdeführers aus psychiatrischer Sicht jemals eingeschränkt gewesen sei. Dass sich die persönlichen oder wirtschaftlichen Verhältnisse seit der Leistungszusprache wesentlich verändert haben sollen, ist nicht ersichtlich und wurde auch von der IV-Stelle nie geltend gemacht. Von einer Verletzung der Meldepflicht (vgl. Art. 77 IVV und Art. 31 ATSG) kann daher nicht die Rede sein.
3.4.3 Es steht fest, dass dem Beschwerdeführer die bisherige Tätigkeit als Handlanger im Hochbau aufgrund der eingeschränkten Sehfähigkeit nicht mehr zumutbar ist. Ausserdem sind verschiedene Unfälle aktenkundig, und in den massgeblichen medizinischen Unterlagen wird namentlich von "somatoformer Schmerzstörung" (MEDAS-Gutachten vom 11. November 1997 und Gutachten des Zentrums Y._ vom 8. September 2005), "chronifizierter depressiver Entwicklung mit ausgeprägter Somatisierungstendenz" (Bericht des Dr. med. R._ vom 6. August 1999) und "Schmerzverarbeitungsstörung" (Gutachten des Dr. med. G._ vom 22. Juni 2010) gesprochen. Damit ist eine gewisse gesundheitliche Beeinträchtigung erstellt, auch wenn sie invalidenversicherungsrechtlich (abgesehen vom Augenleiden) nicht von Bedeutung ist. Weiter sind Aggravation, subjektive Krankheitsüberzeugung und Selbstlimitierung aus allen genannten medizinischen Aktenstücken klar ersichtlich, was die IV-Stelle im vorinstanzlichen Verfahren selber geltend machte. Nach verbindlicher vorinstanzlicher Feststellung (E. 2) ist nicht nachvollziehbar, aus welchen Gründen die IV-Stelle dem Versicherten eine ganze Rente zusprach. Dies sei in offenkundiger Verletzung des Untersuchungsgrundsatzes als auch in unrichtiger Anwendung der für die konkrete Invaliditätsbemessung einschlägigen Rechtsregeln erfolgt. Gleiches gelte für die Rentenbestätigung im November 2006. Angesichts der aktenmässig ausgewiesenen Umstände ist der Vorwurf einer unrechtmässigen Erwirkung von Rentenleistungen zu wenig gesichert. Allein eine unterschiedliche Auffassung über die Arbeitsfähigkeit mit entsprechend aggraviertem Verhalten, das als solches leicht erkennbar war (und entsprechend dokumentiert wurde), genügt dafür nicht. Der Tatbestand von Art. Art. 88bis Abs. 2 lit. b IVV ist daher nicht erfüllt. Es wurde denn auch das gegen den Versicherten geführte Strafverfahren, bei welchem Betrug und Widerhandlung gegen das AHVG (vgl. E. 3.3) zur Debatte standen, eingestellt. Im Übrigen ist nicht ersichtlich, dass die IV-Stelle, welche dabei als Privatklägerin auftrat, ein Rechtsmittel gegen die Einstellungsverfügung ergriffen haben soll. Die Rente ist nach dem Gesagten nicht rückwirkend, sondern lediglich ex nunc et pro futuro (Art. 88bis Abs. 2 lit. a IVV) aufzuheben.
3.4.3 Es steht fest, dass dem Beschwerdeführer die bisherige Tätigkeit als Handlanger im Hochbau aufgrund der eingeschränkten Sehfähigkeit nicht mehr zumutbar ist. Ausserdem sind verschiedene Unfälle aktenkundig, und in den massgeblichen medizinischen Unterlagen wird namentlich von "somatoformer Schmerzstörung" (MEDAS-Gutachten vom 11. November 1997 und Gutachten des Zentrums Y._ vom 8. September 2005), "chronifizierter depressiver Entwicklung mit ausgeprägter Somatisierungstendenz" (Bericht des Dr. med. R._ vom 6. August 1999) und "Schmerzverarbeitungsstörung" (Gutachten des Dr. med. G._ vom 22. Juni 2010) gesprochen. Damit ist eine gewisse gesundheitliche Beeinträchtigung erstellt, auch wenn sie invalidenversicherungsrechtlich (abgesehen vom Augenleiden) nicht von Bedeutung ist. Weiter sind Aggravation, subjektive Krankheitsüberzeugung und Selbstlimitierung aus allen genannten medizinischen Aktenstücken klar ersichtlich, was die IV-Stelle im vorinstanzlichen Verfahren selber geltend machte. Nach verbindlicher vorinstanzlicher Feststellung (E. 2) ist nicht nachvollziehbar, aus welchen Gründen die IV-Stelle dem Versicherten eine ganze Rente zusprach. Dies sei in offenkundiger Verletzung des Untersuchungsgrundsatzes als auch in unrichtiger Anwendung der für die konkrete Invaliditätsbemessung einschlägigen Rechtsregeln erfolgt. Gleiches gelte für die Rentenbestätigung im November 2006. Angesichts der aktenmässig ausgewiesenen Umstände ist der Vorwurf einer unrechtmässigen Erwirkung von Rentenleistungen zu wenig gesichert. Allein eine unterschiedliche Auffassung über die Arbeitsfähigkeit mit entsprechend aggraviertem Verhalten, das als solches leicht erkennbar war (und entsprechend dokumentiert wurde), genügt dafür nicht. Der Tatbestand von Art. Art. 88bis Abs. 2 lit. b IVV ist daher nicht erfüllt. Es wurde denn auch das gegen den Versicherten geführte Strafverfahren, bei welchem Betrug und Widerhandlung gegen das AHVG (vgl. E. 3.3) zur Debatte standen, eingestellt. Im Übrigen ist nicht ersichtlich, dass die IV-Stelle, welche dabei als Privatklägerin auftrat, ein Rechtsmittel gegen die Einstellungsverfügung ergriffen haben soll. Die Rente ist nach dem Gesagten nicht rückwirkend, sondern lediglich ex nunc et pro futuro (Art. 88bis Abs. 2 lit. a IVV) aufzuheben.
3.5 Bei diesem Ergebnis hat der Beschwerdeführer für das vorinstanzliche Verfahren zwar nicht zwingend (vgl. SZS 2009 S. 133, 9C_672/2008 E. 5.2.1) Anspruch auf eine ungekürzte Parteientschädigung (vgl. E. 1), jedenfalls aber (ergänzend) Anspruch auf unentgeltliche Rechtspflege. Denn das kantonale Rechtsmittel war auch bei prospektiver Beurteilung nicht aussichtslos: In der Form eines Eventualantrags verlangte er explizit, es sei abzusehen von der "Rückerstattungspflicht" und somit sinngemäss von der Rückwirkung der Rentenaufhebung (vgl. E. 3.4.1). Zur Begründung führte er an, nach Lage der Akten sei er bei der Rentenzusprache vollständig arbeitsunfähig gewesen, und die Aufhebung einer Invalidenrente infolge Wiedererwägung sei nur ex nunc et pro futuro zulässig; zur Untermauerung seines Standpunktes reichte er die Einstellungsverfügung der Staatsanwaltschaft vom 2. September 2011 betreffend Betrug und Widerhandlung gegen das AHVG ein. Daher und angesichts der finanziellen Verhältnisse des Beschwerdeführers ist der Anspruch auf unentgeltliche Rechtspflege im kantonalen Beschwerdeverfahren (Art. 61 lit. f ATSG; Art. 29 Abs. 3 BV) - soweit der entsprechende Antrag nicht zufolge Zuerkennung einer Parteientschädigung gegenstandslos wird - zu bejahen. Die Beschwerde ist auch in diesem Punkt begründet.
4. Entsprechend dem Ausgang des Verfahrens sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG). Dem obsiegenden, anwaltlich vertretenen Beschwerdeführer steht eine Parteientschädigung zu (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Luzern, Verwaltungsrechtliche Abteilung, vom 17. Oktober 2011 und die Verfügung der IV-Stelle Luzern vom 30. September 2010 werden betreffend den Rentenanspruch vor 1. Dezember 2010 aufgehoben.
2. Die Dispositiv-Ziffern 2 und 3 des Entscheids vom 17. Oktober 2011 werden aufgehoben. Die Sache wird an das kantonale Gericht zurückgewiesen, damit es die Partei- und Verfahrenskosten des vorangegangenen Verfahrens im Sinne der Erwägungen neu verlege.
3. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
4. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Mai 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann