Sachverhalt:
A. Die 1971 geborene K._ bezog nach einem im September 1990 erfolgten Suizidversuch ab dem 1. September 1991 eine ganze Rente der Invalidenversicherung (Verfügung vom 11. Februar 1994) sowie ab 1. Januar 1994, 1. Dezember 1995 und 1. Dezember 1997 Kinderrenten für ihre drei Söhne (Verfügungen vom 28. Februar 1994, 31. Januar 1996 und 27. Februar 1998). Nachdem die IV-Stelle des Kantons Thurgau einen unveränderten Invaliditätsgrad und Rentenanspruch bestätigt hatte (Verfügung vom 12. September 1995), reduzierte sie nach Ermittlung eines IV-Grades von 58 % die ganze auf eine halbe Rente (Verfügung vom 30. September 1998). Ab 1. Oktober 1999 anerkannte sie wiederum den Anspruch auf eine ganze Rente (Verfügung vom 30. November 2000), welcher von der mittlerweile zuständigen IV-Stelle Appenzell Ausserrhoden bestätigt wurde (Mitteilung vom 16. April 2003; Verfügung vom 12. Januar 2007). Der Wechsel von einer ganzen auf eine halbe Rente und wieder zurück auf eine ganze gründete in erster Linie auf einer Umstufung im Rahmen der angewendeten gemischten Methode.
Die erneut zuständige IV-Stelle des Kantons Thurgau leitete im Dezember 2009 ein weiteres Revisionsverfahren ein. Mit Verfügung vom 12. Mai 2010 ging sie zunächst von einem unveränderten Rentenanspruch aus, liess aber in der Folge ein polydisziplinäres Gutachten erstellen. Nach Durchführung des Vorbescheidverfahrens hob sie mit Verfügung vom 27. Januar 2011 bei einem Invaliditätsgrad von 23,55 % die Rente per Ende Februar 2011 auf.
B. Das Verwaltungsgericht des Kantons Thurgau hat die Beschwerde der K._ mit Entscheid vom 17. August 2011 abgewiesen.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, unter Aufhebung des Entscheides vom 17. August 2011 und der Verfügung vom 27. Januar 2011 sei ihr weiterhin eine ganze Rente der Invalidenversicherung auszurichten; eventualiter sei die Angelegenheit zur Vornahme ergänzender Abklärungen und anschliessender Neuverfügung an die Vorinstanz bzw. die IV-Stelle zurückzuweisen; subeventualiter seien ihr berufliche Massnahmen in Form von Integrationsmassnahmen zur sozialberuflichen Rehabilitation vorgängig zur Rentenaufhebung zuzusprechen. Ferner lässt sie um unentgeltliche Rechtspflege ersuchen.
Die IV-Stelle und das kantonale Gericht beantragen die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen oder auf Rüge hin berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. Das kantonale Gericht hat gestützt auf das Gutachten des medizinischen Instituts X._ vom 3. November 2010 festgestellt, der Gesundheitszustand der Versicherten habe sich im Vergleich zum Zeitpunkt der ursprünglichen Rentenzusprache resp. der 1998 erfolgten Begutachtung durch Dr. med. S._ verbessert; für leidensangepasste Tätigkeiten bestehe eine Arbeitsfähigkeit von 80 %. Weiter hat es einen Invaliditätsgrad von 27 bzw. 31 % ermittelt und folglich die revisionsweise Rentenaufhebung bestätigt. Ausserdem hat es einen vorgängigen Anspruch auf Eingliederungsmassnahmen verneint.
3. 3.1 Ändert sich der Invaliditätsgrad einer Rentenbezügerin oder eines Rentenbezügers erheblich, so wird die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben (Art. 17 Abs. 1 ATSG [SR 830.1]). Anlass zur Rentenrevision gibt jede wesentliche Änderung in den tatsächlichen Verhältnissen seit Zusprechung der Rente, die geeignet ist, den Invaliditätsgrad und damit den Anspruch zu beeinflussen. Insbesondere ist die Rente bei einer wesentlichen Änderung des Gesundheitszustandes oder der erwerblichen Auswirkungen des an sich gleich gebliebenen Gesundheitszustandes revidierbar (BGE 130 V 343 E. 3.5 S. 349 mit Hinweisen).
Zeitlicher Referenzpunkt für die Prüfung einer anspruchserheblichen Änderung bildet die letzte (der versicherten Person eröffnete) rechtskräftige Verfügung, welche auf einer materiellen Prüfung des Rentenanspruchs mit rechtskonformer Sachverhaltsabklärung, Beweiswürdigung und Durchführung eines Einkommensvergleichs (bei Anhaltspunkten für eine Änderung in den erwerblichen Auswirkungen des Gesundheitszustands) beruht (BGE 133 V 108 E. 5.4 S. 114).
3.2 Die Beschwerdeführerin ist der Ansicht, der Erlass der Verfügung vom 30. September 1998 bilde den massgeblichen zeitlichen Referenzpunkt. Bezüglich der Einschränkung im Haushaltsbereich sei indessen die Verfügung vom 12. Januar 2007, welche auf einer Haushaltsabklärung beruht, ausschlaggebend. Zudem bestehe kein Revisionsgrund, weil es sich bloss um eine unterschiedliche Würdigung eines gleich gebliebenen Sachverhaltes handle.
3.3 Die ursprüngliche Rentenzusprache beruhte auf dem polydisziplinären Gutachten des medizinischen Zentrums Z._ vom 22. November 1993. Diesbezüglich hat die Vorinstanz verbindlich (E. 1) festgestellt, dass der Anspruch orthopädisch, vorab aber psychisch begründet war. Die Weiterausrichtung der Rente stützte sich auf das Gutachten des Dr. med. S._ (Facharzt für Rheumatologie und Rehabilitation) vom 8. Mai 1998, welcher die psychiatrische Diagnose übernahm und als objektiven Befund festhielt, dass die Beschwerdeführerin "psychisch sehr nervös" sei. Bis zum polydisziplinären Gutachten des medizinischen Instituts X._ wurde sie nicht mehr umfassend untersucht - es liegen lediglich Verlaufsberichte von behandelnden Ärzten vor. Es kann offenbleiben, ob die Verfügung von 1991 oder jene von 1998 zeitlicher Referenzpunkt bildet, weil die Verwaltung angesichts der Feststellung des Dr. med. S._ auch 1998 von relevanten psychischen Beeinträchtigungen ausgehen durfte und musste.
Bei der Haushaltsabklärung steht die medizinische Beurteilung gerade nicht im Vordergrund, auch wenn die sich aus den medizinischen Diagnosen ergebenden Beeinträchtigungen und Behinderungen Grundlage für die Einschränkung im Aufgabenbereich bilden. Somit stellt eine rechtskräftige Verfügung, die auf einem Haushaltsbericht ohne erneute medizinische Abklärung basiert, keinen zeitlichen Referenzpunkt für die Frage nach einer anspruchserheblichen Änderung des Gesundheitszustandes dar (vgl. Urteil I 246/05 vom 30. Oktober 2007 E. 5.2.2 mit Hinweisen, nicht publiziert in: BGE 134 V 9). Ist im Vergleich zur Situation bis 1998 von einer erheblichen Verbesserung in psychiatrischer Hinsicht auszugehen, sind die Voraussetzungen für eine allseitige Prüfung des Rentenanspruchs in rechtlicher und tatsächlicher Hinsicht erfüllt (BGE 117 V 198 E. 4b S. 200; SVR 2004 IV Nr. 17 S. 53, I 526/02 E. 2.3; Urteil 9C_744/2008 vom 19. November 2008 E. 3.1.1 mit weiteren Hinweisen; vgl. auch E. 5.2).
4. 4.1 Bei der Beurteilung der Arbeitsunfähigkeit stützt sich die Verwaltung und im Beschwerdefall das Gericht auf Unterlagen, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Aufgabe des Arztes oder der Ärztin ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, ob die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen der Experten begründet sind (BGE 125 V 351 E. 3a S. 352 mit Hinweisen).
4.2 Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über eine Tatfrage (BGE 132 V 393 E. 3.2 S. 397 ff.), welche das Bundesgericht seiner Urteilsfindung zugrunde zu legen hat (E. 1). Die konkrete Beweiswürdigung stellt ebenfalls eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach Art. 61 lit. c ATSG Rechtsfrage (BGE 132 V 393 E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen), die das Bundesgericht im Rahmen der den Parteien obliegenden Begründungs- bzw. Rügepflicht (Art. 42 Abs. 2 BGG und Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.1 und 1.4.2 S. 254) frei überprüfen kann (Art. 106 Abs. 1 BGG).
4.2 Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über eine Tatfrage (BGE 132 V 393 E. 3.2 S. 397 ff.), welche das Bundesgericht seiner Urteilsfindung zugrunde zu legen hat (E. 1). Die konkrete Beweiswürdigung stellt ebenfalls eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach Art. 61 lit. c ATSG Rechtsfrage (BGE 132 V 393 E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen), die das Bundesgericht im Rahmen der den Parteien obliegenden Begründungs- bzw. Rügepflicht (Art. 42 Abs. 2 BGG und Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.1 und 1.4.2 S. 254) frei überprüfen kann (Art. 106 Abs. 1 BGG).
4.3 4.3.1 Die vorinstanzliche Beweiswürdigung ist nicht offensichtlich unrichtig und beruht auch nicht auf einer Rechtsverletzung: Das kantonale Gericht hat nachvollziehbar dargelegt, weshalb nicht auf den Bericht des Spitals Y._ vom 5. April 2011 abgestellt werden kann - darin wird lediglich auf "Diskrepanzen" des Gutachtens des medizinischen Instituts X._ zu eigenen Befunden hingewiesen, jedoch werden diese weder detailliert oder schlüssig ausgeführt noch wird eine abweichende Arbeitsfähigkeit attestiert (vgl. BGE 125 V 351 E. 3b/bb S. 353). Diesbezüglich ist zudem auf die Verschiedenheit von Behandlungs- und Begutachtungsauftrag hinzuweisen (vgl. BGE 125 V 351 E. 3b/cc S. 353). Weiter hat es zutreffend festgehalten, dass in diesem Bericht keine relevanten neuen Erkenntnisse enthalten sind. Ebenfalls hat es festgestellt, dass die Schulterproblematik hinreichend abgeklärt wurde, da auch die Ergebnisse des Arthro-MRI vom 1. Oktober 2010 berücksichtigt wurden und die Arbeitsfähigkeit unter Vermeidung des Einsatzes der rechten oberen Extremität beurteilt wurde. Entgegen den Einwänden der Beschwerdeführerin wurde im Gutachten des medizinischen Instituts X._ eine chronische vollständige Ruptur der Supra- und kleine Partialruptur der Infraspinatussehne mit Einfluss auf die Arbeitsfähigkeit diagnostiziert und eine rechtsseitige Hemihypästhesie festgestellt. Somit wurden diese Beschwerden in die Beurteilung miteinbezogen, zumal auch eine funktionelle Einarmigkeit eine Arbeitsfähigkeit nicht ausschliesst (Urteile 8C_207/2009 vom 8. September 2009 E. 3.2 und 8C_810/2009 vom 3. März 2010 E. 2.6.4). Die Beschwerdeführerin machte keine seit der Begutachtung des medizinischen Instituts X._ eingetretene, relevante gesundheitliche Verschlechterung geltend. Das kantonale Gericht hat daher in pflichtgemässer antizipierter Beweiswürdigung (BGE 122 V 157 E. 1d S. 162) auf weitere Abklärungen verzichtet.
4.3.2 Nach dem Gesagten ist die vorinstanzliche Feststellung betreffend die Verbesserung des Gesundheitszustandes für das Bundesgericht verbindlich (E. 1). Der erstmals im letztinstanzlichen Verfahren erwähnte Unfall (vgl. Art. 99 Abs. 1 BGG) hat sich nach Erlass der Verfügung vom 27. Januar 2011 ereignet. Eine damit verbundene gesundheitliche Verschlechterung ist deshalb auf dem Weg einer Neuanmeldung (Art. 87 Abs. 4 in Verbindung mit Abs. 3 IVV [SR 831.201]) geltend zu machen.
5. 5.1 Im Regelfall ist eine medizinisch attestierte Verbesserung der Arbeitsfähigkeit auf dem Weg der Selbsteingliederung zu verwerten. Nach langjährigem Rentenbezug können ausnahmsweise Erfordernisse des Arbeitsmarktes der Anrechnung einer medizinisch vorhandenen Leistungsfähigkeit und medizinisch möglichen Leistungsentfaltung entgegenstehen, wenn aus den Akten einwandfrei hervorgeht, dass die Verwertung eines bestimmten Leistungspotenzials ohne vorgängige Durchführung befähigender Massnahmen allein vermittels Eigenanstrengung der versicherten Person nicht möglich ist (SVR 2011 IV Nr. 30 S. 86, 9C_163/2009 E. 4.2.2). Diese Rechtsprechung ist grundsätzlich auf Fälle zu beschränken, in denen die revisionsweise Aufhebung der Invalidenrente eine versicherte Person betrifft, welche das 55. Altersjahr zurückgelegt oder die Rente seit mehr als 15 Jahren bezogen hat (SVR 2011 IV Nr. 73 S. 220, 9C_228/2010 E. 3.3). Ein Anspruch auf Massnahmen beruflicher Art setzt voraus, dass die objektive und subjektive Eingliederungsfähigkeit mit überwiegender Wahrscheinlichkeit ausgewiesen ist (Silvia Bucher, Eingliederungsrecht der Invalidenversicherung, 2011, Rz. 124 und 539).
5.2 Die Beschwerdeführerin bezog zwar im Zeitpunkt der Rentenaufhebung seit mehr als 18 Jahren eine Invalidenrente. Die Vorinstanz hat jedoch festgestellt, dass sie die vorhandene Restarbeitsfähigkeit von mindestens 30 % nie verwertet oder zu verwerten versucht habe. Die Gutachter des medizinischen Instituts X._ hätten aufgrund einer ausgeprägten subjektiven Krankheits- und Behinderungsüberzeugung berufliche Massnahmen für kaum durchführbar und nicht empfehlenswert gehalten. Die berufliche Integration werde durch einen sekundären Krankheitsgewinn und fehlende Eigenanstrengung behindert (vgl. SVR 2011 IV Nr. 30 S. 86, 9C_163/2009 vom 10. September 2010 E. 4.3.3). Diese Feststellungen sind nicht offensichtlich unrichtig und daher für das Bundesgericht verbindlich (E. 1). Daran ändert auch die von der Beschwerdeführerin erstmals letztinstanzlich vorgebrachte und daher ohnehin unzulässige Behauptung (Art. 99 Abs. 1 BGG; Ulrich Meyer/Johanna Dormann, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 47 zu Art. 99 BGG), sie habe seit der Rentenaufhebung bereits einige Einsätze im Rahmen von leichten Tätigkeiten verrichtet und dabei jeweils nach einer Stunde ihre Belastungsgrenze erreicht, nichts. Das kantonale Gericht hat nicht Bundesrecht verletzt, indem es unter den gegebenen Umständen einen Anspruch auf Eingliederungsmassnahmen verneint hat.
6. 6.1 Das kantonale Gericht hat nicht offensichtlich unrichtig und daher für das Bundesgericht verbindlich festgestellt (E. 1), dass die Arbeitsfähigkeit für leidensangepasste Tätigkeiten 80 % betrage.
6.2 Ausgehend von einer Teilerwerbstätigkeit von 83 % hat die Vorinstanz im Erwerbsbereich bei Annahme eines Abzugs vom Tabellenlohn einen Invaliditätsgrad von 29,2 % (gewichtet) ermittelt. Im Haushaltsbereich hat sie - wie von der Beschwerdeführerin beantragt - unter Berücksichtigung des Abklärungsberichts Haushalt vom 13. Januar 2005 einen Invaliditätsgrad von 7,9 % (gewichtet) errechnet.
6.3 Die Invaliditätsbemessung wird im Übrigen nicht angefochten und es besteht kein Anlass zu einer Prüfung von Amtes wegen (BGE 125 V 413 E. 1b und 2c S. 415 ff.; BGE 110 E. 4a S. 53). Bei einem resultierenden Invaliditätsgrad von insgesamt höchstens 37,1 % hat die Vorinstanz folglich zu Recht die Rentenaufhebung bestätigt (Art. 28 Abs. 2 IVG).
7. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdeführerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Ihrem Gesuch um unentgeltliche Rechtspflege im Sinne des Verzichts auf Gerichtskosten kann entsprochen werden (Art. 64 BGG; BGE 125 V 201 E. 4a S. 202). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG hingewiesen, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten hat, wenn sie später dazu in der Lage ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Der Beschwerdeführerin wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau, der Ausgleichskasse des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 1. Februar 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann