Sachverhalt:
A. A.a Z._, geboren 1956, arbeitete als Maschinenbedienerin in der Firma G._ AG Der letzte effektive Arbeitstag war der 7. Juni 2003. Die Arbeitgeberin löste den Vertrag aus gesundheitlichen Gründen auf den 30. April 2004 auf. Am 29. März 2004 meldete Z._ sich unter Angabe einer seit Juni 2003 bestehenden Fibromyalgie (mit Symptomen seit etwa fünf Jahren) bei der IV-Stelle des Kantons St. Gallen zum Bezug von Leistungen der Invalidenversicherung an. Die IV-Stelle klärte die medizinischen und wirtschaftlichen Verhältnisse ab und gab bei Dres. med. B._, Spezialarzt FMH Innere Medizin, Physikalische Medizin und Rehabilitation, speziell Rheumaerkrankungen, und A._, Psychiatrie und Psychotherapie FMH, ein interdisziplinäres (internistisch-rheumatologisches sowie psychiatrisches) Gutachten (vom 15. Februar/ 25. April 2006) in Auftrag. Mit Verfügungen vom 20. Juni 2006 wies sie je einen Anspruch auf Invalidenrente und auf Arbeitsvermittlung ab. Die gegen die Verfügung betreffend Invalidenrente gerichtete Einsprache wies sie nach zusätzlichen medizinischen Abklärungen mit Entscheid vom 15. Dezember 2006 ab.
A.b Soweit es darauf eintrat, wies das Versicherungsgericht des Kantons St. Gallen die von Z._ erhobene Beschwerde mit Entscheid vom 18. März 2008 ab. Zur Begründung führte es im Wesentlichen an, dass bis zum massgeblichen Zeitpunkt des Einspracheentscheides die diagnostizierten somatischen und psychischen Leiden keine Einschränkung der Arbeitsfähigkeit in einer behinderungsangepassten Tätigkeit bedingt hätten. Falls seit dem Einspracheentscheid eine anhaltende gesundheitliche Verschlechterung eingetreten sei, sei dies im Rahmen einer Neuanmeldung geltend zu machen.
A.c Mit Urteil 8C_309/2008 vom 28. November 2008 hiess das Bundesgericht die hiegegen eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten gut. Es wies die Sache an die IV-Stelle zurück, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch neu verfüge. Dabei kam es zusammenfassend zum Schluss, dass bezüglich des Gutachtens des Dr. med. B._ erhebliche und nicht überzeugend ausgeräumte Ungereimtheiten bestünden und ergänzende Abklärungen zur Frage der somatisch bedingten Einschränkung der Arbeitsfähigkeit angezeigt seien (E. 4.4). Eine abschliessende Beurteilung der Frage, ob mit den diagnostizierten Leiden eine invalidisierende psychische Gesundheitsstörung vorliege, sei bei der gegebenen Aktenlage verfrüht.
A.d Die IV-Stelle beauftragte die MEDAS mit einer polydisziplinären medizinischen Begutachtung (Dres. med. M._, Chefarzt MEDAS, Allgemeine Medizin FMH, Facharzt für Neurologie, Psychiatrie und Psychotherapie FMH, Vertrauensarzt, L._, Innere Medizin/Rheumatologie FMH, Gutachter, und E._ Psychiatrie und Psychotherapie FMH). In der am 10. Juni 2009 erstatteten Expertise kamen die Gutachter zum Schluss, in der bisherigen Tätigkeit bestehe aus psychiatrischer Sicht wegen der anhaltenden somatoformen Schmerzstörung und der aktuell leichten bis höchstens mittelschweren depressiven Episode eine Arbeitsunfähigkeit von 30 % (dies im Durchschnitt seit Aufgabe der beruflichen Tätigkeit im Juni 2003). Aus rheumatologischer Sicht könnten wegen der im Gutachten geschilderten Reaktionen der Versicherten und der Unmöglichkeit, eine adäquate klinische Untersuchung des Bewegungsapparates durchführen zu können, keine prozentualen Angaben gemacht werden. Bezüglich der Arbeitsfähigkeit in anderer Tätigkeit gelte aus psychiatrischer Sicht das Gleiche. Auf somatischer Seite seien unter Berücksichtigung vor allem der radiologischen Befunde qualitative Einschränkungen lediglich für das Zervikalsyndrom anzugeben. Unter deren Berücksichtigung könnten wegen des speziellen Verhaltens der Versicherten in der Untersuchungssituation und der Unmöglichkeit einer auch nur einigermassen relevanten klinischen Untersuchung keine weiteren prozentualen Angaben gemacht werden. Mit Vorbescheid vom 25. Juni 2009 und Verfügung vom 19. August 2009 wies die IV-Stelle das Rentenbegehren ab (Invaliditätsgrad von 30 %).
B. Die von Z._ erhobene Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 21. September 2011 in dem Sinne gut, dass es der Versicherten mit Wirkung ab 1. Juni 2004 eine Viertelsrente zusprach; es wies die Sache zur Ermittlung und Ausrichtung der Rente an die Verwaltung zurück.
C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten. Sie beantragt Aufhebung des angefochtenen Entscheides und Bestätigung der Verfügung vom 19. August 2009 im Ergebnis.
Z._ schliesst auf Abweisung der Beschwerde. Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf Vernehmlassung.
Erwägungen:
1. Nach der Rechtsprechung kommt einer anhaltenden somatoformen Schmerzstörung (ICD-10 F45.4) ebenso wie grundsätzlich sämtlichen pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebildern ohne nachweisbare organische Grundlage (BGE 136 V 279 E. 3.2.3 S. 283), u.a. Somatisierungsstörungen (ICD-10 F45.0; SVR 2011 IV Nr. 26 S. 73, 9C_662/2009 E. 2.3), nur ausnahmsweise invalidisierender, d.h. einen Rentenanspruch begründender Charakter zu (Art. 4 Abs. 1 IVG sowie Art. 3 Abs. 1 und Art. 6 ATSG; grundlegend BGE 130 V 352). Entscheidend ist, ob und inwiefern die versicherte Person über psychische Ressourcen verfügt, die es ihr erlauben, trotz ihren subjektiv erlebten Schmerzen einer Arbeit nachzugehen (BGE 130 V 352 E. 2.2.4 S. 355; 127 V 294 E. 4b/cc in fine und E. 5a S. 299 unten). Umstände, die bei Vorliegen eines solchen Krankheitsbildes die Verwertung der verbliebenen Arbeitskraft auf dem Arbeitsmarkt als unzumutbar erscheinen lassen können, sind die erhebliche Schwere, Intensität, Ausprägung und Dauer des psychischen Leidens (Komorbidität), chronische körperliche Begleiterkrankungen mit mehrjährigem Krankheitsverlauf bei unveränderter oder progredienter Symptomatik ohne längerfristige Remission, sozialer Rückzug, ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn), unbefriedigende Ergebnisse von konsequent durchgeführten Behandlungen (auch mit unterschiedlichem therapeutischem Ansatz) und gescheiterte Rehabilitationsmassnahmen bei vorhandener Motivation und Eigenanstrengung der versicherten Person (BGE 132 V 65 E. 4.2.2 S. 71; 130 V 352 E. 2.2.3 S. 353 ff.; Urteil 9C_1061/2009 vom 11. März 2010 E. 5.4.3.1.1). Umgekehrt sprechen u.a. eine erhebliche Diskrepanz zwischen den geschilderten Schmerzen und dem gezeigten Verhalten oder der Anamnese, die Angabe intensiver in der Umschreibung vager Schmerzen oder behauptete schwere Einschränkungen im Alltag bei weitgehend intaktem psychosozialen Umfeld gegen das Vorliegen eines invalidisierenden Gesundheitsschadens (BGE 131 V 49 E. 2. 1 S. 51). Ob und gegebenenfalls inwieweit einer versicherten Person unter Aufbringung allen guten Willens die Überwindung ihrer Schmerzen und die Verwertung ihrer verbleibenden Arbeitskraft zumutbar ist oder nicht, ist eine Rechtsfrage (BGE 130 V 352 E. 2.2.5 S. 355). Die rechtsanwendenden Behörden haben zu prüfen, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine im Hinblick auf eine erwerbliche Tätigkeit nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung zu erlauben (Urteil 9C_482/2010 vom 21. September 2010 E. 4.3).
2. 2.1 Die Vorinstanz befand (E. 1.2.3 S. 21), es sei irrelevant, welche Ursache die neben der somatoformen Schmerzstörung auftretende rezidivierende Depression habe, ob sie also selbstständig entstanden oder nur eine Folgekrankheit der somatoformen Schmerzstörung sei. Massgebend sei nur, ob sie geeignet ist, die versicherte Person (ganz oder auch nur teilweise) an der willentlichen Überwindung der Arbeitsunfähigkeitsüberzeugung zu hindern. Angesichts der bei der Versicherten objektiv vorhandenen Symptome der leichten bis mittelschweren depressiven Episode erweise sich die gutachterliche Einschätzung einer aufgrund eines Pausenbedarfs von 30 % eines Vollpensums eingeschränkten Arbeitsfähigkeit als deutlich überzeugender als die Behauptung der Verwaltung, die Folgen der Depression müssten ignoriert werden, weil es sich bei dieser Krankheit nicht um eine psychische Komorbidität handle. Das zumutbare Invalideneinkommen sei deshalb ausgehend von einem eingeschränkten Arbeitsfähigkeitsgrad von 70 % zu ermitteln.
2.2 Die Beschwerdeführerin rügt, entgegen der Auffassung der Vorinstanz bleibe in rechtlicher Hinsicht kein Raum für die Annahme einer bei der Beschwerdegegnerin mit psychischen Leiden begründeten (teilweisen) Einschränkung der Arbeitsfähigkeit. Indem sie rechtsprechungswidrig von einer invalidisierenden Wirkung einer leichten bis mittelschweren depressiven Episode bzw. deren Symptomatik ausgegangen sei und deshalb auf die gutachterliche Einschätzung der zumutbaren Arbeitsfähigkeit abgestellt habe, habe die Vorinstanz Bundesrecht verletzt. Nach dem Gesagten resultiere in Bezug auf die Gesamtbeurteilung der Arbeitsfähigkeit mangels eines invalidisierenden psychischen Gesundheitsschadens eine volle Arbeitsfähigkeit in einer leidensadaptierten Erwerbstätigkeit.
2.3 Dagegen wendet die Beschwerdegegnerin ein, die Vorinstanz habe zu Recht auf die im MEDAS-Gutachten festgesetzte Arbeitsfähigkeit von 70 % abgestellt, denn die entsprechenden Voraussetzungen (wie das Vorliegen einer erheblichen psychischen Komorbidität oder weiterer Ausnahmekriterien) seien erfüllt gewesen.
3. Ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine wegen der Schmerzstörung nicht mehr zumutbare erwerbliche Tätigkeit und damit auf eine rentenbegründende Invalidität zu gestatten, ist Rechtsfrage (SVR 2008 IV Nr. 23 S. 71 E. 2.2 [I 683/06]). Nach der Rechtsprechung (vorne E. 1) gilt die von den MEDAS-Gutachtern zusätzlich zur somatoformen Schmerzstörung diagnostizierte leichte bis höchstens mittelschwere depressive Episode als Begleiterscheinung der erwähnten Störung und nicht als selbstständige, vom Schmerzsyndrom losgelöste psychische Komorbidität, die sich aufgrund ihres Schweregrades unbestreitbar von der somatoformen Schmerzstörung unterscheiden liesse. Da bei der Versicherten in psychischer Hinsicht keine Invalidität im Rechtssinne vorlag, hat die Beschwerdeführerin den Rentenanspruch zu Recht verneint.
4. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 21. September 2011 aufgehoben.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Versicherungsgericht des Kantons St. Gallen zurückgewiesen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 15. Mai 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Schmutz