Sachverhalt:
A. Die am 24. Dezember 1947 geborene Z._ meldete sich im September 2002 bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 5. September 2007 sprach ihr die IV-Stelle des Kantons Aargau vom 1. Juni 2002 bis zum 30. November 2003 eine ganze und ab 1. Dezember 2003 aufgrund eines IV-Grades von 55 % eine halbe Invalidenrente zu. In teilweiser Gutheissung der dagegen erhobenen Beschwerde hob das Versicherungsgericht des Kantons Aargau mit Entscheid vom 28. Mai 2008 die Verfügung vom 5. September 2007 auf, soweit sie den Rentenanspruch ab 1. Dezember 2003 betraf, und wies die Angelegenheit zur Vornahme weiterer Abklärungen und zum Erlass einer neuen Verfügung an die IV-Stelle zurück. Nach zusätzlichen medizinischen Ermittlungen und Durchführung des Vorbescheidverfahrens sprach diese der Versicherten mit Verfügung vom 9. Juli 2009 aufgrund eines Invaliditätsgrades von 55 % eine halbe Invalidenrente ab 1. Juni 2002 zu. Gleichzeitig verfügte sie für zu viel ausgerichtete Rentenbetreffnisse eine Rückforderung im Betrag von insgesamt Fr. 6'532.- und deren Erlass im Umfang von Fr. 6'489.-.
B. In Gutheissung der Beschwerde der Z._ hob das Versicherungsgericht des Kantons Aargau mit Entscheid vom 13. Januar 2011 die Verfügung vom 9. Juli 2009 auf und sprach der Versicherten ab dem 1. Juni 2002 eine ganze Rente zu.
C. Die IV-Stelle des Kantons Aargau führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt die Aufhebung des angefochtenen Entscheides sowie die Zusprechung einer ganzen Invalidenrente ab 1. Juni 2002 bis 30. November 2003, einer halben Rente ab 1. Dezember 2003 bis 31. Juli 2009 und wiederum einer ganzen Rente ab 1. August 2009.
Z._ schliesst auf Abweisung der Beschwerde, während das kantonale Gericht und das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichten.
D. In Bezug auf die Rechtsfrage, zu welchem Zeitpunkt die Verwertbarkeit der Restarbeitsfähigkeit zu beurteilen sei, ist zwischen den sozialrechtlichen Abteilungen das Verfahren gemäss Art. 23 Abs. 2 BGG durchgeführt worden.

Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
1.2 Tatsächlicher Natur sind die Feststellungen zum Gesundheitszustand einer versicherten Person und der daraus resultierenden Arbeits(un)fähigkeit, die das Sozialversicherungsgericht gestützt auf medizinische Untersuchungen trifft; soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es um eine Rechtsfrage (<ref-ruling> E. 3.2 S. 397 ff.; Urteil 9C_133/2011 vom 29. April 2011 E. 1). Rechtsfrage ist auch, nach welchen Gesichtspunkten die Entscheidung über die Verwertbarkeit der Restarbeitsfähigkeit erfolgt (Urteil 9C_190/2009 vom 11. Mai 2009 E. 3.3).
2. 2.1 Das kantonale Gericht hat gestützt auf das Gutachten des Dr. med. J._ vom 19. Dezember 2008 eine Arbeitsfähigkeit von 50 % in leidensangepassten Tätigkeiten festgestellt. Es ist indessen der Auffassung, dass die Versicherte auf dem ausgeglichenen Arbeitsmarkt keine Stelle mehr finde. Bei Erlass der Verfügung vom 9. Juli 2009 sei sie 61 Jahre und sechseinhalb Monate alt gewesen und es sei eine relativ kurze Aktivitätsdauer von knapp zweieinhalb Jahren bis zum Erreichen des AHV-Alters verblieben; sie habe keinen Beruf erlernt und sei ausschliesslich im Gastgewerbe tätig gewesen, solche Arbeit sei ihr jedoch aufgrund der vom Gutachter festgestellten Einschränkungen nicht mehr zumutbar; schliesslich sei altersbedingt von einer geringen Anpassungsfähigkeit an eine neue Tätigkeit und Branche auszugehen. Folglich hat es - trotz der vorhandenen Restarbeitsfähigkeit - eine vollständige Erwerbsunfähigkeit angenommen und der Versicherten eine ganze Invalidenrente zugesprochen.
2.2 Streitig und zu prüfen ist die Verwertbarkeit der Restarbeitsfähigkeit. Die IV-Stelle beanstandet einzig, dass das kantonale Gericht für deren Beurteilung auf den Zeitpunkt des Erlasses der angefochtenen Verfügung am 9. Juli 2009 abgestellt hat. Gemäss Gutachten des Dr. med. J._ sei der Versicherten indessen bereits ab 1. Dezember 2003 eine körperlich leichte Tätigkeit im Umfang von 50 % zumutbar gewesen. Damals, mithin im Alter von 56 Jahren, sei das Finden einer angepassten Tätigkeit nicht ausgeschlossen gewesen.
Einigkeit besteht über den Anspruch auf eine ganze Rente vom 1. Juni 2002 bis 30. November 2003 aufgrund des vorinstanzlichen Entscheides vom 28. Mai 2008 (vgl. Art. 90 und Art. 91 lit. a BGG; <ref-ruling>) sowie ab 1. August 2009 infolge der Verwitwung der Versicherten (Art. 43 Abs. 1 IVG in Verbindung mit Art. 23 Abs. 3 und Art. 24 AHVG).
3. 3.1 Das trotz der gesundheitlichen Beeinträchtigung zumutbarerweise erzielbare Einkommen ist bezogen auf einen ausgeglichenen Arbeitsmarkt zu ermitteln, wobei an die Konkretisierung von Arbeitsgelegenheiten und Verdienstaussichten keine übermässigen Anforderungen zu stellen sind (im Einzelnen dazu SVR 2008 IV Nr. 62 S. 203, 9C_830/2007 E. 5.1). Das fortgeschrittene Alter wird, obgleich an sich ein invaliditätsfremder Faktor, in der Rechtsprechung als Kriterium anerkannt, welches zusammen mit weiteren persönlichen und beruflichen Gegebenheiten dazu führen kann, dass die einer versicherten Person verbliebene Resterwerbsfähigkeit auf dem ausgeglichenen Arbeitsmarkt realistischerweise nicht mehr nachgefragt wird, und dass ihr deren Verwertung auch gestützt auf die Selbsteingliederungslast nicht mehr zumutbar ist. Fehlt es an einer wirtschaftlich verwertbaren Resterwerbsfähigkeit, liegt eine vollständige Erwerbsunfähigkeit vor, die einen Anspruch auf eine ganze Invalidenrente begründet (Urteil I 831/05 vom 21. August 2006 E. 4.1.1 mit Hinweisen). Der Einfluss des Lebensalters auf die Möglichkeit, das verbliebene Leistungsvermögen auf dem ausgeglichenen Arbeitsmarkt zu verwerten, lässt sich nicht nach einer allgemeinen Regel bemessen, sondern hängt von den Umständen des Einzelfalls ab. Massgebend können die Art und Beschaffenheit des Gesundheitsschadens und seiner Folgen, der absehbare Umstellungs- und Einarbeitungsaufwand und in diesem Zusammenhang auch Persönlichkeitsstruktur, vorhandene Begabungen und Fertigkeiten, Ausbildung, beruflicher Werdegang oder Anwendbarkeit von Berufserfahrung aus dem angestammten Bereich sein (Urteile 9C_153/2011 vom 22. März 2012 E. 3.1; 9C_918/2008 vom 28. Mai 2009 E. 4.2.2 mit Hinweisen).
3.2 Die Möglichkeit, die verbliebene Arbeitsfähigkeit auf dem ausgeglichenen Arbeitsmarkt zu verwerten, hängt nicht zuletzt davon ab, welcher Zeitraum der versicherten Person für eine berufliche Tätigkeit und vor allem auch für einen allfälligen Berufswechsel noch zur Verfügung steht. Als massgeblicher Stichtag für die Beantwortung der Frage nach der Verwertbarkeit der Restarbeitsfähigkeit in Betracht fallen namentlich der Tag, ab dem eine volle oder teilweise Erwerbstätigkeit medizinisch zumutbar ist, jener des Rentenbeginns resp. der Änderung des Rentenanspruchs (vgl. Urteil 9C_145/2011 vom 30. Mai 2011 E. 3.4), weiter der Zeitpunkt, in dem eine Arbeitsfähigkeit aus medizinischer Sicht feststeht, oder derjenige des Verfügungserlasses (vgl. Urteil 9C_949/2008 vom 2. Juni 2009 E. 2, wo die Frage des massgeblichen Zeitpunktes offen gelassen wird).
Die bundesgerichtliche Rechtsprechung ist diesbezüglich nicht einheitlich. Während in der Mehrzahl der Urteile - regelmässig ohne Erwägungen zur Frage des massgeblichen Zeitpunktes - auf den Tag des Erlasses der Verfügung resp. des Einspracheentscheides abgestellt wurde (vgl. Urteile 9C_153/2011 vom 22. März 2012 E. 3.3; 8C_482/2010 vom 27. September 2010 E. 4.3; 9C_979/2009 vom 10. Februar 2010 E. 5; 9C_918/2008 vom 28. Mai 2009 E. 4.3; 9C_437/2008 vom 19. März 2009 E. 4.3 in: SVR 2009 IV Nr. 35 S. 97), nannte das Bundesgericht in dem von der Beschwerdeführerin zitierten Urteil 9C_124/2010 sowohl den Rentenbeginn als auch den Verfügungserlass, wobei letztlich der frühere Zeitpunkt des Rentenbeginns entscheidwesentlich war (Urteil 9C_124/2010 vom 21. September 2010 E. 5.3; ähnlich auch Urteil 8C_657/2010 vom 19. November 2010 E. 5.2.3).
Die im gesamten Bereich des Sozialversicherungsrechts geltende Schadenminderungspflicht und die daraus abgeleitete Selbsteingliederungslast (vgl. <ref-ruling> E. 4a S. 28 mit Hinweisen; Urteil 9C_916/2010 vom 20. Juni 2011 E. 2.2) gebieten grundsätzlich, die Frage nach der Verwertbarkeit der Restarbeitsfähigkeit möglichst früh zu beantworten. Für den Zeitpunkt des Rentenbeginns resp. der Änderung des Rentenanspruchs spricht, dass er von den Parteien nicht zu beeinflussen ist, dass dann eine Arbeitstätigkeit objektiv, d.h. unter medizinischen Gesichtspunkten zumutbar ist und dass die Invaliditätsbemessung, mithin der Einkommensvergleich (Art. 16 ATSG), ebenfalls für dieses Datum vorzunehmen ist (<ref-ruling> E. 4a S. 175; <ref-ruling> E. 4.2 S. 223 f.). Dagegen ist einzuwenden, dass zu diesem Zeitpunkt in vielen Fällen gerade die gesundheitlich bedingten Einschränkungen umstritten sind, diese einer (weiteren) Abklärung bedürfen (Art. 43 Abs. 1 ATSG) und erst anschliessend retrospektiv festgelegt werden; die versicherte Person hätte somit eine von ihr bestrittene und zudem (noch) nicht objektiv feststehende Arbeitsfähigkeit zu verwerten. Im jüngsten Entscheid zur hier interessierenden Frage wurde denn auch dem Zeitpunkt des Vorbescheides Gewicht beigemessen, und zwar im Wesentlichen mit der Begründung, zuvor habe keine Klarheit über die Restarbeitsfähigkeit bestanden, weshalb dem Versicherten deren Verwertung nicht früher zumutbar gewesen sei (Urteil 8C_880/2011 vom 21. März 2012 E. 5.4).
3.3 Zwecks Präzisierung der soeben dargelegten Rechtsprechung wurde im Rahmen des Verfahrens gemäss Art. 23 Abs. 2 BGG vorgeschlagen, für den Zeitpunkt, in welchem die Frage nach der Verwertbarkeit der (Rest-)Arbeitsfähigkeit bei vorgerücktem Alter beantwortet wird, abzustellen auf
a) den Rentenbeginn (bzw. im Revisionsfall die Änderung des Rentenanspruchs); oder
b) das Feststehen der medizinischen Zumutbarkeit einer (Teil-)Erwerbstätigkeit; oder
c) den Vorbescheid; oder
d) die Verfügung.
Die betroffenen Abteilungen haben sich für Variante b) entschieden.
3.4 Die medizinische Zumutbarkeit einer (Teil-)Erwerbstätigkeit steht fest, sobald die medizinischen Unterlagen diesbezüglich eine zuverlässige Sachverhaltsfeststellung erlauben. Auch wenn bereits Dr. med. S._ in seinem Gutachten vom 23. Dezember 2003 eine Arbeitsfähigkeit von "etwa 30-50 %" attestierte, ist dieses Datum nicht massgeblich, zumal das kantonale Gericht in einem ersten Beschwerdeverfahren den Sachverhalt als ungenügend abgeklärt erachtete. Erst das daraufhin von der Verwaltung eingeholte Gutachten des Dr. med. J._ vom 19. Dezember 2008 verschaffte Klarheit über die Arbeitsfähigkeit und bildete die - den Anforderungen an die Beweiskraft (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis) genügende - medizinische Grundlage für den Rentenentscheid. Im konkreten Fall ist demnach für die Rentenberechtigung ab 1. Dezember 2003 die Verwertbarkeit der Restarbeitsfähigkeit am 19. Dezember 2008 entscheidend.
3.5 Ende Dezember 2008 war die Versicherte 61 Jahre alt. Die vorinstanzlichen Erwägungen betreffend die Verwertbarkeit der Restarbeitsfähigkeit (E. 2.1) beziehen sich auf den 9. Juli 2009 und werden als solche von der Beschwerdeführerin nicht in Abrede gestellt. Sie gelten analog auch für den massgeblichen, rund ein halbes Jahr davor liegenden Zeitpunkt (vgl. Urteile 8C_482/2010 vom 27. September 2010 E. 4.2 und 4.3; 9C_949/2008 vom 2. Juni 2009 E. 2; 9C_437/2008 vom 19. März 2009 E. 4.3, in: SVR 2009 IV Nr. 35 S. 97). Die Beschwerde ist unbegründet.
4. Entsprechend dem Ausgang des Verfahrens sind die Gerichtskosten der Beschwerdeführerin aufzuerlegen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. Oktober 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann