Sachverhalt:
A. Die 1962 geborene S._ war für verschiedene Arbeitgeber als Reinigungsangestellte tätig. Bei Auffahrunfällen im Oktober 1997 und Dezember 2000 erlitt sie jeweils eine Distorsion der Halswirbelsäule (HWS). Im Februar 2002 meldete sie sich bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle Luzern mit Verfügung vom 26. Juli 2007 einen Rentenanspruch mangels eines Gesundheitsschadens mit Auswirkung auf die Arbeitsfähigkeit.
B. In Gutheissung der Beschwerde der S._ hob das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 5. Mai 2009 die Verfügung vom 26. Juli 2007 auf und verpflichtete die IV-Stelle, der Versicherten vom 1. Dezember 2001 bis 31. März 2005 eine ganze Rente und ab 1. April 2005 eine Viertelsrente der Invalidenversicherung auszurichten.
C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, den Entscheid vom 5. Mai 2009 aufzuheben. S._ und das kantonale Gericht schliessen auf Abweisung der Beschwerde, das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
D. Mit Verfügung vom 12. Oktober 2009 wurde der Beschwerde die aufschiebende Wirkung zuerkannt. Ferner wurde mit Verfügung vom 7. Juli 2010 ein Ausstandsbegehren gegen Bundesrichter U. Meyer abgewiesen.
E. Am 20. August 2010 hat eine gemeinsame Sitzung der I. und II. sozialrechtlichen Abteilung gemäss Art. 23 BGG stattgefunden.
Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG).
2. Die Vorinstanz hat eine vollständige Arbeitsunfähigkeit ab dem Zeitpunkt des Unfalls am 13. Dezember 2000 bis Ende Dezember 2004 und eine Arbeitsfähigkeit im angestammten Beruf von 60 % ab Januar 2005 angenommen. Entsprechend hat sie aufgrund eines Prozentvergleichs den Invaliditätsgrad auf 100 resp. 40 % festgelegt. Die Beschwerdeführerin macht geltend, es fehle an einem objektivierbaren Gesundheitsschaden, weshalb von einer vollen funktionellen Leistungsfähigkeit der Versicherten auszugehen sei. Wenn als gesundheitliche Beeinträchtigung ein ätiologisch-pathogenetisch unerklärlicher Leidenszustand vorliege, komme diesem keine invalidisierende Wirkung zu.
3. 3.1 Nach der Rechtsprechung kann eine bei einem Unfall erlittene Verletzung im Bereich von HWS und Kopf auch ohne organisch nachweisbare (d.h. objektivierbare) Funktionsausfälle zu länger dauernden, die Arbeits- und Erwerbsfähigkeit beeinträchtigenden Beschwerden führen. Derartige Verletzungen sind gemäss Rechtsprechung durch ein komplexes und vielschichtiges Beschwerdebild (BGE 119 V 335 E. 1 S. 338; 117 V 359 E. 4b S. 360) mit eng ineinander verwobenen, einer Differenzierung kaum zugänglichen Beschwerden physischer und psychischer Natur gekennzeichnet (BGE 134 V 109 E. 7.1 S. 118). Diese mit Bezug auf die obligatorische Unfallversicherung - und dabei insbesondere hinsichtlich der adäquaten Kausalität zwischen Unfall und Gesundheitsschaden (vgl. BGE 134 V 109; 117 V 363) - entwickelten Grundsätze sind auch für die Invalidenversicherung massgebend. Auch hier kann eine spezifische HWS-Verletzung ohne organisch nachweisbare Funktionsausfälle mit dem für derartige Verletzungen typischen, komplexen und vielschichtigen Beschwerdebild die Arbeits- und Erwerbsfähigkeit beeinträchtigen (Urteil 8C_437/2008 vom 30. Juli 2009 E. 6.3). Aus dem Fehlen organisch nachweisbarer Befunde lässt sich in solchen Fällen jedenfalls nicht direkt auf uneingeschränkte Arbeitsfähigkeit schliessen. Damit ist indessen noch nichts über die invalidisierende Wirkung des Leidens gesagt. Diese beurteilt sich nach Art. 7 und 8 ATSG (SR 830.1) bzw. Art. 28 IVG und der dazu ergangenen Rechtsprechung.
3. 3.1 Nach der Rechtsprechung kann eine bei einem Unfall erlittene Verletzung im Bereich von HWS und Kopf auch ohne organisch nachweisbare (d.h. objektivierbare) Funktionsausfälle zu länger dauernden, die Arbeits- und Erwerbsfähigkeit beeinträchtigenden Beschwerden führen. Derartige Verletzungen sind gemäss Rechtsprechung durch ein komplexes und vielschichtiges Beschwerdebild (BGE 119 V 335 E. 1 S. 338; 117 V 359 E. 4b S. 360) mit eng ineinander verwobenen, einer Differenzierung kaum zugänglichen Beschwerden physischer und psychischer Natur gekennzeichnet (BGE 134 V 109 E. 7.1 S. 118). Diese mit Bezug auf die obligatorische Unfallversicherung - und dabei insbesondere hinsichtlich der adäquaten Kausalität zwischen Unfall und Gesundheitsschaden (vgl. BGE 134 V 109; 117 V 363) - entwickelten Grundsätze sind auch für die Invalidenversicherung massgebend. Auch hier kann eine spezifische HWS-Verletzung ohne organisch nachweisbare Funktionsausfälle mit dem für derartige Verletzungen typischen, komplexen und vielschichtigen Beschwerdebild die Arbeits- und Erwerbsfähigkeit beeinträchtigen (Urteil 8C_437/2008 vom 30. Juli 2009 E. 6.3). Aus dem Fehlen organisch nachweisbarer Befunde lässt sich in solchen Fällen jedenfalls nicht direkt auf uneingeschränkte Arbeitsfähigkeit schliessen. Damit ist indessen noch nichts über die invalidisierende Wirkung des Leidens gesagt. Diese beurteilt sich nach Art. 7 und 8 ATSG (SR 830.1) bzw. Art. 28 IVG und der dazu ergangenen Rechtsprechung.
3.2 3.2.1 Im Zusammenhang mit Schmerzleiden erwog das Eidg. Versicherungsgericht in BGE 127 V 294 E. 4c und 5a S. 298 f., dass eine fachärztlich festgestellte psychische Krankheit nicht ohne weiteres gleichbedeutend mit dem Vorliegen einer Invalidität ist. In jedem Einzelfall muss eine Beeinträchtigung der Erwerbsfähigkeit unabhängig von der Diagnose und grundsätzlich unbesehen der Ätiologie ausgewiesen und in ihrem Ausmass bestimmt sein. Entscheidend ist die nach einem weitgehend objektivierten Massstab zu erfolgende Beurteilung, ob und inwiefern der versicherten Person trotz ihres Leidens die Verwertung ihrer Restarbeitsfähigkeit auf dem ihr nach ihren Fähigkeiten offenstehenden ausgeglichenen Arbeitsmarkt noch sozial-praktisch zumutbar und für die Gesellschaft tragbar ist. Damit überhaupt von Invalidität gesprochen werden kann, sind von der soziokulturellen Belastungssituation zu unterscheidende und in diesem Sinne verselbstständigte psychische Störungen mit Auswirkungen auf die Arbeits- und Erwerbsfähigkeit unabdingbar.
Bezüglich der unter die Kategorie der psychischen Leiden fallenden somatoformen Schmerzstörungen entschied das Eidg. Versicherungsgericht in BGE 130 V 352 E. 2.2.2 und 2.2.3 S. 353 ff., dass im Rahmen der sozialversicherungsrechtlichen Leistungsprüfung Schmerzangaben durch damit korrelierende, fachärztlich schlüssig feststellbare Befunde hinreichend erklärbar sein müssen, andernfalls sich eine rechtsgleiche Beurteilung der Rentenansprüche nicht gewährleisten lässt. Solche Leiden vermögen in der Regel keine lang dauernde, zu einer Invalidität im Sinne von Art. 4 Abs. 1 IVG führende Einschränkung der Arbeitsfähigkeit zu bewirken. Die - nur in Ausnahmefällen anzunehmende - Unzumutbarkeit einer willentlichen Leidensüberwindung und eines Wiedereinstiegs in den Arbeitsprozess setzt voraus: das Vorliegen einer mitwirkenden, psychisch ausgewiesenen Komorbidität von erheblicher Schwere, Intensität, Ausprägung und Dauer oder aber das Vorhandensein anderer qualifizierter, mit gewisser Intensität und Konstanz erfüllter Kriterien wie chronische körperliche Begleiterkrankungen und mehrjähriger Krankheitsverlauf bei unveränderter oder progredienter Symptomatik ohne längerfristige Remission, ein ausgewiesener sozialer Rückzug in allen Belangen des Lebens, ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn) oder schliesslich unbefriedigende Behandlungsergebnisse trotz konsequent durchgeführter Behandlungsbemühungen (auch mit unterschiedlichem therapeutischem Ansatz) und gescheiterte Rehabilitationsmassnahmen bei vorhandener Motivation und Eigenanstrengung der versicherten Person.
In BGE 130 V 396 E. 6 S. 399 ff. hielt das Gericht hinsichtlich psychogener Schmerzzustände und der damit verbundenen Beweisschwierigkeiten überdies fest, dass die Annahme eines invalidisierenden Gesundheitsschadens grundsätzlich eine fachärztliche, lege artis auf die Vorgaben eines anerkannten Klassifikationssystems abgestützte Diagnose voraussetzt. Mit BGE 132 V 65 E. 4 S. 70 ff. beschloss das Eidg. Versicherungsgericht, die im Bereich der somatoformen Schmerzstörungen entwickelten Grundsätze bei der Würdigung des invalidisierenden Charakters von Fibromyalgien analog anzuwenden. In Bezug auf Chronic Fatigue Syndrome oder Neurasthenie (Urteile 9C_662/2009 vom 17. August 2010 E. 2.3; I 70/07 vom 14. April 2008 E. 5), dissoziative Sensibilitäts- und Empfindungsstörung (SVR 2007 IV Nr. 45 S. 149, I 9/07 E. 4) sowie dissoziative Bewegungsstörung (Urteil 9C_903/2007 vom 30. April 2008 E. 3.4) gelangte das Bundesgericht zum selben Schluss. In SVR 2008 IV Nr. 62 S. 203, 9C_830/2007 E. 4.2 schliesslich bestätigte das Bundesgericht die Rechtsprechung zum invalidisierenden Charakter anhaltender somatoformer Schmerzstörungen bei weitgehendem Fehlen eines somatischen Befundes und vergleichbaren pathogenetisch (ätiologisch) unklaren syndromalen Zuständen, nachdem es sich eingehend mit der daran geübten Kritik auseinandergesetzt hatte.
3.2.2 In der Rechtsprechung des Bundesgerichts finden sich zahlreiche Fälle, welche belegen, dass eine Distorsion der HWS sehr oft in eine chronifizierte Schmerzproblematik, dabei insbesondere in eine diagnostizierte anhaltende somatoforme Schmerzstörung, mündet (vgl. etwa Urteile 8C_644/2009 vom 17. März 2010; 9C_985/2009 vom 2. März 2010; 8C_736/2009 vom 20. Januar 2010; 8C_357/2009 vom 14. Dezember 2009; 8C_180/2009 vom 8. Dezember 2009; 8C_325/2009 vom 23. September 2009; 9C_486/2009 vom 17. August 2009; 8C_177/2009 vom 12. August 2009; 8C_368/2009 vom 4. August 2009; 8C_673/2008 vom 10. Juli 2009; 8C_659/2008 vom 7. Juli 2009; 8C_1040/2008 vom 8. Mai 2009; 8C_996/2008 vom 24. April 2009; 8C_217/2008 vom 20. März 2009; 8C_824/2008 vom 30. Januar 2009; 8C_802/2007 vom 5. Mai 2008; 8C_219/2007 vom 18. März 2008; 9C_128/2008 vom 17. März 2008; U 56/07 vom 25. Januar 2008; 9C_322/2007 vom 22. Januar 2008 mit weiteren Beispielen aus der Praxis des Eidg. Versicherungsgerichts in E. 4.1.2).
3.2.3 An ihrer Sitzung vom 20. August 2010 gemäss Art. 23 BGG haben die vereinigten sozialrechtlichen Abteilungen die Rechtsfrage beantwortet, ob die Rechtsprechung zur anhaltenden somatoformen Schmerzstörung (BGE 130 V 352) sinngemäss anwendbar sei, wenn sich die Frage nach der invalidisierenden Wirkung (Art. 4 IVG in Verbindung mit Art. 8 ATSG) einer spezifischen und unfalladäquaten HWS-Verletzung (Schleudertrauma) ohne organisch nachweisbare Funktionsausfälle stellt. Sie haben diese Rechtsfrage bejaht.
Aus Gründen der Rechtsgleichheit ist es in der Tat geboten, sämtliche pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebilder ohne nachweisbare organische Grundlage den gleichen sozialversicherungsrechtlichen Anforderungen zu unterstellen (Urteil I 70/07 vom 14. April 2008 E. 5). Es rechtfertigt sich daher, die in BGE 130 V 352 im Zusammenhang mit somatoformer Schmerzstörung entwickelten Kriterien auch für die Beurteilung der invalidisierenden Wirkung einer spezifischen HWS-Verletzung ohne organisch nachweisbare Funktionsausfälle analog anzuwenden. Dem steht der allenfalls organische Charakter des Leidens nicht entgegen, hat doch die Rechtsprechung die zu vorwiegend psychisch begründeten Schmerzstörungen (ICD-10: F45.4) entwickelten Regeln u.a. bereits auf die als organisches Leiden betrachtete Fibromyalgie (ICD-10: M79.0) übertragen (E. 3.2.1). Invaliditätsrechtlich ist auch von Bedeutung, dass als "Schleudertrauma" oder "Chronic Whiplash Injury" bezeichnete Beeinträchtigungen im Sinne eines komplexen und chronischen Beschwerdebildes bisher in keinem anerkannten medizinischen Klassifikationssystem (vgl. BGE 130 V 396 E. 6.3 S. 403) als Diagnose figurieren.
3.3 Die ärztlichen Stellungnahmen zum psychischen Gesundheitszustand und zu dem aus medizinischer Sicht (objektiv) vorhandenen Leistungspotential bilden unabdingbare Grundlage für die Beurteilung der Rechtsfrage, ob und gegebenenfalls inwieweit einer versicherten Person unter Aufbringung allen guten Willens die Überwindung ihres Leidens und die Verwertung ihrer verbleibenden Arbeitskraft zumutbar (E. 3.2.2) ist. Im Rahmen der freien Beweiswürdigung (Art. 61 lit. c ATSG) darf sich dabei die Verwaltung - und im Streitfall das Gericht - weder über die (den beweisrechtlichen Anforderungen [BGE 125 V 351 E. 3a S. 352] genügenden) medizinischen Tatsachenfeststellungen hinwegsetzen noch sich die ärztlichen Einschätzungen und Schlussfolgerungen zur (Rest-)Arbeitsfähigkeit unbesehen ihrer konkreten sozialversicherungsrechtlichen Relevanz und Tragweite zu eigen machen. Letzteres gilt namentlich dann, wenn die begutachtende Fachperson allein aufgrund der Diagnose einer anhaltenden somatoformen Schmerzstörung oder eines vergleichbaren Leidens eine Einschränkung der Arbeitsfähigkeit attestiert. Die rechtsanwendenden Behörden haben diesfalls mit besonderer Sorgfalt zu prüfen, ob die ärztliche Einschätzung der Arbeitsunfähigkeit auch invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mit berücksichtigt, welche vom sozialversicherungsrechtlichen Standpunkt aus unbeachtlich sind (vgl. BGE 127 V 294 E. 5a S. 299; AHI 2000 S. 153, I 554/98 E. 3), und ob die von den Ärzten anerkannte (Teil-)Arbeitsunfähigkeit auch im Lichte der für eine Unüberwindlichkeit der Schmerzsymptomatik massgebenden rechtlichen Kriterien standhält (BGE 130 V 352 E. 2.2.5 S. 355 f.).
4. 4.1 Nach Auffassung der Vorinstanz fallen für die Einschränkung der Arbeitsfähigkeit nur die Unfallfolgen in Betracht. Gestützt auf die Gutachten des Dr. med. O._ vom 8. Oktober 2003 und des Dr. med. Z._ vom 22. September 2006 hat das kantonale Gericht festgestellt, die Beschwerdegegnerin leide unter typischen Beschwerden nach einem Schleudertrauma der HWS wie Nackenbeschwerden, Kopfschmerzen, vegetativen Beschwerden in Form von Atemnot-Episoden, Kollapsneigung, Oberbauchbeschwerden ohne gastroskopisch feststellbares Substrat, neuropsychologischen Funktionsstörungen (ohne neurologisch fassbare Ausfälle) und einer Anpassungsstörung (Angst und depressive Reaktion gemischt). Eine offensichtliche Unrichtigkeit dieser Feststellungen ist nicht ersichtlich und wird auch nicht geltend gemacht, weshalb sie für das Bundesgericht verbindlich sind (Art. 105 Abs. 1 und 2 BGG). Damit ist - auch ohne objektivierbare Funktionsausfälle - grundsätzlich von gesundheitlichen Beeinträchtigungen auszugehen, welche geeignet sein können, eine zu einer Invalidität führende Einschränkung der Arbeitsfähigkeit zu bewirken. Der vorinstanzliche Verweis auf die sogenannte Schleudertrauma-Praxis (BGE 117 V 359 E. 5d/aa S. 363), welche sich mit der Frage nach der adäquaten Kausalität zum Unfall und nicht nach der invalidisierenden Wirkung des Leidens befasst (E. 3.1), genügt indessen nicht für die Annahme einer unüberwindbaren Arbeitsunfähigkeit. Ausserdem ist weder die Invalidenversicherung noch das den entsprechenden Anspruch prüfende kantonale Gericht an die Feststellung der Invalidität durch die Unfallversicherung (vgl. Verfügung vom 26. Januar 2007) gebunden (BGE 133 V 549 E. 6.1 S. 553).
4.2 In der Annahme, dass ein Gesundheitsschaden ausgewiesen sei, hat die Vorinstanz mit Bezug auf die Arbeitsfähigkeit ebenfalls auf die Einschätzungen der Dres. med. O._ und Z._ abgestellt und diese direkt übernommen. Zur Frage, inwieweit die in den jeweiligen Gutachten vom 8. Oktober 2003 und 22. September 2006 ausgewiesene Einschränkung der Arbeitsfähigkeit auch invalidenversicherungsrechtlich relevant ist (E. 3.2), hat sie keine Feststellungen getroffen, und die (medizinischen, vgl. E. 3.3) Unterlagen sind diesbezüglich zu wenig aussagekräftig.
4.3 Der angefochtene Entscheid verletzt Bundesrecht. Die Beschwerdeführerin wird die notwendigen Abklärungen zu treffen und den Rentenanspruch unter Berücksichtigung der Kriterien für die Unzumutbarkeit einer willentlichen Überwindung des Leidens (E. 3.2 und 3.3) erneut zu beurteilen haben.
5. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Verwaltungsgerichts des Kantons Luzern vom 5. Mai 2009 und die Verfügung der IV-Stelle Luzern vom 26. Juli 2007 aufgehoben werden. Die Sache wird an die Verwaltung zurückgewiesen, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch neu verfüge.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, zurückgewiesen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. August 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Dormann