Sachverhalt:
A. Die 1958 geborene S._ meldete sich im Juli 2001 bei der Invalidenversicherung an und beantragte eine Rente. Nach Abklärungen verneinte die IV-Stelle Luzern mit Verfügung vom 2. Juni 2004 einen Rentenanspruch, was sie mit Einspracheentscheid vom 9. August 2007 bestätigte.
B. Die Beschwerde der S._ wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 17. April 2008 ab.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, der Entscheid vom 17. April 2008 sei aufzuheben und die IV-Stelle habe ihr ab 1. August 2002 basierend auf einem Invaliditätsgrad von 50 bzw. 50,25 % eine halbe Rente zu bezahlen.
Die IV-Stelle und das kantonale Gericht beantragen die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (Urteil 9C_294/2007 vom 10. Oktober 2007 E. 2 mit Hinweis; vgl. <ref-ruling> E. 1.4 S. 140).
2. Es steht fest und ist unbestritten, dass die Arbeitsfähigkeit der Beschwerdeführerin für ihre angestammten Tätigkeiten als Tagesmutter und Hausfrau sowie für andere leidensadaptierte Arbeiten zu 50 % eingeschränkt ist. Streitig und zu prüfen ist die Bemessung des Invaliditätsgrades resp. der daraus resultierende Anspruch auf eine Invalidenrente.
3.
3.1 Ob eine versicherte Person als ganztägig oder zeitweilig erwerbstätig oder als nichterwerbstätig einzustufen ist, ergibt sich aus der Prüfung, was sie bei im Übrigen unveränderten Umständen täte, wenn keine gesundheitliche Beeinträchtigung bestünde. Bei im Haushalt tätigen Versicherten im Besonderen sind die persönlichen, familiären, sozialen und erwerblichen Verhältnisse ebenso wie allfällige Erziehungs- und Betreuungsaufgaben gegenüber Kindern, das Alter, die beruflichen Fähigkeiten und die Ausbildung sowie die persönlichen Neigungen und Begabungen zu berücksichtigen. Die Statusfrage beurteilt sich praxisgemäss nach den Verhältnissen, wie sie sich bis zum Erlass der Verwaltungsverfügung entwickelt haben, wobei für die hypothetische Annahme einer im Gesundheitsfall ausgeübten (Teil-) Erwerbstätigkeit der im Sozialversicherungsrecht übliche Beweisgrad der überwiegenden Wahrscheinlichkeit erforderlich ist (<ref-ruling> E. 3.3 S. 393; <ref-ruling> E. 2c S. 150 mit Hinweisen).
3.2 Die Invalidität bestimmt sich in der Folge dadurch, dass im Erwerbsbereich ein Einkommens- und im Aufgabenbereich ein Betätigungsvergleich vorgenommen wird (vgl. Art. 28 Abs. 2 und 2bis IVG, je in der bis am 31. Dezember 2007 gültigen Fassung [heute: Art. 28a Abs. 1 und 2 IVG]). Bei Teilerwerbstätigkeit ergibt sich die Invalidität unter Anwendung der gemischten Methode aus der Addierung der in beiden Bereichen ermittelten und gewichteten Teilinvaliditäten (vgl. <ref-law> in der bis am 31. Dezember 2007 gültigen Fassung [heute: <ref-law>]; <ref-ruling> E. 3.3 S. 396).
3.3 Beim Einkommensvergleich werden in der Regel die beiden hypothetischen Erwerbseinkommen ziffernmässig möglichst genau ermittelt und einander gegenübergestellt, worauf sich aus der Einkommensdifferenz der Invaliditätsgrad bestimmen lässt. Insoweit die fraglichen Erwerbseinkommen ziffernmässig nicht genau ermittelt werden können, sind sie nach Massgabe der im Einzelfall bekannten Umstände zu schätzen und die so gewonnenen Annäherungswerte miteinander zu vergleichen. Dabei kann auch eine Gegenüberstellung blosser Prozentzahlen genügen (<ref-ruling> E. 3a S. 313; <ref-ruling> E. 2b S. 136 f.). Ist eine zuverlässige Ermittlung oder Schätzung der beiden hypothetischen Erwerbseinkommen nicht möglich - was etwa bei Selbständigerwerbenden oder Arbeitnehmern, die gewisse Unkosten selbst zu tragen haben, zutreffen kann - ist in Anwendung der ausserordentlichen Bemessungsmethode ein Betätigungsvergleich vorzunehmen und der Invaliditätsgrad nach Massgabe der erwerblichen Auswirkung der verminderten Leistungsfähigkeit in der konkreten Situation zu ermitteln (<ref-ruling> E. 1 S. 30 f.; <ref-ruling> E. 2c S. 137 f.).
4. Die Vorinstanz hat die Anteile der hypothetischen Tätigkeit im Gesundheitsfall auf 75 % Erwerbstätigkeit und 25 % Hausarbeit festgelegt und die Invaliditätsbemessung nach der gemischten Methode vorgenommen. Die Beschwerdeführerin macht geltend, sie wäre bei guter Gesundheit zu 100 % erwerbstätig, weshalb die gemischte Methode zu Unrecht angewendet worden sei. Überdies sei diese Methode nicht korrekt angewendet worden.
4.1 Nach Auffassung des kantonalen Gerichts lässt sich in Würdigung insbesondere der persönlichen, familiären und finanziellen Verhältnisse die von der IV-Stelle vorgenommene Einstufung der Beschwerdeführerin als zu 75 % Teilerwerbstätige nicht beanstanden. Die Versicherte habe nach der Realschule keine Ausbildung absolviert. Laut Angaben in den Abklärungsberichten Haushalt habe sie seit 1986 ca. 20 Kinder pro Woche betreut. Seit 1998 sei sie als Tagesmutter für den Verein Tageseltern-Vermittlungsstelle tätig, wobei sie mehrere Kinder vornehmlich im Kleinkind- und Vorschulalter betreue. Zudem beaufsichtige sie ein Grosskind, wofür sie keine Entschädigung erhalte. Sie bewohne zusammen mit ihrem Ehemann, der im Jahre 2005 einen Nettolohn von Fr. 4'200.- erzielt habe, ein 7-Zimmer-Einfamilienhaus mit grossem Umschwung. 2002 hätten die drei eigenen erwachsenen Kinder, 2006 nur noch der Sohn, im Haushalt gewohnt und die Mahlzeiten dort eingenommen. Unter Berücksichtigung, dass sie einen eigenen Fünf- bzw. Drei-Personen-Haushalt zu versorgen und ein grosses Einfamilienhaus mit Garten zu pflegen gehabt und bei Erlass des Einspracheentscheides in ihrem fünfzigsten Lebensjahr gestanden habe, sei nicht mit überwiegender Wahrscheinlichkeit anzunehmen, dass sie im Gesundheitsfall voll erwerbstätig gewesen wäre. Allein schon in Anbetracht der familiären Situation könne neben der Besorgung eines grösseren Mehrpersonenhaushalts nicht von der Ausübung einer vollen Erwerbstätigkeit als Tagesmutter (Betreuung von 25 Kindern pro Woche) ausgegangen werden. Eine solche Auslastung stelle in physischer wie psychischer Hinsicht eine ständige Überlastung dar und sei unter gesundheitlichen Gesichtspunkten nicht zumutbar.
4.2 Eine Tagesmutter ist insofern erwerbstätig, als sie gegen Entgelt im eigenen Haushalt fremde Kinder betreut. Der für die Invaliditätsbemessung relevante Umfang der Erwerbstätigkeit bestimmt sich dabei nur nach dem Kriterium des zeitlichen Aufwandes (vgl. E. 3.1). Die Anzahl der während einer bestimmten Zeit betreuten Kinder ist für sich allein nicht entscheidend, denn auch bei geringerer Zahl bedarf es zumindest der ständigen Überwachung durch die Betreuungsperson. Während dieser Zeit ist es ihr in der Regel nicht möglich, einer anderen Erwerbstätigkeit nachzugehen. Ebenso ist in diesem Zusammenhang belanglos, dass die Erwerbstätigkeit mit der privaten Haushaltführung untrennbar verflochten, das Entgelt in der Regel bescheiden und zudem von der Anzahl betreuter Kinder abhängig ist (vgl. dazu E. 4.4).
4.3 Die vorinstanzlichen Feststellungen tatsächlicher Natur sind zwar nicht offensichtlich unrichtig, bilden jedoch keine hinreichende Grundlage für die Festlegung der Anteile von Erwerbstätigkeit und Haushaltsführung, weil sie nicht die für die Entscheidung der iv-rechtlichen Statusfrage rechtlich massgeblichen Gesichtspunkte - den zeitlichen Umfang der im Gesundheitsfall (hypothetisch) ausgeübten Erwerbstätigkeit - betreffen, sondern die - nicht alleinentscheidende (E. 4.2) - Anzahl betreuter Kinder. Feststellungen zum zeitlichen Umfang der hypothetischen Tätigkeit als Tagesmutter fehlen, können aber aufgrund der Akten ergänzt werden (<ref-law>): Die Beschwerdeführerin hat anlässlich der Haushaltabklärungen (Abklärungsberichte vom 1. Oktober 2002 und vom 19. Juni 2006) angegeben, 18 resp. 8 Kinder während mindestens eines vollen Arbeitspensums zu betreuen. Dies ist nicht unglaubwürdig, zumal diese Arbeitsleistung auch mit der bisher erfolgten Mithilfe von Familienmitgliedern bei körperlich anstrengenden Arbeiten erklärt wurde. War die Versicherte demnach selbst mit ihrer gesundheitlichen Beeinträchtigung tatsächlich im Rahmen eines vollzeitlichen Arbeitspensums tätig, ist für die Situation bei guter Gesundheit mit überwiegender Wahrscheinlichkeit nichts anderes anzunehmen. Zudem vermag die vorinstanzliche Auffassung, eine volle Erwerbstätigkeit als Tagesmutter stelle nebst der Besorgung eines Dreipersonenhaushalts in physischer wie psychischer Hinsicht eine ständige Überlastung dar und sei daher nicht als überwiegend wahrscheinlich anzunehmen, auch deswegen rechtlich nicht zu überzeugen, weil Vollerwerbstätige sehr oft noch einen Haushalt zu besorgen haben, was iv-rechtlich gänzlich unerheblich ist und kein Grund sein kann, ihnen den Status als ausschliesslich erwerbstätige Personen streitig zu machen. Dies gilt im konkreten Fall umso mehr, als die Versicherte nebst den eigenen seit 1986 ständig mehrere fremde Kinder betreut, über dafür geeignete Räumlichkeiten und Einrichtungen (7-Zimmer-Haus, Garten) verfügt, im Haushalt nur noch erwachsene Personen (Ehemann und Sohn) leben und sie dafür die Mithilfe mehrerer Familienmitglieder (Ehemann, Schwiegermutter, eigene erwachsene Kinder) beanspruchen kann.
Nach dem Gesagten ist die Beschwerdeführerin iv-rechtlich als Erwerbstätige zu qualifizieren. Die Anwendung der gemischten Methode zur Bemessung des Invaliditätsgrades verletzt Bundesrecht.
Nach dem Gesagten ist die Beschwerdeführerin iv-rechtlich als Erwerbstätige zu qualifizieren. Die Anwendung der gemischten Methode zur Bemessung des Invaliditätsgrades verletzt Bundesrecht.
4.4
4.4.1 Validen- und Invalideneinkommen einer Tagesmutter lassen sich unter Umständen weder ziffernmässig genau ermitteln noch hinreichend genau schätzen. Denn sie hat für die Betreuung nicht nur ihre Arbeitszeit, sondern auch geeignete Räumlichkeiten und Einrichtungen zur Verfügung zu stellen. Weiter ist das Einkommen in der Regel von der Anzahl betreuter Kinder und daher von der unregelmässigen Nachfrage nach Tagesbetreuung abhängig, weshalb es grosse Schwankungen aufweisen kann. Der tatsächliche Arbeitsaufwand verläuft nicht linear zur Anzahl betreuter Kinder resp. dem Einkommen. Schliesslich wirkt sich eine allfällige Mithilfe von Angehörigen - welche nur, aber immerhin, im Rahmen der privaten Haushaltführung zu berücksichtigen ist (<ref-ruling> E. 4.2 S. 509) - aufgrund der Verflechtung mit dem privaten Haushalt zumindest indirekt auf das Einkommen aus. Je nachdem wie die konkreten Verhältnisse liegen, ist im Bereich der Erwerbstätigkeit einer Tagesmutter der Invaliditätsgrad daher nach der ausserordentlichen Methode zu bemessen (E. 3.3).
4.4.2 Der angefochtene Entscheid bemisst (im Bereich der Erwerbstätigkeit) die Invalidität nicht nach der ausserordentlichen Methode, obwohl die Vorinstanz selber feststellt, die von 2001 bis 2006 erzielten Einkommen seien "grossen Schwankungen" unterworfen, welche sich nur durch verschiedene (invaliditätsfremde) Faktoren (Arbeitsauslastung, Nachfrage) erklären liessen. Indessen liegt darin deswegen keine Bundesrechtswidrigkeit, weil die Vorinstanz, aufgrund der effektiven Verhältnisse mit Recht, in den Jahren 2002 bis 2006, trotz der medizinisch attestierten Arbeitsunfähigkeit, ein an sich rentenausschliessendes Einkommen festgestellt hat. Unberücksichtigt ist hiebei allerdings geblieben, ob und inwieweit das effektiv erzielte Einkommen auf die Mithilfe durch Familienangehörige zurückzuführen ist (vgl. <ref-law>). Insoweit ist der entscheiderhebliche Sachverhalt unvollständig festgestellt (E. 1). Die Verwaltung wird daher diesen Aspekt überprüfen, den Anteil des Einkommens, welcher auf die Mithilfe Dritter zurückgeht, zu quantifizieren und den Einkommensvergleich ausgehend von den der Beschwerdeführerin verbleibenden Einkünften und des vorher tatsächlich erzielten Einkommens durchzuführen haben. Ist eine solche Ausscheidung nicht zuverlässig zu bewerkstelligen, ist die anhand eines Betätigungsvergleichs festgestellte leidensbedingte Behinderung im Hinblick auf ihre erwerbliche Auswirkung besonders zu gewichten (BGE <ref-ruling> E. 2c S. 138). In beiden Eventualitäten ist der Invaliditätsgrad neu zu bemessen und über den Rentenanspruch erneut zu verfügen.
5. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (<ref-law>). Der obsiegenden und anwaltlich vertretenen Beschwerdeführerin hat sie zudem eine Parteientschädigung zu bezahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Verwaltungsgerichts des Kantons Luzern vom 17. April 2008 und der Einspracheentscheid der IV-Stelle Luzern vom 9. August 2007 aufgehoben werden und die Sache an die Verwaltung zurückgewiesen wird, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch neu verfüge.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2'500.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Luzern zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Abgaberechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. September 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Dormann