Sachverhalt:
A. Die 1948 geborene S._ lebte bis August 2005 in der Schweiz und seither in A._. Sie war von 1988 bis 2005 als Kosmetikerin selbstständig erwerbstätig. Am 4. April 2001 erlitt sie einen Verkehrsunfall. Unter Angabe eines auf den Unfall zurückzuführenden starken Schleudertraumas und einer 50-prozentigen Arbeitsunfähigkeit meldete sie sich am 13. Mai 2003 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Luzern untersuchte den medizinischen und erwerblichen Sachverhalt und wies mit Verfügung vom 19. April 2005 und Einspracheentscheid vom 21. Juli 2006 das Leistungsbegehren ab mit der Begründung, aufgrund des Einkommensvergleichs ergebe sich ein Invaliditätsgrad von 20 %, der nicht zum Bezug einer Invalidenrente berechtige.
B. S._ erhob Beschwerde beim Verwaltungsgericht des Kantons Luzern, welches mit Entscheid vom 22. März 2007 wegen örtlicher Unzuständigkeit darauf nicht eintrat und die Sache an das Bundesverwaltungsgericht überwies. Mit Entscheid vom 28. Mai 2010 hiess das Bundesverwaltungsgericht die Beschwerde teilweise gut und hob den Einspracheentscheid auf. Es wies die Sache an die Verwaltung zurück, damit sie im Sinne der Erwägungen über den Leistungsanspruch neu entscheide.
C. Die IV-Stelle des Kantons Luzern führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt Aufhebung des Entscheides sowie Bestätigung des Einspracheentscheides.
S._ beantragt Nichteintreten auf die Beschwerde und eventualiter deren Abweisung; Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf Vernehmlassung.
Erwägungen:
1. 1.1 Die Beschwerde an das Bundesgericht ist zulässig gegen das Verfahren abschliessende Endentscheide (Art. 90 BGG), und gegen Teilentscheide, die nur einen Teil der gestellten Begehren behandeln, wenn diese unabhängig von den anderen beurteilt werden können, oder die das Verfahren nur für einen Teil der Streitgenossen und Streitgenossinnen abschliessen (Art. 91 BGG). Gegen selbstständig eröffnete Vor- und Zwischenentscheide ist hingegen die Beschwerde nur zulässig, wenn sie die Zuständigkeit oder den Ausstand betreffen (Art. 92 BGG), einen nicht wieder gutzumachenden Nachteil bewirken können (Art. 93 Abs. 1 lit. a BGG; BGE 133 V 645 E. 2.1 S. 647; 133 V 477 E. 5.2 S. 483) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 lit. b BGG). Rückweisungsentscheide, mit denen eine Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen wird, sind Zwischenentscheide, die alleine unter den genannten Voraussetzungen beim Bundesgericht angefochten werden können (BGE 133 V 477 E. 4.2 S. 481 f.). Anders verhält es sich nur dann, wenn der unteren Instanz, an welche zurückgewiesen wird, kein Entscheidungsspielraum mehr verbleibt und die Rückweisung nur noch der Umsetzung des oberinstanzlich Angeordneten dient (SVR 2008 IV Nr. 39 S. 131, 9C_684/2007 E. 1.1).
1.2 Die Vorinstanz hat die Sache mit der Anweisung an die Verwaltung zurückgewiesen, den Invaliditätsgrad auf der Grundlage einer 50-prozentigen Arbeitsfähigkeit nach der ausserordentlichen Bemessungsmethode zu ermitteln. Dieser Zwischenentscheid bewirkt einen nicht wieder gutzumachenden Nachteil, indem die Versicherung dadurch verpflichtet wird, entgegen ihrer Rechtsauffassung - der Invaliditätsgrad sei nach der allgemeinen Methode des Einkommensvergleichs (Art. 16 ATSG, ab 1. Januar 2004 bis Ende 2007 in Verbindung mit Art. 28 Abs. 2 IVG, seit 1. Januar 2008 in Verbindung mit Art. 28a IVG; BGE 130 V 343 E. 3.4 S. 348 f.; 128 V 29 E. 1 S. 30 f.) zu bestimmen - neu zu verfügen (BGE 133 V 477 E. 5.2.4 S. 484). Auf die Beschwerde ist somit einzutreten.
2. Die Frage nach der im Einzelfall anwendbaren Methode der Invaliditätsbemessung ist eine Rechtsfrage (Urteil I 726/06 vom 8. Januar 2007 E. 3.2 mit Hinweis) und vom Bundesgericht frei überprüfbar.
3. Die Vorinstanz hat zutreffend erwogen, dass die allgemeine Methode des Einkommensvergleichs (vorne E. 1.2) nur dann anwendbar ist, wenn sich die beiden hypothetischen Vergleichseinkommen zuverlässig ermitteln oder schätzen lassen. Erweist sich dies - wie es oft bei Selbstständigerwerbenden der Fall ist - als schwierig oder unmöglich (vgl. Urteil I 72/02 vom 18. Dezember 2002 E. 2.2), ist in Anlehnung an die spezifische Methode für Nichterwerbstätige (Art. 28 Abs. 2bis IVG in der von 1. Januar 2004 bis Ende 2007 gültig gewesenen Fassung; seit 1. Januar 2008: Art. 28a Abs. 2 IVG, jeweils in Verbindung mit Art. 27 IVV) ein Betätigungsvergleich durchzuführen und der Invaliditätsgrad nach Massgabe der erwerblichen Auswirkungen der verminderten Leistungsfähigkeit in der konkreten erwerblichen Situation zu bestimmen. Zunächst ist anhand des Betätigungsvergleichs die leidensbedingte Behinderung festzustellen; diese ist alsdann im Hinblick auf ihre erwerbliche Auswirkung besonders zu gewichten (vgl. BGE 128 V 29 E. 1 S. 30 mit Hinweisen).
4. Streitig und zu prüfen ist, ob und in welchem Umfang der Beschwerdegegnerin bei einer nicht umstrittenen Arbeitsfähigkeit von 50 % in leidensangepassten Tätigkeiten (wie z.B. als Kosmetikerin) im Zeitpunkt eines möglichen Beginns eine Rente zusteht.
4.1 Die Verwaltung hat im Einspracheentscheid festgestellt, die einjährige Wartezeit bis zum allfälligen Rentenbeginn sei am 3. April 2002 abgelaufen. Der Versicherten sei es unter Einhaltung der Selbsteingliederungs- und Schadenminderungspflicht zuzumuten, die selbstständige Tätigkeit zugunsten einer unselbstständigen aufzugeben, da sie so bedeutend mehr verdienen könne. Dass dies zumutbar sei, habe sie mit der Aufgabe des Geschäfts bewiesen. Aus den auf das Jahr 2002 aufindexierten Geschäftsergebnissen der Jahre 1991-1996 und unter Berücksichtigung eines Zusatzgewinns von 10 % aufgrund verbesserter Geschäftsinfrastruktur errechnete sie ein Valideneinkommen von Fr. 31'264.-. Für das Invalideneinkommen berücksichtigte sie einen LSE-Tabellenlohn (Sektor Dienstleistungen, Anforderungsniveau 3) und kam für eine 50 %-Tätigkeit bei einem leidensbedingten Abzug von 15 % auf ein Einkommen von Fr. 24'952.72. Es ergab sich so ein Invaliditätsgrad von 20 %.
4.2 Die Vorinstanz hat erwogen, die Behauptung der Versicherten, sie hätte als Gesunde am neuen Standort des Geschäfts einen höheren Ertrag erwirtschaftet, sei nicht substanziiert. Da sie die Tätigkeit am neuen Standort erst wenige Monate vor dem Unfall aufgenommen habe, lasse sich die Auswirkung des Standortfaktors auf das Einkommen nicht hinreichend zuverlässig ermitteln. Damit erscheine auch die Annahme der Verwaltung, die Versicherte könnte am neuen Standort mindestens das bisherige Einkommen mit einem zusätzlichen Gewinn von 10 % erzielen, zu ungenau. Sodann habe die Versicherte als Invalide weiterhin mit ihrem eigenen Geschäft ihre verbleibende Arbeitsfähigkeit ausgeschöpft. Für den Einwand der Verwaltung, die Versicherte habe schliesslich ihre selbstständige Tätigkeit aufgegeben, liessen sich in den Akten keine Grundlagen finden; vielmehr ergebe sich, dass sie als Gesunde ihre selbstständige Tätigkeit vollzeitlich fortgesetzt hätte. Für die Festsetzung des Invalidenlohns sei daher zu Unrecht der Tabellenlohn herangezogen worden. Die Vorinstanz hat daher die Sache mit der Anweisung an die Verwaltung zurückgewiesen, den Invaliditätsgrad auf der Grundlage einer 50-prozentigen Arbeitsfähigkeit nach der ausserordentlichen Bemessungsmethode zu ermitteln, da die Versicherte nach dem Unfall ihre bisherige Tätigkeit als selbstständige Kosmetikerin mit einer eingeschränkten Arbeitsfähigkeit von 50 % wieder aufgenommen habe.
4.3 Die Beschwerdeführerin bringt vor, die Vorinstanz sei in unrichtiger Würdigung des Sachverhaltes davon ausgegangen, das Valideneinkommen sei nicht rechtsgenüglich bestimmt worden. Eine erfahrene Fachperson der Verwaltung habe anhand der effektiven Einkommen der Versicherten das hypothetische Valideneinkommen ziffernmässig möglichst genau ermittelt. Sie habe es im Bericht vom 1. April 2005 zusätzlich anhand von Tabellenlöhnen kalkuliert und dabei festgestellt, dass dies zu einem praktisch identischen Ergebnis führte. Zudem sei die Vorinstanz ohne nachvollziehbare Begründung und entgegen der klaren Aktenlage davon ausgegangen, der Versicherten sei die Aufgabe ihrer selbstständigen Erwerbstätigkeit nicht zumutbar, weshalb das Invalideneinkommen nicht anhand von Tabellenlöhnen errechnet werden dürfe. Sie habe dabei aber nicht zwischen der Ausschöpfung der medizinisch zumutbaren Arbeitsfähigkeit und deren genügender wirtschaftlichen Nutzung unterschieden. Die Versicherte habe mit ihrer Ausreise bewiesen, dass ihr die Aufgabe des früheren Status zumutbar sei. Der angefochtene Entscheid bereite in der Umsetzung Schwierigkeiten, da der zu untersuchende Betrieb seit fünf Jahren nicht mehr existiere. Die angeordneten Sachverhaltsabklärungen könnten nicht zu einer realitätsnäheren Einschätzung führen als der von der Verwaltung durchgeführte Einkommensvergleich.
4.4 Die Beschwerdegegnerin hält dagegen, die Annahme der Verwaltung, sie könne am neuen Standort mindestens das bisherige Einkommen mit einem Zusatzgewinn von 10 % erzielen, sei ungenau und berücksichtige die voraussichtliche Entwicklung des Geschäfts ohne Eintritt der Invalidität nicht hinreichend. Laut der Branchenstatistik "Kosmetik" betrage das Einkommen eines Betriebes ihrer Grösse 30,5 % des Umsatzes. Wenn die Verwaltung von einem Einkommen von Fr. 30'000.- ausgehe, so habe sie der Berechnung einen Umsatz von Fr. 100'000.- zugrunde gelegt. Tatsache sei, dass der Betrieb bereits 2001 einen Umsatz von rund Fr. 73'000.- habe erwirtschaften können - trotz des Unfalles im April 2001 und den daraus resultierenden gesundheitlichen Einschränkungen. Bei einem solchen Umsatz hätte ohne Unfall ein Umsatz von deutlich über Fr. 100'000.- erzielt werden können. Das Valideneinkommen sei somit zu tief angesetzt.
Zum Invalideneinkommen gehe aus dem IK-Auszug vom 19. April 2010 hervor, dass dieses nach dem Unfall bis zur Ausreise kontinuierlich habe gesteigert werden können und so die verbliebene Arbeitsfähigkeit voll ausschöpft worden sei. Wenn die Umsetzung des Betätigungsvergleichs mit Problemen behaftet sei, dürfe dies nicht zu ihren Lasten gehen, da sie sich frühzeitig angemeldet und es nicht verschuldet habe, dass das Verfahren Jahre in Anspruch nahm. Die Betriebsstilllegung hindere jedoch die Durchführung eines erwerblich gewichteten Betätigungsvergleichs gar nicht, denn die Buchhaltungsunterlagen für die vier Betriebsjahre nach dem Unfall lägen vor und die Beschwerdegegnerin könne immer noch exakte Angaben zu ihrer damaligen Tätigkeit machen.
Aufgrund der Gegebenheiten könne auch ein Prozentvergleich durchgeführt werden. Es gehe nicht an, wie die Beschwerdeführerin beim Validenlohn auf ein effektives Einkommen (unter dem Existenzminimum) abzustellen und beim Invalideneinkommen auf einen doppelt so hohen Tabellenlohn. Wenn schon auf den Tabellenlohn abgestellt werde, so müsse dies für das Validen- und das Invalideneinkommen der Fall sein.
5. Die Feststellung der Vorinstanz, die Auswirkung des Standortfaktors auf das (Validen-)Einkommen lasse sich nicht hinreichend zuverlässig ermitteln, beruht auf einer auf den konkreten Fall bezogenen Beweiswürdigung und ist mithin eine Sachverhaltsfeststellung. Als solche ist sie nicht offensichtlich unrichtig und somit für das Bundesgericht verbindlich (Art. 105 BGG). Auf dieser Grundlage ist auch die als Rechtsfrage frei zu prüfende (Urteil I 990/06 vom 28. März 2007 E. 4.2) Schlussfolgerung, wonach sich das hypothetische Valideneinkommen nicht zuverlässig ermitteln lasse, zutreffend. Widersprüchlich sind hingegen die Ausführungen der Vorinstanz zum Invalideneinkommen, denn dafür ist es unerheblich, was die Versicherte als Gesunde getan hätte. Sodann steht fest, dass die Beschwerdegegnerin ihr Geschäft noch vor dem Zeitpunkt des Einspracheentscheids im Jahre 2005 aufgegeben hat; sie hat damit den Tatbeweis erbracht, dass ihr diese Geschäftsaufgabe zumutbar ist, sodass ab diesem Zeitpunkt das Invalideneinkommen richtigerweise aufgrund von Tabellenlöhnen ermittelt werden könnte. Ebenfalls mit Recht bringt die Beschwerdeführerin vor, dass die ausserordentliche Bemessungsmethode praktisch wohl kaum durchgeführt werden kann, wenn der Betrieb, in welchem der Betätigungsvergleich vorgenommen werden soll, seit Jahren nicht mehr existiert. Die Anweisung der Vorinstanz, die ausserordentliche Methode durchzuführen, kann somit nicht als verbindliche Vorgabe betrachtet werden.
Das ändert allerdings nichts daran, dass der Invaliditätsgrad nicht anhand des Einkommensvergleichs ermittelt werden kann, weil das Valideneinkommen nicht genau ermittelt werden kann. Sollte es sich erweisen, dass der Betätigungsvergleich nicht möglich oder aussagekräftig ist, dann wird die Verwaltung einen Tabellenlohnvergleich vornehmen oder - wie von der Beschwerdegegnerin angeregt - einen Prozentvergleich.
6. Dieses Ergebnis ist dispositivmässig als Unterliegen der Beschwerdeführerin zu werten, auch wenn die für den neuen Entscheid massgebenden vorinstanzlichen Erwägungen teilweise modifiziert werden. Die Gerichtskosten werden daher der Beschwerdeführerin als unterliegender Partei auferlegt (Art. 66 Abs. 1 BGG). Diese hat der Beschwerdegegnerin überdies eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird im Sinne der Erwägungen abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Bundesverwaltungsgericht und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 17. Dezember 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Schmutz