Sachverhalt:
A. Die X._ AG (bis zum 15. Februar 2006 noch B._ AG, nachfolgend Z._ AG) ist eine Holdinggesellschaft mit Sitz in A._/NW und einem voll liberierten Aktienkapital von CHF 1 Mio, eingeteilt in 1'000 Namenaktien zu CHF 1'000.--. Sämtliche Aktien hielt bis ins Jahr 2005 die damals in A._/NW wohnhafte deutsche Staatsangehörige Y._. Diese unterlag dort der Aufwandbesteuerung, hatte allerdings in der Steuerperiode 2003 nur 10% der Aktien angegeben. Die Z._ AG hielt u.a. 76% der deutschen E._ AG mit einem Buchwert von CHF 23'493'120.--. Am 11. März 2005 gründete Y._ die C._ AG mit Sitz in N._, Luxemburg, und am 8. April 2005 verkaufte die Z._ AG der C._ AG ihre 76%-Beteiligung an der deutschen E._ AG für 235'296'000.-- Euro (umgerechnet CHF 365'791'161.60). Ebenfalls am 8. April 2005 verkaufte Y._ sämtliche Aktien der Z._ AG an die C._ AG zum Nennwert von CHF 1 Mio.
B. B.a Am 16. September 2005 ersuchte die Z._ AG die Eidgenössische Steuerverwaltung (EStV) um Bewilligung des Meldeverfahrens gemäss Formular 823C (Gesuch um Bewilligung zur Steuerentlastung schweizerischer Dividenden aus einer direkten Kapitalbeteiligung von mindestens 25 Prozent einer in einem Mitgliedstaat der Europäischen Union [EU] ansässigen Kapitalgesellschaft basierend auf Artikel 15 Absatz 1 des Abkommens vom 26. Oktober 2004 zwischen der Schweizerischen Eidgenossenschaft und der Europäischen Gemeinschaft über Regelungen, die den in der Richtlinie 2003/48/EG des Rates vom 3. Juni 2003 im Bereich der Besteuerung von Zinserträgen festgelegten Regelungen gleichwertig sind [ZBstA, SR 0.641.926.81]).
Die EStV lehnte das Gesuch am 19. Dezember 2005 mit der Begründung ab, eine luxemburgische SICAR (société d'investissement en capital à risque) erfülle nicht alle Voraussetzungen des ZBstA.
B.b Am 10. Mai bzw. 3. August 2006 vereinbarten die Z._ AG und die C._ AG, dass die Kaufpreisforderung von 235'296'000.-- Euro auf den 31. Dezember 2006 fällig werde und durch eine mindestens gleich hohe Gewinnausschüttung der Z._ AG an die C._ AG als neue Aktionärin zu begleichen sei. Am 16. März 2007 reichte die Z._ AG erneut ein Formular 823C bei der ESTV ein und gab bekannt, die C._ AG habe ihren Status ab 1. Januar 2007 geändert und werde nun als D._ AG ordentlich besteuert. Die Wohnsitzkantone von Y._ (NW bzw. ZH) hätten bestätigt, dass die D._ AG über genügend Substanz verfüge, weshalb eine künftige Ausschüttung der Z._ AG nicht zu einem Durchgriff durch die Empfängerin der Dividenden auf Y._ führe.
Am 18. Juni 2007 lehnte die ESTV auch dieses Gesuch ab und gab bekannt, Dividenden an die luxemburgische D._ AG unterlägen der Verrechnungssteuer zum vollen Satz von 35%.
B.c Am 16. Juli 2007 teilte die Z._ AG der EStV mit, an einer ausserordentlichen Generalversammlung vom 28. Juni 2007 sei die Dividendenausschüttung an die luxemburgische D._ AG beschlossen worden. Gestützt darauf beantragte sie die Durchführung des Meldeverfahrens und meldete die Dividendenausschüttung von CHF 386'000'000.-- mit Fälligkeitsdatum 28. Juni 2007.
Am 1. Oktober 2007 lehnte die EStV dieses Gesuch ebenfalls ab und verlangte die Überweisung der Verrechnungssteuer von CHF 135'100'000.-- (35% von CHF 386'000'000.--). Nach weiteren Korrespondenzen erliess die EStV am 22. Mai 2008 einen einsprachefähigen Entscheid.
C. Die dagegen erhobene Einsprache wies die EStV am 26. Februar 2009 ab und entschied, die Z._ AG habe eine Verrechnungssteuer von CHF 134'750'000.-- zuzüglich Verzugszins von 5% ab dem 3. September 2006 bzw. ab dem 28. Juni 2007 zu entrichten. Die hiergegen erhobene Beschwerde wies das Bundesverwaltungsgericht am 4. August 2011 ab und erkannte, die Z._ AG habe eine Verrechnungssteuer von CHF 135'1000'000.-- zu entrichten samt Zinsen zu 5% ab 28. Juli 2007.
D. Mit Eingabe vom 7. September 2011 erhebt die Z._ AG Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht und beantragt sinngemäss, das angefochtene Urteil des Bundesverwaltungsgerichts aufzuheben; die am 28. Juni 2007 an die luxemburgische D._ AG ausgeschüttete Dividende sei gestützt auf Art. 15 ZBstA von der Verrechnungssteuer zu befreien; eventuell sei das Meldeverfahren zu bewilligen, und subeventuell sei die Sache an die EStV zurückzuweisen zur Abklärung, ob ein Missbrauch vorliege.
E. Die EStV schliesst auf Abweisung der Beschwerde. Das Bundesverwaltungsgericht hat auf eine Vernehmlassung verzichtet.
F. Mit Replik vom 30. Januar 2012 und Duplik vom 22. Februar 2012 haben die Z._ AG und die EStV an ihrem jeweiligen Rechtsstandpunkt festgehalten.
Erwägungen:
1. 1.1 Angefochten ist ein Entscheid des Bundesverwaltungsgerichts in einem Verrechnungssteuerstreit, somit in einer Angelegenheit des öffentlichen Rechts. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss Art. 82 lit. a BGG zulässig, zumal keine Ausschlussgründe nach Art. 83 BGG vorliegen. Die Beschwerdeführerin ist gestützt auf Art. 89 Abs. 1 BGG zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert. Auf die frist- und formgerecht eingereichte Beschwerde ist grundsätzlich einzutreten (Art. 100 BGG).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundes- und Völkerrecht gerügt werden (Art. 95 BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG) Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Das Bundesgericht legt sodann seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von Art. 95 BGG (Art. 97 Abs. 1 bzw. Art. 105 Abs. 2 BGG).
1.3 Die Beschwerde ist nur im Rahmen des Streitgegenstands zulässig. Dieser wird durch den Gegenstand des angefochtenen Entscheids und durch die Parteibegehren bestimmt, wobei der angefochtene Entscheid den möglichen Streitgegenstand begrenzt (BGE 136 II 165 E. 5 S. 174; 133 11 181 E. 3.3 S. 189). Vor der EStV und dem Bundesverwaltungsgericht bildete nur die Zulässigkeit des Meldeverfahrens Streitgegenstand. Vor Bundesgericht beantragt die Beschwerdeführerin jedoch in erster Linie, die am 28. Juni 2007 ausgeschüttete Dividenden sei gestützt auf Art. 15 ZBstA vollständig von der Verrechnungssteuer zu befreien. Dieser Hauptantrag sprengt den Streitgegenstand, indem die ganze Umsetzung von Art. 15 ZBstA durch die Schweiz in Frage gestellt, eine Befreiung an der Quelle geltend gemacht und die einlässliche Prüfung des Missbrauchsvorwurfs verlangt wird. Insofern kann auf weite Teile der Beschwerde nicht eingetreten werden. Auch sonst setzt sich die Beschwerde mit den Erwägungen der Vorinstanz nur (sehr) beschränkt auseinander und erfüllt damit die Begründungsanforderungen von Art. 42 Abs. 2 BGG nur ganz knapp.
1.4 In ihrer Beschwerdeantwort bzw. Duplik beanstandet die EStV, das Bundesverwaltungsgericht habe zu Unrecht eine faktische Liquidation per 8. April 2005 verworfen; entsprechend könne nicht von einer Fälligkeit der Dividendenausschüttung am 28. Juni 2007 ausgegangen werden. Allerdings sind Anträge der Gegenpartei, die den durch die Beschwerde umrissenen Streitgegenstand sprengen, in einer eigenständigen Beschwerde geltend zu machen (Urteil 2C_764/2008 vom 5. März 2009 E. 1.3). Das BGG kennt keine Anschlussbeschwerde, weshalb eine "reformatio in peius" nicht im Rahmen einer Vernehmlassung beantragt werden kann (BGE 134 III 332 E. 2.5 S. 335). Nachdem die Beschwerdeführerin die Fälligkeit der Dividendenausschüttung am 28. Juni 2007 in ihrer Eingabe nicht mehr in Frage stellt, gilt dies auch für die EStV. Insoweit kann auf die Beschwerdeantwort bzw. die Duplik nicht eingetreten werden.
2. 2.1 Der Bund erhebt gestützt auf Art. 132 Abs. 2 BV eine Verrechnungssteuer u.a. auf dem Ertrag beweglichen Kapitalvermögens (Art. 1 Abs. 1 des Bundesgesetzes vom 13. Oktober 1965 über die Verrechnungssteuer [VStG, SR 642.21]). Steuerbarer Ertrag von Aktien ist nach Art. 4 Abs. 1 lit. b VStG bzw. Art. 20 Abs. 1 der Verordnung vom 19. Dezember 1966 über die Verrechnungssteuer (VStV, SR 642.211) jede geldwerte Leistung der Gesellschaft oder Genossenschaft an die Inhaber gesellschaftlicher Beteiligungsrechte oder an ihnen nahestehende Dritte, die sich nicht als Rückzahlung der im Zeitpunkt der Leistung bestehenden Anteile am einbezahlten Grund- oder Stammkapital darstellt (u.a. Gratisakten). Steuerpflichtig ist der Schuldner der steuerbaren Leistung (Art. 10 Abs. 1 VStG). Bei Kapitalerträgen entsteht die Steuerforderung im Zeitpunkt, in dem die steuerbare Leistung fällig wird (Art. 12 Abs. 1 VStG). Die Verrechnungssteuer selbst wird 30 Tage nach Entstehen der Steuerforderung fällig (Art. 16 Abs. 1 lit. c VStG).
2.2 Die Verrechnungssteuerpflicht wird gemäss Art. 11 Abs. 1 VStG entweder durch Entrichtung der Steuer oder durch Meldung der steuerbaren Leistung (Art. 19 und 20 VStG) erfüllt. Nach Art. 20 VStG kann der steuerpflichtigen Person gestattet werden, die Steuerpflicht durch Meldung der steuerbaren Leistung zu erfüllen, wo bei Kapitalerträgen die Steuerentrichtung zu unnötigen Umtrieben oder zu einer offenbaren Härte führen würde. In Art. 24 ff. VStV werden die Fälle, in denen dieses Meldeverfahren zulässig ist, abschliessend umschrieben (Urteil 2C_551/2009 vom 13. April 2010 StR 65/2010 881 E. 3.2 sowie IVO P. BAUMGARTNER, SONJA BOSSART MEIER, Kommentar zum Schweizerischen Steuerrecht, Bundesgesetz über die Verrechnungssteuer [VStG], 2. Aufl., Basel 2012, N. 15 zu Art. 20 VStG). Ist eine Kapitalgesellschaft oder Genossenschaft unmittelbar zu mindestens 20% am Grund- oder Stammkapital einer anderen Gesellschaft beteiligt, kann sie diese mittels eines amtlichen Gesuchsformulars anweisen, ihr die Bardividende ohne Abzug der Verrechnungssteuer auszurichten (Art. 26a Abs. 1 VStV). Der Anspruch auf Bewilligung des Meldeverfahrens besteht jedoch nur, sofern auch die Voraussetzungen von Art. 24 Abs. 2 bzw. Art. 26a Abs. 2 VStV erfüllt sind, d.h. wenn überdies feststeht, dass der Empfänger der steuerbaren Leistung, auf welche die Steuer zu überwälzen wäre, nach Gesetz (VStG) oder Verordnung (VStV) Anspruch auf Rückerstattung der Steuer hätte.
2.3 Soweit es um das internationale Verhältnis geht, ergibt sich die Rückerstattung bzw. Entlastung von Quellensteuern im Wesentlichen aus einem Doppelbesteuerungsabkommen oder aus einem Staatsvertrag.
2.3.1 Eine solche Entlastung bestimmt der am 1. Juli 2005 in Kraft getretene Art. 15 Abs. 1 ZBstA, wonach Dividendenzahlungen von Tochter- an Muttergesellschaften im Quellenstaat grundsätzlich nicht besteuert werden, wenn die Muttergesellschaft mindestens zwei Jahre lang eine direkte Beteiligung von mindestens 25% am Gesellschaftskapital der Tochtergesellschaft hält. Eine ähnliche Entlastung kennt bereits Art. 10 des Abkommens vom 21. Januar 1993 zwischen der Schweizerischen Eidgenossenschaft und dem Grossherzogtum von Luxemburg zur Vermeidung der Doppelbesteuerung auf dem Gebiete der Steuern vom Einkommen und Vermögen (DBA-LUX, SR 0.672.951.81). Danach sind die Dividenden in dem Vertragsstaat, in dem die Dividenden zahlende Gesellschaft ansässig ist, steuerbefreit, wenn der Nutzungsberechtigte der Dividenden eine im anderen Vertragsstaat ansässige Gesellschaft ist, die während eines ununterbrochenen Zeitraums von zwei Jahren vor der Zahlung der Dividenden direkt über mindestens 25% des Kapitals der die Dividenden zahlenden Gesellschaft verfügt (Art. 10 Abs. 2 DBA-LUX in der hier noch massgebenden Fassung vor dem Zusatzabkommen vom 25. August 2009, AS 2010 5693). Dabei geht eine günstigere steuerliche Behandlung von Zahlungen von Dividenden nach einem DBA vor (Art. 15 Abs. 1 bzw. Abs. 3 ZBstA).
2.3.2 Mit der bundesrätlichen Verordnung vom 22. Dezember 2004 über die Steuerentlastung schweizerischer Dividenden aus wesentlichen Beteiligungen ausländischer Gesellschaften (Steuerentlastungsverordnung, SR 672.203) wurde die Grundlage geschaffen, um diese Rückerstattungs- bzw. Entlastungsansprüche mittels Meldeverfahren zu erledigen. (Art. 1 Steuerentlastungsverordnung). Nach Art. 3 der Verordnung ist zunächst eine Grundsatzbewilligung erforderlich, die vor der ersten auf dem Weg des Meldeverfahrens abzuwickelnden Ausschüttung einzuholen ist (HANS-PETER HOCHREUTENER, Meldeverfahren bei der Verrechnungssteuer, nationale und internationale Verfahren, ST 85 [2011], S. 80 f.). Nach Art. 3 Abs. 3 prüft die EStV, ob die ausländische Gesellschaft nach dem massgebenden Doppelbesteuerungsabkommen oder dem anderen Staatsvertrag Anspruch auf die Entlastung hat. Wurde diese Bewilligung erteilt, ist die Ausrichtung der Dividende unaufgefordert und innert 30 Tagen mit Formular 108 der EStV zu melden (Art. 5 Steuerentlastungsverordnung).
2.3.3 Zum Thema der "Aufhebung" der schweizerischen Verrechnungssteuer auf Dividendenzahlungen zwischen verbundenen Kapitalgesellschaften im Verhältnis zwischen der Schweiz und den Mitgliedstaaten der Europäischen Union hat die ESTV die Wegleitung vom 15. Juli 2005 verfasst (zum problematischen Begriff "Aufhebung" im Titel dieser Wegleitung, vgl. HOCHREUTENER, a.a.O., S. 80). Gleichzeitig erliess die EStV das Kreisschreiben Nr. 10 vom 15. Juli 2005 betreffend Meldeverfahren bei schweizerischen Dividenden aus wesentlichen Beteiligungen ausländischer Gesellschaften basierend auf Artikel 15 Absatz 1 des Zinsbesteuerungsabkommens mit der EG (Ergänzung zum Kreisschreiben Nr. 6 vom 22. Dezember 2004, ASA 73, 759).
Grundlage für die Gewährung des Meldeverfahrens bildet nach Ziff. 12 a) der Wegleitung die Steuerentlastungsverordnung in Verbindung mit Art. 15 Abs. 1 ZBstA oder dem anwendbaren bilateralen Doppelbesteuerungsabkommen. Anleitungen zur praktischen Durchführung des Meldeverfahrens enthalten die beiden erwähnten Kreisschreiben. Das Gesuch um Bewilligung muss insbesondere belegen, dass die ausländische Dividendenempfängerin abkommensberechtigt ist (Kreisschreiben Nr. 6, ASA 73, 760). Nach dem Kreisschreiben Nr. 10 muss das Gesuch um Bewilligung belegen, dass die Dividendenempfängerin in einem Mitgliedstaat der Europäischen Union ansässig ist, über die erforderliche Beteiligungsquote von mindestens 25 Prozent am Kapital der schweizerischen Dividendenschuldnerin verfügt und im Ansässigkeitsstaat ohne Befreiung der Körperschaftssteuer unterliegt. Die Wegleitung umschreibt weitere Anwendungsvoraussetzungen wie die Dividendenzahlung (Ziffer. 3), die direkte Beteiligung von mindestens 25% am Gesellschaftskapital (Ziffer. 4), das Erfordernis der zweijährigen Haltedauer (Ziffer 5) oder die Befreiung von der Körperschaftssteuer (Ziffer 8.). Ziffer 10 der Wegleitung behält schliesslich die innerstaatlichen oder auf Abkommen beruhenden Vorschriften in der Schweiz zur Verhütung von Betrug und Missbrauch vor: Die Dividendenempfängerin muss nutzungsberechtigt sein, weil es sich dabei um eine allgemeine Voraussetzung zur Inanspruchnahme von Steuerentlastungen auf der Grundlage von internationalen Steuerabkommen handelt und dies auch im Rahmen von Art. 15 ZBstA gilt.
2.3.4 Aufgrund dieser Vielzahl von nicht vollumfänglich aufeinander abgestimmten Rechts- und Verwaltungsverordnungen des Bundes bzw. der EStV (zu deren Verbindlichkeit für das Bundesgericht, vgl. BGE 137 V 1 E. 5.2.3 S. 8 f. bzw. Urteil 2C_103/2009 vom 10. Juli 2009 E. 2.2 in fine StE 2009 B 27.5 Nr. 15) ergeben sich bei der Grundsatzbewilligung formelle und materielle Gesichtspunkte, die zu prüfen sind. Auf formeller Ebene geht es in erster Linie darum, ob der Dividendenempfänger in einem EU-Mitgliedstaat ansässig ist, eine Beteiligung von mindestens 25% am Kapital der Dividendenschuldnerin hält und im Ansässigkeitsstaat ohne Befreiung der Körperschaftssteuer unterliegt; weiter ist u.a. die zweijährige Haltedauer der Beteiligung zu prüfen. In materieller Hinsicht muss die Dividendenempfängerin mit grösster Wahrscheinlichkeit abkommensberechtigt sein.
2.4 Die Verrechnungssteuer ist eine zweiphasige Steuer, indem zuerst die Erhebungs- und danach die Rückerstattungsphase zu unterscheiden sind.
2.4.1 Während von der Erhebung (Entrichtung der Steuer oder Meldung der Steuer) der Schuldner der steuerbaren Leistung betroffen ist, interessiert die allfällige Rückerstattung der Verrechnungssteuer vorab den Empfänger der steuerbaren Leistung. Für beide Phasen sind entsprechende Rechtswege vorgesehen. Je nachdem, ob es sich um eine natürliche oder um eine juristische Person, eine Handelsgesellschaft oder einen anderen Anspruchsberechtigten handelt, sind für die Rückerstattung unterschiedliche Behörden zuständig (Art. 30 VStG). Aus all diesen Gründen ergibt sich, dass die vorfrageweise Überprüfung der EStV, ob ein Rückerstattungsanspruch eines inländischen Leistungsempfängers besteht, nur summarisch und ohne Verbindlichkeit für das eigentliche Rückerstattungsverfahren erfolgen kann. Lässt sich der Rückerstattungsanspruch nicht ohne Weiteres feststellen oder bestehen ernsthafte Zweifel, so kommt die Bewilligung des Meldeverfahrens nicht in Betracht (BGE 115 lb 274 E. 20c S. 293; 110 lb 319 E. 6b S. 324 f.; vgl. auch Urteil 2C_756/2010 vom 16. Januar 2011 E. 2.2 ASA 79, 855 S. 859; Urteil 2C_438/2010 vom 16. Dezember 2010 E. 2.3; Urteil 2C_551/ 2009 vom 13. Mai 2009 E. 3.2 und 3.4 StR 65, 876 S. 881 ff.).
2.4.2 Diese für das landesinterne Meldeverfahren aufgestellten Grundsätze müssen - wie die Vorinstanz richtig erkannt hat (vgl. E 3.5 des angefochtenen Urteils) auch für dasjenige aufgrund des ZBstA gelten. Während sich die formellen Gesichtspunkte relativ einfach abklären lassen, kann es sich in materieller Hinsicht zwangsläufig nur um ein Glaubhaftmachen handeln, zumal die direkt betroffene Person (d.h. die Dividendenempfängerin) im Ausland ansässig ist und im Gesuchsverfahren gar nicht Partei ist. Sobald daher berechtigte Zweifel an der Abkommensberechtigung der Dividendenempfängerin bestehen, ist das Meldeverfahren zu verweigern. Denn wenn eine Dividende gestützt auf ein bewilligtes Meldeverfahren einmal ungekürzt an einen im Ausland ansässigen Empfänger abgeflossen ist, kann eine ungerechtfertigte Entlastung praktisch nicht mehr rückgängig gemacht werden, ist doch für diesen Fall keine Mithaftung des inländischen Dividendenschuldners vorgesehen (vgl. Art. 15 VStG).
2.4.3 Der Beschwerdeführerin ist daher nicht zuzustimmen, wenn sie behauptet (Ziff. 37), die Beweislast für das Vorliegen eines Missbrauchs als steuerbegründende Tatsache liege beim Fiskus, und die Vorinstanz habe die Missbrauchsfrage "nicht eingehend geprüft" (Ziff. 45) bzw. ob ein Missbrauch vorliege, sei bereits im Bewilligungsverfahren (sc. bezüglich des Meldeverfahrens) "zu prüfen" und nicht erst im Rahmen des Rückerstattungsverfahrens (Ziff. 21 der Replik). Die Frage der im Rückerstattungsverfahren geltenden Beweislastverteilung spielt bei der hier einzig strittigen Bewilligung des Meldeverfahrens (noch) keine Rolle. Durch eine Verweigerung des Meldeverfahrens wird die eigentliche Rückerstattung der Quellensteuer bzw. deren Verweigerung nicht präjudiziert. Vielmehr sind diese Fragen im eigens dafür vorgesehenen Rückerstattungsverfahren unter Beizug der davon direkt betroffenen Empfängerin der steuerbaren Leistung zu klären. Mit der Verweigerung des Meldeverfahrens kann gegebenenfalls ein Zinsverlust verbunden sein, weil zurückzuerstattende Beträge nicht verzinst werden (Art. 31 Abs. 4 VstG).
3. 3.1 Die Vorinstanz hat hier die formelle Voraussetzung zur Durchführung des Meldeverfahrens an sich als erfüllt erachtet (vgl. E. 5.2 des angefochtenen Entscheids). Dabei ist sie soweit ersichtlich bereits vom neuen Wortlaut von Art. 10 DBA-LUX ausgegangen. Gerade bezüglich der zweijährigen Haltezeit weicht die unrevidierte Fassung dieser Bestimmung aber von Art. 15 ZBstA ab, was problematisch sein kann (vgl. PETER RIEDWEG/RETO HEUBERGER, Die Quellensteuerbefreiung von Dividenden, Zinsen und Lizenzgebühren nach Art. 15 ZBstA, FStR 6 [2006], S. 43 f. in Verbindung mit S. 39 und Ziffer 13 der Wegleitung), so im vorliegenden Fall: Nachdem zunächst die C._ AG die Aktien der Beschwerdeführerin gehalten hatte und diese erst anfangs 2007 in die D._ AG umgewandelt wurde, ist nicht klar, ob bei der Ausschüttung vom 28. Juni 2007 die zweijährige Haltezeit erfüllt war. Diese Frage ist indessen nicht hier, sondern im Rückerstattungsverfahren zu beantworten. Es genügt hervorzuheben, dass nicht einmal bezüglich der formellen Erfordernisse restlose Klarheit besteht.
3.2 Das Bundesverwaltungsgericht hat sich im Wesentlichen auf die materiellen Voraussetzungen gestützt, um das Meldeverfahren zu verweigern.
3.2.1 Wie die Vorinstanz zu Recht festgehalten hat, bleibt nicht vollständig ausgeschlossen, dass der Dividendenempfängerin unter den hier massgeblichen Umständen das Nutzungsrecht fehlt (vgl. E. 5.2 des angefochtenen Urteils). Zudem ist der Missbrauchsvorwurf der EStV, die luxemburgische Gesellschaft sei nur zwischengeschaltet worden, damit sie stellvertretend für Y._ die Z._ AG liquidiere, nicht von der Hand zu weisen (vgl. E. 5.2 des angefochtenen Urteils). Praxisgemäss (vgl. oben E. 2.4.1; siehe auch E. 2.4.2) hat das Bundesverwaltungsgericht erwogen, dass es im vorliegenden Verfahren nicht darum kann, die offenen Fragen definitiv zu klären, weil dies Gegenstand des Rückerstattungsverfahrens bilden wird. Entscheidend ist nur, dass die Rückerstattungsberechtigung der D._ AG nicht zweifelsfrei und damit nicht rechtsgenügend erstellt ist, was aber ein Meldeverfahren verhindert (vgl. E. 5.2 des angefochtenen Urteils). Die Verrechnungssteuer ist daher auf dem Weg der Entrichtung der Steuer und nicht durch Meldung zu erheben.
3.2.2 Was die Beschwerdeführerin dagegen vorbringt, überzeugt nicht, soweit auf ihre Einwendungen überhaupt eingetreten werden kann (vgl. oben E. 1.3):
Selbst wenn die Umstrukturierung der K._ im Hinblick auf den Börsengang der E._ AG erfolgt sein mag, schliesst das nicht aus, dass dadurch noch andere Zwecke verfolgt werden sollten. Dabei ist nicht weiter zu prüfen, ob - wie die EStV argumentiert - das Meldeverfahren nur in Ausnahmefällen bewilligt werden kann.
Für die Frage, ob die Empfängerin für die am 28. Juni 2007 erhaltene Dividende nutzungsberechtigt war, kann ein Bescheid des bundesdeutschen Bundeszentralamtes betreffend Steuern für den Zeitraum 2005 nicht ausschlaggebend sein. Zudem vermag die mit dem 7. März 2007 datierte Bestätigung der "Administration des contributions" von Luxemburg, wonach die Empfängerin zur Nutzung der Beteiligung an der Dividendenschuldnerin berechtigt sei und sie die Dividende für eigene Rechnung beziehe, bezüglich der erst dreieinhalb Monate später beschlossenen Dividende nichts Verbindliches auszusagen. Solche Vorbringen können die bestehenden Zweifel an der Nutzungsberechtigung nicht beseitigen und sind im dafür vorgesehenen Rückerstattungsverfahren zu prüfen.
Es ist weiter unbestritten, dass Y._ ihre Beteiligung an der Beschwerdeführerin in der Steuerperiode 2003 nicht korrekt angegeben hat. Daran ändert nichts, dass ihr die Verrechnungssteuer auf der Dividende 2003 rückerstattet wurde. Ob diese Unregelmässigkeit auch Auswirkungen auf Verrechnungssteuerrückerstattungen betreffend Dividendenausschüttungen späterer Jahre gehabt hätte, stand nicht ohne Weiteres fest. Wenn Mitarbeitende der EStV an einer internen Besprechung betreffend "Aufwandbesteuerung keine Probleme" erkannten, so hatten sie offensichtlich nur die direkte Bundessteuer im Blick, welche keine Vermögensbesteuerung kennt, und deshalb von keiner Unterversteuerung betroffen war. Die Verrechnungssteuer hat indessen nicht nur die korrekte Deklaration der Einkommenssteuer zu sichern, sondern auch diejenige der Vermögenssteuer (vgl. MAJA BAUERBALMELLI/MARKUS REICH, Kommentar zum Schweizerischen Steuerrecht, Bundesgesetz über die Verrechnungssteuer, 2. Aufl., Basel 2012, N. 50 der Vorbemerkungen; ERNST BLUMENSTEIN/PETER LOCHER, System des schweizerischen Steuerrechts, 6. Aufl. Zürich 2002, S. 335). Deshalb kann sich die erfolgte Unregelmässigkeit hier sehr wohl als massgeblich erweisen. Auch dieses Problem ist jedoch im nachfolgenden Rückerstattungsverfahren zu untersuchen.
3.3 Zutreffend hat die Vorinstanz schliesslich die Rüge eines Verstosses gegen Treu und Glauben (Art. 9 BV) verworfen.
3.3.1 Die unbelegte Behauptung der Beschwerdeführerin, anlässlich einer Besprechung sei ihr die Bewilligung des Meldeverfahrens in Aussicht gestellt worden, sofern sie die C._ AG in eine normal besteuerte Körperschaft umwandle, wäre selbst dann keine taugliche Vertrauensbasis, wenn eine solche Zusicherung effektiv abgegeben worden wäre. Denn mit Schreiben vom 18. Juni 2007, und damit noch vor der Ausschüttung der Dividende am 28. Juni 2007, lehnte die EStV das Gesuch der Beschwerdeführerin um Bewilligung des Meldeverfahrens unmissverständlich ab.
Im Übrigen erwächst der Beschwerdeführerin selbst aus der Entrichtung der Verrechnungssteuer kein Nachteil, weil sie die Steuer von Gesetzes wegen auf die Empfängerin der steuerbaren Leistung überwälzen muss (Art. 14 VStG). Nachdem hier allerdings die Dividende ungekürzt ausgerichtet wurde, muss die verrechnungssteuerpflichtige Beschwerdeführerin die Verrechnungssteuer von der Dividendenempfängerin zurückverlangen, wenn sie nicht eine "Rechnung ins Hundert" gewärtigen will. Sofern sie dabei am Zinsverlust (vgl. oben E. 2.4.2 in fine) mittragen muss, ist sie dafür durch die Nichtbeachtung von Art. 14 VStG selbst verantwortlich.
3.3.2 Vor Bundesgericht bringt die Beschwerdeführerin nun zum ersten Mal die Kopie eines verwaltungsinternen E-mails vor, das die von ihr behauptete Zusage belegen soll. Auf dieses unzulässige Novum kann indessen nicht eingetreten werden. Ohnehin wäre die geltend gemachte Zusicherung einer "Vst-Rückerstattung" nicht gleichzusetzen mit derjenigen der Bewilligung des Meldeverfahrens, um die es hier geht. Im Übrigen setzt sich die Beschwerdeführerin mit den diesbezüglichen Erwägungen der Vorinstanz überhaupt nicht auseinander (vgl. dazu schon oben E. 1.3).
3.4 Zusammenfassend liegen hier hinreichende Gründe vor, um das Meldeverfahren nicht zu bewilligen und damit die Verrechnungssteuer (mit Zins) zu erheben.
4. Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf überhaupt eingetreten werden kann.
Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens der Beschwerdeführerin aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 100'000.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, der Eidgenössischen Steuerverwaltung und dem Bundesverwaltungsgericht schriftlich mitgeteilt.
Lausanne, 23. November 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Matter