Sachverhalt:
A. A.a Y._ ist ein weltweit tätiger Konzern der R._- und S._-Industrie. Die operative Holdinggesellschaft der Gruppe, die Y._ AG, (nachfolgend YAG), hat ihren Sitz in O._/DE. Ihr Aktienkapital betrug in den Steuerperioden 2003 und 2004 _ Euro und war in eine entsprechende Anzahl nennwertloser Aktien eingeteilt.
Anfang 2003 wurden alle Aktien direkt oder indirekt von Mitgliedern der Familie Y._ gehalten. Die indirekte Beteiligung erfolgte im Wesentlichen über die Y._ GmbH & Co. KG. Diese hielt ihrerseits einen Teil der Aktien über die Y._-Werke) sowie über die schweizerischen Zwischenholdings, nämlich die X._ Holding AG sowie deren Tochtergesellschaft, die X._ GmbH. Diese wurde im Jahre 2007 durch die X._ Holding AG infolge Fusion übernommen und im Handelsregister gelöscht.
A.b Am 20. November 2003 erwarb ein in den USA ansässiger Investor 30% der Aktien der YAG, nämlich von A._ (direkt und indirekt) 2'175'000 Aktien (5%), von B._ (direkt und indirekt) 4'132'500 Aktien (9.5%) und von der X._ GmbH 6'742'500 Aktien (15.5%). Am gleichen Tag veräusserte die X._ GmbH 1'032'807 Aktien an die X._ Holding AG und 377'451 Aktien an die Y._-Werke. Schliesslich veräusserte die X._ GmbH am 17. Dezember 2003 der YAG 4'350'000 eigene Aktien. Die Kaufverträge mit dem US-Investor enthielten eine Klausel, wonach der Käufer den Anspruch auf die Dividende für das Jahr 2003 bis zur Höhe von _ Mio. Euro an die Verkäufer zedierte und die YAG anwies, die Dividende direkt an diese zu bezahlen.
Nach den vorgenannten Transaktionen ergab sich folgende Beteiligungs- und Stimmrechtsstruktur:
Anzahl
Aktien
Beteiligung
in %
Stimmrecht
in %
Direktbesitz Privat
3'710'060
8.53%
9.47%
Y._-Werke
4'393'500
10.10%
11.22%
X._ Holding AG
8'743'500
20.10%
22.33%
X._ GmbH
9'252'940
21.27%
23.63%
US-Investor
13'050'000
30.00%
33.33%
YAG
4'350'000
10.00%
0.00%
Total
43'500'000
100.00%
100.00%
B. Die X._ GmbH deklarierte für die Steuerperiode 2003 einen steuerbaren Reingewinn von Fr. _ und ein Eigenkapital von Fr. _. Für die Steuerperiode 2004 deklarierte sie einen steuerbaren Reingewinn von Fr. _ und ein Kapital von Fr. _. Sie wurde vom Kantonalen Steueramt Zürich am 8. August 2008 für die direkte Bundessteuer mit einem steuerbaren Reingewinn von Fr. _ und einem Eigenkapital von Fr. _ (2003) bzw. einem steuerbaren Reingewinn von Fr. _ und einem Eigenkapital von Fr. _ (2004) veranlagt.
Die Abweichungen zur Deklaration ergaben sich insbesondere aufgrund von Aufrechnungen wegen unterpreislichem Verkauf von Aktien der YAG an die X._ Holding AG, die Y._- Werke, O._/DE, und an die YAG selbst. Begründet wurde dies damit, die konzerninternen Transaktionen seien nicht zu marktkonformen Preisen abgewickelt worden, da bei den Verträgen mit einem amerikanischen Investor nebst dem Kaufpreis von _ Euro pro Aktie noch Zusatzkaufpreise vereinbart worden seien. Dem während dem Veranlagungsverfahren geäusserten Antrag der X._ GmbH, wonach aufgrund einer handelsrechtswidrigen Verbuchung eine Bilanzberichtigung vorzunehmen, der Ertrag aus Kaufpreiserhöhung in der Jahresrechnung 2003 zu stornieren und als Beteiligungsertrag in der Jahresrechnung 2004 zu verbuchen sei (mit entsprechender Korrektur des steuerbaren Kapitals), wurde nicht gefolgt.
Die X._ GmbH erhob gegen diese Veranlagungsverfügungen ohne Erfolg Einsprache (Entscheid des Kantonalen Steueramts Zürich vom 29. Oktober 2008).
C. Die von der X._ Holding AG als Rechtsnachfolgerin der X._ GmbH gegen den Einspracheentscheid angerufene Steuerrekurskommission II des Kantons Zürich wies die Beschwerde mit Entscheid vom 16. März 2009 ab.
Die dagegen von der X._ Holding AG erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Zürich (2. Kammer) mit Urteil vom 30. September 2009 (SB.2009.00045) teilweise gut. Es gelangte zum Schluss, dass die X._ GmbH ihren Gruppengesellschaften eine geldwerte Leistung erbracht habe, indem sie beim Verkauf der Aktien der YAG an ihre Gruppengesellschaften auf einen Zusatzkaufpreis verzichtet habe, welcher bei einem Direktverkauf der Aktien an den (involvierten) US-Investor angefallen wäre und welchen die Gruppengesellschaften beim Weiterverkauf an den US-Investor vereinnahmt hätten. Bezüglich des Verkaufs von Aktien an die YAG liege jedoch teilweise eine verdeckte Kapitaleinlage vor, da die X._ GmbH selber an der YAG beteiligt gewesen sei. Da es die Sachverhaltsermittlung in dieser Hinsicht jedoch für unvollständig hielt, wies es die Sache an die Steuerrekurskommission II "zur weiteren Untersuchung und zum Neuentscheid im Sinne der Erwägungen" zurück.
Das Bundesgericht trat auf die gegen das Urteil des Verwaltungsgerichts des Kantons Zürich vom 30. September 2009 erhobene Beschwerde mit Urteil vom 17. Mai 2010 nicht ein, da es sich beim angefochtenen Urteil um einen Zwischenentscheid handelte und die Eintretensvoraussetzungen nach <ref-law> nicht gegeben waren.
D. Nach Rückweisung der Streitsache durch die Steuerrekurskommission II (heute Steuerrekursgericht) setzte das kantonale Steueramt für die direkte Bundessteuer 2003 den steuerbaren Reingewinn auf Fr. _, das Eigenkapital per 31.12.2003 auf Fr. _, den Steuersatz auf 8,5% und den Beteiligungsabzug auf 0% fest. Für die direkte Bundessteuer 2004 setzte es den steuerbaren Reingewinn auf Fr. _, das Eigenkapital per 31.12.2004 auf Fr. _, den Steuersatz auf 8,5% und den Beteiligungsabzug auf 30,889% fest. Die Steuerfaktoren der Veranlagung 2003 blieben damit gegenüber dem ersten Rechtsgang unverändert, während das Steueramt für die Steuerperiode 2004 die Überlegungen des Verwaltungsgerichts zur verdeckten Kapitaleinlage übernahm, die im 1. Rechtsgang aufgerechnete verdeckte Gewinnausschüttung reduzierte und den Beteiligungsabzug neu berechnete.
Die gegen diese Veranlagung erhobene Beschwerde wies das Steuerrekursgericht des Kantons Zürich mit Entscheid vom 15. März 2011 ab. Die gegen diesen Entscheid erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zürich mit Urteil vom 21. September 2011 zur Hauptsache ab.
E. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 18. November 2011 beantragt die X._ Holding AG dem Bundesgericht, das Urteil des Verwaltungsgericht des Kantons Zürich vom 21. September 2011 betreffend die direkte Bundessteuer 2003 und 2004 sei aufzuheben. Die Beschwerdeführerin sei für die direkte Bundessteuer 2003 mit einem steuerbaren Reingewinn von Fr. _ und für die direkte Bundessteuer 2004 mit einem steuerbaren Reingewinn von Fr. _ einzuschätzen. Es sei festzustellen, dass die im Jahre 2004 an die Beschwerdeführerin ausgerichtete Dividende von Fr. _ eine zum Beteiligungsabzug gemäss Art. 69 und 70 DBG berechtigende Ausschüttung sei und das Kantonale Steueramt Zürich sei anzuweisen, den Beteiligungsabzug für die direkte Bundessteuer 2004 entsprechend neu zu berechnen. Eventualiter sei die Beschwerdeführerin für die direkte Bundessteuer 2003 mit einem steuerbaren Reingewinn von Fr. _ einzuschätzen, und es sei festzustellen, dass die Dividende von Fr. _ eine zum Beteiligungsabzug gemäss Art. 69 und 70 DBG berechtigende Ausschüttung sei. Das Kantonale Steueramt Zürich sei anzuweisen, den Beteiligungsabzug für die direkte Bundessteuer 2003 entsprechend neu zu berechnen. Ferner sei die Beschwerdeführerin für die direkte Bundessteuer 2004 mit einem steuerbaren Reingewinn von Fr. _ einzuschätzen.
Das Verwaltungsgericht des Kantons Zürich (2. Abteilung) und das Kantonale Steueramt Zürich stellen den Antrag, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Eidgenössische Steuerverwaltung beantragt, die Beschwerde sei abzuweisen. Mit Replik vom 9. Februar 2012 hält die X._ Holding AG an ihren Anträgen fest.

Erwägungen:
1. 1.1 Die Beschwerde ist zulässig (vgl. <ref-law> in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG, SR 642.11]).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht geltend gemacht werden (<ref-law>). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (Art. 105 Abs. 2 bzw. <ref-law>).
1.3 Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist daher weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder sie mit einer vom angefochtenen Entscheid abweichenden Begründung abweisen (vgl. <ref-ruling> E. 1.4 S. 140 mit Hinweis).
2. Der steuerbare Reingewinn der juristischen Personen setzt sich gemäss <ref-law> zusammen aus dem Saldo der Erfolgsrechnung unter Berücksichtigung des Saldovortrages des Vorjahres (lit. a), allen vor Berechnung des Saldos der Erfolgsrechnung ausgeschiedenen Teilen des Geschäftsergebnisses, die nicht zur Deckung von geschäftsmässig begründetem Aufwand verwendet werden (lit. b) sowie den der Erfolgsrechnung nicht gutgeschriebenen Erträgen mit Einschluss der Kapital-, Aufwertungs- und Liquidationsgewinne (lit. c).
2.1 Zum steuerbaren Reingewinn gehören namentlich Zuwendungen der Gesellschaft an die Anteilsinhaber oder ihnen nahe stehende Dritte, die einem Aussenstehenden nicht oder zumindest nicht im gleichen Masse gewährt würden. Solche geldwerte Leistungen sind nach der Rechtsprechung immer dann anzunehmen, wenn (a) die Gesellschaft keine oder keine gleichwertige Gegenleistung erhält, (b) der Aktionär direkt oder indirekt (z.B. über eine ihm nahe stehende Person oder Unternehmung) einen Vorteil erhält, der einem Dritten unter gleichen Bedingungen nicht zugebilligt worden wäre, die Leistung also insofern ungewöhnlich ist, und (c) der Charakter dieser Leistung für die Gesellschaftsorgane erkennbar war (Urteil 2A.263/2003 vom 19. November 2003 E. 2 mit Hinweisen, auch zum Folgenden). Als geldwerte Leistungen gelten insbesondere Ertragsverzichte zugunsten des Aktionärs oder einer ihm nahe stehenden Person, die bei der Gesellschaft zu einer entsprechenden Kürzung des in der Erfolgsrechnung ausgewiesenen Gewinnes führen. Solche Ertragsverzichte liegen vor, wenn die Gesellschaft auf ihr zustehende Einnahmen ganz oder teilweise verzichtet und die entsprechenden Erträge direkt dem Aktionär oder diesem nahe stehenden Personen zufliessen bzw. wenn diese nicht jene Gegenleistung erbringen, welche die Gesellschaft von einem unbeteiligten Dritten fordern würde (vgl. bezüglich Veräusserung von Aktiven ROBERT DANON, in: Commentaire Romand, art. 57-58 N. 158).
2.2 Bei diesem Drittvergleich (so genannter Grundsatz des "dealing at arm's length") wird bei Vermögensgegenständen auf den Verkehrswert abgestellt. Bei verbundenen Unternehmen hat diese Beurteilung vom Standpunkt der jeweiligen steuerpflichtigen Gesellschaft aus zu erfolgen (PETER LOCHER, Kommentar zum DBG, N. 98 zu <ref-law> mit Hinweisen, auch zum Folgenden). Eine Beurteilung vom Konzern aus, dem die steuerpflichtige juristische Person angehört, ist nicht angängig; auch Rechtsgeschäfte zwischen Konzerngesellschaften sind deshalb zu den gleichen Bedingungen abzuwickeln, wie sie mit aussenstehenden Dritten vereinbart würden (vgl. Urteil 2A.588/2006 vom 19. April 2007 E. 4.2 mit Hinweisen).
2.3 Erfolgt die verdeckte Vorteilsgewährung durch die Muttergesellschaft an die Tochtergesellschaft, so liegt nicht eine verdeckte Gewinnausschüttung vor, sondern es handelt sich um eine verdeckte Kapitaleinlage: während bei der verdeckten Gewinnausschüttung regelmässig eine Entreicherung der leistenden Gesellschaft eintritt, ist dies bei Kapitaleinlagen, d.h., wenn die Leistung in umgekehrter Richtung fliesst, in der Regel nicht der Fall. Wirtschaftlich betrachtet erfolgt die Leistung der Muttergesellschaft immer gegen angemessenes Entgelt, erhöht sich doch im Umfang, in welchem die empfangene Leistung wertmässig unter der erbrachten Leistung liegt, der Wert der Beteiligung (PETER BRÜLISAUER/FLURIN POLTERA, in: Kommentar zum Schweizerischen Steuerrecht, I/2a, 2. Aufl. 2008, N. 218 zu <ref-law> mit Hinweisen).
3. Die Beschwerdeführerin bestreitet, dass vorliegend im Zusammenhang mit gruppeninternen Verkäufen von Beteiligungen verdeckte Gewinnausschüttungen vorgenommen wurden. Sie führt aus, der US-Investor habe faktisch mehr bezahlt als die Gruppengesellschaften, weil er für die Aktien gleich viel bezahlte, obwohl er den Dividendenanspruch nicht miterwarb. Die Differenz zwischen dem Preis für die an den US-Investor verkaufte Beteiligung und jenem für die Streuaktien von 2,37% bzw. von 0,87% sei aber dennoch gerechtfertigt gewesen. Dem US-Investor sei eine Beteiligung verkauft worden, welche Stimmrechte im Umfang von 33,33% vermittelte und somit eine Sperrminorität nach deutschem Aktienrecht darstellte.
3.1 Die Vorinstanz hat festgestellt, die Kaufverträge zwischen der X._ GmbH einerseits und den Y._-Werken und der X._ Holding AG andererseits seien im Gesamtzusammenhang zu betrachten. Zwischen den Aktionären der YAG habe die Verpflichtung bestanden, dem US-Investor Aktien im Verhältnis der Beteiligung an der YAG zu verkaufen. Da die X._ Holding AG und die Y._-Werke eine ungenügende Anzahl YAG-Aktien hielten, hätten sie von der X._ GmbH weitere YAG-Anteile hinzugekauft, welche sie an den US-Investor weiterverkauften. Diese internen Übertragungen seien ohne den Zusatzkaufpreis erfolgt, welcher bei einem Direktverkauf der Aktien von der X._ GmbH an den US-Investor angefallen wäre.
Die Beschwerdeführerin äussert sich zu diesen Sachverhaltsfeststellungen der Vorinstanz mit keinem Wort. Sie sind daher für das Bundesgericht verbindlich (vgl. Erw. 1.2), wobei der Klarheit halber festzustellen ist, dass mit Zusatzkaufpreis - entsprechend den eigenen Vorbringen der Beschwerdeführerin - die Preisdifferenz betreffend Dividendenanspruch gemeint ist, d.h. im Prinzip die Abtretung des Dividendenanspruchs durch den Käufer.
3.2 Die Vorinstanz schliesst aufgrund dieses Sachverhaltes, indem die X._ GmbH beim Verkauf der Aktien an ihre Gruppengesellschaften auf den Zusatzkaufpreis verzichtet habe, die Gruppengesellschaften die Aktien an den US-Investor jedoch zuzüglich Zusatzkaufpreis weiterverkauft hätten (recte: zum gleichen Preis, ohne Berücksichtigung eines Abzugs für die Abtretung des Dividendenanspruchs), habe die X._ GmbH ihren Gruppengesellschaften ohne ersichtlichen sachlichen Grund den Gewinn aus diesen Transaktionen ihren Gruppengesellschaften überlassen. Dies stelle eine geldwerte Leistung dar. Hätte die X._ GmbH in ihrem eigenen Interesse gehandelt, so hätte sie sämtliche Aktien zum höheren Verkaufspreis direkt an den US-Investor verkauft (recte: zum gleichen Preis aber mit Vorbehalt der Abtretung des Dividendenanspruchs).
Die Schlüsse der Vorinstanz sind folgerichtig. Angesichts der von der Vorinstanz festgestellten Transaktionen steht fest, dass die Beschwerdeführerin in Höhe der Kaufpreisdifferenz eine geldwerte Leistung erbracht hat. Der Umstand, dass der US-Investor eine Sperrminorität erwarb, was sich auf den Kaufpreis auswirken kann, hat damit keinerlei Zusammenhang. Massgebend ist einzig, dass die Beschwerdeführerin auf die Erzielung eines Gewinns verzichtete und dessen Realisation den Gruppengesellschaften überliess. Den Schlüssen der Vorinstanz hinsichtlich der geldwerten Leistungen ist daher zuzustimmen.
3.3 Die Aufteilung der festgestellten geldwerten Leistung in eine verdeckte Gewinnausschüttung und in eine verdeckte Kapitaleinlage, ist vor Bundesgericht nicht umstritten. Es erübrigt sich daher, auf diese Frage einzugehen.
4. Strittig ist im Weiteren die steuerliche Behandlung der Dividendenausschüttung der YAG an die Beschwerdeführerin im Umfange von Fr. _. Gemäss unbestrittener Sachverhaltsfeststellung der Vorinstanz beschloss die Hauptversammlung der YAG am 8. Juli 2004 für das Geschäftsjahr 2003 eine Dividende von insgesamt _. Euro auszuschütten. Davon entfielen 33,33% auf den US-Investor, entsprechend dessen Stimmenanteil, da die von der YAG selber gehaltenen Aktien nicht dividendenberechtigt waren. Von diesem Betrag wiederum wurden unbestrittenermassen - entsprechend den Bestimmungen der Kaufverträge vom 20. November 2003 - Fr. _ an die Beschwerdeführerin ausbezahlt.
Umstritten ist, ob es sich bei dem so an die Beschwerdeführerin ausbezahlten Betrag um einen zum Beteiligungsabzug berechtigenden Beteiligungsertrag handelt.
4.1 Ist eine Kapitalgesellschaft zu mindestens 20 Prozent am Grund- oder Stammkapital einer anderen Gesellschaft beteiligt oder macht ihre Beteiligung an solchem Kapital einen Verkehrswert von mindestens 2 Mio. Fr. aus, so ermässigt sich die Gewinnsteuer der Gesellschaft im Verhältnis des Nettoertrags aus diesen Beteiligungen zum gesamten Reingewinn (<ref-law> in der hier noch anwendbaren ursprünglichen Fassung vom 14. Dezember 1990). Es handelt sich um den sog. Beteiligungsabzug. Die Regelung dient dazu, eine mehrfache Besteuerung jener Gewinne zu vermeiden, welche in- und ausländische Kapitalgesellschaften an in der Schweiz steuerpflichtige Zwischen- oder Obergesellschaften ausschütten (vgl. Urteil 2C_349/2008 vom 14. November 2008 E. 2, in: ASA 79 S. 391 mit weiteren Hinweisen).
Der Beteiligungsabzug wurde zunächst nur auf (echten) Erträgen aus Beteiligungen gewährt, nicht aber auf Kapitalgewinnen aus Beteiligungen (<ref-law>, in seiner ursprünglichen Fassung). Nach der am 1. Januar 1998 in Kraft getretenen Reform des Unternehmenssteuerrechts zählen nunmehr neu ausdrücklich auch die - durch Veräusserung der Titel oder zugehöriger Bezugsrechte erzielten (vgl. <ref-law>, in der Fassung vom 10. Oktober 1997) - Kapitalgewinne auf Beteiligungen zum für die Berechnung des Abzugs nach <ref-law> massgebenden Nettoertrag aus diesen Beteiligungen (<ref-law>, in der Fassung vom 10. Oktober 1997). Das gilt aber noch nicht, wenn die betreffenden Beteiligungen schon vor dem 1. Januar 1997 der Kapitalgesellschaft oder Genossenschaft gehörten und die erwähnten Gewinne vor dem 1. Januar 2007 erzielt wurden (<ref-law>; vgl. zum Ganzen auch Urteil 2A.542/2002 vom 6. Januar 2004 E. 1, in: ASA 74 224 E. 1 sowie 2C_176/2008 vom 26. August 2008 E. 2, in: RDAF 2008 II 247 E. 2).
4.2 Vorliegend wird nicht geltend gemacht, die Beschwerdeführerin habe bezüglich des bei der Veräusserung der Beteiligung erzielten Kapitalgewinnes gestützt auf die per 1. Januar 1998 in Kraft getretene Fassung von <ref-law> Anspruch auf einen Beteiligungsabzug. Die Beschwerdeführerin führt selbst aus, dass es sich bei der in Frage stehenden Beteiligung um eine sog. Altbeteiligung handelt mit der Konsequenz, dass für einen darauf erzielten Kapitalgewinn der Beteiligungsanspruch nicht beansprucht werden kann. Auf diese Frage muss daher hier nicht weiter eingegangen werden.
4.3 Die Beschwerdeführerin begründet ihre Auffassung, wonach auf der fraglichen Dividendenzahlung der Beteiligungsabzug zu gewähren sei, damit, sie selber sei eine Kapitalgesellschaft. Bei der Dividendenzahlung handle sich um eine Ausschüttung der YAG, an welcher sie im Zeitpunkt der Ausschüttung mit mindestens 20% und mindestens Fr. 2 Mio. beteiligt gewesen sei. Damit seien die subjektiven und objektiven Voraussetzungen zur Erlangung des Beteiligungsabzugs erfüllt. Demzufolge müssten sämtliche Gewinnbezüge in den Genuss der Steuerermässigung gelangen.
Diese Auffassung ist zu prüfen:
4.3.1 Der Zweck der Gesetzesbestimmungen zum Beteiligungsabzug besteht darin, eine Doppel- bzw. Vielfachbesteuerung im Falle von Gesellschaften zu vermeiden, welche ihrerseits Tochtergesellschaften bzw. Beteiligungen besitzen (vgl. RICHNER/FREI/KAUFMANN/MEUTER, Handkommentar zum DBG, 2. Aufl. 2009, N. 1 zu <ref-law>). Deshalb werden nicht einfach die gesamten Erträge aus Beteiligungen von der Besteuerung freigestellt, sondern es wird die Gewinnsteuer nach einem in <ref-law> vorgesehen Schlüssel, d.h. aufgrund des Verhältnisses des Nettoertrags aus der Beteiligung zum steuerbaren Gesamtreingewinn, herabgesetzt. Aufgrund dieses Zwecks des Beteiligungsabzugs und der gesetzlichen Ausgestaltung des Abzugs ergibt sich, dass der als Nettoertrag aus der Beteiligung in Betracht zu ziehende Ertrag kausal auf das Beteiligungsrecht zurückzuführen sein muss (vgl. in diesem Sinne die Definition des Ertrags aus Beteiligung durch PETER LOCHER, Kommentar zum DBG, N. 76 zu <ref-law>). Nur soweit der fragliche Ertrag bei der steuerpflichtigen Gesellschaft und ihre Beteiligung an der leistenden Tochtergesellschaft bzw. Beteiligung einen derartigen Konnex haben, kann dieser Ertrag als Beteiligungsertrag im Sinne von Art. 69 f. DBG qualifiziert werden. Das heisst, der blosse Umstand, dass eine Gesellschaft, an welcher die steuerpflichtige Gesellschaft beteiligt ist, eine Zahlung an Letztere geleistet hat, genügt nicht, um diese Zahlung als Beteiligungsertrag zu qualifizieren.
4.3.2 Die Beschwerdeführerin übersieht bei ihrer Argumentation, dass es vorliegend bezüglich der zur Diskussion stehenden Dividendenzahlung am geforderten Konnex fehlt: Die YAG hat die fragliche Zahlung nicht deswegen an die Beschwerdeführerin erbracht, weil diese ihre Beteiligte war. Vielmehr hat die Vorinstanz festgestellt, nach dem Wortlaut des Kaufvertrags sei die Berechtigung für den Bezug der Dividenden der YAG für das Geschäftsjahr 2003 auf den Käufer übergegangen und habe sich dieser verpflichtet, einen Zusatzkaufpreis im Umfang der Dividendenberechtigung an die Pflichtige zu bezahlen.
Die Beschwerdeführerin beschränkt sich bezüglich dieser sachverhaltlichen Feststellungen der Vorinstanz auf die Behauptung, es handle sich um einen Aktienverkauf ex-Coupon und es könne keine Rolle spielen, dass dieser aus Gründen des deutschen Zivilrechts nicht in einem Schritt, sondern in zwei Schritten (Verkauf der Aktien verbunden mit gleichzeitiger Zession des Dividendenanspruchs) erfolgt sei und dass die vom Käufer an die Verkäuferin zedierte Dividende in den jeweiligen Kaufverträgen als "additional purchase price" (zusätzlicher Kaufpreis) bezeichnet werde. Mit diesen pauschalen Vorbringen vermag sie nicht nachzuweisen, dass die vorinstanzlichen Sachverhaltsfeststellungen offensichtlich unrichtig sind. Das Bundesgericht ist daher an diese Feststellungen gebunden.
4.3.3 Steht demnach fest, dass es sich bei der Abtretung des Dividendenanspruchs um einen Kaufpreisbestandteil handelte, so ist die Feststellung, dass es sich dabei nicht um Beteiligungsertrag der Beschwerdeführerin handeln kann, folgerichtig. Die Beschwerdeführerin kam nicht aufgrund ihrer Beteiligteneigenschaft in den Genuss dieser Zahlung, sondern weil ihr der US-Investor als effektiv Beteiligter und Dividendenberechtigter seinen Anspruch als Teil des Kaufpreises vertraglich abgetreten hatte. Der Umstand, dass die Beschwerdeführerin auch nach Veräusserung eines Teils der Beteiligung an der YAG an dieser Gesellschaft noch beteiligt war, ist für die Qualifikation der auf die veräusserten Beteiligungsrechte entfallenden Ausschüttung nicht relevant.
4.3.4 Daran vermag auch eine wirtschaftliche Betrachtungsweise, wie die Beschwerdeführerin sie verficht, nichts zu ändern. Ob für die Geltendmachung des Beteiligungsabzugs im Sinne von <ref-law> der zivilrechtliche Besitz oder die wirtschaftliche Berechtigung an der Beteiligung gemeint ist (vgl. DUSS/ALTORFER, in: Kommentar zum Schweizerischen Steuerrecht, I/2a, N. 29 zu <ref-law>), spielt im vorliegenden Zusammenhang keine Rolle. Der Anspruch auf Dividende entsteht erst im Zeitpunkt, da diese rechtsmässig beschlossen worden ist. Vorher besteht noch keine Forderung. Über die Dividende der YAG für das Geschäftsjahr 2003 beschloss die Hauptversammlung am 8. Juli 2004. In diesem Zeitpunkt war aber die Beschwerdeführerin weder zivilrechtlich noch wirtschaftlich an der an den US-Investor veräusserten Beteiligung berechtigt noch stand ihr das Recht zur Nutzung im Sinne von <ref-law> des Bundesgesetzes über die Verrechnungssteuer vom 13. Oktober 1965 (VStG; SR 642.21) zu. Dass der Empfänger vormals Beteiligter an der ausschüttenden Gesellschaft war, vermag daran nichts zu ändern (a.M. offenbar DENIS BERDOZ, in: Commentaire romand, Art. 69 LIFD N. 62).
Bereits die Praxis zum Bundesratsbeschluss über die Erhebung einer direkten Bundessteuer resp. Wehrsteuer vom 9. Dezember 1940 (BdBSt; BS 6 350) stellte darauf ab, ob im Zeitpunkt, da der Beteiligungsertrag angefallen ist, die Voraussetzungen für die Ermässigung bei Beteiligungen bestand. Das Kriterium gemäss Art. 59 BdBSt, wonach die Beteiligung zu Beginn der Steuerpflicht resp. der Steuerperiode bestanden haben musste, erwies sich (im System der Postnumerandobesteuerung mit Vergangenheitsbemessung) als zu eng und wurde als den wirtschaftlichen Verhältnissen unangemessen empfunden (vgl. <ref-ruling> E. 1a; Ernst Känzig, Die direkte Bundessteuer, 2. Aufl. 1992, N. 7 zu Art. 59 BdBSt; s. zum massgebenden Zeitpunkt für die Beurteilung der quantitativen Voraussetzungen des Beteiligungsabzugs MARCO GRETER, der Beteiligungsabzug im harmonisierten Gewinnsteuerrecht, S. 103 f., sowie JONAS MISTELI, Dividenden-Stripping - Steuerrechtliche Aspekte einer Verschiebung von Aktien über den Dividendenstichtag mittels börslicher Kassageschäfte, Sell/Buy-Back, Repo und Securities-Lending, 2000, S. 88 ff.).
4.3.5 Der Umstand, dass die Beschwerdeführerin aufgrund des Kaufvertrages gegenüber dem neuen Inhaber der Beteiligungsrechte einen vertraglichen Anspruch auf Auszahlung der auf diesen Beteiligungsrechten basierenden Dividende hatte, genügt nach dem Ausgeführten somit nicht, um die Ausschüttung als Beteiligungsertrag der Beschwerdeführerin qualifizieren zu können. Das kantonale Steueramt weist in seiner Vernehmlassung zu Recht darauf hin, dass es sich diesbezüglich nicht anders verhält, als wenn ein Rechtsgeschäft über irgendeinen Gegenstand abgeschlossen und dabei die Bezahlung des Kaufpreises durch Abtretung eines Dividendenanspruchs vereinbart würde. Ein solcher Anspruch könnte offensichtlich nicht genügen für eine Qualifikation der Ausschüttung als Beteiligungsertrag beim Empfänger.
5. Das führt zur Abweisung der Beschwerde. Als unterliegende Partei hat die Beschwerdeführerin die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 und 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 12'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 29. Mai 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann