Sachverhalt:
A. Die X._ GmbH, damals eine 100 % Tochtergesellschaft der X._ Holding AG, deklarierte für die Steuerperiode 2003 einen steuerbaren Reingewinn von Fr. 62'742'175.-- und ein Eigenkapital von Fr. 37'012'113.--. Für die Steuerperiode 2004 deklarierte sie einen steuerbaren Reingewinn von Fr. 65'442'933.-- und ein Kapital von Fr. 9'178'913.--. Vom Kantonalen Steueramt Zürich wurde sie am 8. August 2008 für die direkte Bundessteuer mit einem steuerbaren Reingewinn von Fr. 81'771'400.-- und einem Eigenkapital von Fr. 53'776'000.-- (2003) bzw. einem steuerbaren Reingewinn von Fr. 46'414'000.-- und einem Eigenkapital von Fr. 9'178'000.-- (2004) veranlagt.
Die Abweichungen zur Deklaration ergaben sich insbesondere aufgrund von Aufrechnungen wegen unterpreislichem Verkauf von Aktien der A._ AG an die X._ Holding AG, die B._ GmbH & Co. KG sowie die A._ AG selber. Dabei wurde dem während dem Veranlagungsverfahren geäusserten Antrag der X._ GmbH nicht gefolgt, wonach aufgrund einer handelsrechtswidrigen Verbuchung eine Bilanzberichtigung vorzunehmen, der Ertrag aus Kaufpreiserhöhung in der Jahresrechnung 2003 zu stornieren und als Beteiligungsertrag in der Jahresrechnung 2004 zu verbuchen sei, mit entsprechender Korrektur des steuerbaren Kapitals.
Die X._ GmbH erhob gegen diese Veranlagungsverfügungen ohne Erfolg Einsprache (Entscheid des Kantonalen Steueramts Zürich vom 29. Oktober 2008).
Gemäss Handelsregistereintrag vom 7. Dezember 2007 gingen während dem laufenden Einspracheverfahren die Aktiven und Passiven der X._ GmbH infolge Fusion auf die X._ Holding AG über und die X._ GmbH wurde gelöscht.
B. Die von der X._ Holding AG als Rechtsnachfolgerin der X._ GmbH gegen den Einspracheentscheid angerufene Steuerrekurskommission II des Kantons Zürich wies die Beschwerde mit Entscheid vom 16. März 2009 ab.
Die dagegen von der X._ Holding AG erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Zürich (2. Kammer) mit Urteil vom 30. September 2009 (SB.2009.00045) teilweise gut. Es gelangte zum Schluss, dass die X._ GmbH ihren Gruppengesellschaften eine geldwerte Leistung erbracht habe, indem sie beim Verkauf der Aktien der A._ AG an ihre Gruppengesellschaften auf einen Zusatzkaufpreis verzichtet habe, welcher bei einem Direktverkauf der Aktien an den (involvierten) US-Investor angefallen wäre und welchen die Gruppengesellschaften beim Weiterverkauf an den US-Investor vereinnahmt hätten. Bezüglich des Verkaufs von Aktien an die A._ AG liege jedoch teilweise eine verdeckte Kapitaleinlage vor, da die X._ GmbH selber an der A._ AG beteiligt gewesen sei. Da es die Sachverhaltsermittlung in dieser Hinsicht jedoch für unvollständig hielt, wies es die Sache an die Steuerrekurskommission II "zur weiteren Untersuchung und zum Neuentscheid im Sinne der Erwägungen" zurück.
C. Die X._ Holding AG beantragt dem Bundesgericht mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 30. Dezember 2009 - welche sich sowohl gegen den Entscheid des Verwaltungsgerichts vom 30. September 2009 betreffend die direkten Bundessteuern (SB.2009.00045; Verfahren 2C_857/2009) als auch gegen den gleichentags ergangenen separaten Entscheid betreffend die Staats- und Gemeindesteuern (SB.2009.00044; Verfahren 2C_856/2009) richtet -, die Entscheide des Verwaltungsgerichts und der Steuerrekurskommission des Kantons Zürich sowie die Einspracheentscheide und Veranlagungsverfügungen der Kantonalen Steuerverwaltung Zürich seien aufzuheben. Die Beschwerdeführerin sei für die direkte Bundessteuer 2003 mit einem steuerbaren Reingewinn von Fr. 62'742'500.-- und für die direkte Bundessteuer 2004 mit einem solchen von Fr. 56'317'556.-- einzuschätzen. Es sei festzustellen, dass die im Jahre 2004 an die Beschwerdeführerin ausgerichtete Dividende von Fr. 16'764'400.-- eine zum Beteiligungsabzug berechtigende Ausschüttung sei und das Steueramt Zürich sei anzuweisen, den Beteiligungsabzug für die direkte Bundessteuer 2004 entsprechend neu zu berechnen. Eventualiter sei die Beschwerdeführerin für die direkte Bundessteuer 2003 mit einem steuerbaren Reingewinn von Fr. 79'506'900.-- einzuschätzen, es sei festzustellen, dass die Dividende von Fr. 16'764'400.-- eine zum Beteiligungsabzug berechtigende Ausschüttung sei und es sei das Steueramt Zürich anzuweisen, den Beteiligungsabzug für die direkte Bundessteuer 2003 entsprechend neu zu berechnen. Ferner sei die Beschwerdeführerin für die direkte Bundessteuer 2004 mit einem steuerbaren Reingewinn von Fr. 39'553'156.-- einzuschätzen.
Das Verwaltungsgericht des Kantons Zürich (2. Abteilung) stellt den Antrag, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das kantonale Steueramt Zürich und die Eidgenössische Steuerverwaltung beantragen, auf die Beschwerde sei nicht einzutreten.
Erwägungen:
1. Das Verwaltungsgericht des Kantons Zürich hat in zwei separaten Urteilen vom 30. September 2009 über das bei ihm hängige Rechtsmittel hinsichtlich der direkten Bundessteuern und der Staats- und Gemeindesteuern entschieden. Die Beschwerdeführerin erhebt in einer einzigen Eingabe an das Bundesgericht Beschwerde gegen beide Urteile. Aufgrund des unterschiedlichen Ausgangs der beiden angefochtenen Entscheide sowie insbesondere mit Blick darauf, dass es im Verfahren betreffend die direkte Bundessteuer um die Gewinnsteuer geht, währenddem im Verfahren betreffend die kantonalen Steuern lediglich die Frage der Kapitalsteuer im Rahmen der Holdingbesteuerung zur Diskussion steht, sind die beiden Verfahren getrennt zu behandeln. Im vorliegenden Verfahren (2C_857/2009) ist damit lediglich auf diejenigen Beschwerdevorbringen und -anträge einzugehen, welche sich auf die direkte Bundessteuer beziehen.
2. 2.1 Das Bundesgericht prüft seine Zuständigkeit und die Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 135 III 1 E. 1.1 S. 3 mit Hinweisen).
2.2 Beim angefochtenen Urteil des Verwaltungsgerichts handelt es sich um einen kantonal letztinstanzlichen Entscheid in einer Angelegenheit des öffentlichen Rechts, die beim Bundesgericht mit Beschwerde in öffentlich-rechtlichen Angelegenheiten angefochten werden kann (Art. 82 ff. BGG in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG; SR 642.1] in der Fassung gemäss Anhang Ziff. 57 des Bundesgesetzes vom 17. Juni 2005 über das Bundesverwaltungsgericht [VGG; SR 173.32]).
Soweit die Beschwerdeführerin die Aufhebung von Veranlagungsverfügungen, Einspracheentscheiden und des Entscheids der Steuerrekurskommission beantragt, sind ihre Begehren unzulässig. Diese Verfügungen und Entscheide sind durch die Urteile des Verwaltungsgerichts ersetzt worden (sog. Devolutiveffekt). Sie gelten aber als inhaltlich mitangefochten (vgl. BGE 134 II 142 E. 1.4 S. 144; 129 II 438 E. 1 S. 441 mit Hinweisen).
Als Steuerpflichtige ist die Beschwerdeführerin gestützt auf Art. 89 Abs. 1 BGG grundsätzlich zur Beschwerde legitimiert.
2.3 Gemäss Art. 90 BGG ist die Beschwerde an das Bundesgericht gegen Entscheide, die das Verfahren abschliessen (sog. Endentscheide), zulässig. Das Gleiche gilt für Teilentscheide im Sinne von Art. 91 BGG. Hierbei handelt es sich um eine Variante des Endentscheids. Mit ihm wird über eines oder mehrere Rechtsbegehren (objektive oder subjektive Klagehäufung) abschliessend befunden. Es geht dabei nicht um verschiedene materiellrechtliche Teilfragen eines Rechtsbegehrens, sondern um verschiedene Rechtsbegehren (vgl. BGE 135 III 212 E. 1.2; 133 V 477 E. 4.1.2 S. 480 f.; 133 III 629 E. 2.1 S. 630, je mit Hinweisen).
3. 3.1 Vorliegend weist das Verwaltungsgericht die Sache zur weiteren Untersuchung und zum Neuentscheid an die Steuerrekurskommission zurück (sog. Rückweisungsentscheid). Es beurteilt im angefochtenen Entscheid zwar für die Vorinstanzen abschliessend über einige materiellrechtliche Teilfragen, jedoch nicht über einzelne Rechtsbegehren. Demnach schliesst sein Entscheid das Verfahren weder insgesamt noch über einzelne Rechtsbegehren ab, weshalb es keinen End- oder Teilentscheid im Sinne von Art. 90 und 91 BGG darstellt, sondern einen Zwischenentscheid (vgl. BGE 133 V 477 E. 4.2 und 4.3 S. 481 f.).
3.2 Auch wenn Rückweisungsentscheide das Verfahren nicht abschliessen, werden sie dennoch wie Endentscheide behandelt, falls der unteren Instanz, an welche die Sache zurückgewiesen wird, kein Entscheidungsspielraum mehr verbleibt und die Rückweisung nur noch der rechnerischen Umsetzung des oberinstanzlich Angeordneten dient (vgl. BGE 134 II 124 E. 1.3 S. 127; Urteile 2C_596/2007 vom 24. Juni 2008 E. 1.2, in: RDAF 2008 II S. 390; 9C_684/2007 vom 27. Dezember 2007 E. 1.1, in: SVR 2008 IV Nr. 39 S. 131, je mit Hinweisen). Eine solche Konstellation liegt bei einem Rückweisungsentscheid, mit dem - wie hier - unter anderem eine ergänzende Sachverhaltsabklärung verlangt wird, jedoch nicht vor (vgl. Urteil 2C_258/2008 vom 27. März 2009 E. 3.3 mit Hinweisen). Diese erfordert namentlich eine Würdigung und Subsumtion des ergänzend festgestellten Sachverhalts, so dass es nicht um eine blosse "rechnerische" Umsetzung im Sinne der erwähnten Rechtsprechung geht. Daran ändert auch nichts, dass das zurückweisende Gericht dabei - wie hier - bereits gewisse Rechtsfragen für die Vorinstanzen verbindlich beantwortet hat (vgl. erwähntes Urteil 2C_258/2008 E. 3.3 mit Hinweisen). Eine sofortige Anfechtung des Rückweisungsentscheids kommt mithin nur unter den Voraussetzungen der Art. 92 f. BGG in Betracht.
3.3 Gegen Vor- und Zwischenentscheide, die weder zu Ausstandsbegehren noch zur Zuständigkeit ergehen (dazu Art. 92 BGG), ist die Beschwerde gemäss Art. 93 Abs. 1 BGG nur zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (lit. a) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b). Das gilt im Übrigen auch für die subsidiäre Verfassungsbeschwerde (vgl. Art. 117 BGG). Dass die Voraussetzungen von Art. 93 Abs. 1 BGG erfüllt sind, hat der Beschwerdeführer aufzuzeigen, soweit diese nicht ohne Weiteres auf der Hand liegen (BGE 133 IV 288 E. 3.2 S. 292; 133 III 629 E. 2.3.1 und 2.4.2 S. 632 f.; 134 III 426 E. 1.2 in fine S. 429).
3.3.1 Dass der Beschwerdeführerin durch den angefochtenen Entscheid ein nicht wieder gutzumachender Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG entstehen könnte, wird nicht geltend gemacht und ist auch nicht ersichtlich. Allfällige Nachteile für die Beschwerdeführerin können auch noch mit einer bundesgerichtlichen Beurteilung des Endentscheids behoben werden.
3.3.2 Zwar könnte vorliegend die Gutheissung der Beschwerde im Hauptbegehren das Verfahren endgültig abschliessen, wie dies Art. 93 Abs. 1 lit. b BGG zum einen verlangt. Es gebricht jedoch an der zweiten, kumulativen Voraussetzung, wonach mit der Behandlung der Beschwerde gegen den Zwischenentscheid ein bedeutender Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren erspart würde. Das Verwaltungsgericht hat über das Bestehen einer steuerbaren geldwerten Leistung der Beschwerdeführerin entschieden. Die Rückweisung an die Steuerrekurskommission betrifft die Qualifizierung eines Teils von erfolgten Leistungen als verdeckte Kapitaleinlage. Vorliegend bestehen keinerlei Anhaltspunkte, dass in Bezug auf die von der Steuerrekurskommission vorzunehmende Untersuchung betreffend diese verdeckten Kapitaleinlagen ein aufwändiges Beweisverfahren durchgeführt werden müsste. Die Voraussetzungen von Art. 93 Abs. 1 lit. b BGG sind demnach nicht gegeben.
4. Nach dem Gesagten ist auf die Beschwerde betreffend die direkte Bundessteuer (2C_857/2009) nicht einzutreten. Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens der Beschwerdeführerin aufzuerlegen (Art. 65 und 66 BGG). Eine Parteientschädigung ist nicht auszurichten (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 17. Mai 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Moser