Sachverhalt:
A. Die X._ Consulting AG (nachfolgend die Steuerpflichtige) wurde am 27. November 2003 mit einem Aktienkapital von Fr. 100'000.-- gegründet. Sie bezweckt die Erbringung von Dienstleistungen aller Art im Finanzbereich. Gründer waren A.Y._ und seine Ehefrau B.Y._. Das Aktienkapital wurde durch die Gründer bar liberiert.
A.Y._ führte zuvor im gleichen Bereich die Einzelfirma Y._ Consulting sowie - zusammen mit seiner Ehefrau - die Y._ GmbH Im Zusammenhang mit der Neugründung wurde die Einzelfirma aufgelöst resp. in die Pflichtige überführt. Zudem brachten die Gründer sämtliche Stammanteile der Y._ GmbH im Nennwert von Fr. 20'000.-- als Sacheinlage in die neu gegründete Gesellschaft ein, welche die Beteiligung mit Fr. 20'000.-- aktivierte.
B. Am 16. Februar 2004 schloss die Steuerpflichtige mit der Z._ AG und unter Beteiligung der Y._ GmbH insgesamt drei Verträge ab:
Beim ersten Vertrag handelt es sich um einen "Kauf- und Abtretungsvertrag", mit dem die Steuerpflichtige 55 Prozent der Stammanteile an der Y._ GmbH an die Z._ AG veräusserte. Der Kaufpreis belief sich auf EUR 4'400'000.-- und enthielt einen Betrag von EUR 600'000.-- als Entschädigung für die Geschäftsführung durch die Steuerpflichtige bei der Y._ GmbH bis zum 30. Juni 2008.
In einem zweiten Vertrag (bezeichnet als "Zusammenarbeitsvertrag") wurde die Zusammenarbeit zwischen der Steuerpflichtigen, der Z._ AG und der Y._ GmbH geregelt. Der Kaufpreis war innerhalb von vier Arbeitstagen nach rechtsgültiger Übertragung der Stammanteile durch Überweisung von je EUR 2'200'000.-- auf zwei Konti bei der Zürcher Kantonalbank (ZKB) zu begleichen. Eines der beiden Konti wurde als Escrow-Konto bezeichnet und diente als Sicherheit und Pfand für die Ansprüche der Käuferin aus dem Kauf- und Abtretungs- und aus dem Zusammenarbeits-Vertrag.
Einzelheiten zur Verpfändung des Kontoguthabens auf dem Escrow-Konto wurden in einem dritten, als "Spezieller Pfandvertrag" bezeichneten Vertrag geregelt.
C. Für das erste vom 27. November 2003 bis 31. Dezember 2004 dauernde Geschäftsjahr reichte die Steuerpflichtige am 28. Juli 2005 die Steuererklärung unter Beilage der durch die damalige Revisionsstelle ausgefertigten Jahresrechnung 2003/2004 ein. Im Anhang zur Jahresrechnung wurde auf die Verpfändung des Aktivguthabens auf dem Escrow-Konto hingewiesen. In der Steuererklärung wurde der Reingewinn gemäss Geschäftsabschluss von Fr. 5'936'933.-- deklariert. Da die Steuerpflichtige gleichzeitig in Ziffer 6 der Steuererklärung (Rubrik Abzüge/Vorjahresverluste mit dem zusätzlichen Vermerk "Beteiligungsgewinn") den beim Verkauf der genannten GmbH-Beteiligung erzielten Kapitalgewinn von Fr. 5'974'380.-- in Abzug brachte, ergab sich aus der Deklaration per Saldo ein steuerbarer Gewinn von Fr. 0.--.
Am 6. Dezember 2005 reichte die Steuerpflichtige ein "Rektifikat" zur Steuererklärung 2004 ein. Darin deklarierte sie nunmehr einen Reingewinn von Fr. 2'546'680.-- und brachte sie (ebenfalls in der Ziffer 6 der Steuererklärung) einen Kapitalgewinn von Fr. 2'584'127.-- in Abzug, womit sich wiederum ein steuerbarer Reingewinn von Fr. 0.-- ergab. Eine Erklärung für diese Änderung wurde nicht abgegeben. Jedoch lag der rektifizierten Steuererklärung ein Schreiben der A._ Treuhand AG an die Steuerpflichtige bei, in welchem die Erstere als "designierte neue Kontrollstelle" die Vornahme von zwei Nachtragsbuchungen empfahl, und zwar die Ausbuchung des Escrow-Kontos zu Lasten des verbuchten Kapitalgewinns und eine Wertberichtigung auf Forderungen der Steuerpflichtigen gegenüber der Y._ GmbH. Beigelegt wurde zudem ein Bilanzstatus per 31. Dezember 2004 nach Korrekturbuchungen. Eine revidierte Jahresrechnung im Sinn von Art. 662 Abs. 2 OR wurde nicht eingereicht. Einem der rektifizierten Steuererklärung beigelegten "Kauf- und Abtretungsvertrag/Aufhebungsvertrag" vom 31. Oktober 2005 zwischen der Steuerpflichtigen, der Z._ AG und der Y._ GmbH liess sich entnehmen, dass die mit den Verträgen vom 16. Februar 2004 vereinbarte Zusammenarbeit zwischen der Steuerpflichtigen und der Z._ AG auf den 1. November 2005 aufgehoben worden war und die Steuerpflichtige von dieser die Stammeinlage von Fr. 11'000.-- (55 Prozent des Stammkapitals an der Y._ GmbH) unter Verwendung des Escrow-Guthabens für EUR 1'450'000.-- zurückgekauft hatte.
D. Mit Veranlagungsverfügung vom 2. Februar 2007 wurde die Steuerpflichtige für die Steuerperiode (Geschäftsjahr) vom 27. November 2003 bis 31. Dezember 2004 mit einem steuerbaren Reingewinn von Fr. 6'034'300.-- (Bund und Kanton) und einem steuerbaren Eigenkapital von Fr. 6'036'000.-- (Kanton) eingeschätzt. Die beantragten Bilanzkorrekturen lehnte das kantonale Steueramt Zürich (Veranlagungsbehörde) gestützt auf einen Bericht des steueramtlichen Revisors ab. Den Beteiligungsabzug für den Kapitalgewinn aus der Veräusserung der Stammanteile der Y._ GmbH gewährte sie nicht, weil das gesetzliche Erfordernis der Mindesthaltedauer von einem Jahr nicht erfüllt sei.
E. Die Steuerpflichtigen führten Einsprache ohne Erfolg. Rekurs und Beschwerde der Steuerpflichtigen wies die Steuerrekurskommission I des Kantons Zürich (heute: Steuergericht des Kantons Zürich) mit Entscheid vom 19. März 2008 ab. Die von der Steuerpflichtigen daraufhin erhobenen Beschwerde hiess das Verwaltungsgericht des Kantons Zürich mit zwei Entscheiden vom 17. Dezember 2008 teilweise gut und wies die Sache zur weiteren Untersuchung und zu neuem Entscheid an das kantonale Steueramt zurück. Gemäss den Ausführungen des Verwaltungsgerichts war ungeklärt geblieben, ob die Beteiligung an der Y._ GmbH sich im Privat- oder Geschäftsvermögen der Einzelfirma von A.Y._ befunden habe und ob die Beteiligung im Rahmen einer steuerneutralen Umstrukturierung in die steuerpflichtige Gesellschaft eingebracht worden sei.
F. Nach einer ergänzenden Untersuchung wies das Kantonale Steueramt Zürich die Einsprachen im zweiten Rechtsgang am 2. November 2010 erneut ab. Rekurs und Beschwerde blieben erfolglos (Entscheid des Steuergerichts des Kantons Zürich vom 18. Februar 2011). Das Verwaltungsgericht des Kantons Zürich wies die Beschwerde in zwei Entscheiden vom 23. Mai 2012 in Bezug auf die Staats- und Gemeindesteuern und die direkte Bundessteuer ab.
G. Gegen die beiden Entscheide des Zürcher Verwaltungsgerichts führt die X._ Consulting AG Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, es sei der Gewinn auf Fr. 0.-- (Staats-, Gemeinde- und direkte Bundessteuer) und das steuerbare Kapital auf Fr. 3'378'000.-- (Staats- und Gemeindesteuern) festzusetzen.
Das Kantonale Steueramt Zürich und das Verwaltungsgericht des Kantons Zürich beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten ist. Die Eidgenössische Steuerverwaltung schliesst auf kostenfällige Abweisung der Beschwerde, soweit diese die direkte Bundessteuer betrifft.
Erwägungen:
1. 1.1 Die Beschwerdeführerin ficht die beiden Entscheide des Verwaltungsgerichts des Kantons Zürich betreffend die Staats- und Gemeindesteuern und die direkte Bundessteuer in einer einzigen Beschwerdeeingabe an. Das ist zulässig, sofern in der Beschwerde zwischen den beiden Steuerarten unterschieden wird und aus den Anträgen hervorgeht, inwieweit diese angefochten sind und wie zu entscheiden ist (BGE 135 II 260 E. 1.3.2 S. 264 f.; 131 II 553 E. 4.2). Das Bundesgericht seinerseits eröffnet grundsätzlich zwei Verfahren, wenn sowohl die kantonalen Steuern wie auch die direkte Bundessteuer streitig sind, um die Fälle aller Kantone einheitlich zu erfassen. Es behält sich aber vor, die beiden Verfahren zu vereinigen und nur ein Urteil zu fällen. Das rechtfertigt sich auch hier, nachdem es um den gleichen Steuersachverhalt geht, sich die gleichen Parteien gegenüberstehen, die Materie steuerlich harmonisiert ist und sich identische Rechtsfragen stellen (vgl. Urteil 2C_603/2012, 2C_604/2012 vom 10. Dezember 2012 E. 1).
1.2 Die Beschwerde wurde unter Einhaltung der gesetzlichen Frist (Art. 100 Abs. 1 BGG) und Form (Art. 42 BGG) von einer durch die Entscheidung besonders berührten Partei mit einem schutzwürdigen Interesse an deren Aufhebung oder Änderung (Art. 89 Abs. 1 BGG) eingereicht und richtet sich gegen die Endentscheide (Art. 90 BGG) einer letzten, oberen kantonalen Instanz (Art. 86 Abs. 1 lit. d und Abs. 2 BGG) in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a BGG). Auf die Beschwerde ist einzutreten.
1.3 Mit der Beschwerde können Rechtsverletzungen nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es prüft die Anwendung des harmonisierten kantonalen Steuerrechts durch die kantonalen Instanzen - ebenso wie Bundesrecht (Art. 95 lit. a BGG) - mit freier Kognition. In den Bereichen, in denen das Bundesgesetz vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG; SR 642.14]) den Kantonen einen gewissen Gestaltungsspielraum belässt, beschränkt sich die Kognition des Bundesgerichts auf Willkür (BGE 134 II 207 E. 2 S. 210; 130 II 202 E. 3.1 S. 205 f.; Urteil 2C_705/2011 vom 26. April 2012 E. 1.5.2 mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde, soweit die Sachverhaltsfeststellungen nicht offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 97 Abs. 1, Art. 105 Abs. 1 und 2 BGG). Es gilt im Wesentlichen das Willkürverbot (Art. 9 BV; BGE 133 II 249 E. 1.4.3).
Die Vorinstanz verweist in tatsächlicher Hinsicht weitgehend auf die Feststellungen des Steuerrekursgerichts und macht damit dessen Sachverhaltsfeststellungen zu seinen eigenen. Zu prüfen sind die von der Beschwerdeführerin erhobenen Sachverhaltsrügen daher auch auf dem Hintergrund des vom Steuerrekursgericht festgestellten Sachverhalts, wobei hierfür die Bindung des Bundesgerichts an die Sachverhaltsfeststellungen der Vorinstanz gemäss Art. 105 Abs. 1 und 2 BGG ebenso gilt.
I. Direkte Bundessteuer
2. Umstritten und zu prüfen ist zunächst, ob und in welchem Umfang die Beschwerdeführerin in ihrem ersten überjährigen Geschäftsjahr einen Kapitalgewinn aus der Veräusserung von 55 Prozent der Beteiligung an der Y._ GmbH an die Z._ AG erzielt hat und damit einhergehend die Frage der Bilanzkorrektur resp. einer Rückstellung.
2.1 Die Beschwerdeführerin macht vor Bundesgericht erneut geltend, diese Veräusserung bilde Teil eines aufschiebend bedingten Rechtsgeschäfts. Bei solchen Geschäften erfolge der Einkommenszufluss erst im Zeitpunkt, in dem der Schwebezustand wegfalle und feststehe, dass der Empfänger des fraglichen Einkommens diese ohne weitere Gegenleistung behalten darf. Die vorbehaltlose Verbuchung des gesamten Erlöses aus der Veräusserung von 55 Prozent der Stammanteile der Y._ GmbH sei handelsrechtswidrig. Die Beschwerdeführerin hat daher sowohl in der Steuererklärung 2004 wie auch in der "rektifizierten" Steuererklärung 2004 einen Abzug "Beteiligungsgewinn" gemacht, womit sich jeweils ein steuerbarer Gewinn von Fr. 0.-- einstellte. Eine dementsprechend berichtigte Bilanz legte sie aber nie vor.
2.2 Gemäss Art. 58 Abs. 1 lit. a des Bundesgesetzes über die direkte Bundessteuer vom 14. Dezember 1990 (DBG; SR 642.11) bildet der Saldo der Erfolgsrechnung unter Berücksichtigung des Saldovortrags Ausgangspunkt für die Bestimmung des steuerbaren Reingewinns (Grundsatz der Massgeblichkeit der Handelsbilanz für die Steuerbilanz). Das Massgeblichkeitsprinzip gilt aber nur, wenn der Erfolgsausweis nicht unter Verletzung zwingender Bestimmungen des Handelsrechts zustande kam und sofern keine speziellen steuerrechtlichen Vorschriften für die Gewinnermittlung zu beachten sind (Urteil 2A.370/2004 vom 11. November 2005 E. 2.1, in: ASA 77 S. 257 ff., 260 f.; Urteil 2C_29/2012 vom 16. August 2012 E. 2.1, in: StR 67/2012 S. 756 mit weiteren Hinweisen). Nach dem Massgeblichkeitsprinzip muss sich die steuerpflichtige Gesellschaft grundsätzlich bei der in ihren ordnungsgemäss geführten Büchern erscheinenden Darstellung der Vermögenslage des Jahresergebnisses behaften lassen. Wurden handelsrechtswidrige Ansätze gewählt, ist eine Korrektur bis zum Eintritt der Rechtskraft der Veranlagung zulässig (sog. Bilanzberichtigung; vgl. Urteile 2C_29/2012 vom 16. August 2012 E. 2.1, in: StR 67/2012 S. 756; 2C_515/2010 vom 13. September 2011 E. 2.2, in: StE 2011 B 23.41 Nr. 5; je mit weiteren Hinweisen; Peter Locher, Kommentar zum DBG, II. Teil 2004, N. 15 ff. und 22 ff. zu Art. 58 DBG).
2.3 Die Beschwerdeführerin legt dar, das Vertragswerk mit der Z._ AG, bestehend aus dem Kauf- und Abtretungsvertrag, dem Zusammenarbeitsvertrag und dem Speziellen Pfandvertrag, bilde ein unteilbares Ganzes und müsse einheitlich beurteilt werden. Die Würdigung des Gesamtkonstrukts ergäbe, dass die Z._ AG die Beteiligung an der Y._ GmbH nur unter der Bedingung gekauft habe, dass A.Y._ während mindestens 41⁄2 Jahren die Geschäftsführung der Y._ GmbH besorge, wobei die Kaufpreisforderung (einschliesslich der Entschädigung für die Geschäftsführung durch die Beschwerdeführerin von EUR 600'000.--) EUR 4'400'000.-- betrage. Bis zu diesem Zeitpunkt sei das Rechtsgeschäft als aufschiebend bedingt zu betrachten und seien die im Pfandvertrag genannten jeweiligen Summen im Rahmen eines Escrow Account bei der ZKB sicherzustellen. Der Einkommenszufluss erfolge erst, wenn dieser Schwebezustand beseitigt sei und feststehe, dass der Empfänger das Einkommen ohne weitere Gegenleistung behalten könne. Die Vorinstanz habe den Sachverhalt offensichtlich unrichtig festgestellt und daraus die falschen rechtlichen Schlüsse gezogen.
2.4 Das trifft offensichtlich nicht zu. Das Verwaltungsgericht und namentlich das Steuerrekursgericht, auf dessen Sachverhaltsfeststellungen und Erwägungen das Verwaltungsgericht zum Teil verweist (vorn E. 1.4), haben die Verträge eingehend analysiert. Es ist unbestritten, dass der Kaufpreis von EUR 4'400'000.-- (mit Ausnahme der EUR 600'000.-- für die Entschädigung der Geschäftsführung) für den Erwerb der Beteiligung geschuldet war. Dabei geht es aber nicht um ein aufschiebend (suspensiv) bedingtes Rechtsgeschäft, das erst mit dem Eintritt der Bedingung wirksam wurde (Art. 151 OR), wie die Beschwerdeführerin geltend macht, sondern um ein von Anfang an wirksames Rechtsgeschäft mit Erfüllung der Leistungen Zug um Zug (vgl. Art. 82, 184 Abs. 2 OR). Gemäss dem Kauf- und Abtretungsvertrag vom 16. Februar 2004 war der Kaufpreis von EUR 4'400'000.-- "innerhalb von vier Arbeitstagen nach rechtsgültiger Übertragung des Stammanteils auf die Käuferin" zu begleichen. Weshalb mit Bezug auf den Kaufpreis von einem bedingten Anspruch gesprochen werden muss, ist daher unerfindlich. Aus diesem Vertrag ergibt sich nur, dass die Käuferin vom Kaufpreis den Betrag von EUR 2'200'000.-- auf das so genannte Escrow-Konto bei der ZKB, das als Sicherheit für die Ansprüche der Käuferin aus dem Zusammenarbeitsvertrag an diese verpfändet war, einzuzahlen hatte. Die weiteren EUR 2'200'000.-- wurden auf ein gewöhnliches Konto bei der ZKB einbezahlt. Die Käuferin überwies die Beträge bereits am 19. Februar 2004, wie das Steuerrekursgericht für das Bundesgericht verbindlich festgestellt hat. Es deutet nichts darauf hin, dass die Zahlung des Kaufpreises aufgeschoben worden wäre.
Aus dem zwischen der Beschwerdeführerin und der Käuferin geschlossenen Zusammenarbeitsvertrag folgt nichts anderes. Darin wurde die Zusammenarbeit zwischen der Beschwerdeführerin und der Z._ AG für 41⁄2 Jahre festgelegt. Für den Fall, dass die Beschwerdeführerin die Geschäftsführertätigkeit vorzeitig beendet, hat sie der Z._ AG eine Entschädigung zu bezahlen. Der Zusammenarbeitsvertrag sieht für die Berechnung der Entschädigung je nach Dauer der Tätigkeit abgestufte Beträge vor, beginnend mit EUR 3,5 Mio. (Januar 04-Dezember 04), EUR 1,7 Mio. (Januar 05-Juni 05), EUR 1,45 Mio. (Juli 05-Dezember 05) usw. Damit wurde jedoch keine aufschiebende Bedingung für den zu bezahlenden Kaufpreis vereinbart, sondern werden lediglich die Bedingungen für eine allfällige Rückabwicklung der Geschäftsbeziehungen im Falle des Scheiterns der Zusammenarbeit festgelegt, wie das Steuerrekursgericht willkürfrei festgestellt hat.
Zur Sicherung der etwaigen Schadenersatzansprüche der Käuferin diente das Escrow-Konto. Auf diesem war ein Teil des Kaufpreises zu hinterlegen, wobei halbjährlich ein Betrag von EUR 250'000.-- freigegeben wurde. Das Steuerrekursgericht und die Vorinstanz schlossen daraus, dass sich die Käuferin mit dem Escrow Account bei einem Scheitern der Zusammenarbeit schadlos halten will. Tatsächlich wurde die Zusammenarbeit per 1. November 2005 aufgehoben und bezahlte die Beschwerdeführerin der Z._ AG die gemäss dem Zusammenarbeitsvertrag geschuldeten EUR 1,45 Mio. (Juli 05-Dezember 05) unter Verwendung des Guthabens auf dem Escrow-Konto. Auch das deutet nicht darauf hin, dass der auf dieses Konto einbezahlte Kaufpreis nur bedingt geschuldet gewesen wäre, wie die Vorinstanzen zu Recht dargelegt haben.
Nach dem Gesagten ist somit davon auszugehen, dass der Beschwerdeführerin mit der Bezahlung des Kaufpreises für die Beteiligung an der Y._ GmbH durch die Z._ AG auf insgesamt zwei Konti bei der ZKB ein Vermögenswert zugeflossen ist, der nach den handelsrechtlichen Grundsätzen entsprechend zu verbuchen war (Art. 663 und 959b OR). Es liegt kein aufschiebend bedingtes Geschäft vor, wie die Beschwerdeführerin behauptet. In dieser Hinsicht hat das Verwaltungsgericht weder den gegenseitig übereinstimmenden Vertragswillen unhaltbar (willkürlich) festgestellt, noch die Vertragswirkungen in einer Bundesrecht verletzenden Weise beurteilt.
2.5 Zu prüfen bleibt der Einwand der Beschwerdeführerin, dass angesichts der vereinbarten Zusammenarbeit von 41⁄2 Jahren eine Rückstellung mit entsprechender Passivierung vorzunehmen gewesen wäre, um so dem handelsrechtlichen Realisationsprinzip wie auch dem Grundsatz der zeitlichen Abgrenzung zu genügen.
Rückstellungen werden gebildet für Verluste oder für Verbindlichkeiten, die am Bilanzstichtag wahrscheinlich oder sicher, aber hinsichtlich ihrer Höhe noch unbestimmt sind (Boemle/Lutz, Der Jahresabschluss, 5. Aufl. 2008, S. 370; Conrad Meyer, Betriebswirtschaftliches Rechnungswesen, 3. Aufl. 2012, S. 28, 95, 260). Rückstellungen müssen gemäss Art. 669 Abs. 1 OR insbesondere vorgenommen werden, um ungewisse Verpflichtungen oder um drohende Verluste aus schwebenden Geschäften zu decken. Ungewisse Verpflichtungen sind solche, deren Bestand noch fraglich oder bei denen Höhe und Zeitpunkt der Fälligkeit noch unklar ist; mit der Rückstellung für drohende Verluste aus schwebenden Geschäften wird nach dem Imparitätsprinzip eine Verschlechterung im laufenden Geschäftsjahr berücksichtigt (Neuhaus/ Balkanyi, in: Basler Kommentar, Obligationenrecht II, 3. Aufl. 2008, N 18 f. zu Art. 669 OR; Boemle/Lutz, a.a.O., S. 130). Es ist aber nicht zulässig, eine Pauschalrückstellung für drohende Verluste aus allgemeinem Unternehmerrisiko zu bilden, weil damit eine fiktive Verpflichtung in die Bilanz aufgenommen würde (Botschaft über die Revision des Aktienrechts vom 23. Februar 1983, BBl 1983 II S. 893 ad Art. 669 E-OR; Peter Böckli, Schweizer Aktienrecht, 4. Aufl. 2009, § 8 Rz. 847 S. 1081).
Die Beschwerdeführerin hätte somit darzulegen, aufgrund welchen Ereignisses in der Vergangenheit am Bilanzstichtag ein Verlust drohte oder mit einer bezüglich Bestand, Höhe oder Fälligkeit ungewissen Verpflichtung zu rechnen war. Diesbezüglich enthält die Beschwerde keine Ausführungen. Allein die Tatsache, dass die Beschwerdeführerin mit der Z._ AG einen Zusammenarbeitsvertrag über 41⁄2 Jahre schloss, lässt noch keine das übliche Geschäftsrisiko übersteigende, konkrete Verlustgefahr oder mögliche Verpflichtung erkennen.
Solches ergibt sich auch nicht aus dem Escrow Account. Wie das Steuerrekursgericht ausgeführt hat, wird unter diesem Begriff gemeinhin eine Sicherstellung von Leistungen oder anderen Geschäftsbeziehungen zwischen zwei Parteien durch eine Bank verstanden (s. auch Eidgenössische Steuerverwaltung, Branchenbroschüre Nr. 14 Finanzbereich, 2009, Ziff. 6.2.5, für die Mehrwertsteuer). Vorliegend diente das Escrow Account bei der ZKB der Absicherung allfälliger Ansprüche der Käuferin bei vorzeitiger Beendigung des Zusammenarbeitsvertrages (vorn E. 2.4). Allein damit ist nicht erwiesen, dass für die Beschwerdeführerin ein Rückstellungsbedarf bestand. Die Beschwerdeführerin macht nicht geltend, dass aufgrund in der Vergangenheit liegender Verhältnisse am Bilanzstichtag mit einer vorzeitigen Beendigung der Zusammenarbeit zu rechnen war. Wie das Verwaltungsgericht zu Recht ausführt, wären Zahlungseingänge für noch nicht oder erst teilweise erbrachte Leistungen für die Dauer des Schwebezustandes am ehesten als Voraus- oder Anzahlungen zu passivieren, doch habe die Beschwerdeführerin im massgebenden Jahresabschluss in dieser Hinsicht keine Passivierung vorgenommen. Die Frage ist daher auch hier nicht zu prüfen.
2.6 Da somit die handelsrechtliche Notwendigkeit auch einer Rückstellung nicht ausgewiesen ist, hat die Vorinstanz eine Bilanzberichtigung zu Recht abgelehnt.
3. Umstritten ist sodann, ob die Beschwerdeführerin auf dem Kapitalgewinn, den sie aus der Veräusserung der 55-prozentigen Beteiligung an der Y._ GmbH erzielte, den Beteiligungsabzug gemäss Art. 69/70 DBG beanspruchen kann.
3.1 Ist eine Kapitalgesellschaft oder Genossenschaft zu mindestens 20 Prozent am Grund- oder Stammkapital anderer Gesellschaften beteiligt oder macht ihre Beteiligung an solchem Kapital einen Verkehrswert von mindestens 2 Millionen Franken aus, so ermässigt sich die Gewinnsteuer im Verhältnis des Nettoertrags aus diesen Beteiligungen zum gesamten Reingewinn (Art. 69 DBG in der hier noch anwendbaren ursprünglichen Fassung). Es handelt sich um den sog. Beteiligungsabzug. Gemäss dem mit Bundesgesetz vom 10. Oktober 1997 über die Reform der Unternehmensbesteuerung 1997 (AS 1998 669) in Art. 70 DBG neu eingefügten Absatz 4 geben auch Kapitalgewinne auf der Veräusserung von Beteiligungen Anspruch auf den Beteiligungsabzug. Dies aber nur:
"b. sofern die veräusserte Beteiligung mindestens 20 Prozent des Grund- oder Stammkapitals der anderen Gesellschaft ausmacht und als solche während mindestens eines Jahres im Besitze der Kapitalgesellschaft oder Genossenschaft war".
Das Kantonale Steueramt und die Vorinstanzen haben vorliegend den Beteiligungsabzug auf der Veräusserung der Y._ GmbH verweigert, weil die Beschwerdeführerin die Beteiligung nur rund drei Monate in ihrem Besitz hielt, das Erfordernis der Haltedauer mithin nicht erfüllt sei. Demgegenüber verlangt die Beschwerdeführerin, dass ihr die Besitzesdauer der Rechtsvorgängerin, das heisst der Personenunternehmung A.Y._, angerechnet werde. Das ist im Folgenden zu prüfen.
3.2 Der Beteiligungsabzug gemäss Art. 69/70 DBG bezweckt eine Milderung der Mehrfachbelastung, die entsteht, wenn Untergesellschaften, die ihren Reingewinn versteuert haben, diesen an eine Obergesellschaft ausschütten, welche ihren Reingewinn ebenfalls versteuert, bevor sie diesen ganz oder teilweise an ihren ebenfalls steuerpflichtigen Gesellschafter weiterleitet. Ohne den Beteiligungsabzug müssten Erträge aus Beteiligungen an Kapitalgesellschaften und Genossenschaften (mindestens) dreimal versteuert werden. Da die Gewinnsteuer "im Verhältnis des Nettoertrags aus den Beteiligungen zum gesamten Reingewinn" ermässigt wird (Art. 69 DBG), bleibt der Ertrag aus der Beteiligung im Ergebnis steuerfrei. Damit wird eine Reduktion der steuerlichen Mehrfachbelastung auf eine steuerliche Doppelbelastung angestrebt. Ziel ist die Beschränkung der Besteuerung auf den eigentlichen Unternehmensgewinn (auf operativer Ebene) und auf die Gewinnausschüttung beim Endbeteiligten (Aktionär) unter Freistellung der Dividenden bei den Zwischen- oder Beteiligungsgesellschaften (Urteile 2C_942/2011 vom 29. Mai 2012 E. 4.3.1, in: StE 2012 B 72.22 Nr. 17, StR 67/2012 S. 597; 2A.531/1997 vom 25. Februar 1999 E. 2b, in: ASA 69 S. 735, StE 1999 B 74.311 Nr. 2; ausführlich: Marco Greter, Der Beteiligungsabzug im harmonisierten Gewinnsteuerrecht, 2000, S. 8 ff.; Locher, a.a.O., N. 1 ff, 6 ff. zu Art. 69 DBG; zum früheren Recht, s. Ernst Känzig, Die direkte Bundessteuer [Wehrsteuer], 2. Aufl. 1992, N. 1 ff. zu Art. 59 BdBSt).
3.3 Mit der Reform der Unternehmensbesteuerung 1997 und der Aufnahme des neuen Absatzes 4 in Art. 70 DBG ergibt sich diese Befreiung nunmehr auch für Kapitalgewinne aus Beteiligungen. Als Voraussetzung für den Beteiligungsabzug auf Kapitalgewinnen statuiert Art. 70 Abs. 4 lit. b DBG aber eine Haltedauer von mindestens einem Jahr. Das gesetzgeberische Motiv für die Einführung einer Mindesthaltedauer bestand darin, die Veräusserungsgewinne auf dem Handelsbestand von Wertschriftenhändlern von den Kapitalgewinnen abzugrenzen (Botschaft vom 26. März 1997 zur Unternehmenssteuerreform 1997, BBl 1997 II 1164 Ziff. 22 S. 1186, Ziff. 311 ad Art. 58a S. 1201; Locher, a.a.O., N. 14 zu Art. 70 DBG). Der Gesetzeswortlaut ist allerdings allgemeiner formuliert und schliesst alle kurzfristig (innerhalb eines Jahres) erzielten Kapitalgewinne vom Beteiligungsabzug aus (vgl. Jürg Altorfer, Die Ausdehnung des Beteiligungsabzuges auf Kapitalgewinne aus wesentlichen Beteiligungen, in: ST 72/1998 S. 166 f.; Duss/Altorfer, in: Kommentar zum schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, N. 25a zu Art. 70 DBG). Wortlaut und Sinn des Gesetzes sind klar. Voraussetzung für den Beteiligungsabzug ist, dass die Beteiligung während mindestens eines Jahres "im Besitze der Kapitalgesellschaft oder Genossenschaft" war. Für eine berichtigende Auslegung des Gesetzes im Sinne einer Beschränkung der Mindesthaltedauer auf Handelsgewinne besteht keine Handhabe. Eine Regelungslücke im Sinne einer echten Gesetzeslücke liegt nicht vor (vgl. BGE 132 III 707 E. 2 S. 711; 131 II 562 E. 3.5 S. 567 f.; 128 I 34 E. 3b S. 42). Es verbiete sich daher, die Dauer des Besitzes der Personenunternehmung an der Beteiligung zur Besitzesdauer der Beschwerdeführerin hinzuzurechnen.
3.4 Die Beschwerdeführerin wendet ein, der Besitz im Sinne von Art. 70 Abs. 4 lit. b DBG werde in der Doktrin wirtschaftlich verstanden. In dieser Hinsicht sei vorliegend entscheidend, dass die fragliche Beteiligung an der Y._ GmbH der Beschwerdeführerin im Rahmen einer Umstrukturierung - durch Umwandlung der Personenunternehmung in eine Aktiengesellschaft - steuerneutral zugeführt worden sei. Durch die Umwandlung sei es im Wesentlichen zu einem Rechtskleidwechsel gekommen, wobei sich in materieller Hinsicht - und damit auch an der wirtschaftlichen Berechtigung an der Y._ GmbH - nichts geändert habe. Die Beschwerdeführerin erfülle damit offensichtlich die Voraussetzungen für den Beteiligungsabzug.
Unter dem Besitz im Sinne von Art. 70 Abs. 4 lit. b DBG wird in der Regel die wirtschaftliche Berechtigung verstanden (Duss/Altorfer, a.a.O., N. 29 zu Art. 70 DBG; Richner/Frei/Kaufmann/Meuter, Handkommentar zum DBG, 2. Aufl. 2009, N. 23 zu Art. 70 DBG). Das Erfordernis des Besitzes und der Besitzesdauer bezieht sich aber nach dem klaren Wortlaut des Gesetzes auf die "veräussernde Kapitalgesellschaft oder Genossenschaft" und nicht auf deren Gesellschafter. Steuern und Abgaben müssen auf einer genügenden gesetzlichen Grundlage beruhen, was auch für Steuerbefreiungen und -ermässigungen gilt. Die Beschwerdeführerin kann sich daher dem Vorbesitz ihres Aktionärs an der Y._ GmbH nicht anrechnen lassen.
Hinzu kommen steuersystematische Überlegungen. Der Beteiligungsabzug bezweckt - wie gesehen (E. 3.2) - die Reduktion der Vielfachbelastung auf eine steuerliche Doppelbelastung. Demgegenüber besteht bei einer Personenunternehmung, die in ihrem Besitz die Beteiligung an einer Kapitalgesellschaft hält, von Anfang an nur eine steuerliche Doppelbelastung, indem der Reingewinn der Kapitalgesellschaft der Gewinnsteuer und die spätere Ausschüttung an den Inhaber der Personenunternehmung der Einkommenssteuer unterliegen. Wird eine solche Personenunternehmung in eine Kapitalgesellschaft eingebracht, kommt es daher zu einem Systemwechsel. Das schliesst es aus, dass der Kapitalgesellschaft der Vorbesitz des Aktionärs angerechnet wird. Daran vermag auch nichts zu ändern, dass vorliegend die Umstrukturierung mit Einbringung der Personenunternehmung A.Y._ in die Beschwerdeführerin steuerneutral abgewickelt werden konnte, wie die Beschwerdeführerin geltend macht.
Seit dem 1. Januar 2009 wird die steuerliche Doppelbelastung bei der Einkommenssteuer bei qualifizierten Beteiligungen (10 Prozent des Grund- oder Stammkapitals und mehr) sowohl im Geschäfts- wie auch im Privatvermögen (Art. 18b resp. Art. 20 Abs. 1bis DBG in der Fassung des Bundesgesetzes vom 23. März 2007 über die Unternehmenssteuerreform II, AS 2008 2893) zwar nicht beseitigt, aber gemildert. In den Genuss dieser Steuererleichterung gelangen allenfalls die Aktionäre der Beschwerdeführerin. Diese Milderung der Besteuerung betrifft aber allein die Besteuerung des letzten Aktionärs als natürliche Person oder Personenunternehmer und nicht die Gewinnsteuer der juristischen Personen. Auch aus den seitherigen Gesetzesänderungen ergibt sich somit tendenziell nichts, was die Betrachtungsweise der Beschwerdeführer stützen könnte. Für eine Berücksichtigung der Haltedauer der Personenunternehmung A.Y._ an der Y._ GmbH bei der Beschwerdeführerin besteht somit kein Raum.
4. Aus dem Gesagten folgt, dass die Beschwerde hinsichtlich der direkten Bundessteuer abzuweisen ist.
II. Staats- und Gemeindesteuern
5. Art. 24 StHG erwähnt den Grundsatz der Massgeblichkeit der Handelsbilanz für die steuerliche Gewinnermittlung (vgl. vorn E. 2.2) nicht ausdrücklich, doch ist die Geltung des Grundsatzes, der in allen Kantonen angewendet wird und auch in § 64 Abs. 1 des Zürcher Steuergesetzes vom 8. Juni 1997 (StG/ZH) enthalten ist, für Art. 24 StHG unumstritten. Ausgangspunkt für die Ermittlung des steuerbaren Reingewinns ist somit im kantonalen Steuerrecht - wie bei der direkten Bundessteuer - der Saldo der Erfolgsrechnung unter Berücksichtigung des Saldovortrags des Vorjahres (vgl. Kuhn/Brülisauer, in: Kommentar zum schweizerischen Steuerrecht, Band I/1, 2. Aufl. 2002, N. 9 zu Art. 24 StHG; Richner/Frei/Kaufmann/Meuter, Kommentar zum harmonisierten Zürcher Steuergesetz, 2. Aufl. 2006, N. 8 zu § 64 StG/ZH; Urteil 2A.465/2006 vom 19. Januar 2007 E. 3.2, in: StE 2007 B 72.11 Nr. 15, StR 62/2007 S. 518, RDAF 2007 II 263). Bilanzkorrekturen sind folglich zulässig (und erforderlich), wo die Gesellschaft gegen zwingende Grundsätze ordnungsgemässer Buchführung verstossen und einen unrichtigen Gewinn ausgewiesen hat (vgl. vorn E. 2.2) sowie Richner et al., a.a.O., N. 93 zu § 64 StG/ZH). Die Bilanzkorrektur ist vorliegend kantonalsteuerlich somit nicht anders zu beurteilen als für die direkte Bundessteuer.
Auch der Rückstellungsbegriff ist in Art. 10 Abs. 1 lit. b StHG (in Verb. mit Art. 24 Abs. 4 StHG) gleich umschrieben wie in Art. 669 Abs. 1 OR, und entspricht dem bundessteuerlichen Begriff der Rückstellung (Art. 63 Abs. 1 lit. a und c DBG; vgl. vorn E. 2.5). Die Frage der Zulässigkeit (und Notwendigkeit) einer Rückstellung stellt sich daher in gleicher Weise wie im Bundessteuerrecht und ist gleich wie dort zu beantworten.
Schliesslich definieren Art. 28 Abs. 1bis StHG und § 72a Abs. 2 lit. b StG/ZH auch die Haltedauer für den Beteiligungsabzug gleich wie die entsprechende Vorschrift in Art. 70 Abs. 4 lit. b DBG (Richner/Frei/ Kaufmann/Meuter, Kommentar zum Zürcher Steuergesetz, 2. Aufl. 2006, N. 16 ff. zu § 72a StG/ZH). Der Beteiligungsabzug kann somit auch bei den kantonalen Steuern nicht zugelassen werden.
Die Beschwerde ist auch hinsichtlich der Staats- und Gemeindesteuern abzuweisen.
6. Als unterliegende Partei hat die Beschwerdeführerin die Gerichtskosten zu tragen (Art. 65 und 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 2C_787/2012 und 2C_788/2012 werden vereinigt.
2. Die Beschwerde wird in Bezug auf die direkte Bundessteuer abgewiesen.
3. Die Beschwerde wird in Bezug auf die Staats- und Gemeindesteuern abgewiesen.
4. Die Gerichtskosten von Fr. 16'000.-- werden der Beschwerdeführerin auferlegt.
5. Dieses Urteil wird den Verfahrensbeteiligten, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 15. Januar 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann