Sachverhalt:
A. A.a A._ (Kläger, Widerbeklagter) ist in der Reisebranche tätig und war unter anderem Aktionär sowie Mitglied des Verwaltungsrates der Y._ AG. Im November 2006 fand zwischen ihm und der X._ AG (Beklagte, Widerklägerin) erstmals ein Gespräch über eine Zusammenarbeit statt. Zwischen April und August 2007 wurde eine Due Diligence-Prüfung durchgeführt. Nach einem Wechsel in der Führung der X._-Gruppe und einem Unterbruch der Verhandlungen kam es am 24. Juni 2008 zum Abschluss eines Kaufvertrages. Mit diesem verkaufte der Kläger der Beklagten 3'150 Namenaktien der Y._ AG (60 % des Aktienkapitals) zum Kaufpreis von Fr. 4'369'000.--. Der Kaufvertrag enthielt eine den Kaufpreis nachträglich unter gewissen Voraussetzungen reduzierende Klausel (Ziff. I Abs. 4) sowie eine Bestimmung betreffend Sachgewährleistung (Ziff. III.2.d).
Ebenfalls am 24. Juni 2008 schlossen die Parteien und die Y._ AG eine Aktionärbindungsvereinbarung (ABV) ab. Diese enthielt in Ziffer 2 eine Regelung betreffend den Verkauf von Aktien, namentlich ein Kaufrecht zugunsten der Beklagten (Ziff. 2.1), ein sog. Vorhandrecht ("right of first refusal", Ziff. 2.2) und ein Vorkaufsrecht ("right of preemption", Ziff. 2.3).
A.b Im September 2008 teilte der Kläger der Beklagten mit, er beabsichtige, seine 950 Namenaktien an eine Drittpartei zu verkaufen. Deshalb bot er der Beklagten sein Aktienpaket gemäss Ziff. 2.2 ABV zum Kauf an. Diese beantragte eine Verlängerung der Frist "zur Ausübung des Vorhandrechts" bis Ende November 2008, womit der Kläger einverstanden war. Da die Beklagte bis Fristablauf nicht reagiert hatte, erkundigte sich der Kläger am 1. Dezember 2008 per Mail nach dem Stand der Dinge. Am 2. oder 3. Dezember 2008 (das genaue Datum steht nicht fest) nahm B._ von der X._-Holding AG telefonisch mit ihm Kontakt auf. Im Anschluss an dieses Telefongespräch schrieben B._ und C._ von der X._-Holding AG am 5. Dezember 2008 dem Kläger: "... Wie mit Herrn B._ am Telefon besprochen, beabsichtigt X._ AG, das Kaufrecht an den von Ihnen gehaltenen 18,1% des Aktienkapitals der Y._ AG auszuüben. ... ".
A.c Mit Brief vom 2. Februar 2009 wurde der Kläger darauf hingewiesen, dass gemäss provisorischem Buchhaltungsabschluss der Y._ AG für das Jahr 2008 ein Verlust von Fr. 8'484'995.05 und ein negatives Eigenkapital von Fr. 3'544'944.78 resultiere, womit wohl eine Kaufpreisreduktion gemäss der vereinbarten Reduktionsklausel im Betrag von Fr. 2'172'472.39 fällig werde.
A.d Aufgrund der schlechten finanziellen Situation der Y._ AG wurden anlässlich der Verwaltungsratssitzung vom 11. Februar 2009 Sanierungsmassnahmen beschlossen, namentlich eine Kapitalherabsetzung auf Null mit anschliessender Kapitalerhöhung. Diese wurde an der ausserordentlichen Generalversammlung vom 8. April 2009 angenommen, und es wurden 5'250 Namenaktien zu Fr. 1'000.-- zur Beseitigung der Unterbilanz vernichtet. Gleichzeitig wurden bei der ordentlichen Kapitalerhöhung vom 8. April 2009 und 2. Juli 2009 500'000 voll liberierte Namenaktien zu Fr. 1.-- ausgegeben.
B. B.a Am 21. Juli 2009 reichte der Kläger beim Handelsgericht des Kantons Zürich Klage ein. Er verlangte von der Beklagten Fr. 2'822'857.15 nebst Zins.
Er stützte seine Forderung auf das in der ABV enthaltene Kaufrecht. Die Beklagte habe dieses an den restlichen von ihm gehaltenen Aktien der Y._ AG ausgeübt, in der Folge aber den Vollzug des Kaufs verweigert und nicht bezahlt. Die Beklagte bestritt die Kaufrechtsausübung und beantragte mit Eingabe vom 29. September 2009 Abweisung der Klage.
B.b Gleichzeitig erhob die Beklagte Widerklage mit dem Begehren, der Kläger und Widerbeklagte sei zu verpflichten, ihr Fr. 2'172'472.39 nebst 5 % Zins seit 15. April 2009 sowie Fr. 186'000.-- nebst 5 % Zins seit 13. Juli 2009 zu bezahlen.
Die Beklagte machte mit der Widerklage einerseits geltend, die Voraussetzungen der Kaufpreisreduktion gemäss Ziff. I Abs. 4 des Vertrages seien erfüllt, weshalb der Kläger einen Teil des Kaufpreises zurückzuerstatten habe. Andererseits brachte die Beklagte einen Mangel und damit eine Verletzung der Gewährleistung vor.
Mit Widerklageantwort vom 6. April 2010 beantragte der Kläger Abweisung der Widerklage. Er machte geltend, die Beklagte habe die Bedingung für die Kaufpreisreduktion wider Treu und Glauben herbeigeführt. Die Gewährleistung greife nicht, da der Mangel der Beklagten bekannt gewesen sei.
B.c Mit Urteil vom 11. September 2012 schützte das Handelsgericht des Kantons Zürich Klage (Dispositivziffer 1) und Widerklage (Dispositivziffer 2). Es auferlegte die Kosten zu 45,5 % dem Kläger und zu 54,5 % der Beklagten (Dispositivziffer 4) mit entsprechender Parteientschädigungspflicht (Dispositivziffer 5).
C. Beide Parteien haben gegen dieses Urteil beim Bundesgericht Beschwerde in Zivilsachen erhoben.
Der Kläger beantragt im Verfahren 4A_627/2012, Ziffer 2 des angefochtenen Urteils sei aufzuheben und die Widerklage der Beschwerdegegnerin von Fr. 2'172'472.39 sei im Umfang von Fr. 738'000.--, eventualiter Fr. 448'200.--, und zusätzlich im Umfang von Fr. 46'500.-- abzuweisen. Eventualiter sei Ziffer 2 des angefochtenen Urteils aufzuheben und die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen, unter Kostenfolge.
Die Beklagte beantragt dem Bundesgericht im Verfahren 4A_629/2012, das angefochtene Urteil sei hinsichtlich der Ziffern 1, 4 und 5 des Dispositivs aufzuheben und die Klage des Klägers sei abzuweisen. Eventualiter sei das angefochtene Urteil hinsichtlich der Ziffern 1, 4 und 5 aufzuheben und die Sache zur Neubeurteilung an das Handelsgericht zurückzuweisen.
Der Kläger schliesst in seiner Antwort zur Beschwerde der Beklagten auf deren Abweisung. Die Beklagte beantragt ihrerseits die Abweisung der Beschwerde des Klägers, soweit darauf einzutreten sei. Die Vorinstanz hat auf Vernehmlassung verzichtet. Obwohl kein zweiter Schriftenwechsel angeordnet wurde, hat die Beklagte eine Beschwerdereplik eingereicht. Zu dieser hatte der Kläger nichts zu bemerken, ausser dass die Gelegenheit, Bemerkungen anzubringen, nicht dazu missbraucht werden sollte, die bisher eingenommenen Positionen im Sinne eines "letzten Wortes" zusammenzufassen.
Erwägungen:
1. Wenn - wie hier - an den Verfahren dieselben Parteien beteiligt sind und den Beschwerden der gleiche Sachverhalt zugrunde liegt, behandelt das Bundesgericht die verschiedenen Beschwerden in der Regel in einem einzigen Urteil. Es rechtfertigt sich daher unter den gegebenen Umständen, die beiden Beschwerdeverfahren 4A_627/2012 und 4A_629/2012 zu vereinigen.
2. Das angefochtene Urteil des Handelsgerichts ist ein verfahrensabschliessender Endentscheid (Art. 90 BGG) der letzten und einzigen kantonalen Instanz. Die Beschwerde in Zivilsachen steht damit unabhängig vom Streitwert offen (Art. 74 Abs. 2 lit. b BGG; zur Publikation bestimmtes Urteil des Bundesgerichts 4A_435/2012 vom 4. Februar 2013 E. 1.2). Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist - unter Vorbehalt einer hinlänglichen Begründung (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG) - grundsätzlich auf die Beschwerde einzutreten.
3. 3.1 Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Nicht zu den in Art. 95 BGG vorgesehenen Rügegründen gehört hingegen die Verletzung kantonaler Verfahrensvorschriften, deren Anwendung und Auslegung vom Bundesgericht einzig unter dem Blickwinkel eines Verstosses gegen Bundesrecht bzw. gegen Bundesverfassungsrecht beurteilt werden (BGE 136 I 241 E. 2.4 S. 249; 135 III 513 E. 4.3 S. 521 f.). Das kantonale Verfahren richtete sich noch nach der nunmehr aufgehobenen Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976.
Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind; es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 135 III 397 E. 1.4 S. 400; 134 III 102 E. 1.1 S. 105).
3.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (vgl. BGE 133 II 249 E. 1.4.3 S. 254 f.; 133 III 350 E. 1.3 S. 351, 393 E. 7.1 S. 398). Soweit die beschwerdeführende Partei den Sachverhalt ergänzen will, hat sie zudem mit Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Urteile des Bundesgerichts 4A_275/2011 vom 20. Oktober 2011 E. 2, nicht publ. in: BGE 137 III 539; 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: BGE 134 III 570).
Beschwerde des Klägers (4A_627/2012)
4. Die Vorinstanz erkannte, gestützt auf die im Kaufvertrag enthaltene Kaufpreisreduktionsklausel stehe der Beklagten ein Anspruch von Fr. 2'172'472.39 zu.
4.1 Die einschlägige Klausel (Ziff. I Abs. 4 des Vertrages) lautet:
"Wenn unter Berücksichtigung der Abschreibungen der Initialisierungskosten und des Goodwills von insgesamt CHF 4,14 Mio. im Jahr 2008 und den Sanierungsmassnahmen von CHF 3,431 Mio. im Jahr 2008 das Eigenkapital per 31. Dezember 2008 nicht mindestens CHF 0,8 Mio. betragen sollte, so hat der Verkäufer der Käuferin im Sinne einer Kaufpreisreduktion die Hälfte der Differenz zwischen dem per 31. Dezember 2008 ausgewiesenen Eigenkapital und CHF 0,8 Mio. innert 20 Tagen seit dem Datum des die Jahresrechnung 2008 testierenden Revisionsberichts zu leisten".
4.2 Unbestritten wies die Y._ AG im Geschäftsjahr 2008 gemäss Revisionsbericht der R._ AG vom 25. März 2009 ein negatives Eigenkapital von Fr. 3'544'944.78 aus. Die Differenz zum garantierten Eigenkapital von Fr. 0.8 Mio. betrug damit Fr. 4'344'944.78, die Hälfte davon gemäss Reduktionsklausel somit Fr. 2'172'472.39. Der Kläger bestreitet diese Berechnungen als solche nicht.
5. In einer ersten Rüge macht der Kläger geltend, die Differenz sei zu einem Teil dadurch entstanden, dass für das Geschäftsjahr 2008 die Rechnungslegungsgrundsätze für die Y._ AG verändert worden seien, namentlich betreffend die Verbuchung der Werbekosten.
5.1 Der Kläger führt aus, bei der Y._ AG seien bisher Geschäftsvorfälle jener Periode zugeordnet worden, der sie wirtschaftlich angehörten. Die X._-Gruppe dagegen verbuche Werbekosten gesamthaft in demjenigen Geschäftsjahr, in dem diese anfallen, auch wenn ein Teil davon wirtschaftlich betrachtet das nächste Geschäftsjahr betreffe. Diese Umstellung habe dazu geführt, dass dem Geschäftsjahr 2008 Werbekostenaufwand für mehr als ein Jahr belastet worden sei, nämlich Fr. 1'383'000.--. Für die Berechnung der Kaufpreisanpassung müssten aber einheitliche Rechnungslegungsgrundsätze angewendet werden. Dies führe dazu, dass entweder - der X._-Methodik folgend - Werbekosten in der Höhe von Fr. 1'476'000 (entsprechend der Abgrenzung 2007/2008) vom Geschäftsjahr 2008 ins Geschäftsjahr 2007 zu verlagern seien, oder aber, konsistent mit der bisher vom Kläger angewandten Methodik, von den Werbekosten der Inserate für 2008/2009 die Kosten für 2009 im Umfang von Fr. 896'400.-- dem Geschäftsjahr 2009 zu belasten seien. Entsprechend beantragt er im Hauptantrag eine Reduktion des von der Beklagten eingeklagten Betrages um Fr. 738'000.-- (Fr. 1'476'000.-- / 2), eventualiter um Fr. 448'200.-- (Fr. 896'400.-- / 2). Die Beklagte könne nicht in guten Treuen davon ausgegangen sein, die Eigenkapitalgarantie sei nicht an die Einhaltung der bisherigen Rechnungslegungsgrundsätze gebunden. Sinn und Zweck einer solchen Garantie setzten voraus, dass die bisherigen Buchhaltungsgrundsätze unverändert blieben. Er selbst habe nur ein Eigenkapital garantieren wollen, welches er bei normalem Lauf der Geschäfte erwartete. Da die Vorinstanz keinen übereinstimmenden Parteiwillen feststellen konnte, hätte sie den Sinn der Vereinbarung nach dem Vertrauensprinzip ermitteln müssen. Sie habe aber nur den Wortlaut der Vereinbarung berücksichtigt, nicht deren Zweck. Dadurch habe sie Art. 18 OR verletzt.
5.2 Die Beklagte hält diese Ausführungen nicht für stichhaltig. Vor der Vorinstanz habe der Kläger zudem ganz anders argumentiert.
5.2.1 Sie wendet ein, in der im vorinstanzlichen Verfahren vorgetragenen Argumentation habe der Kläger geltend gemacht, er sei die Preisreduktionsvereinbarung nur unter der Bedingung eingegangen, dass die Rechnungslegungsgrundsätze nicht geändert würden, und er habe sich damit nur unter der Bedingung zur Kaufpreisanpassung verpflichtet, dass sich die Beklagte "vertragskonform" verhalten würde. Durch die Veränderung der Rechnungslegung habe die Beklagte diese vertragliche Verpflichtung verletzt. Die Vorinstanz halte in diesem Zusammenhang vom Kläger in seiner Beschwerde unbeanstandet fest, dass die vorgebrachten "Vertragselemente", die durch die Beklagte angeblich verletzt worden seien, gar nicht vorlägen. Der Kläger - so die Vorinstanz - mache diesbezüglich nämlich nicht geltend, es sei der Wille und das Verständnis beider Parteien gewesen, die bisherige Praxis in Bezug auf die Rechnungslegung weiterzuführen. Damit verneine die Vorinstanz das Bestehen einer entsprechenden vertraglichen Verpflichtung, weil eine solche gemäss den Ausführungen des Klägers allein sein (nicht kommuniziertes) Verständnis und sein Wille gewesen wäre, nicht aber das Verständnis und der Wille der Beklagten. Mit dieser eingehenden Argumentation setze sich der Kläger nicht auseinander, weshalb bereits deswegen nicht auf seine Beschwerde hinsichtlich der Preisreduktion einzutreten sei. Aufgrund der vorinstanzlichen Vorbringen bestehe kein Raum für die Feststellung eines normativen Konsenses im Beschwerdeverfahren.
5.2.2 Im Übrigen habe der Kläger im Vergleich zu den vorinstanzlichen Vorbringen seine Begründung vollständig geändert. Vor Handelsgericht habe er vor allem argumentiert, die Beklagte hätte die Vertragsbedingung treuwidrig herbeigeführt. Entsprechend habe die Vorinstanz geprüft, ob die Beklagte eine solche Pflichtwidrigkeit begangen und dadurch ihren Anspruch auf Reduktion verloren habe (Art. 156 OR). Dies habe die Vorinstanz verneint, weil eine Vertragsverletzung ohnehin nicht per se ein treuwidriges Verhalten im Sinne von Art. 156 OR darstellen würde. Mit diesen Erwägungen der Vorinstanz setze sich der Kläger nicht auseinander. Vielmehr versuche er im Beschwerdeverfahren nun, die Kaufpreisanpassungsklausel aus dieser gesamten Argumentation herauszulösen und deren Auslegung als eine einfache Rechtsfrage (normative Auslegung) hinzustellen.
5.2.3 Selbst wenn man aber die Klausel wie vom Kläger verlangt nach dem Vertrauensprinzip auslegen würde, wäre die Beschwerde nach Auffassung der Beklagten nicht begründet. Dem Kläger als versiertem Geschäftsmann sei bekannt gewesen bzw. es hätte ihm bekannt sein müssen, dass die Y._ AG als Folge des Erwerbs der Mehrheitsbeteiligung in den X._-Konzern eingebunden werde und dass im Zeitpunkt dieser Einbindung gewisse Rechnungslegungsgrundsätze zu ändern sein würden, da für die X._-Gesellschaften obligatorisch die IFRS-Grundsätze (international financial reporting standards) gelten. Gerade wenn wie hier der für die Preisanpassung relevante Stichtag ein halbes Jahr nach dem "Closing" (dem Vertragsvollzug) sei, in welchem Zeitraum der Verkäufer die für die Preisreduktion relevante Bilanz nicht mehr beeinflussen könne, hätte ein expliziter Hinweis im Vertrag erfolgen müssen, wenn die Bilanzierung nach den bisherigen Rechnungslegungsstandards gewollt gewesen wäre. Da man das nicht gemacht habe, habe sich der Verkäufer uneingeschränkt dem Resultat gemäss der von einer Revisionsstelle zu testierenden Bilanz per Ende 2008 unterworfen.
5.3 Es trifft zu, dass der Kläger vor Vorinstanz vornehmlich mit der treuwidrigen Herbeiführung eines Bedingungseintritts argumentiert hatte. Die Vorinstanz hielt - wie die Beklagte zutreffend bemerkt - fest, der Kläger habe nicht geltend gemacht, es sei der Wille und das Verständnis beider Parteien gewesen, die Y._ AG im Rahmen der bisherigen Praxis, insbesondere in Bezug auf die Rechnungslegungsgrundsätze weiterzuführen. Der Kläger mache - so die Vorinstanz weiter - jeweils nur geltend, es sei sein Verständnis und sein Wille hierzu gewesen. Daraus könne keine Vertragspflicht der Beklagten gelesen werden. Der schriftliche Aktienkaufvertrag spreche denn auch eine andere Sprache.
Indem der Kläger darlegte, eine Verpflichtung der Beklagten zur Bilanzabgrenzung nach der bisherigen bei der Y._ AG gehandhabten Praxis habe seinem eigenen Willen entsprochen und gleichzeitig eine entsprechende vertragliche Bindung der Beklagten geltend machte, hat er sinngemäss einen normativen Konsens in seinem Sinn geltend gemacht. Ob die Auslegung nach dem Vertrauensprinzip zu einem entsprechenden normativen Konsens führt, ist eine vom Bundesgericht frei überprüfbare Rechtsfrage. Soweit im vorinstanzlichen Verfahren Ausführungen zur Begründung des normativen Konsenses fehlten, schadet dies dem Kläger nur insofern, als er im Beschwerdeverfahren keine neuen Tatsachen zu dessen Begründung mehr vorbringen kann.
5.4 Darauf, dass der Vertragspartner eine Vereinbarung nach Treu und Glauben in einem gewissen Sinne hätte verstehen müssen, darf sich eine Partei aber nur berufen, soweit sie selbst die Bestimmung tatsächlich so verstanden hat. Die Auslegung nach dem Vertrauensprinzip kann nicht zu einem normativen Konsens führen, der so von keiner der Parteien gewollt ist (Urteile des Bundesgerichts 4A_538/2011 vom 9. März 2012 E. 2.2; 4A_219/2010 vom 28. September 2010 E 1, nicht publ. in: BGE 136 III 528). Wenn der Kläger im Hauptbegehren seiner Beschwerde eine Preisreduktion auf der Grundlage der Rechnungslegung nach "X._-Standards" und im Eventualbegehren eine solche auf der Grundlage der bisherigen Rechnungslegung in der Y._ AG verlangt, scheint dies der zitierten Rechtsprechung zu widersprechen, denn beide Begehren beruhen auf je einem unterschiedlichen Vertragsinhalt. Indessen führt der Kläger gleichzeitig und wiederholt aus, eine Veränderung der Rechnungslegung gegenüber der bisherigen Methode widerspreche dem vertraglich Vereinbarten. Damit macht er sinngemäss geltend, er selber sei davon ausgegangen, es würden die bisherigen Rechnungslegungsgrundsätze auf die Bilanzabgrenzung angewendet und auch die Beklagte hätte dies nach Treu und Glauben so verstehen müssen. Das führt indessen auch dazu, dass zum vornherein nur das Eventualbegehren zu prüfen ist, welches auf der bisherigen Rechnungslegung beruht.
5.5 Zu prüfen ist somit, ob der Kläger nach Treu und Glauben darauf vertrauen durfte, für die Berechnung der Differenz zum garantierten Eigenkapital würden die bisherigen Rechnungslegungsgrundsätze beibehalten. Die Vorinstanz scheint dies mit Blick auf den Wortlaut des Vertrages zu verneinen. Der Wortlaut der Vertrages ist indessen für die Auslegung nach dem Vertrauensprinzip nicht allein ausschlaggebend. Zu berücksichtigen sind im Weiteren die Umstände, unter denen die Erklärungen abgegeben wurden (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen), und insbesondere der vom Erklärenden verfolgte Regelungszweck, wie ihn der Erklärungsempfänger in guten Treuen verstehen durfte und musste (BGE 132 III 24 E. 4 S. 28).
5.5.1 Die Preisreduktionsklausel in Ziffer I Abs. 4 des Vertrages hält nur fest, dass das Eigenkapital mindestens Fr. 0.8 Mio. betragen muss. Sie enthält keinen Hinweis auf die einzuhaltenden Rechnungslegungsstandards. Aufgrund des Wortlauts ist aber klar, dass der massgebliche Abschluss, da er ein halbes Jahr nach dem Vollzug des Kaufvertrages zu erstellen ist, von der Beklagten und daher nach den von ihr in ihren Unternehmen angewendeten Grundsätzen zu erfolgen hat. Entscheidend ist daher, ob der Kläger aufgrund dieses Umstands nach Treu und Glauben davon ausgehen musste, dass eine Bewertung und Abgrenzung nach IFRS und damit nach fundamental anderen Grundsätzen als nach dem OR (MARKUS R. NEUHAUS/JÖRG BLÄTTLER, in: Basler Kommentar, Obligationenrecht II, 4. Aufl. 2012, N. 6f und 6h zu Art. 960 OR) erfolgen würde.
5.5.2 Das angefochtene Urteil enthält keine sachverhaltlichen Feststellungen zu den Umständen des Vertragsschlusses. Insbesondere ist daher nicht erstellt, ob der Kläger seitens der Beklagten auf die von ihr angewendeten Rechnungslegungsgrundsätze hingewiesen worden war. Die Beklagte argumentiert daher auch, dass dem Kläger diese Tatsache als versiertem Geschäftsmann hätte bewusst sein müssen. Als Mitglied des Verwaltungsrats der Y._ AG musste er sich zwar zweifellos auch mit der Rechnungslegung als Führungsinstrument beschäftigen, doch kann daraus nicht geschlossen werden, dass ihm bewusst war oder hätte bewusst sein müssen, dass für börsenkotierte Unternehmen - anders als für KMU - die IFRS- oder die US GAAP-Grundsätze anzuwenden sind (NOBEL, Schweizerisches Finanzmarktrecht, 2. Aufl. 2004 [Vorauflage], S. 901 § 11.IV.D.1 Rz. 164; vgl. heute Art. 6 der Richtlinie betr. Rechnungslegung [Richtlinie Rechnungslegung, RLR] vom 20. Juni 2012, http://www.six-exchange-regulation.com/admission_manual/06_13-DFR/de/index.html zuletzt besucht am 9. April 2013; NOBEL, Schweizerisches Finanzmarktrecht und internationale Standards, 3. Aufl. 2010, S. 873 f. § 10.IV.C.2 Rz. 356) und zudem, welche Unterschiede diesbezüglich bestehen.
5.5.3 In der Regel geht es bei Preisanpassungsklauseln auf der Basis eines garantierten Eigenkapitals (zu den in der Praxis verwendeten verschiedenen Arten: vgl. LOUIS SIEGRIST/LUISE KREMER, Kaufpreisanpassungen bei Unternehmensakquisitionen, in: M&A Recht und Wirtschaft in der Praxis, Liber amicorum für Rudolf Tschäni, 2010, S. 107 ff., S. 108 ff.; ROLF WATTER/MATTHIAS GSTOEHL, Preisanpassungsklauseln, in: Rudolf Tschäni [Hrsg.], Mergers & Acquisitions VI, 2004, S. 33 ff., S. 35 f.; RUDOLF TSCHÄNI UND ANDERE, M&A-Transaktionen nach Schweizer Recht, 2. Aufl. 2013, S. 156 ff. Kap. 4.I.5.a Rz. 10 ff.) darum, Veränderungen des Unternehmenswerts zwischen Vertragsschluss und Vollzug Rechnung zu tragen, wo die Übergabestichtagsbilanz noch im Einflussbereich des Verkäufers liegt. Wenn, wie hier, ein späterer Stichtag vereinbart ist und die Käuferin somit die Möglichkeit erhält, das Ergebnis massgeblich zu beeinflussen, ist nicht leichthin anzunehmen, dass eine vollständige Neubewertung bzw. Periodenabgrenzung und gestützt darauf eine Preisreduktion dem Zweck der Klausel entsprach (RUDOLF TSCHÄNI/HAROLD FREY, Streiterledigung in M&A-Transaktionen, in: Rudolf Tschäni [Hrsg.], Mergers & Acquisitions XIII, 2010, S. 33 ff., S. 79; vgl. auch WATTER/GSTOEHL, a.a.O., S. 46 f.). So auch hier. Aus lit. D der Vertragspräambel ergibt sich, dass erhebliche Sanierungsmassnahmen getroffen werden mussten. Das Eigenkapital von Fr. 0.8 Mio., welches dann in Ziff. I Abs. 4 des Vertrages garantiert ist, wird in lit. D der Präambel als Zielgrösse dargestellt, die nach den verschiedenen Sanierungsschritten erreicht werden soll ("... ergeben sollte"). Dies zeigt eine rückwärtsgewandte Sichtweise, ausgehend von den bisherigen Zahlen. Der Kläger durfte daher nach Treu und Glauben damit rechnen, dass die Eigenkapitalgarantie aufgrund der bisherigen Rechnungslegung gemeint war. Der widerklageweise verlangte Betrag von Fr. 2'172'472.39 ist daher um den eventualiter geltend gemachten Betrag von Fr. 448'200.-- zu reduzieren.
6. Umstritten ist sodann, ob die Beklagte aus Gewährleistung (Ziff. III.2.d des Kaufvertrages: Gewährleistung für vollständige und ausreichende Rückstellungen) einen Minderungsanspruch von Fr. 186'000.-- und gleichzeitig den geltend gemachten Preisreduktionsanspruch hat.
6.1 Die Beklagte begründete ihren Anspruch damit, dass gestützt auf einen Block Seat Contract eine Forderung der Fluggesellschaft Q._ gegenüber der Y._ AG für im Zeitraum vom 4. Mai 2007 bis 10. November 2007 von Y._ AG eingekaufte, aber nicht benützte Sitzplätze im Umfang von Fr. 186'000.-- bestanden habe und weder der Jahresabschluss 2007 noch der Zwischenabschluss per 30. Juni 2008 Rückstellungen für diese Forderung enthalten hätten. Die Fluggesellschaft Q._ habe am 4. November 2008 über das sogenannte IATA BSP Link Verfahren der Y._ AG diesen Betrag belastet.
6.2 Die Vorinstanz bejahte im Grundsatz eine Gewährleistungspflicht im Betrag von Fr. 186'000.-- für nicht erfolgte Rückstellungen. Als nicht begründet erachtete sie die Rüge des Klägers, bei Gutheissung der Gewährleistung und gleichzeitig der Kaufpreisreduktion müsse er zweimal für denselben Schaden zahlen. Rein rechnerisch habe dieses Argument zwar etwas für sich, juristisch sei es aber nicht haltbar, denn der Kaufvertrag halte die Preisreduktion und die Sachgewährleistung als zwei verschiedene Mechanismen auseinander.
6.3 Im Beschwerdeverfahren bestreitet der Kläger die Gewährleistungspflicht als solche nicht mehr. Er akzeptiert daher den Anspruch der Beklagten von Fr. 186'000.-- aus Gewährleistung und verlangt nur noch einen weiteren Abzug um Fr. 46'500.-- (Fr. 93'000.-- / 2) vom Preisreduktionsanspruch der Beklagten von Fr. 2'172'472.39 zufolge doppelter Berücksichtigung des gleichen Betrages sowohl unter dem Titel Preisreduktion wie aus Gewährleistung. Er rügt, er habe bereits in der Replik/Ergänzte Widerklageantwort geltend gemacht, die Beklagte hätte in dem für die Preisreduktion massgeblichen Abschluss per 31. Dezember 2008 eine Rückstellung für den "Streitfall Fluggesellschaft Q._" im Umfang von Fr. 93'000.-- vorgenommen, während der Zwischenabschluss per 30. Juni 2008 diese Rückstellung nicht enthielt, was sich aus der Widerklagebeilage 12 ergebe.
6.4 Auch wenn die Vorinstanz in dem von ihr festgestellten Sachverhalt nicht ausdrücklich festhielt, dass die Bilanz per 31. Dezember 2008 diese Rückstellung enthielt, kann davon ausgegangen werden, zumal die Beklagte dies in der Beschwerdeantwort nicht bestreitet. Das negative Eigenkapital von Fr. 3'544'944.78 bzw. die Differenz von Fr. 4'344'944.78 zum garantierten Eigenkapital von Fr. 0.8 Mio. per 31. Dezember 2008 enthielt somit einen Betrag von Fr. 93'000.--.
Der Vorinstanz ist ohne weiteres beizupflichten, dass die Wertgarantie und die Sachgewährleistung zwei voneinander unabhängige Mechanismen sind. Der Verkäufer, der eine Garantie für einen bestimmten Unternehmenswert abgibt, geht eine eigenständige Verpflichtung ein. Demgegenüber beziehen sich Zusicherungen im Rahmen der Sachgewährleistung auf konkrete Eigenschaften des Kaufgegenstandes im Zeitpunkt des Vertragsabschlusses (TSCHÄNI/FREY, a.a.O., S. 79 Fn. 114; vgl. auch PETER BÖCKLI, Gewährleistungen und Garantien in Unternehmenskaufverträgen, in: Mergers & Acquisitions, Rudolf Tschäni [Hrsg.], 1998, S. 59 ff., S. 87 f. und S. 95).
Auch der streitgegenständliche Vertrag unterscheidet in diesem Sinn zwischen der in Ziffer I geregelten Eigenkapitalgarantie/Preisreduktionsklausel und dem in Ziffer III.3 enthaltenen Minderungsrecht, das sich systematisch nur auf die Gewährleistungen gemäss den Ziffern III.1 und III.2 bezieht. Dass Garantie und Gewährleistungen dogmatisch zu unterscheiden sind, bedeutet jedoch nicht, dass nach Sinn und Zweck des Vertrages Positionen, die bei der Preisanpassung berücksichtigt wurden, auch noch als Gewährleistungsansprüche geltend gemacht werden können. In der Literatur wird denn auch dargelegt, dass Unternehmenskaufverträge, die eine Preisanpassung vorsehen, üblicherweise festhalten, dass Positionen, die bei der Preisanpassung berücksichtigt wurden, nicht noch als Gewährleistungsansprüche geltend gemacht werden können (TSCHÄNI/FREY, a.a.O., S. 79 Fn. 114).
Im zu beurteilenden Fall fehlt eine solche Klausel, und es kann auch offen bleiben, inwiefern generell die zahlreichen Sachgewährleistungen gemäss Ziff. III.2 von der Wertgarantie abzugrenzen wären. Im Hinblick auf die streitgegenständliche Rückstellung ist jedenfalls davon auszugehen, dass diese nicht zweimal berücksichtigt werden darf. Der Kläger schuldet aus Gewährleistung Fr. 186'000.--, da die zugesicherte Rückstellung bei Vertragsabschluss nicht bestand. Indem die Beklagte aber in der zweiten Jahreshälfte 2008 - nach dem Vertragsvollzug - einen Teil dieser Rückstellung selbst vornahm, erfüllte sie in diesem Umfang im Nachhinein gleichsam selbst die Rückstellungsverpflichtung des Klägers und erhöhte entsprechend das negative Eigenkapital. Es ist daher auch zutreffend, dass der Kläger im Beschwerdeverfahren anders als noch vor Vorinstanz den Betrag von Fr. 46'500.-- (Fr. 93'000.-- / 2) nicht vom Minderungsbetrag, sondern von der geltend gemachten Kaufpreisreduktion von Fr. 2'172'472.39 abzieht.
7. Die Beschwerde des Klägers ist insgesamt im Umfang von Fr. 494'700.-- (Fr. 448'200.-- + Fr. 46'500.--) gutzuheissen und der widerklageweise zugesprochene Betrag von Fr. 2'172'472.39 entsprechend auf Fr. 1'677'772.39 zu reduzieren.
Beschwerde der Beklagten (4A_629/2012)
8. Umstritten ist, ob die Beklagte das Kaufrecht gemäss ABV an den beim Kläger verbliebenen Aktien ausgeübt hat und der entsprechende Kaufpreis geschuldet ist.
8.1 Die entsprechenden Bestimmungen in der Vereinbarung lauten:
"2. ÜBERTRAGUNG VON AKTIEN
2.1 Kaufrecht der X._ AG
Der Aktionär A._ räumt dem Aktionär X._ AG unwiderruflich das Recht ein, sämtliche von A._ gehaltenen Aktien zu erwerben. Das Kaufrecht unterliegt keiner Befristung. X._ AG ist frei in ihrer Entscheidung, wann und wie viele Aktien jeweils erworben werden.
Zur Berechnung des Kaufpreises wird jeweils von einem Basispreis von CHF 13'000'000.-- für 100% des gesamten Aktienkapitals der Y._ AG ausgegangen, zuzüglich 20% auf den so errechneten Kaufpreis für die jeweilige Anzahl Aktien.
Die jeweilige Übertragung der Aktien wird nach der jeweiligen Kaufrechtsausübung Zug um Zug gegen Bezahlung des betreffenden Kaufpreises gemäss den Zahlungsinstruktionen von A._ vollzogen.
Das Kaufrecht von X._ AG geht jedem anderen Recht gemäss Ziffern 2.2 bis 2.5 vor.
2.2 Vorhandrecht ('right of first refusal')
Sofern ein Aktionär seine Aktien vollständig oder teilweise verkaufen will, hat er diese Aktien vorerst dem anderen Aktionär schriftlich zum Kauf anzubieten. Zur Berechnung des Kaufpreises für [sic] bei Ausübung des Vorhandrechts wird jeweils von einem Basispreis von CHF 13'000'000.-- für 100% des gesamten Aktienkapitals der Y._ AG ausgegangen, zuzüglich 20% auf den so errechneten Kaufpreis für die jeweilige Anzahl Aktien.
Sofern die Aktionäre sich nicht innerhalb von 30 Tagen nach Empfang des schriftlichen Angebots auf einen Aktienkaufvertrag einigen können, ist der veräusserungswillige Aktionär berechtigt, seine Aktien einer Drittpartei anzubieten. Dieses Angebot muss jedoch unter der Bedingung eines Vorkaufsrechts zugunsten des anderen Aktionärs gemäss nachfolgender Ziffer 2.3 stehen. Ziffer 2.1 bleibt vorbehalten.
2.3 Vorkaufsrecht ('right of preemption')
Wird das Vorhandrecht gemäss Ziffer 2.2 nicht ausgeübt, hat der veräusserungswillige Aktionär, bevor er die von ihm gehaltenen Aktien einer Drittpartei verkaufen darf, diese Aktien zuerst schriftlich dem anderen Aktionär zum gleichen Preis und den gleichen Verkaufsbedingungen zum Kauf anzubieten. Der Name der Drittpartei, die bereit ist, die Aktien zu diesen Bedingungen zu kaufen, und die Verkaufsbedingungen des Verkaufs selbst sind in der Offerte an den Aktionär offen zulegen. Innerhalb von 30 Tagen nach Empfang dieser schriftlichen Offerte kann der die [sic] Aktionär sämtliche der angebotenen Aktien zu genau diesen Bedingungen durch schriftliche Mitteilung an den anderen Aktionär erwerben. Der Erwerb nur eines Teils der angebotenen Aktien durch die Aktionäre ist ausgeschlossen. Die Annahme hat die Bezahlung des angebotenen Kaufpreises zu enthalten und muss bedingungslos sein.
Sofern der Aktionär nicht fristgemäss das schriftliche Angebot des verkaufenden Aktionärs akzeptiert, ist der verkaufende Aktionär berechtigt, die angebotenen Aktien der Drittpartei, die in der Offerte genannt wurde, zu genau diesen Bedingungen innerhalb von 60 Tage [sic] nach Ablauf der obgenannten 30 Tagefrist zu verkaufen. ... "
8.2 Nach Ansicht der Vorinstanz hat die Beklagte das Kaufrecht ausgeübt.
8.2.1 Die Vorinstanz ging davon aus, die Kaufrechtsklausel in Ziffer 2.1 des Kaufvertrages weise der Beklagten ein allen anderen Rechten (gemeint seien das Vorhand-, das Vorkaufs- und das Mitverkaufsrecht gemäss Ziff. 2.2-2.4) vorgehendes, unbefristetes, formfreies und gewöhnliches Kaufrecht zu. Die Klausel enthalte alle essentialia eines Kaufrechtsvertrages und begründe damit ein Gestaltungsrecht zugunsten der Beklagten. In Beantwortung der Mail-Anfrage des Klägers vom 1. Dezember 2008 an D._ von der Beklagten habe B._ von der X._-Holding AG am 2. bzw. 3. Dezember 2008 dem Kläger telefonisch mitgeteilt, dass die Beklagte "das Kaufsrecht an den vom Kläger gehaltenen Aktien der Y._ AG ausübe". Das Handelsgericht stützte sich dabei auf eine entsprechende Formulierung in der Replik. Diese vom Kläger aufgestellte "bestimmte und klare Tatsachenbehauptung" sei von der Beklagten nicht substanziiert bestritten worden. Weder der Kläger noch die Beklagte hätten sich überhaupt mit diesem Telefongespräch auseinandergesetzt. Vielmehr drehten sich ihre Argumente nur um das Verständnis des Schreibens vom 5. Dezember 2008. Dieses Schreiben lautet:
"Ausübung des Kaufrechts an Aktien der Y._ AG
Sehr geehrter Herr A._
Wie mit Herrn B._ am Telefon besprochen, beabsichtigt X._ AG, das Kaufrecht an den von Ihnen gehaltenen 18.1% des Aktienkapitals der Y._ AG auszuüben. Die Konditionen des Kaufs richten sich nach der Aktonärbindungs-Vereinbarung vom 24. Juni 2008.
Wie ebenfalls besprochen schlagen wir vor, den Kauf nach Vorliegen des definitiven Jahresabschlusses 2008 durchzuführen, was gegen Ende Januar 2009 der Fall sein wird.
Wenn Sie mit diesem Vorgehen einverstanden sind, retournieren Sie uns bitte ein von Ihnen unterzeichnetes Exemplar dieses Schreibens."
8.2.2 Diesem Schreiben kommt nach Meinung der Vorinstanz indessen keine massgebende Bedeutung zu. Mit seiner telefonischen Erklärung habe B._ als Stellvertreter das Kaufrecht namens der Beklagten ausgeübt. Auch wenn B._ Mitarbeiter der M&A Abteilung der X._-Gruppe (X._-Holding AG) und also nicht Mitarbeiter der Beklagten gewesen sei, habe der Kläger davon ausgehen dürfen, dass er seine Stellungnahme im Namen der Beklagten abgegeben habe. Die Vorinstanz nahm an, die Erklärung präsentiere sich objektiv betrachtet als Kaufsrechtsausübung. "Abweichende innere Willen im Rahmen dieser Erklärung" seien nicht geltend gemacht worden, weshalb auf dieses objektive Verständnis abzustellen sei. Unter dem Titel "Folge der Kaufrechtsausübung" führte sie sodann aus, da mit der Gestaltungserklärung der Beklagten der Kauf unwiderruflich zustande gekommen sei, seien deren Behauptungen betreffend das spätere Verhalten des Klägers, namentlich dass er für seine Aktien eine Put-Option verlangt und weiterhin Memoranden zur Geschäftstätigkeit der Y._ AG verfasst habe, irrelevant. Auch wenn der Kläger selbst nicht von einer Kaufrechtsausübung ausgegangen sein sollte, hätte die Beklagte hier doch geltend machen müssen, es sei nicht ihr Wille gewesen, das Kaufrecht anlässlich des Telefonats auszuüben. Auch die dem Telefonat folgenden Schreiben der Parteien seien vor dem Hintergrund der Wirkungen einer Gestaltungserklärung nicht von Belang.
8.3 Die Beklagte bestreitet vor Bundesgericht, dass das Kaufrecht von B._ anlässlich des Telefonats vom 2. oder 3. Dezember 2008 für die Beklagte ausgeübt worden ist.
8.3.1 Sie macht geltend, die Vorinstanz behaupte ohne weitere Begründung, die Parteien hätten in der ABV ein formfreies Kaufrecht vereinbart, was gemäss Ziff. 5.1 der ABV nicht zutreffe. Der Kläger selbst habe nie eine Kaufrechtsausübung im Rahmen dieses Telefongesprächs behauptet, sondern stets nur gestützt auf das Schreiben vom 5. Dezember 2008. Die von der Vorinstanz zitierte Passage aus der Replik sei aus dem Zusammenhang gerissen; es sei dort nur um die ebenfalls umstrittene Frage der Zurechenbarkeit des Handelns von B._ gegenüber der Beklagten gegangen. Selbst wenn der Kläger aber eine solche Behauptung aufgestellt hätte, müsste diese wegen der konträren Darstellung der Beklagten als bestritten gelten.
8.3.2 Die Beklagte verweist auf ihre Klageduplik/Widerklagereplik, in der sie sich darauf berufen hat, dass sie mit dem Schreiben vom 5. Dezember 2008 nur ihre Absicht geäussert habe, das Kaufrecht auszuüben. Sie zeigt zudem auf, dass sie unter Hinweis auf das Protokoll der Verwaltungsratssitzung vom 11. Februar 2009 dargelegt hat, der Kläger habe durch sein Verhalten nach dem 5. Dezember 2008 (u.a. Verlangen einer Put-Option über seine ganze Aktienposition) bestätigt, dass auch nach seiner "Meinung" - das heisst seinem tatsächlichen Willen - noch gar kein Kaufrecht ausgeübt bzw. ein Kauf zustande gekommen war.
8.4 Die Qualifikation der Vorbringen des Klägers zur Ausübung des Kaufrechts als eine bestimmte und klare Tatsachenbehauptung, die von der Beklagten nicht substanziiert bestritten worden sei, ist nicht nachvollziehbar.
8.4.1 Zunächst trifft zu, dass sich der Kläger an zahlreichen, von der Beklagten in ihrer Beschwerde im Einzelnen angeführten Stellen seiner vorinstanzlichen Rechtsschriften stets auf das Schreiben vom 5. Dezember 2008 als massgebliche Gestaltungserklärung der Beklagten bezog. Nur an einer einzigen Stelle, der von der Vorinstanz zitierten, ist von einer Ausübung des Kaufrechts am Telefon die Rede. Auch Parteibehauptungen und Prozesserklärungen sind grundsätzlich nach dem Vertrauensprinzip auszulegen (Urteil 4A_588/2009 vom 25. Februar 2010 E. 3.5 mit Hinweis). Angesichts des Widerspruchs zu den übrigen Ausführungen und dem Umstand, dass es an der von der Vorinstanz zitierten Stelle in der Tat um die Zurechenbarkeit der Erklärung ging, kann von einer bestimmten und klaren Tatsachenbehauptung keine Rede sein.
8.4.2 Die Beschwerdeführerin zeigt zudem mit Aktenhinweis auf, dass sie im kantonalen Verfahren behauptet hat, mit dem Schreiben vom 5. Dezember 2008 habe die X._-Holding AG das mit B._ Besprochene bestätigt und damit die Absicht der Beklagten, das Kaufrecht (gemeint sei das Vorhandrecht) an den Aktien auszuüben. Sie hält an der angegebenen Stelle ausdrücklich fest, damit sei die Absicht (und nur diese) der Vorhandrechtsausübung durch die Beklagte von der X._ AG bestätigt worden. Mit der Behauptung, das Schreiben bestätige das Besprochene, behauptete die Beklagte eine inhaltliche Übereinstimmung zwischen dem Besprochenen und dem schriftlich Bestätigten. Die Behauptung, das Schreiben bestätige das Besprochene und zwar die blosse Absicht der Vorhandrechtsausübung, ist mit einer mündlichen Ausübung des Kaufrechts anlässlich des Telefongesprächs nicht vereinbar. Insoweit hat die Beklagte eine mündliche Kaufrechtsausübung eindeutig und mit dem Verweis auf das Schreiben vom 5. Dezember 2008 für den Inhalt des mündlich Besprochenen auch substanziiert bestritten. Die Annahme, die Behauptung des Klägers sei unbestritten geblieben, ist offensichtlich unzutreffend.
8.5 Auf einseitige empfangsbedürftige (z.B. Gestaltungsrechte wie die hier strittige Ausübung eines Kaufrechts) und nicht empfangsbedürftige Willenserklärungen ist Art. 18 OR analog anwendbar (BGE 115 II 323 E. 2b S. 329; Urteil des Bundesgerichts 4A_544/2012 vom 28. Januar 2013 E. 4.2 mit Hinweis). Der Inhalt der Erklärungen bestimmt sich daher in erster Linie nach dem wirklichen Willen der Vertragsparteien (Art. 18 Abs. 1 OR). Kann eine tatsächliche Einigung nicht festgestellt werden, ist die Vereinbarung nach dem Vertrauensprinzip so auszulegen, wie sie nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durfte und musste. Für die Auslegung nach dem Vertrauensprinzip ist der Zeitpunkt des Empfangs der Willenserklärung massgeblich. Nachträgliches Parteiverhalten ist dafür nicht von Bedeutung; es kann jedoch - im Rahmen der Beweiswürdigung - auf einen tatsächlichen Willen der Parteien schliessen lassen. Während das Bundesgericht die objektivierte Auslegung von Willenserklärungen als Rechtsfrage prüfen kann, beruht die subjektive Auslegung auf Beweiswürdigung, die vorbehaltlich der Ausnahme von Art. 105 Abs. 2 BGG der bundesgerichtlichen Überprüfung entzogen ist (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen). Der Vorrang der empirischen oder subjektiven vor der normativen oder objektivierten Vertragsauslegung ergibt sich aus Art. 18 OR als Auslegungsregel. Die Verletzung dieses Grundsatzes kann deshalb als Bundesrechtsverletzung gerügt werden (BGE 131 III 606 E. 4.1 S. 611; 121 III 118 E. 4b/aa S. 123).
8.6 Die Beklagte hat sowohl eine mündliche als auch eine schriftliche Ausübung des Kaufrechts bestritten. Damit war über den Inhalt der Erklärungen Beweis abzunehmen. Wenn die Vorinstanz offen lässt, ob der Kläger selbst von einer Kaufrechtsausübung ausgegangen ist, verkennt sie, dass in erster Linie der tatsächliche Parteiwille massgebend ist. Der Kläger selbst führt zu seinen Darlegungen in den vorinstanzlichen Rechtsschriften aus, das Schreiben vom 5. Dezember 2008 sei in seinen Ausführungen zentral gewesen, weil der Beweis eines mündlichen Vorganges häufig schwer falle. Er ergänzt: "Wie geschäftlich üblich, wurde eine mündliche Erklärung schriftlich bestätigt". Die Parteien sind sich mithin einig, dass das mündlich Besprochene schriftlich bestätigt wurde. Angesichts der Schwierigkeiten eines zuverlässigen Nachweises des Inhalts des Gesprächs hängt die Frage, ob es um ein Kaufrecht (Ziff. 2.1 ABV) oder ein Vorhandrecht (Ziff. 2.2. ABV) ging, und vor allem, ob ein Recht ausgeübt oder nur eine entsprechende Absicht erklärt wurde, beweismässig von der Interpretation des Schreibens vom 5. Dezember 2008 ab. Mit Blick auf das tatsächliche Verständnis des Klägers kommt seinem nachträglichen Verhalten aber sehr wohl Bedeutung zu. Indem die Vorinstanz die diesbezüglichen Vorbringen der Beklagten nicht geprüft und die vorgelegten Beweise nicht gewürdigt hat, sondern direkt eine objektivierte Auslegung vornahm, hat sie Art. 18 OR verletzt. Nachdem die Vorinstanz keine Feststellungen zum von der Beklagten behaupteten tatsächlichen Verständnis des Klägers getroffen hat, ist die Sache entsprechend dem Eventualantrag der Beklagten an die Vorinstanz zurückzuweisen. Sollte sich auch unter Berücksichtigung des nachträglichen Parteiverhaltens kein tatsächlich übereinstimmendes Verständnis feststellen lassen und der Kläger tatsächlich angenommen haben, die Beklagte habe das Kaufrecht ausgeübt, bleibt zu prüfen, ob er nach dem Vertrauensprinzip in seinem Verständnis zu schützen ist. Dies ist nur der Fall, wenn er gestützt auf die gesamten Umstände davon ausgehen durfte, die Beklagte habe das Kaufrecht bereits ausgeübt, obwohl das Schreiben vom 5. Dezember 2008 nach seinem Wortlaut lediglich davon spricht, die Beklagte beabsichtige, das Kaufrecht auszuüben.
9. Der Kläger obsiegt mit seiner Beschwerde in einem Umfang von knapp 2/3. Es scheint daher gerechtfertigt, die Kosten für das von ihm eingeleitete Beschwerdeverfahren von Fr. 10'000.-- mit gerundet Fr. 6'500.-- der Beklagten und mit Fr. 3'500.-- dem Kläger aufzuerlegen und diesem eine reduzierte Parteientschädigung von Fr. 4'000.-- zuzusprechen. Die Beklagte obsiegt mit ihrer Beschwerde grundsätzlich, weshalb der Kläger die diesbezüglichen Kosten von Fr. 20'000.-- zu tragen und der Beschwerdeführerin die volle Parteientschädigung von Fr. 22'000.-- auszurichten hat. Von dieser wird die ihm zustehende Parteientschädigung in Abzug gebracht.
Demnach erkennt das Bundesgericht:
1. Die Verfahren 4A_627/2012 und 4A_629/2012 werden vereinigt.
2. In teilweiser Gutheissung beider Beschwerden wird das Urteil des Handelsgerichts des Kantons Zürich vom 11. September 2012 aufgehoben.
Die Widerklage wird teilweise geschützt, und der Kläger und Widerbeklagte wird verpflichtet, der Beklagten und Widerklägerin Fr. 1'677'772.39 zuzüglich Zins zu 5 % seit 15. April 2009 sowie Fr. 186'000.-- zuzüglich Zins zu 5 % seit 13. Juli 2009 zu bezahlen.
Die Sache wird zur Neubeurteilung der Klage an das Handelsgericht des Kantons Zürich zurückgewiesen.
3. Die Gerichtskosten von Fr. 30'000.-- werden im Betrag von Fr. 23'500.-- dem Kläger und im Betrag von Fr. 6'500.-- der Beklagten auferlegt.
4. Der Kläger hat die Beklagte für das bundesgerichtliche Verfahren mit Fr. 18'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 9. April 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak