Sachverhalt:
A. Die X._ AG in Liquidation (Beschwerdeführerin) ist eine Aktiengesellschaft schweizerischen Rechts mit Sitz in Zürich. Sie bezweckt den Kauf, die Überbauung und den Verkauf von Grundstücken.
Die Dr. Y._ Stiftung (Beschwerdegegnerin) ist eine Familienstiftung schweizerischen Rechts mit Sitz in Zürich. Sie wurde durch letztwillige Verfügung von Dr. Y._ errichtet. Die Stiftung bezweckt die Verwaltung und den weiteren Ausbau verschiedener Aktiengesellschaften, unter anderem der X._ AG, mit dem Ziel, gewissen Verwandten von Dr. Y._ bei Erwerbsunfähigkeit durch Krankheit, Unfall, Invalidität etc. ein angemessenes Auskommen zu sichern. Sie ist im Handelsregister des Kantons Zürich eingetragen.
Dr. Y._ traf in den Jahren 2001 bis 2003 verschiedene Vorkehrungen betreffend sein Vermögen. Im Juni 2001 veranlasste er die Gründung einer Familienstiftung liechtensteinischen Rechts unter dem Namen A._ Stiftung mit Sitz im Fürstentum Liechtenstein (FL). Im November 2002 schloss Dr. Y._ unter anderem einen Schenkungsvertrag mit der A._ Stiftung betreffend sämtliche Namenaktien der Beschwerdeführerin ab. Im März 2003 bestimmte Dr. Y._ mit letztwilliger Verfügung einerseits die Errichtung der Beschwerdegegnerin, andererseits die Übertragung sämtlicher Namenaktien der Beschwerdeführerin auf sein Ableben hin auf die Beschwerdegegnerin. Im Januar 2004 verstarb Dr. Y._.
Mit Beschluss der Generalversammlung der Beschwerdeführerin vom 3. Mai 2006 wurde diese aufgelöst. Diesen Beschluss veranlasste die A._ Stiftung als Alleinaktionärin.
B. Die Beschwerdegegnerin focht diesen Beschluss mit der Begründung an, die Aktien der Beschwerdeführerin würden gar nicht der A._ Stiftung, sondern ihr zustehen. Am 16. Oktober 2006 richtete sie eine entsprechende Klage an das Bezirksgericht Zürich, das am 23. Oktober 2006 darauf nicht eintrat und den Prozess am 6. November 2006 antragsgemäss an das Handelsgericht des Kantons Zürich überwies. Dieses stellte mit Urteil vom 4. Juli 2008 fest, dass der Beschluss der Generalversammlung der Beschwerdeführerin vom 3. Mai 2006 betreffend die Auflösung der Beschwerdeführerin nichtig ist.
Eine gegen dieses Urteil von der Beschwerdeführerin erhobene Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 6. November 2009 ab, soweit es darauf eintrat.
C. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, das Urteil des Handelsgerichts vom 5. (recte 4.) Juli 2008 und der Zirkulationsbeschluss des Kassationsgerichts vom 6. November 2009 seien aufzuheben und die Klage sei vollumfänglich abzuweisen. Eventuell sei die Klage zur Neubeurteilung an das Handelsgericht zurückzuweisen.
Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit darauf eingetreten werde. Das Handelsgericht und das Kassationsgericht verzichteten auf eine Vernehmlassung.
Erwägungen:
1. Nach Art. 100 Abs. 6 BGG beginnt die Beschwerdefrist, wenn der Entscheid eines oberen kantonalen Gerichts mit einem Rechtsmittel, das nicht alle Rügen nach den Artikeln 95-98 zulässt, bei einer zusätzlichen kantonalen Gerichtsinstanz angefochten worden ist, erst mit der Eröffnung des Entscheids dieser Instanz (BGE 134 III 92 E. 1.1 S. 93 f.). Die innert 30 Tagen seit Eröffnung des Kassationsgerichtsbeschlusses eingereichte Beschwerde ist damit auch rechtzeitig erfolgt, soweit sie sich gegen das Urteil des Handelsgerichts richtet. Da auch die übrigen Eintretensvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. Nach Art. 42 Abs. 1 und 2 BGG ist die Beschwerde hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (vgl. BGE 134 II 244 E. 2.1 S. 245 f.; 134 IV 286 E. 1.4 S. 287; 134 V 53 E. 3.3 ). Die Verletzung von Grundrechten kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.2 S. 254; 133 III 393 E. 6, 439 E. 3.2). Auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (BGE 133 II 396 E. 3.1 S. 399). Macht der Beschwerdeführer beispielsweise eine Verletzung von Art. 9 BV geltend, genügt es nicht, wenn er einfach behauptet, der angefochtene Entscheid sei willkürlich; er hat vielmehr im Einzelnen zu zeigen, inwiefern der angefochtene Entscheid offensichtlich unhaltbar ist (BGE 133 I 1 E. 5.5 S. 5; 130 I 258 E. 1.3 S. 262).
3. Das Handelsgericht hielt fest, dass - unter Vorbehalt der zwingenden Vorschriften über den Erwerb von Grundstücken durch Personen im Ausland - der Schenkungsvertrag zwischen Dr. Y._ und der A._ Stiftung über die Namenaktien der Beschwerdeführerin vom 16. November 2002 nach den Normen des anwendbaren liechtensteinischen Rechts gültig zustande gekommen sei. Jedoch sei der Schenkungsvertrag weder nach liechtensteinischem noch schweizerischem Recht gültig vollzogen worden, weil es an einer Zessionsurkunde fehle. Da unklar blieb, wo die Aktien übergeben worden waren (FL oder CH), prüfte das Handelsgericht die Frage des Eigentumserwerbs an den Aktien sowohl nach liechtensteinischem wie nach schweizerischem Recht. Dabei liess es offen, ob das liechtensteinische Recht die Übertragung von Namenaktien durch Zession - statt durch die gesetzlich vorgesehene Übergabe der indossierten Aktientitel - überhaupt zulassen würde. Nach beiden Rechtsordnungen habe die A._ Stiftung das Eigentum an den Namenaktien nicht erworben, weil es an der nach beiden Rechtsordnungen dazu nötigen schriftlichen Zession mangle. Dr. Y._ sei daher Eigentümer der Namenaktien geblieben und habe diese rechtsgültig von Todes wegen der Beschwerdegegnerin zugedacht. Dies bedeute, dass die Generalversammlung der Beschwerdeführerin vom 3. Mai 2006 ohne Mitwirkung der Aktionäre durchgeführt worden sei und die Beschwerdegegnerin ein rechtliches Interesse an der Aufhebung des Beschlusses dieser Generalversammlung habe. Es sei daher antragsgemäss festzustellen, dass dieser nichtig sei.
4. Die Beschwerdeführerin rügt eine Verletzung von Art. 165 Abs. 1 OR. Der Schenkungsvertrag vom 16. November 2002 beinhalte auch eine Zessionserklärung. Dabei sei der Abtretungswille entgegen dem Handelsgericht bei richtiger Auslegung des Schenkungsvertrags (nach schweizerischem Recht) in der gesetzlich vorgeschriebenen Schriftform hinreichend klar zum Ausdruck gebracht worden.
4.1 Die Abtretung bedarf nach Art. 165 Abs. 1 OR zu ihrer Gültigkeit der schriftlichen Form. Formbedürftige Rechtsgeschäfte sind nach denselben Grundsätzen auszulegen wie formfreie (BGE 122 III 361 E. 4 S. 366; 121 III 118 E. 4b/bb). Danach ist nach den gesamten Umständen zu ermitteln, was die Parteien tatsächlich gewollt haben oder - wenn sich dies nicht feststellen lässt - wie ihre Erklärungen nach Treu und Glauben zu verstehen sind, was mithin ihr mutmasslicher Parteiwille ist. Zur Ermittlung des mutmasslichen Parteiwillens sind die Willenserklärungen der Parteien so auszulegen, wie sie nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durften und mussten (BGE 135 III 395 E. 5.2 S. 302; 132 III 24 E. 4 S. 27 f.; 131 III 606 E. 4.1 S. 611; 130 III 66 E. 3.2; 122 III 361 E. 4 S. 366).
Steht der nach den allgemeinen Auslegungsmethoden ermittelte Vertragsinhalt fest, ist bei formbedürftigen Verträgen in einem weiteren Schritt zu beurteilen, ob der Inhalt in der gesetzlich vorgeschriebenen Form hinreichend zum Ausdruck gebracht worden ist (BGE 122 III 361 E. 4 S. 366; 121 III 121 E. 4 b/bb S. 124). Die Formvorschrift des Art. 165 OR dient der Rechts- und Verkehrssicherheit bzw. der Klarstellung. Dritte sollen ebenso wie der Schuldner der zedierten Forderung feststellen können, wem die Forderung in einem bestimmten Zeitpunkt zusteht. Diesem Zweck entsprechend müssen von der Schriftform sämtliche Merkmale erfasst sein, welche die abgetretene Forderung für die betroffenen Dritten hinreichend individualisieren, wobei es genügt, dass die Forderung bestimmbar ist. Der Wille des Zedenten muss ersichtlich sein, dass mit der Unterzeichnung und Übergabe der Urkunde die Forderung auf den Empfänger übergehe. Für einen unbeteiligten Dritten muss ohne Kenntnis der Umstände der Abtretung aus der Urkunde selbst ersichtlich sein, wem die Forderung zusteht (BGE 122 III 361 E. 4c S. 367; 105 II 83 E. 2 S. 84).
4.2 Das Handelsgericht begründete sein Auslegungsergebnis, dass der Schenkungsvertrag vom 16. November 2002 nicht als Zessionsurkunde betrachtet werden kann, mit folgenden Erwägungen: Der Schenkungsvertrag enthalte - gemäss der Unterteilung des Vertragstextes mittels Zwischentiteln - Bestimmungen zu den Eigentumsverhältnissen im Zeitpunkt des Vertragsschlusses (Ziff. 1), zum Verpflichtungsgeschäft (Ziff. 2), zu den Steuern (Ziff. 3) und verschiedene Bestimmungen (Ziff. 4), darunter eine Rechtswahl und eine Gerichtsstandsvereinbarung. Im gesamten Vertragstext sei aber keinerlei Erklärung der Vertragsparteien zur Abtretung der Namenaktien der Beschwerdeführerin enthalten. Es fehle jegliche für Dritte erkennbare Bezugnahme auf die Abtretung von Rechten. Dem Schenkungsvertrag lasse sich keine Willenserklärung entnehmen, die Namenaktien mit der Unterzeichnung und Übergabe der Erklärung ohne zusätzliche Aktivitäten auf den Beschenkten zu übertragen. Die rechtskundigen Dr. iur. Y._ und Dr. iur. Z._ hätten unter dem Titel "Verpflichtungsgeschäft" Folgendes vereinbart: "Der Geschenkgeber schenkt und überträgt sein Eigentum an den Namenaktien Nr. 1 bis 100 der X._ AG und die Beschenkte übernimmt die Namenaktien Nr. 1 bis 100 an der X._ AG in ihr Alleineigentum." Vom klaren und fachspezifischen Wortlaut sei mit dieser Abrede nur das Verpflichtungsgeschäft, nicht aber das Verfügungsgeschäft betreffend die Aktien gedeckt. Selbst wenn man die Formulierung "schenkt und überträgt" noch als Kombination der Verpflichtung zur Schenkung einerseits und zur Abtretung andererseits betrachten wollte, ändere dies nichts daran, dass der Wille der Parteien zum Abschluss eines Verfügungsgeschäfts im Schenkungsvertrag nicht hinreichend zum Ausdruck gebracht werde. Zudem hätten die rechtskundigen Parteien ihr Vertragsdokument als Schenkungsvertrag bezeichnet. Auch diesbezüglich fehle es an einem hinreichenden Ausdruck des Willens zum Abschluss eines Verfügungsgeschäfts.
4.3 Diesen Erwägungen des Handelsgerichts ist beizupflichten. Was die Beschwerdeführerin dagegen vorbringt, verfängt nicht. So verlangte das Handelsgericht nirgends, dass die Urkunde eine schriftliche Annahmeerklärung des Erwerbers enthalte. Hingegen setzte es für eine gültige Zession zutreffend voraus, dass aus der Urkunde der Wille des Zedenten ersichtlich sein muss, mit der Unterzeichnung und Übergabe derselben den Übergang der Forderung auf den Empfänger zu bewirken. Solches kann dem Schenkungsvertrag vom 16. November 2002 aber nicht, jedenfalls nicht mit genügender Klarheit, entnommen werden. Die Beschwerdeführerin vertritt die Auffassung, die Formulierung "und überträgt" sei als Verfügungsgeschäft über die Aktien zu verstehen. Anders wäre es nur, wenn die Formulierung "und verpflichtet sich zur Übertragung" oder "wird übertragen" gewählt worden wäre. Die Bezeichnungen "Zession" und "Abtretung" seien am geläufigsten, doch könne auch mit "Übertragung" oder "Entäusserung" ein Abtretungswille zum Ausdruck gebracht werden. Letzteres trifft zu, ändert aber am vorliegenden Auslegungsergebnis nichts. Auch wenn eine Zession mit dem Ausdruck "Übertragung" erklärt werden könnte, bringt die vorliegend unter dem Titel "Verpflichtungsgeschäft" gewählte Formulierung "schenkt und überträgt" nicht hinlänglich zum Ausdruck, dass der Schenkungsgeber mit der Abgabe dieser Erklärung die "Übertragung" als vollzogen betrachtet (vgl. BGE 90 II 164 E. 7 S. 180 mit Hinweis). Der Schenkungsvertrag verurkundet von seinem klaren Wortlaut her ausdrücklich nur das Verpflichtungsgeschäft. Die explizite Bezeichnung der wesentlichen Vertragsbestimmung als "Verpflichtungsgeschäft" verbietet es nach Treu und Glauben, aus dieser Abrede auch die Abtretung der Aktien abzuleiten. Die Vertragsparteien waren, wie aus der Urkunde ersichtlich ist, beide rechtskundig bzw. beim Geschäft rechtskundig vertreten. Angesichts des Umstands, dass sie die zentrale Vertragsbestimmung mit "Verpflichtungsgeschäft" und nicht mit "Verpflichtungs- und Verfügungsgeschäft" überschrieben haben, muss sich einem unbeteiligten Dritten der Schluss aufdrängen, dass sie die Wirkung des Schenkungsvertrags auf das Verpflichtungsgeschäft beschränken wollten. Entsprechend ist dem Handelsgericht zuzustimmen, dass die Formulierung "schenkt und überträgt" höchstens als Verpflichtung zur Schenkung einerseits und als Verpflichtung zur Abtretung andererseits zu verstehen ist. Die Ansicht des Handelsgerichts, dass der Schenkungsvertrag vom 16. November 2002 nicht als Zessionsurkunde betrachtet werden kann, ist daher nicht zu beanstanden und die Beschwerde erweist sich in diesem Punkt als unbegründet.
5. Das Handelsgericht stellte fest, die Beschwerdeführerin äussere sich nur sehr knapp zu den Modalitäten der Übergabe der Namenaktien. Da demzufolge die tatsächlichen Elemente nicht feststanden, um das nach Art. 100 Abs. 1 IPRG bzw. Art. 102 Abs. 1 IPRG auf den Eigentumserwerb an den Namenaktien anwendbare Recht zu bestimmen, prüfte das Handelsgericht denselben sowohl nach liechtensteinischem wie nach schweizerischem Recht. Es kam zum Schluss, dass die Beschwerdeführerin nach beiden Rechtsordnungen das Eigentum an den Namenaktien nicht erworben habe, weil es an der nach beiden Rechtsordnungen dazu nötigen Zessionsurkunde fehle.
Das Kassationsgericht erkannte auf entsprechende Rüge der Beschwerdeführerin hin, dass das Handelsgericht mittels Ausübung der richterlichen Fragepflicht (§ 55 ZPO-ZH) den Sachverhalt, also wo die Aktien im November 2002 übergeben worden sind (im FL oder in der CH), hätte klären müssen. Es verzichtete aber auf eine Aufhebung des Handelsgerichtsurteils, weil die Beschwerdeführerin durch das Vorgehen des Handelsgerichts keinen Nachteil erlitten habe, da dieses die Frage des Eigentumserwerbs nach beiden Rechtsordnungen geprüft habe und beide Male zum selben Ergebnis gelangt sei.
Die Beschwerdeführerin rügt (eventualiter), das Kassationsgericht habe infolge willkürlicher Verkennung des Rechtsnachteils eine Rechtsverweigerung begangen. Die Beschwerdeführerin hätte nur dann aus der Verletzung der richterlichen Fragepflicht keinen Rechtsnachteil erlitten, wenn tatsächlich sowohl nach liechtensteinischem Recht als auch nach schweizerischem Recht die Schriftform erforderlich gewesen wäre. Nach liechtensteinischem Recht sei es indes möglich, dass eine Handschenkung bzw. eine Abtretung der Aktien formfrei gültig wäre. Auch sei denkbar, dass nach liechtensteinischem Recht eine Heilung infolge der vollzogenen Aktienübertragung eingetreten sei. Nach liechtensteinischem Recht könnte die Zession der Aktien daher möglicherweise formgültig erfolgt sein. Das Kassationsgericht hätte daher den Fall an das Handelsgericht zur tatsächlichen und rechtlichen Abklärung zurückweisen müssen. Indem es dies nicht getan habe, habe es Art. 9 BV verletzt.
Dieser Argumentation kann nicht gefolgt werden. Das Kassationsgericht hat selber Abklärungen zum liechtensteinischen Recht betreffend die Übertragung von Namenaktien angestellt. Dabei erkannte es zwar, das Handelsgericht habe auf einen nicht einschlägigen Entscheid des Fürstlichen Obersten Gerichtshofes abgestellt. Es gelangte aber aufgrund seiner eigenen Nachforschungen zum Schluss, dass kein klares liechtensteinisches Recht zur interessierenden Frage bestehe. Auch die Beschwerdeführerin habe keine Rechtsprechung oder Literatur angeführt, woraus sich ergäbe, dass liechtensteinische Judikatur und Lehre einhellig davon ausgingen, dass es für die wirkliche Übergabe bei der Schenkung von Namenaktien genügen würde, wenn die Aktien in den Besitz des Beschenkten gelangten, ohne dass dabei die wertpapierrechtlichen Anforderungen an die Eigentumsübertragung (also zumindest eine schriftliche Zession mit Übergabe der Aktienurkunde) eingehalten zu werden bräuchten. Auch zu einer angeblichen Heilungsmöglichkeit bestehe kein klares liechtensteinisches Recht. Vielmehr wiesen die Nachforschungen des Kassationsgerichts darauf hin, dass Formmängel am Verfügungsgeschäft nicht heilbar sind. Das Handelsgericht habe daher kein klares Recht verletzt, indem es Schriftlichkeit der Zession verlangt habe und auch nicht von einer Heilung des Formmangels (keine schriftliche Zession) durch die erfolgte Übergabe der Aktien ausgegangen sei.
Bei dieser Situation ist das Kassationsgericht nicht in Willkür verfallen, wenn es annahm, die gerügte Verletzung der richterlichen Fragepflicht durch das Handelsgericht habe für die Beschwerdeführerin keinen Nachteil zur Folge gehabt, da nach beiden Rechtsordnungen das gleiche Ergebnis resultierte. Auch wenn das Kassationsgericht die Sache an das Handelsgericht zurückgewiesen oder das Handelsgericht seine Fragepflicht vor Fällung seines Entscheids erfüllt hätte und sich bei der Befragung Liechtenstein als Übergabeort der Aktien herausgestellt hätte, wäre die Beurteilung nicht anders ausgefallen. Das Handelsgericht hätte dann die Frage des Eigentumserwerbs einzig nach liechtensteinischem Recht beurteilt. Das Kassationsgericht hat aber bereits entschieden, dass das Handelsgericht bei der Anwendung liechtensteinischen Rechts kein klares Recht verletzt hat. Die Willkürrüge der Beschwerdeführerin verfängt daher nicht, sofern sie überhaupt als rechtsgenüglich begründet betrachtet werden kann (vgl. Erwägung 2).
6. Die Beschwerde ist abzuweisen. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 6'000.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 7'000.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Handelsgericht des Kantons Zürich und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 22. Februar 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Widmer