Sachverhalt:
A. A.a Die X._ AG (Klägerin und Beschwerdeführerin) ist eine Aktiengesellschaft mit Sitz in Z._. Ihr Zweck ist seit Juni 2008 das Halten, der Erwerb und Verkauf von Beteiligungen an Unternehmungen aller Art im In- und Ausland, insbesondere an Industrie- und Immobilienunternehmungen sowie Erwerb, Halten und Veräussern von Immobilien und immateriellen Vermögenswerten aller Art. Von Juli 2005 bis Juni 2008 war ihr Zweck die Entwicklung, Produktion von und der Handel mit Maschinen, Führung von Unterhaltungs- und Gastronomiebetrieben, Planung und Realisierung von Events jeglicher Art, Lagerbewirtschaftung und Dienstleistungen für Dritte im Bereich Logistik, Verwaltung, Vermietung, Verpachtung, Kauf und Verkauf von Immobilien und Grundstücken aller Art sowie Umbauten, Neubauten und Renovationen. Vor Juli 2005 bezweckte sie unter anderem den Erwerb, die Verwaltung und Verwertung von Immobilien und Vermögenswerten. Mehrheitsaktionär und Verwaltungsratspräsident der Klägerin ist D._.
Die Y._ Beteiligungen AG (Beklagte und Beschwerdegegnerin) ist eine Aktiengesellschaft mit Sitz in Q._. Sie ist eine Holdinggesellschaft und bezweckt die Beteiligung an Unternehmen aller Art, insbesondere aber die dauernde Beteiligung an der Y._ AG mit Sitz ebenfalls in Q._. Die Y._ AG ist im Präzisions-Werkzeugmaschinenbau tätig und stellt Zahnflankenschleifmaschinen sowie Diamant- und CBN-Abrichtwerkzeuge her. Ihre Produkte verkauft sie praktisch zu 100 % im Ausland. Die Y._-Gruppe beschäftigt weltweit ca. 515 Mitarbeiter, davon rund 460 bei der Y._ AG in Q._.
Das Aktienkapital der Beklagten beträgt CHF 2'500'000.--, eingeteilt in 5'000 Namenaktien und 5'000 Inhaberaktien. Die Klägerin hält am Aktienkapital der Beklagten eine Beteiligung von rund 47 %. Die restlichen 53 % werden von einer nicht abschliessend bekannten Anzahl Aktionäre gehalten, wobei sich ein Grossteil dieser Aktien in den Händen der Gebrüder E. _ und F._, Nachkommen eines der Gründungsmitglieder der Beklagten, befindet. Seit der Generalversammlung im Jahr 1989, an welcher die Wiederwahl von D._ als Verwaltungsrat abgelehnt wurde, ist die Minderheitsgruppe nicht mehr im Verwaltungsrat der Beklagten vertreten.
A.b Es ist gerichtsnotorisch, dass die Ansichten der Klägerin und der restlichen Aktionäre der Beklagten über die Unternehmensführung der Beklagten oft diametral auseinandergehen. Beschlüsse an den Generalversammlungen der Beklagten, unter Vorbehalt der Erteilung der Décharge an den Verwaltungsrat, bei welcher sich dieser der Stimme zu enthalten hat, werden stets ungefähr im gleichen Abstimmungsverhältnis gefasst, nämlich 47 % : 53 %. Seit 1998 hat die Klägerin einen Grossteil der an den Generalversammlungen der Beklagten gefassten Beschlüsse angefochten, bis zum Zeitpunkt der vorinstanzlichen Urteilsfällung wurde jedoch keine dieser Anfechtungsklagen rechtskräftig gutgeheissen (für die bis an das Bundesgericht weitergezogenen Anfechtungsverfahren vgl. BGE 131 III 86 [Verfahren 4C.386/2002], BGE 133 III 453 [Verfahren 4C.45/2006]). Seit 1998 initiierte die Klägerin ausserdem mehrere Auskunfts- und Einsichtsverfahren betreffend die stillen Reserven der Beklagten und ihrer Tochtergesellschaften, die Jahresrechnungen der Tochtergesellschaften, ein von der Y._ AG einer Drittgesellschaft gewährtes Darlehen, ein angebliches Diversifikationsprojekt aus dem Jahre 1998 und weitere möglicherweise von der Beklagten zwischen 1998 bis 2004 an Dritte gewährte Darlehen. Ein Grossteil dieser Verfahren wurde ebenfalls für die Klägerin abschlägig beurteilt (für die bis an das Bundesgericht weitergezogenen Verfahren vgl. BGE 132 III 71 [Verfahren 4C.81/2005], Urteil 4C.234/2002 vom 4. Juni 2003).
B. B.a Am 19. April 2005 reichte die Klägerin beim Handelsgericht Zürich eine Klage mit folgenden Rechtsbegehren ein:
"1. Es sei die Beklagte gestützt auf Art. 736 Ziff. 4 OR gerichtlich aufzulösen und die Liquidation durch eine(n) neutrale(n), gerichtlich bestimmte(n) Liquidator / -in anzuordnen.
2. Eventuell sei gemäss Art. 736 Ziff. 4 OR auf eine andere sachgemässe und den Beteiligten zumutbare Lösung im Sinn der nachfolgenden Ausführungen zu erkennen.
3. Es seien die Auflösung der Beklagten, eventuell die Wirkungen einer anderen sachgemässen Lösung, sowie die/der ernannte(n) Liquidator/in(en) zur Eintragung ins Handelsregister anzumelden.
4. Alles unter Kosten- und Entschädigungsfolgen zu Lasten der Beklagten."
In ihrer Klagebegründung machte die Klägerin im Wesentlichen geltend, sie sei vom Verwaltungsrat der Beklagten und von deren Aktionärsmehrheit über Jahre hinweg systematisch hintergangen und benachteiligt worden. Seit rund 20 Jahren sehe sie sich einem unaufhaltsamen Machtmissbrauch ausgesetzt. Ziel des beherrschenden und kohärenten Blocks der Mehrheitsaktionäre und ihres Verwaltungsrates sei es, sie auszuhungern und ihr die Aktien zu einem weit untersetzten Preis abzunehmen. Die Veräusserung der Minderheitsbeteiligung werde ihr verunmöglicht, von jeder Mitwirkung bei der Beklagten sei sie ausgeschlossen, ihrer Informations- und Kontrollrechte sei sie beraubt und ihre vermögensmässigen Rechte würden kontinuierlich verletzt. Zudem würden aus der Y._-Gruppe seit Jahren massiv Gelder abgezweigt. Sie befinde sich in einer einzigartigen, ausweglosen Situation, aus der sie sich nur mit einer Auflösungsklage befreien könne.
B.b Mit Urteil vom 7. Mai 2008 wies das Handelsgericht die Klage ab.
Die von der Beschwerdeführerin dagegen erhobene Nichtigkeitsbeschwerde hiess das Kassationsgericht des Kantons Zürich mit Zirkulationsbeschluss vom 20. Juli 2009 gut, hob das Urteil des Handelsgerichts auf und wies die Sache zur Neubeurteilung an das Handelsgericht zurück.
Mit Urteil vom 21. Januar 2011 wies das Handelsgericht die Klage erneut ab und verurteilte die Klägerin zur Tragung der Gerichtskosten von Fr. 3'400'000.-- sowie zur Zahlung einer Parteientschädigung an die Beklagte von Fr. 4'260'000.--.
C. Mit Beschwerde in Zivilsachen stellt die Beschwerdeführerin dem Bundesgericht die folgenden Anträge:
"1. Das Urteil des Handelsgerichts des Kantons Zürich vom 21. Januar 2011 sei aufzuheben.
2. Es sei die Beschwerdeführerin gestützt auf Art. 736 Ziff. 4 OR gerichtlich aufzulösen und die Liquidation durch eine(n) neutrale(n), gerichtlich bestimmte(n) Liquidator / -in anzuordnen.
3. Eventuell sei gemäss Art. 736 Ziff. 4 OR auf eine andere sachgemässe und den Beteiligten zumutbare Lösung zu erkennen.
4. Es seien die Auflösung der Beklagten, eventuell die Wirkungen einer anderen sachgemässen Lösung, sowie die/der ernannte(n) Liquidator/in(en) zur Eintragung ins Handelsregister anzumelden.
5. Subeventualiter sei die Sache zur Neubeurteilung an das Handelsgericht des Kantons zurückzuweisen.
6. Der vorliegenden Beschwerde sei die aufschiebende Wirkung zu erteilen.
7. Unter Kosten- und Entschädigungsfolgen zu Lasten der Beschwerdegegnerin sowohl für das bundesgerichtliche Beschwerdeverfahren wie das handelsgerichtliche Verfahren."
Die Beschwerdegegnerin beantragt in ihrer Vernehmlassung, es sei auf die Beschwerde nicht einzutreten, eventualiter sei sie abzuweisen, soweit darauf einzutreten ist. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Die Beschwerdeführerin reichte dem Bundesgericht Replik und Triplik, die Beschwerdegegnerin Duplik ein.
Mit Präsidialverfügung vom 4. April 2011 wurde das Gesuch um Gewährung der aufschiebenden Wirkung abgewiesen und das Handelsgericht des Kantons Zürich angewiesen, die mit Verfügung vom 11. Oktober 2006 beigezogenen Tonträger der Beschwerdegegnerin erst nach Abschluss des bundesgerichtlichen Verfahrens herauszugeben.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (BGE 136 II 101 E. 1 S. 103, 470 E. 1 S. 472; 135 III 212 E. 1).
1.1 Die Beschwerde richtet sich gegen einen Endentscheid (Art. 90 BGG) in einer Zivilsache (Art. 72 Abs. 1 BGG), der von einem oberen kantonalen Gericht erging, das als Fachgericht für handelsrechtliche Streitigkeiten und einzige kantonale Instanz eingesetzt ist (Art. 75 Abs. 2 lit. b BGG). Die Rechtsbegehren der Beschwerdeführerin sind im kantonalen Verfahren nicht geschützt worden (Art. 76 Abs. 1 BGG), der massgebende Streitwert beträgt mehr als Fr. 30'000.-- (Art. 51 i.V.m. Art. 74 Abs. 1 lit. b BGG) und die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 BGG). Anhaltspunkte dafür, dass sich die Beschwerdeführerin geradezu rechtsmissbräuchlich auf Art. 44 Abs. 2 BGG stützen würde, sind entgegen der Auffassung der Beschwerdegegnerin keine ersichtlich.
1.2 Das angefochtene Urteil des Handelsgerichts ist nur insofern der Beschwerde zugänglich, als es das Erfordernis der Letztinstanzlichkeit erfüllt, mithin für die gegen dieses erhobenen Rügen kein kantonales Rechtsmittel mehr offen stand (Art. 75 Abs. 1 BGG; BGE 134 III 524 E. 1.3 S. 527). Gemäss §§ 281 ff. der auf den 1. Januar 2011 aufgehobenen Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 konnte gegen Urteile des Handelsgerichts kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons Zürich erhoben werden. Nach Art. 405 Abs. 1 der seit dem 1. Januar 2011 geltenden Schweizerischen Zivilprozessordnung vom 19. Dezember 2008 (ZPO; SR 272) gilt für die Rechtsmittel das Recht, das bei der Eröffnung des Entscheides in Kraft ist. Das angefochtene Urteil des Handelsgerichts wurde nach Inkrafttreten der ZPO eröffnet, womit für das Rechtsmittelverfahren das neue Recht gilt (BGE 137 III 127 E. 2 S. 130). Dieses sieht gegen Entscheide von Handelsgerichten kein innerkantonales Rechtsmittel mehr vor (Art. 6 Abs. 1 ZPO e contrario ["einzige kantonale Instanz"]). Damit erweist sich der angefochtene Entscheid hinsichtlich sämtlicher im Rahmen der Beschwerde in Zivilsachen zulässigen Rügen als letztinstanzlich (vgl. auch Urteil 4A_293/2011 vom 23. August 2011 E. 1.2).
1.2 Das angefochtene Urteil des Handelsgerichts ist nur insofern der Beschwerde zugänglich, als es das Erfordernis der Letztinstanzlichkeit erfüllt, mithin für die gegen dieses erhobenen Rügen kein kantonales Rechtsmittel mehr offen stand (Art. 75 Abs. 1 BGG; BGE 134 III 524 E. 1.3 S. 527). Gemäss §§ 281 ff. der auf den 1. Januar 2011 aufgehobenen Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 konnte gegen Urteile des Handelsgerichts kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons Zürich erhoben werden. Nach Art. 405 Abs. 1 der seit dem 1. Januar 2011 geltenden Schweizerischen Zivilprozessordnung vom 19. Dezember 2008 (ZPO; SR 272) gilt für die Rechtsmittel das Recht, das bei der Eröffnung des Entscheides in Kraft ist. Das angefochtene Urteil des Handelsgerichts wurde nach Inkrafttreten der ZPO eröffnet, womit für das Rechtsmittelverfahren das neue Recht gilt (BGE 137 III 127 E. 2 S. 130). Dieses sieht gegen Entscheide von Handelsgerichten kein innerkantonales Rechtsmittel mehr vor (Art. 6 Abs. 1 ZPO e contrario ["einzige kantonale Instanz"]). Damit erweist sich der angefochtene Entscheid hinsichtlich sämtlicher im Rahmen der Beschwerde in Zivilsachen zulässigen Rügen als letztinstanzlich (vgl. auch Urteil 4A_293/2011 vom 23. August 2011 E. 1.2).
1.3 1.3.1 Die Beschwerdeschrift hat ein Rechtsbegehren zu enthalten (Art. 42 Abs. 1 BGG). Da die Beschwerde in Zivilsachen ein reformatorisches Rechtsmittel ist (Art. 107 Abs. 2 BGG), darf sich die beschwerdeführende Partei grundsätzlich nicht darauf beschränken, die Aufhebung des angefochtenen Entscheides zu beantragen, sondern muss einen Antrag in der Sache stellen. Anträge auf Rückweisung der Sache an die Vorinstanz zu neuer Entscheidung oder blosse Aufhebungsanträge genügen nicht und machen die Beschwerde unzulässig, sofern ein blosser Rückweisungsantrag nicht ausnahmsweise ausreicht, weil die erforderlichen Sachverhaltsfeststellungen fehlen (BGE 133 III 489 E. 3.1).
1.3.2 Soweit die Beschwerdeführerin die Aufhebung des angefochtenen Entscheids und in der Hauptsache die Gutheissung der Auflösungsklage nach Art. 736 Ziff. 4 OR verlangt, genügen ihre Anträge den Anforderungen an ein reformatorisches Rechtsbegehren. Soweit die Beschwerdeführerin hingegen den vorinstanzlichen Kostenentscheid gesondert, d.h. unabhängig vom Ausgang der Hauptsache anfechten will, indem sie eine Verletzung des Äquivalenzprinzips bzw. des kantonalen Prozessrechts bei der Bestimmung der Gerichtsgebühr und der Parteientschädigung rügt sowie die Verletzung von Art. 706a Abs. 3 OR bei der Kostenverteilung geltend macht, verkennt sie die Anforderungen von Art. 107 Abs. 2 BGG, denn den Beschwerdeanträgen lässt sich kein materieller Antrag auf Abänderung der vorinstanzlichen Kostenregelung entnehmen. Auf die Rügen gegen den Kostenentscheid ist daher nicht einzutreten.
1.3.2 Soweit die Beschwerdeführerin die Aufhebung des angefochtenen Entscheids und in der Hauptsache die Gutheissung der Auflösungsklage nach Art. 736 Ziff. 4 OR verlangt, genügen ihre Anträge den Anforderungen an ein reformatorisches Rechtsbegehren. Soweit die Beschwerdeführerin hingegen den vorinstanzlichen Kostenentscheid gesondert, d.h. unabhängig vom Ausgang der Hauptsache anfechten will, indem sie eine Verletzung des Äquivalenzprinzips bzw. des kantonalen Prozessrechts bei der Bestimmung der Gerichtsgebühr und der Parteientschädigung rügt sowie die Verletzung von Art. 706a Abs. 3 OR bei der Kostenverteilung geltend macht, verkennt sie die Anforderungen von Art. 107 Abs. 2 BGG, denn den Beschwerdeanträgen lässt sich kein materieller Antrag auf Abänderung der vorinstanzlichen Kostenregelung entnehmen. Auf die Rügen gegen den Kostenentscheid ist daher nicht einzutreten.
1.4 1.4.1 Mit der Beschwerde in Zivilsachen kann die Verletzung von Bundesrecht einschliesslich Bundesverfassungsrecht gerügt werden (Art. 95 lit. a BGG; BGE 134 III 379 E. 1.2). Nicht zu den in Art. 95 BGG vorgesehenen Rügegründen gehört hingegen die Verletzung der kantonalen Zivilprozessordnung, deren Anwendung und Auslegung vom Bundesgericht einzig unter dem Blickwinkel eines Verstosses gegen Bundesrecht bzw. gegen Bundesverfassungsrecht beurteilt werden kann (BGE 136 I 241 E. 2.4; 135 III 513 E. 4.3 S. 521; 134 III 379 E. 1.2 S. 382 f.). Auf das Verfahren vor der Vorinstanz fand gemäss Art. 404 Abs. 1 ZPO noch die nunmehr aufgehobene Zivilprozessordnung des Kantons Zürich Anwendung. Soweit die Beschwerdeführerin die Verletzung von Normen des kantonalen Zivilprozessrechts rügen will, hat sie mithin darzutun, dass dabei gleichzeitig ein Verstoss gegen Bundes- bzw. Bundesverfassungsrecht vorliegt.
1.4.2 Das Bundesgericht prüft unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 133 II 249 E. 1.4.1 S. 254 mit Hinweisen). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 BGG, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegt. Die Beschwerdeführerin soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. BGE 134 II 244 E. 2.1 S. 245 f.; 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 749). Dabei hat die Begründung in der Beschwerdeschrift selbst zu erfolgen; Verweise auf andere Rechtsschriften, insbesondere im kantonalen Verfahren eingereichte, sind unbeachtlich (vgl. BGE 133 II 396 E. 3.1 S. 399 f.; 131 III 384 E. 2.3 S. 387 f., je mit Verweisen).
1.4.3 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Die Beschwerdeführerin, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351 f., 393 E. 7.1 S. 398, 462 E. 2.4 S. 466 f.).
1.4.4 Die Beschwerdeführerin verkennt diese Grundsätze in mehrerer Hinsicht, soweit sie sich unter den Titeln "Rechtsfehlerhafte Ausblendung relevanter Tatsachen", "Kein Beweisverfahren bezüglich strittiger Tatsachen" sowie "Das sogenannte MCM-Darlehen" gegen die vorinstanzlichen Sachverhaltsfeststellungen richtet. Die Beschwerdeführerin genügt den strengen Begründungsanforderungen gemäss Art. 106 Abs. 2 BGG nicht, wenn sie der Vorinstanz diverse Verletzungen des kantonalen Zivilprozessrechts (namentlich des Novenrechts) vorwirft, ohne im Einzelnen aufzuzeigen, inwiefern die Vorinstanz dabei gleichzeitig gegen Bundesverfassungsrecht verstossen haben soll. Mit dem lediglich pauschalen Vorwurf, der vom Handelsgericht angeführte Sachverhalt sei "vielfach willkürlich unvollständig" festgestellt worden, kommt die Beschwerdeführerin ihrer Begründungspflicht nicht nach. Dies gilt auch, soweit sich die Beschwerdeführerin an diversen Stellen auf eine Verletzung des rechtlichen Gehörs beruft, ohne dies im Einzelnen und anhand der Erwägungen im angefochtenen Entscheid aufzuzeigen. Auf die Kritik der Beschwerdeführerin am vorinstanzlich festgestellten Sachverhalt ist nicht einzutreten.
2. Die Beschwerdeführerin rügt eine Verletzung ihres Anspruchs auf ein unabhängiges und unparteiisches Gericht gemäss Art. 30 Abs.1 BV und Art. 6 Ziff. 1 EMRK.
Nach Auffassung der Beschwerdeführerin drücke der angefochtene Entscheid eine "Klägerin-Verdrossenheit" der Vorinstanz aus. Die Beschwerdeführerin könne sich des Eindrucks nicht erwehren, das Handelsgericht habe "einfach genug" von ihr. Die lange Zeitspanne zwischen der kassationsgerichtlichen Rückweisung vom 20. Juli 2009 und der erneuten Urteilsfällung des Handelsgerichts am 21. Januar 2011 rühre einzig daher, dass die Vorinstanz das Inkrafttreten der neuen eidgenössischen ZPO abwarten wollte, um ihr zweites Urteil der erneuten Überprüfung durch das Kassationsgericht zu entziehen. Nicht alle Mitglieder des Spruchkörpers hätten die für den Fall wesentlichen Akten selbst studiert und sich selbständig eine Meinung gebildet. Es sollte "lange geplant und vorbereitet" am 21. Januar 2011 nur noch das durch die Instruktionsrichterin bezüglich der vom Kassationsgericht aufgedeckten Nichtigkeitsgründe "geflickte" Urteil formal auf eine neue Grundlage gestellt werden. Belege dafür sieht die Beschwerdeführerin unter anderem in den Schreibfehlern des angefochtenen Entscheids, namentlich darin, dass beim Verweis auf Bundesgerichtsentscheide "14 Mal(!) fälschlich 'Baer' steht und nur ein einziges Mal richtig 'BGer'". Weiter wecke auch der nicht nachvollziehbare Kostenentscheid Zweifel an der Unbefangenheit und der Unvoreingenommenheit des Gerichts.
2.1 Nach Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen oder unbefangenen Richter ohne Einwirken sachfremder Umstände entschieden wird. Ob diese Garantien verletzt sind, prüft das Bundesgericht frei. Art. 30 Abs. 1 BV soll zu der für einen korrekten und fairen Prozess erforderlichen Offenheit des Verfahrens im Einzelfall beitragen und damit ein gerechtes Urteil ermöglichen. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen. Voreingenommenheit und Befangenheit werden nach der Rechtsprechung angenommen, wenn Umstände vorliegen, die bei objektiver Betrachtung geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Solche Umstände können in einem bestimmten Verhalten des betreffenden Richters oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein. Bei der Beurteilung solcher Umstände ist nicht auf das subjektive Empfinden einer Partei abzustellen. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen. Es genügt, wenn Umstände vorliegen, die bei objektiver Betrachtung den Anschein der Befangenheit und Voreingenommenheit erwecken. Für die Ablehnung wird nicht verlangt, dass der Richter tatsächlich befangen ist (BGE 136 I 207 E. 3.1 S. 210; 135 I 14 E. 2; 134 I 238 E. 2.1 S. 240; 133 I 1 E. 6.2; 131 I 24 E. 1.1; je mit Hinweisen).
2.2 Mit ihren Vorbringen vermag die Beschwerdeführerin keine solchen objektiven Umstände darzutun, welche den Anschein der Befangenheit und Voreingenommenheit des Gerichts erwecken würden. So ist nur schwerlich nachvollziehbar, inwiefern einige Schreibfehler in einem über 150 Seiten umfassenden Urteil eine Voreingenommenheit gegenüber der Klägerin belegen sollen. Dass sich die Mitglieder des Spruchkörpers keine unabhängige Meinung gebildet hätten, ist eine Unterstellung, welche die Beschwerdeführerin auch nicht ansatzweise nachzuweisen vermag. Die Vorbringen der Beschwerdeführerin zielen letztlich darauf ab, aus dem Umstand, dass die Vorinstanz ihren Anträgen und Rechtsauffassungen nicht gefolgt ist, eine Befangenheit abzuleiten. Damit vermag die Beschwerdeführerin eine Verletzung von Art. 30 Abs. 1 BV bzw. Art. 6 Ziff. 1 EMRK nicht darzutun.
3. Die Beschwerdeführerin wirft der Vorinstanz eine Verletzung von Art. 736 Ziff. 4 OR vor, indem diese die Voraussetzungen einer Auflösung der Beschwerdegegnerin zu Unrecht verneint habe.
3.1 Nach Art. 736 Ziff. 4 OR können Aktionäre, die zusammen mindestens zehn Prozent des Aktienkapitals vertreten, vom Gericht aus wichtigen Gründen die Auflösung der Gesellschaft verlangen. Statt derselben kann das Gericht auf eine andere sachgemässe und den Beteiligten zumutbare Lösung erkennen.
Wo das Gesetz das Gericht auf sein Ermessen oder auf die Würdigung der Umstände oder auf wichtige Gründe verweist, hat es seine Entscheidung nach Recht und Billigkeit zu treffen (Art. 4 ZGB; BGE 136 III 278 E. 2.2.1 S. 279; 126 III 266 E. 2b S. 273; 105 II 114 E. 6a S. 124). Bei einer solchen Billigkeitsentscheidung verfügt das kantonale Sachgericht über einen weiten Ermessensspielraum. Das Bundesgericht überprüft derartige Ermessensentscheide mit Zurückhaltung und greift nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die hätten beachtet werden müssen. Es greift ausserdem in Ermessensentscheide ein, wenn sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (BGE 136 III 278 E. 2.2.1 S. 279; 135 III 121 E. 2 S. 123 f. mit Hinweisen).
3.2 In einer Aktiengesellschaft werden die wichtigsten Entscheidungen durch die Generalversammlung nach dem Mehrheitsprinzip gefasst (BGE 136 III 278 E. 2.2.2 S. 279; 67 II 162 E. d S. 166). Treten zwischen den Aktionären Meinungsverschiedenheiten oder Konflikte auf, werden die Entscheide nach dem Willen der Mehrheit getroffen. Dass Konflikte von Dauer sind oder sich wiederholen, rechtfertigt grundsätzlich keine Auflösung der Gesellschaft, denn die Minderheit muss sich den gültig gefassten Entscheiden der Mehrheit unterwerfen (BGE 136 III 278 E. 2.2.2 S. 279; 104 II 32 E. 3 S. 43; 67 II 162 E. d S. 166). Das Recht einer Aktionärsminderheit, aus wichtigen Gründen die Auflösung der Aktiengesellschaft zu verlangen, soll dem Mehrheitsprinzip etwas von seiner Strenge nehmen (BGE 136 III 278 E. 2.2.2 S. 279; 109 II 140 E. 4 S. 142). Die Auflösung stellt aber ein eigentliches Notinstrument, eine ultima ratio dar für den Fall, dass die Anwendung des Mehrheitsprinzips zu einer unerträglichen Situation führt; dies trifft im Wesentlichen dann zu, wenn die Mehrheit systematisch entgegen den Gesellschaftsinteressen oder den Rechten und legitimen Interessen der Minderheitsaktionäre handelt. Die Möglichkeit einer Auflösung soll nicht dazu führen, dass das Mehrheitsprinzip ausgehebelt wird; die Frage einer Auflösung stellt sich nicht bereits aufgrund des blossen Umstands, dass eine Minderheit die von der Mehrheit getroffene Entscheidung nicht akzeptieren will (BGE 136 III 278 E. 2.2.2 S. 280; 126 III 266 E. 1a und 2a; 109 II 140 E. 4 S. 142; 105 II 114 E. 6c S. 125; 104 II 32 E. 1a S. 35).
Die Auflösung ist sodann eine subsidiäre Massnahme, die nicht angeordnet werden darf, solange sich bei einer Prüfung der konkreten Umstände des Einzelfalles zeigt, dass der Minderheitsaktionär seine legitimen Interessen mit weniger einschneidenden Mitteln verteidigen kann, wie z.B. mittels Anfechtung von Generalversammlungsbeschlüssen oder mittels Klagen auf Auskunftserteilung (BGE 136 III 278 E. 2.2.2 S. 280; 126 III 266 E. 1a und 2a; 109 II 140 E. 4 S. 142; 105 II 114 E. 6c S. 125 und E. 6d S. 126 f.; 104 II 32 E. 1a S. 35; 84 II 44 E. 1 S. 47; 67 II 162 E. d S. 166). Die Auflösung muss verhältnismässig sein, was eine Abwägung aller auf dem Spiel stehenden Interessen voraussetzt (BGE 136 III 278 E. 2.2.2 S. 280; 105 II 114 E. 7 S. 127). Zu beachten ist dabei nicht nur das Interesse des klagenden Aktionärs, sondern auch das der übrigen Aktionäre am Fortbestand der Gesellschaft (BGE 136 III 278 E. 2.2.2 S. 280; 105 II 114 E. 7 S. 128), wobei namentlich zu berücksichtigen ist, dass die Aktiengesellschaft eine Kapital- und nicht eine Personengesellschaft ist, so dass - jedenfalls bei grösseren Gesellschaften - grundsätzlich nur die finanziellen Interessen der Aktionäre massgeblich sind (BGE 136 III 278 E. 2.2.2 S. 280; 67 II 162 E. b S. 164). Am Ende des Abwägungsprozesses muss sich eine Situation präsentieren, die derart gravierend ist, dass der Fortbestand der Gesellschaft nach Treu und Glauben als nicht mehr tragbar erscheint, die beklagte Gesellschaft mithin ihr Existenzrecht verwirkt hat und verschwinden muss (BGE 136 III 278 E. 2.2.2 S. 280; 67 II 162 E. c S. 165).
Zu den Umständen, welche typischerweise zu einer Auflösung aus wichtigem Grund führen können, gehören in erster Linie das systematische Ausnützen der Mehrheitsmacht entgegen den Interessen der Gesellschaft oder den Rechten und legitimen Interessen der Minderheitsaktionäre (BGE 136 III 278 E. 2.2.2 S. 280; 126 III 266 E. 1a S. 268; 109 II 140 E. 4 S. 142; 105 II 114 E. 6b S.125; 67 II 162 E. c S. 165), Fälle der Misswirtschaft (BGE 136 III 278 E. 2.2.2 S. 281; 126 III 266 E. 1b und c; 84 II 44 E. 2 S. 50), die wiederholte Verletzung der Rechte von Minderheitsaktionären, die Verfolgung von Zielen, die vom Gesellschaftszweck nicht gedeckt sind, eine Situation der Blockierung der Organe oder eine finanzielle Aushöhlung der Gesellschaft (Urteil 4C.185/1998 vom 28. August 1998 E. 3a).
3.3 Die Vorinstanz hat sich in ihrem Urteil zutreffend auf diese Grundsätze bezogen und - entgegen der Auffassung der Beschwerdeführerin - auf den Seiten 70 - 74 sowie 155 - 157 des angefochtenen Entscheides durchaus eine Gesamtbeurteilung, d.h. eine Abwägung der Interessen an einer Auflösung der Gesellschaft gegen die Interessen am Fortbestand der Gesellschaft vorgenommen. Sie hat dabei darauf hingewiesen, dass die Beschwerdeführerin bereits zahlreiche Verfahren gegen die Beschwerdegegnerin angestrengt habe, damit aber - mit Ausnahme weniger Auskunftsverfahren bezüglich einer Darlehensvergabe durch eine Tochtergesellschaft der Beschwerdegegnerin, der Y._ AG, sowie einer Klage auf Eintragung ins Aktienbuch - nicht durchgedrungen sei. Zudem habe kein einziges der zahlreichen durch Strafanzeige der Beschwerdeführerin gegen Verwaltungsräte der Beschwerdegegnerin initiierten Strafverfahren zu einer rechtskräftigen Verurteilung geführt. Ein Verfahren betreffend Anfechtung von Generalversammlungsbeschlüssen der Jahre 2000 bis 2004 bezüglich der Wahl der Revisionsstelle und der Konzernprüferin war im Zeitpunkt des vorinstanzlichen Urteils pendent. Gemäss der Vorinstanz bildet die geringe Zahl der zugunsten der Beschwerdeführerin ausgegangenen Verfahren noch kein Indiz für einen Machtmissbrauch der restlichen Aktionäre bzw. des Verwaltungsrats der Beschwerdegegnerin. Weiter wies die Vorinstanz darauf hin, dass es sich bei der Beschwerdegegnerin - auch gemäss eigenen Vorbringen der Beschwerdeführerin - um ein finanziell kerngesundes Unternehmen handle. Den Bilanzgewinn habe die Beschwerdegegnerin jeweils nicht nur zur Ausschüttung von Tantiemen an den Verwaltungsrat, sondern auch zur Ausrichtung einer Dividende an sämtliche Aktionäre verwendet. Die finanziellen Interessen der Beschwerdeführerin als Aktionärin sieht die Vorinstanz durch die Aufrechterhaltung der Gesellschaft nicht in Gefahr. Selbst wenn die von der Beschwerdeführerin behaupteten Rechtsverletzungen zuträfen, vermöchten diese gemäss der Vorinstanz weder einzeln noch in ihrem Zusammenwirken ein Gesamtbild abzugeben, dass von einem internen Funktionsversagen im Zusammenspiel der Organe gesprochen und eine für die Beschwerdeführerin unzumutbare Situation bejaht werden müsste, welche die Auflösung der Beschwerdegegnerin rechtfertigen würde. Dies umso weniger, wenn dazu noch die Interessen der von einer möglichen Auflösung der Beschwerdegegnerin betroffenen weiteren Anspruchsgruppen ("stakeholder") berücksichtigt würden.
3.4 Diese Erwägungen sind bundesrechtlich nicht zu beanstanden und auch die Beschwerdeführerin vermag mit ihren auf über 100 Seiten vorgetragenen, weitschweifigen und repetitiven Ausführungen nicht darzutun, dass die Vorinstanz mit ihrer Gesamtbeurteilung das ihr von Art. 736 Ziff. 4 OR eingeräumte Ermessen rechtsfehlerhaft ausgeübt haben soll. Die Beschwerdeführerin versucht zwar wie bereits vor der Vorinstanz, vereinzelte Rechtsverletzungen der Beschwerdegegnerin und deren Organe, darunter namentlich Verstösse gegen das Rechnungslegungsrecht, herauszuarbeiten und hervorzuheben; selbst wenn die behaupteten Rechtsverletzungen im Einzelnen zuträfen, gelingt es der Beschwerdeführerin dabei aber nicht, das Gesamtbild einer derart gravierenden Situation zu zeichnen, welche die krasse Massnahme der Auflösung eines wirtschaftlich gesunden Unternehmen rechtfertigen würde. Denn dass das Interesse der Beschwerdeführerin an der Auflösung der Gesellschaft das Interesse der restlichen Aktionäre am Fortbestand überwiegen würde und die Beschwerdegegnerin geradezu ihr Existenzrecht verloren haben sollte, ergibt sich aus den auf isolierte Rechtsverletzungen fokussierten, über weite Strecken appellatorischen Ausführungen der Beschwerdeführerin nicht.
3.5 Die Beschwerdeführerin geht sodann fehl, soweit sie beanstandet, die Vorinstanz habe ihr Ermessen hinsichtlich der Anordnung einer "anderen sachgemässen Lösung" i.S. von Art. 736 Ziff. 4 Satz 2 OR rechtsfehlerhaft nicht ausgeübt. Dies trifft nicht zu, hat die Vorinstanz doch erwähnt, dass auch hinsichtlich einer anderen sachgemässen Lösung kein wichtiger Grund vorliege. Dass dies unzutreffend sein soll, vermag die Beschwerdeführerin nicht darzutun. Sie erwähnt zwar Lösungen, die aus ihrer Sicht sachgemäss wären, so etwa eine Versteigerung der Aktienpakete, ein Rückkauf der Minderheitsbeteiligung durch die Beschwerdegegnerin oder deren asymmetrische Spaltung, zeigt jedoch gestützt auf den vorinstanzlich festgestellten Sachverhalt nicht auf, inwiefern die Eingriffsschwelle des Art. 736 Ziff. 4 OR hinsichtlich dieser Massnahmen gegeben sein soll. Eine bundesrechtswidrige Ermessensausübung der Vorinstanz ist nicht ersichtlich.
4. Die Beschwerde erweist sich als unbegründet, soweit auf sie einzutreten ist.
Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 200'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 400'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 10. November 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Hurni