Sachverhalt:
A. Die X._ ist eine Bank und rechtsfähige Anstalt nach deutschem öffentlichen Recht mit Sitz in Z._ DE, die Y._ AG eine Bank und Aktiengesellschaft mit Sitz in Q._ CH, und die R._ Holding GmbH, Tochtergesellschaft der S._ Ltd., eine inzwischen zahlungsunfähige Investmentgesellschaft mit Sitz in T._ DE. Beide Banken transferierten im Jahr 2007 untereinander Aktien im Gesamtwert von mehr als einer Milliarde Euro, die jeweils von der Investmentgesellschaft an Dritte verkauft werden sollten. Die Investmentgesellschaft war Kundin beider Banken und stand bei den getätigten Aktienübertragungen hinter den beiden Banken.
B. In Zusammenhang mit solchen Aktientransfers sandte A._, Kundenberater bei der Y._, am 13. Dezember 2007 und am 8. Januar 2008 je ein E-Mail an B._, Aktienhändler bei der X._.
Das E-Mail vom 13. Dezember 2007 lautet wie folgt:
"We confirm to you that we will work together on the placement of 12.1 Mio U._ shares. All U._ shares which have not been [placed] until 21st December will be bought back by Y._ at 3.50 US$ per share".
Das E-Mail vom 8. Januar 2008 lautet:
"I confirm that I am aware that R._ Holding GbmH is cooperating with X._ on the placement of shares in the public listed companies V._ AG, W._ AG, U._ Inc. and M._ AG.
I understand that it is planned to place those shares to a number of different investors until 11th January.
I am happy to confirm that my client R._ Holding GmbH has given me instructions to buy the remaining shares of those companies which have not been placed to investors after the 11th of January at the price which is equal to your costs of purchasing these shares".
Als die Aktien der V._ AG, W._ AG, U._ und M._ AG innert Frist nicht verkauft werden konnten, sandte die X._ am 11. Januar 2008 an A._ von der Y._ zwei E-Mails; nebst den schon genannten Aktien waren noch weitere Titel aufgelistet. Die Schreiben der X._ beginnen mit folgendem Satz:
"In cooperating with the R._ Holding GmbH we must settle today all positions, which are not sold in the market".
Eine Kopie der Schreiben ging an C._ und D._, beides Vertreter der Investmentgesellschaft; D._ bestätigte gleichentags die "trades". Die Y._ lehnte es ab, die Aktien zurückzukaufen; die X._ verkaufte sie in der Folge an Dritte.
C. Vier Tage später, am 15. Januar 2008, sandte die X._ in Zusammenhang mit einem andern Geschäft ein E-Mail an die Investmentgesellschaft, das Folgendes enthält:
"Wir kaufen heute im Auftrag der R._ Holding GmbH 9.5 Mio U._ mit netto 3.687 US. Diese Position wird durch die R._ Holding GmbH weiterplatziert bis zum Wochenende (18.01.08). Ich bitte um Bestätigung, dass nicht platzierte Stücke direkt von Ihnen über die Y._ gekauft werden. ...
Ich bitte Sie höflich darum, die Übernahme der Marktpreisrisiken für alle Positionen ... durch die S._ Ltd. ... zusätzlich zu bestätigen."
D. Die X._ klagte am 8. Januar 2009 beim Handelsgericht Zürich gegen die Y._ auf Bezahlung von Schadenersatz aus Verletzung kaufvertraglicher Verpflichtungen in der Höhe von EUR 63'905'332.52 und USD 17'075'765.07, jeweils mit Zins zu 5 % ab dem 12. Januar 2008; der Betrag entspricht der Differenz zwischen dem Preis, zu dem die Y._ Aktien nach Ansicht der X._ hätte zurücknehmen müssen, und dem Verkaufspreis, den die X._ in der Folge für die Aktien effektiv erzielt hat. Die X._ brachte vor, die Y._ sei bei den Aktientransaktionen stets in eigenem Namen aufgetreten; das sei für die klagerelevanten Geschäfte durch den Wortlaut der E-Mails vom 13. Dezember 2007 und 8. Januar 2008 klar und eindeutig belegt, und es entspreche der Usanz bei Kommissionshandel unter Banken. Die Y._ sei somit zur Rücknahme der Aktien verpflichtet gewesen.
Die Y._ schloss auf Abweisung der Klage. Sie brachte vor, die Aktientransaktionen seien zwischen der X._ und der Investmentgesellschaft vereinbart und abgewickelt worden, und sie sei nur dazu genutzt worden, grössere Aktienpakete zu parkieren und gemäss Absprache zwischen X._ und Investmentgesellschaft an Drittkäufer zu transferieren. Die wesentlichen Vertragspunkte seien von der Investmentgesellschaft bestimmt und direkt mit der Gegenpartei verhandelt worden, während sie nur informiert wurde; ihre Funktion habe sich auf die Abwicklung der Aufträge der Investmentgesellschaft beschränkt. Sie habe nie die Absicht gehabt, mit der X._ einen Vertrag abzuschliessen, was Letzterer auch bekannt gewesen sei.
E. Aus demselben Sachzusammenhang klagte die X._ in Berlin gegen die Investmentgesellschaft und deren Muttergesellschaft.
F. Das Handelsgericht Zürich wies die Klage mit Urteil vom 23. Februar 2011 ab. Es kam insbesondere zum Schluss, die X._ habe aufgrund sämtlicher Umstände erkennen müssen, dass die Y._ in direkter Vertretung der Investmentgesellschaft handelte. Darüber hinaus erachtete das Handelsgericht es als erstellt, dass die Y._ zur Vertretung der Investmentgesellschaft bevollmächtigt war und dass die X._ nicht nur aufgrund der Umstände auf diese Vertretung schliessen musste, sondern dies auch effektiv getan und die Investmentgesellschaft als ihre Vertragspartnerin angesehen hat.
G. Die X._ (nachfolgend: die Beschwerdeführerin) reichte Beschwerde in Zivilsachen ein. Sie schliesst hauptsächlich dahin, die Y._ (nachfolgend: die Beschwerdegegnerin) sei zu verpflichten, ihr EUR 65'211'337.54 und USD 17'075'765.07 zu bezahlen, je nebst Zins zu 5 % seit dem 12. Januar 2008.
Die Beschwerdegegnerin reichte eine Antwort ein. Sie schliesst auf Abweisung der Beschwerde, soweit auf sie überhaupt einzutreten sei.
Ein weiterer Schriftenwechsel wurde nicht als notwendig erachtet und folglich auch nicht angeordnet. Der Beschwerdeführerin wurde jedoch usanzgemäss Frist angesetzt für den Fall, dass sie trotzdem Bemerkungen einreichen möchte. In der Folge reichte sie eine Stellungnahme ein, auf die die Beschwerdegegnerin ebenfalls mit einer Stellungnahme antwortete, worauf die Beschwerdeführerin noch eine weitere Stellungnahme abgab.

Erwägungen:
1. Das angefochtene Urteil erging in einer Zivilsache und stammt von einem Gericht, das als einzige kantonale Instanz entscheidet (Art. 6 und Art. 405 ZPO). Gegen diesen Entscheid steht die Beschwerde in Zivilsachen offen (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b sowie Art. 75 Abs. 1 und Abs. 2 lit. b BGG).
2. Die Vorinstanz hat schweizerisches Recht angewendet. Dies wird im Beschwerdeverfahren von keiner Partei in Frage gestellt.
Nach den allgemeinen Regeln prüft das Bundesgericht, auch wenn es das Recht von Amtes wegen anwendet (<ref-law>), unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG) grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 2.2.1; <ref-ruling> E. 1.4.1; <ref-ruling> E. 2.2). Gemäss einer konstanten Rechtsprechung, die auf einen Entscheid in einer Scheidungssache zurückgeht (<ref-ruling> E. 2), soll die Frage des anwendbaren Rechts hingegen immer von Amtes wegen geprüft werden, und das auch in rein schuldrechtlichen Verfahren (vgl. <ref-ruling> E. 3.2; <ref-ruling> E. 3).
Die Beschwerdeführerin hat in ihrer Klageschrift mit eingehender Begründung dargelegt, dass nach ihrer Auffassung auf das gesamte (behauptete) Rechtsverhältnis zur Beschwerdegegnerin schweizerisches Recht anwendbar sei. Die Beschwerdegegnerin hat in der Klageantwort ausdrücklich erklärt, sie bestreite diese Ausführungen nicht. In der Folge haben sich beide Parteien in ihren rechtlichen Ausführungen auf schweizerisches Recht berufen. Unter diesen Umständen ist schweizerisches Recht schon aufgrund einer klaren Rechtswahl als anwendbar anzunehmen (Art. 116 Abs. 1 und 2 IPRG; vgl. <ref-ruling> E. 2.2.1).
3. Laut Vorinstanz hat die Beschwerdeführerin die Beschwerdegegnerin als direkte Stellvertreterin der Investmentgesellschaft betrachtet, die Investmentgesellschaft als ihre Vertragspartnerin angesehen und die Verträge mit ihr geschlossen. Das ist eine tatsächliche Feststellung.
3.1 Als oberste rechtsprechende Behörde ist die Aufgabe des Bundesgerichts grundsätzlich auf die reine Rechtsüberprüfung beschränkt; die Feststellung des Sachverhaltes und dessen Überprüfung ist Sache der kantonalen Vorinstanzen (Botschaft vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 4338 Ziff. 4.1.4.2 zu Art. 92 E-BGG). Der von der Vorinstanz festgestellte Sachverhalt ist für das Bundesgericht folglich massgebend, es sei denn, eine Partei zeige auf, dass er offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law>, insbesondere einer Verletzung des verfassungsmässigen Willkürverbots (<ref-law>), beruht (Art. 105 Abs. 1 und 2 BGG). Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme von der Bindung an den von der Vorinstanz festgestellten Sachverhalt gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der von demjenigen abweicht, der im angefochtenen Entscheid festgestellt wurde, nicht berücksichtigt werden. Hierbei gelten strenge Begründungsanforderungen; der Beschwerdeführer hat im Einzelnen aufzuzeigen, inwiefern eine bestimmte Sachverhaltsfeststellung der Vorinstanz offensichtlich unhaltbar ist (vgl. BGE <ref-ruling> E. 1.2.2 und 1.4.3; <ref-ruling> E. 7.1, 462 E. 2.4; vgl. auch <ref-ruling> E. 1.5).
Die langen und teilweise repetitiven Ausführungen der Beschwerdeführerin sind weitgehend appellatorischer Art; sie trägt ihren Standpunkt und ihre Sicht der Dinge vor, als richtete sich ihre Eingabe an einen Sachrichter. Es ist somit auf die Rügen nur soweit einzugehen, als sie obgenannten Begründungsanforderungen zu genügen vermögen.
3.2 Die Vorinstanz stützt sich in erster Linie auf die E-Mails vom 11. Januar 2008, welche die Beschwerdeführerin an die Beschwerdegegnerin adressiert und von denen sie ferner Kopie an Vertreter der Investmentgesellschaft gesandt hat. In diesen Schreiben wird ausgeführt, die nicht verkauften Positionen müssten in Kooperation mit der Investmentgesellschaft abgewickelt werden. Für die Vorinstanz ist nicht ersichtlich, warum die Beschwerdeführerin die Investmentgesellschaft involvieren wollte, wenn sie die Beschwerdegegnerin als ihre Vertragspartnerin ansah; das mache nur Sinn, wenn sie die Investmentgesellschaft als Vertragspartnerin betrachtete, die über die Einzelheiten des Rückkaufs informiert werden musste. So habe denn die Beschwerdeführerin nicht moniert, als die Investmentgesellschaft, und nicht die Beschwerdegegnerin, auf die E-Mails antwortete und die aufgelisteten Aktientransaktionen bestätigte.
Für die Beschwerdeführerin sind diese Überlegungen nicht haltbar. Sie verweist darauf, dass sie die E-Mails an die Beschwerdegegnerin gesandt hat; hätte sie die Investmentgesellschaft als Vertragspartnerin betrachtet, dann hätte sie dieser geschrieben und nicht der Beschwerdegegnerin, die nur Erfüllungsgehilfe gewesen wäre; somit ergebe das E-Mail vielmehr dann keinen Sinn, wenn sie die Investmentgesellschaft als ihre einzige Vertragspartnerin betrachtet hätte. Im Übrigen habe sie immer den Standpunkt eingenommen, dass neben der Beschwerdegegnerin auch die Investmentgesellschaft zur Abnahme der nicht platzierten Aktien verpflichtet war; angesichts dessen sei der Umstand, dass sie die Antwort durch die Investmentgesellschaft allein nicht monierte, nicht aussagekräftig.
Hat eine Partei einen direkten Vertreter, dann können Schreiben zuhanden der vertretenen Partei dem Vertreter geschickt werden; das ist sogar die Regel. Die Beschwerdegegnerin könnte das Schreiben grundsätzlich in eigenem Namen oder im Namen der Investmentgesellschaft erhalten haben; beides wäre an sich möglich. Aus dem Umstand, dass das E-Mail an die Beschwerdegegnerin adressiert wurde, folgt somit keinesfalls zwingend, dass die Beschwerdeführerin die Beschwerdegegnerin als Vertragspartei und nicht als Vertreterin der Investmentgesellschaft betrachtete.
Die Beschwerdeführerin hat nicht reagiert, als nur die Investmentgesellschaft antwortete. Angesichts der auf dem Spiel stehenden Interessen und der Solvabilität der Beschwerdegegnerin ist es nicht unhaltbar, in dieser Unterlassung ein Indiz dafür zu sehen, dass die Beschwerdeführerin die Beschwerdegegnerin nicht als persönlich zum Rückkauf verpflichtet angesehen hat.
In den E-Mails schreibt die Beschwerdeführerin an die Beschwerdegegnerin, dass die nicht verkauften Positionen in Zusammenarbeit mit der Investmentgesellschaft abgerechnet werden müssen. Wäre die Beschwerdegegnerin selber zur Rücknahme der Aktien verpflichtet gewesen, hätte es der Mitwirkung der Investmentgesellschaft beim Rückkauf durch die Beschwerdegegnerin nicht bedurft. Den Schluss, den die Vorinstanz aus der Involvierung der Investmentgesellschaft durch die Beschwerdeführerin zieht, nämlich dass die Beschwerdeführerin die Beschwerdegegnerin als Vertreterin der Investmentgesellschaft und nicht als Vertragspartei betrachtete, ist folglich vertretbar.
3.3 Die Vorinstanz hebt sodann hervor, dass im zweiten E-Mail vom 11. Januar 2008 nebst den Aktien, die im E-Mail vom 8. Januar 2008 genannt waren, noch weitere aufgelistet sind. Sie schliesst daraus, dass sich die Beschwerdeführerin im E-Mail vom 11. Januar nicht auf das E-Mail vom 8. Januar berufen wollte, sondern auf eine generelle Absprache mit der Investmentgesellschaft, wonach Letztere alle nicht platzierten Aktien über die Beschwerdegegnerin zurücknehme.
Die Beschwerdeführerin wendet ein, dass auch die Investmentgesellschaft in der Pflicht stand und dass deren Rücknahmepflichten weiter gingen als jene der Beschwerdegegnerin aus dem E-Mail vom 8. Januar. Gerade deshalb habe es Sinn gemacht, das E-Mail auch der Investmentgesellschaft zu schicken, ging es doch darum, alle Positionen zu bereinigen, ob mit der Beschwerdegegnerin oder mit der Investmentgesellschaft.
Mit diesem Einwand gibt die Beschwerdeführerin ihre Auslegung des E-Mails, legt aber in keiner Weise dar, inwiefern jene der Vorinstanz willkürlich wäre. Im Übrigen erscheint die Auslegung der Beschwerdeführerin bei weitem nicht zwingend. Verhielte es sich so, dass eine persönliche Rückkaufverpflichtung der Beschwerdegegnerin für einen Teil der aufgeführten Aktien bestand, die Rücknahmeverpflichtung der Investmentgesellschaft aber für alle Aktien galt und damit umfassender war als jene der Beschwerdegegnerin, so ist an sich nicht einzusehen, warum das E-Mail, das sich auf die Rücknahme aller Aktien bezog, an die Beschwerdeführerin adressiert wurde und nicht an die Investmentgesellschaft, der nur eine Kopie zugesandt wurde.
3.4 Die Vorinstanz beruft sich sodann auf das E-Mail vom 15. Januar 2008 der Beschwerdeführerin an die Investmentgesellschaft; die Beschwerdeführerin, die im Auftrag der Investmentgesellschaft Aktien gekauft hatte, bat darin um Bestätigung, dass die Investmentgesellschaft die innert gesetzter Frist nicht platzierten Aktien direkt über die Beschwerdegegnerin kaufen würde. Daraus ergibt sich laut Vorinstanz, dass die Investmentgesellschaft die Aktien über die Beschwerdegegnerin kaufen sollte und dass die Beschwerdeführerin folglich die Investmentgesellschaft als Vertragspartnerin und die Beschwerdegegnerin als deren Stellvertreterin ansah, ferner dass die Beschwerdeführerin direkt mit der Investmentgesellschaft über den Kauf verhandelte.
Die Beschwerdeführerin wendet ein, das E-Mail vom 15. Januar 2008 betreffe ein anderes und anders gelagertes Geschäft und sei überdies an die Investmentgesellschaft adressiert worden; ein Rückschluss auf die Geschäfte gemäss den E-Mails vom 13. Dezember 2007 und 8. Januar 2008 sei somit nicht möglich. Im Übrigen könne die Wendung, dass Aktien über die Beschwerdegegnerin gekauft wurden, sowohl direkte als indirekte Vertretung meinen. Schliesslich kritisiert die Beschwerdeführerin, dass die Vorinstanz das E-Mail vom 13. Dezember 2007 in ihrer Würdigung nicht einbezieht.
Die Vorinstanz hat nicht verkannt, dass das E-Mail vom 15. Januar 2008 andere Geschäfte betraf. Inwiefern diese Geschäfte aber anders gelagert waren und deshalb Rückschlüsse auf die strittigen Geschäfte notwendigerweise ausschlössen, legt die Beschwerdeführerin nicht dar und ist auch nicht ersichtlich; vielmehr scheint es auch hier um Wertpapiere gegangen zu sein, die für die Investmentgesellschaft erworben wurden und die später zurückzukaufen waren, wenn sie nicht innert bestimmter Frist bei Dritten platziert werden konnten. Wenn die Vorinstanz also in diesem Geschäft ein Indiz dafür sah, dass auch in früheren ähnlichen Geschäften die gleiche Regelung möglich war, verfiel sie nicht in Willkür.
Sodann ist der Schluss, dass bei diesen Geschäften die Investmentgesellschaft Vertragspartei war, keineswegs unhaltbar. Wenn die Beschwerdeführerin im E-Mail die Investmentgesellschaft um Bestätigung bittet, dass nicht platzierte Papiere "direkt" von ihr, d.h. der Investmentgesellschaft, über die Beschwerdegegnerin gekauft werden, kann das kaum anders verstanden werden als dass die Investmentgesellschaft und nicht die Beschwerdegegnerin sich als Käuferin zum Rückkauf verpflichten sollte. Die Beschwerdeführerin selbst anerkennt zumindest, dass der Text auch so verstanden werden kann, was genügt, um Willkür zu verneinen.
Das E-Mail vom 13. Dezember 2007 hat die Vorinstanz in diesem Zusammenhang nicht weiter diskutiert. Wohl schreibt die Beschwerdegegnerin dort, dass die nicht platzierten Aktien von ihr zurückgekauft werden würden; ob sie hierbei als direkte oder als indirekte Vertreterin der Investmentgesellschaft handeln würde, ist damit aber nicht klar, kann der Text doch so oder anders verstanden werden. Die Beschwerdeführerin legt nicht dar, inwiefern das E-Mail geeignet ist, den Schluss der Vorinstanz, die Beschwerdeführerin habe die Beschwerdegegnerin als direkte Vertreterin der Investmentgesellschaft angesehen, widerlegen würde und für den Ausgang des Verfahrens entscheidend sein könnte; es ist nicht weiter darauf einzugehen. Sodann ist auch der Text des E-Mails vom 8. Januar 2008 zu berücksichtigen, wo die Beschwerdegegnerin schreibt, dass die Investmentgesellschaft ihr Anweisung gegeben hat, die übrig gebliebenen Aktien zurückzukaufen; auch das spricht nicht gegen eine direkte Stellvertretung.
3.5 Die Vorinstanz hebt hervor, die Beschwerdeführerin verlange im E-Mail vom 15. Januar 2008, dass sich die Muttergesellschaft der Investmentgesellschaft verpflichte, das Risiko sämtlicher Positionen zu übernehmen. Nach Auffassung der Vorinstanz wäre eine solche Garantie unnötig gewesen, wenn die Beschwerdegegnerin Vertragspartei gewesen wäre; das Vorgehen sei nur sinnvoll, wenn die Beschwerdeführerin die Investmentgesellschaft als Vertragspartnerin betrachtete.
Laut Beschwerdeführerin macht das Ersuchen an die Muttergesellschaft der Investmentgesellschaft auch dann Sinn, wenn die Beschwerdegegnerin persönlich zum Rückkauf eines Teils der Aktien verpflichtet war. Die Vorinstanz verkenne, dass es in jedem Fall sinnvoll sei, möglichst viele Schuldner zu haben, weil das die Gläubigerposition per se stärke, unabhängig davon, ob bereits ein starker Schuldner vorhanden sei; das Ersuchen stehe nicht im Widerspruch zur Tatsache, dass sie auch die Beschwerdegegnerin als Schuldnerin betrachtete.
Die Beschwerdegegnerin wäre offensichtlich in der Lage gewesen, den Kaufpreis für die nicht platzierten Papiere aufzubringen; das bestreitet auch die Beschwerdeführerin nicht. Was unter diesen Umständen das Engagement der Muttergesellschaft der Investmentgesellschaft zusätzlich an Sicherheit gebracht hätte, ist, sofern die Beschwerdegegnerin als Vertragspartei zum Rückkauf verpflichtet gewesen wäre, nicht ersichtlich; neben einem unbestritten solventen Schuldner noch weitere Schuldner zu haben, ist sicher kein Nachteil, aber auch kein konkreter Vorteil. Der Schluss der Vorinstanz, das Ersuchen an die Muttergesellschaft der Investmentgesellschaft sei nur "sinnvoll", wenn die Beschwerdeführerin die Investmentgesellschaft und nicht die Beschwerdegegnerin als zum Rückkauf verpflichtete Vertragspartei ansah, ist nicht willkürlich.
3.6 Die Vorinstanz hebt hervor, dass die Beschwerdeführerin nach ihrer Darstellung am 8. Januar 2008 von der Investmentgesellschaft eine Rückkaufzusage seitens der Beschwerdegegnerin verlangt hat, dass die Investmentgesellschaft in diesem Sinn aktiv geworden ist und dass das E-Mail der Beschwerdegegnerin das Resultat dieser Bemühungen gewesen sei. Daraus schloss die Vorinstanz aber dennoch nicht, dass die Beschwerdeführerin die Beschwerdegegnerin als Vertragspartei betrachtete. Um das zu verneinen, stützte sie sich insbesondere auf das E-Mail der Beschwerdeführerin vom 15. Januar 2008, in welchem eine Übernahmeverpflichtung durch die Muttergesellschaft der Investmentgesellschaft verlangt wird.
Die Beschwerdeführerin wendet ein, sie habe vor Abschluss des Geschäfts darauf bestanden, dass sich die Beschwerdegegnerin in eigenem Namen verpflichte und dass die Beschwerdegegnerin dies wusste. Unter diesen Umständen sei es unhaltbar anzunehmen, sie habe einige Stunden später beim Abschluss des Geschäfts die Beschwerdegegnerin dennoch als direkte Stellvertreterin der Investmentgesellschaft betrachtet.
Auch wenn die Beschwerdeführerin wollte, dass sich die Beschwerdegegnerin persönlich zum Rückkauf verpflichtete, und die Beschwerdegegnerin es wusste, bedeutet das nicht notwendigerweise, dass Letztere schliesslich zugestimmt hat. Wie die Beschwerdeführerin selbst ausführt, hat der Vertreter der Investmentgesellschaft ihr versichert, er werde auf die Beschwerdegegnerin Druck machen; offensichtlich war ein persönliches Engagement der Beschwerdegegnerin nicht selbstverständlich. Das nachfolgende E-Mail der Beschwerdegegnerin sieht dann, trotz des klaren Ersuchens der Beschwerdeführerin, nicht ausdrücklich vor, die Beschwerdegegnerin verpflichte sich, die Aktien in eigenem Namen zurückzukaufen; die Formulierung, dass sie Instruktionen von der Investmentgesellschaft habe, die nicht platzierten Aktien zu kaufen, ist sowohl mit einer indirekten wie mit einer direkten Vertretung vereinbar. Nur eine Woche später, am 15. Januar 2008, hat die Beschwerdeführerin weitere Geschäfte getätigt, bei welchen sie die Beschwerdegegnerin als direkte Stellvertreterin der Investmentgesellschaft akzeptierte; offensichtlich war also die persönliche Verpflichtung der Beschwerdegegnerin für sie keine conditio sine qua non. Sodann hat sie bei der Abwicklung des Rückkaufs der am 8. Januar 2008 übernommenen Aktien, wie schon erwähnt, die Investmentgesellschaft involviert, was bei persönlicher Verpflichtung der Beschwerdegegnerin nicht notwendig gewesen wäre. Unter diesen Umständen ist der Schluss der Vorinstanz nicht unhaltbar und war es nicht notwendig, die an den Diskussionen beteiligten Vertreter der Beschwerdegegnerin und der Investmentgesellschaft zu befragen, ungeachtet dessen, dass beide Gesellschaften am Ausgang des vorliegenden Verfahrens unterschiedliche Interessen haben.
3.7 Die Vorinstanz hat sodann festgehalten, dass die Beschwerdeführerin in der in Berlin gegen die Investmentgesellschaft eingereichten Klageschrift behauptet, D._ habe am 16. Januar 2008 im Namen der Investmentgesellschaft erklärt, er werde wie gewünscht die Muttergesellschaft der Investmentgesellschaft auffordern, Mittel zu Verfügung zu stellen, um die der Beschwerdeführerin "entstandenen Erwerbsaufwendungen gegen Abnahme der Aktien abzudecken". Ob daraus, wie die Vorinstanz annimmt und die Beschwerdeführerin moniert, geschlossen werden kann, die Beschwerdeführerin habe eine Rücknahmeverpflichtung der Beschwerdegegnerin damit verneint, kann offen bleiben; denn jedenfalls kann daraus nicht das Gegenteil geschlossen werden. Die Feststellung der Vorinstanz, die Beschwerdegegnerin habe sich nicht persönlich zum Rückkauf der Aktien verpflichtet und die Beschwerdeführerin habe das gewusst, wird durch die Aufforderung der Beschwerdeführerin an die Muttergesellschaft der Investmentgesellschaft, die Aktien zurückzunehmen, wenn nicht bestätigt, so zumindest nicht in Frage gestellt.
Die Vorinstanz hat auch Ausführungen zu einem Klageverfahren in New York gemacht. Die Beschwerdeführerin wendet nur ein, daraus könne nichts zu ihren Ungunsten abgeleitet werden; sie behauptet aber selber nicht, es könnte daraus etwas zu Gunsten ihres Standpunktes gezogen werden. Es ist nicht weiter darauf einzugehen.
3.8 Anzufügen ist, dass die Beschwerdeführerin sich in kantonaler Instanz auf eine Usanz berief, auf Grund welcher Banken bei Wertpapiertransaktionen üblicherweise als Kommissionär in eigenem Namen handeln; die Vorinstanz verneinte, dass diese Übung bei Wertpapiertransaktionen der vorliegenden Art überhaupt gilt. Ob Letzteres zutrifft, ist nicht entscheidend, weil eine allfällige Usanz ohnehin nicht gilt, wenn die Parteien eine abweichende Abmachungen treffen (vgl. <ref-ruling> E. 4b). Das ist angesichts des von der Vorinstanz festgestellten Sachverhalts vorliegend der Fall; auf Grund dieses Sachverhalts wäre, wie die Beschwerdeführerin selbst anerkennt, eine allfällige Übung nicht relevant.
3.9 Zusammenfassend sind die Willkürrügen der Beschwerdeführerin gegen den tatsächlichen Schluss der Vorinstanz, die Beschwerdeführerin habe die Beschwerdegegnerin als direkte Vertreterin der Investmentgesellschaft betrachtet und die Investmentgesellschaft als ihre Vertragspartnerin angesehen, unbegründet.
4. Laut Vorinstanz hatte die Investmentgesellschaft der Beschwerdegegnerin Vollmacht erteilt, um sie zu vertreten, und hat sie darüber hinaus nachträglich die Genehmigung erteilt, indem sie die Geschäfte gegenüber der Beschwerdeführerin bestätigte. Die Beschwerdeführerin bestreitet sowohl die Vollmacht als auch die Genehmigung.
Aus dem Fehlen einer Vollmacht und einer nachträglichen Genehmigung zieht die Beschwerdeführerin den Schluss, es könne nicht zugunsten der Beschwerdegegnerin von einer Stellvertretungswirkung ausgegangen werden. Nun ist es aber so, dass der Vertreter durch Handlungen, die er ohne Vollmacht im Namen des Vertretenen vornimmt, grundsätzlich nicht anstelle des Vertretenen persönlich berechtigt und verpflichtet wird; er wird bei einem Schuldvertrag weder Gläubiger noch Schuldner, ja überhaupt nicht Vertragspartner (GAUCH/SCHLUEP UND ANDERE, Schweizerisches Obligationenrecht, Allgemeiner Teil, Bd. I, 9. Aufl. 2008, Rz. 1419); der Vertrag ist in der Schwebe und fällt dahin, wenn er vom Vertretenen nicht genehmigt wird (<ref-law>). Auch bei Fehlen einer Vollmacht und bei Fehlen einer nachträglichen Genehmigung durch die Investmentgesellschaft bestünde also die von der Beschwerdeführerin eingeklagte Schadenersatzforderung aus Verletzung kaufvertraglicher Verpflichtung durch die Beschwerdegegnerin nicht. Ein allfälliger Schadenersatzanspruch gegen die Beschwerdegegnerin aus <ref-law> ist nicht Gegenstand des vorliegenden Verfahrens. Auf die Kritik der Beschwerdeführerin ist mangels Relevanz nicht weiter einzugehen.
5. Die Beschwerdeführerin rügt sodann eine Verletzung ihres verfassungsmässigen Anspruchs auf rechtliches Gehör (<ref-law>) und ihres bundesrechtlichen Anspruchs auf Beweisführung (<ref-law>). Sie wirft der Vorinstanz vor, entscheidrelevante Behauptungen und Beweisofferten ohne Erklärung nicht berücksichtigt zu haben. Diese seien namentlich relevant gewesen für die Feststellung, dass sie die Beschwerdegegnerin als direkte Stellvertreterin der Investmentgesellschaft angesehen hat.
5.1 Die Beschwerdeführerin erklärt, sie habe in der Klagereplik in tatsächlicher Hinsicht Folgendes vorgebracht: Am 13. Dezember 2007 habe sie von der Investmentgesellschaft verlangt, dass die Beschwerdegegnerin eine Rückkaufsverpflichtung in eigenem Namen abgebe; eine entsprechende Anfrage habe sie auch direkt an die Beschwerdeführerin gerichtet. Das E-Mail vom 13. Dezember 2007, in welchem A._ im Namen der Beschwerdegegnerin erklärt, dass die Aktien durch die Beschwerdegegnerin zurückgekauft würden, sei eine Antwort auf diese Anfragen gewesen.
Die Beschwerdeführerin erklärt ferner, sie habe in Bezug auf die Transaktionen vom 8. Januar 2008 in der Klagereplik Folgendes vorgebracht: Sie habe von der Investmentgesellschaft namentlich die Mitteilung bekommen, diese werde eine schriftliche Bestätigung der Übernahme der Marktpreisrisiken durch die Beschwerdegegnerin kurzfristig nachreichen. Daraufhin habe sie von der Investmentgesellschaft eine Bestätigung verlangt, wonach sich die Beschwerdegegnerin in eigenem Namen verpflichtete, nicht platzierte Aktien zu übernehmen; die Investmentgesellschaft antwortete, sie werde auf die Beschwerdegegnerin Druck machen. Nach Rücksprache mit dem Rechtsdienst der Beschwerdegegnerin habe A._ mit dem E-Mail vom 8. Januar 2008 geantwortet, in welchem er schrieb, dass die Investmentgesellschaft ihn beauftragt habe, die Aktien zurückzukaufen. Nach Auffassung der Beschwerdeführerin sind diese Sachverhaltselemente wesentlich. Denn sie wären unvereinbar mit dem Schluss, sie habe die Beschwerdegegnerin als Vertreterin der Investmentgesellschaft betrachtet. Deshalb hätte die Vorinstanz darüber instruieren müssen.
5.2 Der Vorwurf der Beschwerdeführerin, die Vorinstanz habe die obgenannten Behauptungen übergangen und mit keinem Wort erwähnt, trifft nicht zu. Die Vorinstanz gibt namentlich ausdrücklich die Behauptung wieder, die Beschwerdeführerin habe am 8. Januar eine Rückkaufszusage der Beschwerdegegnerin verlangt, die Investmentgesellschaft sei in diesem Sinn tätig geworden und das E-Mail von A._ sei das Resultat dieser Bemühungen gewesen. Sie hat, wie schon dargelegt, willkürfrei begründet, warum sie diese nicht als wesentlich erachtet; folglich brauchte sie darüber auch nicht Beweis abzunehmen. Die Rügen sind unbegründet.
6. Zusammenfassend ergibt sich, dass die tatsächliche Feststellung der Vorinstanz, wonach die Beschwerdeführerin bei den strittigen Geschäftsabschlüssen die Beschwerdegegnerin als direkte Stellvertreterin der Investmentgesellschaft betrachtet hat, im vorliegenden Beschwerdeverfahren nicht zu beanstanden ist. Die rechtliche Frage, wie die E-Mails in dieser Beziehung objektiv nach Vertrauensprinzip verstanden werden mussten, stellt sich damit nicht; auf die entsprechenden Rügen ist nicht einzutreten.
7. Die Beschwerdeführerin unterliegt. Sie trägt die Gerichts- und Parteikosten (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 100'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 200'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 10. Oktober 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Leemann