Sachverhalt: A. A.a Die 1953 geborene Y._ ist deutsche Staatsbürgerin und von Beruf Kauffrau. Sie lebt in München. Die X._ AG ist eine schweizerische Aktiengesellschaft mit Sitz in Zürich, deren Zweck die Vermögens- und Liegenschaftenverwaltung sowie die Beratung in Finanzierungs- und Grundstücksangelegenheiten einschliesslich deren Abwicklung und Betreuung ist. Y._ und die X._ AG schlossen im Herbst 1996 einen Vermögensverwaltungsvertrag ab, wobei nicht feststeht, ob sie einen schriftlichen Vertrag unterzeichneten. In diesem Zusammenhang wurden auf den Namen von Y._ ein Konto und ein Depot bei der Bank A._ eröffnet, wofür Y._ dem Geschäftsführer der X._ AG, W._, eine Vollmacht erteilte. Am 15. November 1996 überwies Y._ DM 1'000'000.--, am 28. Januar 1997 weitere DM 500'000.-- zur Verwaltung auf das neu eröffnete Konto. A.b Am 12. Juni bzw. 3. August 2000 schlossen Y._ als Auftraggeberin, Dr. V._ sowie die U._ Inc., Panama, als Beauftragte und die X._ AG als Vermögensverwalterin einen schriftlichen Mandats- und Treuhandvertrag ab. Der Vertrag enthält die folgenden Bestimmungen: "1. Die Auftraggeberin beauftragt die Beauftragten mit der Errichtung und der Betreuung einer Foundation (Stiftung) nach dem Recht des Staates Panama mit dem Namen T._ Fondation (nachstehend "Foundation"). Die Beauftragten sind bereit, treuhänderisch für den Auftraggeber die Errichtung der Foundation zu veranlassen und für deren laufende Betreuung zu sorgen. Die Firma U._, Inc. handelt als einziger Stiftungsrat der Foundation. [...] 5. Die Auftraggeberin betraut die mitunterzeichnende X._ AG als Vermögensverwalterin mit allgemeiner Vollmacht und entbindet die Beauftragten diesbezüglich von jeder Verantwortung. Die Auftraggeberin wird überdies weder direkt noch indirekt gegen die Beauftragten in deren Eigenschaft als Beauftragte, Treuhänder oder Stiftungsrat der Foundation Ansprüche, insbesondere Verantwortlichkeitsansprüche geltend machen; vorbehalten bleiben Fälle von Vorsatz oder grober Fahrlässigkeit. [...] 11. Dieser Vertrag untersteht schweizerischem Recht. Alle sich aus oder im Zusammenhang mit dem vorliegenden Vertrag ergebenden Streitigkeiten werden durch einen Einzelschiedsrichter gemäss der internationalen Schiedsgerichtsordnung der Zürcher Handelskammer mit Sitz in Zürich unter Ausschluss der ordentlichen Gerichte entschieden." (Hervorhebungen weggelassen) Y._ macht geltend, die T._ Fondation (nachfolgend: Stiftung) sei bereits am 20. März 2000 auf Anraten von W._ gegründet worden. Sie selber sei Stifterin und alleinige Erstbegünstigte und ihr Sohn S._ alleiniger Zweitbegünstigter der neu gegründeten Stiftung gewesen. Am 3. Mai 2000 habe die Stiftung, handelnd durch Dr. V._ als Vertreter des Stiftungsrates, ein Konto und ein Depot bei der Bank A._ eröffnet. Weiter bringt Y._ vor, im August 2000 habe sie auf dieses Konto eine Einlage von EUR 446'521.-- getätigt. Sie habe gewünscht, dass das Stiftungsvermögen, wie bereits ihr eigenes Vermögen, durch die X._ AG konservativ angelegt werde. Unbestritten ist, dass die bereits vor der Stiftungsgründung von der X._ AG verwalteten Vermögenswerte von Y._ nicht in die Stiftung eingebracht, sondern weiterhin über ein separates Konto und Depot verwaltet wurden. B. Am 17. Juni 2011 reichte Y._ beim Handelsgericht des Kantons Zürich Klage gegen die X._ AG ein mit den folgenden Rechtsbegehren: "1. Die Beklagte sei zu verpflichten, der Klägerin den Betrag von EUR 282'632.-- zuzüglich 5% Zins seit dem 8. Juli 2011 und den Betrag von EUR 69'867.-- zuzüglich 5% Zins seit dem 8. Juni 2011 zu bezahlen. 2. Eventualiter sei der nicht ziffernmässig nachweisbare Schaden per Urteilszeitpunkt der Klägerin im Sinne von Art. 42 OR nach richterlichem Ermessen zu bestimmen und die Beklagte zu verpflichten, der Klägerin diesen zuzüglich 5% Zins seit dem Urteilszeitpunkt zu bezahlen. 3. Die Beklagte sei zu verpflichten, der Klägerin den Betrag von EUR 20'787.90 zuzüglich 5% Zins seit dem 28. Oktober 2008 zu bezahlen. 4. Es sei die Beklagte unter Androhung der Überweisung ihrer verantwortlichen Organe an den Strafrichter nach Art. 292 StGB zu verpflichten, der Klägerin vollständig Rechenschaft abzulegen (mit entsprechend dokumentierten Nachweisen und Hinweisen zur Aufschlüsselung) über sämtliche Honorare, Provisionen, Kickbacks, Retrozessionen, Finder's Fees und andere indirekte Vorteile, die die Beklagte im Zusammenhang mit der Verwaltung des Vermögens der T._ Fondation (Panama) von Dritten erhalten hat oder allenfalls noch von Dritten zu fordern berechtigt ist. Diese Rechenschaftsablage hat innert einer vom Gericht anzusetzenden Frist an das Gericht zu Handen der Klägerin zu erfolgen. 5. Es sei die Beklagte zu verpflichten, der Klägerin, zusätzlich zu den Forderungen gemäss Ziff. 1 bzw. Ziff. 2 und gemäss Ziff. 3, den sich aus der Abrechnung gemäss Ziff. 4 ergebenden Betrag respektive einen nach Abschluss des Beweisverfahrens durch die Klägerin zu beziffernden Betrag, mindestens jedoch EUR 10'000.--, nebst Zins zu 5% seit dem 28. Oktober 2008 zu bezahlen." Die X._ AG erhob Schiedseinrede und beantragte, auf die Klage sei nicht einzutreten. Am 23. Januar 2012 fasste das Handelsgericht den folgenden Beschluss: "1. In Bezug auf die Ansprüche, welche die Verwaltung des Vermögens der Klägerin betreffen, wird die von der Beklagten erhobene Unzuständigkeitseinrede abgewiesen und das Verfahren weitergeführt. 2. In Bezug auf die Ansprüche der Klägerin, welche die Verwaltung des Vermögens der T._ Fondation betreffen, wird auf die Klage nicht eingetreten, insoweit diese aus dem Mandats- und Treuhandvertrag vom 12. Juni bzw. 3. August 2000 abgeleitet werden. Im Übrigen wird die von der Beklagten erhobene Unzuständigkeitseinrede abgewiesen und das Verfahren weitergeführt." C. Die X._ AG (Beschwerdeführerin) verlangt mit Beschwerde in Zivilsachen, Dispositiv-Ziffer 2 des Beschlusses des Handelsgerichts aufzuheben. Es sei auf die in der Klage vom 17. Juni 2011 gestellten Rechtsbegehren 4 und 5 insgesamt, auf das Rechtsbegehren 1, soweit die Verurteilung der Beschwerdeführerin zur Zahlung von EUR 69'867.-- zuzüglich Zins zu 5% seit dem 8. Juni 2011 verlangt werde sowie auf das Rechtsbegehren 2, soweit es sich auf Ansprüche beziehe, die im Zusammenhang mit der Verwaltung des Vermögens der T._ Fondation stehen, nicht einzutreten. Eventualiter sei auf die Klage in Bezug auf sämtliche Ansprüche, welche die Verwaltung des Vermögens der T._ Fondation betreffen oder damit in Zusammenhang stehen, nicht einzutreten. Subeventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Y._ (Beschwerdegegnerin) beantragt, die Beschwerde vollumfänglich abzuweisen. Das Handelsgericht verzichtete auf Vernehmlassung.