Sachverhalt:
A. Y._ (Klägerin und Beschwerdegegnerin) hat ihren Wohnsitz in der Gemeinde Z._, Kanton Luzern. X._ (Beklagter und Beschwerdeführer) betreibt in Zürich ein Einzelunternehmen mit dem Zweck der Vermögensverwaltung. Er ist im Handelsregister unter der Firma X._ eingetragen.
Am 16. Oktober 2003 unterzeichneten die Parteien einen Vermögensverwaltungsvertrag, in dem die Klägerin den Beklagten mit der Verwaltung ihrer bei der Bank A._ deponierten Vermögenswerte betraute. Sie behauptet, der Beklagte habe ihr durch Kommissionsreiterei - sog. Churning - Schaden verursacht. Sie verlangt den Ersatz dieses Schadens sowie die Herausgabe der vom Beklagten im Rahmen der Vermögensverwaltung erlangten Retrozessionen.
B. Mit Klage vom 2. September 2011 beantragte die Klägerin dem Handelsgericht des Kantons Zürich, der Beklagte sei zu verurteilen, ihr Fr. 261'876.19 nebst 5% Zins mit unterschiedlichen Fälligkeiten zu bezahlen (Ziffer 1), und es sei der Rechtsvorschlag in der Betreibung Nr. bbb._ vom 11. August 2011 in der Höhe der genannten Summe aufzuheben (Ziffer 2).
Das Handelsgericht des Kantons Zürich beschränkte das Verfahren auf Antrag des Beklagten mit Verfügung vom 21. November 2011 auf die Frage der sachlichen Zuständigkeit.
Mit Beschluss vom 30. März 2012 wies das Handelsgericht die Unzuständigkeitseinrede des Beklagten ab und trat auf die Klage ein (Ziffer 1); dem Beklagten wurde Frist zur Klageantwort gesetzt (Ziffer 2). Zwei Gerichtsmitglieder hielten in einem Minderheitsantrag gemäss § 124 des kantonalen Gerichtsorganisationsgesetzes dafür, auf die Klage sei nicht einzutreten.
C. Mit Beschwerde in Zivilsachen beantragt der Beklagte dem Bundesgericht, es sei der Beschluss des Handelsgerichts des Kantons Zürich vom 30. März 2012, insbesondere dessen Ziff. 1 und 2, aufzuheben (Ziffer 1); es sei festzustellen, dass das Handelsgericht des Kantons Zürich für die am 2. September 2011 eingereichte Forderungsklage sachlich nicht zuständig ist (Ziffer 2); es sei die Unzuständigkeitseinrede gutzuheissen und auf die Klage nicht einzutreten (Ziffer 3).
Die Klägerin beantragt in ihrer Vernehmlassung die Abweisung der Beschwerde. Die Vorinstanz hat auf eine Vernehmlassung verzichtet. Die Parteien reichten Replik und Duplik ein.
Mit Präsidialverfügung vom 14. Mai 2012 wurde der Beschwerde die aufschiebende Wirkung erteilt.
Erwägungen:
1. Die Streitigkeit hat eine Zivilsache zum Gegenstand (Art. 72 BGG), deren Vermögenswert die Streitwertgrenze von Fr. 30'000.-- übersteigt (Art. 74 Abs. 1 lit. b BGG). Die Beschwerde richtet sich gegen einen selbständig eröffneten Zuständigkeitsentscheid (Art. 92 BGG) eines oberen kantonalen Gerichts, das als Fachgericht für handelsrechtliche Streitigkeiten als einzige kantonale Instanz entschieden hat (Art. 75 Abs. 2 lit. b BGG), sie ist fristgerecht (Art. 100 BGG) von der Partei eingereicht worden, die mit ihren Anträgen unterlegen ist (Art. 76 BGG). Die Beschwerde in Zivilsachen ist zulässig.
2. Der Beschwerdeführer rügt, das Handelsgericht habe gegen Art. 6 Abs. 3 ZPO verstossen, indem es seine sachliche Zuständigkeit bejaht hat.
2.1 Nach Art. 6 Abs. 1 ZPO können die Kantone ein Fachgericht bezeichnen, welches als einzige kantonale Instanz für handelsrechtliche Streitigkeiten zuständig ist (Handelsgericht). Gemäss Art. 6 Abs. 2 ZPO gilt eine Streitigkeit als handelsrechtlich, wenn: die geschäftliche Tätigkeit mindestens einer Partei betroffen ist (lit. a); gegen den Entscheid die Beschwerde in Zivilsachen an das Bundesgericht offen steht (lit. b); und die Parteien im schweizerischen Handelsregister oder in einem vergleichbaren ausländischen Register eingetragen sind (lit. c). Diese drei Voraussetzungen müssen nach dem Gesetzeswortlaut kumulativ gegeben sein, damit eine handelsrechtliche Streitigkeit i.S. von Art. 6 Abs. 1 ZPO vorliegt (vgl. auch Votum WICKI, in: Amtl. Bull. SR 2007 S. 504).
2.2 Von der Voraussetzung gemäss Art. 6 Abs. 2 lit. c ZPO sieht Art. 6 Abs. 3 ZPO eine Ausnahme wie folgt vor:
"Ist nur die beklagte Partei im schweizerischen Handelsregister oder in einem vergleichbaren ausländischen Register eingetragen, sind aber die übrigen Voraussetzungen erfüllt, so hat die klagende Partei die Wahl zwischen dem Handelsgericht und dem ordentlichen Gericht."
Dieses sog. Klägerwahlrecht der nicht im Handelsregister eingetragenen Partei wurde in der parlamentarischen Beratung auf Antrag der Rechtskommission des Ständerates in das Gesetz eingefügt (vgl. Amtl. Bull. SR 2007, S. 504 sowie Amtl. Bull NR 2008, S. 641 ff.), während es im Entwurf des Bundesrates noch nicht vorgesehen war (vgl. BBl 2006, 7261, 7415; zur Gesetzgebungsgeschichte eingehend auch SCHWALLER/NÄGELI, Die Zuständigkeit der Handelsgerichte gemäss Art. 6 Abs. 3 ZPO, in: Jusletter 14. November 2011 Rz. 36 - 44). Wie die Vorinstanz im angefochtenen Entscheid unter Verweis auf die vertraulichen Kommissionsprotokolle zutreffend darlegt, sollte mit Art. 6 Abs. 3 ZPO die unter dem kantonalen Recht geltende Regelung der Zuständigkeit beibehalten werden.
2.3 Das Klägerwahlrecht steht einer nicht im Handelsregister eingetragenen Partei nach Art. 6 Abs. 3 ZPO zu, wenn "die übrigen Voraussetzungen erfüllt" sind. Dieser Verweis auf die übrigen Voraussetzungen wird in der herrschenden Lehre auf Art. 6 Abs. 2 ZPO bezogen, wo die handelsrechtliche Streitigkeit durch den Eintrag der beklagten Partei im Handelsregister sowie den Zusammenhang mit deren geschäftlicher Tätigkeit (lit. a) und durch die Zulässigkeit der Beschwerde an das Bundesgericht (lit. b) definiert wird (DAVID RÜETSCHI, in: Sutter-Somm et al. [Hrsg.], Kommentar zur Schweizerischen Zivilprozessordnung, 2010, N. 29 zu Art. 6 ZPO; DOMINIK VOCK, in: Basler Kommentar, 2010, N. 15 zu Art. 6 ZPO; ULRICH HAAS/MICHAEL SCHLUMPF, in: Oberhammer [Hrsg.], Kurzkommentar ZPO, 2010, N. 11 zu Art. 6 ZPO; SCHWALLER/NÄGELI, a.a.O., Rz 47 f.; BERNHARD BERGER, Verfahren vor dem Handelsgericht: ausgewählte Fragen, praktische Hinweise, ZBJV 2012, S. 474). Dies bedeutet namentlich eine Ausdehnung der sachlichen Zuständigkeit von Handelsgerichten auf Konsumentenstreitigkeiten, beispielsweise die Klage eines Konsumenten gegen einen im Handelsregister eingetragenen Anbieter (ISAAK MEIER, Schweizerisches Zivilprozessrecht, 2010, S. 61), eines Unfallopfers gegen eine Versicherungsgesellschaft oder einer Bankkundin gegen die Bank, die ihr Vermögen verwaltet (LEUENBERGER/UFFER-TOBLER, Schweizerisches Zivilprozessrecht, 2010, Rz. 2.137; TOYLAN SENEL, Das handelsgerichtliche Verfahren nach der neuen Schweizerischen Zivilprozessordnung, Diss. Basel 2011, Rz. 281; ALEXANDER BRUNNER, Zur Auswahl der Handelsrichter nach ihrem Fachwissen, SJZ 2009, S. 322).
Ein Autor vertritt freilich die Ansicht, die Zuständigkeit nach Art. 6 Abs. 3 ZPO setze voraus, dass es sich beim Streitgegenstand um eine "handelsrechtliche Streitigkeit" im materiellen Sinne handle, also um eine geschäftliche Streitigkeit unter Kaufleuten bzw. Unternehmen unter Ausschluss von Konsumenten-, Arbeits- oder Mietstreitigkeiten (ALEXANDER BRUNNER, in: Brunner et al. [Hrsg.], Schweizerische Zivilprozessordnung, Kommentar, 2011, N. 28 ff. zu Art. 6 ZPO; DERS., Was ist Handelsrecht?, AJP 2010, S. 1536 ff.; DERS., Das Doppelinstanzprinzip und seine scheinbar unbegrenzten Umgehungsmöglichkeiten nach Art. 6 Abs. 3 ZPO, SJZ 2012, S. 27 f., DERS., Die Beschwerde [Art. 319-327 ZPO], insbesondere die Beschwerdegründe, in: Fellmann/Weber [Hrsg.], Haftpflichtprozess 2012, 2012, S. 56 ff.; anders aber noch DERS., Zur Auswahl der Handelsrichter nach ihrem Fachwissen, SJZ 2009, S. 322). Nach dieser Auffassung beschränkt sich der Anwendungsbereich von Art. 6 Abs. 3 ZPO auf Parteien, die zwar ein Unternehmen betreiben, aber nicht oder noch nicht im Handelsregister eingetragen sind, z.B. (nicht eintragungspflichtige) Einzelunternehmen ohne Registereintrag sowie Personengemeinschaften im Gründungsstadium von Handelsgesellschaften (BRUNNER, a.a.O., N. 32 ff. zu Art. 6 ZPO).
Diese Lehrmeinung, der sich die Minderheit der Vorinstanz in ihrem begründeten Votum angeschlossen hat, hält dafür, dass der Bundesgesetzgeber mit Art. 6 Abs. 3 ZPO den Zuständigkeitsbereich der Handelsgerichte gegenüber dem früheren kantonalen Recht geändert habe. Sie legt Gewicht darauf, dass namentlich die Rechtsvermutung des früheren Zürcher Prozessrechts nicht übernommen worden sei, wonach jede Rechtsbeziehung im Rahmen der geschäftlichen Tätigkeit eines Unternehmens - insbesondere auch der Konsumentinnen und Konsumenten - als "handelsrechtlich" gelte.
2.4 Das Gesetz muss in erster Linie aus sich selbst heraus, das heisst nach dem Wortlaut, Sinn und Zweck und den ihm zu Grunde liegenden Wertungen auf der Basis einer teleologischen Verständnismethode ausgelegt werden. Die Gesetzesauslegung hat sich vom Gedanken leiten zu lassen, dass nicht schon der Wortlaut die Norm darstellt, sondern erst das an Sachverhalten verstandene und konkretisierte Gesetz. Gefordert ist die sachlich richtige Entscheidung im normativen Gefüge, ausgerichtet auf ein befriedigendes Ergebnis der ratio legis. Dabei befolgt das Bundesgericht einen pragmatischen Methodenpluralismus und lehnt es namentlich ab, die einzelnen Auslegungselemente einer hierarchischen Prioritätsordnung zu unterstellen. Insbesondere bei jüngeren Gesetzen sind auch die Gesetzesmaterialien zu beachten, wenn sie auf die streitige Frage eine klare Antwort geben und dem Richter damit weiterhelfen (BGE 137 V 167 E. 3.2 S. 170; 135 III 20 E. 4.4, 112 E. 3.3.2, je mit Hinweisen).
2.5 Der Gesetzeswortlaut in Art. 6 Abs. 3 ZPO gewährt der nicht im Handelsregister eingetragenen klagenden Partei ein Wahlrecht für den Fall, dass (entgegen Art. 6 Abs. 2 lit. c ZPO) nur die beklagte Partei im schweizerischen Handelsregister oder einem vergleichbaren ausländischen Register eingetragen ist. Erforderlich ist, dass die "übrigen Voraussetzungen erfüllt" sind. Dazu gehören unstreitig die in Art. 6 Abs. 2 lit. a und b ZPO für die Definition der "handelsrechtlichen Streitigkeit" genannten Voraussetzungen, dass nämlich die Streitigkeit die geschäftliche Tätigkeit mindestens einer Partei betrifft und dass gegen den Entscheid die Beschwerde an das Bundesgericht zulässig ist. Umstritten ist indessen, ob der Begriff der "handelsrechtlichen Streitigkeit" weitere Voraussetzungen umfasst, welche unbesehen der ausdrücklich genannten Ausnahme vom Eintrag in das Handelsregister das Klägerwahlrecht in dem Sinne einschränken, dass es nur für Kaufleute oder Unternehmer gilt. Der Wortlaut allein steht einer solchen Auslegung grundsätzlich nicht entgegen. Es fragt sich daher, ob die übrigen Auslegungselemente dafür sprechen, dass die Wahlzuständigkeit nur für klagende Parteien gilt, die zwar ein Unternehmen betreiben, aber aus irgendwelchen Gründen nicht oder noch nicht im Handelsregister eingetragen sind.
2.6 Der bundesrechtliche Begriff der handelsrechtlichen Streitigkeiten, für welche die Kantone nach Art. 6 Abs. 1 ZPO eine einzige kantonale Instanz zuständig erklären können, wird in Art. 6 Abs. 2 ZPO definiert (vgl. STEPHEN V. BERTI, Einführung in die Schweizerische Zivilprozessordnung, 2011, § 6 N 160). Danach ist neben dem vorliegend nicht weiter wesentlichen Merkmal der Beschwerdefähigkeit des Entscheides (lit. b) erforderlich, dass die Streitigkeit die geschäftliche Tätigkeit mindestens einer Partei betrifft und dass die Parteien im Handelsregister eingetragen sind. Wenn nun im unmittelbar anschliessenden Absatz 3 der Norm der Fall geregelt wird, dass nur die beklagte Partei im Register eingetragen ist, so spricht die Systematik der Regelung dafür, dass sich die Ausnahme auf Abs. 2 lit. c bezieht. Die übrigen Voraussetzungen, welche in Absatz 2 genannt werden, damit eine handelsgerichtliche Streitigkeit vorliegt, müssen danach erfüllt sein. Wenn die Streitigkeit die geschäftliche Tätigkeit mindestens einer Partei - namentlich der im Handelsregister eingetragenen beklagten Partei - betrifft und die Beschwerde ans Bundesgericht offensteht, hat eine Partei nach der Systematik der Regelung in Art. 6 ZPO die Wahl zwischen dem ordentlichen Gericht oder dem Handelsgericht, wenn sie selbst nicht im Handelsregister eingetragen ist.
2.7 Es bestehen keine Anhaltspunkte dafür, dass die Legaldefinition der "handelsrechtlichen Streitigkeit" in Art. 6 Abs. 2 ZPO nicht abschliessend wäre. Insbesondere wird in Art. 6 Abs. 1 ZPO die "handelsrechtliche Streitigkeit", an welche die sachliche Zuständigkeit der Handelsgerichte knüpft, ebenso wenig definiert wie in Art. 75 Abs. 2 lit. b BGG, wonach die Beschwerde an das Bundesgericht gegen eine einzige kantonale Instanz zulässig ist, wenn diese als Fachgericht für "handelsrechtliche Streitigkeiten" entscheidet. Zwar ist nach der Definition in Art. 6 Abs. 2 lit. c erforderlich, dass die Parteien, also sämtliche am Streit beteiligten Personen, als Unternehmen im Handelsregister eingetragen sind. Da aber Art. 6 Abs. 3 ZPO gerade von diesem Erfordernis eine Ausnahme macht und der klagenden Partei eine Wahlmöglichkeit für den Fall einräumt, dass nur die beklagte Partei (als Unternehmen) im Register eingetragen ist, kann die "handelsrechtliche Streitigkeit", an welche die Zuständigkeit knüpft, in der Sache nicht wiederum unter Rückgriff auf eben dieses Erfordernis definiert und damit die Ausnahme im Ergebnis wegdiskutiert werden.
2.8 Entgegen der im Minderheitsvotum der Vorinstanz geäusserten Ansicht lassen sich auch für eine einschränkende Auslegung der Ausnahmebestimmung auf nicht im Register eingetragene Kläger mit Unternehmereigenschaft keine überzeugenden Argumente anführen. Wenn Art. 6 Abs. 3 ZPO einzig eine Erweiterung der sachlichen Zuständigkeit des Handelsgerichts für ausnahmsweise nicht im Handelsregister eingetragene Unternehmen statuieren wollte, müsste der Wortlaut dahin gehend lauten, dass Klägern, welche nicht im Register eingetragen sind, aber ein nach kaufmännischen Grundsätzen geführtes Unternehmen betreiben, ebenfalls der Weg ans Handelsgericht offensteht. In Art. 6 Abs. 3 ZPO wird jedoch in ganz allgemeiner Weise dem nicht im Register eingetragenen Kläger ein Wahlrecht eingeräumt. Darin kann keine - allenfalls einschränkend zu interpretierende - Ausnahme von der sachlichen Zuständigkeit der ordentlichen Gerichte für weitere Handelsstreitigkeiten gesehen werden, sondern es handelt sich um eine eigentliche Wahlmöglichkeit, die der nicht im Handelsregister eingetragenen Partei neben der ordentlichen Gerichtsbarkeit eine zusätzliche Option bereitstellt.
2.9 Schliesslich bestätigt die Entstehungsgeschichte von Art. 6 Abs. 3 ZPO, dass der Gesetzgeber mit der Wahlmöglichkeit der nicht im Handelsregister eingetragenen Klagpartei eine zusätzliche Option für Nicht-Kaufleute schaffen wollte. Die Vorinstanz weist im angefochtenen Urteil unter Beizug der vertraulichen Kommissionsprotokolle zutreffend darauf hin, dass es dem Gesetzgeber um eine Erweiterung der sachlichen Zuständigkeit der Handelsgerichte für klagende Nicht-Kaufleute ging, wie sie die früheren Prozessordnungen der Handelsgerichtskantone Aargau, Bern und Zürich in der einen oder anderen Variante kannten (dazu eingehend SCHWALLER/NÄGELI, a.a.O., Rz. 19 - 26). Für eine bestimmte zusätzliche Einschränkung wie etwa den Ausschluss mehr oder weniger klar definierter "Konsumenten"-Streitigkeiten bestehen keinerlei Hinweise und die Minderheit der Vorinstanz belegt denn auch ihre Ansicht nicht, dass die Wahlmöglichkeit nach Art. 6 Abs. 3 ZPO für Konsumenten, Arbeitnehmer und Mieter nach dem Willen des Gesetzgebers generell nicht zur Verfügung stehen sollte. Im Gegenteil spricht die diametrale Abkehr vom bundesrätlichen Entwurf, der das Wahlrecht von nicht im Handelsregister eingetragenen Klägern u.a. mit der Begründung nicht vorsah, dass "sonst Konsumentenstreitigkeiten bei einem Streitwert von über 30'000 Franken - z.B. aus Kauf eines privaten Personenwagens - plötzlich der Handelsgerichtsbarkeit unterstehen würde" (Botschaft vom 28. Juni 2006 zur Schweizerischen Zivilprozessordnung, BBl 2006 7221, S. 7261), gerade für die Ausdehnung auf solche Streitigkeiten (vgl. auch SCHWALLER/NÄGELI, a.a.O., Rz 42).
2.10 Die Minderheit der Vorinstanz hält in ihrem Votum die Ausnahme vom Doppelinstanz-Prinzip für problematisch und weist z.B. auf die Ungleichbehandlung möglicher Kläger je nach Kanton oder auf die Ausweitung der Ausnahme vom Doppelinstanz-Prinzip durch das Klägerwahlrecht hin. Sie verkennt jedoch, dass die Ausnahme vom Gesetzgeber so gewollt war und insbesondere die frühere weite Zuständigkeit trotz untergeordneter kantonaler Unterschiede beibehalten werden sollte. An der grundsätzlichen Problematik der Ausnahme von Art. 6 ZPO und Art. 75 Abs. 2 lit. b BGG an sich ändert eine - den historischen Gesetzgebungswillen klar missachtende - restriktive Interpretation entgegen der Ansicht der Minderheit der Vorinstanz und der Beschwerde nichts. Denn den Materialien lässt sich für die - unbelegte - Ansicht nichts entnehmen, dass mit dem Klägerwahlrecht in Art. 6 Abs. 3 ZPO bloss eine Lücke für Klagen von nicht im Handelsregister eingetragenen Kaufleuten bzw. Unternehmern hätte gefüllt werden sollen, welche die zwingende Zuständigkeit von Art. 6 ZPO nicht erfassen würde. Insbesondere kann ein entsprechender Wille des Gesetzgebers entgegen der in der Beschwerde geäusserten Ansicht nicht aus einzelnen Voten der unveröffentlichten Kommissionsprotokolle abgeleitet werden, deren Aussagen in den Räten keinen Niederschlag gefunden haben und die vor allem im Gesetzeswortlaut in keiner Weise zum Ausdruck gebracht worden sind.
2.11 Wenn die Minderheit der Vorinstanz und der Beschwerdeführer als unerwünscht erachten, dass Rechtsfragen des Konsumrechts in die Zuständigkeit des Handelsgerichts fallen, so verkennen sie, dass die Option für Konsumentinnen und Konsumenten vom Gesetzgeber klar gewollt war und im zutreffend verstandenen Art. 6 Abs. 3 ZPO auch deutlich zum Ausdruck gelangt. Wenn die Streitigkeit die geschäftliche Tätigkeit der im Handelsregister eingetragenen Partei betrifft, so kann - sofern die Beschwerde ans Bundesgericht offensteht, also insbesondere der entsprechende Streitwert erreicht ist - auch ein Konsument oder eine Konsumentin die Streitigkeit vor das Handelsgericht tragen. Demgegenüber steht einer im Handelsregister eingetragenen Partei die Wahl des ordentlichen Gerichts mit doppeltem Instanzenzug in den Kantonen mit Handelsgericht nicht offen. Nur wenn die Streitigkeit die geschäftliche Tätigkeit der beklagten Partei nicht betrifft, sind die "übrigen Voraussetzungen" nach Art. 6 Abs. 2 ZPO insofern nicht erfüllt und steht der klagenden Partei die Wahlmöglichkeit nach Art. 6 Abs. 3 ZPO nicht offen.
3. Die Beschwerdegegnerin ist nach den verbindlichen Feststellungen der Vorinstanz eine Privatperson, die eine Zivilforderung gegen den im Handelsregister eingetragenen Beschwerdeführer einklagt, die sie aus dessen geschäftlicher Tätigkeit als Vermögensverwalter herleitet. Sie kann sich somit auf das Wahlrecht stützten, das ihr Art. 6 Abs. 3 ZPO verleiht und ihre Forderung gegen den im Kanton Zürich domizilierten Beschwerdeführer vor dem Handelsgericht einklagen. Die Vorinstanz hat ihre sachliche Zuständigkeit zu Recht bejaht. Die dem Beschwerdeführer im angefochtenen Beschluss angesetzte Frist für die Klageantwort wird vom Handelsgericht neu festzusetzen sein, zumal der Beschwerde die aufschiebende Wirkung gewährt wurde.
4. Die Beschwerde ist abzuweisen.
Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 29. Oktober 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Hurni