Sachverhalt: A. A._ (Beklagter und Berufungskläger) mit Wohnsitz in Griechenland verfügte bei der Bank X._ (Klägerin und Berufungsbeklagte), einer Bank mit Sitz in der Schweiz, über ein Konto mit der Nummer 1._. B. Mit Eingabe vom 1. Oktober 2004 beantragte die Klägerin dem Bezirksgericht Zürich, der Beklagte sei zu verpflichten, ihr rund 9 Mio. US-Dollar zu bezahlen. Der Beklagte stellte daraufhin ein Sistierungsbegehren, das das Bezirksgericht mit Beschluss vom 23. Februar 2005 abwies. Am 16. März 2005 reichte der Beklagte eine "uneinlässliche Klageantwort" ein und beantragte, auf die Klage sei infolge Unzuständigkeit nicht einzutreten. Er machte geltend, bei der gerichtlichen Auseinandersetzung zwischen den Parteien handle es sich um eine Konsumentenstreitigkeit im Sinn von Art. 13 ff. des Übereinkommens über die gerichtliche Zuständigkeit und die Vollstreckung gerichtlicher Entscheidungen in Zivil- und Handelssachen (SR 0.275.11; im Folgenden LugÜ), weshalb gemäss Art. 14 Abs. 2 LugÜ das Gericht am Wohnsitz des Verbrauchers zuständig sei. Mit Beschluss vom 10. Juni 2005 wies das Bezirksgericht die Unzuständigkeitseinrede ab. C. Einen gegen den Beschluss des Bezirksgerichts erhobenen Rekurs wies das Obergericht am 12. Dezember 2005 ab. Es kam zum Schluss, es liege keine Verbraucherstreitigkeit im Sinn von Art. 13 Abs. 1 Ziff. 3 LugÜ vor, da keine der dafür aufgestellten Voraussetzungen erfüllt sei. Weder sei der Beklagte Verbraucher, noch seien die abgeschlossenen Verträge auf die Erbringung einer Dienstleistung gerichtet. Dem massgebenden Vertragsabschluss im Jahr 1982 sei kein ausdrückliches Angebot bzw. keine Werbung in Griechenland vorausgegangen, und der Beklagte habe die zum Abschluss des Vertrags erforderlichen Rechtshandlungen nicht in Griechenland vorgenommen. Darüber hinaus sei das Bezirksgericht Zürich auch deshalb zur Behandlung der eingereichten Klage zuständig, weil sich der Beklagte durch sein Sistierungsbegehren auf das Verfahren in Zürich eingelassen habe. D. Mit Berufung vom 30. Januar 2006 beantragt der Beklagte dem Bundesgericht, der Beschluss des Obergerichts des Kantons Zürich vom 12. Dezember 2005 sei vollumfänglich aufzuheben und die Unzuständigkeit der zürcherischen Gerichte festzustellen, eventualiter sei die Sache zur neuen Entscheidung nach Durchführung eines Beweisverfahrens an die Vorinstanz zurückzuweisen (Ziff. 1). Darüber hinaus sei die Sache zur Neuregelung der Kosten- und Entschädigungsfolgen vor erster und zweiter Instanz an das Obergericht zurückzuweisen (Ziff. 2). Die Klägerin beantragt, die Berufung sei abzuweisen und der Beschluss des Obergerichts vom 12. Dezember 2005 zu bestätigen, soweit auf die Berufung einzutreten ist. E. Das Kassationsgericht des Kantons Zürich trat mit Zirkulationsbeschluss vom 16. November 2006 auf eine gegen den Beschluss des Obergerichts eingereichte Nichtigkeitsbeschwerde des Beklagten nicht ein. Der Beklagte erhob dagegen staatsrechtliche Beschwerde mit dem Antrag, der Zirkulationsbeschluss sei aufzuheben.