Sachverhalt:
A. Mit Eingabe vom 10. August 2006 erhob die in Athen wohnhafte A._ (Beschwerdegegnerin; Klägerin) beim Einzelrichter in Zivilsachen am Bezirksgericht Zürich gegen die damalige Y._ Bank AG Klage auf Auskunftserteilung sowie Akteneinsicht und -edition im Zusammenhang mit den Bankbeziehungen ihres verstorbenen Vaters B._. Im Einzelnen stellte sie folgende Rechtsbegehren:
"1. Es sei die Beklagte unter Androhung der Verzeigung zur Bestrafung gemäss <ref-law> im Falle des Ungehorsams zu verpflichten,
a) der Klägerin - mit Ausnahme der Konto-/Depotbeziehung D._ 365365 - sämtliche bei ihr (der Beklagten) heute und/oder in der Vergangenheit geführten Konti, Depots, Schrankfächer und/oder weitere Vermögensträger bekannt zu geben, die
auf den Namen von B._, gestorben am 16. Dezember 2002, wohnhaft gewesen in C._, Griechenland (nachfolgend: "Erblasser") lauten bzw. lauteten oder für ihn unter einer Fantasie- oder Nummernbezeichnung geführt werden bzw. wurden;
gemeinsam auf den Namen des Erblassers und den/die Namen eines/mehrerer Dritten lauten bzw. lauteten oder gemeinsam für den Erblasser und den/die Dritten unter einer Fantasie- oder Nummernbezeichnung geführt werden bzw. wurden;
b) der Klägerin - mit Ausnahme der Konto-/Depotbeziehung D._ 365365 - sämtliche bei ihr (der Beklagten) heute und/oder in der Vergangenheit geführten Konti, Depots, Schrankfächer und/oder weitere Vermögensträger bekannt zu geben, an denen der Erblasser allein oder zusammen mit anderen Personen wirtschaftlich berechtigt war, also namentlich auch solche Konti, Depots, Schrankfächer und/oder weitere Vermögensträger, die auf den Namen eines Dritten lauten bzw. lauteten (z.B. Stiftungen, offshore Gesellschaften etc.) und/oder solche mit Fantasie- und/oder Nummernbezeichnung;
c) der Klägerin umfassend Rechenschaft abzulegen über ihre Tätigkeit im Zusammenhang mit Vermögenswerten, an denen der Erblasser, allein oder zusammen mit anderen Personen, rechtlich und/oder wirtschaftlich berechtigt war, mit Ausnahme der Tätigkeit der Beklagten betreffend die Konto-/ Depotbezeichnung D._ 365365;
d) der Klägerin umfassend Rechenschaft abzulegen über ihre Tätigkeit im Zusammenhang mit Vermögenswerten, die bei ihr (der Beklagten) heute und/oder in der Vergangenheit unter der Konto-/Depotbeziehung E._ 63, F._ 777 und G._ 1 gehalten werden bzw. wurden;
e) sämtliche aus den Geschäftsbeziehungen gemäss a), b), c) und d) vorstehend herrührenden, in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw. unverzüglich herauszugeben, mit Ausnahme der Akten betreffend die Konto-/Depotbeziehung D._ 365365."
Die Y._ Bank AG wurde per 1. April 2007 von der X._ Bank SA (Beschwerdeführerin; Beklagte) übernommen. Mit ihrer (nicht einlässlichen) Klageantwort erhob die Y._ Bank AG die Einrede der fehlenden örtlichen und internationalen Zuständigkeit und stellte den Antrag, es sei auf die Klage nicht einzutreten. Das Bezirksgericht (7. Abteilung) verwarf mit Beschluss vom 19. September 2007 diese Einrede und setzte der Beschwerdeführerin Frist zur Einreichung einer (umfassenden) Klageantwort an.
B. Gegen diesen Beschluss rekurrierte die Beschwerdeführerin an das Obergericht des Kantons Zürich mit folgenden Anträgen:
"Es sei der angefochtene Beschluss aufzuheben und auf die Klage nicht einzutreten und es sei der Rekurrentin die Frist zur Erstattung der Klageantwort abzunehmen, eventualiter sei der angefochtene Beschluss aufzuheben und auf die Klage nicht einzutreten bezüglich Ziff. 1 lit. b des Klagebegehrens sowie bezüglich Ziff. 1 lit. c, d, und e, soweit sie sich auf Konti, Depots, Schrankfächer und/oder andere Vermögensträger beziehen, welche weder auf den Namen von B._ alleine oder zusammen mit einem Dritten lauten, noch von der Rekurrentin für ihn oder für ihn und einen Dritten unter einer Fantasie- oder Nummernbezeichnung geführt werden bzw. wurden."
Mit Beschluss vom 7. August 2008 wies das Obergericht den Rekurs ab und bestätigte den Beschluss des Bezirksgerichts.
Die Beschwerdeführerin erhob kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons Zürich, das die Beschwerde mit Zirkulationsbeschluss vom 8. April 2009 abwies, soweit es darauf eintrat.
C. Die Beschwerdeführerin erhebt gegen den Beschluss des Obergerichts vom 7. August 2008 und den Zirkulationsbeschluss des Kassationsgerichts vom 8. April 2009 Beschwerde in Zivilsachen mit folgenden Anträgen:
"1. Es seien die angefochtenen Beschlüsse aufzuheben und
a) es sei auf das Klagebegehren Ziff. 1 lit. b nicht einzutreten;
b) es sei auf das Klagebegehren Ziff. 1 lit. c nicht einzutreten, soweit die Beschwerdegegnerin von der Beschwerdeführerin verlangt, umfassend über ihre Tätigkeit Rechenschaft im Zusammenhang mit Vermögenswerten abzulegen, an denen B._ allein oder zusammen mit anderen Personen wirtschaftlich und nicht vertraglich berechtigt war;
c) es sei auf das Klagebegehren Ziff. 1 lit. d nicht einzutreten, soweit die Beschwerdegegnerin ihren Anspruch damit begründet, B._ sei an den Vermögenswerten, die bei der Beschwerdeführerin angeblich heute und/oder in der Vergangenheit unter der Konto-/Depotbeziehung E._ 63, F._ 777 und G._ 1 gehalten werden bzw. wurden, wirtschaftlich und nicht vertraglich berechtigt gewesen;
d) es sei auf das Klagebegehren Ziff. 1 lit. e nicht einzutreten, soweit die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher aus den Geschäftsbeziehungen gemäss Klagebegehren Ziff. 1 lit. b herrührenden, in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw. verlangt;
e) es sei auf das Klagebegehren Ziff. 1 lit. e nicht einzutreten, soweit die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher aus den Geschäftsbeziehungen gemäss Klagebegehren Ziff. 1 lit. c herrührenden, in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw. verlangt, die aus ihrer Tätigkeit im Zusammenhang mit Vermögenswerten herrühren, an denen gemäss der Begründung der Beschwerdegegnerin B._, allein oder zusammen mit anderen Personen, wirtschaftlich und nicht vertraglich berechtigt gewesen sei;
f) es sei auf das Klagebegehren Ziff. 1 lit. e nicht einzutreten, soweit die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher aus den Geschäftsbeziehungen gemäss Klagebegehren Ziff. 1 lit. d herrührenden, in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw. zu den Konti E._ 63, F._ 777 und G._ 1, verlangt und diesen Anspruch mit einer wirtschaftlichen, nicht einer vertraglichen Berechtigung begründet."
Die Beschwerdeführerin anerkennt die Zuständigkeit der schweizerischen Gerichte wie folgt:
"Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. a.
Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. c soweit, als die Beschwerdegegnerin von ihr umfassend Rechenschaft über ihre Tätigkeit im Zusammenhang mit Vermögenswerten abzulegen verlangt, an denen B._ (in der Folge "der Erblasser") allein oder zusammen mit anderen Personen vertraglich, nicht bloss wirtschaftlich berechtigt gewesen sein soll.
Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. d soweit, als die Beschwerdegegnerin von ihr umfassend Rechenschaft über ihre Tätigkeit im Zusammenhang mit Vermögenswerten abzulegen verlangt, an denen der Erblasser allein oder zusammen mit anderen Personen vertraglich, nicht bloss wirtschaftlich berechtigt gewesen sein soll, die bei ihr unter der Konto-/Depotbeziehung E._ 63, F._ 777 und G._ 1 gehalten werden bzw. wurden.
Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. e soweit, als die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher aus den Geschäftsbeziehungen des Erblassers mit ihr gemäss Klagebegehren Ziff. 1 lit. a herrührenden, in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw., verlangt.
Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. e soweit, als die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw., verlangt, die gemäss Ziff. 1 lit. c aus ihrer Tätigkeit mit Vermögenswerten herrühren, an denen der Erblasser allein oder zusammen mit anderen Personen vertraglich, nicht bloss wirtschaftlich berechtigt gewesen sein soll.
Die Beschwerdeführerin anerkennt die Zuständigkeit der Schweizer Gerichte bezüglich Klagebegehren Ziff. 1 lit. e soweit die Beschwerdegegnerin die unverzügliche Herausgabe sämtlicher in ihrem Besitze befindlichen Akten, insbesondere Konto-/Depoteröffnungsunterlagen, Konto-/Depotauszüge, Verträge, Formulare A, Unterschriftskarten, Vollmachten, Kundenaufträge, Korrespondenzen, Besuchs-, Telefonnotizen usw. aus den in Ziff. 1 lit. d genannten Geschäftsbeziehungen verlangt und diesen Anspruch mit einer vertraglichen Berechtigung begründet."
Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das Obergericht und das Kassationsgericht verzichteten auf eine Vernehmlassung.
D. Mit Präsidialverfügung vom 16. Juni 2009 wurde der Beschwerde die aufschiebende Wirkung erteilt.

Erwägungen:
1. Das Bezirksgericht hat die Einrede der Unzuständigkeit verworfen und sich für zuständig erklärt. Das Obergericht und das Kassationsgericht haben die dagegen erhobenen Rechtsmittel abgewiesen. Bei den angefochtenen Beschlüssen des Obergerichts und des Kassationsgerichts handelt es sich demnach um selbständig eröffnete Zwischenentscheide über die Zuständigkeit nach <ref-law>.
Gegen solche Entscheide ist die Beschwerde in Zivilsachen zulässig (<ref-law>). Nach dem Grundsatz der Einheit des Prozesses ist der Zwischenentscheid aber nur mit Beschwerde anfechtbar, wenn es auch der Endentscheid ist (<ref-ruling> E. 2.2). Dies trifft vorliegend zu, handelt es sich in der Hauptsache doch um eine vermögensrechtliche Angelegenheit mit einem Streitwert von Fr. 30'000.--, womit die Grenze nach <ref-law> erreicht ist. Da auch die übrigen formellen Voraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. Es ist unbestritten, dass ein internationales Verhältnis im Sinne von <ref-law> vorliegt, bei dem sich die Zuständigkeit der schweizerischen Gerichte nach diesem Gesetz richtet, sofern kein völkerrechtlicher Vertrag anwendbar ist (<ref-law>). Sowohl Griechenland wie die Schweiz sind Vertragsstaaten des Lugano-Übereinkommens (LugÜ; SR 0.275.11). Die eingeklagten Auskunfts- und Editionsbegehren stützen sich auf ein Rechtsverhältnis zwischen Privaten und sind daher als Zivil- oder Handelssache im Sinne von <ref-law> zu qualifizieren. Sie werden vom sachlichen Anwendungsbereich des Lugano-Übereinkommens erfasst, sofern sie nicht in einen nach <ref-law> ausgeschlossenen Sachbereich fallen. Nach <ref-law> ist das Übereinkommen insbesondere auf das Gebiet des "Erbrechts einschliesslich des Testamentsrechts" nicht anzuwenden. Wenn es sich beim geltend gemachten Anspruch um einen erbrechtlichen Anspruch handeln sollte, bestimmte sich die Zuständigkeit somit nicht nach dem LugÜ, sondern nach dem IPRG. Streitig ist, ob es sich bei den von der Beschwerdegegnerin geltend gemachten Ansprüchen um schuldrechtliche oder erbrechtliche handelt.
2.1 Das Bundesgericht hat in einem kürzlich ergangenen Entscheid ausgeführt, welche Streitigkeiten als solche auf dem Gebiet "des Erbrechts einschliesslich des Testamentsrechts" im Sinne von <ref-law> gelten. Darunter fallen alle Ansprüche des Erben "auf und an den Nachlass" (<ref-ruling> E. 3.4.1 S. 191). Das Auftreten erbrechtlicher Vorfragen hindert die Anwendung des LugÜ nicht. Ansprüche gegen Dritte, in die ein Erbe causa mortis nachfolgt, fallen folglich dann in den sachlichen Anwendungsbereich des Lugano-Übereinkommens, wenn sich der geltend gemachte Anspruch bereits im Vermögen des Erblassers befand, mithin nur die Aktivlegitimation des Erben auf einem erbrechtlichen Titel beruht. In solchen Fällen ist der Bestand und Inhalt des geltend gemachten Anspruchs nicht nach dem Erbstatut, sondern nach einem anderen vermögensrechtlichen Statut zu beurteilen und nur die Aktivlegitimation durch das Erbrecht im Sinne einer Vorfrage bestimmt. Macht ein angeblicher Erbe einen wie auch immer gearteten Anspruch gegen die Bank geltend, mit welcher der Erblasser in einer Kontobeziehung stand, ist nach dem auf die Bankkundenbeziehung anwendbaren Vertragsstatut zu prüfen, ob ein solcher Anspruch besteht. Ist er begründet, befand er sich bereits im Vermögen des Erblassers und beruht nur die Aktivlegitimation des Erben auf einem erbrechtlichen Titel. Ein derart geltend gemachter Anspruch fällt damit nicht unter die ausgeschlossenen Materien gemäss <ref-law>. Freilich kann zugleich ein erbrechtlicher Anspruch gegenüber der Bank bestehen, für den das Lugano-Übereinkommen keine Zuständigkeit vorsieht (bezüglich sich direkt aus dem Erbstatut ergebender Ansprüche vgl. das Urteil 5C.235/2004 vom 24. März 2005 E. 2.2). Das ändert aber nichts daran, dass jedenfalls der sich aus dem Vertragsstatut ergebende Anspruch nicht zu den ausgeschlossenen Materien des Lugano-Übereinkommens gehört (<ref-ruling> E. 3.4.2).
2.2 Die Beschwerdeführerin anerkennt vor Bundesgericht die Zuständigkeit der schweizerischen Gerichte, soweit die Beschwerdegegnerin ihre Ansprüche auf eine vertragliche Beziehung des Erblassers zur Beschwerdeführerin stütze. Soweit sie lediglich eine wirtschaftliche Berechtigung des Erblassers behaupte, bestreitet die Beschwerdeführerin weiterhin die Zuständigkeit der schweizerischen Gerichte. Insoweit fehle es an einer schuldrechtlichen Verbindung zwischen dem Erblasser und der Bank und die geltend gemachten Ansprüche könnten - sofern sie überhaupt bestünden - lediglich im Erbrecht gründen. Die Beschwerdeführerin beruft sich auf <ref-ruling> E. 3.4.2, wo vertragliche und erbrechtliche Auskunftsansprüche gegenüber der Bank unterschieden werden und ausgeführt wird, das Einsichtsbegehren, das sich auf eine vorbestehende Bankkundenbeziehung des Erblassers mit der Bank stützt, falle in dem Umfang nicht unter die ausgeschlossenen Materien nach <ref-law>, als dessen Bestand und Inhalt vertragsrechtlich begründet ist (S. 192). Sie folgert daraus, dass die vorliegend geltend gemachten Ansprüche in dem Umfang vom Anwendungsbereich des LugÜ ausgenommen seien, als sie nicht vertraglich begründet seien. Soweit der Erblasser lediglich wirtschaftlich und nicht vertraglich an den betreffenden Konten berechtigt gewesen sei, seien die geltend gemachten Ansprüche als solche erbrechtlicher Natur zu qualifizieren.
2.3 Es trifft zu, dass das Lugano-Übereinkommen für auf Erbrecht gestützte Auskunftsrechte keine Zuständigkeit vorsieht. Nun hat aber die Beschwerdegegnerin laut dem angefochtenen Urteil des Obergerichts ihre Ansprüche schuldrechtlich begründet und beruft sich nicht auf erbrechtliche Auskunftsrechte. Bei der Beurteilung der Zuständigkeit ist primär auf den vom Kläger eingeklagten Anspruch und dessen Begründung abzustellen. Die diesbezüglichen Einwände der Gegenpartei sind in diesem Stadium nicht zu prüfen, wenn die behaupteten Tatsachen sowohl für die Zulässigkeit der Klage als auch für deren Begründetheit von Bedeutung, d.h. doppelrelevant sind. In diesem Fall werden sie nur einmal untersucht, und zwar im Moment der Prüfung des eingeklagten Anspruchs (<ref-ruling> E. 6.2.1 S. 34 mit Hinweisen). So wird vorliegend in der Sache zu entscheiden sein, ob die wirtschaftliche Berechtigung des Erblassers an Konten, die auf eine Drittperson lauten, einen Auskunfts- und Editionsanspruch gegenüber der kontoführenden Bank vermittelte und dieser gegebenenfalls auf die Beschwerdegegnerin kraft Universalsukzession überging. Als erbrechtlich erworben bestehen vertragliche Auskunftsansprüche in dem Umfang, wie sie für den Erblasser gegolten haben (<ref-ruling> E. 2.5 S. 667). Inwieweit dies vorliegend der Fall war, ist der materiellrechtlichen Beurteilung vorbehalten und das Obergericht musste im Rahmen der Entscheidung der Zuständigkeitsfrage noch nicht prüfen, ob die geltend gemachten - schuldrechtlich begründeten - Auskunfts- und Editionsansprüche bloss vermeintlich oder tatsächlich gegeben sind.
2.4 Da die Beschwerdegegnerin ihre geltend gemachten Ansprüche schuldrechtlich begründet und diese damit insoweit nicht dem Gebiet "des Erbrechts einschliesslich des Testamentsrechts" im Sinne von <ref-law> zuzurechnen sind, hat das Obergericht diese Bestimmung nicht verletzt, indem es die Einrede der Unzuständigkeit verworfen hat.
3. Die Beschwerdeführerin rügt in diesem Zusammenhang allerdings die Sachverhaltsfeststellung im kantonalen Verfahren. Indem das Kassationsgericht ignoriere, dass die Beschwerdegegnerin ihre Ansprüche grösstenteils erbrechtlich begründet habe, habe es den Sachverhalt - wie bereits das Obergericht - offensichtlich unrichtig festgestellt.
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss <ref-law> gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre (<ref-law>). Er hat klar und substanziiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzugehen (vgl. <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3, 462 E. 2.4).
Das Obergericht führte unter Bezugnahme auf Seite 30 der Klagschrift aus, dass die Beschwerdegegnerin die Beschwerdeführerin - zumindest auch - gestützt auf ihre vertragliche Beziehung mit dem Erblasser ins Recht fassen will. Die Beschwerdeführerin rügte dies in ihrer Nichtigkeitsbeschwerde als aktenwidrig. Das Kassationsgericht wies die Rüge nach Konsultation von S. 30 der Klagschrift als unbegründet ab. Die Beschwerdeführerin wirft ihm nun vor, nicht auch die klägerischen Ausführungen auf S. 25 bis 29 der Klagschrift berücksichtigt zu haben. Sie belegt jedoch nicht und es geht aus der Nichtigkeitsbeschwerde nicht hervor, dass sie Entsprechendes vor dem Kassationsgericht geltend gemacht hätte. Es gelingt ihr damit nicht darzutun, dass das Kassationsgericht eine entsprechende aktenwidrige Sachverhaltsfeststellung zu Unrecht verneint hätte (vgl. <ref-ruling> E. 1a/cc und E. 1b S. 494 ff.).
4. Das Obergericht führte aus, die Beschwerdeführerin anerkenne immerhin, dass die AGB auf sämtliche vertraglichen Bankbeziehungen des Erblassers mit ihr zur Anwendung gelangen, was bei vorliegendem Ergebnis eben auch dazu führe, dass die zürcherischen Gerichte zuständig seien. Die Beschwerdeführerin erblickt darin wiederum eine Verletzung von <ref-law>, indem das Obergericht gestützt auf die vertraglich zwischen dem Erblasser und ihr vereinbarte Gerichtsstandsklausel die Zuständigkeit der schweizerischen Gerichte generell und somit insbesondere auch für die Beurteilung erbrechtlicher Ansprüche bejaht habe.
Die Rüge gebricht bereits an der Feststellung des Obergerichts, die Ansprüche seien nicht erbrechtlich begründet worden. Im Übrigen erfolgte der Hinweis auf die in den AGB enthaltene Gerichtsstandsklausel nur am Rande. Das Obergericht hat die Einrede der Unzuständigkeit mit der Begründung verworfen, dass die eingeklagten Begehren nicht in die vom Anwendungsbereich des LugÜ ausgenommenen Materien fallen. Diese Begründung hat sich als zutreffend erwiesen (Erwägung 2).
5. Die Beschwerde ist abzuweisen. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 3'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Zürich, I. Zivilkammer, und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 29. Juli 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Widmer