Sachverhalt: A. A._ (Beschwerdeführer) eröffnete im Jahr 1990 bei der Bank X._ (Beschwerdegegnerin) auf den Namen seiner Schwester ein Sparheft mit der Nr. 001. Als wirtschaftlich Berechtigter wurde der Beschwerdeführer angegeben. Über das entsprechende Konto erhielt er von seiner Schwester eine Vollmacht. Über das weitere Schicksal des Kontos ist nichts Genaues bekannt. Im Jahr 2005 gab die Beschwerdegegnerin dem Beschwerdeführer auf Anfrage bekannt, das Konto existiere seit mehr als zehn Jahren nicht mehr. Am 24. Januar 2006 bestätigte sie dies und teilte dem Beschwerdeführer mit, sie könne ihm keine weiteren Auskünfte über das Konto mehr geben, da mit der Saldierung der Kontobeziehung auch die Vollmacht erloschen sei. Am selben Tag informierte die Beschwerdegegnerin den Beschwerdeführer jedoch über ein weiteres Konto Nr. 002 mit Schlussaldo von ca. Fr. 40'000.-- und teilte ihm mit, seine Schwester habe dieses Konto im Jahr 2004 aufgelöst. Der Beschwerdeführer stellte sich auf den Standpunkt, dass das Konto zwar auf den Namen seiner Schwester eröffnet worden sei, das einbezahlte Geld jedoch ihm gehört habe. Er hielt für erwiesen, dass seine Schwester das Geld veruntreut habe. Da das Bankgeheimnis bei strafbaren Handlungen nicht angerufen werden könne und die seinerzeit eingeräumte Vollmacht nie widerrufen worden sei, verlangte er von der Beschwerdegegnerin Auskunft über die beiden Konti, was diese verweigerte. B. B.a Am 20. Juni 2007 reichte der Beschwerdeführer beim Bezirksgericht Zürich Klage ein mit dem Begehren, die Beschwerdegegnerin sei zu verurteilen, ihm einen Kontoauszug des Sparheftes Nr. 001 sowie einen Auszug des Kontos Nr. 002 herauszugeben. Ferner habe die Beschwerdegegnerin ihm Kopien der Unterlagen über die Umwandlung des Sparheftes Nr. 001 in das Konto Nr. 002 sowie über Bezüge vom Sparheft Nr. 001 und vom Konto Nr. 002 auszuhändigen. Mit Urteil vom 10. März 2008 wies das Bezirksgericht Zürich die Klage ab. B.b Dagegen appellierte der Beschwerdeführer an das Obergericht des Kantons Zürich und beantragte die Aufhebung des erstinstanzlichen Urteils und die Gutheissung der Klage. Mit Urteil vom 5. September 2008 wies das Obergericht die Appellation ab. B.c Gegen diesen Entscheid legte der Beschwerdeführer Nichtigkeitsbeschwerde beim Kassationsgericht des Kantons Zürich ein. Mit Zirkulationsbeschluss vom 24. November 2008 wies das Kassationsgericht die Beschwerde ab, soweit es darauf eintrat. C. Mit Beschwerde in Zivilsachen vom 10. Oktober 2008 beantragt der Beschwerdeführer dem Bundesgericht, es sei das Urteil des Obergerichts des Kantons Zürich aufzuheben und die Klage gutzuheissen. Eventualiter sei die Sache an die Vorinstanz zur weiteren Beweiserhebung und Neubeurteilung zurückzuweisen. Für das bundesgerichtliche Verfahren verlangt der Beschwerdeführer die Gewährung der unentgeltlichen Rechtspflege. Es wurden keine Vernehmlassungen eingeholt.