Sachverhalt:
A. A._ (Beschwerdeführer) eröffnete im Jahr 1990 bei der Bank X._ (Beschwerdegegnerin) auf den Namen seiner Schwester ein Sparheft mit der Nr. 001. Als wirtschaftlich Berechtigter wurde der Beschwerdeführer angegeben. Über das entsprechende Konto erhielt er von seiner Schwester eine Vollmacht.
Über das weitere Schicksal des Kontos ist nichts Genaues bekannt. Im Jahr 2005 gab die Beschwerdegegnerin dem Beschwerdeführer auf Anfrage bekannt, das Konto existiere seit mehr als zehn Jahren nicht mehr. Am 24. Januar 2006 bestätigte sie dies und teilte dem Beschwerdeführer mit, sie könne ihm keine weiteren Auskünfte über das Konto mehr geben, da mit der Saldierung der Kontobeziehung auch die Vollmacht erloschen sei.
Am selben Tag informierte die Beschwerdegegnerin den Beschwerdeführer jedoch über ein weiteres Konto Nr. 002 mit Schlussaldo von ca. Fr. 40'000.-- und teilte ihm mit, seine Schwester habe dieses Konto im Jahr 2004 aufgelöst. Der Beschwerdeführer stellte sich auf den Standpunkt, dass das Konto zwar auf den Namen seiner Schwester eröffnet worden sei, das einbezahlte Geld jedoch ihm gehört habe. Er hielt für erwiesen, dass seine Schwester das Geld veruntreut habe. Da das Bankgeheimnis bei strafbaren Handlungen nicht angerufen werden könne und die seinerzeit eingeräumte Vollmacht nie widerrufen worden sei, verlangte er von der Beschwerdegegnerin Auskunft über die beiden Konti, was diese verweigerte.
B. B.a Am 20. Juni 2007 reichte der Beschwerdeführer beim Bezirksgericht Zürich Klage ein mit dem Begehren, die Beschwerdegegnerin sei zu verurteilen, ihm einen Kontoauszug des Sparheftes Nr. 001 sowie einen Auszug des Kontos Nr. 002 herauszugeben. Ferner habe die Beschwerdegegnerin ihm Kopien der Unterlagen über die Umwandlung des Sparheftes Nr. 001 in das Konto Nr. 002 sowie über Bezüge vom Sparheft Nr. 001 und vom Konto Nr. 002 auszuhändigen. Mit Urteil vom 10. März 2008 wies das Bezirksgericht Zürich die Klage ab.
B.b Dagegen appellierte der Beschwerdeführer an das Obergericht des Kantons Zürich und beantragte die Aufhebung des erstinstanzlichen Urteils und die Gutheissung der Klage. Mit Urteil vom 5. September 2008 wies das Obergericht die Appellation ab.
B.c Gegen diesen Entscheid legte der Beschwerdeführer Nichtigkeitsbeschwerde beim Kassationsgericht des Kantons Zürich ein. Mit Zirkulationsbeschluss vom 24. November 2008 wies das Kassationsgericht die Beschwerde ab, soweit es darauf eintrat.
C. Mit Beschwerde in Zivilsachen vom 10. Oktober 2008 beantragt der Beschwerdeführer dem Bundesgericht, es sei das Urteil des Obergerichts des Kantons Zürich aufzuheben und die Klage gutzuheissen. Eventualiter sei die Sache an die Vorinstanz zur weiteren Beweiserhebung und Neubeurteilung zurückzuweisen. Für das bundesgerichtliche Verfahren verlangt der Beschwerdeführer die Gewährung der unentgeltlichen Rechtspflege.
Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. Die Beschwerde richtet sich gegen einen verfahrensabschliessenden Entscheid einer kantonalen Letztinstanz (Art. 75 Abs. 1 i.V.m. <ref-law>) in einer Zivilsache (<ref-law>), die Rechtsbegehren des Beschwerdeführers sind im kantonalen Verfahren nicht vollständig geschützt worden (<ref-law>), der massgebende Streitwert beträgt mehr als Fr. 30'000.-- (Art. 51 i.V.m. <ref-law>) und die Beschwerdefrist ist eingehalten (<ref-law>). Auf die Beschwerde ist damit grundsätzlich einzutreten.
2. Der Beschwerdeführer wirft der Vorinstanz eine Verletzung von <ref-law> und <ref-law> vor. Gemäss <ref-ruling> ff. habe ein Bevollmächtigter Anspruch auf Auskunftserteilung durch die Bank, der erst mit dem Widerruf der Vollmacht dahinfalle.
2.1 Beim Widerruf einer Vollmacht handelt es sich um eine einseitige empfangsbedürftige Gestaltungserklärung, die auch konkludent oder stillschweigend erfolgen kann (Alfred Koller, Schweizerisches Obligationenrecht, Allgemeiner Teil, 3. Aufl. 2009, § 18 Rz. 20; ROGER ZÄCH, in: Berner Kommentar, 1990, N. 3 zu <ref-law>; PETER JUNG, in: Heinrich Honsell [Hrsg.], Kurzkommentar OR, 2008, N. 1 zu <ref-law>). Von einem konkludenten Widerruf wird im Bankverkehr etwa ausgegangen, wenn ein Kontoinhaber eine Vollmacht für ein bestimmtes Konto erteilt hat und dieses später aufhebt (EMCH/RENZ/ARPAGAUS, Das Schweizerische Bankgeschäft, 6. Aufl. 2004, Rz. 694; FELIX ERB, Die Bankvollmacht, 1974, S. 253). Bei Kundgabe des Widerrufs nur an die Bank besteht die interne Vollmacht so lange fort, bis der Bevollmächtigte durch die Bank als Botin oder durch den Vollmachtgeber über den Widerruf informiert wird (ERB, a.a.O., S. 246). Nach dem Erlöschen der Vollmacht haben Banken gegenüber dem früheren Bevollmächtigten wieder das Bankgeheimnis zu wahren und zwar auch bezüglich Vorgängen während der Zeit, als die Vollmacht bestand (vgl. <ref-ruling> E. 4 S. 119; ZÄCH, a.a.O., N. 9 zu <ref-law>; ERB, a.a.O., S. 247).
2.2 Ob die Vollmacht des Beschwerdeführers nach Auflösung des Sparheftes Nr. 001 auch für das Konto Nr. 002 bestand und ob die Auskunftspflicht der Bank allenfalls bereits mit Saldierung des Sparheftes bzw. Kontos dahinfiel, kann offen bleiben, da dem Beschwerdeführer jedenfalls am 24. Januar 2006 die konkludente Erklärung des Widerrufs seiner Vollmacht zugegangen ist. Somit bestand bei Klageeinreichung am 20. Juni 2007 keine Vollmacht mehr, aus welcher der Beschwerdeführer allenfalls ein Recht auf Auskunft hätte herleiten können.
3. Weiter wirft der Beschwerdeführer der Vorinstanz eine Verletzung von <ref-law> vor. Aus dieser Bestimmung ergebe sich e contrario, dass die Bank den vom Kontoinhaber beauftragten Personen Auskunft zu erteilen habe.
Auch diese Rüge geht fehl. Der Beschwerdeführer verkennt, dass <ref-law> eine Strafnorm ist, die als solche keine Anspruchsgrundlage für einen privatrechtlichen Auskunftsanspruch bildet.
4. Der Beschwerdeführer macht weiter eine Verletzung von <ref-law> geltend. Die Beschwerdegegnerin habe sich ihm gegenüber auf das Bankgeheimnis berufen, dann aber gleichwohl Auskünfte über Vorgänge erteilt, die unter das Bankgeheimnis fielen. Ein solches Verhalten stelle ein venire contra factum proprium dar.
4.1 <ref-law> sanktioniert Handlungen, die zwar im Einklang mit der entsprechenden gesetzlichen Norm oder einer privatautonomen Vertragsbestimmung stehen, aber objektiv eine Verletzung des Redlichkeitsstandards von Treu und Glauben darstellen und damit das Vertrauen der Rechtsgenossen auf redliches und sachangemessenes Verhalten enttäuschen (<ref-ruling> E. 2a S. 259; BRUNO HUWILER, Aequitas und bona fides als Faktoren der Rechtsverwirklichung, Beiheft 16 zur ZSR 1994, S. 57 f.). Als Fallgruppe des Rechtsmissbrauchs erfasst <ref-law> auch das widersprüchliche Verhalten (venire contra factum proprium). Nach bundesgerichtlicher Rechtsprechung gibt es allerdings keinen Grundsatz der Gebundenheit an das eigene Handeln. Setzt sich jemand zu seinem früheren Verhalten in Widerspruch, ist darin nur dann ein Verstoss gegen Treu und Glauben zu erblicken, wenn das frühere Verhalten ein schutzwürdiges Vertrauen begründet hat, welches durch die neuen Handlungen enttäuscht würde (<ref-ruling> E. 5.1 S. 497; <ref-ruling> E. 2a S. 259; <ref-ruling> E. 5b S. 353; <ref-ruling> E. 5a S. 338; MERZ, Berner Kommentar, N. 401 f. zu <ref-law>). Der Vertrauende muss aufgrund des geschaffenen Vertrauens Dispositionen getroffen haben, die sich nun als nachteilig erweisen (<ref-ruling> E. 2a S. 259).
4.2 Inwiefern das Verhalten der Beschwerdegegnerin beim Beschwerdeführer ein schutzwürdiges Vertrauen begründet hat, das durch neue Handlungen enttäuscht wurde und welche Dispositionen er gestützt darauf getroffen haben soll, legt der Beschwerdeführer nicht dar und ist auch nicht ersichtlich. Eine Verletzung des Rechtsmissbrauchsverbots liegt nicht vor.
5. Schliesslich wirft der Beschwerdeführer der Vorinstanz eine formelle Rechtsverweigerung und damit sinngemäss eine Verletzung des rechtlichen Gehörs vor, indem sie einen der in der Berufungsreplik gestellten Anträge nicht beurteilt habe. Mit diesem Antrag hat der Beschwerdeführer verlangt, die Berufungsantwort sei an die Beschwerdegegnerin zur Überarbeitung zurückzuweisen mit der Auflage, zu den Vorbringen des Beschwerdeführers in der Berufungsschrift Stellung zu nehmen und anzugeben, welche Noven geltend gemacht würden und warum die Voraussetzungen dazu gegeben seien.
5.1 Der Anspruch auf rechtliches Gehör nach <ref-law> umfasst insbesondere das Recht des Betroffenen, sich zur Sache zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (<ref-ruling> E. 2.2 S. 504 f.; <ref-ruling> E. 2b S. 56; <ref-ruling> E. 2a/aa S. 16; <ref-ruling> E. 1c S. 19).
5.2 Beim fraglichen Antrag handelt es sich um ein prozessuales Begehren, dessen Behandlung keinen wesentlichen Einfluss auf den Entscheid der Vorinstanz gehabt hätte, zumal die Vorinstanz ihren Entscheid nicht auf die Vorbringen der Beschwerdegegnerin gestützt hatte. Die stillschweigende Ablehnung des Antrags durch die Vorinstanz stellt keinen wesentlichen Verfahrensmangel dar.
6. Die Begehren des Beschwerdeführers erschienen von vornherein aussichtslos, weshalb dem Gesuch um unentgeltliche Rechtspflege nicht entsprochen werden kann (<ref-law>). Da nach dem Gesagten auch die Beschwerde abzuweisen ist, wird der Beschwerdeführer kostenpflichtig (<ref-law>). Eine Parteientschädigung ist hingegen nicht geschuldet, da beim Beschwerdegegner keine Vernehmlassung eingeholt wurde (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
2. Die Beschwerde wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 8. Mai 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Hurni