Sachverhalt: A. A.a. Die Bank X._ AG (Beauftragte, Beklagte, Beschwerdeführerin) und die Y._ Ltd (Auftraggeberin, Klägerin, Beschwerdegegnerin) nahmen am 31. August 2004 eine Geschäftsbeziehung auf. Grundlage der vertraglichen Beziehung der Parteien waren ein Rahmenvertrag für Over-The-Counter (OTC) -Devisengeschäfte sowie Call- und Put-Optionen auf Devisen und Edelmetallen vom 31. August 2004, die von der Y._ Ltd am 31. August 2004 unterschriftlich akzeptierten Bedingungen für die Vermittlung von Optionskontrakten, ein Rahmenvertrag für einen Lombardkredit vom 31. August 2004 und eine Allgemeine Faustpfandverschreibung vom 31. August 2004. Am 18. März 2005 kam ein Vertrag über die Errichtung eines Kontos und Depots hinzu. A.b. Die Geschäftsbeziehung der Parteien gestaltete sich so, dass die Bank X._ AG in eigenem Namen, aber im Auftrag und für Rechnung der Y._ Ltd Optionskontrakte abschloss. Dabei hatte diese im Rahmen eines sog. Margin Trading einen prozentualen Anteil des Kaufpreises in Eigenmitteln aufzubringen, während der Restbetrag von der Bank X._ AG als Kredit zur Verfügung gestellt wurde. Für diesen Kredit hatte die Y._ Ltd eine bestimmte Marge als Sicherheit zu leisten. Wenn sich die Marge "auf Grund aktueller Berechnung nach Ermessen der Bank als ungenügend" erweisen sollte, war die Y._ Ltd gehalten, die Margennachforderung (Margin Call) der Bank X._ AG sofort zu begleichen. Der Deckung der Marge diente u.a. der Lombardkredit. Sowohl der Abschluss der Optionskontrakte als auch der Lombardkredit waren durch die mit der Faustpfandverschreibung verpfändeten Werte der Y._ Ltd (zusätzlich) gesichert. A.c. Zwischen Dezember 2006 und Januar 2007 forderte die Bank X._ AG von der Y._ Ltd mittels vier Margin Calls einen Betrag von insgesamt Fr. 5'248'000.-- nach. Die Y._ Ltd opponierte gegen die Nachforderungen, kam ihnen aber vollumfänglich nach. B. B.a. Mit Klage vom 16. Oktober 2007 beim Zivilgericht Basel-Stadt stellte die Y._ Ltd die folgenden Anträge: "1. Die Beklagte sei zu verpflichten, der Klägerin umfassend Rechenschaft über ihre Geschäftsbeziehung für die Klägerin abzugeben sowie eine umfassend dokumentierte Schlussabrechnung vorzulegen. Hierbei sei die Beklagte weiter zu verpflichten, insbesondere folgende Bereiche ihrer Geschäftsbeziehung zur Klägerin für die Monate November 2006 bis Januar 2007 lückenlos, detailliert und dokumentiert nachzuweisen: a) Aufstellung sämtlicher Vermögenspositionen, welche der Beklagten als Sicherheit für ihre Geschäftsbeziehung mit der Klägerin dienten; b) Nachweis allenfalls bestehender Vernetzungen zwischen den Vermögenspositionen gemäss lit. a hiervor; c) Bewertung der Vermögensposition gemäss lit. a hiervor durch die Beklagte; d) Nachweis der für die Beklagte aus der Bewertung gemäss lit. c hiervor resultierenden Belehnungswerte und Kreditlimiten; e) Nachweis des von Z._ ausgewiesenen Exposure; f) Nachweis der von Z._ ausgewiesenen Net Present Values; g) Nachweis der von Z._ errechneten Kreditlimitüberschreitungen; h) Nachweis der von der Abteilung Direct Access Clients errechneten Net Present Values; 2. Die Beklagte sei zu verpflichten, die den Margennachforderungen vom 1., 13. und 19. Dezember 2006 sowie vom 3. Januar 2007 zugrunde gelegten Kennzahlen und Berechnungen zu edieren. 3. Die Beklagte sei zu verpflichten, der Klägerin sämtliche im Zusammenhang mit ihrer Geschäftsbeziehung erhaltenen bzw. erstellten Aufzeichnungen (Telefonaufzeichnungen, EDV-Aufzeichnungen usw.), Protokolle und Belege zu edieren. Hierbei sei die Beklagte insbesondere zu verpflichten, die Aufzeichnungen und Protokolle sämtlicher Telefonate zwischen A._ und B._, Abteilung "Direct Access Clients" zu edieren, insbesondere betreffend die nachfolgend genannten Daten: a) Telefonate zwischen A._ und B._ vom 18. Dezember 2006; b) Telefonate zwischen A._ und B._ vom 20. Dezember 2006; c) Telefonate zwischen A._ und B._ vom 3. Januar 2007; d) Telefonate zwischen A._ und B._ vom 4. Januar 2007." Mit Urteil vom 2. Dezember 2009 wies das Zivilgericht die Klage ab, soweit es darauf eintrat. B.b. Dagegen erhob die Y._ Ltd Appellation beim Appellationsgericht des Kantons Basel-Stadt. Sie beantragte die Aufhebung des Urteils des Zivilgerichts und wiederholte ihre erstinstanzlich gestellten Anträge. Am 4. November 2011 urteilte das Appellationsgericht wie folgt: "In Gutheissung des Appellationsbegehrens Ziff. 1 wird das angefochtene Urteil aufgehoben. In teilweiser Gutheissung des Klagbegehrens Ziff. 1 bzw. Appellationsbegehrens Ziff. 2 wird die Beklagte verpflichtet, - der Klägerin eine umfassend dokumentierte Schlussabrechnung vorzulegen, - der Klägerin für die Monate November 2006 bis Januar 2007 eine lückenlose und detaillierte Aufstellung sämtlicher Vermögenspositionen, welche der Beklagten als Sicherheit für ihre Geschäftsbeziehung mit der Klägerin dienten, nachzuweisen, - der Klägerin die von Z._ ausgewiesenen Exposures und Net Present Values, auf die anlässlich der zwischen A._ und B._ geführten Telefonate vom 18. und 20. Dezember 2006 sowie 3. und 4. Januar 2007 explizit Bezug genommen worden ist, nachzuweisen. Im Übrigen wird das Klagbegehren Ziff. 1 bzw. Appellationsbegehren Ziff. 2 abgewiesen. In Gutheissung des Klagbegehrens Ziff. 2 bzw. Appellationsbegehrens Ziff. 3 wird die Beklagte verpflichtet, die den Margennachforderungen vom 1., 13. und 19. Dezember 2006 sowie vom 3. Januar 2007 zugrunde gelegten Kennzahlen und Berechnungen zu edieren. In teilweiser Gutheissung des Klagbegehrens Ziff. 3 bzw. Appellationsbegehrens Ziff. 4 wird die Beklagte verpflichtet, der Klägerin die Aufzeichnungen und Protokolle der Telefonate zwischen A._ und B._ vom 18. und 20. Dezember 2006 sowie 3. und 4. Januar 2007 zu edieren. Im Übrigen wird das Klagbegehren Ziff. 3 bzw. Appellationsbegehren Ziff. 4 abgewiesen. (Partei- und Gerichtskosten)." C. Mit Beschwerde in Zivilsachen vom 10. Januar 2012 beantragt die Bank X._ AG dem Bundesgericht, es sei das Urteil des Appellationsgerichts aufzuheben, soweit damit das Urteil des Zivilgerichts aufgehoben wurde und die Appellations- und Klagebegehren der Beschwerdegegnerin ganz oder teilweise gutgeheissen wurden, und es sei die Klage vollumfänglich abzuweisen. Die Beschwerdeführerin ersucht zudem um Erteilung der aufschiebenden Wirkung. Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde, soweit darauf einzutreten ist. Die Vorinstanz hat auf eine Vernehmlassung verzichtet. Die Parteien reichten unaufgefordert Replik und Duplik ein. D. Mit Präsidialverfügung vom 31. Januar 2012 wurde der Beschwerde die aufschiebende Wirkung erteilt.