Sachverhalt: A. Die X._ AG (Beschwerdeführerin) mit Sitz in Z._ und die Y._ AG (Beschwerdegegnerin) mit Sitz in Q._ schlossen am 18./19. Dezember 2002 eine Vereinbarung, wonach die Beschwerdeführerin der Beschwerdegegnerin für das per 31. Dezember 2002 von der S._ AG in die Beschwerdeführerin eingebrachte Versicherungsportefeuille eine Entschädigung von 17 % der eingegangenen Courtagen und Erfolgsbeteiligungen, die auf dieses Portefeuille entfallen, solange ausrichtet, bis der Betrag von Fr. 545'000.-- abgegolten ist. B. B.a Am 26. März 2008 reichte die Beschwerdegegnerin gegen die Beschwerdeführerin beim Handelsgericht Zürich Klage ein. Damit verlangte sie die Zahlung von Fr. 65'985.70 nebst Zins (Rechtsbegehren 1) sowie die Herausgabe detaillierter Provisionsabrechnungen für die Jahre 2003, 2004, 2005 und 2007 und die Einsichtnahme in die entsprechenden Unterlagen (Rechtsbegehren 2), wobei von einem allfälligen Nachklagevorbehalt Vormerk zu nehmen sei. Sie machte geltend, dass gewisse Kunden aufgrund unsorgfältiger Mandatsführung durch die Beschwerdeführerin ihre Mäklerverträge mit dieser gekündigt hätten, und verlangte wegen verlorener Courtagen Schadenersatz. Zudem forderte sie bezüglich bestimmter Kunden ihre Courtageanteile für das Jahr 2007, welche die Beschwerdeführerin ungerechtfertigt zurückbehalten habe. Dieser Forderung stellte die Beschwerdeführerin eine Verrechnungseinrede gegenüber. In der Replik änderte die Beschwerdegegnerin ihre Rechtsbegehren wie folgt: "1. Die Beklagte sei zu verpflichten, der Klägerin CHF 64'490.55 nebst 5% Zins ab 19. Oktober 2007 zu bezahlen. 2. a) Die Beklagte sei unter Androhung der Bestrafung gemäss Art. 292 StGB im Widerhandlungsfall zu verpflichten, für die Jahre 2003-2007 detaillierte jährliche Provisionsabrechnungen gemäss Vereinbarung vom 18./19. Dezember 2002 (act. 4/5) zu erstellen und innerhalb von 4 Wochen ab Rechtskraft des Entscheids der Klägerin herauszugeben, unter genauer Angabe, welche Versicherungsgesellschaft im betreffenden Jahr für welche Versicherungsverträge wie hohe Courtagen und anderweitige Entschädigungen bezahlt hat, und zwar für die Kunden gemäss Kundenliste der S._ AG (act. 4/5). b) Sodann sei die Beklagte unter Androhung der Bestrafung gemäss Art. 292 StGB im Widerhandlungsfall zu verpflichten, der Klägerin oder einem von ihr beauftragten Treuhänder Einsicht in sämtliche Mäklerverträge mit den Kunden gemäss Kundenliste der S._ AG (act. 4/5), in sämtliche Prämienabrechnungen dieser Kunden, in sämtliche Verträge der Beklagten mit denjenigen Versicherungen, bei welchen diese Kunden versichert sind resp. waren sowie in sämtliche Courtagenabrechnungen bezüglich dieser Kunden zu gewähren, alles im Zeitraum vom 1. Januar 2003 bis 31. Dezember 2007. c) Schliesslich sei die Beklagte unter Androhung der Bestrafung gemäss Art. 292 StGB im Widerhandlungsfall zu verpflichten, der Klägerin Einsicht in die im Zeitraum 2003 und 2004 mit der T._ Versicherungen AG und der U._ Versicherungen geführte Korrespondenz betreffend die Auflösung von Versicherungsverträgen mit den Kunden gemäss Kundenliste der S._ AG (act. 4/5) zu gewähren. 3. Unter Kosten- und Entschädigungsfolgen zu Lasten der Beklagten. Alles unter Nachklagevorbehalt." Am 19. Oktober 2009 fällte das Handelsgericht folgendes Urteil: "1. Die Beklagte wird verpflichtet, der Klägerin CHF 10'125.69 zuzüglich 5 % Zins seit dem 20. Oktober 2007 zu bezahlen. Im Mehrbetrag wird die Klage abgewiesen. 2. a) Die Beklagte wird in teilweiser Gutheissung von Rechtsbegehren Ziff. 2 a) unter Androhung der Bestrafung ihrer Organe mit Busse gemäss Art. 292 StGB im Widerhandlungsfall verpflichtet, für die Jahre 2003-2007 detaillierte jährliche Provisionsabrechnungen gemäss Vereinbarung vom 18./19. Dezember 2002 (act. 4/5) zu erstellen und innerhalb von 4 Wochen ab Rechtskraft des Entscheids der Klägerin herauszugeben, unter genauer Angabe, welche Versicherungsgesellschaft im betreffenden Jahr für welche Versicherungsverträge wie hohe Courtagen und anderweitige Entschädigungen bezahlt hat, und zwar für die Kunden gemäss Kundenliste der S._ AG (act. 4/5). Ausgenommen hiervon sind von der Dispositivziffer 1 erfasste Sachverhalte, nämlich (a): Geltend gemachter Schadenersatz bis zum 31. Dezember 2007 wegen unsorgfältiger Mandatsführung betreffend folgende Kunden: V._ und 16 weitere; sowie (b): geltend gemachte Erfüllungsklage wegen "Ausschluss gewisser Courtagen" für das Jahr 2007 betreffend folgende Kunden (vgl. act. 4/35): W._ und 27 weitere. b) Die Beklagte wird in teilweiser Gutheissung von Rechtsbegehren Ziff. 2 b) unter Androhung der Bestrafung ihrer Organe mit Busse gemäss Art. 292 StGB im Widerhandlungsfall verpflichtet, der Klägerin oder einem von ihr beauftragten Treuhänder Einsicht in sämtliche Mäklerverträge mit den Kunden gemäss Kundenliste der S._ AG (act. 4/5), in sämtliche Prämienrechnungen dieser Kunden, in sämtliche Verträge der Beklagten mit denjenigen Versicherungen, bei welchen diese Kunden versichert sind resp. waren sowie in sämtliche Courtagenabrechnungen bezüglich dieser Kunden zu gewähren, alles im Zeitraum vom 1. Januar 2003 bis 31. Dezember 2007. Ausgenommen hiervon sind von der Dispositivziffer 1 erfasste Sachverhalte, nämlich (a): Geltend gemachter Schadenersatz bis zum 31. Dezember 2007 wegen unsorgfältiger Mandatsführung betreffend folgende Kunden: V._ und 16 weitere; sowie (b): geltend gemachte Erfüllungsklage wegen "Ausschluss gewisser Courtagen" für das Jahr 2007 betreffend folgende Kunden (vgl. act. 4/35): W._ und 27 weitere. c) Die Beklagte wird in teilweiser Gutheissung von Rechtsbegehren Ziff. 2 c) unter Androhung der Bestrafung ihrer Organe mit Busse gemäss Art. 292 StGB im Widerhandlungsfall verpflichtet, der Klägerin Einsicht in die im Zeitraum 2003 und 2004 erfolgten Kündigungsschreiben von oder an die T._ Versicherungen AG und die U._ Versicherungen betreffend die Kunden gemäss Kundenliste der S._ AG (act. 4/5) zu gewähren. Ausgenommen hiervon sind von der Dispositivziffer 1 erfasste Sachverhalte, nämlich (a): Geltend gemachter Schadenersatz bis zum 31. Dezember 2007 wegen unsorgfältiger Mandatsführung betreffend folgende Kunden: V._ und 16 weitere; sowie (b): geltend gemachte Erfüllungsklage wegen "Ausschluss gewisser Courtagen" für das Jahr 2007 betreffend folgende Kunden (vgl. act. 4/35): W._ und 27 weitere. 3. Die Gerichtsgebühr wird festgesetzt auf CHF 11'000.--. 4. Die Kosten werden zu 4/5 der Klägerin und zu 1/5 der Beklagten auferlegt. 5. Die Klägerin wird verpflichtet, der Beklagten eine Prozessentschädigung von CHF 7'800.-- zu bezahlen. [...]" B.b Gegen dieses Urteil erhob die Beschwerdeführerin kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons Zürich. Dieses wies die Beschwerde mit Zirkulationsbeschluss vom 30. Mai 2011 ab, soweit es darauf eintrat. Der Zirkulationsbeschluss des Kassationsgerichts wurde nicht angefochten. C. Die Beschwerdeführerin stellt mit Beschwerde in Zivilsachen die folgenden Anträge: "1. Es seien die Ziff. 2a, 2b und 2c des Dispositivs des Urteils des Handelsgerichts des Kantons Zürich vom 19. Oktober 2009 ersatzlos aufzuheben und es sei auf die Klage in diesem Umfang nicht einzutreten beziehungsweise die Klage sei in diesem Umfang abzuweisen und es seien die Ziff. 4 und 5 des Dispositivs dieses Urteils ausgangsgemäss anzupassen. 2. Eventualantrag: Es sei an Stelle der Ziff. 2a, 2b und 2c des Dispositivs des Urteils des Handelsgerichts des Kantons Zürich vom 19. Oktober 2009 eine vollstreckungsfähige Anordnung zu erlassen, welche sich nicht auf die mittels Büroklammer an die Klagebeilage act. 4/5 angeheftete Liste angeblicher Kunden der S._ AG stützt und mit welcher genau bestimmt wird, hinsichtlich welcher namentlich genannter ehemaliger Kunden der S._ AG bezüglich welches Zeitraumes welche vertraglich geschuldeten Auskunfts- und Rechenschaftsablegungen von der Beschwerdeführerin zu erbringen sind. 3. Subeventualantrag: Es seien die Ziff. 2a, 2b und 2c des Dispositivs des Urteils des Handelsgerichts des Kantons Zürich vom 19. Oktober 2009 aufzuheben und es sei die Frage des genauen Umfangs der Verpflichtung der Beschwerdeführerin zur Auskunfts- und Rechenschaftsablegung im Sinne des Eventualantrages Ziff. 2 an die Vorinstanz zurückzuweisen." Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit auf sie einzutreten sei. Die Vorinstanz verzichtete auf eine Vernehmlassung. Die Parteien reichten eine Replik und eine Duplik ein. Mit Präsidialverfügung vom 15. August 2011 wurde der Beschwerde aufschiebende Wirkung erteilt.