Sachverhalt: A. Die Y._ AG (Beschwerdegegnerin) bezweckt die Produktion und die Herausgabe von Telefonverzeichnissen und gibt seit vielen Jahren das Branchentelefonbuch "Die Gelben Seiten" sowie lokale Telefon- und Branchenverzeichnisse mit der Bezeichnung "local" heraus. Die X._ GmbH hat die Führung von Dienstleistungsregistern und Datenbanken sowie das Erbringen von weiteren Dienstleistungen im Onlinebereich zum Zweck. Sie betreibt unter der Internetadresse www.chtelefon.ch eine Homepage, auf der sich nach Branchen gegliederte Adressen und Telefonnummern abrufen lassen. Die X._ GmbH akquiriert für ihr online Telefonverzeichnis ausschliesslich im Segment der Geschäftskunden, indem sie potentiellen Kunden in der ganzen Schweiz auf postalischem Weg unaufgefordert ihr bereits teilweise ausgefülltes Formular zustellt, das diese nur noch zu ergänzen, gegebenenfalls abzuändern, zu unterzeichnen und zurückzusenden brauchen. Das von der X._ GmbH verwendete Formular sieht wie folgt aus: B. Am 23. März 2009 erhob die Y._ AG beim Handelsgericht des Kantons Zürich Klage gegen die X._ GmbH wegen unlauteren Wettbewerbs mit dem folgenden Rechtsbegehren: "Es sei der Beklagten unter Androhung von Ungehorsamsstrafe gemäss Art. 292 StGB im Widerhandlungsfall zu verbieten, Offerten für den Abschluss von Insertionsverträgen in einem online Telefonverzeichnis mit der Internetadresse www.chtelefon.ch oder www.ch-telefon.ch gemäss Beilage 1 mit oder ohne vorgedruckter Adresse des Kunden im Geschäftsverkehr zu verwenden." D as Handelsgericht sprach am 31. Mai 2010 folgendes Verbot aus: "Der Beklagten wird unter Androhung der Überweisung ihrer verantwortlichen Organe an den Strafrichter zur Bestrafung wegen Ungehorsams gegen eine amtliche Verfügung im Sinne von Art. 292 StGB (Bestrafung mit Busse) für den Zuwiderhandlungsfall verboten, Offerten für den Abschluss von Insertionsverträgen in einem online Telefonverzeichnis mit der Internetadresse www.chtelefon.ch oder www.ch-telefon.ch gemäss act. 15/1 mit oder ohne vorgedruckter Adresse des Kunden im Geschäftsverkehr zu verwenden." Eine von der X._ GmbH am 23. August 2010 gegen dieses Urteil erhobene kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich mit Zirkulationsbeschluss vom 23. November 2011 ab, soweit es darauf eintrat. C. Die X._ GmbH beantragt mit Beschwerde in Zivilsachen, das Urteil des Handelsgerichts vom 31. Mai 2010 und den Zirkulationsbeschluss des Kassationsgerichts vom 23. November 2011aufzuheben. Die Y._ AG schliesst auf Abweisung der Beschwerde. Sowohl das Handelsgericht als auch das Kassationsgericht haben auf eine Vernehmlassung verzichtet. Die Parteien reichten eine Replik und eine Duplik ein, obwohl das Bundesgericht keinen weiteren Schriftenwechsel angeordnet hatte.