Sachverhalt:
A. Die Keytrade AG bzw. Keytrade SA oder Keytrade Ltd. (Klägerin, Beschwerdegegnerin) ist eine schweizerische Aktiengesellschaft mit Sitz in Thalwil/ZH. Sie wurde am 2. Mai 1997 in das Handelsregister eingetragen und bezweckt den weltweiten Handel mit Rohstoffen, insbesondere mit chemischen Düngemitteln, inklusive Transport, Lagerung und alle damit zusammenhängenden Aktivitäten.
Die Keytrade Bank SA (Beklagte, Beschwerdeführerin) ist eine belgische Aktiengesellschaft und wurde 1998 gegründet. Am 18. Februar 2009 liess sie im Handelsregister des Kantons Genf eine Zweigniederlassung unter der Firma Keytrade Bank SA, Bruxelles, succursale de Genève eintragen. Die Beklagte bezweckt den Betrieb einer Bank und den Wertpapierhandel.
B. Am 23. Dezember 2009 klagte die Keytrade AG beim Handelsgericht des Kantons Zürich gegen die Keytrade Bank SA und verlangte von ihr zunächst, die Führung der Firma Keytrade Bank SA, Bruxelles, succursale de Genève in der Schweiz nach Ablauf einer angemessenen Frist zu unterlassen. Dieses Begehren sei aufgrund der Verwechslungsgefahr zwischen der prioritätsälteren Firma der Klägerin und der jüngeren Firma der schweizerischen Zweigniederlassung der Beklagten begründet. Weiter klagte sie gestützt auf Art. 29 Abs. 2 ZGB auf Unterlassung der Anmassung ihres Namens durch die Beklagte und beantragte, dieser sei zu verbieten, sich oder ihre schweizerische Zweigniederlassung oder ihre Dienstleistungen in der Schweiz weiterhin mit "Keytrade Bank" oder "Keytrade Bank Geneva Branch" zu bezeichnen. Schliesslich beantragte sie die Löschung des von der Beklagten verwendeten Domain-Namens "keytradebank.ch". Zur Durchsetzung ihrer Begehren verlangte die Klägerin die Androhung einer Bestrafung nach Art. 292 StGB im Zuwiderhandlungsfall.
Mit Urteil vom 1. Dezember 2011 hiess das Handelsgericht die Klage wie folgt gut:
"1. Der Beklagten wird mit Wirkung ab dem 61. Tag nach Rechtskraft dieses Urteils verboten, die Firma der Zweigniederlassung "Keytrade Bank SA, Bruxelles, succursale de Genève" zu führen, unter Androhung der Bestrafung ihrer Organe mit Busse wegen Verstosses gegen Art. 292 StGB im Falle der Zuwiderhandlung.
2. Der Beklagten wird mit Wirkung ab dem 31. Tag nach Rechtskraft dieses Urteils verboten, sich oder ihre schweizerische Zweigniederlassung oder ihre Dienstleistungen mit "Keytrade Geneva Branch Bank" oder "Keytrade Bank" zu bezeichnen, unter Androhung der Bestrafung ihrer Organe mit Busse wegen Verstosses gegen Art. 292 StGB im Falle der Zuwiderhandlung.
3. Die Beklagte wird verpflichtet, innerhalb einer Frist von 30 Tagen nach Rechtskraft dieses Urteils den Domain-Namen "keytradebank.ch" löschen zu lassen, unter Androhung der Bestrafung ihrer Organe mit Busse wegen Verstosses gegen Art. 292 StGB im Falle der Zuwiderhandlung.
..."
C. Mit Beschwerde in Zivilsachen beantragt die Beklagte dem Bundesgericht, es sei das Urteil des Handelsgerichts des Kantons Zürich vom 1. Dezember 2011 aufzuheben und die Klage sei abzuweisen. Eventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (Art. 29 Abs. 1 BGG; BGE 137 III 417 E. 1 S. 417 mit Hinweisen).
1.1 Angefochten ist ein Endentscheid einer letzten kantonalen Instanz (Art. 75 Abs. 1 und Abs. 2 lit. b sowie Art. 90 BGG). Dagegen steht die Beschwerde in Zivilsachen offen. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist - unter Vorbehalt einer hinreichenden Begründung (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG) - auf die Beschwerde einzutreten.
1.2 Mit der Beschwerde in Zivilsachen kann die Verletzung von Bundesrecht (einschliesslich Bundesverfassungsrecht) gerügt werden (Art. 95 lit. a BGG; BGE 134 III 379 E. 1.2). Nicht zu den in Art. 95 BGG vorgesehenen Rügegründen gehört hingegen die Verletzung kantonaler Verfahrensvorschriften, deren Anwendung und Auslegung vom Bundesgericht einzig unter dem Blickwinkel eines Verstosses gegen Bundesrecht bzw. gegen Bundesverfassungsrecht beurteilt werden kann (BGE 136 I 241 E. 2.4; 135 III 513 E. 4.3 S. 521; 134 III 379 E. 1.2 S. 382 f.). Auf das Verfahren vor der Vorinstanz fand noch die nunmehr aufgehobene Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 (aZPO/ZH) Anwendung (vgl. Art. 404 Abs. 1 der Schweizerischen Zivilprozessordnung [ZPO; SR 272]).
1.3 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind; es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 135 II 384 E. 2.2.1; 133 II 249 E. 1.4.1; je mit Hinweisen). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Macht der Beschwerdeführer beispielsweise eine Verletzung des Willkürverbots (Art. 9 BV) geltend, genügt es nicht, wenn er einfach behauptet, der angefochtene Entscheid sei willkürlich; er hat vielmehr im Einzelnen zu zeigen, inwiefern der angefochtene Entscheid offensichtlich unhaltbar ist (BGE 134 II 349 E. 3 S. 352; 133 I 1 E. 5.5 S. 5; 133 III 439 E. 3.2 S. 444).
Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 sowie Art. 106 Abs. 2 BGG, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Rechtsverletzung liegt. Der Beschwerdeführer soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die er im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. BGE 134 II 244 E. 2.1 S. 245 f.; 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 749). Die Begründung hat ferner in der Beschwerdeschrift selbst zu erfolgen und der blosse Verweis auf Ausführungen in anderen Rechtsschriften oder auf die Akten reicht nicht aus (BGE 133 II 396 E. 3.1 S. 399 f.; 131 III 384 E. 2.3 S. 387 f.; je mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Ausserdem hat der Beschwerdeführer mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen genannt hat (Urteile 4A_341/2011 vom 21. März 2012 E. 1.5.1; 4A_614/2011 vom 20. März 2012 E. 1.2; 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: BGE 134 III 570). Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351 f., 393 E. 7.1 S. 398, 462 E. 2.4 S. 466 f.).
1.5 Die Beschwerdeführerin stellt ihren rechtlichen Ausführungen eine eigene Sachverhaltsdarstellung voraus, in der sie die Hintergründe der firmenrechtlichen Rechtsstreitigkeit und die Prozessgeschichte aus ihrer Sicht schildert. Sie weicht darin verschiedentlich vom vorinstanzlich verbindlich festgestellten Sachverhalt ab oder ergänzt diesen, so unter anderem hinsichtlich der von den Parteien ausgeübten Tätigkeiten. Soweit sich der Beschwerdeschrift keine hinreichend begründeten Sachverhaltsrügen entnehmen lassen, haben ihre entsprechenden Ausführungen unbeachtet zu bleiben. Unbeachtlich ist etwa die in der Beschwerde erwähnte unbelegte Vermutung, die Beschwerdegegnerin handle gar nicht aus eigenem Interesse, sondern lasse sich von Dritten vorschieben, die auf dem Schweizer Finanzmarkt mit der Beschwerdeführerin im Wettbewerb stünden.
Auch in ihrer weiteren Beschwerdebegründung beruft sich die Beschwerdeführerin verschiedentlich auf Sachverhaltselemente, die sich den Feststellungen im angefochtenen Entscheid nicht entnehmen lassen, so etwa mit ihren Ausführungen zum Eintragungsverfahren hinsichtlich der Marke "Keytrade" der Beschwerdegegnerin oder mit ihrer Behauptung, es sei zwischen den Parteien unbestritten, dass sie die Zeichen "Keytrade Geneva Branch Bank" und "Keytrade Bank" gar nicht mehr in Alleinstellung verwende.
Rein appellatorisch sind ihre Ausführungen im Zusammenhang mit dem von der Vorinstanz bejahten namensrechtlichen Abwehranspruch, mit denen die Beschwerdeführerin unter Verweis auf ihre Klageantwortschrift behauptet, sie weise mit den von ihr in der Schweiz verwendeten Zeichen nur auf sich als Unternehmen hin und nicht auf ihre Dienstleistungen, ohne auf die vorinstanzliche Feststellung einzugehen, wonach sie mit den verwendeten Bezeichnungen auf ihrer Internetseite und in der Werbung der NZZ das bankenmässige Online-Trading mit Wertpapieren als Dienstleistung beworben habe.
Die Beschwerdeführerin vermag im Übrigen die Feststellung der Vorinstanz, dass sich die Tätigkeit der Beschwerdegegnerin auf das gesamte Gebiet der Schweiz erstrecke, indem sie sich nicht auf einen lokalen Bereich beschränke, sondern Kontakte zu Unternehmen in der ganzen Schweiz pflege, nicht unter Hinweis auf Replikbeilage 14 als aktenwidrig auszuweisen, aus der hervorgehen soll, dass die Beschwerdegegnerin 100 % ihres Umsatzes im Ausland erwirtschafte. Die angefochtene Feststellung der Vorinstanz bezieht sich weder auf die von der Beschwerdegegnerin erzielten Umsätze noch auf deren geografische Aufteilung; die Beschwerdeführerin zeigt denn auch nicht auf, weshalb die vorinstanzliche Feststellung mit dem angeführten Aktenstück in einem offensichtlichen Widerspruch stehen soll. Die Beschwerdeführerin legt im Übrigen nicht mit Aktenhinweisen dar, dass sie im vorinstanzlichen Verfahren vorgebracht hätte, die Beschwerdeführerin erwirtschafte 100 % ihres Umsatzes in Ausland, weshalb sie mit der vor Bundesgericht verschiedentlich erhobenen Behauptung ohnehin nicht zu hören wäre. Rein appellatorisch und damit unbeachtlich sind ausserdem ihre Ausführungen zum angeblich fehlenden Namensgebrauch in der Schweiz.
2. Die Beschwerdeführerin rügt eine Verletzung des Anspruchs auf Beweisführung nach Art. 8 ZGB sowie des Anspruchs auf rechtliches Gehör nach Art. 29 Abs. 2 BV.
2.1 Sie zeigt mit ihren allgemeinen Ausführungen sowie der nicht weiter begründeten Auflistung verschiedener bestrittener Tatsachenbehauptungen keine Verletzung der erwähnten Bestimmungen auf. Sie verkennt insbesondere, dass das Gericht auf eine Beweisabnahme verzichten kann, wenn die Beweisanträge eine nicht erhebliche Tatsache betreffen oder offensichtlich untauglich sind oder wenn es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (vgl. BGE 134 I 140 E. 5.3; 131 I 153 E. 3 S. 157; 124 I 208 E. 4a S. 211, 274 E. 5b S. 285). Dass die Vorinstanz willkürliche Feststellungen getroffen hätte, zeigt die Beschwerdeführerin jedoch ebenso wenig auf wie eine verfassungswidrige Anwendung der im vorinstanzlichen Verfahren noch geltenden kantonalen Verfahrensbestimmungen.
Die Vorinstanz hat verschiedene umstrittene Tatsachen als rechtlich unerheblich erachtet, wie etwa die Fragen, ob die Parteien in unterschiedlichen Branchen tätig sind, ob die Beschwerdegegnerin auch Schweizer Abnehmer aufweist oder ob die Beschwerdeführerin in der Zwischenzeit ihr Firmenlogo geändert habe. Ob diese Ansicht zutrifft, ist im Rahmen der Anwendung der firmen- bzw. namensrechtlichen Grundsätze zu prüfen. Von vornherein keine Verletzung des Rechts der Beschwerdeführerin auf den Beweis kann im Übrigen in der fehlenden Beweisabnahme hinsichtlich der Behauptung der Gegenpartei gesehen werden, sie werde künftig möglicherweise im Bankensektor tätig sein, die von der Vorinstanz überdies ebenfalls als unerheblich erachtet wurde.
2.2 Ebenfalls keine Verletzung ihres Rechts auf Beweis zeigt die Beschwerdeführerin mit der nicht weiter begründeten Behauptung auf, eine Verletzung der eingangs aufgeführten Bestimmungen sei in einer Reihe weiterer bestrittener Tatsachenbehauptungen zu sehen, die in der Beschwerde in anderem Zusammenhang aufgelistet werden. Entgegen dem, was die Beschwerdeführerin anzunehmen scheint, handelt es sich bei den aufgeführten Feststellungen nicht um (bestrittene) Tatsachenbehauptungen der Gegenpartei, sondern um firmenrechtliche Erwägungen der Vorinstanz zur Kennzeichnungskraft des Bestandteils "Keytrade" sowie zur Verwechslungsgefahr.
Ebenfalls um Rechtsfragen handelt es sich bei den Erwägungen im angefochtenen Entscheid, in der Meinung des Publikums werde die Beschwerdegegnerin zufolge einer blossen Gedankenassoziation in eine in Wirklichkeit nicht bestehende wirtschaftliche Beziehung zur Beschwerdeführerin gestellt bzw. "Keytrade" sei ein Fantasiewort mit zumindest durchschnittlicher Zeichenstärke. Darüber war nicht Beweis zu führen. Das Bundesgericht prüft grundsätzlich als Rechtsfrage frei, wie der massgebende Adressatenkreis aufgrund der erwarteten Aufmerksamkeit ein Zeichen wahrnimmt (vgl. 128 III 353 E. 4 S. 359, 401 E. 5 S. 403; je mit Hinweisen; vgl. auch BGE 137 III 403 E. 3.3.2 S. 409; 133 III 342 E. 4 S. 347 betreffend Formmarken).
3. Die Beschwerdeführerin rügt eine Verletzung von Art. 951 Abs. 2 in Verbindung mit Art. 956 Abs. 2 OR.
3.1 Die Vorinstanz erwog, "Keytrade" bleibe im Gedächtnis haften und sei bei beiden Firmen der charakteristische Bestandteil. Dieser steche hervor und habe aufgrund seiner Stellung besondere Prägekraft; er sei der einzig erinnerungsträchtige Teil. Sie hielt weiter dafür, das zu einem Begriff verknüpfte "Keytrade" entbehre nicht einer gewissen Originalität. Das Wort als solches existiere im Englischen nicht; es entziehe sich aber auch einer spontanen Sinngebung. Es sei entgegen den Vorbringen der Beschwerdeführerin nicht erkennbar, worin das klar Assoziative oder Werbemässige liegen solle. Zudem erscheine es ausgeschlossen, dass das Publikum der Bezeichnung "Keytrade" im Zusammenhang mit der klägerischen Firma unwillkürlich eine ganz bestimmte Bedeutung beimesse und sie als Sachbezeichnung auffasse. Auch wenn das Wort "Keytrade" nicht gerade ungemein originell sei, weise es doch als Fantasiewort einen hinreichenden Originalitätsgrad auf, so dass kein schwaches Zeichen mit einem entsprechend engen Schutzbereich vorliege; auszugehen sei von einem Zeichen zumindest durchschnittlicher Stärke. Die Verwendung des prägenden Bestandteils "Keytrade" in identischer Weise durch die Zweigniederlassung der Beschwerdeführerin indiziere daher die Verwechslungsgefahr besonders klar. Die von der Beschwerdeführerin hinzugefügten Firmenbestandteile bilden nach Ansicht der Vorinstanz kein zusätzliches Abgrenzungskriterium: Bei "Bruxelles" und "succursale de Genève" handle es sich um die gemäss Art. 952 Abs. 2 OR vorgeschriebenen Firmenzusätze bei Zweigniederlassungen ausländischer Gesellschaften, während der Zusatz "Bank" eine reine Sachbezeichnung sei, die eine Verwechslungsgefahr nicht zu verhindern vermöge. Die Firma der Beschwerdeführerin sei in ihrer Gesamtheit geeignet, den Eindruck einer (tatsächlich nicht vorhandenen) rechtlichen oder wirtschaftlichen Verbindung mit der Beschwerdegegnerin zu erwecken.
3.1 Die Vorinstanz erwog, "Keytrade" bleibe im Gedächtnis haften und sei bei beiden Firmen der charakteristische Bestandteil. Dieser steche hervor und habe aufgrund seiner Stellung besondere Prägekraft; er sei der einzig erinnerungsträchtige Teil. Sie hielt weiter dafür, das zu einem Begriff verknüpfte "Keytrade" entbehre nicht einer gewissen Originalität. Das Wort als solches existiere im Englischen nicht; es entziehe sich aber auch einer spontanen Sinngebung. Es sei entgegen den Vorbringen der Beschwerdeführerin nicht erkennbar, worin das klar Assoziative oder Werbemässige liegen solle. Zudem erscheine es ausgeschlossen, dass das Publikum der Bezeichnung "Keytrade" im Zusammenhang mit der klägerischen Firma unwillkürlich eine ganz bestimmte Bedeutung beimesse und sie als Sachbezeichnung auffasse. Auch wenn das Wort "Keytrade" nicht gerade ungemein originell sei, weise es doch als Fantasiewort einen hinreichenden Originalitätsgrad auf, so dass kein schwaches Zeichen mit einem entsprechend engen Schutzbereich vorliege; auszugehen sei von einem Zeichen zumindest durchschnittlicher Stärke. Die Verwendung des prägenden Bestandteils "Keytrade" in identischer Weise durch die Zweigniederlassung der Beschwerdeführerin indiziere daher die Verwechslungsgefahr besonders klar. Die von der Beschwerdeführerin hinzugefügten Firmenbestandteile bilden nach Ansicht der Vorinstanz kein zusätzliches Abgrenzungskriterium: Bei "Bruxelles" und "succursale de Genève" handle es sich um die gemäss Art. 952 Abs. 2 OR vorgeschriebenen Firmenzusätze bei Zweigniederlassungen ausländischer Gesellschaften, während der Zusatz "Bank" eine reine Sachbezeichnung sei, die eine Verwechslungsgefahr nicht zu verhindern vermöge. Die Firma der Beschwerdeführerin sei in ihrer Gesamtheit geeignet, den Eindruck einer (tatsächlich nicht vorhandenen) rechtlichen oder wirtschaftlichen Verbindung mit der Beschwerdegegnerin zu erwecken.
3.2 3.2.1 Die Parteien stellen zu Recht nicht in Frage, dass sich im zu beurteilenden Fall sowohl der firmen- als auch der namensrechtliche Schutz gemäss Art. 157 Abs. 1 IPRG nach schweizerischem Recht richtet.
3.2.2 Die Firma einer Aktiengesellschaft muss sich von allen in der Schweiz bereits eingetragenen Firmen von Gesellschaften in der Rechtsform der AG, der GmbH und der Genossenschaft deutlich unterscheiden (Art. 951 Abs. 2 OR), ansonsten der Inhaber der älteren Firma wegen Verwechslungsgefahr auf Unterlassung des Gebrauchs der jüngeren Firma klagen kann (vgl. Art. 956 Abs. 2 OR; BGE 131 III 572 E. 3 S. 575; 122 III 369 E. 1 S. 370). Der Begriff der Verwechslungsgefahr ist nach der bundesgerichtlichen Rechtsprechung für das gesamte Kennzeichenrecht einheitlich zu umschreiben (BGE 128 III 401 E. 5 S. 403; 127 III 160 E. 2a S. 165; 126 III 239 E. 3a). Es handelt sich dabei um eine Rechtsfrage, die vom Bundesgericht grundsätzlich frei geprüft wird (BGE 128 III 353 E. 4 S. 359 mit Hinweisen).
Da Aktiengesellschaften ihre Firma grundsätzlich frei wählen können, stellt die Rechtsprechung an deren Unterscheidungskraft im Allgemeinen strenge Anforderungen (BGE 122 III 369 E. 1 S. 370; 118 II 322 E. 1 S. 323; 92 II 95 E. 2 S. 97). Das Bundesgericht schützt in ständiger Rechtsprechung Firmen auch gegenüber Unternehmen, die in einer anderen Geschäftsbranche tätig sind. Allerdings sind die Anforderungen an die Unterscheidbarkeit der Firmen strenger, wenn zwei Unternehmen aufgrund der statutarischen Bestimmungen im Wettbewerb stehen können oder sich aus einem anderen Grund an die gleichen Kundenkreise wenden; Entsprechendes gilt bei geografischer Nähe der Unternehmen (BGE 131 III 572 E. 4.4 S. 580; 118 II 322 E. 1 S. 324; 97 II 234 E. 1 S. 235; Urteile 4A_717/2011 vom 28. März 2012 E. 2.1; 4A_669/2011 vom 5. März 2012 E. 2.2).
Ob zwei Firmen sich hinreichend deutlich unterscheiden, ist aufgrund des Gesamteindrucks zu prüfen, den sie beim Publikum hinterlassen. Die Firmen müssen nicht nur bei gleichzeitigem aufmerksamem Vergleich unterscheidbar sein, sondern auch in der Erinnerung auseinander gehalten werden können. Im Gedächtnis bleiben namentlich Firmenbestandteile haften, die durch ihren Klang oder ihren Sinn hervorstechen; solche Bestandteile haben daher für die Beurteilung des Gesamteindrucks einer Firma erhöhte Bedeutung (BGE 131 III 572 E. 3 S. 576; 127 III 160 E. 2b/cc S. 168; 122 III 369 E. 1). Dies trifft insbesondere für reine Phantasiebezeichnungen zu, die in der Regel eine stark prägende Kraft haben. Umgekehrt verhält es sich bei gemeinfreien Sachbezeichnungen. Grundsätzlich stehen auch Firmen, die als wesentliche Bestandteile nur solche Bezeichnungen enthalten, unter dem Schutz des Ausschliesslichkeitsanspruchs gemäss Art. 951 Abs. 2 und Art. 956 OR (BGE 131 III 572 E. 3 S. 576; 128 III 224 E. 2b S. 226 f.). Wer dieselben Sachbezeichnungen ebenfalls als Firmenbestandteile verwendet, hat deshalb für eine hinreichend deutliche Abhebung von der älteren Firma zu sorgen, indem er sie mit individualisierenden zusätzlichen Elementen ergänzt (BGE 131 III 572 E. 3 S. 576 mit Hinweisen). Bereits ein verhältnismässig kennzeichnungsschwacher Zusatz kann allerdings ausreichen, um genügend Abstand zu einer älteren Firma zu schaffen, die gleiche Sachbezeichnungen wie die jüngere aufweist (BGE 122 III 369 E. 1 S. 371; Urteile 4A_717/2011 vom 28. März 2012 E. 2.1; 4C.197/2003 vom 5. Mai 2004 E. 5.3 und 5.4, nicht publ. in: BGE 130 III 478).
Ob zwei Firmen sich hinreichend deutlich unterscheiden, ist aufgrund des Gesamteindrucks zu prüfen, den sie beim Publikum hinterlassen. Die Firmen müssen nicht nur bei gleichzeitigem aufmerksamem Vergleich unterscheidbar sein, sondern auch in der Erinnerung auseinander gehalten werden können. Im Gedächtnis bleiben namentlich Firmenbestandteile haften, die durch ihren Klang oder ihren Sinn hervorstechen; solche Bestandteile haben daher für die Beurteilung des Gesamteindrucks einer Firma erhöhte Bedeutung (BGE 131 III 572 E. 3 S. 576; 127 III 160 E. 2b/cc S. 168; 122 III 369 E. 1). Dies trifft insbesondere für reine Phantasiebezeichnungen zu, die in der Regel eine stark prägende Kraft haben. Umgekehrt verhält es sich bei gemeinfreien Sachbezeichnungen. Grundsätzlich stehen auch Firmen, die als wesentliche Bestandteile nur solche Bezeichnungen enthalten, unter dem Schutz des Ausschliesslichkeitsanspruchs gemäss Art. 951 Abs. 2 und Art. 956 OR (BGE 131 III 572 E. 3 S. 576; 128 III 224 E. 2b S. 226 f.). Wer dieselben Sachbezeichnungen ebenfalls als Firmenbestandteile verwendet, hat deshalb für eine hinreichend deutliche Abhebung von der älteren Firma zu sorgen, indem er sie mit individualisierenden zusätzlichen Elementen ergänzt (BGE 131 III 572 E. 3 S. 576 mit Hinweisen). Bereits ein verhältnismässig kennzeichnungsschwacher Zusatz kann allerdings ausreichen, um genügend Abstand zu einer älteren Firma zu schaffen, die gleiche Sachbezeichnungen wie die jüngere aufweist (BGE 122 III 369 E. 1 S. 371; Urteile 4A_717/2011 vom 28. März 2012 E. 2.1; 4C.197/2003 vom 5. Mai 2004 E. 5.3 und 5.4, nicht publ. in: BGE 130 III 478).
3.3 3.3.1 Die streitigen Firmen beginnen beide mit "Keytrade". Der Beschwerdeführerin kann nicht gefolgt werden, wenn sie diesem Bestandteil unter Hinweis auf die möglichen Bedeutungen der Begriffe "trade" und "key" die Kennzeichnungskraft absprechen will Sie zeigt mit dem verschiedentlich erhobenen Vorwurf, es handle sich bei den Annahmen der Vorinstanz im Zusammenhang mit der Kennzeichnungskraft von "Keytrade" um "reine Spekulation", keine Bundesrechtsverletzung auf.
Es trifft zwar zu, dass es sich bei "trade" für sich allein betrachtet um eine Sachbezeichnung handelt, die unter Berücksichtigung des Zwecks der Beschwerdegegnerin, nämlich des Handels mit Rohstoffen, als Hinweis auf deren Tätigkeitsbereich verstanden werden kann und daher geringe Kennzeichnungskraft aufweist. Auch ist nicht von der Hand zu weisen, dass im Englischen das Wort "key" in Kombination mit einem Substantiv verschiedentlich vorkommt (z.B. key account manager, key activities, key aspects, key benefits oder key witness) und (als Eigenschaftswort) dessen Wichtigkeit betont. Entgegen dem, was die Beschwerdeführerin anzunehmen scheint, kann der Begriff jedoch nicht allgemein auf eine reklamehafte Anpreisung reduziert werden. Insbesondere verkennt sie mit ihren Ausführungen zur lexikalischen Bedeutung der beiden Elemente "key" und "trade", dass sich die Unterscheidungskraft eines Zeichens nicht aufgrund einer isolierten Betrachtung der einzelnen Firmenbestandteile, sondern aufgrund des Gesamteindrucks beurteilt, die sie beim Publikum hinterlassen (BGE 131 III 572 E. 3 S. 576; 127 III 160 E. 2b/cc S. 167 f.; 122 III 369 E. 1). Sie versucht zu Recht nicht, die vorinstanzliche Annahme zu widerlegen, wonach das zu einem Wort verknüpfte "Keytrade" im Englischen nicht bestehe; noch weniger vermag sie eine aus Sicht des Schweizer Publikums auch nur einigermassen klar umrissene Bedeutung aufzuzeigen. Mit der Vorinstanz ist davon auszugehen, dass die Kombination "Keytrade" keinen unmittelbaren Schluss auf die Geschäftstätigkeit der Beschwerdegegnerin oder ihre Produkte zulässt und daher nicht als reine Sachbezeichnung zu betrachten ist, der jede Kennzeichnungskraft abgeht.
Auch wenn die Wortschöpfung "Keytrade" nicht als besonders originell erscheint, ist der Vorinstanz keine Bundesrechtsverletzung vorzuwerfen, wenn sie von einem hinreichenden Originalitätsgrad und damit nicht von einem schwachen Zeichen mit entsprechend engem Schutzbereich ausging.
3.3.2 Der Beschwerdeführerin kann daher nicht gefolgt werden, wenn sie unter Hinweis auf die bundesgerichtliche Rechtsprechung zu schwachen Firmenbestandteilen, die in Sachbezeichnungen bestehen, bereits einen kennzeichnungsschwachen Zusatz in der jüngeren Firma als ausreichend erachten will, um genügend Abstand zur älteren Firma zu schaffen. Abgesehen davon betreffen die von ihr angeführten Entscheide nicht Fälle, in denen - wie vorliegend - die jüngere Firma den prägenden Bestandteil der älteren Firma identisch übernimmt, worauf die Beschwerdegegnerin zu Recht hinweist (vgl. Urteile 4C.310/2006 vom 28. November 2006 [Biomed AG / Biomet Orthopaedics Switzerland GmbH], in: sic! 5/2007 S. 379; JdT 2007 I 206; 4C.237/1992 vom 15. Dezember 1992 [Prosoft Zürich AG / Profisoft Informatik AG], in: SMI 1994 I S. 53).
Die jüngere Firma der Beschwerdeführerin übernimmt den prägenden Bestandteil "Keytrade" unverändert und unterscheidet sich damit von der älteren der Beschwerdegegnerin lediglich durch die Zusätze "Bank", "Bruxelles" und "succursale de Genève". Diese beschreiben als reine Sachbezeichnung ummittelbar die geschäftliche Tätigkeit der Beschwerdeführerin bzw. weisen auf den ausländischen Sitz und die Eigenschaft als Zweigniederlassung hin. Als solche sind sie nicht geeignet, für eine hinreichend deutliche Abhebung von der älteren Firma der Beschwerdegegnerin zu sorgen. Dies gilt unabhängig davon, ob die Parteien miteinander im Wettbewerb stehen. Die Beschwerdeführerin verkennt mit ihrem mehrfach betonten Einwand, wonach sich die Tätigkeitsbereiche der Parteien unterscheiden, dass nach ständiger Rechtsprechung Firmen auch gegenüber Unternehmen geschützt werden, die in anderen Branchen tätig sind. Aus dem Umstand, dass die Anforderungen an die Unterscheidbarkeit der Firmen noch strenger sind, wenn zwei Unternehmen aufgrund der statutarischen Bestimmungen im Wettbewerb stehen können oder sich an die gleichen Kundenkreise wenden, lässt sich nichts zugunsten der Beschwerdeführerin ableiten. Die Anwendung des im Markenrecht verankerten Branchenprinzips auch für das Firmenrecht hat das Bundesgericht ausdrücklich abgelehnt (Urteil 4C.206/1999 vom 14. März 2000 E. 3c, in: sic! 5/2000 S. 399). Von der bisherigen Rechtsprechung abzuweichen, besteht kein Anlass. Der in der Beschwerde erhobene Einwand, es seien angesichts der unterschiedlichen Tätigkeitsfelder der Parteien besonders bescheidene Anforderungen an die Unterscheidbarkeit ihrer Firmen zu stellen, verfängt nicht.
3.3.3 Unbegründet ist auch der Vorwurf, die Vorinstanz habe Bundesrecht verletzt, indem sie das angebliche Fehlen von Abnehmern der Beschwerdegegnerin in der Schweiz unberücksichtigt gelassen habe. Der Gesetzgeber hat den Firmenschutz als Ausfluss des Persönlichkeitsschutzes juristischer Personen konzipiert. Im Gegensatz zum Markenrecht ist daher die Unterscheidbarkeit im Firmenrecht nicht einfach aus Sicht der Abnehmer bestimmter Waren oder Dienstleistungen zu beurteilen. Entgegen dem, was die Beschwerdeführerin anzunehmen scheint, dient die firmenrechtlich gebotene Unterscheidbarkeit nicht allein der Ordnung des Wettbewerbs, sondern schützt den Träger der älteren Firma umfassend um seiner Persönlichkeit und seiner gesamten Geschäftsinteressen willen. Entsprechend soll ganz allgemein verhindert werden, dass das Publikum, zu dem nicht nur Kunden, sondern auch weitere Kreise, wie etwa Stellensuchende, Behörden und öffentlichen Dienste gehören, getäuscht wird (BGE 118 II 322 E. 1; 100 II 224 E. 2). Der Einwand der Beschwerdeführerin, die Beschwerdegegnerin könne mangels Abnehmern in der Schweiz unter firmenrechtlichen Gesichtspunkten gar nicht beeinträchtigt werden, verfängt daher nicht. Der Vorinstanz, die bei der Prüfung der Verwechslungsgefahr der beiden Firmen unter anderem berücksichtigt hat, dass an den Geschäften der Beschwerdegegnerin auch Finanzkreise beteiligt sind und diese Geschäftskontakte in der ganzen Schweiz pflegt, ist keine Bundesrechtsverletzung vorzuwerfen, wenn sie hinsichtlich der Behauptung der fehlenden Schweizer Abnehmer auf Beweiserhebungen verzichtet hat.
3.3.4 Mit der Vorinstanz ist davon auszugehen, dass sich die jüngere Firma Keytrade Bank SA, Bruxelles, succursale de Genève aus Sicht des Publikums nicht genügend von der älteren Firma Keytrade AG bzw. Keytrade SA unterscheidet und zumindest eine mittelbare Verwechslungsgefahr besteht, indem es zur Annahme einer nicht vorhandenen rechtlichen oder wirtschaftlichen Verbindung mit der Beschwerdegegnerin verleitet wird. Die Vorinstanz hat die geltend gemachten Unterlassungsansprüche der Beschwerdegegnerin gemäss Art. 951 Abs. 2 in Verbindung mit Art. 956 Abs. 2 OR zutreffend geschützt.
Entsprechendes gilt für den von der Beschwerdeführerin benutzten Domainnamen "keytradebank.ch", hinsichtlich dessen sie eine Verwechslungsgefahr mit denselben Argumenten bestreitet, obwohl er sich noch weniger von der klägerischen Firma unterscheidet.
4. Die Vorinstanz bejahte eine unbefugte Namensanmassung der Beschwerdeführerin durch die Verwendung der Zeichen "Keytrade Bank" und "Keytrade Geneva Branch Bank" für ihre Dienstleistungen und schützte den beantragten Unterlassungsanspruch der Beschwerdegegnerin sowie einen namensrechtlichen Abwehranspruch gegen die Verwendung des Domain-Namens "keytradebank.ch". Die Beschwerdeführerin rügt in diesem Zusammenhang in verschiedener Hinsicht eine Verletzung von Art. 29 Abs. 2 ZGB.
4.1 Ein Anspruch auf Namensschutz gemäss Art. 29 Abs. 2 ZGB setzt voraus, dass die Namenanmassung den Namensträger beeinträchtigt. Eine solche Beeinträchtigung liegt nach bundesgerichtlicher Rechtsprechung namentlich vor, wenn die Aneignung des Namens seitens eines Dritten die Gefahr einer Verwechslung oder Täuschung bewirkt oder wenn sie geeignet ist, zufolge einer blossen Gedankenassoziation in der Meinung des Publikums eine in Wirklichkeit nicht bestehende Beziehung zwischen dem bisherigen Träger des Namens und dem anmassenden Dritten herzustellen. Eine Beeinträchtigung kann somit darin liegen, dass ein Namensträger durch Gedankenverbindungen in nicht vorhandene Beziehungen hineingestellt wird, die er ablehnt und vernünftigerweise auch ablehnen darf (BGE 128 III 401 E. 5 S. 403 mit Hinweisen; Urteil 4C.360/2005 vom 12. Januar 2006 E. 3.1, in: sic! 7-8/2006 S. 480; JdT 2007 I 210).
Diese Schutzanforderungen verkennt die Beschwerdeführerin, wenn sie neben dem Vorliegen einer Verwechslungsgefahr den Nachweis einer weitergehenden Interessenverletzung verlangt. Eine Verwechslungsgefahr hat die Vorinstanz ohne Verletzung von Bundesrecht bejaht, wobei sie ihre Prüfung der Beeinträchtigung rechtlich geschützter Interessen nicht etwa bei der Feststellung bewenden liess, die Beschwerdeführerin übernehme bei der Bezeichnung ihrer Dienstleistungen den Hauptbestandteil "Keytrade" des Namens der Beschwerdegegnerin. Die Beschwerdeführerin anerkennt, dass sich die Verwechslungsgefahr dem Grundsatz nach für das gesamte Kennzeichenrecht einheitlich beurteilt (vgl. BGE 128 III 401 E. 5 S. 403; 127 III 160 E. 2a S. 165; 126 III 239 E. 3a); soweit sie eine Verwechslungsgefahr mit Argumenten bestreitet, die sich bereits als unzutreffend erwiesen haben, ist darauf nicht mehr einzugehen.
4.2 Unbehelflich ist der Vorwurf, die Vorinstanz habe keine effektive Interessenabwägung vorgenommen, wie sie bei Kollisionen zwischen verschiedenen absoluten Rechten vorzunehmen ist (dazu BGE 128 III 353 E. 4.3.2; 126 III 239 E. 2c; 125 III 91 E. 3c; je mit Hinweisen). Die Beschwerdeführerin beruft sich zur Begründung ihrer Rüge zu Unrecht darauf, es sei eine Kollision zwischen einem Namen bzw. einer Firma (der Beschwerdegegnerin) und einer Marke (der Beschwerdeführerin) zu beurteilen. Dem angefochtenen Entscheid lässt sich nicht entnehmen, dass die Beschwerdeführerin in der Schweiz über ein Markenrecht an den verwendeten Zeichen verfügen würde und sie legt auch in ihrer Beschwerdeschrift nicht dar, inwiefern ihr ein Schutzrecht am Zeichen "Keytrade" zustehen soll, das sie der Beschwerdegegnerin entgegenhalten könnte. Ebenso wenig verfängt der Vorwurf, die Vorinstanz habe den jahrelangen Gebrauch des Zeichens "Keytrade" im Ausland unberücksichtigt gelassen, zumal die Beschwerdeführerin nicht aufzeigt, inwiefern sich dieser in der Schweiz ausgewirkt hätte, etwa indem das schweizerische Publikum von diesem Zeichen Kenntnis erhalten hätte.
Die Vorinstanz hat keineswegs verkannt, dass sich die Schutzwürdigkeit der Interessen des Namensinhabers nicht allein nach dessen Eigeninteressen beurteilt, sondern die regelmässig vorhandenen gegensätzlichen Interessen aller Beteiligten gegeneinander abzuwägen sind; vielmehr hat sie sich von diesem Grundsatz leiten lassen. Fehl geht auch der Vorwurf, die Vorinstanz habe bei der Beurteilung der Verwechslungsgefahr bundesrechtswidrig nicht auf die Abnehmer der gekennzeichneten Produkte abgestellt. Abgesehen davon, dass die Kundschaft der Beschwerdeführerin berücksichtigt wurde, wird in der Beschwerde nicht aufgezeigt, inwiefern ein Abstellen allein auf die Abnehmer - unter Ausschluss der übrigen im angefochtenen Entscheid mitberücksichtigten Verkehrskreise (potentielle Kundschaft der Beschwerdegegnerin in der Schweiz) - zu einem anderen Ergebnis geführt hätte.
Eine Verletzung von Art. 29 Abs. 2 ZGB ist nicht dargetan. Dies gilt auch für die von der Beschwerdeführerin erhobenen Rügen bezüglich des namensrechtlichen Abwehranspruchs gegen die Verwendung des Domain-Namens, die sie mit entsprechenden Argumenten begründet.
5. Die Beschwerdeführerin bestreitet in verschiedener Hinsicht ein Rechtsschutzinteresse der Beschwerdegegnerin, insbesondere mit der Begründung, sie habe ihr Firmenlogo in der Zwischenzeit geändert.
5.1 Soweit ihre Ausführungen nicht rein appellatorisch sind und sie sich überhaupt mit den konkreten Erwägungen des angefochtenen Entscheids auseinandersetzt (vgl. Art. 42 Abs. 2 BGG), vermag sie keine Bundesrechtsverletzung aufzuzeigen. Hinsichtlich des beantragten Verbots, die Firma Keytrade Bank SA, Bruxelles, succursale de Genève zu führen (vgl. Dispositiv-Ziffer 1), weist die Vorinstanz zutreffend darauf hin, dass das grafisch gestaltete Schriftbild einer Firma, wie es häufig im geschäftlichen Verkehr verwendet wird, firmenrechtlich unbeachtlich ist (MARTINA ALTENPOHL, in: Basler Kommentar, Obligationenrecht II, 2012, N. 1 zu Art. 951 OR). Dass sie bereits eine Firmenänderung im Handelsregister vorgenommen hätte, macht die Beschwerdeführerin nicht geltend.
5.2 Auch hinsichtlich des beantragten Verbots der Beschwerdeführerin, sich oder ihre schweizerische Zweigniederlassung oder ihre Dienstleistungen mit "Keytrade Geneva Branch Bank" oder "Keytrade Bank" zu bezeichnen (vgl. Dispositiv-Ziffer 2), kann der Beschwerdegegnerin ein hinreichendes Rechtsschutzinteresse nicht abgesprochen werden.
5.2.1 Zunächst kann der in der Beschwerde vertretenen Ansicht nicht gefolgt werden, das von der Beschwerdegegnerin gestellte Rechtsbegehren sei ungenügend bestimmt. Das Unterlassungsbegehren ist auf den Gebrauch der tatsächlich verwendeten Zeichen "Keytrade Bank" und "Keytrade Geneva Branch Bank" durch die Beschwerdeführerin für ihre schweizerische Zweigniederlassung oder ihre Dienstleistungen in der Schweiz gerichtet und nicht etwa allgemein auf die Verwendung eines Zeichenbestandteils in jeglichem Zusammenhang; die Vorinstanz stellte denn auch fest, in welcher Weise die Beschwerdeführerin die beiden Zeichen tatsächlich gebrauchte (vgl. zum Erfordernis der Bestimmtheit eines Unterlassungsbegehrens etwa Urteil 4C.149/2003 vom 5. September 2003 E. 1.2 und 1.3, in: sic! 1/2004 S. 4108).
5.2.2 Unbegründet ist sodann das Vorbringen, auf die Klage hätte - soweit die Zeichen "Keytrade Bank" und "Keytrade Geneva Branch Bank" betreffend - mangels Rechtsschutzinteresses gar nicht eingetreten werden dürfen oder diese hätte abgewiesen werden müssen, nachdem das Firmenlogo geändert worden sei und daher keine Wiederholungsgefahr bestehe.
Das Rechtsschutzinteresse setzt voraus, dass der Beklagte entweder die Verletzungen bereits begangen hat und Wiederholungen nicht auszuschliessen sind oder dass konkrete Anhaltspunkte dafür bestehen, dass er sie erstmals begehen wird (BGE 116 II 357 E. 2a S. 359 mit Hinweisen; vgl. auch BGE 124 III 72 E. 2a S. 74; LUCAS DAVID UND ANDERE, Der Rechtsschutz im Immaterialgüterrecht, in: Schweizerisches Immaterialgüter- und Wettbewerbsrecht [SIWR], Bd. I/2, 3. Aufl. 2011, Rz. 271 ff.). Die Beschwerdeführerin verkennt mit ihren Vorbringen, dass eine Wiederholungsgefahr in der Regel schon dann angenommen werden darf, wenn der Beklagte die Widerrechtlichkeit des beanstandeten Verhaltens bestreitet, ist doch in einem solchen Fall zu vermuten, dass er es im Vertrauen auf dessen Rechtmässigkeit weiterführen wird (BGE 124 III 72 E. 2a S. 74; 116 II 357 E. 2a S. 359; DAVID UND ANDERE, a.a.O., Rz. 273). Dies gilt insbesondere, wenn der Verletzer zwar im Hinblick auf den Prozess die Verletzungen eingestellt hat, in seinen Rechtsvorträgen aber nach wie vor sein Verhalten als rechtmässig verteidigt (BGE 128 III 96 E. 2e).
Dies trifft vorliegend zu, indem die Beschwerdeführerin im bisherigen Verfahrensverlauf gegenüber der Beschwerdegegnerin nie verbindlich zugesichert hat, künftig auf die Verwendung der Zeichen "Keytrade Bank" und "Keytrade Geneva Branch Bank" zu verzichten, sondern die Widerrechtlichkeit ihres Verhaltens nach wie vor bestreitet. Mit der blossen Behauptung, die Änderung ihres Schweizer Auftritts sei mit erheblichem Aufwand verbunden gewesen, weshalb eine Rückkehr zum alten Firmenlogo unwahrscheinlich sei, vermag die Beschwerdeführerin eine Wiederholungsgefahr daher nicht auszuräumen.
Ein Rechtsschutzinteresse an der Unterlassungsklage im Zeitpunkt der Urteilsfällung kann der Beschwerdegegnerin nicht abgesprochen werden.
6. Die Beschwerdeführerin bezeichnet die von der Vorinstanz eingeräumten Fristen von 60 bzw. 30 Tagen für die Änderung der Firma bzw. der Bezeichnung ihrer schweizerischen Zweigniederlassung und ihrer Dienstleistungen sowie zur Löschung des Domain-Namens als unverhältnismässig kurz.
Ihre Ausführungen sind überwiegend appellatorisch und vermögen keine Bundesrechtsverletzung darzutun. So zeigt sie insbesondere mit ihrem pauschalen und nicht weiter belegten Vorbringen, eine Umsetzung innert Frist sei ihr als Finanzdienstleisterin angesichts der regulatorischen Rahmenbedingungen gar nicht möglich, keine Verletzung des Verhältnismässigkeitsgrundsatzes auf.
Ihr Hinweis auf die in BGE 100 Ib 29 E. 9 gewährte Anpassungsfrist von 11 Monaten ist schon insoweit unbehelflich, als diesem Entscheid keine firmenrechtliche Auseinandersetzung zwischen zwei Firmeninhabern zugrunde lag, sondern ein Verwaltungsverfahren betreffend die Eintragungsanforderungen an Firmen gemäss Art. 944 OR, in dem öffentliche mit privaten Interessen abzuwägen waren. Überdies verkennt die Beschwerdeführerin, dass der für die längere Anpassungsfrist angeführte Grund, nämlich die langjährige gutgläubige Verwendung der Firma, im zu beurteilenden Fall nicht vorliegt, zumal sie ihre schweizerische Zweigniederlassung nach den verbindlichen Feststellungen im angefochtenen Entscheid am 18. Februar 2009 in das Handelsregister eintragen liess und die Beschwerdegegnerin ihre Klage bereits am 23. Dezember 2009 einreichte. Der Vorwurf, die Vorinstanz habe bei der Anordnung der Anpassungsfristen die von der bundesgerichtlichen Rechtsprechung entwickelten Kriterien missachtet, geht fehl.
7. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 12'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 14'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 12. Juli 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Leemann