Sachverhalt:
A. A.a Die X._ Generalunternehmung AG (Beschwerdeführerin) bezweckt die Planung, Projektierung und Realisierung von Bauten aller Art als Total- und Generalunternehmerin sowie die Erbringung der damit zusammenhängenden Dienstleistungen.
Die Y._ Bank SA/NV (Beschwerdegegnerin) ist eine Aktiengesellschaft belgischen Rechts und bezweckt die Ausübung von Bankgeschäften.
A.b A._ S.p.A., eine italienische Aktiengesellschaft, war als Subunternehmerin der XX._ Generalunternehmung AG beim Neubau XYZ._ in Bern für die Erstellung der Fassaden zuständig. Zur Sicherung der Vertragspflichten versprach die A._ S.p.A. eine Anzahlungs- sowie eine Ausführungsgarantie, die in der Folge von der Beschwerdegegnerin zugunsten der XX._ Generalunternehmung AG ausgestellt wurden.
Das von der Beschwerdegegnerin am 15. Februar 2006 zuhanden der XX._ Generalunternehmung AG ausgestellte und mit "Anzahlungsgarantie/Vorauszahlungsgarantie" betitelte Dokument lautet wie folgt:
"Wird sind informiert worden, dass Sie am 20.12.2005 mit der Firma A._ S.p.A. [...] einen Vertrag Nr. 8 über die BKP 215.2 Fassadenbau beim Bauprojekt 932017.-1, Neubau XYZ._ zum Preis von Sfr. 2'959'000.00 [...] abgeschlossen haben. Gemäss Vertrag werden Sie der Firma A._ S.p.A. [...] eine Anzahlung/Vorauszahlung in Höhe von Sfr. 1.183.600,00 [...] leisten.
Als Sicherheit für die Rückerstattung der Anzahlung im Falle der nicht vertragsgemässen und fristgerechten Lieferung wurde die Stellung einer Bankgarantie vereinbart.
Im Auftrag der Firma A._ S.p.A. [...] verpflichten wir [...] uns hiermit unwiderruflich, Ihnen auf Ihre erste Anforderung hin, ungeachtet der Gültigkeit und der Rechtswirksamkeit des eingangs erwähnten Vertrages und unter Verzicht auf alle Einwendungen und Einreden aus demselben den Anzahlungs-Vorauszahlungsbetrag von Sfr. 1.183.600,00 [...] beinhaltend Kapital, Zinsen und Kosten, zurückzuerstatten, gegen Erhalt Ihrer schriftlichen Zahlungsaufforderung und Bestätigung, wonach die Firma A._ S.p.A. [...] die bestellten Baumaterialien/Waren nicht oder nicht vertragsgemäss geliefert und/oder eingebaut hat.
Unsere Garantie ist gültig bis der Gegenwert am Bauobjekt erreicht ist, jedoch mindestens bis 31.05.06.
Aus Identifikationsgründen ist uns Ihre schriftliche Zahlungsaufforderung durch eine erstklassige Bank zuzuleiten mit der Bestätigung, dass sie rechtmässig unterzeichnet ist.
Diese Garantie tritt erst in Kraft nach Eingang des Anzahlungsbetrages auf dem Konto-Nr _ bei der Y._ Bank Sa Nv, Succursale in Italia.
Für diese Garantie gilt schweizerisches Recht."
Am 2. März 2006 stellte die Beschwerdegegnerin zuhanden der XX._ Generalunternehmung AG ein mit "Ausführungsgarantie/Erfüllungsgarantie" betiteltes Dokument aus, das wie folgt lautet:
"Wird sind informiert worden, dass Sie am 20.12.2005 mit der Firma A._ S.p.A. [...] einen Vertrag Nr. 8 über die BKP 215.2 Fassadenbau beim Bauprojekt 932017.-1, Neubau XYZ._ zum Preis von Sfr. 2'959'000.00 [...] abgeschlossen haben. Als Sicherheit für die nicht vertragsgemässe und fristgerechte Erfüllung des Werkvertrages wurde die Stellung einer Bankgarantie vereinbart.
Im Auftrag der Firma A._ S.p.A. [...] verpflichten wir [...] uns hiermit unwiderruflich, Ihnen auf erste Aufforderung hin, ungeachtet der Gültigkeit und der Rechtswirkungen des eingangs erwähnten Vertrages und unter Verzicht auf alle Einwendungen und Einreden aus demselben sowie unter Ausschluss jeglicher verrechnungsweisen Tilgung, jeden Betrag bis Maximal Sfr. 295.900,00 [...] zurückzuerstatten, gegen Erhalt Ihrer schriftlichen Zahlungsaufforderung und Bestätigung, wonach die Firma A._ S.p.A. [...] ihre vertraglichen Verpflichtungen nicht ordnungsgemäss und fristgerecht erfüllt hat.
Diese Garantie tritt in Kraft am Tag der Unterzeichnung des Werkvertrages und ist gültig bis 4 Monate über das Datum der Abnahme des Werkvertrages, jedoch mindestens bis 31.07.2007.
Aus Identifikationsgründen ist uns Ihre schriftliche Zahlungsaufforderung durch eine erstklassige Bank zuzuleiten mit der Bestätigung, dass sie rechtmässig unterzeichnet ist.
Für diese Garantie gilt schweizerisches Recht."
Beide Verträge sehen einen Gerichtsstand in Zürich vor. Die Beschwerdegegnerin stellte beide Sicherungsinstrumente aufgrund einer Dokumentation aus, die ihr von der A._ S.p.A. ausgehändigt worden war. Dabei handelte es sich im Wesentlichen um ein nicht unterzeichnetes, mit 20. Dezember 2005 datiertes Werkvertragsdokument mit der XX._ Generalunternehmung AG und A._ S.p.A. als Parteien. Das Dokument regelte Rechte und Pflichten betreffend Fassadenbau beim Neubau XYZ._ und nahm Bezug auf ein Verhandlungsprotokoll und eine Auftragsbestätigung vom 28./30. November 2005. Demgemäss wurde die A._ S.p.A. als Subunternehmerin der Bau der Fassaden übertragen. Der Pauschalpreis war auf Fr. 2'959'000.-- veranschlagt. Die Montage sollte am 20. März 2006 beginnen, die Vollendung der Arbeiten war auf den 14. Juli 2006 terminiert. Die Beschwerdegegnerin ging bei Ausstellung der Sicherungsinstrumente davon aus, dass am 20. Dezember 2005 ein solcher Werkvertrag gültig abgeschlossen worden war.
Am 21./30. Juni 2006 unterzeichneten die XX._ Generalunternehmung AG und A._ S.p.A. einen Werkvertrag betreffend Fassadenbau beim Neubau XYZ._. Dieser Vertrag wich wie folgt von dem mit 20. Dezember 2005 datierten Dokument ab: Der Werklohn wurde um rund Fr. 100'000.-- erhöht, der Leistungsumfang entsprechend erweitert und die Konventionalstrafe neu geregelt. Der Zeitplan sah den Montagebeginn nunmehr für den 2. August 2006 und die Vollendung der Arbeiten für den 28. Februar 2007 vor. Weitere Änderungen betrafen den energietechnischen Massnahmennachweis, die allgemeinen Geschäftsbedingungen und den Zahlungsplan.
Am 31. März 2006 stellte die A._ S.p.A. der XX._ Generalunternehmung AG Rechnung für die Anzahlung. Davon - und somit auch von der Höhe der Rechnung - hatte die Beschwerdegegnerin keine Kenntnis. Am 10. Juli 2006 überwies die XX._ Generalunternehmung AG Fr. 1'100'000.-- auf ein Konto der A._ S.p.A. bei der Beschwerdegegnerin. Mit Schreiben vom 14. November 2006 beanspruchte die Beschwerdeführerin als Rechtsnachfolgerin der XX._ Generalunternehmung AG beide Sicherheiten und gab die im Vertragstext verlangten Bestätigungen ab. Die Beschwerdegegnerin verweigerte die Zahlungen.
B. Am 17. Januar 2007 klagte die Beschwerdeführerin beim Handelsgericht des Kantons Zürich gegen die Beschwerdegegnerin auf Zahlung von Fr. 1'395'900.-- plus Zins zu 5 % seit dem 17. November 2006. Das Handelsgericht wies die Klage mit Urteil vom 2. Juni 2009 ab.
Das Handelsgericht erwog, dass die Anzahlungsgarantie mangels vollständiger Leistung der Anzahlung durch die Beschwerdeführerin nie wirksam geworden sei. Zudem erachtete es den Abruf sowohl der Anzahlungs- als auch der Ausführungsgarantie als zweckwidrig.
C. Mit Beschwerde in Zivilsachen beantragt die Beschwerdeführerin dem Bundesgericht, es sei das Urteil des Handelsgerichts des Kantons Zürich vom 2. Juni 2009 aufzuheben und die Klage sei gutzuheissen. Eventualiter sei die Sache zur Sachverhaltsfeststellung und Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei; eventualiter sei die Sache zur Neubeurteilung an das Handelsgericht zurückzuweisen. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
D. Mit Verfügung vom 1. September 2009 erteilte das Bundesgericht der Beschwerde die aufschiebende Wirkung.
Erwägungen:
1. 1.1 Damit ein kantonaler Entscheid mit Beschwerde in Zivilsachen angefochten werden kann, muss der Instanzenzug im Kanton erschöpft sein (Art. 75 Abs. 1 BGG). Für Rügen, die mit der Beschwerde in Zivilsachen erhoben werden können, darf kein kantonales Rechtsmittel mehr offen stehen (BGE 134 III 524 E. 1.3 S. 527). Wurde keine kantonale Nichtigkeitsbeschwerde erhoben, so ist daher auf Rügen, die mit diesem Rechtsmittel einer weiteren kantonalen Instanz hätten vorgetragen werden können, mangels Letztinstanzlichkeit nicht einzutreten.
1.2 Die Beschwerdeführerin hat gegen das Urteil des Handelsgerichts des Kantons Zürich vom 2. Juni 2009 keine Nichtigkeitsbeschwerde an das Kassationsgericht erhoben. Sie kann das Urteil des Handelsgerichts somit nur insoweit anfechten, als im Rahmen der Beschwerde in Zivilsachen zulässige Rügen dem Kassationsgericht nicht unterbreitet werden konnten (vgl. BGE 134 III 92 E. 1.1 S. 93).
2. 2.1 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. BGE 134 V 250 E. 1.2 S. 252; 133 III 545 E. 2.2 S. 550; 132 II 257 E. 2.5 S. 262). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 133 II 249 E. 1.4.1 S. 254; 133 III 545 E. 2.2 S. 550).
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3, 393 E. 7.1, 462 E. 2.4). Im vorliegenden Verfahren ist zudem zu beachten, dass behauptete Rechtsverletzungen, die zunächst mit kantonaler Nichtigkeitsbeschwerde hätten vorgetragen werden können, jedoch nicht gerügt worden sind, wie etwa die offensichtlich unrichtige bzw. willkürliche Sachverhaltsfeststellung (vgl. Frank/Sträuli/Messmer, Kommentar zur zürcherischen Zivilprozessordnung, 3. Aufl., Zürich 1997, N. 43 ff. zu § 281 ZPO/ZH), mangels Erschöpfung des kantonalen Instanzenzugs (Art. 75 Abs. 1 BGG) von vornherein ausser Betracht bleiben müssen.
2.3 Diese Grundsätze verkennt die Beschwerdeführerin zum Teil. Sie weicht in ihrer Beschwerdebegründung in zahlreichen Punkten von den tatsächlichen Feststellungen der Vorinstanz ab oder erweitert diese, ohne substantiiert Ausnahmen von der Sachverhaltsbindung gemäss Art. 105 Abs. 2 und Art. 97 Abs. 1 BGG geltend zu machen, soweit dies aufgrund ihres Verzichts auf eine kantonale Nichtigkeitsbeschwerde überhaupt zulässig wäre. So bringt sie etwa vor, es sei ergänzend festzustellen, dass es sich beim Konto, auf das XX._ Generalunternehmung AG den Betrag von Fr. 1'100'000.-- einzahlte, um das Konto-Nr. _ lautend auf die A._ S.p.A. handelte, was aus den letzten sieben Ziffern der in der Klagebeilage 14 genannten Kontonummer hervorgehe. Im Weiteren führt die Beschwerdeführerin aus, nach ihren Behauptungen habe die A._ S.p.A. der XX._ Generalunternehmung AG den vertraglich vereinbarten Anzahlungsbetrag abzüglich der Mehrwertsteuer in Rechnung gestellt, weil die A._ S.p.A. damals noch nicht über eine Mehrwertsteuernummer verfügt habe, was von der Beschwerdegegnerin nicht bestritten worden sei. Diese Vorbringen haben insoweit unbeachtet zu bleiben.
3. Die Beschwerdeführerin rügt zunächst, die Vorinstanz habe die Valutierungsklausel der Anzahlungsgarantie unzutreffend ausgelegt und damit Art. 18 OR verletzt.
3.1 Die Beschwerdeführerin macht geltend, der Zweck der Valutierungsklausel, wonach die Garantie erst nach Eingang des Anzahlungsbetrages beim Garantieauftraggeber in Kraft tritt, beschränke sich darauf, das Risiko einer unberechtigten Inanspruchnahme der Garantie zu vermindern. Sobald eine Anzahlung geleistet worden sei, falle jedoch das spezifische Risiko der unberechtigten Inanspruchnahme der Garantie im Umfang der geleisteten Anzahlung weg. Das von der Vorinstanz angewendete Prinzip der Formstrenge rechtfertige die von ihr vorgenommene Auslegung der fraglichen Valutierungsklausel nicht.
3.2 Die Rüge ist unbegründet. Die Vorinstanz hat die fragliche Valutierungsklausel zutreffend nach dem Vertrauensprinzip ausgelegt, nachdem kein übereinstimmender wirklicher Wille festgestellt werden konnte, und dabei in Anwendung der allgemeinen Grundsätze der Vertragsauslegung erwogen, dass nicht vom klaren Wortlaut abzuweichen sei, solange keine ernsthaften Gründe dafür sprechen (BGE 129 III 118 E. 2.5 S. 122; 128 III 265 E. 3a S. 267). Sie hat zudem dem Wortlaut der Klausel aufgrund des aus der Unabhängigkeit der Garantie vom zugrunde liegenden Rechtsverhältnis folgenden Grundsatzes der Garantiestrenge eine besondere Bedeutung beigemessen.
Gemäss dem Wortlaut der Valutierungsklausel tritt die Anzahlungsgarantie erst "nach Einzahlung des Anzahlungsbetrags" auf dem Konto der A._ S.p.A. bei der Beschwerdegegnerin in Kraft, wobei der Anzahlungsbetrag an zwei Textstellen mit Fr. 1'183'000.-- umfangmässig umschrieben wird. Die Vorinstanz hat ohne Verletzung von Bundesrecht dafür gehalten, dass die Bedingungsklausel dahingehend zu verstehen sei, dass die Anzahlungsgarantie erst mit Überweisung des gesamten Anzahlungsbetrags von Fr. 1'183'000.-- in Kraft trete.
Die Beschwerdeführerin vermag keinen Beleg für ihre Ansicht darzubringen, dass die Valutierungsklausel bei einer Anzahlungsgarantie im Allgemeinen dahingehend zu verstehen sei, dass sie stets im Umfang irgendeiner Zahlung wirksam würde, auch wenn diese den vertraglich vorgesehenen Anzahlungsbetrag nicht erreicht. Entgegen der Auffassung der Beschwerdeführerin hat die Vorinstanz den Zweck der Valutierungsklausel, nämlich den Garantieauftraggeber davor zu schützen, dass der Begünstigte die Anzahlungsgarantie missbräuchlich in Anspruch nimmt, bevor der Anzahlungsbetrag dem Garantieauftraggeber überwiesen wurde (Friedrich Graf von Westphalen, in: Westphalen/Jud [Hrsg.], Die Bankgarantie im internationalen Handelsverkehr, 3. Aufl., Frankfurt a.M. 2005, S. 123; Andreas Büsser, Einreden und Einwendungen der Bank als Garantin gegenüber dem Zahlungsanspruch des Begünstigten, 1997, Rz. 400, 1233), nicht übersehen, sondern bei deren Auslegung mitberücksichtigt. Dieser Zweck ändert jedoch nichts daran, dass im Sinne einer streng formalisierten Betrachtungsweise in Bezug auf die Erfüllung der in der Garantie vorgesehenen Bedingungen vom Wortlaut der betreffenden Klausel auszugehen ist (Urteil 4C.144/2003 vom 10. September 2003 E. 2.2). Die Garantin, welche die Rückzahlung unabhängig von dem der Garantie zugrunde liegenden Rechtsverhältnis verspricht, muss ihre Zahlungspflicht aufgrund des Vertragstexts möglichst wirksam prüfen können (vgl. Carlo Lombardini, Droit bancaire suisse, 2. Aufl. 2008, S. 588 Rz. 44, S. 602 Rz. 104). Nimmt die Garantiebank eine Bestimmung in eine Anzahlungsgarantie auf, wonach deren Inanspruchnahme erst nach Eingang des Anzahlungsbetrags möglich ist, bringt sie damit gegenüber dem Begünstigten zum Ausdruck, dass eine Zahlungsverpflichtung nur dann entsteht, wenn die vorgesehene Anzahlung geleistet worden ist (vgl. Urteil 4C.144/2003 vom 10. September 2003 E. 3.3).
Nachdem die Anzahlungsgarantie im zu beurteilenden Fall erst "nach Einzahlung des Anzahlungsbetrags", der sich nach der Garantievereinbarung auf Fr. 1'183'000.-- beläuft, auf dem Konto der A._ S.p.A. in Kraft treten soll, durfte die Beschwerdegegnerin davon ausgehen, dass ihre Garantieverpflichtung erst mit Überweisung des Gesamtbetrags wirksam würde. Hätte die Valutierungsklausel der Beschwerdeführerin ermöglichen sollen, die Höhe der Anzahlungsgarantie je nach der Höhe ihrer Einzahlung selbst zu bestimmen, wäre dies bei der Abfassung der Klausel deutlich zum Ausdruck zu bringen gewesen. Mangels klarer Hinweise für eine solche Bedeutung der Bedingungsklausel ist diese so zu verstehen, dass die Anzahlungsgarantie erst mit der Bezahlung des Gesamtbetrags von Fr. 1'183'000.-- in Kraft tritt.
3.3 Der weiter erhobene Einwand der Beschwerdeführerin, das Verhalten der A._ S.p.A. bei der Rechnungsstellung für die Anzahlung sei der Beschwerdegegnerin zuzurechnen, verfängt nicht. Abgesehen davon, dass die Beschwerdegegnerin nach den verbindlichen Sachverhaltsfeststellungen des angefochtenen Entscheids (Art. 105 Abs. 1 BGG) von der Rechnungsstellung durch die A._ S.p.A. keine Kenntnis hatte, verkennt die Beschwerdeführerin, dass die A._ S.p.A. nicht Vertragspartei des Garantievertrags ist. Es ist daher nicht einzusehen, weshalb der Einwand der Beschwerdegegnerin, die Bedingung für ihr Zahlungsversprechen gemäss der Valutierungsklausel sei noch nicht eingetreten, widersprüchlich und damit rechtsmissbräuchlich sein soll.
Die Vorinstanz hat demnach kein Bundesrecht verletzt, wenn sie erwog, dass die Anzahlungsgarantie nie wirksam geworden sei.
4. 4.1 Die Beschwerdeführerin äussert sich ausführlich dazu, weshalb die Anzahlungsgarantie nicht zweckwidrig abgerufen worden sei und beruft sich dabei insbesondere auf den aus ihrer Sicht massgebenden Zweck dieser Garantie. Nachdem sich ergeben hat, dass die Anzahlungsgarantie nicht wirksam geworden ist, braucht auf diese Vorbringen nicht eingegangen zu werden.
Im Zusammenhang mit der Ausführungsgarantie, deren Abruf die Vorinstanz für zweckwidrig erachtet hat, erhebt die Beschwerdeführerin keine eigenständigen Rügen, sondern verweist zur Begründung auf ihre Vorbringen zur Anzahlungsgarantie. Da diese Ausführungen eigens auf die Anzahlungsgarantie zugeschnitten sind und mit deren Sicherungszweck der Rückzahlung der geleisteten Anzahlung argumentiert wird, ist fraglich, ob die Beschwerdeführerin damit ihrer Begründungspflicht (Art. 42 Abs. 2 BGG) in Bezug auf die Ausführungsgarantie genügt. Die Frage braucht jedoch nicht vertieft zu werden, da der Vorinstanz ohnehin keine Bundesrechtsverletzung vorzuwerfen ist, wenn sie den Abruf der Ausführungsgarantie für zweckwidrig erachtete und daher die Klage der Beschwerdeführerin auch insoweit abwies.
4.2 Bei einer selbständigen Garantie hat der Garant seine Zahlungsverpflichtung grundsätzlich ohne Rücksicht auf allfällige Auseinandersetzungen hinsichtlich des Grundverhältnisses zu erfüllen, sofern die in der Garantie vorgesehenen Voraussetzungen erfüllt sind (BGE 122 III 321 E. 4a S. 322, 273 E. 3a/aa S. 275). Wie die Vorinstanz zutreffend erwogen hat, besteht der Zweck einer selbständigen Garantie in der Deckung eines bestimmten Risikos. Die Garantie wird im Hinblick auf einen bestimmten Vertrag ausgestellt. Der aus der Garantie Begünstigte kann die Garantie daher nicht abrufen, um die Folgen der mangelnden Ausführung eines anderen Vertrags als des Grundvertrags zu decken. Eine Inanspruchnahme ausserhalb des abgesicherten Risikos ist unzulässig und die Bank hat die Zahlung zu verweigern, sofern der zweckwidrige Abruf für die Bank offensichtlich war (BGE 122 III 321 E. 4a S. 322 f.; Urteil 4C.12/2007 vom 26. Juni 2007 E. 3.1).
Die Vorinstanz hat erwogen, dass der Zweck der zu beurteilenden Ausführungsgarantie in der Sicherung der im Werkvertrag vom 20. Dezember 2005 vorgesehenen Leistungen der A._ S.p.A. besteht. Nach dem Wortlaut der Garantie wurde diese als Sicherheit für die "nicht vertragsgemässe und fristgerechte Erfüllung" dieses Werkvertrags vereinbart. Die Vorinstanz hat ohne Verletzung von Bundesrecht ausgehend vom Grundsatz der Garantiestrenge dafür gehalten, dass ein korrekter Abruf unter dem in der Garantie bezeichneten Werkvertrag vom 20. Dezember 2005 und nicht dem Vertrag vom 30. Juni 2006 hätte erfolgen müssen. Auch wenn beide Vereinbarungen den Fassadenbau beim Neubau XYZ._ zu Gegenstand hatten, wiesen sie entgegen der Ansicht der Beschwerdeführerin insgesamt wesentliche Unterschiede auf, indem im zweiten Vertrag unter anderem der Werklohn in Erweiterung des Leistungsumfangs um Fr. 100'000.-- erhöht und die Vollendung der Arbeiten gut sieben Monate später terminiert wurde. Wie die Vorinstanz zudem zu Recht bemerkte, wäre es ohne weiteres möglich gewesen, die Erstellung des Werks als solches, also ohne Bezug auf bestimmte vertragliche Grundlagen, in zeitlicher, finanzieller oder sonstiger Hinsicht, zum Gegenstand des Garantievertrags zu machen.
Der Vorinstanz kann keine Bundesrechtsverletzung vorgeworfen werden, wenn sie der Beschwerdegegnerin, die für die nicht vertragsgemässe und fristgerechte Erfüllung des Werkvertrags vom 20. Dezember 2005 garantierte, die Zahlungsverweigerung wegen zweckwidrigen Abrufs der Ausführungsgarantie zugestand, nachdem die Beschwerdeführerin die Garantie offensichtlich wegen nicht fristgerechter bzw. unzureichender Ausführung eines anderen Vertrags beanspruchte.
5. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 12'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 14'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 30. November 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Leemann