Sachverhalt:
A. Die X._ AG betreibt unter der Bezeichnung "Z._" ein Kleidergeschäft in Zürich. Sie ist bei der Y._ AG gegen die Gefahr eines Einbruchdiebstahls mit einer Versicherungssumme für Waren und Einrichtungen im Gesamtwert von Fr. 700'000.-- versichert sowie als zusätzliche Deckung für Bruchschäden an der Gebäude- und Mobiliarverglasung auf erstes Risiko im Umfang von Fr. 4'000.--. Im Rahmen der Grundversicherung besteht ferner Deckung für die Folgen eines Betriebsunterbruchs bis Fr. 850'000.--.
B. Am 21. Oktober 2005 belangte die X._ AG (Klägerin) die Y._ AG (Beklagte 1) und zwei weitere Personen (Beklagte 2 und 3) vor dem Handelsgericht des Kantons Zürich auf Zahlung von Fr. 648'365.-- nebst Zins als Ersatz für den Wert von rund 2000 Kleidungsstücken, die in der Nacht vom 19. auf den 20. Oktober 2004 bei einem durch unbekannte Täterschaft verübten Einbruch in ihrem Geschäft entwendet worden sein sollen. Zudem verlangte die Klägerin von den Beklagten die Zahlung von Fr. 4'000.-- nebst Zins als Ersatz für weiteren Schaden und von Fr. 247'247.70 nebst Zins als Ersatz für Betriebsunterbrechungsschaden. In ihrer Replik reduzierte die Klägerin die letztgenannte Forderung auf Fr. 232'919.--.
Das Handelsgericht wies die Klage gegen die Beklagten 2 und 3 mit Teilurteil vom 9. September 2008 ab.
Mit Beschluss vom 29. April 2011 berichtigte das Handelsgericht das Protokoll in zwei Punkten und schrieb das Verfahren gegen die Beklagte 1 im Umfang von Fr. 14'328.70 nebst Zins als durch Klagerückzug erledigt ab. Mit Urteil vom gleichen Tag hiess das Handelsgericht die Klage gegenüber der Beklagten 1 im Umfang von Fr. 4'000.-- nebst 5 % Zins seit 1. Dezember 2004 gut und wies sie im Übrigen ab. Die Gerichtsgebühr von Fr. 58'000.-- auferlegte es der Klägerin und verpflichtete diese, der Beklagten 1 eine Prozessentschädigung von Fr. 60'000.-- zu bezahlen.
C. Die Klägerin (Beschwerdeführerin) beantragt dem Bundesgericht mit Beschwerde in Zivilsachen im Wesentlichen, das Urteil des Handelsgerichts vom 29. April 2011 aufzuheben, soweit damit die Klage abgewiesen wurde, und die Klage gutzuheissen. Eventuell sei der Ersatzwert der abhanden gekommenen Waren nach Art. 42 Abs. 2 OR zu schätzen und die Beklagte 1 (Beschwerdegegnerin) zum Ersatz zu verpflichten, subeventuell sei die Sache zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Für den Fall der Abweisung der Beschwerde in der Sache beantragt die Beschwerdeführerin, die Gerichtsgebühr für das handelsgerichtliche Verfahren auf höchstens Fr. 25'000.-- und die Prozessentschädigung auf höchstens Fr. 30'000.-- festzusetzen, eventuell diesbezüglich die Sache an die Vorinstanz zu neuer Beurteilung im Sinne der Erwägungen zurückzuweisen.
Die Beschwerdegegnerin schliesst auf kostenfällige Abweisung der Beschwerde.
Das Handelsgericht äusserte sich einzig bezüglich der in der Beschwerde aufgestellten Behauptung, der Instruktionsrichter habe anlässlich der Referentenaudienz gesagt, er wolle keine weiteren Belege von der Beschwerdeführerin, insbesondere keine handschriftlichen. Im Übrigen verzichtete es auf Vernehmlassung. Obwohl das Bundesgericht keinen zweiten Schriftenwechsel angeordnet hatte, reichten die Beschwerdeführerin eine Replik und die Beschwerdegegnerin eine Duplik ein.
Erwägungen:
1. 1.1 Nach Art. 42 Abs. 2 BGG ist in der Beschwerdeschrift in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Soweit das Bundesgericht das Recht von Amtes wegen anwendet (Art. 106 BGG), ist zwar eine ausdrückliche Nennung bestimmter Gesetzesartikel nicht erforderlich. Unerlässlich ist aber, dass in der Beschwerde auf die Begründung des angefochtenen Urteils eingegangen und dargetan wird, gegen welche Regeln des Bundesrechts die Vorinstanz verstossen haben soll (BGE 134 V 53 E. 3.3 S. 60; vgl. auch BGE 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 748 f.). Soweit eine Verletzung von Grundrechten und kantonalem oder interkantonalem Recht geltend gemacht wird, findet der Grundsatz der Rechtsanwendung von Amtes wegen keine Anwendung, sondern es gilt das Rügeprinzip (Art. 106 Abs. 2 BGG). Demnach untersucht das Bundesgericht den angefochtenen Entscheid nicht von sich aus umfassend auf seine Verfassungsmässigkeit, sondern beschränkt sich auf die Prüfung der in der Beschwerde rechtsgenüglich vorgebrachten Rügen (Art. 106 Abs. 2 BGG; BGE 133 III 393 E. 6 S. 397 mit Hinweis).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 135 III 127 E. 1.5 S. 130 mit Hinweis).
1.3 Gemäss Art. 99 Abs. 1 BGG dürfen neue Tatsachen und Beweismittel nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt. In der Beschwerde ist darzutun, inwiefern diese Voraussetzung für eine nachträgliche Einreichung von Beweismitteln erfüllt sein soll (BGE 134 V 223 E. 2.2.1 S. 226 mit Hinweis). Dies kann zutreffen, wenn die Vorinstanz ihr Urteil unerwartet auf einen Rechtstitel stützt, der im Verfahren nicht thematisiert wurde und damit Sachumstände erst durch den angefochtenen Entscheid Rechtserheblichkeit gewinnen (Urteile 4A_642/2009 vom 2. Februar 2010 E. 2.4; 8C_184/2009 vom 25. August 2009 E. 4.3.1).
1.4 Willkür liegt nach ständiger Rechtsprechung nicht schon dann vor, wenn eine andere Lösung ebenfalls in Betracht zu ziehen oder gar vorzuziehen wäre. Das Bundesgericht hebt einen Entscheid wegen materieller Rechtsverweigerung nur auf, wenn er offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 132 III 209 E. 2.1 S. 211; 131 I 57 E. 2 S. 61; je mit Hinweisen).
1.5 Soweit in einer Beschwerde Willkür in der Ermittlung des Sachverhalts geltend gemacht wird, ist zu beachten, dass dem Sachrichter in der Beweiswürdigung ein breiter Ermessensspielraum zusteht; der Beschwerdeführer hat daher darzulegen, inwiefern der kantonale Richter sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse gezogen, erhebliche Beweise übersehen oder willkürlich ausser Acht gelassen habe (BGE 120 Ia 31 E. 4b S. 40; 118 Ia 28 E. 1b S. 30). Dagegen genügt es nicht, wenn der Beschwerdeführer lediglich einzelne Beweise anführt, die er anders als im angefochtenen Entscheid gewichtet wissen möchte. Es geht nicht an, bloss appellatorische Kritik an der Beweiswürdigung des kantonalen Gerichts zu üben, als ob dem Bundesgericht die freie Prüfung aller Tatfragen zukäme (BGE 130 I 258 E. 1.3 S. 261 f. mit Hinweisen).
2. 2.1 Nach Auffassung der Vorinstanz hat die Beschwerdeführerin nachgewiesen, dass in der Nacht vom 19. auf den 20. Oktober 2004 in ihr Kleidergeschäft eingebrochen worden war. Dagegen misslang der Nachweis dafür, dass die in vier Schadenslisten als gestohlen aufgeführten Kleider am Abend des 19. Oktober 2004 in ihrem Laden vorhanden gewesen seien und am nächsten Morgen gefehlt hätten. Dabei urteilte die Vorinstanz nach dem Regelbeweismass der vollen Überzeugung des Gerichts nach objektiven Gesichtspunkten, da für die Beschwerdeführerin als buchführungspflichtige Unternehmung ohne Weiteres die Möglichkeit hätte bestehen müssen, anhand ihrer Bücher, insbesondere des Inventars, den unmittelbaren Beweis über die gestohlenen Gegenstände zu führen. Beweisschwierigkeiten, die von der Führung einer zum Beweis untauglichen Buchhaltung herrührten, könnten keinen Anlass für Beweiserleichterungen bilden. Eine Schadensschätzung komme daher nicht in Frage.
2.2 Die Vorinstanz kam alsdann zum Ergebnis, das Inventar der Beschwerdeführerin per 31. Dezember 2003 entspreche den gesetzlichen Anforderungen nicht. Es sei namentlich zufolge unnummerierter Seiten und ungeordneter Seitenzahlen nicht verlässlich. Zudem seien darin zu den einzelnen Kleidungsstücken nur wenige Informationen vermerkt, weshalb es weder aussage- noch beweiskräftig sei, enthalte es doch in der Regel über Stichworte wie "Pulli, Top, Bluse, Kleid, Jacke" hinaus keine weitere Beschreibung. Das Inventar sei daher für unbeteiligte Dritte nicht nachvollziehbar, auch nicht anhand der nachträglich angebrachten Codierung. Auch wenn Stichproben ergeben hätten, dass die Codes zu Lieferantenrechnungen geführt hätten, welche mit den Designer- bzw. Markennamen und dem Kaufpreis korrespondiert hätten, könne damit nicht ermittelt werden, welche Kleider in der Einbruchsnacht noch vorhanden gewesen seien. Hierfür wäre erforderlich, dass dem Inventar sämtliche im Jahr 2004 erfolgten Verkäufe gegenüber gestellt werden könnten. Dies sei jedoch anhand der eingereichten Unterlagen nicht möglich. Die von der Beschwerdeführerin verfasste, nach Tagen geordnete Liste der verkauften Kleidungsstücke (Hose, T-Shirt, Pulli, Bluse, etc.) mit Angabe des Designers und Bruttoverkaufswerts sei eine reine Parteibehauptung und bilde keinen Beweis, auch nicht die nachträglich um Hinweise zur entsprechenden Lieferantenrechnung ergänzte Version dieser Liste. Daraus sei nicht ersichtlich, wann und zu welchem Zweck sie erstellt worden sei. Dasselbe gelte für die "Ausgangsliste", welche die Beschwerdeführerin nachträglich habe erstellen lassen. Mit nachträglich selbst oder von einem Beauftragten erstellten Listen lasse sich eine eigene Behauptung nicht beweisen. Auch aus den eingereichten Monatsrapporten würden lediglich die Tagestotale und die Art der Bezahlung hervorgehen. Sie liessen keine Aufschlüsselung nach einzelnen Kleidern zu. Der Verwaltungsratsdelegierte der Beschwerdeführerin, A._, habe erläutert, für jedes Geschäft würden separate Tages- und Monatsabrechnungen geführt. Die Verkäufe würden dabei aufgrund der Kassenbelege auf die Tagesrapporte und diese wiederum auf die Monatsrapporte übertragen. Die Kassenbelege seien jedoch nicht eingereicht worden.
3. 3.1 Als Beilage zur Beschwerde reicht die Beschwerdeführerin dem Bundesgericht nunmehr die in der Verkaufsstatistik (act. 5/56) referenzierten Kassenbelege für die Zeit vom 1.1.2004 bis 19.10.2004 chronologisch geordnet ein. Mit Blick auf Art. 99 BGG führt sie zum einen an, aufgrund des Verweises in der Verkaufsstatistik auf die Kassenbelege stellten diese gar keine neuen Beweismittel dar, sondern lediglich Ergänzungen von act. 5/56. Zum andern sei für sie überraschend gewesen, dass das Handelsgericht die Verkaufsstatistik 2004 nicht als Beweis, sondern lediglich als Parteibehauptung gewürdigt und für den Schadensnachweis das Regelbeweismass angewendet habe.
3.2 Ein Beweis gilt als erbracht, wenn das Gericht nach objektiven Gesichtspunkten von der Richtigkeit einer Sachbehauptung überzeugt ist. Absolute Gewissheit kann dabei nicht verlangt werden. Es genügt, wenn das Gericht am Vorliegen der behaupteten Tatsache keine ernsthaften Zweifel mehr hat oder allenfalls verbleibende Zweifel als leicht erscheinen. Ausnahmen von diesem Regelbeweismass, in denen eine überwiegende Wahrscheinlichkeit als ausreichend betrachtet wird, ergeben sich einerseits aus dem Gesetz selbst und sind andererseits durch Rechtsprechung und Lehre herausgearbeitet worden. Den Ausnahmen liegt die Überlegung zu Grunde, dass die Rechtsdurchsetzung nicht an Beweisschwierigkeiten scheitern darf, die typischerweise bei bestimmten Sachverhalten auftreten. Die Beweiserleichterung setzt demnach eine "Beweisnot" voraus. Diese Voraussetzung ist erfüllt, wenn ein strikter Beweis nach der Natur der Sache nicht möglich oder nicht zumutbar ist, insbesondere wenn die von der beweisbelasteten Partei behaupteten Tatsachen nur mittelbar durch Indizien bewiesen werden können. Eine Beweisnot liegt aber nicht schon darin begründet, dass eine Tatsache, die ihrer Natur nach ohne weiteres dem unmittelbaren Beweis zugänglich wäre, nicht bewiesen werden kann, weil der beweisbelasteten Partei die Beweismittel fehlen. Blosse Beweisschwierigkeiten im konkreten Einzelfall können nicht zu einer Beweiserleichterung führen (BGE 130 III 321 E. 3.2 S. 324 mit Hinweisen).
3.3 Diese Grundsätze hätten der Beschwerdeführerin bekannt sein müssen, ebenso, dass sie bei korrekter Buchführung den strikten Beweis der an einem bestimmten Tag im Geschäft vorhandenen Waren aufgrund von Inventar und Verkaufsbelegen hätte leisten können. Dass die Buchführungspflicht nicht primär bezweckt, damit den Beweis der abhanden gekommenen Sachen bei einem allfälligen Einbruch zu führen, kann entgegen der Meinung der Beschwerdeführerin nicht bewirken, dass gestützt darauf nicht der strikte Beweis des Vorhandenseins bestimmter Gegenstände im Einbruchszeitpunkt verlangt werden dürfte. Entscheidend ist, dass sich bei ordnungsgemässer Buchführung der betreffende Beweis führen lässt. Die Beschwerdeführerin durfte daher nicht damit rechnen, dass insoweit eine Beweiserleichterung Platz greifen würde.
3.4 Die Beschwerdeführerin wendet zwar ein, sie sei "zeitweise" nicht anwaltlich vertreten gewesen und leitet daraus sinngemäss ab, die Vorinstanz habe die richterliche Fragepflicht gemäss § 55 der damals geltenden Zürcher Zivilprozessordnung (aZPO/ZH) verletzt, weil sie es unterlassen habe, die Beschwerdeführerin darauf aufmerksam zu machen, dass die Verkaufsstatistik ohne Beibringung der darin referenzierten Kassenbelege unvollständig und beweisuntauglich sei. Die Beschwerdeführerin legt aber nicht dar, welche Prozesshandlungen sie ohne Rechtsbeistand vorgenommen hat, die auch in einer späteren Prozessphase durch einen beigezogenen Rechtsanwalt nicht korrigierbar gewesen wären. Überdies wurde ihr durch die von ihr selbst erwähnte Bestreitung der Beweiskraft der Verkaufslisten durch die Beschwerdegegnerin die Bedeutung der Kassenbelege hinreichend vor Augen geführt. Ein grober Verstoss gegen die richterliche Fragepflicht gemäss § 55 aZPO/ZH, mithin eine willkürliche Anwendung kantonalen Prozessrechts, ist jedenfalls nicht dargetan. Dass die Beschwerdeführerin entsprechend ihrer Behauptung anlässlich der Referentenaudienz durch den Instruktionsrichter von der Einreichung weiterer handschriftlicher Belege abgehalten worden wäre (Rz. 56), hat das Handelsgericht in seiner Vernehmlassung in Abrede gestellt, und die Beschwerdeführerin hat für ihr Vorbringen keine Beweise angeboten, die abzunehmen wären, da erst der angefochtene Entscheid zum betreffenden Vorbringen Anlass gab. Damit ist nicht nachgewiesen, dass sich der Instruktionsrichter wie von der Beschwerdeführerin geschildert geäussert hat, weshalb sich weitere Erwägungen dazu erübrigen.
3.5 Soweit die Beschwerdeführerin anführt, die Richtigkeit der genannten Liste sei nicht bestritten worden, übersieht sie, dass die Beschwerdegegnerin, wie diese in der Beschwerdeantwort zutreffend darlegt, die Richtigkeit der Verkaufslisten in der Duplik bestritten (act. 52 S. 70) und an dieser Bestreitung in der Stellungnahme zu den Noven (act. 63 S. 12) explizit festgehalten hat. Sodann trägt die Beschwerdeführerin selbst vor, die Beweiskraft der Verkaufsstatistik leite sich aus dem darauf angebrachten Hinweis auf einen - bislang nicht eingereichten - Verkaufsbeleg ab. Daraus folgt, dass sich der Nachweis erst unter Heranziehung des betreffenden Belegs ergibt. Demnach konnte nicht überraschen, dass die Verkaufslisten ohne die zugehörigen, fortlaufend nummerierten Verkaufsbelege zum Beweis der Verkäufe nicht genügten. Bei den mit der Beschwerde eingereichten Urkunden handelt es sich somit um unzulässige Noven (vgl. E. 1.3 hiervor). Sie bleiben unbeachtet.
3.6 Mangels hinreichender Begründung ist schliesslich auf die Rüge willkürlicher Würdigung der Zeugenaussagen und der Verletzung des Anspruchs auf rechtliches Gehör nicht einzutreten. So wird in der Beschwerde nicht aufgezeigt, welche Aussagen welcher Zeugen in unhaltbarer Weise gewürdigt worden seien sollen. Auch ist nicht ersichtlich, auf welche Aussagen des einzig genannten Zeugen B._ sich die Beschwerdeführerin prozesskonform berufen haben will, ohne damit gehört worden zu sein.
3.7 Aus dem bisher Ausgeführten ergibt sich, dass die Vorinstanz zufolge fehlender Überprüfbarkeit der Verkaufslisten willkürfrei annehmen durfte, die Beschwerdeführerin habe nicht nachweisen können, welche Verkäufe sie im Jahr 2004 getätigt hat. Somit hätte ihr auch nicht geholfen, wenn sie den Warenbestand per 1. Januar 2004 hätte beweisen können. Auf ihre Kritik an den Ausführungen der Vorinstanz zum Inventar braucht daher mangels Entscheidrelevanz nicht eingegangen zu werden.
4. 4.1 Die Vorinstanz hat den geltend gemachten Anspruch auf Ersatz von Unterbrechungsschaden abgelehnt. Sie erwog, der eingebüsste Warenbestand selbst stelle keinen Unterbrechungsschaden dar, sondern er sei dessen Ursache, indem die gestohlenen Kleider nicht mehr verkauft werden konnten. Gemäss Versicherungsvertrag (E1 Ziff. 411 AVB) ersetze die Versicherung die Differenz zwischen dem während der Haftzeit erzielten und dem ohne Unterbrechung erwarteten Umsatz, vermindert um die Differenz zwischen den mutmasslichen und den tatsächlich aufgewendeten Kosten. Die Berechnung der Umsatzeinbusse erfordere demnach die genaue Kenntnis des gestohlenen Warenwerts, welcher nicht nachgewiesen sei. Mangels bezifferbaren Schadens sei unter dem Titel Unterbrechungsschaden kein Ersatz geschuldet.
4.2 Inwiefern die Vorinstanz damit Grundsätze der Schadensberechnung verletzt oder sonst wie gegen Bundesrecht verstossen haben oder in willkürliche Beweiswürdigung verfallen sein soll, ist der Beschwerde nicht zu entnehmen. Mangels rechtsgenügender Begründung ist auf die Vorbringen der Beschwerdeführerin zum Unterbrechungsschaden nicht einzutreten.
5. Schliesslich vertritt die Beschwerdeführerin die Ansicht, die ihr mit Teilurteil vom 9. September 2006 auferlegte Gerichtsgebühr von Fr. 19'200.-- müsse an die im angefochtenen Urteil festgelegte Gerichtsgebühr angerechnet werden. Mit diesem Teilurteil wurde die Klage gegen die beiden weiteren von der Beschwerdeführerin in solidarischer Haftbarkeit mit der Beschwerdegegnerin eingeklagten Personen abgewiesen. Die Beschwerdeführerin bezeichnet indessen keine Bestimmung des kantonalen Prozessrechts, welche die Anrechnung der für ein Teilurteil bestimmten Gerichtsgebühr an jene des Urteils über den noch nicht beurteilten Teil der Forderungen vorschreibt. Auch diese Rüge scheitert mithin an den Begründungsanforderungen.
Soweit die Beschwerdeführerin geltend macht, die Vorinstanz habe ihr Ermessen überschritten, wenn sie die Gerichtsgebühr auf Fr. 58'000.-- statt auf Fr. 57'484.-- und die Prozessentschädigung auf Fr. 60'000.-- statt auf Fr. 59'788.-- festgelegt habe, zeigt sie nicht auf, dass die angerufenen Gebührenordnungen frankengenau einzuhalten sind und keinerlei Rundungen zulassen. Willkür ist jedenfalls nicht auszumachen. Ebenso wenig hat die Vorinstanz ihren weiten Ermessensspielraum missbraucht, indem sie die Kosten strikt nach Obsiegen und Unterliegen verlegte. Auch wenn die Beschwerdeführerin den Nachweis des behaupteten Diebstahls zu erbringen vermochte, erscheint diese Kostenverlegung im Lichte von § 64 Abs. 3 aZPO/ZH, der eine andere Kostenverteilung zulässt, wenn sich die unterliegende Partei in guten Treuen zur Prozessführung veranlasst sah oder wenn dem Kläger die genaue Bezifferung des Anspruchs unzumutbar war, keineswegs als stossend. Wie sich aus den obigen Ausführungen ergibt, war die Bezifferung des Anspruchs der Beschwerdeführerin durchaus zumutbar. Willkür ist nicht auszumachen.
6. Aus den dargelegten Gründen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 11'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 13'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 18. Oktober 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Gelzer