Sachverhalt:
A. Die X._ GmbH (Beschwerdeführerin) mit Sitz in U._ stellt namentlich Lagerhallen her. Die Y._ AG (Beschwerdegegnerin) mit Sitz in V._, ist Inhaberin des Schweizer Patents Nr. ZZZ._ (Lageranlage und Behältnis mit Lageranlage).
B. Am 28. Mai 2001 klagte die Beschwerdeführerin beim Kantonsgericht Zug gegen die Beschwerdegegnerin auf Feststellung der Nichtigkeit des Schweizer Patents Nr. ZZZ._. Die Beschwerdegegnerin schloss im Wesentlichen auf Abweisung der Klage und erhob Widerklage wegen Verletzung des Streitpatents.
Mit Teilurteil vom 26. April 2007 nahm das Kantonsgericht Zug davon Vormerk, dass die Beschwerdegegnerin in teilweiser Anerkennung der Klage den Patentanspruch 1 des Schweizer Patents Nr. ZZZ._ eingeschränkt hat, und wies im Übrigen die Klage ab. In Gutheissung des Widerklagebegehrens 1 verbot das Kantonsgericht der Beschwerdeführerin unter Androhung der Straffolgen von Art. 292 StGB im Widerhandlungsfall, Klimaschränke (mit näher bezeichneten Merkmalen), namentlich die mit der Bezeichnung "Q._" gekennzeichneten Klimaschränke, in der Schweiz herzustellen, in der Schweiz oder von der Schweiz aus feilzuhalten, zu verkaufen oder in Verkehr zu bringen und/oder an solchen Handlungen in irgendeiner Form mitzuwirken (Dispositivziffer 3). In Gutheissung des Widerklagebegehrens 2 verurteilte es die Beschwerdeführerin, der Beschwerdegegnerin innert 30 Tagen nach Rechtskraft des Teilurteils über alle in der Schweiz von ihr oder mit ihrer Unterstützung getätigten Verkäufe, Lieferungen, Verpflichtungsgeschäfte und Verleihung von Rechten, sowie Angebote, Feilbieten und Werbung für Klimaschränke gemäss Ziffer 3 des Dispositivs Auskunft zu erteilen und über die daraus resultierenden Erträge und Gewinne vor Gemeinkosten Rechnung zu legen (Dispositivziffer 4). Ferner ordnete das Kantonsgericht an, dass die Beschwerdegegnerin innert 30 Tagen den im Widerklagebegehren 3 behaupteten Schaden sowie Gewinnherausgabeanspruch zu beziffern habe. Diese Frist beginne zu laufen, sobald die Beschwerdeführerin gemäss Ziffer 4 des Dispositivs Rechnung gelegt habe (Dispositivziffer 7).
Eine gegen dieses Teilurteil gerichtete Beschwerde in Zivilsachen der Beschwerdeführerin wies das Bundesgericht mit Urteil vom 2. August 2007 ab, soweit es darauf eintrat.
Mit Verfügung vom 23. Dezember 2010 verpflichtete der Instruktionsrichter des Kantonsgerichts Zug die Beschwerdeführerin unter Androhung der Überweisung ihrer verantwortlichen Organe wegen Ungehorsames gegen amtliche Verfügung gemäss Art. 292 StGB an den Strafrichter im Falle der Unterlassung, dem Kantonsgericht Zug innert einer Frist von 30 Tagen
- zu sämtlichen in der von der Beschwerdegegnerin mit Eingabe vom 1. Oktober 2010 eingereichten Übersicht aufgelisteten Verkäufe an Abnehmer in der Schweiz (inkl. R._ AG, S._ SA und T._ AG) die dazugehörigen Unterlage (Offerten, Kaufverträge, Rechnungen, Lieferscheine etc., sowie allenfalls eine Bestätigung des Abnehmers/Rechnungsadressaten, dass die betreffenden Güter nicht in die Schweiz, sondern direkt in ein anderes Land geliefert worden sind) nachzureichen (Ziff. 1).
- zu sämtlichen in der von der Beschwerdegegnerin mit Eingabe vom 1. Oktober 2010 aufgelisteten Verkäufen an Abnehmer von Waren, die in die Schweiz weiterverkauft worden sind, die dazugehörenden Unterlagen (Offerten, Kaufverträge, Rechnungen, Lieferscheine etc.) nachzureichen, soweit diese noch nicht bei den Akten liegen (Ziff. 2).
Gemäss Ziffer 3 der Verfügung hatte die Beschwerdeführerin innert derselben Frist die mit den direkten und indirekten Verkäufen in die Schweiz zusammenhängenden Herstellungskosten detailliert (mit Bezug auf die Kostenstelle) auszuweisen und zu belegen.
C. Die Beschwerdeführerin hat die Verfügung des Instruktionsrichters des Kantonsgerichts Zug vom 23. Dezember 2010 mit kantonaler Beschwerde beim Obergericht des Kantons Zug und gleichzeitig mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde beim Bundesgericht angefochten. Mit dieser Beschwerde (I.) im Verfahren 4A_64/2011 beantragt die Beschwerdeführerin, in Ziffer 1 der angefochtenen Verfügung den Teilsatz: "... sowie allenfalls eine Bestätigung des Abnehmers/Rechnungsadressaten, dass die betreffenden Güter nicht in die Schweiz, sondern direkt in ein anderes Land geliefert worden sind" aufzuheben und den letzten Teilsatz durch die Formulierung: "..., soweit sich diese in ihrem Besitz befinden und noch nicht bei den Akten liegen" zu ersetzen. Eventuell sei Ziffer 2 der angefochtenen Verfügung aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen und die Anordnung in Ziffer 3 der angefochtenen Verfügung so abzuändern, dass die Widerbeklagte nur verpflichtet wird, die mit den direkten Verkäufen in die Schweiz zusammenhängenden Herstellkosten detailliert (mit Bezug auf die Kostenstelle) auszuweisen und zu belegen.
Mit Beschluss vom 24. Februar 2011 trat das Obergericht des Kantons Zug auf die kantonale Beschwerde nicht ein, weil es annahm, gegen Beweisverfügungen des Referenten sei nur die Einsprache an das Kollegialgericht gemäss § 94 Abs. 3 ZPO/ZG gegeben.
Am 2. März 2011 beantragte die Beschwerdeführerin dem Kantonsgericht des Kantons Zug namentlich, die Beschwerde an das Obergericht vom 11. Januar 2011 als Einsprache im Sinne von Art. 94 Abs. 3 ZPO/ZG entgegenzunehmen. Mit Beschluss vom 24. März 2011 wies das Kantonsgericht diesen Antrag ab, bzw. trat auf die Einsprache der Beschwerdeführerin gegen die Referentenverfügung vom 23. Dezember 2010 infolge Fristversäumnis nicht ein.
D. Am 29. März 2011 erhob die Beschwerdeführerin gegen den Beschluss des Obergerichts des Kantons Zug vom 24. März 2011 und die Verfügung des Präsidenten des Kantonsgerichts Zug vom 23. Dezember 2010 Beschwerde in Zivilsachen und subsidiäre Verfassungsbeschwerde. Mit dieser Beschwerde II. im Verfahren 4A_210/2011 stellte die Beschwerdeführerin die Anträge, den Beschluss des Obergerichts des Kantons Zug vom 24. Februar 2011 aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Eventuell sei die Verfügung des Präsidenten des Kantonsgerichts Zug vom 23. Dezember 2010 wie bereits mit der Beschwerde I. beantragt abzuändern. Die beiden Beschwerdeverfahren vor Bundesgericht seien zu vereinigen.
Mit Präsidialverfügung vom 7. Juni 2011 wurde der Beschwerde I. die aufschiebende Wirkung erteilt.
Die Beschwerdegegnerin beantragt, die Beschwerde I. abzuweisen, soweit darauf einzutreten sei. Das Kantonsgericht stellte in seiner Vernehmlassung zur Beschwerde I. keinen Antrag, führte jedoch aus, die Beschwerdeführerin habe die Verfügung vom 23. Dezember 2010 falsch verstanden und erleide durch sie keine nicht wieder gutzumachende Nachteile. Die Beschwerdeführerin nahm zu dieser Vernehmlassung unaufgefordert Stellung. Bezüglich der Beschwerde II. wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Die Beschwerden richten sich gegen eine Verfügung und einen Beschluss im gleichen Verfahren, betreffen identische Parteien und werfen zum Teil dieselben Rechtsfragen auf. Unter diesen Umständen rechtfertigt es sich, die beiden Beschwerdeverfahren (d.h. 4A_64/2011 und 4A_210/2011) zu vereinigen und in einem einzigen Urteil zu erledigen (Art. 71 BGG i.V.m. Art. 24 BZP analog).
2. 2.1 Das Bundesgericht prüft seine Zuständigkeit und die Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 135 III 1 E. 1.1 S. 3 mit Hinweisen).
2.2 Die von der Beschwerdeführerin angefochtene Verfügung des Kantonsgerichts vom 23. Dezember 2010 schliesst das Klageverfahren nicht ab und ist daher als Zwischenentscheid zu qualifizieren. Der auf Nichteintreten lautende Beschluss des Obergerichts vom 24. Februar 2011 bildet als Rechtsmittelentscheid über diesen Zwischenentscheid seinerseits wiederum einen Zwischenentscheid (Urteil 4A_542/2009 vom 27. April 2010 E. 3 mit Hinweisen).
2.3 Die angefochtenen Zwischenentscheide behandeln weder die Zuständigkeit noch ein Ausstandsbegehren gemäss Art. 92 BGG.
2.4 Die Beschwerdeführerin macht jedoch in der Beschwerde II. geltend, sie habe erst mit dem Nichteintretensentscheid erfahren, dass beim Beschluss des Obergerichts Zug vom 24. Februar 2011 Oberrichter A._ mitgewirkt habe. Dieser habe während fünf Jahren als Präsident des Kantonsgerichts Zug das erstinstanzliche Gerichtsverfahren geleitet und hätte daher gemäss § 41 Abs. 1 Ziff. 5 GOG/ZG in Ausstand treten müssen. Zwar habe er die Eingangsanzeige vom 12. Januar 2011 unterzeichnet. Daraus habe sie in Anbetracht von § 41 GOG/ZG jedoch noch nicht schliessen müssen, er werde bei der Entscheidfindung mitwirken. Die Beschwerdeführerin sei daher berechtigt, auf dem Rechtsmittelweg gegen ihn einen Ausstandsgrund geltend zu machen und diesen gemäss Art. 99 BGG durch neue Tatsachen nachzuweisen.
2.5 Ob die nachträgliche Anrufung eines Ausstandsgrundes im vorliegenden Beschwerdeverfahren zulässig ist, kann offen bleiben, weil der Anspruch ohnehin verwirkt ist. Die Beschwerdeführerin hat nämlich nach eigenen Angaben erkannt, dass Oberrichter A._ die Eingangsanzeige vom 12. Januar 2011 bezüglich der beim Obergericht eingereichten Beschwerde unterzeichnete. Da er damit als Oberrichter bezüglich der Beschwerde eine Amtshandlung vornahm, war für die Beschwerdeführerin ersichtlich, dass er am Verfahren beteiligt war. Sie musste daher damit rechen, dass er sich weiterhin mit der Beschwerde befassen und als mitwirkender Richter darüber entscheiden werde. Unter diesen Umständen hätte die Beschwerdeführerin, unverzüglich nach Erhalt der Eingangsanzeige gegen Oberrichter A._ ein Ablehnungsbegehren stellen müssen, wenn sie ihn aufgrund seiner ihr bekannten vormaligen Tätigkeit als erstinstanzlicher Instruktionsrichter hätte ablehnen wollen. Indem sie dies unterliess und bis zum Beschluss des Obergerichts vom 24. Februar 2011 zuwartete, hat sie ihren Anspruch auf Anrufung des geltend gemachten Ablehnungsgrunds verwirkt (BGE 134 I 20 E. 4.3.1; 132 II 485 E. 4.3; vgl. auch 4A_118/2010 vom 19. April 2010 E. 3.4).
3. 3.1 Im Übrigen sind die angefochtenen Zwischenentscheide - abgesehen vom hier nicht gegebenen Ausnahmefall gemäss Art. 93 Abs. 1 lit. b BGG - nur direkt vor Bundesgericht anfechtbar, wenn sie einen nicht wieder gutzumachenden Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG bewirken können. Ein solcher Nachteil muss nach der bundesgerichtlichen Rechtsprechung rechtlicher Natur sein, was voraussetzt, dass er durch einen späteren günstigen Entscheid nicht oder nicht mehr vollständig behoben werden kann. Rein tatsächliche Nachteile, etwa die Verlängerung oder Verteuerung des Verfahrens, fallen demgegenüber nicht in Betracht (BGE 136 IV 92 E. 4 S. 95; 134 III 188 E. 2.1 und 2.2; 133 III 629 E. 2.3.1, je mit Hinweisen). Gemäss der Rechtsprechung kann die Verpflichtung, der Gegenpartei Dokumente offenzulegen, welche Geschäftsgeheimnisse enthalten, einen nicht wieder gutzumachenden Nachteil bewirken (vgl. BGE 129 II 183 E. 3.2.2 S. 187 f.).
3.2 Die Beschwerdeführerin macht geltend, ein nicht wieder gutzumachender Nachteil würde ihr entstehen, weil die angefochtene Verfügung sie unter Strafandrohung zur Edition von Unterlagen verpflichte, welche möglicherweise das Geschäftsgeheimnis der Beschwerdeführerin (und/oder Dritter) verletze, weshalb Dritte - insbesondere die Gegenpartei - von geheimen Tatsachen Kenntnis bekämen. Eine Verletzung des Geschäftsgeheimnisses sei irreversibel und stelle daher einen nicht wieder gutzumachenden Nachteil dar.
3.3 Die Beschwerdeführerin lässt ausser Acht, dass die Verfügung des Kantonsgerichts vom 23. Dezember 2010 eine Editionspflicht an das Kantonsgericht und nicht an die Gegenpartei vorsieht. Zudem kann die Beschwerdeführerin, sofern sie schützenswerte Geheimhaltungsinteressen genügend substanziiert aufzeigt (vgl. BGE 134 III 255 E. 2.5), gemäss Art. 68 Abs. 2 des Patentgesetzes (PatG, SR 232.14) verlangen, dass Beweismittel, durch welche Geschäftsgeheimnisse offenbart werden können, der Gegenpartei nur insoweit zugänglich gemacht werden, als dies mit der Wahrung des Geheimnisses vereinbar ist. Die beschränkte Zugänglichmachung kann dadurch ermöglicht werden, dass ein Gutachter oder Fachrichter die geheimen Beweismittel prüft, in seinem Bericht an das Gericht und alle Parteien jedoch nur die Informationen festhält, die für den Prozess benötigt werden (vgl. PETER HEINRICH, Kommentar zu PatG/EPÜ, 2. Aufl. 2010, N. 6 zu Art. 68 PatG; FRITZ BLUMER, Patentverletzungsprozess, in: Schweizerisches und europäisches Patentrecht, 2002, S. 859 f. Rz. 17.201). Demnach trifft es nicht zu, dass die angefochtene Verfügung des Kantonsgerichts vom 23. Dezember 2010 die Beschwerdeführerin dazu verpflichtet, gegenüber der Beschwerdegegnerin oder Dritten schützenswerte Geschäftsgeheimnisse zu offenbaren, weshalb ein nicht wieder gutzumachender Nachteil zu verneinen ist. Auf die Beschwerden ist daher nicht einzutreten.
4. Bei diesem Ausgang des bundesgerichtlichen Verfahrens sind die Gerichtskosten für beide Beschwerden der Beschwerdeführerin aufzuerlegen (Art. 66 Abs. 1 BGG). Diese hat zudem der Beschwerdegegnerin für die Vernehmlassung im Verfahren 4A_64/2011 eine Parteientschädigung zu entrichten (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 4A_64/2011 und 4A_210/2011 werden vereinigt.
2. Auf die Beschwerden wird nicht eingetreten.
3. Die Gerichtsgebühr von Fr. 7'000.-- wird der Beschwerdeführerin auferlegt.
4. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Zug, 3. Abteilung, und dem Obergericht des Kantons Zug, Justizkommission, Zivilrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 1. September 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Gelzer