Sachverhalt:
A. X._ und Y._, beide geboren 1954 und schweizerische Staatsangehörige, heirateten am 14. April 1998 in A._ und zogen noch im gleichen Jahr nach Brasilien. Sie haben zwei adoptierte Kinder, B._ (1994) und C._ (1995). X._ kehrte am 1. April 2004, seine Ehefrau am 1. Juli 2007 in die Schweiz zurück.
B. Seit November 2003 führten die Parteien bei einem Familiengericht in Sao Pãulo verschiedene Verfahren betreffend Getrenntleben, Sorgerecht und Unterhalt, wobei u.a. die folgenden drei Entscheide erlassen wurden:
- Vorläufige Entscheidung vom 26. Februar 2004 im Verfahren Nr. 011.03.024778-1, in welcher der Ehefrau provisorisch Alimente von 2'000 Real sowie verschiedene Kosten (Schule, etc.) zugesprochen wurden; der Entscheid wurde angefochten.
- Urteil vom 7. Juli 2005 in dem von der Ehefrau eingeleiteten Verfahren Nr. 011.03.024778-4 betreffend Unterhalt ("alimentos"), mit welchem eine Vereinbarung betreffend Unterhaltsbeiträge sowie Sorge- und Besuchsrecht anerkannt und im Übrigen festgehalten wurde, dass die Vereinbarung dadurch sowie zufolge Rechtsmittelverzichts rechtskräftig und das Verfahren damit erledigt sei.
- Urteil vom 7. Juli 2005 in dem vom Ehemann eingeleiteten Verfahren Nr. 011.05.001529-7 betreffend streitige gerichtliche Trennung ("separação judicial litigosa"), mit welchem eine Trennungsvereinbarung anerkannt wurde, welche den Namensgebrauch der Ehefrau regelt, die Aufteilung der Güter auf später verschiebt und bezüglich Sorge- und Besuchsrecht sowie Unterhaltszahlungen festhält, diese Fragen seien Gegenstand eines anderen Verfahrens gewesen; weiter wurde festgehalten, das Verfahren sei erledigt und das Urteil zufolge Rechtsmittelverzichts rechtskräftig.
C. Am 4. April 2005 hatte die Ehefrau beim Kantonsgericht Zug die Ehescheidungsklage eingereicht. Der Ehemann erhob eine Unzuständigkeitseinrede wegen Hängigkeit analoger Prozesse in Brasilien. Gestützt auf ein Gutachten des Schweizerischen Instituts für Rechtsvergleichung trat das Kantonsgericht mit Beschluss vom 11. Februar 2009 auf die Klage ein, was durch die Justizkommission des Obergerichts des Kantons Zug und durch das Bundesgericht (Urteil 5A_452/2009) geschützt wurde. Die Scheidungsklage ist damit immer noch vor dem Kantonsgericht hängig.
Parallel dazu hatte die Ehefrau beim Kantonsgerichtspräsidium Zug am 4. April 2005 ein Gesuch um vorsorgliche Massnahmen gemäss Art. 137 ZGB eingereicht; das Verfahren war während der Klärung der Scheidungszuständigkeit zeitweise sistiert. Mit Entscheid vom 2. Dezember 2010 wurde die Tochter unter die Obhut der Mutter und der Sohn unter die Obhut des Vaters gestellt, unter gegenseitiger Regelung des persönlichen Verkehrs und Errichtung von Beistandschaften; sodann wurde der Ehemann verpflichtet, der Ehefrau verschiedene Unterhaltsbeiträge für jeweils verschiedene Zeiträume ab April 2005 zu leisten, verbunden mit der Feststellung, dass davon bereits Fr. 67'271.18 bezahlt seien, und der Verpflichtung, den Rest innert 60 Tagen nachzuzahlen.
Mit Urteil vom 9. März 2011 wies die Justizkommission die hiergegen erhobene Beschwerde des Ehemannes ab.
D. Gegen dieses Urteil hat X._ am 26. April 2011 eine Beschwerde in Zivilsachen erhoben mit den Begehren um dessen Aufhebung, eventuell um Rückweisung der Sache an die Vorinstanz, und um Anordnung eines Obergutachtens zur Frage der res iudicata, soweit diese nicht bereits aufgrund der vorhandenen Akten festgestellt werden könne. Mit Präsidialverfügung vom 12. Mai 2011 wurde der Beschwerde für die bis April 2011 geschuldeten Unterhaltsbeiträge die aufschiebende Wirkung erteilt. In der Sache selbst wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Entscheide gestützt auf Art. 137 ZGB (in der Fassung bis 31. Dezember 2010) stellen Zivilsachen im Sinn von Art. 72 Abs. 1 BGG dar. Der angefochtene Entscheid ist kantonal letztinstanzlich (Art. 75 Abs. 1 BGG) und er schliesst das Massnahmeverfahren als selbständiges Verfahren ab, weshalb er als Endentscheid im Sinn von Art. 90 BGG gilt (BGE 134 III 426 E. 2.2 S. 431; mit ausführlicher Begründung Urteil 5A_9/2007, E. 1.2). Anfechtungsgegenstand bildet einzig die Unterhaltsfrage, weshalb die Streitigkeit vermögensrechtlicher Natur ist; der gemäss Art. 74 Abs. 1 lit. b BGG erforderliche Streitwert von Fr. 30'000.-- ist erreicht. Die Beschwerde in Zivilsachen ist somit gegeben.
Entgegen der Meinung des Beschwerdeführers, beim angefochtenen Entscheid könne es sich nicht um eine vorsorgliche Massnahme nach Art. 98 BGG handeln, weil dieser irreversible Auswirkungen habe und die angeordneten Unterhaltszahlungen nicht mehr rückgängig gemacht werden könnten, stellen Entscheide, die sich auf Art. 137 ZGB stützen, typischerweise vorsorgliche Massnahmen im Sinn von Art. 98 BGG dar (BGE 133 III 393 E. 5.1 S. 397), weshalb nur die Verletzung verfassungsmässiger Rechte gerügt werden kann. Hierfür gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG). Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Rechtslage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
Sodann sind die kantonalen Sachverhaltsfeststellungen für das Bundesgericht verbindlich (Art. 105 Abs. 1 BGG). Auch diesbezüglich kann einzig die Verletzung verfassungsmässiger Rechte (insbesondere eine willkürliche Sachverhaltsfeststellung) gerügt werden, wobei wiederum das strenge Rügeprinzip gemäss Art. 106 Abs. 2 BGG gilt (BGE 133 III 393 E. 7.1 S. 398).
2. Schon im obergerichtlichen Verfahren war der Hauptkritikpunkt des Beschwerdeführers, nach brasilianischem Recht bewirke bereits das Trennungsurteil den "clean break" und die Rechtskraft dieses Urteils müsse auch in der Schweiz beachtet werden. Das Obergericht hat dazu erwogen, über die Frage, ob das Trennungsurteil den gleichen Inhalt gehabt habe wie ein Scheidungsurteil, sei bereits im Zusammenhang mit der schweizerischen Scheidungszuständigkeit entschieden worden; darauf könne nicht mehr zurückgekommen werden. Im Übrigen setze die Einrede der res iudicata den Nachweis eines rechtskräftigen Urteils voraus, mit welchem die gleiche Streitfrage wie im aktuellen Prozess beurteilt worden sei. Vorliegend berufe sich der Beschwerdeführer auf die drei eingangs genannten Entscheide. Da keine gegenseitigen Staatsverträge bestünden, richte sich deren Anerkennung nach dem IPRG. Der Entscheid vom 26. Februar 2004 im Verfahren Nr. 011.03.0247789-1 sei nur in Form einer einfachen Fotokopie eingereicht worden, obwohl gemäss Art. 29 Abs. 1 lit. a und b IPRG die Beibringung einer vollständigen und beglaubigten Ausfertigung des Entscheides sowie eine Rechtskraftsbestätigung erforderlich sei. Der Entscheid vom 7. Juli 2005 im Verfahren Nr. 011.03.024778-4 müsse einem Eheschutzentscheid gleichgestellt werden, da von keiner Seite plausibel behauptet worden sei, dass es sich um ein ordentliches Verfahren gehandelt habe; der Beschwerdeführer habe die Behauptung der Beschwerdegegnerin, es habe sich um ein Eheschutzverfahren gehandelt, ursprünglich denn auch nicht bestritten. Der Entscheid sei indes nach Rechtshängigkeit der am 4. April 2005 beim Kantonsgericht Zug eingereichten Scheidungsklage ergangen und ab diesem Zeitpunkt seien gar keine Eheschutzmassnahmen mehr möglich gewesen, weshalb der betreffende Entscheid gemäss Art. 27 Abs. 2 lit. c IPRG ebenfalls nicht anerkannt werden könne. Anerkennungsfähig sei hingegen das Trennungsurteil vom 7. Juli 2005 im Verfahren Nr. 011.05.001529-7. Dieses halte aber ausdrücklich fest, dass die Frage der Unterhaltszahlungen Gegenstand eines anderen Verfahrens gewesen sei ("A questão jà foi tratada em ação própria"). Dementsprechend könne das Trennungsurteil mit Bezug auf die Unterhaltsfrage keine Rechtskraftwirkung entfalten. Etwas anderes als das vorstehend Dargelegte ergebe sich auch aus dem Gutachten des Instituts für Rechtsvergleichung und dem Privatgutachten des Beschwerdeführers nicht, denn zu den vorliegend ausschlaggebenden Fragen, ob die im Entscheid Nr. 011.03.024778-4 getroffene Unterhaltsregelung in der Schweiz anerkennungsfähig sei oder ob diese Regelung entgegen dem Urteilswortlaut Bestandteil des anerkennungsfähigen Trennungsurteils Nr. 011.05.001529-7 sei, äussere sich keines der Gutachten.
3. Der Beschwerdeführer macht geltend, mit den beiden Entscheiden vom 7. Juli 2005 seien die Alimente definitiv festgelegt worden. Nach brasilianischem Recht hebe ein Trennungsurteil die ehelichen Bande und damit auch die eheliche Gemeinschaft auf. Deshalb könne in Brasilien das Trennungsurteil praktisch alle für die Beendigung der Ehe relevanten Umstände verbindlich regeln, insbesondere alle finanziellen Belange. Daraus folge, dass die Zuger Gerichte nur noch über die formale Auflösung des Ehebandes entscheiden dürften. Beistandspflichten würden aber aufgrund des brasilianischen Trennungsurteils keine mehr bestehen und deshalb dürfe das Zuger Gericht auch keine vorsorglichen Massnahmen bezüglich Unterhalt mehr treffen, da es sonst faktisch die rechtskräftig beendigte eheliche Gemeinschaft wieder aufleben lassen würde. Im Übrigen sei entgegen der falschen Sachverhaltsdarstellung durch das Obergericht nicht nur das Verfahren Nr. 011.05.001529-7, sondern auch das Verfahren Nr. 011.03.024778-4 von ihm mit Rechtsschrift vom 2. Februar 2005 eingeleitet worden. Mithin sei die Alimentensache im Zeitpunkt der Einreichung der schweizerischen Scheidungsklage am 4. April 2005 bereits in Brasilien rechtshängig gewesen und entsprechend dürften die Zuger Gerichte hierüber nicht mehr entscheiden. Im Übrigen hätten die relevanten Fragen im Gutachten des Instituts für Rechtsvergleichung gar nicht beantwortet werden können, weil dem Institut die Trennungsklage vom 2. Februar 2005 nicht eingereicht worden sei. Deshalb müsse ein Obergutachten in Auftrag gegeben werden, umso mehr als das Gutachten des Instituts für Rechtsvergleichung mit Bezug auf den Unterhalt falsch sei, indem es so tue, als ob der Ehegatten- und Kinderunterhalt jederzeit veränderten Verhältnissen angepasst werden könne. Dabei habe das Gutachten aber auf falsche bzw. veraltete Grundlagen abgestellt, wie das von ihm in Auftrag gegebene Gutachten aufzeige.
4. Der Beschwerdeführer legt nicht dar, welche Verfassungsbestimmungen bzw. welche verfassungsmässigen Rechte durch den angefochtenen Entscheid verletzt worden sein sollen, weshalb seine Beschwerde den in E. 1 dargelegten Begründungsanforderungen nicht genügt und bereits deshalb nicht darauf einzutreten ist.
Die rein appellatorischen Ausführungen wären aber inhaltlich ohnehin nicht geeignet, eine willkürliche Sachverhaltsfeststellung oder Rechtsanwendung durch das Obergericht zu begründen: Der Beschwerdeführer belässt es bei allgemeinen Ausführungen zu den Rechtswirkungen einer Trennung nach brasilianischem Recht, ohne sich mit der obergerichtlichen Kernerwägung auseinanderzusetzen, im vorliegenden Fall bilde die Unterhaltsfrage gerade nicht Gegenstand des Trennungsurteils (Nr. 011.05.001529-7), weil dieses hierfür auf ein anderes Verfahren verweise (offensichtlich auf das Verfahren Nr. 011.03.024778-4). Wurde aber die Unterhaltsfrage ausdrücklich in einem anderen Entscheid geregelt, stösst die Behauptung, mit dem Trennungsurteil liege bezüglich Unterhalt eine res iudicata vor, ebenso ins Leere wie die diesbezügliche Kritik am Gutachten des Instituts für Rechtsvergleichung und der Antrag auf ein Obergutachten; vielmehr müsste der Beschwerdeführer aufzeigen, inwiefern das Obergericht in Willkür verfallen wäre, indem es den im anderen Verfahren ergangenen Entscheid als für unverbindlich bzw. nicht anerkennungsfähig hielt. Einschlägig ist dabei die vom Obergericht zitierte bundesgerichtliche Rechtsprechung, wonach ab dem Zeitpunkt der Rechtshängigkeit der Ehescheidungsklage keine Eheschutzmassnahmen mehr erlassen werden können. Die in diesem Zusammenhang gemachten Ausführungen in der Beschwerde gehen an der Sache vorbei, weil nicht von Belang ist, wann und von wem das Verfahren Nr. 011.03.024778-4 in Brasilien eingeleitet worden ist, sondern dass der betreffende Entscheid erst nach Anhängigmachen der Scheidungsklage erlassen worden ist (Hängigkeit der Scheidungsklage am 4. April 2005; Entscheid in Brasilien am 7. Juli 2005).
5. Zusammenfassend ergibt sich, dass auf die Beschwerde in Zivilsachen nicht eingetreten werden kann. Damit wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdeführerin für die Stellungnahme zum Gesuch um aufschiebende Wirkung mit Fr. 500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, Justizkommission, Zivilrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 14. Juni 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Möckli