Sachverhalt:
A. Mit Eingabe vom 17. Dezember 2010 reichte die Stiftung X._ Schadenersatzklage beim Verwaltungsgericht des Kantons Zug gegen 13 Personen und Gesellschaften in Zusammenhang mit der Stiftung Y._ in Liquidation ein mit den Rechtsbegehren auf Bezahlung von bis zu Fr. 30'000'000.- nebst Zins zu 5% seit 1. Juni 2006.
Mit Schreiben vom 28. Dezember 2010 setzte das Verwaltungsgericht den Beklagten Frist zur Einreichung einer Klageantwortschrift an. Fünf Beklagte stellten in der Folge das Gesuch um Sistierung des Verfahrens bis zur rechtskräftigen Erledigung des von der Staatsanwaltschaft Zug gegen zwei Stiftungsräte eröffneten Strafverfahrens.
B. Mit Verfügung vom 8. April 2011 wies das Verwaltungsgericht die Anträge auf Sistierung des Klageverfahrens ab und setzte verschiedenen Beklagten Frist bis zum 9. Mai 2011 zur Einreichung der Klageantwort an.
C. Die T._ AG und G._ führen in einer gemeinsamen Eingabe Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es sei der vorinstanzliche Prozess bis zur rechtskräftigen Erledigung des Strafverfahrens zu sistieren. Das Verwaltungsgericht sei mit einer superprovisorischen Anordnung anzuweisen, den Beschwerdeführern die peremptorische Frist bis 30. Juni 2011 zur Klagebeantwortung abzunehmen und gegebenenfalls nach Vorliegen des Entscheids über die Beschwerde eine neue Frist anzusetzen.
Die Stiftung X._ schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten ist. Die übrigen zur Vernehmlassung eingeladenen Verfahrensparteien verzichten auf eine Stellungnahme.
D. Nachdem das Bundesgericht superprovisorisch einen Fristenstillstand verfügt hatte, nahm das Verwaltungsgericht mit Schreiben vom 26. Mai 2011 die Fristen zur Einreichung einer Klageantwort ab mit dem Hinweis, zu gegebener Zeit würden die entsprechenden Fristen neu angesetzt.

Erwägungen:
1. 1.1 Beim angefochtenen Entscheid, mit welchem die Vorinstanz das Sistierungsgesuch abgewiesen hat, handelt es sich um einen Zwischenentscheid im Sinne von <ref-law> (<ref-ruling> E. 4.2 S. 481 f.). Die Zulässigkeit der Beschwerde setzt somit - abgesehen von dem hier ausser Betracht stehenden Fall von <ref-law> (Möglichkeit der sofortigen Herbeiführung des Endentscheids) - voraus, dass der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (Abs. 1 lit. a). Die selbständige Anfechtbarkeit von Zwischenentscheiden bildet aus prozessökonomischen Gründen eine Ausnahme vom Grundsatz, dass sich das Bundesgericht mit jeder Angelegenheit nur einmal befassen soll (<ref-ruling> E. 1.2; <ref-ruling> E. 2.2; <ref-ruling> E. 2.1). Die Ausnahme ist restriktiv zu handhaben.
1.2 Ein im Sinne von <ref-law> nicht wieder gutzumachender Nachteil ist gegeben, wenn er auch mit einem für die Beschwerde führende Partei günstigen Endentscheid nicht oder nicht gänzlich behoben werden kann (<ref-ruling> E. 5.2 S. 483 ff.). Die Erfüllung dieser Voraussetzung ist in der Beschwerde darzutun, es sei denn, dass sie offensichtlich sei (BGE <ref-ruling> E. 2.3.1 S. 632 mit Hinweis).
2. 2.1 Einen Nachteil der darlegten Art halten die Beschwerdeführer für gegeben, weil sich viele im Zusammenhang mit dem zu sistierenden Prozess wichtigen Geschäftsakten noch bei der Staatsanwaltschaft Zug befänden, wie die gesamte Korrespondenz zwischen der Vorsorgeeinrichtung und den Beschwerdeführern, Protokolle, Zahlungsaufträge, Kontoauszüge etc., welche zur Klagebeantwortung unbedingt nötig seien. Ein Begehren um Akteneinsicht habe die Staatsanwaltschaft Zug abgewiesen. Ein Beschwerdeverfahren dagegen sei noch hängig. Demgegenüber verfüge die klagende Stiftung X._ über volle Aktenkenntnis. Es werde ihnen auch die Einsichtnahme in die eigenen, beschlagnahmten Geschäftsunterlagen verweigert. Ohne Sistierung des Verfahrens werde ihr Anspruch auf gleiche und gerechte Behandlung (<ref-law> und Art. 6 Ziff. 1 EMRK) und auf rechtliches Gehör (<ref-law> und Art. 6 Ziff. 3 EMRK) verletzt. Den nicht wieder gutzumachenden Nachteil erblicken die Beschwerdeführer darin, dass sie ohne umgehende Sistierung des Verfahrens zur umfangreichen und sehr komplexen Klagebegründung Stellung nehmen müssten, ohne die Akten des laufenden Strafverfahrens, nicht einmal ihre eigenen, beiziehen zu können. Damit setzten sie sich unter anderem der realen Gefahr aus, haftungsbefreiende Tatsachen und Argumente nicht anzuführen, unwillentlich aktenwidrige Ausführungen zu machen, und Behauptungen der Klägerin nicht widerlegen zu können. Es bestehe keine Gewähr, dass diese Nachteile in einem späteren Verfahrensstadium wieder vollständig gutzumachen seien.
2.2 Das kantonale Gericht hat bei der Begründung der Ablehnung des Sistierungsgesuchs unter anderem ausgeführt, dass jederzeit die Möglichkeit einer Verfahrenssistierung bestehe, wenn sich erweisen sollte, dass eine Beweiserhebung der Strafbehörden für das laufende Verfahren eine entscheidende Bedeutung haben könnte. Zur Zeit seien diese Voraussetzungen jedoch offensichtlich nicht gegeben. Sofern notwendig sei es auch aufgrund des Untersuchungsgrundsatzes gemäss Art. 73 Abs. 2 BVG auch ohne ausdrückliche Parteianträge gehalten, entscheidrelevante Fakten oder Erkenntnisse aus dem Strafverfahren in seine Beurteilung einzubeziehen und die entsprechenden Akten edieren zu lassen. Ein Beizug der Strafakten sei somit jederzeit und unabhängig von einer allfälligen Sistierung möglich.
2.3 Die von den Beschwerdeführern allgemein gehaltenen Ausführungen legen nicht substantiiert dar, inwiefern mit allfälligen Verfahrensmängel verbundenen Nachteile mit einem Endentscheid nicht mehr behoben werden könnten und inwiefern sie auch ohne die im Strafverfahren befindlichen Akten nicht in der Lage seien, eine Klageantwort zu verfassen. Nach dem gegenwärtigen Stand des Verfahrens bestehen keine Anhaltspunkte, dass eine allfällige Verletzung des Waffengleichheitsgebots nicht mit der Beschwerde gegen den Endentscheid korrigiert werden könnte. Zu berücksichtigen ist auch, dass das kantonale Gericht die Möglichkeit der Edition der Strafakten in einem späteren Stadium des Verfahrens in Betracht zieht. Schliesslich sind auch die Interessen der übrigen Beklagten, die zum Teil bereits ihre Klageantwort eingereicht haben, an der beförderlichen Erledigung des Schadenersatzverfahrens zu wahren, zumal auch prozessuale Fragen (wie die Einrede der örtlichen Unzuständigkeit) zur Beurteilung anstehen.
2.4 Vermag der angefochtene Entscheid keinen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> zu bewirken, ist auf die Beschwerde nicht einzutreten.
3. Da das kantonale Gericht mit Schreiben vom 26. Mai 2011 die Fristen zur Einreichung einer Klageantwort abgenommen hat mit dem Hinweis, zu gegebener Zeit würden die entsprechenden Fristen neu angesetzt, ist das Gesuch um aufschiebende Wirkung gegenstandslos. Dabei ist das Schreiben vom 26. Mai 2011 dahin gehend zu verstehen, dass den betroffenen Parteien eine neue Frist zur Einreichung der Klageantwort anzusetzen ist, und zwar ohne Anrechnung der bis zum Schreiben vom 26. Mai 2011 verstrichenen Zeit.
4. Die Gerichtskosten sind ausgangsgemäss den Beschwerdeführern aufzuerlegen (<ref-law>). Eine Parteientschädigung ist der anwaltlich nicht vertretenen Stiftung X._ nicht zuzusprechen.

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'500.- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Parteien, B._, J._, der S._ AG, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 6. Juli 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Nussbaumer