Sachverhalt:
A. Am 31. Januar 2007 verlegte die B._ AG ihren Sitz von X._, Kanton W._, nach Y._, Kanton Zug. Am 15. Februar 2007 erhob die Stiftung für den flexiblen Altersrücktritt im Bauhauptgewerbe (Stiftung FAR) beim Verwaltungsgericht des Kantons W._ Klage gegen die Firma mit dem Rechtsbegehren, diese sei zu verpflichten, ihr für jeden unter den persönlichen Geltungsbereich des Gesamtarbeitsvertrages für den flexiblen Altersrücktritt im Bauhauptgewerbe (GAV FAR) fallenden Mitarbeiter 5,66 % der AHV-pflichtigen Lohnsumme vom 19. April 2004 bis 31. Dezember 2004 sowie 5 % der AHV-pflichtigen Lohnsumme vom 1. Januar 2005 bis 28. Juni 2006, jeweils nebst Zins, zu bezahlen. Mit Entscheid vom 2. April 2007 schrieb das Gericht die Klage zufolge Rückzugs ab und überwies die Gerichtsakten dem Verwaltungsgericht des Kantons Zug.
B. Mit Entscheid vom 31. Januar 2008 stellte das Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, im Sinne eines Teilentscheids seine sachliche und örtliche Zuständigkeit fest. Die hiegegen erhobene Beschwerde der B._ AG wies das Bundesgericht mit Urteil 9C_211/2008 vom 7. Mai 2008 ab. Unmittelbar vor Abschluss des Verfahrens war deren Rechtsvertreter verstorben.
Mit Schreiben vom 29. Mai 2008 teilte Rechtsanwalt Dr. iur. Bruno Häfliger dem Gericht mit, dass er künftig die Interessen der Beklagten wahrnehme, und ersuchte um Zustellung der weiteren Korrespondenzen an ihn. Am 1. Februar 2011 setzte das Gericht das seit 23. Juni 2008 sistierte Verfahren fort. Es gab den Parteien Gelegenheit, zur Frage der Unterstellung der Beklagten unter den vom Bundesrat mit Beschluss vom 5. Juni 2003 (teilweise) allgemein verbindlich erklärten GAV FAR Stellung zu nehmen, wovon diese Gebrauch machten. Nach einer öffentlichen Verhandlung mit Plädoyers und einem weiteren Schriftenwechsel wies das Verwaltungsgericht mit Entscheid vom 27. Oktober 2011 die Klage ab (Dispositiv-Ziffer 1) und sprach der Beklagten eine Parteientschädigung von pauschal Fr. 8'000.- zu (Dispositiv-Ziffer 3).
C. Die B._ AG führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, Dispositiv-Ziffer 3 des Entscheids vom 27. Oktober 2011 sei aufzuheben und die Stiftung FAR zur Bezahlung einer Parteientschädigung von Fr. 38'124.45 zu verpflichten; eventualiter sei die Sache an die Vorinstanz zurückzuweisen zwecks neuer Festlegung der Höhe der Entschädigung.
Die Stiftung FAR und das kantonale Verwaltungsgericht beantragen die Abweisung der Beschwerde.
D. Die B._ AG hat sich in einer weiteren Eingabe zu den Vorbringen der Beschwerdegegnerin und der Vorinstanz geäussert.
Erwägungen:
1. Angefochten ist einzig Dispositiv-Ziffer 3 des die vorinstanzliche Klage abweisenden Entscheids, welche der Beschwerdeführerin eine Parteientschädigung für das vorangegangene Verfahren von pauschal Fr. 8'000.- zuspricht (Art. 90 BGG).
2. In der Kostennote vom 2. September 2011 bezifferte der Rechtsvertreter der Beschwerdeführerin den Zeitaufwand für das vorinstanzliche Verfahren auf 100.42 Stunden, was ein Honorar von Fr. 38'124.45 (inkl. Auslagen, Mehrwertsteuer und Gerichtskosten) ergab. Die Vorinstanz hat die Parteientschädigung auf pauschal Fr. 8'000.- festgesetzt. Zur Begründung hat sie ausgeführt, die Parteientschädigung stelle wie im Geltungsbereich des ATSG stets nur einen Beitrag an die Parteikosten dar. Des Weitern sei zu berücksichtigen, dass durch den Anwaltswechsel infolge Hinschieds des ersten Rechtsvertreters eine erneute Einarbeitungszeit notwendig geworden sei. Schliesslich habe der zweite Rechtsvertreter in seiner Stellungnahme vom 22. März 2011 einen unnötig grossen Aufwand betrieben, indem er sich darin über die Anordnung des Gerichts hinausgehend nicht auf die Rechtsfrage der Unterstellung beschränkt habe. Die Beschwerdeführerin rügt diese Feststellung als offensichtlich unrichtig (Art. 97 Abs. 1 BGG). Die Kürzung des Anwaltshonorars um mehr als 80 % verstosse auch gegen das Willkürverbot nach Art. 9 BV, u.a. weil sie § 9 der zugerischen Verordnung vom 30. August 1977 über die Kosten im Verfahren vor dem Verwaltungsgericht (BGS 162. 12) in krasser Weise verletze.
3. 3.1 Das vorinstanzliche Verfahren bestimmt sich im Rahmen von Art.73 Abs. 2 BVG nach kantonalem Recht (BGE 126 V 143 E. 1b S.145 mit Hinweisen; SVR 2006 BVG Nr. 19 S. 66, B 41/04 E. 9.1 [in BGE 132 V 127 nicht publ.]). Der Allgemeine Teil des Sozialversicherungsrechts, insbesondere Art. 61 lit. g ATSG über den Ersatz der Parteikosten im Verfahren vor den kantonalen Versicherungsgerichten ist nicht anwendbar (Art. 2 ATSG; SVR 2010 BVG Nr. 34 S. 129, 9C_889/2009 E. 3.2), wie die Beschwerdeführerin richtig vorbringt. Massgebend ist somit § 9 der Verordnung über die Kosten im Verfahren vor dem Verwaltungsgericht. Diese Vorschrift regelt die Bemessung des Honorars der berufsmässigen Vertretung (vgl. E. 4.1 hinten).
3.2 § 9 der Verordnung über die Kosten im Verfahren vor dem Verwaltungsgericht wird im angefochtenen Entscheid nicht erwähnt. Ob darin eine Verletzung von Art. 112 Abs. 1 lit. b BGG zu erblicken ist, kann offenbleiben, da es der Beschwerdeführerin jedenfalls möglich war, den vorinstanzlichen Parteikostenentscheid sachgerecht anzufechten (vgl. Urteil 9C_121/2011 vom 31. März 2011 E. 1; zur Begründungspflicht, wenn der Rechtsvertreter eine Kostennote einreicht und das Gericht die Entschädigung abweichend davon auf einen bestimmten nicht der Praxis entsprechenden Betrag festsetzt: BGE 134 I 159 E. 2.1.1 S. 162 und Urteil 6B_464/2007 vom 12. November 2007 E.2.1). Ob die Festsetzung der Parteientschädigung für das vorinstanzliche Verfahren Bundesrecht verletzt (Art. 95 lit. a BGG), kann im Übrigen lediglich unter eingeschränktem Blickwinkel geprüft werden. Die Anwendung kantonalen Rechts muss zu einer in der Beschwerde substanziiert gerügten (Art. 106 Abs. 2 BGG) Verfassungsverletzung führen, wegen seiner Ausgestaltung oder aufgrund des Ergebnisses im konkreten Fall. Dabei fällt praktisch nur das Willkürverbot in Betracht (Art. 9 BV; BGE 125 V 408 E. 3a S. 408 mit Hinweisen; SVR 2006 BVG Nr. 19 S. 66, B 41/04 E. 9.1.1 [in BGE 132 V 127 nicht publiziert]; Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz [BGG], 2007, N 21 und 22 zu Art. 95 BGG). Die Beschwerde genügt der qualifizierten Rügepflicht nach Art. 106 Abs. 2 BGG.
4. 4.1 § 9 der kantonalen Verordnung über die Kosten im Verfahren vor dem Verwaltungsgericht lautet wie folgt:
1 Das Honorar beträgt Fr. 100.- bis Fr. 10'000.-.
2 Es ist nach dem Zeit- und Arbeitsaufwand, der Wichtigkeit und Schwierigkeit der Sache sowie nach dem Streitwert oder den sonstigen Interessen der Parteien an der Beurteilung der Angelegenheit festzusetzen, wobei in sozialversicherungsrechtlichen Streitigkeiten der Streitwert und die sonstigen Interessen der Parteien an der Beurteilung der Sache erst in zweiter Linie zu berücksichtigen sind.
3 In ausserordentlichen Fällen setzt das Gericht das Honorar nach den Bemessungsgrundsätzen des Absatzes 2 fest, ohne an die obere Bemessungsgrenze gebunden zu sein.
4 (...).
4.2 Zu prüfen ist aufgrund der Beschwerderügen, ob die Kürzung des Anwaltshonorars um rund 80 % im Ergebnis willkürlich ist.
4.2.1 Der plötzliche Hinschied des ursprünglichen Rechtsvertreters der Beschwerdeführerin im April 2008 erforderte die Mandatierung eines neuen Rechtsanwaltes, der sich zuerst in den Fall einarbeiten musste. Dieser Umstand kann jedoch schon deshalb kein Grund für eine Kürzung des Anwaltshonorars sein, weil die Kostennote lediglich den Aufwand des neuen Rechtsvertreters ab 29. Mai 2008 umfasst. Für die Arbeit des Vorgängers wird unter dem Datum des 2. September 2011 pauschal eine Stunde in Rechnung gestellt. Ob die Beschwerdeführerin mit der - erfolglosen - Anfechtung des Zwischenentscheids vom 31. Januar 2008 betreffend die sachliche Zuständigkeit der Vorinstanz (vgl. Urteil 9C_211/2008 vom 7. Mai 2008) offensichtlich unnötigen Aufwand betrieb, wie diese in ihrer Vernehmlassung vorbringt, ist daher ohne Belang. Für einen allfälligen Aufwand des verstorbenen früheren Rechtsvertreters wurde somit bis auf eine Stunde keine Entschädigung verlangt. Eine unnötigerweise überhöhte gesamte Einarbeitungszeit durch Einschaltung zweier Rechtsanwälte liegt nicht vor.
4.2.2 Weiter hatte die Vorinstanz den Parteien mit Verfügung vom 1.Februar 2011 Gelegenheit gegeben, zur Frage der Unterstellung der Beklagten unter den GAV FAR abschliessend Stellung zu nehmen. Dabei wies sie darauf hin, dass sich die Ausführungen auf die Unterstellungsfrage beschränken sollten, was unbestritten ist. Die Feststellung der Vorinstanz, der Rechtsvertreter der Beschwerdeführerin habe entgegen dieser Anordnung in der Duplik vom 22. März 2011 auch Ausführungen in masslicher Hinsicht gemacht und damit einen unnötig grossen Aufwand betrieben, lässt sich nicht halten: Die zentrale Frage der Unterstellung unter den GAV FAR, insbesondere ob die Firma seit ihrer Gründung am 19. April 2004 Tiefbauarbeiten im Sinne von Art. 2 Abs. 4 lit. a des Bundesratsbeschlusses vom 5. Juni 2003 über die Allgemeinverbindlicherklärung des GAV FAR ausführte, konnte nur in Kenntnis der effektiv von ihr ausgeübten Tätigkeiten beantwortet werden, wie in der Beschwerde richtig vorgebracht wird. Die Vorinstanz hat selber festgestellt, dass für die Entscheidung der Unterstellungsfrage weder der Handelsregistereintrag noch der Internetauftritt noch die Selbstdeklaration der Firma vom September 2005 massgebend seien, sondern der tatsächliche Einsatzbereich des Betriebes. Die von ihr als unnötig bezeichneten "Ausführungen in masslicher Hinsicht" auf den Seiten 3 bis 14 der Duplik vom 22. März 2011 erfolgten denn auch einzig zum Nachweis, dass die Tätigkeit der Firma hauptsächlich Erdwärmesondierbohrungen umfasste, welche nicht dem Bauhauptgewerbe bzw. dem Tiefbau im Sinne des einschlägigen allgemein verbindlichen Gesamtarbeitsvertrages zugeordnet werden könnten. Der Ausschluss masslicher Ausführungen in der Verfügung der Vorinstanz vom 1. Februar 2011 betraf jedoch die Höhe der von der Beschwerdegegnerin geltend gemachten Forderung. Dazu äusserte sich die Beschwerdeführerin in ihrer Eingabe vom 22. März 2011 denn auch nicht.
Die Beschwerdegegnerin bringt in ihrer Vernehmlassung insoweit richtig vor, sie habe in ihrer Stellungnahme vom 1. März 2011 anerkannt, dass die ins Recht gefasste Firma seit ihrer Gründung am 19. April 2004 grossmehrheitlich im Bereich Erdsonden und Erdsondenbohrungen tätig gewesen sei. Diese Rechtsschrift war der Gegenpartei jedoch erst nach deren Eingabe vom 22. März 2011 zur Kenntnisnahme zugestellt worden. Die Beschwerdeführerin bringt im Übrigen richtig vor, dass sie von der Vorinstanz in der Editionsverfügung vom 3. Juni 2008 aufgefordert worden war, Unterlagen einzureichen, aus denen sich ihr Tätigkeitsbereich ergebe. Es kann offenbleiben, ob diese Anordnung durch die Sistierung des Verfahrens vom 23. Juni 2008 bis zum Abschluss des im Dezember 2007 beim Kantonsgericht anhängig gemachten Zivilprozesses betreffend die Frage der Unterstellung der Beschwerdeführerin unter die allgemeinverbindlich erklärten Bestimmungen des Landesmantelvertrages für das Schweizerische Bauhauptgewerbe (LMV 2005 und LMV 2006) hinfällig geworden war, wie die Beschwerdegegnerin vernehmlassungsweise vorbringt. Es ändert am Gesagten nichts.
Die Beschwerdegegnerin bringt in ihrer Vernehmlassung insoweit richtig vor, sie habe in ihrer Stellungnahme vom 1. März 2011 anerkannt, dass die ins Recht gefasste Firma seit ihrer Gründung am 19. April 2004 grossmehrheitlich im Bereich Erdsonden und Erdsondenbohrungen tätig gewesen sei. Diese Rechtsschrift war der Gegenpartei jedoch erst nach deren Eingabe vom 22. März 2011 zur Kenntnisnahme zugestellt worden. Die Beschwerdeführerin bringt im Übrigen richtig vor, dass sie von der Vorinstanz in der Editionsverfügung vom 3. Juni 2008 aufgefordert worden war, Unterlagen einzureichen, aus denen sich ihr Tätigkeitsbereich ergebe. Es kann offenbleiben, ob diese Anordnung durch die Sistierung des Verfahrens vom 23. Juni 2008 bis zum Abschluss des im Dezember 2007 beim Kantonsgericht anhängig gemachten Zivilprozesses betreffend die Frage der Unterstellung der Beschwerdeführerin unter die allgemeinverbindlich erklärten Bestimmungen des Landesmantelvertrages für das Schweizerische Bauhauptgewerbe (LMV 2005 und LMV 2006) hinfällig geworden war, wie die Beschwerdegegnerin vernehmlassungsweise vorbringt. Es ändert am Gesagten nichts.
4.3 4.3.1 Nicht stichhaltig ist sodann das vorinstanzliche Argument, die öffentliche Verhandlung im Nachgang an die Eingaben der Parteien vom 1. und 22. März 2011 sei einzig auf Antrag der Beschwerdeführerin durchgeführt worden. Die Vorinstanz hätte im Rahmen der ihr obliegenden Verfahrensleitung das betreffende Begehren abweisen können, wenn sie der Auffassung war, eine Verhandlung mit Plädoyers der Parteien sei nicht erforderlich. Dass sie dem Rechtsvertreter der Beschwerdeführerin Gelegenheit gab, zu den nicht verlesenen Passagen des Plädoyers der Gegenpartei noch schriftlich Stellung zu nehmen, erscheint folgerichtig. Der Vorwurf der Vorinstanz entbehrt daher einer Grundlage, die Beklagte habe mit ihrer Eingabe vom 22. März 2011 einen Stein ins Rollen gebracht, bzw. einen zu keiner Zeit und in keiner Weise angezeigten Verfahrensaufwand generiert, rechtfertigt jedenfalls nicht eine Kürzung des Anwaltshonorars um rund 80 %.
4.3.2 Im Weitern trifft zu, dass das Obergericht des Kantons Zug mit Urteil vom 23. November 2010 die Frage der Unterstellung der Beschwerdeführerin unter die allgemeinverbindlich erklärten Bestimmungen des LMV 2005 und LMV 2006 rechtskräftig entschieden hatte. Die Vorinstanz macht zu Recht nicht geltend, dieses Erkenntnis sei von präjudizieller Bedeutung gewesen. Andernfalls hätte das Verfahren einen kürzeren Verlauf nehmen können. Vielmehr hatte sie die Frage der Unterstellung der Beschwerdeführerin unter den GAV FAR zu prüfen, insbesondere ob die Firma seit der Gründung am 19. April 2004 Tiefbauarbeiten im Sinne von Art. 2 Abs.4 lit. a des Bundesratsbeschlusses vom 5. Juni 2003 über die Allgemeinverbindlicherklärung des GAV FAR ausführte. Die neun Seiten starken vorinstanzlichen Erwägungen 6-8 zeigen, dass die Frage komplex, jedenfalls nicht leicht war. Dies bestätigt auch der Umstand, dass das Verwaltungsgericht des Kantons Luzern in einem Entscheid vom 6. Dezember 2010 die hauptsächliche Tätigkeit eines Betriebes im Erdsondenbohrbereich als Spezialtiefbau bzw. Tiefbau im Sinne von Art. 2 Abs. 4 lit. a des erwähnten Bundesratsbeschlusses qualifiziert hatte. Mit diesem Präjudiz hat sich die Vorinstanz in E. 8 ihres Entscheids auseinandergesetzt. Im Übrigen bezeichnet die Vorinstanz selber den Vertretungsaufwand als ausserordentlich, wobei aus den in E. 4.2.2 und 4.3.1 dargelegten Gründen indessen nicht davon gesprochen werden kann, dieser sei einzig von der Beschwerdeführerin "initiiert" worden. Damit ist die vorinstanzliche Auffassung, sie sei an den in § 9 Abs. 1 der Verordnung über die Kosten im Verfahren vor dem Verwaltungsgericht festgelegten Rahmen von Fr. 100.- bis Fr. 10'000.- gebunden gewesen (vorne E.4.1), unhaltbar.
5. Die Vorinstanz wird unter Berücksichtigung des in E. 4.2 und 4.3 Gesagten die Parteientschädigung für das vorangegangene Verfahren neu festzusetzen haben.
6. Die unterliegende Beschwerdegegnerin hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG) und der Beschwerdeführerin eine Parteientschädigung zu bezahlen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Dispositiv-Ziffer 3 des Entscheids des Verwaltungsgerichts des Kantons Zug, Sozialversicherungsrechtliche Kammer, vom 27. Oktober 2011 wird aufgehoben. Die Sache wird an die Vorinstanz zurückgewiesen, damit sie im Sinne der Erwägungen die Parteientschädigung neu festsetze.
2. Die Gerichtskosten von Fr. 3'000.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 14. Februar 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler