Sachverhalt:
A. Im Kanton Kanton St. Gallen bestehen die Versicherungskasse für das Staatspersonal (gemäss Verordnung vom 5. September 1989 über die Versicherungskasse für das Staatspersonal, VVK, sGS 143.7) und die kantonale Lehrerversicherungskasse (gemäss der Verordnung vom 13. November 1990 über die kantonale Lehrerversicherungskasse, VLVK, sGS 213.550) je als unselbständige öffentlich-rechtliche Anstalten des Staates und registrierte Vorsorgeeinrichtungen nach der Bundesgesetzgebung über die berufliche Vorsorge. Gemäss Art. 89 Abs. 1 VVK und Art. 74 Abs. 1 VLVK obliegt die Vermögensverwaltung der beiden Versicherungskassen der Finanzverwaltung des kantonalen Finanzdepartements.
Am 30. Juni 1998 erliess der Regierungsrat des Kantons St. Gallen ein Reglement zur Berechnung der Entschädigung für die Vermögensverwaltung und setzte es rückwirkend auf den 1. Januar 1998 in Kraft. Das Reglement gilt für die Verwaltung von Vermögenswerten der Gebäudeversicherungsanstalt sowie der beiden kantonalen Versicherungskassen. Darin wird nebst der Entschädigung für die Liegenschaftsverwaltung eine Entschädigung für die übrigen Vermögensanlagen wie folgt festgelegt: Ein Basishonorar von 0,1 % des Gesamtvermögens (Ziff. 5 lit. a) sowie ein erfolgsabhängiges Honorar, das 10 % des Mehrertrages zwischen der tatsächlich realisierten Performance durch die Finanzverwaltung und der Indexperformance von Pictet beträgt (Ziff. 5 lit. b). Gestützt auf dieses Reglement bezog der Staat zu Lasten der beiden Versicherungskassen in den Jahren 1999 bzw. 2000 ein erfolgsabhängiges Honorar von ca. 11,7 bzw. 2,3 Mio. Franken, im Jahre 2001 ein solches von ca. 82'000.- Franken.
B. Am 2. September 2002 reichten der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte beim Amt für berufliche Vorsorge und Stiftungen des Kantons St. Gallen (heute: Ostschweizer BVG- und Stiftungsaufsicht; im Folgenden: Aufsichtsbehörde) eine Aufsichtsbeschwerde gegen den Kanton St. Gallen ein mit den Anträgen, der Kanton St. Gallen sei anzuweisen, die Summe der in den Jahren 1999 und 2000 (sowie 2001; Schreiben vom 10. September 2002) vereinnahmten erfolgsabhängigen Honorare, deren Berechnungen und die genauen Daten der Vereinnahmungen darzulegen und den Betrag der zwischen 1. Januar und 30. Juni 1998 auf den Vermögensbeständen der Vorsorgeeinrichtungen erzielten Kapitalgewinne sowie pro rata temporis aufgelaufenen Zinsen auszuweisen; es sei festzustellen, dass die Vereinnahmungen der erfolgsabhängigen Honorare rechtswidrig erfolgten; es sei die Ziff. 5 lit. b des Reglements aufzuheben und der Kanton anzuweisen, die vereinnahmten Erfolgshonorare samt Zins an die beiden Versicherungskassen zurückzuerstatten.
C. Mit Verfügung vom 19. September 2002 trat die Aufsichtsbehörde auf die Aufsichtsbeschwerde nicht ein. Dagegen erhoben der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte Beschwerde an die eidgenössische Beschwerdekommission der beruflichen Alters-, Hinterlassenen- und Invalidenvorsorge (BVG-Beschwerdekommission). Diese hiess die Beschwerde mit Urteil vom 10. Mai 2005 gut, soweit darauf einzutreten war, hob die angefochtene Verfügung auf und wies die Sache zu neuem Entscheid im Sinne der Erwägungen an die Aufsichtsbehörde zurück. In der Folge wies die Aufsichtsbehörde mit Verfügung vom 8. August 2005 die Aufsichtsbeschwerde ab, soweit sie darauf eintrat.
D. Dagegen erhoben der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte am 31. August 2005 Beschwerde bei der BVG-Beschwerdekommission (wiederum) mit den Anträgen, die angefochtene Verfügung sei aufzuheben; der Kanton Kanton St. Gallen sei anzuweisen, genau darzulegen, welche Summe die erfolgsabhängigen Honorare der Jahre 1999-2001 umfasse, wie sich die Honorare im Einzelnen berechneten, an welchen Daten die Vereinnahmungen erfolgt seien und welcher Kapitalgewinn zwischen 1. Januar und 30. Juni 1998 auf den Vermögensbeständen der Vorsorgeeinrichtungen inklusive Zinsen aufgelaufen sei; es sei festzustellen, dass die Vereinnahmung der erfolgsabhängigen Erfolgshonorare rechtswidrig sei; Ziff. 5 lit. b des Reglements sei aufzuheben und der Kanton St. Gallen anzuweisen, die vereinnahmten Erfolgshonorare mit Zinsen zu 5 % an die beiden Versicherungskassen zurückzuerstatten.
E. Mit Urteil vom 21. April 2010 hiess das nunmehr zuständige Bundesverwaltungsgericht die Beschwerde teilweise gut und hob die Verfügung des Amtes vom 8. August 2005 auf. Es hob Art. 5 lit. b des Reglements vom 30. Juni 1998 auf und wies die Sache an die Vorinstanz zurück, damit sie im Sinne der Erwägungen 8.6 und 9.3 vorgehe.
F. Der Kanton St. Gallen, vertreten durch das Finanzdepartement, erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit folgenden Anträgen:
"1. materiell: Das Urteil des Bundesverwaltungsgerichts vom 21. April 2010 sei aufzuheben und an die Vorinstanz zum Neuentscheid im Sinne der bundesgerichtlichen Erwägungen zurückzuweisen, damit diese
- ein Beweisverfahren durchführe, aus welchem sich zu ergeben hat, wie hoch die Ansätze für die Entschädigung für BVG-Vermögensverwalter im schweizerischen Durchschnitt ab 1999 waren;
- ausgehend vom Ergebnis des Beweisverfahrens entscheide, wie hoch die Entschädigung des Beschwerdeführers in Relation zur marktüblichen Entschädigung stehen darf;
- sich auch über einen allfälligen Verzug und die Verzugszinshöhe ausspreche.
2. anstelle eines Begehrens um aufschiebende Wirkung: beschränkte Anerkennung. Der Beschwerdeführer anerkennt, dass die Berechnung des Erfolgshonorars gemäss Art. 5 Bst. b des Reglements zur Berechnung für die Vermögensverwaltung vom 30. Juni 1998 (nachfolgend abgekürzt Reglement) in einer wenig überzeugenden Weise an der gewählten Vergleichsgrösse angeknüpft hat. Er erklärt sich bereit und kann darauf behaftet werden, die gestützt auf diese Bestimmung nach der Regelung im Entschädigungsreglement vom 10. Oktober 2006 neu zu berechnen und einen Differenzbetrag zugunsten der Kassen der entsprechenden Spezialfinanzierung "Vorsorgevermögen" gutzuschreiben."
G. Der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte beantragen, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen. Aufsichtsbehörde, Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.
Erwägungen:
1. Gegen Entscheide des Bundesverwaltungsgerichts in BVG-Aufsichtssachen (Art. 74 BVG) ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (Art. 82 lit. a und Art. 86 Abs. 1 lit. a BGG). Der Kanton St. Gallen handelt einerseits für die rechtlich unselbständigen Versicherungskassen und ist in dieser Eigenschaft ohne weiteres zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG). Andererseits macht der Kanton geltend, die Vorinstanz habe durch die Aufhebung von Ziff. 5 lit. b des Reglements ihre Zuständigkeiten überschritten. Insoweit wehrt sich der Kanton dagegen, dass eine Bundesbehörde eine von ihm erlassene Rechtsnorm aufhebt, die sich auf kantonale Rechtsetzungszuständigkeiten stützt; auch diesbezüglich ist der Kanton zur Beschwerde legitimiert, wobei offen bleiben kann, ob sich die Legitimation aus Art. 89 Abs. 1 BGG (vgl. BGE 135 II 12 E. 1.2 S. 15 f.; Urteil 8C_1025/2009 vom 19. August 2010 E. 3.3) oder auf Art. 89 Abs. 2 lit. c BGG i.V.m. Art. 3 BV stützt (so Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz, 2007, N 59 zu Art. 89; Waldmann, in Basler Kommentar BGG, 2007, N 59 zu Art. 89; a.M. Donzallaz, Loi sur le Tribunal fédéral, Commentaire, 2008, N. 3160 zu Art. 89; Wurzburger, Commentaire de la LTF, 2009, N. 50 zu Art. 89, welcher für solche Fälle auf die Klage nach Art. 120 BGG verweist, die indessen gemäss Art. 120 Abs. 2 BGG unzulässig ist, wenn - wie hier [Art. 74 BVG] - ein anderes Bundesgesetz eine Behörde zum Erlass von Verfügungen ermächtigt, die durch Beschwerde anfechtbar sind). Die Ermächtigung des Finanzdepartements durch die grundsätzlich zur Beschwerdeführung zuständige Regierung (zur Publikation bestimmtes Urteil 8C_521/2010 vom 27. September 2010 E. 2.4) liegt vor.
2. 2.1 In Ziff. 2 Dispositiv ihres Urteils hat die Vorinstanz Ziff. 5 lit. b des Reglements aufgehoben. Insoweit liegt ein anfechtbarer Endentscheid vor (Art. 90 BGG). Entgegen der Auffassung der Beschwerdegegner ist der Antrag nicht neu und unzulässig (Art. 99 Abs. 2 BGG): Der (letztinstanzliche) Beschwerdeführer hat bereits vor der Vorinstanz den Antrag gestellt, die Beschwerde sei abzuweisen (Beschwerdevernehmlassung vom 19. September 2005), was sich auch auf den von den heutigen Beschwerdegegnern gestellten Antrag bezog, Ziff. 5 lit. b des Reglements aufzuheben.
2.2 Der Beschwerdeführer anerkennt ausdrücklich, dass die Berechnung des Erfolgshonorars gemäss Art. 5 lit. b Reglement in einer wenig überzeugenden Weise an der gewählten Vergleichsgrösse angeknüpft hat. Er verweist darauf, dass er inzwischen am 10. Oktober 2006 bereits ein neues Reglement erlassen habe, und erklärt sich bereit und lässt sich darauf behaften, die gestützt auf das alte Reglement ab dem Jahre 1999 von den beiden Vorsorgeeinrichtungen erhobenen Bezüge nach der Regelung dieses neuen Reglements zu berechnen und einen Differenzbetrag zugunsten der Kassen gutzuschreiben. Er geht somit selber davon aus, dass das Honorar für die Vermögensverwaltung der beiden Versicherungskassen nicht nach Massgabe des Reglements von 1998 zu berechnen ist. Insoweit unterzieht er sich dem vorinstanzlichen Entscheid, weshalb es ihm an einem Rechtsschutzinteresse fehlt, die Ziff. 2 Dispositiv des vorinstanzlichen Urteils anzufechten, soweit sich diese auf die Vermögensverwaltung der beiden Versicherungskassen bezieht. Insoweit ist auf die Beschwerde nicht einzutreten (Art. 89 Abs. 1 lit. c BGG).
2.3 Weiter beanstandet der Beschwerdeführer die Aufhebung des Reglements insoweit, als sich dieses auch an die Gebäudeversicherungsanstalt des Kantons Kanton St. Gallen richtet.
Insoweit ist die Beschwerde offensichtlich begründet: Die Gebäudeversicherung des Kantons St. Gallen ist eine Einrichtung des autonomen st. gallischen Rechts und unterliegt weder der Aufsicht der BVG-Aufsichtsbehörden (Art. 61 f. BVG) noch der Rechtsprechungszuständigkeit des Bundesverwaltungsgerichts (Art. 74 BVG; Art. 31 VGG i.V.m. Art. 5 VwVG). Im vorinstanzlichen Verfahren wurde ausdrücklich darauf hingewiesen, dass das Reglement nicht nur auf die beiden Versicherungskassen, sondern auch auf die Gebäudeversicherungsanstalt Anwendung findet (Beschwerde vom 31. August 2005 S. 7; Vernehmlassung der Aufsichtsbehörde vom 6. Dezember 2005 S. 6 f., 9 f.). Indem die Vorinstanz Art. 5 lit. b Reglement vollumfänglich und nicht nur in Bezug auf die beiden Versicherungskassen aufgehoben hat, hat sie ihre Zuständigkeiten überschritten. Insoweit ist der angefochtene Entscheid aufzuheben.
3. 3.1 In Ziff. 3 Dispositiv des angefochtenen Entscheides hat die Vorinstanz die Sache an die Aufsichtsbehörde zurückgewiesen. Insoweit liegt ein Zwischenentscheid vor, der nur unter den Voraussetzungen von Art. 92 oder 93 BGG anfechtbar ist (BGE 133 V 477 E. 4.2 S. 481 f.). Ein Anwendungsfall von Art. 92 BGG liegt nicht vor. Auch Art. 93 Abs. 1 lit. b BGG ist nicht erfüllt, beantragt doch der Beschwerdeführer selber für den Fall der Gutheissung die Rückweisung an die Vorinstanz, so dass so oder anders kein sofortiger Endentscheid möglich ist. Fraglich bleibt, ob der angefochtene Entscheid einen nicht wieder gut zu machenden Nachteil bewirken kann (Art. 93 Abs. 1 lit. a BGG). Ein Rückweisungsentscheid, mit dem eine Sache zur neuen Abklärung und Entscheidung an die untere Instanz zurückgewiesen wird, bewirkt in der Regel keinen nicht wieder gut zu machenden Nachteil, da der daraufhin ergehende Endentscheid seinerseits anfechtbar sein wird und in diesem Rahmen auch das mit dem Zwischenentscheid Entschiedene noch angefochten werden kann (Art. 93 Abs. 3 BGG). Anders verhält es sich nur, wenn die (vor Bundesgericht Beschwerde führende) Behörde, an welche zurückgewiesen wird, durch materiellrechtliche Anordnungen im Rückweisungsentscheid gezwungen wird, eine ihres Erachtens rechtswidrige neue Verfügung zu erlassen, die sie in der Folge mangels formeller Beschwer gar nicht anfechten könnte (BGE 133 V 477 E. 5.2 S. 483 f.).
3.2 Die Vorinstanz hat erwogen, die Kosten für die Vermögensverwaltung einer Vorsorgeeinrichtung gehörten zu den Verwaltungskosten im Sinne von Art. 65 Abs. 3 BVG (E. 7.2). Die Aufsichtsbehörde sei berechtigt zu prüfen, ob sich die Höhe der Verwaltungskosten rechtfertigen lasse (E. 8.2). Die gesetzlichen Vorschriften stünden einem Modell nicht entgegen, welches die Höhe der Vermögensverwaltungskosten nach Massgabe des vom Vermögensverwalter erzielten Erfolgs festlege. Doch seien dabei die Grundsätze einer zweckkonformen Verwendung und sorgfältigen Verwaltung von Vorsorgevermögen zu beachten (E. 8.4). In den Jahren 1999 und 2000 überstiegen aber die Einnahmen der Finanzverwaltung aus den Honoraren der beiden Versicherungskassen den Aufwand der gesamten Finanzverwaltung des Kantons wesentlich (E. 8.4.1). Das Erfolgshonorar in der vorliegend festgesetzten Form habe überwiegend den Charakter einer Gewinnbeteiligung des Staates an den Vermögenserträgen der beiden Vorsorgeeinrichtungen und sei nur am Rande darauf ausgerichtet, die effektiven Aufwendungen für die Vermögensverwaltung zu decken. Diese Gewinnbeteiligung sei nicht den Kosten für die Vermögensverwaltung gemäss Art. 65 Abs. 3 BVG zuzurechnen und genüge auch dem Äquivalenzprinzip nicht. Art. 5 lit. b des Entschädigungsreglements befinde sich deshalb im Widerspruch zu den zwingenden Vorschriften gemäss Art. 71 BVG (E. 8.4.4). Die Grundlage für die Bemessung des Erfolgshonorars, welche als Referenz den Pictet-Index vorsehe, sei nicht sachgerecht (E. 8.4.5). Art. 5 lit. b des Entschädigungsreglements sei daher aufzuheben (E. 8.5). Der kantonale Gesetzgeber habe unter Anhörung des paritätischen Organs (Art. 51 Abs. 5 BVG) eine neue reglementarische Bestimmung zu erlassen. Dabei stehe es ihm frei, erneut ein erfolgsabhängiges Honorar vorzusehen, doch müsse er dabei die Grundsätze einer zweckkonformen Erhebung von Verwaltungskosten einhalten, was mit einem differenzierten Index oder einer Kostenobergrenze geschehen könne. Es werde Sache der Vorinstanz sein, die Einhaltung dieser Gesetzesbestimmung zu überwachen, indem sie den beiden Vorsorgeeinrichtungen entsprechende Anweisungen zu erteilen sowie den kantonalen Gesetzgeber entsprechend zum Erlass einer neuen Regelung einzuladen habe, die der abstrakten Normenkontrolle durch die Aufsichtsbehörde unterstehe (E. 8.6). Dem Kanton obliege eine Rückerstattungspflicht für die zu Unrecht vereinnahmten Honorare (E. 9.2). Den Versicherungseinrichtungen obliege, die zu Unrecht erhobenen Erfolgshonorare beim Kanton zurückzufordern. Die Einhaltung dieser Pflicht habe die Aufsichtsbehörde zu überwachen und gegebenenfalls die geeigneten Massnahmen zu ergreifen (E. 9.3). Im Dispositiv ihres Entscheids wies die Vorinstanz die Sache an die Aufsichtsbehörde zurück, damit sie im Sinne der Erwägungen 8.6 und 9.3 vorgehe. Kurz zusammengefasst erachtet somit die Vorinstanz ein erfolgsabhängiges Vermögensverwaltungshonorar im Grundsatz als zulässig, in der konkreten Ausgestaltung jedoch als übermässig, und weist deshalb die Aufsichtsbehörde an, den Kanton zum Erlass einer neuen Regelung einzuladen und die Rückerstattung der zu viel in Rechnung gestellten Honorare durchzusetzen, ohne aber darzulegen, ein wie hohes Erfolgshonorar ihres Erachtens noch gerechtfertigt wäre. In Bezug auf die zulässige Höhe des Erfolgshonorars liegt somit keine verbindliche Anweisung der Vorinstanz vor.
3.3 Der Beschwerdeführer anerkennt ausdrücklich, dass die Berechnung des Erfolgshonorars gemäss Art. 5 lit. b des Reglements nicht überzeuge (vgl. vorne E. 2.2). Er begrüsst im Grundsatz auch, dass die Vorinstanz ihn angewiesen hat, unter Aufsicht der Aufsichtsbehörde eine neue Entschädigungslösung auszuhandeln, bemängelt indessen, dass sie die wesentlichen Eckpfeiler nicht mit genügender Bestimmtheit vorgegeben habe. Zudem habe sie sich nicht zu den Rückzahlungsmodalitäten, namentlich zum massgebenden Zinssatz, geäussert. Der Beschwerdeführer kritisiert somit nicht eine materiellrechtliche Vorgabe, welche die Vorinstanz in ihrem Rückweisungsentscheid angeordnet hat (vgl. vorne E. 3.1), sondern im Gegenteil, dass sie keine bzw. keine hinreichenden Vorgaben gemacht hat. Es liegt deshalb von vornherein kein nicht wieder gut zu machender Nachteil vor, auch unabhängig von der Frage, ob durch den angefochtenen Rückweisungsentscheid der Beschwerdeführer selber oder nur die Aufsichtsbehörde angewiesen wird (vgl. dazu BGE 135 V 382, nicht publ. E. 2.2). Die angemessene Höhe des erfolgsabhängigen Honorars wird in jedem Fall neu festzulegen sein (was der Beschwerdeführer ja auch ausdrücklich anerkennt und im Übrigen bereits getan hat), ohne dass dafür Vorgaben seitens der Vorinstanz vorliegen. Das Vorgehen der Vorinstanz führt zwar zu einer weiteren Verzögerung des Verfahrens, was sich mit einer inhaltlich präziseren vorinstanzlichen Beurteilung wohl hätte vermeiden lassen. In diesem Zusammenhang ist die Vorinstanz darauf hinzuweisen, dass sie grundsätzlich reformatorisch zu entscheiden hat und nur ausnahmsweise - und zudem mit verbindlichen Vorgaben - die Sache zurückweisen soll (Art. 61 Abs. 1 VwVG in Verbindung mit Art. 37 VGG). Das drängt sich im Lichte des verfassungsrechtlichen Anspruchs auf Beurteilung innert angemessener Frist (Art. 29 Abs. 1 BV) vor allem dann auf, wenn - wie hier - das Verfahren vor dem Bundesverwaltungsgericht ohnehin schon viel zu lange gedauert hat. Doch stellt die blosse Verlängerung eines Verfahrens keinen nicht wieder gut zu machenden Nachteil dar (BGE 133 V 477 E. 5.2.1 S. 483), unter Vorbehalt einer Rechtsverzögerung, die aber vom Beschwerdeführer nicht gerügt wird und nicht von Amtes wegen zu prüfen ist (Art. 106 Abs. 2 BGG). In Bezug auf den Rückweisungsteil (Ziff. 3 des vorinstanzlichen Dispositivs) liegt deshalb kein nicht wieder gut zu machender Nachteil vor.
3.4 Zwar bestünde ein prozessökonomisches Interesse daran, die umstrittene Frage, ob und in welchem Umfang erfolgsabhängige Vermögensverwaltungshonorare zulässig sind, möglichst rasch letztinstanzlich zu beantworten. Trotzdem kann auch ausnahmsweise nicht auf die Beschwerde eingetreten werden: Die (letztinstanzlichen) Beschwerdegegner haben in ihrer Beschwerde an die Vorinstanz die Zulässigkeit des erfolgsabhängigen Vermögensverwaltungshonorars mangels genügender gesetzlicher Grundlage generell bestritten. Die Vorinstanz hat entgegen dieser Auffassung die gesetzliche Grundlage als hinreichend bestimmt und ein erfolgsabhängiges Honorar grundsätzlich als zulässig erachtet und nur das vorliegend zur Diskussion stehende Ausmass als übermässig bezeichnet. Dementsprechend hat sie die Beschwerde nur teilweise gutgeheissen. Die heutigen Beschwerdegegner hatten weder Anlass noch Möglichkeit, den vorinstanzlichen Rückweisungsentscheid anzufechten (Art. 93 Abs. 1 BGG; vorne E. 3.1) und konnten sich darauf verlassen, in der Folge den noch zu erlassenden Endentscheid und dabei auch das von der Vorinstanz jetzt Entschiedene anfechten zu können (Art. 93 Abs. 3 BGG). Diese Möglichkeit würde ihnen genommen, wenn das Bundesgericht im vorliegenden Verfahren über die Zulässigkeit des erfolgsabhängigen Honorars materiell entscheiden würde, wobei es nicht über die Begehren des Beschwerdeführers hinausgehen könnte (Art. 107 Abs. 1 BGG) und die heutigen Beschwerdegegner ihren Standpunkt auch nicht mittels Anschlussbeschwerde geltend machen könnten (BGE 134 III 332 E. 2.5 S. 335).
4. Ausgangsgemäss sind die Kosten zu zwei Drittel dem Beschwerdeführer und zu einem Drittel den Beschwerdegegnern aufzuerlegen (Art. 66 Abs. 1 BGG). Der mehrheitlich unterliegende Beschwerdeführer hat den Beschwerdegegnern eine reduzierte Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Ziffer 2 Dispositiv des Entscheides des Bundesverwaltungsgerichts, Abteilung III, vom 21. April 2010, wird insoweit aufgehoben, als damit Ziff. 5 lit. b des Reglementes vom 30. Juni 1998 zur Berechnung der Entschädigung für die Vermögensverwaltung des Kantons St. Gallen in Bezug auf die Gebäudeversicherungsanstalt des Kantons St. Gallen aufgehoben wurde. Im Übrigen wird auf die Beschwerde nicht eingetreten.
2. Von den Gerichtskosten von Fr. 6'000.- werden dem Beschwerdeführer Fr. 4'000.- und den Beschwerdegegnern Fr. 2'000.- auferlegt.
3. Der Beschwerdeführer hat den Beschwerdegegnern eine Parteientschädigung von Fr. 1'000.- zu bezahlen.
4. Dieses Urteil wird den Parteien, dem Amt für berufliche Vorsorge und Stiftungen des Kantons St. Gallen, heute Ostschweizer BVG- und Stiftungsaufsicht, dem Bundesverwaltungsgericht, Abteilung III, und dem Bundesamt für Sozialversicherungen, Aufsicht Berufliche Vorsorge, schriftlich mitgeteilt.
Luzern, 24. November 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Bollinger Hammerle