Sachverhalt:
A. A.a Mit öffentlicher Urkunde vom 1. März 1985 wurde am Grundstück Nr. xxxx in der Gemeinde R._ Stockwerkeigentum begründet. Bei der Liegenschaft handelt es sich um das ehemalige Hotel S._ auf T._. Gemäss Ziff. II der Begründungsurkunde wurden "auf den früher als Hotelzimmer benutzten Etagen 24 Wohneinheiten wie folgt eingebaut", nämlich 11 Wohnungen im 1. Obergeschoss (Nrn. 101-111 bzw. Nrn. 9239-9249), 10 Wohnungen im 2. Obergeschoss (Nrn. 201-210 bzw. Nrn. 9250-9259) und 3 Wohnungen im 3. Obergeschoss (Nrn. 301-303 bzw. Nrn. 9260-9262). Im 1. und 2. Untergeschoss befindet sich die Stockwerkeinheit Nr. 001 bzw. Nr. 9263 mit Sonderrecht an Fitnessräumen, Solarium, Waschküche und Kellerabteil. Gemäss Ziff. IV der Begründungsurkunde wurde die Stockwerkeinheit Nr. 001 zu Eigentum und Nutzung den 24 Wohnungen zugewiesen. Schliesslich umfasst die Stockwerkeinheit Nr. 400 bzw. Nr. 9238 im Erdgeschoss und in den Untergeschossen ein Restaurant, ein Massenlager sowie Personalzimmer und Nebenräume. Gemäss Ziff. IX der Begründungsurkunde bleibt der Restaurationsbetrieb gewährleistet. Die Anteile betragen 500/1000 für die Stockwerkeinheit Nr. 400 und 500/1000 für die Wohnungen mit der Stockwerkeinheit Nr. 001 (Ziff. III der Begründungsurkunde). Das "Benutzungs- und Verwaltungsreglement der Stockwerkeigentümer-Gemeinschaft U._" vom 1. März 1985 bildet gemäss Ziff. X der Begründungsurkunde deren integrierenden Bestandteil.
A.b Die X._ AG ist Eigentümerin der Wohnungen Nrn. 102, 105, 106, 108, 109, 207 und 303 sowie der Stockwerkeinheit Nr. 400.
A.c An ihren Stockwerkeinheiten im 1. und 2. Obergeschoss führte die X._ AG Umbauarbeiten durch. Sie ersetzte insbesondere die Kochnischen durch Kleiderschränke. Im Amtsblatt vom 14. August 2009 liess die X._ AG nachträglich ein Gesuch für das "Bauobjekt: Umbau Wohnungen zu Hotelzimmern" veröffentlichen.
B. A._ und weitere Stockwerkeigentümer (im Folgenden: Kläger) erhoben privatrechtliche Einsprachen gegen das Baugesuch. Die X._ AG (hiernach: Beklagte) schloss auf Abweisung. Unter Vorbehalt der Erledigung der privatrechtlichen Einsprachen wurde die Baubewilligung erteilt. Das Bezirksgericht Schwyz vereinigte die Einspracheverfahren. Es hiess die Einsprachen gut und untersagte der Beklagten das im Amtsblatt vom 14. August 2009 ausgeschriebene Bauvorhaben. Die Beklagte wurde verpflichtet, die Gerichtskosten von Fr. 5'154.80 zu tragen und die Kläger mit Fr. 5'272.40 zu entschädigen (Urteil vom 31. März 2010).
C. Mit Berufung beantragte die Beklagte dem Kantonsgericht Schwyz, die Klagen (Baueinsprachen) abzuweisen, soweit darauf eingetreten werden könne. Die Kläger stellten die Anträge, die Berufung abzuweisen, den bezirksgerichtlichen Entscheid zu bestätigen, die Einsprachen gutzuheissen und das Bauvorhaben "Umbau Wohnungen zu Hotelzimmern" zu untersagen. Das Kantonsgericht hiess die Berufung teilweise gut und hob das angefochtene Urteil auf. Es untersagte der Beklagten das Bauvorhaben "Umbau Wohnungen zu Hotelzimmern" insoweit, als eine Umnutzung ihrer Stockwerkeinheiten zu Hotelzimmern vorgesehen ist, und wies die Baueinsprachen im Übrigen ab (Dispositiv-Ziff. 1). Es auferlegte die erst- und zweitinstanzlichen Gerichtskosten von insgesamt Fr. 8'754.80 zu drei Vierteln der Beklagten und zu einem Viertel den Klägern und verpflichtete die Beklagte, die Kläger im gleichen Verhältnis erstinstanzlich mit Fr. 2'636.20 und zweitinstanzlich mit Fr. 1'500.-- zu entschädigen (Dispositiv-Ziff. 2-4 des Urteils vom 12. Oktober 2010).
D. Mit Eingabe vom 14. September 2011 beantragen die Kläger dem Bundesgericht, die Dispositiv-Ziff. 2-4 des obergerichtlichen Urteils aufzuheben, die erst- und zweitinstanzlichen Gerichtskosten von insgesamt Fr. 8'754.80 der Beklagten aufzuerlegen und ihnen die volle Parteientschädigung von erstinstanzlich Fr. 5'272.40 und von zweitinstanzlich Fr. 3'000.--, je inklusive Auslagen und Mehrwertsteuer, zuzusprechen, eventuell die Angelegenheit zur Festsetzung der Gerichtskosten und Parteientschädigungen zurückzuweisen. Es sind die kantonalen Akten, hingegen keine Vernehmlassungen eingeholt worden (Verfahren 5A_632/2011).
E. Am 15. September 2011 hat die Beklagte ihre Beschwerde an das Bundesgericht der Post aufgegeben mit dem Antrag in der Sache, die Baueinsprachen der Kläger abzuweisen, eventualiter die Angelegenheit an das Kantonsgericht zur Neubeurteilung zurückzuweisen. Es sind keine Vernehmlassungen eingeholt worden (Verfahren 5A_648/2011).
Erwägungen:
1. Die beiden Beschwerden betreffen wechselseitig die gleichen Parteien, richten sich gegen dasselbe kantonale Urteil und sind in ihrer Beurteilung insofern voneinander abhängig, als sich eine allfällige Gutheissung der Beschwerde der Beklagten in der Sache auf die Verlegung der kantonalen Gerichts- und Parteikosten auswirken kann (vgl. Art. 67 und Art. 68 Abs. 5 BGG) und die einzig dagegen erhobene Beschwerde der Kläger infolgedessen gegenstandslos werden könnte (Art. 71 BGG i.V.m. Art. 72 BZP; vgl. Beschluss 5P.85/2003 vom 8. Juli 2003). Es rechtfertigt sich deshalb insgesamt, die beiden Beschwerdeverfahren zu vereinigen und in einem einzigen Urteil zu erledigen (Art. 71 BGG i.V.m. Art. 24 BZP).
2. Das Kantonsgericht hat die Frage beantwortet, ob der Umbau der Wohnungen in Hotelzimmer und die damit beabsichtigte hotelmässige Bewirtschaftung die Zweckbestimmung oder die Benutzungsweise der gemeinschaftlichen Liegenschaft verändert und mangels Zustimmung der Stockwerkeigentümer unzulässig ist und ob der Umbau rückgängig gemacht werden muss (vgl. Art. 648 Abs. 2 und Art. 647b Abs. 1 i.V.m. Art. 712g Abs. 1 ZGB). Sein Urteil betrifft eine Zivilsache (Art. 72 Abs. 1 BGG) in einer vermögensrechtlichen Angelegenheit mit einem festgestellten Streitwert von mindestens Fr. 30'000.-- (E. 6 S. 9). Das gesetzliche Streitwerterfordernis (Art. 74 Abs. 1 lit. b BGG) ist damit für die Beschwerde in der Sache wie auch für die Beschwerde gegen die Verlegung der Gerichts- und Parteikosten erfüllt (vgl. BGE 137 III 47). Angefochten ist ein kantonal letztinstanzliches Urteil (Art. 75 BGG), das je gegen beide Beschwerdeparteien lautet (Art. 76 Abs. 1 BGG) und das Verfahren abschliesst (Art. 90 BGG). Auf die - fristgerecht erhobenen (Art. 100 Abs. 1 BGG) - Beschwerden kann grundsätzlich eingetreten werden.
3. Mangels Anfechtung von Seiten der Kläger rechtskräftig entschieden ist, dass die Beklagte den bereits erfolgten Umbau ihrer Wohnungen nicht rückgängig machen muss. Vor Bundesgericht streitig ist in der Sache, ob die Nutzung der umgebauten Wohnungen als Hotelzimmer der Zustimmung der Stockwerkeigentümer bedarf, weil sie die Zweckbestimmung oder die Benutzungsweise der gemeinschaftlichen Liegenschaft verändert. Die beiden Streitfragen lauten somit dahingehend, ob (1.) die gemeinschaftliche Liegenschaft einem bestimmten Zweck gewidmet oder für eine bestimmte Benutzungsweise vorgesehen ist und ob (2.) die hotelmässige Bewirtschaftung der Sonderrechtsteile der Beklagten dieser Zweckbestimmung oder Benutzungsweise der gemeinschaftlichen Liegenschaft widerspricht. Fest steht, dass die Versammlung der Stockwerkeigentümer weder dem Umbau noch der Nutzung von Wohnungen als Hotelzimmer zugestimmt hat.
3.1 Das Kantonsgericht hat die rechtliche Ausgangslage zutreffend geschildert (E. 2 S. 4 des angefochtenen Urteils). Stockwerkeigentum ist der Miteigentumsanteil an einem Grundstück, der dem Miteigentümer das Sonderrecht gibt, bestimmte Teile eines Gebäudes ausschliesslich zu benutzen und innen auszubauen (Art. 712a Abs. 1 ZGB). In der Verwaltung, Benutzung und baulichen Ausgestaltung seiner eigenen Räume ist der Stockwerkeigentümer frei (Art. 712a Abs. 2, erster Halbsatz, ZGB). Diese Freiheit wird vermutet, kann aber durch das Gesetz, durch die Gemeinschaftsordnung oder durch Vereinbarungen mit Dritten eingeschränkt werden. Sie ist namentlich dort beschränkt, wo der Aus- oder Umbau oder die Nutzung der Sonderrechtsteile die Zweckbestimmung oder die Benutzungsweise der gemeinschaftlichen Liegenschaft verändert. Denn deren Benutzungsweise kann nur mit der Zustimmung der Mehrheit der Miteigentümer geändert werden, die zugleich den grösseren Teil der Sache vertritt (Art. 647b Abs. 1 ZGB), und die Veränderung der Zweckbestimmung der gemeinschaftlichen Liegenschaft bedarf der Übereinstimmung aller Miteigentümer, soweit diese nicht einstimmig eine andere Ordnung vereinbart haben (Art. 648 Abs. 2 ZGB). Die Bestimmungen gelten auch im Stockwerkeigentum (Art. 712g Abs. 1 und 2 ZGB; vgl. zur rechtlichen Ausgangslage: WERMELINGER, Zürcher Kommentar, 2010, N. 20, N. 47 ff., N. 135 und N. 182 ff. zu Art. 712a ZGB, mit Hinweisen, zuletzt insbesondere das Urteil 5A_428/2008 vom 19. März 2009 E. 4.5, in: ZBGR 91/2010 S. 301 ff.).
3.2 Die Streitfrage nach einem bestimmten Zweck oder einer bestimmten Benutzungsweise der gemeinschaftlichen Liegenschaft hat das Kantonsgericht anhand der Begründungsurkunde und des Reglementes geprüft. Es ist von Ziff. II der Begründungsurkunde ausgegangen, wonach die Hotelzimmer in den drei Obergeschossen des ehemaligen Hotels S._ in Wohneinheiten bzw. Wohnungen umgebaut und nebst dem Restaurationsbetrieb als eigene Stockwerkeinheiten ausgestaltet wurden. Das Kantonsgericht hat festgestellt, die Stockwerkeinheit Nr. 001 (Fitnessräume usw.), der Lift, die Skiräume und weitere gemeinschaftliche Räume stünden in der ausschliesslichen Nutzung der Wohnungen. Umgesetzt worden sei die Trennung zwischen den Wohnungen und dem Restaurationsbetrieb durch separate Eingänge und einen entsprechend ausgestalteten Schliessplan. Die Nutzung der oberen Geschosse zum Wohnen entspreche langjähriger Übung. Die damalige Umwandlung der Hotelzimmer in Wohnungen und die baulich-räumliche Aufteilung der Gesamtliegenschaft würden somit darauf hinweisen, dass eine Hotelnutzung im Wohnungsteil der Liegenschaft ab Begründung des Stockwerkeigentums neu nicht mehr vorgesehen gewesen sei. Ob sich daraus geradezu ein Zweck der Wohnnutzung unter Ausschluss hotelmässiger Bewirtschaftung oder bloss eine bestimmte Benutzungsweise ergebe, hat das Kantonsgericht letztlich offen gelassen (E. 3 S. 4 ff. des angefochtenen Urteils).
3.3 Das Kantonsgericht hat dafürgehalten, eine hotelmässige Bewirtschaftung widerspreche der festgestellten bisherigen Benutzung der Stockwerkeinheiten, die von den Stockwerkeigentümern selber bewohnt (als Familien- oder Ferienwohnung) oder an Angestellte vermietet worden seien. Die geplante Nutzung als Hotelzimmer weise demgegenüber eine andere inhaltliche Qualität auf. Während der tendenziell längeren Bewohnung durch Stockwerkeigentümer oder Mieter könnten beispielsweise eher typische Nachbarschaftsverhältnisse entstehen als mit den tendenziell kürzer verweilenden Hotelgästen. Dies hätte auch Auswirkungen bei der Benutzung des Fitness- und Wellnessbereiches, wo Hotelgäste eher als störende Fremde betrachtet würden. Auch wenn die Gäste diese Bereiche nicht nutzen sollten, manifestiere sich bereits darin, dass eine Umnutzung in Hotelzimmer auch Auswirkungen auf die Nutzung der gemeinschaftlichen Teile zeitige. Eine solch "ausstrahlende" Wirkung zeige sich ebenfalls in den feuerpolizeilichen Auflagen aus dem öffentlichrechtlichen Baubewilligungsverfahren, indem vorliegend beispielsweise anderweitige Wand- und Deckenverkleidungen im Treppenhaus angebracht werden müssten. Im Gegensatz zur allfälligen Überlassung der Wohnung an Freunde bzw. Bekannte, soweit dies nur vereinzelt vorkomme, sei die geplante Umnutzung in Hotelzimmer nicht mehr durch die Benutzungsfreiheit für eigene Sonderrechtsteile abgedeckt. Sie bedürfe als Änderung der Benutzungsweise vielmehr der Genehmigung der Stockwerkeigentümergemeinschaft. Ein entsprechender Beschluss fehle, so dass der Beklagten die geplante Umnutzung ihrer Wohnungen in Hotelzimmer zu untersagen sei (E. 4 S. 6 ff. des angefochtenen Urteils).
4. Die Beklagte verneint die Frage, ob die gemeinschaftliche Liegenschaft einem bestimmten Zweck gewidmet oder für eine bestimmte Benutzung vorgesehen sei. Sie bestreitet, dass sich aus der Gemeinschaftsordnung eine hinreichend eindeutige Bestimmung des Zwecks oder der zulässigen Benutzung der Liegenschaft ergebe. Es sei deshalb jede Art der Benutzung zulässig. Von einer Änderung des Zweckes oder der Benutzungsweise könne nicht gesprochen werden. Die Zustimmungserfordernisse gemäss Art. 648 und Art. 647b ZGB seien nicht anwendbar (S. 26 ff. Ziff. 3f der Beschwerdeschrift).
4.1 Die Zweckbestimmung im Sinne von Art. 648 Abs. 2 ZGB meint die Widmung einer Sache und zeigt sich durch deren wirtschaftliche Gebrauchs- und Nutzungsweise. Dieser innere Zusammenhang macht die Unterscheidung von Zweckbestimmung und Benutzungsweise gemäss Art. 647b Abs. 1 ZGB im Einzelfall schwierig. Die zulässigen oder die unzulässigen Gebrauchs- und Nutzungsweisen können in der Gemeinschaftsordnung (Begründungsurkunde, Reglement usw.) ausdrücklich umschrieben sein oder gegebenenfalls durch deren Auslegung ermittelt werden. Fehlt es an einer Zweckbestimmung, ist grundsätzlich jede Gebrauchs- und Nutzungsweise zulässig (vgl. WERMELINGER, a.a.O., N. 50 und N. 174 und N. 177 ff. zu Art. 712a ZGB, mit Hinweisen).
4.2 Für die Frage nach einem bestimmten Zweck oder einer bestimmten Benutzungsweise der Liegenschaft lässt sich der Gemeinschaftsordnung Folgendes entnehmen:
4.2.1 Ziff. IX der Begründungsurkunde schreibt in Abs. 1 vor, dass die Verwendung der Stockwerkeinheiten "die Zweckbestimmung" der Liegenschaft nicht beeinträchtigen darf, und umschreibt in Abs. 3 eine Zweckbestimmung mit der Formulierung "Der Restaurationsbetrieb der StWE-Nr. 9238 bleibt gewährleistet". Die Stockwerkeinheit Nr. 400 bzw. Nr. 9238 im Erdgeschoss und in den Untergeschossen umfasst ein Restaurant, ein Massenlager sowie mehrere Personalzimmer und Nebenräume mit einer Wertquote von 500/1000 (Ziff. III der Begründungsurkunde). Die Hälfte der Gesamtliegenschaft ist damit dem Betrieb eines Restaurants und eines Massenlagers gewidmet.
4.2.2 Aus dem genannten Zweck der einen Hälfte ergibt sich der Zweck der anderen Hälfte der Gesamtliegenschaft, wenngleich eine ausdrückliche Umschreibung in der Gemeinschaftsordnung fehlt. Er wird durch die räumliche Ausscheidung und die Zuweisung von Nutzungsbefugnissen näher bestimmt. Während das Restaurant mit dem Massenlager im Erdgeschoss und in den Untergeschossen betrieben wird, finden sich "auf den früher als Hotelzimmer benutzten Etagen 24 Wohneinheiten" (Ziff. II der Begründungsurkunde). Die Widmung der drei Obergeschosse ausschliesslich zu Wohnzwecken und als Gegensatz zum Gastwirtschafts- und Beherbergungsbetrieb im Erdgeschoss und in den Untergeschossen wird verdeutlicht, indem die Stockwerkeinheit Nr. 001 (Fitnessräume usw.) der Nutzung der Wohnungseigentümer vorbehalten bleibt und eigentumsmässig mit den Wohnungen verknüpft wird (Ziff. IV der Begründungsurkunde), indem der Lift und die Skiräume 1 und 2 nur von den Eigentümern der Wohnungen unter "Ausschluss der Stockwerkeinheit Nr. 9238" benutzt werden dürfen (Ziff. VI und VII der Begründungsurkunde) und indem die gemeinschaftlichen Räume in den drei Obergeschossen lediglich für die Eigentümer der Wohnungen zugänglich sind (Ziff. VIII der Begründungsurkunde). Das Reglement bestätigt die räumliche Zweiteilung der Liegenschaft mit je verschiedenem Zweck und je speziellen Benutzungsrechten (z.B. Art. 3, Art. 7 und Art. 12) bis hin zu Regelungen über die getrennte Abrechnung der Kosten für die Verwaltung und der gemeinschaftlichen Kosten (Art. 16 ff. des Reglements). Gemäss den tatsächlichen Feststellungen des Kantonsgerichts bestehen für die beiden Bereiche separate Eingänge mit entsprechend ausgestaltetem Schliessplan.
4.2.3 Die Gesamtliegenschaft ist somit einem doppelten Zweck gewidmet. Sie dient einerseits dem Betrieb eines Restaurants und eines Massenlagers und andererseits Wohnzwecken, wobei die beiden Zweckbestimmungen räumlich eindeutig festgelegt sind. Was die Benutzungsweise der Wohnungen angeht, ergibt sich aus dem Reglement, dass jeder Stockwerkeigentümer in der Benutzung aller Räume seiner Stockwerkeinheit frei ist, soweit dadurch die anderen Stockwerkeigentümer im gleichen Benutzungsrecht und die Interessen der Gemeinschaft nicht beeinträchtigt werden (Art. 5 ff.). Die Vermietung des Stockwerkeigentums ist zulässig und dem Verwalter zu melden (Art. 10 des Reglements). Die örtliche Lage der Liegenschaften auf T._ und die Grösse der Wohnungen - 13 Wohnungen mit einem Zimmer, 5 Wohnungen mit eineinhalb Zimmern und 6 Wohnungen mit zwei Zimmern - lassen darauf schliessen, dass bei der Begründung hauptsächlich an eine Nutzung als Ferienwohnungen gedacht wurde.
4.3 Entgegen der Darstellung der Beklagten ergibt sich aus der Gemeinschaftsordnung eine Zweckbestimmung der Liegenschaft. Wie die Beklagte zu Recht hervorhebt, dient die Liegenschaft mit diversen Wohnungen dem Wohnen sowie mit dem Restaurant der Bewirtung und mit dem Massenlager der Beherbergung von Dritten (Touristen und anderen Gästen). Dass die Liegenschaft nicht einzig Wohnzwecken gewidmet ist, schadet ihrer Zweckbestimmung nicht. Es ist vielmehr zulässig und oft auch sinnvoll, wenn den Einheiten im Erdgeschoss eine gewerbliche Nutzung offensteht, während die Einheiten in den Obergeschossen der Wohnnutzung gewidmet sind (vgl. PASCAL WIRZ, Schranken der Sonderrechtsausübung im Stockwerkeigentum, Diss. Zürich 2007, S. 162; HANS-PETER FRIEDRICH, Das Stockwerkeigentum, 2. Aufl. 1972, § 8 N. 2). Eine zweigeteilte Zweckbestimmung ist umso mehr zulässig, als hier die beiden festgelegten Nutzungsbereiche räumlich klar voneinander abgegrenzt sind und sich ohne bauliche Änderungen an den gemeinschaftlichen Teilen (Eingang mit Schliessanlage) nicht vermischen können.
5. Die zweite Streitfrage lautet dahin gehend, ob die hotelmässige Bewirtschaftung der Sonderrechtsteile der Beklagten der festgestellten Zweckbestimmung und Benutzungsweise der gemeinschaftlichen Liegenschaft widerspricht. Die Beklagte macht geltend, auch das Wohnen in einem Hotel bedeute nichts wesentlich anderes als das Wohnen in einer Wohnung und deshalb keine Nutzung, die mit einer weit höheren Belastung durch Immissionen verbunden sei (S. 14 ff. Ziff. 2 und S. 32 Ziff. 6). Sie wendet ein, die hotelmässige Bewirtschaftung ihrer Sonderrechtsteile beeinträchtige den Gesamtcharakter der Liegenschaft nicht (S. 21 ff. Ziff. 3) und ein Verbot der Umnutzung ihrer Wohnungen in Hotelzimmer verletze den Kern- und Wesensgehalt des Stockwerkeigentums (S. 29 ff. Ziff. 4) und den Grundsatz der Gleichbehandlung aller Stockwerkeigentümer (S. 31 Ziff. 5 der Beschwerdeschrift).
5.1 In seiner Rechtsprechung hat das Bundesgericht ein im Reglement enthaltenes Verbot, in Sonderrechtsteilen, die zum Wohnen bestimmt sind, ein Restaurant, eine Pension oder ein ähnliches Gewerbe zu betreiben, für zulässig erklärt (Urteil 5C.195/2002 vom 23. Dezember 2002 E. 2, zit. bei WERMELINGER, a.a.O., N. 56 zu Art. 712a ZGB). Einem älteren, mit dem vorliegenden ohne Weiteres vergleichbaren Fall hat der Sachverhalt zugrunde gelegen, dass eine in Stockwerkeigentum aufgeteilte Liegenschaft ein Restaurant, ein Hotel und auf fünf Stockwerken 41 Wohnungen umfasste. Die Zweckbestimmung wurde im Reglement lediglich mit der Formulierung "Ogni quota può essere unicamente utilizzata come alla sua destinazione (appartamento quale appartamento, ristorante quale ristorante, albergo quale albergo)" umschrieben. Als der Hotelunternehmer seinen Betrieb auf vereinzelte ihm gehörende Wohnungen ausdehnen wollte, erhoben mehrere Stockwerkeigentümer erfolgreich Klage. Zuletzt hat das Bundesgericht die eidgenössische Berufung des Hotelunternehmers abgewiesen mit der Begründung: "L'estensione della gestione alberghiera agli appartamenti rappresenta un mutamento della destinazione prevista nel regolamento" (Urteil C.419/1982 vom 3. März 1983 E. 4, zit. bei ROLANDO FORNI, La propriété par étages dans la jurisprudence du Tribunal fédéral, ZBJV 124/1988 S. 449 ff., S. 454 Ziff. 5.4). Die Begründung für die Unzulässigkeit der hotelmässigen Bewirtschaftung einzelner Wohnungen liegt zum einen in der Störung des Gesamtcharakters der Wohnliegenschaft, zum anderen aber auch darin, dass die anderen Stockwerkeigentümer den ständigen Wechsel der Bewohner innert kürzester Zeit und die damit zwangsläufig verbundene höhere Belastung für die gemeinschaftlichen Anlagen nicht zu dulden brauchen (vgl. zur übereinstimmenden Lösung im deutschen Wohneigentum: HEINRICH KREUZER, in: Julius von Staudinger, Kommentar zum Bürgerlichen Gesetzbuch, Gesetz über das Wohnungseigentum und das Dauerwohnrecht, 2005, N. 73 zu § 13 WEG; WOLFGANG LÜKE, in: Weitnauer, Wohnungseigentumsgesetz, 8. Aufl. 1995, N. 14 zu § 15 WEG).
5.2 Mit Blick auf die Praxis ist das Kantonsgericht zutreffend davon ausgegangen, dass die hotelmässige Bewirtschaftung von Wohnungen in einer Wohnliegenschaft ohne Zustimmung der Stockwerkeigentümer als unzulässig erscheint. Zu den einzelnen dagegen erhobenen Einwänden der Beklagten ergibt sich Folgendes:
5.2.1 Die Umnutzung von Wohnungen in Hotelzimmer bedeutet hier eine Änderung der Zweckbestimmung gemäss der massgebenden Gemeinschaftsordnung, wonach die Wohnungen dem Wohnen gewidmet sind (vgl. E. 4 hiervor). Bewirkt die Hotelnutzung somit eine Zweckänderung, ist sie ohne Zustimmung der übrigen Stockwerkeigentümer unzulässig (vgl. Art. 648 Abs. 2 i.V.m. Art. 712g Abs. 1 ZGB). Eines zusätzlichen Nachweises übermässiger Immissionen oder der höheren Belastung gemeinschaftlicher Anlagen durch die Hotelnutzung bedarf es nicht. Die diesbezüglich erhobene Rüge unrichtiger Feststellung des Sachverhalts (S. 7 ff. Ziff. 6b der Beschwerdeschrift) ist deshalb mangels Entscheiderheblichkeit nicht zu prüfen (Art. 97 Abs. 1 BGG; vgl. BGE 132 III 545 E. 3.3.2 S. 548).
5.2.2 Die Umschreibung des Zwecks und der Benutzungsweise in der Gemeinschaftsordnung genügt den Bestimmtheitsanforderungen. Die Gemeinschaftsordnung kann den Zweck und die Benutzungsweise positiv oder negativ umschreiben (vgl. WERMELINGER, a.a.O., N. 181 zu Art. 712a ZGB), d.h. die zulässigen Nutzungsarten aufzählen (z.B. das zit. Urteil C.419/1982 E. 4b: "appartamento quale appartamento") oder Nutzungsarten für unzulässig erklären (z.B. das zit. Urteil 5C.195/2002 E. 2.1.1: "Ne peuvent être exercées dans l'immeuble ..."). Eine positive Umschreibung ergibt sich aus der vorliegenden Gemeinschaftsordnung, wonach die Wohnungen in den drei Obergeschossen Wohnzwecken dienen (E. 4.2 hiervor). Umgekehrt ist damit gesagt, dass eine hotelmässige Bewirtschaftung einzelner Wohnungen in den drei Obergeschossen eine Zweck- und Nutzungsänderung bedeutet, die ohne Zustimmung der übrigen Stockwerkeigentümer unzulässig ist.
5.2.3 Eine Verletzung des Kern- und Wesensgehalts des Stockwerkeigentums erblickt die Beklagte darin, dass ihr die hotelmässige Bewirtschaftung ihrer Wohnungen verboten werden soll. Sie beruft sich auf die Rechtsprechung, dass jedenfalls dort, wo die Zweckbestimmung der in Stockwerkeigentum unterteilten Liegenschaft durch eine von der Nutzungsordnung abweichende Benützung einer Stockwerkeinheit nicht in Frage gestellt wird und wo dadurch auch die gleichmässige Nutzung der gemeinschaftlichen Gebäudeteile wie auch der Gebrauch der zu Sondernutzungsrecht ausgeschiedenen Stockwerkeinheiten nicht gefährdet werden, einem Stockwerkeigentümer eine faktisch zwar neue, in ihrer Wirkung - vor allem bezüglich Immissionen - aber mit dem bisherigen Gebrauch vergleichbare Nutzung zu gestatten ist (vgl. BGE 111 II 330 E. 8 S. 341; Urteil 5C.168/2003 vom 17. Februar 2004 E. 4.2.1, in: ZBGR 85/2004 S. 436). Die Voraussetzung dieser Rechtsprechung erfüllt die hotelmässige Bewirtschaftung in den drei dem Wohnzweck gewidmeten Obergeschossen der Liegenschaft nicht. Es handelt sich bei der Umnutzung von Wohnungen in Hotelzimmer nicht um eine dem Wohnen "vergleichbare Nutzung", sondern um eine Nutzung, die die Zweckbestimmung der gemeinschaftlichen Liegenschaft in Frage stellt. Auf das in E. 5.1 soeben Gesagte kann verwiesen werden.
5.2.4 Schliesslich rügt die Beklagte das Gleichbehandlungsgebot als verletzt, weil ihr die hotelmässige Bewirtschaftung ihrer Wohnungen verboten werde, während andere Stockwerkeigentümer ihre Wohnungen vermieten dürften. Unterscheidungen zwischen Stockwerkeigentümern verstossen indessen erst dann gegen das Gleichbehandlungsgebot, wenn es dafür keinen sachlichen Grund gibt und die nicht gerechtfertigte Ungleichbehandlung ein gewisses erhebliches Mindestmass erreicht (vgl. BGE 131 III 459 E. 5.4.3 S. 465). Die beiden Voraussetzungen sind nicht erfüllt. Zum einen ergibt sich die Zulässigkeit der Vermietung von Wohnungen aus der Gemeinschaftsordnung, während Gleiches für die hotelmässige Bewirtschaftung nicht zutrifft (vgl. E. 4.2.3 hiervor). Zum anderen kann die Vermietung der Wohnungen, selbst die Vermietung als Ferienwohnungen, von einer Hotelnutzung unterschieden werden (vgl. KREUZER, a.a.O., N. 85, und BÄRMANN/PICK, Wohnungseigentumsgesetz, 18. Aufl. 2007, N. 11, je zu § 13 WEG) und ist hier auf Grund der tatsächlichen Feststellungen des Kantonsgerichts zu unterscheiden. Die Vermietung von Wohnungen ist danach die Ausnahme und erfolgt über eine längere Zeitspanne, als in der Regel der Aufenthalt in einem Hotelzimmer dauert (vgl. E. 3 S. 5 des angefochtenen Urteils mit Hinweis auf das Protokoll der Berufungsverhandlung). Wie das Kantonsgericht allerdings zutreffend hervorgehoben hat (E. 4 S. 7), müsste die Zulässigkeit der Vermietung überpüft werden, wenn sie einer hotelmässigen Bewirtschaftung einzelner Wohnungen gleichkäme.
5.3 Insgesamt kann die kantonsgerichtliche Beurteilung nicht beanstandet werden, die Umnutzung von Wohnungen in Hotelzimmer hätte der Zustimmung der Stockwerkeigentümer bedurft. Sie bedeutet hier - im Lichte der Rechtsprechung (E. 5.1 hiervor) - eine Änderung des Zwecks und nicht bloss der Benutzungsweise der Liegenschaft, wie er durch die Gemeinschaftsordnung bestimmt ist. Da die Stockwerkeigentümer der Umnutzung nicht zugestimmt haben, durfte der Beklagten das Bauvorhaben "Umbau Wohnungen zu Hotelzimmern" insoweit untersagt werden.
6. Aus den dargelegten Gründen muss die Beschwerde der Beklagten abgewiesen werden, soweit darauf einzutreten ist. Wie einleitend erwähnt, ist mangels Anfechtung von Seiten der Kläger rechtskräftig entschieden, dass die Beklagte den bereits erfolgten Umbau ihrer Wohnungen, namentlich die Ersetzung der Kochnischen durch Schränke, nicht rückgängig machen muss. Für ihr Beschwerdeverfahren wird die Beklagte kostenpflichtig, hingegen nicht entschädigungspflichtig, da bei den Klägern keine Vernehmlassungen eingeholt wurden (Art. 66 Abs. 1 und Art. 68 Abs. 1 BGG).
7. Mit ihrer Beschwerde wenden sich die Kläger gegen die Verlegung der Gerichtskosten und Parteientschädigungen. Sie beantragen, der Beklagten die vollen Gerichtskosten und die volle Parteientschädigung des kantonalen Verfahrens aufzuerlegen.
7.1 Das erstinstanzliche Verfahren und das Berufungsverfahren wurden vor Inkrafttreten der Schweizerischen Zivilprozessordnung (ZPO, SR 272) am 1. Januar 2011 abgeschlossen, so dass für die Verlegung der Kosten und Entschädigungen die Bestimmungen der kantonalen Zivilprozessordnung vom 25. Oktober 1974 massgebend sind (vgl. Art. 404 f. ZPO). Die Anwendung kantonalen Rechts prüft das Bundesgericht - von hier nicht zutreffenden Ausnahmen abgesehen (Art. 95 lit. c-e BGG) - lediglich auf die Verletzung verfassungsmässiger Rechte, namentlich auf Willkür hin, wenn und soweit entsprechende Rügen erhoben und begründet werden, d.h. klar und detailliert anhand der Erwägungen des angefochtenen Urteils dargelegt wird, inwiefern verfassungsmässige Rechte verletzt sein sollen (Art. 106 Abs. 2 BGG; vgl. BGE 135 III 513 E. 4.3 S. 521 f.; 135 V 94 E. 1 S. 95).
7.2 Ungeachtet der fehlenden Verfassungsrügen erweist sich die Beschwerde aus nachstehenden Gründen als erfolglos:
7.2.1 Nach der Zivilprozessordnung des Kantons Schwyz werden die Gerichtskosten in der Regel der unterliegenden Partei auferlegt und, wenn keine Partei vollständig obsiegt, verhältnismässig verteilt (§ 59 Abs. 2 ZPO/SZ). Jede Partei hat in der Regel den Gegner im gleichen Verhältnis für aussergerichtliche Kosten und Umtriebe, einschliesslich Weisungskosten, zu entschädigen, wie ihr Kosten auferlegt werden (§ 62 Abs. 1 ZPO/SZ). Es gilt damit als Grundsatz das Erfolgsprinzip. Die Frage, welche Partei unterlegen ist, beurteilt sich dabei nach Massgabe des Rechtsbegehrens (vgl. BGE 119 Ia 1 E. 6b S. 2 f.). Im Rahmen des Erfolgsprinzips nicht entscheidend ist, in welchem Sinne über einzelne Angriffs- oder Verteidigungsmittel entschieden wurde (Urteil 5P.270/2005 vom 10. Oktober 2005 E. 3, in: SZZP 2006 S. 51).
7.2.2 Die Kläger haben erst- und zweitinstanzlich das Begehren gestellt, das Baugesuch der Beklagten betreffend "Bauobjekt: Umbau Wohnungen zu Hotelzimmern" abzuweisen resp. der Beklagten die Realisierung dieses Bauprojektes zu untersagen. Während das Bezirksgericht der Beklagten das unter dem Titel "Umbau Wohnungen zu Hotelzimmern" ausgeschriebene Bauvorhaben untersagt hat, ist das Obergericht davon ausgegangen, der Beklagten könne nur die Umnutzung der Wohnungen in Hotelzimmer, hingegen nicht der Umbau untersagt werden. Im Ergebnis haben damit die Kläger ein Verbot des Umbaus und - darin mitenthalten - ein Verbot der Umnutzung der umgebauten Wohnungen begehrt und lediglich das Verbot der Umnutzung der zulässigerweise umgebauten Wohnungen erreicht. Unter Willkürgesichtspunkten kann deshalb die kantonsgerichtliche Annahme nicht beanstandet werden, die Kläger hätten nur teilweise obsiegt und seien teilweise unterlegen. Daran vermag nichts zu ändern, dass die Kläger in der Begründung ihrer Rechtsschriften schwergewichtig mit der verbotenen Umnutzung argumentiert haben und auf die Frage des Umbaus bzw. der Wiederherstellung des ursprünglichen Zustandes nach erfolgtem Umbau nur am Rande eingegangen sein wollen. Ihr Rechtsbegehren ist entscheidend, belegt willkürfrei ein teilweises Unterliegen und rechtfertigt deshalb eine verhältnismässige Verlegung der Gerichtskosten und Parteientschädigungen (Art. 9 BV; vgl. zum Begriff: BGE 133 III 462 E. 4.4.1 S. 470; 135 V 2 E. 1.3 S. 4 f.).
7.2.3 Das Verhältnis der Verlegung der Gerichtskosten und Parteientschädigungen von 1/4 zu Lasten der Kläger und zu 3/4 zu Lasten der Beklagten kann damit begründet werden, dass das Verbot, die umgebauten Wohnungen inskünftig als Hotelzimmer zu nutzen, für die Beklagte wirtschaftlich schwerer wiegt als die Kosten, die angefallen wären, den erfolgten Umbau wieder rückgängig zu machen. Willkür in der kantonsgerichtlichen Ermessensbetätigung ist nicht ersichtlich (Art. 9 BV; vgl. zum Begriff: BGE 109 Ia 107 E. 2c S. 109; 128 III 156 E. 1a S. 157).
7.3 Insgesamt muss die Beschwerde der Kläger abgewiesen werden, soweit darauf einzutreten ist. Die Kläger werden für ihr Verfahren unter solidarischer Haftbarkeit kostenpflichtig (Art. 66 Abs. 1 und 5 BGG), hingegen nicht entschädigungspflichtig, da die Beklagten nicht zur Vernehmlassung eingeladen wurde (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 5A_632/2011 und 5A_648/2011 werden vereinigt.
2. Die Beschwerden werden abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von insgesamt Fr. 8'000.-- werden im Betrag von Fr. 3'000.-- den Klägern unter solidarischer Haftbarkeit und im Betrag von Fr. 5'000.-- der Beklagten auferlegt.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht Schwyz schriftlich mitgeteilt.
Lausanne, 8. November 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: von Roten