Sachverhalt:
A. BX._ und CX._ sind Eigentümer der Parzelle Nr. 781, GB Vitznau. Am 16. Februar 2010 reichten sie ein Baugesuch für die Erstellung eines Einfamilienhauses ein, zogen es indes am 18. Juni 2010 zurück, worauf der Gemeinderat Vitznau das Baubewilligungsverfahren am 23. Juni 2010 als erledigt erklärte.
Am 23. Juni 2010 reichten BX._ und CX._ erneut ein Baugesuch für die Erstellung eines Einfamilienhauses auf ihrer Parzelle ein. Gegen das Bauvorhaben erhob A._, die Eigentümerin der in der Nachbarschaft gelegenen Parzelle Nr. 157, GB Vitznau ist, Einsprache. Mit Entscheid vom 26. Oktober 2010 bewilligte der Gemeinderat Vitznau das Baugesuch unter Bedingungen und Auflagen und erteilte mehrere Ausnahmebewilligungen. Auf die Einsprache von A._ trat er nicht ein, fügte indes an, dass sie im Sinne der Erwägungen hätte abgewiesen werden müssen.
Gegen diesen Entscheid des Gemeinderats Vitznau reichte A._ beim Verwaltungsgericht des Kantons Luzern Beschwerde ein. Mit Urteil vom 5. März 2012 wies dieses die Verwaltungsgerichtsbeschwerde ab, soweit darauf einzutreten war. Es bejahte im Grundsatz die Beschwerdelegitimation von A._, beurteilte das Bauvorhaben unter dem Gesichtswinkel des für das Gebiet gültigen Gestaltungsplans und würdigte die Gefahrenlage im Gebiet Grabacher unter Abweisung des Begehrens um Einholung einer Expertise.
B. A._ hat am 19. April 2012 beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Sie beantragt die Aufhebung des Verwaltungsgerichtsentscheids und des Baubewilligungsentscheids des Gemeinderats Vitznau und verlangt die Verweigerung der erteilten Baubewilligung. Ferner ersucht sie darum, eine Expertise über die Gefahrenlage und über die zu treffenden Sicherheitsvorkehren durchzuführen und hierfür die Sache an die Vorinstanz zurückzuweisen. Sie macht im Wesentlichen geltend, das Verwaltungsgericht habe ihren Anspruch auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV in verschiedener Hinsicht verletzt, es habe das kantonale Recht in willkürlicher und gegen Treu und Glauben verstossender Weise ausgelegt und angewendet und damit Art. 9 BV verletzt und es habe die Gefahrenlage im Bereich Grabacher offensichtlich unhaltbar und willkürlich abgeklärt und die diesbezüglichen Beweisofferten abgewiesen.
Die Beschwerdegegner BX._ und CX._ ersuchen um Abweisung der Beschwerde. Der Gemeinderat Vitznau beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das Verwaltungsgericht hat auf eine Vernehmlassung verzichtet.
Mit ihren zwei separaten Repliken zu den Vernehmlassungen der Beschwerdegegner und des Gemeinderats Vitznau hält die Beschwerdeführerin an ihren Anträgen fest. Der Gemeinderat Vitznau und das Verwaltungsgericht verzichten auf eine Duplik. Die Beschwerdegegner halten an ihren Anträgen um Abweisung der Beschwerde fest.
C. Mit Verfügung vom 24. Mai 2012 ist das Gesuch um Gewährung der aufschiebenden Wirkung abgewiesen worden.
Erwägungen:
1. 1.1 Das angefochtene Urteil des Verwaltungsgerichts ist ein kantonal letztinstanzlicher Entscheid in einer Materie des öffentlichen Rechts, die unter keinen Ausschlussgrund fällt. Die Beschwerde ist rechtzeitig erhoben. Insoweit erweist sich die vorliegende Beschwerde in öffentlich-rechtlichen Angelegenheiten als zulässig (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d und Art. 100 Abs. 1 BGG).
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann laut Art. 95 lit. a BGG die Verletzung von Bundesrecht, einschliesslich von Bundesverfassungsrecht, geltend gemacht werden. Die Rüge der Verletzung von kantonalem Recht wird ausschliesslich anhand des Verfassungsrechts geprüft.
In der Beschwerdeschrift ist gemäss Art. 42 Abs. 2 BGG in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Verletzung von Grundrechten prüft das Bundesgericht nach Art. 106 Abs. 2 BGG nur, soweit solche Rügen präzis vorgebracht und begründet werden. Ob diese Anforderungen erfüllt sind, wird im entsprechenden Sachzusammenhang zu prüfen sein.
1.2 Näher zu prüfen ist die Frage, ob die Beschwerdeführerin im Sinne von Art. 89 Abs. 1 BGG zur Beschwerde legitimiert ist. Die Beschwerdegegner bestreiten deren Beschwerdelegitimation.
Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht ist gemäss Art. 89 Abs. 1 BGG berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (lit. c). Verlangt ist neben der formellen Beschwer, dass die beschwerdeführende Partei über eine spezifische Beziehungsnähe zur Streitsache verfügt und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht. Die Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein. Diese bestimmt sich nicht nach abstrakt bestimmten Distanzwerten. Sie wird im Allgemeinen anerkannt, wenn das Baugrundstück an dasjenige des Einsprechers angrenzt oder nur durch einen Verkehrsträger davon getrennt ist. Ein schutzwürdiges Interesse liegt vor, wenn die tatsächliche oder rechtliche Situation der Partei durch den Ausgang des Verfahrens beeinflusst werden kann. Das Anfechtungsinteresse braucht nicht mit dem Interesse übereinzustimmen, das durch die von der beschwerdeführenden Partei als verletzt bezeichneten Normen geschützt wird. Der Nachbar kann mithin die Überprüfung eines Bauvorhabens im Lichte all jener Rechtssätze verlangen, die sich rechtlich oder tatsächlich in dem Sinne auf seine Stellung auswirken, dass ihm im Falle des Obsiegens ein praktischer Nutzen entsteht. Nicht zulässig ist hingegen das Vorbringen von Beschwerdegründen, mit denen einzig ein allgemeines öffentliches Interesse an der richtigen Anwendung des Rechts verfolgt wird, ohne dass dem Rechtssuchenden im Falle des Obsiegens ein Vorteil entsteht (BGE 137 II 30 E. 2.2.2 und 2.2.3 S. 33; Urteil 1C_236/2010 vom 16. Juli 2010 E. 1, ZBl 112/2011 S. 608; vgl. dazu Arnold Marti, ZBl 112/2011 S. 604 ff.). Aufgrund von Art. 111 BGG ist die Legitimation in kantonalen Verfahren zumindest im Ausmass der für das bundesgerichtliche Verfahren massgeblichen Beschwerdebefugnis zu gewähren. Unabhängig davon ist eine Partei zur Beschwerde legitimiert, soweit die Verletzung von Parteirechten gerügt wird, deren Missachtung auf eine formelle Rechtsverweigerung hinausläuft (BGE 136 II 383 E. 3 S. 388).
Im vorliegenden Fall ist davon auszugehen, dass das Baugrundstück Nr. 781 der Beschwerdegegner weniger als 100 m von der Parzelle Nr. 157 der Beschwerdeführerin entfernt liegt. Es liegen dazwischen zwei weitere (noch) unüberbaute Parzellen sowie die Hauptstrasse (Seestrasse). Es besteht somit eine gewisse räumliche Beziehung. Diese ist allerdings wenig ausgeprägt, weil zu beachten ist, dass die Liegenschaft der Beschwerdeführerin in erster Linie gegen den See und weniger gegen das Gebiet Grabacher ausgerichtet ist. Die Beschwerdeführerin unterlässt es, ihre Sichtverbindung von den einzelnen Räumlichkeiten mit einer Planskizze zu belegen. Insoweit erscheint es fraglich, ob die Aus- und Durchsicht der Beschwerdeführerin massgeblich beeinträchtigt wird und ob sie durch das Bauvorhaben besonders berührt ist und ein schutzwürdiges Interesse gemäss Art. 89 Abs. 1 lit. b und c BGG hat. Von Bedeutung sind indes zwei andere Gesichtspunkte.
Zum einen bestreitet die Beschwerdeführerin die Vereinbarkeit des Bauvorhabens mit dem Gestaltungsplan Grabacher. Sie macht insbesondere geltend, das Projekt verhindere die im Gestaltungsplan vorgesehene Überbauung mit lediglich zwei Bauten. Die umstrittene Baubewilligung habe zur Folge, dass eine Baute auf der dazwischen liegenden Parzelle Nr. 780 näher an ihre eigene heranrücke, als dies vom Gestaltungsplan vorgesehen ist. Die südliche Grenze dieser Parzelle sei lediglich 35 m von ihrer eigenen entfernt. Vor diesem Hintergrund bejahte das Verwaltungsgericht die Legitimation der Beschwerdeführerin. Was die Beschwerdegegner dagegen einwenden, vermag nicht zu überzeugen. Entgegen ihrer Auffassung wird nicht auf einen abstrakt bestimmten Distanzwert abgestellt, sondern auf die konkreten Verhältnisse. Der praktische Nutzen eines allfälligen Obsiegens der Beschwerdeführerin liegt darin, dass bei Vollendung des Gestaltungsplans Grabacher nach dem Verständnis der Beschwerdeführerin die Überbauung einen grösseren Abstand zu ihrer eigenen Liegenschaft einhalten würde. In Anbetracht der konkreten Verhältnisse genügt dies zur Bejahung der Legitimation im bundesgerichtlichen Verfahren.
Zum andern beruft sich die Beschwerdeführerin auf die Gefahrenlage im Gebiet Grabacher im Allgemeinen und hinsichtlich der Parzelle Nr. 781 der Beschwerdegegner im Besondern. Das Verwaltungsgericht erwähnt das Gutachten der Keller+Lorenz AG vom 31. Januar 2011, wonach hier Spontanrutschungen möglich sind und sich daraus Hangmuren bilden können. Eine gewisse Gefahrenlage kann daher nicht in Zweifel gezogen werden. Soweit die Beschwerdeführerin geltend macht, bei dieser Sachlage seien zusätzliche Abklärungen zu treffen bzw. zusätzliche Massnahmen zum Schutz und zur Sicherung vorzunehmen, spricht sie zwar durchaus öffentliche Interessen an. Sie kann indes für sich einen praktischen Nutzen erzielen, wenn wegen der Gefährdungslage überhaupt nicht oder allenfalls in anderer Weise gebaut würde. Die richtige Einschätzung der Gefahrenlage ist eine wesentliche Voraussetzung für die Erteilung einer Baubewilligung. Es verhält sich dabei nicht wesentlich anders als im Falle, dass ein Nachbar eine unzureichende Erschliessung der Bauparzelle beanstandet (Urteil 1C_236/2010 vom 16. Juli 2010 E. 1.5, ZBl 112/2011 S. 608; vgl. Marti, a.a.O., S. 606 f.). Entgegen der Auffassung der Beschwerdegegner ist bei dieser Sichtweise nicht massgebend, dass die Gefahrenlage für die Beschwerdeführerin durch eine Verweigerung der Baubewilligung nicht verändert würde. Demnach ist die Legitimation der Beschwerdeführerin auch in dieser Hinsicht zu bejahen.
1.3 Das Verwaltungsgericht hat am Ende der E. 1b/cc ausgeführt, die Beschwerdeführerin sei auch mit der Rüge hinsichtlich der Gefahrenlage der gegnerischen Parzelle zuzulassen; auch diese Rüge sei indes nur insoweit zu behandeln, als ihr im Falle derer Gutheissung ein praktischer Nutzen entsteht. Daraus könnte der Schluss gezogen werden, das Verwaltungsgericht habe die bei ihm eingelegte Beschwerde in gewissen Punkten nicht behandelt und dadurch möglicherweise eine formelle Rechtsverweigerung begangen. Die Beschwerdeführerin rügt, das Verwaltungsgericht habe in dieser Hinsicht keine Begründung abgegeben. Sie unterlässt es indes, im Einzelnen darzulegen, dass und inwiefern das Verwaltungsgericht auf einzelne ihrer Rügen nicht eingegangen sei bzw. für welche Rügen es keine Begründung abgegeben habe. Solche sind denn auch nicht ersichtlich. Mangels hinreichender Substantiierung kann in diesem Punkt auf die Beschwerde nicht eingetreten werden.
2. Die Beschwerdeführerin rügt in formeller Hinsicht Verletzungen des rechtlichen Gehörs im Sinne von Art. 29 Ab. 2 BV. Sie macht geltend, das angefochtene Urteil genüge den verfassungsrechtlichen Begründungsanforderungen nicht und das Verwaltungsgericht habe ihr Begehren um Einholung einer (weitern) Expertise in verfassungswidriger Weise abgelehnt.
2.1 Das rechtliche Gehör nach Art. 29 Abs. 2 BV verlangt, dass die Behörde die Vorbringen des vom Entscheid in seiner Rechtsstellung Betroffenen auch tatsächlich hört, prüft und in der Entscheidfindung berücksichtigt. Daraus folgt die Verpflichtung der Behörde, ihren Entscheid zu begründen. Dabei ist es nicht erforderlich, dass sie sich mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich der Betroffene über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (BGE 136 I 229 E. 5.2 S. 236 mit Hinweisen).
Die Beschwerdeführerin rügt in allgemeiner Weise, die Begründung im angefochtenen Entscheid sei fehler- und mangelhaft (Beschwerdeschrift S. 11 f.). Sie bezieht sich im Einzelnen auf die Ausführungen des Verwaltungsgerichts zur Verbindlichkeit der einzelnen Teile der Sonderbauvorschriften und zu dessen Auffassung, dass die eingezeichneten Baubereiche für das in Frage stehende Gebiet C des Gestaltungsplans nicht verbindlich seien. Inwiefern der angefochtene Entscheid in diesem Punkt ungenügend begründet sein sollte, ist nicht ersichtlich. Es ergibt sich daraus mit genügender Klarheit, dass das Verwaltungsgericht sich eines Umkehrschlusses bediente und auf den Vermerk der "möglichen Anordnung" im Gestaltungsplan abstellte. Der blosse Umstand, dass die Beschwerdeführerin der Auffassung des Verwaltungsgerichts nicht zu folgen vermag, bedeutet keineswegs, dass das vorinstanzliche Urteil unzureichend begründet ist. Es zeigt sich denn auch, dass die Beschwerdeführerin das verwaltungsgerichtliche Urteil durchaus sachgerecht anzufechten vermochte. Die Rüge der Verletzung von Art. 29 Abs. 2 BV erweist sich als offensichtlich unbegründet.
Ferner nimmt die Beschwerdeführerin unter dem Gesichtswinkel der Begründungspflicht Bezug auf den Anspruch auf Beweisabnahme und macht geltend, die Behörden hätten ihren Entscheid zu begründen (Beschwerdeschrift S. 32). Dieser nicht substantiierten Rüge kommt keine selbstständige Bedeutung zu.
2.2 Zum Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV gehört auch das Recht auf Abnahme von rechtzeitig und formrichtig angebotenen rechtserheblichen Beweismitteln. Die Verfassungsgarantie steht einer vorweggenommenen Beweiswürdigung indes nicht entgegen. Das Gericht kann das Beweisverfahren schliessen und auf die Abnahme von (weitern) Beweisen verzichten, wenn die Beweisanträge eine nicht erhebliche Tatsache betreffen bzw. offensichtlich untauglich sind oder wenn es aufgrund abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür annehmen kann, dass seine Auffassung durch weitere Beweiserhebungen nicht geändert würde. Das Bundesgericht greift auf Beschwerde nur ein, wenn die Beweiswürdigung offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, auf einem offenkundigen Versehen beruht oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 134 I 140 E. 5. 3 S. 148; 131 I 153 E. 3 S. 157; 124 I 208 E. 4a S. 211).
Das Verwaltungsgericht hält im angefochtenen Urteil fest, dass die Gefahrensituation im Gebiet Grabacher im Zuge der Teilrevision des Zonenplans (Teilzonenplan Grabacher) und des Gestaltungsplanverfahrens beurteilt wurde. Es liegen dazu ein Planungsbericht der Planteam AG vom 10. April 2008 vor, ferner eine Stellungnahme der Geotest AG vom 30. Oktober 2007, wonach die Gefahrenkarte von 2004 überprüft worden sei, für das Gebiet Grabacher keine Anpassungen vorgenommen werden müssten und die Gefährdung der Baugebiete auf der damaligen Parzelle Nr. 230 durch Rutschprozesse und Sturzprozesse von schwacher Intensität sei und durch geeignete bauliche Massnahmen eliminiert werden könnten. Es resultierte daraus die Bestimmung von Art. 37 Abs. 3 BZR, wonach die baulichen Massnahmen gegen Naturgefahren (Rutschungen und Steinschlag gemäss Gefahrenkarten) im Gestaltungsplangebiet Grabacher festzulegen seien. Die Sonderbauvorschriften des Gestaltungsplan Grabacher enthalten nun unter Ziff. 6 ausführliche Bestimmungen zu den Naturgefahren. Im Auftrag der Beschwerdegegner hat die Keller+Lorenz AG am 31. Januar 2011 ein Gutachten erstellt und die Situation im Gebiet Grabacher und speziell für den Bereich der Parzelle Nr. 781 beurteilt. Die Beschwerdeführerin beauftragte darauf hin Dr. Klaus Louis mit einer fachlichen Stellungnahme (Louis Ingenieurgeologie GmbH, Vorhandene Naturgefahren-Beurteilungen, 5. April 2011). In der Folge hat die Keller+Lorenz AG ihre Beurteilung am 10. Juni 2011 ergänzt. Sie kommt zum Schluss, dass der Gutachter Louis sich vor allem auf Gebiete ausserhalb der streitbetroffenen Parzelle Nr. 781 beziehe, zum eigentlichen Gefährdungsbild für die Parzelle nicht Stellung nehme und die neuesten massgeblichen Gefahrenkarten nicht (hinreichend) berücksichtige.
Es zeigt sich vor diesem Hintergrund, dass bereits eine ganze Reihe von fachtechnischen Unterlagen zur Gefahrenlage im Gebiet Grabacher vorliegen. Zum Teil dienten diese als Grundlage für den Erlass des Gestaltungsplans Grabacher, mit dem eine Nutzungsplanänderung mit einer Ein-, Um- und Auszonung einherging. Aus diesen Unterlagen ergeben sich im betroffenen Gebiet Grabacher gewisse Naturgefahren, die indes für die ursprüngliche Parzelle Nr. 230 als gering eingestuft werden und mit geeigneten baulichen Massnahmen sollen eliminiert werden können. Im Rahmen des vorliegenden Verfahrens sind weitere fachtechnische Stellungnahmen mit spezifischem Bezug zur streitbetroffenen Parzelle Nr. 781 eingeholt worden, namentlich die Berichte der Keller+Lorenz AG und die Stellungnahme von Dr. Klaus Louis. Letztere weisen gewisse Differenzen auf. Dieser Umstand bedeutet indes nicht, dass als Beweismassnahme eine weitere Expertise erforderlich ist. Es zeigt sich zum einen, dass der Zusatzbericht der Keller+Lorenz AG zur Kritik von Dr. Klaus Louis im Einzelnen Stellung nimmt. Zum andern stützt er sich auf die neuesten Erkenntnisse, nämlich die Gefahrenkarte Sturz und Rutsch, die im Entwurf vorliegt und die anlässlich einer Besprechung mit den massgeblichen Amtsstellen ohne Einwände soll Zustimmung gefunden haben. Bei dieser Sachlage durfte das Verwaltungsgericht ohne Verletzung des Willkürverbots davon ausgehen, die Gefahrenlage hinreichend beurteilen und demnach von zusätzlichen Beweismassnahmen absehen zu können. Die Beschwerdeführerin vermag nicht darzutun, dass das Verwaltungsgericht bei seiner Würdigung in Willkür verfallen sei. Aufgrund der Beschwerdeschrift ist nicht ersichtlich, dass massgebliche Gesichtspunkte in unhaltbarer Weise unberücksichtigt geblieben seien. Es kann dem Verwaltungsgericht auch nicht vorgeworfen werden, das Gebiet Husen, das keinen direkten Zusammenhang mit dem Bauprojekt aufweist, nicht näher geprüft zu haben.
Es ergibt sich gesamthaft, dass das Verwaltungsgericht das Beweisbegehren ohne Willkür ablehnen durfte und damit Art. 29 Abs. 2 BV nicht verletzt hat.
2.3 Die Beschwerdeführerin ersucht auch im bundesgerichtlichen Verfahren um Durchführung einer Expertise. In Anbetracht der vorstehenden Erwägungen sowie der nach Art. 97 Abs. 1 BGG beschränkten Sachverhaltsprüfung ist das Begehren abzuweisen.
3. In materieller Hinsicht macht die Beschwerdeführerin zur Hauptsache geltend, das Bauvorhaben der Beschwerdegegner stehe mit dem Gestaltungsplan Grabacher im Widerspruch. Insbesondere respektiere es die im Gestaltungsplan für den Bereich C eingezeichneten beiden Baukuben nicht und habe längerfristig zur Folge, dass anstelle von zwei Gebäuden deren vier erstellt würden. Dies stehe im Widerspruch mit der Zielsetzung des Gestaltungsplans, eine Überbauung in ein topographisch schwieriges und landschaftlich heikles Gebiet nachhaltig einzufügen. Die Auslegung des Gestaltungsplans und der dazugehörigen Sonderbauvorschriften durch das Verwaltungsgericht vermöge vor dem Willkürverbot nicht standzuhalten. Insbesondere sei es unhaltbar, verschiedenen Anordnungen im Gestaltungsplan und in den Sonderbauvorschriften lediglich unverbindlichen Charakter zuzuschreiben.
3.1 Für das fragliche Gebiet Grabacher erliess die Gemeinde Vitznau einen Gestaltungsplan, der mit Entscheid des Gemeinderats vom 3. Februar 2009 genehmigt worden ist. Gestaltungspläne bezwecken nach § 72 des Planungs- und Baugesetzes des Kantons Luzern (PBG, Gesetzessammlung Nr. 735) siedlungsgerechte, architektonisch und erschliessungsmässig gute, der baulichen und landschaftlichen Umgebung angepasste Überbauungen eines zusammenhängendes Gebiets; bei Wohnüberbauungen ist den Erfordernissen der Wohnhygiene und der Wohnqualität in besonderem Mass Rechnung zu tragen. Das fragliche Gebiet ist unterteilt in drei Bauzonen-Bereiche. Der Bereich C mit der Ausnützung W2 B umfasste ursprünglich die Parzelle Nr. 230. Diese Parzelle ist später unterteilt worden in das Grundstück Nr. 781 der Beschwerdegegner und zwei weitere Parzellen mit den Nr. 780 und 782.
Der Gestaltungsplan Grabacher umfasst im Wesentlichen den eigentlichen Plan 1:500 und die Sonderbauvorschriften. Im Plan ist für den Bereich C ein Baubereich Hochbauten eingetragen. Innerhalb dieses Baubereiches sind zwei längsgezogene Häuser eingezeichnet, die eine Vorstellung einer möglichen Überbauung abgeben. Der Plan enthält zwei Legenden: Unter dem Titel Genehmigungsinhalte stehen der Bereich Hochbauten, Bauzonen, Planungswerte gemäss LSV, Erschliessung und Gefahrenzonen; Unter dem Titel orientierender Inhalt stehen Parzellennummern, mögliche Anordnung von Bauten im lärmvorbelasteten Gebiet, Strassenbaulinie Kantonsstrasse, Bepflanzung und Ähnliches. Die dazugehörigen Sonderbauvorschriften enthalten einleitende Bestimmungen, Bau- und Nutzungsbestimmungen und Vorschriften zu den Umgebungsflächen, Erschliessung, Lärmschutz und Naturgefahren. Im Einzelnen enthalten die Sonderbauvorschriften u.a. die folgenden Bestimmungen:
1.1 Zweck
Der "Gestaltungsplan Grabacher" bezweckt die Realisierung einer gesamtheitlichen Wohnüberbauung mit Ein- und Doppelfamilienhäusern, die sich nachhaltig in die topographisch schwierige Landschaft einfügen.
1.2 - Bestandteil
Der "Gestaltungsplan Grabacher" besteht aus:
- Gestaltungsplan Situation 1:500 mit Ergänzung ...
- Sonderbauvorschriften vom 17.04.08 mit Ergänzungen ...
1.3 Orientierende Unterlagen sind:
- Planungsbericht vom 17.04.08 mit Ergänzungen ...
- Richtprojekt dargestellt in Situation und Schnitten 1:500 vom 23.09.08
- Modell 1:500 vom 23.09.08
1.4 Verhältnis zur Grundordnung
Soweit der "Gestaltungsplan Grabacher" nichts anderes bestimmt, gelten das Bau- und Zonenreglement der Gemeinde Vitznau sowie die übergeordneten Bestimmungen.
1.5 Baubereiche
1 In den Baubereichen sind nur freistehende Einfamilienhäuser mit Einliegerwohnungen (Gästehäuser) und Doppeleinfamilienhäuser zulässig.
2.4 Anordnung der Gebäude
Im Baubereich A sind die Anordnungen der Gebäudevolumen dargestellt im Richtprojekt sinngemäss verbindlich.
2.6 Gestaffelte Bauten
3 Die maximal in Erscheinung tretende Fassadenlänge von einzelnen, gestaffelten Gebäudeteilen beträgt senkrecht zum Hang 20 m. Senkret zum Hang müssen die gestaffelten Gebäudeteile min. 5 m versetzt werden.
4 Die maximale Gebäudelänge bei gestaffelten Bauten beträgt senkrecht zum Hang 25 m.
Naturgefahren
6.1 Allgemein
1 Gefährdete Gebiete gemäss § 146 PBG sind in einer kommunalen Gefahrenkarte vermerkt. ...
5 Bei Neubauten und baulichen Veränderungen ...sind folgende Grundsätze zu beachten: Die einwirkenden Gefahrenprozesse dürfen nicht in die Gebäude eindringen können. ...
6 Bauten und Anlagen sind so zu erstellen, dass die Risiken durch eine optimale Standortwahl, die konzeptionelle Gestaltung sowie geeignete bauliche Massnahmen, unter Wahrung der Verhältnismässigkeit, minimiert werden können.
7 Innerhalb der Gefahrenzone hat der Gemeinderat die vorgesehenen Schutzmassnahmen im Baubewilligungsverfahren zu überprüfen und allfällig notwendige Auflagen zu machen. ...
8 Die zum Schutz gegen Naturgefahren vorgesehenen Massnahmen sind im Baugesuch darzustellen und zu begründen.
9 Mit dem Baugesuch sind die Massnahmen zum Schutz gegen Naturgefahren darzulegen und zu begründen ...
6.2 Sturzprozesse/Bestimmungen
2 Bei Neubauten und baulichen Veränderungen ... sind folgende Massnahmen zu berücksichtigen:
_ Die durch Sturzprozesse gefährdeten Fassaden dürfen bis auf eine Höhe von 1,0 m über Terrain keine ungeschützten Öffnungen aufweisen und müssen die angezeigte Prozessintensität abwehren können. ...
6.3 Rutschprozesse/Bestimmungen
2 Bei Neubauten und baulichen Veränderungen ... dürfen bei den durch Rutschungen/Murgängen gefährdeten Fassaden bis auf 1,0 m keine ungeschützten Öffnungen angebracht werden.
3.2 Die Beschwerdeführerin macht geltend, der Gestaltungsplan diene mit den eingezeichneten Baukuben dem Zweck, die Überbauung nachhaltig in die schwierige Landschaft einzufügen. Deshalb komme diesen Plananordnungen verbindlicher Charakter zu. Das zum Gestaltungsplan ausgearbeitete Modell 1:500 gehe ebenfalls von dieser Anordnung aus, weshalb sie sich darauf habe verlassen können.
Das Verwaltungsgericht ist vom Gestaltungsplan 1:500 ausgegangen. Dieser unterscheidet in der Legende klar zwischen einem Genehmigungsinhalt und einem orientierenden Inhalt. Es leuchtet ohne weiteres ein, die Angaben im Genehmigungsinhalt als verbindliche Anordnungen zu betrachten, die Angaben im orientierenden Inhalt demgegenüber als bloss orientierend und somit nicht verbindlich zu betrachten. Zum orientierenden Inhalt gehören namentlich die Angaben über die Lage und Grösse der Bauvolumen, die in der Legende als "mögliche Anordnung von Bauten im lärmvorbelasteten Gebiet" bezeichnet werden. Der Hinweis auf die "mögliche Anordnung" unterstreicht, dass damit nicht etwas Verbindliches gemeint ist. Bereits unter diesem Gesichtswinkel kann dem Verwaltungsgericht nicht eine willkürliche Auslegung und Anwendung des Planinhalts vorgehalten werden. Darüber hinaus lassen die Sonderbauvorschriften keine Zweifel zur Verbindlichkeit bzw. zum Orientierungscharakter einzelner Planinhalte übrig. Unter Ziff. 1.2 wird unterschieden zwischen dem Inhalt des Gestaltungsplans einerseits und den orientierenden Unterlagen anderseits. Zu letzteren zählt ausdrücklich das Modell 1:500 vom 23. September 2009, das nach den Angaben der Beschwerdeführerin im fraglichen Bereich lediglich zwei Baukuben darstellt. Angesichts des bloss orientierenden Charakters dieses Modells kann sich die Beschwerdeführerin von vornherein nicht auf Vertrauensschutz berufen. Daran vermag nichts zu ändern, dass dieses Modell dem Richtprojekt gemäss § 76 PBG zugrunde lag. Dem Genehmigungsentscheid des Gemeinderats ist unter Ziff. I-5.11 selber zu entnehmen, dass das Modell einen orientierenden Hinweis bildet. Schliesslich hat sich das Verwaltungsgericht auf Ziff. 2.4 der Sonderbauvorschriften über die Anordnung der Gebäude bezogen. Hier ist davon die Rede, dass im Baubereich A die Anordnungen über die Gebäudevolumen sinngemäss verbindlich seien. Was unter einer sinngemässen Verbindlichkeit zu verstehen ist, brauchte das Verwaltungsgericht nicht zu vertiefen. Es konnte daraus ohne Willkür schliessen, dass die Anordnungen über die Gebäudevolumen im hier interessierenden Baubereich C nicht verbindlich seien. Weshalb dieser Umkehrschluss gemäss der Beschwerdeführerin als schlicht nicht haltbar erscheinen soll, ist nicht nachvollziehbar.
Aus diesen Überlegungen ergibt sich, dass dem Verwaltungsgericht keine Willkür vorgeworfen werden kann, wenn es die Gebäudeangaben im Gestaltungsplan als nicht verbindlich bezeichnet hat. Daran vermögen auch die weitern Einwände der Beschwerdeführerin nicht aufzukommen.
Zum einen bezweckt der Gestaltungsplan eine Überbauung in ein topographisch schwieriges und landschaftlich heikles Gebiet nachhaltig einzufügen; es sind nur freistehende Einfamilienhäuser mit Einliegerwohnung (Gästehäuser) und Doppeleinfamilienhäuser zulässig (Sonderbauvorschriften Ziff. 1.1 und 2.2-1). Für die Realisierung dieser Zielsetzung fällt entgegen der Auffassung der Beschwerdeführerin nicht nur eine Überbauung entsprechend den eingezeichneten Baukuben in Betracht. Es kann mit haltbaren Gründen angenommen werden, dass dem geforderten nachhaltigen Einfügen der Überbauung in erster Linie durch das Einhalten der verbindlichen Baubereiche Nachachtung verschaffen wird. Die Beschwerdeführerin vermag nicht darzulegen, dass dieses Ziel mit einer Überbauung im fraglichen Bereich mit vier Häusern anstelle von bloss zwei Baukuben klar verfehlt würde. Es kann daher nicht gesagt werden, die umstrittene Baubewilligung führe zu Abweichungen vom Gestaltungsplan und den Sonderbauvorschriften nach Belieben, wie die Beschwerdeführerin geltend macht.
Im Übrigen vermag die Beschwerdeführerin nicht darzutun, dass das geplante Einfamilienhaus der Beschwerdegegner mit der Sonderbauvorschrift von Ziff. 2.2-1 in einem unhaltbaren Widerspruch stehe. Nach der genannten Bestimmung sind im entsprechenden Bereich Einfamilienhäuser mit Einliegerwohnungen (Gästehäuser) und Doppeleinfamilienhäuser zulässig. Sie braucht nicht zwingend so verstanden zu werden, dass - neben Doppeleinfamilienhäusern - nur Einfamilienhäuser mit einer Einliegerwohnung zulässig wären. Da sich Einfamilienhäuser mit oder ohne Einliegerwohnung von ihrer Grösse und Erscheinung her nicht wesentlich zu unterscheiden brauchen, kann ohne Willkür angenommen werden, dass das geplante Einfamilienhaus der Beschwerdegegner mit den Sonderbauvorschriften im Einklang steht. Der Baubewilligungsentscheid erweist sich auch in dieser Hinsicht nicht geradezu als unhaltbar.
Zum andern steht dem angefochtenen Entscheid auch der Genehmigungsentscheid des Gemeinderats nicht entgegen. Nach dessen Ziff. III-1 wird der Gestaltungsplan im Sinne der Erwägungen genehmigt; der Planungsbericht und das Modell werden orientierend zur Kenntnis genommen. Es ist nicht ersichtlich, dass dieser Genehmigungsentscheid an der dargelegten verbindlichen bzw. orientierenden Natur der Planinhalte etwas ändern würde. Er legt vielmehr abschliessend fest, was im Gestaltungsplan vorgesehen ist.
3.3 Gesamthaft ergibt sich, dass das Verwaltungsgericht mit dem angefochtenen Urteil nicht gegen das Willkürverbot nach Art. 9 BV verstossen hat, indem es die Lage des umstrittenen Bauvorhabens mit dem Gestaltungsplan Grabacher vereinbar erklärte. Insoweit erweist sich die Beschwerde als unbegründet.
4. Des Weitern verweist die Beschwerdeführerin auf die Gefährdungslage des Gebiets Grabacher im Allgemeinen und der streitbetroffenen Parzelle im Speziellen. Sie bringt vor, die konkrete Gefährdungssituation erfordere entsprechende Sicherungsvorkehren. Solche seien mit dem Baugesuch und mit dem Nachweis ihres Genügens vorzutragen. Im Baubewilligungsverfahren seien Sicherungsvorkehren weder geprüft noch angeordnet worden. Der Gemeinderat sei in zweierlei Hinsicht seiner Verpflichtung als Baubewilligungsbehörde nicht nachgekommen: er habe die einschlägigen Sonderbauvorschriften zum Gestaltungsplan nicht umgesetzt; und er habe es unterlassen, zu prüfen, welche Schutzmassnahmen allenfalls gestützt auf die Überarbeitung der Gefahrenkarte erforderlich seien, und diese gegebenenfalls anzuordnen.
4.1 Es kann von der Einschätzung der Gefahrensituation im Jahre 2004 ausgegangen werden, wie die sie die Firma Geotest vorgenommen hatte. Die Gefahrenkarte Vitznau wurde nach den Unwettern von 2005 überprüft. Gemäss dem Bericht der Geotest vom 30. Oktober 2007 mussten keine Anpassungen an die Gefahrenkarte vorgenommen werden. Danach zeigt sich für das Gebiet Grabacher, dass keine Gefahr durch Wasserprozesse bestehe, dass das Gebiet im Bereiche der damaligen Parzelle Nr. 230 durch Rutschungsprozesse und randlich durch Sturzprozesse von schwacher Intensität gefährdet sei und dass diese Gefährdung mit geeigneten baulichen Massnahmen eliminiert werden können. Diese Einschätzung bildete die Grundlage für die Erstellung des Gestaltungsplans Grabacher. Der Regierungsrat hielt in seinem Genehmigungsentscheid vom 9. April 2009 fest, dass die erforderlichen Abklärungen erfolgt seien, Teile des Gebiets Grabacher in geringem Grad bedroht seien und die entsprechenden Massnahmen im Rahmen des Gestaltungsplanverfahrens festgelegt seien. Die Sonderbauvorschriften sehen denn auch vor, dass zur Vermeidung von entsprechenden Gefahren die gefährdeten Fassaden bis auf eine Höhe von 1,0 m über Terrain keine ungeschützten Öffnungen aufweisen dürfen und die angezeigte Prozessintensität abwehren können müssen.
Das Verwaltungsgericht durfte ohne Willkür auf diese Einschätzung der Gefahrensituation abstellen. Bei dieser Sachlage kann ihm nicht vorgeworfen werden, die Überbaubarkeit der streitbetroffenen Parzelle mit geradezu unhaltbaren Gründen bejaht zu haben. Es konnte sich dabei auf § 146 PBG stützen, wonach Bauten und Anlagen in gefährdeten Gebieten erstellt werden dürfen, wenn hinreichende Sicherungsmassnahmen getroffen werden. Schliesslich ist nicht zu beanstanden, wenn das Verwaltungsgericht der Beschwerdeführerin entgegenhält, dass sie die grundsätzliche Überbaubarkeit des Gebiets im Rahmen des Zonen- und Gestaltungsplanverfahrens hätte in Frage stellen müssen.
4.2 Die Beschwerdeführerin wirft dem Gemeinderat vor, die Gefährdungslage der gegnerischen Bauparzelle nicht geprüft und dementsprechend keine Schutzmassnahmen angeordnet zu haben. Soweit das Verwaltungsgericht dieses Vorgehen geschützt habe, sei es in Willkür verfallen.
In der Baubewilligung vom 26. Oktober 2010 für das Bauvorhaben der Beschwerdegegner verwies der Gemeinderat in Ziff. 14 auf die Sonderbauvorschriften und führte aus, dass das Baugesuch die geforderten Schutzmassnahmen gemäss Gestaltungsplan umsetze. Entgegen der Auffassung der Beschwerdeführerin kann daraus ohne Willkür geschlossen werden, dass der Gemeinderat die erforderlichen Sicherheitsmassnahmen anhand der anwendbaren Bestimmungen tatsächlich prüfte. So zeigt sich denn, dass die bergseitige Fassade des Projekts bis auf eine Höhe von 1,0 m über dem Terrain keine Fensteröffnung aufweist und damit den Bestimmungen von Ziff. 6 der Sonderbauvorschriften über die Naturgefahren genügen dürfte. Zudem soll das Bauobjekt gegenüber der bergseitigen Strasse erhöht werden, wie das Verwaltungsgericht ausführt. Allerdings weist diese Fassade zwei Türen auf. Der Gemeinderat hat dazu in seiner Vernehmlassung ausgeführt, die Bauherrschaft habe den Nachweis erbracht, dass die beiden Türöffnungen so ausgeführt und geschützt würden, dass ein Eindringen von Erdmaterialien verhindert wird. Bei dieser Sachlage erweist sich die Rüge als unbegründet, es sei eine Prüfung der Sicherheitsaspekte in willkürlicher Missachtung der einschlägigen baurechtlichen Bestimmungen unterlassen worden. Dass die Prüfung nicht im Sinne der Beschwerdeführerin ausgefallen ist, belegt keine Verletzung des Willkürverbots.
Aufgrund der vorliegenden Expertenberichten und der vorstehenden Erwägungen durfte das Verwaltungsgericht ohne Willkür davon absehen, über die von den Sonderbauvorschriften vorgesehenen Massnahmen weitere zusätzliche Sicherheitsmassnahmen anzuordnen.
Der Gemeinderat hielt in der Baubewilligung unter Ziff. 14 ferner fest, dass das Büro Keller+Lorenz AG beauftragt worden war, die Gefahrenkarte der Gemeinde Vitznau zu überprüfen und dem aktuellen Stand anzupassen. Dem fügte er an: "Die allenfalls erforderlichen baulichen Massnahmen auf GS Nr. 781 gegen Naturgefahren und deren Schutzmassnahmen aus der Überarbeitung der Gefahrenkarte gehen zu Lasten der Bauherrschaft." Die Beschwerdeführerin erblickt in dieser Anordnung lediglich den Vorbehalt, dass allfällig erforderliche zusätzliche bauliche Massnahmen in finanzieller Hinsicht von den Beschwerdegegnern zu tragen wären. Sie bemängelt, dass entsprechende Massnahmen nicht konkret angeordnet worden sind. Sie übersieht dabei, dass, wie dargetan, mit haltbaren Gründen angenommen werden kann, dass zurzeit über die vorgenommenen Sicherheitsmassnahmen hinaus keine weitern Anordnungen erforderlich sind. Weiter durfte das Verwaltungsgericht ohne Willkür erwägen, dass der Gemeinderat im Sinne von Ziff. 14 der Baubewilligung von der Bauherrschaft weitere Schutzmassnahmen fordern könne, sollte sich im weitern Prozess der Überarbeitung der Gefahrenkarte die Notwendigkeit für solche ergeben. Was die Beschwerdeführerin dagegen einwendet, vermag den Vorwurf der Willkür nicht zu belegen.
4.3 Die Beschwerde erweist sich daher auch in diesen Punkten als unbegründet.
5. Demnach ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten der Beschwerdeführerin aufzuerlegen (Art. 66 Abs. 1 BGG). Sie hat die Beschwerdegegner für das Verfahren vor Bundesgericht zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Vitznau und dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 18. Januar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Steinmann