Sachverhalt:
A. X._ und Y._ ersuchten den Gemeinderat Stansstad um die Bewilligung für einen Teilabbruch/Umbau/Wiederaufbau ihres Wohnhauses Hostettli 1 in Kehrsiten, Parzelle Nr. 399. Gegen das Projekt erhoben A._ sowie B._ und C._ Einsprache. Der Gemeinderat Stansstad wies die Einsprache am 17. Mai 2010 ab und erteilte die Bewilligung unter Bedingungen und Auflagen.
Die Einsprecher erhoben Beschwerde beim Regierungsrat des Kantons Nidwalden. Dieser hiess die Beschwerde am 18. Januar 2011 gut, hob die Gemeinderatsbeschlüsse auf und verweigerte die Baubewilligung. Zur Begründung legte er dar, dass das umstrittene Bauvorhaben als Neubau zu qualifizieren sei und nach Art. 8 des Bau- und Zonenreglements der Gemeinde Stansstad mangels eines Gestaltungsplans nicht bewilligt werden könne.
Dagegen rekurrierten die Grundeigentümer X._ und Y._. Das Verwaltungsgericht des Kantons Nidwalden hiess deren Beschwerde am 5. September 2011 gut, hob den Regierungsratsentscheid auf und wies die Sache zu neuer Beurteilung an diesen zurück. Es führte im Wesentlichen aus, das umstrittene Bauvorhaben könne als Umbau im Sinne von Art. 8 des Bau- und Zonenreglements der Gemeinde Stansstad verstanden und daher grundsätzlich bewilligt werden.
B. Die Einsprecher A._ sowie B._ und C._ ersuchen das Bundesgericht mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 13. Februar 2012 darum, das Urteil des Verwaltungsgerichts aufzuheben und den Entscheid des Regierungsrates zu bestätigen; eventualiter sei die Sache an das Verwaltungsgericht zur Neubeurteilung zurückzuweisen. Die Beschwerdeführer rügen eine Verletzung des Willkürverbots und machen im Wesentlichen geltend, Erweiterungsbauten könnten nicht als Umbau im Sinne des Bau- und Zonenreglements verstanden werden; das umstrittene Bauvorhaben stelle einen Neubau dar und könne mangels entsprechender Voraussetzungen nicht bewilligt werden.
Die Beschwerdegegner X._ und Y._ stellen den Antrag, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen. Die Staatskanzlei des Kantons Nidwalden ersucht unter Hinweis auf den Regierungsratsentscheid um Abweisung der Beschwerde. Der Gemeinderat Stansstad beantragt mit Verweis auf den angefochtenen Entscheid die Abweisung. Das Verwaltungsgericht hat auf Vernehmlassung verzichtet.
Die Beschwerdeführer halten in ihrer Replik an Anträgen und Begründung fest.
Erwägungen:
1. 1.1 Der angefochtene Entscheid des Verwaltungsgericht ist ein kantonal letztinstanzlicher Entscheid in einer Materie des öffentlichen Rechts, die unter keinen Ausschlussgrund fällt. Die Beschwerdeführer sind als Einsprecher direkt betroffen und zur Beschwerde legitimiert. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist grundsätzlich zulässig (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d, Art. 89 Abs. 1 und Art. 100 Abs. 1 BGG).
1.2 Mit dem angefochtenen Urteil wird die Sache an den Regierungsrat zur Prüfung zurückgewiesen, ob das Bauvorhaben - über die Zulässigkeit nach Art. 8 des Bau- und Zonenreglements der Gemeinde Stansstad (BZR) hinaus - baurechtlich zulässig sei und die beabsichtigte Umgestaltung als baurechtskonform bewilligt werden könne. Der Verwaltungsgerichtsentscheid schliesst das kantonale Verfahren nicht ab, ist insofern ein Rückweisungsentscheid und bildet keinen Endentscheid im Sinne von Art. 90 BGG. Rückweisungsentscheide unterliegen der Beschwerde, sofern der untern Instanz kein eigener Entscheidungsspielraum verbleibt und die Rückweisung einzig der Umsetzung des oberinstanzlich Angeordneten dient (vgl. BGE 138 I 143 E. 1.2 S. 148). Überdies können selbstständig eröffnete Zwischenentscheide aufgrund von Art. 93 Abs. 1 BGG angefochten werden, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (lit. a) oder wenn die Beschwerdegutheissung sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand ersparen würde (lit. b).
Dem Regierungsrat verbleibt trotz der Klärung der Grundsatzfrage durch das Verwaltungsgericht ein beträchtlicher Beurteilungsspielraum. Von Bedeutung ist, dass das Bauvorhaben der Beschwerdegegner im Falle einer Gutheissung der vorliegenden Beschwerde definitiv nicht realisiert werden könnte. Somit erweist sich die Beschwerde unter dem Gesichtswinkel von Art. 93 Abs. 1 lit. b BGG als zulässig.
1.3 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann namentlich die Verletzung von Bundesrecht, einschliesslich von Bundesverfassungsrecht, gerügt werden (Art. 95 Abs. 1 lit. a BGG). Die Anwendung von kantonalem Recht wird dagegen vom Bundesgericht nicht frei, sondern nur auf ihre Verfassungskonformität hin überprüft. In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rügepflicht: Das Bundesgericht tritt auf eine solche Rüge nur dann ein, wenn sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 42 Abs. 2 BGG i.V.m. Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.2 S. 254).
Die Beschwerdegegner machen geltend, dass die Beschwerdeschrift diesen Begründungsanforderungen nicht genüge. Die Beschwerdeführer würden lediglich behaupten, der angefochtene Entscheid sei willkürlich, ohne eine Verfassungsbestimmung zu nennen oder Willkür darzulegen.
Entgegen der Auffassung der Beschwerdegegner ist auch in diesem Punkt auf die Beschwerde einzutreten. Es trifft zwar zu, dass die Beschwerdeführer die Bestimmung von Art. 9 BV zum Schutz vor Willkür nicht ausdrücklich nennen. Es ist indes offensichtlich, dass sie die Rüge der Willkür im Sinne der Rechtsprechung und als Verletzung von Art. 9 BV verstehen. Zudem begründen sie ihre Rüge mit den erforderlichen Hinweisen zur Auslegung von Art. 8 BZR, zum Zusammenhang mit dem übrigen Baurecht, zur Begriffsverwendung in der Doktrin sowie zum Erfordernis einer umfassenden Prüfung. Damit genügt die Beschwerdebegründung den Anforderungen von Art. 106 Abs. 2 BGG.
1.4 Die Beschwerdeführer rufen einzig das Willkürverbot gemäss Art. 9 BV an und machen keine Verletzung eines spezifischeren Grundrechts geltend. Nach dieser Bestimmung hat jede Person Anspruch darauf, von den staatlichen Organen ohne Willkür behandelt zu werden. Gemäss der ständigen Praxis des Bundesgerichts liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist; dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 137 I 1 E. 2.4 S. 5; 134 II 124 E. 4.1 S. 133, je mit Hinweisen).
2. Für die Frage der Bewilligungsfähigkeit des umstrittenen Bauvorhabens ist im Wesentlichen auf das konkrete Projekt, die Zonenzugehörigkeit der Bauparzelle und deren Lage sowie die massgeblichen Baurechtsbestimmungen abzustellen:
Das bestehende Wohnhaus umfasst zwei Kellergeschosse, ein Erdgeschoss und ein Ober- bzw. Dachgeschoss. Es weist ein Satteldach mit Dachfenstern auf, ohne Dachaufbauten und Dacheinschnitte. Das Bauprojekt sieht vor, dass das bestehende Wohnhaus bis auf das Fundament bzw. bis auf die beiden bestehenden Kellergeschosse abgerissen und an demselben Ort ohne Verbreiterung oder Verlängerung komplett neu errichtet wird. Im einzelnen wird das Kellergeschoss 2 in seiner Substanz erhalten, indes mit einer neuen Türe und zwei neuen Fensterausbrüchen versehen. Im Kellergeschoss 1 werden die Westfassade gänzlich, die Südfassade teilweise abgebrochen und neu erstellt; nebst Fensterausbrüchen werden teils Wände für Türen unterbrochen bzw. zwecks neuer Raumaufteilung ganz herausgebrochen, teils werden neue Wände eingezogen; das Kellergeschoss 1 soll derart neu als Wohnung genutzt werden. Im bisherigen Dachgeschoss soll nun ein neu als Obergeschoss bezeichnetes, auf der ganzen Fläche als Wohnraum nutzbares Geschoss mit entsprechender Raumeinteilung entstehen. Im neuen Dachgeschoss sollen Bad/WC, eine Saune und ein Vorraum mit 33 m2 Bodenfläche und eine Terrasse mit rund 7,6 m2 Fläche entstehen. Damit verbunden ist eine Erhöhung des Firstes um 2,73 m und in den beiden gegen Norden und Süden abfallenden Dachflächen je ein Dachaufbau (Dachgaube) mit einer Firstlänge von 3,5 m und einer maximalen Firsthöhe über dem Hauptdach von rund 2,4 m. Im Dachgeschoss soll damit Wohnraum mit zwei Zimmern und Balkon genutzt werden können. Gesamthaft gesehen würde das Bauvorhaben demnach zwei Keller-, ein Erd-, ein Ober- und ein Dachgeschoss umfassen.
Die Bauparzelle liegt in der Ortsbildschutzzone Kehrsiten (OSZ). Teilweise wird die Parzelle von der Uferschutzzone (USZ) überlagert.
Die Bestimmungen von Art. 8 BZR zur Ortsbildschutzzone Kehrsiten haben folgenden Wortlaut (Auszug):
1 Die Ortsbildschutzzone ist eine Bauzone. Sie bezweckt die Erhaltung des Erscheinungsbildes und der Baustruktur des gewachsenen Ortskernes Kehrsiten und schützenswerter Baugruppen. Gestattet sind Renovationen, Umbauten und der Wiederaufbau von Gebäuden nach Elementarereignissen für Wohnzwecke sowie nicht oder wenig störende Gewerbe- oder Dienstleistungsbetriebe.
3 Renovationen, Um- und Neubauten gemäss Abs. 1 sind so zu gestalten, dass sie in kubischer, proportionaler, räumlicher, materialmässiger und farblicher Übereinstimmung mit der baulichen oder ortsbildlichen Umgebung stehen.
4 Ersatzbauten können auf den bestehenden Grenzabständen wieder errichtet werden, sofern keine öffentlichen Interessen (z.B. feuerpolizeiliche Vorschriften usw.) entgegenstehen.
6 Im Rahmen von Gestaltungsplanungen sind Neubauten zulässig. Diese dürfen höchstens zwei Vollgeschosse aufweisen, haben sich im Sinne von Abs. 3 in das Ortsbild einzufügen und auf die Schutzobjekte und ihre unmittelbare Umgebung Rücksicht zu nehmen. Die Projektakten und ergänzenden Beurteilungshilfsmittel sind vor der Erteilung der Baubewilligung der Denkmalpflege des Kantons Nidwalden zu unterbreiten.
3. Das Verwaltungsgericht ist davon ausgegangen, dass für die Frage der Bewilligungsfähigkeit in erster Linie die Qualifikation des Bauvorhabens und dessen Zuordnung zu einer der in Art. 8 BZR enthaltenen Bestimmungen von zentraler Bedeutung seien. Dies hänge von den auf dem Spiele stehenden Begriffen einerseits und von der Würdigung des Bauvorhabens andererseits ab.
3.1 Ausgangspunkt bildet der Wortlaut von Art. 8 BZR. Die Bestimmung erlaubt in Abs. 1 mit entsprechender Begriffsverwendung Renovationen, Umbauten und Wiederaufbauten (nach Elementarereignissen). Abs. 6 der Bestimmung spricht von Neubauten und lässt diese - im Rahmen von Gestaltungsplanungen - zu. Dabei zeigt sich, dass die Terminologie von Art. 8 BZR nicht ganz schlüssig ist: Abs. 3 spricht u.a. von Neubauten und verweist dabei auf Abs. 1, obwohl in Abs. 1 die Neubauten gerade nicht genannt werden.
Das Verwaltungsgericht hat festgehalten, dass das Bauvorhaben mangels eines Elementarereignisses nicht als Wiederaufbau nach Art. 8 Abs. 1 BZR bezeichnet werden könne. Auch liege vom Umfang her keine Renovation gemäss derselben Bestimmung vor. Es fällt somit lediglich die Qualifikation als Umbau oder als Neubau in Betracht: Der Regierungsrat nahm einen Neubau im Sinne von Art. 8 Abs. 6 BZR an und verweigerte die Bewilligung wegen Fehlens einer Gestaltungsplanung. Demgegenüber erblickte das Verwaltungsgericht im Projekt einen Umbau im Sinne von Art. 8 Abs. 1 BZR. Die Beschwerdeführer erachten diese Qualifizierung vor dem Hintergrund von Art. 8 BZR und der darin verwendeten Begriffe sowie mit Blick auf das konkrete Bauvorhaben mit seinem erheblichen Umfang als willkürlich.
3.2 Für die Auslegung der in Art. 8 BZR verwendeten Begriffe durfte das Verwaltungsgericht die allgemeine baurechtliche Terminologie und die entsprechende Literatur beiziehen. Es hat hierfür auf einschlägige Werke verwiesen. Danach können im Wesentlichen die folgenden Erscheinungen unterschieden werden: Neubauten (Erstbauten), Wiederaufbau/Ersatzbau nach Zerstörung oder Abbruch, Verlegung von Bauten, Erweiterungsbauten, Umbau/Renovation, Zweckänderung und Abbruch (vgl. Erich Zimmerlin, Baugesetz des Kantons Aargau, 2. Auflage1985, § 150 II Ziff. 2, S. 365 ff.). Der Bewilligungspflicht unterliegen in allgemeiner Hinsicht die Neuerstellung, die Erweiterung, die Änderung und der Abbruch, nicht hingegen der Unterhalt (Aldo Zaugg/ Peter Ludwig, Das Baugesetz des Kantons Bern, 2. Auflage 2007, Art. 1 N. 14 ff., 18 ff. und 24 ff.). Teils werden neubauähnliche Umgestaltungen und selbständige Erweiterungen einerseits und blosser Umbau oder unselbständige Erweiterungen andererseits unterschieden (Konrad Willi, Die Besitzstandsgarantie für vorschriftswidrige Bauten und Anlagen innerhalb der Bauzonen, 2003, S. 90 ff. und 95 ff.). Schliesslich hielt das Verwaltungsgericht fest, dass unter dem Begriff der Umgestaltung ebenso Umbauten mit wesentlicher Änderung der Bausubstanz wie Erweiterungsbauten mit An- und Aufbauten verstanden werden können. Es ist nicht ersichtlich, dass das Verwaltungsgericht in der dargestellten Bezugnahme auf die Doktrin in Willkür verfallen sei.
Mit Blick auf diese unterschiedlichen Begriffe und Erscheinungen stellte das Verwaltungsgericht fest, dass in Art. 8 BZR zwar Neubauten, Ersatzbauten, Renovationen und Umbauten erwähnt sind, nicht hingegen Erweiterungsbauten (E. 6.3). Dass es dabei den Terminus Ersatzbauten nannte und nicht den von Art. 8 Abs. 1 BZR verwendeten Begriff Wiederaufbau, ist im vorliegenden Zusammenhang entgegen der Auffassung der Beschwerdeführer nicht von Bedeutung und vermag keine Willkür zu belegen. Da wegen des Umfangs des Bauvorhabens keine blosse Renovation in Frage steht, war demnach zu prüfen, wie Erweiterungsbauten aufgrund des Bau- und Zonenreglements zu behandeln sind.
3.3 Das Verwaltungsgericht hält fest, dass die Erweiterungsbauten in Art. 8 BZR nicht erwähnt sind, dass aber entsprechende Bauvorhaben in andere Bestimmungen des Bau- und Zonenreglements Eingang gefunden haben. Im Zusammenhang mit der Uferschutzzone ist in Art. 33 Abs. 3 - über Erneuerung, Umbau und Wiederaufbau von bestehenden Bauten und Anlagen hinaus - von Erweiterungen die Rede, die unter einschränkenden Bedingungen möglich sind. In Bezug auf die Bauweise in Kehrsiten werden in Art. 43 Abs. 1, Art. 44 Abs. 2 und Art. 45 Abs. 4 - neben Neu- und Umbauten - auch Anbauten, Aufbauten und Dachaufbauten genannt. Daraus kann ohne Willkür in allgemeiner Weise gefolgert werden, dass als Erweiterungsbauten zu qualifizierende Bauvorhaben dem Bau- und Zonenreglement nicht fremd sind. Damit stellt sich die weitere Frage, aus welchen Gründen solche Erweiterungsbauten in Art. 8 BZR keine Aufnahme gefunden haben.
Das Verwaltungsgericht legt mit guten Gründen dar, dass die Bestimmung von Art. 8 BZR in erster Linie dem Ortsbildschutz von Kehrsiten diene. Das Erscheinungsbild sowie die Baustruktur des gewachsenen Ortskerns und der schützenswerten Baugruppen sollen erhalten werden (Abs. 1), ebenso die Eigenart der bestehenden Bauten, Baugruppen, Strassen und Freiräume und deren besondere Gestaltungsmerkmale (Abs. 2). Renovationen, Umbauten und Neubauten sollen in verschiedener Hinsicht in Übereinstimmung mit der baulichen und ortsbildlichen Umgebung stehen (Abs. 3). Ortsbildgerechte Bauweise kann im Falle wesentlicher Mehraufwendungen gar mit Beiträgen unterstützt werden. Auf der andern Seite ist das Bauen in dieser Zone nicht etwa untersagt. Über die Renovationen, Umbauten und den Wiederaufbau gemäss Abs. 1 hinaus erlaubt Abs. 3 Renovationen, Umbauten und Neubauten, können nach Abs. 4 Ersatzbauten erstellt werden und sind unter den spezifischen Bedingungen Neubauten nach Abs. 6 zulässig.
Vor diesem Hintergrund durfte das Verwaltungsgericht ohne Willkür folgern, dass Art. 8 BZR zwar dem Ortsbildschutz diene, indes nicht das Ziel einer restriktiven, auf ein Minimum beschränkten Bautätigkeit verfolge. Mit guten Gründen konnte es daher annehmen, dass Art. 8 BZR Erweiterungsbauten nicht bewusst ausschliesse, die Nicht-Erwähnung vielmehr auf einem Versehen beruhe und eine planwidrige Lücke darstelle. Das Verwaltungsgericht ist mit dieser Auslegung des Bau- und Zonenreglements nicht in Willkür verfallen.
3.4 Damit fragt sich, wie solche Erweiterungsbauten im Rahmen von Art. 8 BZR zu behandeln sind, insbesondere ob sie dem Abs. 1 und dem Terminus Umbau oder aber dem Abs. 6 und dem Terminus Neubau zuzuordnen sind; ferner wie die Umbauten und Neubauten voneinander abzugrenzen sind.
In allgemeiner Weise hat das Verwaltungsgericht dargelegt, dass zum Begriff des Umbaus nach Abs. 1 insbesondere die einfachen Umbauten, An- und Aufbauten und Erweiterungsbauten gehören. Nicht dazu zu zählen seien die Neu- und Erstbauten, die unter Abs. 6 fallen. Diesen Neubauten seien auch neubauähnliche Umgestaltungen zuzurechnen, bei denen die Änderungen gegenüber dem Bestehenden so weit gehen, dass Sinn und Zweck der Vorschrift überhaupt nicht mehr zum Tragen kommt. Aus diesem Zusammenhang heraus sei der Begriff der Neubauten und der neubauähnlichen Umgestaltungen eher eng auszulegen. Daraus folge, dass alle Bauvorhaben, die nicht in diesem Sinne Neubauten sind, als Umbauten im Sinne von Abs. 1 zu verstehen seien.
Auch in dieser Hinsicht kann dem Verwaltungsgericht keine Willkür vorgehalten werden. Vor dem Hintergrund der ganzen Bestimmung von Art. 8 BZR hat es mit guten Gründen dargelegt, dass Erweiterungsbauten dem Begriff des Umbaus nach Abs. 1 zuzurechnen seien. Über den eigentlichen Umbau hinaus sollen auch Erweiterungsbauten nach dieser Bestimmung behandelt und bewilligt werden können. Zur Abgrenzung gegenüber den Neubauten im Sinne von Abs. 6 hat es auf den Umfang der Umgestaltung abgestellt. Umgestaltungen seien demnach als Neubauten zu behandeln, wenn sie einen neubauähnlichen Umfang und Charakter annehmen. Für diesen und erst für diesen Fall soll ein Bauvorhaben der besondern Pflicht der Gestaltungsplanung unterworfen sein. Diese Zuordnungen und Abgrenzungen lassen sich bei abstrakter Betrachtungsweise mit nachvollziehbaren Überlegungen begründen und vermögen insoweit vor Art. 8 BV standzuhalten.
3.5 An dieser Auslegung von Art. 8 BZR vermag für sich genommen nichts zu ändern, dass Abs. 1 ausdrücklich den Wiederaufbau von Gebäuden nach Elementarereignissen, nicht aber weitere Ersatzbauten nennt, und dass das Bauprojekt im vorliegenden Fall den Abbruch des bestehenden Gebäudes und dessen komplette Neuerrichtung mit entsprechender Erweiterung vorsieht.
Art. 8 Abs. 1 BZR erlaubt den Wiederaufbau von Gebäuden nach Elementarereignissen. Der Wiederaufbau soll somit für den Fall einer Zerstörung etwa durch einen Brand ermöglicht werden. Dies schliesst einen Wiederaufbau nach einem Abbruch nicht zwingend aus. Der ausdrücklichen Erwähnung des Wiederaufbaus nach Elementarereignissen kann insoweit ein Sinn zugesprochen werden, als auch ein solcher nicht vorbehaltlos möglich ist. Art. 8 Abs. 4 BZR knüpft solche Wiederaufbauten explizit an die Bedingung, dass keine öffentlichen Interessen wie insbesondere polizeiliche Vorschriften entgegenstehen. Bei dieser Sachlage konnte das Verwaltungsgericht die Bestimmung von Art. 8 Abs. 1 BZR ohne Willkür dahingehend auslegen, dass Erweiterungsbauten unter den oben umschriebenen Voraussetzungen bewilligt werden können und insoweit auch ein Wiederaufbau nach einem Abbruch möglich sei.
Gesamthaft ergibt sich aus diesen Erwägungen, dass die vom Verwaltungsgericht getroffene Auslegung von Art. 8 BZR vor dem Willkürverbot im Sinne von Art. 9 BV standhält. Dieses Zwischenergebnis führt zur weitern Frage, ob das umstrittene Bauvorhaben auch mit Blick auf die konkreten Verhältnisse als bewilligungsfähig betrachtet werden kann.
4. 4.1 Wie oben dargelegt (E. 2), sieht das Bauprojekt vor, dass das bestehende Wohnhaus bis auf das Fundament bzw. bis auf die beiden bestehenden Kellergeschosse abgerissen und an demselben Ort ohne Verbreiterung oder Verlängerung komplett neu errichtet wird. Die Kellergeschosse werden wesentlich umgestaltet und im Kellergeschoss 1 soll neu Wohnraum entstehen. Im Obergeschoss entsteht mit neuer Gestaltung erweiterter Wohnraum. Im neuen Dachgeschoss werden neuartige Installationen geschaffen, die Firsthöhe zudem angehoben und zwei Dachaufbauten aufgesetzt.
Das Verwaltungsgericht hielt dafür, dass das Bauvorhaben gesamthaft gesehen als Umgestaltung bzw. Erweiterungsbaute betrachtet werden könne. Die Umgestaltung kommt insbesondere dadurch zum Ausdruck, dass wesentliche Änderungen der Bausubstanz vorgenommen und das Verhältnis der Innenräume unter sich (insbesondere in den Kellergeschossen und im Erdgeschoss) und ihre Benützbarkeit markant geändert werden sollen. Die Erweiterung zeigt sich namentlich in den Veränderungen im Dachbereich mit dem Ausbau des neuen Dachgeschosses. Im angefochtenen Entscheid wird daraus der Schluss gezogen, dass die geplanten Veränderungen gesamthaft gesehen zwar wesentlich seien, indes nicht als derart intensiv erschienen, als dass sie einer Neubaute oder einer neubauähnlichen Umgestaltung gleichkämen.
Die Beschwerdeführer rügen in diesem Punkte vorerst, dass das Verwaltungsgericht die einzelnen baulichen Massnahmen isoliert betrachtet und keine Gesamtsicht vorgenommen habe. Dieses hat in der Tat die unterschiedlichen Umbauteile vorerst für sich behandelt. Dabei ist es zum Schluss gekommen, dass weder die Umgestaltung der Keller, der Umbau des Dachgeschosses, der Ausbau des neuen Dachgeschosses noch der Umstand des Abbruchs und Wiederaufbaus für sich genommen einem neubauähnlichen Vorhaben gleichkämen. Entgegen der Auffassung der Beschwerdeführer hat es sich darüber hinaus um eine Gesamtsicht bemüht und dargelegt, dass auch vor dem Hintergrund einer Gesamtbetrachtung von einer Umgestaltung im Sinne von Art. 8 Abs. 1 BZR auszugehen sei. Soweit die Beschwerdeführer die Methode des Verwaltungsgerichts beanstanden, zielt ihre Beschwerde ins Leere.
Wesentliche Bedeutung kommt der Kritik der Beschwerdeführer zu, in Anbetracht von Umfang und Charakter des Bauvorhabens müsse dieses bei umfassender Betrachtung zwingend als Neubaute qualifiziert werden. Dieses könne nicht als umbauähnliche Umgestaltung oder Erweiterung betrachtet werden.
Das Verwaltungsgericht hat auf das äussere Erscheinungsbild, die Veränderung des Bauvolumens und der Nutzungsflächen, die Zonenkonformität, die Änderung der Zweckbestimmung und die energietechnischen und bauphysikalischen Massnahmen abgestellt. Diese Veränderungen können durchaus als erheblich bezeichnet werden, wie die Beschwerdeführer geltend machen. Es ist indes mit dem Willkürverbot vereinbar, gesamthaft darauf abzustellen, dass die genannten Veränderungen das Erscheinungsbild und den Charakter der Baute nicht geradezu neubauähnlich prägen. Im Rahmen des bisherigen Baus soll eine Ersatzbaute erstellt werden, ohne dass ein eigentlicher neuartiger Baukubus entstehen würde. Bei dieser Sachlage durfte das Verwaltungsgericht das umstrittene Bauvorhaben als Erweiterungsbau oder Umgestaltung betrachten und der Bestimmung von Art. 8 Abs. 1 BZR zuordnen, ohne in Willkür im oben umschriebenen Sinne (E. 1.4) zu verfallen. Daran ändert nichts, dass auch eine andere Lösung als vertretbar oder gar zutreffender erscheinen könnte.
Demnach erweist sich die Beschwerde in diesem Punkte als unbegründet.
4.2 Die Beschwerdeführer bringen schliesslich vor, das Verwaltungsgericht habe mit seinem Entscheid in den Ermessensspielraum des Regierungsrates eingegriffen und damit § 90 VRPV verletzt. Es kann offen bleiben, ob die Beschwerdeführer diese Rüge in rechtsgenüglicher Form vorbringen. Sie übersehen, dass es bei der hier strittigen Frage nicht um eine Ermessensausübung geht, sondern die Auslegung einer kommunalen Vorschrift im Zentrum steht. Die Überprüfung einer solchen Auslegung gehört zur Rechtskontrolle, wie sie dem Verwaltungsgericht zukommt. Die Rüge der Kompetenzüberschreitung ist unbegründet.
5. Demnach ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten den Beschwerdeführern aufzuerlegen und haben diese die Beschwerdegegner für das bundesgerichtliche Verfahren zu entschädigen (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtsgebühr von Fr. 3'000.-- wird den Beschwerdeführern auferlegt.
3. Die Beschwerdeführer haben die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Stansstad, sowie dem Regierungsrat und dem Verwaltungsgericht des Kantons Nidwalden, Verwaltungsabteilung, schriftlich mitgeteilt.
Lausanne, 30. August 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Der Gerichtsschreiber: Steinmann