Sachverhalt:
A. Am 9. Juni 2008 erteilte der Gemeinderat Walchwil Z._ die Baubewilligung für ein Bauvorhaben auf ihrem unverbauten Grundstück Nr. 574 in der Wohnzone W2 in Walchwil. Gegen dieses Projekt strengten verschiedene Personen, darunter X._, Eigentümer des Nachbargrundstücks Nr. 730, ein baurechtliches Verfahren an. Im Verlaufe dieses Verfahrens stellte sich heraus, dass Z._ ihr Grundstück an die Eheleute Y._ verkauft hatte und diese ein weiteres Baugesuch für den Bau eines Einfamilienhauses eingereicht hatten. Am 28. April 2010 stellte das Verwaltungsgericht des Kantons Zug fest, dass es nicht möglich sei, gleichzeitig zwei Baugesuche zu behandeln. Darauf gaben die Eheleute Y._ dem Gemeinderat Walchwil bekannt, dass sie die Behandlung des zweiten Gesuchs wünschten, worauf das erste Gesuch sistiert wurde.
Das zweite Baugesuch zur Erstellung eines Einfamilienhauses mit Aussenpool auf der Parzelle Nr. 574 in Walchwil war am 1. März 2010 eingereicht worden. Vom 5. bis am 24. März 2010 lag es öffentlich auf. Gegen dieses Gesuch gingen wiederum mehrere Einsprachen ein, darunter eine von X._. Am 20. Juli 2010 reichten die Eheleute Y._ überarbeitete Baugesuchsunterlagen ein, worauf die Gemeinde den Einsprechenden Gelegenheit gab, zu den geänderten Plänen Stellung zu nehmen. Am 27. September 2010 bewilligte der Gemeinderat Walchwil das Bauvorhaben und wies die Einsprachen ab. Gegen diesen Entscheid gelangte X._ am 18. Oktober 2010 mit Verwaltungsbeschwerde an den Regierungsrat des Kantons Zug, welcher die Beschwerde mit Beschluss vom 12. Juli 2011 abwies. Diesen Beschluss focht X._ mit Beschwerde vom 12. August 2011 beim Verwaltungsgericht an. Dieses wies die Beschwerde mit Urteil vom 22. Dezember 2011 ab.
Während der Rechtshängigkeit des Verfahrens beim Regierungsrat wies das Verwaltungsgericht mit Urteil vom 26. April 2011 eine von X._ geführte Beschwerde gegen den von der Gemeindeversammlung Walchwil am 9. Dezember 2009 beschlossenen Gefahrenzonenplan ab. Gegen diesen letztgenannten Entscheid erhob X._ kein Rechtsmittel, womit der Gefahrenzonenplan rechtskräftig geworden ist. Im Gefahrenzonenplan ist das Grundstück Nr. 574 keiner Gefahrenzone zugewiesen.
B. Mit Eingabe vom 4. Februar 2012 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht mit den Anträgen, das Urteil des Verwaltungsgerichts vom 22. Dezember 2011 sei aufzuheben, und die von der Gemeinde Walchwil erteilte Baubewilligung sei zu verweigern. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Mit Verfügung vom 12. März 2012 wies der Präsident der I. öffentlich-rechtlichen Abteilung das von X._ gestellte Gesuch um Gewährung der aufschiebenden Wirkung ab.
Das Verwaltungsgericht und die Beschwerdegegner beantragen in ihren Stellungnahmen, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne. Der Regierungsrat und die Gemeinde Walchwil stellen Antrag auf Beschwerdeabweisung. Der Beschwerdeführer hält in seiner Stellungnahme vom 16. Mai 2012 an den in der Beschwerde gestellten Anträgen vollumfänglich fest.
Erwägungen:
1. Das angefochtene Urteil des Verwaltungsgerichts ist ein Endentscheid einer letzten kantonalen Instanz (Art. 82 lit. a i.V.m. Art. 86 Abs. 1 lit. d und Art. 90 BGG). Ihm liegt ein Beschwerdeverfahren über ein Baubegehren und damit eine öffentlich-rechtliche Angelegenheit zu Grunde. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 lit. a BGG steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung (BGE 133 II 249 E. 1.2 S. 251, 400 E. 2.1 S. 404). Ausnahmegründe im Sinne von Art. 83 ff. BGG liegen nicht vor. Der Beschwerdeführer hat am Verfahren vor der Vorinstanz teilgenommen (Art. 89 Abs. 1 lit. a BGG). Er ist als Nachbar des Bauvorhabens zur Beschwerde legitimiert (Art. 89 Abs. 1 lit. b und c BGG; BGE 133 II 249 E. 1.3.3 S. 253 f.). Auf die frist- und formgerecht eingereichte Beschwerde ist einzutreten.
2. 2.1 Der Beschwerdeführer stellte sich im Verfahren vor der Vorinstanz auf den Standpunkt, die Baubewilligung könne erst erteilt werden, wenn geklärt sei, dass aufgrund des Bauvorhabens keine Gefahren für die Nachbarn resultierten. Auf dem Baugrundstück befinde sich ein Felsblock bzw. Findling mit einem ungefähren Ausmass von 350 m3. Der Fels erstrecke sich auf die Parzellen Nrn. 574/730/731, mutmasslich zu 4/7 auf Nr. 574 (Baugrundstück), zu 2/7 auf Nr. 730 (Grundstück des Beschwerdeführers) und zu 1/7 auf Nr. 731. Die Stützmauern des geplanten Aussenpools würden direkt auf dem Fels erstellt, wodurch dieser destabilisiert werden und auf die Parzelle Nr. 730 abrutschen könnte. Zwar sei der Gefahrenzonenplan der Gemeinde Walchwil inzwischen rechtskräftig und das Baugrundstück Nr. 574 (anders als die Grundstücke Nrn. 730 und Nr. 731) in keiner der drei Gefahrenzonen aufgeführt. Dies ändere aber nichts daran, dass im Rahmen eines Baubewilligungsverfahrens die "anthropogen ausgelöste Gefährdung" der Nachbarschaft aus baupolizeilichen Gründen beurteilt werden müsse. Das von den Beschwerdegegnern in Auftrag gegebene Gutachten der A._AG vom 25. Januar 2010 habe das Gelände neben dem Fels, nicht aber die Stabilität des Felsblocks als solchen überprüft und stelle ohnehin eine blosse Parteibehauptung dar. Er habe dieses Gutachten dem diplomierten Geologen B._ von der "C._GmbH" vorgelegt. In seiner fachlichen Stellungnahme vom 31. März 2010 führe B._ zahlreiche Kritikpunkte am Gutachten der A._AG vom 25. Januar 2010 auf. Bei dieser Ausgangslage sei es unumgänglich, vor der Erteilung einer Baubewilligung die Auswirkungen des Bauvorhabens auf die Stabilität des Felsblocks durch ein neutrales geologisches Gutachten beurteilen zu lassen.
2.2 Die Vorinstanz erwägt im angefochtenen Urteil, gemäss dem in Rechtskraft erwachsenen Gefahrenzonenplan der Gemeinde Walchwil befinde sich das Baugrundstück Nr. 574 in keiner Gefahrenzone. Die kommunale Baubewilligungsbehörde habe deshalb von der Bauherrschaft unter keinem Titel spezielle Sicherungsmassnahmen einfordern können. Insbesondere fehle es an einer Rechtsgrundlage, um von der Bauherrschaft vor Baubeginn ein geologisches Gutachten oder weitere Baugrunduntersuchungen verlangen zu können. Ebenso wenig bestehe für die Baubehörde eine Pflicht, ein neutrales Gutachten in Auftrag zu geben. Die Beschwerdegegner hätten zwar freiwillig von der A._AG eine Baugrunduntersuchung vornehmen lassen. Dass es sich dabei um ein (blosses) Parteigutachten handle, sei nicht zweifelhaft. Das Gutachten vom 25. Januar 2010 müsse dem Gericht aber auch nicht als Beweismittel dienen, denn aus baupolizeilicher Sicht sei für die Erteilung einer Baubewilligung auf dem fraglichen Grundstück keine Gefahrenuntersuchung erforderlich. Damit könne auch das vom Beschwerdeführer in Auftrag gegebene und ins Recht gelegte Gutachten der "C._GmbH" vom 31. März 2010 unbeachtlich bleiben; eine Auseinandersetzung mit der darin am Erst-Gutachten geäusserten Kritik erübrige sich.
2.2 Die Vorinstanz erwägt im angefochtenen Urteil, gemäss dem in Rechtskraft erwachsenen Gefahrenzonenplan der Gemeinde Walchwil befinde sich das Baugrundstück Nr. 574 in keiner Gefahrenzone. Die kommunale Baubewilligungsbehörde habe deshalb von der Bauherrschaft unter keinem Titel spezielle Sicherungsmassnahmen einfordern können. Insbesondere fehle es an einer Rechtsgrundlage, um von der Bauherrschaft vor Baubeginn ein geologisches Gutachten oder weitere Baugrunduntersuchungen verlangen zu können. Ebenso wenig bestehe für die Baubehörde eine Pflicht, ein neutrales Gutachten in Auftrag zu geben. Die Beschwerdegegner hätten zwar freiwillig von der A._AG eine Baugrunduntersuchung vornehmen lassen. Dass es sich dabei um ein (blosses) Parteigutachten handle, sei nicht zweifelhaft. Das Gutachten vom 25. Januar 2010 müsse dem Gericht aber auch nicht als Beweismittel dienen, denn aus baupolizeilicher Sicht sei für die Erteilung einer Baubewilligung auf dem fraglichen Grundstück keine Gefahrenuntersuchung erforderlich. Damit könne auch das vom Beschwerdeführer in Auftrag gegebene und ins Recht gelegte Gutachten der "C._GmbH" vom 31. März 2010 unbeachtlich bleiben; eine Auseinandersetzung mit der darin am Erst-Gutachten geäusserten Kritik erübrige sich.
2.3 2.3.1 Der Beschwerdeführer rügt eine willkürliche Sachverhaltsfeststellung und eine willkürliche Anwendung kommunalen bzw. kantonalen Rechts sowie eine Verletzung seines Anspruchs auf rechtliches Gehör aufgrund der Nichtberücksichtigung der Gutachten. Die Willkürrüge begründet der Beschwerdeführer zusammenfassend wie folgt: Aus der gestützt auf § 25 der Bauordnung der Gemeinde Walchwil vom 30. März 2006 (BO/Walchwil) erstellten Gefahrenzonenkarte sei ersichtlich, welche Gebiete durch Überflutung, Rutschung oder Steinschlag, d.h. durch Naturgefahren, bedroht seien. Davon zu trennen sei die baupolizeiliche Frage, ob von der Erstellung einer Baute eine Gefahr für die Nachbarschaft ausgehe oder nicht. Insoweit sei nicht § 25 BO/Walchwil, sondern § 6 Abs. 1 BO/Walchwil zu beachten, wonach Bauten und Anlagen nach den anerkannten Regeln der Baukunst und der Technik zu erstellen und zu ändern sind. Indem die Vorinstanz argumentiere, durch das konkrete Bauprojekt drohende Gefährdungen für die Nachbargrundstücke nicht überprüfen zu können bzw. zu müssen, weil das Baugrundstück in der Gefahrenzonenkarte nicht aufgeführt sei, wende sie das kommunale Recht willkürlich an, denn hierdurch schreibe sie § 25 BO/Walchwil einen Regelungsgehalt zu, welcher dieser Bestimmung effektiv gar nicht zukomme. Hingegen stelle § 6 BO/Walchwil eine konkrete gesetzliche Grundlage dar, welche die Baubehörde zur Gefährdungsabklärung verpflichte.
2.3.2 Schliesslich macht der Beschwerdeführer geltend, die Vorinstanz setze sich mit ihrer Negierung der Pflicht zur Gefährdungsabklärung im Baubewilligungsverfahren in Widerspruch zu ihrem Urteil vom 26. April 2011 betreffend Gefahrenzonenplan. Dort habe die Vorinstanz ausdrücklich erwogen, die Gefährdung durch Bauarbeiten auf dem Grundstück Nr. 574 sei nicht im Verfahren auf Festsetzung des Gefahrenzonenplans, sondern im Baubewilligungsverfahren zu überprüfen. Damit habe die Vorinstanz den Anschein und die Erwartung geweckt, sie werde in einem allfälligen Rechtsmittelverfahren gegen die Baubewilligung eine Prüfung dahin gehend verlangen, dass abgeklärt werde, ob durch das Bauvorhaben Dritte gefährdet würden. Dieses widersprüchliche Verhalten der Vorinstanz verstosse gegen den Grundsatz von Treu und Glauben gemäss Art. 5 Abs. 3 BV.
2.4 2.4.1 Gefahrenzonen sind ein raumplanerisches Instrument, um Schäden an Menschen und Sachwerten aufgrund von Naturgefahren zu verhindern respektive zu vermindern. Beim sogenannten Gefahrenzonenmodell werden im Zonenplan grundeigentümerverbindliche Gefahrenzonen ausgeschieden und Vorschriften dazu erlassen. Im Kanton Zug werden drei Gefahrenzonen unterschieden. In stark gefährdeten Gebieten (Gefahrenzone 1) dürfen keine neuen Bauten und Anlagen erstellt werden, was im Kanton Zug praktisch auf keiner Bauparzelle der Fall ist. In Gebieten mittlerer Gefährdung (Gefahrenzone 2) müssen Bauten und Anlagen durch Objektschutzmassnahmen gesichert werden. Diese werden durch die Baubewilligungsbehörde verfügt. In Gebieten geringer Gefährdung (Gefahrenzone 3) entscheidet der Bauherr selbst, ob er seine Baute mit Objektschutzmassnahmen sichern will oder nicht (Informationsblatt "Gefahrenzonen im Kanton Zug" des kantonalen Amts für Wald und Wild). In Übereinstimmung mit diesen kantonalen Vorgaben bestimmt § 25 Abs. 1 BO/Walchwil, dass Gefahrenzonen Bauzonen umfassen, die durch Überflutung, Rutschung und Steinschlag gefährdet sind. Gemäss Absatz 2 dieser Bestimmung dürfen Baubewilligungen für Neubauten, wesentliche Umbauten und Zweckänderungen in der Gefahrenzone 2 nur erteilt werden, wenn die für den Schutz der Baute oder Anlage notwendigen Massnahmen mit dem Bauvorhaben realisiert werden. Schliesslich bestimmt § 25 Abs. 3 BO/Walchwil, dass in der Gefahrenzone 3 die Baubewilligungsbehörde Empfehlungen für Massnahmen erteilen kann.
2.4.2 Im in Rechtskraft erwachsenen Urteil der Vorinstanz vom 26. April 2011 betreffend Gefahrenzonenplan der Gemeinde Walchwil betonte das Gericht bezüglich des Findlings auf der Parzelle Nr. 574, die Gefährdung durch Bauarbeiten sei nicht im vorliegenden Verfahren, sondern im Baubewilligungsverfahren zu überprüfen. Die Vorinstanz ergänzte, ein Gefahrenzonenplan stelle keine abschliessende Grundlage dafür dar, was an einer Stelle gebaut werden dürfe. Der Gefahrenzonenplan sei nicht Ergebnis der Planung, sondern Grundlage für die Planung. Selbst bei einer Einstufung des Grundstücks Nr. 574 in die Gefahrenzone 2 wäre Bauen mit Auflagen möglich. Über diese Auflagen könne aber nur im parallel geführten Baubewilligungsverfahren und nicht im Rahmen der Gefahrenzonenplanung befunden werden. Der Frage, ob das Grundstück Nr. 574 der Gefahrenzone zuzuweisen sei oder nicht, komme nicht jene Bedeutung zu, die ihr der Beschwerdeführer beimesse. Indem auf dem Grundstück Nr. 574 ein geologisches Gutachten erstellt werden müsse, sei gewährleistet, dass bei der Bauausführung die notwendigen Schutzmassnahmen getroffen werden müssten, denn die Abklärungen, die im Rahmen eines geologischen Gutachtens vorgenommen würden, gingen weiter als jene im Rahmen der Gefahrenzonenausscheidung (Urteil des Verwaltungsgerichts des Kantons Zug vom 26. April 2011 i.S. X._ gegen Gemeinderat Walchwil / Regierungsrat des Kantons Zug betreffend Gefahrenzonenplan, E. 4c).
2.5 Die Rügen des Beschwerdeführers sind stichhaltig:
2.5.1 Mit dem Gefahrenzonenplan im Sinne von § 25 BO/Walchwil wird festgelegt, welche Grundstücke durch Naturgefahren wie Überflutung, Rutschung oder Steinschlag gefährdet sind; vorliegend ist rechtskräftig festgestellt, dass dies beim Grundstück Nr. 574 nicht der Fall ist.
Davon zu trennen ist jedoch die hier relevante Frage, ob ein konkretes Bauvorhaben den Sicherheitsanforderungen genügt, respektive ob daraus Gefahren für Dritte resultieren können. So statuiert § 6 Abs. 1 BO/Walchwil, dass Bauten nach den anerkannten Regeln der Baukunst und Technik zu erstellen sind und die Sicherheit von Menschen, Tieren und Sachen zu gewährleisten ist. Diese Frage ist im Baubewilligungsverfahren zu klären, denn abgesehen davon, dass es dem Prinzip der stufengerechten Planung widersprechen würde, ein konkretes Bauprojekt bereits im Rahmen der (Gefahren-)Zonenplanung im Detail zu überprüfen, wäre ein solches Vorgehen auch nicht praktikabel, da zum Zeitpunkt des Erlasses des Gefahrenzonenplans in der Regel noch gar kein Bauprojekt vorliegt. Aus der Nichtaufnahme eines Grundstücks in den Gefahrenzonenplan kann deshalb nicht gefolgert werden, dass ein Bauvorhaben auf diesem Grundstück keinesfalls mit Gefahren für die Nachbargrundstücke verbunden sein kann. Die Rechtskraft des Gefahrenzonenplans steht mit anderen Worten entgegen den Ausführungen im angefochtenen Urteil einer Überprüfung der Gefährdung Dritter durch das konkrete Bauvorhaben nicht entgegen. Anders als von den Beschwerdegegnern behauptet, erfolgt hierdurch auch keine Neubeurteilung des Gefahrenzonenplans, denn dieser bleibt unabhängig vom Ausgang des Baubewilligungsverfahrens unverändert rechtswirksam.
Obwohl der Felsblock als solcher keine Naturgefahr darstellt, weil er stabil ist, kann im zu beurteilenden Fall nicht ausgeschlossen werden, dass das konkrete Bauprojekt, bei welchem die Stützmauern des Aussenpools direkt auf dem Fels erstellt werden sollen, zu einer Destabilisation des Felsblocks führen und hierdurch eine Gefahr für die umliegenden Grundstücke bewirken könnte. Wie vom Beschwerdeführer zutreffend dargelegt wird, hat die Vorinstanz damit im Ergebnis das kommunale Recht - nämlich die §§ 6 und 25 BO/Walchwil - willkürlich gehandhabt, indem sie die aufgrund des zu beurteilenden Bauprojekts mögliche Gefährdung des Grundstücks des Beschwerdeführers nicht überprüft hat. Durch die mangelnde Berücksichtigung der Gutachten hat die Vorinstanz zugleich den Anspruch des Beschwerdeführers auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV verletzt.
Die Vorinstanz wird diese Prüfung nachzuholen und sich insbesondere mit der im Gutachten der "C._GmbH" und in der Beschwerde geäusserten Kritik am Gutachten der A._AG auseinanderzusetzen haben. Bestehen nach durchgeführter Beweiswürdigung (weiterhin) Zweifel, ob die Bauarbeiten eine Gefahr für das Grundstück des Beschwerdeführers bewirken können, wird die Vorinstanz weitere geeignete Untersuchungen vornehmen lassen müssen.
2.5.2 Die Vorinstanz hat in ihrem Urteil vom 26. April 2011 betreffend Gefahrenzonenplan somit korrekt festgehalten, dass die Gefährdung durch Bauarbeiten im Baubewilligungsverfahren zu überprüfen ist. Wenn die Vorinstanz nunmehr im angefochtenen Urteil ausführt, ausgehend von der Rechtskraft des Gefahrenzonenplans entfalle die Möglichkeit, im Baubewilligungsverfahren abzuklären, ob von den Bauarbeiten eine Gefährdung des Grundstücks des Beschwerdeführers ausgehe, argumentiert sie widersprüchlich. Die Beschwerde ist auch in diesem Punkt begründet.
3. Die Beschwerde ist gutzuheissen, das Urteil der Vorinstanz vom 22. Dezember 2011 aufzuheben und die Angelegenheit zu neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Bei diesem Verfahrensausgang haben die privaten Beschwerdegegner die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Sie haben den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Das Urteil des Verwaltungsgerichts des Kantons Zug vom 22. Dezember 2012 wird aufgehoben und die Angelegenheit zu neuem Entscheid im Sinne der Erwägungen ans Verwaltungsgericht zurückgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden den privaten Beschwerdegegnern auferlegt.
3. Die privaten Beschwerdegegner haben den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Walchwil, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zug, Verwaltungsrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 5. Juli 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Stohner