Sachverhalt:
A. Y._ und Z._ sind Eigentümer der 914 m2 grossen Parzelle Nr. 2049 in der Wohnzone W1 in Oberägeri. Am 2. Juni 2010 reichten sie ein Gesuch für den Neubau eines Einfamilienhauses mit Einliegerwohnung ein. Dagegen erhob u.a. X._, Eigentümer der Parzelle Nr. 938, Einsprache.
Mit Vereinbarung vom 6. September 2010 übertrug die W._ AG zugunsten der Bauparzelle eine anrechenbare Geschossfläche von 36.56 m2, was einer anrechenbaren Landfläche von 228.50 m2 entspricht. Diese Ausnützungsübertragung erfolgte vom Strassengrundstück Nr. 928 im Transit über das angrenzende Grundstück Nr. 2050, die beide im Eigentum der W._ AG stehen.
Am 18. Oktober 2010 erteilte der Gemeinderat Oberägeri die Baubewilligung und wies die dagegen gerichteten Einsprachen ab, soweit sie nicht auf den Zivilweg verwiesen worden waren.
B. Dagegen erhob u.a. X._ Verwaltungsbeschwerde beim Regierungsrat des Kantons Zug. Dieser wies die Beschwerde am 28. Juni 2011 ab, soweit er darauf eintrat.
Gegen den regierungsrätlichen Entscheid führte u.a. X._ Beschwerde an das Verwaltungsgericht des Kantons Zug. Dieses wies die Beschwerde am 31. Mai 2012 ab.
C. Gegen den verwaltungsgerichtlichen Entscheid hat X._ am 13. Juli 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben und die Sache sei zur Neubeurteilung an den Gemeinderat Oberägeri zurückzuweisen.
D. Die Beschwerdegegner beantragen, auf die Beschwerde sei nicht einzutreten; eventualiter sei sie abzuweisen. Der Regierungsrat des Kantons Zug und der Gemeinderat Oberägeri schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei.
Im weiteren Schriftenwechsel halten die Parteien an ihren Anträgen fest.
E. Mit Verfügung vom 18. September 2012 wurde das Gesuch des Beschwerdeführers um aufschiebende Wirkung abgewiesen.
Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Endentscheid (Art. 86 Abs. 1 lit. d und Art. 90 BGG) betreffend die Erteilung einer Baubewilligung, gegen den die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offensteht (Art. 82 lit. a BGG). Der Beschwerdeführer ist als Eigentümer eines an die Bauparzelle angrenzenden Grundstücks zur Beschwerde befugt (Art. 89 Abs. 1 BGG). Auf die rechtzeitig erhobene Beschwerde ist daher grundsätzlich einzutreten.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht - einschliesslich Überschreitung oder Missbrauch des Ermessens - gerügt werden (Art. 95 lit. a BGG). Das Bundesgericht wendet das Bundesrecht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG). Die Verletzung von Grundrechten - einschliesslich die willkürliche Anwendung von kantonalem Recht - wird vom Bundesgericht nur insoweit geprüft, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Für derartige Rügen gelten qualifizierte Begründungsanforderungen (BGE 133 II 249 E. 1.4.2 S. 254 mit Hinweisen).
2. Der Beschwerdeführer rügt die willkürliche Auslegung von § 19 der Zuger Verordnung zum Planungs- und Baugesetz vom 16. November 1999 (V PBG) durch die Vorinstanz.
2.1 In der Beschwerdeschrift wird (anders als im kantonalen Verfahren) nicht mehr geltend gemacht, dass auf der Strassenparzelle Nr. 928 keine Ausnützung vorhanden sei, die auf eine Bauparzelle übertragen werden könne. Soweit der Beschwerdeführer in der Replik erwähnt, dass er weiterhin der Auffassung sei, es handle sich bei der Parzelle Nr. 928 um eine im Gemeingebrauch stehende und daher nicht überbaubare Zufahrtsstrasse, von der keine Ausnützung übertragen werden könne, liegt keine rechtzeitig erhobene Rüge vor (Art. 42 Abs. 1 BGG). Im Übrigen wären auch die Begründungsanforderungen von Art. 106 Abs. 2 BGG nicht erfüllt, weil der Beschwerdeführer sich nicht mit den Erwägungen des angefochtenen Entscheids zu dieser Frage auseinandersetzt.
2.2 Streitig ist somit nur noch, ob § 19 V PBG eine Ausnützungsübertragung über ein oder mehrere Grundstücke hinweg auf ein nicht unmittelbar angrenzendes Grundstück der gleichen Nutzungszone erlaubt. Diese Bestimmung lautet:
§ 19 Ausnützungsübertragung
1. Die Ausnützungsübertragung ist der vertragliche Verzicht einer Eigentümerin/eines Eigentümers auf Ausschöpfung der Ausnützungsziffer zu Gunsten einer Eigentümerin/eines Eigentümers in der Nachbarschaft. Der Vertrag muss folgende Voraussetzungen erfüllen:
a) auf dem begünstigten Grundstück darf die zulässige Ausnützungsziffer um höchstens einen Viertel erhöht werden;
b) die Grundstücke müssen der gleichen Zonenart, jedoch nicht einer Zone mit dem gleichen Nutzungsmass angehören;
c) die übrigen Bauvorschriften gehen dem Anspruch auf Ausschöpfung der Ausnützungsziffer vor.
2 Im Bereich der Grundstücksgrenze liegende Wege, Erschliessungsstrassen und Fliessgewässer hindern die Ausnützungsübertragung nicht.
Der in § 19 V PBG verwendete Begriffe der Ausnützungsziffer wird in § 15 V PBG definiert:
§ 15 Ausnützungsziffer
1 Die Ausnützungsziffer (AZ) ist die Verhältniszahl zwischen der anzurechnenden Geschossfläche der Gebäude und der anzurechnenden Landfläche.
Die anzurechnende Landfläche wird in § 18 V PBG wie folgt umschrieben:
§ 18 Anzurechnende Landfläche
1 Die anzurechnende Landfläche ist die vom Baugesuch, auch als Gesuch für eine Arealbebauungsbewilligung, erfasste, in einer Bauzone gelegene Fläche.
2 Nicht anzurechnen sind die Fahrbahnen und unmittelbar anstossenden Gehwege von öffentlichen Strassen und die Fahrbahnen von Radstrecken, auch als projektierte Anlagen, für deren Festlegung die Sondernutzungsplanung eingeleitet oder durchgeführt ist.
3 Benötigt das Gemeinwesen für den Bau oder Ausbau von öffentlichen Strassen, Radstrecken oder Wegen Land von der dem Baugesuch zugrundeliegenden Fläche, so kann der für diese öffentlichen Anlagen beanspruchte Teil des Baugrundstücks im Ausmass von max. 25 % der dem Baugesuch zugrundeliegenden Fläche zur anzurechnenden Landfläche gezählt werden. [...]
3. Das Verwaltungsgericht räumte ein, dass der Wortlaut von § 19 Abs. 1 V PBG dafür spreche, dass nur Grundeigentümer von benachbarten Grundstücken miteinander einen Ausnützungsvertrag schliessen dürften. Indessen gehe schon aus § 19 Abs. 2 V PBG hervor, dass der Verordnungsgeber die Regelung nicht so eng verstanden haben könne, da die Anwendung dieser Bestimmung voraussetze, dass zwei Grundstücke nicht aneinander grenzten, also nicht benachbart seien. Überdies schliesse § 19 Abs. 1 V PBG eine Übertragung von Ausnützungsreserven in mehreren Etappen, von einem Grundstück auf ein unmittelbar benachbartes zweites Grundstück, und dann von diesem auf ein drittes Grundstück, nicht aus. Es sei nicht ersichtlich, dass die so beschriebene Übertragung in mehreren Etappen Sinn und Zweck der Ausnützungsübertragung widersprechen würde. Auch in diesem Fall könne ein Grundstückseigentümer sein Projekt trotz fehlender eigener Ausnützungsreserven verwirklichen und der seine Ausnützung übertragende Grundstückseigentümer könne aus seinem Grundstück einen entsprechenden wirtschaftlichen Nutzen ziehen. Solange solche schrittweisen Übertragungen innerhalb derselben Nutzungszone erfolgten, werde die Ausnützung des Baulandes verbessert, ohne dass dabei die potenzielle maximal mögliche Baudichte innerhalb der Nutzungszone vergrössert werde. Gleichzeitig sorge die Schranke in § 19 Abs. 1 lit. a V PBG dafür, dass etappenweise vorgenommene Übertragungen nicht dazu führen könnten, dass sich auf einem einzigen Grundstück Ausnützung ansammle und dort im Vergleich zur Umgebung übermässig dicht gebaut werden könne.
Sei somit eine etappenweise Verschiebung von Ausnützung über mehrere Grundstücke zulässig, so sei auch ein "abgekürztes" Transferverfahren zulässig, d.h. die Regelung der Ausnützungsübertragung in einem einzigen Vertrag. Dies setze voraus, dass die Anforderungen von § 19 Abs. 1 lit. a-c V PBG sowohl beim mittleren als auch beim begünstigten Grundstück eingehalten seien und der Vertrag von sämtlichen beteiligten Grundstückseigentümern unterzeichnet werde.
4. Der Beschwerdeführer hält diese Auslegung für willkürlich.
Er beruft sich auf die Vorgängerbestimmung, § 15 der Vollziehungsverordnung zum Baugesetz vom 29. März 1988 (VV BauG), die sich nur geringfügig von der heute geltenden Regelung unterschieden habe. Zu ihr habe das Verwaltungsgericht im Entscheid vom 22. April 1999 (GVP 1999 S. 77 ff.) zutreffend festgehalten, dass die Ausnützungsübertragung zu einer Abweichung von der Regelbauweise führe und sich deshalb an die Grenzen des gesetzlichen Ausnahmetatbestandes zu halten habe; sie habe eine ähnliche Funktion wie privatrechtliche Abmachungen über Grenzabstände. Das Verwaltungsgericht habe deshalb 1999 eine Ausnützungsübertragung über eine öffentliche Erschliessungsanlage mit beidseitigem Trottoir hinweg als unzulässig erachtet, auch mit dem Argument, dass es nicht mehr um eine Übertragung zwischen benachbarten Grundstücken gehe. Damals habe das Verwaltungsgericht somit Ausnützungsübertragungen zwischen nicht unmittelbar angrenzenden Grundstücken, wie auch den Transfer einer Ausnützungsübertragung auf ein Drittgrundstück, für unzulässig erachtet.
Dafür spreche auch der Vergleich mit privatrechtlichen Vereinbarungen über Grenzabstände: Solche Abmachungen könnten nur zwischen den Eigentümern von zwei unmittelbar aneinander angrenzenden Grundstücken getroffen werden und nicht auf dritte Grundstücke weiterübertragen werden.
Entgegen der Auffassung des Verwaltungsgerichts sei § 19 V PBG keineswegs grosszügiger gefasst als die Vorgängerregelung (abgesehen von einer geringfügigen Erweiterung der Ausnützungsübertragung von im Bereich der Grundstücksgrenze liegenden Wegen und Gewässern gemäss Abs. 2). Vielmehr sei in beiden Bestimmungen festgehalten worden, dass die Ausnützungsübertragung nur zugunsten eines Nachbarn vertraglich vereinbart werden könne. Es sei daher widersprüchlich und willkürlich, wenn das Verwaltungsgericht den insoweit identischen § 19 V PBG plötzlich dergestalt interpretiere, dass eine Ausnützungsübertragung auf ein nicht benachbartes Grundstück mittels Ausnützungstransfers nun möglich sein solle.
Als Nachbar i.S.v. § 19 Abs. 1 V PBG sei nur ein unmittelbar angrenzender Grundeigentümer zu verstehen. Wenn die Parzellen, wie im vorliegenden Fall, mehrere dutzend Meter voneinander entfernt lägen und durch andere Parzellen voneinander getrennt seien, gälten sie nicht mehr als unmittelbar benachbart. Es sei rechtsmissbräuchlich, wenn dabei pro forma eine Grundstücksparzelle dazwischengeschaltet werde, um auf dem Papier dem Erfordernis der "Nachbarschaft" genügen zu können.
Der Beschwerdeführer bestreitet nicht, dass eine (zoneninterne) Ausnützungsübertragung über ein oder mehrere Drittgrundstücke hinweg mit den Grundsätzen des Raumplanungsrechts vereinbar sei, wie beispielsweise die Zürcher Regelung (in § 259 Abs. 1 des Zürcher Planungs- und Baugesetzes vom 7. September 1975 [PBG/ZH] i.d.F. vom 1. September 1991) zeige. Hierfür bedürfe es jedoch einer entsprechenden kantonalrechtlichen Grundlage, die im Kanton Zug fehle. Lasse das kantonale Recht (wie im Kanton Zug) die Ausnützungsübertragung nur zwischen unmittelbar benachbarten Grundstücken zu, so dürfe diese Regelung nicht durch den Weitertransfer der übertragenen Ausnützung auf ein drittes Grundstück umgangen werden. Ein solcher Weitertransfer würde Sinn und Zweck von § 19 V PBG widersprechen, mit dem ein der privatrechtlichen Abmachung über Grenzabstände ähnliches Institut habe geschaffen werden sollen.
Schliesslich sei bei der Auslegung zu berücksichtigen, dass die Ausnützungsübertragung zu einer Abweichung von der Regelbauweise führe; als Ausnahmeregelung sei die Bestimmung eng und nicht extensiv auszulegen.
5. Das Verwaltungsgericht weist in seiner Vernehmlassung darauf hin, dass sein Entscheid aus dem Jahr 1999 nicht mit dem vorliegenden vergleichbar sei, weil es damals um den direkten Transport von Ausnützung zwischen zwei Parzellen gegangen sei, die durch eine öffentliche Erschliessungsstrasse getrennt waren. Das Gericht sei damals zur Auffassung gelangt, dass diese Situation nicht von der Ausnahmeregelung in § 15 Abs. 2 VV BauG erfasst sei (wonach nur "im Bereich der Grenze liegende Fusswege und kleinere Gewässer" die Ausnützungsübertragung nicht hinderten). Vorliegend gehe es dagegen um die Übertragung von Ausnützung in mehreren (vorliegend: zwei) Schritten, wobei bei jedem einzelnen Übertragungsschritt die Voraussetzungen von § 19 Abs. 1 lit. a-c V PBG erfüllt seien. Die Ausnahmeregelung in § 19 Abs. 2 V PBG (der Nachfolgerbestimmung von § 15 Abs. 2 VV BauG) finde gar keine Anwendung.
Im Übrigen sei § 19 V PBG grosszügiger gefasst als § 15 VV BauG, weil Abs. 2 heute einen direkten Ausnützungstransfer über eine Erschliessungsstrasse hinweg zulasse.
6. Die Beschwerdegegner machen geltend, dass § 19 V PBG nicht ausdrücklich regle, dass die Ausnützungsübertragung nur über eine gemeinsame Grenze hinweg zulässig sei. Der Verordnungsgeber habe lediglich sicherstellen wollen, dass der unmittelbar angrenzende Nachbar, der am meisten betroffen werde, dem Ausnützungstransfer zustimmen müsse.
Der Beschwerdeführer übersehe bei seiner Kritik, dass es sich nicht um eine direkte Ausnützungsübertragung zwischen zwei nicht benachbarten Grundstücken handle, sondern um ein Transitverfahren bzw. eine Kettenübertragung der Ausnützung zwischen benachbarten Grundstücken. Zwar werde im Ergebnis die Ausnützung der Strassenparzelle auf die nicht unmittelbar angrenzende Parzelle der Beschwerdegegner übertragen; entscheidend sei jedoch, dass dies mit ausdrücklichem Einverständnis des Eigentümers der dazwischenliegenden Parzelle Nr. 2050 geschehen sei. Darin liege auch die Parallele zu den - vom Beschwerdeführer erwähnten - Näherbaurechten: In beiden Fällen verzichte der unmittelbare Nachbar auf sein Schutzrecht und erlaube dem Nachbarn eine Abweichung von der Bauordnung.
Mit dem vom Verwaltungsgericht gutgeheissenen Transitverfahren werde lediglich ein administrativer Leerlauf verhindert und eine sinnvolle, pragmatische Lösung getroffen, indem den Beteiligten gestattet werde, den Transfer in einem Vertrag anstatt in zwei zeitlich aufeinanderfolgenden Verträgen zu regeln.
Auch raumplanungsrechtlich sei es sinnvoll, wenn der Eigentümer einer Parzelle, deren Ausnützung nicht aufgebraucht worden sei, diese auf einen Dritten übertragen könne, der in derselben Zone und im selben Quartier wohne. Das Bauvolumen im Quartier bewege sich nach wie vor im Rahmen des Zonenplans, d.h. es werde kein zusätzliches Volumen geschaffen.
7. Auch die Gemeinde Oberägeri hält die streitige Ausnützungsübertragung für korrekt: Grundsätzlich hätte die fehlende Ausnützung auch mit einer ersten Vereinbarung auf das dazwischen liegende Grundstück Nr. 2050 und anschliessend, mit einer neuen Vereinbarung, von dieser Parzelle weiter auf das Baugrundstück Nr. 2049 transferiert werden können. Das Resultat sei identisch, wenn - wie vorliegend erfolgt - die Ausnützung im Transit über ein Drittgrundstück transferiert werde.
8. Willkür liegt nach der Rechtsprechung nicht schon dann vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht weicht vom Entscheid der kantonalen Instanz nur ab, wenn dieser offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 136 I 316 E. 2.2.2 S. 318 f. mit Hinweisen).
8.1 § 19 Abs. 1 V PBG gestattet den vertraglichen Verzicht eines Grundeigentümers auf Ausschöpfung der Ausnützungsziffer "zu Gunsten seines Nachbarn". Alle Beteiligten gehen - insoweit übereinstimmend - davon aus, dass ein direkter Ausnützungstransfer nur zwischen zwei unmittelbar angrenzenden Parzellen möglich ist. Dies wird durch § 19 Abs. 2 V PBG bestätigt: Würde es genügen, dass das abgebende und das empfangende Grundstück in derselben Zone und in einer gewissen räumlichen Nähe zueinander liegen, ohne eine gemeinsame Grenze aufzuweisen, wäre keine Ausnahmeregelung für Grundstücke nötig, die (nur) durch einen Weg, eine Erschliessungsstrasse oder ein Fliessgewässer voneinander getrennt werden. Dementsprechend betonen auch alle Vorinstanzen, dass ein "indirekter Nutzungstransfer" zwischen zwei nicht angrenzenden Grundstücken nur zulässig sei, wenn ein Transport über die dazwischenliegenden Grundstücke möglich sei, d.h. die Voraussetzungen von § 19 Abs. 1 V PBG für alle Grundstücke erfüllt sind und die Zustimmung aller beteiligter Grundstückeigentümer vorliegt.
8.2 Streitig ist, ob eine Ausnützungsübertragung in mehreren Etappen, über mehrere benachbarte Grundstücke hinweg, zulässig ist, mit der Folge, dass im Ergebnis Ausnützung zwischen zwei nicht benachbarten Grundstücken übertragen wird. Diese Frage ist in § 19 V PBG nicht ausdrücklich geregelt. Insofern widerspricht die Zulassung einer solchen "Kettenübertragung" nicht dem Wortlaut der Bestimmung.
Entscheidend ist daher, ob die Auslegung der Vorinstanz Sinn und Zweck der Regelung klar zuwiderläuft. Dies ist zu verneinen: Wie das Verwaltungsgericht überzeugend dargelegt hat, ermöglicht der Ausnützungstransfer eine bessere Ausnützung des Baulandes, ohne die in der jeweiligen Nutzungszone insgesamt zulässige Baudichte zu erhöhen. Die Auslegung, wonach der Verordnungsgeber nur den direkten Transfer von Ausnützung zwischen nicht unmittelbar angrenzenden Parzellen verboten habe, nicht aber den "indirekten" Transfer durch Kettenübertragungen, lässt sich mit dem Schutz der dazwischenliegenden Nachbarn begründen (die der Übertragung zustimmen müssen), und erscheint jedenfalls nicht willkürlich. Die übrigen (am Ausnützungstransfer nicht beteiligten) Nachbarn des empfangenden Grundstücks werden durch die Regelung in § 19 Abs. 1 lit. a V PBG insofern geschützt, als der Transfer die Ausnützung um höchstens einen Viertel erhöhen darf. Im Übrigen ist ihre Situation nicht wesentlich anders, als wenn die Ausnützung direkt vom Nachbargrundstück auf die Bauparzelle übertragen worden wäre.
Bei dieser Auslegung wird auch § 19 Abs. 2 V PBG nicht gegenstandslos: Diese Bestimmung lässt ausnahmsweise den direkten Transfer von Ausnützung zwischen Grundstücken zu, die z.B. durch eine Erschliessungsstrasse oder ein Gewässer getrennt werden. Dabei handelt es sich i.d.R. um Flächen, auf denen gemäss § 18 Abs. 2 V PBG keine Ausnützung liegt und daher auch keine Ausnützung übertragen werden kann, weshalb ein Kettentransfer über eine solche Fläche hinweg ausgeschlossen ist. Einen solchen Fall betraf der Verwaltungsgerichtsentscheid von 1999, weshalb es sich um einen anders gelagerten Fall handelte.
8.3 Ist die Zulassung von Kettenübertragungen nicht willkürlich, so ist es aus verfassungsrechtlicher Sicht unerheblich, ob der Transfer durch mehrere, nachgelagerte Verträge oder in einem Vertrag geregelt wird, sofern die materiellen Anforderungen für alle Grundstücke erfüllt sind und alle beteiligten Grundeigentümer mitwirken.
9. Nach dem Gesagten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kosten- und entschädigungspflichtig.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die privaten Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Oberägeri, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zug, Verwaltungsrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 12. Februar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber