Sachverhalt:
A. Der Bauausschuss Maur erteilte am 2. November 2011 dem Baukonsortium A._, bestehend aus B._ und weiteren vier Personen, die baurechtliche Bewilligung für den Neubau eines Mehrfamilienhauses mit Tiefgarage auf dem Grundstück Kat.-Nr. 8384 an der Eggenbergstrasse im Ortsteil Aesch. Gleichzeitig eröffnete er die wasserbaupolizeiliche Bewilligung der Baudirektion des Kantons Zürich vom 20. Juli 2011.
Hiergegen erhoben G._, H._ und weitere Miteigentümer der angrenzenden Parzelle Kat.-Nr. 8385 Rekurs an das Baurekursgericht. Am 2. Mai 2012 hiess das Baurekursgericht den Rekurs gut und hob die Baubewilligung auf.
Die dagegen gerichtete Beschwerde der Mitglieder des Baukonsortiums A._ wies das Verwaltungsgericht des Kantons Zürich am 21. November 2012 ab.
B. Dagegen hat das Baukonsortium A._ am 18. Januar 2013 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Sie beantragen, der angefochtene Entscheid sei aufzuheben und die Sache sei an das Verwaltungsgericht zurückzuweisen, damit dieses über die rechtsgenügende Einordnung des Vorhabens befinde und neu entscheide oder die Sache zur entsprechenden Prüfung an die örtliche Baubehörde zurückweise.
C. Die Beschwerdegegner und das Verwaltungsgericht beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Gemeinde Maur und die Baudirektion des Kantons Zürich haben auf eine Vernehmlassung verzichtet.
In ihrer Replik halten die Beschwerdeführer an ihren Anträgen fest.
Erwägungen:
1. Gegen den angefochtenen, kantonal letztinstanzlichen Endentscheid steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG). Die Beschwerdeführer sind als Baugesuchsteller zur Beschwerde gegen die Versagung der Baubewilligung befugt (Art. 89 Abs. 1 BGG).
1.1 Die Beschwerdegegner machen jedoch geltend, auf die Rüge der Verletzung der Gemeindeautonomie sei mangels Legitimation der Beschwerdeführer nicht einzutreten. Diese Rüge könne nur hilfweise, d.h. zur Unterstützung einer anderweitigen Verfassungsrüge, angerufen werden.
Die von ihnen zitierte Rechtsprechung (BGE 119 Ia 214 E. 2c S. 218 mit Hinweisen) erging jedoch zur staatsrechtlichen Beschwerde, die eine Betroffenheit in eigenen rechtlich geschützten Interessen voraussetzte (Art. 88 OG), was rügebezogen geprüft wurde. Dagegen genügt für die Beschwerde in öffentlich-rechtlichen Angelegenheiten, dass die Beschwerdeführer durch den angefochtenen Entscheid besonders berührt sind und ein schutzwürdiges - auch bloss tatsächliches - Interesse an der Aufhebung des angefochtenen Entscheids haben (Art. 89 Abs. 1 BGG).
Nach der bundesgerichtlichen Rechtsprechung zur Beschwerde in öffentlich-rechtlichen Angelegenheiten kann ein zur Beschwerde legitimierter Nachbar die Überprüfung eines Bauvorhabens im Lichte all jener Rechtssätze verlangen, die sich rechtlich oder tatsächlich auf seine Stellung auswirken könnten (BGE 137 II 30 E. 2.2.3 S. 33). Gleiches muss für die Bauherrschaft gelten, die Beschwerde gegen die Aufhebung einer Baubewilligung führt: Sie kann ihre Beschwerde auf alle Normen stützen, die zur Wiederherstellung der Baubewilligung bzw. zur Neubeurteilung des Baugesuchs führen könnten. Dazu gehört grundsätzlich auch die Verletzung der Gemeindeautonomie.
Im Unterschied zur Rechtsprechung zur staatsrechtlichen Beschwerde können sich Private somit stets auf die Gemeindeautonomie berufen, soweit diese Garantie eine Auswirkung auf ihre rechtliche oder tatsächliche Stellung haben kann. Voraussetzung hierfür ist lediglich, dass die Gemeinde hoheitlich gehandelt hat bzw. in ihrer Stellung als Hoheitsträger berührt ist; ob ihr im fraglichen Bereich Autonomie zusteht und ob diese verletzt worden ist, ist eine Frage der materiellen Beurteilung (BGE 135 I 43 E. 1.2 S. 45 f. mit Hinweisen; vgl. dazu unten E. 5).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere die Verletzung von Bundesrecht - einschliesslich Überschreitung oder Missbrauch des Ermessens - gerügt werden (Art. 95 lit. a BGG). Das Bundesgericht prüft die Anwendung des Bundesrechts grundsätzlich von Amtes wegen (Art. 106 Abs. 1 BGG), die Verletzung von Grundrechten dagegen nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Für derartige Rügen gelten qualifizierte Begründungsanforderungen (BGE 133 II 249 E. 1.4.2 S. 254 mit Hinweisen).
2. Das Baugrundstück ist nach der geltenden Bau- und Zonenordnung der Gemeinde Maur (BZO) der Kernzone B (KB) zugeteilt. Das streitige Mehrfamilienhaus mit einem in etwa rhombusförmigen Grundriss soll je zwei Unter-, Voll- und Dachgeschosse aufweisen. Die geplanten vier Wohnungen sind im ersten (anrechenbaren) Untergeschoss, im Erdgeschoss, im Obergeschoss und in den beiden Dachwohnungen (Maisonettewohnung) vorgesehen. Der Grenzabstand des Mehrfamilienhauses gegenüber der südwestlich anstossenden Parzelle Kat.-Nr. 8385, im Eigentum der privaten Beschwerdegegnerschaft, beträgt 5 m. Auf der Südostseite hält das Gebäude einen (Gewässer-)Abstand von 5 m zum Aescherbach ein.
Das Baurekursgericht hob die Baubewilligung wegen Verstosses gegen Art. 29 in Verbindung mit Art. 13 BZO auf, wonach in der Kernzone KB für die Hauptwohnseite im Sektor Südost bis Südwest ein grosser Grundabstand von 7 m gilt. Es führte aus, der Begriff der Hauptwohnseite sei ein kommunaler Rechtsbegriff, welcher der Auslegung zugänglich sei. Bei der Auslegung von kompetenzgemäss erlassenen Abstandsbestimmungen komme der Gemeinde ein erheblicher Ermessensspielraum zu. Die Berufung auf einen solchen setze allerdings voraus, dass der Ermessensspielraum mit einer hinreichenden Begründung des Verwaltungsentscheids oder mit entsprechenden Ausführungen in der Rekursvernehmlassung nachvollziehbar belegt sei. Vorliegend habe sich der Bauausschuss Maur weder in der Baubewilligung noch in der Rekursantwort, auf welche verzichtet worden sei, zum grossen Grundabstand bzw. zur Hauptwohnseite geäussert. Erst anlässlich des Augenscheins habe der Vertreter der Baubehörde erklärt, dass bezüglich der Festlegung der Hauptwohnseite ein Spielraum für die Gemeinde bestehe und er sich den diesbezüglichen Ausführungen der Bauherrschaft anschliesse. Dies genüge den Anforderungen an eine pflichtgemässe Ermessensausübung nicht, sodass das Baurekursgericht sein Ermessen an Stelle desjenigen der Gemeinde setzen könne.
Sinn und Zweck des grossen Grenzabstands sei es, zwischen Gebäude und Grenze auf jener Seite mehr Raum zu schaffen, zu der sich die Wohnungen hauptsächlich orientierten, und so für eine optimale Belichtung und Besonnung zu sorgen. Dies sei vorliegend klarerweise die Südwestseite, weshalb vor dieser der grosse Grundabstand von 7 m einzuhalten sei.
3. Das Verwaltungsgericht schützte diesen Entscheid. Es ging mit der Vorinstanz davon aus, dass sich die kommunale Behörde nur dann auf ihren geschützten Beurteilungsspielraum berufen könne, wenn sie davon auch tatsächlich Gebrauch mache und in pflichtgemässer Abwägung aller in der Sache erheblichen Interessen und Argumente entscheide. Durch eine ausreichende Begründung - spätestens in der Rekursvernehmlassung - sei dieses Abwägen der massgeblichen Elemente in nachvollziehbarer Weise zu belegen. Fehle eine solche Begründung in der angefochtenen Verfügung und werde sie auch im Rekursverfahren nicht nachgebracht, so könne sich die kommunale Behörde nicht auf ihren besonderen Ermessensspielraum berufen und sei das Baurekursgericht berechtigt und verpflichtet, den Sachverhalt uneingeschränkt zu prüfen.
Im vorliegenden Fall hätten die Beschwerdegegner bereits nach der ersten und vor der zweiten Publikation des streitbezogenen Baugesuchs gerügt, dass der grossen Grundabstand von 7 m gegenüber ihrer Liegenschaft nicht eingehalten werde, obschon die Südwestfassade als Hauptwohnseite zu betrachten sei. Dennoch habe der Bauausschuss Maur in der baurechtlichen Bewilligung vom 2. November 2011 im Abschnitt "Grenz- und Gebäudeabstände" mit keinem Wort begründet, weshalb der grosse Grundabstand auf der Südostseite einzuhalten sei. In ihrem Rekurs hätten die Rekurrierenden erneut geltend gemacht, die Annahme der Hauptwohnseite auf der Südost- statt auf der Südwestseite sei willkürlich. Der Bauausschuss habe sich dazu nicht geäussert, sondern habe auf die Erstattung einer Rekursvernehmlassung verzichtet. Unter diesen Umständen habe die Baubehörde nicht in nachvollziehbarer Weise begründet, weshalb die Südostseite die Hauptwohnseite darstelle, und könne sich damit nicht auf einen Ermessensspielraum berufen.
Daran ändere nichts, dass der Vertreter der Baubehörde anlässlich des Augenscheins vom 20. März 2012 bemerkt habe, dass bezüglich der Festlegung der Hauptwohnseite ein Spielraum für die Gemeinde bestehe und die Baubehörde sich den Ausführungen der Bauherrschaft anschliesse. Mit diesem - ohnehin verspäteten - Hinweis habe die Gemeinde nicht mit einer nachvollziehbaren Begründung ihre eigenen Abwägungen zur Frage, welches die Hauptwohnseite darstelle, nachgezeichnet (vgl. TSCHANNEN/ZIMMERLI/MÜLLER, § 26 Rz. 40). Zwar könne die Gemeinde in klaren Fällen auf eigene Ausführungen verzichten (vgl. Urteil des Verwaltungsgerichts VB.2011.00564 vom 8. Februar 2012 E. 3.3.3). Von einer eindeutigen Rechtslage zugunsten des Standpunkts der Bauherrschaft könne vorliegend allerdings nicht gesprochen werden. Das Baurekursgericht habe somit hinsichtlich dieser Fragen eigenes Ermessen ausüben dürfen. Seine Auffassung, wonach die Südwestseite die "Hauptwohnseite" darstelle, liege innerhalb des ihm bei der Auslegung dieses Rechtsbegriffs hier zukommenden Beurteilungsspielraums.
4. Die Beschwerdeführer machen geltend, dass die örtliche Baubehörde anlässlich des Augenscheins vom 20. März 2012 auf die substantiierten Ausführungen der Bauherrschaft verwiesen habe. Diesen Hinweis hätten die Vorinstanzen zu Unrecht als verspätet und als unbeachtlich qualifiziert. Nach ständiger Rechtsprechung des Baurekursgerichts sowie des Verwaltungsgerichts habe die Gemeinde ihre Ermessensbetätigung spätestens im Rekursverfahren darzulegen. Dagegen spiele es keine Rolle, ob diese Ausführungen bereits in der Rekursvernehmlassung oder erst anlässlich eines Augenscheins erfolgten. Die anderslautende Auffassung des Verwaltungsgerichts stehe im Widerspruch zu § 7 des Zürcher Verwaltungsrechtspflegegesetzes vom 24. Mai 1959 (VRG/ZH) und entspreche auch nicht der Praxis des Verwaltungsgerichts (BEZ 2002 Nr. 18; Urteil VB.2011.00564 vom 8. Februar 2012 E. 3.3.3). Dies gelte umso mehr, als der Augenschein gerade der Beantwortung der streitigen Frage diente, wo sich die Hauptwohnseite des Gebäudes befinde; dies hänge einerseits von der konkreten Ausgestaltung des Projekts ab, andererseits aber auch von der massgeblichen Umgebung.
Bei Respektierung eines Ermessensspielraums sei der Entscheid der örtlichen Baubehörde ohne weiteres vertretbar, weshalb das Verwaltungsgericht den Rekursentscheid hätte aufheben müssen. Das Baurekursgericht habe daher seine Kognition überschritten, was Willkür begründe (BGE 136 I 395 E. 2 S. 397 mit Hinweisen), und habe zugleich die verfassungsrechtlich geschützte Gemeindeautonomie der Gemeinde Maur verletzt. Gleiches gelte für den verwaltungsgerichtlichen Entscheid, soweit er den Rekursentscheid bestätige.
5. Art. 50 Abs. 1 BV gewährleistet die Gemeindeautonomie nach Massgabe des kantonalen Rechts.
5.1 Vorliegend ist unstreitig, dass der kommunalen Baubehörde bei der Auslegung von Art. 29 BZO, namentlich bei der Beurteilung, welche Fassade die Hauptwohnseite ist, ein Beurteilungsspielraum und damit Autonomie zusteht. Nicht beanstandet wird auch die Praxis der Zürcher Gerichte, wonach sich die kommunale Behörde auf ihren geschützten Beurteilungsspielraum nur berufen kann, wenn sie davon tatsächlich Gebrauch macht und ihre Abwägung der massgeblichen Elemente in einer ausreichenden Begründung spätestens im Rekursverfahren darlegt. Streitig ist dagegen, ob der blosse Verweis der Gemeinde auf die Stellungnahme der Bauherrschaft genügt und wenn ja, ob dieser Hinweis schon in der Rekursvernehmlassung erfolgen muss.
5.2 Die Einräumung von Gemeindeautonomie bei der Auslegung von Rechtsvorschriften beschränkt die Kognition der Rechtsmittelinstanzen und steht daher in einem gewissen Spannungsverhältnis zu den Rechtsmittelgarantien der EMRK (Art. 6 Ziff. 1 EMRK), des Bundes (Art. 29a BV, Art. 110 BGG, Art. 33 Abs. 3 lit. b RPG) und der Kantone (vgl. Art. 77 Abs. 1 der Kantonsverfassung vom 27. Februar 2005, der für Anordnungen im Verwaltungsverfahren grundsätzlich eine wirksame Überprüfung durch eine Rekursinstanz sowie den Weiterzug an ein Gericht gewährleistet). Einerseits müssen die Gerichte den Spielraum, welcher das Gesetz der Verwaltung und speziell den Gemeindebehörden einräumt, respektieren, andererseits müssen sie einen effektiven Rechtsschutz gewährleisten (vgl. dazu BGE 137 I 235 E. 2.5 S. 239 ff. mit Hinweisen; BENJAMIN SCHINDLER, Die Gemeindeautonomie als Hindernis für einen wirksamen Rechtsschutz, in: Festschrift Tobias Jaag, Zürich 2012, S. 145 ff., insbes. S. 151 f.).
In jedem Fall muss der Anspruch der Beteiligten auf ein faires Verfahren und auf rechtliches Gehör gewahrt werden (Art. 29 Abs. 1 und 2 BV). Daraus folgt die Pflicht der Behörden, ihre Verfügungen und Entscheide zu begründen. Die Begründung eines Entscheids muss so abgefasst sein, dass der Betroffene ihn gegebenenfalls sachgerecht anfechten kann. Dies ist nur möglich, wenn sowohl er wie auch die Rechtsmittelinstanz sich über die Tragweite des Entscheids ein Bild machen können. In diesem Sinne müssen wenigsten kurz die Überlegungen genannt werden, von denen sich die Behörden leiten liess und auf welche sich ihr Entscheid stützt (grundlegend BGE 112 Ia 107 E. 2b S. 109 f.; vgl. auch Botschaft des Bundesrates über eine neue Bundesverfassung vom 20. November 1996, BBl 1997 I 182 zu Art. 25).
Je grösser der der Behörde eingeräumte Ermessens- oder Beurteilungsspielraum ist, umso höher sind die Anforderungen, die an die Begründung eines Entscheids zu stellen sind (BGE 129 I 232 E. 3.3 S. 239 mit Hinweisen). Verfügt eine Gemeinde bei der Anwendung des kommunalen oder kantonalen Rechts über einen nicht unerheblichen Beurteilungsspielraum, muss sie ihren Entscheid so begründen, dass er inhaltlich umfassend nachvollzogen werden kann; aus der Begründung muss insbesondere hervorgehen, welche Interessen und Argumente berücksichtigt wurden und wie deren Gewichtung erfolgte (SCHINDLER, a.a.O., S. 153).
5.3 In den meisten Kantonen geht der Erteilung der Baubewilligung ein Einspracheverfahren voraus, in dem die Nachbarn Einwände gegen das Bauvorhaben vorbringen können; die Gemeinde nimmt dazu im Einsprache- oder im Baubewilligungsentscheid Stellung und begründet ihren Entscheid. Dies ermöglicht es den Einsprechern (bzw. im Fall des Bauabschlags der Bauherrschaft), den Entscheid der Gemeinde nachzuvollziehen und ihn gegebenenfalls sachgerecht anzufechten.
Dagegen kennt der Kanton Zürich kein förmliches Einspracheverfahren; das Rekursrecht der Nachbarn hängt nur (aber immerhin) davon ab, dass sie rechtzeitig die Zustellung des baurechtlichen Entscheids verlangen (§§ 315 ff. des Planungs- und Baugesetzes vom 7. September 1975 [PBG]). Die Nachbarn können bereits mit ihrem Begehren Einwendungen erheben, müssen dies aber nicht (vgl. WALTER HALLER/PETER KARLEN, Raumplanungs-, Bau- und Umweltrecht, 3. Aufl., 1999, Rz. 772 f.). Dies führt dazu, dass die Gewährung des rechtlichen Gehörs und die Begründung eines Bauentscheids z.T. in das Rekursverfahren verlagert werden, und die (vollständige) Begründung des Bauentscheids erst in der Rekursantwort der Gemeinde nachgeschoben wird. Diese ist nicht nur berechtigt, sondern nach Art. 29 Abs. 1 und 2 BV verpflichtet, eine substantiierte Stellungnahme zu den Einwendungen der Rekurrenten abzugeben, soweit dies nicht bereits im Baubewilligungsverfahren geschehen ist.
5.4 Mit dem Verwaltungsgericht ist daher zu verlangen, dass die Gemeinde spätestens im Rekursverfahren selber darlegt, welche Erwägungen für ihren Entscheid massgeblich waren, unter Verweis auf die besonderen Umstände des Falles, die Gewichtung der beteiligten Interessen oder ihre Praxis in vergleichbaren Fällen. Der blosse Hinweis auf die Erwägungen der Bauherrschaft genügt diesen Anforderungen grundsätzlich nicht. Zwar sind Ausnahmen denkbar (z.B. in einfachen oder klar gelagerten Fällen); die Beschwerdeführer machen aber selbst nicht geltend, dass ein solcher Ausnahmefall hier vorliegt.
Unterlässt es die Gemeinde wie im vorliegenden Fall, spätestens im Rekursverfahren ihre Auslegung einer kommunalen Vorschrift genügend zu begründen, so überlässt sie den Entscheid den kantonalen Rechtsmittelinstanzen. Diese können deshalb den angefochtenen Entscheid frei prüfen, ohne die Gemeindeautonomie zu verletzen. Sie sind unter diesen Umständen nicht verpflichtet, auf eine mögliche andere Auslegung der Gemeinde Rücksicht zu nehmen.
6. Die Beschwerdeführer rügen weiter Willkür bei der Rechtsanwendung (Art. 9 Abs. 1 BV).
Willkür liegt nach der Rechtsprechung nicht schon dann vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht weicht vom Entscheid der kantonalen Instanz nur ab, wenn dieser offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 136 I 316 E. 2.2.2 S. 318 f. mit Hinweisen).
Vorliegend vermögen die Beschwerdeführer mit ihren Argumenten allenfalls aufzuzeigen, dass es vertretbar gewesen wäre, die Südostfassade als Hauptwohnseite zu bestimmen, nicht aber, dass der gegenteilige Entscheid des Baurekursgerichts bzw. des Verwaltungsgerichts geradezu willkürlich ist.
7. Das Verwaltungsgericht hat (in E. 3.3 des angefochtenen Entscheids) dargelegt, weshalb der Entscheid des Baurekursgerichts, die Südwestseite als Hauptwohnseite zu bezeichnen, rechtlich nicht zu beanstanden sei. Dabei hat es implizit auch die Argumente der Beschwerdeführer widerlegt (z.B. betr. Autolift und Bedeutung der Aussenräume). Die Rüge der Verletzung des rechtlichen Gehörs erweist sich damit als unbegründet.
8. Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen. Es bleibt somit bei der Aufhebung der Baubewilligung.
Damit wird auch die wasserbaupolizeiliche Bewilligung der Baudirektion Kanton Zürich vom 20. Juli 2011 hinfällig. Insofern erübrigt sich die Prüfung, ob diese Verfügung mit den am 1. Juni 2011 in Kraft getretenen Übergangsbestimmungen zur Änderung der Gewässerschutzverordnung vom 4. Mai 2011 (GSchV; SR 814.201) vereinbar ist.
Bei diesem Ausgang des Verfahrens werden die Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 und 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden den Beschwerdeführern auferlegt.
3. Die Beschwerdeführer haben die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Bauausschuss Maur, der Baudirektion und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 7. Mai 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Die Gerichtsschreiberin: Gerber