Sachverhalt:
A. E._ ist Eigentümerin des Grundstücks Kat.Nr. 279 in der Wohnzone W1 der Gemeinde Aeugst am Albis. Die Parzelle liegt im Perimeter des öffentlichen Gestaltungsplans Stümel vom 24. Juni 1987 / 4. Dezember 1997 (im Folgenden: GP Stümel).
E._ plant den Ausbau ihres Dachgeschosses. Hierfür ersuchte sie den Gemeinderat Aeugst am Albis um einen rekursfähigen Vorentscheid zur Interpretation der baurechtlichen Grundlagen des Gestaltungsplans. Am 20. September 2011 beantwortete der Gemeinderat im Rahmen eines baurechtlichen Vorentscheids mit Drittwirkung vier Fragen: zwei zur Geschosszahl (Fragen 1a und 1b) und zwei zur Gebäudehöhe (Fragen 2a und 2b).
B. Den dagegen erhobenen Rekurs von A._ und weiteren unmittelbaren Nachbarn hiess das Baurekursgericht am 21. Februar 2012 teilweise gut. Es hob den angefochtenen Beschluss hinsichtlich der Beantwortung von Fragen 2a und 2b auf, weil die Gesuchstellerin auf die Drittverbindlichkeit dieser Antworten verzichtet habe und Vorentscheide ohne Drittverbindlichkeit gegen Art. 33 Abs. 3 lit. a RPG verstiessen.
Dagegen wies es die Beschwerden hinsichtlich der Beantwortung der Fragen 1a und 1b ab. Diese lauten:
Frage 1a: "Gilt die Vorschrift in Art. 10.1 BZO, wonach die Geschossanordnungen in der Wohnzone W1 innerhalb der Gebäude- und Firsthöhe frei wählbar sind, auch für den GP Stümel?"
Antwort: "Ja, die Geschossanordnungen in der W1 wie auch im GP Stümel sind innerhalb der Gebäude- und Firsthöhe frei wählbar."
Frage 1b: "Kann das beabsichtigte Bauvorhaben im Perimeter des GP Stümel ein Untergeschoss und zwei Vollgeschosse aufweisen?"
Antwort: "Ja, wenn die Geschossanordnungen frei wählbar sind, kann ein Bauvorhaben ein Untergeschoss und zwei Vollgeschosse aufweisen."
C. Dagegen führten A._ und Mitbeteiligte am 14. März 2012 Beschwerde beim Verwaltungsgericht des Kantons Zürich. Sie beantragten, der angefochtene Vorentscheid sei auch hinsichtlich der Beantwortung der Fragen 1a und 1b aufzuheben. Am 11. Juli 2012 wies das Verwaltungsgericht die Beschwerde ab.
D. Gegen den verwaltungsgerichtlichen Entscheid haben A._ und Mitbeteiligte am 13. September 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde erhoben. Sie beantragen, der angefochtene Entscheid und der Vorentscheid vom 20. September 2011 seien aufzuheben. Eventualiter sei die Sache an den Gemeinderat zur Neubeurteilung im Sinne der Erwägungen zurückzuweisen.
E. Die Beschwerdegegnerin beantragt, die Beschwerde in öffentlich-rechtlichen Angelegenheiten sei abzuweisen, soweit darauf einzutreten sei; auf die subsidiäre Verfassungsbeschwerde sei nicht einzutreten. Der Gemeinderat Aeugst am Albis schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werde.
F. Im weiteren Schriftenwechsel halten die Parteien an ihren Anträgen fest.
G. Mit Verfügung vom 8. Oktober 2012 wurde der Beschwerde die aufschiebende Wirkung erteilt.

Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid (<ref-law>) in Bausachen, d.h. in einer öffentlich-rechtlichen Angelegenheit (<ref-law>). Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offen, insbesondere ist kein Ausschlussgrund nach <ref-law> gegeben. Insofern bleibt kein Raum für eine subsidiäre Verfassungsbeschwerde (<ref-law>).
1.1 Der angefochtene Entscheid bestätigt einen drittwirksamen baurechtlichen Vorentscheid gemäss §§ 323 f. des Zürcher Gesetzes über die Raumplanung und das öffentliche Baurecht vom 7. September 1975 (Planungs- und Baugesetz; PBG/ZH). Danach können über Fragen, die für die spätere Bewilligungsfähigkeit eines Bauvorhabens grundlegend sind, Vorentscheide eingeholt werden. Der Vorentscheid ist hinsichtlich der behandelten Fragen in gleicher Weise verbindlich, gültig und öffentlich-rechtlich anfechtbar wie baurechtliche Bewilligungen; dies gilt auch gegenüber Dritten, wenn das Verfahren wie für Bewilligungen durchgeführt worden ist.
Nach der bundesgerichtlichen Rechtsprechung sind baurechtliche Vorentscheide grundsätzlich als Zwischenentscheide i.S.v. <ref-law> zu qualifizieren, weil sie lediglich einen Zwischenschritt auf dem Weg zur Erlangung der Baubewilligung darstellen (<ref-ruling> E. 1.3.1 S. 33 f. mit Hinweisen). Allerdings würde das kantonale Institut des drittwirksamen, verbindlichen Vorentscheids weitgehend seines Gehalts entleert, wenn dieser nicht selbstständig vor Bundesgericht angefochten werden könnte. Das Bundesgericht bejaht daher einen nicht wieder gutzumachenden (tatsächlichen) Nachteil i.S.v. <ref-law> grundsätzlich, wenn es dem Beschwerdeführer bei der Anfechtung nicht lediglich darum geht, eine Verlängerung oder Verteuerung des Verfahrens zu verhindern, sondern in erster Linie Rechtssicherheit und Transparenz sowohl für die Bauwilligen als auch für mögliche Drittbetroffene geschaffen werden sollen, und eine vorzeitige Prüfung einzelner baurechtlicher Fragen den Grundsätzen der Koordination im Sinne von Art. 25a RPG nicht widerspricht oder ein Abwarten des Endentscheides aus anderen Gründen als nötig oder zumutbar erscheint (<ref-ruling> E. 1.3.4 und 1.3.5 S. 35 ff. mit Hinweisen).
Vorliegend sind diese Voraussetzungen erfüllt, weshalb auf die Beschwerde grundsätzlich einzutreten ist.
Der Streitgegenstand ist durch die Antworten auf die Fragen 1a und 1b des Vorentscheids umgrenzt, d.h. er beschränkt sich auf die zulässige Anzahl von Vollgeschossen.
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht - einschliesslich Überschreitung oder Missbrauch des Ermessens - gerügt werden (<ref-law>). Das Bundesgericht wendet das Bundesrecht grundsätzlich von Amtes wegen an (<ref-law>). Die Verletzung von Grundrechten - einschliesslich die willkürliche Anwendung von kantonalem Recht - wird vom Bundesgericht nur insoweit geprüft, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Für derartige Rügen gelten qualifizierte Begründungsanforderungen (<ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein.
Es ist an den von der Vorinstanz festgestellten Sachverhalt gebunden, soweit dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Art. 105 und Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel können nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>). Insoweit ist den erstmals vor Bundesgericht gestellten Anträgen auf die Befragung von Auskunftspersonen nicht Folge zu geben.
2. Streitig ist, ob auf dem in der Zone W1 liegenden Baugrundstück nur ein Vollgeschoss erstellt werden darf (neben einem Unter- und einem Dachgeschoss), oder ob das Dachgeschoss als zweites Vollgeschoss ausgebaut werden darf.
Gemäss Art. 1 Satz 2 GP Stümel gilt die Bau- und Zonenordnung der Gemeinde Aeugst am Albis vom 24. Juni 1987 / 4. Dezember 1997 (BZO), wenn der Gestaltungsplan keine besonderen Regelungen enthält.
Art. 1.1 BZO führt die in Aeugst am Albis vorkommenden Bauzonen auf; dazu gehören die eingeschossige Wohnzone W1 und die zweigeschossige Wohnzone W2.
Art. 10 BZO enthält die allgemeinen Bauvorschriften der Wohnzonen W1 und W2. Abs. 1 normiert die Grundmasse wie folgt
Zone W1 W2 Vollgeschosse *1) max. 2 Dachgeschosse *1) max. 1 Anrechenbare Untergeschosse *1) -
Gebäudehöhe max. 4,8 m max. 6,5 m Firsthöhe *2) max. 2,5 m max. 4,0 m ...
*1) Die Geschossanordnungen sind innerhalb der Gebäude- und Firsthöhe frei.
*2) Die Firsthöhe kann um das Unterschreiten der Gebäudehöhe vergrössert werden.
3. Das Verwaltungsgericht berief sich auf § 58 Abs. 2 PBG/ZH, wonach die Bau- und Zonenordnung die Gebäudehöhe oder die Gesamthöhe ohne Festlegung einer Geschosszahl bestimmen könne. Inwiefern diese Kompetenznorm, die den Gemeinden erlaube, die Gebäudehöhe entweder durch die maximale Vollgeschosszahl nach § 279 Abs. 1 PBG/ZH oder masslich zu definieren, hier missachtet worden sei, lasse sich der Beschwerde nicht entnehmen. Ebenso wenig lasse sich eine Verletzung der Ermächtigungsnorm von § 276 Abs. 2 PBG erkennen, denn diese Vorschrift beschränke sich darauf, die Anrechenbarkeit von Geschossen zu definieren.
Entgegen der Auffassung der Beschwerdeführenden sei der Wortlaut der anzuwendenden Bestimmung nicht klar, weshalb eine Auslegung erforderlich sei. Das Baurekursgericht habe zutreffend erwogen, dass aus den in der BZO enthaltenen Bezeichnungen "eingeschossige Wohnzone" und "Wohnzone W1" nicht geschlossen werden dürfe, dass in diesen Bereichen nur eingeschossige Bauten zulässig seien. Ihre inhaltliche Bedeutung erschöpfe sich in der Namensgebung und Abgrenzung gegenüber anderen Zonen, wie etwa der Wohnzone W2. Die von den anfechtenden Nachbarn vertretene engere Auslegung sei nicht sachgemäss und würde wohl den konkreten Geschosszahlvorschriften aller zürcherischen Nutzungsplanungen zuwiderlaufen, da zur namensgebenden Zahl einer Bauzone regelmässig Untergeschosse und Dachgeschosse unterschiedlicher Zahl dazu kämen. Dies gelte auch für die Gemeinde Aeugst am Albis, wo etwa in der Zone W2 neben zwei Vollgeschossen ein Dachgeschoss erlaubt sei.
Der Umstand, dass Art. 10.1 BZO die Anzahl zulässiger Vollgeschosse in der Zone W1 ausdrücklich offen lasse, spreche für die von der Beschwerdegegnerschaft verfochtene weite Auslegung, zumal die in der Zone W2 erlaubten Vollgeschosse ausdrücklich auf zwei beschränkt seien. Im Bericht zur Revision der Ortsplanung 1997 sei denn auch ausdrücklich darauf hingewiesen worden, dass auf eine Ausnützungsziffer und Geschosszahlregelung verzichtet werde. Die Interpretation der Beschwerdeführenden, wonach nur die Anordnung der vorgegebenen Geschosse, nicht aber deren Anzahl frei sei, erscheine dagegen wenig sinnvoll, würde dies doch auch ohne die fragliche Regelung gelten.
Aus der Formulierung von Art. 1.1 BZO müsse unter diesen Umständen nichts anderes abgeleitet werden. Vielmehr liege es innerhalb des der Gemeinde zustehenden Ermessens, nicht eine Beschränkung auf ein Vollgeschoss vorzunehmen, sondern eine eingeschossige Erscheinung genügen zu lassen. Eine solche sei zumindest nicht auszuschliessen bei einem "normalen" Vollgeschoss und einem als Vollgeschoss geltenden Dachgeschoss mit einer Kniestockhöhe von mehr als 90 cm.
4. Die Beschwerdeführer halten die Auslegung von Art. 1.1 und Art. 10.1 BZO durch die Vorinstanzen für willkürlich (<ref-law>).
Gemäss Art. 1.1 BZO handle es sich bei der Zone W1 um eine eingeschossige und bei der Zone W2 um eine zweigeschossige Wohnzone. Der Wortlaut dieser Bestimmung sei klar, weshalb kein Interpretationsspielraum bestehe. Dementsprechend lege Art. 10.1 BZO fest, dass in der W2 maximal 2 Vollgeschosse und ein Dachgeschoss zulässig seien. In Bezug auf die Zone W1 ergebe sich daraus zwingend, dass in dieser eingeschossigen Wohnzone nur ein Vollgeschoss zulässig sei. Zulässig sei daher die Kombination eines Vollgeschosses mit einem Unter- und/oder einem Dachgeschoss; sei das Dachgeschoss oder das Untergeschoss als Vollgeschoss ausgestaltet, sei daneben kein weiteres Vollgeschoss zulässig (§ 276 Abs. 2 PBG/ZH). Die in Fussnote 1 zu Art. 10.1 BZO statuierte freie Geschossanordnung sage nichts über die Anzahl und die Art der Geschosse aus.
Die Auffassung der Vorinstanzen, wonach es genüge, dass ein Gebäude eingeschossig "in Erscheinung trete", sei nicht ansatzweise begründet und verletze daher den Anspruch auf rechtliches Gehör. Anders beispielsweise als in Art. 6.2 BZO (betr. zweigeschossig in Erscheinung tretende Fassaden in der Kernzone) gehe es in Art. 1.1 BZO nicht um die Fassadengestaltung, sondern um die Bauzone. Im Übrigen könne ein Gebäude mit zwei Vollgeschossen und einem Untergeschoss gar nicht eingeschossig in Erscheinung treten.
Dies bestätige auch die Vorlage für die Gemeindeversammlung vom 4. Dezember 1997 zur Revision der Ortsplanung: Im Dokument "Wohnzone W1 + W2 (bisher E1 + E2) / Ausnützungs-/Überbauungsziffer-Vergleich zum altrechtlichen Stand 1987"), sei sowohl für die bisherige Zone E1 als auch für die neurechtliche Zone W1 von einem zulässigen Vollgeschoss ausgegangen worden. Die Vorinstanzen hätten dieses Vorbringen gänzlich ausser Acht gelassen und damit das rechtliche Gehör verletzt.
Die bestehende Überbauung im Gestaltungsplangebiet Stümel bestehe praktisch ausnahmslos aus Bauten, die nur ein Vollgeschoss aufwiesen. Dies gelte nicht nur für die unter der BZO 1987 bewilligten Bauten, sondern - mit wenigen Ausnahmen - auch für die unter der BZO 1998 entstandenen bzw. umgebauten Gebäude. Hierfür reichen die Beschwerdeführer einen Plan des Gestaltungsplangebiets Stümel ein, in dem die Bauten je nach Bewilligung (gemäss BZO 1963, 1987 oder 1998) koloriert sind. Lasse man künftige mehrgeschossige Bauten in der W1 zu, werde das architektonische Konzept des Gestaltungsplans erheblich beeinträchtigt.
Im Übrigen sind die Beschwerdeführer der Auffassung, dass sich innerhalb der maximalen Gebäudehöhe von 4,80 m ab gewachsenem Terrain weitere Vollgeschosse gar nicht realisieren liessen.
Schliesslich rügen sie eine Verletzung der Rechtsgleichheit (<ref-law>), weil die Gemeinde ihre bisherige, konsequente und einheitliche Praxis, in der W1 nur eingeschossige Bauten zuzulassen, ohne sachlichen Grund geändert habe. Wenn die Gemeinde neu eine verdichtete Bauweise wünsche, müsse sie hierfür die BZO revidieren. Sofern das Verwaltungsgericht das Vorliegen einer Praxisänderung verneine, liege eine offensichtlich unrichtige Sachverhaltsfeststellung vor.
5. Die Beschwerdegegnerin legt dar, dass den Gemeinden mit der Revision des PBG/ZH, die am 1. Februar 1992 in Kraft getreten ist, weitgehende Freiheit eingeräumt worden sei; insbesondere sei ihnen gestattet worden, auf Geschosszahlvorschriften in ihren Bauordnungen zu verzichten, und lediglich die Gebäude- und Firsthöhe festzulegen. Die Bezeichnungen W1 und W2 entsprächen daher nicht zwingend der erlaubten Zahl der Vollgeschosse. Die Gemeinde Aeugst habe bei der BZO-Revision bewusst auf eine fixe Geschosszahl verzichtet. Demgemäss sei auf S. 8 des Berichts zur Revision der Ortsplanung vom 16. September 1997 festgehalten worden (im Original ohne Fettdruck):
"Die Überbauungsziffer wird eingeführt, damit die Auswirkungen der möglichen Verdichtung in Grenzen gehalten werden, d.h. die Grünstruktur und Durchsichten erhalten bleiben. In der Wohnzone W1, in der auf eine Ausnützungsziffer und Geschosszahlregelung verzichtet wird, ergibt sie zusammen mit Gebäude- und Firsthöhe den Rahmen für die Ausnützungsmöglichkeit einer Parzelle".
Im Anhang des Berichts sei das Begehren um Erhöhung der Ausnützung im Gebiet Stümel und auf Änderung der Vollgeschosszahl in der Wohnzone W1 von 1 auf 2 dahingehend beantwortet worden:
"Die neue Fassung für die Wohnzone W1 verzichtet auf die Ausnützungsziffer und ein Festlegen der Geschosszahl. Es gelten anstelle dessen noch die Überbauungsziffer, die Gebäude- und Firsthöhe".
Die von den Beschwerdeführern zitierte Übersicht sei ein isoliertes Berechnungsbeispiel, das die Konsequenzen des Systemwechsels von der Ausnützungs- zur Überbauungsziffer zeige, ausgehend von den altrechtlichen Vorgaben. Altrechtlich sei aber die Geschossanzahl noch auf ein Vollgeschoss beschränkt gewesen.
Die Beschwerdegegnerin verweist auf Fussnote 1 zu Art. 10.1 BZO: Die freie Geschossanordnung innerhalb der Gebäude- und Firsthöhe impliziere, dass aus mehreren Geschossen gewählt werden könne, was der geltend gemachten Eingeschossigkeit klar widerspreche.
Im Übrigen werde sich auch bei der Zulassung von zwei Vollgeschossen der Quartiercharakter nicht wesentlich verändern, weil die Baubegrenzungsnormen (Gebäudehöhe, Firsthöhe) unverändert geblieben seien (Art. 10.1 BZO; Art. 2 GP Stümel).
6. Der Gemeinderat Aeugst am Albis hält den eingereichten, von den Beschwerdeführern "illustrierten" Gestaltungsplan für ein unzulässiges Novum (<ref-law>). Im Übrigen lasse sich aus dem bestehenden Erscheinungsbild des Quartiers nichts ableiten, da die grosse Mehrzahl der bestehenden Bauten unter der früheren BZO bewilligt worden seien, die nur ein Vollgeschoss zuliess, und es auch nach neuem Recht zulässig sei, die mögliche Ausnützung zu unterschreiten. Im Übrigen räumten die Beschwerdeführer selbst ein, dass es im Planperimeter auch mehrgeschossige Objekte gebe. Da keine Praxisänderung vorliege, stosse die Rechtsgleichheitsrüge ins Leere.
7. Willkür liegt nach der Rechtsprechung nicht schon dann vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht weicht vom Entscheid der kantonalen Instanz nur ab, wenn dieser offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 2.2.2 S. 318 f. mit Hinweisen).
Die Vorinstanzen haben die Bestimmungen der BZO unter Berücksichtigung von Wortlaut, Systematik und Entstehungsgeschichte ausgelegt. Dabei kann ihnen weder Willkür noch eine Verletzung der Begründungspflicht und des rechtlichen Gehörs vorgeworfen werden:
Die Bezeichnung der Zone in Art. 1.1 BZO ("eingeschossige Wohnzone W1") mag, auf den ersten Blick und isoliert betrachtet, eindeutig erscheinen. Berücksichtigt man jedoch die Regelung in Art. 10.1 BZO, den Bericht zur Revision der Ortsplanung vom 16. September 1997 und die auch in anderen Gemeinden des Kantons Zürich übliche Benennung der Bauzonen, so ist es keineswegs willkürlich, von der Auslegungsbedürftigkeit der Bestimmung auszugehen.
Art. 10.1 BZO enthält nur für die W2 eine maximale Geschosszahl; für die W1 findet sich nur eine Fussnote mit dem Hinweis auf die freie Geschossanordnung innerhalb der Gebäude- und Firsthöhe. Daraus lässt sich willkürfrei schliessen, dass die BZO bei der W1 - anders als bei der W2 - auf die Festlegung der Geschosszahl verzichtet hat. Dies entspricht auch den Intentionen der Gemeinde gemäss dem Bericht der Revision der Ortsplanung vom 16. September 1997; hierfür kann auf die Zitate (oben, E. 5) verwiesen werden.
Angesichts der klaren Aussagen im Bericht zur Ortsplanungsrevision, wonach für die W1 auf die Festlegung von Geschosszahlen verzichtet werde, kommt dem von den Beschwerdeführern zitierten Dokument keine besondere Bedeutung zu: Es handelt sich um ein Berechnungsbeispiel, das die Konsequenzen des Übergangs von der Ausnützungs- zur Überbauungsziffer aufzeigt, und dabei von einem Vollgeschoss ausgeht, ohne jedoch zur Frage der zulässigen Geschosszahl ausdrücklich Stellung zu nehmen. Insofern durften die Vorinstanzen dieses Dokument ausser Acht lassen, ohne das rechtliche Gehör der Beschwerdeführer zu verletzen.
Inwiefern ein Gebäude mit zwei Vollgeschossen innerhalb der von BZO und Gestaltungsplan vorgegebenen Höhenbestimmungen realisiert werden kann, ist im vorliegenden Verfahren nicht zu prüfen. Immerhin sprechen die relativ strengen Höhenvorschriften gegen die von den Beschwerdeführern befürchtete vollständige Veränderung des Quartiercharakters und Verbauung der Aussicht bei Freigabe der Vollgeschosszahl.
8. Ob es sich bei dem von den Beschwerdeführern eingereichten kolorierten Gestaltungsplan um ein zulässiges Novum handelt, kann offenbleiben, weil sich daraus nicht auf eine Praxisänderung der Gemeinde schliessen lässt: Vielmehr zeigt der Plan selbst auf, dass bis zum Inkrafttreten der BZO 1998 - der damaligen Rechtslage entsprechend - nur eingeschossige Bauten in der W1 bewilligt worden sind (im Plan blau und grün koloriert), während sich bei den seither, nach neuem Recht bewilligen Bauten bzw. Umbauten (im Plan orange gefärbt) neben eingeschossigen Bauten auch Bauten befinden, die ein zweites Vollgeschoss aufweisen (mit "U" gekennzeichnet) bzw. deren Eingeschossigkeit fragwürdig sei (mit "N" gekennzeichnet).
9. Nach dem Gesagten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens werden die Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 und 68 BGG). Die Gemeinde Aeugst obsiegt in ihrem amtlichen Wirkungskreis und hat daher keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden den Beschwerdeführern auferlegt.
3. Die Beschwerdeführer haben E._ für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Aeugst am Albis und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 27. Februar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Die Gerichtsschreiberin: Gerber