Sachverhalt:
A. Die Baukommission der Gemeinde Lindau erteilte am 22. Mai 2008 der C._AG unter Nebenbestimmungen die Baubewilligung für eine Arealüberbauung mit drei Mehrfamilienhäusern und einer Unterniveaugarage auf dem Grundstück Kat.-Nr. 767 in Lindau.
Die Baurekurskommission III des Kantons Zürich hiess am 21. Januar 2009 die Rekurse verschiedener Nachbarn, unter ihnen A._ und B._, gut und hob die Baubewilligung auf. Sie erwog, das Bauvorhaben genüge den nach § 71 des Planungs- und Baugesetzes vom 7. September 1975 (PBG) für Arealüberbauungen geltenden erhöhten Gestaltungsanforderungen nicht, weshalb die Baubewilligung aufzuheben sei, ohne dass die weiteren Rügen zu prüfen wären.
Die Gemeinde Lindau und die C._AG erhoben gegen diesen Rekursentscheid Beschwerde ans Verwaltungsgericht des Kantons Zürich. Dieses kam im Urteil vom 7. Oktober 2009 zum Schluss, die örtliche Baubehörde habe entgegen der Auffassung der Baurekurskommission III ihren Ermessensspielraum nicht überschritten, indem sie dem Bauvorhaben die vom Gesetz verlangte besondere Qualität zugebilligt habe. Es hiess die Beschwerden gut, hob den angefochtenen Entscheid der Baurekurskommission III auf und wies die Akten zu weiterer Untersuchung und neuem Entscheid an diese zurück.
Das Bundesgericht trat mit Urteil 1C_24/2010 vom 24. Juni 2010 auf die von A._ und B._ gegen dieses Verwaltungsgerichtsurteil erhobene Beschwerde nicht ein.
B. B.a Am 29. September 2010 wies die Baurekurskommission III die Rekurse von D._ und E._ einerseits und von A._ und B._ anderseits ab. Sie unterzog sich der Bindungswirkung des verwaltungsgerichtlichen Rückweisungsentscheids vom 7. Oktober 2009 und übernahm dessen Beurteilung, wonach die Baukommission Lindau ihr Ermessen nicht überschritten habe, indem sie dem Bauvorhaben die vom Gesetz verlangte besondere Qualität zubilligte. Die weiteren Einwände von D._ und E._ beurteilte sie als unbegründet.
B.b Mit Eingabe vom 3. November 2010 erhoben A._ und B._ Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen das Urteil des Verwaltungsgerichts vom 7. Oktober 2009. A._ und B._ einerseits sowie D._ und E._ erhoben zudem Beschwerde ans Verwaltungsgericht und beantragten im Wesentlichen, den Rekursentscheid und die Baubewilligung aufzuheben.
B.c Das Bundesgericht trat mit Urteil 1C_506/2010 vom 11. Januar 2011 auf die von A._ und B._ gegen dieses Verwaltungsgerichtsurteil erhobene Beschwerde nicht ein.
B.d Das Verwaltungsgericht trat am 9. März 2011 auf die Beschwerde von A._ und B._ nicht ein und wies diejenige von D._ und E._ ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen A._ und B._, die Entscheide des Verwaltungsgerichts vom 7. Oktober 2009 und vom 9. März 2011 sowie die mit Beschluss der Baukommission Lindau vom 22. Mai 2008 erteilte Baubewilligung für eine Arealüberbauung auf dem Grundstück Kat.-Nr. 767 in Lindau aufzuheben. Sie verlangen, alle Akten, inklusive des Modells, beizuziehen. Ausserdem ersuchen sie, ihrer Beschwerde aufschiebende Wirkung zuzuerkennen.
Das Verwaltungsgericht verzichtet auf Vernehmlassung und beantragt, die Beschwerde abzuweisen. Es teilt mit, das Modell sei der Bauherrschaft bereits zurückgegeben worden.
Die C._AG beantragt, die Beschwerde abzuweisen und den Entscheid des Verwaltungsgerichts vom 9. März 2011 zu bestätigen. Die Gemeinde Lindau verweist auf die Vorakten und verzichtet auf eine erneute Vernehmlassung.
D. Der Präsident der I. öffentlich-rechtlichen Abteilung hat der Beschwerde am 6. Juni 2011 aufschiebende Wirkung zuerkannt.
E. A._ und B._ verzichten auf eine Replik.
Erwägungen:
1. Mit den angefochtenen Entscheiden vom 7. Oktober 2009 und vom 9. Mai 2011 hat das Verwaltungsgericht die umstrittene Baubewilligung der Gemeinde Lindau vom 22. Mai 2008 geschützt. Es liegen mithin kantonal letztinstanzliche Endentscheide in einer Angelegenheit des öffentlichen Rechts vor, gegen die die Beschwerde zulässig ist, da kein Ausschlussgrund vorliegt (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG). Die Beschwerdeführer rügen die Verletzung von Bundesrecht, was zulässig ist (Art. 95 lit. a BGG). Als Parteien des vorinstanzlichen Verfahrens und unmittelbare Nachbarn der Bauparzelle sind sie beschwerdebefugt (Art. 89 Abs. 1 lit. a BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, womit auf die Beschwerde einzutreten ist.
Die Anträge auf Durchführung eines Augenscheins und Beizug des Modells der Überbauung, dessen fotografische Abbildung sich im Dossier befindet, sind abzulehnen, da sich der rechtserhebliche Sachverhalt mit ausreichender Klarheit aus den Akten ergibt.
2. 2.1 Nach Art. 12 der Bau- und Zonenordnung der Gemeinde Lindau vom 10. April 1995 (BZO) ist in der Wohnzone W2 eine Ausnützung von 1.3 m3 pro m2 zulässig. Arealüberbauungen sind in dieser Zone ab einer Fläche von 3'000 m2 zulässig (Art. 20 BZO). Erfüllt ein Vorhaben die Anforderungen an eine Arealüberbauung gemäss § 71 PBG, kann die Baumassenziffer in der Zone W2 um 0.2 m3 pro m2 erhöht werden (Art. 21 Abs. 1 BZO). Nach § 71 Abs. 1 PBG müssen bei Arealüberbauungen die Bauten und Anlagen sowie deren Umschwung besonders gut gestaltet sowie zweckmässig ausgestattet und ausgerüstet sein. "Bei der Beurteilung sind insbesondere folgende Merkmale zu beachten: Beziehung zum Ortsbild sowie zur baulichen und landschaftlichen Umgebung; kubische Gliederung und architektonischer Ausdruck der Gebäude; Lage, Zweckbestimmung, Umfang und Gestaltung der Freiflächen; Wohnlichkeit und Wohnhygiene; Versorgungs- und Entsorgungslösung; Art und Grad der Ausrüstung" (Abs. 2).
2.2 Die Gemeinde Lindau bewilligte der Beschwerdegegnerin am 22. Mai 2008, das Wohnhaus auf ihrer 4'888 m2 grossen, in der Wohnzone W2 gelegenen Parzelle Kat.-Nr. 767 abzubrechen und das Grundstück neu mit drei Mehrfamilienhäusern mit Unterniveaugarage zu überbauen. Das Bauvorhaben weist eine Baumasse von 7'328 m3 auf und überschreitet damit die in der Wohnzone W2 zulässige Ausnützung (1.3 m3 x 4'888 = 6'354 m3). Es ist auf den Arealüberbauungsbonus von 0.2 m3 pro m2 angewiesen und schöpft die um diese erhöhte maximale Ausnützung (1.5 m3 x 4'888 = 7'332 m3) praktisch aus. Hauptstreitpunkt in der Sache ist, ob die vom Verwaltungsgericht geschützte Einräumung des Arealüberbauungsbonus vor dem Willkürverbot standhält.
2.3 Das Verwaltungsgericht hat erwogen (angefochtener Entscheid vom 7. Oktober 2009, E. 3.3, S. 9 f.), die Überbauung trage den topographischen Gegebenheiten - der Hanglage und dem Hangverlauf - hinreichend Rechnung und erwecke nicht den Eindruck einer "ins Quartier gestellten Mauer". Es sei in einordnungsrelevanter Hinsicht vertretbar, dass unter den einzelnen Gebäuden keine höhenmässige Staffelung vorgenommen werde. Ästhetisch vertretbar sei das Projekt hinsichtlich der Abgrabungen und Terrassierungen zur Schaffung von Spielplätzen und Gärten. Die örtliche Baubehörde sei mit der Bejahung der besonderen Qualität am unteren Bereich der zulässigen Anforderungshöhe geblieben und es möge zutreffen, dass die Bauten, einzeln betrachtet, lediglich befriedigend gestaltet seien. Insgesamt vermöge die Vorinstanz nicht aufzuzeigen, dass die ästhetische Würdigung der kommunalen Baubehörde den Rahmen des Vertretbaren sprenge.
Das Verwaltungsgericht hat somit die für die Gesamtwirkung im Sinn von § 238 Abs. 1 PBG relevanten Einzelaspekte als genügend ("befriedigend gestaltet", "in gestalterischer Hinsicht vertretbar", "ästhetisch vertretbar") beurteilt; in keinem Punkt hat es dem Bauvorhaben besondere Qualitäten zuerkannt. Gleichwohl kam das Verwaltungsgericht zum Schluss, die Arealüberbauung erfülle die Voraussetzungen der besonders guten Gestaltung im Sinn von § 71 PBG, weil die Überbauung infolge einheitlicher Gestaltung der Bauten und des Umschwungs ein Gestaltungsniveau erreiche, das im Vergleich zur Überbauung des Areals mit verschiedenartigen, für sich allein ebenfalls befriedigend gestalteten Einzelbauten als besonders gut qualifiziert werden könne. Abgesehen davon, dass ein alternatives Projekt, das einen Vergleich erst erlauben würde, nicht existiert, ist es begriffs- und rechtslogisch unhaltbar, eine Arealüberbauung deshalb als den Anforderungen an eine besonders gute Gestaltung entsprechend zu werten, weil es eine Überbauung mit Einzelbauten nicht wäre. § 71 PBG verlangt vielmehr, dass die Arealüberbauung als solche in Bezug auf das Ortsbild und zur baulichen und landschaftlichen Umgebung das Prädikat einer besonders guten Gestaltung verdient, und nicht, dass eine (unbekannte) Alternative zu einer Arealüberbauung dieses Prädikat nicht verdienen würde. Diese Auslegung und Anwendung der §§ 71 und 238 PBG höhlt zudem den Gehalt dieser Bestimmungen weitgehend aus und ist offensichtlich unvertretbar. Das Verwaltungsgericht ist in Willkür verfallen, indem es die Baubewilligung geschützt hat. Die Rüge ist begründet.
3. Damit ist die Beschwerde gutzuheissen, soweit darauf einzutreten ist, ohne dass die weiteren Rügen geprüft zu werden brauchen. Die angefochtenen Entscheide des Verwaltungsgerichts sind aufzuheben und die Sache ist an die Vorinstanz zur Neuregelung der Kosten- und Entschädigungsfolgen zurückzuweisen. Bei diesem Ausgang des Verfahrens wird die Beschwerdegegnerin kostenpflichtig (Art. 66 Abs. 1 BGG). Sie hat ausserdem den obsiegenden Beschwerdeführern für das bundesgerichtliche Verfahren eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Die Entscheide des Verwaltungsgerichts vom 7. Oktober 2009 und vom 9. März 2011, soweit die Beschwerdeführer betreffend, sowie die Baubewilligung der Gemeinde Lindau vom 22. Mai 2008 werden aufgehoben und die Sache zur Neuregelung der Kosten- und Entschädigungsfolgen an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführern für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 2'500.-- zu bezahlen.
4. Dieses Urteil wird den Parteien, der Gemeinde Lindau und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 3. November 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi