Sachverhalt:
A. Die Sunrise Communications AG (Sunrise) will auf dem SBB-Areal, Grundstück Kat.-Nr. 7340, an der Alten Landstrasse 2 in Männedorf, eine Basisstation für GSM- und UMTS-Mobilfunk errichten. Diese soll als Gemeinschaftsanlage zusammen mit der Swisscom Schweiz AG (Swisscom) und der SBB betrieben werden. Das Baugrundstück, auf dem sich bereits heute eine Antennenanlage befindet, liegt in der Zone für öffentliche Bauten Oe2.
Mit Beschluss vom 4. September 2008 erteilte der Hochbau- und Planungsausschuss Männedorf die Baubewilligung.
B. Den dagegen von X._, Y._ und Z._ erhobenen Rekurs hiess die Baurekurskommission II des Kantons Zürich nach Durchführung eines Augenscheins am 29. Juni 2010 gut und hob die Baubewilligung auf. Die Rekurskommission ging davon aus, die geplante Baute trete mit ihren Ausmassen vom Aussichtspunkt "Weieren" aus optisch überaus stark störend in Erscheinung. Sie verletze damit das besondere Einordnungsgebot von § 238 Abs. 2 des Zürcher Gesetzes vom 7. September 1975 über die Raumplanung und das öffentliche Baurecht (PBG).
C. Gegen den Rekursentscheid gelangten sowohl die Sunrise als auch der Hochbau- und Planungsausschuss Männedorf mit Beschwerde an das Verwaltungsgericht des Kantons Zürich. Dieses hiess die Beschwerden am 1. Dezember 2010 teilweise gut. Es entschied, dass § 238 Abs. 2 PBG nicht anwendbar sei, weil kein einordnungsmässiger Bezug zwischen der geplanten Mobilfunk-Antennenanlage und dem Aussichtspunkt "Weieren" bestehe. Es hob den Rekursentscheid auf und wies die Akten zur Prüfung der weiteren Rügen der damaligen Rekurrierenden und zu neuer Entscheidung an die Baurekurskommission II zurück.
D. Gegen den verwaltungsgerichtlichen Entscheid haben X._, Y._ und Z._ am 31. Januar 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Sie beantragen, der angefochtene Entscheid sei aufzuheben, der Entscheid der Baurekurskommission sei zu bestätigen und es sei die Bewilligung zur Erstellung einer Mobilfunk-Antennenanlage auf dem Grundstück Kat.-Nr. 7340 in Männedorf zu verweigern. Überdies ersuchen sie um Gewährung der aufschiebenden Wirkung.
E. Der Hochbau- und Planungsausschuss Männedorf sowie die Sunrise beantragen, auf die Beschwerde sei nicht einzutreten; eventualiter sei sie abzuweisen. Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
In ihrer Replik vom 23. Mai 2011 halten die Beschwerdeführer an ihren Anträgen fest.
F. Mit Verfügung vom 1. März 2011 wurde der Beschwerde die aufschiebende Wirkung erteilt
Erwägungen:
1. Der angefochtene Entscheid weist die Sache an die Baurekurskommission zurück, schliesst das Verfahren also nicht ab. Es handelt sich daher um einen Zwischenentscheid i.S.v. Art. 93 BGG.
1.1 Die Beschwerdeführer berufen sich auf Art. 93 Abs. 1 lit. b BGG. Sie sind der Auffassung, bei Gutheissung ihrer Beschwerde würde der Entscheid der Baurekurskommission bestätigt; damit wäre das Baubewilligungsverfahren definitiv beendet und es sei kein weiteres aufwändiges und möglicherweise mit einem kostspieligen Beweisverfahren über die Sendeantennen der SBB verbundenes Rekursverfahren mehr nötig.
1.2 Die Beschwerdegegner bestreiten, dass bezüglich der SBB-Antennen für Zug- und Rangierfunk weitläufige Abklärungen erforderlich seien. Sie verweisen auf das Schreiben des kantonalen Amts für Abfall, Wasser und Luft (AWEL) vom 18. August 2008, wonach das Standortdatenblatt hinreichende Angaben auch für die SBB-Antennen enthalte. Die Beschwerdeführer hätten zwar in ihrer Rekursschrift in Zweifel gestellt, dass die SBB-Antennen unter Ziff. 71 Anhang 1 zur Verordnung vom 23. Dezember 1999 über den Schutz vor nichtionisierender Strahlung (NISV; SR 814.710) fielen. Diese Frage lasse sich jedoch aufgrund der vorhandenen Datenangaben einfach und rasch überprüfen.
1.3 Dem widersprechen die Beschwerdeführer in ihrer Replik: Die Beantwortung der Frage, ob die Sendeantennen der SBB in die Immissionsberechnung miteinzubeziehen seien oder nicht, hänge von deren jährlichen Betriebszeit ab. Da die jährlichen Betriebszeiten beim sehr stark frequentierten Bahnhof Uetikon am See alles andere als klar seien, werde ein auf Messungen basierendes Gutachten erforderlich sein. Anschliessend müsse ein neues Standortdatenblatt eingereicht und der zuständigen Fachstelle zur Prüfung vorgelegt werden, bevor das Baurekursgericht darüber befinden könne. Dies bedeute in zeitlicher und finanzieller Hinsicht einen erheblichen Aufwand.
1.4 Gemäss Art. 93 Abs. 1 lit. b BGG ist gegen selbstständig eröffnete Vor- und Zwischenentscheide die Beschwerde zulässig, wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde.
Das Verwaltungsgericht wies das Verfahren an die Rekurskommission zurück, um die verbleibenden, noch nicht behandelten Rügen der Rekurrenten zu prüfen. Diese hatten im Rekursverfahren insbesondere geltend gemacht, die SBB-Antennen für Zug- und Rangierfunk seien bei der Immissionsprognose zu Unrecht nicht berücksichtigt worden. Sie vertraten in erster Linie die Auffassung, es handle sich um Sendeantennen für Mobilfunk i.S.v. Ziff. 62 Anh. 1 NISV. Selbst wenn es sich aber um Funkanwendungen i.S.v. Ziff. 71 Anh. 1 NISV handle, unterstünden sie der Meldepflicht gemäss Art. 11 NISV und müssten jedenfalls bei der Prüfung der Immissionsgrenzwerte nach Anh. 2 NISV berücksichtigt werden. In diesem Zusammenhang beanstandeten sie, dass Frequenz, Leistung und Typ der SBB-Antennen nicht aus dem Standortdatenblatt bzw. den Baueingabeplänen hervorgingen.
1.5 Ob die SBB-Antennen zusammen mit den Mobilfunkantennen den Anlagegrenzwert gemäss Ziff. 64 Anh. 1 NISV einhalten müssen oder ob es sich um "übrige Funkanwendungen" i.S.v. Ziff. 71 Anh. 1 NISV handelt, ist eine Rechtsfrage.
Nur für die Anwendung von Ziff. 71 spielt es eine Rolle, ob die Betriebszeit mindestens 800 Stunden jährlich beträgt. Sollte die Rekurskommission diese Bestimmung für einschlägig halten, wird sie Feststellungen zu den Betriebszeiten der SBB-Antennen treffen müssen. Zumindest im jetzigen Stadium des Verfahrens ist davon auszugehen, dass die kantonalen Fachstellen über Erfahrungswerte verfügen bzw. die Betriebszeiten aufgrund des Zug- und Rangierverkehrs abgeschätzt werden können, ohne ein aufwändiges Messverfahren durchführen zu müssen.
Die blosse Möglichkeiten, dass ein neues Standortdatenblatt mit zusätzlichen Angaben nachgereicht und von der kantonalen Fachstelle überprüft werden muss, stellt jedenfalls keine "weitläufige" Beweismassnahme dar, die einen bedeutenden Aufwand bzw. erhebliche Kosten verursachen würde, zumal der allfällige zusätzlich Aufwand die Beschwerdegegnerin und nicht die Beschwerdeführer treffen würde.
Die Voraussetzungen gemäss Art. 93 Abs. 1 lit. b BGG liegen somit nicht vor. Unstreitig droht den Beschwerdeführern auch kein nicht wieder gutzumachender Nachteil i.S.v. lit. a dieser Bestimmung.
2. Nach dem Gesagten ist auf die Beschwerde nicht einzutreten.
Bei diesem Ausgang des Verfahrens werden die Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 und 68 BGG). Die Gemeinde Männedorf obsiegt in ihrem amtlichen Wirkungskreis und hat daher keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden den Beschwerdeführern auferlegt.
3. Die Beschwerdeführer haben die Sunrise Communications AG für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Hochbau- und Planungsausschuss Männedorf sowie dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 30. Mai 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Fonjallaz Gerber