Sachverhalt:
A. Die X._ AG ist Eigentümerin des an der Verzweigung Kasernen-/Militärstrasse gelegenen Grundstücks Kat.-Nr. AU6755 im Halte von 1'932 m2 in der Quartiererhaltungszone I/6a der Stadt Zürich. Das Grundstück liegt zu rund 39 % innerhalb der vom Regierungsrat im Jahr 1952 entlang der Kasernen- und Militärstrasse festgesetzten Baulinien.
Am 9. Februar 1999 erteilte die Bausektion der Stadt Zürich der X._ AG die baurechtliche Bewilligung für den Neubau eines Wohn- und Geschäftshauses auf diesem Grundstück. Soweit das Bauvorhaben in den Baulinienbereich zu liegen kam, wurde ein Anpassungs- bzw. Beseitigungsrevers gemäss §§ 99 und 100 Abs. 3 des Zürcher Planungs- und Baugesetzes vom 7. September 1975 angeordnet. Dieser lautet:
"Die jeweilige Eigentümerschaft ... ist verpflichtet, bei einem allfälligen Ausbau der Kasernen- und/oder der Militärstrasse die im Baulinienbereich erstellten, mit Bauentscheid Nr. 151/99 bewilligten Zugänge zum Restaurant und zum Hausdurchgang, zwei Flügelmauern, die Zufahrt zum Hofgebiet mit Autolift, das gepflästerte Gartenrestaurant sowie die Vorgartengestaltung auf eigene Kosten und ohne Anspruch auf Minderwertsentschädigung zu beseitigen bzw. den veränderten Verhältnissen anzupassen (Art. 100 Abs. 3 PBG)."
B. Am 29. Oktober 2003 setzte der Stadtrat Zürich ein Strassenbauprojekt mit Landerwerb an der Kasernenstrasse fest. Das Vorhaben umfasst die Verschiebung der Haltestelle "Kaserne", eine Neugestaltung der Strassenräume sowie die Anpassung der Tram- und Buslinienführung. Ein von der X._ AG dagegen erhobenes Rechtsmittel wurde vom Verwaltungsgericht des Kantons Zürich am 3. März 2005 letztinstanzlich abgewiesen.
Im Zusammenhang mit dem Strassenbauprojekt verlangte die Stadt Zürich von der X._ AG die Abtretung von ca. 460 m2 Land. Am 30. Januar 2006 ersuchte der Stadtrat das Statthalteramt Zürich um Anordnung des Schätzungsverfahrens.
C. Im Schätzungsverfahren beantragte die Stadt Zürich als Klägerin, die Entschädigung für die Landabtretung sei auf Fr. 1'111'000.--, also rund Fr. 2'413.--/m2, festzusetzen. Demgegenüber verlangte die X._ AG eine Vergütung von Fr. 3'680'000.-- bzw. von Fr. 8'000.--/m2. Mit Entscheid vom 16. Juni 2008 verpflichtete die Kantonale Schätzungskommission des Kreises I die Stadt Zürich, der X._ AG eine Entschädigung von Fr. 2'000.--/m2, insgesamt Fr. 920'000.--, zu entrichten. Das Begehren um Entschädigung für allfällige Mietausfälle wurde abgewiesen.
D. Am 23. Juli 2008 meldete die X._ AG Rekurs beim Verwaltungsgericht des Kantons Zürich an mit dem Begehren, ihr eine Abtretungsentschädigung von mindestens Fr. 1'840'000.-- (entsprechend Fr. 4'000.--/m2) zu bezahlen. Am 20. Mai 2009 wies das Verwaltungsgericht den Rekurs ab.
E. Dagegen hat die X._ AG am 18. August 2009 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Sie beantragt, der angefochtene Entscheid sei aufzuheben und die Stadt Zürich sei zu verpflichten, ihr eine Entschädigung von Fr. 1'840'000.-- (entsprechend Fr. 4'000.--/m2) zu bezahlen. Eventualiter sei die Sache zur Neufestsetzung der Entschädigung an die Vorinstanz zurückzuweisen.
F. Das Verwaltungsgericht beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Stadt Zürich schliesst auf Beschwerdeabweisung.
Die Beschwerdeführerin hat auf eine Replik verzichtet.
Erwägungen:
1. Da alle Sachurteilsvoraussetzungen gegeben sind, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten, vorbehältlich rechtsgenügend begründeter Rügen (Art. 106 Abs. 2 i.V.m. Art. 42 Abs. 2 BGG).
2. Die Beschwerdeführerin rügt, die festgesetzte Abtretungsentschädigung entspreche nicht einer vollen Entschädigung i.S.v. Art. 26 Abs. 2 BV und verletze daher die Eigentumsgarantie. Die Abtretungsfläche von 460 m2 entspreche beinahe einem Viertel der Parzelle. Diese befinde sich in zentraler Lage in unmittelbarer Nähe des Bahnhofs Zürich, wo der durchschnittliche Quadratmeterpreis für Bauland Fr. 8000.-- betrage. Die Schätzungskommission habe eine Reduktion der Abtretungsentschädigung für "Vorgartenland" vorgenommen. Dies sei zwar im Prinzip nicht zu beanstanden, jedoch sei die Höhe der Reduktion um drei Viertel unverhältnismässig hoch. Bei pflichtgemässer Ausübung des Ermessens und hinreichender Berücksichtigung der konkreten Umstände hätte der Verkehrswert um maximal die Hälfte, auf Fr. 4'000.--/m2, reduziert werden dürfen.
2.1 Handelt es sich um eine nach kantonalem Recht festgesetzte Enteignungsentschädigung, so hat das Bundesgericht diese nicht wie in den vom Bundesrecht beherrschten Enteignungsverfahren selbst frei zu bestimmen, sondern kann nur dann eingreifen, wenn den kantonalen Vorschriften offensichtlich und willkürlich zuwidergehandelt worden ist, wenn die zur Festsetzung der Enteignungsentschädigung massgeblichen Prinzipien ausser Acht gelassen worden sind oder wenn die Behörde das ihr zustehende Ermessen missbraucht oder überschritten hat (BGE 104 Ia 470 nicht veröffentlichte E. 3; Urteil 1P.195/2003 vom 18. Dezember 2003 E. 4).
Frei überprüft das Bundesgericht, ob die Regeln des kantonalen Rechts (oder die von den kantonalen Behörden zur Lückenfüllung angewendeten Regeln) dem in Art. 26 BV verankerten Prinzip der vollen Entschädigung genügen. Die Anwendung dieser Regeln wie die Sachverhaltsfeststellungen der kantonalen Instanzen können dagegen grundsätzlich nur unter Willkürgesichtspunkten überprüft werden; insoweit fällt die Rüge der Verletzung des Willkürverbotes mit dem Einwand zusammen, Art. 26 BV sei verletzt (BGE 112 Ia 198 E. 1b S. 201; 104 Ia 470 nicht publ. E. 2; 97 I 112 E. 3 S. 114; 93 I 130 E. 4 S. 138/139; nicht veröffentlichte Urteile 1C_55/2008 vom 24. Juni 2008 E. 3.1; 1P.641/1991 vom 5. Februar 1992 E. 2a; 1P.338/1991 vom 30. November 1992 E. 1).
Die im Entscheid BGE 122 I 168 E. 2c S. 173 verwendete Kognitionsformel, auf die sich die Beschwerdeführerin beruft, ist nur scheinbar weiter (jedenfalls in Bezug auf den hier streitigen Abzug für Vorgartenland): Dort heisst es zwar, das Bundesgericht prüfe frei, ob die Enteignungsentschädigung und ihre Höhe methodisch richtig ermittelt wurden und ob insoweit dem verfassungsrechtlichen Anspruch auf volle Entschädigung Rechnung getragen worden sei. Das Bundesgericht fügte aber im zitierten Entscheid an, dass die bei der Anwendung dieser Methoden getroffenen tatsächlichen Feststellungen oder Annahmen nur auf Willkür hin zu überprüfen seien (a.a.O. S. 173), und hielt fest, dass insbesondere der unter dem Titel "Vorgartenland" vorzunehmende Abzug selten präzise bestimmt werden könne und nach pflichtgemässem Ermessen festzulegen sei (a.a.O. E. 4c S. 180). Das Bundesgericht kann nur prüfen, ob die kantonalen Behörden den ihnen zustehenden Spielraum missbraucht oder überschritten haben; dies läuft im Ergebnis auf eine Willkürprüfung hinaus (BGE 104 Ia 470 nicht veröffentlichte E. 3; Urteil 1P.195/2003 vom 18. Dezember 2003 E. 4).
2.2 Die Verletzung von Grundrechten, wie namentlich der Eigentumsgarantie (Art. 26 BV) und des Willkürverbots (Art. 9 BV), prüft das Bundesgericht nicht von Amtes wegen, sondern nur, soweit eine solche Rüge in der Beschwerde vorgebracht worden ist (Art. 106 Abs. 2 BGG). Hierfür gelten die gleichen Begründungsanforderungen, wie sie gestützt auf Art. 90 Abs. 1 lit. b OG für die staatsrechtliche Beschwerde gegolten haben (BGE 133 II 249 E. 1.4.2 S. 254).
Im vorliegenden Fall hat die Beschwerdeführerin keine Einwände gegen die von den Vorinstanzen angewandte Schätzungsmethode: Sie ist ebenfalls der Auffassung, dass für die Ermittlung des Verkehrswerts von Teilflächen, die innerhalb eines Baulinien- oder Abstandsbereichs liegen (sog. Vorgartenland), zunächst ein Quadratmeter-Durchschnittswert für das Gesamtgrundstück vor der Enteignung zu ermitteln und auf den abzutretenden Teil zu verlegen sei; in einem zweiten Schritt sei einer allfälligen Minderwertigkeit der abzutretenden Fläche durch Abzüge Rechnung zu tragen. Streitig ist einzig, ob die von der Schätzungskommission vorgenommene und vom Verwaltungsgericht bestätigte Herabsetzung von Fr. 8'000.-- auf Fr. 2'000.-- angesichts der konkreten Verhältnisse übermässig war. Dies prüft das Bundesgericht nach dem oben Gesagten nur auf Willkür hin.
3. Entscheidend für die erhebliche Reduktion des Baulandpreises durch die Vorinstanzen war der Umstand, dass der Verlust der Abtretungsfläche weder einen Einfluss auf die Ausnützung des Grundstücks noch auf dessen Überbaubarkeit hat: Die Parzelle sei erst im Jahr 2001 neu überbaut worden, mit einem Wohn- und Geschäftshaus, das Bestandesschutz geniesse und eine Lebensdauer von mutmasslich mehreren Jahrzehnten aufweise; zudem gelte in der Quartiererhaltungszone I keine Ausnützungsziffer, sondern der zulässige Gebäudekubus werde nach Massgabe von primären Bauvorschriften bestimmt. Dies wird von der Beschwerdeführerin nicht bestritten.
3.1 Sie verweist in erster Linie auf die Grösse der Abtretungsfläche, die fast einen Viertel des Gesamtgrundstücks ausmacht. Sie legt aber nicht dar, inwiefern dieser Umstand allein die vorgenommene Bewertung, d.h. die Reduktion des Baulandpreises um drei Viertel, als willkürlich erscheinen lässt.
3.2 Die Beschwerdeführerin macht weiter geltend, eine Reduktion von drei Vierteln auf einen Viertel des Verkehrswerts sei noch nie vorgenommen worden, belegt dies jedoch nicht. Aus den Erwägungen der Schätzungskommission, auf die verwiesen wird, ergibt sich lediglich, dass diese (d.h. die Kantonale Schätzungskommission des 1. Kreises) noch keine derartige Reduktion vorgenommen hat. Dagegen hatte die Stadt Zürich in ihrer Klagschrift an die Schätzungskommission auf die Praxis der städtischen Schätzungskommission für die Bewertung von Liegenschaften verwiesen, nicht ausnützbare Vorgartenflächen ohne gestalterische Bedeutung regelmässig mit einem Viertel des Baulandwertes zu bewerten (Klagschrift S. 8 f.); diese Praxis sei Grundlage für zahlreiche, in der Vergangenheit freihändig abgeschlossene Landabtretungen gewesen.
Eine verfassungsmässige Ungleichbehandlung läge im Übrigen nur vor, wenn der vorliegende Fall mit anderen Fällen, in denen ein geringerer Einschlag für Vorgartenland vorgenommen wurde, in rechtlicher und tatsächlicher Hinsicht vergleichbar wäre. Dies wird von der Beschwerdeführerin nicht dargelegt.
4. Streitig ist weiter, ob dem enteigneten Landstreifen im Verzweigungsbereich von Kasernen- und Militärstrasse gestalterische Bedeutung bzw. Erholungsfunktion zukommt.
4.1 Die kantonalen Instanzen verneinten dies und gingen davon aus, dass der Fläche lediglich eine gewisse Pufferfunktion gegenüber dem angrenzenden Strassenraum zukomme.
4.2 Die Beschwerdeführerin ist dagegen der Auffassung einer Fläche von 460 m2 komme als "grüner Gürtel" in zentraler städtischer Lage, in der unbebautes Land äusserst knapp sei, automatisch Erholungsfunktion zu; dies gelte namentlich bei Überbauungen, die hauptsächlich Wohnzwecken dienen. Bei Wohnüberbauungen werde denn auch praxisgemäss ein geringerer Einschlag vorgenommen.
4.3 Die Stadt Zürich räumt ein, dass Vorgartenland, das gestalterisch wertvoll sei, namentlich für Wohnüberbauungen, regelmässig mit 30 % bis 40 % des vollen Baulandwertes bewertet werde. Im vorliegenden Fall seien jedoch aufgrund der konkreten räumlichen Situation die Möglichkeiten beschränkt, auf der Abtretungsfläche eine gestalterische Wirkung zu erzielen. Die Situation sei deshalb nicht vergleichbar mit jener bei Überbauungen an weniger zentralen Lagen, an denen der Umgebungsgestaltung mehr Gewicht gegeben und ein attraktiver Grünraum um die Wohngebäude herum geschaffen werden könne. Die Beschwerdeführerin habe die Umgebungsfläche schon vor der Landabtretung so weit als möglich kommerziell, nämlich für die Aussenbestuhlung des Restaurants A._, genutzt. Die Attraktivität der Wohnungen sei denn auch offensichtlich auf einer ganz anderen Ebene zu suchen: zentrale, urbane Lage, Blick auf Stadt und Sihl, samt der von der Stadt unterhaltenen Platanenallee, grosszügige Umrisse, helle Räume, etc..
4.4 Angesichts der Lage der Abtretungsfläche (am Rand der Kasernenstrasse) und ihrer bisherigen kommerziellen Nutzung ist der gestalterische Wert bzw. der Erholungswert des Landstreifens keinesfalls evident; aus den von der Stadt Zürich genannten Gründen erscheint es auch zweifelhaft, dass der unüberbaute Landstreifen den Wohnungen einen erheblichen Mehrwert verschafft. Unter diesen Umständen kann die Einschätzung der Vorinstanzen jedenfalls nicht als willkürlich erachtet werden.
5. Schliesslich wirft die Beschwerdeführerin den Vorinstanzen vor, die verschiedenen Nutzungsmöglichkeiten ausser Acht gelassen zu haben, welche der Fläche verblieben, z.B. als Gartenwirtschaft, als temporäre Verkaufsfläche im Freien, als Abstell- oder als Werbefläche.
Das Verwaltungsgericht hat sich mit diesen Nutzungsmöglichkeiten jedoch sehr wohl befasst. Es teilte die Auffassung der Schätzungskommission, dass die auf der Abtretungsfläche ausgeübte Nutzung aufgrund des Beseitigungsrevers nicht berücksichtigt werden könne (E. 3.3.1 des angefochtenen Entscheids). In einer Hilfserwägung hielt das Verwaltungsgericht überdies fest, dass sich selbst bei Berücksichtigung der Nutzungsmöglichkeit (insbesondere als Gartenrestaurant oder als Werbefläche) keine höhere Entschädigung ergeben würde (E. 3.3.2 - 3.3.3 des angefochtenen Entscheids). Die Beschwerdeführerin setzt sich mit keiner der beiden Begründungen auseinander, weshalb darauf nicht weiter einzugehen ist.
6. Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Da die Stadt Zürich in ihrem amtlichen Wirkungskreis obsiegt, hat sie keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 10'000.-- werden der Beschwerdeführerin auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, 3. Kammer, schriftlich mitgeteilt.
Lausanne, 14. Dezember 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber