Sachverhalt:
A. Die Bausektion der Stadt Zürich erteilte mit Beschluss vom 8. September 2009 dem Kanton Zürich die baurechtliche Bewilligung für den Neubau des Polizei- und Justizzentrums (PJZ) in Zürich. Gleichzeitig eröffnet wurde die Verfügung der Baudirektion vom 27. April 2009, mit der dem Bauvorhaben die altlasten- und abfallrechtliche Bewilligung erteilt wurde.
Das Bauvorhaben soll im Bereich des bestehenden Güterbahnhofs der Schweizerischen Bundesbahnen (SBB) erstellt werden. Es befindet sich gemäss geltender kommunaler Bau- und Zonenordnung der Stadt Zürich in der Industriezone sowie im Perimeter des Gestaltungsplans PJZ vom 15. März 2007 (Baufeld I). Geplant ist ein Polizei- und Justizzentrum mit Büros, Infrastruktur, Personalrestaurant, Konferenzräumen, Kriminalmuseum, Labor, Schulung, Sportanlagen, Gefängnis, einer Unterniveaugarage, Abstellplätzen im Freien sowie einem Helikopterlandeplatz.
B. Dagegen erhob u.a. die X._ AG Rekurs an die Baurekurskommission I des Kantons Zürich (heute: 1. Abteilung des Baurekursgerichts). Diese führte am 20. April 2010 einen Augenschein durch und wies alle Rekurse am 9. Juli 2010 ab, soweit darauf einzutreten war.
C. Gegen den Rekursentscheid gelangte u.a. die X._ AG mit Beschwerde an das Verwaltungsgericht des Kantons Zürich. Das Beschwerdeverfahren wurde bis zum rechtskräftigen politischen Entscheid betreffend das Polizei- und Justizzentrum sistiert. Nachdem die Stimmbürger die Aufhebung des Gesetzes für ein Polizei- und Justizzentrum Zürich vom 7. Juli 2003 (PJZ, LS 551.4) in der Volksabstimmung vom 4. September 2011 abgelehnt hatten, wurde das Verfahren wieder aufgenommen. Am 25. Januar 2012 wies das Verwaltungsgericht die Beschwerden ab.
D. Dagegen hat die X._ AG am 19. März 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten und Verfassungsbeschwerde ans Bundesgericht erhoben. Sie beantragt, das Anfechtungsobjekt sei vollumfänglich aufzuheben.
E. Das Verwaltungsgericht, die Baudirektion des Kantons Zürich und die Stadt Zürich schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
Das Bundesamt für Umwelt (BAFU) kommt in seiner Vernehmlassung zum Ergebnis, das angefochtene Urteil sei konform mit der Umweltschutzgesetzgebung des Bundes.
F. In ihrer Replik vom 4. Oktober 2012 hält die Beschwerdeführerin an ihren Anträgen fest.
Erwägungen:
1. Die Beschwerdeführerin beanstandet in ihrer Replik, dass die Vernehmlassung der Baudirektion nicht vom zuständigen Regierungsrat und dem Direktionssekretär, sondern vom Chef Hochbauamt unterzeichnet worden sei. Sie beantragt, die Baudirektion sei aufzufordern, die Unterschriftsbefugnis zu erläutern mit der Androhung, dass die Eingabe der Baudirektion bei Fristversäumnis aus dem Recht gewiesen werde. Bis zur Beurteilung der gestellten Anträge sei ihr die Frist zur Stellungnahme einstweilen abzunehmen und allenfalls später neu anzusetzen.
1.1 Die Beschwerdeführerin verkennt, dass die Vernehmlassung des Kantons im Namen des Hochbauamts eingereicht wurde; für dieses Amt ist dessen Chef unstreitig berechtigt. Bereits im kantonalen Verfahren war die Baudirektion durch das Hochbauamt vertreten; die Beschwerdeführerin legt nicht dar, dass dies von ihr beanstandet worden sei und begründet auch nicht, weshalb diese Vertretung unzulässig sei. Unter diesen Umständen besteht kein Grund, Erläuterungen zur Unterschriftsbefugnis anzustellen.
1.2 Die Beschwerdeführerin hatte die Möglichkeit, sich - zumindest eventualiter, für den Fall der Gültigkeit der Unterschrift - zur Eingabe des Kantons zu äussern. Hierzu bestand umso mehr Grund, als das Hochbauamt auf die Dringlichkeit des Verfahrens hingewiesen und vorgerechnet hatte, dass jeder zusätzliche Monat, um den der Baubeginn des PJZ verzögert wird, den Steuerzahler mindestens Fr. 775'000.-- kostet. Unter diesen Umständen ist auf die erneute Ansetzung einer Replikfrist zu verzichten.
2. Gegen den angefochtenen, kantonal letztinstanzlichen Endentscheid steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG). Damit bleibt kein Raum für die von der Beschwerdeführerin ebenfalls erhobene subsidiäre Verfassungsbeschwerde (Art. 113 BGG).
2.1 Die Beschwerde gegen den am 16. Februar 2012 zugestellten verwaltungsgerichtlichen Entscheid wurde rechtzeitig erhoben (Art. 100 Abs. 1 i.V.m. Art. 44 f. BGG).
2.2 Die Beschwerdeführerin ist als Eigentümerin eines Grundstücks in unmittelbarer Nähe des Baugrundstücks grundsätzlich zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG). Zwar soll ein Teil ihrer Liegenschaft für das Strassenprojekt "Flankierende Massnahmen N4/N20-Westumfahrung" enteignet werden; diesbezüglich ist ein Schätzungsverfahren hängig. Aus dem angefochtenen Entscheid (E. 1.2) ergibt sich jedoch, dass nur 56 m2 des insgesamt 473 m2 grossen Grundstücks für das Strassenprojekt beansprucht werden. Insofern hat sie weiterhin ein schützenswertes Interesse an der Aufhebung oder Änderung der Baubewilligung.
2.2.1 Die Stadt Zürich wendet ein, dass die Beschwerdeführerin vor Bundesgericht nur noch das Ungenügen des Biotopschutzes und den Lärm des Helikopterlandeplatzes beanstande; die Gutheissung dieser Rügen würde jedoch nicht zur Aufhebung der Baubewilligung als Ganzes führen, sondern allenfalls zu ergänzenden Auflagen. Damit fehle es am angestrebten praktischen Nutzen. Dem ist entgegen zu halten, dass die Beschwerdeführerin jedenfalls ein praktisches Interesse an der Verbesserung des Lärmschutzes hat, auch wenn dies im Wege ergänzender Auflagen erfolgt; der diesbezügliche Antrag ist (a maiore minus) im Antrag auf Aufhebung der Baubewilligung mitenthalten. Sie ist grundsätzlich auch befugt, sich für den Erhalt bzw. die Wiederherstellung von Biotopen und einen ökologischen Ausgleich einzusetzen, jedenfalls sofern dies ihre unmittelbare Umgebung betrifft (vgl. Urteile 1A.98/1994 vom 28. März 1995 E. 2c, in: ZBl 96/1995 S. 527; 1A.118/2006 vom 10. November 2006 E. 2.5).
2.2.2 Die Baudirektion macht schliesslich geltend, dass über die in der Beschwerde thematisierten Aspekte (Biotop- und Lärmschutz) bereits im Gestaltungsplanverfahren rechtskräftig entschieden worden sei. Ob dies zutrifft oder ob im Baubewilligungsverfahren noch ergänzende Anordnungen und Auflagen (z.B. zum Lärmschutz) getroffen werden können bzw. müssen, ist eine materiell-rechtliche Frage. Auf die Beschwerde ist daher einzutreten.
3. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht - einschliesslich Überschreitung oder Missbrauch des Ermessens - gerügt werden (Art. 95 lit. a BGG). Das Bundesgericht wendet das Bundesrecht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG). Dagegen prüft es die Verletzung von Grundrechten (einschliesslich die willkürliche Anwendung von kantonalem Recht) nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und (genügend) begründet worden ist (Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.2 S. 254 mit Hinweisen).
Das Bundesgericht ist an den von der Vorinstanz festgestellten Sachverhalt gebunden, soweit er nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 und Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel können nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
4. Die Beschwerdeführerin rügt vorab, sie habe vor Verwaltungsgericht die Durchführung eines Augenscheins und einer öffentlichen mündlichen Verhandlung beantragt. Das Verwaltungsgericht habe diese Anträge nur in seinen Erwägungen behandelt, habe es aber versäumt, sie formell im Dispositiv des angefochtenen Entscheids abzuweisen. Damit habe es Art. 29 Abs. 2 BV, Art. 18 Abs. 1 und 2 der Verfassung des Kantons Zürich vom 27. Februar 2005 (KV/ZH) und das Willkürverbot (Art. 9 BV) verletzt.
Diese Rüge ist unbegründet: Werden Verfahrensanträge abgewiesen, so steht es im Ermessen des Gerichts, ob es darüber separat, in einer selbstständig eröffneten Zwischenverfügung, oder im Endentscheid befindet. Erfolgt die Abweisung im Endentscheid, kann dies in einer separaten Ziffer des Dispositivs oder aber gemeinsam mit den Sachanträgen erfolgen. Vorliegend begründete das Verwaltungsgericht in den Erwägungen (E. 4.2 und 4.3), weshalb es die Anträge der Beschwerdeführerin auf Durchführung eines Augenscheins und einer öffentlichen Verhandlung abwies. Unter diesen Umständen war (auch für die Beschwerdeführerin) klar, dass die Abweisung "der Beschwerde" in Dispositiv-Ziff. 1 auch die Abweisung der Verfahrensanträge umfasste. Insofern liegt ein formeller Entscheid des Gerichts vor.
5. Die Beschwerdeführerin rügt weiter, ihr Antrag auf Durchführung einer öffentlichen Verhandlung sei zu Unrecht abgewiesen worden.
5.1 Das Verwaltungsgericht bejahte das Vorliegen zivilrechtlicher Ansprüche im Sinne von Art. 6 Abs. 1 EMRK. Im Rechtsmittelverfahren gelte jedoch das Recht auf eine öffentliche Verhandlung nur beschränkt. Praxisgemäss sei dem Begehren um eine öffentliche Verhandlung nicht zu entsprechen, wenn vor der Baurekurskommission (als gerichtlicher Instanz im Sinne von Art. 6 Abs. 1 EMRK) noch kein solcher Antrag gestellt worden sei. Auch nach dem Europäischen Gerichtshof für Menschenrechte (EGMR) sei eine öffentliche Verhandlung im Interesse einer ordnungsgemässen Rechtspflege zweckmässigerweise vor der ersten Rechtsmittelinstanz durchzuführen. Die Beschwerdeführerin habe im Rekursverfahren kein Begehren um Durchführung einer öffentlichen Verhandlung gestellt, obwohl ihr bekannt gewesen sei bzw. hätte bekannt sein müssen, dass Streitigkeiten vor den Baurekurskommissionen üblicherweise schriftlich durchgeführt werden. Sie habe eine öffentliche Verhandlung offenbar nicht für notwendig erachtet und habe damit auf ihr Recht auf eine solche Verhandlung verzichtet. Unter diesen Umständen könne im verwaltungsgerichtlichen Verfahren auf eine öffentliche Verhandlung verzichtet werden.
5.2 Die Beschwerdeführerin bestreitet zunächst, dass sie vor der Baurekurskommission auf die Durchführung einer öffentlichen Verhandlung verzichtet habe. Vielmehr habe die Kommission überraschend auf einen zweiten Schriftenwechsel verzichtet und ihr damit die Möglichkeit abgeschnitten, eine Verhandlung zu beantragen. Es sei gerichtsnotorisch, dass die Zürcher Behörden einen bereits in der Rekursbegründung gestellten Antrag als formell verfrüht erachten und darauf nicht eintreten würden.
5.2.1 Nach der Rechtsprechung des Europäischen Gerichtshofs und des Bundesgerichts ist ein Verzicht auf die Öffentlichkeit der Verhandlung möglich (vgl. BGE 121 I 30 E. 5f S. 37 f. mit Hinweisen). Ein solcher Verzicht kann ausdrücklich oder stillschweigend erfolgen, muss aber unzweideutig sein (Urteil des EGMR i.S. Schuler-Zgraggen c. Schweiz vom 24. Juni 1993, Série A, Vol. 263, § 58; Urteil Håkansson und Sturesson c. Schweden vom 21. Februar 1990, Série A, Vol. 171-A, § 66). Nach der bundesgerichtlichen Praxis wird regelmässig ein Verzicht angenommen, wenn das Verfahren üblicherweise schriftlich durchgeführt wird und der Rechtssuchende dennoch keinen Antrag auf Durchführung einer öffentlichen Verhandlung stellt (BGE 134 I 229 E. 4.3 und 4.4 S. 236 f., 331 E. 2.3 S. 333 mit Hinweisen). Ein solcher Antrag kann in der Beschwerde- oder Rekursschrift, aber auch noch in der Replik oder Duplik gestellt werden (BGE 134 I 331 E. 2.3 und 2.4 S. 333 ff.).
5.2.2 Es ist kein Grund ersichtlich, weshalb die Rekurskommission einen in der Rekursschrift oder am Augenschein gestellten Antrag als verfrüht erachtet hätte; die Rechtsprechung zur Unbeachtlichkeit von vorsorglich, in der Rechtsschrift gestellten Anträgen auf Durchführung eines zweiten Schriftenwechsels (vgl. Urteil 1A.276/2004 vom 12. Juli 2005 E. 2, publ. in URP 2005 S. 563; RDAF 2006 I S. 665) kann auf diesen Fall nicht übertragen werden.
Im Übrigen hatte die Beschwerdeführerin noch am Augenschein vom 20. April 2010 die Möglichkeit gehabt, eine öffentliche Verhandlung zu beantragen. Insofern spielt es keine Rolle, dass ihr zuvor, bei Übermittlung der Rekursantworten am 11. Januar 2010, keine Frist zur Stellungnahme angesetzt wurde. Da ihr bereits am Augenschein Gelegenheit zur mündlichen Stellungnahme eingeräumt wurde, durfte die Beschwerdeführerin nicht darauf vertrauen, dass ihr nach dem Augenschein nochmals eine Frist zu einer schriftlichen Stellungnahme angesetzt würde.
Unter diesen Umständen durfte das Verwaltungsgericht von einem Verzicht auf eine mündliche Verhandlung in erster Instanz ausgehen.
5.2.3 Im Übrigen bestreitet die Beschwerdeführerin die Relevanz eines allfälligen Verzichts vor Baurekurskommission für die von ihr beantragte öffentliche Verhandlung in zweiter Instanz vor dem Verwaltungsgericht: Sie habe nach EMRK und BV einen Anspruch auf mindestens eine öffentliche und mündliche Verhandlung vor einer kantonalen Instanz.
Nach der Rechtsprechung des EGMR müssen aussergewöhnliche Umstände vorliegen, um das Unterbleiben einer mündlichen Verhandlung in der ersten (bzw. einzigen) gerichtlichen Instanz zu rechtfertigen (Urteile Schuler-Zgraggen c. Schweiz § 58; Döry c. Schweden vom 12. November 2002 §§ 37 ff.; Urteil Miller c. Schweden vom 8. Februar 2005, § 29 und §§ 31 ff.; zum Baubewilligungsverfahren vgl. Urteile Schelling c. Österreich vom 10. November 2005 §§ 30 ff.; Brugger c. Österreich vom 26. Januar 2006 §§ 22 ff. und Bösch c. Österreich vom 3. Mai 2007 § 28 ff.).
Hat dagegen in erster Instanz eine öffentliche mündliche Verhandlung stattgefunden, oder haben die Parteien darauf verzichtet, so kann in der Rechtsmittelinstanz eher von einer solchen abgesehen werden (CHRISTOPH GRABENWARTER, Europäische Menschenrechtskonvention, 4. Aufl., § 24 Rz. 92; Urteil Miller c. Schweden § 30). Dies gilt nicht nur, wenn die Rechtsmittelinstanz auf eine reine Rechtskontrolle beschränkt ist (Urteil Ekbatani c. Schweden vom 26. Mai 1988, Série A, Vol. 134, § 31; BGE 121 I 30 E. 5e S. 36; je mit Hinweisen): Auch eine Berufungsinstanz mit voller Rechts- und Sachverhaltskontrolle darf auf eine öffentliche Verhandlung verzichten, wenn dies durch besondere Merkmale der betreffenden Verfahren gerechtfertigt ist. Geboten ist stets eine Gesamtbetrachtung des Verfahrens (GRABENWARTER, a.a.O., Rz. 93), unter Berücksichtigung der konkret streitigen, von der Rechtsmittelinstanz zu beurteilenden Fragen (Urteil Helmers c. Schweden vom 29. Oktober 1991, Série A, Vol. 212-A, § 36; Urteil Andersson c. Schweden vom 29. Oktober 1991, Série A, Vol. 212-B, §§ 27-29; Urteil Fejde c. Schweden vom 29. Oktober 1991, Série A, Vol. 212-C, §§ 31-33; BGE 121 I 30 E. 5h S. 39; Urteil des Bundesgerichts 1C_457/2009 vom 23. Juni 2010 E. 3.4 und 4, in: ZBl 112/2011 S. 333).
Vorliegend waren vor Verwaltungsgericht (als zweiter gerichtlicher Instanz) vor allem (wenn auch nicht ausschliesslich) Rechtsfragen streitig. Hinzu kommt, dass wesentliche Aspekte des Projekts bereits in einem rechtskräftigen Gestaltungsplan festgelegt waren. Ferner ist zu berücksichtigen, dass die Rekurskommission - welche die Baubewilligung mit voller Kognition überprüfen konnte - immerhin einen parteiöffentlichen Augenschein durchgeführt hat, an dem sich die Parteien mündlich zur Streitsache äussern konnten. Unter diesen Umständen erscheint es nicht rechtswidrig, wenn das Verwaltungsgericht auf die Durchführung der erstmals vor ihm beantragten mündlichen öffentlichen Verhandlung verzichtete.
6. Die Beschwerdeführerin erhebt weiter Rügen im Zusammenhang mit dem Biotopschutz.
6.1 Sie macht zunächst geltend, es fehle eine Bewilligung der zuständigen Instanz im Sinne von Art. 14 Abs. 6 der Verordnung über den Natur- und Heimatschutz vom 16. Januar 1991 (NHV; SR 451.1) für den Eingriff bzw. die vollständige Zerstörung der wertvollen Lebensräume der auf den einschlägigen roten Listen aufgeführten Wildbienenarten, der geschützten Mauereidechsenpopulationen und der seltenen Sandschrecken im Baugebiet. Diese Bewilligung könne nicht durch eine Inventarentlassung ersetzt werden.
6.1.1 Das Verwaltungsgericht ging davon aus, die gemäss Art. 14 Abs. 6 NHV vorgesehene Interessenabwägung sei bereits im Rahmen des Gestaltungsplanverfahrens vorgenommen worden, und verwies hierfür auf die Ausführungen im Bericht zur Umweltverträglichkeit des PJZ vom 25. April bzw. 2. August 2005 (im Folgenden: UVB PJZ), im Ergänzungsbericht zur UVB-Hauptuntersuchung vom 28. April 2006 (im Folgenden: Ergänzungsbericht UVB) sowie im Planungsbericht gemäss Art. 47 RPV vom 1. November 2006. Im Ergebnis sei festgehalten worden, dass die aufgeführten Ersatzmassnahmen es erlaubten, die wichtigsten Naturwerte des Perimeters zu erhalten, weshalb das Projekt bei Realisierung der vorgesehenen Ersatzmassnahmen als umweltverträglich taxiert werden könne. Der Gestaltungsplan könne im Baubewilligungsverfahren grundsätzlich nicht mehr infrage gestellt werden (vgl. BGE 131 II 103 E. 2.4.1 S. 110 mit Hinweisen).
6.1.2 Dieser (auch vom BAFU vertretenen) Auffassung ist zuzustimmen: Bereits im UVB PJZ (Ziff. 5.11.4 S. 84) wurde als "Projektauswirkung" festgehalten, dass durch den Abbruch des Güterbahnhofs und eines Teils der Liegenschaften entlang der Hohlstrasse sämtliche bedeutsamen Lebensräume innerhalb des Gestaltungsplanperimeters in Etappen zerstört würden; dabei würden insbesondere die Mauereidechsen- und Wildbienenvorkommen im Retentionsbecken sowie die Mauereidechsenvorkommen im Bereich der Hardbrücke sowie sämtliche Populationen gefährdeter Pflanzenarten zerstört. Der UVB ging jedoch davon aus, dass durch die vorgesehenen Ersatzmassnahmen (insbesondere ein für Wildbienen und Mauereidechsen qualitativ guter Ersatz des aktuellen SBB-Versickerungsbeckens; Bereitstellung zusätzlicher temporärer Nistgelegenheiten für die Wildbienen während der Bauphase; Ersatzmassnahmen auf den Flachdächern) die wichtigsten Naturwerte des Perimeters erhalten werden könnten; das Projekt könne daher bei Realisierung der vorgesehenen Ersatzmassnahmen als umweltverträglich beurteilt werden (UVB PJZ Ziff. 5.11.7 S. 87). Durch die Festsetzung des Gestaltungsplans und der zugehörigen Gestaltungsplanvorschriften wurde bereits der Eingriff in die schützenswerten Biotope gemäss Art. 14 Abs. 6 NHV bewilligt und die nach Art. 18 Abs. 1ter des Bundesgesetzes vom 1. Juli 1966 über den Natur- und Heimatschutz (NHG; SR 451) und Art. 14 Abs. 7 NHV erforderlichen Ersatzmassnahmen (zumindest in den Grundzügen) verfügt (vgl. Art. 17 Abs. 2, 26 Abs. 2, 28 f. Gestaltungsplan PJZ; zum ökologischen Ausgleich vgl. auch Art. 15 Abs. 3, Art. 16 Abs. 2 und 4 und Art. 17 Abs. 1 Gestaltungsplan PJZ).
6.2 Die Beschwerdeführerin macht weiter geltend, die Bauherrschaft sei gemäss Art. 28 f. des Gestaltungsplans PJZ und Art. 15 NHV verpflichtet gewesen, gleichzeitig mit der Einreichung des Baugesuchs ein detailliertes, die Bestimmungen des NHG und der NHV sowie des Gestaltungsplans PJZ beachtendes Konzept zu den erforderlichen Ersatz- und Ausgleichsmassnahmen und ihrer zeitlichen Koordination mit den Bauarbeiten einzureichen.
6.2.1 Das Verwaltungsgericht verneinte dies. Es genüge, wenn - wie im UVB PJZ vorgesehen - die gesamtschweizerisch gefährdeten und regional stark gefährdeten Tier- und Pflanzenarten im Gestaltungsplanperimeter vor Baubeginn untersucht und Ersatzmassnahmen im Rahmen des Bauprojekts unter Anwendung des ökologischen Bewertungs- und Ausgleichsmodells für den Hauptbahnhof Zürich projektiert würden. Ergänzend verwies es auf die Erwägungen der Baurekurskommission.
Diese hatte (in E. 21.7.3 S. 64 f.) festgehalten, dass das von der Beschwerdeführerin geforderte Konzept hinsichtlich der Gestaltung der Flachdächer in Dispositiv-Ziff. III.4.f des Bauentscheids verlangt werde. In Dispositiv-Ziff. III.6.a würden neben den Ersatzmassnahmen für den Lebensraum der Wildbienen Pläne für weitere ökologische Details gefordert. Im Übrigen könnte die Einreichung eines ökologischen Konzepts ohne Weiteres durch eine Auflage verlangt werden und führe aus Gründen der Verhältnismässigkeit nicht zur Aufhebung der Baubewilligung. Gleiches gelte für die von der Beschwerdeführerin verlangte planerische Darstellung der gefährdeten Tier- und Pflanzenarten, selbst wenn eine solche Auflage trotz der Erwägungen im Dispositiv des angefochtenen Entscheids vergessen gegangen sein sollte.
Das BAFU vertritt in seiner Vernehmlassung die Auffassung, dass die zur Erhaltung der Hauptnaturwerte des Perimeters benötigten Ersatzmassnahmen unter Einbezug der zuständigen Fachstellen ausgearbeitet und bereits in den Gestaltungsplanvorschriften verfügt und in diesem Sinne sichergestellt worden seien.
6.2.2 Der Koordinationsgrundsatz (Art. 25a RPG) verlangt, dass die für die Errichtung einer Baute erforderlichen Verfügungen materiell und soweit möglich formell koordiniert ergehen (Abs. 1-3). Entsprechendes gilt für Nutzungsplanverfahren, namentlich für Gestaltungsplanverfahren (Art. 25a Abs. 4 RPG).
Wiederherstellungs- und Ersatzmassnahmen nach Art. 18 Abs. 1ter sind integrale Bestandteile eines Vorhabens und unterliegen daher der Koordinationspflicht. Etwas Anderes kann für ökologische Ausgleichsmassnahmen i.S.v. Art. 18b Abs. 2 NHG und Art. 15 NHV gelten, die nicht der Behebung von Eingriffen in Biotope, sondern generell der ökologischen Aufwertung von intensiv genutzten Gebieten dienen (zur Abgrenzung vgl. Urteil 1A.82/1999 vom 19. November 1999 E. 3b, in: URP 2000 S. 369; RDAF 2001 I S. 636). Sind sie dagegen ein für die Beurteilung der Umweltverträglichkeit wichtiger Bestandteil eines Projekts, müssen auch sie mit der Bewilligung des Bauvorhabens koordiniert werden.
Allerdings ist es bei komplexen Vorhaben zuweilen unumgänglich, dass der Grundsatzentscheid über die Zulässigkeit eines Vorhabens vor dem Entscheid über weitere Bewilligungen getroffen werden muss, weil es unmöglich ist, alle Gesichtspunkte, die Gegenstand einer Bewilligung bilden, in einem Entscheid zu behandeln. Eine solche Aufteilung kann zulässig sein, sofern die erforderliche materielle und (soweit möglich) formelle Koordination der Entscheide nicht vereitelt wird (BGE 126 II 26 E. 5d S. 39 mit Hinweisen). Bei Wiederherstellungs- und Ersatzmassnahmen empfiehlt auch das BAFU ein stufenweises Vorgehen (B. KÄGI/A. STALDER/M. THOMMEN, Wiederherstellung und Ersatz im Natur- und Landschaftsschutz, hrsg. BUWAL, Leitfaden Umwelt Nr. 11, Bern 2002, S. 70). Allerdings müsse der Entscheid der zuständigen Behörde über ein Vorhaben die rechtsverbindliche Sicherung der Massnahmen ausdrücklich einschliessen oder zumindest vorbehalten. Mit der massgeblichen Bewilligung für das Vorhaben müsse entschieden werden, welche Massnahmen nach Art. 18 Abs. 1ter NHG realisiert werden müssten; und ihre Umsetzung müsse im Rahmen der Bauabnahme kontrolliert werden. Zudem müssten langfristige Nutzungseinschränkungen und Unterhaltsmassnahmen (z.B. für Ersatzlebensräume) dauerhaft gesichert werden, z.B. durch den Abschluss öffentlichrechtlicher oder privatrechtlicher Verträge oder raumplanerische Instrumente (a.a.O. S. 70 ff.).
6.2.3 Im vorliegenden Fall ist der Beschwerdeführerin einzuräumen, dass die Vorschriften des Gestaltungsplans zu den Ersatz- und Ausgleichsmassnahmen allgemein gefasst sind und im Baubewilligungsverfahren konkretisiert werden mussten (so auch Ergänzungsbericht UVP S. 30). Dies erfolgte nur teilweise in den Erwägungen des Bauentscheids (Abschnitt H, S. 10 ff.); für die Einzelheiten wird vielmehr auf eine nachfolgende Planung verwiesen, die auf der Basis der differenzierten Arten- und Substratauswahl des UVB PJZ, der darin geforderten Kartierung der bestehenden Flächen sowie des ökologischen Bewertungs- und Ausgleichsmodells für das Gleisfeld erfolgen müsse. Für die Wiederherstellung des Lebensraums der Wildbienen und die Dachbegrünung wird der Beizug einer ökologischen Baubegleitung verlangt.
Immerhin schreibt das Dispositiv des Bauentscheids hierfür einen Zeitplan vor: Die - im Einvernehmen bzw. mit Genehmigung der städtischen Fachstelle "Grün Zürich" erstellten - Detailpläne müssen vor Beginn der Hochbauarbeiten (Dispositiv-Ziff. III.4.f) bzw. vor Rohbauvollendung (Dispositiv-Ziff. III.6.a) eingereicht werden.
Bereits der UVB PJZ enthält Aussagen zu den geplanten Ersatzmassnahmen, namentlich zu Lage und Ausgestaltung des Ersatzes für das SBB-Versickerungsbecken (S. 84 f.). Er wurde seither durch zwei naturökologische Gutachten ergänzt: "Sicherung Rote-Liste-Arten Flora und Fauna" vom 3. November 2009 der topos Marti & Müller, Zürich, sowie "Ersatzmassnahmen Fauna" von Anna Stäubli, dipl. Biologin ETH, vom 30. September 2009. Im Gutachten topos (S. 3 ff.) finden sich Hinweise zu den geplanten und z.T. bereits angelaufenen Massnahmen für die Wiederansiedlung der geschützten Flora (Beschaffung von Vermehrungsmaterial und Zwischenvermehrung von gefährdeten Pflanzenarten, Aus- und Verpflanzungen, Substratumlagerung). Im Gutachten Stäubli wird die Kartierung "Fauna" ergänzt bzw. überprüft und die notwendigen Ersatzmassnahmen, insbesondere bei der Flachdachbegrünung, präzisiert. Insofern erfolgte in etwa zeitgleich mit der Erteilung des Bauentscheids vom 8. September 2009 eine Konkretisierung der Wiederherstellungs- und Ersatzmassnahmen.
Hinzu kommt, dass für das SBB-Areal zwischen dem Hauptbahnhof Zürich und dem Bahnhof Altstetten bereits seit 1994 ein vertraglich festgelegtes "Ökologisches Bewertungs- und Ausgleichsmodell" (ÖBA) besteht, mit dem Ziel, bei Bauvorhaben den ökologischen Gesamtwert des Areals zu erhalten (vgl. dazu UVB PJZ Ziff. 5.11.3 S. 79). Dieses Modell soll auch vorliegend zur Anwendung kommen, so dass eine langfristige Erfolgskontrolle für die Ersatzmassnahmen gesichert ist.
Immerhin muss sichergestellt sein, dass rechtzeitig vor Bau- bzw. Abbruchsbeginn die im Bauentscheid verlangte ökologische Baubegleitung konstituiert und ein Zeitplan für die Koordination der Massnahmen vorgelegt wird, die vor und während der Bauphase erfolgen müssen (z.B. Substratumlagerungen, rechtzeitiger Transfer der Wildbienen-Elemente gemäss Art. 29 Abs. 2 Gestaltungsplan PJZ). Dies wird jedoch durch Dispositiv-Ziff. III-153 des Bauentscheids gewährleistet, wonach vor Baubeginn der Umweltschutzfachstelle ein Pflichtenheft zur Umsetzung der Umweltbaubegleitung zur Genehmigung einzureichen ist und die Bauherrschaft den Vollzug der Massnahmen zum Umweltschutz während der Bauphase im Rahmen einer Umweltbaubegleitung nach SN 640 610a sicherzustellen hat. Diese umfasst insbesondere auch die sachgerechte Umsetzung der Schutz-, Wiederherstellungs- und Ersatzmassnahmen.
6.3 Unter diesen Umständen ist mit der Vorinstanz und dem BAFU davon auszugehen, dass der angefochtene Entscheid aus Sicht des Biotopschutzes wie auch des Koordinationsprinzips nicht zu beanstanden ist.
7. Die Beschwerdeführerin beanstandet weiter die Bewilligung eines Helikopterlandeplatzes auf dem geplanten Gebäude.
7.1 Das Verwaltungsgericht nahm - gestützt auf die Angaben im Bauentscheid - an, dass nicht mehr als 25 Starts und Landungen im Jahr geplant seien, wobei das Gleisareal der SBB als An- und Abflugschneise dienen werde. Unter diesen Umständen bedürfe es keiner detaillierten Lärmberechnung um festzustellen, dass sich die Bevölkerung durch den Fluglärm objektiv betrachtet höchstens geringfügig gestört fühlen könne, d.h. der Planungswert nach Art. 25 Abs. 1 des Bundesgesetzes über den Umweltschutz vom 7. Oktober 1983 (SR 814.01; USG) und Art. 7 Abs. 1 lit. b der Lärmschutz-Verordnung vom 15. Dezember 1986 (LSV; SR 814.41) eingehalten sei. Auf weitere Abklärungen könne deshalb verzichtet werden. Sollte sich aber zeigen, dass pro Jahr wesentlich mehr als 50 Flugbewegungen notwendig würden, sei ein Lärmgutachten einzuholen und die zuständige Baubewilligungsbehörde habe von Amtes wegen oder auf Anzeige hin die Bewilligungsfähigkeit der Flugbewegungen neu zu prüfen.
7.2 Die Beschwerdeführerin rügt, die Angaben zur Zahl der Flugbewegungen seien völlig unbelegt. Sie ist der Auffassung, im Bauentscheid hätten zumindest Bedingungen und Auflagen verfügt werden müssen, um sicherzustellen, dass die von der Vorinstanz als gerade noch für zulässig erachtete Zahl von 50 Flugbewegungen nicht überschritten werde. Ohne solche sichernde Massnahmen verletze der Bauentscheid Art. 7, 11 und 12 USG i.V.m. Art. 7 Abs. 1 lit. b LSV. Zudem liege eine Verletzung des rechtlichen Gehörs vor, weil die Vorinstanz die diesbezügliche Rüge der Beschwerdeführerin übergangen habe.
7.3 Die Beschwerdeführerin hatte vor Verwaltungsgericht (in Beschwerdeantrag 6) die Erstellung eines gerichtlichen Expertengutachtens zu den Lärmimmissionen der Projektierungen Helikopterlandeplattform beantragt; dieser Antrag wurde vom Verwaltungsgericht behandelt und abgewiesen. Das Fehlen sichernder Nebenbestimmungen wurde lediglich in einem Satz der Beschwerdebegründung erwähnt. Immerhin geht aus dem angefochtenen Entscheid klar hervor, dass das Verwaltungsgericht derartige Nebenbestimmungen nicht als zwingend geboten erachtete. Insofern ist das rechtliche Gehör der Beschwerdeführerin nicht verletzt.
7.4 Die Beschwerdeführerin legt nicht dar, weshalb die im Bauentscheid angenommene Zahl von rund 50 Flugbewegungen pro Jahr unrealistisch sein soll. Dies ist auch nicht ersichtlich: Aus dem UVB ergibt sich, dass nicht mit regelmässigen Flügen oder Transporten mit dem Helikopter zu rechnen ist; vielmehr erfolgt die Erschliessung des PJZ grundsätzlich mit anderen Verkehrsmitteln. Es ist auch nicht geplant, Helikopter im PJZ zu stationieren.
Bei derart wenigen Flugbewegungen (durchschnittlich je 2 An- und Abflüge pro Monat) kann eine mehr als geringfügige Störung der Anwohner ausgeschlossen werden, zumal die An- und Abflüge über die Gleisanlagen erfolgen sollen und die Umgebung nicht besonders lärmempfindlich ist (Empfindlichkeitsstufe III). Unter diesen Umständen durfte das Verwaltungsgericht auf weitere Ermittlungen in Form einer Lärmprognose (Art. 36 ff. LSV) verzichten (vgl. Urteil 1C_296/1020 vom 25. Januar 2011 E. 3.4 mit Hinweisen).
Immerhin hat das Verwaltungsgericht eine Lärmprognose und ein nachträgliches Bewilligungsverfahren für den Fall vorbehalten, dass es nach Inbetriebnahme des PJZ zu wesentlich mehr als den angenommenen 50 Flugbewegungen pro Jahr kommen sollte. Dieses Vorgehen ist nicht zu beanstanden (vgl. Urteil 1C_169/2008 vom 5. Dezember 2008 E. 5.2, in: URP 2009 123).
7.5 Entgegen der Auffassung der Beschwerdeführerin ging das Verwaltungsgericht nicht davon aus, dass der Planungswert bei mehr als 50 Flugbewegungen überschritten wäre, d.h., dass dies die Obergrenze des zulässigen Flugverkehrs darstelle. Es hielt lediglich fest, dass erst bei einer wesentlichen Überschreitung dieser Zahl eine Lärmprognose erforderlich wäre. Insofern war es nicht gehalten, sichernde Massnahmen zur Einhaltung von 50 Flugbewegungen als Auflage im Bauentscheid zu verfügen.
8. Schliesslich rügt die Beschwerdeführerin die vorinstanzliche Gerichtsgebühr von Fr. 40'000.--.
8.1 In erster Linie macht sie geltend, das Verwaltungsgericht habe die Höhe der Gerichtsgebühr nicht begründet. Der Verweis auf die gesetzlichen Bestimmungen genüge jedenfalls dann nicht, wenn eine solch exorbitante Gebühr festgesetzt werde. Begründungsbedürftig wäre auch gewesen, weshalb das Verwaltungsgericht die von der Baurekurskommission festgelegte Gebühr (Fr. 21'000.--) fast verdoppelte, obwohl es keinen Augenschein durchgeführt und weniger geprüft habe als diese. Damit habe das Verwaltungsgericht Art. 29 Abs. 2 BV und Art. 18 Abs. 2 KV/ZH verletzt.
8.1.1 Aus dem Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) folgt unter anderem die grundsätzliche Pflicht der Behörden, ihren Entscheid zu begründen (BGE 126 I 97 E. 2b S. 102 f. mit Hinweisen). Die Begründung muss wenigstens kurz die Überlegungen darstellen, von denen sich die Behörde leiten liess und auf welche sie ihren Entscheid stützt; sie darf sich aber auf die für den Entscheid wesentlichen Gesichtspunkte beschränken. Die Anforderungen an die Begründung sind umso höher, je grösser der Entscheidungsspielraum der Behörde ist und je stärker ein Entscheid in individuelle Rechte eingreift (BGE 112 Ia 107 E. 2b S. 110 mit Hinweisen).
Gestützt auf diese Grundsätze hat das Bundesgericht bereits erkannt, dass ein Kosten- und Entschädigungsentscheid unter Umständen gar nicht begründet werden muss, oder dass eine äusserst knappe Begründung genügen kann (BGE 111 Ia 1 E. 2a S. 1; Urteil 4P.211/2002 vom 18. Februar 2003 E. 2, in: ZBJV 141/2005 S. 44; Urteil 2C_700/2008 vom 18. Juni 2009 E. 2). Dies gilt insbesondere, wenn es um Kosten geht, die nach Massgabe der einschlägigen kantonalen Bestimmungen pauschal, innerhalb eines gewissen Rahmentarifs, erhoben werden können, was eine gewisse Schematisierung erlaubt. In diesem Fall wird eine besondere Begründung nur verlangt, wenn der Rahmen über- oder unterschritten wird oder die Parteien besondere Umstände geltend machen (BGE 111 Ia 1 E. 2a S. 1).
8.1.2 Vorliegend bewegt sich die festgelegte Gebühr innerhalb des von § 3 Abs. 1 der Gebührenverordnung des Verwaltungsgerichts vom 23. August 2010 (GebV VGr) festgelegten Gebührenrahmens für Verfahren ohne bestimmbaren Streitwert (Fr. 1'000 bis Fr. 50'000); für besonders aufwendige Verfahren kann die Gerichtsgebühr verdoppelt werden (§ 4 Abs. 1 GebV VGr). Nachdem der Rahmen weder erhöht noch ausgeschöpft wurde, konnte auf eine besondere Begründung verzichtet werden.
8.2 Weiter rügt die Beschwerdeführerin, die Gerichtsgebühr sei völlig unangemessen und verletze daher das Willkürverbot (Art. 9 BV), das verfassungsrechtliche Kostendeckungs- und Äquivalenzprinzip sowie den Anspruch auf ein wohlfeiles Verfahren (Art. 18 Abs. 1 KV/ZH). Die Sache sei nicht besonders zeitaufwendig gewesen; jedenfalls sei den Gegenparteien ein besonderer Aufwand abgesprochen worden (angefochtener Entscheid S. 38). Das Urteil sei relativ kurz und es seien keine Beweismassnahmen getroffen worden. Es bestehe auch kein bestimmbarer Streitwert. Ein Nachbar, der in guten Treuen von seinen Rechten Gebrauch mache, dürfe durch eine derartige Gerichtsgebühr nicht von der Rechtsausübung abgehalten bzw. bestraft werden; dies sei eine Rechtsverweigerung.
8.2.1 Gemäss § 2 GebV VGr bemisst sich die Gerichtsgebühr nach dem Zeitaufwand des Gerichts, der Schwierigkeit des Falles und dem Streitwert oder dem tatsächlichen Streitinteresse. Vorliegend ging es um ein sehr komplexes und grosses Bauvorhaben. Die Beschwerdeführerin und eine weitere beschwerdeführende Partei rügten zahlreiche Aspekte des Projekts und verlangten die vollumfängliche Aufhebung der Baubewilligung (und nicht lediglich den Erlass gewisser ergänzender Auflagen). Insofern war von einem erheblichen Streitinteresse auszugehen. Auch wenn kein ausserordentlicher Aufwand i.S.v. § 17 Abs. 2 lit. a des Zürcher Verwaltungsrechtspflegegesetzes vom 24. Mai 1959 (VRG) erforderlich war (der die Zusprechung einer Parteientschädigung an die beteiligten Amtsstellen gerechtfertigt hätte), erforderte die sachgerechte Behandlung der Beschwerden doch einen nicht unerheblichen Arbeitsaufwand des Gerichts. Schliesslich ist zu beachten, dass es sich um ein vereinigtes Verfahren mit zwei beschwerdeführenden Parteien handelte. Dies hatte zum Ergebnis, dass die Beschwerdeführerin - obwohl sie vollständig unterlag - im Ergebnis nur Fr. 20'000.-- (zuzüglich Zustellkosten) zu zahlen hatte.
Die Tatsache, dass die Baurekurskommission (trotz ihrer weiteren Kognition) geringere Gebühren erhoben hat, kann sich aufgrund ihrer Funktion als erstinstanzliches Gericht rechtfertigen, und genügt jedenfalls nicht, um die verwaltungsgerichtliche Gebühr als willkürlich erscheinen zu lassen.
8.2.2 Gemäss Art. 18 Abs. 1 KV/ZH hat jede Person vor Gerichts- und Verwaltungsinstanzen Anspruch auf rasche und wohlfeile Erledigung des Verfahrens. Dies bedeutet, dass ein Verfahren für die Rechtssuchenden grundsätzlich bezahlbar sein muss; die Kosten müssen in einem angemessenen Verhältnis zum Streitwert bzw. -interesse stehen und dürfen die rechtssuchende Person nicht von der Beschreitung des prozessualen Wegs abhalten (vgl. GIOVANNI BIAGGINI, in: Häner/Rüssli/ Schwarzenbach (Hrsg.), Kommentar zur Zürcher Kantonsverfassung, Zürich 2007, Art. 18 N. 19 f. mit Hinweisen; vgl. auch ISABELLE HÄNER, Rechtsschutz und Rechtspflegebehörden, in: Die neue Zürcher Kantonsverfassung, Zürich 2006, S. 154 f.). Der Staat darf nicht die ganzen Gerichtskosten auf die Rechtssuchenden überwälzen (BIAGGINI, a.a.O., N. 19; HÄNER, a.a.O., S. 155; zu diesem Aspekt von Art. 18 KV/ZH vgl. unten, E. 6.2.3).
Bei der Beurteilung der Frage, welche Gerichtsgebühr für ein Verfahren angemessen erscheint, steht den kantonalen Gerichten ein grosser Ermessensspielraum offen, den das Bundesgericht respektieren muss. Es kann daher lediglich überprüfen, ob ein offensichtliches Missverhältnis zwischen der Gebühr und dem objektiven Wert der bezogenen Leistung besteht und sich die Gebühr in vernünftigen Grenzen bewegt; insofern deckt sich die Rüge der Verletzung von Art. 18 Abs. 1 KV/ZH weitgehend mit der Verletzung des abgaberechtlichen Äquivalenzprinzips (vgl. dazu: BGE 138 II 70 E. 5.3 S. 73 f. mit Hinweisen; speziell für Gerichtsgebühren: BGE 120 Ia 171 E. 2a S. 174 mit Hinweisen) und des Willkürverbots. Hierfür kann auf das oben (E. 6.2.1) Gesagte verwiesen werden. Die Beschwerdeführerin macht auch nicht substanziiert geltend, dass die (auf ihre Beschwerde entfallende) Gebühr geeignet gewesen wäre, sie von der Beschwerdeführung abzuhalten, wenn sie ihr von Anfang an bekannt gewesen wäre.
8.2.3 Das Kostendeckungsprinzip spielt im Allgemeinen für Gerichtsgebühren keine Rolle, decken doch erfahrungsgemäss die von den Gerichten eingenommenen Gebühren die entsprechenden Kosten bei Weitem nicht (BGE 120 Ia 171 E. 3 S. 175 mit Hinweisen). Nichts anderes ergibt sich aus dem auf Internet veröffentlichten Rechenschaftsbericht 2011 des Zürcher Verwaltungsgerichts an den Kantonsrat (Ziff. 1.6 S. 14). Danach stand im Jahr 2011 einem Aufwand von 9 Mio. (2010: 8.4 Mio.) Franken ein Ertrag von nur 2.5 Mio. (2010: 2.6 Mio.) Franken gegenüber, so dass sich ein Negativsaldo von 6.5 Mio. (2010: 5.8 Mio.) Franken ergab. Insofern ist weder das Kostendeckungsprinzip noch Art 18 Abs. 1 KV/ZH verletzt.
9. Nach dem Gesagten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 BGG). Die Stadt Zürich und die Baudirektion Zürich haben keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird der Beschwerdeführerin, dem Kanton Zürich, der Bausektion der Stadt Zürich, der Baudirektion und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, sowie dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 12. Oktober 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber