Sachverhalt:
A.
Die Y._ AG wurde vom Regierungsrat des Kantons Zürich mit dem Bau der Bahn A._ beauftragt, wozu sie vom Bundesrat eine Eisenbahn-Infrastrukturkonzession und das Enteignungsrecht erhielt. Eine Teilstrecke quert das Grundstück B._-GBB-xxx der X._ AG.
Im Jahr 2003 schlossen der Kanton Zürich, die Y._ AG und die Eidgenossenschaft als Rechtsvorgängerin der X._ AG einen öffentlich-rechtlichen Vergleichsvertrag (nachfolgend Vergleich 2003), dessen wesentlicher Inhalt die Begründung einer Dienstbarkeit statt der Enteignung war. Dabei wurde der voraussichtliche Platzbedarf des für die Querung des Grundstückes vorgesehenen Bahndammes auf 4'075 m2 beziffert und die Entschädigung auf Fr. 350 pro m2 festgelegt, wobei das genaue Mass der beanspruchten Fläche nach der Bauvollendung ermittelt und allfällige Differenzen zum betreffenden Preis pro Quadratmeter ausgeglichen werden sollten.
Am 5. Dezember 2006 erwarb die X._ AG von der Eidgenossenschaft das fragliche Grundstück, unter Übernahme der Rechte und Pflichten aus dem Vergleich 2003.
Infolge einer vom Bundesamt für Verkehr genehmigten Planänderung sollte anstelle der vorgesehenen Dammschüttung ein Eisenbahnviadukt erstellt werden, welches schliesslich auch realisiert wurde. Ab Juli/August 2008 begannen die Bauarbeiten auf dem Grundstück der X._ AG. Die Betriebsbewilligung für die Bahn A._ wurde am 6. Dezember 2010 erteilt, worauf die Bahn am 12. Dezember 2010 in Betrieb genommen wurde.
Aufgrund des geringeren Platzbedarfs des Viadukts schlossen die Y._ AG und die X._ AG am 20. Januar 2011 einen öffentlich beurkundeten Dienstbarkeitsvertrag (nachfolgend Vertrag 2011). Er bezieht sich auf den Vergleich 2003 und hatte zum Zweck, das abgeänderte Projekt rechtlich zu sichern, die aufgrund des Vergleichs 2003 begründeten Dienstbarkeiten entsprechend den geänderten Plänen zu revidieren und den geldmässigen Ausgleich der Änderungen festzulegen; subsidiär sollte weiterhin der Vergleich 2003 Geltung haben. In Ziff. 3.4 des Vertrages 2011 wurde die von der X._ AG zu leistende "Ausgleichszahlung aufgrund Reduktion der Dienstbarkeitsfläche" auf Fr. 692'160.-- festgesetzt. Ferner wurde in Ziff. 3.2 des Vertrages 2011 ein Kostenbeitrag des jeweiligen Grundstückseigentümers an die Erstellung des Brückenbauwerks von Fr. 800'000.-- festgelegt. Diese beiden Beträge wurden gemäss Ziff. 2 des Vertrages 2011 mit Grundpfandverschreibungen von Fr. 700'000.-- im 6. Rang und von Fr. 800'000.-- im 7. Rang auf dem vorgenannten Grundstück gesichert.
B.
Mit am 15. März 2012 zugestelltem Zahlungsbefehl Nr. yyy des Betreibungsamtes B._ leitete die Y._ AG für die Beträge von Fr. 692'160.-- sowie Fr. 5'167.50 (Vertragszins von 20. Januar 2011 bis 9. Mai 2011) je nebst Verzugszins zu 5 % seit 10. Mai 2011 eine Betreibung auf Grundpfandverwertung ein.
Nachdem die X._ AG Rechtsvorschlag erhoben hatte, verlangte die Y._ AG mit Gesuch vom 26. April 2012 provisorische Rechtsöffnung.
Die X._ AG machte Willensmängel (Grundlagenirrtum und absichtliche Täuschung) geltend und focht den Vertrag 2011 am 18. Juni 2012 gestützt auf <ref-law> an.
Mit Entscheid vom 16. April 2013 erteilte das Bezirksgericht C._ die provisorische Rechtsöffnung für die vorstehend genannten Beträge sowie für das Pfandrecht lastend auf B._-GBB-xxx.
Die hiergegen erhobene Beschwerde der X._ AG wurde vom Obergericht des Kantons Zürich mit Entscheid vom 7. November 2013 und vom Bundesgericht mit Urteil vom 1. Juli 2014 abgewiesen (Verfahren 5A_964/2013).
C.
Am 9. Dezember 2013 reichte die X._ AG eine Aberkennungsklage ein, mit welcher sie die Feststellung des Nichtbestehens der betriebenen Forderungen verlangte.
Mit Urteil vom 7. Dezember 2015 wies das Handelsgericht des Kantons Zürich die Klage ab.
D.
Gegen dieses Urteil hat die X._ AG am 1. Februar 2016 eine Beschwerde eingereicht, mit welcher sie dessen Aufhebung und die Feststellung verlangt, dass die betriebenen Forderungen nicht bestehen; eventualiter wird die Rückweisung an das Handelsgericht und subeventualiter der Aufschub der Vollstreckung bis zur rechtskräftigen Beurteilung der öffentlich-rechtlichen Verrechnungsforderungen verlangt. Mit Präsidialverfügung vom 19. Februar 2016 wurde der Beschwerde die aufschiebende Wirkung erteilt. In der Sache selbst wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1.
Angefochten ist das kantonal letztinstanzliche Urteil in einer Zivilsache mit Fr. 30'000.-- übersteigendem Streitwert (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 2 lit. b und Art. 90 BGG).
Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). In diesem Bereich kann lediglich eine offensichtlich unrichtige, d.h. willkürliche Sachverhaltsfeststellung gerügt werden, wobei das strenge Rügeprinzip gilt (Art. 97 Abs. 1 und Art. 106 Abs. 2 BGG; Botschaft, BBl 2001 IV 4338; <ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398; <ref-ruling> E. 1.5 S. 401; <ref-ruling> E. 2 S. 117). Willkür in der Beweiswürdigung setzt voraus, dass der Richter den Sinn und die Tragweite eines Beweismittels offensichtlich nicht erkannt, ohne vernünftigen Grund ein entscheidendes Beweismittel ausser Acht gelassen oder aus den vorhandenen Beweismitteln einen unhaltbaren Schluss gezogen hat (<ref-ruling> E. 2.1 S. 9). Keine Willkür in der Beweiswürdigung ist hingegen gegeben, wenn die vom Sachgericht gezogenen Schlüsse nicht mit der eigenen Darstellung des Beschwerdeführers übereinstimmen (<ref-ruling> E. 4.2 S. 560; <ref-ruling> E. 4.2 S. 234; <ref-ruling> E. 2.3 S. 266). Das Bundesgericht prüft im Zusammenhang mit der Beanstandung von Sachverhaltsfeststellungen nur klar und detailliert erhobene und, soweit möglich, belegte Rügen, während es auf ungenügend substanziierte Rügen und rein appellatorische Kritik am Sachverhalt nicht eintritt (<ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 2.3 S. 266).
Die Beschwerde bezieht sich in grossem Umfang auf die Tatsachenfeststellung durch das Handelsgericht. Diesbezüglich erhebt die Beschwerdeführerin keine Willkürrügen (weder verwendet sie das Wort "Willkür" noch erfolgt ein Hinweis auf <ref-law> und es wird auch nirgends eine offensichtlich unrichtige Sachverhaltsfeststellung im Sinn von <ref-law> angeführt). Auch inhaltlich entsprechen ihre Vorbringen nicht den an Willkürrügen zu stellenden Anforderungen, weil sie sich - soweit sie überhaupt zwischen Sachverhalt und Rechtsanwendung unterscheidet - durchwegs auf appellatorische Ausführungen beschränkt, indem sie den Sachverhalt aus eigener Sicht schildert und die davon abweichenden Feststellungen des Handelsgerichts jeweils als falsch oder tatsachenwidrig bezeichnet. Dies ist nach dem Gesagten ungenügend; auf die Beschwerde kann nicht eingetreten werden, soweit die tatsächlichen Feststellungen durch das Handelsgericht bloss durch abweichende eigene Darstellung in Frage gestellt werden sollen. Darauf wird jeweils im Sachzusammenhang zurückzukommen sein.
2.
Die Beschwerdeführerin bringt vor, mit Verfügung vom 3. Dezember 2015 sei ihr mitgeteilt worden, dass Ersatzoberrichterin E._ anstelle der erkrankten Oberrichterin F._ an der Verhandlung vom 7. Dezember 2015 teilnehmen würde. Diese habe sich aber in der kurzen Zeit unmöglich in den Fall einarbeiten können. Auch wenn die gerichtsorganisatorischen Besetzungskriterien formell erfüllt seien (§ 39 Abs. 2 GOG/ZH), bedeute dies materiell eine Verletzung von Art. 29 Abs. 2 und Art. 30 Abs. 1 BV sowie Art. 6 Ziff. 1 EMRK. Ferner sei das fertig erstellte 90-seitige Urteil bereits eine Woche später versandt worden. Es sei unmöglich, ein so langes Urteil in so kurzer Zeit zu redigieren, weshalb es offensichtlich schon vorher jedenfalls in Teilen geschrieben worden sei.
Rügen betreffend angeblich falsche Besetzung des Gerichts sind so früh wie möglich geltend zu machen, ansonsten sie als verwirkt gelten (<ref-ruling> E. 2.2 S. 4; <ref-ruling> E. 8.4.3 S. 275); insbesondere verstösst es gegen den Grundsatz von Treu und Glauben, solche Rügen erst aufgrund einer als ungünstig empfundenen Entscheidung vorzubringen (<ref-ruling> E. 2 S. 123; Urteil 5A_122/2011 vom 9. Juni 2011 E. 3.3). Vorliegend wusste die Beschwerdeführerin bereits mit Erhalt der Verfügung von der neuen Gerichtsbesetzung und sie hätte ihre Rüge zu Beginn der Verhandlung vom 7. Dezember 2015 erheben können und müssen. Es widerspricht Treu und Glauben, wenn sie widerspruchslos an der Verhandlung teilgenommen hat und ihre Beanstandung erst in der Beschwerde gegen das zu ihren Ungunsten ausgefallene Urteil erhebt. Auf die Rüge ist folglich nicht einzutreten.
Was sodann das schriftlich begründete Urteil anbelangt, erhebt die Beschwerdeführerin keinerlei Rügen; sie macht einzig geltend, zur Klärung der Frage, ob bei der Verhandlung bereits die Rohfassung eines teilweise begründeten Urteils vorgelegen habe, seien beim Handelsgericht sämtliche Akten inklusive des Urteils in Dateiform zu edieren und gestützt darauf sei zu untersuchen, wann das Urteil effektiv geschrieben worden sei. Darauf kann nicht eingetreten werden, weil weder allgemeine Verfassungsrügen noch spezifisch die willkürliche Anwendung kantonaler Bestimmungen noch die Verletzung von Bundesrecht geltend gemacht wird.
3.
Die Beschwerdeführerin macht geltend, beim Abschluss des Vertrages 2011 einem Grundlagenirrtum erlegen zu sein, wobei sie sich über die vom Vertrag erfasste Fläche (dazu E. 3.1), über die Geländegestaltung unter dem Viadukt (dazu E. 3.2) und über die Mehrkosten der Gegenpartei (dazu E. 3.3) geirrt haben will.
3.1. Das Handelsgericht ist davon ausgegangen, dass im Vertrag 2011 unzweideutig umschrieben worden sei, worum es gehe: "Die Eisenbahnbrücke beschlägt eine Dienstbarkeitsfläche von 2'097.4 m2. Die Differenz zur beanspruchten Fläche der Dammschüttung beträgt 1'977.6 m2. Die X._ AG erstattet der Y._ AG eine Ausgleichszahlung von Fr. 692'160.00 für die Reduktion der Dienstbarkeitsfläche (Fr. 350.00/m2)." Sodann werde auf die für die Reduktion der Dienstbarkeitsfläche massgeblichen Pläne hingewiesen. Der im Anhang zum Dienstbarkeitsvertrag befindliche Plan enthalte eine grün eingefärbte zeichnerische Hervorhebung der für das Eisenbahnviadukt beanspruchten Dienstbarkeitsfläche. Die Ausmasse der Fläche seien auf dem zugehörigen Spezialplan mit 2'097.4 m2 beziffert, wobei die massgebliche Fläche blau umrandet sei. Dabei seien auf beiden Plänen weder Flächen für Fuss- oder Fahrwege noch solche für die Bike&Ride-Anlage verzeichnet. Angedeutet bzw. eingezeichnet seien lediglich die Fussgängerstege, die als Haltestellenzugang dienen würden, wobei nur einer davon realisiert worden sei. Bei dieser Ausgangslage habe die Y._ AG in guten Treuen davon ausgehen dürfen, dass die Ausgleichszahlung die um 1'977.6 m2 reduzierte Dienstbarkeitsfläche für das Eisenbahnviadukt samt Haltestelle und zwei Wartehallen betroffen habe. Das Fuss- und Fahrwegrecht werde hingegen nicht beziffert, bestehe aber weiterhin und sei damit offensichtlich nicht von der Flächenberechnung umfasst. Sodann hielt das Handelsgericht die objektive Wesentlichkeit des angeblichen Irrtums für nicht begründet und es erachtete diesen insbesondere als für die Gegenseite nicht erkennbar, weil der Vertrag 2011 nach Fertigstellung des Viaduktes, Vollendung sämtlicher Bauarbeiten und Inbetriebnahme der Bahn A._ abgeschlossen wurde, so dass ersichtlich war, welche Bauten an welcher Stelle errichtet worden waren.
Die Beschwerdeführerin versucht - ohne irgendwelche Willkürrügen zu erheben - vor Bundesgericht einen neuen Sachverhalt einzuführen, indem sie behauptet, die Ausgleichszahlungen im Vertrag 2011 erstreckten sich auf alle drei im Vergleich 2003 regulierten Flächen; es sei auf ihrem Grundstück ein nicht bewilligter Fuss- und Radweg mit einer Fläche von 150 m2errichtet worden. Daraus folge, dass die Flächenberechnung falsch und die errechnete Ausgleichszahlung um Fr. 52'500.-- zu hoch ausgefallen sei. Indem die Beschwerdeführerin sich diesbezüglich auf appellatorische Behauptungen beschränkt, worauf nicht eingetreten werden kann (dazu E. 1), stossen sämtliche weiteren Ausführungen ins Leere (betreffend Verfügung des AVEL, betreffend provisorische Radwegführung, betreffend objektive Wesentlichkeit, betreffend Erkennbarkeit für die Gegenpartei). Abgesehen davon erhebt die Beschwerdeführerin auch zu diesen weiteren Punkten nur appellatorische Ausführungen, obwohl es zu einem grossen Teil um Sachverhaltsfeststellungen geht.
3.2. In Bezug auf den von der Beschwerdeführerin behaupteten Irrtum über die Geländegestaltung unter dem Viadukt verneinte das Handelsgericht nebst dem Irrtum insbesondere auch dessen objektive Wesentlichkeit, weil die Ausgleichszahlung anhand der Quadratmeter berechnet wurde und sich die vom Viadukt beanspruchte Fläche durch die Gestaltung des Geländes unter dem Viadukt nicht veränderte. Sodann verneinte es aus dem gleichen sowie dem weiteren Grund, dass das Bauwerk im Zeitpunkt des Vertragsschlusses längst fertigt gestellt und in Betrieb war, auch die Erkennbarkeit des angeblichen Irrtums für die Gegenpartei.
An der Kernerwägung, dass die Reduktion der benötigten Landfläche durch den Bau des Viadukts vorgegeben und nicht durch die Geländegestaltung darunter beeinflusst ist, geht die Beschwerdeführerin vorbei, indem sie dem Handelsgericht vorwirft, die relevanten Pläne durcheinander gebracht und übersehen zu haben, dass gemäss diesen kein Geländeeinschnitt unter dem Viadukt verbleibe, weshalb sie zu Recht von dessen Wiederauffüllung habe ausgehen dürfen. Gleiches gilt für ihre Ausführungen zur Verfahrensart bei der Projektänderung und die Kosten für das Viadukt. Indem sich die Beschwerdeführerin mit den - im Übrigen zutreffenden handelsgerichtlichen Erwägungen - nicht topisch auseinandersetzt, bleibt ihre Rüge unsubstanziiert, so dass darauf nicht eingetreten werden kann.
3.3. In Rz. 34 der Replik machte die Beschwerdeführerin plötzlich auch in Bezug auf den Kostenbeitrag von Fr. 800'000.-- gemäss Ziff. 3.2 des Vertrages 2011 geltend, sich geirrt zu haben. Obwohl die Beschwerdegegnerin in ihrer Klageantwort auf S. 11 oben noch zutreffend darauf hingewiesen hatte, dass diese nicht Gegenstand des vorliegenden Verfahrens bilde, bestritt sie in ihrer Duplik auf S. 8 das Vorbringen der Beschwerdeführerin in der Sache und das Handelsgericht behandelte die Frage ebenfalls materiell (angefochtener Entscheid S. 25 ff.), wobei es den Irrtum verneinte.
Gegenstand der Aberkennungsklage ist einzig die in Bezug auf die Ausgleichszahlung gemäss Ziff. 3.4 des Vertrages 2011 in Betreibung gesetzte Forderung von Fr. 692'160.--. Zwar hat die Beschwerdeführerin mit Erklärung vom 18. Juni 2012 den ganzen Vertrag gestützt auf <ref-law> angefochten (angefochtenes Urteil S. 6 unten), aber der Kostenbeitrag von Fr. 800'000.-- gemäss Ziff. 3.2 des Vertrages 2011 ist nicht Teil der Betreibung Nr. yyy des Betreibungsamtes B._ und die Beschwerdeführerin hat in den Rechtsbegehren ihrer Klage und Replik denn auch nur die Feststellung des Nichtbestehens der Forderung über Fr. 692'160.-- nebst Zinsforderungen verlangt. Abgesehen davon würden die Vorbringen der Beschwerdeführerin wiederum daran scheitern, dass die Tatsachenfeststellungen des Handelsgerichtes, welche zur Verneinung des Irrtums im Zusammenhang mit der Höhe der Mehrkosten für das Brückenbauwerk und der angeblichen Massgeblichkeit dieses Irrtums für den im Vertrag 2011 festgelegten Beteiligungsbetrag geführt haben, nur mit appellatorischen Ausführungen angefochten werden.
4.
Die Beschwerdeführerin machte vor Handelsgericht weiter geltend, sie sei beim Abschluss des Vertrages 2011 durch die Verwendung nicht mehr aktueller Pläne, in denen der Radweg in einer Betonwanne und die Wiederauffüllung des Geländes unter dem Viadukt vorgesehen gewesen sei, durch die Gegenpartei absichtlich getäuscht worden.
Das Handelsgericht hielt angebliche Täuschungshandlungen für unbewiesen. Die Pläne hätten dazu gedient, die Fläche zu bestimmen, welche das Viadukt benötigte, denn (einzig) dies sei zur Berechnung der Ausgleichszahlung nötig gewesen. Der verwendete Plan "Situation 1:200, Längsschnitt 1:200" stelle denn auch dies in den Vordergrund. Es sei in erster Linie die Ansicht des Viadukts von oben ersichtlich (Längsschnitt, kein Querschnitt). Die Geländegestaltung und der Radweg bzw. die Betonwanne seien nur angedeutet. Diese Punkte hätten in anderen Plänen noch detaillierter festgelegt werden müssen, aber die vom Viadukt benötigte Fläche habe sich nicht mehr geändert. Aus anderen Plänen könne die Beschwerdeführerin nichts ableiten, weil das Viadukt und der Radweg im Zeitpunkt der Vertragsunterzeichnung fertiggestellt gewesen seien. Wenn sie die effektiv vorhandene Situation (angeblich mangels Besichtigung) nicht habe wahrnehmen wollen, so könne dies nicht (als Täuschungshandlung) der Gegenpartei angelastet werden; eine Täuschung sei unter den gegebenen Umständen nicht denkbar. Auch der Amtsbericht der Stadt B._ lasse keine andere Auslegung zu. Der Beschwerdeführerin sei zwar insofern zuzustimmen, als die Stadt B._ keine Bewilligung für den Fuss- und Radweg erteilt habe; sie halte aber im gleichen Dokument fest, dass aus ihrer Sicht keine Bewilligung erforderlich gewesen und dass dieses Projekt mit den Beteiligten, insbesondere mit der Beschwerdeführerin, weiter bearbeitet worden sei und die Wege und Zugänglichkeiten mit ihr abgesprochen worden seien. Dies spreche für eine Beteiligung oder zumindest Kenntnis der Beschwerdeführerin im Rahmen der Planung. Unabhängig davon sei aber der effektive Zustand, auch die Linienführung der Fuss- und Radwege, im Zeitpunkt des Vertragsschlusses ersichtlich gewesen.
Die Beschwerdeführerin legt ihren weiteren Vorbringen vorab eine in appellatorischer Weise erfolgende eigene Sachverhaltsschilderung zugrunde, wonach auf ihrem Grundstück auf 150 m2 ohne öffentlich-rechtliche Bewilligung ein Radweg gebaut worden sei; die Täuschungshandlung der Gegenpartei habe darin bestanden, dass der Ausmassplan fälschlicherweise eine Fläche von 2'097.4 m2 statt eine Fläche von 2'247.4 m2 (2'097.4 zzgl. 150) festgehalten habe, wovon die Gegenpartei, nicht aber sie Kenntnis gehabt habe. Diese Schilderung des angeblichen Sachverhaltes steht den handelsgerichtlichen Sachverhaltsfeststellungen in jeder Hinsicht diametral gegenüber, ohne dass diese als willkürlich gerügt würden. Kann darauf mithin nicht eingetreten werden, fehlt es den hierauf bauenden weiteren tatsächlichen und rechtlichen Ausführungen (angebliche Aufklärungspflichten der Gegenpartei, angebliche Täuschung über die Kostenschätzung) an der tatsächlichen Ausgangsbasis.
5.
Umstritten ist schliesslich, ob die auf <ref-law> gestützte Anfechtung rechtzeitig erfolgt ist. Das Handelsgericht hat die Rechtzeitigkeit verneint mit der Begründung, angesichts des fertiggestellten und in Betrieb genommenen Bauwerkes habe die Beschwerdeführerin von der tatsächlichen Situation auf ihrem Grundstück Kenntnis erlangen müssen, auch wenn sie vorbringe, bei der Unterzeichnung des Abnahmeprotokolls am 2. März 2011 keine Besichtigung vorgenommen zu haben.
Vermag die Beschwerdeführerin nach dem vorstehend Gesagten bereits mit ihren Vorbringen zum angeblichen Grundlagenirrtum und der angeblichen absichtlichen Täuschung nicht durchzudringen, ist die Frage der Anfechtungsfrist gegenstandslos. Auf die diesbezüglichen Ausführungen in der Beschwerde ist nicht näher einzugehen.
6.
Die Beschwerdeführerin stellte der betriebenen Forderung bereits in der Stellungnahme vom 20. Juni 2012 zum Rechtsöffnungsgesuch vier Gegenforderungen im Gesamtbetrag von Fr. 2'444'510.-- zur Verrechnung. Teilweise sind diese öffentlich-rechtlicher Natur. Das Handelsgericht hielt in materieller Hinsicht fest, dass die Verrechnung auch mit öffentlich-rechtlichen Forderungen möglich sei, und in prozessualer Hinsicht, dass es bei der Verrechnung nicht um eine vorfrageweise Prüfung gehe, sondern die Beurteilung an der Rechtskraft des Urteils teilnehme. Es hat daraus gefolgert, zur Beurteilung öffentlich-rechtlicher Verrechnungsforderungen sachlich unzuständig zu sein. Sodann hat es, unter Verweis auf die einschlägigen Lehrmeinungen, die weiteren Möglichkeiten geprüft (Kompetenzattraktion, Verfahrenssistierung, Verfahrensüberweisung und Vollstreckungsaufschub). Dabei hat es befunden, diese prozessualen Optionen seien im Einzelfall zu prüfen und könnten abhängig von den konkreten Umständen gerechtfertigt sein oder auch nicht. Im vorliegenden Fall lehnte es eine Kompetenzattraktion ab, ebenso eine Verfahrenssistierung, weil nicht innert nützlicher Frist ein Entscheid über die Verrechnungsforderung zu erwarten sei. Die Überweisung des Aberkennungsprozesses an die zuständigen Verwaltungsbehörden bzw. das Verwaltungsgericht lehnte es ab, weil der vorliegende Prozess spruchreif sei, während das Verfahren bei der Schätzungskommission derzeit sistiert sei und bei der Forderung aufgrund der Beanspruchung des Grundstücks während der Bauzeit ein allfälliger Anspruch aus dem privatrechtlichen Vertrag den öffentlich-rechtlichen Ansprüchen wohl vorgehen würde, so dass den Verwaltungsbehörden eine Beurteilung vor dem Vorliegen des handelsgerichtlichen Urteils gar nicht möglich wäre. Schliesslich erachtete es den Aufschub der Vollstreckbarkeit des Aberkennungsurteils als unzumutbar für den Fall, dass die zur Verrechnung gestellten öffentlich-rechtlichen Forderungen aufgrund einer summarischen Prüfung als aussichtslos erscheinen sollten, zumal die Beschwerdegegnerin die sofortige Begleichung rechtskräftig festgestellter Gegenforderungen zugesichert habe und sie die Betreiberin eines öffentlichen Verkehrsbetriebes sei, so dass die Erfüllung allfälliger Forderungen im Grundsatz nicht gefährdet sei. In der Folge prüfte das Handelsgericht die in seine Zuständigkeit fallenden privatrechtlichen Verrechnungsforderungen umfassend und die öffentlich-rechtlichen Verrechnungsforderungen summarisch, wobei es jeweils zum Schluss kam, diese seien aussichtslos.
6.1. Die Ablehnung der Sistierung des Aberkennungsverfahrens hält die Beschwerdeführerin für treuwidrig, weil die Schätzungskommission das Handelsgericht am 4. April 2014 erfolglos um einen Meinungsaustausch in Bezug auf die Zuständigkeit bzw. Koordination der Verfahren ersucht habe und ohne die in der Folge vorgenommene Sistierung des Schätzungsverfahrens dieses heute ganz oder jedenfalls weitgehend abgeschlossen wäre.
Mit diesen Behauptungen ist - unabhängig von der Frage ihrer Richtigkeit und ihrer Zulässigkeit nach <ref-law> - keine Bundesrechtswidrigkeit darzutun. Das Handelsgericht hat die Ablehnung der Sistierung damit begründet, dass der vorliegende Aberkennungsprozess spruchreif sei, während dies für das Verfahren vor der Schätzungskommission nicht zutreffe. Dass dies nicht den Tatsachen entsprechen würde, behauptet die Beschwerdeführerin selbst nicht. Der Hintergrund, wie es zu dieser Tatsache kam, kann nicht entscheidend sein.
Weitergehende Rügen - etwa dass die Sistierung von Bundesrechts wegen in jedem Fall zwingend wäre - erhebt die Beschwerdeführerin nicht und folglich ist solches auch nicht zu prüfen (<ref-law>; BGE <ref-ruling> E. 2 S. 116).
6.2. Die abgelehnte Überweisung hält die Beschwerdeführerin als in Verletzung von <ref-law> zu wenig begründet. Aus dieser Verfassungsbestimmung folgt die Pflicht, den Entscheid so zu begründen, dass der Betroffene ihn gegebenenfalls sachgerecht anfechten kann; in diesem Sinn müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen (<ref-ruling> E. 4.1 S. 88; <ref-ruling> E. 2.2 S. 84; <ref-ruling> E. 2.2 S. 183). Die Begründung des Handelsgerichts erfüllt diese Anforderungen in jeder Hinsicht, ist doch sowohl für die Parteien als auch für das Bundesgericht als Rechtsmittelbehörde klar, aus welchen Gründen das Handelsgericht zu seinem Schluss gelangt ist.
6.3. Dass das Handelsgericht schliesslich den Aufschub der Vollstreckbarkeit davon abhängig machte, dass die öffentlich-rechtlichen Verrechnungsforderungen nicht als aussichtslos erscheinen, hält die Beschwerdeführerin für eine unzulässige Weiterentwicklung des in <ref-ruling> Gesagten.
Dies lässt sich so nicht sagen. In jenem Entscheid wurde zwar auf den Grundsatz "le juge de l'action est le juge de l'exception" verwiesen, gleichzeitig aber auch festgehalten, dass die Kantone zur Regelung des Problems aufgerufen seien und Lösungen treffen können, die vom erwähnten Grundsatz abweichen (E. 2b S. 107). Verschiedene kantonale Zivilprozessordnungen hatten denn auch Regelungen vorgesehen (vgl. dazu ZELLWEGER-GUTKNECHT, Berner Kommentar, N. 247 vor Art. 120-126 OR). Demgegenüber enthält die schweizerische Zivilprozessordnung keine Bestimmungen darüber, wie ein Zivilgericht vorzugehen hat, wenn der Beklagte die Verrechnung mit einer Gegenforderung geltend macht, zu deren Beurteilung das mit dem eingeklagten Anspruch befasste Gericht an sich unzuständig ist.
Das Handelsgericht hat ausführlich dargelegt, weshalb im vorliegenden Einzelfall der in der Lehre als Lösungsmöglichkeit erwähnte Vollstreckungsaufschub für die Beschwerdegegnerin dann nicht zumutbar erscheint, wenn die Verrechnungsforderungen bei summarischer Prüfung als aussichtslos anzusehen sind. Damit setzt sich die Beschwerdeführerin nicht auseinander, so dass ihr in der Behauptung, das Handelsgericht habe gegen <ref-ruling> verstossen, sinngemäss enthaltenes Vorbringen, das Handelsgericht habe Bundesrecht verletzt, unbegründet bleibt (<ref-law>).
Auf das betreffende Vorbringen ist somit nicht einzutreten und als Folge sind keine Ausführungen in der Sache zu machen. Die Beschwerdeführerin legt nicht mit genügender Begründung im Sinn von <ref-law> dar, inwiefern die Kernüberlegung des Handelsgerichts, angesichts der vorgenommenen summarischen Prüfung der öffentlich-rechtlichen Verrechnungsforderungen mit dem Ergebnis, dass diese offensichtlich aussichtslos sind, sei der Beschwerdegegnerin im vorliegenden Einzelfall ein Vollstreckungsaufschub nicht zuzumuten, gegen Bundesrecht verstossen würde. Sie wirft dem Handelsgericht nämlich einzig vor, zur Beurteilung verwaltungsrechtlicher Themen nicht kompetent zu sein, weshalb es sich nicht habe anmassen dürfen, über öffentlich-rechtliche Forderungen zu entscheiden, weder umfassend noch summarisch. Damit setzt sich die Beschwerdeführerin aber gerade in Widerspruch zu ihrem Hauptanliegen, im vorliegenden Aberkennungsprozess für ihre angeblichen öffentlich-rechtlichen Forderungen ebenso wie für ihre behaupteten privatrechtlichen Forderungen die Verrechnungseinwendung erheben zu können.
6.4. Scheitern die impliziten Vorbringen, wonach das Handelsgericht mit dem gewählten prozessualen Vorgehen in verschiedener Hinsicht gegen Bundesrecht verstossen habe, insgesamt am Begründungserfordernis, so ist für die weiteren Rügen, wonach die einzelnen Verrechnungsforderungen falsch beurteilt worden seien, vom prozessualen Konzept - ohne dass damit im positiven oder negativen Sinn dazu Stellung genommen sei - auszugehen, wie es vom Handelsgericht aufgestellt worden ist.
7.
Die erste Verrechnungsforderung, behauptet mit Fr. 1'523'211.--, betrifft die angebliche Mehrnutzung des Grundstückes während der Bauphase.
7.1. Unbestrittenermassen durfte die Y._ AG gemäss Vergleich 2003 die Dienstbarkeitsfläche nutzen. Sodann schlossen die Parteien am 29. Mai 2008 einen Vertrag für einen Installationsplatz von rund 2'500 m2 während 30 Monaten gegen eine Entschädigung von Fr. 250'000.-- sowie am 16. Juli 2009 einen weiteren Vertrag für die Beanspruchung von bis zu 5'400 m2 während 17 Monaten gegen eine pauschale Entschädigung von Fr. 260'000.--. Die Beschwerdeführerin machte für ihre Verrechnungsforderung geltend, der Installationsplatz habe vertragswidrig rund 22'600 m2 beansprucht; als Grundlage für ihre Forderung nannte sie in erster Linie den Vergleich 2003.
7.2. Das Handelsgericht hat zusammengefasst erwogen, dass dem zweiten Mietvertrag betreffend Installationsplatz beidseitige Berechnungen vorausgegangen seien und man sich kompromissweise auf eine Pauschalentschädigung von Fr. 260'000.-- für eine ungefähre Fläche für eine ungefähre Zeit geeinigt habe, weshalb einzig bei einer grossflächigen Mehrbeanspruchung weiterer Ersatz gefordert werden könnte. Diesbezüglich falle ein konkludenter Mietvertrag ausser Betracht, ebenso ein faktisches Mietverhältnis, weil es weder um eine vorübergehende Duldung des Mieters nach Vertragsbeendigung noch um die Erfüllung eines mangelhaften Vertrages gehe. Unabhängig von diesen Fragen gelinge der Beschwerdeführerin - sie behaupte im Prinzip eine Nutzung des gesamten Grundstücks während der gesamten Bauphase - der Beweis nicht, welche Grundstücksflächen während welcher Zeitdauer unerlaubt belegt worden sein sollen. Die eingereichten Fotos zeigten die Baustelle an sich, wobei hauptsächlich Flächen abgebildet seien, welche aufgrund der Mietverträge abgegolten seien. Im Hintergrund seien verschiedentlich grüne oder brach liegende Flächen zu sehen, welche gerade nicht durch die Y._ AG genutzt worden seien. Keine der Fotos zeige eine Nutzung durch diese. Ohnehin handle es sich bei den Fotos immer um Momentaufnahmen, welche keine dauernde Nutzung belegen könnten; das gelte vor allem auch für vorübergehend abgestellte Fahrzeuge. Keine andere Situation zeigten die Bilder von Google Street View; beansprucht worden seien lediglich die durch die Mietverträge geregelten Flächen, das übrige Grundstück liege brach. Die Bilder von Google Earth liessen sich ebenfalls direkt mit den Plänen aus den Mietverträgen vergleichen; auf der Aufnahme vom 1. Juli 2009 sei ersichtlich, dass die Y._ AG die vereinbarte Fläche weitgehend beanspruche, und die Aufnahmen vom 25. und 27. Februar 2010 zeigten, dass der Installationsplatz weiterhin genutzt werde, alles innerhalb der von den Mietverträgen umfassten Flächen. Aus dem Entsorgungsbericht ergebe sich, dass auf insgesamt rund 3'270 m2 Aushubarbeiten vorgenommen worden seien; dies entspreche der Dienstbarkeitsfläche und einem Streifen daneben; Anzeichen für die Beanspruchung weiterer Grundstücksflächen seien nicht ersichtlich.
Die Beschwerdeführerin versucht die Sachverhaltsfeststellungen mit ausschliesslich appellatorischen Ausführungen anzugreifen, indem sie sich aus eigener Sicht zu den Plänen der Mietverträge und zu den Gegenstand der vereinbarten Entschädigungen bildenden Flächen sowie darauf bauend zur angeblichen Mehrbeanspruchung, zu den Entschädigungsansätzen pro Quadratmeter und zu dem äussert, was auf den eingereichten Fotos sowie auf den Bildern von Google Street View in Wahrheit ersichtlich sein und aus dem Entsorgungsbericht hervorgehen soll; mangels substanziierter Willkürrügen kann auf all dies nicht eingetreten werden.
7.3. Ausgehend von den vorstehend zusammengefasst wiedergegebenen Feststellungen hielt das Handelsgericht fest (angefochtener Entscheid S. 53), dass die klägerischen Vorbringen den Anforderungen an eine substanziierte Sachdarstellung nicht genügten und deshalb der gestützt auf die vorgelegten Fotos und den Entsorgungsbericht gestellte Antrag auf Einholung eines Gutachtens über den Umfang der Grundstücksnutzung abzuweisen sei. Ferner wies es auch den Antrag auf Edition sämtlicher Projektpläne und sämtlicher Pläne betreffend Installationsplatz bzw. tatsächliche Nutzung und sämtlicher Bausitzungsprotokolle und sämtlicher Namen der involvierten Bauunternehmungen ab, weil diese pauschalen Editionsbegehren eine überschiessende fishing expedition darstellten.
In beiderlei Hinsicht trägt die Beschwerdeführerin entgegen den Feststellungen des Handelsgerichtes wiederum vor (Beschwerde S. 54 f.), inwiefern sie durch eingehende und kommentierte Fotodokumentation ihre Forderungen einlässlich dargestellt habe. Dies beschlägt den Sachverhalt, ohne dass auch nur ansatzweise Willkürrügen erfolgen würden; darauf ist nicht einzutreten. Vor diesem Hintergrund geht sodann das Vorbringen an der Sache vorbei, weil sie entgegen der Auffassung des Handelsgerichtes eine Mehrnutzung belegen könne, handle es sich bei ihren Beweisanträgen nicht um eine fishing expedition.
7.4. Zusammenfassend hielt das Handelsgericht fest, dass die Beschwerdeführerin keine privatrechtlichen Ansprüche zu belegen vermöge und auf den Vergleichsvertrag 2003 gestützte öffentlich-rechtliche Forderungen als aussichtslos erscheinen würden, so dass die Verrechnungseinrede bezüglich angeblicher Mehrnutzung im Zusammenhang mit dem Installationsplatz insgesamt unberücksichtigt zu lassen sei.
Soweit die Beschwerdeführerin erneut ausführt, sie habe die behauptete Mehrnutzung nachweisen können, geht es um die Beweiswürdigung, ohne dass Willkürrügen erhoben würden. Im Zusammenhang mit der Schlussfolgerung, allfällige öffentlich-rechtliche Ansprüche seien als aussichtslos zu betrachten, glaubt die Beschwerdeführerin, das Handelsgericht wende das Recht unrichtig an und es fehle ihm an jeglicher Kenntnis über den Stand und die Argumente im Verfahren vor der Schätzungskommission. Mit dieser lapidaren Behauptung ist keine Rechtsverletzung darzutun.
8.
Die zweite Verrechnungsforderung in behaupteter Höhe von Fr. 501'000.-- betrifft eine angebliche unbefugte Materialentnahme auf dem Grundstück durch die Y._ AG.
8.1. Unbestrittenermassen wurden vom Grundstück der Beschwerdeführerin 681 m3 Humus entnommen und belasteter Boden entsorgt, so dass es aus dem Kataster der belasteten Standorte gelöscht werden konnte. Die Beschwerdeführerin behauptet, dass darüber hinaus gemäss Abklärungen des Geometers weitere 3'361 m3 Material entnommen worden seien. Dies ergebe sich daraus, dass beim vorher landwirtschaftlich genutzten Grundstück im Sinn eines Erfahrungswertes die Humusschicht 40 cm betragen habe. Sodann sei gemäss den Plänen für das Eisenbahnviadukt vorgesehen gewesen, das Land unter dem Bauwerk aufzufüllen; mithin fehle unter dem Viadaukt Erdreich von 8'146.3 m3.
8.2. Betreffend den zweiten Punkt (nicht aufgefüllter Geländeeinschnitt) ging das Handelsgericht davon aus, dass die Fläche unter dem Viadukt durch den Dienstbarkeitsvertrag abgedeckt sei, welcher es der Y._ AG nach <ref-law> erlaubt habe, das Gelände so zu gestalten, wie dies für das Bauwerk sinnvoll sei. Die heutige Terraingestaltung vereinfache die Wartung und Kontrolle des Viadukts, was für den sicheren Bahnbetrieb unerlässlich sei; der Geländeeinschnitt diene damit der Ausübung der Dienstbarkeit. Die Beschwerdeführerin lege im Übrigen nicht dar, was ihr Interesse an der Auffüllung sein solle. Sie habe geplant und plane soweit ersichtlich immer noch, das Viadukt mit einer Tiefgarage zu unterbauen; zu diesem Zweck werde sie früher oder später den Boden unter der Brücke ausheben müssen, so dass die gegenwärtige Gestaltung zumindest teilweise auch in ihrem Interesse liege. Weiter erwog das Handelsgericht, dass der Beschwerdeführerin die Beendigung der Bauarbeiten am 18. Oktober 2010 angezeigt worden sei und diese am 2. März 2011 das Abnahmeprotokoll unterzeichnet habe; darin werde festgehalten, dass das Werk "keine Mängel" aufweise und "die baulichen Anpassungen... projektgerecht erstellt und abgenommen" seien. Die Beschwerdeführerin mache geltend, bei der Unterzeichnung des Protokolls einem Irrtum unterlegen zu sein. Wie bereits im Zusammenhang mit dem angeblichen Irrtum und der angeblichen Täuschung über den Vertrag 2011 abgehandelt, hätte sie sich selbst zuzuschreiben, wenn sie das Protokoll ohne Besichtigung des Grundstückes und ohne Kenntnisnahme des leicht wahrnehmbaren Zustandes unterzeichnet haben sollte; die Y._ AG müsse sich angeblich fehlende Kenntnis der Beschwerdeführerin nicht entgegenhalten lassen. Der Nachweis eines angeblichen Willensmangels bei der Unterzeichnung des Abnahmeprotokolls gelinge ihr deshalb nicht. Unzutreffend sei sodann ihre Ansicht, das Abnahmeprotokoll habe keine rechtliche Wirkung. Aus dem Protokoll gehe klar hervor, welche Arbeiten abgenommen werden sollten, nämlich die Umgebungsarbeiten und die Geländegestaltung, und zwar in Bezug auf die gesamte Parzelle, nicht nur für den Installationsplatz. Bei der Beschwerdeführerin handle es sich um eine Gesellschaft, die Architektur- und Bauleitungsleistungen erbringe, so dass sie die Bedeutung eines Abnahmeprotokolls kenne.
Schliesslich erachtete das Handelsgericht die behauptete unerlaubte Humusentnahme als unbewiesen. Die Beurteilung durch den von der Beschwerdeführerin beauftragten Geometer stelle eine blosse Parteibehauptung dar. Der offizielle Schlussbericht "Entsorgung", auf welchen sich demgegenüber die Y._ AG berufe, sei zwar auch als Parteibehauptung anzusehen, doch komme ihm aufgrund seiner Entstehung ausserhalb des Verfahrens und zu Handen einer amtlichen Stelle eine leicht erhöhte Glaubwürdigkeit zu. Ein brauchbares Gutachten im heutigen Zeitpunkt sei nicht mehr möglich, weshalb der betreffende Beweisantrag abzuweisen sei. Die Terrainkoten seien vor dem Bauvorhaben nur ungenügend erfasst worden und bezüglich der Dicke der Humusdecke stünden nur pauschale Behauptungen im Raum. Die behauptete angebliche Humusdicke widerspreche der Sondierborung vom 17. Oktober 2001, welche eine Dicke von 5 cm ergeben habe. Weil die Forderung nur den Humus umfasse, müsste die Dicke dieser Schicht nachgewiesen werden können. Angesichts der fehlenden Grundlagen sei dies auch mit einem Gutachten nicht mehr möglich, was die Beschwerdeführerin selbst vorbringe; der Beweis könne ihr folglich auch mit einem Gutachten nicht gelingen. Sodann werde auch der Schaden nicht näher quantifiziert; die Beschwerdeführerin bringe lediglich pauschal vor, dass der Humus fehle und wieder einzubringen sei. Weshalb dies erforderlich wäre, werde nicht begründet. Gerade weil weiterhin eine Baute geplant sei und das Grundstück früher oder später ohnehin ausgehoben werden müsse, erscheine das Interesse am Wiedereinbringen von Humus fraglich. Ein angeblicher Schaden müsse aber konkret nachgewiesen werden, abstrakte Behauptungen seien unzureichend.
Soweit die Beschwerdeführerin ihre Ansprüche auf den öffentlich-rechtlichen Vergleich 2003 stützte, hat das Handelsgericht diese angesichts der vorstehenden Ausführungen aus aussichtslos betrachtet und ist zum Schluss gekommen, dass die Verrechnungsforderung wegen angeblicher unerlaubter Materialentnahme insgesamt unbeachtet zu bleiben habe.
8.3. Zu den vorstehend zusammengefassten und zu verschiedenen weiteren Sachverhaltsfeststellungen des Handelsgerichtes äussert sich die Beschwerdeführerin zwar ausführlich, aber wiederum ausschliesslich in appellatorischer Weise, so dass auf ihre Vorbringen nicht eingetreten werden kann. Mangels Willkürrügen ist mithin von den handelsgerichtlichen Sachverhaltsfeststellungen auszugehen (<ref-law>), auf deren Grundlage kein Schaden nachgewiesen ist, so dass die Verrechnungsforderung nicht begründet ist. Dabei hat es grundsätzlich sein Bewenden.
Ausgehend von der verbindlichen Sachverhaltsfeststellung, wonach ein Gutachten über die Humusentnahme heute objektiv nicht mehr möglich ist, geht die Rüge, das Handelsgericht habe in Verletzung von <ref-law> kein Gutachten über den entnommenen Humus angeordnet, an der Sache vorbei. In Bezug auf die weitere Rüge, das Handelsgericht habe mit der Ablehnung der Einvernahme verschiedener angebotener Zeugen gegen <ref-law> verstossen, übersieht die Beschwerdeführerin, dass das Handelsgericht begründet hat, weshalb deren Einvernahme überflüssig ist und deshalb darauf verzichtet werden kann. Dies stellte eine antizipierte Beweiswürdigung dar, welche als ein Teil der Beweiswürdigung vom Bundesgericht nur auf Willkür hin überprüft werden kann (<ref-ruling> E. 4.3.2 S. 376). Die Beschwerdeführerin kann sich deshalb nicht darauf beschränken, eine Verletzung von <ref-law> zu rügen, sondern sie hätte in Bezug auf die antizipierte Beweiswürdigung eine Willkürrüge erheben müssen.
Die rechtlichen Ausführungen in der Beschwerde sind entweder unzutreffend oder gehen angesichts der nicht mit Willkürrügen angefochtenen Sachverhaltsfeststellungen an der Sache vorbei. Dies gilt zunächst für den Vorwurf, das Handelsgericht habe fälschlicherweise <ref-law> statt <ref-law> angewandt, denn aus dem Wortlaut der vertraglichen Vereinbarung und nicht aus dem Grundbucheintrag ergebe sich, dass zum Umfang der Dienstbarkeit die Fläche unter dem Viadukt ebenfalls gehöre (Beschwerde S. 56 f.). Nach dem Wortlaut der Dienstbarkeit, wie ihn die Beschwerdeführerin auf S. 11 der Beschwerde selbst darstellt, ist der Dienstbarkeitsinhalt aber gerade "... das Recht,... auf dem belasteten Grundstück einen Eisenbahnviadukt mit Haltestelle... zu erstellen, auf dem belasteten Grundstück mit Bohrpfählen abzustützen und fortbestehen zu lassen..." (öffentlich beurkundeter Dienstbarkeitsvertrag vom 20. Januar 2011 S. 3). Wie die Beschwerdeführerin daraus ableiten will, dass das Erdreich unter dem Viadukt aufzufüllen gewesen wäre, bleibt ihr Geheimnis; sodann behauptet sie selbst, dass die genaue Inhaltsumschreibung nicht aus dem Grundbucheintrag ersichtlich sein soll. Unbehilflich ist weiter, wenn die Beschwerdeführerin für die Wiederherstellungspflicht auf den Mietvertrag 2008 verweist; dieser betraf den Installationsplatz und nicht die zur Dienstbarkeitsfläche gehörende Situation unter dem Viadukt. Nicht zutreffend ist ferner die Ansicht der Beschwerdeführerin, sie müsse sich das Abnahmeprotokoll mangels gemeinsamer Begehung nicht entgegenhalten lassen. Die Y._ AG durfte nach Treu und Glauben davon ausgehen, dass die Beschwerdeführerin die nach Abschluss der Bauarbeiten auf ihrem Grundstück ohne Weiteres ersichtliche Situation wahrgenommen und in deren Kenntnis das Abnahmeprotokoll unterzeichnet hat. Die rechtlichen Voraussetzungen für eine Irrtumsanfechtung sind nicht gegeben. Davon ausgehend stösst schliesslich die pauschale Aussage ins Leere, angesichts der Unverbindlichkeit des Abnahmeprotokolls sei auch eine ausservertragliche Haftung gegeben.
Soweit schliesslich die Beschwerdeführerin ihre Verrechnungsforderung öffentlich-rechtlich begründet, nämlich mit dem Vertrag 2003, ist angesichts der vorstehenden Ausführungen mit ihrer lapidaren Aussage, sie könne die Materialentnahme auf ihrem Grundstück belegen und folglich sei die Forderung glaubhaft, keine Rechtsverletzung darzutun.
9.
Bei der dritten Verrechnungsforderung geht es um einen behaupteten Entschädigungsanspruch von Fr. 94'500.-- für den erstellten Fuss- und Radweg, welcher eine Fläche von rund 150 m2 beschlägt.
9.1. Das Handelsgericht hat ausgeführt, der Entschädigungsanspruch werde in erster Linie aus dem enteignungsrechtlichen Vergleich 2003 abgeleitet, bei welchem es sich um einen verwaltungsrechtlichen Vertrag handle; ferner komme auch eine Entschädigung aus einer Enteignung in Frage. Eine summarische Prüfung des so oder anders öffentlich-rechtlichen Entschädigungsanspruches ergebe, dass der Beschwerdeführerin ein solcher grundsätzlich zustehe, aber primär der Kanton Zürich in der Pflicht stehe. Aus dem enteignungsrechtlichen Vergleich 2003 ergebe sich, dass der jeweilige Eigentümer des belasteten Grundstücks dem Kanton Zürich auf einer Fläche von ca. 850 m2ein Fuss- und Fahrradwegrecht (für die Öffentlichkeit) einräume. Aus dem Vergleich 2003 gehe weiter hervor, dass die Y._ AG die Beschwerdeführerin für die eingeräumten Dienstbarkeiten mit Fr. 350.-- pro m2 Dienstbarkeitsfläche entschädige. Weiter werde festgehalten, dass das genaue Mass der Landbeanspruchung nach der Bauvollendung erhoben und allfällige Differenzen zwischen den Parteien zum Ansatz von Fr. 350.-- pro m2 ausgeglichen würden. Dies lege nahe, dass sämtliche Vertragsparteien eine definitive Abrechnung vornehmen müssten, wenn die beanspruchten Flächen definitiv feststünden. Partei des Vergleichs 2003 sei auch der Kanton Zürich gewesen, welcher der Berechtigte der Dienstbarkeit für den Fuss- und Fahrradweg sei. Es könne deshalb nicht ohne Weiteres davon ausgegangen werden, dass sich die Y._ AG unwiderruflich verpflichtet haben soll, die Beschwerdeführerin für sämtliche beanspruchten Flächen zu entschädigen; vielmehr sei in erster Linie der Kanton Zürich als Berechtigter entschädigungspflichtig, welcher gemäss dem Vergleich 2003 in den Ausgleich der Flächen zu involvieren sei.
Im Zusammenhang mit der baulichen Situation hat das Handelsgericht sodann festgehalten, dass jedenfalls für den Fuss- und Radweg, so wie er schliesslich realisiert worden sei, kein sachlich und räumlich notwendiger enger Zusammenhang mit dem Bahnbetrieb bestehe. Im Gegensatz zu den ursprünglichen Plänen führe er nicht auf dem seinerzeit vorgesehenen Bahndamm den Geleisen entlang, so dass bei der effektiv realisierten Wegführung auch das Erreichen der Haltestelle nicht mehr möglich sei. Die Änderung der Planung habe zur Folge gehabt, dass die Wegführung nicht mehr im Rahmen des eisenbahnrechtlichen Plangenehmigungsverfahrens habe bewilligt werden können.
Aufgrund der zusammenfassend genannten und weiterer Überlegungen kam das Handelsgericht zum Schluss, dass sich der Entschädigungsanspruch in erster Linie gegen den Kanton Zürich richten dürfte und deshalb nicht mit der betriebenen Forderung der Y._ AG verrechnet werden könne. Insgesamt rechtfertige es sich deshalb, die öffentlich-rechtliche Verrechnungsforderung unberücksichtigt zu lassen.
9.2. Nicht zu folgen ist der Beschwerdeführerin, soweit sie vorbringt, das Handelsgericht schwinge sich ohne Zuständigkeit zur Kompetenzstelle für verwaltungsrechtliche Fragestellungen auf. Das Handelsgericht hat einzig eine summarische Prüfung vorgenommen zur Beurteilung, ob die öffentlich-rechtliche Verrechnungsforderung aussichtslos erscheine und deshalb keinen Aufschub der Vollstreckbarkeit als angezeigt erscheinen lasse.
Keine falsche Beurteilung der Aussichtslosigkeit ergibt sich aus der Behauptung der Beschwerdeführerin, gemäss <ref-law> seien Bauten und Anlagen dann als Eisenbahnanlagen im eisenbahnrechtlichen Plangenehmigungsverfahren zu bewilligen, wenn sie ganz oder überwiegend dem Bau und Betrieb der Eisenbahn dienen sollen. Das Handelsgericht hat in tatsächlicher Hinsicht festgestellt, dass dies jedenfalls aufgrund der Projektänderung nicht mehr der Fall ist. Daran ändert nichts, dass der Weg durch das Eisenbahnbauwerk unterbrochen wurde. Die appellatorischen Ausführungen, welche ausschliesslich auf der ursprünglichen Planung beruhen und sich mit den auf die aktuelle Situation beziehenden handelsgerichtlichen Erwägungen nicht auseinandersetzen, können nicht gehört werden, weil sie den Sachverhalt betreffen und folglich Willkürrügen nötig wären.
Schliesslich geht auch der Verweis auf <ref-law> an den handelsgerichtlichen Tatsachenfeststellungen vorbei, wonach der Fuss- und Radweg in der realisierten Wegführung die Haltestelle gerade nicht erschliesse. Ist mithin der angebliche sachliche und funktionelle Zusammenhang des Fuss- und Radweges mit der Eisenbahnanlage insgesamt nicht erstellt, fehlt es der Schlussfolgerung der Beschwerdeführerin, dass logischerweise die Y._ AG für die Entschädigung aufzukommen habe, an der notwendigen Ausgangsbasis.
9.3. Soweit die Beschwerdeführerin in appellatorischer Weise kritisiert, dass das Handelsgericht in antizipierter Beweiswürdigung die Einvernahme der offerierten Zeugen abgelehnt hat, ist auf die Ausführungen in E. 8.3 zu verweisen.
10.
Als vierte Verrechnungsforderung machte die Beschwerdeführerin gestützt auf den Vergleich 2003 Ersatz von Planungskosten von Fr. 325'799.-- geltend.
Das Handelsgericht prüfte die behauptete Verrechnungsforderung, weil unbestrittenermassen öffentlich-rechtlicher Natur, summarisch und kam dabei zum Schluss, dass sie mit baulichen Massnahmen im Zusammenhang mit den im Vergleich 2003 erwähnten Immissionen und der Statik in Verbindung stehen müsste und überdies die Mehrkosten unvermeidbar und ausgewiesen sein müssten. Mit den eingereichten Dokumenten, namentlich der Honorarberechnung nach SIA LHO 102/2003 und der Aktennotiz von G._ vom 6. Februar 2015, könne die Forderung nicht glaubhaft gemacht werden; eine Kostenschätzung vermöge keine Kosten auszuweisen. Gleiches gelte für den Verweis auf angeblich vorliegende Stundenlisten. Sodann seien weder die Unvermeidbarkeit noch die Voraussetzung, dass es sich bei den Kosten um Mehrkosten handeln würde, substanziiert. Im Übrigen könne auch ein beantragtes Gutachten die erforderliche substanziierte Behauptung nicht ersetzen. Die geltend gemachte Verrechnungsforderung erscheine aussichtslos und sie sei nicht zu berücksichtigen, ohne dass weitere Anordnungen zu treffen wären.
Die appellatorische Behauptung der Beschwerdeführerin, aus ihrer gutachterlichen Untersuchung ergebe sich detailliert eine Vielzahl von Mehrkosten im Zusammenhang mit den Themen der Statik und Immissionen, scheitert an den gegenteiligen Sachverhaltsfeststellungen des Handelsgerichtes, welche mit Willkürrügen anzufechten wären. Soweit die Beschwerdeführerin wiederum geltend macht, das Handelsgericht masse sich die Beurteilung öffentlich-rechtlicher Forderungen an, kann auf E. 9.2 verwiesen werden.
11.
Zusammenfassend ergibt sich, dass die Beschwerde abzuweisen ist, soweit überhaupt taugliche Rügen erhoben werden, auf welche eingetreten werden konnte. Die Gerichtskosten sind folglich der Beschwerdeführerin aufzuerlegen (<ref-law>). Hingegen hat sie der Gegenpartei keine Entschädigung zu leisten, weil betreffend die aufschiebende Wirkung nicht im Sinn der Vernehmlassung der Beschwerdegegnerin vom 18. Februar 2016 entschieden und in der Sache selbst keine Vernehmlassung eingeholt worden ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit auf sie einzutreten ist.
2.
Die Gerichtskosten von Fr. 12'000.-- werden der Beschwerdeführerin auferlegt.
3.
Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 4. Oktober 2016
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Möckli