Sachverhalt:
A. Mit Beschluss vom 25. Juni 1890 erteilte die Bundesversammlung der schweizerischen Nordostbahn (SNoB) die Konzession für den Bau und Betrieb der Eisenbahnstrecke von Thalwil nach Zug. Die SNoB baute zwischen 1894 und 1897 die Eisenbahnlinie und in diesem Zusammenhang auch den Zimmerbergtunnel, der die Gemeinde Horgen und insbesondere die heutigen Grundstücke GB-Nrn. 5426 (Rohrstrasse 6) und 5614 (Rohrstrasse 8) unterquert. Im damaligen Enteignungsverfahren konnten die vom Tunnelbau beeinträchtigten Grundeigentümer ihre Forderungen anmelden und wurden entsprechend entschädigt. Im Grundbuch ist bis heute - zumindest für die beiden vorgenannten Parzellen - keine Tunnel- und Bahnbetriebsdienstbarkeit zugunsten der SNoB bzw. deren Rechtsnachfolgerin eingetragen.
B. Am 19. November 2003 erwarb die X._ AG ein Kaufrecht an der Liegenschaft Rohrstrasse 8, dies in der Absicht, das Grundstück zu Wohnzwecken neu zu überbauen. Am 10. November 2004 kaufte sie die Liegenschaft und änderte ihr ursprüngliches Projekt wegen des unterquerenden Tunnels in weniger luxuriöse Mehrfamilienhäuser um. Da die Baumassenziffer dazu nicht ausreichte, erwarb die X._ AG am 7. Januar 2005 auch die benachbarte Liegenschaft an der Rohrstrasse 6 und realisierte hierauf ihr Vorhaben.
C. Mit Schreiben vom 24. März 2005 gelangte die neue Grundeigentümerin an die Schweizerischen Bundesbahnen SBB AG als Rechtsnachfolgerin der SNoB. In der Meinung, sie habe die Liegenschaft Rohrstrasse 8 ohne Eisenbahndienstbarkeiten erworben, verlangte sie, der Betrieb der Eisenbahnlinie sei einzustellen und der Tunnel zu verlegen bzw. zu beseitigen oder es sei ein Enteignungsverfahren zum Erwerb einer Tunnel- und Bahnbetriebsdienstbarkeit einzuleiten. In ihrem Schreiben stellte die X._ AG Entschädigungsansprüche für bauliche Mehrkosten und Ausgleichsforderungen für verursachten Minderwert des Restgrundstücks in der Höhe von insgesamt Fr. 630'000.-- in Aussicht. Am 10. Juni 2005 machte sie dieselben Ansprüche in Höhe von ca. Fr. 580'000.-- für die Liegenschaft Rohrstrasse 6 geltend.
Diese Entschädigungsansprüche meldete die X._ AG auch bei der Eidgenössischen Schätzungskommission, Kreis 10, an. Zudem verlangte sie die Eröffnung eines Enteignungsverfahrens für den Erwerb einer Eisenbahn- und Tunneldienstbarkeit sowie die Zahlung von insgesamt Fr. 1'205'404.-- Enteignungsentschädigung zuzüglich 5% Zins seit 10. November 2004 bzw. 7. Januar 2005 durch die SBB.
In ihrer Replik vom 3. März 2006 an die Schätzungskommission präzisierte die Gesuchstellerin ihren Antrag und forderte nur noch, die SBB AG sei zu verpflichten, ihr als nachträgliche Entschädigung Fr. 1'051'312.90 zuzüglich 5% Zins seit dem 10. November 2004 resp. 7. Januar 2005 zu bezahlen.
D. Am 28. November 2007 wies die Schätzungskommission das Entschädigungsbegehren der X._ AG ab (Dispositiv Ziff. 1) und auferlegte der SBB AG die Zahlung der Verfahrenskosten (Dispositiv Ziff. 2) sowie eine Parteientschädigung in der Höhe von Fr. 19'393.90 zugunsten der X._ AG (Dispositiv Ziff. 3).
E. Gegen diesen Entscheid gelangte die X._ AG an das Bundesverwaltungsgericht. Im Wesentlichen beantragte sie die Aufhebung des angefochtenen Entscheids und die Feststellung ihres Entschädigungsanspruchs. Eventualiter stellte sie Antrag auf Aufhebung des Entscheids und Überweisung der Verfahrensakten an das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) zur Anordnung des Enteignungsverfahrens. Dispositiv-Ziff. 2 betr. Verfahrenskosten blieb allerdings unangefochten.
Das Bundesverwaltungsgericht teilte den Verfahrensbeteiligten mit Verfügung vom 25. Juni 2008 mit, es beabsichtige, den Beschwerdeantrag auf Aufhebung der Dispositivziffer 1 des angefochtenen Entscheides abzuweisen und Dispositivziffer 3 (betr. Parteientschädigung) zu Ungunsten der Beschwerdeführerin abzuändern (reformatio in peius). Es räumte darum der Beschwerdeführerin die Gelegenheit ein, sich zur drohenden Schlechterstellung zu äussern. Davon machte die Beschwerdeführerin am 15. August 2008 Gebrauch und teilte mit, dass sie die Beschwerde nicht zurückziehen wolle. Die reformatio in peius komme allenfalls in Bezug auf den Haupt-, nicht aber beim Eventualantrag zur Anwendung. Im Weiteren äusserte sie sich unaufgefordert zu den vom Bundesverwaltungsgericht bekannt gegebenen Gründen für die Abweisung des Hauptantrags.
F. Ein Ausstandsbegehren der Beschwerdeführerin gegen den Instruktionsrichter wies das Bundesverwaltungsgericht am 20. Oktober 2008 ab.
G. Mit Urteil vom 25. November 2008 wies das Bundesverwaltungsgericht die Beschwerde ab und hob zudem Dispositiv-Ziff. 3 des Entscheids der Schätzungskommission auf, mit welchem der Beschwerdeführerin eine Parteientschädigung durch die SBB AG zugesprochen worden war. Die Kosten für das Verfahren vor Bundesverwaltungsgericht wurden der Beschwerdeführerin auferlegt.
H. Die X._ AG beantragt dem Bundesgericht mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 19. Januar 2009 die Aufhebung der Ziff. 1-4 des vorerwähnten Urteils. Weiter sei festzustellen, dass die SBB verpflichtet seien, der Beschwerdeführerin volle Entschädigung zu leisten für (a) sämtliche ihr bei der Neuüberbauung der Liegenschaften Rohrstrasse 6 und 8 in Horgen durch den unter den beiden Grundstücken verlaufenden Eisenbahntunnel und durch den Eisenbahnbetrieb verursachten Mehrkosten sowie (b) für die durch den Tunnel und durch den darin abgewickelten Eisenbahnbetrieb verursachten Minderwerte der Stockwerkeinheiten auf den Grundstücken Rohrstrasse 6 und 8. Dazu verlangt die Beschwerdeführerin, das Verfahren sei zur Durchführung des Schätzungsverfahrens und zum Neuentscheid an die Schätzungskommission zurückzuweisen. Eventuell seien der angefochtene Entscheid und der Entscheid der Schätzungskommission vom 2. November 2006/28. November 2007 aufzuheben und es seien die Verfahrensakten zur Anordnung eines Enteignungsverfahrens an das UVEK zu überweisen. Subeventuell seien selbst für den Fall der Abweisung der vorzitierten Anträge Ziff. 1 und 3 des angefochtenen Urteils aufzuheben und es seien die Verfahrenskosten der Vorinstanz von Fr. 10'000.-- der SBB AG aufzuerlegen. Letztere sei zu verpflichten, die Beschwerdeführerin für das erstinstanzliche Verfahren mit insgesamt Fr. 26'575.60 (inkl. MwSt), eventuell mit Fr. 19'393.90, zu entschädigen. Ferner sei der Beschwerdeführerin für das Verfahren vor der Vorinstanz eine durch das Bundesgericht festzusetzende Entschädigung zuzusprechen.
Die SBB AG als Beschwerdegegnerin schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne, während das Bundesverwaltungsgericht auf eine Vernehmlassung verzichtet.
Im Rahmen des zweiten Schriftenwechsels halten die Parteien sinngemäss an ihren Anträgen fest.

Erwägungen:
1. 1.1 Der angefochtene Entscheid des Bundesverwaltungsgerichts (<ref-law>) stützt sich in erster Linie auf Bundesverwaltungsrecht (eidgenössisches Enteignungsgesetz vom 20. Juni 1930 [EntG; SR 711]) und betrifft demzufolge eine öffentlich-rechtliche Angelegenheit im Sinne von <ref-law>. Ein Ausschlussgrund nach <ref-law> liegt nicht vor. Beim angefochtenen Urteil handelt es sich um einen Endentscheid i.S.v. <ref-law>.
1.2 Die Beschwerdeführerin, deren Entschädigungsbegehren abgewiesen und deren von der Schätzungskommission gewährte Parteientschädigung nachträglich durch das Bundesverwaltungsgericht abgesprochen wurde, ist durch den angefochtenen Entscheid in besonderem Masse berührt. Sie ist ohne Weiteres zur Beschwerdeführung legitimiert (<ref-law>; siehe zur Legitimation <ref-ruling> E. 1.3.3 S. 253 f.). Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, weshalb auf die Beschwerde unter Vorbehalt der rechtsgenüglichen Begründung (dazu E. 1.3 hiernach) grundsätzlich einzutreten ist.
1.3 Nach <ref-law> ist in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Genügt die Beschwerdeschrift diesen Begründungsanforderungen nicht, so ist darauf nicht einzutreten. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (<ref-law>); dies setzt aber voraus, dass auf die Beschwerde überhaupt eingetreten werden kann, diese also wenigstens die minimalen Begründungsanforderungen von <ref-law> erfüllt.
1.4 Soweit die Beschwerdeführerin im Eventualantrag die Aufhebung des Entscheids der Schätzungskommission verlangt, verkennt sie, dass dieser durch den Entscheid des Bundesverwaltungsgerichts ersetzt worden ist (Devolutiveffekt) und als inhaltlich mitangefochten gilt (<ref-ruling> E. 1 S. 441 mit Hinweisen).
2. Die Beschwerdeführerin macht unter verschiedenen Rechtstiteln Entschädigungsforderungen gegenüber der Beschwerdegegnerin geltend.
Zunächst stellt sie in Abrede, dass die bundesrechtliche Eisenbahnkonzession als Rechtstitel zur Einschränkung von Grundeigentum genüge. Insbesondere vertritt sie - unter Berufung auf gewisse Literaturstellen - den Standpunkt, die SNoB hätte zusätzlich einer kantonalen Konzession bedurft, um den umstrittenen Tunnel zu bauen. Zudem sei die Botschaft des Bundesrates zur Konzession zu wenig detailliert, um gestützt darauf eine individuell-konkrete Eigentumsbeschränkung vorzunehmen. In diesem Zusammenhang wirft sie dem Bundesverwaltungsgericht auch vor, den Sachverhalt willkürlich unvollständig festgestellt zu haben.
2.1 Was die Rüge anbelangt, die Vorinstanz habe den Sachverhalt offensichtlich falsch festgestellt, vermag die Beschwerde den Begründungsanforderungen nicht zu genügen. Es ist nicht einzusehen, welchen Einfluss der Umstand, dass die der SNoB verliehene Konzession ursprünglich zeitlich bis 1. Januar 1969 befristet war, auf die rechtliche Würdigung der Vorinstanz haben sollte. Dem Bundesverwaltungsgericht lagen sowohl die Konzession als auch die dazugehörige Botschaft des Bundesrates vom 10. Dezember 1889 vor. Wenn es nicht näher auf die Befristung eingegangen ist, dann darum, weil es darin keine Änderung an der massgeblichen rechtlichen Ausgangslage erkennen konnte. Dies ist mit Blick auf die nachstehenden Erwägungen nicht zu beanstanden. Die Beschwerdeführerin begründet ihren Willkürvorwurf auch nicht näher, sondern lässt es bei der Behauptung bewenden. Hinsichtlich der von ihr geltend gemachten Aufwendungen, für welche sie von der Beschwerdegegnerin Ersatz verlangt, war das Bundesverwaltungsgericht ebenfalls nicht zu weitergehenden Ausführungen gehalten: Es erachtete schon die Anspruchsgrundlage gemäss Art. 41 Abs. 1 lit. b EntG nicht als gegeben, weshalb sich eine einlässliche Auseinandersetzung mit den detaillierten Aufstellungen der Beschwerdeführerin erübrigte. Im Umstand, dass die Vorinstanz den rechtlich relevanten Sachverhalt anders gewürdigt hat als die Beschwerdeführerin, kann keine fehlerhafte Sachverhaltsermittlung im Sinn von <ref-law> erblickt werden.
2.2 Wie das Bundesverwaltungsgericht im angefochtenen Entscheid zu Recht festhält, lässt sich mit der "Botschaft des Bundesrates an die Bundesversammlung betreffend Konzession für eine Eisenbahn von Thalwil über Sihlbrücke nach Zug" vom 10. Dezember 1889 (BBl 1889 IV 1120, insb. 1125 ff.) mit hinreichender Deutlichkeit belegen, dass die Konzession den fraglichen Tunnel mit umfasste. Das Argument der Beschwerdeführerin, die Konzession erwähne den Tunnel überhaupt nicht, überzeugt darum nicht. Die detaillierten Ausführungen der Botschaft zeigen klar, was mit der Konzessionserteilung bezweckt wurde und wie der Streckenverlauf geplant war. Das Bundesverwaltungsgericht hat aus der Konzessionserteilung geschlossen, der Bund habe der SNoB ein rechtliches Monopol verliehen und sie mit einer öffentlichen Aufgabe betraut. Dazu war der Bund aufgrund seiner in Art. 23 und 26 der Bundesverfassung vom 3. Mai 1874 (aBV) statuierten Hoheit befugt, verfügt er doch über ein Eisenbahninfrastruktur- als auch Betriebsmonopol. Den diesbezüglichen Ausführungen des Bundesverwaltungsgerichts in E. 3.1 des angefochtenen Entscheids ist nichts beizufügen. Der Einwand der Beschwerdeführerin, wonach zusätzlich eine kantonale Konzession notwendig gewesen wäre, ist unbehelflich: In der Botschaft wurde auf die vorbestehende Konzession des Kantons Zürich für die schon konzessionierte Strecke Thalwil-Sihlbrugg hingewiesen und erläutert, weshalb diese kantonale Konzession ab Abzweigung von der Stammlinie Zürich-Richterswil bis Sihlbrugg als dahingefallen erklärt werden müsse, was denn auch geschah (BBl 1889 IV 1128 ff.). Es sollten einheitliche Konzessionsbestimmungen gelten, darum wurde eine umfassende Konzession des Bundes verliehen. Was im Übrigen die Zitatstelle der Beschwerdeführerin bei WALTHER BURCKHARDT anbelangt, handelt es sich dabei um die Problematik bei Strassenbahnen (Walther Burckhardt, Kommentar der schweizerischen Bundesverfassung vom 29. Mai 1874, 3. Auflage Bern 1931, S. 192). Der Autor behandelt darin die Frage, wie vorzugehen sei, wenn eine Bahn Strassenareal beansprucht. Daraus kann die Beschwerdeführerin für den vorliegenden Fall nichts zu ihren Gunsten ableiten.
2.3 Das Bundesverwaltungsgericht verweist sodann darauf, dass 1894 für den Bau der fraglichen Eisenbahnlinie ein Enteignungsverfahren durchgeführt wurde, in dessen Rahmen die Grundeigentümer ihre Forderungen anmelden konnten. Aus den Unterlagen sei nicht genau ersichtlich, welche damaligen Parzellen sich mit den heutigen decken würden. Es dürfte sich aber um die Grundstücke von Robert Stäubli handeln, die heute an der Rohrstrasse 6 und 8 lägen. Aus den damaligen Eingaben liest das Bundesverwaltungsgericht heraus, dass dem früheren Eigentümer schliesslich für die Abtretung von insgesamt 9'821.8 m2 Grundfläche, für Minderwert und weitere, zum Teil unlesbare bzw. nicht deklarierte Kostenstellen insgesamt Fr. 9'807.30 bezahlt worden waren. Dies wird von der Beschwerdeführerin nicht grundsätzlich bestritten.
2.4 In Bezug auf die zivilrechtlichen Eigentumsverhältnisse geht das Bundesverwaltungsgericht mit der Beschwerdeführerin darin einig, dass die Rechtslage damals dieselbe war wie heute. Es stützt sich sodann auf die bundesgerichtliche Rechtsprechung zu <ref-law> in Zusammenhang mit der Enteignungsproblematik. Diese Bestimmung hat dabei Begrenzungsfunktion. Das Bundesgericht hat sich insbesondere im Zusammenhang mit dem direkten Überflug über Grundstücke mit dieser Norm auseinander gesetzt. Nach <ref-law> erstreckt sich das Eigentum an Grund und Boden nach oben und unten auf den Luftraum und das Erdreich, soweit für die Ausübung des Eigentums ein Interesse besteht. Wie gross diese räumliche Ausdehnung ist, lässt sich nicht in allgemein gültiger Weise festlegen, sondern bestimmt sich von Fall zu Fall nach den konkreten Umständen und dem schutzwürdigen Interesse des Eigentümers, diesen Raum selbst zu nutzen oder zu beherrschen und das Eindringen anderer abzuwehren. Das Bundesgericht hat es daher - in der zivilrechtlichen und in der enteignungsrechtlichen Praxis - stets abgelehnt, generell zu bestimmen, auf welcher Höhe ein Flugzeug in die Interessenssphäre der Grundeigentümer und damit in das Grundeigentum selbst eindringe. Dies hänge von der Nutzung und Lage der konkret betroffenen Liegenschaft, aber auch von der Art und Grösse der Flugzeuge und den entsprechenden Auswirkungen des Überflugs ab (vgl. <ref-ruling> E. 3.1.2 S. 146, E. 3.2.2 und 3.2.3 S. 150 f.; <ref-ruling> E. 2 S. 89 f., je mit Hinweisen; Urteil 1E.9/2007 des Bundesgerichts vom 28. April 2008 E. 4.1). Gleiches muss auch für die Nutzung des Untergrunds gelten. Gemäss bundesgerichtlicher Rechtsprechung steht fest, dass das Grundeigentum nicht weiter in die Tiefe reicht, als sich der Grundeigentümer über ein entsprechendes Interesse ausweisen kann. Das führt zur weiteren Frage, wer über den restlichen Teil des Erdkörpers - also den "Untergrund" - verfügen darf. Diese Verfügungsbefugnis ist dem Staat zuzugestehen, in dessen Hoheitsgebiet sich der fragliche Untergrund befindet. Eine derartige Zuordnung entspricht dem Grundgedanken von <ref-law>, wonach die herrenlosen und öffentlichen Sachen der staatlichen Hoheit unterstehen. Der Untergrund im hier interessierenden Sinne wurde in der Literatur denn auch verschiedentlich den herrenlosen oder aber den öffentlichen Sachen gemäss <ref-law> zugeordnet (<ref-ruling> E. 5d S. 399 f. mit zahlreichen Hinweisen). Es braucht an dieser Stelle nicht entschieden zu werden, wie der Untergrund sachenrechtlich zu qualifizieren ist. Aus der dargelegten Sicht- und Handlungsweise des Bundesgesetzgebers zur rechtlichen Qualifikation des Untergrundes folgt indessen, dass die hoheitliche Verfügungsmacht des Kantons über den Untergrund mit <ref-law> und <ref-law> im Einklang steht (<ref-ruling> E. 5d S. 399 f.).
2.5 Nach den unbestrittenen Feststellungen des Bundesverwaltungsgerichts wurden die massgeblichen Landparzellen Nrn. 5426 und 5614 im 19. Jahrhundert bis Mitte des 20. Jahrhunderts landwirtschaftlich - als Baumgarten und Rebland - genutzt. Das Interesse des damaligen Eigentümers erstreckte sich offenbar nicht bis zum Tunnelscheitelpunkt, der gemäss dem Entscheid der Schätzungskommission rund 5 m unter der Erdoberfläche liegt. Mit der Vorinstanz ist demzufolge davon auszugehen, dass der Tunnel damals im herrenlosen, der Hoheit des Staates unterstehenden Untergrund und damit ausserhalb des Privateigentums gebaut wurde. Der Enteignung unterlag schon im damaligen Zeitpunkt nur das private Eigentum. Folgerichtig schliesst das Bundesverwaltungsgericht, dass 1894/95 für den Tunnel keine Enteignung durchgeführt bzw. kein Bahnbetriebs- oder Tunnelservitut errichtet werden musste. Was die Beschwerdeführerin dagegen vorbringt, ist nicht überzeugend. Eine Bundesrechtswidrigkeit lässt sich damit nicht belegen.
2.6 Sodann hat der Bund mit dem Bundesgesetz betreffend die Erwerbung und den Betrieb von Eisenbahnen für Rechnung des Bundes und die Organisation der Verwaltung der schweizerischen Bundesbahnen vom 15. Oktober 1897 (BBl 1897 IV 471 ff.), dem so genannten Rückübertragungsgesetz, die Grundlage für die Übernahme der Privatbahnen geschaffen. Der Rückkauf fand gemäss den Bestimmungen der Bundesgesetzgebung und der Konzession statt (Art. 2 Abs. 1 des Rückübertragungsgesetzes). Durch den Rückkauf der Bahnlinien der SNoB wurde der Bund Eigentümer der Bahnstrecke Thalwil-Zug mit ihrem Betriebsmaterial und allen übrigen Zugehören, und er erwarb das ihm grundsätzlich ausschliesslich zustehende Recht zum Betrieb der Eisenbahn (inkl. Tunnel) von der SNoB zurück. Mit dem Übergang der Bahn an den Bund erloschen denn auch sämtliche Bestimmungen der bezüglichen Konzession. Vorbehalten blieben etwaige in denselben enthaltene privatrechtliche Verpflichtungen zugunsten Dritter, über welche die Berechtigten sich ausschliesslich mit den bisherigen Konzessionsinhabern auseinanderzusetzen hatten (Art. 9 des Rückübertragungsgesetzes). In der Botschaft des Bundesrates zum Gesetz wird wörtlich festgehalten (BBl 1897 II 402):
Mit dem Augenblicke, in welchem der Bund Eigentum und Betrieb einer Bahn selbst übernimmt, erlöscht selbstverständlich die einem Dritten zum Bau und Betrieb derselben erteilte Bewilligung mit allen bezüglichen Vorschriften. Der Bund betreibt die Bahnen nach seinem freien Ermessen und ist auch an die frühern kantonalen Konzessionen in keiner Weise gebunden, nachdem die Staatshoheit in Eisenbahnsachen durch Art. 26 der Bundesverfassung ausschliesslich dem Bunde zugeschrieben ist. Die einzige Schranke für den Bund bildet seine eigene Eisenbahngesetzgebung".
Daraus wird nochmals deutlich, dass die von der Beschwerdeführerin geltend gemachte ursprüngliche Konzessionsbefristung vorliegend irrelevant ist.
Mit Inkrafttreten des Bundesgesetzes über die Schweizerischen Bundesbahnen vom 20. März 1998 (SBBG; SR 742.31) übernahm die Beschwerdegegnerin als spezialgesetzliche AG das Eigentum an der Bahnstrecke, dem Tunnel sowie das Recht zum Bahnbetrieb. Eine Konzession ist dazu nicht mehr nötig (<ref-law>).
2.7 Zwar mag sich das Ausdehnungsinteresse des Grundeigentümers in vertikaler Hinsicht im Laufe der Jahre verändert haben, da sich auch die technischen Möglichkeiten für die Nutzung des Untergrunds verbessert haben. Das ändert indes nichts an der Tatsache, dass der Tunnel in diesem Zeitpunkt bereits rechtmässig und ohne die Notwendigkeit der Durchführung eines formellen Enteignungsverfahrens errichtet worden war (vgl. vorn E. 2.5). Ebenso wenig ist der Umstand, dass die Beschwerdegegnerin nicht als Eigentümerin im Grundbuch figuriert, ein Indiz für eine Berechtigung der Beschwerdeführerin: Dazu herrscht in den Kantonen eine unterschiedliche Handhabung. Einige führen die SBB als Grundeigentümerin, andere haben die Parzellen als "SBB-Eisenbahngrundstück" eingetragen. In weiteren Fällen sind diese Grundstücke im Grundbuch gar nicht enthalten (HEINZ HESS/HEINRICH WEIBEL, Kommentar zum Bundesgesetz über die Enteignung, zu den verfassungsrechtlichen Grundlagen und zur Spezialgesetzgebung des Bundes, Bern 1986, Band II S. 105). Die Beschwerdeführerin hat deshalb keinen Anspruch auf Beseitigung der vorbestehenden Anlage.
2.8 Im Übrigen kann zu dieser Problematik auf die zutreffenden und ausführlichen Erwägungen im angefochtenen Entscheid verwiesen werden.
3. Im Hauptpunkt wirft die Beschwerdeführerin dem Bundesverwaltungsgericht vor, Art. 41 Abs. 1 lit. b EntG zu restriktiv auszulegen.
3.1 Ausführliche Erwägungen zur Argumentation der Beschwerdeführerin erübrigen sich. Zu prüfen ist, ob die in Art. 41 Abs. 1 lit. b EntG statuierten Voraussetzungen erfüllt sind. Dies ist klar zu verneinen. Die Norm ist unmissverständlich formuliert. Sie setzt eine Inanspruchnahme oder Schmälerung von Eigentumsrechten des Enteigneten oder dessen Schädigung voraus. Wie gesehen kann die Beschwerdeführerin im Tunnelbereich kein Eigentum geltend machen. Aber selbst wenn dem so wäre, käme Art. 41 Abs. 1 lit. b EntG nicht zum Tragen. Der Enteigner wird nämlich nur entschädigungspflichtig, wenn der Enteignungsschaden als Folge seines eigenen Verhaltens grösser ausgefallen ist, als der Enteignete im Zeitpunkt des Enteignungsverfahrens hatte annehmen müssen (HESS/WEIBEL, a.a.O. Band I, N. 10 zu Art. 41). HESS/WEIBEL nennen mit Verweis auf BGE 62 I 270 als Beispiel den Einsatz schnellerer und schwerer Eisenbahnzüge nach Einführung der elektrischen Traktion. Hier aber hat das Bundesverwaltungsgericht in E. 5.3 des angefochtenen Urteils festgestellt, es sei unbestritten, dass der Eisenbahnbetrieb seit 1894 keine massgebenden baulichen Veränderungen, insbesondere keine Erweiterungen erfahren habe. Auch sei seit längerer Zeit kein Rollmaterial neu zum Einsatz gekommen, das zu erheblichen neuen oder anderen Beeinträchtigungen geführt habe. Der Tunnelbetrieb habe somit in den letzten Jahren nichts mit sich gebracht, was als unvorhersehbar zu werten sei. Die Beschwerdeführerin bringt dagegen keine substanziierten Einwendungen vor. Es kann darum nicht angehen, dass sie Jahre nach Inbetriebnahme der Strecke mit Entschädigungsforderungen an die Beschwerdegegnerin herantritt, obwohl letztere die Anlage bestimmungsgemäss nützt und ihre Tätigkeit nicht in unerwartetem Masse ausgedehnt hat. Diejenige Partei, die später kommt und den bestehenden Zustand ändern will, hat auch die Kosten dafür zu tragen. Dieser Grundgedanke spiegelt sich im Übrigen auch in der Eisenbahngesetzgebung wieder:
3.2 Wird die Sicherheit der Bahn durch Anlagen oder Unternehmungen Dritter beeinträchtigt, so wird die Bahn dann kostenpflichtig, wenn die Anlagen oder Unternehmungen schon vor Inkrafttreten des Eisenbahngesetzes oder vor Erstellung der Bahnanlagen bestanden (<ref-law>). Für die nach diesem Zeitpunkt erstellten Anlagen oder eröffneten Unternehmungen tragen deren Inhaber die Kosten der Sanierung (<ref-law>). Die Kostenfolgen der Beseitigung eines gefährlichen bzw. polizeiwidrigen Zustandes, der durch das Aufeinandertreffen von Bahnanlagen und Anlagen Dritter verursacht wird, bestimmt sich somit nach der zeitlichen Priorität, das heisst nach der Frage, welche Anlage - jene der Bahn oder jene des Dritten - zuerst vorhanden war. Die Massgeblichkeit des Vorbestehens der einen oder anderen Anlage, die jedenfalls seit dem Inkrafttreten des Eisenbahngesetzes im Jahre 1958 gilt (vgl. Urteil des Bundesgerichts vom 19. Mai 1998 i.S. Ferrovie Federali Svizzere, publ. in RDAT 1998 II S. 196), ist wie dargelegt in <ref-law> klar festgehalten. Sie ergibt sich aber auch aus dem Wortlaut von <ref-law>, wo von Bau-"Vorhaben" Dritter gesprochen wird sowie von anderen Bedürfnissen Dritter, für welche Vorkehren "nötig werden". Damit wird ebenfalls zum Ausdruck gebracht, dass die Kosten für Massnahmen, die erst hinterher im Interesse Dritter getroffen werden müssen, zu deren Lasten gehen sollen. Das einfache Kriterium, dass zu bezahlen hat, wer den bisherigen Zustand ändert, ist in weiteren Vorschriften des Eisenbahngesetzes übernommen worden, so insbesondere in den Bestimmungen von Art. 25 Abs. 1 und Art. 31 Abs. 2 EBG über die Tragung der Kosten für neue Kreuzungen zwischen Bahnen und Strassen oder anderen Anlagen (vgl. dazu die ausführlichen Erwägungen in der bundesrätlichen Botschaft zum Entwurf eines Eisenbahngesetzes vom 3. Februar 1956, BBl 1956 I S. 246 ff. zu den damaligen Artikeln 23 bis 30 EBG). Im vorliegenden Verfahren wird indessen nicht die Entschädigung von nach dem Bau des Tunnels bzw. nach seiner Inbetriebnahme erfolgten zusätzlichen neuen Eigentumsbeschränkungen verlangt, weshalb die von der Beschwerdeführerin angerufenen, oben genannten Bestimmungen des Enteignungsgesetzes ihr nicht weiter helfen.
3.3 Damit steht fest, dass die Beschwerdeführerin ihre Ansprüche weder auf das EBG noch auf Art. 41 Abs. 1 lit. b EntG stützen kann.
4. Wie bereits das Bundesverwaltungsgericht ist auch das Bundesgericht nicht gehalten, weitere Erwägungen zu den in den Rechtsschriften einlässlich diskutierten Fragen der Verwirkung oder Verjährung anzustellen. Der vorinstanzliche Entscheid kann in jeder Hinsicht bestätigt werden: Der Beschwerdeführerin steht unter den diversen geltend gemachten Rechtstiteln kein Entschädigungsanspruch gegenüber der Beschwerdegegnerin zu.
5. Was schliesslich die vom Bundesverwaltungsgericht gestrichene, von der Schätzungskommission noch zugestandene Parteientschädigung an die Beschwerdeführerin anbelangt, ist der Argumentation der Vorinstanz ebenfalls zu folgen. Das Bundesverwaltungsgericht stützt sich im Unterschied zur Schätzungskommission auf Art. 114 Abs. 3 EntG. Danach sind die allgemeinen Grundsätze des Bundeszivilprozessgesetzes vom 4. Dezember 1947 (BZP; SR 273) über die Kosten anwendbar, wenn bei nachträglichen Entschädigungsforderungen gemäss Art. 41 EntG die Voraussetzungen für die nachträgliche Geltendmachung fehlen. In Bezug auf die Parteientschädigung erklärt Art. 115 Abs. 4 EntG die soeben zitierte Norm als entsprechend anwendbar. Es wäre stossend, den Enteigner mit den für das Verfahren entstandenen Kosten (bzw. einer Parteientschädigung) zu belasten, wenn die Enteignungsentschädigung zu Unrecht erst nachträglich geltend gemacht wird. Das Bundesverwaltungsgericht gibt dies zu Recht zu bedenken. Aufgrund des Verweises in <ref-law> gelangen <ref-law> zur Anwendung. Wie die Beschwerdeführerin selber zugesteht, gilt im BGG das Unterliegerprinzip als Regelfall. Folgerichtig stand der Beschwerdeführerin im Verfahren vor der Schätzungskommission keine Entschädigung zu. Das Bundesverwaltungsgericht hat der Beschwerdeführerin hinsichtlich dieser von ihm beabsichtigten Schlechterstellung das rechtliche Gehör gewährt. Das Vorgehen der Vorinstanz ist in keiner Hinsicht zu beanstanden. Weder der Eventualantrag der Beschwerdeführerin betreffend Überweisung des Verfahrens an das UVEK noch die übrigen Argumente vermögen ein Abweichen vom in <ref-law> bzw. in <ref-law> statuierten Grundsatz zu begründen. Wenn die Beschwerdeführerin geltend macht, sie habe sich in guten Treuen zur Prozessführung an die Schätzungskommission und das Bundesverwaltungsgericht veranlasst gesehen, geht es ihr nicht anders als den meisten Beschwerdeführern. Sie trägt dennoch das Kostenrisiko bei Abweisung ihrer Anträge.
6. Die Beschwerde ist demnach abzuweisen, soweit darauf eingetreten werden kann. Gestützt auf Art. 116 Abs. 3 EntG hat die Beschwerdeführerin die Kosten für das bundesgerichtliche Verfahren zu tragen (<ref-law>). Parteientschädigungen sind indessen keine zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 10'000.-- werden der Beschwerdeführerin auferlegt.
3. Parteientschädigung wird keine zugesprochen.
4. Dieses Urteil wird den Parteien und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 17. September 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Scherrer