Sachverhalt:
A. Die Schweizerischen Bundesbahnen (SBB) sind Eigentümer des Grundstücks Nr. 711, Grundbuch Jona, an der Gubelfeldstrasse in der Politischen Gemeinde Rapperswil-Jona. Das Grundstück ist im Zonenplan weiss dargestellt. Es handelt sich um eine schmale lange Parzelle, die im Wesentlichen als Bahnareal dient und mit Gleisen sowie Bahnanlagen überbaut ist.
B. Anfang Dezember 2005 reichte die Swisscom Mobile AG beim Gemeinderat Jona ein Gesuch für den Neubau einer Mobilfunkanlage auf dem erwähnten Grundstück ein. Die Antenne soll wenige Meter vom Perron entfernt in einer relativ steilen Böschung erstellt werden.
Gegen das Bauvorhaben gingen zahlreiche privat- und öffentlich-rechtliche Einsprachen ein. Mit Entscheiden vom 4. September 2006 wies der Gemeinderat Jona die Einsprachen ab, soweit er sie nicht auf den Zivilweg verwies. Er erteilte die Baubewilligung und verfügte zudem, dass die Anlage nach den Vorgaben des Rundschreibens des Bundesamts für Umwelt (BAFU) vom 16. Januar 2006 betrieben werden müsse. Die Gesuchstellerin wurde verpflichtet, die bewilligte Mobilfunkanlage in ihr Qualitätssicherungssystem einzubinden. Im Weiteren ordnete der Gemeinderat eine Abnahmemessung bei den Orten mit empfindlicher Nutzung (OMEN) Nrn. 4 und 10 (Grundstücke Nrn. 794 und 4572) an.
C. Dagegen gelangten die Römisch Katholische Kirchgemeinde und weitere 148 Personen an das kantonale Baudepartement. Dieses wies zunächst am 3. November 2006 das Gesuch der Rekurrenten um einstweilige Sistierung des Verfahrens ab.
Am 2. Mai 2007 führte das Baudepartement einen Augenschein in Anwesenheit der Verfahrensbeteiligten durch. Schliesslich lud es die Eidgenössische Natur- und Heimatschutzkommission (NHK) ein, zu den denkmalpflegerischen Aspekten des Vorhabens Stellung zu nehmen. Die NHK kam in ihrem Gutachten vom 13. November 2007 zum Schluss, sowohl das Ortsbild der Stadt Rapperswil als auch die umliegenden kommunalen Schutzgegenstände würden durch die Antennenanlage geringfügig beeinträchtigt. Zur grösstmöglichen Schonung sei die Anlage der Umgebung entsprechend einzutönen (nicht hell und ohne Glanzspiegelung). Die Swisscom (Schweiz) AG (als Rechtsnachfolgerin der Swisscom Mobile AG) akzeptierte die Auflagen zur Farbgebung.
D. Am 5. Februar 2008 teilte die Stadt Rapperswil-Jona dem Baudepartement mit, dass sie mit Beschluss vom 3. September 2007 eine Planungszone für das Bauzonengebiet erlassen habe und deshalb die Erstellung von Mobilfunkanlagen bis zum Abschluss der laufenden Ortsplanungsrevision untersagt werde. Aufgrund der Planungszone seien die Rekursverfahren zu sistieren.
Das Baudepartement entschied am 15. August 2008, auf die Eingaben von vier Rekurrenten nicht einzutreten (Ziff. 1). Den öffentlich-rechtlichen Rekurs der Römisch Katholischen Kirchgemeinde und der weiteren Rekurrenten wies es ab, soweit es darauf eintrat (Ziff. 2a). Den privatrechtlichen Rekurs nach <ref-law> der Römisch Katholischen Kirchgemeinde und der übrigen Beteiligten wies das Baudepartement ebenfalls ab (Ziff. 3). Es verpflichtete die unterliegenden Rekurrenten zur Übernahme der amtlichen Kosten (Ziff. 4a) und wies deren Begehren um Ersatz der ausseramtlichen Kosten ab (Ziff. 5a). Ausserdem verpflichtete es die Unterliegenden zu einer Parteientschädigung an die Bauherrin (Ziff. 5c).
E. Gegen diesen Entscheid gelangten schliesslich die Römisch Katholische Kirchgemeinde sowie 96 weitere Beteiligte ans Verwaltungsgericht des Kantons St. Gallen. Sie verlangten im Wesentlichen die Aufhebung der vorzitierten Dispositivziffern (lit. D hiervor) und die Abweisung des Baugesuchs.
Das Verwaltungsgericht wies die Beschwerde mit Urteil vom 11. Mai/ 22. September 2009 ab und ergänzte die Baubewilligung vom 4. September 2006 mit der Auflage, dass die Gemeinde Rapperswil-Jona bei einer Überbauung des Grundstücks Nr. 4572J (OMEN 10) eine Überprüfung der Strahlenbelastung zu veranlassen habe.
F. Am 28. Oktober 2009 erheben die Römisch Katholische Kirchgemeinde Rapperswil-Jona sowie 84 Mitbeteiligte Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Sie beantragen die Aufhebung des Verwaltungsgerichtsurteils B 2008/156 vom 11. Mai/ 22. September 2009 sowie der Ziff. 2a, 3, 4a, 5a und 5c des Entscheids des Baudepartements vom 15. August 2008 und der Entscheide des Gemeinderats Jona vom 4. September 2006. Das Baugesuch sei abzuweisen und die Baubewilligung zu verweigern. Eventualiter sei die Angelegenheit im Sinne der bundesgerichtlichen Erwägungen an das Verwaltungsgericht zurückzuweisen. Zudem ersuchen sie um Gewährung der aufschiebenden Wirkung.
Die Swisscom (Schweiz) AG als Beschwerdegegnerin und das kantonale Baudepartement schliessen auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Desgleichen beantragen die Bau- und Umweltkommission Rapperswil-Jona sowie das Verwaltungsgericht die Abweisung der Beschwerde.
Das Bundesamt für Umwelt hat sich ebenfalls zur Angelegenheit geäussert und erachtet das Bauvorhaben als rechtmässig.
In ihrer Replik halten die Beschwerdeführer vollumfänglich an ihren Begehren fest.
Der Präsident der I. öffentlich-rechtlichen Abteilung erkannte der Beschwerde mit Verfügung vom 24. November 2009 aufschiebende Wirkung zu.

Erwägungen:
1. Gegen den kantonal letztinstanzlichen Entscheid des Verwaltungsgerichts steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (<ref-law>). Die Beschwerdeführer besitzen Grundeigentum oder wohnen innerhalb eines Perimeters, in dem die Strahlung der projektierten Mobilfunkanlage bis zu 10 % des Anlagegrenzwerts erreichen kann (sog. Einspracheperimeter; vgl. <ref-ruling> E. 2.3 und 2.4 S. 171 f.) und sind grundsätzlich zur Beschwerde legitimiert (<ref-law>). Da auch die übrigen Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde (vorbehältlich zulässiger und begründeter Rügen) einzutreten.
2. Die Beschwerdeführer bezweifeln, dass das Grundstück Nr. 4572J tatsächlich für die Umfahrung von Rapperswil-Jona benötigt wird. Wenn dies nicht der Fall sei, seien die Anlagegrenzwerte auf der fraglichen Parzelle klar überschritten und das angefochtene Urteil sei aufzuheben.
2.1 Gemäss <ref-law> i.V.m. Art. 65 Anh. 1 NISV müssen Mobilfunkanlagen im massgebenden Betriebszustand an Orten mit empfindlicher Nutzung den Anlagegrenzwert einhalten. Als Orte mit empfindlicher Nutzung gelten gemäss <ref-law> Räume in Gebäuden, in denen sich Personen regelmässig während längerer Zeit aufhalten (lit. a), öffentliche oder private, raumplanungsrechtlich festgesetzte Kinderspielplätze (lit. b) und diejenigen Flächen von unüberbauten Grundstücken, auf denen Nutzungen nach den Buchstaben a und b zugelassen sind (lit. c).
Nach der Konzeption der Verordnung genügt es daher bei unüberbauten Grundstücken nicht, die vorsorgliche Begrenzung der Mobilfunkstrahlung auf den Zeitpunkt der Überbauung der Parzellen zu verschieben; vielmehr müssen schon im Zeitpunkt der Inbetriebnahme der Mobilfunkanlage diejenigen Grenzwerte eingehalten werden, die im Falle einer zonen- und baurechtskonformen Überbauung der Parzellen gelten würden. Damit soll sichergestellt werden, dass die bewilligte Mobilfunkanlage auch nach der in absehbarer Zeit zu erwartenden Überbauung der benachbarten Parzellen noch den gesetzlichen Anforderungen entspricht. Dies dient einerseits dem Schutz der Mobilfunkbetreiberin, die mit dem längerfristigen Bestand einer einmal bewilligten Anlage rechnen kann. Es liegt aber auch im Interesse der Prozessökonomie zu verhindern, dass kurz nach Abschluss eines - möglicherweise langwierigen - Bewilligungsverfahrens gleich wieder ein Sanierungsverfahren eingeleitet werden muss, sobald eine der benachbarten Parzellen überbaut wird. Schliesslich entspricht es auch dem Interesse der Eigentümer der unüberbauten Parzellen, auf die Einhaltung der Anlagegrenzwerte der NISV bei zonen- und baurechtskonformer Nutzung ihrer Grundstücke vertrauen zu können, ohne hierfür Berechnungen oder Messungen durchführen und gegebenenfalls die Einleitung von Sanierungsverfahren beantragen zu müssen.
Nicht überbaute Bauzonen sind damit grundsätzlich gleich zu behandeln, wie wenn die nach der geltenden Planung dort möglichen Bauten bereits existieren würden. Besteht noch keine konkrete Planung, so gilt das gesamte baurechtlich zulässige Volumen als OMEN (vgl. dazu die Vollzugsempfehlung des BAFU zur NISV, Bern 2002, Ziff. 2.1.3).
2.2 Im Urteil 1A.278/2006 vom 21. Juni 2007 hat das Bundesgericht allerdings auch Ausnahmen von dieser Berechnungspflicht als zulässig erachtet. Der Verordnungsgeber ging nämlich von der Erwartung aus, dass die planungsrechtlich mögliche Nutzung in aller Regel auch realisiert werde (vgl. Erläuternder Bericht zur NISV vom 23. Dezember 1999 S. 10). Ist diese Erwartung aufgrund der konkreten Verhältnisse offensichtlich unbegründet, kann ein abweichendes Vorgehen ausnahmsweise zulässig sein. Ein vollständiger Verzicht auf NIS-Berechnungen für unüberbaute Grundstücke kann sich beispielsweise rechtfertigen, wenn aufgrund der Lage des Grundstücks oder der Planungsintentionen der Gemeinde feststeht, dass das Areal für ein Vorhaben ohne Orte mit empfindlicher Nutzung bestimmt ist (Beispiel: Kläranlage, sofern sich dort keine ständigen Arbeitsräume befinden).
2.3 Hier handelt es sich jedoch um keine solche Konstellation. Das Baudepartement führt in seiner Vernehmlassung ans Bundesgericht aus, das fragliche Grundstück Nr. 4572J werde "sehr wahrscheinlich" für die geplante Kantonsstrasse bzw. einen Tunnel genutzt. Die Verkehrsentlastung Rapperswil-Jona stelle ein Bauvorhaben erster Priorität dar, dessen etappenweise Realisierung im Rahmen des 15. Strassenbauprogramms vom Kantonsrat des Kantons St. Gallen beschlossen worden sei. Die planerischen Massnahmen zur Sicherung der Linienführung, die gegenwärtig vom kantonalen Tiefbauamt ausgearbeitet würden, beträfen indessen erst die 1. Etappe der Verkehrsentlastung, welche durch das Stadtzentrum führe. Deshalb müsse von der bestehenden rechtlichen Ordnung und somit von der Überbaubarkeit des Grundstücks Nr. 4572J ausgegangen werden.
Die Bau- und Umweltkommission von Rapperswil-Jona äussert sich zuhanden des Bundesgerichts ebenfalls zu dieser Thematik: Das Grundstück Nr. 4572J befinde sich im Eigentum des Kantons und sei der dreigeschossigen Kernzone gemäss gültigem Zonenplan zugewiesen. Der theoretischen Bebaubarkeit der Parzelle stehe jedoch klar entgegen, dass der Erwerb durch den Kanton als Landsicherung für die zukünftigen Tunnelinfrastruktur- und Portalbauten dienen solle.
2.4 Zwar bestätigt der Kanton seine Absichten, das fragliche Grundstück für die Umfahrung Rapperswil zu nutzen. Letzte Gewissheit besteht aber nicht, hätte sich doch sonst die Auflage des Verwaltungsgerichts für den Fall einer späteren zonenkonformen Überbauung erübrigt. Letzteres bezeichnet denn auch eine zonenkonforme Nutzung des Grundstücks nur als "unwahrscheinlich", nicht als ausgeschlossen. Solange kein ausdrücklicher, zumindest vorläufiger Bau- bzw. Nutzungsverzicht von Seiten des Kantons vorliegt, kann nicht von einer Berechnung der Strahlung abgesehen werden (vgl. Urteil 1C_154/2009 und 1C_156/2009 des Bundesgerichts vom 27. April 2010 E. 5). Sind die Anlagegrenzwerte überschritten, kann die Baubewilligung nicht erteilt werden. Da solche Messungen bis anhin aus Praktikabilitätsgründen unterlassen wurden, sind diese vor der allfälligen Erteilung der Baubewilligung gemäss den Vorgaben in der Vollzugsempfehlung (Ziff. 2.1.3) des BAFU nachzuholen.
2.5 Insoweit ist die Beschwerde gutzuheissen. Eine Auflage, wonach die Strahlenbelastung erst bei einer späteren Überbauung der Parzelle Nr. 4572J zu überprüfen sei, ist unzulässig. Nur wenn gesichert ist, dass auf der Parzelle keine zonenkonforme Nutzung stattfindet, kann eine Ausnahme von der Berechnungspflicht in Betracht gezogen werden.
Bei diesem Ausgang des bundesgerichtlichen Verfahrens sind die weiteren Rügen der Beschwerdeführer grundsätzlich nicht mehr zu prüfen. Im Hinblick auf die Einreichung eines abgeänderten Baugesuchs durch die Beschwerdegegnerin oder eines (vorläufigen) Nutzungsverzichts durch den Kanton ist jedoch aus prozessökonomischen Gründen auf die weiteren Vorbringen der Beschwerdeführer einzugehen.
3. Die Beschwerdeführer vertreten nach wie vor die Ansicht, die geplante Mobilfunkanlage sei aus Gründen des Orts- und Landschaftsbildschutzes nicht bewilligungsfähig. Das Verwaltungsgericht habe ohne genauere Abklärungen angenommen, es sei sehr unwahrscheinlich, dass das Grundstück Nr. 4572J überbaut werde. Treffe dies zu, sei die Frage der Eingliederung der Antenne durch die ENHK neu zu beurteilen. Letztere sei nämlich bei ihrer Beurteilung von einer intensiven Bebauung des in der Kernzone gelegenen Landes ausgegangen.
3.1 Art. 3 des Natur- und Heimatschutzgesetzes vom 1. Juli 1966 (NHG; SR 451) bestimmt, dass der Bund, seine Anstalten und Betriebe sowie die Kantone bei der Erfüllung von Bundesaufgaben dafür sorgen, dass das heimatliche Landschafts- und Ortsbild, geschichtliche Stätten sowie Natur- und Kulturdenkmäler geschont werden und, wo das allgemeine Interesse an ihnen überwiegt, ungeschmälert erhalten bleiben (Abs. 1). Sie erfüllen diese Pflicht u.a., indem sie Konzessionen und Bewilligungen nur unter Bedingungen oder Auflagen erteilen oder aber verweigern (Art. 2 Bst. b). Diese Pflicht gilt unabhängig von der Bedeutung des Objektes im Sinne von <ref-law>; eine Massnahme darf jedoch nicht weitergehen, als es der Schutz des Objektes und seiner Umgebung erfordert (Abs. 3). Bei der nach <ref-law> gebotenen Interessenabwägung sind - anders als bei <ref-law> - sämtliche Interessen und nicht nur solche von nationaler Bedeutung zu berücksichtigten (ANNE-CHRISTINE FAVRE, NHG-Kommentar, Art. 3 N 4). Wie das Bundesgericht im Entscheid <ref-ruling> E. 2.2 bestätigt hat, stellt die Erteilung einer Bewilligung zum Bau von Mobilfunkanlagen eine Bundesaufgabe dar. Entsprechend gelangen <ref-law> zur Anwendung.
3.2 Grundsätzlich beurteilt das Bundesgericht die sich dabei stellenden Rechtsfragen frei. Es erlegt sich aber praxisgemäss Zurückhaltung auf, wenn - wie im vorliegenden Fall - örtliche Verhältnisse zu beurteilen sind, welche die Vorinstanzen besser kennen als das Bundesgericht (<ref-ruling> E. 8b S. 295 mit Hinweisen; <ref-ruling> E. 4 S. 293).
3.3 Die ENHK hält in ihrem Gutachten zunächst zur Ausgangslage fest, der gewählte Standort für die Antennenanlage liege gemäss dem vorliegenden Entwurf ausserhalb des Perimeters des Inventars schützenswerter Ortsbilder der Schweiz (ISOS). Damit könne eine direkte Beeinträchtigung des zukünftigen Ortsbilds von nationaler Bedeutung durch die Antennenanlage ausgeschlossen werden. Die geplante Anlage wirke an einzelnen öffentlich zugänglichen Standorten zwar störend für die Aussicht auf Schlosshügel und Schloss Rapperswil. Dies sei jedoch insgesamt nur als sehr geringfügige Beeinträchtigung des Ortsbilds von voraussichtlich nationaler Bedeutung zu werten. Auch in Bezug auf die in der kommunalen Zonenordnung von Jona als "landschaftlich empfindlich" bezeichnete Siedlungsgebiete sieht die ENHK keine Beeinträchtigung durch die geplante Antenne. Allerdings macht sie eine Einschränkung im Zusammenhang mit dem geschützten Objekt Nr. 8, einem Wohnhaus mit Scheune an der Zürcherstrasse. So führt die ENHK aus, die Wiese unterhalb der Gubelfeldstrasse und der Bahnlinie sei heute weitgehend unverbaut und werde längs der Gubelfeldstrasse durch eine alte, verputzte Naturmauer begrenzt. Der Freiraum werde insbesondere durch das geschützte Wohnhaus mit Scheune an der Zürcherstrasse 130 geprägt. Die geplante Antennenanlage würde von der Zürcherstrasse her gesehen heute den Horizont überragen und als störendes Element die Sichtbeziehungen in diesem Raum dominieren. Diese Wiese sei allerdings im Zonenplan als Kernzone K3 ausgeschieden und könne somit unter Berücksichtigung einer Ausnützungsziffer von 0.6/0.8 mit dreigeschossigen Gebäuden mit einer maximalen Firsthöhe von 14.5 m und einer maximalen Gebäudelänge von 40 m überbaut werden. Durch eine solche Überbauung wären jedoch auch die Sichtbeziehungen zwischen den erwähnten Schutzobjekten schwer beeinträchtigt, so dass die Auswirkungen der Antennenanlage nicht mehr schwer ins Gewicht fallen würden. Die Beeinträchtigungen der geschützten Kulturobjekte sei zurzeit von der Zürcherstrasse her gesehen noch erheblich. Da dieser Freiraum allerdings gemäss Kernzonenvorschriften relativ dicht überbaut werden dürfe, werde die Antenne auch von dieser Seite her später kaum mehr störend in Erscheinung treten. Insgesamt beurteilt die ENHK die Auswirkungen der geplanten Anlage auf das Ortsbild von voraussichtlich nationaler Bedeutung und auf die Schutzgebiete und -objekte gemäss dem kommunalen Zonenplan durch die Antennenanlage als geringfügig beeinträchtigt. Im Sinne der grösstmöglichen Schonung von Ortsbild und Schutzobjekten empfiehlt die ENHK abschliessend, die Farbgebung der Anlage der Umgebung entsprechend einzutönen.
3.4 Das Verwaltungsgericht hat demgegenüber bei seinem Entscheid im Zusammenhang mit der Beurteilung der nicht-ionisierenden Strahlung festgestellt, eine Überbauung der Wiese unterhalb der Gubelfeldstrasse sei unwahrscheinlich. Der Kanton St. Gallen habe das Grundstück zur Sicherung des Landes für die Umfahrung Rapperswil-Jona gekauft. Auch aufgrund der Lage im Bereich des Bahnareals sei eine Überbauung zur Wohnnutzung als unwahrscheinlich einzustufen. Aus Sicht der Beschwerdeführer bedingt dies eine Neubeurteilung der ENHK, die bei ihrer Einschätzung von einer dichten Überbauung des Gebiets in der Kernzone ausgegangen ist.
3.5 Die Bau- und Umweltkommission Rapperswil-Jona hält den Beschwerdeführern im bundesgerichtlichen Verfahren entgegen, an der Beurteilung durch die ENHK ändere sich insofern nichts, weil die Kunstbauten für den Tunnel und auch eine spätere Verlegung des Eisenbahntrassees für den Meienbergtunnel zur Folge hätten, dass die Antenne ebenfalls nicht störend in Erscheinung treten werde.
3.6 Zwar ist den Beschwerdeführern darin zuzustimmen, dass die eidgenössische Kommission auf eine andere Ausgangslage abgestellt hat, als sie sich nun aufgrund der Aussagen von Kanton und Gemeinde präsentiert. Die ENHK sah ihre Bedenken zur störenden Wirkung der Antenne mit Blick auf die spätere zonenkonforme Überbauung der Wiese als beseitigt an. Nun soll das Grundstück zwar eventuell nicht gemäss den Vorschriften der Kernzone überbaut werden. Indes sind auf der Parzelle gemäss übereinstimmender Aussagen von Gemeinde und Kanton Tunnelbauten und Infrastrukturanlagen für die Umfahrung von Rapperswil-Jona geplant, mithin Bauten von ausgeprägt technischer Art. Eine Antenne dürfte in einem solchen Umfeld kaum störend ins Gewicht fallen. Sollte das Projekt nicht zustande kommen, wäre eine Überbauung gemäss Zonenordnung die Folge, welche wiederum nach Einschätzung der ENHK die im Moment noch störende Wirkung der Antenne vernachlässigbar machen sollte. Hinzu kommt, dass sich das Verwaltungsgericht selber ein Bild von der Situation vor Ort gemacht hat. Aufgrund ihres Standortes im Einschnitt des Bahntrassees tritt die Antenne nach dem Eindruck des Verwaltungsgerichts nur verhältnismässig niedrig in Erscheinung. Aus gewissen Blickwinkeln überrage sie zudem den Horizont und eine gewisse Beeinträchtigung sei von einzelnen Standorten beim Blick auf das Schloss Rapperswil gegeben. Diese Beeinträchtigungen fallen aber nach Meinung der Vorinstanz nicht als erhebliche Störungen des Schutzobjekts ins Gewicht. Von erheblichen Beeinträchtigungen des Landschafts-und Ortschaftsbilds oder gar von Verunstaltungen könne daher nicht gesprochen werden. Eine Verletzung von Bestimmungen des Baureglements, der NHG-Bestimmungen oder des Verunstaltungsverbots von Art. 93 des Gesetzes über die Raumplanung und das öffentliche Baurecht vom 6. Juni 1972 (BauG/SG; sGS 731.1) sei nicht dargetan.
Mit Blick auf die zurückhaltende Prüfung des Bundesgerichts und die Einschätzung der Vorinstanz nach dem Augenschein, ist dem Verwaltungsgericht keine Verfassungs- oder Bundesrechtswidrigkeit vorzuwerfen. Der Umstand, dass das Grundstück Nr. 4572J allenfalls anders überbaut wird, als von der Zonenplanung vorgegeben, macht keine Neubeurteilung durch die ENHK notwendig. Eine Verletzung des rechtlichen Gehörs durch das Verwaltungsgericht ist zu verneinen, soweit sie überhaupt rechtsgenüglich dargetan wurde. Was die Beschwerdeführer im Zusammenhang mit der Planungszone vorbringen, ist im entsprechenden Beschwerdeverfahren (1C_486/2009) zu behandeln.
4. Die Beschwerdeführer erachten die Bewilligung gar als nichtig, weil es sich bei der Bauparzelle um ein Grundstück ausserhalb der Bauzone handle und keine Zustimmung der kantonalen Behörde eingeholt worden sei.
4.1 Eine ordentliche Baubewilligung kann erteilt werden, wenn die Anlage dem Zweck der Nutzungszone entspricht (Art. 22 Abs. 2 lit. a RPG). Die Parzelle, auf welcher die Mobilfunkantenne errichtet werden soll, ist nach dem kommunalen Nutzungsplan keiner Nutzungszone zugeordnet, sondern als Teil des SBB-Areals als weisse Fläche dargestellt. Ihre Zugehörigkeit zum Bau- oder Nichtbaugebiet ist aufgrund objektiver Kriterien zu beurteilen, wobei eine parzellenübergreifende, gebietsbezogene Sichtweise massgebend ist (Urteil des Bundesgerichts 1C_452/2007 vom 22. April 2008, in URP 2008 S. 390 E. 3.1 mit Hinweis auf das Urteil 1A.140/2003 des Bundesgerichts vom 18. März 2004, in ZBl 107/2006 S. 193 E. 2.5). Das Bundesgericht hat in der Vergangenheit denn auch festgehalten, die Nutzung eines solchen - planerisch weiss dargestellten - Eisenbahn-Grundstücks sei nicht unbestimmt; vielmehr sei es bereits durch eisenbahnrechtliche Plangenehmigung dem Eisenbahnverkehr gewidmet. Der Verzicht auf eine eigene Planung dieses Gebiets durch die Gemeinde, die ohnehin nur für allfällige betriebsfremde Nutzungen des Bodens Wirkung entfalten könnte (<ref-ruling> E. 4 S. 174), folgt aus der Zuständigkeitsordnung des EBG und ist nicht als bewusster Ausschluss des Bahnhofareals aus der umgebenden Bauzone zu verstehen (Urteil 1A.140/2003 des Bundesgerichts vom 18. März 2004 E. 2.5).
4.2 Das Verwaltungsgericht bezieht sich in seinem Entscheid auf die bundesgerichtliche Rechtsprechung. Es pflichtet deshalb dem Baudepartement darin bei, dass die Parzelle weitgehend zu Zwecken des Bahnbetriebs überbaut sei und mitten im Siedlungsgebiet liege, weshalb das Baugesuch wie bei einem Bauvorhaben innerhalb der Bauzone zu behandeln sei. Entgegen der Meinung der Beschwerdeführer sei beim Baugrundstück Nr. 711 davon auszugehen, dass es Bestandteil des Baugebiets sei. Es stelle daher keinen Mangel im Bewilligungsverfahren dar, wenn das für die Bewilligung von Bauten ausserhalb der Bauzone zuständige Amt für Raumentwicklung und Infrastruktur nicht in das Verfahren involviert gewesen sei. Weder seien Bundesrecht noch das kantonale Gesetz über die Verfahrenskoordination in Bausachen und die entsprechenden Verordnung verletzt worden. Nicht massgebend sei im Übrigen die bundesgerichtliche Rechtsprechung zur Erstellung von Mobilfunkanlagen auf Masten von elektrischen Leitungen oder Starkstromanlagen. Da die streitig Antenne nicht ausschliesslich dem Bahnfunk diene, sei das ordentliche Baubewilligungsverfahren nach den Vorschriften des Kantons und des Bundes durchgeführt worden.
4.3 Diese Ausführungen geben nicht nur die Praxis des Bundesgerichts wieder, sie treffen auch auf den vorliegenden Fall zu. Wie im Urteil 1A.140/2003 dargelegt, besteht bei solchem Vorgehen keine Gefahr, dass die vom RPG vorgeschriebenen Entscheidfolge nicht eingehalten würde: Während bei einer Lücke in einem Nutzungsplan im Allgemeinen ein Handlungsbedarf für die Nutzungsplanung besteht, ist eine kommunale Planung des fraglichen Bahnareals erst möglich, wenn der Bahnbetrieb an dieser Stelle einmal aufgegeben werden sollte (<ref-ruling> E. 4 S. 174). Bis dahin erscheint es aber durchaus sinnvoll, Bahnareale, die im Siedlungsgebiet liegen, baulich zu nutzen, z.B. für die Erstellung von Mobilfunkanlagen; ein Interesse an der Freihaltung solcher Areale besteht nicht (Urteil 1A.140/2003 des Bundesgerichts vom 18. März 2004, in ZBl 107/2006 S. 193 E. 2.5).
4.4 Die Gegenargumente der Beschwerdeführer verfangen nicht. Zugestanden ist, dass die Parzelle mit Gleisen und Bahnanlagen überbaut ist. Im Übrigen gehen die Beschwerdeführer aber nicht substantiiert auf die Erwägungen des Verwaltungsgerichts ein, sondern schliessen sich der früher in der Literatur geäusserten Kritik zum Entscheid Herrenacker (<ref-ruling>) an. Das Bundesgericht hat sich im Urteil 1A.140/2003 in E. 2.5 mit dieser Problematik auseinander gesetzt. Die Beschwerdeführer bringen keine Gründe vor, die das Bundesgericht zu einer Änderung seines Praxis bewegen könnten. Der Hinweis auf <ref-ruling> geht fehl, da im zitierten Entscheid die Errichtung einer Mobilfunkanlage auf einem Hochspannungsmast zu beurteilen war. Aus den dortigen Erwägungen können die Beschwerdeführer nichts zu ihren Gunsten ableiten.
4.5 Den Behörden ist kein Vorwurf zu machen, wenn sie die Bewilligungsvoraussetzungen für die Mobilfunkantenne im ordentlichen Baubewilligungsverfahren geprüft haben.
5. Schliesslich werfen die Beschwerdeführer dem Verwaltungsgericht eine Rechtsverweigerung vor. Die Gemeinde hatte im Verfahren vor dem Baudepartement einen Sistierungsantrag gestellt und verlangt, das Baubewilligungsverfahren bis zum Entscheid über die Rechtmässigkeit der Planungszone auszusetzen. Das Baudepartement hatte dieses Gesuch abgelehnt. Die Beschwerdeführer halten dieses Vorgehen für widersprüchlich, habe doch das Baudepartement die Planungszone später als rechtmässig qualifiziert. Das Verwaltungsgericht habe sich mit ihren diesbezüglichen Rügen nicht auseinandergesetzt und es zu Unrecht unterlassen, das Baudepartement zur Koordination der beiden Verfahren zu zwingen.
5.1 Den Beschwerdeführern ist zuzugestehen, dass die Begründung des Baudepartements etwas unklar erscheinen mag, wenn man die beiden Entscheide vergleicht. Es führt einerseits am 15. August 2008 zum Sistierungsantrag im Baubewilligungsverfahren aus, nach der Rechtsprechung des Bundesgerichts stehe fest, dass für kantonales und kommunales Recht im umweltschutzrechtlichen Bereich kein Raum bleibe. Die Gemeinden könnten auch die Zonenarten nicht definieren, da das Baugesetz diese abschliessend aufzähle. Vor diesem Hintergrund könne die von der Vorinstanz erlassene Planungszone keine Wirkung entfalten und lasse sich eine Sistierung des Verfahrens nicht rechtfertigen. Andererseits gelangt es im Entscheid vom 25. Mai 2009 zur Planungszone zum Schluss, diese sei rechtens. Im Verfahren vor Bundesgericht macht das Departement geltend, im Ergebnis würden seine beiden Entscheide übereinstimmen. Es habe auch im Streit um die Planungszone festgehalten, dass ein pauschaler Verweis darauf keine Nichtbehandlung oder Sistierung von Baugesuchen erlaube. Vielmehr müsse die Gemeindebehörde im Sinn von Art. 106 Abs. 1 BauG/SG plausibel und in Bezug auf den konkreten Standort begründen, weshalb ein Bauvorhaben gegen ihre Planungsabsicht verstosse.
5.2 Ob die Argumentation des Baudepartements kohärent ist, kann dahin gestellt bleiben. Im Ergebnis wurde der Sistierungsantrag zu Recht abgelehnt. Wie gesehen handelt es sich bei der Parzelle GB Nr. 711 um ein SBB-Grundstück, welches der planerischen Hoheit der Gemeinde entzogen ist. Die Planungszone kann somit auch im Fall ihrer Rechtmässigkeit für das Eisenbahnareal keine Wirkung entfalten. Dem Verwaltungsgericht ist demnach nicht zur Last zu legen, dass es den ablehnenden Entscheid des Baudepartements geschützt hat, zumal es zu Recht die Frage aufgeworfen hat, inwiefern die Beschwerdeführer überhaupt zu einer solchen Rüge legitimiert sind, hatte doch die Gemeinde den Sistierungsantrag mit Blick auf die Planungszone gestellt. Eine Koordinationspflicht für das Baubewilligungs- und das Planungsverfahren bestand jedenfalls nicht. Weder hat das Verwaltungsgericht eine Rechtsverweigerung begangen, noch hat es klares Recht verletzt.
6. Zusammenfassend ergibt sich, dass die Beschwerde gutzuheissen ist, soweit darauf einzutreten ist. Der angefochtene Entscheid ist aufzuheben und die Baubewilligung zu verweigern (<ref-law>). Die Angelegenheit wird an das Verwaltungsgericht zu neuem Entscheid im Kostenpunkt zurückgewiesen.
Die Kosten des bundesgerichtlichen Verfahrens sind der unterliegenden Beschwerdegegnerin aufzuerlegen (<ref-law>). Sie hat zudem die Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 11. Mai/ 22. September 2009 wird aufgehoben und die ihm zugrunde liegende Baubewilligung verweigert. Die Angelegenheit wird an das Verwaltungsgericht zu neuem Entscheid im Kostenpunkt zurückgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Politischen Gemeinde Rapperswil-Jona, dem Baudepartement sowie dem Verwaltungsgericht des Kantons St. Gallen und dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 21. Mai 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Scherrer Reber