Faits:
A. Orange Communications S.A. (ci-après: Orange) a adressé en 2001 à la Municipalité de la commune de Grandvaux (ci-après: la municipalité) une demande d'autorisation de construire en vue d'installer sur un mât au bord des voies de chemin de fer (poteau n° 162) un équipement de téléphonie mobile, comportant quatre antennes de type Kathrein 742'234, une antenne à faisceaux hertziens et une structure métallique (installation combinée GSM et UMTS). Ce mât ou poteau se trouve sur la parcelle n° 1148 du registre foncier, à Grandvaux, terrain du domaine ferroviaire appartenant aux Chemins de fer fédéraux suisses (CFF). Le projet a été mis à l'enquête publique du 12 au 31 octobre 2001; plusieurs oppositions ont été enregistrées.
La demande d'autorisation de construire a été transmise à l'administration cantonale vaudoise. Le Service de l'aménagement du territoire (SAT) a délivré, au nom du département cantonal, une autorisation spéciale pour constructions hors de la zone à bâtir (art. 24 LAT). Cette autorisation a été communiquée à la municipalité le 18 décembre 2001 avec, entre autres, un préavis favorable du Service de l'environnement et de l'énergie (SEVEN). Le 13 mars 2002, Orange a communiqué à la municipalité des compléments et des modifications de sa demande, afin de tenir compte de remarques des opposants.
Le 22 avril 2002, la municipalité a refusé le permis de construire. Sa décision a été notifiée le 9 mai 2002 à Orange, qui a recouru auprès du Tribunal administratif du canton de Vaud. Plusieurs opposants, dont A._ et B._ (ci-après: les époux A._), propriétaires d'une maison voisine à quelques dizaines de mètres de l'emplacement prévu pour l'installation litigieuse, sont intervenus comme parties à cette procédure. Le Tribunal administratif a statué le 22 mars 2006; il a partiellement admis le recours (ch. I du dispositif), annulé la décision de la municipalité et renvoyé le dossier à cette autorité "afin qu'elle complète l'instruction conformément aux considérants du présent arrêt et statue à nouveau" (ch. II du dispositif).
Les époux A._ ont recouru au Tribunal fédéral contre cet arrêt du Tribunal administratif. La Ire Cour de droit public a statué le 2 octobre 2006, en admettant partiellement le recours de droit administratif, dans la mesure où il était recevable, et en réformant l'arrêt dans ce sens que les autorités cantonales ne devaient pas soumettre le projet à l'approbation de l'Office fédéral des transports; pour le reste, l'obligation pour la municipalité de compléter l'instruction et de statuer à nouveau a été confirmée (arrêt 1A.100/2006). A ce stade de la procédure en effet, seule la question de la nécessité d'une procédure fédérale d'approbation des plans a pu être examinée par le Tribunal fédéral.
B. La municipalité a statué à nouveau le 12 décembre 2006. Elle a levé les oppositions et délivré le permis de construire. Les époux A._ ont recouru contre cette décision auprès du Tribunal administratif. Dès le 1er janvier 2008, l'affaire a été traitée par la Cour de droit administratif et public du Tribunal cantonal, laquelle a très partiellement admis le recours par un arrêt rendu le 18 janvier 2008, en réformant la décision municipale dans le sens de deux considérants (consid. 3g et 4c de l'arrêt). Le premier point concerne l'obligation imposée à l'opérateur de faire procéder, à ses frais, à des mesures de contrôle dans les six mois suivant la mise en service de l'installation (consid. 3g). Le second point consiste à ajouter une condition au permis de construire, soit l'obligation pour l'opérateur d'intégrer dans son système d'assurance de qualité (AQ) les données opérationnelles de l'installation mise à l'enquête publique (consid. 4c). Pour l'essentiel, la Cour de droit administratif et public a rejeté les griefs des recourants. Elle a notamment retenu que sur leur parcelle (au dernier étage de leur maison), l'intensité de champ électrique due à l'installation litigieuse était estimée à 1.05 V/m; elle serait donc inférieure à la valeur limite de l'installation fixée par le droit fédéral (6.0 V/m) et, a fortiori, aux valeurs limites d'immissions (cf. annexes 1 et 2 de l'ordonnance sur la protection contre le rayonnement non ionisant [ORNI; RS 814.710]).
L'arrêt du Tribunal cantonal mentionne également que les recourants ont déclaré être "électro-sensibles", ce qui signifie selon eux qu'ils seraient incapables de vivre à proximité d'une station émettant un rayonnement électromagnétique parce qu'ils ressentiraient des symptômes répétés et systématiques (fatigue, perte de lucidité, maux de tête). Des certificats médicaux du Dr C._, du 13 février 2002, indiquent que, depuis leur enfance, ils sont l'un et l'autre dans l'incapacité de supporter une antenne de télécommunication. La Cour de droit administratif et public a considéré que rien ne permettrait de conclure que l'installation litigieuse déploierait un effet sur l'état de santé des recourants (consid. 2b), et que ceux-ci n'avaient pas apporté la preuve que les troubles dont ils se plaignent étaient causés par une installation de téléphonie mobile (consid. 3i).
C. Agissant par la voie du recours en matière de droit public, les époux A._ demandent au Tribunal fédéral d'annuler l'arrêt du 18 janvier 2008 et de renvoyer l'affaire pour nouvelle décision à la Cour de droit administratif et public, afin qu'une expertise soit effectuée aux fins de démontrer que le rayonnement électromagnétique est bien la cause des troubles dont ils se plaignent, et afin que des mesures de limitation complémentaire des émissions soient prises sur la base de l'art. 5 ORNI, en tenant compte d'un autre projet d'antenne (antenne GSM-R projetée sur le poteau n° 166 à proximité). Subsidiairement, les recourants demandent que des mesures de prévention efficaces soient prises, qui garantissent une exposition de 0.02 V/m à l'intérieur de leur habitation et 0.06 V/m à l'extérieur, soit par des mesures de protection contre les ondes électromagnétiques sur leur bâtiment, aux frais de la constructrice, soit par un éloignement suffisant de l'antenne le long de la voie.
Orange conclut au rejet du recours.
Pour l'administration cantonale, le Service de l'environnement et de l'énergie (SEVEN), rattaché au Département de la sécurité et de l'environnement, a déposé des observations.
La municipalité et la Cour de droit administratif et public ont renoncé à se déterminer sur le recours.
L'Office fédéral de l'environnement (OFEV) a été invité à communiquer ses observations. Celles-ci ont été transmises aux parties, qui ont ensuite pu se déterminer.
Considérant en droit:
1. La voie du recours en matière de droit public au sens de l'art. 82 let. a LTF est en principe ouverte contre une décision rendue, en dernière instance cantonale, dans une contestation relative à une autorisation de construire. En l'espèce, les recourants ont agi en temps utile (art. 100 al. 1 LTF) et selon les formes prescrites. Comme propriétaires d'un bâtiment directement voisin de l'installation litigieuse, ils ont qualité pour recourir au sens de l'art. 89 al. 1 LTF. Il y a lieu d'entrer en matière.
2. Les recourants font valoir que les mesures de limitation des émissions devraient être complétées ou rendues plus sévères dans le cas particulier compte tenu d'un autre projet d'antenne des Chemins de fer fédéraux, au bord de la même voie ferrée, à proximité directe (projet de radio ferroviaire GSM-R, antenne à installer sur le poteau n° 166). Les recourants admettent n'avoir rien allégué à ce sujet en procédure cantonale. L'état de fait de l'arrêt attaqué ne mentionne pas ce projet.
Par leur argumentation, les recourants ne critiquent pas les constatations de fait de l'arrêt attaqué et ils ne se plaignent pas à ce propos d'une violation du droit fédéral (cf. art. 97 al. 1 LTF). Ils ne prétendent pas que les juges du Tribunal cantonal auraient dû tenir compte de cet autre projet qui, d'après une pièce produite avec le recours, n'est pas soumis à une procédure d'approbation cantonale et qui a fait l'objet d'une première publication en novembre 2007. En somme, les recourants mentionnent un fait nouveau, qu'ils estiment pertinent.
En vertu de l'art. 105 al. 1 LTF, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente. En application de cette règle, le fait nouveau en question n'a pas, en principe, à être pris en considération. Toutefois, en vertu de l'art. 105 al. 2 LTF, le Tribunal fédéral peut rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit. Or tel n'est pas le cas en l'espèce. Selon les pièces du dossier, l'antenne projetée par les CFF, pour leur propre système de télécommunications (GSM-R), n'est pas encore approuvée par l'autorité administrative compétente; c'est dans le cadre de cette procédure en cours qu'une évaluation globale du rayonnement des antennes voisines (57 m séparent les deux poteaux) pourra le cas échéant être effectuée, si le droit fédéral l'impose (cf. ch. 62 de l'annexe 1 de l'ORNI; arrêt 1A.162/2004 du 3 mai 2005, in DEP 2005 p. 740, consid. 2). Aussi, pour des raisons procédurales, le Tribunal fédéral n'a pas à prendre en considération le projet d'antenne des CFF dans la présente contestation.
3. Les recourants présentent différents griefs sous les titres "pouvoir d'examen du Tribunal fédéral", "appréciation des connaissances scientifiques par le Conseil fédéral" et "appréciation de l'expérience". En substance, ils ne critiquent pas la décision attaquée dans ses constatations de fait sur le rayonnement de l'installation litigieuse, ni en tant qu'elle retient que les valeurs limites fixées par le droit fédéral ne seraient pas dépassées. Les recourants ne prétendent pas non plus que les mesures de contrôle qui devront être mises en oeuvre (système d'assurance de qualité, notamment) seraient inadaptées. Leurs critiques visent en revanche les valeurs limites elles-mêmes, ou le régime prévu par le droit fédéral pour la limitation des émissions des antennes de téléphonie mobile. Ils font en particulier valoir qu'une protection insuffisante serait accordée aux personnes dotées, comme eux-mêmes, d'une sensibilité particulière aux champs électromagnétiques.
3.1 Dans ses dispositions générales, la loi fédérale sur la protection de l'environnement (LPE; RS 814.01) prévoit, pour la limitation des émissions, un concept d'action à deux niveaux (art. 11 al. 2 et 3 LPE; cf. notamment, à propos de ce concept, ATF 128 II 378 consid. 6.2 p. 384). Les art. 4 et 5 ORNI reprennent ce concept, en prescrivant d'une part une limitation préventive des émissions (titre de l'art. 4 ORNI; cf. art. 11 al. 2 LPE), et d'autre part une limitation complémentaire et plus sévère des émissions (titre de l'art. 5 ORNI; cf. art. 11 al. 3 LPE).
Dans le domaine du rayonnement non ionisant, la limitation dite préventive - qui doit être ordonnée en premier lieu, indépendamment des nuisances existantes - fait l'objet d'une réglementation détaillée à l'annexe 1 de l'ORNI (par renvoi de l'art. 4 al. 1 ORNI), laquelle fixe notamment, pour les "stations émettrices pour téléphonie mobile et raccordements téléphoniques sans fils " (ch. 6 annexe 1 ORNI), des "valeurs limites de l'installation" (ch. 64 annexe 1 ORNI). Dans le cas d'espèce, la valeur limite de l'installation à respecter dans les lieux à utilisation sensible du voisinage (principalement les locaux dans lesquels des personnes séjournent régulièrement - art. 3 al. 3 ORNI), compte tenu des gammes de fréquence utilisées, est de 6.0 V/m (ch. 64 let. b annexe 1 ORNI). La jurisprudence a d'emblée retenu que les principes de la limitation préventive des émissions (art. 11 al. 2 LPE, art. 4 ORNI) étaient considérés comme observés en cas de respect de la valeur limite de l'installation dans les lieux à utilisation sensible (une maison d'habitation par exemple), où cette valeur s'applique (ATF 126 II 399 consid. 3c p. 403; cf. également ATF 133 II 64 consid. 5.2 p. 66; arrêt 1A.68/2005 du 26 janvier 2006, consid. 3.2 in SJ 2006 I 314).
Par ailleurs, une limitation complémentaire ou plus sévère des émissions doit, en vertu de l'art. 11 al. 3 LPE, être ordonnée s'il appert ou s'il y a lieu de présumer que les atteintes, eu égard à la charge actuelle de l'environnement, seront nuisibles ou incommodantes. L'art. 5 al. 1 ORNI exprime cette règle en ces termes: "S'il est établi ou à prévoir qu'une installation entraînera, à elle seule ou associée à d'autres installations, des immissions dépassant une ou plusieurs valeurs limites d'immissions de l'annexe 2, l'autorité impose une limitation d'émissions complémentaire ou plus sévère". Ces valeurs limites d'immissions sont très sensiblement supérieures aux valeurs limites de l'installation (58 V/m pour le GSM 1800).
3.2 Les recourants reprochent au Conseil fédéral d'avoir mal appliqué l'art. 14 LPE en fixant les valeurs limites, et singulièrement d'avoir mal apprécié l'expérience. Or cette disposition de la loi fédérale, qui prescrit tenir compte de l'état de la science et de l'expérience, concerne la fixation des valeurs limites d'immissions, plus précisément de celles relatives aux pollutions atmosphériques (selon le titre de l'art. 14 LPE). Des critères analogues sont cependant valables pour les valeurs limites d'immissions du rayonnement non ionisant (cf. ATF 129 II 420 consid. 4.3.2 p. 430).
Quoi qu'il en soit, dans la présente contestation, il faut d'abord vérifier que l'exploitation de la nouvelle antenne s'effectuera dans le respect des limitations préventives des émissions (art. 4 al. 1 ORNI) sur la propriété des recourants, donc de la valeur limite de l'installation (ch. 64 annexe 1 ORNI). Si cette exigence est satisfaite, cela signifie qu'a fortiori, les valeurs limites d'immissions sont respectées. D'autres situations que celle présentement litigieuse n'ont pas à être prises en considération car, si le Tribunal fédéral peut revoir à titre préjudiciel la légalité d'une ordonnance dans le cadre d'une contestation concrète, il ne doit pas se prononcer de manière générale au sujet de l'application de cette ordonnance (cf. ATF 133 I 1 consid. 5.1 p. 3).
Comme cela a déjà été exposé, il n'est pas contesté que la valeur limite de l'installation fixée dans l'ORNI (6.0 V/m) ne sera pas dépassée dans le cas particulier. Il faut comprendre les griefs des recourants dans ce sens que la valeur la plus sévère prévue par le droit fédéral - la valeur limite de l'installation - aurait dû être fixée à un seuil encore plus bas (inférieur en l'occurrence à 6.0 V/m). Dans ces conditions, il importe peu de savoir si les valeurs limites d'immissions, nettement plus élevées, ont été fixées par le Conseil fédéral conformément aux exigences légales.
3.3 Le Tribunal fédéral a, dans un arrêt de principe rendu en 2000 (ATF 126 II 399), examiné à titre préjudiciel la légalité des valeurs limites fixées dans l'ORNI et il a considéré qu'elles étaient conformes à la loi fédérale sur la protection de l'environnement; il a toutefois précisé qu'il se réservait de réexaminer la jurisprudence - ce qui pourrait amener à considérer que des valeurs limites plus sévères devraient être fixées - en cas de nouvelles connaissances scientifiques au sujet des effets sur l'organisme du rayonnement non ionisant (ATF 126 II 399 consid. 4c p. 408). Depuis lors, le Tribunal fédéral a retenu à plusieurs reprises, sur la base notamment de rapports du service spécialisé de l'administration fédérale, l'OFEV, que l'évolution de l'état de la science ne justifiait pas une nouvelle solution (cf. notamment arrêts non publiés 1A.60/2006 du 2 octobre 2006, consid. 2; 1A.142/2006 du 4 décembre 2006, consid. 6 et les arrêts cités). En particulier, dans un arrêt rendu en 2001 (arrêt 1A.62/2001 du 24 octobre 2001, partiellement publié aux ATF 128 I 59), il a considéré qu'il n'y avait pas lieu de tenir compte - à propos de l'appréciation de l'état des connaissances scientifiques en vue d'un éventuel réexamen de la légalité des valeurs limites de l'ORNI - d'expériences menées à Salzburg où des valeurs préventives sensiblement plus faibles ont été arrêtées (0.6 V/m), notamment parce qu'il n'était pas démontré que des valeurs si basses pouvaient effectivement être respectées (on parle à ce propos du "Salzburger Modell", ou modèle de Salzburg - consid. 3b/bb de l'arrêt 1A.62/2001).
3.4 Dans leur argumentation - qui ne se réfère pas toujours clairement aux normes juridiques pertinentes -, les recourants invoquent des principes ou des considérations généraux, par exemple le principe de précaution. Selon la définition la plus couramment utilisée et la plus largement admise, ce principe postule qu'en cas de risque de dommages graves ou irréversibles, l'absence de certitude scientifique absolue ne doit pas servir de prétexte pour remettre à plus tard l'adoption de mesures effectives visant à prévenir la dégradation de l'environnement (ATF 132 II 305 consid. 4.3 p. 320). A l'évidence, le système de l'ORNI, qui impose, pour toutes les antennes de téléphonie mobile, le respect de valeurs préventives sensiblement inférieures aux valeurs limites d'immissions, tient compte du principe de précaution ainsi défini, pour les raisons exposées dans la jurisprudence citée plus haut.
En définitive, sur la base des griefs des recourants, deux questions doivent être examinées: premièrement celle de l'évolution des connaissances scientifiques, qui serait propre à justifier un réexamen de la légalité des valeurs limites de l'ORNI, afin de garantir une protection adéquate de la population (de sensibilité ordinaire) contre le rayonnement non ionisant; deuxièmement celle de la nécessité d'une protection spéciale pour les personnes s'affirmant "électro-sensibles".
3.5 A propos de l'évolution des connaissances scientifiques, les recourants se réfèrent à un rapport du 31 août 2007 intitulé "BioInitiative Report: A Rationale for a Biologically-based Public Exposure Standard for Electromagnetic Fields (ELF and RF)" (les scientifiques ayant dirigé ce rapport ["Organizing Committee"] sont Carl Blackman, Martin Blank, Michael Kundi et Cindy Sage - rapport accessible sur www.bioinitiative.org). Les recourants prétendent que les auteurs de ce rapport concluraient que les "normes actuelles", ou les "limites d'immissions actuelles", sont clairement insuffisantes et recommanderaient une valeur limite fixée au maximum à 0.614 V/m.
Les recourants ne citent pas des passages précis du rapport BioInitiative qui démontreraient une véritable évolution des connaissances scientifiques depuis la date des derniers arrêts du Tribunal fédéral où cette question a été examinée (cf. supra, consid. 3.3). Or il apparaît que, dans les recommandations énoncées par les auteurs du rapport (Summary for the Public, Recommended Actions, p. 21 ss), les valeurs préventives de l'ORNI (valeurs limites de l'installation, à distinguer des valeurs limites d'immissions fixées sur la base de recommandations internationales [cf. ATF 129 II 420 consid. 7.2-7.3 p. 435; 126 II 399 consid. 3b p. 403]) ne sont pas critiquées. Quant à la valeur de 0.614 V/m, elle est reprise du "modèle de Salzburg" (cf. supra, consid. 3.3 in fine) et elle est présentée comme une limite préventive possible ("precautionary limit", p. 23, 26 du rapport). On ne voit aucun motif, sur la base de ces explications qui prennent en considération des éléments déjà discutés dans la jurisprudence du Tribunal fédéral, de remettre en cause la légalité des valeurs limites de l'ORNI. L'Office fédéral de l'environnement, dans ses déterminations sur le présent recours, expose au demeurant de manière claire l'état des connaissances scientifiques et il en ressort qu'à l'heure actuelle, l'appréciation faite dans l'arrêt de principe ATF 126 II 399 est toujours valable.
3.6 Les recourants invoquent par ailleurs la nécessité de protéger spécialement les personnes "électro-sensibles". Ils font valoir que les tribunaux (en particulier le Tribunal fédéral) devraient permettre aux personnes qui allèguent une sensibilité particulière aux champs électromagnétiques d'établir leur sensibilité dans un cas d'espèce. Ils affirment subir eux-mêmes des troubles causés par les ondes électromagnétiques et ils reprochent au Tribunal cantonal d'avoir violé leur droit d'être entendus en n'ordonnant pas une expertise au sujet de leur "électro-sensibilité". L'expertise serait, selon eux, le moyen le plus approprié pour établir les faits allégués, outre le certificat médical qu'ils ont fourni.
3.6.1 Les recourants ont en effet produit, en procédure cantonale, deux certificats médicaux déjà anciens (ils datent de 2002) qui se bornent à mentionner une "incapacité de supporter une antenne de télécommunication" depuis l'enfance. Aucun symptôme n'est décrit. Aucune explication n'est donnée sur la sensibilité aux champs électromagnétiques provenant d'autres sources que les antennes de télécommunication. Les certificats ne précisent pas non plus sur quelle base le médecin parvient à la conclusion que dans leur enfance (c'est-à-dire avant le développement de la téléphonie mobile), les deux sujets étaient déjà incapables de supporter de telles installations. En définitive, ces attestations sont très sommaires. Dans la suite de la procédure cantonale, les recourants n'ont produit aucun autre certificat médical.
3.6.2 Dans ses déterminations sur le recours, l'Office fédéral de l'environnement (OFEV) expose qu'il n'y a actuellement pas de méthode reconnue médicalement pour diagnostiquer l'"électro-sensibilité". Du point de vue médical, on ne peut actuellement pas dire clairement s'il existe objectivement un groupe de personnes particulièrement sensibles au rayonnement non ionisant, ni s'il existe certaines prédispositions physiologiques individuelles pour une sensibilité particulière. C'est pourquoi l'ORNI, d'après l'OFEV, ne prévoit pas de réglementation spéciale sur ce point et, en particulier, ne fixe pas de valeurs limites spécifiques pour la protection de personnes "électro-sensibles".
Cette analyse, dont il découle l'absence de preuve d'un rapport de causalité entre les champs électromagnétiques et les troubles dont se plaignent les intéressés, a déjà été considérée comme concluante dans plusieurs arrêts du Tribunal fédéral (cf. arrêt 1A.218/1004 du 29 novembre 2005, publié in URP/DEP 2006 p. 168, consid. 3.2.2; arrêt non publié 1A.60/2006 du 2 octobre 2006, consid. 2.3.3).
3.6.3 Il ressort des écritures des recourants en procédure cantonale qu'ils n'ignoraient pas, dans les grandes lignes, l'état des connaissances scientifiques ou médicales au sujet de l'"électro-sensibilité". Ils ont toutefois renoncé à alléguer de manière précise les faits pertinents pour l'appréciation de leur situation personnelle, à l'un et à l'autre, se contentant de requérir la mise en oeuvre d'une expertise. Comme cette preuve n'a pas été ordonnée, ils se plaignent d'une violation du droit d'être entendu.
Selon la jurisprudence, le droit d'être entendu selon l'art. 29 al. 2 Cst. comprend le droit de faire administrer des preuves, notamment d'obtenir une expertise. Ce droit suppose que le fait à prouver soit pertinent, que le moyen de preuve proposé soit nécessaire pour constater ce fait et que la demande soit présentée selon les formes et délais prescrits par le droit cantonal. Par ailleurs, la garantie constitutionnelle n'empêche pas le juge de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, il a la certitude qu'elles ne pourraient l'amener à modifier son opinion (cf. notamment ATF 131 I 153 consid. 3 p. 157).
En l'occurrence, vu la portée de la notion d'"électro-sensibilité" (cf. supra, consid. 3.6.2), il n'était pas arbitraire, de la part du Tribunal cantonal, de simplement tenir compte de l'état actuel de la science à ce sujet (cf. consid. 3i de l'arrêt attaqué) et de renoncer à toute mesure d'instruction, notamment à ordonner une expertise. Les garanties de procédure n'ont donc pas été violées.
3.6.4 Au surplus, pour les motifs déjà exposés, l'"électro-sensibilité" de certaines personnes, quelles qu'en soient les causes, ne justifie pas de réexaminer la légalité des valeurs limites fixées par l'ORNI.
3.7 Les recourants soutiennent encore que la réglementation du droit fédéral violerait la liberté personnelle (art. 10 al. 2 Cst., droit à l'intégrité physique), la garantie de la propriété (art. 26 Cst. - parce qu'ils ne pourraient plus envisager de vivre dans leur maison, proche d'une antenne) ainsi que l'interdiction constitutionnelle des discriminations (art. 8 al. 2 et 4 Cst.).
Ces griefs sont à l'évidence mal fondés. Si les recourants entendent ainsi se plaindre, sous un autre angle, de ce que les valeurs limites de l'ORNI ne seraient pas conformes aux exigences de la LPE, il y a lieu de renvoyer aux considérations précédentes et à la jurisprudence, dont il ressort que les mesures de limitation des émissions des antennes de téléphonie mobile tiennent compte du but de la loi, à savoir la protection des hommes contre les atteintes nuisibles et incommodantes (art. 1 al. 1 LPE); ces mesures sont fondées sur des critères objectifs qui ne font pas de distinction entre les catégories de personnes exposées aux immissions, puisqu'il ne s'impose pas de faire des distinctions. Au cas où les recourants voudraient ainsi remettre en question la constitutionnalité du système légal lui-même, ce grief devrait être d'emblée écarté car le Tribunal fédéral est tenu d'appliquer les lois fédérales (art. 190 Cst.).
3.8 Enfin, les conclusions des recourants tendant à ce que l'opérateur de téléphonie mobile soit astreint à équiper leur bâtiment de dispositifs de protection contre les ondes électromagnétiques sont manifestement mal fondées, aucune norme du droit fédéral ne prévoyant la réalisation de telles mesures d'isolation, lorsque les valeurs limites de l'ORNI sont respectées.
4. Il s'ensuit que le recours, entièrement mal fondé, doit être rejeté.
Les recourants, qui succombent, doivent supporter les frais judiciaires (art. 65 al. 1 et art. 66 al. 1 LTF). Ils auront en outre à verser des dépens à l'intimée Orange, assistée d'un avocat (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants.
3. Une indemnité de 2'000 fr., à payer à l'intimée Orange Communications SA à titre de dépens, est mise à la charge des recourants.
4. Le présent arrêt est communiqué aux recourants, au mandataire de l'intimée, à la Municipalité de la commune de Grandvaux, au Département de la sécurité et de l'environnement ainsi qu'à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, aux Chemins de fer fédéraux (partie intéressée) et à l'Office fédéral de l'environnement.
Lausanne, le 16 décembre 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Jomini