Faits: A. C._ est propriétaire de la parcelle 23 du registre foncier de la commune de Saint-Prex, sise au n° 10 de la Grand'Rue, sur laquelle est construit un immeuble de trois étages. La parcelle est située dans la zone de la vieille ville selon le règlement communal sur le plan général d'affectation et la police des constructions approuvé par le Conseil d'Etat le 15 juillet 1987 et par le Département des transports publics, de l'aménagement et des transports le 12 juin 1997 (ci-après: le RPGA) et soumise au plan d'affectation "Vieille ville" du 12 juin 1997. Le 15 novembre 2007, C._ et Orange Communications SA ont présenté une demande de permis de construire portant sur l'installation d'un site de téléphonie mobile sur l'immeuble précité. Le projet consiste en trois antennes de type K742 233 (UMTS), chacune ayant une hauteur de 57 cm et une largeur de 32 cm, ainsi que les installations techniques (trois MHA, un col de cygne, une échelle à câbles, des armoires techniques, un coffret M2L et un luminaire 36W), prévues à l'intérieur de l'immeuble, dans les combles. Le col de cygne dépasserait du toit et les antennes seraient fixées contre la cheminée existante au moyen d'un cerclage, ce qui exclut tout percement de la cheminée. Afin qu'elles soient "camouflées", elles seraient peintes (décor "cheminée"). Mis à l'enquête publique du 1er au 31 décembre 2007, le projet a suscité quarante-sept oppositions. La centrale des autorisations CAMAC a rendu sa synthèse le 7 février 2008, d'où il ressort notamment que le Service cantonal de l'environnement et de l'énergie préavise favorablement le projet, sous réserve du respect de certaines conditions impératives. Dans ses déterminations du 28 mars 2008, le médecin cantonal a indiqué qu'on ne disposait pas d'éléments scientifiques permettant de refuser pour motifs de santé publique l'implantation d'une antenne de téléphone mobile respectant les normes fédérales, même si le peu de recul aujourd'hui disponible ne permettait pas d'exclure tout risque. Par décision du 7 avril 2008, la municipalité de Saint-Prex a refusé de délivrer le permis de construire sollicité, faisant valoir qu'elle se devait de prendre toutes les mesures nécessaires afin de garantir la santé de ses habitants. La décision communale n'a ainsi retenu que le risque d'atteinte à la santé. B. Par arrêt du 15 juin 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a admis le recours d'Orange Communications SA et annulé la décision de la municipalité du 7 avril 2008, le dossier lui étant retourné pour nouvelle décision au sens des considérants. Le Tribunal cantonal a considéré en substance que le projet respectait les valeurs limites de l'ordonnance du 23 décembre 1999 sur la protection contre le rayonnement non ionisant (ORNI; RS 814.710). L'installation litigieuse était par ailleurs conforme à l'art. 9 al. 3 RPGA, le rapport fonctionnel avec le lieu prévu pour son implantation ayant été établi. Les travaux envisagés étaient modestes et ne portaient pas atteinte au site, si bien qu'il n'était pas nécessaire de procéder à une expertise au sens de l'art. 7 de la loi fédérale du 1er juillet 1966 sur la protection de la nature et du paysage (LPN; RS 451) avant de délivrer le permis de construire. C. Agissant par la voie du recours en matière de droit public, A._ et consorts demandent au Tribunal fédéral de réformer l'arrêt précité en ce sens que la décision municipale du 7 avril 2008 est confirmée. Subsidiairement, ils concluent à l'annulation de l'arrêt entrepris. Les recourants font valoir une appréciation arbitraire des preuves et se plaignent d'une mauvaise application du droit fédéral, plus particulièrement en matière de protection de la nature et du paysage et de protection de l'environnement. Le Tribunal cantonal renonce à déposer une réponse au recours. Le Service cantonal de l'environnement et de l'énergie a déposé des observations sans prendre de conclusions. La commune de Saint-Prex adhère aux conclusions des recourants. Orange Communications SA conclut au rejet du recours. B._ demande au Tribunal fédéral d'admettre le recours et d'annuler l'arrêt attaqué. Invité à se déterminer, l'Office fédéral du développement territorial relève que l'affaire ne soulève pas, au regard du droit fédéral de l'aménagement du territoire et de la planification, de questions de principe nécessitant des observations de sa part. L'Office fédéral de l'environnement constate que l'arrêt attaqué est conforme au droit fédéral de l'environnement. L'Office fédéral de la culture indique partager l'avis exprimé dans l'arrêt attaqué et propose le renvoi de la cause à la commune de Saint-Prex pour nouvelle décision au sens des considérants. L'Office fédéral de l'environnement renonce à prendre position sur les observations de l'Office fédéral de la culture. La commune de Saint-Prex et B._ ont dupliqué le 7 mai; la commune a confirmé ses conclusions. L'Office fédéral du développement territorial ainsi qu'Orange Communications SA ont fait savoir que les prises de position de l'Office fédéral de l'environnement et de l'Office fédéral de la culture ne suscitaient pas d'observations de leur part. Les recourants se sont prononcés sur les différentes observations et ont confirmé leurs conclusions. D._ et E._, tous les deux médecins et recourants, ont déposé des courriers spontanés les 9 et 11 mai 2010. Le Service cantonal de l'environnement et de l'énergie a indiqué ne pas avoir de remarques particulières à faire valoir concernant les nouvelles écritures. Par ordonnance du 17 septembre 2009, le président de la Ire Cour de droit public a admis la requête d'effet suspensif des recourants.