Faits:
A. C._ est propriétaire de la parcelle 23 du registre foncier de la commune de Saint-Prex, sise au n° 10 de la Grand'Rue, sur laquelle est construit un immeuble de trois étages. La parcelle est située dans la zone de la vieille ville selon le règlement communal sur le plan général d'affectation et la police des constructions approuvé par le Conseil d'Etat le 15 juillet 1987 et par le Département des transports publics, de l'aménagement et des transports le 12 juin 1997 (ci-après: le RPGA) et soumise au plan d'affectation "Vieille ville" du 12 juin 1997.
Le 15 novembre 2007, C._ et Orange Communications SA ont présenté une demande de permis de construire portant sur l'installation d'un site de téléphonie mobile sur l'immeuble précité. Le projet consiste en trois antennes de type K742 233 (UMTS), chacune ayant une hauteur de 57 cm et une largeur de 32 cm, ainsi que les installations techniques (trois MHA, un col de cygne, une échelle à câbles, des armoires techniques, un coffret M2L et un luminaire 36W), prévues à l'intérieur de l'immeuble, dans les combles. Le col de cygne dépasserait du toit et les antennes seraient fixées contre la cheminée existante au moyen d'un cerclage, ce qui exclut tout percement de la cheminée. Afin qu'elles soient "camouflées", elles seraient peintes (décor "cheminée").
Mis à l'enquête publique du 1er au 31 décembre 2007, le projet a suscité quarante-sept oppositions. La centrale des autorisations CAMAC a rendu sa synthèse le 7 février 2008, d'où il ressort notamment que le Service cantonal de l'environnement et de l'énergie préavise favorablement le projet, sous réserve du respect de certaines conditions impératives. Dans ses déterminations du 28 mars 2008, le médecin cantonal a indiqué qu'on ne disposait pas d'éléments scientifiques permettant de refuser pour motifs de santé publique l'implantation d'une antenne de téléphone mobile respectant les normes fédérales, même si le peu de recul aujourd'hui disponible ne permettait pas d'exclure tout risque.
Par décision du 7 avril 2008, la municipalité de Saint-Prex a refusé de délivrer le permis de construire sollicité, faisant valoir qu'elle se devait de prendre toutes les mesures nécessaires afin de garantir la santé de ses habitants. La décision communale n'a ainsi retenu que le risque d'atteinte à la santé.
B. Par arrêt du 15 juin 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a admis le recours d'Orange Communications SA et annulé la décision de la municipalité du 7 avril 2008, le dossier lui étant retourné pour nouvelle décision au sens des considérants. Le Tribunal cantonal a considéré en substance que le projet respectait les valeurs limites de l'ordonnance du 23 décembre 1999 sur la protection contre le rayonnement non ionisant (ORNI; RS 814.710). L'installation litigieuse était par ailleurs conforme à l'art. 9 al. 3 RPGA, le rapport fonctionnel avec le lieu prévu pour son implantation ayant été établi. Les travaux envisagés étaient modestes et ne portaient pas atteinte au site, si bien qu'il n'était pas nécessaire de procéder à une expertise au sens de l'art. 7 de la loi fédérale du 1er juillet 1966 sur la protection de la nature et du paysage (LPN; RS 451) avant de délivrer le permis de construire.
C. Agissant par la voie du recours en matière de droit public, la commune de Saint-Prex demande au Tribunal fédéral d'annuler l'arrêt précité, subsidiairement de le réformer en ce sens que la décision municipale du 7 avril 2008 est confirmée. La recourante invoque l'autonomie communale et se plaint d'une application arbitraire du RPGA.
Le Tribunal cantonal renonce à déposer une réponse au recours. Orange Communications SA conclut au rejet du recours. A._ et consorts adhèrent entièrement aux motifs et aux conclusions du recours. B._ demande au Tribunal fédéral d'admettre le recours et d'annuler l'arrêt attaqué. Invité à se déterminer, l'Office fédéral du développement territorial relève que l'affaire ne soulève pas, au regard du droit fédéral de l'aménagement du territoire et de la planification, de questions de principe nécessitant des observations de sa part. L'Office fédéral de la culture a indiqué partager l'avis exprimé dans l'arrêt attaqué et a proposé le renvoi de la cause à la commune de Saint-Prex pour nouvelle décision au sens des considérants. La recourante a répliqué le 7 mai 2010 et a confirmé ses conclusions. L'Office fédéral du développement territorial ainsi qu'Orange Communications SA ont fait savoir que la prise de position de l'Office fédéral de la culture ne suscitait pas d'observations de leur part. Le Service cantonal de l'environnement et de l'énergie n'a pas de remarques particulières à faire valoir.
Par ordonnance du 17 septembre 2009, le président de la Ire Cour de droit public a admis la requête d'effet suspensif de la recourante.

Considérant en droit:
1. 1.1 La voie du recours en matière de droit public au sens de l'<ref-law> est ouverte contre une décision prise en dernière instance cantonale portant sur l'octroi d'une autorisation de construire une installation de téléphonie mobile.
1.2 Selon l'art. 89 al. 2 let. c LTF, les communes ont qualité pour recourir en invoquant la violation de garanties qui leur sont reconnues par les Constitutions cantonale ou fédérale. La commune de Saint-Prex, qui invoque l'autonomie dont elle bénéficie en matière d'aménagement du territoire et de police des constructions, a ainsi qualité pour agir. La question de savoir si elle est réellement autonome dans ces domaines relève du fond (<ref-ruling> consid. 1.2 p. 45; <ref-ruling> consid. 4.2 p. 319 et les références).
1.3 Le recours en matière de droit public est recevable contre les décisions qui mettent fin à la procédure (<ref-law>) ou contre les décisions partielles (<ref-law>). En revanche, en vertu de l'<ref-law>, les décisions incidentes notifiées séparément qui ne portent pas sur la compétence ou sur une demande de récusation ne peuvent faire l'objet d'un recours en matière de droit public que si elles peuvent causer un préjudice irréparable (let. a), ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
En l'espèce, le recours est dirigé contre un arrêt du Tribunal cantonal qui a annulé la décision de la municipalité et retourné le dossier à cette dernière pour nouvelle décision au sens des considérants. L'arrêt attaqué ne met par conséquent pas fin à la procédure administrative et revêt un caractère incident. Dans un tel cas, le recours n'est ouvert que si l'une des deux hypothèses de l'<ref-law> est réalisée. Or, la jurisprudence admet qu'il peut résulter un préjudice irréparable, au sens de l'<ref-law>, pour une commune qui doit se soumettre aux injonctions du Tribunal cantonal. On ne peut en effet pas exiger d'une commune, qui peut invoquer son autonomie au sens de l'art. 50 Cst., de donner suite à une injonction qu'elle considère comme fausse, pour plus tard contester sa propre décision (<ref-ruling> consid. 1.2 p. 412; <ref-ruling> consid. 1b p. 7 et les références citées). L'exigence de l'<ref-law> est donc satisfaite.
Pour le surplus, les autres conditions de recevabilité sont réunies de sorte qu'il convient d'entrer en matière.
2. Selon l'art. 50 al. 1 Cst., l'autonomie communale est garantie dans les limites fixées par le droit cantonal. Une commune bénéficie de la protection de son autonomie dans les domaines que le droit cantonal ne règle pas de façon exhaustive, mais qu'il laisse en tout ou partie dans la sphère communale, conférant par là aux autorités municipales une liberté de décision relativement importante. L'existence et l'étendue de l'autonomie communale dans une matière concrète sont déterminées essentiellement par la constitution et la législation cantonales (<ref-ruling> consid. 3.1 p. 131; <ref-ruling> consid. 2.1 p. 413; <ref-ruling> consid. 2a p. 8; <ref-ruling> consid. 2 p. 136 et les arrêts cités).
2.1 En droit cantonal vaudois, les communes jouissent d'une autonomie maintes fois reconnue lorsqu'elles définissent, par des plans, l'affectation de leur territoire, et lorsqu'elles appliquent le droit des constructions (art. 139 al. 1 let. d Cst./VD; cf. notamment <ref-ruling> consid. 3d p. 118 s., 363 consid. 3b p. 367; <ref-ruling> consid. 2b p. 76 s.).
2.2 Lorsqu'elle est reconnue autonome dans un domaine spécifique, une commune peut se plaindre de la violation par les autorités de recours des règles du droit fédéral, cantonal ou communal qui régissent la matière (ATF <ref-ruling> consid. 2b p. 9; <ref-ruling> consid. 2 p. 136). Le Tribunal fédéral examine librement l'interprétation du droit constitutionnel; en revanche, il vérifie l'application de règles de rang inférieur à la constitution cantonale sous l'angle restreint de l'arbitraire (art. 9 Cst.; ATF <ref-ruling> consid. 2b p. 9; <ref-ruling> consid. 8b p. 290 et la jurisprudence citée). Dans ce cas, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 4.1 p. 133; <ref-ruling> consid. 5.1 p. 260 s. et les arrêts cités).
3. La recourante se plaint d'une application arbitraire des art. 8 al. 1 et 2 et 85 al. 6 RPGA.
Selon l'art. 8 RPGA, applicable à la zone "vieille ville", l'architecture devra s'harmoniser avec le caractère général du bourg et plus particulièrement des bâtiments voisins, en ce qui concerne notamment les matériaux, les couleurs, etc. (al. 1). Dans la mesure du possible, les adjonctions inopportunes existantes doivent être supprimées ou modifiées (al. 2). L'art. 85 al. 6 RPGA dispose que la municipalité peut, pour des raisons d'ordre d'esthétique, exiger le déplacement ou l'enlèvement d'antennes extérieures. Par ailleurs, dès le moment où un bâtiment est raccordé au téléréseau, le propriétaire est tenu de faire disparaître toutes les anciennes antennes de télévision extérieures devenues caduques.
3.1 La Cour cantonale a constaté, lors de l'inspection des lieux, que le secteur présentait des qualités esthétiques remarquables et qu'un soin particulier avait été porté aux façades et aux toitures, sur lesquelles il n'y avait ni antennes, ni superstructures, la municipalité faisant application de la règle de l'art. 85 al. 6 RPGA. Rien ne s'opposait toutefois au projet, respectivement à son implantation au lieu prévu, pour des motifs liés à l'esthétique, dès lors que son impact visuel était négligeable, voire inexistant et qu'il n'y avait pas d'atteinte inadmissible à un site protégé.
La commune recourante fait valoir qu'elle a déjà fait supprimer toutes les antennes existantes en raison du téléréseau reliant les immeubles et qu'elle refuse en principe toute antenne extérieure dans le bourg. Il ne serait donc pas judicieux d'admettre les trois antennes de l'intimée, qui seront d'une certaine importance et bien visibles. Chaque particulier pourrait invoquer ce précédent et il n'est pas exclu que d'autres opérateurs viendront et feront la même demande. Par ailleurs, il n'est pas établi que l'intimée n'ait trouvé aucun autre emplacement ni qu'une telle installation ne soit vraiment nécessaire. Même si la jurisprudence admet que l'opérateur n'a pas besoin de justifier l'endroit choisi en zone à bâtir, il faut néanmoins qu'il respecte les règles de base de la police des constructions. Or, la recourante estime que les art. 8 et 85 RPGA sont suffisants pour prohiber, dans un but d'esthétique, des antennes extérieures, quelles qu'elles soient, dès les moment où les bâtiments sont raccordés au câble, ce qui est le cas en l'espèce. De plus, dissimuler les antennes projetées en les peignant couleur cheminée serait un artifice qui permettrait à chacun de faire n'importe quoi dans le bourg pour autant que, d'apparence, on ait le sentiment qu'il s'agit d'un élément ancien. La recourante est d'avis que la position stricte qu'elle a adoptée devait être d'autant plus respectée que Saint-Prex est une petite ville d'importance nationale inscrite à l'inventaire ISOS.
3.2 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (<ref-ruling> consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'<ref-law> (<ref-ruling> consid. 3.1 p. 265; <ref-ruling> consid. 3.1 p. 153 et la jurisprudence citée).
3.3 On peut d'emblée relever que les art. 8 al. 1 et 2 et 85 al. 6 RPGA n'ont pas de caractère contraignant et n'interdisent pas expressément la construction d'antennes de téléphonie mobile dans la vieille ville de Saint-Prex. L'art. 8 al. 1 RPGA n'a pas de portée normative mais indique plutôt la ligne suivie par la municipalité pour préserver le cachet du bourg. L'art. 8 al. 2 RPGA, qui précise à cet égard que les adjonctions inopportunes existantes doivent être supprimées ou modifiées dans la mesure du possible, ne s'applique apparemment pas à d'éventuelles nouvelles adjonctions et n'exclut en tout cas pas de façon catégorique toutes les constructions jugées inopportunes. L'art. 85 al. 6, 1ère phrase, RPGA donne la possibilité à la commune d'exiger le déplacement ou l'enlèvement des antennes extérieures, sans toutefois les prohiber formellement. Quant à l'art. 85 al. 6, 2ème phrase, RPGA, il ne concerne clairement que les antennes de télévision implantées sur leurs immeubles par les particuliers. Le projet litigieux ne contrevient dès lors pas aux règles de base de la police des constructions, comme le soutient la recourante. Dans ces conditions, le Tribunal cantonal n'a pas fait preuve d'arbitraire en jugeant que les dispositions précitées de la RPGA ne s'opposaient pas à la construction de l'antenne contestée. Les considérations de la commune relatives à l'esthétique du bourg de Saint-Prex et à l'exemple que donnerait l'autorisation de construire aux propriétaires voisins sont purement appellatoires et n'ont pas à être examinées en l'espèce.
4. Selon la recourante, le Tribunal cantonal n'a pas répondu à son grief relatif à la violation de l'art. 9 al. 3 RPGA, qui n'admettrait que l'habitation dans les combles. Elle fait valoir que la Cour cantonale se borne à indiquer, de façon arbitraire, que les antennes de téléphonie mobile sont admissibles en toute zone, sans expliquer pourquoi "cette règle communale claire peut être violée par l'opérateur".
En vertu de l'art. 9 al. 3 RPGA, les combles sont habitables sur un niveau seulement; toutefois, la municipalité pourra admettre l'utilisation des surcombles dans les bâtiments existants et ce en duplex avec le niveau inférieur, et pour autant qu'ils satisfassent aux normes de salubrité.
Comme pour les art. 8 al. 1 et 2 et 85 al. 6 RPGA (cf. consid. 3.3 ci-dessus), la disposition susmentionnée n'interdit pas les installations de téléphonie mobile dans la vieille ville de Saint-Prex, qu'il s'agisse des antennes sur les toits où des équipements techniques dans les combles. Par ailleurs, l'art. 9 al. 3 RPGA règle uniquement la question de l'habitation des combles. Il est dès lors fort douteux qu'il s'applique au cas d'espèce. Quoi qu'il en soit, il n'exclut manifestement pas que les combles puissent être utilisées à d'autres fins, pour abriter notamment des installations techniques. La recourante ne montre de toute façon pas en quoi cette disposition aurait été appliquée de façon arbitraire dans le cas particulier. Son grief doit donc également être rejeté, dans la mesure de sa recevabilité.
5. Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité. Conformément à l'<ref-law>, il n'est pas perçu de frais judiciaires. Les personnes concernées A._ et consorts ainsi que B._ ont adhéré au recours; succombant, elles n'ont pas droit à des dépens (<ref-law>). Il n'est pas non plus alloué de dépens à l'intimée Orange Communications SA, qui obtient gain de cause, celle-ci n'ayant pas été représentée par un avocat (<ref-law>; <ref-ruling> consid. 4 p. 446) et n'ayant pas établi avoir assumé des frais particuliers pour la défense de ses intérêts (cf. <ref-ruling> consid. 5b p. 519 s.).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure de sa recevabilité.
2. Il n'est pas perçu de frais judiciaires, ni alloué de dépens.
3. Le présent arrêt est communiqué aux parties, au Département de la sécurité et de l'environnement du canton de Vaud, Service de l'environnement et de l'énergie, à B._, à C._, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, à l'Office fédéral du développement territorial et à l'Office fédéral de la culture.
Lausanne, le 3 août 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: La Greffière:
Aemisegger Mabillard