Faits:
A. Robert Isler est propriétaire de la parcelle n° 1237 du registre foncier de la commune de Renens, sise au n° 12 de la rue des Alpes et classée en zone urbaine de l'ordre non contigu selon le règlement communal du plan d'extension approuvé par le Conseil d'Etat du canton de Vaud le 4 juillet 1947 (ci-après: le RPE). Un immeuble d'habitation comprenant quatre niveaux, un sous-sol et des combles inhabitables y a été édifié en 1954. Ce bâtiment rectangulaire de 20 m sur 9 m 75 est surmonté d'un toit à quatre pans, dont le faîte culmine à 12 m 93 par rapport au niveau du trottoir de la rue des Alpes. La hauteur de la corniche est de 10 m 91.
Le 22 mai 2006, D._ a requis l'autorisation d'installer sur le toit de ce bâtiment des équipements techniques de téléphonie mobile, comportant un mât de type Kathrein renfermant trois antennes UMTS, d'une hauteur de 2 m 40, ainsi que deux antennes paraboliques de transmission. Il était prévu d'implanter le mât dans la pente du toit, dont il dépassait le faîte de 1 m 95 et de fixer les deux antennes de transmission à l'une des cheminées existantes.
L'enquête publique a été ouverte du 23 juin au 13 juillet 2006. Elle a suscité vingt-cinq oppositions et une opposition collective sous forme de pétition signée par 287 personnes. Les instances cantonales consultées se sont déterminées le 4 septembre 2006, avec notamment un préavis favorable du Service de l'environnement et de l'énergie.
Le 15 janvier 2007, la Municipalité de Renens a tenu une séance d'information et de conciliation réunissant les opposants au projet et des représentants de la commune, du Service cantonal de l'environnement et de l'énergie ainsi que des entreprises Orange et Sunrise.
Selon une communication de la Centrale des autorisations du Département des infrastructures du 12 février 2007, annulant et remplaçant celle du 4 septembre 2006, le Service cantonal de l'environnement et de l'énergie a émis un préavis favorable et fixé les mêmes conditions à l'exécution du projet que le 4 septembre 2006, auxquelles il a ajouté des conditions impératives concernant les mesures de contrôle auxquelles l'opérateur devra faire procéder après la mise en exploitation des installations.
Le 6 juin 2007, D._ a informé la Municipalité de Renens qu'elle ne pouvait pas prendre en considération sa proposition de réaliser le projet sur un bâtiment communal ou sur la future école cantonale d'art de Lausanne.
Par décision du 27 septembre 2007, la Municipalité de Renens a refusé de lever les oppositions et de délivrer le permis de construire.
B. Par arrêt du 24 décembre 2007, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a admis le recours de D._ et réformé la décision de la Municipalité de Renens du 27 septembre 2007, en ce sens que les oppositions étaient levées et le permis de construire délivré aux conditions posées par le Service cantonal de l'environnement et de l'énergie dans la synthèse de la Centrale des autorisations du Département des infrastructures du 12 février 2007. Il a considéré en substance que la question des distances à la voie publique et aux limites de propriété de l'immeuble concerné pouvait rester indécise dans la mesure où les installations litigieuses n'aggravaient pas l'éventuelle atteinte à la réglementation en vigueur, ni les inconvénients qui pourraient en résulter pour le voisinage, au sens de l'art. 80 de la loi cantonale du 4 décembre 1985 sur l'aménagement du territoire et les constructions (RSV 700.11; ci-après: LATC). Par ailleurs, le projet litigieux respectait l'art. 19 RPE puisque le mât des antennes projeté devait culminer à 13 m 88, mesurés depuis le niveau du trottoir de la rue des Alpes, soit bien en-dessous de la hauteur maximale prévue par cette disposition.
C. Agissant par la voie du recours en matière de droit public, A._ et B._ ainsi que C._ demandent au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal du 24 décembre 2007 et, subsidiairement, de renvoyer la cause à la cour cantonale pour complément d'instruction et nouvelle décision dans le sens des considérants. Ils dénoncent une application arbitraire des art. 19 RPE et 80 LATC ainsi qu'une violation de leur droit d'être entendus.
Le Tribunal cantonal et D._ concluent au rejet du recours. La Municipalité de Renens conclut à l'admission du recours et à l'annulation de l'arrêt attaqué, subsidiairement au renvoi de la cause au Tribunal cantonal pour complément d'instruction et nouvelle décision dans le sens des considérants.
Par ordonnance du 27 février 2009, le Juge présidant de la Ire Cour de droit public a admis la requête d'effet suspensif des recourants.
Considérant en droit:
1. La voie du recours en matière de droit public au sens de l'art. 82 let. a LTF est ouverte contre une décision prise en dernière instance cantonale portant sur l'octroi d'une autorisation de construire une installation de téléphonie mobile. Les recourants ont participé à la procédure de recours devant le Tribunal cantonal; ils sont tous les trois propriétaires d'une parcelle située à l'intérieur du périmètre de 261 m, défini comme distance maximale pour pouvoir former opposition dans la fiche de données spécifiques au site produite par le constructeur. La qualité pour agir doit leur être reconnue. Les autres conditions de recevabilité du recours sont réunies de sorte qu'il convient d'entrer en matière.
2. Les recourants se plaignent d'une violation de leur droit d'être entendus. Ils reprochent au Tribunal cantonal d'avoir insuffisamment motivé son arrêt et de n'avoir pas procédé à la vision locale dont ils avaient requis la tenue.
2.1 Le droit d'être entendu garanti à l'art. 29 al. 2 Cst. implique notamment pour l'autorité l'obligation de motiver sa décision. Selon la jurisprudence, la motivation d'une décision est suffisante lorsque l'autorité mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels elle a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. L'autorité ne doit toutefois pas se prononcer sur tous les moyens des parties; elle peut se limiter aux questions décisives (ATF 130 II 473 consid. 4.1 p. 477, 530 consid. 4.3 p. 540 et les arrêts cités).
Le droit d'être entendu comprend également celui de faire administrer les preuves pour autant que celles-ci soient requises dans les formes prévues par le droit cantonal et qu'elles apparaissent utiles à l'établissement des faits pertinents (ATF 129 II 497 consid. 2.2 p. 504; 127 I 54 consid. 2b p. 56; 126 I 97 consid. 2b p. 102). L'autorité de décision peut donc se livrer à une appréciation anticipée de la pertinence du fait à prouver et de l'utilité du moyen de preuve offert et, sur cette base, refuser de l'administrer. Ce refus ne viole le droit d'être entendu que si l'appréciation à laquelle elle a ainsi procédé est entachée d'arbitraire (ATF 131 I 153 consid. 3 p. 157 et les arrêts cités; sur la notion d'arbitraire, voir ATF 132 I 13 consid. 5.1 p. 17). Ces principes s'appliquent également à la tenue d'une inspection locale en l'absence d'une disposition cantonale qui imposerait une telle mesure d'instruction (ATF 120 Ib 224 consid. 2b p. 229; 112 Ia 198 consid. 2b p. 202). Les recourants ne prétendent à juste titre pas que tel serait le cas de l'art. 48 al. 1 let. d de la loi vaudoise sur la juridiction et la procédure administratives (cf. arrêt 2P.323/2006 du 27 mars 2007 consid. 3.2).
2.2 Selon les recourants, la cour cantonale a "occulté un moyen fondamental" qu'ils avaient soulevé; elle n'aurait développé aucune motivation à l'appui de l'affirmation selon laquelle l'aggravation des inconvénients provoqués par l'antenne litigieuse pour le voisinage serait inexistante.
Dans son arrêt, le Tribunal cantonal a expliqué que les désagréments qui pourraient résulter du fait que le bâtiment serait implanté à une distance insuffisante n'étaient en rien aggravés par l'installation, sur la toiture de cet immeuble, d'une antenne de modeste dimension; les inconvénients seraient en effet exactement les mêmes si le bâtiment était en tout point réglementaire et ceux-ci tenaient essentiellement au rayonnement électromagnétique. Après avoir examiné cette dernière question, il a constaté que les installations litigieuses étaient conformes à la législation en matière de protection de l'environnement. Il apparaît ainsi que la cour cantonale a exposé de façon suffisante dans son arrêt les motifs qui ont emporté sa conviction. Mal fondé, le grief doit être rejeté sur ce point.
2.3 Ensuite, les recourants estiment que le Tribunal cantonal aurait dû "se rendre dans le quartier, visiter [leurs] appartements pour juger si les antennes seraient visibles depuis les chambres, à quelle distance, selon quelle configuration, et quel impact cela pourrait avoir pour le voisinage."
En l'espèce, la cour cantonale a retenu que les désagréments provoqués par les installations étaient dus à leur rayonnement électromagnétique. Il était donc possible de mesurer ces impacts et de s'assurer du respect des valeurs limites de l'installation sur la base des plans de situation et les fiches de données spécifiques au site, sans qu'une inspection locale soit nécessaire. Par ailleurs, comme le Tribunal cantonal a considéré que le critère esthétique des antennes projetées n'était pas déterminant, il pouvait s'abstenir de se rendre sur les lieux pour constater l'impact visuel de celles-ci sur les propriétés des intéressés. Au surplus, il disposait des documents graphiques et géographiques produits par le constructeur à l'appui de sa requête ainsi que de photographies déposées par des opposants. Dans ces conditions, les recourants dénoncent à tort une violation de leur droit d'être entendus en relation avec le refus de la cour cantonale de mettre en oeuvre une inspection locale.
3. Les recourants reprochent à la cour cantonale d'avoir faire preuve d'arbitraire dans l'application de l'art. 19 RPE.
3.1 Le Tribunal fédéral revoit l'interprétation et l'application du droit cantonal, respectivement du droit communal, sous l'angle de l'arbitraire (cf. ATF 133 III 462 consid. 2.3 p. 466). Il ne s'écarte de la solution retenue que si celle-ci se révèle insoutenable, en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain, ce qu'il appartient au recourant de démontrer par une argumentation qui réponde aux exigences de l'art. 106 al. 2 LTF (cf. ATF 133 II 249 consid de 1.4.2 p. 254 et les références). En revanche, si l'interprétation défendue par la cour cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (ATF 132 I 13 consid. 5.1 p. 17).
3.2 L'art. 19 RPE a la teneur suivante:
"Au dessus de la hauteur limite des façades, que celles-ci soient ou non situées sur l'alignement, le profil des toitures, constructions de superstructures quelconques, ne peut dépasser sur chacune des façades un arc de cercle de 7 mètres de rayon, dont le point de départ est placé à l'aplomb du mur de face pris au niveau de la hauteur de limite, et le centre à un mètre au-dessous du niveau de celle-ci."
Selon l'art. 31 RPE, intitulé "hauteur des bâtiments", aucune façade ne peut dépasser la hauteur limite de 14 mètres à la corniche réelle ou fictive; pour les bâtiments implantés sur l'alignement et jusqu'à une distance de 6 mètres en retrait de celui-ci, la hauteur est mesurée dans le milieu de la façade dès le niveau de la bordure du trottoir ou de l'axe de la voie existante ou projetée, jusqu'à l'arête supérieure de la corniche réelle ou fictive.
3.3 Dans le cas particulier, la cour cantonale a considéré que dans la zone urbaine de l'ordre non contigu, la hauteur limite de l'art. 19 RPE, à partir de laquelle se calcule la hauteur maximale que peuvent atteindre les profiles des toitures et les constructions de superstructures quelconques, était fixée à 14 mètres. Comme le mât d'antenne projeté devait culminer à 13 m 88, la disposition précitée était respectée.
Les recourants soutiennent que le raisonnement du Tribunal cantonal est arbitraire dans la mesure où le règlement ne prévoit pas de hauteur maximale constante pour l'ensemble de la construction mais une hauteur devant s'inscrire dans un arc de cercle, ce qui a pour effet de la rendre variable. Par ailleurs, cette hauteur ne se définit nullement depuis le niveau d'un trottoir mais depuis la hauteur limite des façades. Cette hauteur serait fixée en l'espèce à 10 mètres, selon l'art. 25 RPE. Là où il serait implanté, le mât dépasse l'arc de cercle figurant la hauteur maximale admissible pour les superstructures.
3.4 Tout d'abord, la cour cantonale ne prétend pas, comme le soutiennent les recourants, que l'art. 19 RPE fixe une hauteur maximale constante pour l'ensemble de la construction. Au contraire, elle s'est référée à l'art. 31 RPE, selon lequel la hauteur limite des façades est de 14 mètres pour les constructions sises en zone urbaine de l'ordre non contigu. Ensuite, les recourants n'expliquent pas en quoi l'application de l'art. 31 RPE par le Tribunal cantonal serait insoutenable dans le cas particulier et se bornent à affirmer que la hauteur à prendre en considération aurait dû être celle de l'art. 25 al. 4 RPE, soit 10 mètres. Cette critique de nature purement appellatoire ne répond pas aux exigences de l'art. 106 al. 2 LTF et est irrecevable (cf. consid. 3.1 ci-dessus). Dans ces conditions, il n'est pas arbitraire de considérer, comme l'a fait le Tribunal cantonal, que le mât projeté, culminant à 13 m 88, respecte l'art. 19 en relation avec l'art. 31 RPE.
4. Finalement, les recourants font grief au Tribunal cantonal d'avoir appliqué l'art. 80 LATC de façon arbitraire en ignorant que le projet litigieux constituait une aggravation des désagréments pour le voisinage. Ils font valoir un préjudice aussi bien esthétique que lié à la perte de valeur ou de rendement de leurs biens.
En vertu de l'art. 80 al. 2 LATC, les travaux entrepris sur des bâtiments existants non conformes aux règles de la zone à bâtir ne doivent pas aggraver l'atteinte à la réglementation en vigueur ou les inconvénients qui en résultent pour le voisinage. Cette disposition n'exclut pas tous les inconvénients que peut entraîner pour le voisinage la transformation ou l'agrandissement d'un bâtiment non réglementaire; il prohibe seulement l'aggravation des inconvénients qui sont en relation avec l'atteinte à la réglementation. En l'espèce, l'irrégularité du bâtiment consiste dans le dépassement des distances à la limite de propriété ou au domaine public. Les inconvénients d'ordre esthétique ou économique que la pose d'antenne sur le toit de l'immeuble peut représenter pour les recourants sont sans aucune relation avec ces dérogations; comme l'a retenu la cour cantonale, ils seraient exactement les mêmes si le bâtiment était réglementaire. C'est donc sans arbitraire que l'arrêt attaqué a considéré que le mât projeté n'entraînait pas une aggravation des inconvénients pour le voisinage au sens de l'art. 80 al. 2 LATC. Le grief doit être écarté.
5. Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité. Les recourants, qui succombent, doivent supporter les frais judiciaires (art. 65 et 66 LTF). En outre, ils verseront à l'intimée D._ une indemnité à titre de dépens (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure de sa recevabilité.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Une indemnité de 3'000 fr. est allouée à D._, à titre de dépens, à la charge des recourants.
4. Le présent arrêt est communiqué aux mandataires des parties et de la Municipalité de Renens, ainsi qu'au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 5 mai 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Féraud Mabillard