Faits:
A. Par décision du 19 novembre 2007, la Municipalité d'Epalinges a refusé d'accorder à Orange Communications SA (ci-après: Orange) l'autorisation de construire une antenne de téléphonie mobile sur le toit de la Ferme X._ (ci-après: la ferme), située sur la parcelle n° 790 d'Epalinges, en zone de villas 1. L'installation (trois antennes GSM et UMTS) devait prendre place dans une fausse cheminée en polyester d'une hauteur de 3 m sur le pan nord du bâtiment principal. Le projet prévoit également l'implantation d'une armoire technique accolée au côté est du bâtiment. En dépit du préavis favorable du Service cantonal de l'environnement et de l'énergie (SEVEN), la Municipalité a tenu compte des quelque 71 oppositions au projet. Elle relevait que la ferme Forney se situait dans le centre historique du village, à proximité d'un pavillon scolaire. Elle évoquait également le principe de précaution.
B. Orange a saisi la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: la CDAP). Par arrêt du 27 novembre 2008, celle-ci a admis le recours et renvoyé la cause à la Municipalité pour nouvelle décision dans le sens des considérants. Les informalités affectant les documents de mise à l'enquête étaient secondaires. Le nombre d'oppositions ne constituait pas en soi un motif de refus suffisant. Le bâtiment de la ferme était non conforme à la réglementation sur plusieurs points (longueur supérieure à 25 m, annexe reliée au bâtiment sur plusieurs niveaux, quatrième niveau habitable, nombre de logements manifestement supérieur aux deux autorisés, coefficient d'utilisation du sol supérieur à 0,125) et plusieurs aménagements avaient été réalisés sans autorisation. Toutefois, ces transformations étaient bien connues de l'autorité qui les avait tolérées. En l'absence de norme sur la hauteur au faîte, la pose de l'antenne n'était pas susceptible d'aggraver l'atteinte à la réglementation. Sous l'angle esthétique, l'impact de l'installation était très limité: la hauteur de l'antenne était certes supérieure à celle des autres cheminées existantes et sa forme carrée était également différente. Toutefois l'immeuble, mentionné au recensement cantonal comme bâtiment bien intégré, n'était ni classé, ni porté à l'inventaire cantonal et ne présentait aucun intérêt architectural particulier. L'implantation d'une fausse cheminée n'était pas de nature à modifier sensiblement la perception du bâtiment. La CDAP a encore considéré que les valeurs limites fixées dans l'ORNI étaient respectées pour les lieux à utilisation sensible les plus exposés. L'installation était intégrée dans le système de surveillance AQ, ce qui garantissait le respect effectif des valeurs limites. Le dossier a été retourné à la Municipalité afin qu'elle délivre l'autorisation de construire.
C. A._, ainsi que 55 autres opposants, forment un recours en matière de droit public. Ils demandent l'annulation de l'arrêt de la CDAP et la confirmation de la décision du 19 novembre 2007, subsidiairement le renvoi de la cause à la CDAP pour complément d'instruction et nouvel arrêt. Ils demandent l'effet suspensif, qui a été accordé par ordonnance présidentielle du 3 février 2009.
La CDAP conclut au rejet du recours en se référant à son arrêt. Orange Communications SA conclut au rejet du recours. Le Service Immeubles, Patrimoine et Logistique du canton de Vaud s'est prononcé dans le sens de l'admission du recours. Le SEVEN précise qu'en cas de création de nouveaux lieux à utilisation sensible, une modification de l'installation peut être exigée. La Municipalité se réfère à ses prises de position antérieures. L'Office fédéral de l'environnement (OFEV) considère que l'arrêt attaqué respecte le droit fédéral en matière de rayonnement non ionisant.
Les recourants ont déposé de nouvelles observations. Ils exposent que les propriétaires de la ferme ont résilié le contrat de bail passé avec Orange, de sorte qu'il y aurait lieu d'interpeler cette dernière et de suspendre l'instruction. Orange a confirmé une telle résiliation, contestée devant la commission de conciliation; elle s'est opposée à la suspension de la procédure.
Considérant en droit:
1. La voie du recours en matière de droit public au sens de l'art. 82 let. a LTF est ouverte contre une décision prise en dernière instance cantonale portant sur l'octroi d'une autorisation de construire une installation de téléphonie mobile.
Les recourants ont participé à la procédure de recours devant le Tribunal cantonal, à l'exception de B._ et C._, acquéreurs d'une parcelle qui entendent se substituer aux anciens propriétaires. Ils sont tous habitants du village d'Epalinges, dans le périmètre de 522 m défini comme distance maximale pour pouvoir former opposition dans la fiche de données spécifiques au site produite par le constructeur. La qualité pour agir doit leur être reconnue.
1.1 L'arrêt attaqué renvoie le dossier à la Municipalité. Il ne s'agit pas pour autant d'une décision incidente, car l'autorité communale est invitée à délivrer le permis de construire et ne dispose plus d'aucune latitude de jugement. Dans un tel cas, l'arrêt attaqué est assimilé à une décision finale (art. 90 LTF) et peut ainsi faire l'objet d'un recours en matière de droit public (arrêt 2C_596/2007 du 24 juin 2008 publié in SJ 2009 I p. 85 consid. 1.2 et les références citées; ATF 129 I 313 consid. 3.2 p. 317, 122 I 39).
1.2 Les recourants ont demandé, dans leurs observations finales du 28 avril 2009, la suspension de l'instruction de la cause, en relevant que les propriétaires de la ferme auraient résilié le bail passé avec Orange. L'opérateur a confirmé qu'une telle résiliation était intervenue le 9 avril 2009, et que celle-ci a été contestée devant la Commission de conciliation en matière de baux et loyers. En l'absence d'une décision définitive sur ce point, l'intimée conserve un intérêt à ce qu'il soit statué sur la validité de l'autorisation de construire (cf. arrêt 1A.208/2004 du 19 janvier 2005, consid. 1.2). Il ne se justifie pas non plus de suspendre la procédure, dès lors que la cause est en état d'être jugée.
2. Les recourants se plaignent de violations de leur droit d'être entendus dans le cadre de l'établissement des faits. Examinant le respect des valeurs limites dans les lieux à utilisation sensible les plus touchés, la CDAP a considéré que si la valeur de 6,0 V/m était dépassée au sud-est de la parcelle n° 1259 des époux D._, cette parcelle était déjà occupée par des villas jumelles utilisant la quasi-totalité des possibilités de construire, de sorte que l'implantation d'un nouveau lieu à utilisation sensible à cet endroit n'était pas envisageable. La parcelle voisine n° 2382 était actuellement inconstructible en raison de sa petite taille; seule une réunion de parcelles pourrait la rendre constructible, mais aucun projet concret n'avait été évoqué dans ce sens, les intentions alléguées par les propriétaires étant insuffisantes. Selon les recourants, les époux D._ auraient tenté d'expliquer que dans le cadre de l'acquisition de la parcelle n° 2382, ils pourraient bénéficier d'un report des droits à bâtir sur la parcelle n° 1259, ce qui permettrait un agrandissement des constructions existantes. Le tribunal aurait refusé d'entendre ces explications.
2.1 Sous l'angle du droit d'être entendu (art. 29 al. 2 Cst.), le justiciable a le droit de s'expliquer avant qu'une décision ne soit prise à son détriment, celui de fournir des preuves quant aux faits de nature à influer sur le sort de la décision, celui d'avoir accès au dossier, celui de participer à l'administration des preuves, d'en prendre connaissance et de se déterminer à leur propos (ATF 132 V 368 consid. 3.1 p. 370 et les références). Ce droit doit s'exercer conformément aux prescriptions relatives au déroulement de la procédure.
2.2 En l'occurrence, les recourants ont eu l'occasion de fournir les éléments de fait et de droit à l'appui de leur position: dans leur réponse au recours, ils ont expliqué que la parcelle n° 2382 avait été acquise dans la perspective d'un agrandissement de la villa, et que cet agrandissement serait soumis à des immissions dépassant largement les limites de l'ORNI. Dans leurs déterminations finales, les recourants ont relevés que les calculs produits par Orange confirmaient les craintes de dépassement des valeurs limites, précisant que l'affirmation selon laquelle la parcelle n° 710 était inconstructible était fausse, car un simple changement de limite la rendrait constructible. Les recourants ont ainsi largement pu exposer leurs arguments quant au caractère constructible des différentes parcelles concernées. L'affirmation selon laquelle ils n'auraient pas été écoutés lors de l'inspection locale tombe ainsi à faux; si tel avait été le cas, les recourants, assistés de leur avocat, pouvaient exiger que leurs déclarations soient protocolées et, en cas de refus, présenter leurs objections dans un acte figurant au dossier. Or il apparaît au contraire que l'avocat des recourants a fait savoir, le 29 octobre 2008, qu'il n'avait aucune remarque à formuler à propos du procès-verbal d'inspection locale. Les recourants ne sauraient dès lors reprocher à la cour cantonale d'avoir violé leur droit d'être entendus dans le cadre de l'établissement des faits.
2.3 Les recourants se plaignent aussi de ce que le refus du permis de construire, prononcé le 19 novembre 2007, ne leur aurait pas été notifié; ils n'en auraient eu connaissance que lors de la consultation du dossier, le 25 janvier 2008. Par ailleurs, les griefs soulevés au sujet de la conformité de la ferme n'avaient pas été examinés par l'autorité communale.
2.3.1 S'agissant d'un grief d'ordre constitutionnel, il appartient aux recourants de fournir une motivation suffisante (art. 106 al. 2 LTF). Or, les recourants n'indiquent pas quel préjudice ils subiraient pour ne s'être pas vu notifier la décision municipale refusant le permis de construire. Ils ne prétendent pas avoir été empêchés de recourir contre cette décision, laquelle leur donnait raison en tout cas quant au résultat recherché. Ils ont par ailleurs pu participer à la procédure cantonale de recours, ce qui satisfait à leur droit d'être entendus.
2.3.2 Les recourants se plaignent d'une violation de leur droit à l'examen de la cause par deux instances successives. Ils ne contestent pas toutefois qu'une irrégularité de procédure, notamment une violation du droit d'être entendu, peut être réparée en instance de recours (ATF 130 II 530 consid. 7.3 p. 562; 118 Ib 111 consid. 4b p. 120 s.). De même, lorsque l'autorité de recours admet les griefs soulevés et ordonne qu'une autorisation de construire soit accordée, elle ne peut le faire sans avoir examiné l'ensemble des arguments soulevés par les opposants, même s'ils n'ont pas été examinés par l'instance précédente (ATF 135 II 286 consid. 5).
Il en découle que l'ensemble des arguments soulevés par les parties ne doit par forcément être examiné par les autorités de première et seconde instance. Selon l'art. 53 de la loi vaudoise sur la juridiction et la procédure administratives, la CDAP établit d'office les faits et applique le droit sans être limitée par les moyens des parties. Disposant d'un plein pouvoir d'examen et de décision, elle pouvait répondre aux arguments qui n'avaient pas été traités jusque-là et réparer les violations du droit d'être entendu commises en instance inférieure. Les recourants ne soutiennent pas, pour le surplus, que les considérants de l'arrêt attaqué relatifs à la conformité des bâtiments ne seraient pas suffisamment motivés au regard de leur droit d'être entendus.
Les griefs d'ordre formel doivent par conséquent être écartés.
3. Les recourants considèrent que la CDAP aurait arbitrairement appliqué les règles relatives à l'esthétique des bâtiments. Ils relèvent que la ferme avait reçu la note "4" lors du recensement architectural du canton de Vaud. A ce titre, il s'agirait d'un bâtiment bien intégré, déterminant pour l'image de la localité, dont l'identité mériterait d'être sauvegardée. Le Service vaudois des immeubles, patrimoine et logistique (SIPAL) avait considéré que la ferme avait une valeur identitaire et de mémoire. Il s'était opposé à la construction d'une fausse cheminée en raison de son volume, de sa forme (section carrée et absence de chapeau) et de son implantation, sans rapport avec une cheminée ancienne. La cour cantonale aurait dû s'imposer une certaine réserve face à cet avis d'expert. Elle ne pouvait retenir que l'impact visuel était restreint depuis la rue située au sud, sans vérifier l'impact visuel depuis le chemin du Ruisseau. Enfin, la CDAP a retenu que la suppression de l'enveloppe de polyester et la mise à nu de l'antenne n'aurait pas d'incidence notable sur l'intégration du projet, alors que le SIPAL avait exprimé l'opinion inverse.
3.1 Comme le relève la cour cantonale, le recensement architectural ne constitue pas une mesure de protection tel qu'une mise à inventaire ou un classement, mais une simple mesure préalable à l'élaboration de l'inventaire cantonal. Le recensement couvre en principe tous les bâtiments; la note de 4 (sur une échelle de 1 à 7, en ordre d'intérêt décroissant) s'applique à des objets qui ne justifient pas de mesure de protection spéciale. Une telle note n'implique rien de plus que l'application de la clause ordinaire d'esthétique (art. 86 LATC). Dès lors, un refus fondé sur des motifs d'esthétique n'est envisageable que sur la base d'un intérêt public prépondérant (ATF 115 Ia 363 consid. 3a p. 366).
3.2 Le Tribunal fédéral fait preuve de retenue dans l'appréciation des circonstances locales, notamment lorsqu'il s'agit d'examiner l'application de clauses d'esthétique. Dans ces domaines, les autorités locales disposent donc d'un large pouvoir d'appréciation (cf. ATF 129 I 337 consid. 4.1 p. 344 et les références).
3.3 La cour cantonale ne s'est pas écartée de l'avis de la commune, puisque celle-ci ne s'est pas prononcée sur la question dans sa décision de refus, et ne s'est pas non plus exprimée sur ce point en procédure de recours. Dans une telle circonstance, il ne saurait y avoir atteinte à la liberté d'appréciation de l'autorité locale. La CDAP s'est certes écartée dans une certaine mesure de l'avis exprimé par le service spécialisé; elle pouvait le faire, pour autant que ce choix repose sur des motifs pertinents (arrêt 1P.678/2004 du 21 juin 2005 consid. 4, publié in ZBl 107/2006 p. 430; arrêt 1P.581/1998 du 1er février 1999 consid. 3c publié à la RDAF 2000 I 288 et les arrêts cités).
3.4 En l'occurrence, la CDAP a considéré que l'impact visuel de l'installation était réduit, en tout cas depuis la rue située du côté sud. Pour arriver à cette conclusion, la cour cantonale s'est fondée sur les plans, le montage photographique fourni par l'intimée et les constatations faites lors de la vision locale, à l'occasion de laquelle des gabarits avaient été posés. Ses conclusions ne sauraient être qualifiées d'arbitraire. Même si elle se détache sensiblement au-dessus de la toiture, la fausse cheminée ne modifie pas fondamentalement la perception des lieux, en particulier la masse imposante du toit de la ferme. L'adjonction litigieuse ne porte manifestement pas atteinte à l'intégration du bâtiment dans le milieu bâti. Or, c'est uniquement pour ce motif d'intégration, et nullement pour ses qualités architecturales particulières, que la ferme s'est vu attribuer la note de "4" dans le recensement cantonal. La cour cantonale pouvait enfin relativiser le préavis négatif exprimé par le SIPAL, car ce dernier, tout en rejetant l'idée d'une fausse cheminée, semblait favorable à la pose d'une antenne sans camouflage. Cela remettait en cause la nécessité de protéger le bâtiment en tant que tel.
Il n'y a, par conséquent, pas d'application arbitraire de la clause d'esthétique
4. Les recourants reprochent ensuite à la cour cantonale d'avoir admis de manière arbitraire l'existence d'une tolérance des autorités communales à l'égard des constructions réalisées sur la parcelle n° 790.
4.1 La cour cantonale a considéré que les aménagements non réglementaires et non autorisés étaient bien connus de l'autorité municipale, dont les membres passent régulièrement devant la ferme. Les recourants estiment que cette affirmation n'était ni étayée, ni confirmée par la Municipalité. Par ailleurs, dans une lettre du 11 février 2008, celle-ci a refusé de donner suite à une dénonciation concernant les ouvrages illicites réalisés sur la parcelle. Pour les recourants, cette lettre ne tiendrait pas compte des agrandissements et aménagements réalisés sans permis de construire.
4.2 Les constatations de la cour cantonale ne sauraient toutefois être qualifiées d'arbitraires. L'affirmation selon laquelle divers municipaux passent régulièrement devant la ferme a été faite non par l'opérateur ou les propriétaires de la ferme, mais par l'une des opposantes, en présence d'un représentant de la Municipalité qui n'a pas réagi. Compte tenu de la localisation du bâtiment dans un quartier tenant lieu de centre historique de la commune, il n'était nullement arbitraire de retenir que certains membres de la Municipalité pouvaient avoir une connaissance suffisante des lieux. La lettre du 11 février 2008 fait ressortir qu'après avoir interpellé les propriétaires, la Municipalité connaissait l'essentiel des travaux effectués sans autorisation. L'autorité précisait clairement, dans la même lettre, qu'elle entendait tolérer les irrégularités dénoncées. Elle a simultanément exigé la production, par les propriétaires, de plans à jour de l'immeuble, avec la répartition des volumes intérieurs, mais ne l'a fait que "pour la bonne tenue" de ses dossiers, c'est-à-dire sans aucune intention d'exiger des modifications ou régularisations. C'est dès lors sans aucun arbitraire que la CDAP a retenu l'existence d'une tolérance de la Municipalité à l'égard des aménagements illicites.
5. Les recourants mettent aussi en doute la conformité de l'installation à la zone de villas. En tant qu'il se fonde sur l'application de la clause d'esthétique, l'argument doit être rejeté (cf. consid. 3 ci-dessus). Les recourants reprochent à la cour cantonale d'avoir assimilé l'armoire technique à l'antenne, alors qu'il s'agirait d'un volume important et apparent, assimilable à un agrandissement du local. Il ressort toutefois des plans que l'armoire technique doit prendre place sous le couvert existant de l'annexe au bâtiment principal. Il n'en résulte par conséquent ni une modification du volume bâti, ni une augmentation du coefficient d'utilisation du sol. Il n'y a pas non plus d'impact visuel particulier. Quant à la conformité de l'installation à la zone, elle est indéniable s'agissant d'une zone à bâtir au sens notamment de l'art. 48 LATC.
6. Les recourants contestent enfin l'existence d'un intérêt public à l'installation projetée. L'obligation, selon la concession octroyée à l'opérateur, de couvrir 50% de la population suisse, serait déjà satisfaite. Une augmentation du taux de couverture au-delà de ce seuil ne correspondrait pas à une obligation légale, mais à des buts commerciaux.
Les recourants perdent de vue que, s'agissant d'une installation conforme à l'affectation de la zone et ne nécessitant aucune dérogation, la question de l'intérêt public et, dès lors, du besoin, ne se pose pas (arrêt 1A.162/2005 du 3 mai 2005, in RDAF 2006 I p. 684). Au demeurant, indépendamment des obligations minimales résultant de la concession, il existe un intérêt public à assurer une couverture optimale du réseau de téléphonie mobile qui découle de l'art. 92 al. 2 Cst. et de l'art. 1er al. 1 et 2 de la loi fédérale sur les télécommunications (LTC; RS 784.10). Le grief doit lui aussi être écarté.
7. Sur le vu de ce qui précède, le recours doit être rejeté. Conformément à l'art. 66 al. 3 LTF, les frais judiciaires sont mis à la charge des recourants. L'intimée Orange Communications SA, qui a procédé sans avocat, n'a pas droit à des dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 4000 fr., sont mis à la charge des recourants. Il n'est pas alloué de dépens.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral de l'environnement, Division Droit.
Lausanne, le 23 novembre 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz