Faits:
A. Le quartier de villas de Montmoiret est actuellement composé de 17 parcelles situées de part et d'autre du chemin des Côtes-de-Montmoiret (ci-après: le chemin), sur le territoire de la commune de Lausanne. Le quartier est équipé d'un collecteur commun des eaux usées situé sous le chemin, en copropriété des riverains; il traverse ensuite la parcelle n° 13815, où il rejoint deux embranchements desservant les parcelles sises en aval; il est ensuite raccordé au réseau public unitaire de la commune de Pully.
Le 25 août 2004, le Service d'assainissement de la Ville de Lausanne a invité les propriétaires du quartier à adapter jusqu'à fin juin 2005 le raccordement de leurs parcelles en prévoyant une évacuation distincte des eaux claires et des eaux usées (système séparatif), système que la commune de Pully allait adopter pour le quartier voisin des Chênes. Le 28 avril 2005, le représentant des habitants du quartier demanda que la propriété du collecteur soit transférée à la Ville de Lausanne afin que celle-ci réalise les travaux de mise en séparatif. Le Service d'assainissement rejeta cette proposition le 16 juin 2005 en relevant que le collecteur ne desservait que le quartier et qu'il se trouvait sur des fonds privés.
Par décisions du 28 juin 2005, la Municipalité de Lausanne a imparti aux propriétaires un délai au 31 décembre 2005 pour équiper les immeubles en séparatif et prendre les mesures pour que les eaux claires rejoignent un collecteur d'eaux claires, sous la menace d'exécution forcée et d'une dénonciation pénale.
B. A._ et seize consorts, destinataires de ces décisions, les ont contestées auprès du Tribunal administratif vaudois en faisant valoir que le droit fédéral (art. 7 al. 2 OEaux) n'exigeait la mise en séparatif qu'à l'occasion de travaux importants; le règlement communal ne pouvait imposer une mise en conformité indépendamment des projets de travaux. Par ailleurs, bien que situé sur des fonds privés, le collecteur commun constituait un équipement public dont l'adaptation incombait à la commune. La possibilité d'évacuer les eaux claires par infiltration n'avait pas été suffisamment étudiée.
Partiellement instruite, la cause a été transmise au Tribunal neutre du canton de Vaud, le Tribunal administratif s'étant récusé.
C. Par arrêt du 26 juin 2007, le Tribunal neutre a admis partiellement le recours et a annulé les décisions de la Municipalité en tant qu'elles concernaient le collecteur commun. Celui-ci constituait une installation de raccordement, soit un équipement public. Le droit vaudois ne permettait pas de transférer aux particuliers la charge de réaliser un tel équipement. Selon une convention du 12 juillet [recte: juin] 1980 passée entre les communes de Lausanne et de Pully d'une part, et les anciens propriétaires et promoteurs d'autre part, la construction et l'entretien du collecteur étaient à la charge des privés. Toutefois, l'adaptation du collecteur commun dépassait le cadre de l'entretien: il s'agissait d'un nouvel équipement de raccordement, de sorte que la convention - limitée au système unitaire - ne s'appliquait pas. N'étant pas détentrice de l'installation à assainir, la commune devait acquérir les servitudes nécessaires, soit de gré à gré, soit par voie d'expropriation; ce transfert devrait être gratuit et la commune pourrait percevoir des taxes d'équipement correspondantes. Les propriétaires restaient toutefois astreints à adapter, dans le délai fixé, leurs équipements individuels.
D. La Municipalité de Lausanne forme un recours en matière de droit public; elle conclut à la réforme de l'arrêt du Tribunal neutre en ce sens que les recours déposés par les propriétaires sont rejetés. Subsidiairement, elle demande le renvoi de la cause à l'autorité intimée pour nouvelle décision au sens des considérants.
Le Tribunal neutre se réfère à son arrêt. Les propriétaires intimés concluent à l'irrecevabilité, subsidiairement au rejet du recours. Le Service des eaux, sols et assainissements du canton de Vaud estime qu'un collecteur recevant les eaux de plusieurs biens-fonds devrait avoir un statut public. L'Office fédéral de l'environnement (OFEV) estime que l'arrêt attaqué n'empêche pas l'assainissement de l'installation ainsi que l'application du principe du pollueur-payeur. La recourante a pu prendre position sur ces déterminations.
Considérant en droit:
1. Selon l'art. 82 let. a LTF, le recours en matière de droit public est ouvert contre les décisions rendues, comme en l'espèce, dans des causes de droit public. Le recours est formé dans le délai de trente jours (art. 100 al. 1 LTF), contre un arrêt final rendu en dernière instance cantonale (art. 86 al. 1 let. d LTF).
1.1 Les propriétaires intimés soutiennent que la Municipalité de Lausanne n'aurait pas qualité pour recourir, faute d'agir pour le compte de la Commune. La recourante ne démontrerait pas, par ailleurs, en quoi elle serait autonome dans le domaine en cause: elle ne pourrait notamment imposer aux particuliers de réaliser un équipement de raccordement.
1.2 Selon la jurisprudence, la Municipalité a la faculté de former, au nom de la commune, un recours pour violation de l'autonomie communale; elle ne peut toutefois agir en son nom propre (arrêt 1P.77/1999 reproduit in RDAT 1999 II n. 48 p. 166). En l'occurrence, le recours semble avoir été formé par la Municipalité, mais cette indication apparaît manifestement erronée. Or, l'indication manifestement erronée d'une partie, de même que le défaut de pouvoir de représentation, sont des irrégularités qui n'entraînent pas l'irrecevabilité du recours, mais peuvent être réparées conformément à l'art. 42 al. 5 LTF. Tel est le cas en l'espèce: en réplique, la recourante a clairement précisé que le recours était formé par la commune; la procuration annexée au recours est d'ailleurs établie au nom de la commune et signée par la Direction des travaux. L'indication inexacte figurant dans le recours ne prête donc pas à conséquence.
1.3 Selon l'art. 89 al. 2 let. c LTF, les communes et autres collectivités publiques ont qualité pour recourir en invoquant la violation de garanties qui leur sont reconnues par les Constitutions cantonale ou fédérale. Elles peuvent aussi agir, sur la base de l'art. 89 al. 2 let. c LTF, lorsqu'elles invoquent une atteinte à leur propre existence ou à leur territoire. Dans certains cas, les communes peuvent aussi agir sur la base de l'art. 89 al. 1 LTF lorsqu'elles sont touchées de la même manière qu'un particulier ou lorsque leurs intérêts souverains dignes de protection sont en jeu (ATF 134 II 45; 133 II 400 consid. 2.4.3 p. 406). Il appartient toutefois à la collectivité d'indiquer clairement, comme l'exige l'art. 42 al. 2 LTF, sur quelle base elle entend fonder sa qualité pour agir.
1.4 En l'espèce, la recourante n'apporte aucune précision quant à sa qualité pour recourir. Outre l'application arbitraire de diverses dispositions du droit fédéral, cantonal et communal, la Ville de Lausanne se contente d'invoquer, sur le fond, l'autonomie dont elle bénéficie dans la planification et l'établissement des réseaux de canalisations publiques. Il y a donc lieu de lui reconnaître la qualité pour agir sur cette base uniquement. La question de savoir si elle est réellement autonome dans ce domaine relève du fond (ATF 129 I 313 consid. 4.2 p. 319, 410 consid. 1.1 p. 412 et les références).
2. Selon l'art. 50 al. 1 Cst., l'autonomie communale est garantie dans les limites fixées par le droit cantonal. Selon la jurisprudence, une commune bénéficie de la protection de son autonomie dans les domaines que le droit cantonal ne règle pas de manière exhaustive mais laisse en tout ou en partie dans la sphère communale, lui accordant une liberté de décision importante. Le domaine d'autonomie protégé peut consister dans la faculté d'adopter ou d'appliquer des dispositions de droit communal ou encore dans une certaine liberté dans l'application du droit fédéral ou cantonal. Pour être protégée, l'autonomie ne doit pas nécessairement concerner l'ensemble d'une tâche communale, mais uniquement le domaine litigieux. L'existence et l'étendue de l'autonomie communale dans une matière concrète sont déterminées essentiellement par la constitution et la législation cantonales (ATF 129 I 410 consid. 2.1 p. 412 ss; 129 I 313 consid. 5.2 p. 320; 126 I 133 consid. 2 p. 136).
2.1 Les communes vaudoises sont compétentes, à teneur de l'art. 24 de la loi vaudoise sur la protection des eaux contre la pollution (LPEP), pour établir les réseaux de canalisations publiques conformément à leur plan à court terme des canalisations soumis à l'approbation du Conseil d'Etat (art. 22 LPEP). Elles sont également compétentes pour déroger, dans leur règlement, aux règles du droit cantonal sur les embranchements reliant les bâtiments aux canalisations publiques (art. 27 al. 2 LPEP). Tout projet d'évacuation des eaux usées ou de modification du système est en outre soumis à la municipalité (art. 14 LPEP). La Commune de Lausanne a adopté, en 1995, un règlement sur l'évacuation des eaux (ci-après: REE) qui définit les équipements publics et privés (art. 6 et 9 REE). Selon l'art. 14 REE, la commune fixe le point de raccordement à l'équipement public.
La Commune de Lausanne dispose ainsi de compétences réglementaires et décisionnelles pour obliger les propriétaires concernés à adapter le collecteur commun, comme elle l'a fait par décisions du 28 juin 2005. Elle est fondée à se prévaloir, sur ce point, de l'autonomie communale.
2.2 Dans la mesure où son autonomie est en cause, la commune peut exiger que l'autorité cantonale respecte les limites de sa compétence et qu'elle applique correctement les dispositions du droit fédéral, cantonal ou communal qui règlent la matière. Elle peut aussi invoquer, en tant que partie au procès, les garanties générales de procédure tirées du droit d'être entendu, dans la mesure où ce grief est en relation étroite avec le grief de violation de l'autonomie. Dans ce cadre, le Tribunal fédéral examine sous l'angle de l'arbitraire l'application des lois et règlements cantonaux ou communaux (ATF 1C_183/2007 du 5 février 2008 consid. 2.2; cf. ATF 131 I 91 consid. 1 p. 93 et les arrêts cités).
2.3 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
3. La recourante soutient en premier lieu que le collecteur commun constituerait un équipement privé au sens de l'art. 4 de la loi fédérale encourageant la construction et l'accession à la propriété de logements (LCAP; RS 843), et non un équipement de raccordement. L'essentiel des canalisations passerait sous le chemin en copropriété, et non sous une route ouverte à la circulation. L'art. 9 REE aurait été arbitrairement appliqué. Le point de raccordement à l'équipement public se situerait à l'extrémité du secteur, à proximité de la limite communale, comme cela avait été prévu dans la convention du 12 juin 1980 et conformément à la décision prise à cette époque; le changement de propriétaires ne devrait pas influer sur les termes de cette convention. La recourante soutient ensuite que les travaux de mise en séparatif constitueraient des travaux d'entretien au sens de la même convention, dans la mesure où les eaux traitées sont les mêmes. La convention ne serait pas limitée à un collecteur unitaire puisque la mise en séparatif y est expressément évoquée.
3.1 Selon l'art. 19 al. 2 LAT, les collectivités intéressées doivent équiper les zones à bâtir dans le délai prévu par le programme d'équipement. C'est le droit cantonal qui règle la participation financière des propriétaires. L'équipement comprend notamment les conduites auxquelles il est possible de se raccorder sans frais disproportionnés pour l'alimentation en eau et en énergie, ainsi que pour l'évacuation des eaux usées. S'agissant, comme en l'espèce, de zones à bâtir, la LCAP, qui vise à encourager la construction de logements ainsi que l'équipement des terrains (art. 1 al. 1 LCAP), pose certains principes relatifs à l'obligation d'équiper (art. 4 à 6 notamment). Selon l'art. 5 LCAP, l'équipement général et l'équipement de raccordement, définis à l'art. 4 LCAP, sont réalisés par la collectivité désignée par le droit cantonal, lequel peut reporter sur les propriétaires l'obligation de procéder aux raccordements; dans ce cas, il doit prévoir l'exécution subsidiaire par les collectivités de droit public; celles-ci demeurent donc responsables de la réalisation des installations. L'art. 4 LCAP distingue l'équipement général et l'équipement de raccordement. Le premier consiste à pourvoir une zone à bâtir des principaux éléments des installations d'équipement, en particulier les conduites d'eau et d'énergie et les canalisations d'égouts, ainsi que les routes et chemins desservant directement la zone à équiper (al. 1); le second relie les biens-fonds aux éléments principaux des installations d'équipement, y compris les routes de quartier et les canalisations publiques (al. 2).
Les art. 4 et 5 LCAP définissent l'obligation d'équiper en recourant à des notions juridiques indéterminées. Il appartient ainsi au droit et à la pratique des cantons d'en préciser le contenu, tout en respectant le sens et le but de la réglementation fédérale (WALDMANN/HÄNNI, Raumplanungsgesetz, 2006, n° 13 et 19 ad art. 19).
3.2 Reprenant le principe de causalité posé à l'art. 2 de la loi fédérale du 7 octobre 1983 sur la protection de l'environnement (LPE; RS 814.01), l'art. 3a LEaux dispose que celui qui est à l'origine d'une mesure en supporte les frais. A cet égard, l'art. 60a LEaux, relatif aux financements des mesures, prévoit que les cantons veillent à ce que les coûts de construction, d'exploitation, d'entretien, d'assainissement et de remplacement des installations d'évacuation et d'épuration des eaux concourant à l'exécution de tâches publiques soient mis, par l'intermédiaire d'émoluments ou d'autres taxes, à la charge de ceux qui sont à l'origine de la production d'eaux usées.
3.3 Le droit fédéral prévoit ainsi, d'une part, l'obligation d'équiper et d'assainir les installations d'écoulement des eaux usées, et, d'autre part, la participation financière des propriétaires qui bénéficient des équipements et sont à l'origine de la production des eaux usées. La mise en oeuvre pratique de ces principes est régie par le droit cantonal (art. 19 al. 2 LAT; art. 5 al. 2 et 6 LCAP; art. 60a al. 1 LEaux).
4. Selon les art. 49 et 49a LATC, l'équipement des zones à bâtir est réalisé par les communes; en cas de manquement de la collectivité publique, les particuliers peuvent être autorisés à équiper eux-mêmes les terrains, ou à avancer les frais d'équipement (art. 49a LATC), conformément à ce que prévoit l'art. 19 al. 3 LAT. En revanche, le droit cantonal n'a pas prévu la possibilité, réservée à l'art. 5 al. 2 LCAP, de reporter sur les propriétaires l'obligation de procéder au raccordement. L'art. 27 LPEP précise que, sauf disposition contraire du règlement communal, les embranchements reliant directement ou indirectement les bâtiments aux canalisations publiques appartiennent aux propriétaires intéressés. La Ville de Lausanne n'a pas dérogé à cette réglementation: l'art. 6 RPE précise que l'équipement public comprend l'ensemble des installations et cours d'eau nécessaires à l'évacuation et au traitement des eaux en provenance des fonds susceptibles d'être raccordés. Selon l'art. 9 RPE, l'équipement privé est constitué de l'ensemble des canalisations et installations reliant un bien-fonds à l'équipement public.
4.1 En l'occurrence, la partie du collecteur suivant le tracé du chemin des Côtes-de-Montmoiret reçoit les eaux usées provenant de onze parcelles différentes; la partie située en aval reçoit les eaux de six parcelles; il fait donc l'objet d'une utilisation collective, de sorte qu'il n'y a rien d'arbitraire à considérer que, par sa fonction de collecteur commun, cet équipement est de nature publique. La recourante soutient que le raccordement à l'équipement public se situerait à l'extrémité du périmètre et que l'ensemble du collecteur situé en amont constituerait un équipement individuel au sens des art. 4 LCAP et 9 RPE. Cette interprétation ne trouve pas confirmation dans le droit communal. Selon l'art. 10 RPE, chaque bien-fonds ou immeuble doit, dans la règle, être raccordé aux collecteurs publics par des embranchements indépendants. Cette disposition implique logiquement que l'équipement public succède immédiatement aux raccordements de chaque parcelle, sans que les particuliers doivent réaliser eux-mêmes un collecteur (cf. arrêt 1A.65/1988 du 14 décembre 1988, consid. 2b). L'art. 9 RPE, relatif à l'équipement privé, va dans le même sens ("ensemble des canalisations et installations reliant un bien-fonds à l'équipement public"). L'interprétation retenue par le Tribunal neutre, qui se fonde sur la fonction des canalisations, indépendamment de la question de leur propriété actuelle, n'a rien d'insoutenable. Elle implique que la constitution actuelle du chemin des Côtes-de-Montmoiret en copropriété est sans pertinence, et exclut que l'on puisse considérer le collecteur comme un embranchement direct à une canalisation publique, au sens de l'art. 27 al. 2 LPEP.
4.2 La recourante invoque les décisions qui auraient été prises en vertu de l'art. 27 al. 1 LPEP, fixant le point de raccordement au réseau public. Il apparaît toutefois que la commune n'a pas agi par voie unilatérale, mais par convention: le 12 juin 1980, les Communes de Lausanne et de Pully ont réglé avec les propriétaires de l'époque la question des équipements. Cette convention prévoit certes que les promoteurs s'engagent à faire reprendre les engagements aux futurs acquéreurs. Cette clause ne concerne toutefois que la question des accès. Pour le surplus, la recourante ne prétend pas que les actuels propriétaires auraient effectivement repris les obligations découlant de la convention, s'agissant de l'évacuation des eaux. De ce point de vue déjà, on ne saurait considérer que l'arrêt attaqué serait arbitraire dans son résultat. Il ne l'est pas non plus dans ses motifs.
4.2.1 La recourante estime que les travaux de mise en séparatif constitueraient des travaux d'entretien, à la charge des propriétaires selon ce qui est prévu par la convention. Elle reproche au Tribunal neutre de ne pas avoir expliqué pour quelle raison il l'a considéré comme un équipement de raccordement nouveau, alors qu'il ne s'agit pas de traiter de nouvelles eaux mais simplement d'adapter l'équipement aux normes relatives à la protection de l'environnement.
4.2.2 Conformément au droit d'être entendu, l'autorité doit indiquer dans son prononcé les motifs qui la conduisent à sa décision (ATF 123 I 31 consid. 2c p. 34; 112 Ia 107 consid. 2b p. 109). Elle n'est pas tenue de discuter de manière détaillée tous les arguments soulevés par les parties, ni de statuer séparément sur chacune des conclusions qui lui sont présentées. Elle peut se limiter à l'examen des questions décisives pour l'issue du litige; il suffit que le justiciable puisse apprécier correctement la portée de la décision et l'attaquer à bon escient (ATF 134 I 83 consid. 4.1 p. 88; 130 II 530 consid. 4.3 p. 540; 126 I 97 consid. 2b et les arrêts cités).
En l'occurrence, le Tribunal neutre a estimé que l'adaptation du collecteur "dépass[ait] le cadre de l'entretien", et qu'il s'agissait d'un raccordement nouveau. Ce sont là des considérations que la recourante est à même de contester efficacement; certes succincte, la motivation de l'arrêt attaqué satisfait au droit d'être entendu.
4.2.3 S'agissant des eaux usées, la convention distingue la zone de villas ouest, raccordée au système séparatif de la commune de Lausanne, et la zone est, concernée par la présente cause, raccordée au réseau unitaire de la commune de Pully. La mise en séparatif est certes évoquée dans la convention, mais uniquement pour le secteur ouest et la zone artisanale et industrielle, raccordés au réseau de Lausanne déjà en séparatif. Rien n'est en revanche prévu pour le secteur est. Cela étant, la mise en séparatif du collecteur ne peut pas être qualifié de travaux d'entretien, puisqu'il s'agit non pas de maintenir l'installation existante dans son état, voire de prévenir d'éventuels dommages, mais de modifier l'installation afin de permettre la séparation des eaux claires et usées.
4.3 Selon la recourante, le Tribunal neutre aurait omis de tenir compte d'une pratique constante dans les Villes de Lausanne, Morges, Pully et du Mont-sur-Lausanne, confiant aux promoteurs la réalisation des réseaux privés, ce qui permettrait un meilleur report des charges. Des plans avaient été produits devant le Tribunal administratif afin de démontrer l'ampleur de cette pratique et les conséquences d'une décision contraire. Les juges du Tribunal neutre auraient omis d'en tenir compte et l'arrêt attaqué serait muet sur ce point, ce qui constituerait une autre violation du droit d'être entendu.
L'existence de pratiques contraires dans différentes agglomérations vaudoises n'est pas de nature à remettre en cause la légalité et la constitutionnalité de la solution adoptée dans l'arrêt attaqué, dans la mesure notamment où la recourante ne prétend pas que ces pratiques auraient déjà été examinées et confirmées par une autorité judiciaire compétente. De ce point de vue, l'argument de la recourante et les pièces produites à son appui ne portaient pas sur un élément pertinent, mais relevaient de l'opportunité. Or, conformément à l'art. 36 let. c de la loi vaudoise sur la juridiction et la procédure administratives (LJPA), les questions d'opportunité ne peuvent être revues que si l'une des lois spéciales applicables le prévoit. La recourante ne prétend pas que tel serait le cas en l'occurrence. Au demeurant, l'arrêt attaqué mentionne l'existence de nombreux équipements réalisés par des particuliers sur la base de conventions analogues à celle du 12 juin 1980, en rapport avec la question des conséquences financières pour la Commune de Lausanne (consid. 4.5). On ne saurait donc reprocher au Tribunal neutre d'avoir méconnu ce fait.
L'existence de pratiques contraires dans différentes agglomérations vaudoises n'est pas de nature à remettre en cause la légalité et la constitutionnalité de la solution adoptée dans l'arrêt attaqué, dans la mesure notamment où la recourante ne prétend pas que ces pratiques auraient déjà été examinées et confirmées par une autorité judiciaire compétente. De ce point de vue, l'argument de la recourante et les pièces produites à son appui ne portaient pas sur un élément pertinent, mais relevaient de l'opportunité. Or, conformément à l'art. 36 let. c de la loi vaudoise sur la juridiction et la procédure administratives (LJPA), les questions d'opportunité ne peuvent être revues que si l'une des lois spéciales applicables le prévoit. La recourante ne prétend pas que tel serait le cas en l'occurrence. Au demeurant, l'arrêt attaqué mentionne l'existence de nombreux équipements réalisés par des particuliers sur la base de conventions analogues à celle du 12 juin 1980, en rapport avec la question des conséquences financières pour la Commune de Lausanne (consid. 4.5). On ne saurait donc reprocher au Tribunal neutre d'avoir méconnu ce fait.
4.4 Il résulte de ce qui précède que la solution adoptée dans l'arrêt attaqué ne saurait être qualifiée d'arbitraire, quand bien même une solution différente eût également été concevable.
5. La recourante reproche au Tribunal neutre de ne pas avoir analysé correctement les conséquences financières découlant de sa décision. Elle estime à une vingtaine de kilomètres au minimum la taille des réseaux privés qui devraient être repris en mains publiques, et à 1000 à 1500 fr. le mètre de fouille pour la mise en séparatif. Pour le collecteur litigieux, la dépense serait de 500'000 à 600'000 fr., voire le double si le collecteur existant n'est pas conforme aux normes actuelles. L'arrêt attaqué ouvrirait la voie à une extension incontrôlable des réseaux public, avec de graves conséquences budgétaires. Contrairement à ce que retient l'arrêt attaqué, le REE ne permettrait la perception que d'une taxe unique d'évacuation; la mise en séparatif ne constituerait pas une extension des prestations de la collectivité autorisant une nouvelle taxe. La commune n'aurait donc d'autre choix que de doubler la taxe payée par l'ensemble des propriétaires, au mépris de l'égalité de traitement.
5.1 La recourante n'expose pas, comme l'exige l'art. 42 al. 2 LTF, en quoi la solution retenue violerait le droit. Comme le relève le Tribunal neutre, la question de la couverture financière des travaux imposés à la recourante dépasse l'objet du litige, limité au contrôle des décisions du 28 juin 2005. Faute de toute indication à ce sujet, la question soulevée relève de l'opportunité et échappe au contrôle du Tribunal fédéral (art. 95 LTF).
5.2 La commune évoque les art. 40 ss du REE, en contestant qu'elle puisse prélever une taxe en raison des travaux de mise en séparatif. Toutefois, il est possible de considérer, comme l'a fait la cour cantonale, que compte tenu de son changement de statut et de son adaptation, le collecteur constitue un nouvel équipement public soumis à la taxe en vertu de l'art. 41 REE. Une telle interprétation serait en particulier conforme avec la règle générale exprimée à l'art. 6 al. 2 LCAP, selon laquelle les frais de raccordement doivent être reportés entièrement ou en majeure partie sur les propriétaires fonciers, ainsi qu'avec l'art. 66 LPEP qui autorise les communes à percevoir un impôt spécial et des taxes pour couvrir "les frais d'aménagement et d'exploitation du réseau des canalisations publiques". La couverture des frais apparaît ainsi possible, de sorte que ? bien que la recourante ne soulève pas la question ? l'arrêt attaqué ne porte pas non plus atteinte au principe du "pollueur-payeur" consacré, en matière de protection des eaux, à l'art. 3a LEaux, ainsi qu'aux principes de financement précisés à l'art. 60a LEaux.
6. La recourante estime enfin que le Tribunal neutre aurait dû rendre une décision incitative afin de permettre aux communes et au canton de Vaud d'adapter préalablement leur législation à bref délai, et d'éviter de retarder les assainissements imposés par l'art. 16 LPE.
6.1 La recourante n'indique toutefois pas en vertu de quel principe de procédure elle disposerait d'un droit à une décision incitative (Appellentscheid). Le grief apparaît donc irrecevable, car insuffisamment motivé.
6.2 Au demeurant, une décision incitative ne peut être autorisée qu'à titre exceptionnel, car elle a notamment pour effet de maintenir une situation non conforme au droit et de débouter des justiciables qui obtiennent pourtant gain de cause (ATF 123 I 56 consid. 3c p. 61;112 Ia 311 consid. 2c p. 313; arrêt 2P.181/2006 consid. 2.4 publié in SJ 2007 I 393). En l'occurrence, la décision attaquée n'a d'effet contraignant que dans le cas particulier; elle n'empêche pas la commune ou le canton d'adapter à bref délai, si cela devait être nécessaire, les bases légales relatives aux taxes de raccordement. Les retards qui pourraient en découler dans la mise en séparatif des réseaux qui se trouvent actuellement en mains privées, ne seraient pas évités par une décision incitative; ces retards seront d'ailleurs compensés par la meilleure maîtrise des réseaux d'évacuation par la collectivité, ce qui permettra de les intégrer dans le programme d'entretien; une telle situation présente des avantages évidents, du point de vue de la protection de l'environnement, par rapport à l'existence de collecteurs privés dont la commune ignore la conception et l'état d'entretien.
7. Sur le vu de ce qui précède, le recours est rejeté, dans la mesure où il est recevable. Conformément à l'art. 66 al. 4 LTF, il n'est pas perçu de frais judiciaires. La recourante versera en revanche une indemnité de dépens en faveur des intimés qui obtiennent gain de cause (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Il n'est pas perçu de frais judiciaires.
3. La recourante versera aux intimés A._ et consorts une indemnité de dépens de 2500 fr.
4. Le présent arrêt est communiqué aux mandataires des parties, au Département de la sécurité et de l'environnement, Service des eaux, sols et assainissement, et au Tribunal neutre du canton de Vaud ainsi qu'à l'Office fédéral de l'environnement, Division Droit.
Lausanne, le 22 octobre 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz