Faits:
A. Au cours des mois de septembre et octobre 2006, la Municipalité de Renens a fait procéder à la mise en séparatif des canalisations du chemin de Corjon, avec l'accord des propriétaires riverains. Le collecteur unitaire existant était conservé pour l'évacuation des eaux claires, un nouveau collecteur étant installé pour les eaux usées. L'ensemble était raccordé aux nouvelles canalisations de l'avenue de Saugiaz, réalisées par la commune. Les travaux de mise en séparatif et de réfection du chemin, ont été devisés à quelque 171'000 fr. Le bureau d'ingénieurs mandaté par la commune a établi, le 12 juillet 2006, un tableau de répartition des frais entre les propriétaires riverains. L'annexe à ce tableau prévoit notamment le versement, jusqu'au 29 septembre 2006, d'un acompte de 75% des montants estimatifs. Propriétaires de la parcelle n° 380 de la commune de Renens, A._, B._ et C._ (ci-après: les propriétaires) ont signé cet engagement le 28 août 2006. Leur participation s'élevait à 96'692,55 fr. et l'acompte réclamé à 72'500 fr. Ce montant a été versé le 13 octobre 2006.
B. Le 13 novembre 2006, les propriétaires se sont adressés à la Municipalité de Renens. Une procédure était pendante devant la juridiction administrative cantonale, portant sur la prise en charge d'un collecteur commun par une collectivité publique. Les propriétaires envisageaient une restitution de l'acompte versé et demandaient une décision formelle sur ce point. La Municipalité fit savoir, le 21 février 2007, qu'elle attendait de connaître l'issue de la cause précitée avant de statuer.
Par arrêt du 26 juin 2007, le Tribunal neutre du canton de Vaud a considéré qu'un collecteur commun (en l'occurrence, sur le territoire de la commune de Pully) constituait une nouvelle installation de raccordement publique. Le droit vaudois ne permettait pas d'imposer aux particuliers la réalisation et le paiement d'un tel équipement. Par arrêt du 22 octobre 2008 (1C_390/2007, publié in RDAF 2009 p. 323), le Tribunal fédéral a confirmé cette appréciation, sous l'angle de l'arbitraire.
Le 20 novembre 2008, les propriétaires ont demandé la restitution de l'acompte versé, plus intérêts. La Municipalité répondit, le 18 décembre 2008, que l'application de l'arrêt du Tribunal neutre nécessitait une étude approfondie, voire une adaptation du cadre légal cantonal. La commune entendait communiquer sa position d'ici au 15 février 2009. Un commandement de payer a été notifié le 29 janvier 2009, auquel la commune a fait opposition.
Par décision du 10 mars 2009, la Municipalité a considéré que les arrêts du Tribunal neutre et du Tribunal fédéral ne remettaient pas en cause le principe du pollueur-payeur. Cette décision soulevait toutefois des questions qui devaient être examinées avec les services de l'Etat. Dans l'attente d'une position cantonale claire, la commune ne donnait pas suite à la demande de remboursement.
C. Par arrêt du 7 décembre 2009, la Cour de droit administratif et public du Tribunal cantonal vaudois (CDAP) a admis le recours formé par les propriétaires et annulé la décision du 10 mars 2009. L'installation litigieuse était à la charge de la commune puisqu'il s'agissait d'un équipement public de raccordement entre les canalisations privées et l'équipement général de l'avenue de Chausiaz. Le versement de l'acompte n'avait pas eu lieu en vertu d'une décision, mais d'un acte bilatéral - soit l'engagement du 28 août 2008 - soumis aux dispositions sur les vices du consentement. En l'occurrence, cet engagement était entaché d'une erreur de base (art. 24 al. 1 ch. 4 CO), les propriétaires s'étant mépris sur leur obligation d'assumer les frais de raccordement. Les propriétaires avaient agi dans le délai d'une année prescrit à l'art. 31 CO, de sorte que le contrat était annulé avec effets ex tunc. Il y avait lieu à répétition, le délai de prescription de l'art. 67 al. 1 CO partant à compter de l'arrêt du Tribunal fédéral du 22 octobre 2008.
D. La Commune de Renens, agissant par sa Municipalité, forme un recours en matière de droit public. Elle demande l'annulation de l'arrêt de la CDAP et, pour autant que de besoin, le renvoi de la cause à la cour cantonale.
La CDAP se réfère à son arrêt et conclut au rejet du recours. Les propriétaires concluent au rejet du recours avec suite de dépens. Le Service cantonal du développement territorial et le Service cantonal des eaux, sols et assainissement s'en rapportent à justice.
Considérant en droit:
1. Selon l'art. 82 let. a LTF, le recours en matière de droit public est ouvert contre les décisions rendues, comme en l'espèce, dans des causes de droit public. Le recours est formé dans le délai de trente jours (art. 100 al. 1 LTF, compte tenu des féries), contre un arrêt final rendu en dernière instance cantonale (art. 86 al. 1 let. d LTF).
1.1 Selon l'art. 89 al. 2 let. c LTF, les communes et autres collectivités publiques ont qualité pour recourir en invoquant la violation de garanties qui leur sont reconnues par les Constitutions cantonale ou fédérale. Elles peuvent aussi agir, sur la base de l'art. 89 al. 2 let. c LTF, lorsqu'elles invoquent une atteinte à leur propre existence ou à leur territoire. Dans certains cas, les communes peuvent aussi agir sur la base de l'art. 89 al. 1 LTF lorsqu'elles sont touchées de la même manière qu'un particulier ou lorsque leurs intérêts souverains dignes de protection sont en jeu (ATF 134 II 45; 133 II 400 consid. 2.4.3 p. 406). Il appartient à la collectivité d'indiquer clairement, comme l'exige l'art. 42 al. 2 LTF, sur quelle base elle entend fonder sa qualité pour agir.
1.2 En l'occurrence, la commune recourante se plaint des conséquences financières qui découleront de l'arrêt attaqué. Elle se prévaut aussi de l'autonomie dont elle bénéficie dans le domaine de la planification et de l'établissement des réseaux de canalisations publiques. Il y a donc lieu de lui reconnaître la qualité pour agir sur cette base. La question de savoir si elle est réellement autonome dans ce domaine relève du fond (ATF 129 I 313 consid. 4.2 p. 319, 410 consid. 1.1 p. 412 et les références).
2. Selon l'art. 50 al. 1 Cst., l'autonomie communale est garantie dans les limites fixées par le droit cantonal. Selon la jurisprudence, une commune bénéficie de la protection de son autonomie dans les domaines que le droit cantonal ne règle pas de manière exhaustive mais laisse en tout ou en partie dans la sphère communale, lui accordant une liberté de décision importante. Le domaine d'autonomie protégé peut consister dans la faculté d'adopter ou d'appliquer des dispositions de droit communal ou encore dans une certaine liberté dans l'application du droit fédéral ou cantonal. Pour être protégée, l'autonomie ne doit pas nécessairement concerner l'ensemble d'une tâche communale, mais uniquement le domaine litigieux. L'existence et l'étendue de l'autonomie communale dans une matière concrète sont déterminées essentiellement par la constitution et la législation cantonales (ATF 135 I 233 consid. 2.2 p. 241 et les arrêts cités).
2.1 Les communes vaudoises sont compétentes, à teneur de l'art. 24 de la loi vaudoise sur la protection des eaux contre la pollution (LPEP), pour établir les réseaux de canalisations publiques conformément à leur plan à court terme des canalisations soumis à l'approbation du Conseil d'Etat (art. 22 LPEP). Elles sont également compétentes pour déroger, dans leur règlement, aux règles du droit cantonal sur les embranchements reliant les bâtiments aux canalisations publiques (art. 27 al. 2 LPEP). Tout projet d'évacuation des eaux usées ou de modification du système est soumis à la municipalité (art. 14 LPEP). Selon l'art. 49 de la loi vaudoise sur l'aménagement du territoire et les constructions (LATC), les communes sont en outre compétentes pour statuer sur les litiges relatifs aux frais d'équipement. La Commune de Renens a adopté, en 1995, un règlement sur l'évacuation et l'épuration des eaux (ci-après: REE) qui définit les équipements publics et privés (art. 6 et 10 REE). L'arrêt attaqué retient par ailleurs que la commune est compétente pour rendre une décision, conformément à l'art. 48 REE, sur les litiges relatifs aux frais d'équipement. La Commune de Renens dispose ainsi de compétences réglementaires et décisionnelles en matière de prise en charge des frais d'équipement. Elle est fondée à se prévaloir, sur ce point, de l'autonomie communale.
2.2 Dans la mesure où son autonomie est en cause, la commune peut exiger que l'autorité cantonale respecte les limites de sa compétence et qu'elle applique correctement les dispositions du droit fédéral, cantonal ou communal qui règlent la matière. Elle peut aussi invoquer, en tant que partie au procès, les garanties générales de procédure tirées du droit d'être entendu, dans la mesure où ce grief est en relation étroite avec le grief de violation de l'autonomie. Dans ce cadre, le Tribunal fédéral examine sous l'angle de l'arbitraire l'application des lois et règlements cantonaux ou communaux (ATF 135 I 302 consid. 1.1 p. 305; 134 I 204 consid. 2.2).
2.3 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
3. La recourante se plaint d'arbitraire. Elle relève que si l'art. 5 al. 2 de la loi fédérale encourageant la construction et l'accession à la propriété de logements (LCAP; RS 843) permet aux cantons de reporter sur les propriétaires l'obligation de procéder au raccordement, l'art. 6 al. 2 LCAP prévoit que les frais de raccordement doivent être reportés entièrement ou en majeure partie sur les propriétaires. Il y aurait donc une base légale suffisante, en droit fédéral et cantonal, permettant aux communes d'appliquer le principe du pollueur-payeur. L'art. 17 REE prévoit ainsi que les propriétaires sont tenus de réaliser à leurs frais la mise en séparatif.
3.1 L'arrêt attaqué se fonde sur une décision rendue le 26 juin 2007 par le Tribunal neutre du canton de Vaud, selon lequel le droit vaudois ne permet pas de transférer aux particuliers la charge de réaliser un équipement commun. Par arrêt du 22 octobre 2008, le Tribunal fédéral a rejeté le recours formé contre cette décision par la commune concernée. Selon le droit fédéral, les collectivités publiques sont responsables de l'équipement (art. 19 al. 2 LAT); suivant le principe de causalité, également de droit fédéral (art. 2 LPE et 3a LEaux), les cantons veillent à ce que les coûts relatifs aux installations d'évacuation et d'épuration des eaux soient mis à la charge de ceux qui sont à l'origine de la production des eaux usées, par le biais d'émoluments ou de taxes. L'arrêt du Tribunal fédéral confirme que le droit vaudois ne prévoit pas la possibilité réservée à l'art. 5 al. 2 LCAP de reporter sur les propriétaires l'obligation de procéder au raccordement. Il en découle que les frais relatifs à ces installations sont assumés en premier lieu par les communes. Contrairement à ce que soutient la recourante, l'art. 6 al. 2 LCAP ne constitue pas une base légale pour imposer directement aux propriétaires le paiement de ces frais: comme cela est rappelé ci-dessus, le "report" imposé par cette disposition doit se faire par le biais d'émoluments et de taxes.
Conforme à une précédente décision confirmée par le Tribunal fédéral, l'arrêt attaqué n'a donc rien d'arbitraire.
3.2 La recourante soutient ensuite que le collecteur du chemin de Corjon serait de nature privée. Contrairement au règlement lausannois, le règlement de Renens prévoit le passage des canalisations privées sur d'autres parcelles, privées ou publiques, avant d'aboutir au point de raccordement fixé par la commune. Il serait dès lors insoutenable de prétendre que l'équipement public succède immédiatement au raccordement de chaque parcelle.
Le collecteur litigieux reçoit les eaux provenant des parcelles riveraines. Il s'agit d'une installation collective du même type que celle qui a fait l'objet des arrêts précités, et qu'il n'y a dès lors rien d'arbitraire à les considérer également comme un équipement public. Les arguments de la recourante, fondés sur diverses dispositions du règlement, ne sauraient être suivis dès lors que la définition de l'équipement public figurant à l'art. 6 REE comprend notamment l'équipement de raccordement qui comprend les collecteurs destinés à relier les divers biens-fonds à l'équipement général (let. c).
3.3 La recourante soutient ensuite qu'elle ne serait pas partie à l'accord passé avec les propriétaires. Elle n'aurait agi qu'en tant qu'intermédiaire chargée de réunir les fonds. Cette argumentation ne correspond pas aux faits retenus par la cour cantonale. Selon cette dernière, le bureau d'ingénieurs a été mandaté par la Municipalité pour établir les plans et procéder à la répartition des frais, dans le cadre plus général de la mise en séparatif de l'ensemble du quartier. Le 21 septembre 2006, la commune a adressé une facture aux propriétaires. La commune s'est d'ailleurs également comportée en co-contractante par la suite, lorsqu'elle a pris position sur les prétentions en remboursement des intimés le 21 février 2007 et le 18 décembre 2008, ainsi que dans sa décision formelle du 10 mars 2009. Outre qu'elle apparaît nouvelle, l'argumentation de la recourante est fondée sur la prémisse qu'elle ne serait pas tenue au paiement des frais d'équipement. Or, cette prémisse est erronée, comme cela est relevé ci-dessus.
3.4 La recourante revient également sur la question de la prescription. Elle estime que le délai de prescription, d'une année en matière d'enrichissement illégitime (art. 67 al. 1 CO), partait dès le jugement rendu par le Tribunal neutre, le 26 juin 2007. La cour cantonale a retenu que les intimés ne pouvaient avoir connaissance de leur droit à la restitution de leur acompte avant que le Tribunal fédéral n'ait définitivement statué par son arrêt du 22 octobre 2008. Cette opinion est conforme à la jurisprudence selon laquelle le lésé n'a connaissance de son droit que lorsqu'il a la possibilité d'intenter une action en justice et qu'il possède les éléments suffisants pour motiver une telle demande (ATF 135 II 289 consid. 7.1 p. 294 et les arrêts cités). Le grief d'arbitraire doit par conséquent être écarté sans qu'il y ait lieu d'examiner l'argument relatif au principe de la bonne foi.
3.5 La cour cantonale a considéré qu'un contrat de droit administratif affecté d'un vice de la volonté était, à l'instar d'une décision administrative, annulable - et non nul -, et que l'annulation produisait des effets ex tunc, ce qui permettait la répétition des prestations versées sans cause. La recourante ne revient pas sur ces considérations. Elle se contente de relever que les intimés n'auraient pas agi dans le délai de l'art. 31 CO, sans motiver plus avant son grief. Dans la mesure où l'erreur - qualifiée d'essentielle par la cour cantonale - porte sur l'obligation de payer les frais d'équipement, les considérations qui précèdent à propos du délai de répétition peuvent s'appliquer également s'agissant du délai fixé à l'art. 31 CO: les propriétaires se sont adressés à la commune le 13 novembre 2006 déjà, en demandant la restitution de l'acompte versé au cas où la pratique cantonale leur donnerait raison. Il n'y a dès lors aucun arbitraire dans l'application par analogie de l'art. 31 CO. L'argument fondé sur une annulation ex nunc tombe lui aussi à faux.
4. Sur le vu de ce qui précède, le recours est rejeté. Conformément à l'art. 66 al. 4 LTF, il n'est pas perçu de frais judiciaires. La commune recourante versera une indemnité de dépens en faveur des intimés qui obtiennent gain de cause (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La recourante versera aux intimées A._ et consorts une indemnité de dépens de 2500 fr.
3. Il n'est pas perçu de frais judiciaires.
4. Le présent arrêt est communiqué aux mandataires des parties, au Service des eaux, sols et assainissement, au Service du développement territorial et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 15 avril 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz