Faits:
A. Le 13 août 2008, A._ (ci-après: la constructrice) a déposé une demande d'autorisation de construire un immeuble résidentiel sur la parcelle 7321 située à la route de Berne 146 à Lausanne. Selon le plan général d'affectation de la commune de Lausanne, du 26 juin 2006, la parcelle se trouve en zone mixte de moyenne densité. Le projet, qui implique la démolition de trois bâtiments existants, comporte quatre niveaux d'habitation (rez, deux étages plus attique) et un parking souterrain. Compte tenu de la forte pente, d'importants déblais sont réalisés de part et d'autre du bâtiment, avec deux murs de soutènement d'une hauteur totale de 10 m. Le projet a fait l'objet d'oppositions de E._, propriétaire de la parcelle 7323 contiguë à l'est, et de B._, C._ et D._, propriétaires de la parcelle 7320 contiguë à l'ouest (ci-après: les opposants).
Le 12 août 2009, après une enquête complémentaire portant sur l'abattage d'arbres, la Municipalité de Lausanne a délivré le permis de construire et levé les oppositions, jugeant en particulier le projet conforme à la zone de moyenne densité. Les opposants ont recouru auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: la CDAP).
B. Le 30 septembre 2009, les opposants, ainsi que H._ (propriétaire de la parcelle 7319) et F._ (propriétaire de la parcelle 7318) ont saisi la Municipalité d'une demande d'élaboration d'un plan de quartier englobant leurs terrains ainsi que la parcelle 7321, afin de densifier le secteur concerné en créant une habitation groupée et/ou des bureaux; les parcelles se trouvaient à l'entrée nord de Lausanne et nécessitaient un concept global.
Par décision du 23 novembre 2009, la Municipalité a refusé d'entrer en matière, en relevant que la planification existante permettait déjà une densification. Un éventuel plan de quartier devrait s'étendre à toute la zone comprise entre la route de Berne, le chemin des Roches et la limite communale, soit un secteur pour lequel les requérants ne représentaient pas plus de la moitié des propriétaires.
Les requérants ont également saisi la CDAP.
C. Ayant joint dans un premier temps les deux causes, la CDAP les a disjointes le 3 mai 2010, après avoir procédé à une inspection locale, et a statué par deux arrêts distincts.
Par arrêt du 17 mai 2010, elle a admis le recours des requérants. Le périmètre proposé était cohérent, car délimité par la route de Berne, le chemin d'accès à la parcelle 7318 et la frontière avec la commune d'Epalinges, ainsi que par la falaise arborisée située au nord. Les conditions formelles posées à l'art. 67 al. 2 de la loi vaudoise sur l'aménagement du territoire et les constructions (LATC) étaient dès lors remplies. Depuis l'entrée en vigueur du plan de 2006, la Municipalité avait autorisé, dans le secteur situé de l'autre côté de la route de Berne, l'augmentation de la capacité du parking d'échange de 800 à 1200 places, puis la construction des bâtiments A (centre médical, commerces et hôtel) et B (AquaEcopôle). Par ailleurs le trafic sur la route de Berne était passé, de 2005 à 2009, de 20'200 à 29'900 véhicules par jour. Les protections antibruit étaient devenues insuffisantes. Le maintien d'une affectation au logement ne se justifiait pas. Il y avait aussi lieu de trouver une solution d'ensemble pour l'accès aux parcelles et la protection contre le bruit. Un changement de planification s'imposait donc. La CDAP a annulé la décision de la Municipalité du 23 novembre 2009 et renvoyé le dossier à cette autorité afin qu'elle statue à nouveau.
Par arrêt du 21 mai 2010, la CDAP a également admis le recours des opposants et annulé l'autorisation de construire. Le garage souterrain prévu empiétait sur la distance aux limites de 6 m, ce qui n'était possible qu'en l'absence de modification sensible du profil et de la nature du terrain. Cette condition n'était pas réalisée compte tenu des importants déblais et murs de soutènement situés de part et d'autre du bâtiment. Selon les dernières déterminations du Service de l'environnement et de l'énergie (SEVEN), l'augmentation du trafic depuis 2005 impliquait que les valeurs limite d'immission de bruit étaient dépassées non seulement du côté sud du bâtiment, mais aussi pour les fenêtres situées à l'ouest. Le bruit routier durant la nuit avait également été sous-évalué. Cela justifiait une révocation de l'autorisation spéciale accordée par le SEVEN, fondée sur les art. 31 et 32 OPB. La parcelle comportait six arbres protégés et les documents mis à l'enquête ne permettaient pas de définir l'ampleur de l'abattage prévu. Compte tenu de l'obligation d'établir un plan de quartier, toute nouvelle demande d'autorisation de construire devrait tenir compte des projets en cours d'étude.
D. A._ a formé deux recours en matière de droit public contre les deux arrêts cantonaux précités.
S'agissant de l'arrêt du 17 mai 2010 (obligation d'établir un plan de quartier, cause 1C_300/2010), elle en demande l'annulation et la confirmation de la décision de la Municipalité du 23 novembre 2009, subsidiairement le renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. La CDAP conclut au rejet du recours. La Municipalité s'en remet à justice. B._, C._ et D._ concluent à l'irrecevabilité, subsidiairement au rejet du recours. E._, F._ et G._, H._ et I._ prennent les mêmes conclusions.
Dans son recours contre l'arrêt du 21 mai 2010 (annulation de l'autorisation de construire, cause 1C_302/2010), la recourante en demande la réforme en ce sens que la décision municipale accordant le permis de construire est suspendue jusqu'à droit connu sur la demande d'établissement d'un plan de quartier; subsidiairement, elle conclut au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. La CDAP se réfère à son arrêt et conclut au rejet du recours. La Municipalité s'en remet à justice. Les consorts B._, C._ et D._ concluent au rejet du recours, subsidiairement à ce que la cause soit renvoyée à la cour cantonale afin que celle-ci statue sur différents griefs qui n'ont pas été examinés par la cour cantonale. E._ conclut au rejet du recours.
Considérant en droit:
1. Les recours sont formés contre deux arrêts différents, mais dont l'objet présente une étroite connexité. Il y a lieu de les joindre et de statuer par un même arrêt.
2. Les arrêts attaqués ont été rendus en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF) dans une cause relevant du droit public (art. 82 let. a LTF), qui ne tombe pas sous le coup des exceptions de l'art. 83 LTF. La voie du recours en matière de droit public est donc en principe ouverte.
1C_300/2010
3. Aux termes de l'art. 90 LTF, le recours au Tribunal fédéral est recevable contre les décisions qui mettent fin à la procédure. Il est aussi recevable contre toute décision partielle (art. 91 let. a et b LTF). Le recours est enfin ouvert contre les décisions préjudicielles et incidentes qui sont notifiées séparément et qui portent sur la compétence ou sur une demande de récusation (art. 92 al. 1 LTF). Les autres décisions préjudicielles et incidentes notifiées séparément peuvent faire l'objet d'un recours aux conditions de l'art. 93 al. 1 LTF.
3.1 L'arrêt attaqué annule le refus de la Municipalité d'entrer en matière sur une demande d'élaboration d'un plan de quartier; la cause est renvoyée à la Municipalité, qui dispose d'un très large pouvoir d'appréciation dans l'élaboration du plan (ATF 135 V 141 consid. 1.1 p. 143; arrêt 9C_491/2008 du 21 avril 2009 consid. 1.2). L'arrêt attaqué n'est donc ni final, ni partiel puisque le Tribunal cantonal n'a pas statué sur un objet dont le sort est indépendant de celui qui reste en cause (art. 91 let. a LTF). Il s'agit dès lors d'une décision incidente au sens de l'art. 93 LTF.
3.2 Selon cette disposition, les décisions préjudicielles et incidentes notifiées séparément peuvent faire l'objet d'un recours si elles peuvent causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
3.3 Ces conditions paraissent réalisées en l'espèce. En effet, le renvoi de la cause à la Municipalité pour élaboration d'un plan de quartier a lieu alors que la recourante a déjà présenté une demande d'autorisation de construire qui a été admise par la Municipalité et annulée par la cour cantonale. En vertu de l'art. 77 LATC, un permis de construire peut être refusé lorsque le projet, en soi conforme, compromet le développement futur d'un quartier ou lorsqu'il est contraire à un plan ou à un règlement d'affectation communal ou intercommunal envisagé, mais non encore soumis à l'enquête publique. L'annulation du permis de construire par la CDAP n'est certes pas fondé sur cette disposition, mais la cour cantonale en a clairement envisagé l'application dans son arrêt du 21 mai 2010. La recourante encourt donc le risque que toute demande d'autorisation de construire se trouve bloquée durant une période prolongée, sans que le principe de la mesure d'aménagement litigieuse ne puisse être remis en cause. Il se justifie dès lors d'entrer en matière.
3.4 La recourante, propriétaire d'une parcelle située au centre du périmètre concerné par la demande d'établissement du plan de quartier, a participé à la procédure cantonale, est particulièrement atteinte par la décision attaquée et dispose d'un intérêt à son annulation (art. 89 al. 1 LTF). Elle a donc qualité pour recourir.
4. La recourante invoque son droit d'être entendue, en reprochant à la cour cantonale de s'être fondée sur certains moyens de preuve sans lui donner l'occasion de s'exprimer. Il s'agirait en particulier des procédures liées à l'adoption du plan d'affectation cantonal (PAC) de Vennes et à la construction du parking-relais et des bâtiments qui y sont associés. Diverses autres constatations (augmentation du trafic sur la route de Berne, insuffisance des parois antibruit, nuisances particulières dans le quartier et diversité des activités autorisées sur la plateforme du parking d'échange) ne ressortiraient pas de l'instruction de la cause.
4.1 Le droit d'être entendu découlant de l'art. 29 al. 2 Cst. (la recourante ne se prévaut pas d'une disposition particulière du droit cantonal qui lui conférerait des prérogatives plus étendues) comprend en particulier le droit pour le justiciable de s'expliquer avant qu'une décision ne soit prise à son détriment, celui d'apporter des preuves quant aux faits de nature à influer sur le sort de la décision, celui de participer à l'administration des preuves, d'en prendre connaissance et de se déterminer à leur propos (ATF 129 II 497 consid. 2.2 p. 504/505; 127 III 576 consid. 2c p. 578/579 et la jurisprudence citée).
4.2 L'arrêt attaqué retient en premier lieu que les conditions formelles posées à l'art. 67 al. 2 LATC (requête émanant de la moitié au moins des propriétaires concernés représentant la moitié au moins de la valeur fiscale des biens-fonds) étaient remplies, contrairement à ce qu'avait retenu la Municipalité en estimant qu'un éventuel plan de quartier devait s'étendre sur un périmètre élargi. La cour cantonale a ensuite dû rechercher (ce que n'avait pas fait la Municipalité) si les conditions de fond étaient réunies, c'est-à-dire si les objectifs d'aménagement commandaient une nouvelle planification (art. 66 LATC). A ce sujet, l'existence de projets d'aménagement de l'entrée nord de la ville de Lausanne, soit le métro, le parking-relais et ses bâtiments associés ainsi que l'augmentation du trafic qui en résulte et l'insuffisance de la protection antibruit étaient déjà évoqués dans le recours cantonal des consorts B._, C._ et D._. Il ne s'agissait donc pas d'un argument nouveau à propos duquel il aurait été nécessaire d'interpeler la recourante. L'ensemble de ces problèmes a d'ailleurs aussi été évoqué lors de l'inspection locale qui s'est tenue sur place le 16 février 2010, dans le cadre des deux recours qui étaient alors traités conjointement. Le représentant du SEVEN y a en particulier confirmé les déterminations selon lesquelles les comptages les plus récents indiquaient un trafic journalier de 29'900 véhicules par jour, au lieu des 20'200 retenus dans le rapport produit par la constructrice. L'augmentation du trafic lié au projet d'AquaEcopôle était également évoquée. La recourante a ensuite eu l'occasion de déposer un mémoire complémentaire qui lui aurait permis de s'exprimer à ce propos avant que les causes ne soient disjointes. Même si l'arrêt cantonal fait référence à certaines procédures, la recourante ne saurait prétendre qu'elle ignorait tout des projets liés au PAC de Vennes. L'adoption de ce dernier, en février 2001, puis l'augmentation de la capacité d'accueil du parking à 1200 places, mise à l'enquête en 2005, et l'augmentation du trafic qui en découle naturellement, peuvent être considérés comme des faits notoires, à tout le moins connus des propriétaires voisins. Le grief doit donc être écarté.
4.3 La recourante reproche aussi à la CDAP d'avoir disjoint les causes relatives d'une part au plan de quartier et d'autre part à l'autorisation de construire. Cela l'aurait privée de la possibilité d'invoquer ses intérêts de propriétaire privé, compte tenu notamment de l'effet anticipé prévu à l'art. 77 LATC. La décision de disjonction n'a toutefois été prise qu'à la fin de l'instruction, par décision formelle du 3 mai 2010. Rien n'empêchait par conséquent la recourante de faire valoir l'ensemble de ses arguments, et se plaindre de l'éventuel effet anticipé du nouveau plan de quartier. Il n'y a pas, sur ce point également, de violation du droit d'être entendu.
5. Invoquant la garantie de la propriété, la recourante relève qu'elle se trouvait au bénéfice d'une autorisation de construire lorsque la demande d'élaboration du plan de quartier a été formée. Cette dernière n'avait d'autre but que de bloquer le projet de construction, alors que la planification actuelle permettrait déjà la réalisation de bureaux ou d'habitat groupé souhaitée par les requérants, et que ces derniers ne se sont pas opposés au plan de 2004.
5.1 Conformément aux art. 26 et 36 Cst., une atteinte à la garantie de la propriété n'est constitutionnellement admissible que si elle repose sur une base légale, est justifiée par un intérêt public et respecte le principe de la proportionnalité.
5.2 La recourante ne semble pas remettre en cause l'existence d'une base légale, soit en l'espèce les art. 66 et 67 LATC qui permettent d'exiger l'élaboration d'un plan de quartier. La mesure contestée repose par ailleurs sur un intérêt public, lequel n'est pas seulement la somme des intérêts des différents propriétaires requérants, mais aussi l'intérêt au respect des objectifs d'aménagement (art. 66 al. 1 LATC), en particulier une meilleure accessibilité des parcelles concernées, une mise en valeur du secteur nord de la ville de Lausanne et une meilleure protection contre les nuisances sonores. La recourante ne le conteste d'ailleurs pas, et se contente de se prévaloir de l'autorisation qui lui a été délivrée par la Municipalité tout en dénonçant la volonté de blocage des requérants. Son argumentation tombe à faux. La demande d'adoption d'un plan de quartier tend manifestement à une mise en valeur des parcelles concernées, et ne saurait avoir pour seul but le blocage du projet de la recourante. Par ailleurs, dans la mesure où l'autorisation de construire a été annulée par la cour cantonale, pour des motifs spécifiques sans rapport avec la modification de planification souhaitée par les requérants, la recourante ne saurait invoquer son intérêt privé à une réalisation immédiate de son projet. Au demeurant, la planification préconisée ne porte qu'une atteinte provisoire au droit de propriété puisqu'il n'est pas question de supprimer, ni même de restreindre les possibilités de construire dans le secteur en cause. Tel qu'il est soulevé, le grief apparaît donc mal fondé.
6. La recourante invoque aussi l'art. 21 LAT. Elle estime que les motifs retenus par la cour cantonale ne suffiraient pas à justifier une révision du plan d'affectation entré en vigueur en juin 2006. S'agissant du respect de l'OPB, l'arrêt attaqué ne contiendrait aucun élément permettant d'affirmer que les valeurs limite d'immission ne seraient plus respectées. Même si tel était le cas, la LPE permettrait des mesures d'assainissement ou d'allégement afin de permettre le respect de la situation acquise. Les motifs ayant trait aux principes d'aménagement du territoire ne seraient pas mieux fondés, car l'évolution de la situation était prévisible lors de l'adoption du plan général des zones. Les problèmes d'accès ne seraient, eux non plus, pas nouveaux, et pourraient être résolus pour chaque parcelle.
6.1 Selon l'art. 67 al. 2, 1ère phrase LATC, la municipalité "est tenue d'établir un plan de quartier lorsque la demande en est faite par la moitié au moins des propriétaires du périmètre, dont les immeubles représentent la moitié au moins de l'estimation fiscale totale et pour autant que les conditions de l'article 66 LATC sont respectées". Aux termes de l'art. 66 al. 1 LATC (dont le titre est: "conformité avec les objectifs d'aménagement"), "le plan de quartier peut s'écarter des normes du plan d'affectation, à condition de respecter les objectifs d'aménagement de la ou des communes et les principes applicables à l'extension des zones à bâtir".
La recourante ne conteste plus, à ce stade, que les conditions formelles posées à l'art. 67 LATC sont en l'espèce réunies. Elle ne conteste pas en particulier les considérations de la cour cantonale quant à la délimitation du secteur potentiellement visé par la demande d'élaboration du plan de quartier. Seules les conditions matérielles posées à l'art. 67 LATC sont encore litigieuses.
6.2 En vertu de l'art. 21 al. 2 LAT, les plans d'affectation feront l'objet des adaptations nécessaires lorsque les circonstances se sont sensiblement modifiées. Cette disposition tend à assurer à la planification une certaine stabilité, sans laquelle les plans d'aménagement ne peuvent remplir leur fonction. La stabilité des plans est un aspect du principe, plus général, de la sécurité du droit, qui doit permettre aux propriétaires fonciers, comme aux autorités chargées de mettre en oeuvre la planification, de compter sur la pérennité des plans d'affectation. Ceux-ci doivent toutefois être révisés lorsque les circonstances déterminantes se sont modifiées depuis leur adoption (ATF 128 I 190 consid. 4.2 p. 198 et les arrêts cités).
6.3 Quand la contestation porte sur la modification d'un plan d'affectation, les parties admises à se prévaloir de la garantie de la propriété (art. 26 al. 1 Cst.) peuvent se plaindre du fait que les nouvelles restrictions qui leur sont imposées ne sont pas justifiées par un intérêt public (cf. art. 36 al. 2 Cst.) ni conformes au principe de la proportionnalité (cf. art. 36 al. 3 Cst.). Elles peuvent en d'autres termes critiquer sous cet angle l'application des règles d'aménagement du territoire et le résultat de la pesée des intérêts. Le Tribunal fédéral examine en principe librement les questions de l'intérêt public et de la proportionnalité. Il s'impose toutefois une certaine retenue lorsqu'il s'agit de trancher de pures questions d'appréciation ou tenir compte de circonstances locales, mieux connues des autorités cantonales; le Tribunal fédéral n'est pas l'autorité suprême de planification et doit respecter le pouvoir de détermination des autorités cantonales (ATF 132 II 408 consid. 4.3 p. 415 s.; 119 Ia 362 consid. 3a p. 366 et la jurisprudence citée dans ces arrêts).
6.4 L'art. 21 al. 2 LAT, qui pose le principe d'adaptation des plans d'affectation en vigueur, résulte d'un compromis entre deux exigences contradictoires: d'une part, l'aménagement du territoire étant un processus continu, et la détermination des différentes affectations impliquant des pesées d'intérêts fondées sur des circonstances changeantes et des pronostics qui ne se confirment jamais entièrement, l'adaptation périodique des plans d'affectation est indispensable pour assurer progressivement leur conformité aux exigences légales; d'autre part, il faut tenir compte des intérêts privés et publics dont la protection nécessite une certaine sécurité juridique. Pour apprécier l'évolution des circonstances et la nécessité d'adapter la planification, une pesée des intérêts s'impose (ATF 131 II 728 consid. 2.4 p. 733). L'intérêt à la stabilité du plan doit être mis en balance avec l'intérêt à l'adoption d'un nouveau régime d'affectation, qui peut lui aussi être protégé par la garantie de la propriété. Selon les cas, des intérêts publics pourront également justifier soit la stabilité du plan, soit son adaptation (ATF 132 II 408 consid. 4.2 p. 413 et la jurisprudence citée).
6.5 La recourante soutient à tort que l'appréciation relative au respect de l'OPB ne reposerait sur aucun élément concret. Il apparaît en effet que le périmètre concerné se situe dans une zone sensible, soit l'entrée nord de la Ville de Lausanne, le long de la route de Berne, à la jonction autoroutière de Vennes en face du parking d'échange P+R. Ce dernier secteur a connu un développement rapide depuis l'adoption en 2001 du plan d'affectation cantonal n° 309 Vennes (PAC Vennes). Celui-ci a été adapté en 2005 par une augmentation de la capacité du parking (de 800 à 1200 places) et de l'étendue des bâtiments. La réalisation a commencé en 2007 avec le parking, puis les bâtiments comprenant un musée AquaEcopole, un centre médical, des commerces et un hôtel, ont été autorisés en septembre 2009. Cette évolution n'était prévisible que dans une certaine mesure lors de l'élaboration, en 2004, du plan général d'affectation. Elle a abouti à la création d'une zone d'importance stratégique, à l'entrée nord de l'agglomération lausannoise, directement accessible depuis l'autoroute et la route de Berne et particulièrement bien desservie par les transports publics, en particulier depuis la réalisation du métro M2.
Cette évolution a été accompagnée d'une augmentation importante du trafic sur la route de Berne entre 2005 et 2009. Selon les derniers comptages effectués en 2009, le trafic serait passé de 20'200 à 29'900 véhicules par jour, soit une augmentation de quelque 50%, de sorte que la protection antibruit installée le long de la route de Berne ne serait plus suffisante. Il s'agit là manifestement d'un élément nouveau par rapport à la situation de 2004 et dont l'autorité de planification n'a apparemment pas pu tenir compte. Contrairement à ce que soutient la recourante, la demande d'adoption d'un plan de quartier ne tend pas à déclasser l'ensemble des parcelles, mais au contraire à les densifier et à permettre une utilisation autre que l'habitation individuelle (soit notamment des services ou des commerces) tenant mieux compte de la situation des parcelles et de l'évolution des nuisances. Cela est conforme en particulier à l'art. 3 al. 3 let. b LAT, qui impose de préserver autant que possible les lieux d'habitation des atteintes nuisibles ou incommodantes. Sur ce point, les motifs retenus dans l'arrêt attaqué apparaissent pertinents, objectifs et conformes aux principes régissant l'aménagement du territoire.
6.6 Aux difficultés de maintenir l'affectation actuelle s'ajoutent des motifs d'opportunité tendant à la densification du secteur - motifs sur lequel le Tribunal fédéral ne saurait se prononcer librement -, ainsi que des raisons particulières d'urbanisme. Selon la CDAP en effet, le problème de l'accès aux différentes parcelles (qui ne peuvent être desservies depuis le chemin des Roches) devrait être réglé de manière coordonnée, des accès individuels depuis la route de Berne à grand trafic ne paraissant pas envisageables. Cette considération ne prête pas le flanc à la critique.
6.7 Il apparaît ainsi que les circonstances ont rapidement évolué depuis l'élaboration du plan général des zones. Cette évolution n'était qu'en partie prévisible, l'augmentation du trafic routier et des nuisances qui l'accompagnent ayant manifestement été sous-évaluée lors de l'adoption du plan de 2006. Cela justifie l'adaptation de la planification ordonnée par la cour cantonale.
7. Le premier recours doit par conséquent être rejeté.
1C_302/2010
8. Le second recours est dirigé contre l'annulation de l'autorisation de construire du 12 août 2009. La recourante, en tant que propriétaire, a qualité pour agir. L'arrêt attaqué est final. Dans la mesure où l'obligation faite à la Municipalité d'adopter un nouveau plan de quartier a été confirmée, on peut s'interroger sur l'intérêt de la recourante à ce qu'il soit statué sur la validité d'un permis de construire qui, désormais, pourrait être refusé en application de l'art. 77 LATC. La question peut demeurer indécise puisque le recours doit de toute manière être écarté.
9. Invoquant son droit d'être entendue, la recourante reproche au Tribunal cantonal de s'être fondé sur les seules déclarations du représentant du SEVEN pour retenir de nouvelles données de comptage du trafic et considérer que l'autorisation délivrée par ce service pouvait être révoquée. La recourante avait demandé une détermination claire du même service à ce sujet, et demandé à pouvoir se prononcer si d'autres chiffres devaient être retenus.
9.1 Dans leurs recours, les consorts B._, C._ et D._ relevaient que le rapport de bruit produit par la constructrice se fondait sur des valeurs de trafic qui ne correspondaient pas à ce que le Service cantonal des routes avait constaté à une autre occasion, en 2007 (27'000 véhicules par jour). Dans sa réponse aux recours du 5 novembre 2009, le SEVEN a relevé que les données disponibles sur internet remontaient à 2005, et que, renseignement pris auprès du Service des routes, les comptages effectués de janvier à septembre 2009 indiquaient un trafic journalier approximatif de 29'900 véhicules. Le 22 janvier 2010, la recourante s'est déterminée en produisant une lettre du bureau qu'elle avait mandaté; celui-ci critiquait les considérations du SEVEN à propos de la différence de bruit entre le jour et la nuit, et estimait que les évaluations de trafic n'étaient que des hypothèses puisque le parking d'échange de Vennes était encore en cours de construction. Les nouvelles données de trafic ont été confirmées par le représentant du SEVEN lors de l'inspection locale du 16 février 2010. La recourante s'est encore déterminée le 22 mars 2010, en constatant que le SEVEN n'avait pas été invité à produire des données actualisées quant au trafic, de sorte que les calculs effectués pour la mise à l'enquête restaient selon elle d'actualité.
9.2 Il ressort de ce qui précède que la recourante a été dûment informée de l'évolution des données disponibles à propos du trafic. Emanant des services compétents (soit le SEVEN et le Service des routes), l'information sur les comptages effectués dans le courant de l'année 2009 était fiable et n'avait donc pas à être étayée par des documents particuliers. Cette information concorde d'ailleurs avec les données dont faisaient état les consorts B._, C._ et D._, soit 27'000 véhicules par jour en 2007. La recourante a pu se déterminer à ce propos; elle a certes requis la production de "données actualisées", mais la cour cantonale pouvait considérer, sans arbitraire ni formalisme excessif, que les dernières informations communiquées par le SEVEN étaient suffisantes de ce point de vue, et que la production des documents relatifs aux derniers comptages n'était pas requise. Il en résulte que le droit d'être entendu a été respecté.
10. La recourante se plaint ensuite d'arbitraire. La cour cantonale a retenu que les terrassements impliquaient la construction d'un mur en limite de propriété pouvant entraîner une perte de vue et d'ensoleillement; cela serait incompréhensible, s'agissant d'une construction souterraine. La recourante estime aussi que la cour cantonale aurait confondu, dans l'application de la clause d'esthétique, un remblai et un déblai, et que les considérations sur la création de locaux habitables avec peu d'ensoleillement seraient sans rapport avec cette question. Enfin, l'exigence d'un plan indiquant la cote d'altitude au pied des arbres constituerait un formalisme excessif, dès lors que le service compétent avait délivré l'autorisation spéciale nécessaire.
10.1 Selon la jurisprudence, l'appréciation des preuves ou l'établissement des faits sont arbitraires (art. 9 Cst.; pour une définition de l'arbitraire cf. ATF 134 I 263 consid. 3.1 p. 265 s.; 133 I 149 consid. 3.1 p. 153) lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle tire des constatations insoutenables des éléments recueillis (ATF 129 I 8 consid. 2.1 p. 9; 127 I 38 consid. 2a p. 41).
10.2 Le Tribunal cantonal a considéré que le garage souterrain, en partie en limite de propriété, n'était admissible en application des art. 81 RPGA et 84 al. 2 LATC que si la topographie, le profil et la nature du sol ne sont pas sensiblement modifiés, et s'il n'en résulte pas d'inconvénient pour le voisinage. Il a ensuite retenu que le projet impliquait d'importantes modifications du terrain, puisqu'il comportait des mouvements de terre correspondant à un immeuble de trois étages avec des murs de soutènement de 6 m. Ces considérations, qui ne sont pas contestées par la recourante, suffisaient pour retenir que les conditions précitées n'étaient pas réalisées, indépendamment de la question de l'impact visuel pour le voisinage. Dès lors, si certains termes utilisés peuvent paraître ambigus ou contradictoires à la recourante, il n'en résulte aucun arbitraire dans l'application des dispositions cantonales pertinentes.
10.3 Il en va de même s'agissant des mouvements de terre, jugés excessifs et partant contraires à la norme d'esthétique. La recourante insiste sur la confusion entre les termes "remblais" et "déblais", mais perd de vue que si cette question a été laissée indécise dans l'arrêt attaqué, c'est qu'elle n'était pas directement pertinente pour juger de l'admissibilité de la construction souterraine. Dans le résultat en tout cas, il n'y a aucun arbitraire.
10.4 On ne voit pas, enfin en quoi serait arbitraire l'exigence de plans plus précis concernant les arbres à abattre, quand bien même le service compétent se serait contenté des documents produits par la constructrice. La recourante perd à nouveau de vue que l'absence d'un tel plan n'est pas la seule raison pour laquelle le dossier a été considéré comme incomplet sur ce point: les documents de l'enquête complémentaire ne mentionnaient en effet qu'un seul arbre à abattre, le plan mis à l'enquête ne reportait pas correctement l'arborisation existante et il avait été constaté lors de l'inspection locale que la couronne des arbres avait une emprise plus importante. Dans ces conditions, les exigences posées par la cour cantonale, qui découlent d'ailleurs de la réglementation (art. 5 al. 2 let. d RPGA), n'ont, elles non plus, rien d'arbitraire.
11. Les considérations qui précèdent conduisent au rejet des deux recours. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires, fixés de manière globale, sont mis à la charge de la recourante, de même que les indemnités de dépens allouées aux différents intimés (art. 68 al. 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 1C_300/2010 et 1C_302/2010 sont jointes.
2. Les recours sont rejetés.
3. Les frais judiciaires, fixés à 4000 fr. pour les deux procédures, sont mis à la charge de la recourante.
4. Les indemnités de dépens suivantes sont mises à la charge de la recourante:
- 1'500 fr. en faveur de D._, C._ et B._ (procédure 1C_300/2010);
- 1'500 fr. en faveur de E._, F._ et G._, H._ et I._ (procédure 1C_300/2010);
- 1'500 fr. en faveur de D._, C._ et B._ (procédure 1C_302/2010);
- 1'500 fr. en faveur de E._ (procédure 1C_302/2010).
5. Le présent arrêt est communiqué aux mandataires des parties et de la Municipalité de Lausanne, ainsi qu'au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 16 décembre 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz