Faits:
A. Le 27 juin 2005, la Municipalité de Lutry a délivré à D._ et E._ l'autorisation de construire un bâtiment d'habitation sur la parcelle n° 3183 du cadastre de Lutry. Le bâtiment comprenait quatre appartements sur trois niveaux, avec un sous-sol comportant notamment huit places de parc, ainsi que quatre places de stationnement extérieures.
A._, opposant propriétaire de la parcelle voisine n° 299, a recouru au Tribunal administratif vaudois. Une convention a été passée le 30 août 2005; moyennant retrait du recours, le permis de construire devait être complété par les points suivants: concernant les mouvements de terre, une distance de 2 m devait être observée par rapport à la parcelle n° 299; s'agissant des quatre places de parking extérieures, une distance de 6 m devait être observée avec la même parcelle; la place d'évitement de la sortie du garage ne devait pas empiéter sur la distance de 2 m de terrain naturel. Trois plans corrigés, du 20 juin 2005, ont été approuvés par la Municipalité.
Le 17 octobre 2005, la Municipalité a autorisé, sans enquête publique, des modifications portant sur la distribution des locaux dans les combles et l'ajout de fenêtres rampantes dans la toiture, la suppression de balcons et le remplacement de portes-fenêtres par des fenêtres simples (façades est et ouest), et le remplacement de huit fenêtres par des portes fenêtres (façade sud).
Le 20 février 2006, A._ s'est adressé à la Municipalité pour se plaindre de la non-conformité des travaux: la dalle couvrant le sous-sol, empiétant sur la distance minimum à la limite de parcelles, dépassait la hauteur réglementaire de 1 m. Il demandait l'arrêt des travaux et le respect des plans. Les copropriétaires de la parcelle voisine n° 295, parmi lesquels B._ et C._, ont formé une requête semblable. Après avoir constaté sur place que le dépassement du terrain naturel était excessif et que la dalle de la terrasse du rez-de-chaussée avait été élargie de 1,5 m à 2,3 m sur une longueur de 6,2m de chaque côté du bâtiment, la Municipalité a refusé d'interrompre les travaux, par décisions des 28 février et 13 mars 2006, tout en exigeant le dépôt d'une demande d'autorisation. Par actes des 21 et 24 mars 2006, A._, B._ et C._ ont saisi le Tribunal administratif vaudois, concluant à la démolition des volumes illicites et à une mise à l'enquête.
B. Le 26 avril 2006, A._, B._ et C._ ont également formé recours contre la décision du 17 octobre 2005, dont ils avaient pris connaissance dans le cadre de la procédure pendante devant le Tribunal administratif. Ils demandaient principalement à ce que les modifications litigieuses soient soumises à enquête publique.
C. Le 27 juillet 2007, la Municipalité a délivré une autorisation destinée à régulariser l'agrandissement des terrasses. A._ a recouru au Tribunal administratif contre cette décision, concluant derechef à la démolition des travaux exécutés sans autorisation. B._ et C._ ont également recouru.
D. Le 12 octobre 2006, A._ a demandé à la Municipalité d'exiger la démolition de tous les aménagements extérieurs qui ne respectaient pas les plans faisant l'objet du permis de construire du 29 juin 2005 et les conditions qui y étaient liées. En dépit d'une décision du Tribunal administratif sur mesures provisionnelles imposant le maintien dans l'état actuel, les constructeurs avaient édifié un mur de soutènement et aménagé les abords de l'entrée de la propriété A._, puis, sur intervention de la Municipalité, créé un talus et aménagé une place d'évitement ne respectant toujours pas les plans. Considérant que la Municipalité refusait d'intervenir, A._ a déposé un nouveau recours tendant à ce que l'autorité soit enjointe d'exiger une mise en conformité de la place d'évitement selon le plan modifié du 20 juin 2005.
E. Les cinq recours ont été transmis à la Cour de droit administratif et public du Tribunal cantonal vaudois (CDAP). A._ étant décédé, sa veuve et ses deux fils ont déclaré vouloir poursuivre la procédure.
Par arrêt du 21 mai 2008, la CDAP a rejeté l'ensemble des recours. Les travaux visés par la décision du 17 octobre 2005 auraient certes dû faire l'objet d'une mise à l'enquête complémentaire, car ils avaient une incidence sur la surface brute de plancher, et donc le taux d'occupation des locaux; il ne s'agissait pas de travaux de peu d'importance. Toutefois, les recourants avaient finalement eu accès aux plans, et avaient été en mesure de contester la conformité des travaux; ils ne prétendaient pas que les différents changements de fenêtres violaient des dispositions légales ou réglementaires. Selon la demande initiale, la surface brute de plancher (SBP) était de 483,2 m2, ce qui correspondait au coefficient d'utilisation du sol (CUS) réglementaire de 0,5. Les modifications apportées aux combles tendaient à profiter de l'augmentation du CUS à 0.525 dans la réglementation communale; cela permettaient la création de deux chambres, d'une SBP de 31,4 m2 au total. Au total, la SBP était de 506, 58 m2 ce qui restait dans les limites autorisées. Les espaces souterrains qui empiétaient sur les distances réglementaires aux limites de parcelle dépassaient le terrain naturel de 1,4 m (façade sud-est) et 1,9 m (façade nord-ouest), alors que le dépassement maximum était de 1 m. Ces irrégularités ne ressortaient pas clairement des plans mis à l'enquête, mais pouvaient se déduire des cotes indiquées. Rien ne permettait de penser que les constructeurs aient délibérément trompé l'autorité. Il n'existait pas de motif suffisant pour révoquer l'autorisation de construire: aménagées comme terrasses, les parties supérieures du sous-sol étaient, en tant que telles, conforme à la réglementation; les recourants ne disposaient d'aucun intérêt à la mise en conformité des locaux enterrés. L'agrandissement des terrasses était lui aussi conforme à la réglementation; la convention du 30 août 2005 n'empêchait pas les constructeurs de modifier leur projet sur d'autres points. Enfin, suite à l'intervention des hoirs A._ du 12 octobre 2006, la Municipalité avait renoncé à exiger la mise en conformité de la place d'évitement avec le plan du 20 juin 2005: il convenait de constater préalablement les éventuelles irrégularités et d'entendre les parties avant de rendre une décision; le refus d'intervenir était suffisamment motivé, de sorte qu'il n'y avait pas de déni de justice.
F. Les Hoirs de A._, ainsi que B._ et C._ forment un recours en matière de droit public. Ils demandent l'annulation de l'arrêt de la CDAP et le renvoi de la cause à cette juridiction pour nouvelle décision dans le sens des considérants.
Sans prendre de conclusions formelles, la CDAP s'est déterminée sur le grief relatif à l'obligation de motiver. La Municipalité de Lutry s'en rapporte à justice. D._ et E._ concluent au rejet du recours.
Considérant en droit:
1. La voie du recours en matière de droit public est ouverte, la décision attaquée ayant été rendue dans une cause de droit public (art. 82 let. a LTF). Les recourants, propriétaires directement voisins de la construction litigieuse, ont qualité pour recourir au sens de l'art. 89 al. 1 LTF (cf. ATF 133 II 249 consid. 1.3.1 p. 252, 409 consid. 1.3 p. 413 et la jurisprudence citée).
2. Les recourants invoquent leur droit d'être entendus. Dans leurs recours cantonaux du 17 août 2006, ils soutenaient que l'aménagement des combles avait été rendu possible par l'élévation d'un mur d'embouchature de 1,9 m, soit une hauteur qui excédait le maximum de 1 m autorisé par la jurisprudence cantonale. Cette irrégularité qui résultait du permis de construire du 27 juin 2007, entré en force, pouvait toutefois être soulevée à l'encontre de l'autorisation complémentaire du 27 juillet 2006, laquelle aggravait encore la situation en rendant le niveau habitable. La cour cantonale aurait omis de statuer sur ce grief, qui aurait dû conduire en tout cas au refus du changement d'affectation des locaux. Subsidiairement, les recourants se plaignent d'arbitraire en reprochant à la CDAP d'avoir admis que le dernier niveau pouvait être qualifié de comble, d'avoir permis l'augmentation du taux d'occupation, et d'avoir méconnu que les plans mis à l'enquête du 24 mars au 13 avril 2006 ne permettaient pas de vérifier la conformité de ces modifications.
2.1 Conformément au droit d'être entendu, l'autorité doit indiquer dans son prononcé les motifs qui la conduisent à sa décision (ATF 123 I 31 consid. 2c p. 34; 112 Ia 107 consid. 2b p. 109). Elle n'est pas tenue de discuter de manière détaillée tous les arguments soulevés par les parties, ni de statuer séparément sur chacune des conclusions qui lui sont présentées. Elle peut se limiter à l'examen des questions décisives pour l'issue du litige; il suffit que le justiciable puisse apprécier correctement la portée de la décision et l'attaquer à bon escient (ATF 134 I 83 consid. 4.1 p. 88; 130 II 530 consid. 4.3 p. 540; 126 I 97 consid. 2b et les arrêts cités).
2.2 Dans leurs écritures à la cour cantonale, les recourants soutenaient que l'autorisation d'habiter le dernier niveau aggravait une situation non réglementaire; ils partaient toutefois de la prémisse, manifestement erronée, que les locaux figurant sur les premiers plans n'étaient pas habitables, alors que ceux-ci comportaient, outre des réduits, deux salles de jeux de 32 m2 accessibles depuis les salons de l'étage inférieur, ce qui ressort clairement des plans déposés. Or, l'argument relatif à la hauteur du mur d'embouchature n'avait pas été soulevé dans le recours dirigé contre la première autorisation de construire. Du point de vue de l'habitabilité, le remplacement des salles de jeux par des chambres - de taille réduite - n'apportait donc aucun changement. Il impliquait certes un nouveau calcul de la surface brute de plancher utile (art. 16 du règlement sur les constructions et l'aménagement du territoire de la commune de Lutry - RCAT) et du CUS - question qui a été traitée par la CDAP et sur laquelle les recourants ne reviennent pas - , mais ne permettait pas de revenir sur la question des niveaux habitables au sens de l'art. 154 RCAT. Dans la mesure où il apparaissait tardif et au surplus sans pertinence, le grief n'appelait pas de motivation spécifique de la part de la cour cantonale; l'arrêt attaqué n'est pas non plus arbitraire dans son résultat, puisqu'à ce stade, il n'était plus possible de remettre en cause, par le biais des aménagements intérieurs, la question des niveaux admissibles.
3. Les recourants se plaignent aussi d'une constatation inexacte des faits à propos de l'extension des terrasses. La CDAP aurait omis d'établir la hauteur de ces terrasses, une fois achevées, ce qui empêcherait d'en apprécier la compatibilité avec l'art. 39 al. 3 et 4 du règlement cantonal d'application de la LATC (RATC). La cour cantonale aurait en outre arbitrairement ignoré que cette disposition impose de tenir compte des préjudices causés aux voisins.
3.1 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans l'établissement de celui-ci lui apparaîtraient d'emblée comme manifestes. Quant aux recourants, ils ne peuvent critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire, ce qu'il leur appartient de démontrer par une argumentation répondant aux exigences de l'art. 42 al. 2 LTF, respectivement de l'art. 106 al. 2 LTF. En outre, l'existence de faits constatés de manière inexacte ou en violation du droit n'est pas une condition suffisante pour conduire à l'annulation ou la modification de la décision attaquée. Il faut encore qu'elle soit susceptible d'avoir une influence déterminante sur l'issue de la procédure (art. 97 al. 1 in fine LTF).
3.2 La cour cantonale relève dans son arrêt que les locaux souterrains doivent être recouverts de "dalettes", comme l'ensemble des terrasses entourant le bâtiment. Il ne s'agit manifestement pas d'un revêtement susceptible de modifier de manière perceptible la hauteur des terrasses, déterminée à 1,4 et 1,9 m. L'épaisseur du revêtement ne change rien, du point de vue de l'impact sur les voisins. Les recourants reprochent à la CDAP d'avoir méconnu l'art. 39 al. 3 et 4 RATC en affirmant que la réglementation communale ne limitait pas la dimension des terrasses de plain-pied; ils se bornent toutefois à affirmer que l'extension de ces terrasses constituerait "à l'évidence" un préjudice. Cela n'a rien d'évident: l'élargissement litigieux permet d'unifier, sur toute la longueur, la largeur des terrasses situées de part et d'autre du bâtiment: les parties de ces terrasses situées plus au nord ont déjà une largeur de 2,3 m. Depuis les parcelles des recourants, la vue ne s'en trouve pas sensiblement changée, dans la mesure où le bâtiment occupe tout l'arrière-plan. Enfin, les recourants ne prétendent pas que les terrasses litigieuses seraient surélevées au point d'offrir une vue plongeante sur leurs biens-fonds (cf. arrêt 1P.446/2001 du 24 septembre 2001 concernant une terrasse surélevée de plus de trois mètres). Les recourants ne démontrent donc pas que l'arrêt attaqué serait arbitraire sur ce point.
3.3 Les recourants prétendent aussi que l'élargissement des terrasses aurait pour effet de rendre impossible la réalisation de la place d'évitement, selon les plans du 20 juin 2005 intégrés au permis de construire; ceux-ci impliquent en effet une distance de 1,5 m à la parcelle n° 299 et une largeur de la place d'évitement de 2,5 m; compte tenu de la distance de 6 m entre l'immeuble et la limite de propriété, une terrasse de 2,3 m empêcherait une implantation conforme au permis de construire. Statuant sur le recours dirigé contre la décision municipale du 30 octobre 2006, la CDAP a constaté à ce sujet que le plan d'implantation du 3 mars 2006 différait quelque peu de celui du 20 juin 2005; cette différence était sans conséquence car la réalisation de la place d'évitement restait soumise au premier plan, le second ne portant que sur l'élargissement des terrasses. La CDAP a confirmé le refus d'intervenir de la Municipalité, en considérant que la requête tendant au rétablissement des lieux était prématurée; comme le relevait la Municipalité, les éventuelles irrégularités devaient au préalable être constatées, et les parties entendues.
Ainsi, contrairement à ce que soutiennent les recourants, la situation juridique est claire: la place d'évitement demeure régie par le plan du 20 juin 2005, et les recourants sont en droit, le cas échéant, d'en exiger le respect.
3.4 Les recourants relèvent que la convention passée avec les intimés ne portait pas seulement sur les objets figurant sous point III (mouvements de terre, distance des places de parc extérieures et distance de 2 m avec la parcelle n° 299, sur laquelle la place d'évitement ne pouvait être aménagée au-dessus du terrain naturel), mais aussi sur l'intégration des plans du 20 juin 2005 au permis de construire. Il n'en demeure pas moins que l'accord entre l'opposant et les constructeurs se rapportait essentiellement aux objets mentionnés sous point III de la convention; les plans ne faisaient que les concrétiser. La largeur des terrasses ne faisait manifestement pas partie de cet accord, et l'élément essentiel, concernant la place d'évitement, est l'observation d'une certaine distance de terrain naturel avec la parcelle voisine. Or, les recourants ne démontrent pas que l'élargissement des terrasses rendrait impossible le respect de ce dernier point. Pour cette raison également, le grief tiré du principe de la bonne foi et du respect de la convention apparaît mal fondé, et en tout cas prématuré puisqu'à ce stade, la Municipalité ne s'est pas prononcée sur la conformité des travaux déjà réalisés.
4. Le recours doit par conséquent être rejeté. Conformément aux art. 66 al. 1 et 68 al. 2 LTF, les frais judiciaires sont mis à la charge des recourants, de même qu'une indemnité de dépens allouée aux intimés D._ et E._.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge des recourants.
3. Une indemnité de dépens de 2000 fr. est allouée aux intimés D._ et E._, à la charge solidaire des recourants.
4. Le présent arrêt est communiqué aux parties et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lausanne, le 21 novembre 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz