Faits:
A. Par acte authentique du 22 mars 2007, A._ a promis-vendu aux architectes D._, B._ et C._, sa part d'indivision (1/5ème) dans la parcelle n° 14277 du cadastre de Meyrin. D'une surface de 16817 m2, la parcelle est située en 3ème zone de développement, au lieu-dit "Les Vergers". Les parties s'engageaient à signer l'acte de vente entre le 1er août et le 31 décembre 2008 (délai prolongeable), dès l'entrée en force du plan localisé applicable, et dès confirmation, dans ce plan, du prix de vente de 542 fr. le m2 pour un coefficient d'utilisation du sol de 1. Les conditions de l'acte de vente sont précisées dans le détail. En particulier, le prix de vente est fixé à 542 fr. le m2, soit 1'822'962 fr. pour 1/5ème. La promesse de vente précise que l'Etat de Genève et la Commune de Meyrin disposent d'un droit de préemption en vertu de la loi générale sur le logement et la protection des locataires (LGL).
Le 24 avril 2007, le Registre Foncier du canton de Genève a refusé l'inscription d'un droit d'emption sur la part indivise de A._, au motif que celle-ci ne constituait pas un immeuble et que le transfert de propriété n'était pas immédiatement exigible.
Le 22 mai 2007, le Conseil d'Etat a fait savoir qu'il renonçait à exercer son droit de préemption. En revanche, le 6 juin 2007, le Conseil municipal de la commune de Meyrin a décidé d'exercer ce droit, au prix de 100 fr. le m2, soit 336'340 fr. Déjà propriétaire de plusieurs terrains dans le périmètre, la commune souhaitait réaliser des logements d'utilité publique au sens de la LGL; le prix convenu entre privés ne permettrait pas de construire de tels logements tout en respectant la volonté de créer un quartier exemplaire au niveau du développement durable (mixité, matériaux, gestion des aménagements extérieurs, gestion de l'eau, de l'énergie et des mobilités).
B. Les promettants-vendeur et acquéreurs ont recouru au Tribunal administratif genevois, en relevant que l'acte du 22 mars 2007 n'était pas assimilable à une vente ou une promesse de vente, puisqu'il n'y avait pas de transfert de propriété mais une simple cession de droits indivis. L'exercice du droit de préemption apparaissait également disproportionné, car le projet d'acquisition était destiné à la réalisation de logements répondant aux besoins de la population; le prix de vente permettait une telle réalisation, et correspondait au prix annoncé par le Conseil d'Etat pour la zone de développement 3.
Par arrêt du 27 novembre 2007, le Tribunal administratif a rejeté le recours. Même si le contrat du 22 mars 2007 n'emportait pas transfert de propriété, le but recherché était l'acquisition d'une partie du bien-fonds. L'exercice du droit de préemption communal reposait sur une base légale; il poursuivait un intérêt public à la réalisation de logements d'utilité publique tels que projetés par le Conseil d'Etat dans ce secteur. L'existence d'un projet privé ne l'emportait pas sur la volonté de la commune de mieux planifier les constructions à venir. La question du prix proposé par la commune devrait être traitée ultérieurement, lors de la procédure d'expropriation.
C. A._, D._, B._ et C._ forment un recours en matière de droit public et un recours constitutionnel subsidiaire. Ils demandent l'annulation de l'arrêt du Tribunal administratif et de la décision du 6 juin 2007 de la commune de Meyrin, subsidiairement le renvoi de la cause à la cour cantonale pour nouvelle décision.
Le Tribunal administratif se réfère à son arrêt. La commune de Meyrin conclut au rejet des recours. L'effet suspensif requis par les recourants a été accordé par ordonnance présidentielle du 14 février 2008.
Considérant en droit:
1. L'arrêt attaqué a été rendu, en dernière instance cantonale, dans une cause de droit public. Il peut faire l'objet d'un recours en matière de droit public au sens des art. 82 let. a et 86 al. 1 let. d LTF. Les recourants ont qualité pour agir au sens de l'art. 89 al. 1 LTF. La recevabilité du recours en matière de droit public entraîne l'irrecevabilité du recours constitutionnel subsidiaire (art. 113 LTF).
2. Dans un grief d'ordre formel, qui doit être examiné préalablement, les recourants reprochent au Tribunal administratif d'avoir violé leur droit d'être entendus en n'expliquant pas en quoi l'acte authentique du 22 mars 2007 devrait être considéré comme un contrat simulé; en particulier, il n'indiquerait pas pour quel motif le tribunal se serait écarté du sens littéral de cette convention, pour considérer que la volonté des parties portait sur l'acquisition de 1/5ème de la parcelle n° 14277, tout en retenant que les promettants-acquéreurs ne pouvaient exiger directement le transfert de propriété. Le Tribunal administratif ne pouvait par ailleurs pas, sans instruire la question, retenir que la commune était mieux à même que les promoteurs privés de réaliser des logements d'utilité publique.
2.1 Selon la jurisprudence, le droit d'être entendu (art. 29 al. 2 Cst.) comporte notamment l'obligation pour le juge de motiver sa décision, afin que ses destinataires et toutes les personne intéressées puissent la comprendre et l'attaquer utilement en connaissance de cause s'il y a lieu, et qu'une instance de recours soit en mesure, si elle est saisie, d'exercer pleinement son contrôle (cf. ATF 126 I 15 consid. 2a/aa, 97 consid. 2b; 125 II 369 consid. 2c; 124 II 146 consid. 2a; 124 V 181 consid. 1a).
2.2 L'arrêt attaqué évoque certes les principes applicables aux contrats simulés, en se référant notamment à l'arrêt du Tribunal fédéral 1P.767/1991 du 22 avril 1993. Toutefois, la cour cantonale n'est pas arrivée à la conclusion que la promesse de vente du 22 mars 2007 était un contrat simulé; elle a au contraire retenu que celle-ci devait être assimilée à une aliénation à titre onéreux, en se fondant sur la forme de l'acte (acte authentique), sur son intitulé (promesse de vente et d'achat) et sur les éléments du contrat (prix de vente et conditions). Cette motivation est suffisante pour permettre aux recourants de contester l'application des art. 3 ss LGL; elle satisfait par conséquent aux exigences de l'obligation de motiver. La question de savoir s'il peut y avoir assimilation à une promesse de vente malgré l'absence de transfert de propriété ne relève pas des garanties formelles, mais du fond.
2.3 Par ailleurs, si la cour cantonale a considéré que la commune était mieux en mesure que les promoteurs privés de planifier la construction logements sociaux, elle ne s'est pas livrée à une appréciation des projets respectifs; elle a simplement estimé que l'existence d'un projet privé ne faisait pas échec à l'exercice du droit de préemption, et que la commune était déjà propriétaire de plusieurs parcelles dans le périmètre "Les Vergers", ce qui est effectivement susceptible de faciliter la réalisation de ses propres projets. Du point de vue de l'obligation de motiver, ce sont là aussi des considérations que les recourants sont à même de contester valablement.
3. Sur le fond, les recourants se plaignent d'une application arbitraire de l'art. 4 LGL. Selon eux, la promesse de vendre la part d'indivision de A._ ne pouvait être assimilée à une promesse de vente portant sur l'immeuble proprement dit. Même si, comme le soutient la commune de Meyrin, le but des parties était d'éluder le droit de préemption communal, il n'existait aucun contrat dissimulé valable portant sur l'aliénation d'une part déterminée du bien-fonds. A défaut d'acte d'aliénation valable, la commune ne pouvait pas exercer son droit de préemption. Par ailleurs, la confirmation de l'arrêt cantonal impliquerait le maintien de la délibération communale du 7 juin 2007, laquelle constate par erreur l'existence d'un droit de propriété de A._ sur la parcelle. Enfin, l'exercice du droit d'expropriation selon l'art. 6 LGL serait impossible, faute de porter sur un objet déterminé.
La commune de Meyrin relève que la "promesse de vente" constituerait une promesse de cession de droits successifs au sens de l'art. 635 al. 2 CC, soumise à la forme écrite et conférant au cessionnaire une créance au transfert des choses et droits reçus dans le partage. Le cessionnaire pourrait ainsi directement exiger le transfert de propriété après le partage (art. 665 al. 1 CC), en requérant au besoin celui-ci sur la base de l'art. 604 CC. L'Etat ne pourrait plus intervenir par la suite pour exercer son droit de préemption. La construction juridique des intimés aurait donc pour but d'éluder ce droit.
3.1 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient aux recourants de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
3.2 La LGL a pour but de permettre à l'Etat d'encourager la construction de logements d'utilité publique et d'améliorer la qualité de l'habitat, par le biais d'acquisitions de terrains, de financements de projets de constructions et de contrôle des loyers (art. 1 LGL). La loi instaure à cet effet un droit de préemption et d'expropriation en faveur de l'Etat et des communes (art. 2 LGL). Ce droit s'applique notamment aux biens-fonds situés en zone de développement (art. 3 LGL). Selon l'art. 4 LGL, le propriétaire qui aliène ou promet d'aliéner avec droit d'emption un bien-fonds soumis au droit de préemption de l'Etat doit en aviser immédiatement le Conseil d'Etat et la commune lors de la passation de l'acte notarié; le propriétaire et l'acquéreur sont entendus. Conformément à l'art. 5 LGL, le Conseil d'Etat décide, dans les 60 jours, s'il renonce à exercer son droit, s'il entend acquérir le bien-fonds aux prix et conditions fixés dans l'acte, ou s'il offre de l'acquérir aux prix et conditions fixés par lui; dans ce dernier cas, si l'offre n'est pas acceptée, il peut recourir à la procédure d'expropriation conformément à l'art. 6 LGL. Si le Conseil d'Etat renonce à exercer son droit de préemption, la commune dispose ensuite d'un nouveau délai de 30 jours pour faire valoir les mêmes prérogatives.
3.3 L'art. 3 LGL ne contient pas de définition précise des actes d'aliénation soumis au droit de préemption. Selon la jurisprudence du Tribunal administratif, confirmée par le Tribunal fédéral (arrêt 1P.767/ 1991 du 22 avril 1993), le terme d'aliénation recouvre tout transfert volontaire de la propriété ou d'un droit, opéré intégralement ou partiellement à titre onéreux. Au regard des buts poursuivis par la loi, le droit de préemption de l'Etat ne doit en effet pas se limiter aux seuls actes de vente; il s'étend à tous les actes de réalisation assimilables à la vente (y compris en cas de réalisation forcée - cf. SJ 2005 I 545), à l'exclusion des aliénations sans contre-prestation pécuniaire, telles les donations mixtes (ATF 126 III 187 consid. 2b; arrêt 1P.767/1991 du 22 avril 1993, consid. 2b). Tel est également le sens de l'art. 216c al. 1 CO, selon lequel le droit de préemption légal peut être exercé en cas de vente ainsi qu'à l'occasion de "tout autre acte juridique équivalant économiquement à une vente" (ATF 126 III 187 consid. 2b). L'élément déterminant est la conclusion d'une convention visant au transfert de la propriété de l'immeuble contre une prestation pécuniaire. Constituent notamment des cas de préemption, en droit privé, la dation en paiement, les enchères volontaires, les ventes conditionnelles dont le préempteur accepte les conditions et l'exercice d'un droit d'emption (STEINAUER, Les droits réels, Berne 2002, tome 2 p. 146 et les exemples cités).
3.4 La promesse de vente du 22 mars 2007 porte non pas sur un immeuble proprement dit, mais sur les droits indivis de A._, pour 1/5ème, sur la parcelle 14277 qu'il détient actuellement en main commune avec les autres membres de l'hoirie (art. 602 al. 2 CC). La promesse a été passée en forme authentique et avec l'accord des co-héritiers, mais ces deux formalités n'étaient pas nécessaires puisqu'il ne s'agissait que d'une cession de droit au sens de l'art. 635 CC - et non d'une vente immobilière -, qui n'obligeait que le cédant (art. 635 al. 2 CC), raison pour laquelle l'inscription d'un droit d'emption a été refusée par le Registre foncier. L'acte du 22 mars 2007 n'a donc pas pour but de transférer immédiatement aux acheteurs la propriété d'une part de l'immeuble. Selon l'art. 4 LGL, le droit de préemption de l'Etat peut aussi s'exercer en cas de promesse d'aliénation, contrairement à la solution qui prévaut en droit privé (ATF 85 II 572 consid. 4 p. 578); il faut toutefois pour cela qu'un droit d'emption ait été convenu. Si une clause de ce type existe bien dans la promesse de cession, l'inscription d'un tel droit a été refusée par le registre foncier, faute de porter sur un immeuble. Les conditions posées par la loi (aliénation ou promesse d'aliénation avec octroi d'un droit d'emption) ne sont donc pas réalisées.
3.5 Pour qu'une promesse de cession puisse, au regard du texte et du but de la loi, être assimilée sans arbitraire à une aliénation onéreuse, il faudrait à tout le moins que l'objet, les conditions et le prix de vente ultérieurs en soient déjà précisés. Tel n'est pas non plus le cas en l'espèce.
La cession de droit successif à un tiers (art. 635 al. 2 CC) confère à ce dernier un droit personnel à la délivrance des biens reçus par le cédant dans le partage. Le cessionnaire n'acquiert pas la qualité d'héritier, et il ne peut pas intervenir directement dans le partage. Le droit d'exiger le transfert de propriété ne peut donc pas être exercé tant que le partage n'a pas eu lieu. Dans l'ignorance des expectatives dont dispose le cédant, il n'est pas possible d'affirmer avec certitude que celui-ci pourrait se voir attribuer, à l'issue du partage, une partie au moins de l'immeuble concerné par la cession. La commune de Meyrin relève que le cessionnaire pourrait obtenir l'inscription au registre foncier par voie judiciaire (art. 665 al. 1 CC); si cela est vrai pour une cession de droit successif, il n'en va pas de même pour une promesse de cession, soumise à certaines conditions. Selon les art. 4 et 5 de la promesse de cession, la signature de "l'acte de vente" est soumise à la condition que, entre le 1er août et le 31 décembre 2008 (délai prolongeable), le plan localisé de quartier soit entré en force et que le prix de 542 fr. le m2 soit atteint pour un coefficient d'utilisation de 1. Rien ne permet d'affirmer à l'heure actuelle que ces conditions - dont la réalisation ne dépend pas des parties au contrat - seront effectivement remplies dans le délai prévu. Par ailleurs, il n'est pas non plus exclu que la cession se fasse à un prix de vente inférieur, puisque le contrat prévoit en son article 10 que le prix pourra être adapté proportionnellement en cas de densité plus faible fixée dans le plan localisé de quartier. Ces différents points ne seront réglés que lors de la signature de l'acte de vente prévu à l'art. 4 de la convention.
3.6 Si les termes de la convention font clairement ressortir la volonté des cessionnaires d'obtenir à terme une partie des droits de propriété sur la parcelle en question, les conditions de la cession ne paraissent manifestement pas suffisamment arrêtées pour permettre l'exercice du droit de préemption de l'Etat. Dans ces circonstances, il n'est pas soutenable d'assimiler une promesse de cession à une aliénation au sens de l'art. 4 LGL. Le recours en matière de droit public doit par conséquent être admis, sans qu'il y ait lieu d'examiner les griefs relatifs aux art. 26 et 27 Cst. ainsi qu'au principe de la proportionnalité.
4. Sur le vu de ce qui précède, le recours constitutionnel subsidiaire est irrecevable. En revanche, le recours en matière de droit public est admis et l'arrêt attaqué est annulé, de même que la délibération du 6 juin 2007 du Conseil municipal de Meyrin prévoyant l'exercice du droit de préemption communal. Conformément à l'art 66 al. 4 LTF, il n'est pas perçu de frais judiciaires. Une indemnité de dépens est allouée aux recourants, à la charge de la commune de Meyrin (art. 68 al. 1 LTF). La cause est renvoyée au Tribunal administratif pour nouvelle décision sur les frais et dépens de l'instance cantonale.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est admis et l'arrêt attaqué est annulé, de même que la délibération du 6 juin 2007 du Conseil municipal de Meyrin.
3. Il n'est pas perçu de frais judiciaires.
4. Une indemnité de dépens de 2000 fr. est allouée aux recourants, à la charge de la commune de Meyrin.
5. La cause est renvoyée au Tribunal administratif pour nouvelle décision sur les frais et dépens de l'instance cantonale.
6. Le présent arrêt est communiqué aux mandataires des parties et au Tribunal administratif du canton de Genève.
Lausanne, le 20 mai 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz