Faits :
A.
J._ SA envisage la réalisation et l'exploitation d'un projet-pilote de géothermie profonde sur le territoire de la commune de Haute-Sorne, à Glovelier, dans le canton du Jura.
Le plan directeur du canton du Jura comporte la fiche 5.07.1 traitant de la géothermie profonde, adoptée par le Parlement cantonal le 22 mai 2013 et approuvée par le Conseil fédéral le 18 décembre 2014. Selon ce document, " l a géothermie profonde représente une source d'énergie indigène, propre, quasiment illimitée et pouvant fournir de l'électricité en continu indépendamment des conditions météorologiques tout en ayant un faible impact sur le paysage. Le degré de maturité technologique ainsi que la problématique de la sismicité induite posent néanmoins des défis à relever ". La Suisse ne disposant pas d'un environnement volcanique permettant la production directe d'électricité à partir de vapeur, les températures nécessaires à la production d'électricité doivent être recherchées à de plus grandes profondeurs, soit 4 à 5 km. " Cela implique que les ressources géothermiques profondes ne peuvent être exploitées que grâce à la technologie des systèmes géothermiques stimulés (ou «pétrothermaux»). La première tentative d'application de cette technologie à l'échelle Suisse a eu lieu à Bâle et s'est soldée par l'abandon du projet en 2006 suite à des secousses sismiques fortement ressenties par la population (...) Un nouveau concept dit «multi-fractures horizontal» alliant des forages horizontaux à la stimulation séquentielle de petits volumes de roche a été développé. Cette approche devrait permettre la réalisation d'un système intrinsèquement sûr et offrant un rendement énergétique supérieur ". La sismicité naturelle faible à modérée ainsi que la faible densité du bâti rendent " le canton du Jura très approprié à l'échelle nationale pour la réalisation d'un projet-pilote de géothermie pétrothermale (...) La procédure décisive est celle du plan spécial. Tous les documents et autorisations nécessaires lui sont rattachés (étude d'impact sur l'environnement, autorisation ou concession pour exploiter le sous-sol, défrichement, autorisations spéciales [...] et plans des constructions et installations projetées [...]). Dans le cadre d'un premier projet (projet-pilote), la procédure de plan spécial cantonal s'applique ".
B.
Le projet de J._ a fait l'objet d'une enquête publique du 29 octobre au 28 novembre 2014, sous l'intitulé "projet-pilote de géothermie profonde" sur les parcelles 2136-2138 (d'une surface d'environ 18'000 m2), environ par moitié en zone agricole et en zone d'activités (constructible), à la limite est de la zone constructible de la localité de Glovelier. Le projet en question est constitué des documents suivants;
- un plan spécial cantonal comprenant un plan d'occupation du sol et des équipements et un cahier des prescriptions;
- des modifications du plan de zones;
- un permis de construire pour la phase de forage et la réalisation de la centrale géothermique;
- un rapport d'impact sur l'environnement du 9 juillet 2014 (RIE) établi par J._ avec annexes (étude de bruit, eaux souterraines, protection contre les accidents majeurs, sismicité induite).
Le plan de zone prévoit le classement du périmètre en zone d'activités A et la restitution à la zone agricole de neuf parcelles (pour une surface équivalente) situées sur la même commune. La planification spéciale prévoit les aires d'implantation des installations (bâtiments, bassins et plateforme de forage), ainsi qu'une surface verte clôturée au sud. Selon les prescriptions, la phase de forage est destinée à forer plusieurs puits d'environ 3500 à 5000 mètres de profondeur afin d'atteindre les couches géologiques adaptées à l'exploitation. Les dimensions des constructions sont fixées pour les phases de forage (pavillon d'accueil et installation de forage d'une hauteur de 70 m) et d'exploitation (centrale géothermique et aérorefroidisseurs). Les équipements et les mesures de protection de l'environnement sont mentionnés et détaillés dans le RIE. Ce dernier expose le principe de fonctionnement, qui consiste à injecter de l'eau dans un puits à une profondeur présentant une température suffisante, et à la remonter en surface par un autre puits. La chaleur est transférée dans un échangeur à un fluide caloporteur en circuit fermé, lequel se vaporise et actionne une turbine, puis est refroidi et recondensé. La construction de la centrale électrique et la phase d'exploitation ne doivent débuter qu'en cas de succès des phases de forage et de tests.
Le projet a suscité 33 oppositions, dont celles de A.A._ et B.A._, C._, D.D._ et E.D._, F.F._ et G.F._, H.H._ et I.H._ (ci-après: les opposants).
C.
Par arrêté du 2 juin 2015, le Conseil d'Etat du canton du Jura a approuvé le plan spécial cantonal et le permis de construire accordé par le Service cantonal du développement territorial (SDT) le 22 mai 2015, précisant que ce dernier faisait partie intégrante de la décision d'approbation. Les oppositions ont été écartées dans la mesure de leur recevabilité: la simultanéité des procédures de planification spéciale et d'autorisation de construire était conforme au droit; la localisation du site correspondait aux critères posés dans le plan directeur cantonal; les rapports d'expertise avaient démontré que les risques sismiques étaient faibles et que le projet serait réalisé par étapes successives et contrôlées; l'exploitant devait bénéficier d'une assurance responsabilité civile pour les dégâts survenus jusqu'à cinq ans après la fin des travaux, y compris en cas de faillite. Le risque de contamination de la nappe phréatique était maîtrisé, en particulier pour éviter que la pollution contenue dans les premiers mètres du terrain ne contamine les couches inférieures; un assainissement du site paraissait au surplus inutile; les valeurs limites de l'OPB étaient respectées et seraient contrôlées, le degré de sensibilité attribué au site lui-même (IV) étant sans pertinence de ce point de vue; la question de la perte de valeur des immeubles des opposants ne relevait pas de la procédure de planification spéciale et de permis de construire.
D.
Par arrêt du 13 septembre 2016, la Cour administrative du canton du Jura a très partiellement admis le recours formé par les opposants. En l'état, le droit cantonal ne soumettait pas la géothermie profonde à une concession. Une simple autorisation pouvait suffire - assortie comme en l'espèce d'une convention de collaboration avec l'Etat -, en particulier pour un projet-pilote. Ce n'était pas l'eau qui était utilisée, mais la chaleur du sous-sol. Il n'y avait pas non plus besoin d'un appel d'offres au sens de l'art. 2 al. 7 LMI. Selon le plan directeur cantonal, la procédure décisive était celle du plan spécial menée par le SDT, de sorte que le principe de coordination était respecté. Toutefois, selon le droit cantonal - et en dépit de l'indication contraire figurant dans le plan directeur cantonal -, l'autorité compétente pour délivrer le permis de construire n'était pas le Gouvernement mais le Conseil communal. Le permis de construire devait dès lors être annulé, mais ses dispositions pouvaient être intégrées au plan spécial. Le passage de 9'244 m2 de surfaces d'assolement (SDA) en zone d'activité, partiellement compensées (à raison de 5'188 m2, soit un solde non compensé de 4'056 m2) était justifié par l'intérêt public majeur à ce que le projet soit réalisé à l'endroit prévu. Les autres griefs relatifs à la protection contre les accidents majeurs, aux risques sismiques et de pollution (eaux potables et souterraines) ainsi qu'à l'OPB ont également été rejetés. Au demeurant, dans le cours de la procédure judiciaire, la commune de Haute-Sorne a été appelée en cause et a indiqué qu'elle soutenait le projet, considérant notamment que le promoteur présentait un concept abouti de maîtrise des risques sismiques et environnementaux.
E.
Agissant par la voie du recours en matière de droit public, A.A._ et B.A._, C._, D.D._ et E.D._, F.F._ et G.F._, H.H._ et I.H._ demandent au Tribunal fédéral l'annulation de l'arrêt cantonal, des art. 1 à 4 de l'arrêté d'approbation du 2 juin 2015 ainsi que du permis de construire du 22 mai 2015; subsidiairement, ils concluent au renvoi de la cause au Gouvernement. Ils requièrent l'effet suspensif, qui a été accordé par ordonnance du 8 mars 2017.
La cour cantonale conclut au rejet du recours, sans remarques particulières. Le Gouvernement conclut au rejet du recours dans la mesure où il est recevable. La commune mixte de Haute-Sorne conclut au rejet du recours. J._ conclut au rejet du recours dans la mesure où la qualité pour agir doit être reconnue aux recourants.
Invité à se prononcer, l'Office fédéral de l'environnement (OFEV) considère que le projet, au vu des études établies dans le cadre de cette procédure, respecte les exigences de la LPE, soit en particulier celles de l'art. 10 LPE (notamment en matière de risque sismique), de l'ordonnance sur la protection contre les accidents majeurs du 27 février 1991 (OPAM; RS 814.02) et de l'art. 11 al. 2 LPE (nuisances).
L'Office fédéral du développement territorial (ARE) estime notamment que, nonobstant les motifs erronés retenus par la cour cantonale, les conditions posées à l'art. 30 al. 1bis OAT sont en l'occurrence respectées. Au surplus, les normes sur le dimensionnement de la zone à bâtir et les règles de droit transitoire (art. 38a al. 2 LAT et 52a al. 2 let. a OAT) sont elles aussi respectées. L'Office fédéral de l'agriculture (OFAG) partage ce point de vue. Les autres personnes appelées en cause dans la procédure cantonale ne se sont pas déterminées sur le recours.
Le 20 septembre 2017, les recourants ont demandé la suspension de la cause jusqu'à droit connu sur le traitement par le Parlement jurassien de l'initiative populaire cantonale " Contre la géothermie profonde dans le Jura ". Cette requête a été rejetée par ordonnance du 14 novembre 2017.
Dans leurs observations du 15 janvier 2018, les recourants ont persisté dans leurs motifs et leurs conclusions et ont à nouveau requis la suspension de la procédure jusqu'à la remise par J._ d'un rapport sur un séisme intervenu en Corée du sud à proximité d'un site de géothermie profonde. Cette requête a été elle aussi rejetée par ordonnance du 18 janvier 2018. La commune Mixte de Haute-Sorne et le Gouvernement se sont référés à leurs précédentes écritures. J._ a également confirmé ses motifs et conclusions dans son écriture du 15 mars 2018.
Les recourants et l'intimée ont déposé de nouvelles écritures le 16 avril et le 28 juin 2018, le 13 et le 16 juillet 2018 (faisant état d'un arrêt de la Cour constitutionnelle du canton du Jura déclarant nulle l'initiative cantonale précitée) puis le 6 août 2018; les intimés ont demandé à pouvoir prendre position sur l'écriture du 13 juillet 2018. Par ordonnance du 9 août 2018, le Juge instructeur a considéré que la cause était suffisamment instruite et qu'il n'y avait pas lieu de fixer de nouveaux délais pour déterminations, les parties demeurant libres de présenter les observations qu'elles jugeraient encore nécessaires.
Considérant en droit :
1.
Le recours est dirigé contre une décision finale prise en dernière instance cantonale. Sur le fond, la contestation porte sur l'approbation d'un plan spécial cantonal et la délivrance de l'autorisation de construire. Le recours est dès lors recevable comme recours en matière de droit public au sens des art. 82 ss LTF.
1.1. Aux termes de l'art. 89 LTF la qualité pour recourir est reconnue à toute personne atteinte par la décision attaquée et qui dispose d'un intérêt digne de protection à son annulation ou à sa modification. Selon la jurisprudence, le voisin direct de l'installation litigieuse a en principe la qualité pour recourir. De même, s'il est certain ou très vraisemblable que l'installation litigieuse serait à l'origine d'immissions - bruit, poussières, vibrations, lumières ou autres - touchant spécialement les voisins, même situés à quelque distance, ces derniers peuvent aussi se voir reconnaître le droit de recourir (ATF 140 II 214 consid. 2.3 p. 219; 136 II 281 consid. 2.3.1 p. 285). La distance constitue ainsi un critère essentiel, la jurisprudence reconnaissant généralement la qualité pour agir lorsque l'opposant est situé à une distance allant jusqu'à 100 mètres environ du projet litigieux (ATF 140 II 214 consid. 2.3 p. 219 et les arrêts cités). La proximité avec l'objet du litige ne suffit toutefois pas à elle seule à conférer la qualité pour recourir contre l'octroi d'une autorisation de construire. Les voisins doivent en outre retirer un avantage pratique de l'annulation ou de la modification de la décision contestée qui permette d'admettre qu'ils sont touchés dans un intérêt personnel se distinguant nettement de l'intérêt général des autres habitants de la collectivité concernée, de manière à exclure l'action populaire (ATF 137 II 30 consid. 2.2.3 et 2.3 p. 33-34; 133 II 249 consid. 1.3.1 p. 252, 468 consid. 1 p. 470). Une atteinte particulière est reconnue lorsqu'il faut notamment s'attendre avec certitude ou avec une grande vraisemblance à des immissions sur le fonds voisin en provenance de l'installation (ATF 136 II 281 consid. 2.3.1 p. 285; 121 II 171 consid. 2b p. 174).
1.2. Selon l'arrêt cantonal, les recourants D.D._ et E.D._, ainsi que leurs fils et belle-fille F.F._ et G.F._, sont domiciliés dans la ferme située à quelque 65 m du périmètre du plan spécial et à 120 m des bâtiments prévus. Ils peuvent être considérés comme voisins directs de l'installation, laquelle sera visible depuis leur fonds. Ils sont en outre exposés à une augmentation perceptible du bruit en particulier lors des phases de construction et de forage (considérées comme des phases de chantier) durant lesquelles les limites de bruit fixées à l'art. 6 OPB seront dépassées, ce qui imposera la construction d'un mur antibruit du côté de la ferme des recourants, de 12 m de hauteur et de 65 m de long. Ces recourants apparaissent donc particulièrement atteints par la décision attaquée et ont un intérêt digne de protection à son annulation ou à sa modification au sens de l'art. 89 al. 1 LTF. Il n'y a pas dès lors à s'interroger sur la qualité pour agir des autres recourants, laquelle pourraient leur être reconnue en particulier en raison des risques sismiques invoqués devant l'instance précédente.
1.3. Dans la mesure où la qualité pour agir doit être reconnue aux recourants - ou à certains d'entre eux tout au moins -, ceux-ci peuvent, contrairement à ce que soutient l'intimée, soulever toutes les objections liées au projet propres à lui faire échec, notamment les griefs relatifs à la nécessité d'une concession ou au respect de la réglementation sur les marchés publics, et cela indépendamment d'un intérêt particulier sur ces points (ATF 141 II 50 consid. 2.1 p.52).
2.
Dans un premier grief, les recourants invoquent la garantie de la propriété (art. 26 Cst.). Ils relèvent que selon l'art. 664 al. 3 CC, la législation cantonale devrait réglementer l'exploitation des biens du domaine public, dont ferait partie l'utilisation du sous-sol. Or, comme l'a admis la cour cantonale, une base légale cantonale ferait défaut dans le domaine de la géothermie profonde, en dépit des atteintes à l'environnement qu'elle implique.
2.1. Selon l'art. 667 al. 1 CC, la propriété du sol emporte celle du dessus et du dessous, dans toute la hauteur et la profondeur utiles à son exercice (al. 1). Elle comprend, sous réserve des restrictions légales, les constructions, les plantations et les sources (al. 2). C'est le critère d'utilité (entendue objectivement) qui détermine l'étendue verticale de la propriété; au-delà de la hauteur et de la profondeur utiles, les prérogatives liées à la propriété privée disparaissent, l'art. 667 al. 1 CC ayant ainsi une fonction de délimitation destinée notamment à permettre la réalisation des infrastructures telles que les tunnels ferroviaires ou routiers ou les conduites souterraines (ATF 119 Ia 390 consid. 5c/bb p.397). L'Etat conserve ainsi la disposition des sous-sols, conformément au principe posé à l'art. 664 CC, et il peut en réglementer l'utilisation (ATF 119 Ia 390 consid. 5d p. 399; POLTIER/PIOTET, La marge d'autonomie du législateur cantonal dans l'exploitation de la géothermie, RDS 134/2015 I p. 449-492, 460 ss).
2.2. Dès lors, contrairement à ce que soutiennent les recourants, il n'est point besoin, du point de vue de la protection de la propriété privée, d'une base légale spécifique pour permettre l'utilisation des sols profonds. Les recourants n'expliquent pas non plus en quoi le projet litigieux porterait atteinte à leur droit de propriété, dès lors que les parcelles concernées sont la propriété de l'exploitant et que le projet n'implique d'ailleurs aucune mesure d'expropriation formelle.
Au surplus, c'est à tort que les recourants prétendent que la jurisprudence exigerait une base légale dans les présentes circonstances en rapport, si l'on comprend bien, avec l'usage du domaine public; les arrêts cités (ATF 139 I 406 consid. 3.2.4 et 4.1; 1C_9/2012 du 7 mai 2012 consid. 2.3; 2C_819/2014 du 3 avril 2015 consid. 6) ont en effet trait à la nécessité d'une base légale au sens de l'art. 36 Cst. pour fonder une restriction à la liberté d'expression ou à la liberté économique. Les recourants semblent se référer à cet égard en réalité à l'affirmation de la cour cantonale selon laquelle aucune base légale n'existerait en droit jurassien pour imposer une concession d'exploitation de géothermie profonde (consid. 4.2.3 de l'arrêt attaqué). Il s'agit toutefois d'une question distincte, examinée ci-après et sans rapport avec la garantie de la propriété. Dans la mesure où il est suffisamment motivé, le grief doit être rejeté.
3.
Les recourants soutiennent ensuite que l'exploitation de la géothermie profonde impliquerait un usage privatif du sous-sol qui nécessiterait l'octroi d'une concession, comme le prévoient actuellement les législations de onze cantons. Le fait qu'une telle concession ne soit pas prévue par le droit cantonal constituerait une lacune et ne permettait pas de s'en dispenser et de se contenter d'un simple régime d'autorisation.
3.1. La concession est un acte juridique par lequel l'autorité (le concédant) confère à une personne morale ou physique (le concessionnaire) le droit d'exercer une activité dans un domaine juridiquement réservé à la collectivité publique, autrement dit faisant l'objet d'un monopole étatique de droit ou de fait ou entrant dans les tâches de l'Etat (ATF 143 II 598 consid. 4.1.1 p. 604; POLTIER/PIOTET, op. cit. pp. 469 ss; cf. DUBEY/ZUFFEREY, Droit administratif général, 2014, n. 1416 ss p. 501 s.; HÄFELIN/MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 7 e éd., 2016, n. 2718 p. 617; MOOR, Droit administratif, vol. III, 1992, ch. 3.2.1.1 p. 120; RHINOW/SCHMID/BIAGGINI/ UHLMANN, Öffentliches Wirtschaftsrecht, 2 e éd., 2011, n. 38 p. 296; THIERRY TANQUEREL, Manuel de droit administratif, 2011, n. 1029 p. 351). La concession présente l'avantage d'une certaine stabilité (dont le fondement réside dans sa nature partiellement bilatérale, par opposition à la décision d'autorisation exclusivement unilatérale); elle vise des activités sur lesquelles la collectivité publique dispose d'un monopole (HÄFELIN/MÜLLER/UHLMANN, op. cit., n. 2720 p. 618; MOOR, op. cit., ch. 3.2.1.1 p. 120; ATF 132 II 485 consid. 9.5 p. 513; 80 I 239 consid. 3 p. 246). Lorsque l'octroi d'une concession n'est pas imposée par le droit supérieur, le canton est en principe libre de choisir entre la procédure d'autorisation, la conclusion d'un contrat de droit administratif ou l'octroi d'une concession.
3.2. En l'occurrence, les recourants n'indiquent pas en vertu de quelle disposition ou principe de droit cantonal, fédéral ou constitutionnel, le canton du Jura aurait l'obligation de procéder par voie de concession. Le droit cantonal prévoit une concession obligatoire dans le domaine de l'exploitation minière, en vertu de la loi sur l'exploitation des matières premières minérales (Loi sur les mines, RS/JU 931.1) adoptée le 26 octobre 1978 par l'Assemblée constituante du canton du Jura. Selon l'article premier de cette loi, une concession est nécessaire pour l'extraction de minerais, charbon, pétrole, gaz naturel et autres hydrocarbures solides, mi-solides, liquides ou gazeux, ainsi que de minéraux pour la production d'énergie atomique et les gisements salins (al. 2). L'exploitation d'autres matières premières minérales est laissée, dans le cadre des lois, à la discrétion des propriétaires fonciers et des usufruitiers (al. 3). Lorsque l'intérêt public l'exige, le Parlement peut, par décret, faire dépendre d'une concession l'exploitation d'autres matières premières minérales (al. 4). La cour cantonale a considéré que la régale des mines concernait exclusivement l'exploitation des matières premières minérales, et non l'utilisation de la chaleur du sous-sol. Les recourants ne prétendent pas qu'une telle interprétation du droit cantonal serait arbitraire. La cour cantonale a, de même, estimé que le projet n'utilisait pas l'eau du sous-sol, mais uniquement la chaleur de ce dernier, de sorte qu'une concession au sens de l'art. 12 de la loi jurassienne sur la gestion des eaux (LGEaux, RS/JU 814.20) n'était pas nécessaire. Sur ce point également, les recourants ne se plaignent pas d'arbitraire. L'interprétation de la cour cantonale est d'ailleurs confirmée par la lecture de l'art. 2 LGEaux, qui définit strictement les notions de gestion et d'approvisionnement, ainsi que de l'art. 12 al. 1 de la même loi qui évoque une concession ou une autorisation, sans privilégier l'une ou l'autre.
3.3. La fiche 5.07.1 du plan directeur cantonal prévoit la réalisation d'un projet-pilote de géothermie, selon la procédure du plan spécial cantonal. Il charge le Service cantonal compétent d'initier "les études sur la mise en place d'une procédure de concession ainsi que la perception d'une redevance pour l'exploitation de la chaleur du sous-sol, dans le cadre d'une modification de la loi cantonale sur les mines". Force est de constater que cette adaptation législative n'a pas encore eu lieu, même si, de manière générale, il apparaîtrait opportun que cette activité fasse l'objet d'une législation particulière vu les difficultés qu'elle suscite.
En définitive, à défaut de règle contraignante du droit supérieur dans ce domaine, les cantons restent libres de choisir les conditions d'autorisation d'une installation de géothermie profonde. Un régime d'autorisation n'est pas exclu, même si le régime de la concession apparaît le plus adéquat (POLTIER/PIOTET, op. cit. p. 468 SS).
4.
Invoquant ensuite l'art. 2 al. 7 de la loi fédérale sur le marché intérieur (LMI, RS 943.02), les recourants estiment que l'autorisation d'exploiter une installation de géothermie profonde devait faire l'objet d'un appel d'offres. Ils se réfèrent à la jurisprudence rendue en matière d'usage accru ou privatif du domaine public, ainsi qu'à un avis de la Commission fédérale de la concurrence (COMCO) qui soumet toute exploitation de la géothermie à l'art. 2 al. 7 LMI. Les recourants relèvent que la jurisprudence citée par la cour cantonale (selon laquelle l'art. 2 al. 7 LMI ne s'appliquerait pas aux projets relevant de l'initiative personnelle) fait l'objet de critiques en doctrine.
4.1. Sous le titre "Principes de la liberté d'accès au marché" (section 2 de la loi) et la note marginale "Liberté d'accès au marché", l'art. 2 al. 7 LMI prévoit que la transmission de l'exploitation d'un monopole cantonal ou communal à des entreprises privées doit faire l'objet d'un appel d'offres et ne peut discriminer des personnes ayant leur établissement ou leur siège en Suisse. Cette transmission est en général dénommée concession (de monopole), mais le terme employé n'est pas décisif en soi au regard du champ d'application de l'art. 2 al. 7 LMI (ATF 143 II 598 consid. 4.1 p. 604). Les dispositions du droit des marchés publics ne contiennent pas de définition de la notion de "marché public". Selon la doctrine et la jurisprudence, le fait que la collectivité publique, qui intervient sur le marché libre en tant que "demandeur", acquiert auprès d'une entreprise privée, moyennant le paiement d'un prix, les moyens nécessaires dont elle a besoin pour exécuter ses tâches publiques est caractéristique d'un marché public (cf. ATF 141 II 113 consid. 1.2.2 p. 117; ATF 125 I 209 consid. 6b p. 212 s.; arrêt 2C_198/2012 du 16 octobre 2012 consid. 5.1.2 et les références citées). En revanche, le simple fait que la collectivité publique permette à une entreprise privée d'exercer une activité déterminée n'a pas pour conséquence de soumettre cette activité aux règles des marchés publics. En effet, dans une telle situation, la collectivité ne charge pas l'entreprise privée d'exercer une activité, pas plus qu'elle ne se procure un bien, mais se limite à ordonner ou réguler une activité privée (ATF 125 I 209 consid. 6b p. 214 s.; arrêt 2C_198/2012 du 16 octobre 2012 consid. 5.1.3). Il en va en principe de même lorsque l'Etat octroie une concession exclusive pour l'utilisation du domaine public. Par cet acte, l'Etat n'obtient rien, mais se limite à accorder un droit à une entreprise privée et (en principe) à percevoir une contre-prestation (ATF 144 II 184 consid. 2.2; 143 II 120 consid. 6 p. 126; ATF 125 I 209 consid. 6b p. 212; arrêt 2C_198/2012 du 16 octobre 2012 consid. 5.1.3). Il en va toutefois différemment lorsque la concession octroyée est indissociablement liée à des contre-prestations d'une certaine importance qui devraient normalement faire l'objet d'un marché public (cf. ATF 135 II 49 consid. 4.4 p. 56; arrêt 2C_198/2012 du 16 octobre 2012 consid. 5.1.3 et les références citées). L'octroi d'une concession n'exclut donc pas d'emblée l'application du droit des marchés publics. Si l'octroi d'une concession exclusive est inclus dans un marché global, l'appréciation de certaines circonstances peut en effet conduire à qualifier l'entier du marché de "marché public" (POLTIER, Droit des marchés publics, 2014, n. 188). Tel est notamment le cas lorsque l'octroi d'une concession exclusive ne vise pas en premier lieu un but de régulation, mais le transfert d'un droit ayant valeur pécuniaire pour l'accomplissement de tâches publiques; il paraît alors approprié, en tenant compte de toutes les circonstances, de qualifier l'entier du marché de marché public (ATF 144 II 177 consid. 1.3.2; 184 consid 2.2). La jurisprudence mentionnée dans l'arrêt attaqué (arrêt 2C_198/2012 du 16 octobre 2012 consid. 6.1) ne constitue dès lors pas un cas isolé ou un simple obiter dictum (comme le soutiennent les recourants en citant POLTIER/PIOTET, op. cit p. 478), mais reflète une pratique constante encore récemment confirmée.
4.2. En l'occurrence, la demande déposée par l'intimée portant sur un projet-pilote de géothermie profonde ne fait nullement suite à une volonté de l'Etat de déléguer à une entreprise privée la réalisation d'une tâche publique, qu'il s'agisse d'exploiter en général la géothermie profonde ou de mener un projet-pilote particulier. L'Etat s'est en effet contenté d'autoriser l'intimée (personne morale privée) à exercer, à la demande de cette dernière, une activité déterminée. La réalisation du projet-pilote ne saurait d'ailleurs être considérée comme rattachée à un marché global au sens de la jurisprudence, puisqu'il s'agit uniquement d'un projet ponctuel à un endroit déterminé. L'art. 2 al. 7 LMI n'était donc pas applicable et le grief doit être rejeté.
5.
Les recourants font encore valoir que l'arrêt attaqué violerait l'art. 30 Cst. dans la mesure où la cour cantonale a incorporé le contenu du permis de construire dans le plan spécial d'affectation. Selon les recourants, ce procédé ne reposerait pas sur une base légale et les priverait du recours administratif de première instance prévu en matière de permis de construire.
La cour cantonale a considéré que le permis de construire aurait dû être délivré par le Conseil communal, avec recours possible auprès du Juge administratif du Tribunal de première instance, puis de la cour administrative. Le Gouvernement n'était donc pas compétent sur ce point, y compris lors de l'adoption d'un plan spécial. La Cour administrative a toutefois considéré que son pouvoir d'examen et de décision lui permettait d'intégrer le contenu du permis de construire à la planification spéciale; il s'agissait d'une modification formelle de peu d'importance puisque les procédures de planification et d'autorisation avaient toujours été liées. L'art. 1 al. 1 let. b de la loi jurassienne sur les constructions et l'aménagement du territoire (LCAT, RS/JU 701.1) permettait de régler tous les aspects du projet dans la planification spéciale.
5.1. Dans la mesure où il porte sur l'application du droit cantonal, le grief doit être examiné sous l'angle de l'arbitraire. Dans ce cas, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable ou en contradiction manifeste avec la situation effective, ou encore si elle a été adoptée sans motifs objectifs ou en violation d'un droit certain. Lorsque l'interprétation défendue par l'autorité cantonale ne se révèle pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle est confirmée, même si une autre solution paraît également concevable, voire préférable. En outre, il ne suffit pas que les motifs de la décision critiquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat (ATF 143 I 321 consid. 6.1 p. 324). Une exigence de motivation accrue prévaut pour la violation des droits constitutionnels tels que la prohibition de l'arbitraire. Selon le principe d'allégation, la partie recourante doit expliquer de façon circonstanciée en quoi consiste la violation, respectivement où réside l'arbitraire (art. 106 al. 2 LTF; cf. ATF 134 II 244 consid. 2.2; 133 II 396 consid. 3.2).
5.2. Selon l'art. 1 LCAT, un permis de construire est requis pour toute construction, installation ou mesure qui tombe sous le coup de la législation sur les constructions, en particulier : a) la construction, la transformation importante et la démolition de bâtiments, de parties de bâtiments et de toute autre installation; b) la création et l'extension de terrains de camping, de lieux de décharge et de lieux d'extraction de matériaux à moins que toutes les conditions aient été définies précisément par le plan spécial; c) les modifications importantes apportées à un terrain. La lettre b de cette disposition prévoit ainsi clairement qu'une autorisation de construire est superflue lorsque le plan revêt une précision équivalente. Les installations de géothermie ne sont certes pas mentionnées dans cette disposition mais il y a lieu de relever, d'une part, que celle-ci présente un caractère exemplatif et, d'autre part, que le législateur de l'époque (1993) n'avait pas pu envisager le cas de ce genre d'installations. La fiche 5.07.1 du plan directeur prévoit clairement, non seulement que la procédure décisive pour un projet-pilote est celle du plan spécial, mais aussi que tous les documents et autorisations nécessaires lui sont rattachés (étude d'impact sur l'environnement, autorisation ou concession, défrichement, autorisations spéciales et plans des constructions et installations). Au vu de cette disposition (qui ne lie certes que les autorités mais peut constituer un élément d'interprétation de la loi), l'art. 1 LCAT pouvait sans arbitraire être interprété dans le sens défini par la cour cantonale, permettant d'intégrer à la planification spéciale tous les éléments figurant dans l'autorisation de construire, d'autant que l'ensemble des éléments de ce projet a fait l'objet d'une unique mise à l'enquête.
5.3. Les recourants invoquent certes les garanties générales de procédure judiciaire figurant à l'art. 30 al. 1 Cst. Ils n'indiquent toutefois pas en vertu de quelle disposition ils auraient nécessairement droit à deux instances cantonales de recours. Si les dispositions de l'autorisation de construire pouvaient, comme on l'a vu, être formellement intégrées au plan spécial, elles devaient être soumises aux mêmes voies de droit. L'art. 33 al. 4 LAT prévoit ainsi que les recours contre les décisions rendues par les autorités cantonales doivent être portés devant une autorité de recours unique lorsque l'art. 25a LAT est applicable, la Cour administrative disposant d'un plein pouvoir d'examen (arrêt attaqué consid. 5.7 p. 19). Dans la mesure où il est suffisamment motivé, le grief doit lui aussi être rejeté.
6.
Les recourants reprochent encore à la Cour cantonale d'avoir refusé de tenir compte de la dépréciation de leurs immeubles. Ils se fondent sur les art. 10 al. 1 et 11 LPE, et relèvent que les dépréciations immobilières devraient à tout le moins être prises en compte dans l'appréciation du projet, au titre de la proportionnalité. Les propriétés des recourants seraient exposées à une forte dépréciation, notamment les occupants de la ferme qui devraient être relogés durant la phase de forage et devraient probablement abandonner leur production laitière.
6.1. Les dispositions de la LPE n'imposent nullement une indemnisation immédiate des pertes de valeur immobilière au stade de la planification ou d'une autorisation de construire. L'art. 10 LPE traite en effet de la protection contre les catastrophes et l'art. 11 al. 1 LPE de la limitation des émissions. L'application directe de l'art. 10 implique une obligation de prendre les mesures propres à assurer la protection de la population et de l'environnement s'agissant de l'emplacement, des distances de sécurité nécessaires, des mesures techniques de sécurité, de la surveillance de l'installation et de l'organisation du système d'alerte.
6.2. En l'occurrence, l'arrêt attaqué a examiné la question des risques liés à l'utilisation de fluide caloporteur durant la phase d'exploitation. La cour cantonale a estimé que le risque OPAM pouvait être considéré comme acceptable moyennant des conditions à fixer lorsque le choix du fluide aura été fait. Le risque sismique a lui aussi été pris en compte et jugé admissible compte tenu des mesures prévues (choix d'un site avantageux, nouvelle technique de stimulation par multi-fractures avec un test préalable, système de surveillance avec nomination d'un groupe d'experts indépendants, système de signalisation avec arrêt des opérations en cas de séisme, surveillance des bâtiments). Une analyse des risques et des montants des dommages a été effectuée, concluant notamment à l'obligation pour l'exploitant de bénéficier d'une assurance responsabilité civile de 80 millions de francs au minimum. Les objections relatives au bruit ont également été rejetées, et les recourants ne reviennent plus sur l'ensemble de ces questions.
6.3. Les recourants ne contestent d'ailleurs pas que les mesures de réduction des risques sont adéquates et suffisantes au sens des dispositions de droit fédéral. Ils évoquent la perte de valeur de leurs immeubles, sans toutefois tenter d'expliquer la nature de cette perte. On ne comprend pas en particulier s'ils entendent se plaindre d'une perte de valeur résultant de la seule présence de l'installation elle-même et des immissions qui en émanent (restrictions aux droits de voisinage), ou d'un éventuel dommage pouvant résulter, notamment, d'un séisme. Les deux premiers cas relèvent d'une éventuelle procédure d'expropriation, le troisième de la responsabilité civile de l'exploitant qui, comme on l'a vu, fait l'objet d'une couverture d'assurance jugée suffisante. C'est dès lors à juste titre que la cour cantonale a considéré que la question de la perte de valeur n'avait pas à être examinée dans le cadre de l'adoption du plan spécial.
7.
Les recourants contestent enfin le déclassement de surfaces d'assolement (SDA), relevant que le canton ne disposerait que de réserves très limitées. Ils estiment que le principe du maintien de ces surfaces devrait prévaloir, que le projet litigieux - à tout le moins la centrale électrique - pourrait aussi prendre place en zone à bâtir et qu'une compensation intégrale des SDA utilisées devrait être exigée.
7.1. Les surfaces d'assolement sont des parties du territoire qui se prêtent à l'agriculture (art. 6 al. 2 let. a LAT) et qui doivent être préservées en vertu de l'art. 3 al. 2 let. a LAT. Selon l'art. 26 OAT, elles se composent des terres cultivables comprenant avant tout les terres ouvertes, les prairies artificielles intercalaires et les prairies naturelles arables. Elles sont garanties par des mesures d'aménagement du territoire. Elles sont délimitées en fonction des conditions climatiques (période de végétation, précipitations), des caractéristiques du sol (possibilités de labourer, degrés de fertilité et d'humidité) ainsi que de la configuration du terrain (déclivité, possibilité d'exploitation mécanisée). La nécessité d'assurer une compensation écologique doit également être prise en considération (al. 2). Selon l'art. 26 al. 3 OAT, une surface totale minimale d'assolement a pour but d'assurer au pays une base d'approvisionnement suffisante, comme l'exige le plan alimentaire, dans l'hypothèse où le ravitaillement serait perturbé, cela conformément à l'art. 1 al. 2 let. d LAT. Sur la base des surfaces minimales arrêtées dans le plan sectoriel de la Confédération (art. 29 OAT), les cantons définissent les surfaces d'assolement dans leur plan directeur, dans le cadre de la délimitation des autres parties du territoire qui se prêtent à l'agriculture (art. 28 OAT). Pour le canton du Jura, la surface minimale des SDA a été fixée à 15'000 ha; selon l'arrêt attaqué, le canton dispose d'un excédent de 80 ha (au 1er janvier 2011 selon la fiche 3.07 du plan directeur cantonal). La jurisprudence n'exclut pas que des surfaces d'assolement puissent être utilisées à des fins autres qu'agricoles. Toutefois, il convient d'opérer une pesée d'intérêts complète tenant notamment compte du fait que la part cantonale de surface d'assolement doit être garantie à long terme. Il y a lieu d'évaluer dans quelle mesure le terrain concerné pourrait à nouveau être cultivé et, lorsque la surface minimale cantonale n'est pas atteinte ou ne l'est que de peu, une compensation doit être opérée (ATF 134 II 217 consid. 3.3 p. 220).
7.2. Selon l'art. 30 al. 1bis OAT, des surfaces d'assolement ne peuvent être classées en zone à bâtir que lorsqu'un objectif que le canton également estime important ne peut pas être atteint judicieusement sans recourir aux surfaces d'assolement (let. a) et lorsqu'il peut être assuré que les surfaces sollicitées seront utilisées de manière optimale selon l'état des connaissances (let. b). Cette disposition a pour but de tenir compte de la nécessité de maintenir les SDA (art. 15 al. 3 LAT) en durcissant les exigences à satisfaire lorsqu'il est question de recourir à des SDA pour créer des zones à bâtir. Cette disposition s'applique lorsque les cantons disposent de réserves de SDA; dans le cas contraire, l'art. 30 al. 2 OAT s'applique et empêche en principe un tel classement à moins qu'il soit compensé, exigeant au contraire la création de zones réservées afin de garantir durablement la surface d'assolement attribuée à chaque canton (DETEC/ARE, rapport explicatif relatif au projet mis en consultation de révision partielle de l'OAT, août 2013, p. 8). L'art. 30 al. 1bis OAT impose de s'assurer que le sacrifice de SDA pour la création de zones à bâtir est absolument nécessaire du point de vue du canton. L'autorité de planification doit examiner quelles alternatives pourraient raisonnablement entrer en considération (idem). Se référant à sa propre jurisprudence, la cour cantonale a considéré que lorsque la disponibilité de SDA est supérieure au quota fixé par la Confédération, les conditions posées à l'art. 30 al. 1bis OAT ne seraient pas applicables lorsque la sollicitation de SDA (de réserve) est compensée. L'ARE conteste cette interprétation.
L'art. 30 OAT est une disposition d'application de l'art. 15 al. 3 in fine LAT, qui impose le maintien des SDA. Comme le relève l'ARE dans son rapport explicatif, l'art. 30 al. 1bis OAT s'applique lorsque le canton dispose de SDA de réserve. La loi ne prescrivant rien à cet égard, les cantons peuvent en principe en disposer, moyennant comme on l'a vu une pesée de tous les intérêts en présence; les critères posés à l'art. 30 al. 1bis let. a et b OAT peuvent être pris en compte dans le cadre de cette pesée d'intérêts et l'ordonnance apparaît ainsi, dans cette mesure, compatible avec les exigences de la loi. En revanche, faute de base légale claire, une obligation systématique de compensation ne saurait être imposée lorsque le canton dispose comme en l'espèce, de réserves de SDA. Une telle compensation, totale ou partielle, peut en revanche constituer un critère important pour juger de l'admissibilité de l'opération.
7.3. La fiche 5.07.1 du plan directeur cantonal relève que la géothermie profonde représente une source d'énergie indigène, propre, quasiment illimitée et pouvant fournir de l'électricité en continu indépendamment des conditions météorologiques tout en ayant un faible impact sur le paysage. Elle constitue ainsi un complément évident aux autres énergies renouvelables que sont l'éolien, le solaire et l'hydraulique et présente l'avantage d'une production non seulement sans émissions de CO2, mais de plus en continu. Par exemple, la réalisation de trois centrales géothermiques exploitant chacune cinq doublets permettrait la production d'environ 334 GWh, soit la majorité des besoins en nouvelles énergies renouvelables et près de 50% de la consommation électrique cantonale estimée pour 2050. La chaleur résiduelle pourrait encore être utilisée pour le chauffage à distance. Le développement et la promotion de la géothermie profonde constituent ainsi l'un des mandats de planification au niveau cantonal. L'intérêt du projet dépasse au demeurant les frontières cantonales: dans son rapport du 3 mars 2017 "Conception et mise en oeuvre de mesures d'encouragement pour l'utilisation de la géothermie profonde en Suisse", le Conseil fédéral relève que la géothermie fait partie des technologies pouvant bénéficier d'un soutien dans la Stratégie énergétique 2050. Une révision de la loi fédérale sur l'énergie doit ainsi prévoir trois instruments d'encouragements (contribution à la prospection, garanties pour la géothermie et rétribution du courant injecté). Toutefois, compte tenu de la faible expérience en Suisse, des travaux de prospection et d'exploration apparaissent nécessaires (p. 11). Les projets-pilotes sont ainsi encouragés afin de réduire les risques techniques et économiques. La réalisation du projet litigieux correspond ainsi à un intérêt à tout le moins cantonal au sens de l'art. 30 al. 1bis OAT.
S'agissant de sa localisation, le projet a fait l'objet d'une analyse multicritères du 26 octobre 2012. Il en ressort que 8 sites potentiels ont été examinés, choisis selon des critères géologiques ainsi que pour la proximité de la centrale électrique et des accès routiers. L'implantation doit se faire au voisinage de la zone à bâtir et non à l'intérieur de celle-ci, compte tenu des risques sismiques et des nuisances sonores, mais aussi de la possibilité de fournir aux habitations du chauffage à distance. La surface nécessaire était estimée à 2 ha. Trois sites ont été retenus (tous situés en zone agricole et représentant également des SDA), dont celui de Glovelier, contigu à la zone industrielle existante et déjà pour moitié en zone d'activités, de sorte que le classement en zone à bâtir pouvait être limité (9'244 m2). Il y a lieu de relever qu'une surface similaire (9'320 m2) a été déclassée, conformément à la disposition transitoire de l'art. 38a al. 2 LAT, et que la perte de SDA a été partiellement compensée, à hauteur de 5'188 m2, et s'élève au total à 4'056 m2. Compte tenu de l'ensemble de ces éléments, il y a lieu de retenir que le projet litigieux satisfait aux exigences de l'art. 30 al. 1bis OAT.
8.
Dans le courant de la procédure, les parties ont évoqué l'initiative populaire cantonale "Contre la géothermie profonde dans le Jura". Les recourants ont requis en vain la suspension de la procédure jusqu'à droit connu sur le traitement de cette initiative. L'intimée a pour sa part indiqué que par arrêt du 27 juin 2018, l'initiative a été déclarée nulle par la Cour constitutionnelle cantonale. Ces éléments, qui relèvent exclusivement des droits politiques, sont sans influence sur la conformité du projet aux dispositions du droit fédéral et cantonal, telle qu'examinée ci-dessus. Les recourants ont par ailleurs évoqué un séisme survenu en Corée du Sud; ils ont demandé la suspension de la procédure jusqu'à ce qu'un rapport d'analyse soit remis au Gouvernement sur les causes de ce séisme. Cette demande a elle aussi été rejetée, par ordonnance du 18 janvier 2018, au motif qu'un tel rapport (dont le Gouvernement jurassien avait annoncé vouloir tenir compte avant le lancement des travaux) ne permettait pas d'apporter un éclairage nouveau sur les griefs soulevés, lesquels ne concernaient pas le risque sismique. Un tel rapport, de même que les griefs y relatifs, constitueraient un moyen de fait nouveau au sens de l'art. 99 al. 1 LTF, à l'appui de griefs qui n'ont pas été soulevés dans le recours et qui seraient dès lors tardifs.
Au demeurant, les risques induits par la géothermie ont été examinés de manière approfondie par les autorités cantonales administratives, exécutive et judiciaire, ainsi que par l'Office fédéral de l'environnement, sur la base de divers rapports techniques et scientifiques (cf arrêt attaqué consid. 6 et 7 pp. 19 à 35; consid. F et 6.2 ci-dessus). Ces autorités ont en outre mis en place un suivi relatif aux dangers induits par cette installation, ce dont il y a lieu de prendre acte.
9.
Sur le vu de ce qui précède, le recours est rejeté, dans la mesure où il est recevable. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge des recourants. Une indemnité de dépens est allouée en faveur de l'intimée J._ SA, qui obtient gain de cause avec l'assistance d'un mandataire professionnel. Il n'est pas alloué d'autres dépens.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge des recourants.
3.
Une indemnité de dépens de 5'000 fr. est allouée à l'intimée J._ SA, à la charge solidaire des recourants.
4.
Le présent arrêt est communiqué aux mandataires des parties, au Gouvernement de la République et canton du Jura, à la Commune mixte de Haute-Sorne, à L._ SA, à M._, à O._, à P._, à K._, à N._, au Tribunal cantonal de la République et canton du Jura, Cour administrative, à l'Office fédéral de l'environnement, à l'Office fédéral du développement territorial et à l'Office fédéral de l'agriculture.
Lausanne, le 21 novembre 2018
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
Le Greffier : Kurz