Faits :
A.
La société simple B._ (composée de trois entreprises) et A._ SA sont toutes deux intéressées à l'exploitation d'un gisement de graviers sableux au lieu-dit "X._", sur les communes de Ballens, Bière, St-Livres et Yens. Il s'agit d'un gisement recensé sur la fiche 1242-014 du Plan directeur des carrières (PDCar, dans sa version de juin 2015), dont le volume de gravier est estimé à 18'500'000 m3. Il est retenu en priorité 1 selon le Programme de gestion des carrières (PGCar) élaboré en 2016. Le site se trouve essentiellement en zone forestière et agricole. La B._ est notamment propriétaire de la parcelle n° 476 de la commune de Ballens, alors que A._ SA est propriétaire des parcelles n° 524 et 544, directement voisines.
Le 10 juillet 2017, la Direction générale de l'environnement du canton de Vaud (DGE) a fait savoir aux sociétés précitées que deux projets d'extraction simultanés sur le même gisement n'étaient pas utiles pour l'approvisionnement en matière première du canton de Vaud et pas acceptables du point de vue des nuisances et de la protection de l'environnement. E lle informait les parties que le Département du territoire et de l'environnement du canton de Vaud (DTE) entendait procéder à une analyse comparative des deux projets sur la base de divers critères. Après que la nécessité d'un tel arbitrage a été mise en doute par les sociétés concernées, la DGE a fait savoir, le 29 septembre 2017, que la réglementation cantonale permettait de différer les demandes de permis d'exploiter. La B._ a déposé un dossier le 26 octobre 2017, portant sur une partie du gisement du X._ sur quatorze parcelles, en particulier sur la parcelle n° 476 de la commune de Ballens. Le 30 octobre 2017, A._ SA a déposé un dossier portant sur une autre partie du gisement, sur les parcelles nos 524 et 544. Les sociétés ont été entendues par la DGE en juin 2018.
B.
Par décision du 3 octobre 2018, le DTE a habilité La B._ à déposer sans délai son projet de plan d'extraction et sa demande de permis d'exploiter, et a différé pour une vingtaine d'années le projet de A._ SA. Comparant les deux projets, il a estimé que le projet de La B._ bénéficiait d'un accès sans restriction à ses parcelles, alors qu'une procédure civile était en cours s'agissant de servitudes grevant les fonds de A._ SA. Le projet de La B._ était également préférable du point de vue de la capacité de production et de transport par rail; son dossier hydrogéologique était complet; il permettait d'assurer le volume d'exploitation annoncé sans porter atteinte aux eaux souterraines, alors que le dossier de A._ SA était incomplet sur ce point. Ces éléments étaient considérés comme déterminants car ils permettaient la présentation immédiate d'un projet. Les dossiers étaient jugés équivalents s'agissant du coefficient d'utilisation du sol et de protection de la forêt, et le projet A._ SA était mieux noté s'agissant de la protection contre le bruit et de l'emprise sur les surfaces d'assolement, ces points n'étant toutefois pas considérés comme décisifs. Le DTE se réservait toutefois la possibilité de revenir sur sa décision au cas où le projet de plan d'extraction et la demande de permis d'exploiter déposés par La B._ différeraient de manière significative du projet présenté.
C.
Par arrêt du 26 mai 2020, la Cour de droit administratif et public du Tribunal cantonal vaudois (CDAP) a rejeté le recours formé par A._ SA contre la décision du DTE, laissant préalablement indécise la question du caractère décisionnel de l'acte attaqué. La procédure d'arbitrage entre deux projets était prévue dans le Programme de gestion des carrières adopté en 2016 (PGCar, ch. 4.4) qui permettait de prioriser un projet sur la base de critères précis, ainsi que par la loi vaudoise sur les carrières du 24 mai 1988 (LCar, RS/VD 931.15) qui permettait de différer la mise à l'enquête d'un projet (art. 11 al. 1 LCar) conformément aux devoirs de planification et de coordination imposés par la LAT. La consultation du dossier de l'autre partie avait été refusée pour des raisons tenant au secret commercial. Dans ces conditions, il était certes douteux que le droit d'être entendu ait été respecté. La décision du DTE était cependant fondée sur deux éléments ressortant du dossier de la partie recourante elle-même: d'une part, les incertitudes quant à la maîtrise juridique des parcelles; d'autre part, l'insuffisance des données hydrogéologiques fournies et des mesures de protection des eaux souterraines.
D.
Agissant par la voie du recours en matière de droit public, A._ SA conclut à la réforme de l'arrêt cantonal en ce sens que la recourante est autorisée à déposer sans délai son projet d'extraction et sa demande simultanée de permis d'exploiter le gisement du X._ et que le plan d'extraction et la demande de permis d'exploiter de la société simple B._ sont différés pour une vingtaine d'années. Subsidiairement, elle conclut au renvoi de la cause à la CDAP, respectivement au département cantonal (actuellement le Département de l'environnement et de la sécurité - DES, ci-après: le département) pour nouvelle décision dans le sens des considérants. La recourante demande en outre l'effet suspensif, qui a été refusé par ordonnance du 2 octobre 2020.
La cour cantonale renonce à se déterminer et se réfère à son arrêt. La DGE (agissant pour le département) conclut au rejet du recours, tout comme la commune de Ballens et l'intimée Société simple B._. Les parties ont ensuite persisté dans leurs conclusions respectives et la recourante a déposé une dernière écriture le 11 février 2021.

Considérant en droit :
1.
Dans sa décision, le DTE a habilité l'intimée à déposer sans délai son projet de plan d'extraction et sa demande de permis d'exploiter, et a simultanément différé le projet de la recourante pour une vingtaine d'années. Cette décision relève expressément que l'issue de la procédure du plan d'extraction et d'autorisation d'exploiter de l'intimée est réservée. Elle ne statue donc pas définitivement sur l'un ou l'autre projet, mais empêche en l'état la recourante de requérir et d'obtenir à bref délai le droit d'exploiter le gisement qui se trouve sur ses parcelles. Dans la mesure où elle accorde la priorité à un projet, au détriment de l'autre, il s'agit bien d'une décision au sens tant de l'art. 3 al. 1 loi vaudoise sur la procédure administrative (LPA/VD, RS/VD 173.36) que de l'<ref-law>. Avec raison, la recourante relève que la décision attaqué ne constitue pas un arbitrage au sens de l'<ref-law>.
La recourante a qualité pour agir au sens de l'art. 89 al. 1 let. b et c LTF, et ses conclusions (tendant principalement à une réforme en sa faveur de l'arrêt attaqué et de la décision du DTE) sont recevables au regard de l'<ref-law>.
1.1. Le recours en matière de droit public au Tribunal fédéral est recevable contre les décisions qui mettent fin à la procédure (<ref-law>), qui statuent sur un objet dont le sort est indépendant de celui qui reste en cause (<ref-law>) ou qui mettent fin à la procédure à l'égard d'une partie des consorts (<ref-law>). Il est également recevable contre certaines décisions préjudicielles et incidentes. Il en va ainsi de celles qui concernent la compétence et les demandes de récusation (<ref-law>). Quant aux autres décisions préjudicielles et incidentes notifiées séparément, elles peuvent faire l'objet d'un recours si elles sont susceptibles de causer un préjudice irréparable (<ref-law>) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>). Si le recours n'est pas recevable en vertu des al. 1 et 2 ou qu'il n'a pas été utilisé, les décisions préjudicielles et incidentes peuvent être attaquées par un recours contre la décision finale dans la mesure où elles influent sur le contenu de celle-ci (<ref-law>).
1.2. Selon son dispositif, la décision du DTE habilite l'intimée à déposer sans délai son projet de plan d'extraction et sa demande simultanée de permis d'exploiter (ch. 5.1); elle diffère pour une vingtaine d'années environ le projet et la demande de permis d'exploiter de la recourante (ch. 5.2). L'issue de la procédure d'adoption du plan d'extraction et d'autorisation d'exploiter est réservée, la décision en question "ne valant décision ni pour l'une ni pour l'autre" (ch. 5.3). Enfin, le département "se réserve la possibilité de revenir sur la présente décision au cas où le projet de plan d'extraction et la demande de permis d'exploiter déposés par la société simple B._ différeraient de manière significative du projet présenté dans le cadre du présent arbitrage" (ch. 5.5).
La décision en question ne statue donc pas définitivement sur les projets de plan d'extraction et les demandes de permis d'exploiter, mais fixe un ordre de priorité dans l'examen de ceux-ci. La recourante ne se voit pas définitivement écartée de la procédure puisque la décision réserve expressément les hypothèses dans lesquelles elle serait autorisée à présenter son propre projet sans attendre l'échéance du délai de vingt ans. Il s'agit par conséquent, à l'instar par exemple d'une autorisation préalable de droit des constructions (cf. arrêt 1C_594/2017 du 1er novembre 2017 consid 2.2 publié in SJ 2018 I 186), d'une décision d'ordre procédural, de caractère incident au sens de l'<ref-law> et le recours ne serait recevable qu'en présence d'un préjudice irréparable.
1.3. Selon la jurisprudence, le préjudice irréparable prévu par l'<ref-law> doit être de nature juridique et ne pas pouvoir être ultérieurement réparé par une décision finale favorable au recourant (<ref-ruling> consid. 2.2.1 p. 317 et les arrêts cités). Un dommage de pur fait, comme la prolongation de la procédure ou un accroissement des frais de celle-ci, n'est pas suffisant (<ref-ruling> consid. 6 p. 192).
En l'occurrence, la recourante pourrait, comme on l'a vu, être autorisée à présenter son propre projet si celui de l'intimée devait finalement être écarté. En outre, en cas d'autorisation donnée à cette dernière, la recourante pourrait, à tout le moins en tant que propriétaire voisine du projet, former recours contre cette décision finale en reprenant le cas échéant les arguments soulevés céans s'ils présentent encore une pertinence (cf. <ref-law>). Le seul allongement de la procédure d'autorisation ne constitue pas, comme cela est rappelé ci-dessus, un préjudice irréparable. Quant à l'hypothèse visée à l'<ref-law>, elle n'est pas non plus réalisée car l'admission du recours ne permettrait pas d'aboutir immédiatement à une décision finale, mais seulement à une autre décision, elle aussi incidente, en faveur de la recourante. Il n'y a dès lors pas lieu de déroger à la volonté du législateur fédéral, concrétisée à l'<ref-law>, selon laquelle le Tribunal fédéral ne doit être saisi qu'une seule fois d'une même affaire, au stade de la décision finale (<ref-ruling> consid. 1.3; arrêt 4A_619/2020 du 17 février 2021 consid. 4.1 destiné à la publication).
2.
Sur le vu de ce qui précède, le recours est irrecevable. Les frais judiciaires sont mis à la charge de la recourante qui succombe (<ref-law>), de même que l'indemnité de dépens allouée à l'intimée société simple B._ qui a agi par un avocat (art. 68 al. 1 et 2 LTF). En vertu de l'<ref-law>, la Municipalité de Ballens n'a pas droit à des dépens.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de la recourante.
3.
Une indemnité de dépens de 3'000 fr. est allouée à l'intimée société simple B._, à la charge de la recourante. Il n'est pas alloué d'autres dépens
4.
Le présent arrêt est communiqué au mandataire de la recourante, au Département de l'environnement et de la sécurité (DES), aux mandataires de la Municipalité de Ballens et de la Société simple B._, au Juge délégué de la Chambre patrimoniale cantonale du canton de Vaud et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 10 août 2021
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Kneubühler
Le Greffier : Kurz