# Course aux armements intelligents

La course aux armes et systèmes d'armements pilotés par intelligence artificielle est le prolongement récent de la course aux armements. Elle vise cette fois à développer et déployer des armes plus ou moins autonomes, dont des systèmes d'armes létales autonomes (LAWS) qui « peuvent réagir plus rapidement, plus efficacement et de manière moins prévisible.
Depuis le milieu des années 2010, de nombreux analystes constatent ou dénoncent l'émergence d'une nouvelle course à l'IA militarisée et aux armements autonomes, entre superpuissances mondiales$^,$.
Cette tendance est soutenue par une nouvelle guerre froide entretenue par des tensions géopolitiques et militaires croissantes et par l'industrie de l'armement ; parfois décrite comme s'inscrivant entre les États-Unis, la Russie et la Chine.

## Sémantique

Divers systèmes d'armes létales autonomes peuvent déjà ou potentiellement utiliser l'intelligence artificielle pour identifier et tuer des cibles matérielles et/ou humaines sans intervention humaine ou avec une intervention réduite et à distance.
Les LAWS sont parfois aussi appelés « robots tueurs ».
Certains auteurs estiment que toute compétition pour une IA supérieure relève d'une « course aux armements » dans le contexte de guerres économiques, psychologiques, civiles, etc.. Les enjeux et risques de l'IA militaire chevauchent ceux d'autres secteurs (des États aux entités politique ou mafieuses) recherchant du pouvoir en termes socio-économiques et/ou militaires.
Le cyberespace est devenu le « cinquième champ de bataille ». Là, des IA, parfois en compléments de cyberattaques ciblant des gouvernements, administrations, banques, industries, hôpitaux et autres infrastructures, sont utilisées par certains pays, comme arme offensive et/ou défensive, pour psychologiquement « persuader, changer, influencer » des partenaires, concurrents et adversaires, ou pour truquer des élections, etc. Ces opérations (Opérations psychologiques (Psyops), de guerre psychologique créent des « armes désinformationnelles » s'inscrivant parfois dans une « guerre hybride ». Ces opérations, bien qu'en partie immatérielles, sont aussi susceptibles de conduire à une escalade de la violence numérique et de la polarisation politique des sociétés.

## Histoire

La militarisation de l'IA a longtemps relevé de la science-fiction, mais ce n'est plus le cas : selon Siemens, les dépenses militaires mondiales en robotique s'élevaient à 5,1 milliards de dollars américains en 2010, et à 7,5 milliards en 2015$^,$.
En 2013, Christof Heyns, rapporteur spécial des Nations unies sur les exécutions extrajudiciaires, sommaires ou arbitraires, déplore un début de course aux armements intelligents, autonomes et robotisée et appelle à un moratoire sur le développement de ces armes.
En 2014, des représentants de dizaines de pays se réunissent à Genève pour étudier la possibilité de limiter ou interdire de telles armes, via la Convention sur certaines armes classiques. Dans le New-York Times, John Markoff cite Steve Omohundro, expert en IA au laboratoire de recherche « Self-Aware Systems » (Systèmes auto-conscients) de Palo Alto qui alerte sur « une course aux armements autonomes déjà en cours ». Markoff note que « bien qu’une précision extrême puisse sauver des vies civiles, les critiques craignent que les armes sans surveillance humaine ne rendent la guerre plus probable, aussi simple que d’appuyer sur un interrupteur. La Grande-Bretagne, Israël et la Norvège déploient déjà des missiles et des drones qui mènent des attaques contre des radars, des chars ou des navires ennemis sans contrôle humain direct. Après le lancement, les armes dites autonomes s’appuient sur l’intelligence artificielle et des capteurs pour sélectionner des cibles et lancer une attaque. Les missiles Brimstone de la Grande-Bretagne, par exemple, peuvent distinguer les chars, des voitures et des bus sans assistance humaine, et peuvent viser des cibles dans une région prédésignée, sans surveillance. Les Brimstones communiquent également entre eux, se partageant les cibles ».
Dans les années 2010, la Chine devient un acteur majeur de la recherche sur l'intelligence artificielle. En 2016, pour la première fois, elle publie plus d'articles sur l'IA que toute de l'Union européenne. Et si l'on se limite au nombre d'articles sur l'IA figurant dans les 5 % des articles les plus cités, elle dépasse les États-Unis en 2016 (tout en restant derrière l'Union européenne). 23 % des chercheurs présentés à la conférence 2017 de l'American Association for the Advancement of Artificial Intelligence (AAAI) étaient chinois. Selon Eric Schmidt (ancien président d'Alphabet), la Chine sera leader en matière d'IA avant 2025.
Origine AAAI :
| Pays | en 2012 | en 2017 |
| USA | 41% | 34% |
| Chine | 10% | 23% |
| Royaume-Uni | 5% | 5% |
Un groupe de scientifique a créé un Comité international pour le contrôle des armes robotiques qui préconise d'importantes restrictions à lusage de robots militaires. Une question qu'ils jugent cruciale est « S’agit-il de cibles désignées par l’homme ? Ou est-ce que ces systèmes décident automatiquement de ce qu’est une cible ? ».

## Risques

Un premier risque est que dans la course à l'IA (qu'elle soit ou non remportée par un groupe), des Etats, des entreprises de l'armement, ou des équipes de développeurs soient tentés de prendre des raccourcis concernant la sécurité des systèmes, ou le bien commun, ou soient victimes de biais algorithmiques accru$^,$. Cette dangereuse prise de risque est encouragée par l'idée qu'être le premier à développer une technologie avancée d'IA est un avantage décisif ; une idée qui peut encourager d'autres équipes à avancer sans précautions suffisantes, et à déployer un système d'armes autonomes avant qu'il soit sécurisé et prêt. Certains soutiennent que l'utilisation de la terminologie « course » dans ce contexte peut exacerber cet effet de fuite en avant.
Un autre risque et danger est de relancer une nouvelle et exorbitante course aux armements au moment où les crises climatiques, énergétiques, sociales et de la biodiversité nécessitent des investissements urgents et massifs.
Un risque émergent et d'un genre nouveau est celui de créer une ou plusieurs IA à vocation militaire dont une personne, une entité (gouvernementale ou autre) perdrait le contrôle. Ce risque est aggravé dans le cas d'une course à l'intelligence artificielle générale (IAG), qui peut, de l'avis d'un nombre croissant d'experts, présenter un risque existentiel pour l'humanité.
Un autre risque est qu'un groupe ou une entité illégitime, malveillante, mafieuse, totalitaire, etc. gagne ou détourne cette course à l'IA militarisée, en rompant les équilibres géostratégiques. Un système d'armes intelligentes, voire autonomes, pourrait conférer un avantage technoscientifique sans commune mesure avec les systèmes de pouvoir, d'armement ou d'asservissement du passé, et extrêmement dangereux si détenu par un seul groupe ou de quelques groupes de ce type. Un rapport du gouvernement américain affirme que, par exemple, « les capacités basées sur l'IA pourraient être utilisées pour menacer des infrastructures critiques, amplifier les campagnes de désinformation et faire la guerre », et que « la stabilité mondiale et la dissuasion nucléaire pourraient être compromises ».
La désinformation est aujourd'hui mondialisée. Elle ne peut être combattue aux seules échelles nationales ; mais le droit international peine à suivre l'évolution très rapide des capacités d'Intelligences artificielles militarisées.

## Positions envers l'intelligence artificielle militarisée
### Russie

Le général russe Viktor Bondarev, commandant en chef de l'armée de l'air russe, a déclaré que dès février 2017, la Russie travaillait sur des missiles guidés par l'IA qui pourraient décider de changer de cible en cours de vol. La Commission militaro-industrielle de Russie a approuvé des plans visant à tirer 30 % de la puissance de combat de la Russie de plates-formes robotiques télécommandées et compatibles avec l'IA d'ici 2030. Les rapports des médias russes parrainés par l'État sur les utilisations militaires potentielles de l'IA se sont multipliés à la mi-2017 et en mai 2017, le PDG du groupe russe Kronstadt, un sous-traitant de la défense, déclarait qu '«il existe déjà des systèmes d'exploitation d'IA complètement autonomes qui fournissent les moyens aux groupes de drones, lorsqu'ils remplissent des missions de manière autonome, partagent des tâches entre eux et interagissent», et qu'il est inévitable que des « essaims de drones » survolent un jour les zones de combat. Cette même année, selon la BBC, la Russie a testé plusieurs systèmes de combat autonomes et semi-autonomes, dont un module de combat « réseau neuronal » de Kalachnikov, avec une mitrailleuse, une caméra et une IA qui, selon ses fabricants, peuvent prendre ses propres décisions de ciblage sans intervention humaine.
En septembre 2017, lors de la Journée nationale du savoir, devant plus d'un million d'élèves dans 16 000 écoles russes, le président russe Vladimir Poutine a déclaré : « L'intelligence artificielle est l'avenir, non seulement pour la Russie mais pour toute l'humanité… Celui qui deviendra le leader dans ce domaine deviendra le maître du monde ». Vladimir Poutine a aussi dit qu'il serait préférable d'empêcher un seul acteur d'obtenir un monopole, mais que si la Russie devenait le leader de l'IA, elle partagerait sa « technologie avec le reste du monde, comme nous le faisons actuellement avec la technologie atomique et nucléaire »$^,$$^,$.
Plusieurs entités russes sont consacrées au développement de l'IA militaire ; et en mars 2018, le gouvernement a publié un programme d'IA en 10 points, appelant à créer un consortium IA et Big Data, un fonds pour les algorithmes et programmes analytiques, un programme de formation et d'éducation en IA soutenu par l'État, un laboratoire dédié à l'IA et un Centre national pour l'intelligence artificielle, entre autres initiatives. Puis une organisation de recherche sur la défense (une sorte d'équivalent de la DARPA, dédiée à l'autonomie et à la robotique, appelée Fondation pour les études avancées, a lancé une conférence annuelle sur la « robotisation des forces armées de la fédération de Russie »$^,$.
L'armée russe étudie diverses applications de l'IA (véhicules semi-autonomes et autonomes notamment). Le 1er novembre 2017, Viktor Bondarev, militaire président du Comité de défense et de sécurité du Conseil de la fédération, a déclaré que « l'intelligence artificielle pourra remplacer un soldat sur le champ de bataille et un pilote dans le cockpit d'un avion », et a noté plus tard que "Le jour approche où les véhicules seront dotés d'une intelligence artificielle" (déclaration faite au moment des tests réussis du Nerehta, un véhicule terrestre électrique de 1,7 t, bas, armé et sans occupants (AUGV) de l’armée russe. Destiné à soutenir l'infanterie, il peut être équipé de chenilles ou de roues, d’une mitrailleuse lourde de 12,7 mm, d’une mitrailleuse moyenne Kalachnikov de 7,62 mm ou d’un lance-grenades automatique AG-30M de 30 mm ou transporter jusqu'à 700 kg de charge utile ; il aurait « surpassé les véhicules de combat [avec équipage] existants ». C'est ayssu une plate-forme de R&D pour la militarisation de l'IA. Il pourrait prendre part à des combats, mais aussi faire du renseignement et/ou piloter de la logistique. Un module russe de combat pour véhicules terrestres sans équipage, capable d'identifier de manière autonome des cibles – et, potentiellement, d'engager des cibles aurait déjà été conçu, et une suite d'armements et systèmes autonomes basés sur l'IA sont envisagés$^,$$^,$.
Des véhicules militaires aériens, navals et sous-marins sans équipage, ainsi que des capacités d'essaimage sont étudiés de même que des IA formées à la télédétection et à la guerre électronique (sauts de fréquence adaptatifs, formes d'onde et contre-mesure)$^,$ ou à la propagande, surveillance intérieures, dont pour des opérations de désinformation ou d'information dirigées contre les États-Unis et leurs alliés$^,$$^,$.
La Russie a participé à trois réunions d’experts sur les systèmes d'armes autonomes (LAWS) tenues en mai 2014, avril 2015 et avril 2016 dans le cadre de la Convention sur les armes inhumaines, la CCAC, également dite Convention sur certaines armes classiques (une convention internationale qui, sous l'égide de l'ONU, interdit ou limite l'emploi de certaines armes classiques pouvant être considérées comme produisant des effets traumatisants excessifs ou comme frappant sans discrimination). Â l'ONU à Genève, en 2017, la CCAC a mis à l'ordre du jour un débat sur une possible interdiction des systèmes d'armes létales autonomes (SALA), dans le cadre d'un « Examen de diverses dimensions des phénomènes émergents technologies dans le domaine des systèmes d'armes létales autonomes, dans le contexte des objectifs et objectifs de la Convention ». Seuls une vingtaine d'États y ont immédiatement plaidé pour une interdiction ou de fortes restrictions légales (la convention a pour cette raison été critiquée comme « peu ambitieuse » par le groupe de campagne Stop Killer Robots), mais près de 100 pays présents sont convenus que les discussions devaient se poursuivre lors des sessions suivantes. Le gouvernement russe a quant a lui produit une déclaration écrite rejetant fermement toute interdiction des systèmes d'armes létaux autonomes, suggérant qu'une telle interdiction internationale pourrait être inappropriées et préjudiciables arguant qu'il n'y a pas de consensus sur la définition de ces armes ni sur la notion de concept de « contrôle humain significatif » (qui pourrait, selon les négociateurs russes, être un facteur d'acceptabilité de ces armes), et qu'« Il est difficilement acceptable que les travaux sur les armes autonomes restreignent la liberté de bénéficier des avantages des technologies autonomes qui représentent l’avenir de l’humanité (…) cela dit, la nécessité de répondre aux préoccupations humanitaires ne peut pas être utilisée comme seule et unique condition préalable suffisante pour imposer des régimes restrictifs et prohibitifs sur certaines armes. »$^,$. Pour Human Rights Watch, la Russie s’était, depuis des mois, « vigoureusement opposée » à la formation de groupes internationaux visant à restreindre le développement d’armes autonomes et intelligentes depuis des mois.

### Chine

La Chine a une politique stratégique de fusion militaro-civile en matière d'IA pour la suprématie technologique mondiale$^,$. Selon un rapport de février 2019 rédigé par Gregory C. Allen du Center for a New American Security, les dirigeants chinois – y compris le leader suprême Xi Jinping – estiment qu'être à l'avant-garde de la technologie de l'IA est essentiel pour l'avenir du monde militaire et économique mondial. Concurrence pour le pouvoir. Des liens étroits entre la Silicon Valley et la Chine, et la nature relativement ouverte de la communauté scientifique, ont facilité les progrès de l'IA en Chine (ainsi Baidu a remarquablement réussi un test de capacité de reconnaissance vocale en langue chinoise en 2015). Depuis 2017, la feuille de route de Pékin vise à créer une industrie de l'IA de 150 milliards de dollars d'ici 2030 ; et la Défense en profite : avant 2013, les achats chinois de défense chinois étaient limités à quelques conglomérats, mais depuis 2017, le pays s'approvisionne souvent en technologies émergentes sensibles (drones, IA…) auprès de start-ups privées.
En 2016, la Chine a publié un document de position pointant l'incapacité du droit international existant à faire face à l'éventualité d'armes entièrement autonomes, devenant ainsi le premier membre permanent du Conseil de sécurité de l'ONU à aborder la question. En 2018, Xi a appelé à renforcer la coopération internationale dans la recherche fondamentale sur l'IA. Des responsables chinois se sont inquiétés du fait que des armes telles que des drones intelligents pourraient conduire à une guerre accidentelle, surtout en l'absence de normes internationales. En 2019, l'ancien secrétaire américain à la Défense, Mark Esper, s'en est pris à la Chine qui a vendu des drones capables de tuer sans surveillance humaine.
Un rapport d'octobre 2021 du Centre pour la sécurité et les technologies émergentes a révélé que « la plupart des fournisseurs d'équipements d'IA [de l'armée chinoise] ne sont pas des entreprises de défense publiques, mais des entreprises technologiques chinoises privées fondées après 2010 » ; et les dépenses militaires chinoises en matière d'IA dépassaient 1,6 milliard de dollars /an. Selon le Japan Times, en 2018 l'investissement privé chinois annuel dans l'IA s'élevait à moins de 7 milliards de dollars par an ; Les startups d'IA chinoise ont reçu près de la moitié du total des investissements mondiaux dans les startups d'IA en 2017 ; les Chinois ont déposé près de cinq fois plus de brevets sur l'IA que les Américains.

### États-Unis

En 2014, l'ancien secrétaire à la Défense Chuck Hagel a proposé une « Troisième stratégie de décalage » selon laquelle les progrès rapides de l'intelligence artificielle définiront la prochaine génération de guerre. Selon Govini (société spécialisée dans la science et d'analyse des données), le ministère américain de la Défense a en 2016 augmenté ses investissements dans l'intelligence artificielle, le big data et le cloud computing, en passant de 5,6 milliards de dollars en 2011 à 7,4 milliards de dollars en 2016. Cependant, le budget civil du NSF pour l'IA n'a connu aucune augmentation en 2017. Le Japan Times a rapporté en 2018 que l'investissement privé des États-Unis était d'environ 70 milliards de dollars par an. Un « rapport intermédiaire » de novembre 2019 de la Commission de sécurité nationale des États-Unis sur l'intelligence artificielle a confirmé que l'IA est essentielle à la supériorité militaire technologique des États-Unis.
Les États-Unis disposent de nombreux programmes militaires d'IA pour le combat, comme le navire de guerre autonome Sea Hunter, conçu pour naviguer en mer de manière autonome durant de longues périodes, sans aucun équipage, y compris pour se guider à l'entrée et à la sortie d'un port.
Depuis 2017, une directive provisoire du ministère américain de la Défense exige qu'un opérateur humain soit tenu au courant dès qu'il est question de tuer des personnes par des systèmes d'armes autonomes. Le 31 octobre 2019, le Defence Innovation Board du ministère de la Défense des États-Unis a publié le projet d'un rapport recommandant des principes pour l'utilisation éthique de l'intelligence artificielle par le ministère de la Défense, qui garantirait qu'un opérateur humain soit toujours en mesure de voir ce qui se passe dans la boite noire de l'IA et de comprendre le processus de la kill-chain. Mais la manière dont ce rapport sera mis en œuvre est une préoccupation majeure.
Le projet Maven est un projet du Pentagone impliquant l'utilisation de l'apprentissage automatique et d'une ingénierie adaptée pour distinguer les personnes et les objets dans les vidéos faites par des drones, afin de donner au commandement un meilleur contrôle du champ de bataille, en temps réel, et la possibilité de suivre, étiqueter et espionner des cibles sans intervention humaine. Initialement, ce projet était dirigé par Robert O. Work, préoccupé par l'utilisation militaire émergente de l'IA en Chine. Il a été rapporté que le Pentagone ne va pas jusqu'à produire des systèmes d'armes intelligents (IA) capables de tirer sur des cibles désignées automatiquement par le système. Ce projet a été lancé par une note du secrétaire adjoint américain à la Défense du 26 avril 2017. Aussi dit Algorithmic Warfare Cross Functional Team, il s'agit, selon le lieutenant-général de l'armée de l'air américaine Jack Shanahan en novembre 2017, d'un «« projet pilote, cet éclaireur, cette étincelle qui allume la flamme de l'intelligence artificielle dans le reste du département [de la Défense] ». Son chef, le colonel Drew Cukor du Corps des Marines des États-Unis, a déclaré : « Les gens et les ordinateurs travailleront en symbiose pour augmenter la capacité des systèmes d'armes à détecter des objets ». Le projet Maven a été remarqué par des alliés, comme l'Australien Ian Langford, pour sa capacité à identifier les adversaires en récoltant des données provenant de capteurs sur des drones et des satellites. Lors du second Defence One Tech Summit en juillet 2017, Cukor a dit que l'investissement dans un « processus de flux de travail » était financé par le ministère [de la Défense] par l'intermédiaire de l'« Autorité d'acquisition rapide » (RAA) pour environ « les 36 prochains mois » (la RAA gère des procédures permettant au département de la Défense des États-Unis d'accélérer l'acquisition de technologies et équipements nécessaires).
Le Joint Artificial Intelligence Center (JAIC) (prononcer « jake ») est une organisation américaine qui explore l'utilisation de l'IA (en particulier l'informatique de pointe), du réseau de réseaux et de la communication améliorée par l'IA, pour une utilisation en combat réel$^,$$^,$$^,$. Il s'agit d'une subdivision des forces armées des États-Unis et a été créée en juin 2018. L'objectif déclaré de l'organisation est de « transformer le département américain de la Défense en accélérant la livraison et l'adoption de l'IA pour obtenir un impact sur la mission à grande échelle. L'objectif est d'utiliser l'IA pour résoudre des problèmes vastes et complexes dans plusieurs systèmes et conditions de combat ; les systèmes et composants de combat ont accès en temps réel à des bibliothèques d'ensembles de données et d'outils en constante amélioration, ce qui concourt à un nouveau type de course aux armements.

### Royaume-Uni

En 2015, le gouvernement britannique s'est opposé à l'interdiction des armes létales autonomes, déclarant que « le droit international humanitaire prévoit déjà une réglementation suffisante dans ce domaine » ; toutes les armes utilisées par les forces armées britanniques devraient être « sous surveillance et contrôle humains ».

### Israël

Le drone anti-radar israélien Harpy qui « tire et oublie » est conçu pour être lancé par des troupes au sol et survoler de manière autonome une zone pour trouver et détruire un radar répondant à des critères prédéterminés. L'application de l'IA devrait également progresser dans les systèmes terrestres sans équipage et les véhicules robotiques tels que le Guardium MK III et les versions ultérieures. Ces véhicules robotisés sont utilisés pour la défense des frontières.

### Corée du Sud

La mitrailleuse sud-coréenne Super aEgis II, dévoilée en 2010, est utilisée à la fois en Corée du Sud et au Moyen-Orient. Elle identifie, suit et détruit une cible en mouvement à une distance de 4 km. Bien qu'elle puisse fonctionner sans intervention humaine, en pratique, des mesures de protection y sont installées pour nécessiter une saisie manuelle. Un fabricant sud-coréen déclare : « Nos armes ne dorment pas, comme les humains doivent le faire. Elles peuvent voir dans l'obscurité, comme les humains ne le peuvent pas (…) ». L'entreprise veut produire un logiciel capable de discerner si une cible est amie, ennemie, civile ou militaire.

### Union européenne

Pour le Parlement européen, les humains doivent pouvoir surveillance et contrôler les armes mortelles autonomes. Cependant, il appartient à chaque État membre de l'Union européenne de déterminer sa position sur l'utilisation d'armes autonomes et les positions mitigées des États membres constituent peut-être le plus grand obstacle à la capacité de l'Union européenne à développer des armes autonomes.
Quelques membres comme la France, l'Allemagne, l'Italie et la Suède développent des armes automatisées ou autonomes mortelles. D'autres membres restent indécis quant à l'utilisation d'armes militaires autonomes. Et l'Autriche a appelé à interdire l'utilisation de telles armes.
L'Allemagne a développé un système de protection active, l'Active Defense System, capable de répondre à une menace en toute autonomie en moins d'une milliseconde$^,$. L'Italie envisage d'intégrer des systèmes d'armes autonomes dans ses futurs plans militaires.

## Propositions de régulation internationale

La règlementation internationale des armes autonomes est une question émergente pour le droit international. Le contrôle des armements par l'IA nécessitera probablement l'institutionnalisation de nouvelles normes internationales incarnées dans des spécifications techniques efficaces, combinées à une surveillance active et à une diplomatie informelle de la part de communautés d'experts, ainsi qu'à un processus de vérification juridique et politique$^,$. Dès 2007, des chercheurs tels que le professeur d'IA Noel Sharkey ont mis en garde contre « l'émergence d'une course aux armements parmi les nations de haute technologie pour développer des sous-marins autonomes, des avions de combat, des cuirassés et des chars capables de trouver leurs propres cibles et d'appliquer une force violente sans implication de décisions humaines significatives »$^,$.
Miles Brundage (2017), de l'université d'Oxford estime que la diplomatie pourrait atténuer par cette nouvelle course aux armements : « Nous avons vu dans les différentes courses aux armements historiques que la collaboration et le dialogue peuvent rapporter des dividendes ».
Plus d'une centaine d'experts ont signé une lettre ouverte en 2017 appelant l'ONU à aborder la question des armes mortelles autonome$^,$, mais en session (de novembre 2017) de la Convention des Nations Unies sur certaines armes classiques (CCW), les diplomates n'ont même pas pu se mettre d'accord sur la manière de définir ces armes. L'ambassadeur indien et président de la CCW a déclaré qu'un accord sur les règles était encor une perspective lointaine. En 2019, 26 chefs d'État et 21 lauréats du prix Nobel de la paix ont soutenu l'interdiction des armes autonomes, mais depuis 2022, la plupart des grandes puissances continuent de s'opposer à une interdiction de ces armes.
De nombreux experts estiment que les tentatives visant à interdire complètement les robots tueurs risquent d'échouer, en partie parce qu'il serait extrêmement difficile de détecter les violations du traité$^,$. Un rapport de 2017 du Belfer Center de Harvard prédit que l'IA a le potentiel d'être aussi transformatrice que les armes nucléaires$^,$$^,$. Le rapport affirme en outre qu'« il est probablement impossible d'empêcher une utilisation militaire élargie de l'IA » et que « l'objectif plus modeste d'une gestion technologique sûre et efficace doit être poursuivi », comme par exemple interdire l'association d'un système IA de déclenchement par veille automatique IA à un arsenal nucléaire.

## Autres réactions aux armes autonomes

En 2015, une lettre ouverte de 2015 du Future of Life Institute appelant à l'interdiction des systèmes d'armes létaux autonomes a été signée par plus de 26 000 citoyens, dont le physicien Stephen Hawking, le magnat de Tesla Elon Musk, Steve Wozniak d'Apple et le cofondateur de Twitter Jack Dorsey, et plus de 4 600 chercheurs en intelligence artificielle, dont Stuart Russell, Bart Selman et Francesca Rossi$^,$. Le Future of Life Institute a également sorti deux films de fiction, Slaughterbots (2017) et Slaughterbots - if human: kill (2021), qui décrivent les menaces des armes autonomes et promeuvent leur interdiction, tous deux devenus viraux. Le professeur Noel Sharkey de l'Université de Sheffield affirme que les armes autonomes tomberont inévitablement entre les mains de groupes terroristes tels que l'État islamique. De nombreuses entreprises technologiques occidentales évitent d'être associées trop étroitement à l'armée américaine, de peur de perdre l'accès au marché chinois. En outre, de nombreux développeurs et chercheurs (comme Demis Hassabis, PDG de DeepMind), sont pour des raisons éthiques opposés à toute contribution de leur travail à des objecifs militaire.
Par exemple, en juin 2018, des sources internes de Google ont déclaré que la directrice générale Diane Greene avait déclaré au personnel que l'entreprise ne donnerait pas suite au projet Maven après l'expiration du contrat actuel en mars 2019.