C 465/78
FR
Journal officiel de l'Union européenne
6.12.2022
Mardi 3 mai 2022
51. souligne que les technologies de l’IA, en particulier celles qui n’ont pas été conçues et développées en intégrant des procédures de contrôle explicites et qui sont utilisées de manière abusive et sans surveillance dans les centres de commandement militaires ou dans les installations de lancement de missiles, comportent des risques particulièrement importants et pourraient provoquer l’escalade d’un conflit mutuel automatisé;
52. note que l’utilisation des systèmes d’IA dans les développements liés à la défense est considérée comme un changement de donne dans les opérations militaires grâce à l’analyse des données, à la capacité de refléter une plus grande complexité de la situation, à la capacité d’améliorer la précision des objectifs, d’optimiser la logistique et de s’engager dans des conflits armés avec un risque réduit de préjudice physique pour les populations civiles et son propre personnel militaire, ainsi qu’à l’utilisation de données pour le développement de modes d’action tels que les jeux de guerre; met en garde toutefois contre le fait que cette situation pourrait conduire à un abaissement du seuil de recours à la force, et donc à une multiplication des conflits; soutient que les machines et les robots ne sont pas en mesure, contrairement aux humains, de prendre des décisions fondées sur les principes légaux de distinction, de proportionnalité et de précaution; déclare que les humains devraient garder le contrôle de la décision de déployer et d’utiliser des armes et rester responsables du recours à la force létale ainsi que des décisions concernant la vie et la mort; estime que les systèmes d’armes basés sur l’IA devraient être assujettis à des normes mondiales et à un code de conduite éthique international afin d’étayer le déploiement des technologies de l’IA dans les opérations militaires, dans le plein respect du droit humanitaire international et des droits de l’homme, et conformément au droit et aux valeurs de l’Union;
53. est préoccupé par la recherche militaire et les développements technologiques réalisés dans certains pays, qui portent sur des systèmes d’armes létales autonomes sans véritable contrôle humain; observe que de tels systèmes d’armes létales autonomes sont déjà utilisés dans des conflits militaires; rappelle que le Parlement a demandé à plusieurs reprises une interdiction internationale de la mise au point, de la production et de l’utilisation de systèmes d’armes létales autonomes et l’ouverture de négociations efficaces en vue de leur interdiction; souligne que les systèmes fondés sur l’IA ne peuvent en aucun cas être autorisés à remplacer la prise de décision par l’homme, ce qui fait intervenir les principes juridiques de distinction, de proportionnalité et de précaution;
54. note que cette technologie d’IA en particulier peut notamment présenter des risques potentiels, en tant que moyen permettant de mener différentes formes de guerre hybride et d’ingérence étrangère; précise qu’elle pourrait par exemple être mobilisée pour déclencher une désinformation, par l’utilisation de bots ou de faux comptes de médias sociaux, pour militariser l’interdépendance, par la collecte d’informations importantes ou le refus d’accès au réseau à des adversaires, ou pour créer des perturbations dans les systèmes économiques et financiers d’autres pays, pour polluer le débat politique et favoriser les groupes extrémistes, ou pour manipuler les élections pour déstabiliser les démocraties;
55. souligne que les technologies de l’IA pourraient également comprendre les logiciels malveillants alimentés par l’IA, l’usurpation d’identité, l’empoisonnement des données, ou d’autres formes d’apprentissage machine antagoniste qui amènent d’autres systèmes d’IA à mal interpréter les entrées; observe notamment l’augmentation des infox vidéo qui ne sont pas nécessairement des cyberattaques, mais suscitent des doutes quant à la véracité de tous les contenus numériques, y compris les vidéos, et nécessitent donc une attention particulière en ce qui concerne les exigences de transparence; signale que les infox vidéo pourraient contribuer à un large climat de méfiance du public à l’égard de l’IA, ainsi qu’à une polarisation sociopolitique plus profonde au sein de nos sociétés;
56. explique que l’utilisation des systèmes d’IA génère aujourd’hui une quantité importante d’infrastructures essentielles cruciales, telles que les réseaux d’énergie et de transport, le secteur spatial, la chaîne alimentaire, les infrastructures bancaires et financières et les installations hospitalières, ce qui a créé de nouvelles vulnérabilités qui nécessitent des mesures de cybersécurité robustes pour prévenir les menaces; souligne à cet égard l’importance de la coopération, du partage d’informations et de l’action tant au niveau de l’Union qu’entre les États membres; souligne qu’il importe de favoriser la résilience des entités critiques face aux menaces hybrides;
57. met en garde contre le fait que les capacités de l’IA peuvent également présenter des risques pour la sécurité, étant donné qu’elles peuvent amener les êtres humains à faire confiance à l’IA plus qu’à leur propre jugement; fait observer qu’il n’est pas possible d’utiliser une approche avec intervention humaine en tant que mécanisme correcteur dans tous les cas; note que des expériences ont montré que cela peut élever le niveau d’autonomie de l’IA au-delà du rôle de soutien pour lequel elle a été conçue à l’origine et signifie que les humains laissent passer des possibilités d’acquérir de l’expérience et d’affiner leurs compétences et leurs connaissances des systèmes d’IA; souligne par conséquent que la sécurité dès la conception et un contrôle humain significatif sur la base d’une formation appropriée ainsi que de garanties appropriées en matière de sécurité et de respect de la vie privée sont nécessaires dans les systèmes d’IA à haut risque afin de surmonter ce biais d’automatisation;