L 300/14
FR
Journal officiel de l’Union européenne
21.11.2022
ANNEXE
DOCUMENT DE PROJET Promouvoir l'innovation responsable dans le domaine de l'IA pour favoriser la paix et la sécurité 1.
CONTEXTE
Les avancées récentes accomplies dans le domaine de l'intelligence artificielle (IA) ont ouvert de nouvelles possibilités pour ce qui est de soutenir et de maintenir la paix et la sécurité, grâce par exemple à des améliorations technologiques dans des domaines tels que l'alerte précoce en cas de conflit et la vérification en matière de contrôle des armements et des exportations.
D'autre part, ces avancées ont rendu possibles de nouveaux moyens de faire naître des tensions, des conflits et une insécurité entre les États et au sein de ceux-ci, ou d'aggraver des situations existantes.
Les risques posés par certaines applications de l'IA, par exemple les systèmes d'armes létales autonomes, sont devenus un sujet de préoccupation majeur pour la communauté de la maîtrise des armements.
Le détournement et l'utilisation abusive de la recherche et de l'innovation civiles dans le domaine de l'IA par des acteurs irresponsables, y compris des acteurs non étatiques malveillants, dans le cadre par exemple de l'utilisation abusive de réseaux antagonistes génératifs (GAN) pour produire des "trucages vidéo ultra-réalistes" (deepfakes) en vue de la réalisation de campagnes de désinformation, constituent un risque qui mérite une plus grande attention et face auquel les efforts déployés à l'heure actuelle en matière de maîtrise des armements et de diplomatie pourraient être insuffisants.
L'IA est une technologie générique qui offre de nombreuses possibilités d'utilisation à grande échelle.
Certains acteurs pourraient accéder (relativement facilement) à la recherche et à l'innovation dans le domaine de l'IA menées pour des applications civiles et les réutiliser à des fins préjudiciables ou perturbatrices, qui pourraient avoir des répercussions sur la paix et la sécurité internationales.
Le détournement et l'utilisation abusive de technologies civiles ne sont pas des phénomènes nouveaux et ne sont pas propres à l'IA.
Dans le domaine connexe de la robotique, l'utilisation comme arme et l'instrumentalisation récentes de drones à usage récréatif par l'EIIL/Daech en Syrie en constituent un exemple représentatif.
Mais dans le cas de l'IA, le problème est compliqué par de multiples facteurs: la nature immatérielle et en rapide évolution des algorithmes et des données de l'IA, qui en rend le transfert/la prolifération difficile à contrôler; le rôle moteur du secteur privé dans l'écosystème de la recherche, du développement et de l'innovation, et la nécessité qui en découle de protéger les algorithmes propriétaires; et la possibilité d'accéder, à l'échelle mondiale, à l'expertise humaine et aux ressources matérielles capables de réutiliser les technologies de l'IA.
Dans le même temps, les personnes travaillant dans le domaine de l'IA dans le secteur civil ignorent trop souvent les implications potentielles que le détournement et l'utilisation abusive de leur travail pourraient avoir sur la paix et la sécurité internationales ou hésitent à prendre part aux discussions existantes sur les risques liés à l'IA dans les milieux de la maîtrise des armements et de la non-prolifération.
Il est nécessaire de contribuer à ce que la communauté civile de l'IA se mobilise davantage afin de comprendre et d'atténuer les risques pour la paix et la sécurité liés au détournement et à l'utilisation abusive, par des acteurs irresponsables, des technologies civiles dans le domaine de l'IA.
Pour l'Institut international de recherche sur la paix de Stockholm (SIPRI) et le Bureau des affaires de désarmement des Nations unies (UNODA), cet objectif pourrait être atteint en promouvant davantage l'innovation responsable au sein de la communauté civile mondiale de l'IA.
Les travaux antérieurs du SIPRI et du Bureau des affaires de désarmement des Nations unies ont montré que l'innovation responsable, en tant que mécanisme d'autogou­ vernance, pourrait fournir à la communauté civile mondiale de l'IA des outils et des méthodes pratiques pour recenser et contribuer à prévenir et à atténuer les risques que le détournement et l'utilisation abusive de la recherche et de l'innovation civiles dans le domaine de l'IA pourraient faire peser sur la paix et la sécurité.
Les travaux du SIPRI et du Bureau des affaires de désarmement ont également permis de recenser des méthodologies et plusieurs initiatives en cours en matière d'IA responsable axées sur les efforts d'experts issus de la sphère civile qui pourraient être mises à profit pour sensibiliser la communauté civile de l'IA aux questions de maîtrise des armements et de non-prolifération, aux débats d'experts et aux positions des États sur le développement, la diffusion et l'utilisation responsables de l'IA, ainsi que des enseignements à tirer des travaux menés dans le domaine de la responsabilité du secteur de la défense (1).
De manière plus fondamentale, ces travaux antérieurs ont clairement établi que la coopération avec les étudiants en sciences, technologies, ingénierie et mathématiques (STEM), qui continuent de s'investir dans l'IA dans un contexte éducatif, est au cœur de tout effort efficace d'innovation responsable.
2.
OBJECTIFS
Ces projets visent à soutenir une mobilisation accrue de la communauté civile de l'IA en faveur de l'atténuation des risques que le détournement et l'utilisation abusive de la recherche et de l'innovation civiles dans le domaine de l'IA par des acteurs irresponsables peuvent faire peser sur la paix et la sécurité internationales: Pour ce faire, ils visent, d'une part, à améliorer la compréhension de la manière dont les décisions relatives au développement et à la diffusion de la recherche et de l'innovation dans le domaine de l'IA peuvent avoir une incidence sur les risques de détournement et d'utilisation abusive et, à leur tour, faire naître des risques ou des possibilités pour la paix et la sécurité, et, d'autre part, à promouvoir des processus, (1) Ces méthodologies comprennent, par exemple, les pratiques recommandées par l'Institut de l'ingénierie électrique et électronique (IEEE) pour évaluer l'impact des systèmes autonomes et intelligents sur le bien-être humain (IEEE Std 7010-2020), ainsi que la liste d'évaluation pour une intelligence artificielle digne de confiance (ALTAI) établie par le groupe d'experts de haut niveau sur l'intelligence artificielle.
Parmi les initiatives figurent: l'Initiative mondiale sur l'éthique des systèmes autonomes et intelligents, mise en place par l'IEEE; le partenariat sur l'IA; le partenariat mondial pour l'IA.