L 300/14
NL
Publicatieblad van de Europese Unie
21.11.2022
BIJLAGE
PROJECTDOCUMENT Bevordering van verantwoorde innovatie in AI voor vrede en veiligheid 1.
ACHTERGROND
Door de recente vooruitgang op het gebied van artificiële intelligentie (AI) zijn er nieuwe mogelijkheden ontstaan om vrede en veiligheid te ondersteunen en te handhaven, bijvoorbeeld door technologische verbeteringen op gebieden als vroegtijdige waarschuwing bij conflicten, en wapenbeheersing en wapenuitvoercontrole.
Anderzijds heeft deze vooruitgang middelen voortgebracht die spanningen, conflicten en onveiligheid tussen en binnen staten veroorzaken of verergeren.
De risico's van bepaalde AI-toepassingen, zoals dodelijke autonome wapensystemen, zijn een groot punt van zorg voor de wapenbeheersingsgemeenschap.
Een risico dat meer aandacht verdient en dat momenteel misschien onvoldoende wordt aangepakt in het kader van wapenbeheersing en diplomatie, is de omleiding of het misbruik van civiel AI-onderzoek en civiele AI-innovatie, zoals misbruik van generative adversarial networks (GAN's) om deepfakes voor desinformatie­ campagnes te maken, door onverantwoordelijke actoren, waaronder kwaadwillige niet-overheidsactoren.
AI is een ontsluitende technologie met een groot potentieel voor algemeen gebruik.
Civiele toepassingen die op basis van AI-onderzoek en -innovatie zijn ontwikkeld, kunnen (relatief gemakkelijk) door bepaalde actoren worden aangewend en herbestemd voor schadelijke of disruptieve doeleinden die de internationale vrede en veiligheid in gevaar kunnen brengen.
Omleiding en misbruik van civiele technologie zijn geen nieuwe verschijnselen en zijn evenmin uniek voor AI.
Zo zijn er onlangs op het verwante gebied van robotica recreatieve drones door Daesh/ISIS in Syrië ingezet als wapens.
In het geval van AI is het probleem echter gecompliceerder: door de niet-tastbare, snel veranderende aard van AI-algoritmen en -gegevens, is de overdracht/proliferatie ervan moeilijk te controleren; door de leidende rol van de privésector in het ecosysteem van onderzoek, ontwikkeling en innovatie moeten door eigendomsrechten beschermde algoritmen worden beschermd, en de menselijke expertise en materiële middelen om AI-technologieën te herbestemmen, zijn wereldwijd beschikbaar.
Daarnaast zijn degenen die actief zijn in de civiele AI-sector zich al te vaak nog niet bewust van de mogelijke gevolgen die omleiding en misbruik van hun werkzaamheden kunnen hebben voor de internationale vrede en veiligheid of zijn ze terughoudend om deel te nemen aan de lopende besprekingen over AI-risico's in wapenbeheersings- en nonproliferatiekringen.
De civiele AI-gemeenschap moet nauwer worden betrokken bij het onderzoeken en beperken van de risico's voor de vrede en veiligheid die gepaard gaan met omleiding en misbruik van civiele AI-technologie door onverantwoordelijke actoren.
Volgens het Internationaal Instituut voor Vredesonderzoek van Stockholm (SIPRI) en het Bureau van de Verenigde Naties voor ontwapeningszaken (Unoda) kan dit worden bereikt door verantwoorde innovatie in de wereldwijde civiele AI-gemeenschap sterker te bevorderen.
Uit eerdere werkzaamheden van het SIPRI en het Unoda blijkt dat verantwoorde innovatie, als een op zichzelf staand mechanisme, de wereldwijde civiele AI-gemeenschap praktische instrumenten en methoden zou kunnen aanreiken om de risico's vast te stellen van omleiding en misbruik van civiel AI-onderzoek en civiele AI-innovatie voor de vrede en veiligheid, en om deze te voorkomen en beperken.
Het SIPRI en het Unoda hebben bij hun werkzaamheden ook methoden en verschillende lopende initiatieven inzake verantwoorde AI voor de civiele gemeenschap vastgesteld waarop kan worden voortgebouwd om de civiele AI-gemeenschap bewust te maken van problemen in verband met wapenbeheersing en non-proliferatie en op de hoogte te brengen van deskundigendebatten en standpunten van staten over verantwoorde ontwikkeling, verspreiding en gebruik van AI.
Ook is vastgesteld welke lessen kunnen worden getrokken uit de werkzaamheden van de defensiesector op het gebied van verantwoordelijkheid (1).
Uit deze eerdere werkzaamheden is duidelijk naar voren gekomen dat samenwerking met studenten wetenschap, technologie, engineering en wiskunde (Science, Technology, Engineering and Mathematics, STEM), die nog via het onderwijs bezig zijn met AI, van cruciaal belang is voor doeltreffende verantwoorde innovatie-inspanningen.
2.
DOELSTELLINGEN
Deze projecten zijn gericht op een grotere betrokkenheid van de civiele AI-gemeenschap bij het verminderen van de risico's van omleiding en misbruik van civiel AI-onderzoek en civiele AI-innovatie door onverantwoordelijke actoren voor de internationale vrede en veiligheid.
Om dit doel te bereiken moeten de projecten in de eerste plaats een beter inzicht geven in hoe beslissingen op het gebied van de ontwikkeling en verspreiding van AI-onderzoek en -innovatie het risico op omleiding en misbruik kunnen beïnvloeden, en op hun beurt risico's of kansen voor vrede en veiligheid kunnen genereren, en moeten zij op de tweede plaats verantwoorde innovatieprocessen, -methoden en -instrumenten bevorderen die kunnen bijdragen tot de vreedzame toepassing van civiele innovaties en de verantwoorde verspreiding van AI-kennis.
Daartoe zullen de projecten capaciteitsopbouw-, onderzoeks- en samenwerkingsactiviteiten ondersteunen die i) de capaciteit binnen de wereldwijde civiele AI-gemeenschap zullen vergroten om de vredes- en veiligheidsrisico's van omleiding en misbruik van civiele AI door onverantwoordelijke actoren aan te pakken via verantwoorde innovatieprocessen, en ii) het (1) Tot de methoden behoren bijvoorbeeld de aanbevolen praktijken van het Institute of Electrical and Electronics Engineers (IEEE) voor het beoordelen van het effect van autonome en intelligente systemen op het welzijn van de mens (IEEE Std 7010-2020), en de lijst van de deskundigengroep op hoog niveau inzake AI voor de beoordeling van betrouwbare artificiële intelligentie (Assessment List for Trustworthy Artificial Intelligence, ALTAI).
De initiatieven omvatten: het wereldwijd initiatief van het IEEE inzake de ethiek van autonome en intelligente systemen, het partnerschap inzake AI en het mondiale partnerschap inzake AI.