SV
L 300/14
Europeiska unionens officiella tidning
21.11.2022
BILAGA
PROJEKTDOKUMENT Främjande av ansvarsfull innovation inom artificiell intelligens för fred och säkerhet
1.
BAKGRUND
Den senaste tidens framsteg inom artificiell intelligens (AI) har skapat nya möjligheter att stödja och upprätthålla fred och säkerhet, till exempel genom tekniska förbättringar på områden som tidig varning för konflikter samt verifiering av vapenoch exportkontroll.
Samtidigt har dessa framsteg inneburit nya möjligheter att skapa eller förvärra spänningar, konflikter och osäkerhet mellan och inom stater.
Riskerna med vissa tillämpningar av AI, såsom dödliga autonoma vapensystem, har visat sig vara ett stort problem inom vapenkontrollsamfundet.
En risk som bör ägnas större uppmärksamhet och som man med nuvarande vapenkontrollinsatser och diplomatiska insatser kanske inte har tillräcklig förmåga att hantera är avledning och missbruk av civil AI-forskning och AI-innovation som oansvariga aktörer, bland annat illvilliga icke-statliga aktörer, gör sig skyldiga till.
Exempel på detta är missbruk av generativa adversariella nätverk (GAN) för att producera s.k. deepfake för desinformationskampanjer.
AI är en möjliggörande teknik med stor allmän användningspotential.
AI-forskning och AI-innovation som utvecklas för civila tillämpningar skulle (relativt enkelt) kunna nås och användas av vissa aktörer för skadliga eller omstörtande ändamål som kan få konsekvenser för den internationella freden och säkerheten.
Avledning och missbruk av civil teknik är inga nya fenomen, och de är inte heller unika för AI.
På det närliggande området robotteknik exemplifierades detta nyligen av Daish/IS användning av drönare för fritidsbruk som vapen i Syrien.
När det gäller AI kompliceras problemet emellertid av flera faktorer: AI-algoritmers och AI-datas immateriella och snabbt föränderliga karaktär, som gör det svårt att kontrollera överföringen eller spridningen av dem, den privata sektorns ledande roll i ekosystemet för forskning, utveckling och innovation och det därav följande behovet av att skydda proprietära algoritmer samt den globala tillgången till mänsklig expertis och materiella resurser som är i stånd att använda AI-tekniken för andra ändamål.
Samtidigt känner de som arbetar med AI inom den civila sektorn alltför ofta inte till de potentiella konsekvenser som avledning och missbruk av deras arbete kan få för den internationella freden och säkerheten eller också är de tveksamma till att delta i de diskussioner om riskerna med AI som förs i vapenkontroll- och icke-spridningskretsar.
Man bör stödja ett ökat engagemang från det civila AI-samfundet för att förstå och minska de freds- och säkerhetsrisker som är förknippade med oansvariga aktörers avledning och missbruk av civil AI-teknik.
Enligt Stockholms internationella fredsforskningsinstitut (Sipri) och FN:s kontor för nedrustningsfrågor (Unoda) skulle detta kunna göras genom att man i högre grad främjar ansvarsfull innovation i det globala civila AI-samfundet.
Sipris och Unodas tidigare arbete har visat att ansvarsfull innovation, som en mekanism för självstyre, skulle kunna förse det globala civila AI-samfundet med praktiska verktyg och metoder för att dels identifiera de risker som avledning och missbruk av civil AI-forskning och AI-innovation kan utgöra för freden och säkerheten, dels bidra till att förebygga och minska dem.
Sipri och Unoda har i sitt arbete också identifierat metoder och flera pågående civilt inriktade initiativ för ansvarsfull AI som man skulle kunna bygga vidare på för att öka det civila AI-samfundets medvetenhet om frågor som rör vapenkontroll och icke-spridning, expertdebatter och staters ståndpunkter om ansvarsfull utveckling, spridning och användning av AI samt lärdomar som kan dras av försvarssektorns ansvarsarbete (1).
Inom ramen för detta tidigare arbete har det tydligt fastställts att kontakter med studerande inom naturvetenskap, teknik, ingenjörsvetenskap och matematik (STEM), som fortfarande sysslar med AI inom ramen för sin utbildning, är av central betydelse för alla effektiva och ansvarsfulla innovationsinsatser.
2.
MÅL
Syftet med dessa projekt är att stödja ett ökat engagemang från det civila AI-samfundet för att minska den risk som oansvariga aktörers avledning och missbruk av civil AI-forskning och AI-innovation kan utgöra för internationella fred och säkerhet.
Avsikten är att göra detta genom att för det första skapa större förståelse för hur beslut om utveckling och spridning av AI-forskning och AI-innovation kan påverka riskerna för avledning och missbruk och i sin tur kan medföra risker eller möjligheter för fred och säkerhet och för det andra främja ansvarsfulla förfaranden, metoder och verktyg för innovation som kan bidra till att säkerställa fredlig tillämpning av civila innovationer och ansvarsfull spridning av AI-kunskap.
I detta syfte stöder projekten kapacitetsuppbyggnad, forskning och engagemang som kommer att i) öka kapaciteten inom det globala civila AI-samfundet för att omfatta och hantera de freds- och säkerhetsrisker som uppstår till följd av oansvariga aktörers avledning och missbruk av civil AI genom ansvarsfulla innovationsförfaranden, och ii) stärka (1) Metoderna omfattar till exempel rekommenderad praxis från Institute of Electrical and Electronics Engineers (IEEE) för bedömning av autonoma och intelligenta systems inverkan på människors välbefinnande (IEEE Std 7010-2020) och AI-expertgruppens bedömningslista för tillförlitlig artificiell intelligens för självbedömning (ALTAI).
Initiativen omfattar IEEE:s globala initiativ om etik för autonoma och intelligenta system, partnerskapet för artificiell intelligens och det globala partnerskapet för artificiell intelligens.