DA
L 300/14
Den Europæiske Unions Tidende
21.11.2022
BILAG
PROJEKTDOKUMENT Fremme af ansvarlig innovation inden for kunstig intelligens for fred og sikkerhed
1.
BAGGRUND
Nylige fremskridt inden for kunstig intelligens (AI) har åbnet nye muligheder for at støtte og opretholde fred og sikkerhed, for eksempel gennem teknologiske forbedringer på områder såsom tidlig varsling af konflikter samt verifikation af våbenog eksportkontrol.
På den anden side har disse fremskridt gjort det muligt at skabe eller forværre spændinger, konflikter og usikkerhed mellem og i stater.
De risici, der er forbundet med visse anvendelser af AI, såsom dødbringende automatvå­ bensystemer, har vist sig at være et stort problem for våbenkontrolsamfundet.
En risikovej, der fortjener større opmærksomhed, og som den nuværende våbenkontrolmæssige og diplomatiske indsats kan være utilstrækkelig til at reagere på, er uansvarlige aktørers, herunder ondsindede ikkestatslige aktørers, omdirigering og misbrug af civil AI-forskning og -innovation, f.eks.
misbrug af generative adversarial networks (GAN) til at producere »deepfakes« til desinformationskampagner.
AI er en støtteteknologi med stort potentiale inden for generel anvendelse.
AI-forskning og -innovation, der udvikles til civile anvendelser, kan (relativt let) tilgås og anvendes til andre formål af visse aktører med henblik på skadelige eller disruptive anvendelser, som kan have konsekvenser for den internationale fred og sikkerhed.
Omdirigering og misbrug af civil teknologi er ikke nye fænomener og er heller ikke enestående for AI.
På det relaterede område robotteknologi blev dette for nylig eksemplificeret ved Daesh/ISIS' anvendelse af rekreative droner som våben i Syrien.
Men i forbindelse med AI kompliceres problemet af mange faktorer: AI-algoritmers og -datas immaterielle og hastigt skiftende karakter, som gør det vanskeligt at kontrollere overførsel/spredning af dem, den private sektors ledende rolle i forsknings-, udviklings- og innovationsøkosystemet og det deraf følgende behov for at beskytte proprietære algoritmer samt den globale tilgængelighed af menneskelig ekspertise og materielle ressourcer, der er i stand til at ændre anvendelsen af AI-teknologier til andre formål.
Samtidig er de, der arbejder inden for AI i den civile sektor, stadig for ofte ikke klar over de potentielle konsekvenser, som omdirigering og misbrug af deres arbejde kan have for den internationale fred og sikkerhed, eller tøver med at deltage i de aktuelle drøftelser om AI-risici i våbenkontrol- og ikkespredningskredse.
Der er behov for at støtte en større inddragelse af det civile AI-miljø i at forstå og begrænse de trusler mod fred og sikkerhed, der er forbundet med uansvarlige aktørers omdirigering og misbrug af civil AI-teknologi.
Ifølge Det Internationale Fredsforskningsinstitut i Stockholm (SIPRI) og De Forenede Nationers Kontor for Nedrustningsanliggender (UNODA) kan dette opnås ved i højere grad at fremme ansvarlig innovation i det globale civile AI-miljø.
SIPRI's og UNODA's tidligere arbejde har vist, at ansvarlig innovation som en selvstyringsmekanisme kan give det globale civile AI-miljø praktiske redskaber og metoder til at identificere samt bidrage til at forebygge og begrænse den trussel, som omdirigering og misbrug af civil AI-forskning og -innovation kan udgøre for fred og sikkerhed.
SIPRI's og UNODA's arbejde har også identificeret metoder og flere igangværende civilt fokuserede initiativer vedrørende ansvarlig AI, der kan bygges på for at bevidstgøre det civile AI-miljø om våbenkontrol- og ikkespredningsspørgsmål, ekspertdebatter og statslige holdninger til ansvarlig udvikling, udbredelse og anvendelse af AI samt erfaringer, som skal indhøstes fra arbejdet med forsvarssektorens ansvar (1).
Kritisk har dette tidligere arbejde klart vist, at inddragelse af studerende inden for naturvidenskab, teknologi, ingeniørvirksomhed og matematik (STEM), som stadig beskæftiger sig med AI inden for uddannelse, er af central betydning for enhver effektiv ansvarlig innovationsindsats.
2.
MÅL
Disse projekter har til formål at støtte øget inddragelse af det civile AI-miljø i mindskelsen af de risici, som uansvarlige aktørers omdirigering og misbrug af civil AI-forskning og -innovation kan udgøre for international fred og sikkerhed.
De sigter mod at gøre dette ved for det første at skabe større forståelse af, hvordan beslutninger om udvikling og udbredelse af AI-forskning og -innovation kan påvirke risiciene for omdirigering og misbrug og dermed skabe trusler mod eller muligheder for fred og sikkerhed, og for det andet ved at fremme ansvarlige innovationsprocesser, -metoder og -værktøjer, der kan bidrage til at sikre fredelig anvendelse af civile innovationer og ansvarlig udbredelse af AI-viden.
Med henblik herpå støtter de kapacitetsopbygnings-, forsknings- og inddragelsesaktiviteter, der skal i) øge kapaciteten i det globale civile AI-miljø til at tage hensyn til og håndtere de trusler mod fred og sikkerhed, som uansvarlige aktørers omdirigering og misbrug af civil AI frembyder, gennem ansvarlige innovationsprocesser og ii) styrke forbindelsen mellem arbejdet med at (1) Metoderne omfatter for eksempel den anbefalede praksis fra Institute of Electrical and Electronics Engineers (IEEE) for vurdering af autonome og intelligente systemers indvirkning på menneskers trivsel (IEEE Std 7010-2020) og Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens' vurderingsliste for pålidelig kunstig intelligens (ALTAI).
Initiativerne omfatter IEEE's globale initiativ om etik i forbindelse med autonome og intelligente systemer, partnerskabet om AI og det globale partnerskab om AI.