SL
L 300/14
Uradni list Evropske unije
21.11.2022
PRILOGA
PROJEKTNI DOKUMENT Spodbujanje odgovornih inovacij na področju umetne inteligence za mir in varnost 1.
OZADJE
Nedavni napredek na področju umetne inteligence je sprostil nove možnosti za podporo in ohranjanje miru in varnosti, na primer s tehnološkimi izboljšavami na področjih, kot so zgodnje opozarjanje na konflikte ter preverjanje orožja in nadzora izvoza.
Po drugi strani je ta napredek omogočil nova sredstva za ustvarjanje ali poslabšanje napetosti, konfliktov in negotovosti med državami in znotraj njih.
Tveganja, ki jih predstavljajo nekatere uporabe umetne inteligence, kot so smrtonosni avtonomni orožni sistem, so postala ena najbolj problematičnih vprašanj za skupnost za nadzor nad oborožitvijo.
Eden od načinov tveganja, ki si zasluži več pozornosti in za katerega sedanji nadzor nad oborožitvijo in diplomatska prizadevanja morda ne zadoščajo za odzivanje nanj, je preusmerjanje in zloraba civilnih raziskav in inovacij na področju umetne inteligence s strani neodgovornih akterjev, vključno z zlonamernimi nedržavnimi akterji, kot je zloraba generativnega kontradiktornega omrežja za izdelavo globokih ponaredkov za dezinformacijske kampanje.
Umetna inteligenca je omogočitvena tehnologija z velikim potencialom splošne uporabe.
Nekateri akterji bi lahko do raziskav in inovacij na področju umetne inteligence, ki se razvijajo za civilne aplikacije, (razmeroma zlahka) dostopali in jim namenili nove namene za škodljive ali moteče uporabe, ki bi lahko vplivale na mednarodni mir in varnost.
Preusmerjanje in zloraba civilne tehnologije nista nova pojava in nista edinstvena za umetno inteligenco.
Na sorodnem področju robotike je bilo to nedavno ponazorjeno z oboroževanjem in uporabo rekreacijskih brezpilotnih zrakoplovov s strani Daiša/ISIS v Siriji.
Vendar je v primeru umetne inteligence težava zapletena zaradi več dejavnikov: nematerialne in hitro spreminjajoče se narave algoritmov in podatkov umetne inteligence, zaradi česar je prenos/širjenje teh algoritmov in podatkov težko nadzorovati; vodilne vloge zasebnega sektorja v raziskovalnem, razvojnem in inovacijskem ekosistemu ter posledične potrebe po zaščiti lastniških algoritmov; ter globalne razpoložljivosti človeškega strokovnega znanja in materialnih virov, s katerimi je mogoče spremeniti namen tehnologij umetne inteligence.
Medtem se tisti, ki delajo na področju umetne inteligence v civilnem sektorju, prepogosto ne zavedajo morebitnih posledic, ki bi jih lahko imela preusmeritev in zloraba njihovega dela za mednarodni mir in varnost, ali pa se neradi udeležujejo obstoječih razprav o tveganjih, povezanih z umetno inteligenco v krogih nadzora nad oboroževanjem in neširjenja orožja.
Podpreti je treba večje sodelovanje civilne skupnosti na področju umetne inteligence pri razumevanju in zmanjševanju tveganj za mir in varnost, povezanih s preusmerjanjem in zlorabo civilne tehnologije umetne inteligence s strani neodgovornih akterjev.
Za Mednarodni mirovni raziskovalni inštitut v Stockholmu (SIPRI) in Urad Združenih narodov za razorožitev (UN-ODA) bi bilo to mogoče doseči z večjim spodbujanjem odgovornih inovacij v svetovni civilni skupnosti na področju umetne inteligence.
Preteklo delo SIPRI in UN-ODA je pokazalo, da bi lahko odgovorne inovacije kot mehanizem samouprave svetovni civilni skupnosti na področju umetne inteligence zagotovile praktična orodja in metode za opredelitev ter pomoč pri preprečevanju in zmanjševanju tveganj, ki bi jih za mir in varnost lahko pomenila preusmerjanje in zloraba civilnih raziskav in inovacij na področju umetne inteligence.
V delu SIPRI in UN-ODA so bile opredeljene tudi metodologije in več tekočih civilno usmerjenih pobud o odgovorni umetni inteligenci, ki bi lahko temeljile na ozaveščanju civilne skupnosti na področju umetne inteligence o vprašanjih nadzora nad oboroževanjem in neširjenja orožja, strokovnih razpravah in državnih stališčih o odgovornem razvoju, razširjanju in uporabi umetne inteligence ter izkušnjah, pridobljenih pri delu na področju odgovornosti obrambnega sektorja.
(1) Ključno je, da je bilo v tem predhodnem delu jasno opredeljeno, da je sodelovanje s študenti naravoslovja, tehnologije, inženirstva in matematike, ki se še vedno ukvarjajo z umetno inteligenco v izobraževalni obliki, osrednjega pomena za vsa učinkovita odgovorna inovacijska prizadevanja.
2.
CILJI
Cilj teh projektov je podpreti večje sodelovanje civilne skupnosti na področju umetne inteligence pri zmanjševanju tveganj, ki jih lahko za mednarodni mir in varnost pomenita preusmerjanje in zloraba civilnih raziskav in inovacij na področju umetne inteligence s strani neodgovornih akterjev.
To naj bi dosegli, prvič, z boljšim razumevanjem, kako lahko odločitve pri razvoju in razširjanju raziskav in inovacij na področju umetne inteligence vplivajo na tveganja preusmerjanja in zlorabe ter posledično ustvarjajo tveganja ali priložnosti za mir in varnost, ter, drugič, s spodbujanjem odgovornih inovacijskih procesov, metod in orodij, ki lahko pomagajo zagotoviti mirno uporabo civilnih inovacij in odgovorno razširjanje znanja o umetni inteligenci.
V ta namen podpirajo dejavnosti krepitve zmogljivosti, raziskav in sodelovanja, ki bodo i) prek odgovornih inovacijskih procesov okrepile zmogljivosti svetovne civilne skupnosti na področju umetne inteligence za vključevanje in obravnavanje tveganj za mir in varnost, ki jih predstavljata preusmerjanje in zloraba civilne umetne (1) Metodologije vključujejo na primer priporočene prakse Inštituta inženirjev elektrotehnike in elektronike za ocenjevanje učinka avtonomnih in inteligentnih sistemov na dobro počutje ljudi (IEEE Std 7010–2020) in ocenjevalni seznam strokovne skupine na visoki ravni za umetno inteligenco za zaupanja vredno umetno inteligenco.
Pobude vključujejo: globalno pobudo Inštituta inženirjev elektrotehnike in elektronike o etiki za avtonomne in inteligentne sisteme; partnerstvo za umetno inteligenco; svetovno partnerstvo za umetno inteligenco.