L 300/14
HR
Službeni list Europske unije
21.11.2022.
PRILOG
PROJEKTNI DOKUMENT Promicanje odgovornih inovacija u području umjetne inteligencije za mir i sigurnost 1.
KONTEKST
Nedavni napredak u području umjetne inteligencije pruža nove mogućnosti za potporu i očuvanje mira i sigurnosti, primjerice tehnološkim poboljšanjima u područjima kao što su rano upozoravanje na sukobe i provjera kontrole oružja i izvoza.
S druge strane, taj je napredak omogućio i nove načine za generiranje ili pogoršanje napetosti, sukoba i nesigurnosti među državama i unutar njih.
Rizici koji proizlaze iz određenih primjena umjetne inteligencije, kao što su smrtonosni autonomni oružani sustavi, postali su novi veliki problem zajednice za kontrolu oružja.
Faktor rizika koji zaslužuje veću pozornost i u odnosu na koji trenutačni diplomatski odgovori i odgovori u području kontrole oružja možda nisu dostatni jest preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera, uključujući zlonamjerne nedržavne aktere, kao što je zlouporaba generativnih suparničkih mreža (engl.
Generative Adversarial Networks, GAN) za izradu uvjerljivih krivotvorenih sadržaja (engl. deepfakes) za kampanje dezinformiranja.
Umjetna inteligencija razvojna je tehnologija s velikim potencijalom opće upotrebe.
Određeni akteri mogli bi (relativno jednostavno) pristupiti istraživanjima i inovacijama u području umjetne inteligencije koji se razvijaju za civilnu primjenu i prenamijeniti ih za štetnu ili disruptivnu namjenu koja bi mogla utjecati na međunarodni mir i sigurnost.
Preusmjeravanje i zlouporaba civilne tehnologije nisu nove pojave niti su svojstvene samo umjetnoj inteligenciji.
To je nedavno zabilježeno i u povezanom području robotike, kada je Daiš/ISIS u Siriji pretvarao rekreativne bespilotne letjelice u oružje te ih upotrebljavao.
Međutim, kod umjetne inteligencije problem je složeniji zbog više čimbenika: neopipljive i izrazito promjenjive prirode algoritama i podataka u području umjetne inteligencije, zbog čega je teško kontrolirati njihov prijenos/širenje; vodeće uloge privatnog sektora u ekosustavu istraživanja, razvoja i inovacija te s tim povezane potrebe da se algoritmi u njihovu vlasništvu zaštite; te globalne dostupnosti ljudskog stručnog znanja i materijalnih resursa kojima se tehnologije umjetne inteligencije mogu prenamijeniti.
Istodobno, osobe koje rade u području umjetne inteligencije u civilnom sektoru prečesto nisu svjesne mogućih posljedica koje bi preusmjeravanje i zlouporaba njihova rada mogli imati za međunarodni mir i sigurnost ili oklijevaju sudjelovati u aktualnim raspravama u okviru zajednice za kontrolu i neširenje oružja o rizicima povezanima s umjetnom inteligencijom.
Potrebno je poduprijeti veći angažman civilne zajednice u području umjetne inteligencije u razumijevanju i ublažavanju rizika za mir i sigurnost koji su povezani s preusmjeravanjem i zlouporabom civilne tehnologije umjetne inteligencije od strane neodgovornih aktera.
Međunarodni institut za mirovna istraživanja u Stockholmu (SIPRI) i Ured Ujedinjenih naroda za poslove razoružanja (UNODA) smatraju da bi se to moglo postići većim promicanjem odgovornih inovacija u globalnoj civilnoj zajednici u području umjetne inteligencije.
Dosadašnji rad SIPRI-ja i UNODA-e pokazao je da bi odgovorne inovacije, kao mehanizam samoupravljanja, mogle globalnoj civilnoj zajednici u području umjetne inteligencije pružiti praktične alate i metode za utvrđivanje, sprečavanje i ublažavanje rizika koje bi preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije mogli predstavljati za mir i sigurnost.
U njihovu radu utvrđene su i metodologije i nekoliko aktualnih civilno usmjerenih inicijativa za odgovornu umjetnu inteligenciju koje bi se mogle nadograditi kako bi se civilna zajednica u području umjetne inteligencije senzibilizirala za pitanja kontrole i neširenja oružja, stručne rasprave i stajališta država o odgovornom razvoju, širenju i upotrebi umjetne inteligencije, kao i za iskustva koja bi se mogla steći iz rada usmjerenog na odgovornost u obrambenom sektoru.
(1) Ključno je da je u tom prethodnom radu jasno utvrđeno da je suradnja sa studentima iz područja znanosti, tehnologije, inženjerstva i matematike (STEM), koji još uvijek upotrebljavaju umjetnu inteligenciju u obrazovnom formatu, od središnje važnosti za sve učinkovite napore u području odgovornih inovacija.
2.
CILJEVI
Cilj je tih projekata poduprijeti veći angažman civilne zajednice u području umjetne inteligencije u ublažavanju rizika koje preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera mogu predstavljati za međunarodni mir i sigurnost.
To se nastoji postići prije svega boljim razumijevanjem toga kako odluke u vezi s razvojem i širenjem istraživanja i inovacija u području umjetne inteligencije mogu utjecati na rizike od preusmjeravanja i zlouporabe te stvoriti rizik ili prilike za mir i sigurnost, a nakon toga promicanjem odgovornih inovacijskih procesa, metoda i alata koji mogu pomoći u osiguravanju miroljubive primjene civilnih inovacija i odgovornog širenja znanja o umjetnoj inteligenciji.
U tu će se svrhu projektima podupirati aktivnosti izgradnje kapaciteta, istraživanja i angažmana kojima će se i. povećati kapacitet globalne civilne zajednice u području umjetne inteligencije kako bi se procesima odgovornih inovacija obuhvatili i prevladali rizici za mir i sigurnost koje predstavljaju preusmjeravanje i (1) Metodologije, primjerice, uključuju preporučene prakse Instituta inženjera elektrotehnike i elektronike (IEEE) za procjenu učinka autonomnih i inteligentnih sustava na dobrobit ljudi (IEEE Std 7010 – 2020.) i Popis za procjenu pouzdane umjetne inteligencije (ALTAI) Stručne skupine na visokoj razini za umjetnu inteligenciju.
Među inicijativama su: globalna inicijativa IEEE-a za etiku autonomnih i inteligentnih sustava; partnerstvo za umjetnu inteligenciju; globalno partnerstvo za umjetnu inteligenciju.