LV
L 300/14
Eiropas Savienības Oficiālais Vēstnesis
21.11.2022.
PIELIKUMS
PROJEKTA DOKUMENTS Atbildīgas inovācijas veicināšana mākslīgā intelekta jomā mieram un drošībai
1.
VISPĀRĪGA INFORMĀCIJA
Jaunākie sasniegumi mākslīgā intelekta (MI) jomā ir pavēruši jaunas iespējas atbalstīt un uzturēt mieru un drošību, piemēram, veicot tehnoloģiskus uzlabojumus tādās jomās kā konfliktu agrīnā brīdināšana un ieroču un eksporta kontroles pārbaudes.
No otras puses, šie sasniegumi ir darījuši iespējamus jaunus veidus, kā radīt – vai padziļināt – saspīlējumu, konfliktus un nedrošību starp valstīm un to iekšienē.
Riski, ko rada daži MI lietojumi, piemēram, letālu autonomu ieroču sistēmas, ir kļuvuši par būtisku ieroču kontroles kopienas problēmu.
Viens no riska veidiem, kam jāpievērš lielāka uzmanība un attiecībā uz kuru pašreizējie bruņojuma kontroles un diplomātiskie centieni var būt nepietiekami, ir bezatbildīgu aktoru, tostarp ļaunprātīgu nevalstisku aktoru, veikta civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana, piemēram, ģeneratīvo sāncenšu tīklu (Generative Adversarial Networks – GAN) ļaunprātīga izmantošana, lai radītu dziļviltojumus dezinformācijas kampaņām.
MI ir pamattehnoloģija ar lielu vispārējas izmantošanas potenciālu.
MI pētniecībai un inovācijai, ko izstrādā civiliem lietojumiem, daži aktori varētu (relatīvi viegli) piekļūt un tos pārprofilēt kaitniecīgai vai plašas ietekmes izmantošanai, kas varētu ietekmēt starptautisko mieru un drošību.
Civilo tehnoloģiju novirzīšana un ļaunprātīga izmantošana nav nekas jauns un arī neattiecas vienīgi uz MI jomu.
Tam pierādījums radniecīgajā robotikas jomā bija tas, kā Daesh/ISIS Sīrijā izklaides dronus pārveidoja par ieročiem un izmantoja šādos nolūkos.
Taču MI gadījumā problēmu sarežģī vairāki faktori – MI algoritmu un datu nemateriālais un strauji mainīgais raksturs, kas apgrūtina to nodošanas/izplatīšanas kontroli; privātā sektora vadošā loma pētniecības, izstrādes un inovācijas ekosistēmā un no tā izrietošā nepieciešamība aizsargāt privātos algoritmus; un tādu ekspertu zināšanu un materiālo resursu globāla pieejamība, kas spēj pārprofilēt MI tehnoloģijas.
Savukārt tie, kas strādā MI jomā civilajā sektorā, pārāk bieži neapzinās, kāda varētu būt viņu darba novirzīšanas vai ļaunprātīgas izmantošanas ietekme uz starptautisko mieru un drošību, vai arī vilcinās iesaistīties noritošajās diskusijās par MI riskiem ieroču kontroles un neizplatīšanas aprindās.
Ir jāatbalsta civilās MI kopienas lielāka iesaiste to mieram un drošībai radīto risku izpratnē un mazināšanā, kuri saistīti ar bezatbildīgu aktoru veiktu civilās MI tehnoloģijas novirzīšanu un ļaunprātīgu izmantošanu.
Runājot par Stokholmas Starptautisko miera pētniecības institūtu (SIPRI) un Apvienoto Nāciju Organizācijas Atbruņošanās lietu biroju (UNODA) – to varētu panākt, vairāk veicinot atbildīgu inovāciju globālajā civilajā MI kopienā.
SIPRI un UNODA līdzšinējais darbs ir parādījis, ka atbildīga inovācija kā pašpārvaldības mehānisms varētu nodrošināt globālajai civilajai MI kopienai praktiskus rīkus un metodes, lai identificētu, kā arī palīdzētu novērst un mazināt riskus, ko civilas MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana varētu radīt mieram un drošībai.
SIPRI un UNODA darbā ir apzināta arī metodika un vairākas uz civilo sektoru vērstas iniciatīvas atbildīga MI jomā, uz kurām varētu balstīties, lai civilo MI kopienu informētu par ieroču kontroles un neizplatīšanas jautājumiem, ekspertu debates un valstu nostājas par MI atbildīgu izstrādi, izplatīšanu un izmantošanu, kā arī atziņas, kas gūtas aizsardzības nozares atbildības darbā.
(1) Būtiski ir tas, ka šis iepriekšējais darbs ir skaidri parādījis – lai atbildīgas inovācijas centieni būtu efektīvi, vissvarīgākā ir iesaiste ar zinātnes, tehnoloģijas, inženierzinātņu un matemātikas (STEM) studentiem, kuri ar mākslīgo intelektu vēl nodarbojas izglītības formātā.
2.
MĒRĶI
Šo projektu mērķis ir atbalstīt civilās MI kopienas lielāku iesaisti to risku mazināšanā, ko bezatbildīgu aktoru veikta civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana var radīt starptautiskajam mieram un drošībai.
Šajā sakarā, pirmkārt, tiek plānots radīt labāku izpratni par to, kā lēmumi MI pētniecības un inovācijas izstrādes un izplatīšanas jomā var ietekmēt novirzīšanas un ļaunprātīgas izmantošanas riskus un savukārt radīt risku vai iespējas mieram un drošībai, un, otrkārt, sekmēt atbildīgas inovācijas procesus, metodes un rīkus, kas var palīdzēt nodrošināt civilu inovāciju miermīlīgu izmantošanu un MI zināšanu atbildīgu izplatīšanu.
Šajā nolūkā ar tiem tiek atbalstītas spēju veidošanas, pētniecības un iesaistes darbības, kas i) izmantojot atbildīgus inovācijas procesus, uzlabos globālās civilās MI kopienas spēju darbības jomā ietvert un novērst miera un drošības riskus, ko rada bezatbildīgu aktoru veikta civilā MI novirzīšana un ļaunprātīga izmantošana; un ii) stiprinās saikni starp riska mazināšanas centieniem atbildīga MI jomā civilajā sfērā un (1) Metodika ietver, piemēram, Elektronikas un elektrotehnikas inženieru institūta (IEEE) ieteikto praksi autonomu un intelektisku sistēmu ietekmes uz cilvēku labbūtību novērtēšanai (IEEE Std 7010-2020), Mākslīgā intelekta augsta līmeņa ekspertu grupas uzticama mākslīgā intelekta novērtējuma sarakstu (Assessment list for Trustworthy Artificial Intelligence – ALTAI).
Iniciatīvas ietver: IEEE globālo autonomo un intelektisko sistēmu ētikas iniciatīvu; partnerību MI jomā; globālo partnerību MI jomā.