PIELIKUMS

PROJEKTA DOKUMENTS

Atbildīgas inovācijas veicināšana mākslīgā intelekta jomā mieram un drošībai

1. VISPĀRĪGA INFORMĀCIJA

Jaunākie sasniegumi mākslīgā intelekta (MI) jomā ir pavēruši jaunas iespējas atbalstīt un uzturēt mieru un drošību, piemēram, veicot tehnoloģiskus uzlabojumus tādās jomās kā konfliktu agrīnā brīdināšana un ieroču un eksporta kontroles pārbaudes. No otras puses, šie sasniegumi ir darījuši iespējamus jaunus veidus, kā radīt – vai padziļināt – saspīlējumu, konfliktus un nedrošību starp valstīm un to iekšienē. Riski, ko rada daži MI lietojumi, piemēram, letālu autonomu ieroču sistēmas, ir kļuvuši par būtisku ieroču kontroles kopienas problēmu. Viens no riska veidiem, kam jāpievērš lielāka uzmanība un attiecībā uz kuru pašreizējie bruņojuma kontroles un diplomātiskie centieni var būt nepietiekami, ir bezatbildīgu aktoru, tostarp ļaunprātīgu nevalstisku aktoru, veikta civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana, piemēram, ģeneratīvo sāncenšu tīklu (Generative Adversarial Networks – GAN) ļaunprātīga izmantošana, lai radītu dziļviltojumus dezinformācijas kampaņām.

MI ir pamattehnoloģija ar lielu vispārējas izmantošanas potenciālu. MI pētniecībai un inovācijai, ko izstrādā civiliem lietojumiem, daži aktori varētu (relatīvi viegli) piekļūt un tos pārprofilēt kaitniecīgai vai plašas ietekmes izmantošanai, kas varētu ietekmēt starptautisko mieru un drošību. Civilo tehnoloģiju novirzīšana un ļaunprātīga izmantošana nav nekas jauns un arī neattiecas vienīgi uz MI jomu. Tam pierādījums radniecīgajā robotikas jomā bija tas, kā Daesh/ISIS Sīrijā izklaides dronus pārveidoja par ieročiem un izmantoja šādos nolūkos. Taču MI gadījumā problēmu sarežģī vairāki faktori – MI algoritmu un datu nemateriālais un strauji mainīgais raksturs, kas apgrūtina to nodošanas/izplatīšanas kontroli; privātā sektora vadošā loma pētniecības, izstrādes un inovācijas ekosistēmā un no tā izrietošā nepieciešamība aizsargāt privātos algoritmus; un tādu ekspertu zināšanu un materiālo resursu globāla pieejamība, kas spēj pārprofilēt MI tehnoloģijas. Savukārt tie, kas strādā MI jomā civilajā sektorā, pārāk bieži neapzinās, kāda varētu būt viņu darba novirzīšanas vai ļaunprātīgas izmantošanas ietekme uz starptautisko mieru un drošību, vai arī vilcinās iesaistīties noritošajās diskusijās par MI riskiem ieroču kontroles un neizplatīšanas aprindās.

Ir jāatbalsta civilās MI kopienas lielāka iesaiste to mieram un drošībai radīto risku izpratnē un mazināšanā, kuri saistīti ar bezatbildīgu aktoru veiktu civilās MI tehnoloģijas novirzīšanu un ļaunprātīgu izmantošanu. Runājot par Stokholmas Starptautisko miera pētniecības institūtu (SIPRI) un Apvienoto Nāciju Organizācijas Atbruņošanās lietu biroju (UNODA) – to varētu panākt, vairāk veicinot atbildīgu inovāciju globālajā civilajā MI kopienā. SIPRI un UNODA līdzšinējais darbs ir parādījis, ka atbildīga inovācija kā pašpārvaldības mehānisms varētu nodrošināt globālajai civilajai MI kopienai praktiskus rīkus un metodes, lai identificētu, kā arī palīdzētu novērst un mazināt riskus, ko civilas MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana varētu radīt mieram un drošībai. SIPRI un UNODA darbā ir apzināta arī metodika un vairākas uz civilo sektoru vērstas iniciatīvas atbildīga MI jomā, uz kurām varētu balstīties, lai civilo MI kopienu informētu par ieroču kontroles un neizplatīšanas jautājumiem, ekspertu debates un valstu nostājas par MI atbildīgu izstrādi, izplatīšanu un izmantošanu, kā arī atziņas, kas gūtas aizsardzības nozares atbildības darbā. (1) Būtiski ir tas, ka šis iepriekšējais darbs ir skaidri parādījis – lai atbildīgas inovācijas centieni būtu efektīvi, vissvarīgākā ir iesaiste ar zinātnes, tehnoloģijas, inženierzinātņu un matemātikas (STEM) studentiem, kuri ar mākslīgo intelektu vēl nodarbojas izglītības formātā.

2. MĒRĶI

Šo projektu mērķis ir atbalstīt civilās MI kopienas lielāku iesaisti to risku mazināšanā, ko bezatbildīgu aktoru veikta civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana var radīt starptautiskajam mieram un drošībai. Šajā sakarā, pirmkārt, tiek plānots radīt labāku izpratni par to, kā lēmumi MI pētniecības un inovācijas izstrādes un izplatīšanas jomā var ietekmēt novirzīšanas un ļaunprātīgas izmantošanas riskus un savukārt radīt risku vai iespējas mieram un drošībai, un, otrkārt, sekmēt atbildīgas inovācijas procesus, metodes un rīkus, kas var palīdzēt nodrošināt civilu inovāciju miermīlīgu izmantošanu un MI zināšanu atbildīgu izplatīšanu. Šajā nolūkā ar tiem tiek atbalstītas spēju veidošanas, pētniecības un iesaistes darbības, kas i) izmantojot atbildīgus inovācijas procesus, uzlabos globālās civilās MI kopienas spēju darbības jomā ietvert un novērst miera un drošības riskus, ko rada bezatbildīgu aktoru veikta civilā MI novirzīšana un ļaunprātīga izmantošana; un ii) stiprinās saikni starp riska mazināšanas centieniem atbildīga MI jomā civilajā sfērā un tiem centieniem, kas starpvaldību līmenī jau tiek īstenoti atbruņošanās, ieroču kontroles un neizplatīšanas kopienā. Būtiski ir tas, ka ar tiem nav paredzēts noteikt jaunus standartus, principus vai regulējumu vai kā citādi iejaukties jomās, kas ir valstu kompetencē. Mērķis drīzāk ir attīstīt civilā sektora atbildīgas inovācijas centienus, lai darbības jomā ietvertu riskus, ko mieram un drošībai rada bezatbildīgu aktoru veikta civilā MI novirzīšana un ļaunprātīga izmantošana, un nodrošināt izglītību par esošiem attiecīgiem starpvaldību centieniem.

Lai efektīvi vērstos pie civilās MI kopienas un to ietekmētu, projektos tiek izmantota trīsvirzienu pieeja, ar ko paredzēts

a) iesaistīt izglītotājus – strādāt kopā ar izraudzītiem izglītotājiem un akadēmisko mācību programmu izstrādātājiem pie tādu izglītojošu materiālu izstrādes un popularizēšanas, kurus var izmantot, lai topošo MI jomas praktiķu apmācībā (piemēram, kursos par MI ētiku un atbildīgu inovāciju) integrētu apsvērumus par miera un drošības riskiem, kas izriet no bezatbildīgu aktoru veiktas civilās MI pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas;

b) iesaistīt studentus – iepazīstināt izraudzītus zinātnes, tehnoloģijas, inženierzinātņu un matemātikas (STEM) studentus no visas pasaules ar to, kā pētniecības un inovācijas procesā vai izmantojot citus pārvaldības procesus var identificēt, novērst vai mazināt riskus, ko mieram un drošībai rada bezatbildīgu aktoru veikta civilās MI izstrādes novirzīšana un ļaunprātīga izmantošana; un

c) iesaistīt MI nozari – strādāt kopā ar profesionālajām apvienībām un standartizācijas struktūrām, piemēram, Elektrotehnikas un elektronikas inženieru institūtu (IEEE), lai i) tehniskajiem speciālistiem izplatītu pielāgotus izglītojošus materiālus un iesaistes darbības; ii) atbalstītu MI pozitīvu izmantošanu mieram un drošībai; un iii) veicinātu dialogu un informācijas apmaiņu starp ekspertiem no akadēmiskajām aprindām, privātā sektora un valdības par to, kā var mazināt bezatbildīgu aktoru veiktas civilās MI pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas risku.

Šāda pieeja ļauj projektiem sasniegt MI kopienu visos līmeņos, ietverot ne tikai pašreizējos jomas praktiķus, bet arī nākamās paaudzes. Tā arī dod iespēju iesaistīt akadēmiskās aprindas, nozari un citas izolētas grupas, un ar to atbalsta turpmāko centienu ilgtspēju, izveidojot tīklus, kas pārsniedz šīs robežas.

Projektu mērķis ir arī izmantot SIPRI un UNODA pilnvaras sasaukt dalībniekus un pieredzi, lai ietekmētu MI kopienu visā pasaulē, ne tikai ES ieinteresētās personas. SIPRI un UNODA stāvoklis ir vienreizīgi labi piemērots tam, lai sasniegtu MI jomas aktorus no Āfrikas, Āzijas un Klusā okeāna reģiona, Eiropas, Ziemeļamerikas un Dienvidamerikas un veicinātu to savstarpējo iesaisti. Abām struktūrām ir arī pieredze darbā citās zinātnes un tehnoloģijas jomās, kas saskaras ar līdzīgiem izaicinājumiem ieroču divējādas lietošanas un izplatīšanas jomā, tostarp biotehnoloģijas jomā. Projektu mērķis ir arī izmantot apstākļus, kādi ir Eiropas Savienībā, piemēram, a) augsti attīstīti procesi ar daudzu ieinteresēto personu iesaisti atbildīga MI jomā; b) augsts iesaistes līmenis un speciālās zināšanas atbruņošanās, ieroču kontroles un ieroču neizplatīšanas jautājumos Eiropas Savienībā; c) daudzveidīgās saiknes, kādas akadēmiskajām, pētniecības un privātā sektora organizācijām Eiropas Savienībā ir ar citiem reģioniem, jo īpaši globālajos dienvidos, kas arī būs viens no galvenajiem iesaistes mērķiem; un d) studentu, izglītotāju un inženieru nacionalitāšu daudzveidība universitātēs, pētniecības institūcijās un privātajā sektorā.

Viens no galvenajiem apsvērumiem projektu darbību īstenošanā būs iekļaušana. Lai efektīvi atbalstītu MI kopienu, projektos tiek atzīts, ka MI kopienu veido daudzveidīgu aktoru loks, un jo īpaši, ka:

a) dzimums ir ļoti būtisks faktors. Šā iemesla dēļ dzimumu aspekts tiks integrēts saskaņā ar visām ANO sistēmas dzimumu līdztiesības aspekta integrēšanas un paritātes stratēģijām. Visās projekta darbībās tiks sekmēta un pieprasīta sieviešu dalība; un

b) personu ar invaliditāti iekļaušana un saprātīgi vajadzību pielāgojumi tiks veikti visā norises gaitā. Tas ietvers to šķēršļu novēršanu, kas kavē personu ar invaliditāti dalību, kā arī to, ka tiek veikti pasākumi nolūkā nodrošināt personu ar invaliditāti iesaisti un veicināt būtisku viņu viedokļu un pieredzes pārstāvību.

3. PROJEKTI

Paredzēts, ka trīs turpmāk aprakstītie projekti cits citu papildinās un savstarpēji atbalstīs un to elementi ilgs visus 36 mēnešus.

3.1. Projekts Nr. 1 – Izglītojošu un spēju veidošanai veltītu materiālu sagatavošana civilajai MI kopienai

3.1.1. Projekta mērķis

Projekts Nr. 1 ir vērsts uz zināšanu un līdzekļu nodrošināšanu civilajiem MI jomas aktoriem nolūkā novērtēt un mazināt tos riskus, ko bezatbildīgu aktoru veikta civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana var radīt starptautiskajam mieram un drošībai. Tā mērķis ir sagatavot izglītojošus un spēju veidošanai veltītus materiālus, kas MI jomas praktiķiem no visiem reģioniem, līmeņiem un sektoriem (tostarp uz MI orientētiem izglītotājiem, mācību programmu izstrādātājiem, STEM studentiem un MI jomas inženieriem un pētniekiem akadēmiskajās aprindās un privātajā sektorā) sniegs informāciju un rīkus, kas vajadzīgi, lai:

a) izprastu, kā civilā MI pētniecība un inovācija varētu tikt novirzīta un ļaunprātīgi izmantota tādos veidos, kas varētu apdraudēt starptautisko mieru un drošību, un kā lēmumi pētniecības un inovācijas izstrādes un izplatīšanas jomā var palielināt vai samazināt novirzīšanas un ļaunprātīgas izmantošanas risku;

b) izprastu centienus, ko atbruņošanās, ieroču kontroles un ieroču neizplatīšanas kopiena jau ir ieguldījusi, lai mazinātu civilās pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas riskus; un

c) praksē īstenotu atbildīgu inovāciju tādā veidā, kas mazina novirzīšanas un ļaunprātīgas izmantošanas risku pētniecības un inovācijas izstrādē un izplatīšanā.

3.1.2. Projekta apraksts

Šā projekta ietvaros tiks sagatavoti trīs atsevišķi izglītojošu un spēju veidošanai veltītu materiālu kopumi.

a) Rokasgrāmata (1) – Rokasgrāmatā tiks apkopotas pamatzināšanas un līdzekļi MI jomas aktoriem, lai pētniecības un inovācijas procesā novērtētu un mazinātu riskus, ko rada bezatbildīgu aktoru veikta civilās MI tehnoloģijas novirzīšana un ļaunprātīga izmantošana. Tajā tiks izskatīts, kāpēc un kā lēmumi, kas saitīti ar pētniecības un inovācijas izstrādi un izplatīšanu, var ietekmēt novirzīšanas un ļaunprātīgas izmantošanas riskus un savukārt radīt riskus vai iespējas mieram un drošībai. Papildus drošuma un drošības apsvērumiem, kas tiek apspriesti militārajās, kā arī atbruņošanās, ieroču kontroles un ieroču neizplatīšanas aprindās, tajā tiks minētas arī attiecīgās starptautiskās tiesības un saistības eksporta kontroles jomā, kā arī sniegti piemēri procesiem un rīkiem atbildīgas inovācijas īstenošanai praksē, piemēram, tehnoloģiju ietekmes novērtēšanas metodikas un riska novērtēšanas veidnes.

b) Podkāstu sērija (~10) – Šie podkāsti MI jomas aktoriem būs pieejams un pievilcīgs medijs, lai uzzinātu, kāpēc un kā atbildīgi MI inovācijas procesi var atbalstīt starptautisko mieru un drošību ar to, ka mazina riskus, ko rada bezatbildīgu aktoru veikta novirzīšana un ļaunprātīga izmantošana. Šajā sērijā tiks izskatīti svarīgi temati (piemēram, divējādi/vispārēji izmantojamas pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas modelis; humanitārie, stratēģiskie un politiskie izaicinājumi, kas saistīti ar iespējamu civilās MI pētniecības un inovācijas ļaunprātīgu izmantošanu; izaicinājumi, ar kuriem atbruņošanās, ieroču kontroles un ieroču neizplatīšanas aprindas saskaras riska mazināšanas centienu ietvaros; kā īstenot atbildīgu inovāciju, izmantojot riska novērtējumu; atbilstība eksporta kontroles prasībām; integrēta riska samazināšana; atbildīga publicēšana; savu klientu pazīšana; un teorētisko mācību pieredze), un tie tiks strukturēti, pamatojoties uz intervijām, ko projekta grupa rīkos ar attiecīgo kopienu pārstāvjiem.

c) Blogu sērija (9–10) – Grupa izstrādās pārraudzītu blogu sēriju, kuras mērķis ir vairot to centienu redzamību, ar kuriem mēģina tuvināt uz civilpersonām vērstu “atbildīgu MI” un ieroču kontroles un ieroču neizplatīšanas kopienas. Blogu sērija sniegs platformu, lai izplatītu atziņas, idejas un risinājumus attiecībā uz tādu risku apzināšanu un novēršanu, kas saistīti ar civilā MI novirzīšanu un ļaunprātīgu izmantošanu pētniecības un inovācijas procesā. Blogos tiks mēģināts pārstāvēt MI sektorā pastāvošo domu un perspektīvu daudzveidību.

Šie materiāli tiks publiski izplatīti, izmantojot īstenotāju tīmekļa vietnes, to klātbūtni sociālajos medijos un tiešu saziņu ar attiecīgajām akadēmiskajām struktūrām, civilām MI jomas profesionālajām apvienībām un citām attiecīgām grupām.

3.1.3. Gaidāmie projekta rezultāti

Sagaidāms, ka ar šo projektu tiks izveidots jauns materiālu kopums, kuros civilie MI jomas praktiķi var iegūt informāciju par to, a) kā civilā MI pētniecība un inovācija varētu tikt novirzīta un ļaunprātīgi izmantota tādos veidos, kas varētu apdraudēt starptautisko mieru un drošību, b) kā šādus riskus novērš atbruņošanās, ieroču kontroles un ieroču neizplatīšanas kopiena un c) kā MI jomas praktiķi varētu vēl vairāk palīdzēt mazināt šādus riskus, izmantojot atbildīgus inovācijas procesus.

Sagaidāms, ka tas veicinās civilā MI sektora iesaisti to risku mazināšanā, ko civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana var radīt starptautiskajam mieram un drošībai; uzlabos tehnisko praktiķu spējas iesaistīties attiecīgos procesos atbruņošanās, ieroču kontroles un ieroču neizplatīšanas kopienas ietvaros, kā arī atbalstīs tādu jaunu auditoriju iesaisti, kuras tradicionāli nav iekļautas izglītošanā par atbruņošanos un ieroču neizplatīšanu.

Sagaidāms, ka ar šiem materiāliem atbalstīs arī citu projektu īstenošanu un tie kalpos par pamatu izglītojošām un spēju veidošanas darbībām projekta Nr. 2 ietvaros, kā arī dialoga un iesaistes darbībām projekta Nr. 3 ietvaros. Sagaidāms, ka šīs darbības savukārt nodrošinās atgriezenisko saiti materiālu sagatavošanā un uzlabošanā. Sagaidāms, ka šāda iteratīva pieeja palīdzēs novērst iespējamos šķēršļus to popularizēšanai, izplatīšanai un izmantošanai MI kopienā, tostarp jautājumos, kas saistīti ar valodu, saturu, kontekstu un pieejamību un kas varētu kavēt to ietekmi pasaules līmenī, jo īpaši globālajos dienvidos.

3.2. Projekts Nr. 2 – Izglītojošas un spēju veidošanas darbības topošajiem MI jomas praktiķiem

3.2.1. Projekta mērķis

Projekta Nr. 2 mērķis ir atbalstīt bezatbildīgu aktoru veiktas civilās MI pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas problēmas integrēšanu nākamo paaudžu MI jomas praktiķu izglītošanā. Ilgtermiņā tas nodrošinās, ka zinātnes, tehnoloģijas, inženierzinātņu un matemātikas (STEM) studenti, kuri veido MI nākotni, apzinās negatīvo ietekmi, kāda bezatbildīgu aktoru veiktai viņu darba novirzīšanai un ļaunprātīgai izmantošanai varētu būt uz starptautisko mieru un drošību, un ka viņiem būs pamatrīki, kas vajadzīgi, lai pētniecības un inovācijas procesā identificētu un mazinātu šādu risku.

Šā projekta ietvaros kopdarbībā ar izraudzītām starptautiskām universitātēm un nozares aktoriem tiks rīkoti vairāki izglītojoši un spēju veidošanai veltīti darbsemināri ar izglītotājiem un studentiem. Tādējādi projekta mērķis ir izstrādāt spēju veidošanas darbības, ko izglītotāji un akadēmisko mācību programmu izstrādātāji varētu izmantot, lai topošo MI jomas praktiķu apmācībā (piemēram, kursi par MI ētiku un atbildīgu inovāciju) iekļautu apsvērumus par bezatbildīgu aktoru veiktas civilās MI pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas riskiem, un sasaistīt minētos riskus ar plašāku miera un drošības kontekstu. Izmantojot šos darbseminārus, projekta mērķis būs arī apzināt ieinteresēto izglītotāju, mācību programmu izstrādātāju un studentu tīklu, kas atbalstītu projekta izglītojošu materiālu un spēju veidošanas darbību izplatīšanu un popularizēšanu MI izglītošanas kopienā un MI jomas praktiķu kopienā. Šā tīklošanās komponenta mērķis ir nodrošināt projektu ilgtspēju pēc to beigām un dot iespēju veidot ciešākas saiknes, lai atbalstītu civilu tehnisko iesaisti nolūkā sasniegt lielākus mērķus miera, drošības, atbruņošanās un ieroču kontroles jomā.

3.2.2. Projekta apraksts

Šā projekta ietvaros tiks rīkoti vairāki izglītojoši un spēju veidošanai veltīti darbsemināri ar izglītotājiem un studentiem no izraudzītām starptautiskām universitātēm no visas pasaules. Tos veidotu lekcijas un interaktīvas darbības, kas izglītotājiem un studentiem sniegs iespējas pārdomāt, kā civilā MI pētniecība un inovācija varētu tikt novirzīta un ļaunprātīgi izmantota tādos veidos, kas varētu apdraudēt starptautisko mieru un drošību, un kā šādus riskus inovācijas procesā vai izmantojot citus pārvaldības procesus var identificēt, novērst vai mazināt. Šīs darbības balstīsies uz agrāku mazāka mēroga izmēģinājuma darbu, kuru veica UNODA un kurā tika eksperimentēts ar metodēm, kā iesaistīt STEM studentus un sniegt viņiem informāciju par to, cik svarīgi ir ņemt vērā plašāku sava darba ietekmi, kā arī ar metodēm, kā iesaistīt ekspertus no citām jomām. Konkrēti, tos veidotu:

a) spēju veidošanai veltīti darbsemināri izglītotājiem un studentiem (4) – reģionālajos darbsemināros tiks veiktas un popularizētas darbības, ko izglītotāji var izmantot, lai veidotu STEM studentu spējas atbildīgas MI inovācijas jomā, īpašu uzmanību pievēršot tam, kā novērtēt un mazināt bezatbildīgu aktoru veiktas civilās MI tehnoloģijas novirzīšanas un ļaunprātīgas izmantošanas riskus. Katrs darbseminārs tiks rīkots kopā ar ES bāzētu universitāti un augsta līmeņa universitāti no cita pasaules reģiona, tādējādi vienmēr sasaistot daudzveidīgu ES bāzētu dalībnieku kopumu ar daudzveidīgu, ārpus ES bāzētu kopumu. Darbsemināri tad aptvers Latīņameriku un Karību jūras reģionu, Ziemeļameriku, Āfriku, kā arī Āziju un Klusā okeāna reģionu. Tas ļaus piedalīties studentiem (maģistrantūras un doktorantūras līmenī) no visas pasaules, tostarp no globālajiem dienvidiem. Darbsemināri galvenokārt notiktu angļu valodā, bet, ja iespējams, dalībniekiem būtu iespēja iesaistīties darbībās, kas balstītas uz citu valodu salikumu; un

b) starptautisks darbseminārs par ilgtspējīgu spēju veidošanu (1) – darbseminārā tiks izmantotas reģionālajos darbsemināros gūtās atziņas un veicināta informācijas un pieredzes apmaiņa starp izglītotājiem un izraudzītiem studentiem no projektā iesaistītajām universitātēm. Darbseminārā tiktu apspriests, kā pilnveidot projekta gaitā izstrādātās darbības un rīkus un kā tos izplatīt ārpus iesaistīto universitāšu grupas. Tajā arī tiktu apspriests, kā atbalstīt studentu iesaisti atbildīga MI jomā, kas pievēršas novirzīšanas un ļaunprātīgas izmantošanas riskiem starptautiskajam mieram un drošībai, pēc tam, kad viņi būs iesaistījušies darba tirgū.

Lai atvieglotu un atbalstītu darbību aspektus, vajadzības gadījumā tiks izmantoti SIPRI un UNODA tīkli un klātbūtne Āfrikā, Āzijā un Klusā okeāna reģionā, Eiropā, Ziemeļamerikā un Dienvidamerikā.

3.2.3. Gaidāmie projekta rezultāti

Sagaidāms, ka projekta ietvaros tiks izveidoti spēju veidošanas un iesaistes darbību modeļi, kurus izglītotāji un akadēmisko mācību programmu izstrādātāji varētu atkārtoti izmantot, lai topošos MI jomas praktiķus informētu par problēmām saistībā ar bezatbildīgu aktoru veiktas civilās MI un inovācijas novirzīšanu un ļaunprātīgu izmantošanu un to, kā viņi var palīdzēt mazināt šīs problēmas, izmantojot atbildīgas inovācijas procesus. Sagaidāms, ka pēc projekta darbību pabeigšanas dalībnieki (izglītotāji, kā arī STEM studenti) spēs izmantot un popularizēt atbildīgas inovācijas rīkus, metodes un koncepcijas, lai identificētu un mazinātu novirzīšanas un ļaunprātīgas izmantošanas riskus civilās MI pētniecības un inovācijas izstrādē un izplatīšanā.

Sagaidāms, ka ar projekta darbībām tiks izveidots arī izglītotāju, mācību programmu izstrādātāju un studentu tīkls, kas ne tikai popularizētu projekta darbības MI izglītošanas un profesionālajās kopienās (piemēram, IEEE Computational Intelligence Society konferencēs), bet arī būtu pieejams, lai ar tehniskām spējām sniegtu ieguldījumu valsts vadītos starptautiskās pārvaldības procesos (piemēram, Parasto ieroču konvencijas procesā par jaunajām tehnoloģijām autonomu letālu ieroču sistēmu jomā).

Šo darbību īstermiņa un ilgtermiņa vērtība tiks noskaidrota, veicot apsekojumus pirms darbību sākšanas un pēc to pabeigšanas.

3.3. Projekts Nr. 3 – Atbildīgas inovācijas MI jomā mieram un drošībai ilgāka termiņa ilgtspējīgas attīstības, izplatīšanas un ietekmes sekmēšana

3.3.1. Projekta mērķis

Projekta Nr. 3 mērķis ir sekmēt atbildīgas inovācijas ilgāka termiņa ilgtspējīgu attīstību, izplatīšanu un ietekmi MI jomā kā līdzekli, ar kuru mazinātu riskus, ko civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana var radīt mieram un drošībai. Šā mērķa sasniegšanai tiks izmantoti apaļie galdi ar MI nozari, daudzu ieinteresēto personu dialogi, publiska ziņojuma sagatavošana un mērķtiecīgi izplatīšanas pasākumi. Projekta mērķis ir nodrošināt, ka paveiktais darbs, jo īpaši izglītošanas, spēju veidošanas un iesaistes darbības, sasniedz un ietekmē MI kopienu kopumā, visos līmeņos (no studentiem līdz inženieriem un citiem MI jomas profesionāļiem) un visās ģeogrāfiskajās, sektorālajās un citās jomās. Lai palielinātu iespēju panākt plašu un dziļu ietekmi, ir būtiski šajā telpā sadarboties ar profesionālajām organizācijām, piemēram, IEEE, un īstenot daudzdimensionālu iesaisti akadēmiskajās aprindās, nozarē un citās izolētās grupas. Šādi centieni dos iespēju ieinteresētajiem pārstāvjiem no dažādām MI kopienām uzņemties atbildību par problēmu un paust savu viedokli par to, kā globālajā MI kopienā un visā pasaulē var ilgtspējīgi īstenot un veicināt riska mazināšanas centienus. Valstīm, starpvaldību organizācijām un citiem, ņemot vērā projekta ilgtermiņa vērtību, ir svarīgi arī tas, ka MI jomas praktiķi var mācīties no valdību ekspertiem, kas iesaistīti riska mazināšanā atbruņošanās, ieroču kontroles un ieroču neizplatīšanas kontekstā, un iesaistīt viņus. Lai nodrošinātu ilgtspēju, ļoti svarīgi ir arī nodrošināt, ka iesaistes darbībās gūtās atziņas tiek pienācīgi analizētas, konsolidētas un izplatītas.

3.3.2. Projekta apraksts

Šo projektu veido šādi galvenie virzieni:

a) daudzu ieinteresēto personu dialogi par “atbildīgu MI inovāciju mieram un drošībai” (līdz 9) – šīs virtuālās dialogu sanāksmes pulcēs ekspertus no akadēmiskajām un pētniecības aprindām, privātā sektora un tradicionālās ieroču kontroles no ES un citām valstīm, lai apspriestu: i) tehnoloģiskās tendences, kas var radīt tādus izplatīšanas, novirzīšanas un ļaunprātīgas izmantošanas riskus, kuri ietekmē starptautisko mieru un drošību; ii) iesaistīšanos riska mazināšanā, izmantojot atbildīgas inovācijas procesus, metodes un līdzekļus, un iespējas un izaicinājumus saistībā ar dialogu un zināšanu apmaiņu starp ieinteresēto personu kopienām, tostarp tām, kas darbojas citos sektoros, piemēram, bioloģijas un ķīmijas nozarēs; un iii) pašpietiekama ekspertu tīkla un dialoga darbību potenciālo vērtību, mērķi un formātu. Ekspertu grupa tiksies vairākas reizes gadā un strādās pie tā, lai sarīkotu divus publiskus pasākumus plašākai sabiedrībai.

Paredzēts, ka no deviņām virtuālajām sanāksmēm divas būs atvērtas sabiedrībai, lai veicinātu plašāku apspriešanos.

b) privātā sektora apaļā galda diskusijas (līdz 6) – šīs virtuālās apaļā galda diskusijas uzsāks dialogu ar aktoriem, kas strādā ar atbildīgas MI inovācijas procesiem privātajā sektorā (piemēram, partnerību MI jomā), par to, kā viņi var sekmēt risku mazināšanu, ka bezatbildīgi aktori novirza vai ļaunprātīgi izmanto civilās MI tehnoloģijas, kā arī pētīs iespējamos stimulus privātā sektora attīstībā, lai to īstenotu. Temati būs, piemēram, i) starptautiskās drošības un atbruņošanās konteksta nozīmīgums privātajam sektoram; ii) juridiskā(-ās) vide(-es), kādā(-ās) visā pasaulē notiek MI attīstība, izmantošana un darbība; iii) kā izvērst riska novērtēšanas mehānismus un citus pasākumus, kas ietilpst vai ko varētu integrēt atbildīgas inovācijas procesos un korporatīvās atbilstības programmās; un iv) atziņas, kas jāņem vērā no citām ar ieroču kontroli saistītām nozarēm, procesiem un satvariem (piemēram, bioloģijas un ķīmijas nozarēm);

c) ziņojums par MI kopienas redzējumiem par ieroču kontroli un riska mazināšanu mākslīgajā intelektā; vērsts uz MI un ieroču kontroles kopienām (1) – šā ziņojuma izstrādē projekta konstatējumi un ieteikumi tiks fiksēti un apkopoti vienā atsauces dokumentā, kura mērķauditorija būs gan civila atbildīga MI kopiena, gan ieroču kontroles kopiena. Ziņojumā tiktu apspriests, kā var apzināt, izvērtēt un vērsties pret starptautiskajam mieram un drošībai radītiem riskiem, kas saistīti ar civilās MI pētniecības un inovācijas novirzīšanu un ļaunprātīgu izmantošanu;

d) izplatīšanas pasākumi, kuru mērķis ir apspriešanās un iesaiste ar MI un ieroču kontroles kopienām (tiks precizēts) – grupa meklēs iespējas visā projekta laikā sniegt informāciju par darba norisi un konstatējumiem un ieteikumiem. Pasākumu formātu un prezentāciju saturu pielāgotu katras mērķgrupas vajadzībām. Tās var būt CONOP sanāksmes, Eiropas Mākslīgā intelekta alianses asambleja; Valdības ekspertu grupa jauno tehnoloģiju jomā saistībā ar letālu autonomu ieroču sistēmām; Starpaģentūru darba grupa MI jomā (IAWG-AI); ITU iniciatīva “MI labiem mērķiem” (AI for Good); UNIDIR ikgadējais inovācijas dialogs; un Elektronikas un elektrotehnikas inženieru institūts. Grupa arī censtos divpusēji sadarboties ar attiecīgajām ieinteresētajām personām no valdības, akadēmiskajām aprindām un privātā sektora.

3.3.3. Kas tiek gaidīts no projekta

Tiek gaidīts, ka šis projekts veidos pamatu MI procesu atbildīgas inovācijas ilgtspējīgai attīstībai, izplatīšanai un ietekmei, pievēršoties izplatīšanas, novirzīšanas un ļaunprātīgas izmantošanas riskiem un to ietekmei uz mieru un drošību, tiecoties tālāk par Padomes lēmuma tiešo darbības laiku.

No daudzu ieinteresēto personu dialoga tiek gaidīts, ka tas nodrošinās modeli informācijas koplietošanai un sadarbībai riska mazināšanas jomā ne tikai globālajā MI kopienā, bet arī starp civilu atbildīga MI kopienu un atbruņošanās, ieroču kontroles un neizplatīšanas kopienām. Šādu modeli varētu izmantot, lai iepazīstinātu politikas veidotājus ar galvenajiem tehnoloģiskajiem un zinātniskajiem sasniegumiem, kas ir būtiski MI atbildīgai inovācijai, kā arī iepazīstināt tehniķu auditoriju ar vidi, kādā pašlaik darbojas politikas veidotāji. Tiek gaidīts, ka projekts sekmēs ilgtspējīgas attiecības un iesaisti ieinteresēto aktoru starpā dažādās kopienās un starp tām. Tiek gaidīts, ka šādi heterogēni tīkla efekti dos iespēju vairāk attīstīt un plaši popularizēt MI atbildīgu inovāciju mieram un drošībai, tiecoties tālāk par projekta darbības laiku.

No privātā sektora dialoga tiek gaidīts, ka tas dos iespēju MI privāto sektoru vairāk un dziļāk iesaistīt tādu mieram un drošībai radītu risku apzināšanā, novēršanā un mazināšanā, kuri izriet no civilās MI pētniecības un inovācijas novirzīšanas un ļaunprātīgas izmantošanas. Tiek gaidīts, ka projekts vairos galveno privātā sektora procesu aktoru izpratni un atbildību par problēmām, kuras tajā mēģina risināt. Turklāt tā mērķis ir sekmēt atbildīgas inovācijas procesu, metožu un rīku (plašāku) pieņemšanu un īstenošanu esošajos korporatīvā riska pārvaldības mehānismos un procedūrās.

Tiek gaidīts arī, ka daudzu ieinteresēto personu dialogs un privātā sektora apaļā galda diskusija sniegs ieskatu par vairākiem būtiskiem jautājumiem, tostarp, a) kā vēl vairāk pilnveidot un izmantot inovatīvas metodes un rīkus, lai apzinātu, novērstu un mazinātu riskus, ko rada civilās MI pētniecības un inovācijas novirzīšana un ļaunprātīga izmantošana; b) kā MI pētniecību un inovāciju var izmantot pozitīvi, lai atbalstītu miera un drošības mērķus (piemēram, lietojumi konfliktu agrīnai brīdināšanai un humānajai palīdzībai); un c) kā sekmēt plašāku dialogu un informācijas koplietošanu starp riska mazināšanas centieniem, kas tiek īstenoti civilā atbildīgā MI kopienā (t. i., dažādas IEEE vadītas iniciatīvas), un centieniem, kas starpvaldību līmenī jau tiek īstenoti atbruņošanās, ieroču kontroles un neizplatīšanas kopienā.

Ziņojumā un izplatīšanas pasākumos tiks analizēti, apkopoti un izplatīti 1., 2. un 3. projektā gūtie ieskati, un tādējādi tiks sniegts atbalsts projekta pasākumu konstatējumu un ieteikumu popularizēšanai globālajā MI kopienā, kā arī politikas kopienā. Tiek gaidīts arī, ka tie palīdzēs nodrošināt ietekmes ilgtspēju, tiecoties tālāk par projekta darbības laiku.

4. ILGUMS

Kopējais paredzētais projektu īstenošanas ilgums ir 36 mēneši.

(1) Metodika ietver, piemēram, Elektronikas un elektrotehnikas inženieru institūta (IEEE) ieteikto praksi autonomu un intelektisku sistēmu ietekmes uz cilvēku labbūtību novērtēšanai (IEEE Std 7010-2020), Mākslīgā intelekta augsta līmeņa ekspertu grupas uzticama mākslīgā intelekta novērtējuma sarakstu (Assessment list for Trustworthy Artificial Intelligence – ALTAI). Iniciatīvas ietver: IEEE globālo autonomo un intelektisko sistēmu ētikas iniciatīvu; partnerību MI jomā; globālo partnerību MI jomā.