L 300/14
LT
Europos Sąjungos oficialusis leidinys
2022 11 21
PRIEDAS
PROJEKTO DOKUMENTAS Atsakingų inovacijų skatinimas DI srityje siekiant taikos ir saugumo 1.
BENDRA INFORMACIJA
Pastarojo meto dirbtinio intelekto (DI) pažanga atvėrė naujų galimybių remti ir išlaikyti taiką ir saugumą, pavyzdžiui, tobulinant technologijas tokiose srityse kaip ankstyvasis perspėjimas apie konfliktus ir ginklų bei eksporto kontrolės patikra.
Kita vertus, ši pažanga atnešė naujų būdų kelti (arba aštrinti) įtampą, konfliktus ir nesaugumą tarp valstybių ir valstybėse.
Tam tikrų dirbtinio intelekto prietaikų, pvz., autonominių mirtinų ginklų sistemų, keliama rizika yra iškilusi kaip viena pagrindinių ginklų kontrolės bendruomenei susirūpinimą keliančių problemų.
Vienas iš rizikos scenarijų, kuriam reikia skirti daugiau dėmesio ir į kurį atsakyti dabartinių ginklų kontrolės ir diplomatinių pastangų gali nepakakti, yra neatsakingų subjektų, įskaitant piktavalius nevalstybinius subjektus, vykdomas civilinio pritaikymo DI mokslinių tyrimų ir inovacijų nukreipimas ir netinkamas naudojimas, pavyzdžiui, netinkamas generatyvinių antagonistinių tinklų naudojimas gaminant sintetinės vaizdo sankaitos produktus dezinformacijos kampanijoms.
DI yra didelio poveikio technologija, turinti didelį potencialą tapti plačiai naudojama.
DI moksliniai tyrimai ir inovacijos, plėtojami civilinėms reikmėms, galėtų būti (palyginti lengvai) prieinami tam tikriems subjektams ir jų nukreipiami kenkėjiškiems ar trikdantiems tikslams, o tai galėtų turėti įtakos tarptautinei taikai ir saugumui.
Civilinių technologijų nukreipimas ir netinkamas naudojimas nėra nei nauji reiškiniai, nei tik išskirtinai susiję su DI.
Nesenas to pavyzdys susijusioje robotikos srityje yra grupuotės „Da’esh“ / ISIS vykdomas rekreacinių bepiločių orlaivių suginklinimas ir naudojimas Sirijoje.
Tačiau DI atveju problemą komplikuoja keli veiksniai: neapčiuopiamas ir greitai besikeičiantis DI algoritmų ir duomenų pobūdis, dėl ko jų perdavimą ir (arba) platinimą sunku kontroliuoti, privačiojo sektoriaus vadovaujamas vaidmuo mokslinių tyrimų, plėtros ir inovacijų ekosistemoje ir su tuo susijęs poreikis apsaugoti nuosavybinius algoritmus ir žmogiškųjų ekspertinių žinių ir materialinių išteklių, sudarančių galimybę pakeisti DI technologijų paskirtį, prieinamumas visame pasaulyje.
Tuo tarpu tie, kurie dirba DI srityje civiliniame sektoriuje, pernelyg dažnai nežino, kokį poveikį jų darbo vaisių nukreipimas ir netinkamas naudojimas galėtų turėti tarptautinei taikai ir saugumui, arba nesiryžta dalyvauti ginklų kontrolės ir ginklų neplatinimo bendruomenėse vykstančiose diskusijose apie su DI susijusią riziką.
Reikia remti aktyvesnį civilinio pritaikymo DI bendruomenės įsitraukimą, kad būtų suprantama ir mažinama rizika taikai ir saugumui, susijusi su neatsakingų subjektų vykdomu civilinio pritaikymo DI technologijų nukreipimu ir netinkamu naudojimu.
Stokholmo tarptautinio taikos tyrimų instituto (SIPRI) ir Jungtinių Tautų nusiginklavimo reikalų biuro (UNODA) atveju tai būtų galima pasiekti labiau skatinant atsakingas inovacijas pasaulinėje civilinio pritaikymo DI bendruomenėje.
Iš ankstesnio SIPRI ir UNODA darbo matyti, kad atsakingos inovacijos, kaip savireguliacinis mechanizmas, galėtų suteikti pasaulinei civilinio pritaikymo DI bendruomenei praktinių priemonių ir metodų, kad būtų galima identifikuoti riziką, kurią civilinio pritaikymo DI mokslinių tyrimų ir inovacijų nukreipimas ir netinkamas naudojimas galėtų kelti taikai ir saugumui, ir padėti užkirsti jai kelią bei ją sumažinti.
SIPRI ir UNODA darbe taip pat buvo nustatytos metodikos ir kelios vykdomos į civilinį pritaikymą orientuotos iniciatyvos dėl atsakingo DI, kuriomis galėtų būti remiamasi siekiant didinti civilinio pritaikymo DI bendruomenės informuotumą apie ginklų kontrolės ir ginklų neplatinimo klausimus, ekspertų diskusijas ir valstybių pozicijas dėl DI atsakingo plėtojimo, sklaidos ir naudojimo, taip pat patirtį, kurios reikia pasimokyti iš gynybos sektoriaus atsakomybei priklausančio darbo (1).
Labai svarbu tai, kad šis ankstesnis darbas aiškiai parodė, kad bendradarbiavimas su gamtos mokslų, technologijų, inžinerijos ir matematikos (STEM) studentais, kurie su DI dirba dar mokymosi etape, yra esminis bet kokių veiksmingų atsakingų inovacijų pastangų elementas.
2.
TIKSLAI
Šiais projektais siekiama remti didesnį civilinio pritaikymo DI bendruomenės dalyvavimą mažinant riziką, kurią neatsakingų subjektų vykdomas civilinio pritaikymo DI mokslinių tyrimų ir inovacijų nukreipimas ir netinkamas naudojimas gali kelti tarptautinei taikai ir saugumui.
Jais to siekiama, pirma, padidinant suvokimą, kaip sprendimai DI mokslinių tyrimų ir inovacijų plėtojimo bei sklaidos srityje gali daryti poveikį nukreipimo ir netinkamo naudojimo rizikai ir taip kelti riziką arba sudaryti galimybes taikai ir saugumui, ir, antra, skatinant atsakingus inovacijų procesus, metodus ir priemones, kurie gali padėti užtikrinti taikų civilinių inovacijų taikymą ir atsakingą su DI susijusių žinių sklaidą.
Šiuo tikslu projektais remiama gebėjimų stiprinimo, mokslinių tyrimų ir angažavimosi veikla, kuria i) vykdant atsakingus inovacijų procesus pasaulinėje civilinio pritaikymo DI bendruomenėje bus didinamas gebėjimas atsižvelgti į riziką taikai ir saugumui, kylančią dėl neatsakingų subjektų vykdomo civilinio pritaikymo DI nukreipimo ir netinkamo naudojimo, ir tą riziką pašalinti ir ii) stiprinamas rizikos mažinimo pastangų plėtojant atsakingą DI civilinėje sferoje ryšys su pastangomis, (1) Metodikos apima, pavyzdžiui, Elektros ir elektronikos inžinierių instituto (IEEE) rekomenduojamą autonominių ir intelektinių sistemų poveikio žmonių gerovei vertinimo praktiką (IEEE Std 7010-2020), Aukšto lygio ekspertų grupės dirbtinio intelekto klausimais Dirbtinio intelekto patikimumo vertinimo kriterijų sąrašą (ALTAI).
Šios iniciatyvos, be kita ko, yra: IEEE pasaulinė autonominių ir intelektinių sistemų etikos iniciatyva; partnerystė DI srityje; pasaulinė partnerystė DI srityje.