PŘÍLOHA

PROJEKTOVÝ DOKUMENT

Podpora odpovědných inovací v oblasti umělé inteligence v zájmu míru a bezpečnosti

1. KONTEXT

Nedávný pokrok v oblasti umělé inteligence (UI) otevřel nové možnosti, jak podporovat a udržovat mír a bezpečnost, například prostřednictvím technologických zlepšení v oblastech, jako je včasné varování v případě konfliktů a ověřování kontroly zbraní a kontroly vývozu. Na druhé straně tento pokrok umožnil vznik nových prostředků k vyvolávání – nebo prohlubování – napětí, konfliktů a nejistoty mezi státy i v jejich rámci. Rizika, jež představují některé aplikace UI jako například smrtící autonomní zbraňové systémy, se stala pro komunitu v oblasti kontroly zbraní vážným důvodem ke znepokojení. Jedním ze způsobů vzniku rizik, který si zaslouží větší pozornost a na nějž nemusí být dostatečné reagovat prostřednictvím stávajícího úsilí v oblasti kontroly zbraní a diplomacie, je odklon a zneužití výzkumu a inovací v oblasti UI pro civilní účely nezodpovědnými subjekty, včetně nepřátelských nestátních subjektů, jako je zneužívání generativních adversariálních sítí (GAN) k vytváření tzv. „deepfakes“ pro účely dezinformačních kampaní.

UI je základní technologií s velkým potenciálem k tomu, aby byla všeobecně využívána. K výzkumu a inovacím v oblasti UI, jež jsou realizovány pro účely civilních aplikací, by mohly (relativně snadno) získat přístup některé subjekty a ty by je mohly využít k jiným než původním účelům, které by byly škodlivé nebo destabilizující, což by mohlo mít důsledky pro mezinárodní mír a bezpečnost. Odklon a zneužití civilních technologií nejsou novými fenomény ani k nim nedochází výhradně v oblasti UI. Názorným příkladem takového vývoje v související oblasti robotiky je to, jak organizace Dá’iš/ISIS v Sýrii začala využívat rekreační drony jako zbraně. V případě umělé inteligence je však problém komplikován řadou faktorů, mezi něž patří: nehmotná a rychle se měnící povaha algoritmů a dat v oblasti UI, která ztěžuje kontrolu jejich přenosu nebo šíření; skutečnost, že v ekosystému výzkumu, vývoje a inovací hraje vedoucí úlohu soukromý sektor, který si jako takový potřebuje chránit své vlastní algoritmy; a globální dostupnost lidských odborných znalostí a materiálních zdrojů umožňujících, aby byly technologie UI využity k jiným než původním účelům. Pracovníci v oblasti UI, kteří působí v civilním sektoru, si příliš často stále ještě nejsou vědomi možných důsledků, které by odklon a zneužití výsledků jejich práce mohly mít pro mezinárodní mír a bezpečnost, nebo se zdráhají účastnit se diskusí o rizicích spojených s UI, jež v současnosti probíhají v odborných kruzích zabývajících se problematikou kontroly zbraní a nešíření.

Je třeba podporovat, aby byla komunita v oblasti UI pro civilní účely více zapojena do chápání a zmírňování rizik pro mír a bezpečnost, jež souvisejí s odklonem a zneužitím technologií UI pro civilní účely nezodpovědnými subjekty. Podle Stockholmského mezinárodního ústavu pro výzkum míru (SIPRI) a Úřadu OSN pro otázky odzbrojení (UNODA) by toho mohlo být dosaženo větší podporou odpovědných inovací v rámci globální komunity v oblasti UI pro civilní účely. Z práce, kterou ústav SIPRI a úřad UNODA vykonaly v minulosti, vyplývá, že odpovědné inovace jakožto mechanismus seberegulace by mohly globální komunitě v oblasti UI pro civilní účely poskytnout praktické nástroje a metody, jak identifikovat rizika, jež by odklon a zneužití výzkumu a inovací v uvedené oblasti mohly představovat pro mír a bezpečnost, a jak pomoci těmto rizikům předcházet a zmírňovat je. Ústav SIPRI a úřad UNODA v rámci své činnosti rovněž identifikovaly metodiky a několik probíhajících iniciativ v oblasti odpovědné UI zaměřených na civilní sektor, na něž by bylo možné navázat s cílem zvýšit povědomí komunity v oblasti UI pro civilní účely ohledně problematiky kontroly zbraní a nešíření, odborných diskusí a postojů různých států k odpovědnému rozvoji, šíření a využívání umělé inteligence, jakož i o poznatků, jež lze vyvodit z činnosti týkající se problematiky odpovědnosti, která je vyvíjena v odvětví obrany. (1) Zásadním výstupem této dřívější činnosti, bylo zjištění, že stěžejním prvkem jakéhokoli efektivního úsilí v oblasti odpovědných inovací je spolupráce se studenty oborů v oblasti přírodních věd, technologií, inženýrství a matematiky (STEM), kteří se umělou inteligencí zabývají ještě v rámci vzdělávání.

2. CÍLE

Cílem těchto projektů je podpořit větší zapojení komunity v oblasti UI pro civilní účely do zmírňování rizik, jež může odklon a zneužití výzkumu a inovací v uvedené oblasti nezodpovědnými subjekty představovat pro mezinárodní mír a bezpečnost. Uvedeného cíle má být v rámci těchto projektů dosaženo za prvé zajištěním lepšího porozumění tomu, jaký dopad mohou rozhodnutí související s rozvojem výzkumu a inovací v oblasti UI a šířením jejich výsledků mít na rizika odklonu a zneužití a jak následně mohou tato rozhodnutí vytvářet rizika nebo příležitosti pro mír a bezpečnost, a za druhé podporou procesů, metod a nástrojů zaměřených na odpovědné inovace, které mohou pomoci zajistit mírové využívání civilních inovací a odpovědné šíření znalostí v oblasti UI. Za tímto účelem jsou v uvedených projektech podporovány činnosti v oblasti budování kapacit, výzkumu a zapojení, které i) posílí kapacitu v rámci globální komunity v oblasti UI pro civilní účely, jež umožní prostřednictvím procesů zaměřených na odpovědné inovace zohledňovat a řešit rizika pro mír a bezpečnost, jež představuje odklon a zneužití UI pro civilní účely nezodpovědnými subjekty; a ii) upevní provázanost na mezivládní úrovni mezi úsilím o zmírňování rizik v oblasti odpovědné UI, jež je vyvíjeno v civilním sektoru, a úsilím, které již probíhá v komunitě v oblasti odzbrojení, kontroly zbraní a nešíření. Zásadní je to, že cílem uvedených projektů není zavádět jakékoli nové standardy, zásady nebo regulaci ani jinak zasahovat do oblastí spadajících do pravomoci států. Namísto toho má být v jejich rámci rozvíjeno úsilí v oblasti civilních odpovědných inovací s cílem zohledňovat rizika pro mír a bezpečnost, jež představuje odklon a zneužití UI pro civilní účely nezodpovědnými subjekty, a poskytováno vzdělávání ohledně relevantního úsilí, které je v současnosti vyvíjeno na mezivládní úrovni.

V zájmu toho, aby se výsledky projektů efektivním způsobem dostaly ke komunitě v oblasti UI pro civilní účely a měly na ni kýžený dopad, uplatňuje se v rámci uvedených projektů přístup skládající se ze tří složek, jehož cílem je:

(a) spolupracovat s pedagogy – spolupracovat s vybranými pedagogy a pracovníky vytvářejícími akademické vzdělávací programy na vypracování a propagaci vzdělávacích materiálů, které bude možné používat k zohledňování problematiky rizik pro mír a bezpečnost, jež vyplývají z odklonu a zneužití výzkumu a inovací v oblasti UI pro civilní účely nezodpovědnými subjekty, při odborné přípravě budoucích odborníků v oblasti UI (např. v rámci kurzů o etice umělé inteligence a odpovědných inovacích);

(b) spolupracovat se studenty – zasvětit vybrané studenty oborů STEM z celého světa do toho, jak lze v rámci výzkumného a inovačního procesu nebo prostřednictvím jiných procesů správy identifikovat rizika pro mír a bezpečnost, jež představuje odklon a zneužití rozvoje v oblasti UI pro civilní účely nezodpovědnými subjekty, předcházet těmto rizikům nebo je zmírňovat; a

(c) spolupracovat s odvětvím UI – spolupracovat s profesními sdruženími a normalizačními orgány, jako je Institut pro elektrotechnické a elektronické inženýrství (IEEE), s cílem i) šířit mezi technickými odborníky specificky uzpůsobené vzdělávací materiály a činnosti podporující zapojení; ii) podporovat pozitivní způsoby využití UI v zájmu míru a bezpečnosti; a iii) usnadňovat dialog a sdílení informací mezi odborníky z akademické obce, soukromého sektoru a státní správy o tom, jak lze riziko odklonu a zneužití výzkumu a inovací v oblasti UI pro civilní účely nezodpovědnými subjekty zmírnit.

Tento přístup umožňuje, aby se výsledky projektů dostaly ke komunitě v oblasti UI na všech úrovních, a to včetně nejen současných odborníků, ale i budoucích generací. Umožňuje rovněž spolupráci napříč odbornými kruhy v rámci akademické obce, průmyslu a dalších oblastí, které by jinak zůstaly vzájemně izolovány, a podporuje to, aby byla udržitelnost budoucího úsilí zajištěna vytvořením sítí, které budou tyto hranice překračovat.

Cílem projektů je rovněž využít zkušeností ústavu SIPRI a úřadu UNODA a jejich schopnosti stimulovat kolektivní řešení k tomu, aby byl zajištěn kýžený dopad na komunitu v oblasti UI v celosvětovém měřítku, a nikoli pouze na zúčastněné strany z EU. Ústav SIPRI a úřad UNODA mají jedinečné postavení, které jim umožňuje, aby navazovaly kontakty s aktéry v oblasti UI z Afriky, Asie a Tichomoří, Evropy a Severní a Jižní Ameriky a usnadňovaly jejich vzájemnou spolupráci. Oba subjekty mají rovněž zkušenosti s činností v jiných oblastech vědy a techniky, které čelí podobným výzvám souvisejícím s problematikou dvojího užití a šíření, včetně oblasti biotechnologií. Cílem projektů je rovněž využít podmínek, jež Evropská unie skýtá, jako je a) existence pokročilých procesů s účastí mnoha zúčastněných stran zaměřených na problematiku odpovědné UI; b) vysoká úroveň angažovanosti a odborných znalostí v problematice odzbrojení, kontroly zbraní a nešíření, která v EU existuje; c) rozmanitost vazeb, jež akademické a výzkumné organizace a organizace v soukromém sektoru v EU mají s jinými regiony, zejména na globálním Jihu, který bude rovněž jednou z hlavních cílových oblastí, v nichž bude zapojení podporováno; a d) rozmanitost národností studentů, pedagogů a inženýrů na univerzitách, ve výzkumných institucích a v soukromém sektoru.

Při realizaci projektových činností bude jakožto jeden z hlavních aspektů zohledňováno začleňování. V zájmu toho, aby byla komunita v oblasti UI efektivně podporována, se v rámci projektů uznává, že tuto komunitu tvoří různorodá škála aktérů, a zejména to, že jedním z velice důležitých faktorů je problematika genderu.

(a) Z tohoto důvodu bude uvedená problematika zohledňována v souladu se strategiemi pro začleňování genderového hlediska a pro dosažení genderové parity, jež jsou uplatňovány v rámci celého systému OSN. Bude podporována a vyžadována účast žen na všech činnostech v rámci daného projektu a

(b) ve všech jeho fázích budou začleňovány osoby se zdravotním postižením a přiměřeným způsobem budou zohledňovány jejich potřeby. To bude zahrnovat i řešení překážek, které účasti osob se zdravotním postižením brání, jakož i zajištění toho, aby byly podniknuty kroky, které těmto osobám umožní se zapojit a usnadní to, aby byly reprezentovány jejich názory a zkušenosti, které jsou v daném ohledu relevantní.

3. PROJEKTY

Tři níže popsané projekty se mají vzájemně doplňovat a podporovat, přičemž jejich jednotlivé prvky budou realizovány v průběhu celé stanovené doby 36 měsíců.

3.1. Projekt č. 1 – Vypracování materiálů pro vzdělávání a budování kapacit určených pro komunitu v oblasti UI pro civilní účely

3.1.1. Účel projektu

Projekt č. 1 je zaměřen na to, aby byly aktérům v oblasti UI pro civilní účely poskytnuty znalosti a prostředky pro hodnocení a zmírňování rizik, jež může odklon a zneužití výzkumu a inovací v uvedené oblasti nezodpovědnými subjekty představovat pro mezinárodní mír a bezpečnost. Jeho cílem je vypracovat materiály pro vzdělávání a budování kapacit, které odborníkům v oblasti UI ze všech regionů, úrovní a odvětví (včetně pedagogů zaměřených na problematiku UI, pracovníků vytvářejících vzdělávací programy, studentů oborů STEM a inženýrů a výzkumných pracovníků v oblasti UI působících v akademické sféře a v soukromém sektoru) poskytnou informace a nástroje nezbytné pro

(a) porozumění tomu, jak by výzkum a inovace v oblasti UI pro civilní účely mohly být odkloněny a zneužity způsobem, který by mohl představovat rizika pro mezinárodní mír a bezpečnost, a jak mohou rozhodnutí související s rozvojem výzkumu a inovací a šířením jejich výsledků riziko odklonu a zneužití zvýšit, nebo naopak snížit;

(b) porozumění úsilí, které s cílem zmírnit rizika odklonu a zneužití civilního výzkumu a inovací již vyvíjí komunita v oblasti odzbrojení, kontroly zbraní a nešíření; a

(c) realizaci odpovědných inovací způsobem, který při rozvoji výzkumu a inovací a šíření jejich výsledků zmírňuje riziko odklonu a zneužití.

3.1.2. Popis projektu

V rámci tohoto projektu budou vypracovány tři samostatné soubory materiálů pro vzdělávání a budování kapacit.

(a) Příručka (1) – V příručce budou shromážděny základní znalosti a prostředky pro aktéry v oblasti UI, které umožňují, aby byla v rámci výzkumného a inovačního procesu vyhodnocována a zmírňována rizika odklonu a zneužití technologií UI pro civilní účely nezodpovědnými subjekty. Bude se v ní diskutovat o tom, proč a jak mohou rozhodnutí související s rozvojem výzkumu a inovací a šířením jejich výsledků mít dopad na rizika odklonu a zneužití, a následně vytvářet rizika nebo příležitosti pro mír a bezpečnost. Kromě otázek bezpečnosti a zabezpečení, jež jsou v současnosti projednávány ve vojenských kruzích, jakož i v odborných kruzích zabývajících se problematikou odzbrojení, kontroly zbraní a nešíření, v ní budou rovněž představeny relevantní mezinárodní právní předpisy a povinnosti v oblasti kontroly vývozu; a dále v ní budou uvedeny i příklady procesů a nástrojů pro realizaci odpovědných inovací, jako jsou metodiky pro posuzování dopadů příslušných technologií a vzory formulářů pro posuzování rizik.

(b) Podcastová série (~10) – Tyto podcasty budou fungovat jako přístupné a poutavé médium, které aktérům v oblasti UI osvětlí, proč a jak mohou procesy týkající se odpovědných inovací v oblasti UI podporovat mezinárodní mír a bezpečnost zmírňováním rizik, jež představuje odklon a zneužití nezodpovědnými subjekty. Uvedená série se bude zabývat důležitými tématy (jako je například obvyklý způsob odklonu a zneužití výzkumu a inovací v oblasti zboží dvojího nebo všeobecného užití; humanitární, strategické a politické výzvy související s potenciálním zneužitím výzkumu a inovací v oblasti UI pro civilní účely; výzvy, kterým v rámci úsilí o zmírnění rizik čelí odborné kruhy zabývající se problematikou odzbrojení, kontroly zbraní a nešíření; způsob, jak provádět odpovědné inovace prostřednictvím posuzování rizik; dodržování kontrol vývozu; snižování rizik již od fáze návrhu; odpovědná vydavatelská činnost; zásada „poznej svého klienta“ a zkušenosti s table-top cvičeními) a bude strukturována na základě rozhovorů, které projektový tým povede se zástupci relevantních komunit.

(c) Série blogových příspěvků (9–10) – Tým vytvoří pečlivě uspořádanou sérii blogových příspěvků zaměřenou na zviditelnění úsilí, které je vyvíjeno s cílem pokusit se překračovat hranice mezi civilní komunitou v oblasti „odpovědné UI“ a komunitou v oblasti kontroly zbraní a nešíření. Uvedená série poskytne platformu pro šíření poznatků, nápadů a řešení týkajících se toho, jak v rámci výzkumného a inovačního procesu identifikovat a řešit rizika související s odklonem a zneužitím UI pro civilní účely. Blog se pokusí reprezentovat rozmanitost způsobů myšlení a pohledů, která v odvětví UI existuje.

Tyto materiály budou veřejně šířeny prostřednictvím internetových stránek aktérů, kteří budou projekt realizovat, jejich přítomnosti v sociálních médiích a přímé komunikace s relevantními akademickými subjekty, profesními sdruženími v oblasti UI pro civilní účely a dalšími vhodnými skupinami.

3.1.3 Očekávané výsledky projektu

Očekává se, že v rámci tohoto projektu bude vytvořen nový soubor materiálů, jehož prostřednictvím bude možné zvýšit povědomí odborníků v oblasti UI pro civilní účely ohledně toho, a) jak by výzkum a inovace v uvedené oblasti mohly být odkloněny a zneužity způsobem, který může představovat rizika pro mezinárodní mír a bezpečnost, b) jak jsou tato rizika řešena v rámci komunity v oblasti odzbrojení, kontroly zbrojení a nešíření a c) jak by odborníci v oblasti UI mohli prostřednictvím procesů zaměřených na odpovědné inovace dále přispět ke zmírnění těchto rizik.

Má se tím posílit zapojení odvětví UI pro civilní účely do zmírňování rizik, jež může odklon a zneužití této UI nezodpovědnými subjekty představovat pro mezinárodní mír a bezpečnost; zlepšit schopnost technických odborníků z praxe zapojovat se do relevantních procesů v rámci komunity v oblasti odzbrojení, kontroly zbraní a nešíření, jakož i podpořit zapojení nových cílových skupin, které obvykle nebývají do úsilí zaměřeného na vzdělávání v oblasti odzbrojení a nešíření zahrnuty.

Uvedené materiály mají rovněž podpořit provádění ostatních projektů a budou sloužit jako základ pro činnosti zaměřené na vzdělávání a budování kapacit v rámci projektu č. 2, jakož i pro činnosti zaměřené na dialog a zapojení v rámci projektu č. 3. Očekává se, že tyto činnosti následně zpětně přispějí k vypracování a zdokonalení daných materiálů. Tento iterativní přístup má pomoci řešit potenciální překážky bránící propagaci, šíření a používání těchto materiálů v rámci komunity v oblasti UI, včetně problémů souvisejících s jazykem, obsahem, kontextem a dostupností, které by mohly zabránit tomu, aby měly uvedené materiály kýžený dopad na globální úrovni, zejména na globálním Jihu.

3.2. Projekt č. 2 – Činnosti v oblasti vzdělávání a budování kapacit pro budoucí odborníky v oblasti UI

3.2.1. Účel projektu

Účelem projektu č. 2 je podpořit to, aby byla problematika odklonu a zneužití výzkumu v oblasti UI pro civilní účely nezodpovědnými subjekty začleňována do vzdělávání budoucích generací odborníků v oblasti UI. V dlouhodobém horizontu se tím zajistí, aby si studenti oborů STEM, kteří utvářejí budoucnost UI, byli vědomi negativních dopadů, jež by mohl odklon a zneužití výsledků jejich práce nezodpovědnými subjekty mít na mezinárodní mír a bezpečnost, a aby měli k dispozici základní nástroje nezbytné k tomu, aby mohli v rámci výzkumného a inovačního procesu toto riziko identifikovat a zmírnit.

V rámci tohoto projektu bude ve spolupráci s vybranými mezinárodními univerzitami a aktéry působícími v daném odvětví uspořádána série seminářů zaměřených na vzdělávání a budování kapacit, jichž se budou účastnit pedagogové a studenti. Projekt má tak za cíl rozvíjet činnosti v oblasti budování kapacit, které by pedagogové a pracovníci vytvářející akademické vzdělávací programy mohli využít k tomu, aby je zahrnuli do odborné přípravy budoucích odborníků v oblasti UI (např. kurzy o etice umělé inteligence a odpovědných inovacích) a do úvah o rizicích odklonu a zneužití výzkumu a inovací v oblasti UI pro civilní účely nezodpovědnými subjekty a propojili je s širším kontextem v oblasti míru a bezpečnosti. Prostřednictvím těchto seminářů bude projekt usilovat rovněž o to, aby byla identifikována síť pedagogů, osob vytvářejících vzdělávací programy a studentů se zájmem o danou problematiku, kteří by podporovali šíření a propagaci vzdělávacích materiálů a činností zaměřených na budování kapacit, jež budou na základě projektu vytvořeny, v rámci komunity zapojené do vzdělávání v oblasti UI a v rámci komunity odborníků v oblasti UI. Účelem této složky zaměřené na vytváření sítí je zajistit udržitelnost projektů nad rámec doby jejich bezprostřední realizace a umožnit budování pevnějších vazeb na podporu zapojení civilních technických odborníků v zájmu dosažení obecnějších cílů v oblasti míru, bezpečnosti, odzbrojení a kontroly zbraní.

3.2.2. Popis projektu

V rámci tohoto projektu bude uspořádána série seminářů zaměřených na vzdělávání a budování kapacit, jichž se budou účastnit pedagogové a studenti z vybraných univerzit z celého světa. Uvedené semináře by spojovaly přednášky s interaktivními činnostmi, které pedagogům a studentům poskytnou příležitost zamyslet se nad tím, jak by bylo možné výzkum a inovace v oblasti UI pro civilní účely odklonit a zneužít způsoby, jež mohou představovat rizika pro mezinárodní mír a bezpečnost, a jak lze v rámci výzkumného a inovačního procesu nebo prostřednictvím jiných procesů správy tato rizika identifikovat, předcházet jim nebo je zmírňovat. Tyto činnosti budou vycházet z pilotní činnosti menšího rozsahu, kterou v minulosti vykonal úřad UNODA a v jejímž rámci se experimentovalo s metodami, jak zapojit studenty oborů STEM a zvýšit jejich povědomí o tom, že je důležité brát v potaz širší dopad jejich práce a obeznámit se s odbornými znalostmi z oblastí mimo rámec jejich vlastního oboru. Konkrétně by se jednalo o:

(a) regionální semináře zaměřené na budování kapacit a určené pro pedagogy a studenty (4) – v rámci regionálních seminářů budou prováděny a propagovány činnosti, které mohou pedagogové využívat k budování kapacit studentů oborů STEM v problematice odpovědných inovací v oblasti UI, se zvláštním důrazem na to, jak hodnotit a zmírňovat rizika odklonu a zneužití technologií UI pro civilní účely nezodpovědnými subjekty. Jednotlivé semináře budou uspořádány ve spolupráci s některou z univerzit se sídlem v EU a s některou z prestižních univerzit z jiného světového regionu, čímž se vždy zajistí, aby mohl různorodý soubor účastníků se sídlem v EU navázat kontakty s obdobnou skupinou účastníků se sídlem mimo EU. Semináře se poté zaměří na Latinskou Ameriku a Karibik, Severní Ameriku, Afriku a Asii a Tichomoří. Tím bude umožněna účast studentů (na magisterské a doktorské úrovni) z celého světa, a to i z globálního Jihu. Seminář by měl probíhat především v angličtině, ale tam, kde to bude proveditelné, by měli účastníci možnost zapojit se do činností ve skupinách sestavených na základě jiných jazyků; a

(b) mezinárodní seminář o udržitelném budování kapacit (1) – seminář bude vycházet z poznatků získaných v rámci regionálních seminářů a usnadní výměnu informací a zkušeností mezi pedagogy a vybranými studenty z univerzit, jež budou do projektu zapojeny. Na semináři by se diskutovalo o tom, jak zdokonalit činnosti a nástroje vypracované v průběhu projektu a jak je šířit mimo rámec skupiny zúčastněných univerzit. Bude se na něm debatovat rovněž o tom, jak podpořit, aby se studenti po vstupu na trh práce zapojovali do problematiky odpovědné UI, v jejímž rámci se řeší rizika, jež odklon a zneužití představují pro mezinárodní mír a bezpečnost.

K tomu, aby byly usnadněny a podpořeny relevantní aspekty uvedených činností, budou případně využity kontaktní sítě ústavu SIPRI a úřadu UNODA a jejich přítomnost v Africe, Asii a Tichomoří, Evropě a Severní a Jižní Americe.

3.2.3. Očekávané výsledky projektu

V rámci projektu mají být vytvořeny modely činností zaměřených na budování kapacit a podporu zapojení, které by pedagogové a pracovníci vytvářející vzdělávací programy mohli replikovat s cílem zvýšit povědomí budoucích odborníků v oblasti UI ohledně problémů spočívajících v odklonu a zneužití UI pro civilní účely nezodpovědnými subjekty a ohledně toho, jak mohou prostřednictvím procesů zaměřených na odpovědné inovace pomoci tyto problémy zmírnit. Očekává se, že po dokončení projektových činností budou účastníci (pedagogové, ale rovněž studenti oborů STEM) schopni využívat a propagovat nástroje, metody a koncepce v oblasti odpovědných inovací k tomu, aby při rozvoji výzkumu a inovací v oblasti UI pro civilní účely a šíření jejich výsledků identifikovali rizika odklonu a zneužití a zmírňovali je.

Na základě projektových činností má být rovněž vytvořena síť pedagogů, pracovníků vytvářejících vzdělávací programy a studentů, kteří by nejen propagovali projektové činnosti v rámci komunity zapojené do vzdělávání v oblasti UI a příslušné profesní komunity (např. během konferencí pořádaných společností The IEEE Computational Intelligence Society), ale byli by rovněž k dispozici pro to, aby technickou kapacitou přispívali k mezinárodním procesům správy vedeným jednotlivými státy (např. k procesu probíhajícímu na základě Úmluvy o některých konvenčních zbraních, který je zaměřen na nově vznikající technologie v oblasti smrtících autonomních zbraňových systémů).

Krátkodobá a dlouhodobá hodnota těchto činností bude doložena prostřednictvím průzkumů, jež budou provedeny před realizací daných činností a po ní.

3.3. Projekt 3 – Usnadnění dlouhodobějšího udržitelného rozvoje, šíření a dopadu odpovědných inovací v oblasti UI v zájmu míru a bezpečnosti

3.3.1. Účel projektu

Účelem projektu č. 3 je usnadnit dlouhodobější udržitelný rozvoj, šíření a dopad odpovědných inovací v oblasti UI jakožto prostředek ke zmírňování rizik, jež může odklon a zneužití výzkumu a inovací v oblasti UI pro civilní účely představovat pro mír a bezpečnost. Tohoto cíle má být dosaženo prostřednictvím diskusí u kulatého stolu se zástupci odvětví UI, mnohostranných dialogů, vypracování veřejné zprávy a činností zaměřených na cílené šíření informací. Projekt má zajistit, aby se výsledky vykonané práce, zejména činnosti v oblasti vzdělávání, budování kapacit a podpory zapojení, dostaly ke komunitě v oblasti UI jako celku a měly na ni kýžený dopad, a to na všech úrovních (od studentů po inženýry a další odborníky v oblasti UI) a napříč zeměpisnými, odvětvovými a jinými hranicemi. Aby se zvýšila možnost dosáhnout rozsáhlého a výrazného dopadu, je nezbytné spolupracovat s profesními organizacemi působícími v této oblasti, jako je institut IEEE, a provádět činnosti zaměřené na vícerozměrnou spolupráci napříč odbornými kruhy v rámci akademické obce, průmyslu a dalších oblastí, které by jinak zůstaly vzájemně izolovány. Díky tomuto úsilí budou mít zástupci z různých komunit v oblasti UI, kteří o to budou mít zájem, příležitost k tomu, aby se ujali odpovědnosti za řešení tohoto problému a představili své vlastní názory na to, jak lze v rámci globální komunity v oblasti UI udržitelným způsobem vyvíjet a propagovat úsilí o zmírňování rizik. Pro to, aby byla zajištěna dlouhodobá hodnota projektu pro státy, mezivládní organizace a další subjekty, je rovněž důležité, aby se odborníci v oblasti UI mohli učit od odborníků ze státní správy, kteří jsou zapojeni do zmírňování rizik v souvislosti s problematikou odzbrojení, kontroly zbraní a nešíření, a aby s nimi mohli spolupracovat. Z hlediska udržitelnosti je rovněž kriticky důležité zajistit, aby byly poznatky získané prostřednictvím činností podporujících zapojení analyzovány, konsolidovány a vhodným způsobem šířeny.

3.3.2. Popis projektu

Tento projekt sestává z těchto klíčových složek:

(a) mnohostranné dialogy na téma „odpovědné inovace v oblasti UI v zájmu míru a bezpečnosti“ (až 9) – tato série virtuálních setkání na bázi dialogu by odborníkům z akademické obce, soukromého sektoru a z oblasti výzkumu a tradiční kontroly zbraní z EU i z dalších zemí umožnila, aby se setkali a diskutovali i. o technologických trendech, které mohou vést ke vzniku rizik šíření, odklonu a zneužití, jež by měla dopad na mezinárodní mír a bezpečnost; ii. o tom, jak se zapojit do zmírňování rizik prostřednictvím procesů, metod a prostředků zaměřených na odpovědné inovace, a o příležitostech a výzvách pro dialog a sdílení znalostí mezi komunitami zúčastněných stran, včetně těch, které působí v jiných odvětvích, jako je biotechnologický a chemický průmysl; a iii. o potenciální hodnotě, účelu a formátu samostatně fungující sítě odborníků a činností zaměřených na dialog. Skupina odborníků se bude setkávat několikrát ročně a bude usilovat o to, aby byly uspořádány dvě veřejné akce pro širší komunitu.

Dvě z výše uvedených devíti virtuálních setkání mají být v zájmu usnadnění širší konzultace přístupná veřejnosti.

(b) diskuse u kulatého stolu se zástupci soukromého sektoru (až 6) – touto sérií virtuálních setkání u kulatého stolu bude s aktéry, kteří jsou v soukromém sektoru zapojeni do procesů souvisejících s odpovědnými inovacemi v oblasti UI (např. partnerství v oblasti UI), zahájen dialog zaměřený na to, jak mohou tito aktéři přispět k minimalizaci rizik odklonu a zneužití technologií UI pro civilní účely nezodpovědnými subjekty, a rovněž na prozkoumání možných pobídek v rámci rozvoje soukromého sektoru, jež by mohly sloužit k tomuto účelu. Mezi témata bude patřit: i. relevance kontextu mezinárodní bezpečnosti a odzbrojení pro soukromý sektor; ii. právní prostředí, v němž (nichž) je UI v různých částech světa rozvíjena, zaváděna a uplatňována; iii. jak navázat na mechanismy posuzování rizik a další opatření, které jsou součástí procesů zaměřených na odpovědné inovace a institucionálních programů dodržování předpisů nebo které by mohly být do těchto procesů a programů začleněny; a iv. poznatky z jiných odvětví, procesů a rámců týkajících se kontroly zbraní (například biotechnologický a chemický průmysl).

(c) zpráva o pohledech komunity v oblasti UI na problematiku kontroly zbraní a zmírňování rizik v oblasti UI, zaměřená na komunity v oblasti UI a v oblasti kontroly zbraní (1) – díky vypracování této zprávy budou zjištění a doporučení, která z daného projekt vyplynou, zaznamenána a konsolidována do jediného referenčního dokumentu, který bude zaměřen na komunitu v oblasti odpovědné UI pro civilní účely i na komunitu v oblasti kontroly zbraní. Zpráva by se zabývala tím, jak lze identifikovat, vyhodnocovat a řešit rizika pro mezinárodní mír a bezpečnost, jež souvisejí s odklonem a zneužitím výzkumu a inovací v oblasti UI pro civilní účely.

(d) akce k šíření výsledků zaměřené na konzultace a spolupráci s komunitami v oblasti UI a v oblasti kontroly zbraní (bude upřesněno) – tým bude hledat příležitosti k tomu, aby v průběhu celého projektu informoval o prováděné práci a o zjištěních a doporučeních, jež z ní vyplynou. Formát akcí a obsah prezentací by byly přizpůsobeny potřebám cílových skupin. Mezi ně mohou patřit zasedání Pracovní skupiny pro nešíření (CONOP) a shromáždění Evropské aliance pro umělou inteligenci, skupina vládních odborníků na vznikající technologie v oblasti smrtících autonomních zbraňových systémů, Meziagenturní pracovní skupina pro umělou inteligenci (IAWG-AI); iniciativa Mezinárodní telekomunikační unie (ITU) nazvaná „AI for Good“; každoroční dialog o inovacích pořádaný Výzkumným institutem OSN pro otázky odzbrojení (UNIDIR) a Institut pro elektrotechnické a elektronické inženýrství. Tým by rovněž usiloval o dvoustrannou spolupráci s relevantními zúčastněnými stranami ze státní správy, akademické obce a soukromého sektoru.

3.3.3. Očekávané výsledky projektu

Očekává se, že tento projekt položí základy pro udržitelný rozvoj, šíření a dopad procesů, které jsou zaměřeny na odpovědné inovace v oblasti UI a které se zabývají riziky šíření, odklonu a zneužití a jejich důsledky pro mír a bezpečnost, a to i po uplynutí doby platnosti daného rozhodnutí Rady.

Mnohostranný dialog má poskytnout model pro sdílení informací a spolupráci v problematice zmírňování rizik nejen v rámci globální komunity v oblasti UI, ale také mezi komunitou v oblasti odpovědné UI pro civilní účely a komunitami v oblasti odzbrojení, kontroly zbraní a nešíření. Tento model by se mohl používat k tomu, aby byli tvůrci politik obeznámeni s nejdůležitějšími výsledky technologického a vědeckého pokroku, které jsou pro problematiku odpovědných inovací v oblasti UI relevantní, a rovněž k tomu, aby byla technická veřejnost obeznámena s prostředím, v němž tvůrci politik v současné době působí. Projekt má usnadnit udržitelné vztahy a spolupráci mezi zainteresovanými aktéry v rámci těchto různých komunit i mezi těmito komunitami navzájem. Očekává se, že tyto heterogenní síťové účinky umožní, aby byly odpovědné inovace v oblasti UI v zájmu míru a bezpečnosti více rozvíjeny a široce propagovány, a to i po uplynutí doby realizace projektu.

Dialog se soukromým sektorem má umožnit, aby se soukromý sektor v oblasti UI více a hlouběji zapojil do identifikace, prevence a zmírňování rizik pro mír a bezpečnost, jež vyplývají z odklonu a zneužití výzkumu a inovací v oblasti UI pro civilní účely. Očekává se, že projekt umožní klíčovým aktérům v rámci procesů realizovaných v soukromém sektoru, aby lépe porozuměli problémům, které se tento projekt snaží řešit, a nesli za jejich řešení větší odpovědnost. Kromě toho má za cíl usnadnit to, aby byly v rámci stávajících mechanismů a postupů pro institucionální řízení rizik (v rozsáhlejší míře) přijímány a uplatňovány procesy, metody a prostředky zaměřené na odpovědné inovace.

Očekává se rovněž, že mnohostranný dialog a diskuse u kulatého stolu se zástupci soukromého sektoru povedou k poznatkům o řadě podstatných otázek, včetně a) toho, jak lze metody a prostředky v oblasti odpovědných inovací dále zdokonalovat a používat je k identifikaci, prevenci a zmírňování rizik, jež představuje odklon a zneužití výzkumu a inovací v oblasti UI pro civilní účely; b) jak lze výzkum a inovace v oblasti UI pozitivně využívat k podpoře cílů v oblasti míru a bezpečnosti (například v rámci aplikací týkajících se humanitární pomoci a včasného varování v případě konfliktů); a c) jak usnadnit intenzivnější dialog a sdílení informací na mezivládní úrovni mezi úsilím o zmírňování rizik, které je vyvíjeno v rámci komunity v oblasti odpovědné UI pro civilní účely (tj. různými iniciativami realizovanými pod vedením institutu IEEE), a úsilím, které již probíhá v rámci komunity v oblasti odzbrojení, kontroly zbraní a nešíření.

V rámci činností souvisejících se zprávou a šířením výsledků budou analyzovány, konsolidovány a šířeny poznatky získané na základě projektů č. 1, 2 a 3, a bude tak podpořena propagace zjištění a doporučení, jež z projektových činností vyplynou, v rámci globální komunity v oblasti UI, jakož i v rámci komunity v oblasti politiky. Očekává se rovněž, že uvedené činnosti pomohou zajistit, aby dosažený dopad přetrval i po uplynutí doby realizace projektů.

4. DOBA PLATNOSTI

Celková odhadovaná doba realizace projektů je 36 měsíců.

(1) Mezi metodiky patří například publikace s názvem „The Institute of Electrical and Electronics Engineers (IEEE) recommended practices for assessing the impact of autonomous and intelligent systems on human well-being“ (Doporučené postupy Institutu pro elektrotechnické a elektronické inženýrství (IEEE) pro posuzování dopadu autonomních a inteligentních systémů na dobré životní podmínky člověka) (IEEE Std 7010–2020) a publikace s názvem „Assessment list for Trustworthy Artificial Intelligence (ALTAI)“ (Seznam kritérií pro posuzování důvěryhodné umělé inteligence (ALTAI)) vypracovaná odbornou skupinou na vysoké úrovni pro umělou inteligenci. Mezi uvedené iniciativy patří: Globální iniciativa pro etiku autonomních a inteligentních systémů realizovaná institutem IEEE; partnerství v oblasti UI; globální partnerství v oblasti UI.