CS
L 300/14
Úřední věstník Evropské unie
21.11.2022
PŘÍLOHA
PROJEKTOVÝ DOKUMENT Podpora odpovědných inovací v oblasti umělé inteligence v zájmu míru a bezpečnosti 1.
KONTEXT
Nedávný pokrok v oblasti umělé inteligence (UI) otevřel nové možnosti, jak podporovat a udržovat mír a bezpečnost, například prostřednictvím technologických zlepšení v oblastech, jako je včasné varování v případě konfliktů a ověřování kontroly zbraní a kontroly vývozu.
Na druhé straně tento pokrok umožnil vznik nových prostředků k vyvolávání – nebo prohlubování – napětí, konfliktů a nejistoty mezi státy i v jejich rámci.
Rizika, jež představují některé aplikace UI jako například smrtící autonomní zbraňové systémy, se stala pro komunitu v oblasti kontroly zbraní vážným důvodem ke znepokojení.
Jedním ze způsobů vzniku rizik, který si zaslouží větší pozornost a na nějž nemusí být dostatečné reagovat prostřednictvím stávajícího úsilí v oblasti kontroly zbraní a diplomacie, je odklon a zneužití výzkumu a inovací v oblasti UI pro civilní účely nezodpovědnými subjekty, včetně nepřátelských nestátních subjektů, jako je zneužívání generativních adversariálních sítí (GAN) k vytváření tzv. „deepfakes“ pro účely dezinformačních kampaní.
UI je základní technologií s velkým potenciálem k tomu, aby byla všeobecně využívána.
K výzkumu a inovacím v oblasti UI, jež jsou realizovány pro účely civilních aplikací, by mohly (relativně snadno) získat přístup některé subjekty a ty by je mohly využít k jiným než původním účelům, které by byly škodlivé nebo destabilizující, což by mohlo mít důsledky pro mezinárodní mír a bezpečnost.
Odklon a zneužití civilních technologií nejsou novými fenomény ani k nim nedochází výhradně v oblasti UI.
Názorným příkladem takového vývoje v související oblasti robotiky je to, jak organizace Dá’iš/ISIS v Sýrii začala využívat rekreační drony jako zbraně.
V případě umělé inteligence je však problém komplikován řadou faktorů, mezi něž patří: nehmotná a rychle se měnící povaha algoritmů a dat v oblasti UI, která ztěžuje kontrolu jejich přenosu nebo šíření; skutečnost, že v ekosystému výzkumu, vývoje a inovací hraje vedoucí úlohu soukromý sektor, který si jako takový potřebuje chránit své vlastní algoritmy; a globální dostupnost lidských odborných znalostí a materiálních zdrojů umožňujících, aby byly technologie UI využity k jiným než původním účelům.
Pracovníci v oblasti UI, kteří působí v civilním sektoru, si příliš často stále ještě nejsou vědomi možných důsledků, které by odklon a zneužití výsledků jejich práce mohly mít pro mezinárodní mír a bezpečnost, nebo se zdráhají účastnit se diskusí o rizicích spojených s UI, jež v současnosti probíhají v odborných kruzích zabývajících se problematikou kontroly zbraní a nešíření.
Je třeba podporovat, aby byla komunita v oblasti UI pro civilní účely více zapojena do chápání a zmírňování rizik pro mír a bezpečnost, jež souvisejí s odklonem a zneužitím technologií UI pro civilní účely nezodpovědnými subjekty.
Podle Stockholmského mezinárodního ústavu pro výzkum míru (SIPRI) a Úřadu OSN pro otázky odzbrojení (UNODA) by toho mohlo být dosaženo větší podporou odpovědných inovací v rámci globální komunity v oblasti UI pro civilní účely.
Z práce, kterou ústav SIPRI a úřad UNODA vykonaly v minulosti, vyplývá, že odpovědné inovace jakožto mechanismus seberegulace by mohly globální komunitě v oblasti UI pro civilní účely poskytnout praktické nástroje a metody, jak identifikovat rizika, jež by odklon a zneužití výzkumu a inovací v uvedené oblasti mohly představovat pro mír a bezpečnost, a jak pomoci těmto rizikům předcházet a zmírňovat je.
Ústav SIPRI a úřad UNODA v rámci své činnosti rovněž identifikovaly metodiky a několik probíhajících iniciativ v oblasti odpovědné UI zaměřených na civilní sektor, na něž by bylo možné navázat s cílem zvýšit povědomí komunity v oblasti UI pro civilní účely ohledně problematiky kontroly zbraní a nešíření, odborných diskusí a postojů různých států k odpovědnému rozvoji, šíření a využívání umělé inteligence, jakož i o poznatků, jež lze vyvodit z činnosti týkající se problematiky odpovědnosti, která je vyvíjena v odvětví obrany.
(1) Zásadním výstupem této dřívější činnosti, bylo zjištění, že stěžejním prvkem jakéhokoli efektivního úsilí v oblasti odpovědných inovací je spolupráce se studenty oborů v oblasti přírodních věd, technologií, inženýrství a matematiky (STEM), kteří se umělou inteligencí zabývají ještě v rámci vzdělávání.
2.
CÍLE
Cílem těchto projektů je podpořit větší zapojení komunity v oblasti UI pro civilní účely do zmírňování rizik, jež může odklon a zneužití výzkumu a inovací v uvedené oblasti nezodpovědnými subjekty představovat pro mezinárodní mír a bezpečnost.
Uvedeného cíle má být v rámci těchto projektů dosaženo za prvé zajištěním lepšího porozumění tomu, jaký dopad mohou rozhodnutí související s rozvojem výzkumu a inovací v oblasti UI a šířením jejich výsledků mít na rizika odklonu a zneužití a jak následně mohou tato rozhodnutí vytvářet rizika nebo příležitosti pro mír a bezpečnost, a za druhé podporou procesů, metod a nástrojů zaměřených na odpovědné inovace, které mohou pomoci zajistit mírové využívání civilních inovací a odpovědné šíření znalostí v oblasti UI.
Za tímto účelem jsou v uvedených projektech podporovány činnosti v oblasti budování kapacit, výzkumu a zapojení, které i) posílí kapacitu v rámci globální komunity v oblasti UI pro civilní účely, jež umožní prostřednictvím procesů zaměřených na odpovědné inovace zohledňovat a řešit rizika pro mír a bezpečnost, jež představuje odklon a zneužití UI pro civilní účely nezodpovědnými subjekty; a ii) upevní (1) Mezi metodiky patří například publikace s názvem „The Institute of Electrical and Electronics Engineers (IEEE) recommended practices for assessing the impact of autonomous and intelligent systems on human well-being“ (Doporučené postupy Institutu pro elektrotechnické a elektronické inženýrství (IEEE) pro posuzování dopadu autonomních a inteligentních systémů na dobré životní podmínky člověka) (IEEE Std 7010–2020) a publikace s názvem „Assessment list for Trustworthy Artificial Intelligence (ALTAI)“ (Seznam kritérií pro posuzování důvěryhodné umělé inteligence (ALTAI)) vypracovaná odbornou skupinou na vysoké úrovni pro umělou inteligenci.
Mezi uvedené iniciativy patří: Globální iniciativa pro etiku autonomních a inteligentních systémů realizovaná institutem IEEE; partnerství v oblasti UI; globální partnerství v oblasti UI.