SK
L 300/14
Úradný vestník Európskej únie
21.11.2022
PRÍLOHA
PROJEKTOVÝ DOKUMENT Podpora zodpovednej inovácie v oblasti umelej inteligencie v záujme mieru a bezpečnosti 1.
KONTEXT
Nedávny pokrok v oblasti umelej inteligencie priniesol nové možnosti na podporu a udržanie mieru a bezpečnosti, napríklad prostredníctvom technologických zlepšení v oblastiach, ako je včasné varovanie v prípade konfliktov a overovanie kontroly zbrojenia a vývozu.
Tento pokrok však na druhej strane priniesol nové prostriedky, ktorými sa prispieva k vzniku alebo zhoršovaniu napätia, konfliktov a neistoty medzi štátmi a v rámci nich.
Riziká, ktoré predstavujú určité aplikácie umelej inteligencie, ako sú smrtiace autonómne zbraňové systémy, sú z hľadiska komunity pre kontrolu zbrojenia veľkým problémom.
Jednou z rizikových možností, ktorá si zasluhuje väčšiu pozornosť a na ktorú môže byť súčasná kontrola zbrojenia a diplomatické úsilie len nedostatočnou reakciou, je odklon a zneužitie výskumu a inovácie v oblasti civilnej umelej inteligencie nezodpovednými aktérmi vrátane zlomyseľných neštátnych subjektov, ako je zneužívanie generatívnych súperiacich sietí (GAN) na vytváranie „deepfake“ pre dezinformačné kampane.
Umelá inteligencia je podpornou technológiou s veľkým potenciálom všeobecného využitia.
Určité subjekty by mohli mať (relatívne jednoduchý) prístup k výskumu a inovácii v oblasti umelej inteligencie, ktoré sa vyvíjajú pre civilné aplikácie, a mohli by zmeniť ich účel na škodlivé alebo disruptívne využitie, čo by mohlo mať dôsledky pre medzinárodný mier a bezpečnosť.
Odklon a zneužitie civilných technológií nie je novým javom, ani sa neobmedzuje na umelú inteligenciu.
Príkladom toho je v súvisiacej oblasti robotiky nedávne využívanie rekreačných dronov ako zbraní zo strany Dá’iš/ISIS v Sýrii.
V oblasti umelej inteligencie však tento problém komplikuje viacero faktorov: nehmotná a rýchle sa meniaca povaha algoritmov a dát umelej inteligencie, ktorá sťažuje kontrolu ich transferu/šírenia; vedúca úloha súkromného sektora v ekosystéme výskumu, vývoja a inovácie a jeho následná potreba chrániť vlastné algoritmy a celosvetová dostupnosť ľudí s odbornými znalosťami a materiálnymi zdrojmi schopnými zmeniť účel technológií umelej inteligencie.
Pracovníci v oblasti umelej inteligencie v civilnom sektore si okrem toho príliš často neuvedomujú potenciálne dôsledky, ktoré by mohol mať odklon a zneužitie ich práce pre medzinárodný mier a bezpečnosť, alebo váhajú s účasťou na existujúcich diskusiách o rizikách spojených s umelou inteligenciou v kruhoch, ktoré sa zaoberajú kontrolou zbrojenia a nešírením zbraní.
Je potrebné podporiť väčšiu angažovanosť komunity civilnej umelej inteligencie na úrovni chápania a zmierňovania rizík pre mier a bezpečnosť spojených s odklonom a zneužitím technológií civilnej umelej inteligencie nezodpovednými aktérmi.
V prípade Štokholmského medzinárodného inštitútu pre výskum mieru (SIPRI) a Úradu Organizácie Spojených národov pre otázky odzbrojenia (UNODA) by sa to mohlo dosiahnuť väčšou podporou zodpovednej inovácie v rámci celosvetovej komunity civilnej umelej inteligencie.
Minulá práca SIPRI a UNODA ukázala, že zodpovedná inovácia ako mechanizmus vlastného riadenia by mohla poskytnúť celosvetovej komunite civilnej umelej inteligencie praktické nástroje a metódy na identifikáciu rizík, ktoré by odklon a zneužívanie výskumu a inovácie v oblasti civilnej umelej inteligencie mohli predstavovať pre mier a bezpečnosť, a pomoc pri predchádzaní týmto rizikám a ich zmierňovaní.
V rámci práce SIPRI a UNODA sa zároveň určili metodiky a niekoľko prebiehajúcich iniciatív zameraných na civilné osoby v oblasti zodpovednej umelej inteligencie, na ktorých by sa mohlo stavať s cieľom zvyšovať informovanosť komunity civilnej umelej inteligencie v otázkach kontroly zbrojenia a nešírenia zbraní, o odborných diskusiách a stanoviskách štátov k zodpovednému vývoju, šíreniu a využívaniu umelej inteligencie, ako aj o poznatkoch získaných z práce obranného sektora v oblasti zodpovednosti (1).
Predovšetkým sa v rámci tejto predchádzajúcej práce ako kľúčový prvok každého účinného úsilia v oblasti zodpovednej inovácie jasne identifikovala spolupráca so študentmi vedy, technológie, inžinierstva a matematiky (STEM), ktorí s umelou inteligenciou pracujú stále len vo vzdelávacom formáte.
2.
CIELE
Cieľom týchto projektov je podporiť väčšiu angažovanosť komunity civilnej umelej inteligencie pri zmierňovaní rizík, ktoré môžu pre medzinárodný mier a bezpečnosť vyplynúť z odklonu a zneužitia výskumu a inovácie v oblasti civilnej umelej inteligencie nezodpovednými aktérmi.
Na dosiahnutie tohto cieľa sa projekty zamerajú v prvom rade na lepšie pochopenie toho, ako môžu rozhodnutia v rámci vývoja a šírenia výskumu a inovácie v oblasti umelej inteligencie ovplyvniť riziká odklonu a zneužitia, a tým vytvárať hrozby alebo príležitosti v oblasti mieru a bezpečnosti, a v druhom rade na podporu procesov, metód a nástrojov zodpovednej inovácie, ktoré môžu pomôcť zabezpečiť mierové uplatňovanie civilných inovácií a zodpovedné šírenie poznatkov v oblasti umelej inteligencie.
Budú sa nimi preto podporovať činnosti zamerané na budovanie kapacít, výskum a angažovanosť, ktoré i) posilnia schopnosť celosvetovej komunity civilnej umelej inteligencie zohľadňovať a riešiť, prostredníctvom zodpovedných inovačných procesov, riziká pre mier a bezpečnosť, ktoré vyplývajú z odklonu a zneužitia civilnej umelej inteligencie nezodpovednými aktérmi, a ii) posilnia prepojenie medzi (1) Medzi metodiky patria napríklad odporúčané postupy Inštitútu elektrotechnických a elektronických inžinierov (IEEE) na posudzovanie vplyvu autonómnych a inteligentných systémov na dobré životné podmienky ľudí (IEEE Std 7010-2020), a Zoznam bodov na posudzovanie dôveryhodnej umelej inteligencie (ALTAI), ktorý vypracovala expertná skupina na vysokej úrovni pre umelú inteligenciu.
Medzi tieto iniciatívy patrí: Globálna iniciatíva IEEE pre etiku autonómnych a inteligentných systémov, Partnerstvo v oblasti umelej inteligencie a Globálne partnerstvo pre umelú inteligenciu.