C 465/78
CS
Úřední věstník Evropské unie
6.12.2022
Úterý 3. května 2022
51. zdůrazňuje, že technologie umělé inteligence, zejména ty, které nebyly koncipovány a vyvíjeny za pomoci explicitních kontrolních postupů a které jsou používány nesprávně a bez dohledu ve vojenských velitelských štábech nebo v zařízeních pro odpalování raket, s sebou nesou obzvláště významná rizika a mohly by eskalovat automatický vzájemný konflikt;
52. konstatuje, že nasazení systémů umělé inteligence ve vývoji v oblasti obrany se považuje za přelomovou změnu ve vojenských operacích díky analýze údajů, schopnosti odrážet větší složitost situace, potenciálu zlepšit přesnost cílů, optimalizovat logistiku a zapojit se do ozbrojených konfliktů s menším rizikem fyzické újmy pro civilní obyvatelstvo a vlastní vojenský personál, jakož i díky využívání údajů k rozvoji způsobů činnosti, jako je simulace boje; varuje však, že by to mohlo vést ke snížení prahu pro použití síly, a tím k většímu počtu konfliktů; připomíná, že stroje nemohou přijímat rozhodnutí jako lidé, kteří se rozhodují na základě právní zásady rozlišování mezi civilními a vojenskými cíli a zásady proporcionality a obezřetnosti; připomíná, že lidé by měli mít kontrolu nad rozhodnutím rozmísťovat a používat zbraně a nést odpovědnost za použití smrtící síly a za rozhodnutí týkající se života a smrti; je toho názoru, že zbraňové systémy založené na umělé inteligenci by měly podléhat globálním normám a mezinárodnímu etickému kodexu chování s cílem podpořit zavádění technologií umělé inteligence ve vojenských operacích, a to při plném dodržování mezinárodního humanitárního práva a právních předpisů v oblasti lidských práv a v souladu s právem a hodnotami Unie;
53. je znepokojen vojenským výzkumem a vývojem technologií v oblasti smrtících autonomních zbraňových systémů bez smysluplné lidské kontroly, které probíhají v některých zemích; poznamenává, že tyto smrtící autonomní zbraňové systémy jsou ve vojenských konfliktech používány již nyní; připomíná, že Parlament opakovaně vyzýval k mezinárodnímu zákazu vývoje, výroby a používání smrtících autonomních zbraňových systémů a k zahájení účinných jednání o jejich zákazu; zdůrazňuje, že systémy umělé inteligence nesmí za žádných okolností nahradit lidské rozhodování, jehož součástí jsou právní zásady rozlišování, přiměřenosti a prevence;
54. konstatuje zejména, že technologie umělé inteligence s sebou může nést potenciální rizika jako prostředek pro vedení různých forem hybridní války a zahraničního vměšování; upřesňuje, že ji lze například využít k vyvolání dezinformací, a to využíváním botů nebo falešných účtů na sociálních médiích, ke zneužití vzájemné závislosti jako zbraně shromažďováním cenných informací nebo znemožněním přístupu protivníků k síti, k narušování hospodářských a finančních systémů jiných zemí, ke znečišťování politické diskuse a upřednostňování extremistických skupin nebo k manipulaci s volbami s cílem destabilizovat demokracie;
55. poukazuje na to, že technologie umělé inteligence by rovněž mohly zahrnovat malware využívající umělou inteligenci, krádeže identity, kontaminace dat nebo jiné formy nepřátelského strojového učení, které v jiných systémech umělé inteligence způsobí chybný výklad vstupních údajů; poukazuje zejména na nárůst počtu tzv. deepfakes, které nejsou nutně kybernetickými útoky, ale vyvolávají pochybnosti o pravosti veškerého digitálního obsahu, včetně videosnímků, a proto je třeba jim věnovat zvláštní pozornost, pokud jde o požadavky na transparentnost; varuje, že tzv. deepfakes mohou přispět k obecné atmosféře nedůvěry veřejnosti vůči umělé inteligenci a k hlubší sociálně-politické polarizaci v našich společnostech;
56. domnívá se, že používání systémů umělé inteligence ve značném množství hlavní kritické infrastruktury, jako jsou energetické a dopravní sítě, kosmické odvětví, potravinový řetězec, bankovní a finanční infrastruktura a nemocniční zařízení, vytvořilo nová zranitelná místa, která vyžadují důkladná opatření v oblasti kybernetické bezpečnosti, aby se předešlo hrozbám; v tomto ohledu upozorňuje na význam spolupráce a sdílení informací a opatření na úrovni EU i členských států; zdůrazňuje, že je důležité posilovat odolnost kritických subjektů vůči hybridním hrozbám;
57. varuje, že schopnosti umělé inteligence mohou rovněž představovat bezpečnostní rizika, neboť lidé mohou v důsledku toho důvěřovat umělé inteligenci více než svému vlastnímu úsudku; konstatuje, že zapojení lidského prvku jako nápravného mechanismu není ve všech případech proveditelné; konstatuje, že experimenty ukázaly, že umělá inteligence tak může získat vyšší míru samostatnosti, než odpovídá podpůrné úloze, pro kterou byla původně navržena, a to znamená, že se lidé se připravují o příležitosti získávat zkušenosti se systémy umělé inteligence a zlepšovat v tomto oboru své dovednosti a znalosti; zdůrazňuje proto, že vysoce rizikové systémy umělé inteligence vyžadují bezpečnost již od návrhu a smysluplný lidský dohled založený na vhodné odborné přípravě, jakož i přiměřené záruky bezpečnosti a ochrany soukromí, aby bylo možné toto automatizační zkreslení překonat;