C 465/78
SK
Úradný vestník Európskej únie
6.12.2022
Utorok 3. mája 2022
51. zdôrazňuje, že technológie umelej inteligencie, najmä tie, ktoré neboli navrhnuté a vyvinuté s explicitne stanovenými kontrolnými postupmi a ktoré sa používajú nesprávne a bez dohľadu vo vojenských veliteľských centrách alebo v zariadeniach na odpaľovanie rakiet, predstavujú obzvlášť veľké riziko a mohli by vystupňovať automatizovaný vzájomný konflikt;
52. poznamenáva, že využívanie systémov umelej inteligencie vo vývoji v oblasti obrany sa považuje za prielom vo vojenských operáciách vďaka analýze údajov, schopnosti odrážať väčšiu zložitosť situácie, potenciálu zlepšiť presnosť cieľov, optimalizovať logistiku a zapojiť sa do ozbrojených konfliktov so zníženým rizikom fyzického ublíženia civilnému obyvateľstvu a vlastnému vojenskému personálu, ako aj vďaka využívaniu údajov na vývoj spôsobov činnosti, ako je napríklad wargaming; varuje však, že by to mohlo viesť k zníženiu prahu pre použitie sily, a teda k väčšiemu počtu konfliktov; vyhlasuje, že stroje nemôžu prijímať rozhodnutia ako ľudia, ktorí zohľadňujú právne zásady rozlišovania, proporcionality a prevencie; vyhlasuje, že kontrolu nad rozhodovaním o nasadení a použití zbraní by mali mať ľudia, ktorí by mali niesť aj zodpovednosť za použitie smrtiacej sily a za rozhodnutia o živote a smrti; zastáva názor, že zbraňové systémy založené na umelej inteligencii by mali podliehať globálnym normám a medzinárodnému etickému kódexu správania, ktoré by upravovali nasadenie technológií umelej inteligencie vo vojenských operáciách, a to pri plnom rešpektovaní medzinárodného humanitárneho práva a práva v oblasti ľudských práv, ako aj v súlade s právom a hodnotami Únie;
53. je znepokojený vojenským výskumom a technologickým vývojom, ktorý prebieha v niektorých krajinách v súvislosti so smrtiacimi autonómnymi zbraňovými systémami bez významnej ľudskej kontroly; poznamenáva, že smrtiace autonómne zbraňové systémy sa už vo vojnových konfliktoch používajú; pripomína, že Európsky parlament opakovane vyzval na medzinárodný zákaz vývoja, výroby a používania smrtiacich autonómnych zbraňových systémov a na začatie účinných rokovaní o ich zákaze; zdôrazňuje, že systémy využívajúce umelú inteligenciu nemôžu v žiadnom prípade nahradiť ľudské rozhodovanie, ktoré zahŕňa právne zásady rozlišovania, proporcionality a predbežnej opatrnosti;
54. poznamenáva najmä, že technológia založená na umelej inteligencii môže predstavovať potenciálne riziká najmä ako prostriedok na rôzne druhy hybridnej vojny a zahraničného zasahovania; spresňuje, že by sa napríklad mohla využiť na šírenie dezinformácií s využitím botov alebo falošných účtov v sociálnych médiách, využitie vzájomnej závislosti ako zbrane prostredníctvom zhromažďovania cenných informácií alebo zamietnutia prístupu protivníkov k sieťam, ako aj na narušenie hospodárskych a finančných systémov iných krajín, znečistenie politickej diskusie a uprednostňovanie extrémistických skupín alebo manipuláciu volieb s cieľom destabilizovať demokracie;
55. zdôrazňuje, že technológie založené na umelej inteligencii by mohli zahŕňať aj malvér využívajúci umelú inteligenciu, krádež identity, tzv. otrávenie údajov alebo iné formy nepriateľského strojového učenia, ktoré spôsobia, že ostatné systémy umelej inteligencie budú nesprávne interpretovať vstupné údaje; poukazuje konkrétne na vzostup fenoménu deepfake, ktorý nemusí nevyhnutne predstavovať „kybernetické útoky“, ale vedie k pochybnostiam o pravosti všetkého digitálneho obsahu vrátane videí, a preto si vyžaduje osobitnú pozornosť z hľadiska požiadaviek na transparentnosť; varuje, že fenomén deepfake by mohol prispieť k rozšíreniu atmosféry verejnej nedôvery k umelej inteligencii, ako aj k hlbšej sociálno-politickej polarizácii v našich spoločnostiach;
56. poznamenáva, že používanie systémov umelej inteligencie v značnom množstve kľúčovej kritickej infraštruktúry, ako sú energetické sústavy, dopravné siete, vesmírny sektor, potravinové reťazce, banková a finančná infraštruktúra a nemocničné zariadenia, spolu s internetom vecí spôsobila vznik nových zraniteľných miest, ktorých ochrana pred hrozbami si vyžaduje spoľahlivé opatrenia v oblasti kybernetickej bezpečnosti; v tejto súvislosti poukazuje na význam spolupráce, výmeny informácií a opatrení na úrovni EÚ, ako aj medzi členskými štátmi; zdôrazňuje význam posilnenia odolnosti kritických subjektov voči hybridným hrozbám;
57. varuje, že schopnosti umelej inteligencie môžu predstavovať aj bezpečnostné riziko, keďže môže doviesť ľudí k takej dôvere v umelú inteligenciu, že jej budú veriť viac než vlastnému úsudku; poznamenáva, že použitie prístupu „človek v slučke“ ako nápravného mechanizmu nie je možné vo všetkých prípadoch; poznamenáva, že pokusmi sa dokázalo, že to dokáže zvýšiť úroveň autonómie umelej inteligencie nad rámec podpornej úlohy, na ktorú bola pôvodne navrhnutá, a znamená to, že ľuďom chýbajú príležitosti na získavanie skúseností a zdokonaľovanie svojich schopností a znalostí systémov umelej inteligencie; zdôrazňuje preto, že systémy umelej inteligencie s vysokým rizikom si vyžadujú bezpečnosť zakomponovanú už v štádiu návrhu a zmysluplný ľudský dohľad založený na zodpovedajúcej odbornej príprave, ako aj primerané záruky bezpečnosti a súkromia, aby sa prekonala táto nadmerná dôvera voči automatizácii;