C 465/78
HR
Službeni list Europske unije
6.12.2022.
utorak, 3. svibnja 2022.
51. naglašava da tehnologije umjetne inteligencije, naročito one koje nisu osmišljene i razvijene s uspostavljenim izričitim postupcima kontrole te koje se upotrebljavaju nepravilno, bez nadzora u vojnim zapovjednim središtima ili u postrojenjima za lansiranje projektila, predstavljaju naročito značajne rizike i da bi mogle dovesti do eskalacije automatiziranog uzajamnog sukoba;
52. primjećuje da će upotreba sustava umjetne inteligencije u događajima u području obrane dovesti do korjenitih promjena u vojnim operacijama kroz analizu podataka, mogućnost sagledavanja šire složenosti situacije, potencijala za unapređenje ciljne točnosti, optimizacije logistike i ulaska u oružane sukobe s manjim rizikom od fizičkih ozljeda civila i vlastitog vojnog osoblja, kao i upotrebe podataka za razvoj načina djelovanja kao što su, na primjer, vojne vježbe; međutim, upozorava da bi to moglo dovesti do nižeg praga za primjenu sile te samim time do češćih sukoba; potvrđuje da strojevi i roboti ne mogu poput ljudi donositi odluke koje uključuju pravna načela razlikovanja, proporcionalnosti i mjere opreza; potvrđuje da bi ljudi trebali imati kontrolu nad odlukama o primjeni i uporabi oružja te ostati odgovorni za primjenu smrtonosne sile i donošenje odluka koje su pitanje života i smrti; smatra da bi oružani sustavi opremljeni umjetnom inteligencijom trebali biti podložni globalnim standardima i međunarodnom etičkom kodeksu ponašanja na kojima bi se temeljila primjena tehnologija umjetne inteligencije u vojnim operacijama, uz potpuno poštovanje međunarodnog humanitarnog prava i prava o ljudskim pravima te u skladu s pravom i vrijednostima Unije;
53.
zabrinut je zbog vojnih istraživanja i tehnoloških napredaka na kojima neke države rade u pogledu smrtonosnih autonomnih oružanih sustava bez znatne ljudske kontrole; primjećuje da se smrtonosni autonomni oružani sustavi već rabe u vojnim sukobima; podsjeća da je Parlament više puta pozvao na uvođenje međunarodne zabrane razvoja, proizvodnje i upotrebe smrtonosnih autonomnih oružanih sustava te na početak učinkovitih pregovora o njihovoj zabrani; naglašava da se sustavima utemeljenima na umjetnoj inteligenciji ni u kojem slučaju ne smije dopustiti da umjesto ljudi donose odluke za koje je potrebna primjena pravnih načela razlikovanja, proporcionalnosti i mjera opreza;
54. osobito napominje da tehnologija umjetne inteligencije može dovesti do rizika kao sredstvo za različite oblike hibridnog ratovanja i vanjskog uplitanja; navodi da bi se ona, na primjer, mogla mobilizirati za aktivaciju dezinformiranja s pomoću botova ili lažnih računa na društvenim mrežama, za iskorištavanje međuovisnosti kao oružja prikupljanjem vrijednih informacija ili uskraćivanjem pristupa mreži neprijateljima, u cilju stvaranja poremećaja u gospodarskim i financijskim sustavima drugih država i ugrožavanja političkih rasprava, pogodovanja ekstremističkim skupinama ili manipuliranja izborima radi destabilizacije demokratskih sustava;
55. naglašava da bi tehnologije umjetne inteligencije također mogle uključivati štetni softver kojim upravlja umjetna inteligencija, krađu identiteta, trovanje podataka ili druge oblike neprijateljskog strojnog učenja koja navodi druge sustave umjetne inteligencije na pogrešno tumačenje ulaznih podataka; posebno ukazuje na rastuću pojavu uvjerljivih krivotvorenih sadržaja (eng. deepfake), koji nisu nužno kibernapadi, ali koji su već doveli do sumnji u vjerodostojnost cjelokupnog digitalnog sadržaja, uključujući videozapise te stoga zavređuju da im se posveti posebna pozornost kad je riječ o zahtjevima u pogledu transparentnosti; upozorava da bi uvjerljivi krivotvoreni sadržaji mogli doprinijeti širokoj klimi javnog nepovjerenja u umjetnu inteligenciju, kao i dubljoj društveno-političkoj polarizaciji u našim društvima;
56. objašnjava da je upotreba sustava umjetne inteligencije u velikom broju objekata ključne infrastrukture, kao što su energetske i prometne mreže, svemirski sektor, prehrambeni lanac, bankovna i financijska infrastruktura te bolnički objekti, uzrokovala nove slabosti za koje će biti potrebne robusne mjere kibersigurnosti kako bi se spriječile prijetnje; u tom pogledu naglašava važnost suradnje i razmjene informacija te djelovanja na razini EU-a, ali i među državama članicama; naglašava važnost poticanja otpornosti ključnih subjekata na hibridne prijetnje;
57. upozorava da sposobnosti umjetne inteligencije također mogu predstavljati sigurnosne rizike, budući da mogu ljude navesti da u umjetnu inteligenciju imaju toliko povjerenja da joj vjeruju više nego vlastitoj prosudbi; napominje da pristup ljudske intervencije nije moguće primijeniti kao korektivni mehanizam u svim slučajevima; napominje da su pokusi pokazali da se umjetna inteligencija zbog toga može podići na veću razinu autonomije od one za koju je prvobitno namijenjena, što znači da ljudi propuštaju prilike da steknu iskustvo i usavrše svoje vještine i poznavanje sustava umjetne inteligencije; stoga ističe da su u visokorizičnim sustavima umjetne inteligencije potrebni integrirana sigurnost i značajan ljudski nadzor na temelju odgovarajućeg osposobljavanja kao i odgovarajuće mjere sigurnosti i zaštite privatnosti kako bi se nadišla takva pristranost u automatizaciji;