C 465/78
SL
Uradni list Evropske unije
6.12.2022
torek 3. maja 2022
51. poudarja, da tehnologije umetne inteligence, zlasti tiste, ki niso bile zasnovane in razvite z vzpostavljenimi izrecnimi postopki nadzora ter se neustrezno in brez nadzora uporabljajo v vojaških poveljniških štabih ali objektih za izstreljevanje raket, prinašajo posebno velika tveganja in bi lahko zaostrile avtomatizirano povzročen vzajemni konflikt;
52. se zaveda, da je uporaba sistemov umetne inteligence na področju obrambe korenito spreminja vojaške operacije, in sicer z analizo podatkov, zmožnostjo, da v večjem obsegu pokaže zapletenost razmer, s potencialom za večjo natančnost ciljanja, z optimizacijo logistike in udeležbo v oboroženih spopadih z manjšim tveganjem fizične škode za civilno prebivalstvo in lastno vojaško osebje, pa tudi z uporabo podatkov za oblikovanje načinov delovanja, kot so vojne igre; vendar opozarja, da bi se lahko zaradi tega znižal prag za uporabo sile in da bi tako bilo konfliktov več; meni, da stroji in roboti ne morejo sprejemati človeških odločitev, pri katerih se upoštevajo pravna načela razlikovanja, sorazmernosti in previdnosti; meni tudi, da bi morali imeti ljudje nadzor nad odločitvijo o namestitvi in uporabi orožja ter ostati odgovorni za uporabo smrtonosne sile in odločitve o življenju in smrti; meni, da bi morali za orožne sisteme, ki temeljijo na umetni inteligenci, veljati svetovni standardi in mednarodni etični kodeks ravnanja, na katerih bi moralo temeljiti uvajanje tehnologij umetne inteligence v vojaške operacije, pri čemer bi bilo treba v celoti spoštovati mednarodno humanitarno pravo in pravo človekovih pravic ter pravo in vrednote Unije;
53. je zaskrbljen, ker v nekaterih državah potekajo vojaške raziskave in tehnološki razvoj v zvezi s smrtonosnimi avtonomnimi orožnimi sistemi brez dejanskega človeškega nadzora; ugotavlja, da se takšni smrtonosni avtonomnimi orožni sistemi že uporabljajo v vojaških spopadih; opozarja, da je Parlament večkrat pozval k mednarodni prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih orožnih sistemov ter k začetku učinkovitih pogajanj o njihovi prepovedi; poudarja, da sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme biti dovoljeno, da nadomestijo človeško odločanje na podlagi pravnih načela razlikovanja, sorazmernosti in previdnosti;
54. zlasti ugotavlja, da se lahko tehnologija umetne inteligence uporablja tudi kot sredstvo za različne oblike hibridnega vojskovanja in zunanjega vmešavanja; poudarja, da bi se lahko na primer uporabila za sprožitev kampanje dezinformacij z uporabo botov ali lažnih računov na družbenih medijih, za izkoriščanje soodvisnosti kot orožja z zbiranjem dragocenih informacij ali onemogočanjem dostopa do omrežja nasprotnikom, za ustvarjanje motenj v gospodarskih in finančnih sistemih drugih držav, za poseganje v politično razpravo in dajanjem prednosti ekstremističnim skupinam ali za manipuliranje volitev, da bi destabilizirali demokratične sisteme;
55. poudarja, da bi lahko tehnologije umetne inteligence vključevale tudi zlonamerno inteligentno programsko opremo, krajo identitete, zastrupljanje podatkov ali druge oblike sovražnega strojnega učenja, zaradi katerih bi drugi sistemi umetne inteligence napačno razlagali vhodne podatke; zlasti opozarja na širjenje globokih ponaredkov, vključno z videoposnetki, ki ne pomenijo nujno kibernetskih napadov, temveč povzročajo dvome o pristnosti vseh digitalnih vsebin, zato jim je treba nameniti posebno pozornost in zahtevati preglednost v zvezi z njimi; opozarja, da bi globoki ponaredki lahko prispevali k večjemu nezaupanju javnosti v umetno inteligenco, pa tudi k globlji družbeno-politični polarizaciji v naših družbah;
56. poudarja, da je uporaba sistemov umetne inteligence v znatnem delu ključne kritične infrastrukture, kot so energetska in prometna omrežja, vesoljski sektor, prehranska veriga, bančna in finančna infrastruktura ter bolnišnične zmogljivosti, ustvarila nove šibke točke, ki zahtevajo odločne ukrepe na področju kibernetske varnosti, da bi preprečili grožnje; v zvezi s tem poudarja, da je sodelovanje, izmenjava informacij in ukrepanje tako na ravni EU kot med državami članicami izjemno pomembno; poudarja, da je pomembno tudi spodbujati odpornost kritičnih subjektov na hibridne grožnje;
57. svari, da lahko umetna inteligenca zaradi svoje zmogljivosti povzroči varnostno tveganje tudi zato, ker lahko spodbudi ljudi, da ji bodo zaupali bolj kot lastni presoji; ugotavlja, da uporaba pristopa človeka v zanki kot korektivnega mehanizma v vseh primerih ni izvedljiva; ugotavlja, da so poskusi pokazali, da se zato lahko stopnja avtonomije umetne inteligence dvigne nad raven podporne vloge, za katero je bila prvotno zasnovana, zaradi česar ljudje ne izkoristijo priložnosti za pridobivanje izkušenj niti ne izpopolnijo svojih spretnosti in znanja v zvezi s sistemi umetne inteligence; zato poudarja, da so zato, da bi odpravili takšno pristranskost pri avtomatizaciji, v sistemih umetne inteligence z visokim tveganjem potrebni vgrajena varnost in dejanski človeški nadzor na podlagi ustreznega usposabljanja, pa tudi ustrezni zaščitni ukrepi za varnost in zasebnost;