C 465/78
RO
Jurnalul Oficial al Uniunii Europene
6.12.2022
Marți, 3 mai 2022
51. subliniază că tehnologiile IA, în special cele care nu au fost concepute și dezvoltate cu proceduri explicite de control și care sunt utilizate în mod necorespunzător și fără supraveghere în centrele militare de comandă sau în instalațiile de lansare a rachetelor, implică riscuri deosebit de semnificative și ar putea escalada un conflict reciproc automatizat;
52.
observă că utilizarea sistemelor de IA în evoluțiile din domeniul apărării este considerată un factor de schimbare în operațiunile militare prin analiza datelor, capacitatea de a reflecta o mai mare complexitate a situației, potențialul de a îmbunătăți precizia țintelor, de a optimiza logistica și de a se angaja în conflicte armate cu un risc redus de vătămare fizică a populației civile și a propriului personal militar, precum și prin utilizarea datelor pentru dezvoltarea unor moduri de acțiune, cum ar fi simularea războiului; atrage însă atenția că acest lucru ar putea conduce la scăderea pragului pentru utilizarea forței și, prin urmare, la mai multe conflicte; afirmă că, spre deosebire de oameni, mașinile și roboții nu pot lua decizii întemeiate pe principiile juridice ale diferențierii, proporționalității și precauției; afirmă că oamenii ar trebui să dețină controlul asupra deciziei de a implementa și a utiliza arme și ar trebui să rămână răspunzători pentru utilizarea forței letale și pentru deciziile de viață și de moarte; este de părere că sistemele de arme bazate pe IA ar trebui să facă obiectul unor standarde globale și al unui cod etic de conduită internațional pentru a sprijini implementarea tehnologiilor de IA în operațiunile militare, respectând pe deplin dreptul internațional umanitar și dreptul internațional al drepturilor omului, precum și dreptul Uniunii și valorile acesteia;
53. este preocupat cu privire la faptul că cercetarea militară și evoluțiile tehnologice sunt realizate în unele țări în raport cu sistemele de arme autonome letale fără supraveghere umană semnificativă; observă că sistemele de arme letale autonome sunt deja folosite în conflictele militare; reamintește că Parlamentul a solicitat în mod repetat să se interzică la nivel internațional dezvoltarea, producerea și utilizarea de sisteme de arme letale autonome și să se înceapă negocieri efective pentru interzicerea acestor sisteme; subliniază că nu trebuie în nicio împrejurare să se permită ca sistemele bazate pe IA să înlocuiască procesul decizional uman în acest domeniu, implicând principiile juridice ale distincției, proporționalității și precauției;
54. constată, în special, că tehnologia de IA poate prezenta riscuri potențiale ca mijloc pentru diferite forme de război hibrid și ingerințe externe; precizează că aceasta ar putea fi mobilizată, de exemplu, pentru a declanșa dezinformarea, prin utilizarea boților sau a conturilor false de pe platformele de comunicare socială, pentru a înarma interdependența, prin colectarea de informații valoroase sau prin refuzarea accesului în rețea pentru adversari, pentru a crea perturbări în sistemele economice și financiare ale altor țări, pentru a polua dezbaterea politică și a favoriza grupurile extremiste sau pentru a manipula alegerile în scopul de a destabiliza democrațiile;
55. subliniază că tehnologiile de IA ar putea să includă și programe malware bazate pe IA, furturi de identitate, manipularea datelor („data poisoning”) sau alte forme de învățare automată adversarială care determină alte sisteme de IA să interpreteze eronat datele de intrare; atrage atenția, în special, asupra intensificării fenomenului deepfake, care nu reprezintă neapărat atacuri cibernetice, dar care creează îndoieli cu privire la autenticitatea întregului conținut digital, inclusiv a materialelor video, și necesită astfel o atenție specială în ceea ce privește cerințele de transparență; avertizează că materialele deepfake ar putea contribui la un climat de neîncredere publică generalizată în IA, precum și la o polarizare sociopolitică mai accentuată în societățile noastre;
56. consideră că utilizarea sistemelor de IA într-o cantitate semnificativă de infrastructuri critice esențiale, cum ar fi rețelele energetice și de transport, sectorul spațial, lanțul alimentar, infrastructura bancară și financiară și unitățile spitalicești, a creat noi vulnerabilități care necesită măsuri solide de securitate cibernetică pentru a preveni amenințările; subliniază, în acest sens, importanța cooperării, a schimbului de informații și a acțiunii, atât la nivelul UE, cât și între statele membre; subliniază că este important să se promoveze reziliența entităților critice la amenințările hibride;
57. avertizează că capacitățile IA pot prezenta, de asemenea, riscuri în materie de securitate, deoarece pot determina oamenii să se încreadă în IA într-o asemenea măsură încât să aibă mai multă încredere decât în propria lor judecată; constată că utilizarea abordării de tipul „human-in-the-loop” ca mecanism corectiv nu este fezabilă în toate cazurile; constată că experimentele au demonstrat că acest lucru poate duce la creșterea nivelului de autonomie al IA dincolo de cel aferent rolului de sprijin pentru care a fost concepută inițial și înseamnă că oamenii ratează ocazii de a dobândi experiență și de a-și perfecționa competențele și cunoștințele în materie de sisteme de IA; subliniază, prin urmare, că siguranța de la stadiul conceperii și supravegherea umană semnificativă pe baza unei formări adecvate, precum și a unor garanții adecvate în materie de securitate și confidențialitate sunt necesare în sistemele de IA cu grad ridicat de risc pentru a depăși aceste prejudecăți de automatizare;