Propunerea se bazează pe doi ani de analiză și pe implicarea strânsă a părților interesate, inclusiv a cadrelor universitare, a întreprinderilor, a partenerilor sociali, a organizațiilor neguvernamentale, a statelor membre și a cetățenilor. Lucrările pregătitoare au început în 2018 prin înființarea Grupului de experți la nivel înalt privind inteligența artificială (High-Level Expert Group on AI ‒ HLEG), care a avut o componență amplă și care reflectă principiul incluziunii, fiind format din 52 de experți bine-cunoscuți, însărcinați să consilieze Comisia cu privire la punerea în aplicare a Strategiei Comisiei privind inteligența artificială. În aprilie 2019, Comisia a sprijinit cerințele-cheie prevăzute în Orientările în materie de etică ale Grupului de experți la nivel înalt pentru o IA de încredere, care au fost revizuite pentru a lua în considerare peste 500 de contribuții din partea părților interesate. Cerințele-cheie reflectă o abordare larg răspândită și comună, după cum reiese din multitudinea de coduri și principii etice elaborate de numeroase organizații publice și private din Europa și din afara acesteia, potrivit cărora dezvoltarea și utilizarea IA ar trebui să se ghideze după anumite principii esențiale orientate spre valori. Lista de evaluare pentru o inteligență artificială de încredere (List for Trustworthy Artificial Intelligence ‒ ALTAI) a făcut ca aceste cerințe să devină operaționale în cadrul unui proces-pilot care a implicat peste 350 de organizații.

Dintre cei care și-au formulat opinia cu privire la modelele de asigurare a respectării legislației, peste 50 %, în special din rândul asociațiilor de întreprinderi, au fost în favoarea unei combinații între o autoevaluare ex ante a riscurilor și o aplicare ex post pentru sistemele de IA cu grad ridicat de risc.

În total, s-au primit 1 215 contribuții, dintre care 352 de la întreprinderi sau organizații/asociații de întreprinderi, 406 de la persoane fizice (92 % persoane din UE), 152 în numele unor instituții academice/de cercetare și 73 de la autorități publice. Vocile societății civile au fost reprezentate de 160 de respondenți (printre care 9 organizații ale consumatorilor, 129 de organizații neguvernamentale și 22 de sindicate), iar 72 de respondenți au contribuit fiind incluși în categoria „alții”. Dintre cei 352 de reprezentanți ai mediului de afaceri și ai industriei, 222 au fost reprezentanți ai întreprinderilor și ai mediului de afaceri, dintre care 41,5 % microîntreprinderi și întreprinderi mici și mijlocii. Restul au fost asociații de întreprinderi. În total, 84 % dintre răspunsurile oferite de întreprinderi și industrie au provenit din UE-27. În funcție de întrebare, între 81 și 598 de respondenți au utilizat opțiunea de text liber pentru a introduce observații. Peste 450 de documente de poziție au fost transmise prin intermediul site-ului EU Survey, fie în plus față de răspunsurile la chestionar (peste 400), fie sub formă de contribuții individuale (peste 50).

Utilizarea IA cu caracteristicile sale specifice (de exemplu, opacitatea, complexitatea, dependența de date, comportamentul autonom) poate afecta în mod negativ o serie de drepturi fundamentale consacrate în Carta drepturilor fundamentale a UE („Carta”). Prezenta propunere urmărește să asigure un nivel ridicat de protecție a acestor drepturi fundamentale și să abordeze diverse surse de riscuri printr-o abordare bazată pe riscuri clar definită. Incluzând un set de cerințe pentru o IA de încredere și obligații proporționale pentru toți participanții la lanțul valoric, propunerea va consolida și va promova protecția drepturilor protejate prin Cartă: dreptul la demnitate umană (articolul 1), respectarea vieții private și protecția datelor cu caracter personal (articolele 7 și 8), nediscriminarea (articolul 21) și egalitatea între femei și bărbați (articolul 23). Scopul său este de a preveni un efect descurajator în ceea ce privește dreptul la libertatea de exprimare (articolul 11) și la libertatea de întrunire (articolul 12), de a asigura protecția dreptului la o cale de atac eficientă și la un proces echitabil, a dreptului la apărare și a prezumției de nevinovăție (articolele 47 și 48), precum și a principiului general al bunei administrări. În plus, după caz, în anumite domenii, propunerea va afecta în mod pozitiv drepturile mai multor grupuri speciale, cum ar fi drepturile lucrătorilor la condiții de muncă echitabile și corecte (articolul 31), un nivel ridicat de protecție a consumatorilor (articolul 28), drepturile copilului (articolul 24) și integrarea persoanelor cu handicap (articolul 26). Dreptul la un nivel ridicat de protecție a mediului și la îmbunătățirea calității acestuia (articolul 37) este, de asemenea, relevant, inclusiv în ceea ce privește sănătatea și siguranța persoanelor. Obligațiile privind testarea ex ante, gestionarea riscurilor și supravegherea umană vor facilita, de asemenea, respectarea altor drepturi fundamentale prin reducerea la minimum a riscului unor decizii eronate sau subiective sprijinite de IA în domenii critice precum educația și formarea, ocuparea forței de muncă, serviciile importante, asigurarea respectării legii și sistemul judiciar. În cazul în care se produc totuși încălcări ale drepturilor fundamentale, vor fi posibile măsuri reparatorii eficace pentru persoanele afectate, prin asigurarea transparenței și a trasabilității sistemelor de IA, împreună cu verificări ex post solide.

Titlul III conține norme specifice pentru sistemele de IA care creează un risc ridicat pentru sănătatea și siguranța persoanelor fizice sau pentru drepturile fundamentale ale acestora. În conformitate cu o abordare bazată pe riscuri, aceste sisteme de IA cu grad ridicat de risc sunt permise pe piața europeană sub rezerva respectării anumitor cerințe obligatorii și a unei evaluări ex ante a conformității. Clasificarea unui sistem de IA ca prezentând un risc ridicat se bazează pe scopul preconizat al sistemului de IA, în conformitate cu legislația existentă privind siguranța produselor. Prin urmare, clasificarea drept sistem care prezintă un risc ridicat nu depinde numai de funcția îndeplinită de sistemul de IA, ci și de scopul și modalitățile specifice pentru care este utilizat sistemul respectiv.

Capitolul 4 stabilește cadrul în care organismele notificate trebuie să fie implicate ca părți terțe independente în procedurile de evaluare a conformității, în timp ce capitolul 5 explică în detaliu procedurile de evaluare a conformității care trebuie urmate pentru fiecare tip de sistem de IA cu grad ridicat de risc. Abordarea privind evaluarea conformității urmărește să reducă la minimum sarcina pentru operatorii economici, precum și pentru organismele notificate, a căror capacitate trebuie să fie extinsă treptat în timp. Sistemele de IA destinate utilizării drept componente de siguranță ale produselor care sunt reglementate în temeiul noului cadru legislativ (de exemplu, echipamente tehnice, jucării, dispozitive medicale etc.) vor face obiectul acelorași mecanisme ex ante și ex post de asigurare a conformității și de punere în aplicare ale produselor din care fac parte. Principala diferență este că mecanismele ex ante și ex post vor asigura conformitatea nu numai cu cerințele stabilite de legislația sectorială, ci și cu cerințele stabilite de prezentul regulament.

În ceea ce privește sistemele de IA autonome cu grad ridicat de risc menționate în anexa III, se va institui un nou sistem de asigurare a conformității și de asigurare a respectării legislației. Acesta urmează modelul legislației privind noul cadru legislativ pus în aplicare prin controale interne de către furnizori, cu excepția sistemelor de identificare biometrică la distanță care ar face obiectul evaluării conformității de către terți. O evaluare ex ante cuprinzătoare a conformității prin controale interne, combinată cu o aplicare ex post solidă, ar putea fi o soluție eficace și rezonabilă pentru sistemele respective, având în vedere faza incipientă a intervenției în materie de reglementare și faptul că sectorul IA este foarte inovator, iar expertiza în materie de audit se acumulează abia acum. O evaluare prin controale interne a sistemelor de IA „autonome” cu risc ridicat ar necesita o conformitate ex ante deplină, eficace și documentată corespunzător cu toate cerințele regulamentului, precum și conformitatea cu sisteme solide de gestionare a calității și a riscurilor și o monitorizare ulterioară introducerii pe piață. După ce furnizorul a efectuat evaluarea conformității relevantă, acesta ar trebui să înregistreze sistemele independente de IA cu grad ridicat de risc într-o bază de date a UE care va fi gestionată de Comisie pentru a spori transparența și supravegherea publică și pentru a consolida supravegherea ex post de către autoritățile competente. În schimb, din motive de coerență cu legislația existentă privind siguranța produselor, evaluările conformității sistemelor de IA care sunt componente de siguranță ale produselor vor urma un sistem cu proceduri de evaluare a conformității de către terți, deja stabilite în temeiul legislației sectoriale relevante privind siguranța produselor. Vor fi necesare noi reevaluări ex ante ale conformității în cazul unor modificări substanțiale ale sistemelor de IA (în special modificări care depășesc ceea ce este stabilit în prealabil de către furnizor în documentația sa tehnică și verificat la momentul evaluării ex ante a conformității).

5.2.4.OBLIGAȚII DE TRANSPARENȚĂ PENTRU ANUMITE SISTEME DE IA (TITLUL IV)

Titlul IV vizează anumite sisteme de IA pentru a ține seama de riscurile specifice de manipulare pe care le prezintă acestea. Obligațiile de transparență se vor aplica sistemelor care (i) interacționează cu oamenii, (ii) sunt utilizate pentru a detecta emoțiile sau pentru a determina asocierea cu categorii (sociale) bazate pe date biometrice sau (iii) generează sau manipulează conținut („deepfake-uri”). Atunci când persoanele interacționează cu un sistem de IA sau emoțiile sau caracteristicile lor sunt recunoscute prin mijloace automatizate, persoanele trebuie să fie informate cu privire la circumstanțele respective. În cazul în care un sistem de IA este utilizat pentru a genera sau a manipula imagini, conținuturi audio sau video care seamănă în mod semnificativ cu conținutul autentic, ar trebui să existe obligația de a divulga faptul că respectivul conținut este generat prin mijloace automatizate, sub rezerva unor excepții în scopuri legitime (asigurarea aplicării legislației, libertatea de exprimare). Acest lucru le permite persoanelor să facă alegeri în cunoștință de cauză sau să facă un pas înapoi dintr-o anumită situație.

5.2.5.MĂSURI ÎN SPRIJINUL INOVĂRII (TITLUL V)

Titlul V contribuie la obiectivul de a crea un cadru juridic care să fie favorabil inovării, adaptat exigențelor viitorului și rezistent la perturbări. În acest scop, încurajează autoritățile naționale competente să creeze spații de testare în materie de reglementare și stabilește un cadru de bază în ceea ce privește guvernanța, supravegherea și răspunderea. Spațiile de testare în materie de reglementare a IA creează un mediu controlat pentru testarea tehnologiilor inovatoare pentru o perioadă limitată de timp, pe baza unui plan de testare convenit cu autoritățile competente. Titlul V conține, de asemenea, măsuri de reducere a sarcinii de reglementare ce revine IMM-urilor și întreprinderilor nou-înființate.

5.2.6.GUVERNANȚĂ ȘI PUNERE ÎN APLICARE (TITLURILE VI, VII ȘI VIII)

Titlul VI stabilește sistemele de guvernanță la nivelul Uniunii și la nivel național. La nivelul Uniunii, propunerea instituie un Comitet european pentru inteligența artificială (denumit în continuare „comitetul”), alcătuit din reprezentanți ai statelor membre și ai Comisiei. Comitetul va facilita o punere în aplicare fără probleme, eficace și armonizată a prezentului regulament, contribuind la cooperarea eficace dintre autoritățile naționale de supraveghere și Comisie și furnizând consultanță și expertiză Comisiei. De asemenea, va colecta și va face schimb de bune practici între statele membre.

La nivel național, statele membre vor trebui să desemneze una sau mai multe autorități naționale competente și, printre acestea, autoritatea națională de supraveghere, în scopul supravegherii aplicării și punerii în aplicare a regulamentului. Autoritatea Europeană pentru Protecția Datelor va acționa în calitate de autoritate competentă pentru supravegherea instituțiilor, a agențiilor și a organelor Uniunii atunci când acestea intră în domeniul de aplicare al prezentului regulament.

Titlul VII urmărește să faciliteze activitatea de monitorizare desfășurată de Comisie și de autoritățile naționale prin crearea unei baze de date la nivelul UE pentru sistemele de IA autonome cu grad ridicat de risc, cu implicații în principal asupra drepturilor fundamentale. Baza de date va fi gestionată de Comisie și va fi alimentată cu date de către furnizorii de sisteme de IA, care vor trebui să își înregistreze sistemele înainte de a le introduce pe piață sau de a le pune în funcțiune în alt mod.

Titlul VIII stabilește obligațiile de monitorizare și raportare pentru furnizorii de sisteme de IA în ceea ce privește monitorizarea și raportarea ulterioară introducerii pe piață, precum și investigarea incidentelor și a disfuncționalităților legate de IA. De asemenea, autoritățile de supraveghere a pieței ar urma să controleze piața și să investigheze respectarea obligațiilor și a cerințelor pentru toate sistemele de IA cu grad ridicat de risc deja introduse pe piață. Autoritățile de supraveghere a pieței ar urma să aibă toate competențele în temeiul Regulamentului (UE) 2019/1020 privind supravegherea pieței. Aplicarea ex post ar trebui să garanteze că, odată ce sistemul de IA a fost introdus pe piață, autoritățile publice au competențele și resursele necesare să intervină în cazul în care sistemele de IA generează riscuri neprevăzute care justifică o acțiune rapidă. Acestea vor monitoriza, de asemenea, respectarea de către operatori a obligațiilor care le revin în temeiul regulamentului. Propunerea nu prevede crearea automată a unor organisme sau autorități suplimentare la nivelul statelor membre. Prin urmare, statele membre pot numi autorități sectoriale existente (putând utiliza expertiza acestora), cărora li s-ar încredința, de asemenea, competența de a monitoriza și de a asigura respectarea dispozițiilor regulamentului.

Toate acestea nu aduc atingere sistemului existent și repartizării competențelor de aplicare ex post a obligațiilor privind drepturile fundamentale în statele membre. Atunci când acest lucru este necesar pentru îndeplinirea mandatului lor, autoritățile de supraveghere și de asigurare a conformității existente vor avea, de asemenea, competența de a solicita și de a accesa orice documentație păstrată în conformitate cu prezentul regulament și, dacă este necesar, de a solicita autorităților de supraveghere a pieței să organizeze testarea sistemului de IA cu grad ridicat de risc prin mijloace tehnice.

5.2.7.CODURI DE CONDUITĂ (TITLUL IX)

Titlul IX instituie un cadru pentru crearea de coduri de conduită, al căror scop este de a încuraja furnizorii de sisteme de IA care nu prezintă un grad ridicat de risc să aplice în mod voluntar cerințele obligatorii pentru sistemele de IA cu grad ridicat de risc (astfel cum se prevede în titlul III). Furnizorii de sisteme IA care nu prezintă un grad ridicat de risc pot crea și pune ei înșiși în aplicare codurile de conduită. Aceste coduri pot include, de asemenea, angajamente voluntare legate, de exemplu, de durabilitatea mediului, accesibilitatea pentru persoanele cu handicap, participarea părților interesate la proiectarea și dezvoltarea sistemelor de IA și diversitatea echipelor de dezvoltare.

5.2.8.DISPOZIȚII FINALE (TITLURILE X, XI ȘI XII)

Titlul X subliniază obligația tuturor părților de a respecta confidențialitatea informațiilor și a datelor și stabilește norme pentru schimbul de informații obținute în cursul punerii în aplicare a regulamentului. Titlul X include, de asemenea, măsuri de asigurare a punerii în aplicare cu eficacitate a regulamentului prin sancțiuni eficace, proporționale și disuasive pentru încălcarea dispozițiilor.

Titlul XI stabilește norme pentru exercitarea competențelor delegate și de executare. Propunerea împuternicește Comisia să adopte, după caz, acte de punere în aplicare pentru a asigura aplicarea uniformă a regulamentului sau acte delegate pentru actualizarea sau completarea listelor din anexele I-VII.

Titlul XII prevede obligația Comisiei de a evalua periodic necesitatea unei actualizări a anexei III și de a întocmi rapoarte periodice privind evaluarea și revizuirea regulamentului. Acesta prevede, de asemenea, dispoziții finale, inclusiv o perioadă de tranziție diferențiată pentru data inițială de aplicabilitate a regulamentului, pentru a facilita punerea în aplicare fără probleme pentru toate părțile implicate.

2021/0106 (COD)

Propunere de