·transparență;

·diversitate, nediscriminare și echitate;

·bunăstare societală și de mediu și

·responsabilitate.

În plus, orientările conțin o listă de evaluare pentru uzul practic al întreprinderilor. În a doua jumătate a anului 2019, peste 350 de organizații au testat această listă de evaluare și au trimis feedback. Pe baza acestui feedback, orientările sunt în prezent revizuite de Grupul la nivel înalt, revizuire planificată să se încheie până în iunie 2020. Un rezultat esențial al procesului de feedback este că, deși o serie de cerințe sunt reflectate deja în regimurile juridice sau de reglementare existente, cerințele privind transparența, trasabilitatea și supravegherea umană nu sunt vizate în mod specific de legislația actuală din multe sectoare economice.

Pe lângă acest set de orientări fără caracter obligatoriu ale Grupului de experți la nivel înalt și în conformitate cu Orientările politice ale președintei, existența unui cadru de reglementare european clar ar consolida încrederea consumatorilor și a întreprinderilor în IA și, prin urmare, ar accelera adoptarea tehnologiei. Un astfel de cadru de reglementare ar trebui să fie coerent cu alte acțiuni de promovare a capacității de inovare și a competitivității Europei în acest domeniu. În plus, acesta trebuie să asigure obținerea unor rezultate optime din punct de vedere social, economic și al mediului, precum și respectarea legislației, a principiilor și a valorilor UE. Acest lucru este deosebit de relevant în domeniile în care drepturile cetățenilor pot fi afectate în modul cel mai direct, de exemplu în cazul aplicațiilor IA pentru asigurarea respectării legii și pentru sistemul judiciar.

Dezvoltatorii și operatorii IA sunt deja supuși legislației europene privind drepturile fundamentale (cum ar fi protecția datelor, viața privată, nediscriminarea) și protecția consumatorilor, precum și normelor referitoare la siguranța produselor și la răspunderea pentru produse. Consumatorii se așteaptă să beneficieze de același nivel de siguranță și de respectare a drepturilor lor, indiferent dacă un produs sau un sistem se bazează sau nu pe IA. Cu toate acestea, unele caracteristici specifice ale IA (de exemplu opacitatea) pot îngreuna aplicarea și asigurarea respectării acestei legislații. Din acest motiv, este necesar să se examineze dacă legislația actuală este în măsură să abordeze riscurile IA și dacă se poate asigura respectarea sa efectivă, dacă sunt necesare adaptări ale legislației sau dacă sunt necesare noi dispoziții legislative.

Având în vedere evoluția rapidă a IA, cadrul de reglementare trebuie să lase loc evoluțiilor ulterioare. Modificările ar trebui să se limiteze la problemele identificate în mod clar pentru care există soluții fezabile.

Statele membre atrag atenția că, în prezent, nu există un cadru european comun. Comisia pentru etică în materie de date din Germania a solicitat adoptarea unui sistem de reglementare cu cinci niveluri, bazat pe riscuri, care să meargă de la absența oricărei reglementări pentru sistemele de IA cele mai inofensive până la o interdicție totală pentru sistemele cele mai periculoase. Danemarca a lansat recent prototipul unei mărci pentru etica în materie de date. Malta a introdus un sistem voluntar de certificare pentru IA. Dacă UE nu reușește să ofere o abordare la nivelul UE, există un risc real de fragmentare a pieței interne, ceea ce ar submina obiectivele de asigurare a încrederii, de securitate juridică și de adoptare pe piață.

Un cadru de reglementare european solid pentru o IA de încredere va proteja toți cetățenii europeni și va contribui la crearea unei piețe interne fără piedici pentru dezvoltarea și adoptarea în continuare a IA, precum și la consolidarea bazei industriale a Europei în domeniul IA.

A.Definirea problemei

IA poate aduce beneficii importante, inclusiv prin sporirea siguranței produselor și a proceselor, însă poate cauza și prejudicii. Aceste prejudicii ar putea fi atât materiale (siguranța și sănătatea persoanelor, inclusiv pierderea de vieți omenești, daunele materiale), cât și morale (nerespectarea vieții private, limitarea dreptului la libertatea de exprimare, nerespectarea demnității umane, discriminarea, de exemplu, la ocuparea unui loc de muncă) și pot fi legate de o serie de riscuri foarte diverse. Cadrul de reglementare ar trebui să se concentreze asupra modalităților prin care se pot reduce la minimum diversele riscuri de prejudicii, în special cele mai semnificative.

Principalele riscuri legate de utilizarea IA vizează aplicarea normelor menite să protejeze drepturile fundamentale (cum ar fi protecția datelor cu caracter personal și a vieții private și nediscriminarea), precum și aspectele legate de siguranță și de răspundere.

Riscurile pentru drepturile fundamentale, inclusiv protecția datelor cu caracter personal și a vieții private și discriminarea

Utilizarea IA poate afecta valorile care stau al baza UE și poate duce la încălcări ale drepturilor fundamentale, printre care se află dreptul la libertatea de exprimare, libertatea de întrunire, demnitatea umană, nediscriminarea pe criterii de sex, rasă sau origine etnică, religie sau convingeri, handicap, vârstă sau orientare sexuală, astfel cum se aplică în anumite domenii, protecția datelor cu caracter personal și a vieții private sau dreptul la o cale de atac eficientă și la un proces echitabil, precum și protecția consumatorilor. Aceste riscuri ar putea fi cauzate de deficiențe în conceperea generală a sistemelor de IA (inclusiv în ceea ce privește supravegherea umană) sau de utilizarea datelor fără corectarea biasului eventual (de exemplu, sistemul este antrenat numai sau în principal cu date provenite de la bărbați, ceea ce duce la rezultate sub nivelul optim în privința femeilor).

IA poate executa numeroase funcții care anterior puteau fi executate numai de oameni. Prin urmare, cetățenii și entitățile juridice vor face din ce în ce mai des obiectul acțiunilor întreprinse și deciziilor luate de sistemele de IA sau cu ajutorul acestora, ceea ce uneori poate fi dificil de înțeles și de contestat în mod eficient, dacă este necesar. În plus, IA oferă posibilități sporite de a urmări și de a analiza obiceiurile zilnice ale oamenilor. De exemplu, există riscul potențial ca IA să fie utilizată, cu încălcarea normelor privind protecția datelor și a altor norme ale UE, de către autoritățile de stat sau de către alte entități pentru supravegherea în masă, iar de către angajatori pentru a observa modul în care se comportă angajații. Prin analizarea unor volume mari de date și identificarea legăturilor dintre acestea, IA poate fi utilizată și pentru a reconstitui și a dezanonimiza date despre anumite persoane, creând noi riscuri în materie de protecție a datelor cu caracter personal, chiar și în ceea ce privește seturile de date care, în sine, nu includ date cu caracter personal. IA este utilizată, de asemenea, de intermediarii online pentru a stabili prioritatea informațiilor destinate utilizatorilor lor și pentru a asigura moderarea conținutului. Datele prelucrate, modul în care sunt concepute aplicațiile și posibilitățile de intervenție umană pot afecta drepturile la libertatea de exprimare, la protecția datelor cu caracter personal și la protecția vieții private, precum și libertățile politice.

Anumiți algoritmi de IA, atunci când sunt exploatați pentru anticiparea recidivelor infracționale, pot prezenta biasuri bazate pe gen și rasă, demonstrând o probabilitate diferită de recidivă pentru femei față de bărbați sau pentru cetățenii naționali față de cetățenii străini. Sursa: Tolan S., Miron M., Gomez E. and Castillo C., „Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia”, Premiul pentru cel mai bun articol, Conferința internațională privind IA și dreptul, 2019.

Anumite programe de IA pentru analiză facială prezintă biasuri bazate pe gen și rasă, demonstrând erori scăzute în ceea ce privește determinarea sexului în cazul bărbaților cu piele de culoare mai deschisă, dar erori mari în ceea ce privește determinarea sexului în cazul femeilor cu piele de culoare mai închisă. Sursa: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.