AVIZUL BĂNCII CENTRALE EUROPENE

din 29 decembrie 2021

referitor la o propunere de regulament de stabilire a unor norme armonizate privind inteligența artificială

(CON/2021/40)

(2022/C 115/05)

Introducere și temei juridic

La 3 noiembrie 2021, Banca Centrală Europeană (BCE) a primit din partea Consiliului Uniunii Europene o solicitare de emitere a unui aviz cu privire la o propunere de regulament (1) al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială (Legea privind inteligența artificială) și de modificare a anumitor acte legislative ale Uniunii (denumit în continuare „regulamentul propus”).

Competența BCE de a emite un aviz se întemeiază pe articolul 127 alineatul (4) și pe articolul 282 alineatul (5) din Tratatul privind funcționarea Uniunii Europene, deoarece regulamentul propus cuprinde dispoziții care intră în competența BCE, în special în ceea ce privește misiunile BCE referitoare la supravegherea prudențială a instituțiilor de credit în temeiul articolului 127 alineatul (6) din tratat. În conformitate cu articolul 17.5 prima teză din Regulamentul de procedură al Băncii Centrale Europene, Consiliul guvernatorilor adoptă prezentul aviz.

1. Observații generale

1.1. BCE salută obiectivul regulamentului propus de a îmbunătăți funcționarea pieței interne prin stabilirea unui cadru juridic uniform pentru dezvoltarea, comercializarea și utilizarea inteligenței artificiale (IA) de încredere, în conformitate cu valorile Uniunii. BCE recunoaște importanța stabilirii unor cerințe armonizate specifice sistemelor de IA pentru a asigura un nivel consecvent și ridicat de protecție a motivelor imperative de interes public, cum ar fi sănătatea, siguranța și drepturile fundamentale.

1.2. BCE recunoaște, de asemenea, importanța crescândă a inovării bazate pe IA în sectorul bancar. Ținând seama de natura transfrontalieră inerentă a inovării în domeniul IA și de oportunitățile utilizării acesteia în activitățile bancare, BCE, în calitate de autoritate de supraveghere prudențială la nivelul Uniunii, sprijină cu fermitate necesitatea de a asigura punerea în aplicare armonizată a regulamentului propus de către instituțiile de credit atunci când sunt vizate riscuri și cerințe prudențiale. În aceeași ordine de idei și având în vedere importanța crescândă a IA, legiuitorul Uniunii este invitat să ia în considerare în viitor potențialul înființării unei autorități independente în domeniul IA la nivelul Uniunii, responsabilă de aplicarea armonizată a regulamentului propus pe piața unică în ceea ce privește aspectele specifice sănătății, siguranței și drepturilor fundamentale.

1.3. În ceea ce privește sistemele de IA cu grad ridicat de risc furnizate sau utilizate de instituțiile de credit, BCE înțelege că regulamentul propus integrează anumite obligații în procedurile prevăzute în Directiva 2013/36/UE a Parlamentului European și a Consiliului ( 2 ) (denumită în continuare „Directiva privind cerințele de capital” sau „CRD”). În special, regulamentul propus urmărește să sporească coerența cu CRD prin integrarea unora dintre obligațiile de gestionare a riscurilor și de guvernanță ale furnizorilor și utilizatorilor în sistemul de guvernanță internă al instituțiilor de credit ( 3 ) . Având în vedere noutatea și complexitatea IA, precum și standardele de nivel înalt ale regulamentului propus, sunt necesare orientări suplimentare pentru a clarifica așteptările în materie de supraveghere în ceea ce privește obligațiile legate de guvernanța internă.

1.4. BCE salută intenția regulamentului propus de a evita suprapunerile cu cadrul legislativ existent prin includerea unora dintre dispozițiile sale în dispozițiile relevante ale CRD ( 4 ) . În acest sens, BCE salută faptul că obligația instituțiilor de credit care sunt furnizori de sisteme de IA cu grad ridicat de risc de a institui un sistem de management al calității și obligația instituțiilor de credit care utilizează sisteme de IA cu grad ridicat de risc de a monitoriza funcționarea sistemului se consideră a fi îndeplinite prin respectarea normelor privind mecanismele, procesele și măsurile de guvernanță internă prevăzute în dispozițiile relevante ale CRD ( 5 )

1.5. BCE subliniază că regulamentul propus nu ar trebui să aducă atingere obligațiilor prudențiale mai specifice sau mai stricte ale instituțiilor de credit prevăzute în reglementările sectoriale și completate de orientări în materie de supraveghere. De exemplu, obligațiile de guvernanță internă ale instituțiilor de credit care utilizează sisteme de IA în temeiul CRD ( 6 ) se extind la controlul efectiv al acordurilor de externalizare, inclusiv la identificarea, evaluarea și atenuarea tuturor riscurilor asociate, astfel cum se precizează în Ghidul ABE privind externalizarea ( 7 ) . În timp ce regulamentul propus alocă obligații diferite furnizorilor și utilizatorilor de sisteme de IA cu grad ridicat de risc, Ghidul ABE privind externalizarea nu face o astfel de distincție în contextul externalizării între furnizorii terți de soluții tehnologice și instituții de credit. În acest sens, externalizarea nu reduce obligația instituțiilor de credit de a respecta cerințele de reglementare, iar autoritatea de supraveghere prudențială rămâne competentă să supravegheze riscurile prudențiale prezentate de funcțiile externalizate. În acest context, BCE ar dori clarificări suplimentare cu privire la cerințele aplicabile și la autoritățile competente în ceea ce privește externalizarea de către instituțiile de credit a sistemelor de IA cu grad ridicat de risc.

1.6. Rolul BCE în temeiul regulamentului propus ar trebui clarificat, în special în ceea ce privește: (1) competențele de supraveghere prudențială ale BCE în general, precum și cu privire la supravegherea pieței și evaluarea conformității; și (2) aplicarea regulamentului propus la îndeplinirea misiunilor BCE în temeiul tratatului.

1.7. BCE își menține angajamentul față de o abordare neutră din punct de vedere tehnologic în supravegherea prudențială a instituțiilor de credit. Rolul său este de a asigura siguranța și soliditatea instituțiilor de credit, menținând un standard ridicat de supraveghere prudențială, indiferent de aplicarea unei anumite soluții tehnologice. BCE urmărește să mențină condiții de concurență echitabile pentru supravegherea prudențială a instituțiilor de credit, urmând principiul director „aceeași activitate, aceleași riscuri, aceeași supraveghere” ( 8 )

2. Rolul BCE în temeiul propunerii de regulament

2.1. Clarificarea competențelor de supraveghere prudențială ale BCE în ceea ce privește supravegherea pieței

2.1.1. Regulamentul propus prevede că Regulamentul (UE) 2019/1020 al Parlamentului European și al Consiliului ( 9 ) se aplică sistemelor de IA care fac obiectul regulamentului propus ( 10 ) și că orice trimitere la un produs în temeiul Regulamentului (UE) 2019/1020 se interpretează ca incluzând toate sistemele de IA care intră în domeniul de aplicare al regulamentului propus ( 11 ) . În acest sens, BCE ia act de faptul că obiectivul Regulamentul (UE) 2019/2020 este de a îmbunătăți funcționarea pieței interne prin consolidarea supravegherii pieței produselor care fac obiectul legislației de armonizare a Uniunii pentru a se asigura că numai produsele conforme care îndeplinesc cerințe care oferă un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea și siguranța în general, sănătatea și siguranța la locul de muncă, protecția consumatorilor, protecția mediului și siguranța publică și orice alte interese publice protejate de legislația de armonizare a Uniunii, sunt introduse pe piața Uniunii ( 12 )

2.1.2. Regulamentul propus definește autoritate de supraveghere a pieței ca fiind autoritatea națională care desfășoară activități și ia măsuri în temeiul Regulamentului (UE) 2019/1020 ( 13 ) . La rândul său, Regulamentul (UE) 2019/1020 definește autoritatea de supraveghere a pieței ca fiind o autoritate desemnată de un stat membru în temeiul Regulamentului (UE) 2019/1020 ca fiind responsabilă cu supravegherea pieței de pe teritoriul acelui stat membru ( 14 ) . În plus, considerentul 9 al Regulamentului (UE) 2019/1020 clarifică faptul că responsabilitatea pentru asigurarea aplicării legislației de armonizare a Uniunii ar trebui să revină statelor membre, iar autoritățile lor de supraveghere a pieței ar trebui să se asigure că legislația este respectată pe deplin ( 15 ) . Pe această bază, BCE înțelege că, în temeiul regulamentului propus, BCE nu este în niciun caz o autoritate de supraveghere a pieței.

2.1.3. Cu toate acestea, regulamentul propus prevede, de asemenea, că, pentru sistemele de IA introduse pe piață, puse în funcțiune sau utilizate de instituțiile financiare reglementate de legislația Uniunii privind serviciile financiare, autoritatea de supraveghere a pieței în sensul regulamentului propus este autoritatea relevantă responsabilă cu supravegherea financiară a instituțiilor respective în temeiul legislației respective ( 16 ) . În plus, considerentul 80 al regulamentului propus clarifică faptul că legislația Uniunii privind serviciile financiare include norme și cerințe privind guvernanța internă și gestionarea riscurilor care sunt aplicabile instituțiilor financiare reglementate în cursul furnizării acestor servicii, inclusiv atunci când acestea utilizează sisteme de IA. De asemenea, clarifică faptul că, pentru a asigura aplicarea și asigurarea respectării coerente a obligațiilor prevăzute în regulamentul propus și a normelor și cerințelor relevante ale legislației Uniunii în domeniul serviciilor financiare, autoritățile responsabile cu supravegherea și asigurarea respectării legislației privind serviciile financiare, inclusiv, după caz, BCE, ar trebui desemnate drept autorități competente în scopul supravegherii punerii în aplicare a regulamentului propus, inclusiv pentru activitățile de supraveghere a pieței, în ceea ce privește sistemele de IA furnizate sau utilizate de instituțiile financiare reglementate și supravegheate. În acest sens, se face trimitere, de asemenea, la necesitatea de a spori și mai mult coerența dintre regulamentul propus și normele aplicabile instituțiilor de credit reglementate în temeiul CRD.

2.1.4. Potrivit articolului 127 alineatul (6) din tratat, Consiliul poate încredința BCE misiuni specifice privind politicile în domeniul supravegherii prudențiale a instituțiilor de credit și al altor instituții financiare, cu excepția întreprinderilor de asigurări. Pe această bază, Regulamentul (UE) nr. 1024/2013 al Consiliului ( 17 ) (denumit în continuare „Regulamentul privind MUS”) conferă Băncii Centrale Europene atribuții specifice privind politicile legate de supravegherea prudențială a instituțiilor de credit, pentru a contribui la siguranța și soliditatea instituțiilor de credit și la stabilitatea sistemului financiar din Uniune și din fiecare stat membru, ținând seama pe deplin și în mod corespunzător de unitatea și integritatea pieței interne, pe baza tratamentului egal al instituțiilor de credit în vederea prevenirii arbitrajului de reglementare ( 18 ) . În acest sens, BCE are competența exclusivă, în scopuri de supraveghere prudențială, de a asigura conformitatea cu toate actele relevante ale Uniunii, care impun instituțiilor de credit obligația de a institui, printre altele, procese solide de gestionare a riscurilor și mecanisme de control intern ( 19 ) . Rolul de supraveghere prudențială al BCE în acest sens se limitează la asigurarea faptului că instituțiile de credit pun în aplicare politici și procese de evaluare și gestionare a expunerii lor la riscul prudențial, inclusiv la riscurile legate de diferite aspecte ale modelelor de afaceri ale băncilor, ale guvernanței și ale riscului operațional, și care decurg din utilizarea soluțiilor tehnologice pentru a asigura siguranța și soliditatea instituțiilor de credit și stabilitatea sistemului financiar ( 20 )

2.1.5. Supravegherea pieței nu urmărește să asigure siguranța și soliditatea instituțiilor de credit, ci se axează, în schimb, pe protejarea intereselor persoanelor care ar putea fi afectate de sistemele de IA abuzive, asigurându-se că aceste sisteme îndeplinesc cerințele necesare pentru a asigura un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea și siguranța persoanelor. În consecință, BCE înțelege că legiuitorul Uniunii nu intenționează ca BCE să acționeze în calitate de autoritate de supraveghere a pieței în ceea ce privește instituțiile de credit aflate sub supravegherea sa în temeiul regulamentului propus. Această concluzie este în conformitate cu considerentele Regulamentului privind MUS, care clarifică faptul că autoritățile naționale sunt competente să asigure un nivel ridicat de protecție a consumatorilor ( 21 )

2.1.6. Pe această bază, BCE sugerează că, pentru a fi în concordanță cu competențele de supraveghere prudențială ale BCE în temeiul articolului 127 alineatul (6) din tratat și al Regulamentului privind MUS, textul regulamentului propus ar trebui să clarifice fără echivoc faptul că BCE nu este desemnată drept autoritate de supraveghere a pieței și nici nu i se încredințează nicio sarcină de supraveghere a pieței.

2.1.7. Deși sarcinile de supraveghere a pieței nu au fost conferite BCE, este posibil ca anumite state membre să ia în considerare desemnarea autorităților naționale competente implicate în supravegherea instituțiilor de credit ca fiind responsabile pentru supravegherea pieței în contextul regulamentului propus, în măsura în care acest lucru este permis de mandatul lor și cel puțin în măsura în care sarcinile de supraveghere a pieței se aplică situațiilor în care un sistem de IA este pus în funcțiune pentru uz propriu. Desemnarea autorităților naționale competente implicate în prezent în supravegherea instituțiilor de credit ca fiind responsabile de o astfel de supraveghere a pieței ar putea fi considerată ca garantând coerența și rentabilitatea rezultatelor supravegherii, valorificând în același timp expertiza utilizată de aceste autorități în utilizarea competențelor lor de investigare și de supraveghere în ceea ce privește instituțiile de credit.

2.1.8. În cele din urmă, BCE constată că dispozițiile privind supravegherea pieței din regulamentul propus nu abordează în mod adecvat situațiile în care un sistem de IA este pus în funcțiune pentru uz propriu. De exemplu, competența autorităților de supraveghere a pieței în temeiul regulamentului propus de a rechema sau de a retrage un sistem de IA ar putea să nu determine cu succes întreruperea sistemului respectiv în situații de uz propriu ( 22 ) . Prin urmare, legiuitorul Uniunii este invitat să clarifice ce măsuri restrictive și competențe aferente ale autorităților competente ar trebui să se aplice situațiilor de uz propriu.

2.2. Clarificarea competențelor de supraveghere prudențială ale BCE în domeniul evaluării conformității

2.2.2. Astfel cum s-a menționat anterior, Consiliul a conferit BCE, în temeiul articolului 127 alineatul (6) din tratat, misiuni specifice privind politicile legate de supravegherea prudențială a instituțiilor de credit, cu scopul de a contribui, printre altele, la siguranța și soliditatea instituțiilor de credit și la stabilitatea sistemului financiar din Uniune și din fiecare stat membru ( 28 ) . Pentru a evita depășirea misiunilor care îi sunt conferite prin tratat, BCE subliniază că ar putea fi în măsură să supravegheze punerea în aplicare a cerințelor relevante în contextul PSE, concentrându-se în același timp asupra riscurilor prudențiale la care ar putea fi expuse instituțiile de credit. În acest sens, legiuitorul Uniunii este invitat să ia în considerare măsura în care mai multe elemente ale evaluării conformității ar putea să nu fie de natură prudențială, în măsura în care acestea se referă în mare măsură la evaluarea tehnică a sistemelor de IA pentru a proteja sănătatea și siguranța persoanelor și pentru a se asigura că drepturile fundamentale sunt respectate prin reducerea la minimum a riscului de procese eronate sau subiective sprijinite de IA. În special, dispozițiile relevante ale regulamentului propus impun ca sistemele de IA cu grad ridicat de risc să fie proiectate sau concepute și dezvoltate (1) pe baza unor seturi de date de antrenament, de validare și de testare care îndeplinesc anumite criterii de calitate, atunci când utilizează tehnici ce implică antrenarea cu modele de date; (2) cu capacitățile de jurnalizare care să asigure un nivel de trasabilitate a funcționării sistemului de IA pe parcursul întregului său ciclu de viață, care este adecvat scopului preconizat al sistemului; (3) într-un mod care să asigure faptul că acestea sunt supravegheate efectiv de oameni, inclusiv de instrumente de interfață om-mașină, pentru a preveni sau a reduce la minimum riscurile pentru sănătate, siguranță sau pentru drepturile fundamentale, care pot apărea atunci când este utilizat un sistem de IA cu grad ridicat de risc; și (4) în scopul atingerii unui nivel adecvat de acuratețe, robustețe și securitate cibernetică ( 29 ) . Astfel cum s-a clarificat în considerentele regulamentului propus, aceste cerințe privind calitatea seturilor de date utilizate, documentația tehnică și păstrarea evidențelor, transparența și furnizarea de informații către utilizatori, supravegherea umană, robustețea, acuratețea și securitatea cibernetică sunt necesare pentru a atenua în mod eficace riscurile pentru sănătate, siguranță și drepturile fundamentale ( 30 )

2.2.3. În acest context, legiuitorul Uniunii este invitat să reflecteze în continuare asupra necesității de a desemna autoritățile competente relevante ca fiind responsabile de supravegherea evaluării conformității efectuate de instituțiile de credit în ceea ce privește aspecte specifice sănătății, siguranței și drepturilor fundamentale și să ia în considerare necesitatea de a asigura aplicarea armonizată a regulamentului propus în cadrul pieței unice prin instituirea în viitor a unei autorități în domeniul IA la nivelul Uniunii.

2.2.4. În plus, anumite cerințe pentru sistemele de IA cu grad ridicat de risc nu sunt suficient de clare sau de specifice pentru a oferi o înțelegere suficientă pentru a contribui la așteptările autorităților de supraveghere. De exemplu, cerința ca seturile de date de antrenament, de validare și de testare să fie relevante, reprezentative, fără erori și complete ( 31 ) ar putea necesita clarificări suplimentare. Având în vedere domeniul larg de aplicare al mandatului acordat organizațiilor europene de standardizare ( 32 ) și, prin urmare, riscul potențial de slăbire a normelor stabilite de regulamentul propus, cerințele referitoare la sistemele de IA cu grad ridicat de risc prevăzute în regulamentul propus ar trebui să fie suficient de specifice.

2.2.5. În cele din urmă, BCE înțelege că evaluarea conformității sistemelor de IA furnizate de instituțiile de credit pentru a evalua bonitatea persoanelor fizice sau pentru a stabili scorul lor de credit face parte dintr-un control intern ex ante efectuat de instituția de credit ( 33 ) . În acest sens, regulamentul propus ( 34 ) ar trebui modificat pentru a reflecta natura ex post a evaluării specifice care urmează să fie efectuată de autoritatea de supraveghere prudențială ca parte a PSE.

2.3. Clarificarea competențelor de supraveghere prudențială ale BCE, în general

BCE poate fi considerată autoritate competentă numai în măsura în care acest lucru este necesar pentru îndeplinirea atribuțiilor care i-au fost conferite în temeiul Regulamentului privind MUS. Pentru a evita incertitudinea juridică cu privire la faptul dacă regulamentul propus conferă noi atribuții BCE, BCE sugerează că, în loc să se refere direct la BCE drept autoritate competentă, regulamentul propus ar trebui să se refere la autoritățile competente, astfel cum sunt definite în actele relevante de drept al Uniunii, cum ar fi CRD. În acest caz, din Regulamentul privind MUS ar rezulta că BCE trebuie considerată o autoritate competentă numai în scopul îndeplinirii atribuțiilor sale în materie de supraveghere prudențială (35).

2.4. Clarificarea independenței BCE în îndeplinirea misiunilor care îi revin în temeiul tratatului

BCE înțelege că, atunci când acționează în calitate de furnizor care introduce pe piață sau pune în funcțiune sisteme de IA în Uniune sau în calitate de utilizator al sistemelor de IA situate în Uniune, ea însăși poate intra sub incidența regulamentului propus (36). Același lucru este valabil și pentru băncile centrale naționale (BCN). Regulamentul propus prevede că, atunci când instituțiile Uniunii intră în domeniul său de aplicare, Autoritatea Europeană pentru Protecția Datelor (AEPD) acționează ca autoritate competentă pentru supravegherea lor și de autoritate de supraveghere a pieței (37). BCN ar putea fi sub supravegherea autorităților naționale competente (38). În acest sens, este important să se sublinieze faptul că BCE și BCN ar trebui să fie în măsură să își îndeplinească în mod independent atribuțiile care le sunt conferite prin tratat (39), de exemplu atunci când utilizează orice aplicație de inteligență artificială pentru a defini și a pune în aplicare politica monetară și pentru a promova buna funcționare a sistemelor de plăți (40). Cu toate acestea, trebuie să se recunoască faptul că independența SEBC în îndeplinirea misiunilor sale nu îl exceptează de la aplicarea oricărei norme de drept al Uniunii (41). BCE înțelege că orice eventuală supraveghere a BCE de către AEPD și a BCN de către autoritățile naționale competente ar fi limitată la controlul și guvernanța corespunzătoare ale unui sistem de IA și nu ar fi în niciun fel menită să afecteze capacitatea BCE și a BCN de a-și îndeplini în mod independent atribuțiile care le sunt conferite prin tratat.

3. Clasificarea sistemelor de IA

3.1. Regulamentul propus urmărește să asigure un cadru de reglementare proporțional în raport cu obiectivele sale prin adoptarea unei abordări bazate pe riscuri care impune sarcini de reglementare numai atunci când un sistem de IA este susceptibil să prezinte un grad ridicat de risc pentru drepturile fundamentale și pentru siguranță. Cu toate acestea, regulamentul propus, anticipând evoluțiile viitoare ale tehnologiei IA, definește software-ul care se califică drept sistem de IA în linii mari. Prin urmare, software-ul care este dezvoltat pentru a genera rezultate precum conținuturi, previziuni, recomandări sau decizii, utilizând abordări statistice și de învățare automată, precum și metode de căutare și de optimizare, constituie un sistem IA ( 42 ) . Această definiție largă ar acoperi o varietate de activități întreprinse de instituțiile de credit, în special în ceea ce privește sistemele menite să stabilească scorul de credit al persoanelor fizice.

3.2. Potrivit regulamentului propus ( 43 ) , marea majoritate a activităților de evaluare a creditelor care utilizează sisteme de IA ar fi supuse automat cerințelor orizontale minime impuse sistemelor de IA cu grad ridicat de risc. În consecință, mai multe activități, inclusiv selectarea clienților pentru marketing, modelarea pentru evaluarea clienților în context operațiunilor de colectarea a datoriilor și modelele standard de evaluare a creditului (de exemplu, un tablou de bord care utilizează regresia logistică), ar trebui să respecte aceleași cerințe. Pentru a spori claritatea așteptărilor în materie de supraveghere și în conformitate cu abordarea neutră din punct de vedere tehnologic a BCE, se sugerează ca sistemele de IA destinate să fie utilizate pentru a evalua bonitatea persoanelor fizice sau pentru a stabili scorul de credit al acestora și care au efect de levier asupra utilizării de sine stătătoare a regresiei liniare sau logistice sau a arborilor decizionali aflați sub supraveghere umană nu ar trebui să fie clasificate drept sisteme de IA cu grad ridicat de risc, cu condiția ca impactul unor astfel de abordări asupra evaluării bonității sau a scorului de credit al persoanelor fizice să fie minor.

3.3. Întrucât activitățile de evaluare a creditelor sunt desfășurate în mod regulat de instituțiile de credit în practica de zi cu zi, BCE sugerează că intrarea în vigoare a cerințelor care se referă la calificarea sistemelor de IA destinate a fi utilizate pentru a evalua bonitatea persoanelor fizice sau pentru a stabili scorul de credit al acestora drept „sisteme de IA cu grad ridicat de risc” ar trebui amânată până la adoptarea de către Comisie a unor specificații comune ( 44 ) în această privință. În special, aceste specificații comune ar trebui, pe de o parte, să precizeze condițiile în care se va presupune că sistemele de IA cu grad ridicat de risc din acest domeniu sunt conforme cu cerințele aplicabile și, pe de altă parte, să definească situațiile în care sistemele de IA ar trebui considerate ca fiind „puse în funcțiune de către micii furnizori pentru uzul propriu” și, prin urmare, ca intrând în domeniul de aplicare al excepției de la calificarea drept sistem de IA cu risc ridicat ( 45 ) . În acest context, BCE ar trebui inclusă pe lista organismelor consultate înainte de adoptarea unor astfel de specificații comune, în cazul în care acestea se referă la sisteme de IA destinate a fi utilizate pentru a evalua bonitatea persoanelor fizice sau pentru a stabili scorul de credit al acestora ( 46 )

3.4. În cele din urmă, BCE salută posibilitatea de a actualiza lista sistemelor de IA cu grad ridicat de risc incluse în anexa III la regulamentul propus ( 47 ) , și este pregătită să coopereze cu Comisia și să fie consultată de aceasta cu privire la identificarea altor riscuri potențiale ale sistemelor de IA care ar putea prezenta un risc de prejudiciere a sănătății și siguranței sau un risc de impact negativ asupra drepturilor fundamentale. În afară de sistemelor de IA utilizate pentru a evalua scorul de credit sau bonitatea persoanelor fizice, regulamentul propus nu desemnează ca având un grad ridicat de risc alte sisteme care ar putea fi puse în funcțiune cu destinație specifică de către instituțiile de credit. Cu toate acestea, instituțiile de credit elaborează sau au în vedere dezvoltarea și utilizarea modelării cu IA de date care leagă datele privind vânzările, tranzacțiile și performanța pentru a asigura o imagine de ansamblu clară a riscului de conduită într-un anumit domeniu. În mod similar, sistemele de IA ar putea fi utilizate în monitorizarea în timp real a plăților sau în crearea de profiluri ale clienților sau ale tranzacțiilor, în scopul combaterii spălării banilor și a finanțării terorismului. În cazul în care BCE recomandă modificarea regulamentului propus, propunerea de redactare specifică însoțită de o explicație în acest sens se regăsește într-un document tehnic de lucru separat. Documentul tehnic de lucru este disponibil în limba engleză pe EUR-Lex.

Adoptat la Frankfurt pe Main, 29 decembrie 2021. Președintele BCE Christine LAGARDE

(1) COM(2021) 206 final.

(2) Directiva 2013/36/UE a Parlamentului European și a Consiliului din 26 iunie 2013 cu privire la accesul la activitatea instituțiilor de credit și supravegherea prudențială a instituțiilor de credit și a firmelor de investiții, de modificare a Directivei 2002/87/CE și de abrogare a Directivelor 2006/48/CE și 2006/49/CE (JO L 176, 27.6.2013, p. 338).

(3) A se vedea articolul 9 alineatul (9), articolul 18 alineatul (2), articolul 20 alineatul (2) și articolul 29 alineatul (5) din regulamentul propus, precum și articolul 74 din CRD.

(4) A se vedea articolul 74 din CRD.

(5) A se vedea articolul 17 alineatul (6) şi articolul 29 alineatul (6) din regulamentul propus.

(6) A se vedea articolul 74 din CRD.

(7) A se vedea Ghidul ABE privind externalizarea (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) A se vedea Andrea Enria, președintele Consiliului de supraveghere al BCE, „A binary future? How digitalisation might change banking” (Un viitor binar? Cum ar putea schimba digitalizarea sistemul bancar), De Nederlandsche Bank, Amsterdam, 11 martie 2019, disponibil pe website-ul privind supravegherea bancară al BCE, la adresa www.bankingsupervision.europa.eu.

(9) Regulamentul (UE) 2019/1020 al Parlamentului European și al Consiliului din 20 iunie 2019 privind supravegherea pieței și conformitatea produselor și de modificare a Directivei 2004/42/CE și a Regulamentelor (CE) nr. 765/2008 și (UE) nr. 305/2011 (JO L 169, 25.6.2019, p. 1).

(10) A se vedea articolul 63 alineatul (1) din regulamentul propus.

(11) A se vedea articolul 63 alineatul (1) litera (b) din regulamentul propus.

(12) A se vedea articolul 1 alineatul (1) din Regulamentul (UE) 2019/1020.

(13) A se vedea articolul 3 alineatul (26) din regulamentul propus.

(14) A se vedea articolul 3 alineatul (4) din Regulamentul (UE) 2019/1020.

(15) A se vedea considerentul (9) al Regulamentului (UE) nr. 2019/1020.

(16) A se vedea articolul 63 alineatul (4) din regulamentul propus.

(17) Regulamentul (UE) nr. 1024/2013 al Consiliului din 15 octombrie 2013 de conferire a unor atribuții specifice Băncii Centrale Europene în ceea ce privește politicile legate de supravegherea prudențială a instituțiilor de credit (JO L 287, 29.10.2013, p. 63).

(18) A se vedea articolul 1 primul paragraf din Regulamentul privind MUS.

(19) A se vedea articolul 4 alineatul (1) litera (e) din Regulamentul privind MUS.

(20) A se vedea considerentul 30 al Regulamentului privind MUS, precum și paginile 53 și 54 din „ESCB/European banking supervision response to the European Commission’s public consultation on a new digital finance strategy for Europe/FinTech action plan” (Răspunsul SEBC/Supravegherii bancare europene la consultarea Comisiei Europene referitoare la o nouă strategie pentru finanțele digitale în Europa/planul de acțiune FinTech) (august 2020), disponibil pe website-ul privind supravegherea bancară al BCE.

(21) A se vedea considerentele (28) și (29) ale Regulamentului privind MUS.

(22) A se vedea articolul 3 alineatele (16) și (17), articolul 65 alineatul (2) al doilea paragraf, articolul 65 alineatul (5) și articolul 67 alineatul (1) din regulamentul propus.

(23) A se vedea articolul 19 alineatul (2) şi articolul 43 alineatul (6) din regulamentul propus

(24) A se vedea punctul 5 litera (b) din anexa III la regulamentul propus.

(25) Articolele 97-101 din CRD se referă la PSE.

(26) A se vedea articolul 3 alineatul (20) din regulamentul propus.

(27) A se vedea titlul III capitolul 2 articolele 8-15 din regulamentul propus.

(28) A se vedea articolul 1 primul paragraf din Regulamentul privind MUS.

(29) A se vedea articolele 10, 12, 14 și 15 din regulamentul propus.

(30) A se vedea considerentul (43) al regulamentului propus.

(31) A se vedea articolul 10 alineatul (3) din regulamentul propus.

(32) A se vedea articolul 40 din regulamentul propus şi considerentul (61) al acestuia.

(33) A se vedea articolul 43 alineatul (2) prima teză și anexa VI la regulamentul propus.

(34) A se vedea articolul 19 alineatul (2) și, în special, articolul 43 alineatul (2) a doua teză din regulamentul propus.

(35) A se vedea articolul 6 din Regulamentul privind MUS.

(36) A se vedea articolul 2 din regulamentul propus.

(37) A se vedea articolul 59 alineatul (8) şi articolul 63 alineatul (6) din regulamentul propus.

(38) A se vedea articolul 59 alineatul (2) din regulamentul propus.

(39) A se vedea articolul 130 din tratat.

(40) A se vedea articolul 127 alineatul (2) prima și a patra liniuță din tratat.

(41) A se vedea hotărârea Curții de Justiție din 10 iulie 2003, C-11/00, Comisia/Banca Centrală Europeană, ECLI:EU:C:2003:3, punctele 130-135.

(42) A se vedea articolul 3 alineatul (1) și anexa II la regulamentul propus.

(43) A se vedea punctul 5 litera (b) din anexa III la regulamentul propus.

(44) A se vedea articolul 41 alineatul (1) din regulamentul propus.

(45) În conformitate cu punctul 5 litera (b) din anexa III la regulamentul propus.

(46) A se vedea articolul 41 alineatul (2) din regulamentul propus.

(47) A se vedea articolul 7 alineatul (1) din regulamentul propus.