MNENJE EVROPSKE CENTRALNE BANKE

z dne 29. decembra 2021

o predlogu uredbe o določitvi harmoniziranih pravil o umetni inteligenci

(CON/2021/40)

(2022/C 115/05)

Uvod in pravna podlaga

Evropska centralna banka (ECB) je 3. novembra 2021 prejela zahtevo Sveta Evropske unije za mnenje o predlogu (1) uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (v nadaljnjem besedilu: predlagana uredba).

Pristojnost ECB, da poda mnenje, izhaja iz členov 127(4) in 282(5) Pogodbe o delovanju Evropske unije, saj predlagana uredba vsebuje določbe, ki sodijo na področja iz njene pristojnosti, zlasti v povezavi z nalogami ECB, ki se nanašajo na bonitetni nadzor kreditnih institucij, v skladu s členom 127(6) Pogodbe. V skladu s prvim stavkom člena 17.5 Poslovnika Evropske centralne banke je to mnenje sprejel Svet ECB.

1. Splošne pripombe

1.1. ECB pozdravlja cilj predlagane uredbe, da se izboljša delovanje notranjega trga z določitvijo enotnega pravnega okvira za razvoj, trženje in uporabo zaupanja vredne umetne inteligence v skladu z vrednotami Unije. ECB priznava pomen določitve harmoniziranih zahtev za umetnointeligenčne sisteme, da se zagotovi dosledna in visoka raven varstva prevladujočih razlogov javnega interesa, kot so zdravje, varnost in temeljne pravice.

1.2. ECB nadalje priznava vse večji pomen inovacij v bančnem sektorju, podprtih z omogočeno umetno inteligenco. ECB kot organ za bonitetni nadzor na ravni Unije ob upoštevanju neločljivo povezane čezmejnosti in priložnosti za inovacije na področju umetne inteligence pri bančnem poslovanju odločno podpira potrebo po zagotavljanju harmoniziranega izvajanja predlagane uredbe s strani kreditnih institucij, kar zadeva bonitetna tveganja in zahteve. Prav tako ECB zakonodajalca Unije glede na vse večji pomen umetne inteligence poziva, naj v prihodnosti prouči možnosti za ustanovitev neodvisnega organa za umetno inteligenco na ravni Unije, ki bi bil odgovoren za harmonizirano uporabo predlagane uredbe na celotnem enotnem trgu glede vprašanj, povezanih z zdravjem, varnostjo in temeljnimi pravicami.

1.3. Kar zadeva umetnointeligenčne sisteme velikega tveganja, ki jih zagotavljajo ali uporabljajo kreditne institucije, ECB razume, da predlagana uredba vključuje nekatere obveznosti v postopke, določene v Direktivi 2013/36/EU Evropskega parlamenta in Sveta ( 2 ) (v nadaljnjem besedilu: direktiva o kapitalskih zahtevah). Natančneje, cilj predlagane uredbe je izboljšati skladnost z direktivo o kapitalskih zahtevah z vključitvijo nekaterih obveznosti ponudnikov in uporabnikov glede upravljanja in obvladovanja tveganj v sistem notranjega upravljanja kreditnih institucij ( 3 ) . Zaradi novosti in kompleksnosti umetne inteligence ter visoke ravni standardov v predlagani uredbi so potrebne dodatne smernice za razjasnitev nadzorniških pričakovanj glede obveznosti v zvezi z notranjim upravljanjem.

1.4. ECB pozdravlja namen predlagane uredbe, da se prepreči prekrivanje z obstoječim zakonodajnim okvirom, tako da se nekatere njene določbe vključijo v ustrezne določbe direktive o kapitalskih zahtevah ( 4 ) . V zvezi s tem ECB pozdravlja to, da se šteje, da je obveznost ponudnikov umetnointeligenčnih sistemov velikega tveganja, ki so kreditne institucije, da vzpostavijo sistem upravljanja kakovosti, in obveznost uporabnikov umetnointeligenčnih sistemov velikega tveganja, ki so kreditne institucije, da spremljajo delovanje sistema, izpolnjena z upoštevanjem pravil o ureditvah, procesih in mehanizmih notranjega upravljanja iz ustreznih določb direktive o kapitalskih zahtevah ( 5 )

1.5. ECB poudarja, da predlagana uredba ne bi smela posegati v bolj specifične ali strožje bonitetne obveznosti kreditnih institucij, ki so določene v sektorski ureditvi in dopolnjene z nadzorniškimi smernicami. Na primer, obveznosti notranjega upravljanja, ki veljajo za uporabnike umetnointeligenčnih sistemov, ki so kreditne institucije, v skladu z direktivo o kapitalskih zahtevah ( 6 ) , vključujejo učinkovit nadzor nad dogovori o zunanjem izvajanju, vključno z odkrivanjem, ocenjevanjem in zmanjševanjem vseh povezanih tveganj, kot je dodatno navedeno v smernicah EBA o zunanjem izvajanju ( 7 ) . Medtem ko predlagana uredba ponudnikom in uporabnikom umetnointeligenčnih sistemov velikega tveganja nalaga različne obveznosti, v smernicah organa EBA o zunanjem izvajanju v povezavi z zunanjim izvajanjem ni takega razlikovanja med tretjimi ponudniki tehnoloških rešitev in kreditnimi institucijami. V zvezi s tem zunanje izvajanje ne zmanjšuje obveznosti kreditnih institucij, da izpolnjujejo regulativne zahteve, bonitetni nadzornik pa ostaja pristojen za nadzor bonitetnih tveganj, ki jih predstavljajo funkcije, oddane v zunanje izvajanje. Glede na navedeno bi ECB pozdravila dodatna pojasnila glede veljavnih zahtev in pristojnih organov v zvezi z oddajanjem umetnointeligenčnih sistemov velikega tveganja v zunanje izvajanje s strani kreditnih institucij.

1.6. Pojasniti bi bilo treba vlogo ECB v skladu s predlagano uredbo, zlasti glede: (1) pristojnosti ECB za bonitetni nadzor na splošno in v zvezi z nadzorom trga in ugotavljanjem skladnosti ter (2) uporabljivosti predlagane uredbe za opravljanje nalog ECB po Pogodbi.

1.7. ECB je pri bonitetnem nadzoru kreditnih institucij še naprej zavezana tehnološko nevtralnemu pristopu. Njena naloga je zagotoviti varnost in trdnost kreditnih institucij ter ohraniti visok standard bonitetnega nadzora ne glede na to, katera konkretna tehnološka rešitev se uporablja. ECB si pri bonitetnem nadzoru kreditnih institucij prizadeva ohraniti enake konkurenčne pogoje v skladu z vodilnim načelom „enaka dejavnost, enaka tveganja, enak nadzor“ ( 8 )

2. Vloga ECB v skladu s predlagano uredbo

2.1. Razjasnitev pristojnosti ECB za bonitetni nadzor v zvezi z nadzorom trga

2.1.1. Predlagana uredba določa, da se za umetnointeligenčne sisteme, zajete s predlagano uredbo ( 9 ) , uporablja Uredba (EU) 2019/1020 Evropskega parlamenta in Sveta ( 10 ) in da je treba vsako sklicevanje na proizvod v skladu z Uredbo (EU) 2019/1020 razumeti kot sklicevanje na vse umetnointeligenčne sisteme, ki spadajo na področje uporabe predlagane uredbe ( 11 ) . V zvezi s tem ECB ugotavlja, da je cilj Uredbe (EU) 2019/2020 izboljšati delovanje notranjega trga s krepitvijo nadzora trga proizvodov, zajetih s harmonizacijsko zakonodajo Unije, z namenom, da so na trgu Unije dostopni samo skladni proizvodi, ki izpolnjujejo zahteve, ki zagotavljajo visoko raven zaščite javnih interesov, kot so zdravje in varnost na splošno, zdravje in varnost na delovnem mestu, varstvo potrošnikov, varstvo okolja in zaščita javne varnosti ter varstvo vseh drugih javnih interesov, ki so zaščiteni s harmonizacijsko zakonodajo Unije ( 12 )

2.1.2. V predlagani uredbi je organ za nadzor trga opredeljen kot nacionalni organ, ki izvaja dejavnosti in sprejema ukrepe v skladu z Uredbo (EU) 2019/1020 ( 13 ) . V Uredbi (EU) 2019/1020 pa je organ za nadzor trga opredeljen kot organ, ki ga država članica v skladu z Uredbo (EU) 2019/1020 določi za organ, odgovoren za izvajanje nadzora trga na ozemlju te države članice ( 14 ) . Poleg tega je v uvodni izjavi 9 Uredbe (EU) 2019/1020 pojasnjeno, da bi morale biti za izvrševanje harmonizacijske zakonodaje Unije odgovorne države članice, njihovi organi za nadzor trga pa bi morali zagotavljati, da se zakonodaja v celoti upošteva ( 15 ) . Na tej podlagi ECB razume, da ECB v skladu s predlagano uredbo nikakor ni organ za nadzor trga.

2.1.3. Vendar predlagana uredba določa tudi, da je za umetnointeligenčne sisteme, ki jih dajo na trg, v obratovanje ali jih uporabljajo finančne institucije, ki jih ureja zakonodaja Unije o finančnih storitvah, organ za nadzor trga za namene predlagane uredbe ustrezni organ, odgovoren za finančni nadzor teh institucij v skladu z navedeno zakonodajo ( 16 ) . Poleg tega je v uvodni izjavi 80 predlagane uredbe pojasnjeno, da zakonodaja Unije o finančnih storitvah vključuje pravila in zahteve glede notranjega upravljanja in obvladovanja tveganj, ki veljajo za regulirane finančne institucije pri opravljanju teh storitev, tudi kadar uporabljajo umetnointeligenčne sisteme. Pojasnjeno je tudi, da bi bilo treba za zagotovitev usklajene uporabe in izvrševanja obveznosti iz predlagane uredbe ter ustreznih pravil in zahtev zakonodaje Unije o finančnih storitvah organe, pristojne za nadzor in izvrševanje zakonodaje o finančnih storitvah, vključno z ECB, kadar je to primerno, določiti kot pristojne organe za nadzor izvajanja predlagane uredbe, vključno z dejavnostmi nadzora trga, v zvezi z umetnointeligenčnimi sistemi, ki jih dajejo na voljo ali uporabljajo regulirane in nadzorovane finančne institucije. V zvezi s tem je omenjena tudi potreba po nadaljnji krepitvi skladnosti med predlagano uredbo in pravili, ki se uporabljajo za kreditne institucije, ki jih ureja direktiva o kapitalskih zahtevah.

2.1.4. V skladu s členom 127(6) Pogodbe lahko Svet na ECB prenese posebne naloge, ki se nanašajo na politike bonitetnega nadzora kreditnih in drugih finančnih institucij, razen zavarovalnic. Na tej podlagi se z Uredbo Sveta (EU) št. 1024/2013 ( 17 ) (v nadaljnjem besedilu: uredba o EMN) na ECB prenašajo posebne naloge, ki se nanašajo na politike bonitetnega nadzora kreditnih institucij, z namenom prispevati k varnosti in trdnosti kreditnih institucij ter k stabilnosti finančnega sistema v Uniji in vsaki državi članici, in sicer ob popolnem upoštevanju in dolžni skrbnosti za enotnost in celovitost notranjega trga, temelječega na enakem obravnavanju kreditnih institucij zaradi preprečevanja regulativne arbitraže ( 18 ) . V zvezi s tem je ECB za namene bonitetnega nadzora izključno pristojna za zagotavljanje skladnosti z vsemi ustreznimi akti Unije, ki določajo, da morajo kreditne institucije med drugim vzpostaviti stabilne postopke obvladovanja tveganj in mehanizme notranjih kontrol ( 19 ) . Vloga bonitetnega nadzora ECB v zvezi s tem je omejena na zagotavljanje, da kreditne institucije izvajajo politike in procese za ocenjevanje in upravljanje svoje izpostavljenosti bonitetnemu tveganju, vključno s tveganji, povezanimi z različnimi vidiki poslovnih modelov bank, upravljanjem in operativnim tveganjem, ki izhajajo iz uporabe tehnoloških rešitev, da se zagotovi varnost in trdnost kreditnih institucij ter stabilnost finančnega sistema ( 20 )

2.1.5. Namen nadzora trga ni zagotavljanje varnosti in trdnosti kreditnih institucij, temveč se osredotoča na zaščito interesov posameznikov, na katere bi lahko vplivale zlorabe umetnointeligenčnih sistemov, in sicer z zagotavljanjem, da taki sistemi izpolnjujejo zahteve, ki so potrebne za zagotovitev visoke ravni varstva javnega interesa, na primer zdravja in varnosti ljudi. ECB zato razume, da ni namen zakonodajalca Unije, da bi ECB v skladu s predlagano uredbo delovala kot organ za nadzor trga v zvezi s kreditnimi institucijami, ki so pod njenim nadzorom. Ta ugotovitev je skladna z uvodnimi izjavami uredbe o EMN, v katerih je pojasnjeno, da so za zagotavljanje visoke ravni varstva potrošnikov pristojni nacionalni organi ( 21 )

2.1.6. Zato ECB predlaga, da se v besedilu predlagane uredbe zaradi skladnosti s pristojnostmi ECB na področju bonitetnega nadzora v skladu s členom 127(6) Pogodbe in uredbo o EMN nedvoumno pojasni, da ECB ni imenovana kot organ za nadzor trga niti ni pooblaščena za opravljanje nalog nadzora trga.

2.1.7. Čeprav naloge nadzora trga niso bile prenesene na ECB, bodo morda nekatere države članice pristojne nacionalne organe za nadzor kreditnih institucij imenovale kot pristojne za nadzor trga v okviru predlagane uredbe, če je to dovoljeno glede na njihov mandat in vsaj v obsegu, v katerem naloge nadzora trga veljajo za primere, kadar se umetnointeligenčni sistem da v uporabo za lastno uporabo. Imenovanje pristojnih nacionalnih organov, ki zdaj nadzirajo kreditne institucije, kot pristojnih za tak nadzor trga bi bilo mogoče pojasniti z zagotavljanjem skladnosti in stroškovne učinkovitosti rezultatov nadzora ob uporabi strokovnega znanja teh organov pri izvajanju preiskovalnih in nadzornih pooblastil v zvezi s kreditnimi institucijami.

2.1.8. Nazadnje ECB ugotavlja, da določbe o nadzoru trga iz predlagane uredbe ne obravnavajo ustrezno primerov, ko se umetnointeligenčni sistem da v uporabo za lastno uporabo. Na primer, pooblastilo organov za nadzor trga iz predlagane uredbe za preklic ali umik umetnointeligenčnega sistema morda ne bo uspešno privedlo do prenehanja uporabe navedenega sistema, kadar je v lastni uporabi ( 22 ) . Zakonodajalec Unije naj zato pojasni, kateri omejevalni ukrepi in z njimi povezana pooblastila pristojnih organov bi se morali uporabljati v primerih lastne uporabe.

2.2. Razjasnitev pristojnosti ECB za bonitetni nadzor na področju ugotavljanja skladnosti

2.2.2. Kot že navedeno, je Svet v skladu s členom 127(6) Pogodbe na ECB prenesel posebne naloge, ki se nanašajo na politike bonitetnega nadzora kreditnih institucij, med drugim zaradi prispevanja k varnosti in trdnosti kreditnih institucij ter stabilnosti finančnega sistema v Uniji in vsaki državi članici ( 28 ) . Da ne bi prekoračila svojih pooblastil na podlagi Pogodbe, ECB poudarja, da bi lahko nadzirala izvajanje ustreznih zahtev v okviru procesa SREP ob osredotočanju na bonitetna tveganja, ki so jim lahko izpostavljene kreditne institucije. V zvezi s tem naj zakonodajalec Unije upošteva, v kolikšni meri številni elementi ugotavljanja skladnosti niso bonitetne narave, ker se pretežno nanašajo na tehnično ocenjevanje umetnointeligenčnih sistemov zaradi varovanja zdravja in varnosti ljudi ter zagotavljanja spoštovanja temeljnih pravic z zmanjšanjem tveganja napačnih ali pristranskih postopkov, izvedenih s pomočjo umetne inteligence. Natančneje, v skladu z ustreznimi določbami predlagane uredbe morajo biti umetnointeligenčni sistemi velikega tveganja zasnovani in razviti (1) na podlagi naborov učnih podatkov, podatkov za potrditev in testnih podatkov, ki izpolnjujejo nekatera merila kakovosti, kadar se uporabljajo tehnike, ki vključujejo učenje modelov s podatki, (2) z zmogljivostmi, ki omogočajo samodejno beleženje dogodkov („dnevniki“) in zagotavljajo raven sledljivosti delovanja sistema v celotnem življenjskem ciklu, ki ustreza njegovemu predvidenemu namenu, (3) tako, da jih lahko fizične osebe učinkovito nadzorujejo, vključno z ustreznimi orodji za vmesnik med človekom in strojem, da se preprečijo ali čim bolj zmanjšajo tveganja za zdravje, varnost ali temeljne pravice, ki se lahko pojavijo pri uporabi umetnointeligenčnega sistema velikega tveganja, in (4) tako, da dosegajo ustrezno raven točnosti, robustnosti in kibernetske varnosti ( 29 ) . Kot je pojasnjeno v uvodnih izjavah predlagane uredbe, so te zahteve glede kakovosti uporabljenih naborov podatkov, tehnične dokumentacije in vodenja evidenc, preglednosti in zagotavljanja informacij uporabnikom, človekovega nadzora ter robustnosti, točnosti in kibernetske varnosti potrebne za učinkovito zmanjševanje tveganj za zdravje, varnost in temeljne pravice ( 30 )

2.2.3. Glede na navedeno naj zakonodajalec Unije nadalje razmisli o potrebi po tem, da se za nadzor nad ugotavljanjem skladnosti, ki ga izvajajo kreditne institucije, pri zadevah v zvezi z zdravjem, varnostjo in temeljnimi pravicami imenujejo ustrezni pristojni organi, ter prouči, ali je treba harmonizirano uporabo predlagane uredbe na enotnem trgu zagotoviti tako, da se v prihodnosti na ravni Unije ustanovi organ za umetno inteligenco.

2.2.4. Poleg tega nekatere zahteve za umetnointeligenčne sisteme velikega tveganja niso povsem jasne ali dovolj določne, da bi zagotavljale zadostno razumevanje, da bi na njem slonela nadzorniška pričakovanja. Dodatno bi bilo treba na primer pojasniti zahtevo, da morajo biti nabori učnih in testnih podatkov ter podatkov za potrditev ustrezni, reprezentativni, brez napak in popolni ( 31 ) . Glede na široka pooblastila, ki se dajejo evropskim organizacijam za standardizacijo ( 32 ) , in s tem možno tveganje oslabitve norm iz predlagane uredbe bi morale biti zahteve v zvezi z umetnointeligenčnimi sistemi velikega tveganja iz predlagane uredbe ustrezno določne.

2.2.5. Nazadnje, ECB razume, da je ugotavljanje skladnosti umetnointeligenčnih sistemov, ki jih kreditne institucije zagotavljajo za ocenjevanje kreditne sposobnosti fizičnih oseb ali določanje njihove kreditne ocene, del predhodne notranje kontrole, ki jo izvaja kreditna institucija ( 33 ) . V zvezi s tem bi bilo treba predlagano uredbo ( 34 ) spremeniti tako, da bi odražala naknadnost posebnega ocenjevanja, ki ga mora izvesti bonitetni nadzornik v okviru procesa SREP.

2.3. Razjasnitev pristojnosti ECB za bonitetni nadzor na splošno

ECB se lahko šteje za pristojni organ samo v obsegu, v katerem je to potrebno za opravljanje nalog, ki so nanjo prenesene z uredbo o EMN. ECB v izogib pravni negotovosti glede tega, ali se s predlagano uredbo na ECB prenašajo nove naloge, predlaga, da se predlagana uredba neposredno ne sklicuje na ECB kot na pristojni organ, ampak na pristojne organe, kakor so opredeljeni v ustreznih aktih prava Unije, na primer v direktivi o kapitalskih zahtevah. Iz uredbe o EMN bi nato izhajalo, da se ECB šteje za pristojni organ samo za namene opravljanja svojih nalog bonitetnega nadzora (35).

2.4. Razjasnitev neodvisnosti ECB pri izvajanju nalog v skladu s Pogodbo

ECB razume, da lahko predlagana uredba velja tudi zanjo, kadar nastopa kot ponudnik, ki daje na trg ali v uporabo umetnointeligenčne sisteme v Uniji, ali kot uporabnik umetnointeligenčnih sistemov v Uniji (36). Enako velja za nacionalne centralne banke (NCB). Predlagana uredba določa, da kadar institucije Unije spadajo na področje njene uporabe, Evropski nadzornik za varstvo podatkov deluje kot pristojni organ za njihov nadzor in kot njihov organ za nadzor trga (37). NCB bi lahko bile pod nadzorom pristojnih nacionalnih organov (38). V zvezi s tem je pomembno poudariti, da bi morale biti ECB in NCB sposobne neodvisno opravljati naloge, dodeljene s Pogodbo (39), na primer pri uporabi aplikacij umetne inteligence za opredelitev in izvajanje denarne politike ter spodbujanje nemotenega delovanja plačilnih sistemov (40). Vendar je treba priznati, da ESCB zaradi neodvisnosti pri opravljanju nalog ni izvzet iz vseh pravil prava Unije (41). ECB razume, da bi bil morebitni nadzor Evropskega nadzornika za varstvo podatkov nad ECB in nacionalnih pristojnih organov nad NCB omejen na ustrezne kontrole in upravljanje umetnointeligenčnega sistema ter nikakor ne bi bil namenjen poseganju v zmožnost ECB in NCB, da neodvisno opravljajo naloge, ki so jim dodeljene s Pogodbo.

3. Razvrstitev umetnointeligenčnih sistemov

3.1. Namen predlagane uredbe je zagotoviti regulativni okvir, sorazmeren z njenimi cilji, in sicer s pristopom, ki temelji na tveganju in uvaja regulativna bremena le, kadar je verjetno, da bo umetnointeligenčni sistem predstavljal veliko tveganje za temeljne pravice in varnost. Kljub temu predlagana uredba ob pričakovanem prihodnjem razvoju tehnologije umetne inteligence programsko opremo, ki se šteje za umetnointeligenčni sistem, opredeljuje široko. Posledično programska oprema, razvita za ustvarjanje izhodnih podatkov, kot so vsebine, napovedi, priporočila ali odločitve, z uporabo statističnih pristopov in pristopov k strojnemu učenju, ter metod iskanja in optimizacije, pomeni umetnointeligenčni sistem ( 42 ) . Ta široka opredelitev bi zajela različne dejavnosti kreditnih institucij, zlasti v zvezi s sistemi, namenjenimi določanju kreditne ocene fizičnih oseb.

3.2. V skladu s predlagano uredbo ( 43 ) bi za veliko večino dejavnosti v zvezi z določanjem kreditne ocene, pri katerih se uporabljajo umetnointeligenčni sistemi, samodejno veljale minimalne horizontalne zahteve za umetnointeligenčne sisteme velikega tveganja. Zato bi moralo več dejavnosti, vključno s ciljanjem strank za trženje, modeliranjem poplačil in standardnimi modeli za določanje kreditnih ocen (npr. točkovanje na podlagi logistične regresije), izpolnjevati iste zahteve. Za večjo jasnost nadzorniških pričakovanj in v skladu s tehnološko nevtralnim pristopom ECB se predlaga, da se umetnointeligenčni sistemi, ki so namenjeni ocenjevanju kreditne sposobnosti fizičnih oseb ali določitvi njihove kreditne ocene in ki se zanašajo na samostojno uporabo linearnih ali logističnih regresij ali odločitvenih dreves pod človeškim nadzorom, ne razvrstijo med umetnointeligenčne sisteme velikega tveganja, če je vpliv takih pristopov na ocenjevanje kreditne sposobnosti ali določanje kreditne ocene fizičnih oseb majhen.

3.3. Ker kreditne institucije dejavnosti določanja kreditne ocene redno izvajajo v svoji vsakodnevni praksi, ECB predlaga, da se začetek učinkovanja zahtev, ki so povezane z uvrstitvijo umetnointeligenčnih sistemov, namenjenih ocenjevanju kreditne sposobnosti fizičnih oseb ali določitvi njihove kreditne ocene, med „umetnointeligenčne sisteme velikega tveganja“, odloži, dokler Komisija ne sprejme skupnih specifikacij ( 44 ) glede tega. V teh skupnih specifikacijah bi bilo treba zlasti določiti pogoje, pod katerimi se bo za umetnointeligenčne sisteme velikega tveganja na tem področju štelo, da so skladni z veljavnimi zahtevami, in opredeliti, kdaj bi bilo treba umetnointeligenčne sisteme šteti za take, „ki jih mali ponudniki uporabljajo za lastne potrebe“, in zato zanje velja izjema od uvrstitve med umetnointeligenčne sisteme velikega tveganja ( 45 ) . Glede na navedeno bi bilo treba ECB vključiti na seznam organov, s katerimi se je treba posvetovati pred sprejetjem takšnih skupnih specifikacij, če se nanašajo na umetnointeligenčne sisteme, namenjene ocenjevanju kreditne sposobnosti fizičnih oseb ali določanju njihove kreditne ocene ( 46 )

3.4. ECB pozdravlja možnost posodobitve seznama umetnointeligenčnih sistemov velikega tveganja iz Priloge III k predlagani uredbi ( 47 ) ter je pripravljena sodelovati s Komisijo in ji svetovati pri opredeljevanju nadaljnjih morebitnih tveganj umetnointeligenčnih sistemov, ki bi lahko predstavljala tveganje škode za zdravje in varnost ali tveganje škodljivega vpliva na temeljne pravice. Predlagana uredba razen umetnointeligenčnih sistemov, ki se uporabljajo za določanje kreditne ocene ali ocenjevanje kreditne sposobnosti fizičnih oseb, kot sistemov velikega tveganja ne opredeljuje drugih sistemov, ki bi jih lahko dale v uporabo konkretno kreditne institucije. Ne glede na to pa kreditne institucije razvijajo ali razmišljajo o razvoju in uporabi umetnointeligenčnega modeliranja podatkov, s katerim se povezujejo podatki o prodaji, transakcijah in uspešnosti, da se zagotovi jasen pregled nad tveganjem v zvezi z ravnanjem na določenem področju. Umetnointeligenčni sistemi bi se lahko prav tako uporabljali pri spremljanju plačil v realnem času ali profiliranju strank ali transakcij za namene preprečevanja pranja denarja in financiranja terorizma. Kadar ECB priporoča, da se predlagana uredba spremeni, je konkretni predlog sprememb besedila s pripadajočimi pojasnili naveden v ločenem tehničnem delovnem dokumentu. Tehnični delovni dokument je dostopen v angleščini na spletni strani EUR-Lex.

V Frankfurtu na Majni, 29. decembra 2021 Predsednica ECB Christine LAGARDE

(1) COM(2021) 206 final.

(2) Direktiva 2013/36/EU Evropskega parlamenta in Sveta z dne 26. junija 2013 o dostopu do dejavnosti kreditnih institucij in bonitetnem nadzoru kreditnih institucij in investicijskih podjetij, spremembi Direktive 2002/87/ES in razveljavitvi direktiv 2006/48/ES in 2006/49/ES (UL L 176, 27.6.2013, str. 338).

(3) Glej člene 9(9), 18(2), 20(2) in 29(5) predlagane uredbe ter člen 74 direktive o kapitalskih zahtevah.

(4) Glej člen 74 direktive o kapitalskih zahtevah.

(5) Glej člena 17(3) in 29(4) predlagane uredbe.

(6) Glej člen 74 direktive o kapitalskih zahtevah.

(7) Glej EBA, Smernice o zunanjem izvajanju (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) Glej govor Andrea Enria, predsednika Nadzornega odbora ECB, A binary future? How digitalisation might change banking, De Nederlandsche Bank, Amsterdam, 11. marec 2019, dostopen na spletni strani bančnega nadzora ECB na naslovu www.bankingsupervision.europa.eu.

(9) Glej člen 63(1) predlagane uredbe.

(10) Uredba 2019/1020 Evropskega parlamenta in Sveta z dne 20. junija 2019 o nadzoru trga in skladnosti proizvodov ter spremembi Direktive 2004/42/ES in uredb (ES) št. 765/2008 in (EU) št. 305/2011 (UL L 169, 25.6.2019, str. 1).

(11) Glej člen 63(1)(b) predlagane uredbe.

(12) Glej člen 1(1) Uredbe (EU) 2019/1020.

(13) Glej člen 3(26) predlagane uredbe.

(14) Glej člen 3(4) Uredbe (EU) 2019/1020.

(15) Glej uvodno izjavo 9 Uredbe (EU) 2019/1020.

(16) Glej člen 63(4) predlagane uredbe.

(17) Uredba Sveta (EU) št. 1024/2013 z dne 15. oktobra 2013 o prenosu posebnih nalog, ki se nanašajo na politike bonitetnega nadzora kreditnih institucij, na Evropsko centralno banko (UL L 287, 29.10.2013, str. 63).

(18) Glej prvi odstavek člena 1 uredbe o EMN.

(19) Glej člen 4(1)(e) uredbe o EMN.

(20) Glej uvodno izjavo 30 uredbe o EMN ter strani 53 in 54 dokumenta ESCB/European banking supervision response to the European Commission’s public consultation on a new digital finance strategy for Europe/FinTech action plan (avgust 2020), dostopnega na spletni strani bančnega nadzora ECB.

(21) Glej uvodni izjavi 28 in 29 uredbe o EMN.

(22) Glej člen 3, točki 16 in 17, člen 65(2), drugi pododstavek, ter člena 65(5) in 67(1) predlagane uredbe.

(23) Glej člena 19(2) in 43(2) predlagane uredbe.

(24) Glej člen 5(b) Priloge III k predlagani uredbi.

(25) Proces SREP je obravnavan v členih 97 do 101 direktive o kapitalskih zahtevah.

(26) Glej člen 3(20) predlagane uredbe.

(27) Glej člene 8 do 15 poglavja 2 naslova III predlagane uredbe.

(28) Glej prvi odstavek člena 1 uredbe o EMN.

(29) Glej člene 10, 12, 14 in 15 predlagane uredbe.

(30) Glej uvodno izjavo 43 predlagane uredbe.

(31) Glej člen 10(3) predlagane uredbe.

(32) Glej člen 40 in uvodno izjavo 61 predlagane uredbe.

(33) Glej prvi stavek člena 43(2) in Prilogo VI k predlagani uredbi.

(34) Glej člen 19(2) in zlasti drugi stavek člena 43(2) predlagane uredbe.

(35) Glej člen 6 uredbe o EMN.

(36) Glej člen 2 predlagane uredbe.

(37) Glej člena 59(8) in 63(6) predlagane uredbe.

(38) Glej člen 59(2) predlagane uredbe.

(39) Glej člen 130 Pogodbe.

(40) Glej prvo in četrto alineo člena 127(2) Pogodbe.

(41) Glej sodbo Sodišča z dne 10. julija 2003, Komisija proti Evropski centralni banki, C-11/00, ECLI:EU:C:2003:3, točke 130 do 135.

(42) Glej člen 3(1) in Prilogo I k predlagani uredbi.

(43) Glej točko 5(b) Priloge III k predlagani uredbi.

(44) Glej člen 41(1) predlagane uredbe.

(45) V skladu s točko 5(b) Priloge III k predlagani uredbi.

(46) Glej člen 41(2) predlagane uredbe.

(47) Glej člen 7(1) predlagane uredbe.