STANOVISKO EURÓPSKEJ CENTRÁLNEJ BANKY

z 29. decembra 2021

k návrhu nariadenia, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie

(CON/2021/40)

(2022/C 115/05)

Úvod a právny základ

Európska centrálna banka (ECB) prijala 3. novembra 2021 žiadosť Rady Európskej únie o stanovisko k návrhu (1) nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty únie (ďalej len „navrhované nariadenie“).

Právomoc ECB vydať stanovisko je založená na článku 127 ods. 4 a článku 282 ods. 5 Zmluvy o fungovaní Európskej únie, keďže navrhované nariadenie obsahuje ustanovenia, ktoré spadajú do pôsobnosti ECB, konkrétne v súvislosti s úlohami ECB týkajúcimi sa prudenciálneho dohľadu nad úverovými inštitúciami podľa článku 127 ods. 6 zmluvy. V súlade s článkom 17.5 prvou vetou rokovacieho poriadku Európskej centrálnej banky Rada guvernérov prijala toto stanovisko.

1. Všeobecné pripomienky

1.1. ECB víta cieľ navrhovaného nariadenia zlepšiť fungovanie vnútorného trhu stanovením jednotného právneho rámca na vývoj, uvádzanie na trh a používanie umelej inteligencie v súlade s hodnotami Únie. ECB uznáva, že je dôležité stanoviť jednotné požiadavky špecifické pre systémy umelej inteligencie s cieľom zabezpečiť konzistentnú a vysokú úroveň ochrany naliehavých dôvodov verejného záujmu, ako sú zdravie, bezpečnosť a základné práva.

1.2. ECB ďalej uznáva rastúci význam inovácií založených na umelej inteligencii v bankovom sektore. ECB ako orgán prudenciálneho dohľadu na úrovni Únie vzhľadom na prirodzenú cezhraničnú povahu a potenciál inovácií založených na umelej inteligencii v bankových činnostiach dôrazne podporuje potrebu zabezpečiť harmonizované vykonávanie navrhovaného nariadenia úverovými inštitúciami, pokiaľ ide o prudenciálne riziká a požiadavky. V rovnakom duchu a vzhľadom na rastúci význam umelej inteligencie sa zákonodarca Únie vyzýva, aby v budúcnosti zvážil možnosť zriadiť nezávislý orgán pre oblasť umelej inteligencie na úrovni Únie, ktorý by zodpovedal za harmonizované uplatňovanie navrhovaného nariadenia v rámci jednotného trhu, pokiaľ ide o záležitosti týkajúce sa zdravia, bezpečnosti a základných práv.

1.3. Pokiaľ ide o vysokorizikové systémy umelej inteligencie poskytované alebo používané úverovými inštitúciami, ECB vychádza z toho, že navrhované nariadenie začleňuje určité povinnosti do postupov stanovených v smernici Európskeho parlamentu a Rady 2013/36/EÚ ( 2 ) (ďalej len „smernica o kapitálových požiadavkách“). Cieľom navrhovaného nariadenia je najmä posilniť súlad so smernicou o kapitálových požiadavkách začlenením niektorých povinností poskytovateľov a používateľov v súvislosti s riadením rizík a správou do systému vnútorného riadenia úverových inštitúcií ( 3 ) . Vzhľadom na novosť a zložitosť umelej inteligencie a normy na vysokej úrovni v navrhovanom nariadení sú potrebné ďalšie usmernenia na objasnenie očakávaní dohľadu, pokiaľ ide o povinnosti týkajúce sa vnútorného riadenia.

1.4. ECB víta zámer navrhovaného nariadenia zabrániť prekrývaniu s existujúcim legislatívnym rámcom zahrnutím niektorých z jeho ustanovení do príslušných ustanovení smernice o kapitálových požiadavkách ( 4 ) . V tejto súvislosti ECB víta to, že povinnosť poskytovateľov vysokorizikových systémov umelej inteligencie, ktorí sú úverovými inštitúciami, zaviesť systém riadenia kvality a povinnosť používateľov vysokorizikových systémov umelej inteligencie, ktorí sú úverovými inštitúciami, monitorovať fungovanie systému sa považujú za splnené, ak sa dodržia pravidlá týkajúce sa opatrení, postupov a mechanizmov vnútorného riadenia stanovené v príslušných ustanoveniach smernice o kapitálových požiadavkách ( 5 )

1.5. ECB zdôrazňuje, že navrhovaným nariadením by nemali byť dotknuté špecifickejšie alebo prísnejšie prudenciálne povinnosti úverových inštitúcií stanovené v sektorových predpisoch a doplnené usmerneniami v oblasti dohľadu. Napríklad povinnosti používateľov systémov umelej inteligencie, ktorí sú úverovými inštitúciami, v oblasti vnútorného riadenia podľa smernice o kapitálových požiadavkách ( 6 ) sa vzťahujú aj na účinnú kontrolu mechanizmov outsourcingu vrátane identifikácie, posúdenia a zmierňovania všetkých súvisiacich rizík, ako sa ďalej uvádza v usmerneniach EBA k outsourcingu ( 7 ) . Zatiaľ čo v navrhovanom nariadení sa poskytovateľom a používateľom vysokorizikových systémov umelej inteligencie ukladajú rôzne povinnosti, v usmerneniach EBA k outsourcingu sa v súvislosti s outsourcingom nerozlišuje medzi poskytovateľmi technologických riešení, ktorí sú tretími osobami a úverovými inštitúciami. V tejto súvislosti outsourcing neznižuje povinnosť úverových inštitúcií dodržiavať regulačné požiadavky a orgán prudenciálneho dohľadu má naďalej právomoc vykonávať dohľad nad prudenciálnymi rizikami, ktoré predstavujú funkcie, ktorých výkon bol zverený. Z týchto dôvodov by ECB uvítala podrobnejšie objasnenia týkajúce sa platných požiadaviek a príslušných orgánov, pokiaľ ide o outsourcing zo strany používateľov vysokorizikových systémov umelej inteligencie, ktorí sú úverovými inštitúciami.

1.6. Mala by sa objasniť úloha ECB podľa navrhovaného nariadenia, a to najmä pokiaľ ide o 1. právomoci ECB v oblasti prudenciálneho dohľadu vo všeobecnosti a v súvislosti s dohľadom nad trhom a s posudzovaním zhody a 2. uplatňovanie navrhovaného nariadenia vo vzťahu k plneniu úloh ECB podľa zmluvy.

1.7. ECB sa naďalej zaväzuje uplatňovať v rámci prudenciálneho dohľadu nad úverovými inštitúciami technologicky neutrálny prístup. Jeho úlohou je zaisťovať bezpečnosť a zdravie úverových inštitúcií a zároveň zachovávať vysokú úroveň prudenciálneho dohľadu bez ohľadu na uplatňovanie akéhokoľvek konkrétneho technologického riešenia. Cieľom ECB je zachovať rovnaké podmienky pre prudenciálny dohľad nad úverovými inštitúciami v súlade s hlavnou zásadou „rovnaká činnosť, rovnaké riziká, rovnaký dohľad“ ( 8 )

2. Úloha ECB podľa navrhovaného nariadenia

2.1. Objasnenie právomocí ECB v oblasti prudenciálneho dohľadu v súvislosti s dohľadom nad trhom

2.1.1. V navrhovanom nariadení sa stanovuje, že nariadenie Európskeho parlamentu a Rady (EÚ) 2019/1020 ( 9 ) sa vzťahuje na systémy umelej inteligencie v rozsahu pôsobnosti navrhovaného nariadenia ( 10 ) a že každý odkaz na výrobok podľa nariadenia (EÚ) 2019/1020 sa chápe tak, že zahŕňa všetky systémy umelej inteligencie, ktoré patria do rozsahu pôsobnosti navrhovaného nariadenia ( 11 ) . V tejto súvislosti ECB poznamenáva, že cieľom nariadenia (EÚ) 2019/2020 je zlepšiť fungovanie vnútorného trhu posilnením dohľadu nad trhom s výrobkami, na ktoré sa vzťahujú harmonizačné právne predpisy Únie, s cieľom zabezpečiť, aby na trhu Únie boli sprístupnené iba vyhovujúce výrobky, ktoré spĺňajú požiadavky zabezpečujúce vysokú úroveň ochrany verejných záujmov, ako je zdravie a bezpečnosť vo všeobecnosti, zdravie a bezpečnosť na pracovisku, ochrana spotrebiteľov, ochrana životného prostredia a verejnej bezpečnosti a všetkých ostatných verejných záujmov, ktoré sú chránené harmonizačnými právnymi predpismi Únie ( 12 )

2.1.2. Pojem „orgán dohľadu nad trhom“ sa v navrhovanom nariadení vymedzuje ako vnútroštátny orgán, ktorý vykonáva činnosti a prijíma opatrenia podľa nariadenia (EÚ) 2019/1020 ( 13 ) . V nariadení (EÚ) 2019/1020 sa pojem „orgán dohľadu nad trhom“ vymedzuje ako orgán určený členským štátom podľa nariadenia (EÚ) 2019/1020 ako orgán zodpovedný za vykonávanie dohľadu nad trhom na území daného členského štátu ( 14 ) . V odôvodnení 9 nariadenia (EÚ) 2019/1020 sa okrem toho objasňuje, že zodpovednosť za presadzovanie harmonizačných právnych predpisov Únie by mala prislúchať členským štátom a ich orgány dohľadu nad trhom by mali mať povinnosť zabezpečiť plné dodržiavanie týchto právnych predpisov ( 15 ) . Na základe toho sa ECB domnieva, že podľa navrhovaného nariadenia ECB žiadnym spôsobom nie je orgánom dohľadu nad trhom.

2.1.3. V navrhovanom nariadení sa však tiež stanovuje, že v prípade systémov umelej inteligencie, ktoré uvádzajú na trh, do prevádzky alebo používajú finančné inštitúcie regulované právnymi predpismi Únie o finančných službách, je orgánom dohľadu nad trhom na účely navrhovaného nariadenia príslušný orgán zodpovedný za finančný dohľad nad týmito inštitúciami podľa uvedených právnych predpisov ( 16 ) . V odôvodnení 80 navrhovaného nariadenia sa okrem toho objasňuje, že právne predpisy Únie o finančných službách zahŕňajú pravidlá a požiadavky vnútornej správy a riadenia rizík, ktoré sa vzťahujú na regulované finančné inštitúcie počas poskytovania týchto služieb vrátane prípadov, keď využívajú systémy umelej inteligencie. Ďalej sa v ňom objasňuje, že s cieľom zabezpečiť jednotné uplatňovanie a presadzovanie povinností podľa navrhovaného nariadenia a príslušných pravidiel a požiadaviek právnych predpisov Únie v oblasti finančných služieb by mali byť orgány zodpovedné za dohľad nad právnymi predpismi v oblasti finančných služieb a za ich presadzovanie, prípadne vrátane ECB, určené za príslušné orgány na účely dohľadu nad vykonávaním navrhovaného nariadenia vrátane činností dohľadu nad trhom, pokiaľ ide o systémy umelej inteligencie, ktoré poskytujú alebo používajú regulované finančné inštitúcie a finančné inštitúcie podliehajúce dohľadu. V tejto súvislosti sa odkazuje aj na potrebu ďalšieho posilnenia súladu medzi navrhovaným nariadením a pravidlami, ktoré sa vzťahujú na úverové inštitúcie regulované podľa smernice o kapitálových požiadavkách.

2.1.4. Podľa článku 127 ods. 6 zmluvy môže Rada jednomyseľne poveriť ECB osobitnými úlohami, ktoré sa týkajú politiky prudenciálneho dohľadu nad úverovými inštitúciami a ďalšími finančnými inštitúciami s výnimkou poisťovní. Na tomto základe sa ECB nariadením Rady (EÚ) č. 1024/2013 ( 17 ) (ďalej len „nariadenie o SSM“) poveruje osobitnými úlohami, pokiaľ ide o politiky týkajúce sa prudenciálneho dohľadu nad úverovými inštitúciami, s cieľom prispieť k bezpečnosti a zdraviu úverových inštitúcií a stabilite finančného systému v rámci Únie a jednotlivých členských štátov s plným zreteľom a ohľadom na jednotu a integritu vnútorného trhu na základe rovnakého zaobchádzania s úverovými inštitúciami s cieľom predchádzať regulačnej arbitráži ( 18 ) . V tejto súvislosti má ECB na účely prudenciálneho dohľadu výlučnú právomoc zabezpečovať dodržiavanie súladu s všetkými príslušnými aktmi Únie, ktorými sa voči úverovým inštitúciám stanovuje požiadavka mať zavedené okrem iného spoľahlivé postupy riadenia rizík a mechanizmy vnútornej kontroly ( 19 ) . Úloha ECB v oblasti prudenciálneho dohľadu sa v tejto súvislosti obmedzuje na zabezpečenie toho, aby úverové inštitúcie zaviedli politiky a postupy na hodnotenie a riadenie svojej expozície voči prudenciálnemu riziku vrátane rizík súvisiacich s rôznymi aspektmi obchodných modelov bánk, rizík súvisiacich s riadením a operačných rizík a rizík, ktoré vyplývajú z používania technologických riešení, aby tak zaistila bezpečnosť a zdravie úverových inštitúcií a stabilitu finančného systému ( 20 )

2.1.5. Cieľom dohľadu nad trhom nie je zaistiť bezpečnosť a zdravie úverových inštitúcií, ale namiesto toho sa zameriava na ochranu záujmov jednotlivcov, na ktoré by potenciálne mohli mať vplyv škodlivé systémy umelej inteligencie, a to zabezpečením toho, aby takéto systémy spĺňali požiadavky potrebné na zaistenie vysokej úrovne ochrany verejných záujmov, ako sú zdravie a bezpečnosť osôb. ECB sa preto domnieva, že zámerom zákonodarcu Únie nie je, aby ECB konala ako orgán dohľadu nad trhom vo vzťahu k úverovým inštitúciám, nad ktorými vykonáva dohľad podľa navrhovaného nariadenia. Tento záver je v súlade s odôvodneniami nariadenia o SSM, v ktorých sa objasňuje, že vnútroštátne orgány sú zodpovedné za zabezpečenie vysokej miery ochrany spotrebiteľa ( 21 )

2.1.6. Na základe uvedeného ECB navrhuje, aby sa v texte navrhovaného nariadenia v záujme zachovania súladu s právomocami ECB v oblasti prudenciálneho dohľadu podľa článku 127 ods. 6 zmluvy a podľa nariadenia o SSM jednoznačne objasnilo, že ECB nie je určená ako orgán dohľadu nad trhom ani poverená žiadnymi úlohami v oblasti dohľadu nad trhom.

2.1.7. Hoci ECB nebola poverená úlohami dohľadu nad trhom, môže sa stať, že niektoré členské štáty zvážia to, že za orgány zodpovedné za dohľad nad trhom v kontexte navrhovaného nariadenia určia príslušné vnútroštátne orgány podieľajúce sa na dohľade nad úverovými inštitúciami, a to do tej miery, do akej to umožňuje ich mandát, a aspoň v rozsahu, v akom sa úlohy dohľadu nad trhom vzťahujú na situácie, v ktorých sa systém umelej inteligencie uvádza do prevádzky na vlastnú potrebu. Určenie príslušných vnútroštátnych orgánov, ktoré sa v súčasnosti podieľajú na dohľade nad úverovými inštitúciami, za orgány zodpovedné za takýto dohľad nad trhom možno považovať za zabezpečovanie súdržnosti a nákladovej efektívnosti výsledkov dohľadu využívajúc odborné znalosti, z ktorých tieto orgány čerpajú pri využívaní svojich právomocí v oblasti vyšetrovania a dohľadu v súvislosti s úverovými inštitúciami.

2.1.8. ECB na záver poznamenáva, že ustanovenia navrhovaného nariadenia o dohľade nad trhom primerane neriešia situácie, v ktorých sa systém umelej inteligencie uvádza do prevádzky na vlastnú potrebu. Napríklad právomoc orgánov dohľadu nad trhom podľa navrhovaného nariadenia stiahnuť systém umelej inteligencie z trhu alebo od používateľa nemusí v situáciách, keď sa systém uvádza do prevádzky na vlastnú potrebu, úspešne viesť k ukončeniu tohto systému ( 22 ) . Zákonodarca Únie by preto mal objasniť, ktoré reštriktívne opatrenia a súvisiace právomoci príslušných orgánov by sa mali vzťahovať na situácie, keď sa systém uvádza do prevádzky na vlastnú potrebu.

2.2. Objasnenie právomocí ECB v oblasti prudenciálneho dohľadu v súvislosti s posudzovaním zhody

2.2.2. Ako už bolo uvedené, Rada podľa článku 127 ods. 6 zmluvy zverila ECB osobitné úlohy, pokiaľ ide o politiky týkajúce sa prudenciálneho dohľadu nad úverovými inštitúciami, s cieľom prispieť okrem iného k bezpečnosti a zdraviu úverových inštitúcií a stabilite finančného systému v rámci Únie a jednotlivých členských štátov ( 28 ) . ECB s cieľom nejsť nad rámec úloh, ktorými bola poverená podľa zmluvy, zdôrazňuje, že môže byť schopná dohliadať na vykonávanie príslušných požiadaviek v kontexte SREP a zároveň sa zameriavať na prudenciálne riziká, ktorým môžu byť úverové inštitúcie vystavené. V tejto súvislosti sa zákonodarca Únie vyzýva, aby zvážil rozsah, v akom by viaceré prvky posudzovania zhody nemuseli mať prudenciálny charakter, keďže sa do veľkej miery týkajú technického posudzovania systémov umelej inteligencie s cieľom chrániť zdravie a bezpečnosť osôb a zabezpečiť dodržiavanie základných práv tým, že minimalizujú riziko chybných alebo zaujatých postupov využívajúcich umelú inteligenciu. Príslušné ustanovenia navrhovaného nariadenia najmä vyžadujú, aby boli vysokorizikové systémy umelej inteligencie koncipované a vyvinuté 1. na základe súborov trénovacích, validačných a testovacích údajov, ktoré spĺňajú určité kritériá kvality, ak využívajú techniky zahŕňajúce trénovanie modelov s údajmi; 2. so schopnosťami automaticky zaznamenávať udalosti („logy“), aby sa počas celého životného cyklu systému zabezpečila úroveň vysledovateľnosti jeho fungovania, ktorá je primeraná jeho zamýšľanému účelu; 3. tak, aby sa zaistil účinný dohľad fyzických osôb, a to aj pomocou nástrojov rozhrania človek – stroj, s cieľom predchádzať rizikám pre zdravie, bezpečnosť alebo základné práva, ktoré môžu vzniknúť pri používaní vysokorizikového systému umelej inteligencie, alebo tieto riziká minimalizovať a 4. na účely dosiahnutia primeranej úrovne presnosti, spoľahlivosti a kybernetickej bezpečnosti ( 29 ) . Ako sa objasňuje v odôvodneniach navrhovaného nariadenia, tieto požiadavky týkajúce sa kvality použitých súborov údajov, technickej dokumentácie a uchovávania záznamov, transparentnosti a poskytovania informácií používateľom, ľudského dohľadu a spoľahlivosti, presnosti a kybernetickej bezpečnosti sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva ( 30 )

2.2.3. V tejto súvislosti sa zákonodarca Únie vyzýva, aby ďalej zvážil potrebu určiť relevantné príslušné orgány zodpovedné za dohľad nad posudzovaním zhody vykonávaným úverovými inštitúciami, pokiaľ ide o záležitosti týkajúce sa zdravia, bezpečnosti a základných práv, a aby zvážil potrebu zabezpečiť harmonizované uplatňovanie navrhovaného nariadenia v rámci jednotného trhu tým, že v budúcnosti by sa zriadil orgán pre oblasť umelej inteligencie na úrovni Únie.

2.2.4. Určité požiadavky na vysokorizikové systémy umelej inteligencie okrem toho nie sú úplne jasné alebo dostatočne špecifické na to, aby poskytovali dostatok informácií na podloženie očakávaní dohľadu. Napríklad môže byť potrebné bližšie objasniť požiadavku, že súbory trénovacích, validačných a testovacích údajov musia byť relevantné, reprezentatívne, bezchybné a úplné ( 31 ) . Vzhľadom na široký rozsah mandátu udeleného európskym normalizačným organizáciám ( 32 ) , a teda na potenciálne riziko oslabenia noriem stanovených v navrhovanom nariadení, by požiadavky týkajúce sa vysokorizikových systémov umelej inteligencie stanovené v navrhovanom nariadení mali byť dostatočne konkrétne.

2.2.5. ex ante , ktorú vykonáva úverová inštitúcia ex post osobitného posúdenia, ktoré má vykonať orgán prudenciálneho dohľadu ako súčasť SREP. Napokon, ECB vychádza z toho, že posudzovanie zhody v prípade systémov umelej inteligencie, ktoré poskytujú úverové inštitúcie na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika, je súčasťou vnútornej kontroly, ktorú vykonáva úverová inštitúcia ( 33 ) . V tejto súvislosti by sa navrhované nariadenie ( 34 ) malo zmeniť tak, aby odrážalo charakterosobitného posúdenia, ktoré má vykonať orgán prudenciálneho dohľadu ako súčasť SREP.

2.3. Objasnenie právomocí ECB v oblasti prudenciálneho dohľadu vo všeobecnosti

ECB možno považovať za príslušný orgán len do takej miery, do akej je to potrebné, aby mohla vykonávať úlohy, ktorými bola poverená podľa nariadenia o SSM. S cieľom predísť právnej neistote, pokiaľ ide o to, či navrhované nariadenie poveruje ECB novými úlohami, ECB navrhuje, aby navrhované nariadenie namiesto priameho odkazu na ECB ako na príslušný orgán odkazovalo na príslušné orgány vymedzené v príslušných aktoch práva Únie, ako je smernica o kapitálových požiadavkách. Z nariadenia o SSM by potom vyplývalo, že ECB sa má za príslušný orgán považovať len na účely vykonávania svojich úloh v oblasti prudenciálneho dohľadu (35).

2.4. Objasnenie nezávislosti ECB pri výkone úloh podľa zmluvy

ECB sa domnieva, že ak koná ako poskytovateľ uvádzajúci v Únii na trh alebo do prevádzky systémy umelej inteligencie alebo ako používateľ systémov umelej inteligencie, ktorý sa nachádza v Únii, navrhované nariadenie sa môže vzťahovať aj na ňu (36). To isté platí pre národné centrálne banky. V navrhovanom nariadení sa stanovuje, že ak do jeho rozsahu pôsobnosti patria inštitúcie Únie, koná ako príslušný orgán pre dohľad nad nimi a ako ich orgán pre dohľad nad trhom európsky dozorný úradník pre ochranu údajov (37). Národné centrálne banky by mohli byť pod dohľadom príslušných vnútroštátnych orgánov (38). V tejto súvislosti je dôležité zdôrazniť, že ECB a národné centrálne banky by mali byť schopné nezávisle vykonávať úlohy, ktoré im boli zverené zmluvou (39), napríklad pri používaní akejkoľvek aplikácie umelej inteligencie na definovanie a uskutočňovanie menovej politiky a na podporu plynulého fungovania platobných systémov (40). Treba však brať na vedomie, že nezávislosť ESCB pri vykonávaní úloh ho nevyníma z každého ustanovenia práva Únie (41). ECB vychádza z toho, že každý potenciálny dohľad európskeho dozorného úradníka pre ochranu údajov nad ECB a príslušných vnútroštátnych orgánov nad národnými centrálnymi bankami by bol obmedzený na náležitú kontrolu a riadenie systému umelej inteligencie a žiadnym spôsobom by neovplyvnil schopnosť ECB a národných centrálnych bánk nezávisle vykonávať úlohy, ktoré im boli zverené zmluvou.

3. Klasifikácia systémov umelej inteligencie

3.1. Navrhovaným nariadením sa zamýšľa zabezpečiť primeraný regulačný rámec v súvislosti s jeho cieľmi, a to tak, že sa prijme prístup založený na riziku, ktorý so sebou prináša regulačnú záťaž iba vtedy, keď je pravdepodobné, že systém umelej inteligencie bude predstavovať vysoké riziko pre základné práva a bezpečnosť. V navrhovanom nariadení sa však softvér, ktorý sa považuje za systém umelej inteligencie, vymedzuje všeobecne vzhľadom na to, že sa očakáva ďalší vývoj technológií umelej inteligencie. V dôsledku toho sa za systém umelej inteligencie považuje softvér vyvinutý na vytváranie výstupov, ako je obsah, predpovede, odporúčania alebo rozhodnutia, pomocou štatistických prístupov a prístupov strojového učenia, ako aj metód vyhľadávania a optimalizácie ( 42 ) . Toto široké vymedzenie by zahŕňalo rôzne činnosti vykonávané úverovými inštitúciami, a to najmä v súvislosti so systémami na stanovenie bodového hodnotenia kreditného rizika fyzických osôb.

3.2. Podľa navrhovaného nariadenia ( 43 ) by sa na veľkú väčšinu činností súvisiacich so stanovením bodového hodnotenia kreditného rizika, pri ktorých sa využívajú systémy umelej inteligencie, automaticky vzťahovali horizontálne minimálne požiadavky na vysokorizikové systémy umelej inteligencie. V dôsledku toho by viaceré činnosti vrátane marketingového cielenia, tvorby modelov výberu a štandardných modelov bodového hodnotenia kreditného rizika (napr. hodnotiaceho mechanizmu využívajúceho logistickú regresiu) museli spĺňať tie isté požiadavky. S cieľom zvýšiť jednoznačnosť očakávaní dohľadu a v súlade s technologicky neutrálnym prístupom ECB sa navrhuje, aby sa systémy umelej inteligencie, ktoré sa majú používať na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika a ktoré využívajú samostatné použitie lineárnej alebo logistickej regresie alebo rozhodovacie postupy pod ľudským dohľadom, neklasifikovali ako vysokorizikové systémy umelej inteligencie za predpokladu, že vplyv takýchto prístupov na posudzovanie úverovej bonity alebo bodového hodnotenia kreditného rizika fyzických osôb je malý.

3.3. Keďže úverové inštitúcie v každodennej praxi pravidelne vykonávajú činnosti súvisiace so stanovením bodového hodnotenia kreditného rizika, ECB navrhuje, aby požiadavky týkajúce sa toho, či sa systémy umelej inteligencie, ktoré sa majú používať na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika, považujú za „vysokorizikové systémy umelej inteligencie“, nadobudli účinnosť, až keď Komisia prijme spoločné špecifikácie ( 44 ) v tejto oblasti. V týchto spoločných špecifikáciách by sa mali najmä objasniť podmienky, za akých sa bude predpokladať, že vysokorizikové systémy umelej inteligencie v tejto oblasti sú v súlade s platnými požiadavkami, a zároveň by sa v nich malo vymedziť, kedy by sa systémy umelej inteligencie mali považovať za „prevádzkované malými poskytovateľmi na vlastnú potrebu“, a teda kedy patria do rozsahu pôsobnosti výnimky, podľa ktorej sa nepovažujú za vysokorizikový systém umelej inteligencie ( 45 ) . Z týchto dôvodov by ECB mala byť zaradená do zoznamu orgánov, s ktorými je potrebné tieto spoločné špecifikácie pred prijatím konzultovať, ak sa týkajú systémov umelej inteligencie, ktoré sa majú používať na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika ( 46 )

3.4. Napokon, ECB víta možnosť aktualizovať zoznam vysokorizikových systémov umelej inteligencie uvedený v prílohe III k navrhovanému nariadeniu ( 47 ) a je pripravená spolupracovať s Komisiou a poskytnúť jej konzultácie v súvislosti s identifikáciou ďalších potenciálnych rizík systémov umelej inteligencie, ktoré môžu predstavovať riziko poškodenia zdravia a bezpečnosti alebo riziko nepriaznivého vplyvu na základné práva. V navrhovanom nariadení sa za vysokorizikové neurčujú iné systémy, ktoré by mohli byť uvádzané do prevádzky špecificky úverovými inštitúciami, okrem systémov umelej inteligencie používaných na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb. Úverové inštitúcie však vyvíjajú modelovanie údajov pomocou umelej inteligencie, ktoré by prepájalo údaje o predajoch, transakciách a výkone s cieľom zabezpečiť jasný prehľad o riziku nesprávneho konania v určitej oblasti, alebo zvažujú jeho vývoj a používanie. Podobne by sa systémy umelej inteligencie mohli používať pri monitorovaní platieb v reálnom čase alebo pri profilovaní klientov alebo transakcií v reálnom čase na účely boja proti praniu špinavých peňazí a financovaniu terorizmu. V prípadoch, kde ECB odporúča zmenu navrhovaného nariadenia, navrhované znenie príslušných zmien je uvedené spolu s odôvodnením v osobitnom technickom pracovnom dokumente. Technický pracovný dokument je dostupný v anglickom jazyku na webovom sídle EUR-Lex.

Vo Frankfurte nad Mohanom 29. decembra 2021 Prezidentka ECB Christine LAGARDE

(1) COM(2021) 206 final.

(2) Smernica Európskeho parlamentu a Rady 2013/36/EÚ z 26. júna 2013 o prístupe k činnosti úverových inštitúcií a prudenciálnom dohľade nad úverovými inštitúciami a investičnými spoločnosťami, o zmene smernice 2002/87/ES a o zrušení smerníc 2006/48/ES a 2006/49/ES (Ú. v. EÚ L 176, 27.6.2013, s. 338).

(3) Pozri článok 9 ods. 9, článok 18 ods. 2, článok 20 ods. 2 a článok 29 ods. 5 navrhovaného nariadenia a článok 74 smernice o kapitálových požiadavkách.

(4) Pozri článok 74 smernice o kapitálových požiadavkách.

(5) Pozri článok 17 ods. 3 a článok 29 ods. 4 navrhovaného nariadenia.

(6) Pozri článok 74 smernice o kapitálových požiadavkách.

(7) Pozri usmernenia EBA k outsourcingu (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) Pozri prejav Andreu Enriu, predsedu Rady ECB pre dohľad ECB, A binary future? How digitalisation might change banking, De Nederlandsche Bank, Amsterdam, 11. marca 2019, dostupné na webovom sídle bankového dohľadu ECB na adrese www.bankingsupervision.europa.eu.

(9) Nariadenie (EÚ) 2019/1020 Európskeho parlamentu a Rady z 20. júna 2019 o dohľade nad trhom a súlade výrobkov a o zmene smernice 2004/42/ES a nariadení (ES) č. 765/2008 a (EÚ) č. 305/2011 (Ú. v. EÚ L 169, 25.6.2019, s. 1).

(10) Pozri článok 63 ods. 1 navrhovaného nariadenia.

(11) Pozri článok 63 ods. 1 písm. b) navrhovaného nariadenia.

(12) Pozri článok 1 ods. 1 nariadenia (EÚ) 2019/1020.

(13) Pozri článok 3 bod 26 navrhovaného nariadenia.

(14) Pozri článok 3 bod 4 nariadenia (EÚ) 2019/1020.

(15) Pozri odôvodnenie 9 nariadenia (EÚ) 2019/1020.

(16) Pozri článok 63 ods. 4 navrhovaného nariadenia.

(17) Nariadenie Rady (EÚ) č. 1024/2013 z 15. októbra 2013, ktorým sa Európska centrálna banka poveruje osobitnými úlohami, pokiaľ ide o politiky týkajúce sa prudenciálneho dohľadu nad úverovými inštitúciami (Ú. v. EÚ L 287, 29.10.2013, s. 63).

(18) Pozri článok 1 prvý odsek nariadenia o SSM.

(19) Pozri článok 4 ods. 1 písm. e) nariadenia o SSM.

(20) Pozri odôvodnenie 30 nariadenia o SSM, ako aj strany 53 a 54 reakcie ESCB/európskeho bankového dohľadu na verejnú konzultáciu Európskej komisie o novej stratégii v oblasti digitálnych financií pre Európu/Akčnom pláne pre finančné technológie (august 2020), ktorá je dostupná na webovom sídle bankového dohľadu ECB.

(21) Pozri odôvodnenia 28 a 29 nariadenia o SSM.

(22) Pozri článok 3 body 16 a 17, článok 65 ods. 2 druhý pododsek, článok 65 ods. 5 a článok 67 ods. 1 navrhovaného nariadenia.

(23) Pozri článok 19 ods. 2 a článok 43 ods. 2 navrhovaného nariadenia.

(24) Pozri bod 5 písm. b) prílohy III k navrhovanému nariadeniu.

(25) Články 97 až 101 smernice o kapitálových požiadavkách sa zaoberajú SREP.

(26) Pozri článok 3 bod 20 navrhovaného nariadenia.

(27) Pozri hlavu III kapitolu 2 články 8 až 15 navrhovaného nariadenia.

(28) Pozri článok 1 prvý odsek nariadenia o SSM.

(29) Pozri články 10, 12, 14 a 15 navrhovaného nariadenia.

(30) Pozri odôvodnenie 43 navrhovaného nariadenia.

(31) Pozri článok 10 ods. 3 navrhovaného nariadenia.

(32) Pozri článok 40 a odôvodnenie 61 navrhovaného nariadenia.

(33) Pozri článok 43 ods. 2 prvú vetu a prílohu VI k navrhovanému nariadeniu.

(34) Pozri článok 19 ods. 2, a najmä článok 43 ods. 2 druhú vetu navrhovaného nariadenia.

(35) Pozri článok 6 nariadenia o SSM.

(36) Pozri článok 2 navrhovaného nariadenia.

(37) Pozri článok 59 ods. 8 a článok 63 ods. 6 navrhovaného nariadenia.

(38) Pozri článok 59 ods. 2 navrhovaného nariadenia.

(39) Pozri článok 130 zmluvy.

(40) Pozri článok 127 ods. 2 prvú a štvrtú zarážku zmluvy.

(41) Pozri rozsudok Súdneho dvora z 10. júla 2003, C-11/00, Komisia/Európska centrálna banka, ECLI:EU:C:2003:3, body 130 až135.

(42) Pozri článok 3 bod 1 a prílohu I k navrhovanému nariadeniu.

(43) Pozri bod 5 písm. b) prílohy III k navrhovanému nariadeniu.

(44) Pozri článok 41 ods. 1 navrhovaného nariadenia.

(45) Podľa bodu 5 písm. b) prílohy III k navrhovanému nariadeniu.

(46) Pozri článok 41 ods. 2 navrhovaného nariadenia.

(47) Pozri článok 7 ods. 1 navrhovaného nariadenia.