EURÓPSKA KOMISIA V Bruseli21. 4. 2021 COM(2021) 206 final 2021/0106(COD) Návrh NARIADENIE EURÓPSKEHO PARLAMENTU A RADY, KTORÝM SA STANOVUJÚ HARMONIZOVANÉ PRAVIDLÁ V OBLASTI UMELEJ INTELIGENCIE (AKT O UMELEJ INTELIGENCII) A MENIA NIEKTORÉ LEGISLATÍVNE AKTY ÚNIE {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



DÔVODOVÁ SPRÁVA 1.KONTEXT NÁVRHU 1.1.Dôvody a ciele návrhu Táto dôvodová správa je sprievodným dokumentom k návrhu nariadenia, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii). Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže priniesť široké spektrum hospodárskych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach. Zlepšením predikcie, optimalizáciou operácií a prideľovania zdrojov, ako aj personalizáciou poskytovania služieb môže používanie umelej inteligencie podporiť sociálne a environmentálne priaznivé výsledky a poskytnúť spoločnostiam a európskemu hospodárstvu kľúčové konkurenčné výhody. Takéto opatrenia sú potrebné najmä v odvetviach s veľkým vplyvom, ktoré zahŕňajú zmenu klímy, životné prostredie a zdravie, verejný sektor, financie, mobilitu, vnútorné záležitosti a poľnohospodárstvo. Rovnaké prvky a techniky, ktoré poháňajú spoločenské a hospodárske prínosy umelej inteligencie však so sebou môžu priniesť aj nové riziká alebo negatívne dôsledky pre jednotlivcov či spoločnosť. EÚ sa vzhľadom na rýchlosť technologických zmien a možné výzvy zaväzuje, že sa bude usilovať o vyvážený prístup. Je v záujme Únie zachovať si vedúce postavenie EÚ v oblasti technológií a zabezpečiť, aby Európania mohli mať prospech z nových technológií vyvinutých a fungujúcich v súlade s hodnotami, základnými právami a zásadami Únie. Týmto návrhom sa plní politický záväzok predsedníčky Ursuly von der Leyenovej, ktorá vo svojich politických usmerneniach pre Komisiu na roky 2019 – 2024 s názvom Ambicióznejšia Únia oznámila, že Komisia predloží právne predpisy o koordinovanom európskom prístupe k ľudským a etickým dôsledkom umelej inteligencie. Na základe tohto oznámenia Komisia 19. februára 2020 zverejnila Bielu knihu o umelej inteligencii – európsky prístup k excelentnosti a dôvere. V bielej knihe sa stanovujú politické možnosti, ako dosiahnuť dvojaký cieľ: nabádať k využívaniu umelej inteligencie a zároveň riešiť riziká spojené s niektorými použitiami tejto technológie. Cieľom tohto návrhu je vykonanie druhého cieľa v oblasti rozvoja ekosystému dôvery, a to navrhnutím právneho rámca pre dôveryhodnú umelú inteligenciu. Tento návrh je založený na hodnotách a základných právach EÚ a jeho cieľom je dodať ľuďom a ostatným používateľom odvahu prijať riešenia založené na umelej inteligencii a súčasne podporiť podniky, aby tieto riešenia rozvíjali. Umelá inteligencia by mala byť nástrojom pre ľudí a hybnou silou pre dobro v spoločnosti, pričom jej hlavným cieľom je zvýšenie blahobytu ľudí. Pravidlá pre umelú inteligenciu, ktorá je dostupná na trhu Únie alebo inak ovplyvňuje ľudí v Únii, by preto mali byť sústredené na človeka, aby sa ľudia mohli spoľahnúť, že táto technológia sa používa spôsobom, ktorý je bezpečný a v súlade s právnymi predpismi a že sú rešpektované základné práva. Komisia po zverejnení bielej knihy uskutočnila rozsiahlu konzultáciu so zainteresovanými stranami, o ktorú prejavilo veľký záujem množstvo zainteresovaných strán, ktoré vo veľkej miere vyjadrili podporu regulačným zásahom zameraným na riešenie výziev a obáv, ktoré prináša čoraz väčšie využívanie umelej inteligencie. Návrh je reakciou aj na výslovné žiadosti Európskeho parlamentu a Európskej rady, ktoré opakovane vyzývajú na legislatívne opatrenia na zabezpečenie dobre fungujúceho vnútorného trhu so systémami umelej inteligencie, kde sa výhody aj riziká umelej inteligencie primerane riešia na úrovni Únie. Návrhom sa podporuje cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada, a zabezpečuje sa ochrana etických zásad, ako to osobitne požaduje Európsky parlament. Európska rada v roku 2017 vyzvala na „urýchlené zaoberanie sa novými trendmi“ vrátane „otázok, ako je umelá inteligencia […], pričom je zároveň potrebné zabezpečiť vysokú úroveň ochrany údajov, digitálnych práv a etických noriem“. Rada vo svojich záveroch z roku 2019 o koordinovanom pláne vývoja a používania umelej inteligencie s pôvodom v Európe ďalej zdôraznila význam zabezpečenia plného rešpektovania práv európskych občanov a vyzvala na to, aby sa preskúmali príslušné platné právne predpisy, aby spĺňali svoj účel vzhľadom na nové príležitosti a výzvy, ktoré prináša umelá inteligencia. Európska rada okrem toho požiadala o jasné určenie aplikácií umelej inteligencie, ktoré by sa mali považovať za vysokorizikové. V najnovších záveroch z 21. októbra 2020 ďalej vyzvala na riešenie nepriehľadnosti, zložitosti, zaujatosti, určitého stupňa nepredvídateľnosti a čiastočne autonómneho správania sa určitých systémov umelej inteligencie, aby sa zaistila ich kompatibilita so základnými právami a uľahčilo sa presadzovanie právnych predpisov. Európsky parlament takisto vykonáva značné množstvo práce v oblasti umelej inteligencie. V októbri 2020 prijal niekoľko uznesení týkajúcich sa umelej inteligencie, a to aj o etike, zodpovednosti a autorských právach. V roku 2021 po nich nasledovali uznesenia o umelej inteligencii v trestných veciach a vo vzdelávaní, v kultúre a audiovizuálnom odvetví. V uznesení Európskeho parlamentu k rámcu etických aspektov umelej inteligencie, robotiky a súvisiacich technológií sa Komisii konkrétne odporúča, aby navrhla legislatívne opatrenia na využitie príležitostí a výhod umelej inteligencie, ale aj na zabezpečenie ochrany etických zásad. Uznesenie obsahuje text legislatívneho návrhu nariadenia o etických zásadách pre vývoj, nasadzovanie a používanie umelej inteligencie, robotiky a súvisiacich technológií. V súlade s politickým záväzkom predsedníčky Ursuly von der Leyenovej v jej politických usmerneniach, pokiaľ ide o uznesenia prijaté Európskym parlamentom podľa článku 225 ZFEÚ, sa v tomto návrhu zohľadňuje uvedené uznesenie Európskeho parlamentu pri plnom rešpektovaní zásad proporcionality, subsidiarity a lepšej tvorby práva. Komisia vzhľadom na tento politický kontext predkladá navrhovaný regulačný rámec pre umelú inteligenciu s týmito konkrétnymi cieľmi: ·zabezpečiť, aby používané systémy umelej inteligencie uvedené na trh Únie boli bezpečné a v súlade s platnými právnymi predpismi týkajúcimi sa základných práv a hodnôt Únie, ·zabezpečiť právnu istotu na uľahčenie investícií a inovácií v oblasti umelej inteligencie, ·zlepšiť riadenie a účinné presadzovanie platných právnych predpisov týkajúcich sa základných práv a bezpečnostných požiadaviek uplatniteľných pre systémy umelej inteligencie, ·uľahčiť rozvoj jednotného trhu v záujme zákonných, bezpečných a dôveryhodných aplikácií umelej inteligencie a zabrániť fragmentácii trhu. Na dosiahnutie týchto cieľov sa v tomto návrhu uvádza vyvážený a primeraný horizontálny regulačný prístup k umelej inteligencii, ktorý sa obmedzuje na minimálne nevyhnutné požiadavky na riešenie rizík a problémov spojených s umelou inteligenciou bez toho, aby zbytočne obmedzoval technologický vývoj alebo mu bránil alebo inak neúmerne zvyšoval náklady na uvádzanie riešení umelej inteligencie na trh. V návrhu sa stanovuje spoľahlivý a flexibilný rámec. Na jednej strane je komplexný a nadčasový vo svojich základných regulačných možnostiach vrátane požiadaviek založených na zásadách, ktoré by systémy umelej inteligencie mali spĺňať. Na druhej strane sa ním zavádza proporcionálny regulačný systém zameraný na presne definovaný regulačný prístup založený na riziku, ktorý nevytvára zbytočné obmedzenia obchodu, pričom právny zásah je prispôsobený takým konkrétnym situáciám, v ktorých existuje oprávnený dôvod na obavy alebo v ktorých možno v blízkej budúcnosti takéto obavy odôvodnene očakávať. Právny rámec zároveň obsahuje flexibilné mechanizmy, ktoré umožňujú jeho dynamické prispôsobovanie vývoju technológie a vzniku nových situácií vyvolávajúcich obavy. V návrhu sa stanovujú harmonizované pravidlá pre vývoj, uvádzanie na trh a využívanie systémov umelej inteligencie v Únii na základe primeraného prístupu založeného na riziku. Navrhuje sa v ňom jednotná a nadčasová definícia umelej inteligencie. Určité osobitne škodlivé praktiky v oblasti umelej inteligencie sa zakazujú, pretože sú v rozpore s hodnotami Únie a súčasne sa navrhujú konkrétne obmedzenia a záruky v súvislosti s niektorými použitiami systémov diaľkovej biometrickej identifikácie na účely presadzovania práva. V návrhu sa stanovuje spoľahlivá metodika rizika na definovanie „vysokorizikových“ systémov umelej inteligencie, ktoré predstavujú významné riziká pre zdravie a bezpečnosť alebo základné práva osôb. Tieto systémy umelej inteligencie budú musieť spĺňať horizontálne záväzné požiadavky na dôveryhodnú umelú inteligenciu a dodržiavať postupy posudzovania zhody ešte pred ich uvedením na trh Únie. Poskytovateľom a používateľom týchto systémov sa ukladajú aj predvídateľné, primerané a jasné povinnosti s cieľom zaistiť bezpečnosť a dodržiavanie platných právnych predpisov, ktoré slúžia na ochranu základných práv počas celého životného cyklu systémov umelej inteligencie. V prípade niektorých konkrétnych systémov umelej inteligencie sa navrhujú iba minimálne povinnosti týkajúce sa transparentnosti, najmä ak sa používajú chatboty alebo tzv. deepfakes. Navrhované pravidlá sa budú presadzovať prostredníctvom systému riadenia na úrovni členských štátov, a to na základe už existujúcich štruktúr, ako aj prostredníctvom mechanizmu spolupráce na úrovni Únie, pričom sa zriadi Európska rada pre umelú inteligenciu. Okrem toho sa navrhujú aj ďalšie opatrenia na podporu inovácií, najmä prostredníctvom experimentálnych regulačných prostredí umelej inteligencie a ďalších opatrení na zníženie regulačnej záťaže, ako aj na podporu malých a stredných podnikov a startupov. 1.2.Súlad s existujúcimi ustanoveniami v tejto oblasti politiky Horizontálna povaha návrhu si vyžaduje úplný súlad s platnými právnymi predpismi Únie, ktoré sa vzťahujú na odvetvia, v ktorých sa vysokorizikové systémy umelej inteligencie už používajú alebo sa pravdepodobne budú používať v blízkej budúcnosti.

Návrh je takisto v súlade s Chartou základných práv EÚ a existujúcimi sekundárnymi právnymi predpismi Únie týkajúcimi sa ochrany údajov, ochrany spotrebiteľa, zákazu diskriminácie a rodovej rovnosti. Týmto návrhom nie je dotknuté všeobecné nariadenie o ochrane údajov [nariadenie (EÚ) 2016/679] ani smernica o presadzovaní práva [smernica (EÚ) 2016/680] a tento návrh ich dopĺňa súborom harmonizovaných pravidiel, ktoré sa vzťahujú na navrhovanie, vývoj a používanie určitých vysokorizikových systémov umelej inteligencie, ako aj obmedzeniami niektorých použití systémov diaľkovej biometrickej identifikácie. Týmto návrhom sa okrem toho dopĺňa platné právo Únie týkajúce sa zákazu diskriminácie konkrétnymi požiadavkami, ktorých cieľom je minimalizovať riziko algoritmickej diskriminácie, najmä v súvislosti s návrhom a kvalitou súborov údajov používaných na vývoj systémov umelej inteligencie, a ktoré obsahujú aj povinnosti testovania, riadenia rizík, dokumentácie a ľudského dohľadu počas celého životného cyklu systémov umelej inteligencie. Týmto návrhom nie je dotknuté uplatňovanie právnych predpisov Únie v oblasti hospodárskej súťaže. Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými súčasťami výrobkov, tento návrh bude začlenený do odvetvových právnych predpisov v oblasti bezpečnosti s cieľom zabezpečiť súlad, zabrániť duplicitám a minimalizovať ďalšiu záťaž. Najmä pokiaľ ide o vysokorizikové systémy umelej inteligencie súvisiace s výrobkami, na ktoré sa vzťahujú právne predpisy nového legislatívneho rámca (napr. stroje, zdravotnícke pomôcky, hračky), požiadavky na systémy umelej inteligencie uvedené v tomto návrhu sa budú kontrolovať v rámci existujúcich postupov posudzovania zhody podľa príslušných právnych predpisov nového legislatívneho rámca. Pokiaľ ide o súhru požiadaviek, zatiaľ čo na bezpečnostné riziká špecifické pre systémy umelej inteligencie sa majú vzťahovať požiadavky tohto návrhu, cieľom právnych predpisov nového legislatívneho rámca je zabezpečiť celkovú bezpečnosť konečného výrobku, a preto môžu obsahovať osobitné požiadavky týkajúce sa bezpečnej integrácie systému umelej inteligencie do konečného výrobku. Návrh nariadenia o strojových zariadeniach, ktorý je prijatý v rovnaký deň ako tento návrh, plne odráža tento prístup. Pokiaľ ide o vysokorizikové systémy umelej inteligencie súvisiace s výrobkami, na ktoré sa vzťahujú príslušné právne predpisy podľa starého prístupu (napr. letectvo, automobily), tento návrh by sa priamo neuplatňoval. Základné požiadavky ex ante na vysokorizikové systémy umelej inteligencie stanovené v tomto návrhu sa však budú musieť zohľadniť pri prijímaní príslušných vykonávacích alebo delegovaných právnych predpisov podľa týchto aktov. Pokiaľ ide o systémy umelej inteligencie poskytované alebo používané regulovanými úverovými inštitúciami, orgány zodpovedné za dohľad nad právnymi predpismi Únie v oblasti finančných služieb by mali byť určené ako príslušné orgány pre dohľad nad požiadavkami tohto návrhu, aby sa zabezpečilo jednotné presadzovanie povinností podľa tohto návrhu a právnych predpisov Únie v oblasti finančných služieb, kde sú systémy umelej inteligencie do určitej miery nepriamo regulované vo vzťahu k internému systému riadenia úverových inštitúcií. S cieľom ďalej posilniť súlad sa postup posudzovania zhody a niektoré procesné povinnosti poskytovateľov podľa tohto návrhu začleňujú do postupov podľa smernice 2013/36/EÚ o prístupe k činnosti úverových inštitúcií a prudenciálnom dohľade. Tento návrh je takisto v súlade s platnými právnymi predpismi Únie o službách, ako aj o sprostredkovateľských službách, ktoré upravuje smernica o elektronickom obchode 2000/31/ES a nedávny návrh aktu o digitálnych službách, ktorý vypracovala Komisia. Pokiaľ ide o systémy umelej inteligencie, ktoré sú súčasťou rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti spravovanom Agentúrou Európskej únie na prevádzkové riadenie rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti (eu-LISA), tento návrh sa nebude vzťahovať na tie systémy umelej inteligencie, ktoré boli uvedené na trh alebo do prevádzky ešte pred uplynutím jedného roka od dátumu uplatňovania tohto nariadenia, pokiaľ náhrada alebo zmena týchto právnych aktov nevedie k významnej zmene návrhu alebo plánovaného účelu príslušného systému, resp. systémov umelej inteligencie. 1.3.Súlad s ostatnými politikami Únie Návrh je súčasťou širšieho komplexného balíka opatrení zameraných na problémy súvisiace s vývojom a používaním umelej inteligencie, ako sa uvádza v bielej knihe o umelej inteligencii. Je teda zabezpečený súlad i komplementarita s inými prebiehajúcimi alebo plánovanými iniciatívami Komisie, ktorých cieľom je takisto riešenie týchto problémov vrátane revízie odvetvových právnych predpisov týkajúcich sa výrobkov (napr. smernica o strojových zariadeniach, smernica o všeobecnej bezpečnosti výrobkov), ako aj s iniciatívami, ktoré sa zameriavajú na otázky zodpovednosti týkajúce sa nových technológií vrátane systémov umelej inteligencie. Tieto iniciatívy budú vychádzať z tohto návrhu a budú ho dopĺňať, aby sa zabezpečila právna čistota a podporil rozvoj ekosystému dôvery v umelú inteligenciu v Európe. Návrh je aj v súlade s celkovou digitálnou stratégiou Komisie v jej prínose k podpore technológie v službách človeka, čo je jeden z troch hlavných pilierov zamerania a cieľov politiky uvedených v oznámení Formovanie digitálnej budúcnosti Európy. Stanovuje sa v ňom súdržný, účinný a primeraný rámec na zabezpečenie vývoja umelej inteligencie spôsobom, ktorý rešpektuje práva ľudí a získava si ich dôveru, vďaka čomu sa Európa pripraví na digitálny vek a ďalších desať rokov sa stane digitálnym desaťročím. Podpora inovácií založených na umelej inteligencii je navyše úzko spojená s aktom o správe údajov, so smernicou o otvorených dátach a s ďalšími iniciatívami v rámci Európskej dátovej stratégie, vďaka čomu sa vytvoria dôveryhodné mechanizmy a služby na opakované použitie, zdieľanie a zhromažďovanie údajov, ktoré sú nevyhnutné pre vývoj vysokokvalitných modelov umelej inteligencie založených na údajoch. Návrhom sa okrem toho významne posilňuje úloha Únie v oblasti pomoci pri formovaní globálnych noriem a štandardov a podpore dôveryhodnej umelej inteligencie, ktorá je v súlade s hodnotami a záujmami Únie. Poskytuje Únii silný základ pre ďalšiu spoluprácu s externými partnermi vrátane tretích krajín a na medzinárodných fórach v otázkach týkajúcich sa umelej inteligencie. 2.PRÁVNY ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA 2.1.Právny základ Právnym základom tohto návrhu je predovšetkým článok 114 Zmluvy o fungovaní Európskej únie (ZFEÚ), v ktorom sa stanovuje prijímanie opatrení na zabezpečenie vytvorenia a fungovania vnútorného trhu. Tento návrh predstavuje hlavnú súčasť stratégie EÚ pre jednotný digitálny trh. Hlavným cieľom tohto návrhu je zabezpečiť správne fungovanie vnútorného trhu stanovením harmonizovaných pravidiel, najmä v oblasti vývoja, uvedenia na trh Únie a používania výrobkov a služieb využívajúcich technológie umelej inteligencie alebo poskytovaných ako samostatné systémy umelej inteligencie. Niektoré členské štáty už zvažujú vnútroštátne pravidlá na zabezpečenie toho, aby bola umelá inteligencia bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. To pravdepodobne povedie k dvom hlavným problémom: i) fragmentácii vnútorného trhu v oblasti základných prvkov týkajúcej sa najmä požiadaviek na výrobky a služby umelej inteligencie, ich uvádzania na trh, používania, zodpovednosti a dohľadu zo strany orgánov verejnej moci a ii) značnému poklesu právnej istoty tak pre poskytovateľov, ako aj používateľov systémov umelej inteligencie v tom, ako sa budú súčasné a nové pravidlá vzťahovať na tieto systémy v Únii. Vzhľadom na rozšírený cezhraničný pohyb výrobkov a služieb možno tieto dva problémy najlepšie vyriešiť prostredníctvom harmonizovaných právnych predpisov EÚ. V návrhu sa v skutočnosti vymedzujú spoločné záväzné požiadavky týkajúce sa navrhovania a vývoja určitých systémov umelej inteligencie pred ich uvedením na trh, ktoré sa budú ďalej zavádzať prostredníctvom harmonizovaných technických noriem. V návrhu sa rieši aj situácia po uvedení systémov umelej inteligencie na trh, a to harmonizáciou spôsobu, akým sa vykonávajú kontroly ex post. Navyše vzhľadom na to, že tento návrh obsahuje určité osobitné pravidlá ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov, najmä obmedzenia používania systémov umelej inteligencie na diaľkovú biometrickú identifikáciu v reálnom čase vo verejne dostupných priestoroch na účely presadzovania práva, je vhodné, aby sa osobitné pravidlá uvedené v tomto nariadení zakladali na článku 16 ZFEÚ. 2.2.Subsidiarita (v prípade inej ako výlučnej právomoci) Povaha umelej inteligencie, ktorá sa často opiera o veľké a rozmanité súbory údajov a ktorá môže byť súčasťou akéhokoľvek výrobku alebo služby vo voľnom obehu na vnútornom trhu, má za následok, že ciele tohto návrhu nemožno účinne dosiahnuť len na úrovni členských štátov. Okrem toho vznikajúca zmes potenciálne odlišných vnútroštátnych pravidiel bude brániť plynulému obehu výrobkov a služieb súvisiacich so systémami umelej inteligencie v celej EÚ a bude neúčinná pri zaisťovaní bezpečnosti a ochrany základných práv a hodnôt Únie v jednotlivých členských štátoch. Vnútroštátne prístupy k riešeniu problémov vytvoria iba ďalšiu právnu neistotu a prekážky a spomalia uvádzanie umelej inteligencie na trh. Ciele tohto návrhu možno lepšie dosiahnuť na úrovni Únie, aby sa zabránilo ďalšej fragmentácii jednotného trhu na potenciálne protichodné vnútroštátne rámce brániace voľnému pohybu tovaru a služieb, ktoré obsahujú umelú inteligenciu. Spoľahlivý európsky regulačný rámec pre dôveryhodnú umelú inteligenciu okrem toho zabezpečí rovnaké podmienky a ochranu všetkých ľudí a súčasne posilní európsku konkurencieschopnosť a priemyselnú základňu v oblasti umelej inteligencie. Jedine spoločnými opatreniami na úrovni Únie možno takisto chrániť digitálnu suverenitu Únie a využiť jej nástroje a regulačné právomoci na formovanie globálnych pravidiel a noriem. 2.3.Proporcionalita

Návrh vychádza z existujúcich právnych rámcov a je primeraný a potrebný na dosiahnutie svojich cieľov, pretože sa riadi prístupom založeným na riziku a prináša so sebou regulačnú záťaž iba vtedy, keď je pravdepodobné, že systém umelej inteligencie bude predstavovať vysoké riziko pre základné práva a bezpečnosť. V prípade iných systémov umelej inteligencie, ktoré nepredstavujú vysoké riziko, sa ukladajú iba veľmi obmedzené povinnosti týkajúce sa transparentnosti, napríklad pokiaľ ide o poskytovanie informácií umožňujúcich označiť použitie systému umelej inteligencie pri interakcii s ľuďmi. V prípade vysokorizikových systémov umelej inteligencie sú požiadavky na vysokokvalitné údaje, dokumentáciu a vysledovateľnosť, transparentnosť, ľudský dohľad, presnosť a spoľahlivosť nevyhnutne potrebné na zmiernenie rizík pre základné práva a bezpečnosť, ktoré so sebou prináša umelá inteligencia a na ktoré sa nevzťahujú iné existujúce právne rámce. Harmonizované normy a podporné usmerňujúce nástroje a nástroje na zabezpečenie dodržiavania predpisov pomôžu poskytovateľom a používateľom pri dodržiavaní požiadaviek stanovených v návrhu a minimalizujú ich náklady. Náklady, ktoré vzniknú prevádzkovateľom, sú primerané dosiahnutým cieľom, hospodárskym prínosom a zlepšeniu reputácie, ktoré môžu prevádzkovatelia od tohto návrhu očakávať. 2.4.Výber nástroja Výber nariadenia ako právneho nástroja je odôvodnený potrebou jednotného uplatňovania nových pravidiel, ako je definícia umelej inteligencie, zákaz určitých škodlivých praktík založených na umelej inteligencii a klasifikácia určitých systémov umelej inteligencie. Priama uplatniteľnosť nariadenia v súlade s článkom 288 ZFEÚ zníži právnu fragmentáciu a uľahčí rozvoj jednotného trhu pre zákonné, bezpečné a dôveryhodné systémy umelej inteligencie. Dosiahne sa to najmä zavedením harmonizovaného súboru základných požiadaviek týkajúcich sa systémov umelej inteligencie klasifikovaných ako vysokorizikové a povinností pre poskytovateľov a používateľov týchto systémov, čím sa zlepší ochrana základných práv a poskytne právna istota tak prevádzkovateľom, ako aj spotrebiteľom. Ustanovenia nariadenia súčasne nie sú príliš normatívne a ponechávajú priestor pre opatrenia členských štátov na rôznych úrovniach, pokiaľ ide o prvky, ktoré neohrozujú ciele iniciatívy, najmä vnútornú organizáciu systému dohľadu nad trhom a zavádzanie opatrení na podporu inovácií. 3.VÝSLEDKY HODNOTENÍ EX POST, KONZULTÁCIÍ SO ZAINTERESOVANÝMI STRANAMI A POSÚDENÍ VPLYVU 3.1.Konzultácia so zainteresovanými stranami Tento návrh je výsledkom rozsiahlej konzultácie so všetkými hlavnými zainteresovanými stranami, pri ktorej Komisia uplatnila všeobecné zásady a minimálne normy pre konzultácie so zainteresovanými stranami. Verejná online konzultácia sa začala 19. februára 2020 spolu s uverejnením bielej knihy o umelej inteligencii a trvala do 14. júna 2020. Cieľom uvedenej konzultácie bolo zhromaždiť názory a stanoviská k bielej knihe. Bola zameraná na všetky zainteresované strany z verejného i súkromného sektora vrátane verejnej správy, miestnych orgánov, obchodných i neobchodným organizácií, sociálnych partnerov, odborníkov, akademických pracovníkov a občanov. Komisia po analýze všetkých prijatých odpovedí zverejnila na svojom webovom sídle zhrnutie výsledkov a jednotlivé odpovede. Celkovo bolo prijatých 1 215 príspevkov, z ktorých 352 bolo od spoločností alebo obchodných organizácií/združení, 406 od jednotlivcov (92 % jednotlivcov bolo z EÚ), 152 v mene akademických/výskumných inštitúcií a 73 od orgánov verejnej moci. Názory občianskej spoločnosti zastupovalo 160 respondentov (z nich bolo deväť spotrebiteľských organizácií, 129 mimovládnych organizácií a 22 odborových zväzov), 72 respondentov prispelo ako „iní“. Z 352 obchodných a priemyselných zástupcov bolo 222 obchodných spoločností a obchodných zástupcov, z toho 41,5 % tvorili mikropodniky a malé a stredné podniky. Zvyšok predstavovali záujmové združenia. Celkovo 84 % odpovedí podnikov a priemyslu pochádzalo z EÚ27. V závislosti od otázky 81 až 598 respondentov využilo na vkladanie komentárov možnosť voľného textu. Prostredníctvom webového sídla EU Survey bolo predložených viac ako 450 pozičných dokumentov, a to buď popri odpovediach na dotazník (viac ako 400) alebo ako samostatné príspevky (viac ako 50). Zainteresované strany sa celkovo zhodujú v tom, že je potrebné konať. Veľká väčšina zainteresovaných strán súhlasí s tým, že existujú legislatívne medzery alebo že sú potrebné nové právne predpisy. Niekoľko zainteresovaných strán však varuje Komisiu, aby sa vyhla duplicite, konfliktu povinností a nadmernej regulácii. V množstve pripomienok sa zdôrazňoval význam technologicky neutrálneho a primeraného regulačného rámca. Zainteresované strany prevažne požadovali úzku, jasnú a presnú definíciu umelej inteligencie. Zainteresované strany navyše zdôraznili, že okrem objasnenia pojmu umelá inteligencia je dôležité definovať pojmy „riziko“, „vysokorizikový“, „nízkorizikový“, „diaľková biometrická identifikácia“ a „ujma“. Väčšina respondentov je výslovne za prístup založený na riziku. Použitie rámca založeného na riziku sa považovalo za lepšiu možnosť ako všeobecná regulácia všetkých systémov umelej inteligencie. Typy rizík a hrozieb by mali byť založené na prístupe podľa jednotlivých odvetví a podľa jednotlivých prípadov. Pri výpočte rizík by sa mal zohľadniť aj vplyv na práva a bezpečnosť. Na podporu umelej inteligencie by mohli byť veľmi užitočné experimentálne regulačné prostredia, ktoré vítajú určité zainteresované strany, najmä obchodné združenia. Spomedzi tých, ktorí vyjadrili svoje stanovisko k modelom presadzovania, viac ako 50 % respondentov, najmä z obchodných združení, podporilo kombináciu hodnotenia rizík ex ante a presadzovania ex post v prípade vysokorizikových systémov umelej inteligencie. 3.2.Získavanie a využívanie expertízy Návrh vychádza z dvojročnej analýzy a úzkeho zapojenia zainteresovaných strán vrátane akademických pracovníkov, podnikov, sociálnych partnerov, mimovládnych organizácií, členských štátov a občanov. Prípravné práce sa začali v roku 2018 zriadením inkluzívnej a širokej expertnej skupiny na vysokej úrovni pre umelú inteligenciu (HLEG) zloženej z 52 známych odborníkov, ktorých úlohou bolo radiť Komisii pri vykonávaní stratégie Komisie pre umelú inteligenciu. Komisia v apríli 2019 podporila kľúčové požiadavky stanovené v etických usmerneniach pre dôveryhodnú umelú inteligenciu, ktoré vydala expertná skupina na vysokej úrovni pre umelú inteligenciu a ktoré boli prepracované tak, aby zohľadňovali viac ako 500 príspevkov od zainteresovaných strán. Kľúčové požiadavky odrážajú rozšírený a spoločný prístup, že vývoj a používanie umelej inteligencie by sa mali riadiť určitými základnými hodnotovými zásadami, o čom svedčí množstvo etických kódexov a zásad vypracovaných mnohými súkromnými a verejnými organizáciami v Európe i mimo nej. Vďaka zoznamu bodov na posudzovanie dôveryhodnej umelej inteligencie boli tieto požiadavky zavedené v skúšobnom procese, do ktorého sa zapojilo viac ako 350 organizácií. Okrem toho bola vytvorená Aliancia pre umelú inteligenciu ako platforma pre približne 4 000 zainteresovaných strán na účely diskusie o technologických a spoločenských dopadoch umelej inteligencie, ktoré vrcholia na každoročnom zhromaždení pre umelú inteligenciu. Bielou knihou o umelej inteligencii sa ďalej rozvinul tento inkluzívny prístup a podnietili sa pripomienky viac ako 1 250 zainteresovaných strán vrátane viac ako 450 dodatočných pozičných dokumentov. V dôsledku toho Komisia zverejnila úvodné posúdenie vplyvu, ku ktorému bolo predložených viac ako 130 pripomienok. Zorganizovali sa aj ďalšie semináre a podujatia pre zainteresované strany, pričom ich výsledky potvrdzujú analýzu v posúdení vplyvu, ako aj politické rozhodnutia uskutočnené v tomto návrhu. Na účely posúdenia vplyvu bola obstaraná aj externá štúdia. 3.3.Posúdenie vplyvu V súlade so svojou politikou „lepšej právnej regulácie“ Komisia vykonala posúdenie vplyvu tohto návrhu, ktoré preskúmal výbor Komisie pre kontrolu regulácie. Stretnutie s výborom pre kontrolu regulácie sa uskutočnilo 16. decembra 2020 a po ňom nasledovalo negatívne stanovisko. Po podstatnej revízii posúdenia vplyvu s cieľom reagovať na pripomienky a po opätovnom predložení posúdenia vplyvu výbor pre kontrolu regulácie vydal 21. marca 2021 pozitívne stanovisko. Stanoviská výboru pre kontrolu regulácie, odporúčania a objasnenie toho, ako sa zohľadnili, sú uvedené v prílohe 1 k posúdeniu vplyvu.

Komisia preskúmala rôzne politické možnosti na dosiahnutie všeobecného cieľa návrhu, ktorým je zabezpečiť správne fungovanie jednotného trhu vytvorením podmienok pre vývoj a používanie dôveryhodnej umelej inteligencie v Únii. Posudzovali sa štyri politické možnosti rôzneho stupňa regulačných zásahov: ·možnosť 1: legislatívny nástroj EÚ, ktorým sa stanovuje dobrovoľný systém označovania, ·možnosť 2: odvetvový prístup ad hoc, ·možnosť 3: horizontálny legislatívny nástroj EÚ na základe primeraného prístupu založeného na riziku, ·možnosť 3+: horizontálny legislatívny nástroj EÚ na základe primeraného prístupu založeného na riziku + kódexy správania pre systémy umelej inteligencie, ktoré nepredstavujú vysoké riziko, ·možnosť 4: horizontálny legislatívny nástroj EÚ, ktorým sa stanovujú záväzné požiadavky pre všetky systémy umelej inteligencie bez ohľadu na riziko, ktoré predstavujú. Všetky možnosti politiky boli posúdené v súlade so stanovenou metodikou Komisie z hľadiska hospodárskych a spoločenských vplyvov s osobitným zameraním na vplyvy na základné práva. Uprednostňovanou možnosťou je možnosť 3+, regulačný rámec len pre vysokorizikové systémy umelej inteligencie, pričom kódexom správania sa môžu riadiť všetci poskytovatelia systémov umelej inteligencie, ktoré nepredstavujú vysoké riziko. Požiadavky sa budú týkať údajov, dokumentácie a vysledovateľnosti, poskytovania informácií a transparentnosti, ľudského dohľadu a spoľahlivosti a presnosti, a budú záväzné pre vysokorizikové systémy umelej inteligencie. Spoločnosti, ktoré zaviedli kódexy správania pre iné systémy umelej inteligencie, tak urobia dobrovoľne. Uprednostňovaná možnosť sa považovala za vhodnú na čo najúčinnejšie riešenie cieľov tohto návrhu. Keďže sa od vývojárov a používateľov umelej inteligencie vyžaduje obmedzený, ale účinný súbor opatrení, uprednostňovaná možnosť obmedzuje riziká porušovania základných práv a bezpečnosti ľudí a podporuje účinný dohľad a presadzovanie, a to tak, že požiadavky sa zameriavajú iba na systémy, kde existuje vysoké riziko, že by k takýmto porušeniam mohlo dôjsť. Výsledkom je, že vďaka tejto možnosti sú náklady na dosiahnutie súladu minimálne, a tak sa zabráni zbytočnému spomaleniu zavádzania v dôsledku vyšších cien a nákladov na dosiahnutie súladu. S cieľom riešiť prípadné nevýhody pre malé a stredné podniky táto možnosť obsahuje niekoľko ustanovení na podporu ich súladu a znižovania ich nákladov vrátane vytvorenia experimentálnych regulačných prostredí a povinnosti zohľadňovať záujmy malých a stredných podnikov pri stanovovaní poplatkov súvisiacich s posudzovaním zhody. Uprednostňovaná možnosť zvýši dôveru ľudí v umelú inteligenciu, spoločnosti získajú právnu istotu a členské štáty nebudú mať dôvod na prijatie jednostranných opatrení, ktoré by mohli viesť k fragmentácii jednotného trhu. V dôsledku vyššieho dopytu vďaka väčšej dôvere, dostupnejších ponúk vďaka právnej istote a absencie prekážok cezhraničného pohybu systémov umelej inteligencie sa bude jednotný trh umelej inteligencie pravdepodobne úspešne rozvíjať. Európska únia bude naďalej rozvíjať rýchlo rastúci ekosystém umelej inteligencie pozostávajúci z inovatívnych služieb a výrobkov obsahujúcich technológiu umelej inteligencie alebo samostatné systémy umelej inteligencie, čo povedie k zvýšeniu digitálnej autonómie. Podniky alebo orgány verejnej moci, ktoré vyvíjajú alebo používajú aplikácie umelej inteligencie predstavujúce vysoké riziko pre bezpečnosť alebo základné práva občanov, budú musieť dodržiavať konkrétne požiadavky a povinnosti. Súlad s týmito požiadavkami by predstavoval náklady vo výške približne 6 000 až 7 000 EUR za dodanie priemerného vysokorizikového systému umelej inteligencie v hodnote približne 170 000 EUR do roku 2025. Používateľom umelej inteligencie by podľa prípadu využitia okrem toho prípadne vznikali ročné náklady na čas strávený zabezpečovaním ľudského dohľadu. Tieto náklady sa odhadujú približne na 5 000 až 8 000 EUR ročne. Náklady na overovanie pre dodávateľov vysokorizikovej umelej inteligencie by mohli predstavovať ďalších 3 000 až 7 500 EUR. Podniky alebo orgány verejnej moci, ktoré vyvíjajú alebo používajú akékoľvek aplikácie umelej inteligencie, ktoré nie sú klasifikované ako vysokorizikové, by mali iba minimálne povinnosti poskytovať informácie. Mohli by sa však rozhodnúť pridať sa k ostatným a spoločne prijať kódex správania na dodržiavanie príslušných požiadaviek a zabezpečiť, že ich systémy umelej inteligencie budú dôveryhodné. V takom prípade by boli náklady nanajvýš také vysoké ako v prípade vysokorizikových systémov umelej inteligencie, pravdepodobne by však boli nižšie. Vplyvy politických možností na rôzne kategórie zainteresovaných strán (hospodárske subjekty/podniky, orgány posudzovania zhody, normalizačné orgány a iné orgány verejnej moci, jednotlivci/občania, výskumníci) sú podrobne vysvetlené v prílohe 3 k posúdeniu vplyvu, ktoré podporuje tento návrh. 3.4.Regulačná vhodnosť a zjednodušenie V tomto návrhu sa stanovuje povinnosť, ktorá sa bude vzťahovať na poskytovateľov a používateľov vysokorizikových systémov umelej inteligencie. Pre poskytovateľov, ktorí vyvíjajú a uvádzajú takéto systémy na trh Únie, sa ním vytvorí právna istota a zabezpečí sa, aby nevznikla prekážka pre cezhraničné poskytovanie služieb a výrobkov súvisiacich s umelou inteligenciou. Pre spoločnosti, ktoré využívajú umelú inteligenciu, sa ním podporí dôvera medzi ich zákazníkmi. Pre vnútroštátne orgány verejnej moci sa ním podporí dôvera verejnosti v používanie umelej inteligencie a posilnia sa mechanizmy presadzovania (zavedením európskeho koordinačného mechanizmu, zabezpečením vhodných kapacít a uľahčením auditov systémov umelej inteligencie s novými požiadavkami na dokumentáciu, vysledovateľnosť a transparentnosť). V rámci sa navyše stanovia konkrétne opatrenia na podporu inovácií vrátane experimentálnych regulačných prostredí a konkrétnych opatrení na podporu drobných používateľov a poskytovateľov vysokorizikových systémov umelej inteligencie, aby dodržiavali súlad s novými pravidlami. Osobitným cieľom návrhu je aj posilnenie európskej konkurencieschopnosti a priemyselnej základne v oblasti umelej inteligencie. Zabezpečuje sa aj úplný súlad s existujúcimi odvetvovými právnymi predpismi Únie, ktoré sa vzťahujú na systémy umelej inteligencie (napr. týkajúcich sa výrobkov a služieb) a ktoré ďalej objasnia a zjednodušia presadzovanie nových pravidiel. 3.5.Základné práva Používanie umelej inteligencie s jej špecifickými vlastnosťami (napr. nepriehľadnosť, zložitosť, závislosť od údajov, autonómne správanie sa) môže nepriaznivo ovplyvniť množstvo základných práv zakotvených v Charte základných práv EÚ (ďalej len „charta“). Cieľom návrhu je zabezpečiť vysokú úroveň ochrany týchto základných práv a zameriava sa na rôzne zdroje rizík prostredníctvom jasne definovaného prístupu založeného na riziku. So súborom požiadaviek pre dôveryhodnú umelú inteligenciu a s primeranými povinnosťami pre všetkých účastníkov hodnotového reťazca sa návrhom posilní a podporí ochrana práv chránených v charte: právo na ľudskú dôstojnosť (článok 1), rešpektovanie súkromného života a ochrana osobných údajov (články 7 a 8), nediskriminácia (článok 21) a rovnosť medzi ženami a mužmi (článok 23). Jeho cieľom je zabrániť odrádzajúcemu účinku na práva na slobodu prejavu (článok 11) a slobodu zhromažďovania (článok 12), zabezpečiť ochranu práva na účinný prostriedok nápravy a na spravodlivý proces, práva na obhajobu a prezumpciu neviny (články 47 a 48), ako aj všeobecnú zásadu dobrej správy vecí verejných. Návrh okrem toho v príslušných oblastiach pozitívne ovplyvní práva niekoľkých osobitných skupín, ako sú práva pracovníkov na spravodlivé a primerané pracovné podmienky (článok 31), vysoká úroveň ochrany spotrebiteľa (článok 28), práva dieťaťa (článok 24) a integrácia osôb so zdravotným postihnutím (článok 26). Dôležité je aj právo na vysokú úroveň ochrany životného prostredia a zlepšenie kvality životného prostredia (článok 37), a to aj v súvislosti so zdravím a s bezpečnosťou ľudí. Povinnosti týkajúce sa testovania ex ante, riadenia rizík a ľudského dohľadu takisto uľahčia rešpektovanie iných základných práv tým, že minimalizujú riziko chybných alebo zaujatých rozhodnutí dosiahnutých pomocou umelej inteligencie v kritických oblastiach, ako vzdelávanie a odborná príprava, zamestnanosť, dôležité služby, presadzovanie práva a súdnictvo. V prípade, že naďalej bude dochádzať k porušovaniu základných práv, dotknutým osobám sa umožní účinná náprava zabezpečením transparentnosti a vysledovateľnosti systémov umelej inteligencie v kombinácii s prísnymi následnými kontrolami. Týmto návrhom sa ukladajú určité obmedzenia slobody podnikania (článok 16) a slobody umenia a vedeckého bádania (článok 13) s cieľom zabezpečiť súlad so závažnými dôvodmi verejného záujmu, ako sú zdravie, bezpečnosť, ochrana spotrebiteľa a ochrana ďalších základných práv (zodpovedná inovácia) pri vyvíjaní a používaní vysokorizikovej technológie umelej inteligencie. Tieto obmedzenia sú primerané a obmedzené na nevyhnutné minimum a ich cieľom je prevencia a zmiernenie závažných bezpečnostných rizík a pravdepodobného porušovania základných práv. Povinnosti týkajúce sa vyššej transparentnosti takisto neprimerane neovplyvnia právo na ochranu duševného vlastníctva (článok 17 ods. 2), pretože budú obmedzené len na minimálne nevyhnutné informácie potrebné pre jednotlivcov na uplatnenie ich práva na účinný prostriedok nápravy a na nevyhnutnú transparentnosť voči orgánom dohľadu a orgánom presadzovania práva, a to v súlade s ich mandátmi. Každé zverejnenie informácií sa uskutoční v súlade s príslušnými právnymi predpismi v danej oblasti vrátane smernice 2016/943 o ochrane nesprístupneného know-how a obchodných informácií (obchodného tajomstva) pred ich neoprávneným získaním, využitím a sprístupnením. Ak orgány verejnej moci a notifikované osoby potrebujú prístup k dôverným informáciám alebo zdrojovému kódu na účely preskúmania dodržiavania podstatných povinností, vzťahujú sa na ne záväzné povinnosti dôvernosti. 4.VPLYV NA ROZPOČET

Členské štáty budú musieť určiť orgány dohľadu zodpovedné za vykonávanie legislatívnych požiadaviek. Ich funkcia dohľadu by mohla vychádzať z existujúcich systémov, napríklad pokiaľ ide o orgány posudzovania zhody alebo dohľadu nad trhom, vyžadovalo by si to však dostatočné technologické znalosti a ľudské a finančné zdroje. V závislosti od už existujúcej štruktúry v každom členskom štáte by to mohlo predstavovať 1 až 25 ekvivalentov plného pracovného času na členský štát. Podrobný prehľad súvisiacich nákladov je uvedený vo finančnom výkaze, ktorý je pripojený k tomuto návrhu. 5.ĎALŠIE PRVKY 5.1.Plány vykonávania, spôsob monitorovania, hodnotenia a podávania správ Zabezpečenie spoľahlivého mechanizmu monitorovania a hodnotenia je zásadné pre zaistenie účinnosti návrhu pri dosahovaní jeho konkrétnych cieľov. Za monitorovanie účinkov bude zodpovedať Komisia. Zavedie systém registrácie samostatných vysokorizikových aplikácií umelej inteligencie v celoúnijnej verejnej databáze. Táto registrácia okrem toho umožní príslušným orgánom, používateľom a iným záujemcom overiť si, či vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v návrhu, a vykonávať zvýšený dohľad nad systémami umelej inteligencie, ktoré predstavujú vysoké riziko pre základné práva. Pri vkladaní údajov do tejto databázy budú poskytovatelia umelej inteligencie povinní poskytovať zmysluplné informácie o svojich systémoch, ako aj o posudzovaní zhody vykonanom na týchto systémoch. Poskytovatelia umelej inteligencie budú navyše povinní informovať príslušné vnútroštátne orgány o závažných incidentoch alebo poruchách, ktoré predstavujú porušenie povinností v oblasti základných práv, a to hneď ako sa o nich dozvedia, ako aj o každom stiahnutí systémov umelej inteligencie od používateľa alebo z trhu. Príslušné vnútroštátne orgány potom vyšetrujú incidenty alebo poruchy, zhromažďujú všetky potrebné informácie a pravidelne ich zasielajú Komisii s primeranými metaúdajmi. Komisia tieto informácie o incidentoch doplní komplexnou analýzou celkového trhu s umelou inteligenciou. Komisia uverejní správu, v ktorej zhodnotí a preskúma navrhovaný rámec pre umelú inteligenciu päť rokov od jeho dátumu nadobudnutia účinnosti. 5.2.Podrobné vysvetlenie konkrétnych ustanovení návrhu 5.2.1.ROZSAH PÔSOBNOSTI A VYMEDZENIE POJMOV (HLAVA I) V hlave I sa vymedzuje predmet úpravy návrhu a rozsah pôsobnosti nových pravidiel, ktoré sa týkajú uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie. V tejto hlave sa vymedzujú aj pojmy, ktoré sa používajú v celom nástroji. Definícia systému umelej inteligencie v právnom rámci má byť čo najviac technologicky neutrálna a nadčasová a má zohľadňovať rýchly technologický a trhový vývoj v oblasti umelej inteligencie. S cieľom zabezpečiť potrebnú právnu istotu sa hlava I dopĺňa prílohou I, ktorá obsahuje podrobný zoznam prístupov a techník pre vývoj umelej inteligencie, ktoré má Komisia prispôsobiť v súlade s novým technologickým vývojom. S cieľom zabezpečiť rovnaké podmienky pre všetkých sa jasne definujú aj kľúčoví účastníci v rámci hodnotového reťazca umelej inteligencie, ako sú poskytovatelia a používatelia systémov umelej inteligencie, ktorými sú verejní i súkromní prevádzkovatelia. 5.2.2.ZAKÁZANÉ PRAKTIKY V OBLASTI UMELEJ INTELIGENCIE (HLAVA II) V hlave II sa stanovuje zoznam zakázanej umelej inteligencie. Nariadenie sa riadi prístupom založeným na riziku, pričom sa rozlišuje medzi použitím umelej inteligencie, ktorá vytvára i) neprijateľné riziko; ii) vysoké riziko a iii) nízke alebo minimálne riziko. Zoznam zakázaných praktík v hlave II obsahuje všetky systémy umelej inteligencie, ktorých používanie sa považuje za neprijateľné, pretože je v rozpore s hodnotami Únie, napríklad porušovaním základných práv. Zákazy sa vzťahujú na praktiky, ktoré majú značný potenciál manipulovať s osobami prostredníctvom podprahových techník mimo ich vedomia alebo využívať zraniteľné miesta určitých zraniteľných skupín, ako sú deti alebo osoby so zdravotným postihnutím, s cieľom podstatne narušiť ich správanie spôsobom, ktorý im môže spôsobiť psychickú alebo fyzickú ujmu. Na ďalšie manipulatívne alebo zneužívajúce praktiky ovplyvňujúce dospelých ľudí, ktoré by mohli uľahčovať systémy umelej inteligencie, by sa mohli vzťahovať existujúce právne predpisy v oblasti ochrany údajov, ochrany spotrebiteľa a digitálnych služieb, ktoré zaručujú, že fyzické osoby sú riadne informované a môžu sa slobodne rozhodnúť nepodrobiť sa profilovaniu alebo iným praktikám, ktoré by mohli ovplyvniť ich správanie. V tomto návrhu sa zakazuje aj sociálne hodnotenie založené na umelej inteligencii na všeobecné účely vykonávané orgánmi verejnej moci. Napokon sa zakazuje aj používanie systémov diaľkovej biometrickej identifikácie v „reálnom čase“ na verejne prístupných miestach na účely presadzovania práva, pokiaľ neplatia určité obmedzené výnimky. 5.2.3.VYSOKORIZIKOVÉ SYSTÉMY UMELEJ INTELIGENCIE (HLAVA III) Hlava III obsahuje osobitné pravidlá pre systémy umelej inteligencie, ktoré vytvárajú vysoké riziko pre zdravie a bezpečnosť alebo základné práva fyzických osôb. V súlade s prístupom založeným na riziku sú tieto vysokorizikové systémy umelej inteligencie povolené na európskom trhu za predpokladu, že spĺňajú určité záväzné požiadavky a sú v súlade s posudzovaním zhody ex ante. Klasifikácia systému umelej inteligencie ako vysokorizikového je založená na plánovanom účele systému umelej inteligencie v súlade s existujúcimi právnymi predpismi o bezpečnosti výrobkov. Označenie za vysokorizikové preto nezávisí iba od funkcie vykonávanej systémom umelej inteligencie, ale aj od konkrétneho účelu a spôsobov, ktorými sa tento systém používa. V kapitole 1 hlavy III sa stanovujú pravidlá klasifikácie a identifikujú sa dve hlavné kategórie vysokorizikových systémov umelej inteligencie: ·systémy umelej inteligencie určené na použitie ako bezpečnostná súčasť výrobkov, ktoré podliehajú posudzovaniu zhody ex ante treťou stranou, ·iné samostatné systémy umelej inteligencie s vplyvmi najmä na základné práva, ktoré sú výslovne uvedené v prílohe III. Tento zoznam vysokorizikových systémov umelej inteligencie v prílohe III obsahuje obmedzený počet systémov umelej inteligencie, ktorých riziká sa už vyskytli alebo sa pravdepodobne v blízkej budúcnosti vyskytnú. Aby sa zabezpečilo, že nariadenie bude možné prispôsobiť vznikajúcim použitiam a aplikáciám umelej inteligencie, Komisia môže rozšíriť zoznam vysokorizikových systémov umelej inteligencie používaných v rámci konkrétnych vopred určených oblastí uplatnením súboru kritérií a metodiky posudzovania rizika. V kapitole 2 sa stanovujú právne požiadavky na vysokorizikové systémy umelej inteligencie v súvislosti s údajmi a so správou údajov, s uchovávaním dokumentácie a záznamov, transparentnosťou a poskytovaním informácií používateľom, s ľudským dohľadom, so spoľahlivosťou, s presnosťou a bezpečnosťou. Navrhované minimálne požiadavky patria už dnes medzi najmodernejšie pre mnohých obozretných prevádzkovateľov a sú výsledkom dvojročných prípravných prác, ktoré vychádzajú z etických usmernení expertnej skupiny na vysokej úrovni pre umelú inteligenciu a ktoré skúšobne vykonávalo viac ako 350 organizácií. Okrem toho sú vo veľkej miere v súlade s inými medzinárodnými odporúčaniami a zásadami, čo zabezpečuje, že navrhovaný rámec pre umelú inteligenciu je zlučiteľný s odporúčaniami a zásadami, ktoré prijali medzinárodní obchodní partneri EÚ. Presné technické riešenia na dosiahnutie súladu s týmito požiadavkami môžu poskytovať normy alebo iné technické špecifikácie alebo sa inak vypracujú v súlade so všeobecnými technickými alebo s vedeckými poznatkami podľa uváženia poskytovateľa systému umelej inteligencie. Táto flexibilita je mimoriadne dôležitá, pretože umožňuje poskytovateľom systémov umelej inteligencie vybrať si spôsob, ako splniť svoje požiadavky pri zohľadnení najmodernejšieho a technologického a vedeckého pokroku v tejto oblasti. V kapitole 3 sa poskytovateľom vysokorizikových systémov umelej inteligencie ukladá jasný súbor horizontálnych povinností. Primerané povinnosti sa ukladajú aj používateľom a iným účastníkom v rámci hodnotového reťazca umelej inteligencie (napr. dovozcom, distribútorom, splnomocneným zástupcom).

V kapitole 4 sa stanovuje rámec pre zapojenie notifikovaných osôb ako nezávislých tretích strán do postupov posudzovania zhody, zatiaľ čo v kapitole 5 sa podrobne vysvetľujú postupy posudzovania zhody, ktoré sa majú dodržiavať pri každom type vysokorizikového systému umelej inteligencie. Cieľom postupu posudzovania zhody je minimalizovať záťaž pre hospodárske subjekty, ako aj pre notifikované osoby, ktorých kapacita sa musí v priebehu času postupne zvyšovať. Na systémy umelej inteligencie, ktoré sa majú používať ako bezpečnostné súčasti výrobkov, na ktoré sa vzťahujú právne predpisy nového legislatívneho rámca (napr. stroje, hračky, zdravotnícke pomôcky atď.), sa budú vzťahovať rovnaké mechanizmy súladu ex-ante a ex post a mechanizmy presadzovania ako na výrobky, ktorých sú súčasťou. Kľúčový rozdiel je v tom, že mechanizmy ex-ante a ex post zabezpečia nielen dodržiavanie požiadaviek stanovených v odvetvových právnych predpisoch, ale aj požiadaviek stanovených v tomto nariadení. Pokiaľ ide o samostatné vysokorizikové systémy umelej inteligencie, ktoré sú uvedené v prílohe III, vytvorí sa nový systém dodržiavania a presadzovania právnych predpisov. Vyplýva to z modelu právnych predpisov nového legislatívneho rámca, ktorý sa vykonáva prostredníctvom vnútorných kontrol poskytovateľov, s výnimkou systémov diaľkovej biometrickej identifikácie, ktoré by podliehali posudzovaniu zhody treťou stranou. Komplexné posudzovanie zhody ex ante prostredníctvom vnútorných kontrol v kombinácii s prísnym presadzovaním ex post by mohlo byť účinným a primeraným riešením pre tieto systémy vzhľadom na počiatočnú fázu regulačných zásahov a skutočnosť, že odvetvie umelej inteligencie je veľmi inovatívne a odborné znalosti v oblasti auditu sa teraz ešte len zhromažďujú. Posudzovanie prostredníctvom vnútorných kontrol, pokiaľ ide o samostatné vysokorizikové systémy umelej inteligencie, by si vyžadovalo úplný, účinný a riadne zdokumentovaný súlad ex ante so všetkými požiadavkami nariadenia a súlad so spoľahlivými systémami riadenia kvality a rizík a s monitorovaním po uvedení na trh. Keď poskytovateľ vykoná príslušné posúdenie zhody, mal by zaregistrovať tieto samostatné vysokorizikové systémy umelej inteligencie v databáze EÚ, ktorú bude spravovať Komisia, s cieľom zvýšiť verejnú transparentnosť a dohľad a posilniť dohľad ex post zo strany príslušných orgánov. Naopak z dôvodu súladu s existujúcimi právnymi predpismi o bezpečnosti výrobkov sa bude posudzovanie zhody systémov umelej inteligencie, ktoré sú bezpečnostnými súčasťami výrobkov, riadiť systémom s postupmi posudzovania zhody treťou stranou, ktoré sú už stanovené v príslušných odvetvových právnych predpisoch v oblasti bezpečnosti výrobkov. Nové opätovné posudzovanie zhody ex ante bude potrebné v prípade podstatných úprav systémov umelej inteligencie (a najmä zmien, ktoré presahujú rámec toho, čo poskytovateľ vopred stanovuje vo svojej technickej dokumentácii a čo je skontrolované v čase posudzovania zhody ex ante). 5.2.4.POVINNOSTI TÝKAJÚCE SA TRANSPARENTNOSTI PRE URČITÉ SYSTÉMY UMELEJ INTELIGENCIE (HLAVA IV) Hlava IV sa týka určitých systémov umelej inteligencie s cieľom zohľadniť osobitné riziká manipulácie, ktoré predstavujú. Povinnosti týkajúce sa transparentnosti sa budú vzťahovať na systémy, ktoré i) komunikujú s ľuďmi; ii) sa používajú na zisťovanie emócií alebo určovanie asociácie so (sociálnymi) kategóriami na základe biometrických údajov, alebo iii) vytvárajú obsah alebo s ním manipulujú (tzv. deepfakes). Ak osoby komunikujú so systémom umelej inteligencie alebo ich emócie alebo vlastnosti sú rozpoznávané automatizovanými prostriedkami, ľudia musia byť o tejto skutočnosti informovaní. Ak sa systém umelej inteligencie používa na vytváranie obrazového, zvukového alebo video obsahu alebo na manipuláciu s ním a tento obsah očividne pôsobí ako autentický obsah, mala by existovať povinnosť zverejniť informáciu, že obsah sa vytvára automatizovanými prostriedkami, s výhradou výnimiek na legitímne účely (presadzovanie práva, sloboda prejavu). To umožňuje osobám robiť informované rozhodnutia alebo sa vyhnúť danej situácii. 5.2.5.OPATRENIA NA PODPORU INOVÁCIÍ (HLAVA V) Hlava V prispieva k cieľu vytvoriť právny rámec, ktorý je priaznivý pre inovácie, je nadčasový a odolný voči narušeniam. S týmto cieľom sa v rámci nej podporujú príslušné vnútroštátne orgány v tom, aby vytvorili experimentálne regulačné prostredia, a stanovuje sa základný rámec, pokiaľ ide o riadenie, dohľad a zodpovednosť. Experimentálne regulačné prostredia umelej inteligencie vytvárajú kontrolované prostredie na testovanie technológií na obmedzený čas na základe plánu testovania dohodnutého s príslušnými orgánmi. Hlava V obsahuje aj opatrenia na zníženie regulačnej záťaže pre malé a stredné podniky a startupy. 5.2.6.RIADENIE A VYKONÁVANIE (HLAVY VI, VII A VIII) V hlave VI sa zriaďujú systémy riadenia na úrovni Únie a na vnútroštátnej úrovni. Na úrovni Únie sa týmto návrhom zriaďuje Európska rada pre umelú inteligenciu (ďalej len „rada“) zložená zo zástupcov členských štátov a z Komisie. Rada umožní plynulé, účinné a harmonizované vykonávanie tohto nariadenia tým, že bude prispievať k účinnej spolupráci vnútroštátnych dozorných orgánov a Komisie a poskytovať Komisii poradenstvo a odborné znalosti. Okrem toho bude zhromažďovať najlepšie postupy a vymieňať si ich s členskými štátmi. Na vnútroštátnej úrovni budú mať členské štáty povinnosť určiť jeden alebo viac príslušných vnútroštátnych orgánov a spomedzi nich vnútroštátny dozorný orgán na účely dohľadu nad uplatňovaním a vykonávaním nariadenia. Európsky dozorný úradník pre ochranu údajov bude pôsobiť ako príslušný orgán pre dohľad nad inštitúciami, agentúrami a orgánmi Únie, ak patria do rozsahu pôsobnosti tohto nariadenia. Cieľom hlavy VII je uľahčiť monitorovacie práce Komisie a vnútroštátnych orgánov zriadením celoúnijnej databázy samostatných vysokorizikových systémov umelej inteligencie s vplyvom predovšetkým na základné práva. Databázu bude prevádzkovať Komisia a údaje jej budú poskytovať poskytovatelia systémov umelej inteligencie, od ktorých sa bude vyžadovať, aby svoje systémy zaregistrovali pred ich uvedením na trh alebo iným uvedením do prevádzky. V hlave VIII sa poskytovateľom systémov umelej inteligencie ukladá monitorovacia povinnosť a povinnosť podávania správ, pokiaľ ide o monitorovanie po uvedení na trh a podávanie správ a vyšetrovanie incidentov a porúch súvisiacich s umelou inteligenciou. Orgány pre dohľad nad trhom by okrem toho kontrolovali trh a skúmali dodržiavanie povinností a požiadaviek týkajúcich sa všetkých vysokorizikových systémov umelej inteligencie, ktoré sú už uvedené na trh. Orgány pre dohľad nad trhom by mali všetky právomoci podľa nariadenia (EÚ) 2019/1020 o dohľade nad trhom. Presadzovaním ex post by sa malo zabezpečiť, aby orgány verejnej moci po uvedení systému umelej inteligencie na trh mali právomoci a zdroje na zásah v prípade, že systémy umelej inteligencie prinesú neočakávané riziká, ktoré si vyžadujú rýchle konanie. Okrem toho budú monitorovať, či prevádzkovatelia dodržiavajú príslušné povinnosti podľa tohto nariadenia. V návrhu sa nestanovuje automatické vytvorenie žiadnych ďalších subjektov ani orgánov na úrovni členských štátov. Členské štáty preto môžu menovať existujúce odvetvové orgány (a čerpať z ich odborných znalostí), ktorým by boli zverené aj právomoci na monitorovanie a presadzovanie ustanovení nariadenia. Týmto nie je dotknutý existujúci systém a rozdelenie právomocí presadzovania povinností ex post týkajúcich sa základných práv v členských štátoch. Ak je to potrebné pre ich mandát, existujúce orgány dohľadu a presadzovania práva budú mať aj právomoc požadovať akúkoľvek dokumentáciu vedenú podľa tohto nariadenia a pristupovať k nej, a v prípade potreby požiadať orgány dohľadu nad trhom, aby zorganizovali testovanie vysokorizikového systému umelej inteligencie technickými prostriedkami. 5.2.7.KÓDEXY SPRÁVANIA (HLAVA IX) V hlave IX sa stanovuje rámec pre vytváranie kódexov správania, ktorých cieľom je povzbudiť poskytovateľov systémov umelej inteligencie, ktoré nepredstavujú vysoké riziko, aby dobrovoľne uplatňovali záväzné požiadavky pre vysokorizikové systémy umelej inteligencie (ako sa stanovuje v hlave III). Poskytovatelia systémov umelej inteligencie, ktoré nepredstavujú vysoké riziko, si môžu sami vytvoriť a vykonávať kódexy správania. Tieto kódexy môžu obsahovať aj dobrovoľné záväzky týkajúce sa napríklad environmentálnej udržateľnosti, prístupnosti pre osoby so zdravotným postihnutím, účasti zainteresovaných strán na navrhovaní a vývoji systémov umelej inteligencie a rozmanitosti vývojových tímov. 5.2.8.ZÁVEREČNÉ USTANOVENIA (HLAVY X, XI A XII) V hlave X sa zdôrazňuje povinnosť všetkých strán rešpektovať dôvernosť informácií a údajov a stanovujú sa pravidlá výmeny informácií získaných v rámci vykonávania tohto nariadenia. Hlava X okrem toho obsahuje opatrenia na zabezpečenie účinného vykonávania nariadenia prostredníctvom účinných, primeraných a odradzujúcich sankcií za porušenie ustanovení. V hlave XI sa stanovujú pravidlá delegovania právomoci a vykonávania právomoci. Na základe návrhu je Komisia splnomocnená v prípade potreby prijímať vykonávacie akty na zabezpečenie jednotného uplatňovania nariadenia alebo delegované akty na aktualizáciu alebo doplnenie zoznamov v prílohách I až VII. Hlava XII obsahuje povinnosť Komisie pravidelne hodnotiť potrebu aktualizácie prílohy III a pripravovať pravidelné správy o hodnotení a preskúmaní nariadenia. Stanovujú sa v nej aj záverečné ustanovenia vrátane diferencovaného prechodného obdobia pre počiatočný dátum uplatňovania nariadenia s cieľom uľahčiť bezproblémové vykonávanie pre všetky dotknuté strany. 2021/0106 (COD) Návrh

NARIADENIE EURÓPSKEHO PARLAMENTU A RADY, KTORÝM SA STANOVUJÚ HARMONIZOVANÉ PRAVIDLÁ V OBLASTI UMELEJ INTELIGENCIE (AKT O UMELEJ INTELIGENCII) A MENIA NIEKTORÉ LEGISLATÍVNE AKTY ÚNIE EURÓPSKY PARLAMENT A RADA EURÓPSKEJ ÚNIE, so zreteľom na Zmluvu o fungovaní Európskej únie, a najmä na jej články 16 a 114, so zreteľom na návrh Európskej komisie, po postúpení návrhu legislatívneho aktu národným parlamentom, so zreteľom na stanovisko Európskeho hospodárskeho a sociálneho výboru, so zreteľom na stanovisko Výboru regiónov, konajúc v súlade s riadnym legislatívnym postupom, keďže: (1)Účelom tohto nariadenia je zlepšiť fungovanie vnútorného trhu stanovením jednotného právneho rámca, najmä pokiaľ ide o vývoj, uvádzanie na trh a používanie umelej inteligencie v súlade s hodnotami Únie. Toto nariadenie prihliada na viacero naliehavých dôvodov verejného záujmu, ako napr. vysoká úroveň ochrany zdravia, bezpečnosti a základných práv, a zabezpečuje voľný pohyb tovaru a služieb založených na umelej inteligencii cez hranice, čím bráni členským štátom ukladať obmedzenia na vývoj, uvádzanie na trh a používanie systémov umelej inteligencie, pokiaľ sa to týmto nariadením výslovne nepovolí. (2)Systémy umelej inteligencie (systémy UI) možno ľahko zaviesť vo viacerých odvetviach hospodárstva a spoločnosti, a to aj cezhranične, a môžu sa pohybovať po celej Únii. Niektoré členské štáty už zvažujú prijatie vnútroštátnych pravidiel na zabezpečenie toho, aby bola umelá inteligencia bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. Rozdielne vnútroštátne pravidlá môžu viesť k fragmentácii vnútorného trhu a znížiť právnu istotu pre prevádzkovateľov, ktorí vyvíjajú alebo používajú systémy umelej inteligencie. Mala by sa preto zabezpečiť konzistentná a vysoká úroveň ochrany v celej Únii, pričom by sa malo zabrániť rozdielom, ktoré bránia voľnému pohybu systémov umelej inteligencie a súvisiacich výrobkov a služieb v rámci vnútorného trhu, a to stanovením jednotných povinností pre prevádzkovateľov a zaručením jednotnej ochrany naliehavých dôvodov verejného záujmu a práv osôb na celom vnútornom trhu na základe článku 114 Zmluvy o fungovaní Európskej únie (ZFEÚ). Keďže toto nariadenie obsahuje osobitné pravidlá ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov, pokiaľ ide o obmedzenia používania systémov umelej inteligencie na diaľkovú biometrickú identifikáciu v reálnom čase vo verejne dostupných priestoroch na účely presadzovania práva, je vhodné, aby sa tieto osobitné pravidlá uvedené v tomto nariadení zakladali na článku 16 ZFEÚ. Pokiaľ ide o tieto osobitné pravidlá a použitie článku 16 ZFEÚ, je vhodné poradiť sa s Európskym výborom pre ochranu údajov. (3)Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže prispieť k širokému spektru hospodárskych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach. Zlepšením predpovedí, optimalizáciou operácií a prideľovania zdrojov a personalizáciou digitálnych riešení, ktoré sú k dispozícii jednotlivcom a organizáciám, môže využívanie umelej inteligencie poskytnúť podnikom kľúčové konkurenčné výhody a podporiť sociálne a environmentálne priaznivé výsledky, napríklad v oblasti zdravotnej starostlivosti, poľnohospodárstva, vzdelávania a odbornej prípravy, riadenia infraštruktúry, energetiky, dopravy a logistiky, verejných služieb, bezpečnostnej ochrany, spravodlivosti, efektívneho využívania zdrojov a energie a zmierňovania zmeny klímy a adaptácie na ňu. (4)Umelá inteligencia môže zároveň v závislosti od okolností týkajúcich sa jej konkrétneho uplatňovania a používania vytvárať riziká a poškodzovať verejné záujmy a práva, ktoré sú chránené právom Únie. Toto poškodenie môže byť hmotné aj nehmotné. (5)Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec Únie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, a ochrany základných práv, ako sú uznané a chránené právom Únie. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh a do prevádzky, čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Stanovením uvedených pravidiel v tomto nariadení sa podporí cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada, a zabezpečí ochrana etických zásad, ako to osobitne požaduje Európsky parlament. (6)Pojem systém umelej inteligencie by sa mal jasne vymedziť s cieľom zabezpečiť právnu istotu a zároveň poskytnúť flexibilitu na prispôsobenie sa budúcemu technologickému vývoju. Vymedzenie pojmu by malo vychádzať z kľúčových funkčných charakteristík softvéru, najmä zo schopnosti generovať pre daný súbor človekom stanovených cieľov výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia, ktoré ovplyvňujú prostredie, s ktorým systém komunikuje, či už vo fyzickom alebo digitálnom rozmere. Systémy umelej inteligencie môžu byť navrhnuté tak, aby fungovali s rôznymi úrovňami samostatnosti a mohli sa používať samostatne alebo ako komponent určitého výrobku bez ohľadu na to, či je systém do tohto výrobku fyzicky integrovaný (vstavaný) alebo či napomáha funkčnosti tohto výrobku bez toho, aby doň bol integrovaný (nevstavaný). Vymedzenie pojmu systém umelej inteligencie by sa malo doplniť o zoznam osobitných techník a prístupov používaných na jeho vývoj, ktorý by sa mal vzhľadom na vývoj na trhu a technologický vývoj aktualizovať prostredníctvom delegovaných aktov, ktoré by prijala Komisia na účely zmeny uvedeného zoznamu. (7)Pojem „biometrické údaje“ použitý v tomto nariadení je v súlade s pojmom biometrické údaje vymedzeným v článku 4 bode 14 nariadenia Európskeho parlamentu a Rady (EÚ) 2016/679, v článku 3 bode 18 nariadenia Európskeho parlamentu a Rady (EÚ) 2018/1725 a v článku 3 bode 13 smernice Európskeho parlamentu a Rady (EÚ) 2016/680 a mal by sa vykladať v súlade s nimi. (8)Pojem „systém diaľkovej biometrickej identifikácie“, ako sa používa v tomto nariadení, by sa mal vymedziť funkčne ako systém umelej inteligencie určený na identifikáciu fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze a bez toho, aby sa vopred vedelo, či bude cieľová osoba prítomná a či ju bude možné identifikovať, a to bez ohľadu na konkrétnu technológiu, procesy alebo typy použitých biometrických údajov. Vzhľadom na ich odlišné charakteristiky a spôsoby, akými sa používajú, ako aj na rôzne súvisiace riziká, by sa malo rozlišovať medzi systémom diaľkovej biometrickej identifikácie „v reálnom čase“ a systémom „následnej“ diaľkovej biometrickej identifikácie. V prípade systémov „v reálnom čase“ prebieha zachytávanie biometrických údajov, ich porovnávanie a identifikácia okamžite, takmer okamžite alebo v každom prípade bez výrazného oneskorenia. V tejto súvislosti by nemal existovať priestor na obchádzanie pravidiel tohto nariadenia o používaní predmetných systémov umelej inteligencie „v reálnom čase“ tým, že sa stanovia menšie oneskorenia. Systémy v reálnom čase zahŕňajú používanie materiálu „naživo“ alebo „s malým časovým posunom“, ako sú napríklad videozáznamy generované kamerou alebo iným zariadením s podobnými funkciami. Naopak, v prípade systémov „následnej“ identifikácie už boli biometrické údaje zachytené a porovnanie a identifikácia sa uskutočňujú až po značnom oneskorení. Ide o materiály, ako sú fotografie alebo videozáznamy generované kamerami s uzavretým televíznym okruhom alebo súkromnými zariadeniami, ktoré boli vytvorené pred použitím tohto systému vo vzťahu k dotknutým fyzickým osobám. (9)Na účely tohto nariadenia by sa pojem „verejne prístupný priestor“ mal chápať ako akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či je dané miesto v súkromnom alebo verejnom vlastníctve. Tento pojem sa preto nevzťahuje na miesta, ktoré sú súkromnej povahy a zvyčajne nie sú voľne prístupné tretím stranám vrátane orgánov presadzovania práva, pokiaľ tieto strany neboli osobitne pozvané alebo oprávnené, ako napr. domácnosti, súkromné kluby, kancelárie, sklady a továrne. Nevzťahuje sa ani na online priestory, pretože nejde o fyzické priestory. Samotná skutočnosť, že sa na prístup do konkrétneho priestoru môžu uplatňovať určité podmienky, ako napr. vstupenky alebo vekové obmedzenia, však neznamená, že daný priestor nie je verejne prístupný v zmysle tohto nariadenia. Z toho vyplýva, že okrem verejných priestorov, ako sú napríklad ulice, príslušné časti vládnych budov a väčšina dopravnej infraštruktúry, sú zvyčajne verejne prístupné aj priestory ako kiná, divadlá, obchody a nákupné centrá. To, či je daný priestor prístupný verejnosti, by sa však malo určovať od prípadu k prípadu so zreteľom na osobitosti konkrétnej situácie. (10)S cieľom zabezpečiť rovnaké podmienky a účinnú ochranu práv a slobôd fyzických osôb v celej Únii by sa pravidlá stanovené v tomto nariadení mali uplatňovať na poskytovateľov systémov umelej inteligencie nediskriminačným spôsobom bez ohľadu na to, či sú usadení v Únii alebo v tretej krajine, a na používateľov systémov umelej inteligencie usadených v Únii.

(11)Určité systémy umelej inteligencie by vzhľadom na svoju digitálnu povahu mali patriť do rozsahu pôsobnosti tohto nariadenia, aj keď sa v Únii neuvádzajú na trh ani do prevádzky, ani sa v nej nepoužívajú. Ide napríklad o prevádzkovateľa usadeného v Únii, ktorý zmluvne zadáva určité služby prevádzkovateľovi usadenému mimo Únie v súvislosti s činnosťou vykonávanou systémom umelej inteligencie, ktorý by mohol byť označený ako vysokorizikový a ktorého účinky majú vplyv na fyzické osoby nachádzajúce sa v Únii. Za týchto okolností by systém umelej inteligencie, ktorý používa prevádzkovateľ mimo Únie, mohol spracúvať údaje zákonne zozbierané v Únii a prenášané z Únie a poskytovať zadávajúcemu prevádzkovateľovi v Únii výstup z uvedeného systému umelej inteligencie vyplývajúci z tohto spracovania bez toho, aby sa uvedený systém umelej inteligencie uvádzal na trh, do prevádzky alebo sa používal v Únii. S cieľom zabrániť obchádzaniu tohto nariadenia a zabezpečiť účinnú ochranu fyzických osôb nachádzajúcich sa v Únii by sa toto nariadenie malo vzťahovať aj na poskytovateľov a používateľov systémov umelej inteligencie, ktorí sú usadení v tretej krajine, a to v rozsahu, v akom sa výstup generovaný týmito systémami používa v Únii. S cieľom zohľadniť existujúce dojednania a osobitné potreby spolupráce so zahraničnými partnermi, s ktorými sa vymieňajú informácie a dôkazy, by sa však toto nariadenie nemalo vzťahovať na orgány verejnej moci tretej krajiny a medzinárodné organizácie, ak konajú v rámci medzinárodných dohôd uzavretých na vnútroštátnej alebo európskej úrovni v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo jej členskými štátmi. Takéto dohody boli uzavreté dvojstranne medzi členskými štátmi a tretími krajinami alebo medzi Európskou úniou, Europolom a inými agentúrami EÚ a tretími krajinami a medzinárodnými organizáciami. (12)Toto nariadenie by sa malo vzťahovať aj na inštitúcie, úrady, orgány a agentúry Únie, ak konajú ako poskytovateľ alebo používateľ systému umelej inteligencie. Systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely by mali byť vylúčené z rozsahu pôsobnosti tohto nariadenia, ak toto používanie patrí do výlučnej právomoci spoločnej zahraničnej a bezpečnostnej politiky upravenej v hlave V Zmluvy o Európskej únii (ZEÚ). Týmto nariadením by nemali byť dotknuté ustanovenia o zodpovednosti poskytovateľov sprostredkovateľských služieb stanovené v smernici Európskeho parlamentu a Rady 2000/31/ES [v znení aktu o digitálnych službách]. (13)S cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, pokiaľ ide o zdravie, bezpečnosť a základné práva, by sa mali stanoviť spoločné normatívne štandardy pre všetky vysokorizikové systémy umelej inteligencie. Tieto štandardy by mali byť v súlade s Chartou základných práv Európskej únie (ďalej len „charta“) a mali by byť nediskriminačné a v súlade so záväzkami Únie v oblasti medzinárodného obchodu. (14)Na účely zavedenia primeraného a účinného súboru záväzných pravidiel pre systémy umelej inteligencie by sa mal dodržiavať jasne vymedzený prístup založený na riziku. Týmto prístupom by sa mal prispôsobiť typ a obsah takýchto pravidiel intenzite a rozsahu rizík, ktoré môžu systémy umelej inteligencie vytvárať. Preto je potrebné zakázať určité praktiky v oblasti umelej inteligencie, stanoviť požiadavky na vysokorizikové systémy umelej inteligencie a povinnosti príslušných prevádzkovateľov, ako aj stanoviť povinnosti transparentnosti pre určité systémy umelej inteligencie. (15)Využívanie umelej inteligencie má síce mnoho výhod, túto technológiu však možno zneužiť a môže sa stať zdrojom nových a výkonných nástrojov umožňujúcich manipulatívne a zneužívajúce praktiky a praktiky v oblasti sociálnej kontroly. Takéto praktiky sú mimoriadne škodlivé a mali by sa zakázať, pretože sú v rozpore s hodnotami Únie týkajúcimi sa rešpektovania ľudskej dôstojnosti, slobody, rovnosti, demokracie a právneho štátu a základných práv Únie vrátane práva na nediskrimináciu, ochranu údajov a súkromia a práv dieťaťa. (16)Malo by sa zakázať uvádzanie na trh, do prevádzky alebo používanie určitých systémov umelej inteligencie určených na ovplyvňovanie ľudského správania, pri ktorých je pravdepodobné, že spôsobia fyzickú alebo psychickú ujmu. Takéto systémy umelej inteligencie využívajú podprahové komponenty, ktoré jednotlivci nie sú schopní vnímať, prípadne zneužívajú zraniteľnosť detí a ľudí, ktorí sú zraniteľní vzhľadom na svoj vek, telesnú alebo duševnú nespôsobilosť. Robia tak s úmyslom podstatne ovplyvniť správanie osoby, a to spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí ujmu tejto osobe alebo inej osobe. Takýto úmysel nemožno predpokladať, ak ovplyvnenie ľudského správania vyplýva z faktorov nesúvisiacich so systémom umelej inteligencie, ktoré sú mimo kontroly poskytovateľa alebo používateľa. Zákaz by nemal brániť výskumu takýchto systémov umelej inteligencie na legitímne účely, pokiaľ takýto výskum nepredstavuje využívanie systému umelej inteligencie vo vzťahoch človek – stroj, ktoré vystavuje fyzické osoby ujme, a pokiaľ sa vykonáva v súlade s uznávanými etickými normami vedeckého výskumu. (17)Systémy umelej inteligencie, ktoré poskytujú sociálne hodnotenie fyzických osôb na všeobecné účely vykonávané orgánmi verejnej moci alebo v ich mene, môžu viesť k diskriminačným výsledkom a vylúčeniu určitých skupín. Môžu porušovať právo na dôstojnosť a nediskrimináciu a hodnoty rovnosti a spravodlivosti. Takéto systémy umelej inteligencie hodnotia alebo klasifikujú dôveryhodnosť fyzických osôb na základe ich spoločenského správania vo viacerých kontextoch alebo známych či predpokladaných osobných alebo osobnostných charakteristík. Sociálne skóre získané na základe takýchto systémov umelej inteligencie môže viesť k poškodzujúcemu alebo nepriaznivému zaobchádzaniu s fyzickými osobami alebo celými skupinami takýchto osôb v sociálnych kontextoch nesúvisiacich s kontextom, v ktorom boli údaje pôvodne vygenerované alebo zhromaždené, prípadne k poškodzujúcemu zaobchádzaniu, ktoré je neprimerané alebo neodôvodnené vzhľadom na závažnosť ich sociálneho správania. Takéto systémy umelej inteligencie by sa preto mali zakázať. (18)Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva sa považuje za obzvlášť rušivý zásah do práv a slobôd dotknutých osôb, keďže môže ovplyvniť súkromný život veľkej časti obyvateľstva, vyvoláva pocit neustáleho sledovania a nepriamo odrádza od využívania slobody zhromažďovania a iných základných práv. Okrem toho bezprostrednosť vplyvu a obmedzené možnosti ďalších kontrol alebo opráv v súvislosti s používaním takýchto systémov fungujúcich „v reálnom čase“ so sebou prinášajú zvýšené riziká z hľadiska práv a slobôd osôb, ktorých sa týkajú činnosti v oblasti presadzovania práva. (19)Používanie týchto systémov na účely presadzovania práva by sa preto malo zakázať s výnimkou troch podrobne opísaných a úzko vymedzených situácií, keď je toto použitie nevyhnutne potrebné na dosiahnutie podstatného verejného záujmu, ktorého význam prevažuje nad rizikami. Tieto situácie zahŕňajú pátranie po potenciálnych obetiach trestných činov vrátane nezvestných detí, niektoré prípady ohrozenia života alebo fyzickej bezpečnosti fyzických osôb alebo hrozby teroristického útoku a odhaľovanie, lokalizáciu, identifikáciu alebo stíhanie páchateľov trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV, ak za ne podľa právnych predpisov dotknutého členského štátu možno v danom členskom štáte uložiť trest odňatia slobody alebo ochranné opatrenie spojené s odňatím slobody s hornou hranicou trestnej sadzby najmenej tri roky, alebo podozrivých zo spáchania takýchto trestných činov. Takáto hranica trestu odňatia slobody alebo ochranného opatrenia spojeného s odňatím slobody v súlade s vnútroštátnym právom prispieva k zabezpečeniu toho, že daný trestný čin bude dostatočne závažný na to, aby sa ním dalo potenciálne odôvodniť použitie systémov diaľkovej biometrickej identifikácie „v reálnom čase“. Okrem toho je pravdepodobné, že niektoré z 32 trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV sú v praxi relevantnejšie ako iné, keďže nevyhnutnosť a primeranosť použitia diaľkovej biometrickej identifikácie „v reálnom čase“ budú pravdepodobne veľmi rôznorodé jednak z hľadiska praktického vykonávania odhaľovania, lokalizácie, identifikácie alebo stíhania páchateľa jednotlivých uvedených trestných činov alebo osôb podozrivých z ich spáchania a zároveň vzhľadom na pravdepodobné rozdiely v závažnosti, pravdepodobnosti a rozsahu spôsobenej ujmy alebo možných negatívnych dôsledkov. (20)S cieľom zabezpečiť, aby sa tieto systémy používali zodpovedným a primeraným spôsobom, je tiež dôležité stanoviť, že v každej z týchto troch podrobne opísaných a úzko vymedzených situácií by sa mali zohľadniť určité prvky, najmä pokiaľ ide o povahu situácie, ktorá viedla k predloženiu žiadosti, o dôsledky využívania týchto systémov na práva a slobody všetkých dotknutých osôb a o záruky a podmienky zabezpečené pri tomto používaní. Okrem toho používanie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať primeraným časovým a priestorovým obmedzeniam, najmä so zreteľom na dôkazy alebo náznaky týkajúce sa daných hrozieb, obetí alebo páchateľa. Referenčná databáza osôb by mala byť vhodná pre každý prípad použitia v každej z troch uvedených situácií. (21)Každé použitie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať výslovnému a osobitnému povoleniu súdneho orgánu alebo nezávislého správneho orgánu členského štátu. Toto povolenie by bolo v zásade potrebné získať pred použitím systému, s výnimkou riadne odôvodnených naliehavých situácií, t. j. situácií, v ktorých je potreba použiť predmetné systémy tak naliehavá, že je naozaj objektívne nemožné získať povolenie pred začatím tohto použitia. V takýchto naliehavých situáciách by sa používanie malo obmedziť na absolútne nevyhnutné minimum a malo by podliehať primeraným zárukám a podmienkam stanoveným vo vnútroštátnom práve a špecifikovaným v kontexte každého jednotlivého naliehavého prípadu použitia samotným orgánom presadzovania práva. Okrem toho by sa orgán presadzovania práva mal v takýchto situáciách snažiť získať povolenie čo najskôr, pričom uvedie dôvody, pre ktoré ho nemohol požadovať skôr. (22)Navyše je vhodné v rámci podrobne opísanom týmto nariadením stanoviť, že takéto použitie na území členského štátu v súlade s týmto nariadením by malo byť možné len vtedy a do takej miery, do akej sa daný členský štát rozhodol výslovne stanoviť možnosť povoliť toto použitie vo svojich podrobných pravidlách vnútroštátneho práva. V dôsledku toho sa členské štáty môžu podľa tohto nariadenia naďalej na základe vlastného uváženia rozhodnúť, že takúto možnosť vôbec nestanovia alebo ju stanovia len v súvislosti s niektorými z cieľov, ktorými možno odôvodniť povolené použitie určené v tomto nariadení. (23)Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva nevyhnutne zahŕňa spracúvanie biometrických údajov. Pravidlá tohto nariadenia, ktorými sa s výhradou určitých výnimiek takéto používanie zakazuje a ktoré sú založené na článku 16 ZFEÚ, by sa mali uplatňovať ako lex specialis, pokiaľ ide o pravidlá spracúvania biometrických údajov uvedené v článku 10 smernice (EÚ) 2016/680, čím by sa takéto používanie a spracúvanie príslušných biometrických údajov upravovalo vyčerpávajúcim spôsobom. Takéto používanie a spracúvanie by preto malo byť možné, len pokiaľ je zlučiteľné s rámcom stanoveným v tomto nariadení, a mimo tohto rámca by nemal existovať priestor na to, aby príslušné orgány, ak konajú na účely presadzovania práva, používali takéto systémy a spracúvali takéto údaje v súvislosti s týmto použitím z dôvodov uvedených v článku 10 smernice (EÚ) 2016/680. V tejto súvislosti nie je cieľom tohto nariadenia poskytnúť právny základ pre spracúvanie osobných údajov podľa článku 8 smernice 2016/680. Na používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu „v reálnom čase“ vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva, a to aj príslušnými orgánmi, by sa však nemal vzťahovať osobitný rámec týkajúci sa takéhoto použitia na účely presadzovania práva stanovený v tomto nariadení. Takéto použitie na iné účely ako na presadzovanie práva by preto nemalo podliehať požiadavke povolenia podľa tohto nariadenia a uplatniteľných podrobných pravidiel vnútroštátneho práva, na základe ktorých sa môže vykonávať. (24)Každé spracovanie biometrických údajov a iných osobných údajov súvisiace s používaním systémov umelej inteligencie na biometrickú identifikáciu, okrem spracovania v súvislosti s používaním systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva, ako sa stanovuje v tomto nariadení, vrátane prípadov, keď tieto systémy používajú príslušné orgány vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva, by malo naďalej spĺňať všetky prípadné požiadavky vyplývajúce z článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 ods. 1 nariadenia (EÚ) 2018/1725 a článku 10 smernice (EÚ) 2016/680. (25)V súlade s článkom 6a Protokolu č. 21 o postavení Spojeného kráľovstva a Írska s ohľadom na priestor slobody, bezpečnosti a spravodlivosti, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Írsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 Zmluvy o fungovaní EÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ak Írsko nie je viazané pravidlami, ktorými sa spravujú formy justičnej spolupráce v trestných veciach alebo policajnej spolupráce, v rámci ktorých sa musia dodržiavať ustanovenia prijaté na základe článku 16 ZFEÚ. (26)V súlade s článkami 2 a 2a Protokolu č. 22 o postavení Dánska, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Dánsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 ZFEÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ani nepodlieha ich uplatňovaniu. (27)Vysokorizikové systémy umelej inteligencie by sa mali uviesť na trh Únie alebo do prevádzky len vtedy, ak spĺňajú určité povinné požiadavky. Týmito požiadavkami by sa malo zabezpečiť, aby vysokorizikové systémy umelej inteligencie, ktoré sú dostupné v Únii alebo ktorých výstupy sú v Únii inak využívané, nepredstavovali neprijateľné riziká pre dôležité verejné záujmy Únie uznané a chránené právom Únie. Systémy umelej inteligencie označené ako vysokorizikové by sa mali obmedziť na tie, ktoré majú významný škodlivý vplyv na zdravie, bezpečnosť a základné práva osôb v Únii, a takéto obmedzenie minimalizuje akékoľvek prípadné obmedzenie medzinárodného obchodu. (28)Systémy umelej inteligencie by mohli mať nepriaznivé účinky na zdravie a bezpečnosť osôb, najmä ak takéto systémy fungujú ako komponenty výrobkov. V súlade s cieľmi harmonizačných právnych predpisov Únie uľahčiť voľný pohyb výrobkov na vnútornom trhu a zabezpečiť, aby sa na trh dostali len bezpečné a inak vyhovujúce výrobky, je dôležité, aby sa riadne predchádzalo bezpečnostným rizikám, ktoré môže výrobok ako celok vytvárať svojimi digitálnymi komponentmi vrátane systémov umelej inteligencie, a aby sa tieto riziká náležite zmierňovali. Napríklad čoraz autonómnejšie roboty, či už v kontexte výroby alebo osobnej asistencie a starostlivosti, by mali byť schopné bezpečne fungovať a vykonávať svoje funkcie v zložitých prostrediach. Podobne v sektore zdravotníctva, kde existuje obzvlášť vysoké riziko v oblasti života a zdravia, by mali byť čoraz sofistikovanejšie diagnostické systémy a systémy podporujúce ľudské rozhodnutia spoľahlivé a presné. Pri klasifikácii systému umelej inteligencie ako vysokorizikového je obzvlášť dôležitý rozsah nepriaznivého vplyvu systému umelej inteligencie na základné práva chránené chartou. Medzi tieto práva patrí právo na ľudskú dôstojnosť, rešpektovanie súkromného a rodinného života, ochrana osobných údajov, sloboda prejavu a právo na informácie, sloboda zhromažďovania a združovania, nediskriminácia, ochrana spotrebiteľa, základné pracovné práva, práva osôb so zdravotným postihnutím, právo na účinný prostriedok nápravy a na spravodlivý proces, právo na obhajobu a prezumpcia neviny, právo na dobrú správu vecí verejných. Okrem týchto práv je dôležité zdôrazniť, že deti majú osobitné práva zakotvené v článku 24 Charty EÚ a v Dohovore Organizácie Spojených národov o právach dieťaťa (ďalej rozpracované vo všeobecnej poznámke č. 25 Dohovoru OSN o právach dieťaťa, pokiaľ ide o digitálne prostredie), ktoré si v oboch prípadoch vyžadujú zváženie zraniteľnosti detí a poskytnutie takejto ochrany a starostlivosti nevyhnutných pre ich blaho. Pri posudzovaní závažnosti ujmy, ktorú môže systém umelej inteligencie spôsobiť, a to aj v súvislosti so zdravím a bezpečnosťou osôb, by sa malo zohľadniť aj základné právo na vysokú úroveň ochrany životného prostredia zakotvené v charte a vykonávané v politikách Únie. (29)Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami patriacimi do rozsahu pôsobnosti nariadenia Európskeho parlamentu a Rady (ES) č. 300/2008, nariadenia Európskeho parlamentu a Rady (EÚ) č. 167/2013, nariadenia Európskeho parlamentu a Rady (EÚ) č. 168/2013, smernice Európskeho parlamentu a Rady 2014/90/EÚ, smernice Európskeho parlamentu a Rady (EÚ) 2016/797, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/858, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/1139 a nariadenia Európskeho parlamentu a Rady (EÚ) 2019/2144, je vhodné uvedené akty zmeniť s cieľom zaistiť, aby Komisia pri prijímaní akýchkoľvek budúcich relevantných delegovaných alebo vykonávacích aktov na základe uvedených aktov zohľadňovala povinné požiadavky na vysokorizikové systémy umelej inteligencie stanovené v tomto nariadení na základe technických a regulačných osobitostí jednotlivých odvetví bez toho, aby zasahovala do existujúcich mechanizmov správy, posudzovania zhody a presadzovania a do orgánov zriadených v rámci uvedených aktov. (30)Pokiaľ ide o systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných právnych predpisov Únie, je vhodné klasifikovať ich podľa tohto nariadenia ako vysokorizikové, pokiaľ v prípade daného výrobku vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie. Medzi takéto výrobky patria najmä strojové zariadenia, hračky, výťahy, zariadenia a ochranné systémy určené na použitie v prostredí s nebezpečím výbuchu, rádiové zariadenia, tlakové zariadenia, vybavenie rekreačných plavidiel, lanovkové zariadenia, spotrebiče spaľujúce plynné palivá, zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro.

(31)Klasifikácia systému umelej inteligencie ako vysokorizikového podľa tohto nariadenia by nemala nevyhnutne znamenať, že výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa považuje za „vysokorizikový“ podľa kritérií stanovených v príslušných harmonizačných právnych predpisoch Únie, ktoré sa vzťahujú na daný výrobok. Platí to najmä pre nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 a nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746, kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou. (32)Pokiaľ ide o samostatné systémy umelej inteligencie, t. j. vysokorizikové systémy umelej inteligencie iné ako tie, ktoré sú bezpečnostnými komponentmi výrobkov, alebo ktoré sú samy výrobkami, je vhodné klasifikovať ich ako vysokorizikové, ak vzhľadom na svoj zamýšľaný účel predstavujú vysoké riziko poškodenia zdravia a bezpečnosti alebo základných práv osôb, pričom sa berie do úvahy závažnosť možnej ujmy a pravdepodobnosť jej výskytu, a ak sa využívajú vo viacerých oblastiach uvedených v nariadení, ktoré sú jasne vopred vymedzené. Identifikácia týchto systémov je založená na rovnakej metodike a kritériách, aké sa predpokladajú aj v prípade akýchkoľvek budúcich zmien zoznamu vysokorizikových systémov umelej inteligencie. (33)Technické nepresnosti systémov umelej inteligencie určených na diaľkovú biometrickú identifikáciu fyzických osôb môžu viesť k skresleným výsledkom a mať diskriminačné účinky. Platí to najmä v prípade veku, etnického pôvodu, pohlavia alebo zdravotných postihnutí. Preto by sa systémy diaľkovej biometrickej identifikácie „v reálnom čase“ a „následnej“ diaľkovej biometrickej identifikácie mali klasifikovať ako vysokorizikové. Vzhľadom na riziká, ktoré predstavujú, by oba typy systémov diaľkovej biometrickej identifikácie mali podliehať osobitným požiadavkám týkajúcim sa schopností logovania a ľudského dohľadu. (34)Pokiaľ ide o riadenie a prevádzku kritickej infraštruktúry, je vhodné klasifikovať ako vysokorizikové také systémy umelej inteligencie, ktoré sú určené na používanie ako bezpečnostné komponenty pri riadení a prevádzke cestnej premávky a pri dodávkach vody, plynu, tepla a elektrickej energie, keďže ich zlyhanie alebo porucha môže ohroziť život a zdravie osôb vo veľkom rozsahu a viesť k značným narušeniam bežného vykonávania sociálnych a hospodárskych činností. (35)Za vysokorizikové by sa mali považovať systémy umelej inteligencie používané vo vzdelávaní alebo odbornej príprave, najmä na určovanie prístupu osôb do inštitúcií vzdelávania a odbornej prípravy alebo na ich priradenie k týmto inštitúciám, alebo na hodnotenie osôb na základe testov ako súčasť ich vzdelávania alebo ako predpoklad pre ich vzdelávanie, pretože môžu určovať vzdelávací a profesionálny priebeh života osoby, a tým ovplyvňovať jej schopnosť zabezpečiť si živobytie. Ak sú takéto systémy navrhnuté a používané nesprávne, môžu porušovať právo na vzdelanie a odbornú prípravu, ako aj právo nebyť diskriminovaný a tým zachovávať zaužívané formy diskriminácie. (36)Ako vysokorizikové by sa mali klasifikovať aj systémy umelej inteligencie používané pri zamestnávaní, riadení pracovníkov a prístupe k samostatnej zárobkovej činnosti, najmä pri nábore a výbere osôb, pri rozhodovaní o povýšení a ukončení pracovného pomeru a pri prideľovaní úloh, monitorovaní alebo hodnotení osôb v zmluvných pracovnoprávnych vzťahoch, pretože tieto systémy môžu významne ovplyvniť budúce kariérne vyhliadky a živobytie týchto osôb. Príslušné zmluvné pracovnoprávne vzťahy by mali zahŕňať zamestnancov a osoby, ktorí poskytujú služby prostredníctvom platforiem, ako sa uvádza v pracovnom programe Komisie na rok 2021. Takéto osoby by sa v zásade nemali považovať za používateľov v zmysle tohto nariadenia. Takéto systémy môžu počas celého procesu prijímania do zamestnania a počas hodnotenia, povyšovania alebo udržiavania osôb v zmluvných pracovnoprávnych vzťahoch zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo sexuálnej orientácie. Systémy umelej inteligencie používané na monitorovanie výkonnosti a správania týchto osôb môžu mať vplyv aj na ich práva na ochranu údajov a súkromia. (37)Ďalšou oblasťou, v ktorej si využívanie systémov umelej inteligencie zaslúži osobitnú pozornosť, je prístup k určitým základným súkromným a verejným službám a dávkam, ktoré sú potrebné na to, aby sa ľudia mohli plne zapojiť do spoločnosti alebo si mohli zlepšiť životnú úroveň, a ich využívanie. Ako vysokorizikové by sa mali klasifikovať najmä systémy umelej inteligencie používané na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb, pretože určujú prístup týchto osôb k finančným zdrojom alebo základným službám, ako sú bývanie, elektrická energia a telekomunikačné služby. Systémy umelej inteligencie používané na tento účel môžu viesť k diskriminácii osôb alebo skupín a zachovávať zaužívané formy diskriminácie, napríklad na základe rasového alebo etnického pôvodu, zdravotných postihnutí, veku, sexuálnej orientácie, alebo môžu vytvárať nové formy diskriminačných vplyvov. Vzhľadom na veľmi obmedzený rozsah vplyvu a dostupné alternatívy na trhu je vhodné stanoviť výnimku pre systémy umelej inteligencie na účely posudzovania úverovej bonity a bodového hodnotenia kreditného rizika, pokiaľ ich uvedú do prevádzky malí poskytovatelia pre svoju vlastnú potrebu. Fyzické osoby, ktoré žiadajú o dávky a služby verejnej pomoci alebo ktoré od orgánov verejnej moci prijímajú tieto dávky a služby, sú zvyčajne od týchto dávok a služieb závislé a nachádzajú sa v zraniteľnom postavení vo vzťahu k zodpovedným orgánom. Ak sa systémy umelej inteligencie používajú na určenie toho, či by orgány mali takéto dávky a služby zamietnuť, znížiť, zrušiť alebo žiadať o ich vrátenie, môžu mať významný vplyv na živobytie osôb a môžu porušovať ich základné práva, ako je právo na sociálnu ochranu, nediskrimináciu, ľudskú dôstojnosť alebo účinný prostriedok nápravy. Preto by sa tieto systémy mali klasifikovať ako vysokorizikové. Toto nariadenie by však nemalo brániť rozvoju a využívaniu inovačných prístupov vo verejnej správe, pre ktorú by mohlo byť širšie využívanie vyhovujúcich a bezpečných systémov umelej inteligencie prospešné, za predpokladu, že tieto systémy nepredstavujú vysoké riziko pre právnické a fyzické osoby. V konečnom dôsledku by sa ako vysokorizikové mali klasifikovať aj systémy umelej inteligencie používané na vysielanie záchranných služieb prvej reakcie alebo na stanovovanie priority ich vysielania, pretože prijímajú rozhodnutia v situáciách, ktoré sú veľmi kritické z hľadiska života a zdravia osôb a ich majetku. (38)Opatrenia orgánov presadzovania práva zahŕňajúce určité použitia systémov umelej inteligencie sa vyznačujú značným stupňom nerovnováhy právomocí a môžu viesť k sledovaniu, zatknutiu alebo pozbaveniu slobody fyzickej osoby, ako aj k iným nepriaznivým vplyvom na základné práva zaručené chartou. Najmä ak systém umelej inteligencie nie je trénovaný na vysokokvalitných údajoch, nespĺňa primerané požiadavky, pokiaľ ide o jeho presnosť alebo spoľahlivosť, alebo nie je pred uvedením na trh alebo do prevádzky riadne koncipovaný a otestovaný, môže ľudí vylúčiť diskriminačným alebo inak nesprávnym či nespravodlivým spôsobom. Okrem toho by mohlo byť obmedzené uplatňovanie dôležitých procesných základných práv, ako je právo na účinný prostriedok nápravy a na spravodlivý proces, ako aj právo na obhajobu a prezumpcia neviny, najmä ak takéto systémy umelej inteligencie nie sú dostatočne transparentné, vysvetliteľné a zdokumentované. Preto je vhodné klasifikovať ako vysokorizikové viaceré systémy umelej inteligencie určené na používanie v kontexte presadzovania práva, kde je presnosť, spoľahlivosť a transparentnosť obzvlášť dôležitá, aby sa zabránilo nepriaznivým vplyvom, zachovala dôvera verejnosti a zabezpečila zodpovednosť a účinná náprava. Vzhľadom na povahu predmetných činností a súvisiace riziká by tieto vysokorizikové systémy umelej inteligencie mali zahŕňať najmä systémy umelej inteligencie, ktoré majú orgány presadzovania práva používať na individuálne posúdenia rizika, ako detektory lži a podobné nástroje alebo na zisťovanie emocionálneho stavu fyzickej osoby, odhaľovanie vykonštruovaných správ, ktoré manipulujú s obsahom (tzv. deepfakes), na hodnotenie spoľahlivosti dôkazov v trestnom konaní, na predpovedanie výskytu alebo opätovného výskytu skutočného alebo potenciálneho trestného činu na základe profilovania fyzických osôb alebo posudzovania osobnostných a povahových rysov alebo trestnej činnosti fyzických osôb alebo skupín v minulosti, na profilovanie v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov, ako aj na analýzu trestnej činnosti vo vzťahu k fyzickým osobám. Systémy umelej inteligencie, ktoré sú osobitne určené na používanie daňovými a colnými orgánmi v správnych konaniach, by sa nemali považovať za vysokorizikové systémy umelej inteligencie používané orgánmi presadzovania práva na účely predchádzania trestným činom, ich odhaľovania, vyšetrovania a stíhania. (39)Systémy umelej inteligencie používané v oblastiach migrácie, azylu a riadenia kontroly hraníc majú vplyv na ľudí, ktorí sú často v mimoriadne zraniteľnom postavení a ktorí sú závislí od výsledku činností príslušných orgánov verejnej moci. Presnosť, nediskriminačný charakter a transparentnosť systémov umelej inteligencie používaných v tomto kontexte sú preto mimoriadne dôležité na zaručenie dodržiavania základných práv dotknutých osôb, najmä ich práva na voľný pohyb, nediskrimináciu, ochranu súkromného života a osobných údajov, medzinárodnú ochranu a dobrú správu vecí verejných. Je preto vhodné klasifikovať ako vysokorizikové tie systémy umelej inteligencie, ktoré majú používať príslušné orgány verejnej moci poverené úlohami v oblasti migrácie, azylu a riadenia kontroly hraníc, ako napríklad detektory lži a podobné nástroje alebo nástroje na zisťovanie emocionálneho stavu fyzickej osoby, posudzovanie určitých rizík, ktoré predstavujú fyzické osoby vstupujúce na územie členského štátu alebo žiadajúce o vízum alebo azyl, overenie pravosti príslušných dokladov fyzických osôb, pomoc príslušným orgánom verejnej moci pri posudzovaní žiadostí o azyl, víza a povolenia na pobyt a súvisiacich sťažností, pokiaľ ide o cieľ zistiť oprávnenosť fyzických osôb žiadajúcich o určitý status. Systémy umelej inteligencie v oblasti migrácie, azylu a riadenia kontroly hraníc, na ktoré sa vzťahuje toto nariadenie, by mali spĺňať príslušné procedurálne požiadavky stanovené v smernici Európskeho parlamentu a Rady 2013/32/EÚ, nariadení Európskeho parlamentu a Rady (ES) č. 810/2009 a iných príslušných právnych predpisoch. (40)Niektoré systémy umelej inteligencie určené na výkon spravodlivosti a demokratických procesov by sa mali klasifikovať ako vysokorizikové vzhľadom na ich potenciálne významný vplyv na demokraciu, právny štát, osobné slobody, ako aj právo na účinný prostriedok nápravy a na spravodlivý proces. Ako vysokorizikové je vhodné kvalifikovať systémy umelej inteligencie určené na pomoc justičným orgánom pri skúmaní a výklade skutočností a práva a pri uplatňovaní práva na konkrétny súbor skutočností, najmä z dôvodu riešenia rizík možných skreslení, chýb a nepriehľadnosti. Takáto kvalifikácia by sa však nemala vzťahovať na systémy umelej inteligencie určené na čisto pomocné administratívne činnosti, ktoré nemajú vplyv na skutočný výkon spravodlivosti v jednotlivých prípadoch, ako napr. anonymizácia alebo pseudonymizácia súdnych rozhodnutí, dokumentov alebo údajov, komunikácia medzi zamestnancami, administratívne úlohy alebo prideľovanie zdrojov. (41)Skutočnosť, že systém umelej inteligencie sa podľa tohto nariadenia klasifikuje ako vysokorizikový, by sa nemala vykladať tak, že používanie tohto systému je nevyhnutne zákonné podľa iných aktov práva Únie alebo vnútroštátneho práva zlučiteľného s právom Únie, ako napr. v oblasti ochrany osobných údajov, používania detektorov lži a podobných nástrojov alebo iných systémov na zisťovanie emocionálneho stavu fyzických osôb. Akékoľvek takéto použitie by sa malo naďalej vykonávať výlučne v súlade s uplatniteľnými požiadavkami vyplývajúcimi z charty a z uplatniteľných aktov sekundárneho práva Únie a vnútroštátneho práva. Toto nariadenie by sa nemalo chápať tak, že poskytuje právny základ pre spracúvanie osobných údajov, prípadne vrátane osobitných kategórií osobných údajov. (42)S cieľom zmierniť riziká, ktoré vyplývajú používateľom a dotknutým osobám z vysokorizikových systémov umelej inteligencie uvedených na trh Únie alebo inak uvedených do prevádzky na trhu Únie, by sa mali uplatňovať určité povinné požiadavky, pričom by sa mal zohľadniť zamýšľaný účel používania tohto systému a systém riadenia rizík, ktorý zavedie poskytovateľ. (43)Požiadavky by sa mali vzťahovať na vysokorizikové systémy umelej inteligencie, pokiaľ ide o kvalitu použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií používateľom, ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť. Tieto požiadavky sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva, ktoré sa uplatňujú vzhľadom na zamýšľaný účel systému, a nie sú primerane dostupné žiadne iné opatrenia menej obmedzujúce obchod, takže nedochádza k neodôvodneným obmedzeniam obchodu. (44)Pre výkonnosť mnohých systémov umelej inteligencie je kľúčová vysoká kvalita údajov, najmä ak sa využívaj