DÔVODOVÁ SPRÁVA

KONTEXT NÁVRHU

Umelá inteligencia ponúka významné príležitosti pre spoločnosť, životné prostredie a hospodárstvo. Zároveň môže určitá umelá inteligencia v závislosti od okolností týkajúcich sa jej konkrétneho uplatnenia a použitia spôsobiť materiálnu alebo nemateriálnu ujmu a môže vytvárať riziká pre verejné záujmy a základné práva a slobody jednotlivcov. Súdržný právny rámec pre umelú inteligenciu, ktorým sa ochránia takéto verejné záujmy a základné práva a zároveň sa ním podporí dôvera a inovácie, má preto zásadný význam na riešenie týchto výziev a využitie potenciálu umelej inteligencie.

Európska komisia v apríli 2021 navrhla komplexné nariadenie o umelej inteligencii, ktorým by sa harmonizovali pravidlá pre systémy umelej inteligencie vo všetkých 27 členských štátoch EÚ. Európsky parlament a Rada v súčasnosti o návrhu rokujú v súlade s riadnym legislatívnym postupom. Rôzne medzinárodné organizácie vrátane Rady Európy takisto zintenzívnili svoje úsilie v tejto oblasti, pričom uznali cezhraničnú povahu umelej inteligencie a potrebu medzinárodnej spolupráce pri riešení spoločných výziev.

Smerom k dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte

Výbor ministrov Rady Európy sa 11. septembra 2019 rozhodol zriadiť ad hoc výbor pre umelú inteligenciu. Jeho úlohou bolo preskúmať uskutočniteľnosť a potenciálne prvky právneho rámca v oblasti vývoja, navrhovania a používania umelej inteligencie s ohľadom na normy Rady Európy v oblasti ľudských práv, demokracie a právneho štátu, ako aj relevantné existujúce medzinárodné právne nástroje. Práca ad hoc výboru pre umelú inteligenciu bola založená na štúdii uskutočniteľnosti a konzultácii s viacerými zainteresovanými stranami, ktorá sa uskutočnila na jar 2021. Ad hoc výbor pre umelú inteligenciu 3. decembra 2021 dokončil svoju úlohu a vypracoval výsledný dokument, v ktorom sa určili možné prvky takéhoto právneho rámca. Podľa uvedeného dokumentu je na vývoj, navrhovanie a používanie systémov umelej inteligencie potrebný právny nástroj obsahujúci základné zásady ochrany ľudskej dôstojnosti a dodržiavania ľudských práv, demokracie a právneho štátu. Nástrojom by sa mala vytvoriť metodika klasifikácie rizík systémov umelej inteligencie s kategóriami „nízke riziko“, „vysoké riziko“ a „neprijateľné riziko“. Uplatnenia umelej inteligencie predstavujúce „neprijateľné“ riziká by sa mali zakázať. V snahe zabrániť neodôvodnenej zaujatosti by sa malo zahrnúť ustanovenie o dodržiavaní rovnakého zaobchádzania a nediskriminácie. Právne záruky by mali zaručovať prinajmenšom právo na účinný prostriedok nápravy pred vnútroštátnym orgánom, právo byť informovaný o používaní systému umelej inteligencie v rozhodovacom procese, právo vybrať si komunikáciu s človekom a právo osôb vedieť, že komunikujú so systémom umelej inteligencie. Špecifické otázky, ako je manipulácia s obsahom (tzv. deepfakes), by sa však mali riešiť v iných odvetvových nástrojoch. Mala by sa zvážiť požiadavka na vytvorenie mechanizmov na zabezpečenie súladu a vnútroštátnych dozorných orgánov. Daný právny nástroj by sa mohol doplniť o nezáväzný model posudzovania vplyvu.

Na obdobie 2022 – 2024 bol zriadený nástupca ad hoc výboru pre umelú inteligenciu – Výbor pre umelú inteligenciu. Výbor pre umelú inteligenciu je podľa svojho mandátu poverený zorganizovaním medzinárodných rokovaní s cieľom vypracovať právny rámec v oblasti vývoja, navrhovania a používania umelej inteligencie. Ten by mal byť založený na normách Rady Európy pre ľudské práva, demokraciu a právny štát a mali by sa ním podporovať inovácie. Jeho návrh sa má vypracovať do 15. novembra 2023 a dokončiť do konca pôsobenia Výboru pre umelú inteligenciu v roku 2024. Výbor pre umelú inteligenciu by mal pri plnení svojho mandátu koordinovať svoju prácu s inými medzivládnymi výbormi a subjektmi Rady Európy, zakladať svoju prácu na presvedčivých dôkazoch a inkluzívnom konzultačnom procese, a to aj s medzinárodnými a nadnárodnými partnermi, a zohľadniť výsledný dokument ad hoc výboru pre umelú inteligenciu.

V dňoch 4. – 6. apríla 2022 sa konalo inauguračné zasadnutie Výboru pre umelú inteligenciu, na ktorom bol zvolený predseda, podpredseda a predsedníctvo. Výbor ministrov Rady Európy 30. júna 2022 poveril Výbor pre umelú inteligenciu, aby „urýchlene vypracoval právne záväzný nástroj prierezovej povahy (ďalej len ,dohovor‘/,rámcový dohovor‘) o umelej inteligencii, ktorý je založený na normách Rady Európy pre ľudské práva, demokraciu a právny štát, v súlade s jeho mandátom, zameraný na všeobecné spoločné zásady, ktorým sa podporujú inovácie a ktorý je otvorený účasti nečlenských štátov, pričom sa ním majú zohľadniť iné relevantné existujúce medzinárodné právne rámce alebo rámce, ktoré sa práve vypracúvajú“.

Predseda Výboru pre umelú inteligenciu následne rozoslal „prvotný návrh“ budúceho (rámcového) dohovoru, v ktorom sa stanovujú základné zásady a pravidlá zamerané na zabezpečenie toho, aby navrhovanie, vývoj a používanie systémov umelej inteligencie boli v súlade s dodržiavaním ľudských práv, fungovaním demokracie a dodržiavaním zásad právneho štátu. Budúci (rámcový) dohovor sa bude musieť vykonávať v príslušných jurisdikciách zmluvných strán. Rozsah pôsobnosti sa vzťahuje tak na verejných, ako aj súkromných poskytovateľov a používateľov systémov umelej inteligencie, ale nezahŕňa systémy umelej inteligencie súvisiace s národnou obranou. V prvotnom návrhu sa navrhuje zahrnúť tieto ustanovenia:

·účel a rozsah pôsobnosti (rámcového) dohovoru,

·vymedzenie systému umelej inteligencie, životného cyklu, poskytovateľa, používateľa a „subjektu umelej inteligencie“,

·určité základné zásady vrátane procesných záruk a práv v prípade subjektov umelej inteligencie, ktoré by sa uplatňovali na všetky systémy umelej inteligencie bez ohľadu na ich úroveň rizika,

·dodatočné opatrenia pre verejný sektor, ako aj pre systémy umelej inteligencie, ktoré predstavujú „neprijateľnú“ a „významnú“ úroveň rizika identifikovanú na základe metodiky posudzovania rizika a vplyvu (ktorá sa stanoví neskôr v prílohe k dohovoru),

·následné opatrenia a mechanizmus spolupráce medzi zmluvnými stranami,

·záverečné ustanovenia zahŕňajúce možnosť členských štátov EÚ uplatňovať právo EÚ vo svojich vzájomných vzťahoch vo veciach, na ktoré sa vzťahuje dohovor, a možnosť Únie pristúpiť k dohovoru.

O prvotnom návrhu sa bude diskutovať na plenárnych zasadnutiach Výboru pre umelú inteligenciu v Štrasburgu naplánovaných na 21. – 23. septembra a 23. – 25. novembra 2022. Na rok 2023 sú takisto naplánované štyri stretnutia a jedno stretnutie na rok 2024.