DŮVODOVÁ ZPRÁVA

SOUVISLOSTI NÁVRHU

Umělá inteligence (UI) nabízí velké příležitosti pro společnost, životní prostředí i hospodářství. Určitá UI může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání působit hmotnou nebo nehmotnou újmu a může vytvářet rizika pro veřejné zájmy a základní práva a svobody jednotlivců. Pro řešení těchto výzev a využití potenciálu UI je proto zásadní soudržný právní rámec pro UI, který chrání tyto veřejné zájmy a základní práva a zároveň podporuje důvěru a inovace.

V dubnu 2021 navrhla Evropská komise komplexní nařízení o UI, které by harmonizovalo pravidla pro systémy UI ve všech 27 členských státech EU. Evropský parlament a Rada v současné době o návrhu jednají v souladu s řádným legislativním postupem. Své úsilí v této oblasti zintenzivnily také různé mezinárodní organizace, včetně Rady Evropy, které si uvědomují přeshraniční povahu UI a potřebu mezinárodní spolupráce při řešení společných výzev.

Na cestě k úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu

Dne 11. září 2019 rozhodl Výbor ministrů Rady Evropy o zřízení ad hoc Výboru pro umělou inteligenci. Jeho úkolem bylo prozkoumat proveditelnost a možné prvky právního rámce pro vývoj, koncepci a aplikaci umělé inteligence, a to při zohlednění norem Rady Evropy v oblasti lidských práv, demokracie a právního státu, jakož i příslušných stávajících mezinárodních právních nástrojů. Práce ad hoc Výboru pro umělou inteligenci vycházela ze studie proveditelnosti a konzultace s více zúčastněnými stranami, která se uskutečnila na jaře 2021. Dne 3. prosince 2021 ad hoc Výbor pro umělou inteligenci dokončil svůj úkol a vypracoval výstupní dokument, který určil možné prvky takového právního rámce. Podle tohoto dokumentu je pro vývoj, koncepci a aplikaci systémů UI nezbytný právní nástroj obsahující základní zásady ochrany lidské důstojnosti a dodržování lidských práv, demokracie a právního státu. Tento nástroj by měl stanovit metodiku klasifikace rizik systémů UI, která by obsahovala kategorie „nízké riziko“, „vysoké riziko“ a „nepřijatelné riziko“. Aplikace UI, které představují „nepřijatelná“ rizika, by měly být zakázány. Aby se předešlo neodůvodněným předsudkům, mělo by být zahrnuto ustanovení o dodržování rovného zacházení a zákazu diskriminace. Právní záruky by měly zaručit alespoň právo na účinný opravný prostředek před vnitrostátním orgánem, právo být informován o aplikaci systému UI v rozhodovacím procesu, právo zvolit si interakci s člověkem a právo vědět, že člověk komunikuje se systémem UI. Specifické otázky, jako je manipulace s obsahem (tzv. deep fakes), by však měly být řešeny v jiných odvětvových nástrojích. Měl by se zvážit požadavek na zřízení mechanismů dodržování předpisů a vnitrostátních orgánů dohledu. Právní nástroj by mohl doplnit nezávazný model posouzení dopadů.

Na období 2022–2024 byl zřízen nástupce ad hoc Výboru pro umělou inteligenci – Výbor pro umělou inteligenci. Výbor pro umělou inteligenci je podle svého mandátu pověřen zahájením mezinárodního vyjednávacího procesu za účelem vytvoření právního rámce pro vývoj, koncepci a aplikaci umělé inteligence. Tento rámec by měl vycházet z norem Rady Evropy v oblasti lidských práv, demokracie a právního státu a měl by vést k inovacím. Rámec má být vypracován do 15. listopadu 2023 a dokončen do ukončení činnosti Výboru pro umělou inteligenci v roce 2024. Výbor pro umělou inteligenci by v rámci plnění svého mandátu měl koordinovat svou práci s ostatními mezivládními výbory a subjekty Rady Evropy, vycházet z pádných důkazů a inkluzivního konzultačního procesu, včetně mezinárodních a nadnárodních partnerů, a zohlednit závěrečný dokument ad hoc Výboru pro umělou inteligenci.

Ve dnech 4.–6. dubna 2022 se konala ustavující schůze Výboru pro umělou inteligenci, na které byl zvolen předseda, místopředseda a předsednictvo. Dne 30. června 2022 Výbor ministrů Rady Evropy pověřil Výbor pro umělou inteligenci, aby „urychleně přistoupil k vypracování právně závazného průřezového nástroje (dále jen „úmluva“ nebo „rámcová úmluva“) o umělé inteligenci, který by vycházel z norem Rady Evropy v oblasti lidských práv, demokracie a právního státu, byl v souladu s jeho mandátem, zaměřoval se na obecné společné zásady, podporoval inovace a byl otevřený účasti nečlenských států, přičemž by zohledňoval další relevantní stávající nebo připravované mezinárodní právní rámce“.

Následně předseda Výboru pro umělou inteligenci rozeslal „nultý návrh“ budoucí (rámcové) úmluvy, který stanoví základní zásady a pravidla, jejichž cílem je zajistit, aby koncepce, vývoj a aplikace systémů umělé inteligence byly v souladu s dodržováním lidských práv, fungováním demokracie a dodržováním zásad právního státu. Budoucí (rámcová) úmluva bude muset být prováděna v příslušných jurisdikcích smluvních stran. Oblast působnosti se vztahuje na veřejné i soukromé poskytovatele a uživatele systémů UI, ale nezahrnuje systémy UI týkající se obrany státu. Nultý návrh navrhuje zahrnout následující ustanovení:

·účel a oblast působnosti (rámcové) úmluvy,

·definice systému UI, životního cyklu, poskytovatele, uživatele a „subjektu UI“,

·určité základní zásady, včetně procesních záruk a práv subjektů UI, které by se vztahovaly na všechny systémy UI bez ohledu na míru jejich rizika,

·dodatečná opatření pro veřejný sektor, jakož i pro systémy UI, které představují „nepřijatelnou“ a „významnou“ úroveň rizika určenou na základě metodiky posuzování rizik a dopadů (bude stanovena později v příloze úmluvy),

·mechanismus následných opatření a spolupráce mezi stranami,

·závěrečná ustanovení, včetně možnosti členských států EU uplatňovat právo EU ve vzájemných vztazích v záležitostech, na které se úmluva vztahuje, a možnosti Unie přistoupit k úmluvě.

Nultý návrh bude projednán na plenárních zasedáních Výboru pro umělou inteligenci ve Štrasburku plánovaných na 21. až 23. září a 23. až 25. listopadu 2022. Čtyři zasedání jsou naplánována také na rok 2023 a jedno zasedání na rok 2024.