1.ÚVOD – EVROPSKÁ STRATEGIE PRO UMĚLOU INTELIGENCI

Umělá inteligence (UI) může změnit náš svět k lepšímu: dokáže zdokonalit zdravotní péči, snížit spotřebu energie, zlepšit bezpečnost automobilů i pomoci zemědělcům efektivněji využívat vodu a přírodní zdroje. Lze ji využít k předvídání změny klimatu a životního prostředí, zlepšování řízení finančních rizik nebo jako nástroje k výrobě produktů přesně podle našich potřeb a s méně odpady. Může také přispět k odhalování podvodů a kybernetických hrozeb a pomoci donucovacím orgánům bojovat účinněji proti trestné činnosti.

Umělá inteligence může prospět celé společnosti i ekonomice. Jakožto strategická technologie se dnes rychle vyvíjí a používá po celém světě. Nese s sebou však i nová rizika pro budoucnost práce a vyvolává právní a etické otázky.

Abychom dokázali těmto rizikům čelit a co nejlépe využít příležitostí, které UI přináší, zveřejnila Komise v dubnu 2018 evropskou strategii. Do středu pozornosti vývoje UI staví člověka a definuje tzv. UI zaměřenou na člověka. Soustředí se na tři hlavní dílčí cíle: posílit technologickou a průmyslovou kapacitu EU a začlenit UI do všech sektorů ekonomiky, připravit se na sociálně-ekonomické změny a zajistit odpovídající etický a právní rámec.

Aby dokázala svou strategii naplnit, vypracovala Komise spolu s členskými státy koordinovaný plán v oblasti UI, který představila v prosinci 2018 a k němuž patří vytváření synergií, sdílení dat potřebných pro řadu aplikací UI a zvyšování společných investic. Cílem je podpořit přeshraniční spolupráci a mobilizovat všechny aktéry k vyšším veřejným i soukromým investicím s ročním objemem v příštím desetiletí alespoň 20 miliard EUR. Komise v rámci programu Horizont 2020 své investice do UI zdvojnásobila a z programů Horizont Evropa a Digitální Evropa hodlá ročně investovat jednu miliardu EUR, a to především do společných datových prostor ve zdravotnictví, dopravě a výrobě, do velkých experimentálních zařízení, jako jsou inteligentní nemocnice, do infrastruktury pro automatizované automobily a do strategického plánu výzkumu.

V rámci uskutečňování takového společného strategického plánu výzkumu, inovací a zavádění Komise zintenzívnila dialog se všemi zainteresovanými stranami z řad průmyslových podniků, výzkumných institucí i veřejných orgánů. Nový program Digitální Evropa bude klíčový mimo jiné i pro to, aby byla UI prostřednictvím center pro digitální inovace, zkušebních a experimentálních zařízení, datových prostor a školicích programů dostupná i pro malé a střední podniky ve všech členských státech.

Etický přístup Evropy k UI, který staví na její dobré pověsti získané díky bezpečným a vysoce kvalitním výrobkům, upevňuje důvěru lidí v rozvoj digitálních technologií a snaží se vytvořit pro evropské podniky zabývající se UI konkurenční výhodu. Smyslem tohoto sdělení je uvést komplexní pilotní fázi s co nejširší účastí zainteresovaných stran a otestovat tak uplatňování pravidel etického vývoje a využívání UI v praxi.

2.ZÍSKAT DŮVĚRU V UI ZAMĚŘENOU NA ČLOVĚKA

Z evropské strategie pro UI a koordinovaného plánu jasně vyplývá, že předpokladem pro aplikování přístupu k UI zaměřeného na člověka je důvěra – UI není cílem sama o sobě, ale nástrojem, který má sloužit lidem a vést ke zlepšení kvality jejich života. K tomu je potřeba zaručit její důvěryhodnost. Ve vývoji UI musí být pevně zakotveny hodnoty, na nichž naše společnost stojí.

Unie je postavena na hodnotách úcty k lidské důstojnosti, svobody, demokracie, rovnosti, právního státu a dodržování lidských práv, včetně práv příslušníků menšin. Tyto hodnoty jsou společné členský státům ve společnosti vyznačující se pluralismem, nediskriminací, tolerancí, spravedlností, solidaritou a rovností. Kromě toho Listina základních práv Evropské unie shrnuje do jediného dokumentu všechna osobní, občanská, politická, ekonomická a sociální práva lidí v EU.

Základem všeobecného standardu pro UI zaměřenou na člověka bude pevný právní rámec EU. Obecné nařízení o ochraně osobních údajů zaručuje vysokou úroveň ochrany osobních údajů a stanoví povinnost zavést opatření zaručující ochranu osobních údajů již od návrhu a ve standardním nastavení. Nařízení o volném pohybu neosobních údajů odstraňuje překážky bránící volnému pohybu neosobních údajů a zajišťuje zpracování všech kategorií osobních údajů kdekoliv v Evropě. Nedávno přijatý akt o kybernetické bezpečnosti pomůže upevnit důvěru v online prostředí, a o totéž usiluje navrhované nařízení o soukromí a elektronických komunikacích.

To, že umělá inteligence umožňuje, aby se stroje „učily“ a dělaly a aplikovaly rozhodnutí bez lidského zásahu, nicméně přináší i nové problémy. Tato funkcionalita bude zanedlouho běžná u řady druhů zboží a služeb, od chytrých telefonů po automatizované automobily, roboty a online aplikace. Rozhodnutí dělaná algoritmy však mohou vycházet z neúplných, a tedy nespolehlivých dat, být manipulovaná hackery, neobjektivní nebo prostě chybná. Důsledky neuváženého aplikování této technologie prakticky současně s jejím vývojem proto mohou být problematické a může dojít k tomu, že se lidé budou zdráhat ji přijmout nebo používat.

Technologie UI by tedy měla být vyvíjena tak, aby ve středu jejího zájmu byli lidé a aby jí veřejnost mohla důvěřovat. To znamená, že aplikace UI by měly být nejen v souladu se zákonem, ale i s etickými principy a jejich zaváděním by nemělo docházet k neúmyslnému poškození nikoho ze zúčastněných. Ve všech fázích vývoje UI by měla být zajištěna diverzita, ať už jde o pohlaví, rasový nebo etnický původ, náboženské vyznání nebo přesvědčení, zdravotní postižení nebo věk. Aplikace UI by měly posílit postavení občanů a respektovat jejich základní práva. Měly by schopnosti lidí rozšířit, nikoliv je nahradit, a měly by být dostupné i pro lidi se zdravotním postižením.

Z těchto důvodů potřebujeme etické pokyny, které budou vycházet ze stávajícího právního rámce a kterými se budou v rámci jednotného trhu řídit jak vývojáři, tak dodavatelé a uživatelé UI a které vytvoří ve všech členských státech rovné podmínky. Komise proto ustavila odbornou skupinu na vysoké úrovni pro UI, v níž jsou zastoupeny nejrůznější zainteresované strany a jíž vypracování etických pokynů spolu s doporučeními pro širší politiku v oblasti UI svěřila. Zároveň byla zřízena Evropská aliance pro umělou inteligenci, otevřená platforma, která sdružuje přes 2 700 zúčastněných stran a která má odborné skupině poskytovat širokou škálu informací a podkladů pro její práci.

První návrh etických pokynů vydala odborná skupina v prosinci 2018. Po konzultaci se zainteresovanými stranami a jednáních se zástupci z členských států předložila Komisi v březnu 2019 revidované znění. Zainteresované strany ve svých reakcích zatím obecně vítají, že pokyny jsou praktické a zahrnují konkrétní doporučení vývojářům, dodavatelům i uživatelům, jak důvěryhodnost UI zajistit.

2.1 Pokyny pro zajištění důvěryhodnosti UI vypracované odbornou skupinu na vysoké úrovni

Pokyny vypracované odbornou skupinou na vysoké úrovni pro UI, kterých se toto sdělení týká, vychází především z výsledků práce Evropské skupiny pro etiku ve vědě a nových technologiích a Agentury EU pro základní práva.