C 392/3

Shrnutí stanoviska evropského inspektora ochrany údajů k bílé knize Evropské komise o umělé inteligenci – evropský přístup k excelenci a důvěře

(Úplné znění tohoto stanoviska je k dispozici v angličtině, francouzštině a němčině na internetových stránkách evropského inspektora ochrany údajů na adrese www.edps.europa.eu)

(2020/C 392/03)

Shrnutí

Evropská komise zveřejnila dne 19. února 2020 bílou knihu „o umělé inteligenci: evropský přístup k excelenci a důvěře“. Tato kniha je součástí širšího balíčku strategických dokumentů, mezi které patří také sdělení „Evropská strategie pro data“.

Bílá kniha sleduje dvojí cíl: stanovit politické možnosti na podporu zavádění umělé inteligence a zabývat se „riziky spojenými s některými způsoby využití této nové technologie“. Aby bylo dosaženo uvedených cílů, navrhuje se v bílé knize soubor opatření na podporu vývoje a zavádění umělé inteligence a nového regulační rámce, který by se zabýval obavami specificky se týkajícími umělé inteligence, jež současný rámec řešit nemusí.

V tomto stanovisku se představují názory evropského inspektora ochrany údajů na bílou knihu jako celek, jakož i na některé konkrétní aspekty, jako je navrhovaný přístup založený na posouzení rizik, prosazování regulace umělé inteligence nebo zvláštní požadavky na biometrickou identifikaci na dálku (včetně rozpoznávání obličeje).

Evropský inspektor ochrany údajů uznává rostoucí význam a dopad umělé inteligence. Umělá inteligence však přináší vlastní rizika a nejde o „všelék“ na všechny problémy. Každý, kdo zavádí nějakou technologii, zejména orgány veřejné správy, které zpracovávají velké objemy osobních údajů, by měl zvážit přínosy, náklady a rizika.

Evropský inspektor ochrany údajů velice vítá, že se v bílé knize mnohokrát odkazuje na evropský přístup k umělé inteligenci, který vychází z hodnot EU a základních práv, a že se zohledňuje nutnost souladu s evropskými právními předpisy o ochraně osobních údajů.

Cílem doporučení uvedených v tomto stanovisku je proto vyjasnit a v případě potřeby více propracovat záruky a kontroly týkající se ochrany osobních údajů, a to s ohledem na specifické okolnosti umělé inteligence.

Evropský inspektor ochrany údajů proto doporučuje zejména to, aby každý nový regulační rámec pro umělou inteligenci:

— se vztahoval jak na členské státy EU, tak na orgány, instituce a jiné subjekty EU,

— byl navržen tak, aby chránil před negativním dopadem, a to nejen na jednotlivce, ale také na komunity a společnost jako celek,

— navrhl solidnější a propracovanější systém klasifikace rizik, který by zajistil, že veškerá významná potenciální újma, kterou aplikace umělé inteligence představuje, je vyvážena vhodnými zmírňujícími opatřeními,

— zahrnoval posouzení dopadů, které jasně určí nedostatky v oblasti regulace, jež má tento rámec odstranit,

— předcházel překrývání činnosti jednotlivých dozorových úřadů a obsahoval mechanismus spolupráce.

Pokud jde o biometrickou identifikaci na dálku, evropský inspektor ochrany údajů podporuje myšlenku vyhlásit moratorium na zavádění automatizovaného rozpoznávání lidských rysů ve veřejných prostorách v EU – nejen obličejů, ale také způsobu chůze, otisků prstů, DNA, hlasu, stisků tlačítek a jiných biometrických znaků nebo behaviorálních projevů, aby mohla proběhnout informovaná a demokratická debata a než budou mít EU a členské státy zavedené veškeré vhodné záruky, včetně komplexního právního rámce, který zaručí přiměřenost příslušných technologií a systémů s ohledem na konkrétní případ užívání.

Evropský inspektor ochrany údajů je Komisi, Radě a Evropskému parlamentu i nadále k dispozici, budou-li vyžadovat další poradenství, a očekává, že bude náležitě konzultován v souladu s článkem 42 nařízení (EU) 2018/1725. Připomínkami v tomto stanovisku nejsou dotčeny další připomínky v budoucnu týkající se konkrétních otázek a/nebo situace, kdyby byly k dispozici další informace.

1. ÚVOD A ZÁKLADNÍ INFORMACE

1. Bílá kniha Komise „o umělé inteligenci – evropský přístup k excelenci a důvěře“ ( 1 ) (dále jen „bílá kniha“) je součástí iniciativy č. 10 („evropský přístup k umělé inteligenci“) a spadá do působnosti kapitoly s názvem „Evropa připravená na digitální věk“ pracovního programu Komise na rok 2020.

2. Evropský inspektor ochrany údajů konstatuje, že bílá kniha úzce souvisí se „sdělením Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů – Evropská strategie pro data“ ( 2 ) (dále jen „strategie pro data“), ke kterému evropský inspektor ochrany údajů vydal samostatné stanovisko ( 3 )

3. Dne 29. ledna 2020 Komise konzultovala evropského inspektora ochrany údajů ohledně návrhu bílé knihy a evropský inspektor ochrany údajů předložil předběžné neformální připomínky. Evropský inspektor ochrany údajů vítá skutečnost, že jeho názory byly vyžádány v rané fázi postupu, a vybízí Komisi, aby pokračovala v této dobré praxi.

4. Bílá kniha je předmětem veřejné konzultace. Cílem konzultace je shromáždit názory na bílou knihu jako celek, jakož i na určité konkrétní aspekty. Podobně byla zahájena veřejná konzultace i ke sdělení Evropské komise „Evropská strategie pro data“.

5. Toto stanovisko dále rozpracovává některé z neformálních připomínek evropského inspektora ochrany údajů a poskytuje Evropské komisi cílenější příspěvek s ohledem na veřejnou konzultaci. Dále tímto stanoviskem nejsou dotčeny žádné další připomínky, které by evropský inspektor ochrany údajů mohl uvést na základě dalších dostupných informací v pozdější fázi, a to i v souvislosti s budoucími legislativními konzultacemi ohledně právních aktů předpokládaných v bílé knize a v pracovním programu Komise.

6. Ačkoliv se na orgány, instituce a jiné subjekty Evropské unie vztahuje nařízení o ochraně fyzických osob v souvislosti se zpracováním osobních údajů orgány, institucemi a jinými subjekty Unie (dále jen „nařízení EUDPR“), a nikoliv obecné nařízení o ochraně osobních údajů (dále jen „nařízení GDPR“), obě nařízení sledují tytéž cíle a vycházejí ze stejných zásad ( 4 ) . V zájmu zohlednění soudržnosti obou nařízení se bude každým odkazem na ustanovení nařízení GDPR v tomto stanovisku rozumět také odpovídající ustanovení nařízení EUDPR uvedené v závorce.

7. V zájmu soudržného přístupu v celé Unii evropský inspektor ochrany údajů doporučuje, aby se každý nový regulační rámec pro umělou inteligenci použil na členské státy EU i na orgány, instituce a jiné subjekty EU. Pokud orgány, instituce a jiné subjekty Unie budou využívat umělé inteligence, měla by pro ně platit stejná pravidla, jaká platí v členských státech EU.

3. ZÁVĚRY

77. Evropský inspektor ochrany údajů plně souhlasí s Komisí, že je zapotřebí evropského přístupu k umělé inteligenci, a v této souvislosti velice vítá závazek uvedený v bílé knize k dodržování základních práv a evropských hodnot.

78. Je však toho názoru, že návrhy uvedené v bílé knize je třeba dále upřesnit a vyjasnit, pokud jde o některé relevantní otázky. K tématům, která by vyžadovala větší vyjasnění v jakémkoliv budoucím legislativním návrhu, patří souvislost mezi riziky, která představuje umělá inteligence, a souvisejícími legislativními mezerami, přístup založený na posuzování rizik uplatňovaný na aplikace umělé inteligence a definice umělé inteligence jako takové, která by měla umožnit jasnější definici oblasti působnosti navrhovaného právního předpisu.

79. Evropský inspektor ochrany údajů navíc doporučuje, aby každý nový regulační rámec pro umělou inteligenci: — se vztahoval jak na členské státy EU, tak na orgány, instituce a jiné subjekty EU, — byl navržen tak, aby chránil před negativním dopadem, a to nejen na jednotlivce, ale také na komunity a společnost jako celek, — navrhl solidnější a propracovanější systém klasifikace rizik, který by zajistil, že veškerá významná potenciální újma, kterou aplikace umělé inteligence představuje, je vyvážena vhodnými zmírňujícími opatřeními, — zahrnoval posouzení dopadů, které jasně určí nedostatky v oblasti regulace, jež má tento rámec odstranit, — předcházel překrývání činnosti jednotlivých dozorových úřadů a obsahoval mechanismus spolupráce.

80. Pokud jde o biometrickou identifikaci na dálku, evropský inspektor ochrany údajů podporuje myšlenku vyhlásit moratorium na zavádění automatizovaného rozpoznávání lidských rysů ve veřejných prostorách v EU – nejen obličejů, ale také způsobu chůze, otisků prstů, DNA, hlasu, stisků tlačítek a jiných biometrických znaků nebo behaviorálních projevů, aby mohla proběhnout informovaná a demokratická debata a než budou mít EU a členské státy zavedené veškeré vhodné záruky, včetně komplexního právního rámce, který zaručí přiměřenost příslušných technologií a systémů s ohledem na konkrétní případ užívání.

81. Pokud bude předložen nový právní rámec, jak se uvádí v bílé knize a v pracovním programu Komise, evropský inspektor ochrany údajů poskytne další poradenství Komisi, jak je stanoveno v článku 42 nařízení EUDPR.

V Bruselu dne 29. června 2020. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2020) 65 final.

(2) COM(2020) 66 final.

(3) Stanovisko evropského inspektora ochrany údajů 3/2020 k Evropské strategii pro data, https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf.

(4) Kdekoliv ustanovení nařízení (EU) 2018/1725 vycházejí ze stejných zásad jako ustanovení nařízení (EU) 2016/679, měla by být obě ustanovení podle judikatury Soudního dvora Evropské unie vykládána jednotně, především proto, že režim nařízení EUDPR by měl být chápán jako odpovídající režimu nařízení GDPR; viz 5. bod odůvodnění nařízení EUDPR, ve kterém se odkazuje na rozsudek Soudního dvora ze dne 9. března 2010, Evropská komise v. Spolková republika Německo, věc C-518/07, ECLI:EU:C:2010:125, bod 28.