EVROPSKÁ KOMISE V Bruselu dne 10.12.2021 COM(2021) 819 final ZPRÁVA KOMISE EVROPSKÉMU PARLAMENTU, RADĚ, EVROPSKÉMU HOSPODÁŘSKÉMU A SOCIÁLNÍMU VÝBORU A VÝBORU REGIONŮ Ochrana základních práv v digitálním věku –



výroční zpráva o uplatňování

Listiny základních práv EU za rok 2021







Ochrana základních práv v digitálním věku –



výroční zpráva o uplatňování

Listiny základních práv EU za rok 2021 Obsah Ochrana základních práv v digitálním věku – výroční zpráva o uplatňování Listiny základních práv EU za rok 2021 1. Úvod 2. Provádění nové strategie k posílení uplatňování Listiny základních práv v EU 3. Zajistit, aby se Listina stala kompasem EU pro digitální věk 4. Řešení výzev v oblasti moderování online obsahu 5. Ochrana základních práv při použití umělé inteligence 6. Řešení otázky digitální propasti 7. Ochrana lidí pracujících prostřednictvím platforem 8. Dozor nad digitálním dohledem 9. Spojit síly, aby se digitální věk stal pro základní práva příležitostí



1.Úvod Listina základních práv EU je účinným nástrojem využívaným k ochraně, prosazování a dalšímu posilování práv lidí v Evropské unii. Základní práva neznamenají pouze ochranu lidí před nepatřičnými zásahy, jako je cenzura nebo hromadné sledování, posilují také postavení lidí tak, aby mohli plně využívat svých práv a příležitostí v životě. Vždy je možné zlepšit podmínky a rozsah, v jakém mohou lidé požívat svých práv. Listina může být vodítkem pro politické činnosti v celé EU. Čím více lidí si bude vědomo práv zaručených v Listině a toho, jak tato práva využít, tím silnější tato práva budou. Pandemie COVID-19 podrobila ochranu a záruky našich základních práv a svobod zkoušce. Jakákoli omezení základních práv musí být nezbytná a přiměřená. Vyžaduje to Listina základních práv EU, která je závazným unijním právním předpisem. Chrání a prosazuje širokou škálu práv spojených s lidskou důstojností, svobodou, rovností a solidaritou a všechny vnitrostátní soudy mohou Listinu uplatňovat v případech, kdy je prováděno právo EU, jež je relevantní pro konečný rozsudek.

Od roku 2009 má Listina stejný právní status jako Smlouvy, primární právo EU, od něhož se odvozují právní předpisy EU. Evropské orgány ji musí dodržovat při všech svých činnostech a členské státy EU při provádění práva EU. Kdy musí členské státy Listinu dodržovat? – Když se členské státy dohodnou v Radě a s Evropským parlamentem na přijetí nových právních předpisů EU, je často nezbytné uvést takové právní předpisy v účinnost prostřednictvím vnitrostátních opatření, kterými se tyto právní předpisy provádějí. – Když členské státy přijmou nebo změní právní předpisy týkající se záležitosti, v níž právo EU ukládá konkrétní povinnosti, nesmí být jejich právní předpisy v rozporu s právem EU včetně Listiny, neboť takové legislativní opatření by představovalo provedení práva EU. – Programy financování z EU jsou zakotveny v právních předpisech EU. Členské státy musí zajistit, aby tyto finanční prostředky byly vynakládány v souladu s pravidly stanovenými v těchto právních předpisech. Pokud členské státy provádějí programy financování, provádějí právo EU. – Pokud členské státy přijímají nebo mění právní předpisy v oblasti, kde EU nemá pravomoc a kde neexistuje žádné právo EU, neprovádějí právo EU. V takových případech nejsou vázány Listinou. Mnohá základní práva zakotvená v Listině jsou však zároveň zakotvena ve vnitrostátních ústavách a judikatuře, jakož i v Evropské úmluvě o lidských právech, jejímiž signatáři jsou všechny členské státy EU. Aby zlepšila informovanost všech, pokud jde o Listinu, zveřejňuje Evropská komise od roku 2010 zprávy o provádění Listiny. Toto vydání je prvním, které uplatňuje nový přístup oznámený ve Strategii na posílení uplatňování Listiny základních práv v EU (dále jen „strategie uplatňování Listiny“) . Výroční zpráva se zaměří na konkrétní téma upravené právem EU a bude se blíže zabývat osvědčenými postupy a výzvami v členských státech v dané oblasti. Díky tomu bude možné prozkoumat systémový vývoj a ukázat, jak se mohou různá práva navzájem posilovat a jak může politický, společenský a hospodářský vývoj ovlivnit více práv současně. Tématem vydání z roku 2021 je ochrana základních práv v digitálním věku v souladu se strategickým zaměřením Evropské komise na digitální transformaci. Z jakých údajů tato zpráva vychází? Tato zpráva je vypracována na základě: – příspěvků členských států EU, které byly vyzvány, aby poskytly poznatky ze svého vnitrostátního pohledu, – cílené konzultace zaměřené na zastřešující organizace evropských organizací občanské společnosti, které působí v oblasti základních práv, a – zpráv agentur EU, zejména výročních zpráv Agentury Evropské unie pro základní práva (FRA) o základních právech, které obsahují oddíl věnovaný základním právům a digitalizaci. 2.Provádění nové strategie k posílení uplatňování Listiny základních práv v EU Cílem strategie uplatňování Listiny, kterou Komise přijala v roce 2020, je zajistit, aby byla Listina uplatňována v plném rozsahu a aby se základní práva stala skutečností pro všechny. Strategie uplatňování Listiny vymezuje rámec pro společnou práci v oblasti základních práv v celé EU na následujících deset let a je plně podporována členskými státy . Vodítkem při realizaci cílů stanovených ve strategii uplatňování Listiny jsou čtyři níže vysvětlené priority. 2.1Podpora a sledování účinného uplatňování Listiny v členských státech Ústřední význam z hlediska vymáhání a ochrany práv zaručených Listinou a vytváření příznivého prostředí pro organizace občanské společnosti a obránce práv mají celostátní a místní orgány státní správy, parlamenty a donucovací orgány. Komise úzce spolupracuje s členskými státy, aby jim pomohla provádět právo a politiky EU účinným způsobem a v plném souladu s Listinou. Komise rovněž pomáhá členským státům provádět programy financované z EU v souladu s Listinou. Nařízení o společných ustanoveních stanoví pravidla, která je třeba dodržovat při čerpání různých fondů EU. Nařízení vyžaduje, aby členské státy zřídily a používaly účinné mechanismy k zajištění souladu programů financovaných z EU s Listinou, například opatření k zajištění toho, aby monitorovacímu výboru byly oznamovány stížnosti týkající se Listiny nebo případy nesouladu operací podporovaných z fondů s Listinou. Komise bude i nadále poskytovat technickou pomoc, která členským státům pomůže zajistit, aby programy podporované z fondů EU byly navrženy a prováděny způsobem, který bude v souladu s Listinou. V rámci jednoho konkrétního režimu financování, programu Občané, rovnost, práva a hodnoty (CERV), vytvořila Komise nové příležitosti pro celostátní, regionální a místní orgány k získání finančních prostředků na projekty, které prosazují kulturu hodnot a posilují povědomí o Listině . Důležitou úlohu při prosazování takové kultury a ochraně základních práv hrají města. Řada měst se připojila k síti „měst lidských práv“ a začlenila základní práva do tvorby svých politik. Na svém Fóru o základních právech v říjnu 2021 zveřejnila agentura Evropské unie pro základní práva zprávu nazvanou „Lidská práva v EU: rámec pro posílení práv na místní úrovni“ . Rámec obsahuje nástroje, které mají starostům, místním samosprávám a orgánům státní správy a organizacím na základní úrovni pomoci začleňovat do jejich práce standardy lidských práv. V návaznosti na Akční plán EU proti rasismu na období 2020–2025 představila Komise v listopadu 2021 cenu „Evropská hlavní města začleňování a rozmanitosti“. Bude udělovat ceny za osvědčené postupy, které mohou být zdrojem inspirace pro další evropská města a regiony při vytváření rozmanitějšího a inkluzivnějšího prostředí pro jejich obyvatele.

Ve strategii uplatňování Listiny Komise vyzvala členské státy, aby jmenovaly kontaktní místo pro záležitosti Listiny, které usnadní spolupráci a výměnu informací o uplatňování Listiny. K dnešnímu dni jmenovalo takové kontaktní místo pro záležitosti Listiny sedmnáct členských států. Jejich úloha má zásadní význam pro šíření informací a osvědčených postupů týkajících se povědomí o Listině a pro koordinaci úsilí v oblasti budování kapacit v zemi. Jejich činnost přispívá k vytvoření nové stránky osvědčených postupů členských států týkajících se Listiny, které byly spuštěny na portálu evropské e-justice v prosinci 2021 . Jako strážkyně Smluv podnikla Komise konkrétní kroky k zajištění dodržování práv zakotvených v Listině v případech, kdy vnitrostátní právní předpisy nebo postupy provádějící právo EU tato práva porušují, například zahájením řízení o nesplnění povinnosti. Komise jednala zejména s cílem zajistit dodržování: ·svobody sdružování nevládních organizací a práva na ochranu osobních údajů jejich dárců, ·akademické svobody, ·svobody projevu a plurality sdělovacích prostředků, ·lidské důstojnosti, ·práva na respektování soukromého života, ·práva všech lidí včetně LGBTIQ osob nebýt diskriminován na základě pohlaví a sexuální orientace. Komise ve všech členských státech sleduje mimořádná opatření přijatá během pandemie COVID-19 a jejich dopad, zejména pokud jde o dopad na právní stát, základní práva a na dodržování dalších ustanovení práva EU, jak je uvedeno ve zprávě o právním státu 2021 a v kapitolách věnovaných jednotlivým zemím. 2.2Posílení postavení organizací občanské společnosti, obránců práv a odborníků z praxe v oblasti justice Organizace občanské společnosti a nezávislé vnitrostátní orgány pro lidská práva jsou klíčovými partnery orgánů EU a členských států při prosazování a ochraně základních práv, demokracie a právního státu. Pomáhají zvyšovat povědomí lidí o jejich právech a pomáhají jim získat účinnou soudní ochranu. Tyto organizace musí být schopny pracovat v podpůrném prostředí, bez zbytečných regulačních omezení, překážek financování, nebo dokonce očerňujících kampaní, a musí také být schopny budovat své kapacity. Některé členské státy stále nemají plně funkční vnitrostátní instituce pro lidská práva, které tvoří důležité spojení mezi vládou a občanskou společností . Členské státy se vyzývají, aby tyto instituce zřídily a zajistily jim prostředky ke zcela nezávislému působení. Komise pozorně sleduje situaci organizací občanské společnosti a ve své výroční zprávě o právním státu informuje o vývoji souvisejícím s rámcem pro občanskou společnost. Zpráva o právním státu 2021 uvádí, že organizace občanské společnosti byly zasaženy pandemií COVID-19, a to nejen z důvodu omezení svobody, pohybu a shromažďování, ale také z hlediska financování. Podle zprávy bylo zapojení občanské společnosti do navrhování a provádění opatření týkajících se onemocnění COVID-19 obecně omezené. Zpráva o právním státu 2020 uváděla opatření, jež omezovala svobodu projevu organizací občanské společnosti. Údaje shromážděné agenturou FRA skutečně ukazují, že mnoho organizací občanské společnosti má za to, že vnitrostátní protipandemická opatření měla od března 2020 negativní dopad na jejich činnost. Ačkoli uváděly rostoucí poptávku, většina z nich čelila problémům z hlediska možnosti nadále poskytovat své služby. K praktickým problémům patří zrušení aktivit, psychologický dopad na zaměstnance a nižší pracovní příspěvek dobrovolníků. Komise dále podporuje obránce práv a organizace občanské společnosti prostřednictvím vyhrazeného financování, jako je například výzva k předkládání návrhů týkajících se ochrany a prosazování hodnot EU, která je zaměřena výhradně na malé a základní organizace občanské společnosti a v letech 2021–22 rozdělí 51 milionů EUR . Byla vyhlášena zvláštní výzva v hodnotě 2 milionů EUR na podporu soudních sporů a budování kapacit spojených s uplatňováním Listiny . Komise rovněž podporuje budování kapacit a povědomí o Listině pro soudce a další odborníky z praxe v oblasti justice. V prosinci 2020 Komise přijala novou Strategii evropského justičního vzdělávání na období 2021–2024 a v březnu 2021 vyhlásila výzvu k podávání návrhů na podporu projektů týkajících se justičního vzdělávání, v níž oblast základních práv představovala jednu z klíčových priorit . Bylo realizováno několik projektů justičního vzdělávání týkajících se Listiny, které spolufinancuje Komise v rámci svého programu Spravedlnost na období 2014–2020. Materiály justičního vzdělávání na téma základních práv jsou odborníkům z oblasti justice k dispozici na platformě uvedené do provozu v prosinci 2020 . 2.3Plné využívání Listiny základních práv při rozhodování v EU Orgány, instituce a jiné subjekty EU musí dodržovat Listinu při všech svých činnostech. Komise posiluje svou vnitřní kapacitu v oblasti dodržování Listiny a aktualizuje svůj soubor nástrojů pro zlepšování právní úpravy včetně pokynů z roku 2011 týkajících se základních práv při posuzování dopadů. Připravuje také zvláštní vzdělávání na téma Listiny a nástroj elektronického učení, který pracovníkům pomůže posuzovat dopad politik a legislativních návrhů Komise na základní práva. Nástroj elektronického učení bude zpřístupněn veřejnosti a spolu s aktualizovaným souborem nástrojů pro zlepšování právní úpravy a pokyny by se mohl stát užitečným zdrojem pro ostatní orgány EU, zákonodárce a tvůrce politik v členských státech. Komise je připravena podpořit Evropský parlament a Radu při zajišťování toho, aby ve své práci Listinu účinně uplatňovaly. 2.4Zvyšování povědomí občanů Spolu s přijetím této zprávy Komise zahajuje osvětovou kampaň týkající se Listiny, která bude informovat lidi o jejich právech a o tom, kam se obrátit v případě porušení jejich práv. Kampaň bude probíhat online, prostřednictvím mediálních akcí a sociálních sítí, a to s hashtagem #RightHereRightNow. Zaměří se na řadu konkrétních práv, jako je nediskriminace a rovnost, práva dítěte, svoboda projevu a informací a účinná soudní ochrana a spravedlivý proces. Do zvyšování povědomí budou zapojeni klíčoví partneři, jako jsou organizace občanské společnosti, vnitrostátní instituce a subjekty pro lidská práva, agentura FRA a další subjekty a agentury EU. Budou vytvořeny vazby na další informační kampaně týkající se práv a na konferenci o budoucnosti Evropy. Komise rovněž zajistila překlad své internetové stránky věnované Listině na internetových stránkách Europa do všech úředních jazyků EU a spustila novou verzi portálu evropské e-justice, který obsahuje informace o uplatňování Listiny a o tom, kde získat pomoc. 3.Zajistit, aby se Listina stala kompasem EU pro digitální věk

Evropská komise si stanovila jako svou prioritu utvářet digitální transformaci tak, aby byla přínosem pro všechny a nikdo nebyl opomenut. To, co bylo kdysi popisováno jako „svět offline“ a „svět online“, se dnes stává navzájem k nerozeznání. Z toho vyplývá řada problémů se zajištěním toho, aby byla v rychle se měnícím digitálním prostředí dodržována základní práva. Digitální technologie stále více prostupují do všech oblastí naší společnosti, přičemž je lze používat mnoha různými a často prospěšnými způsoby. Digitální řešení napomáhají pokroku vědeckého výzkumu, zvyšují průmyslovou výrobu, usnadňují přechod k udržitelnosti, usnadňují nejrůznější služby a jsou dnes hlavním prostředkem soukromé i veřejné komunikace. Zvyšují možnosti lidí účastnit se demokratického diskurzu a získávat informace o jakémkoli tématu. Zejména systémy umělé inteligence mohou sloužit k podpoře inovací a blahobytu a jednotlivci je mohou využívat jako nástroje ve všech oblastech života, například v oblasti zdravotní péče, překladů nebo podpory při rozhodování. Digitální automatizace pomáhá efektivněji organizovat práci a umožňuje bezprecedentní míru koordinace. Shromažďování údajů o činnosti lidí a vlivech této činnosti pomáhá lidem chápat a utvářet svět. Zároveň některá použití technologie představují riziko omezení účinnosti ochrany zaručené základními právy. Šíření nezákonného obsahu, jako jsou nenávistné projevy a pohlavní zneužívání dětí, ohrožuje právo oběti na důstojnost a šíření dezinformací narušuje demokratický diskurz a naše právo na přístup k informacím. Jsou-li procesy, nebo dokonce rozhodnutí automatizovány, může být obtížné zajistit transparentnost a odpovědnost za výstupy, například pokud se k rozhodování o rozdělování práce používá složitý software. Pokud scházejí informace nebo pokud je obtížné informace získat, může být posouzení a řešení případů porušení základních práv složité. Čím více se automatizovaný nástroj při vytváření výstupu opírá o externí činitele, jako jsou data a vstupy od lidí nebo jiných systémů, tím obtížnější je zajistit, aby takový nástroj již od počátku neporušoval práva, například z důvodu určitých inherentních předpojatostí, jež mohou mít v konečném důsledku dopad na rozhodování v pracovních souvislostech. Čím více údajů o lidech je shromážděno, tím je snazší tyto osoby sledovat a zasahovat do jejich soukromí. Síťové efekty mohou oslabit postavení jednotlivců vůči velkým organizacím, například na online tržištích nebo pracovních platformách, kde mají jednotlivci malou vyjednávací sílu nebo možnosti se organizovat. Současně jsou využívány k šíření nenávisti a nezákonného obsahu též platformy sociálních médií, například když šíří nezákonné nenávistné projevy, materiály týkající se pohlavního zneužívání dětí nebo teroristický obsah. Kromě toho zbývá ještě učinit mnoho, aby mohli všichni využívat nové a užitečné nástroje na místech, kde existuje nedostatečný přístup k internetu a schází vybavení nebo znalosti o tom, jak tyto nástroje používat. Tyto problémy se mohou vyskytovat jednotlivě, nebo v kombinaci v závislosti na daném kontextu. Mohou se vzájemně umocňovat a mohou se dotýkat několika základních práv najednou, což je třeba vzít v úvahu při řešení těchto výzev. Tato zpráva představuje některé z klíčových aspektů, kdy v důsledku používání digitální technologie vznikají problémy v oblasti základních práv. Ukazuje, jaká práva jsou v takových souvislostech dotčena, jak se vyvíjí situace v členských státech EU a jak členské státy a Evropská komise využívají Listinu k překonání jednotlivých výzev a k ochraně a prosazování práv občanů. 4.Řešení výzev v oblasti moderování online obsahu Internetoví zprostředkovatelé, například platformy sociálních médií, hrají v životě každého jednotlivce důležitou roli a podporují nové formy interakce mezi jednotlivci, orgány veřejné správy a podniky. Jejich používání vedlo k významnému nárůstu objemu informací, které jsou lidem k dispozici, a poskytuje lidem větší příležitosti k uplatnění jejich práva na svobodu projevu a na přístup k informacím, přičemž vytváří i různé prostory pro online aktivismus a sdružování jednotlivců a občanské společnosti. Velké platformy jako nová náměstí ·Některé online platformy se staly pro usnadnění výměny informací tak důležité, že v demokratické diskusi hrají zásadní úlohu. ·Vzhledem k tomu, že více než polovina obyvatel v EU používá sociální média, přičemž u osob ve věku 16–24 let tento podíl dosahuje téměř 90 %, mají vlivy návrhu a standardů těchto platforem široký společenský dopad. ·Nástroje a mechanismy, které tyto platformy používají k moderování obsahu a povzbuzování lidí k tomu, aby trávili co nejvíce času používáním jejich služeb, hrají zásadní úlohu při utváření informací a stanovisek, s nimiž se lidé na internetu setkávají. ·Boj proti nelegálnímu obsahu na těchto velkých platformách je náročný, neboť platformy se staly veřejným prostorem pro výměnu informací, aniž by nesly právní odpovědnost z hlediska aspektů veřejného zájmu. Využívání online platforem zároveň umocňuje společenské problémy, jako je polarizace nebo šíření nezákonného obsahu, často s výrazně negativními dopady na základní práva, jako je ochrana práv dítěte, ochrana spotřebitele, svoboda získávat a předávat informace a chránit duševní vlastnictví. Rozsah a rychlost šíření online obsahu, který sám o sobě není nezákonný, například dezinformací a konspiračních teorií, může ovlivnit demokratický diskurz, důvěru v instituce i zdraví, bezpečnost a rovné zacházení, jak bylo možné vidět v návaznosti na pandemii COVID-19. Demokracie v EU čelí mnoha výzvám včetně populismu, stále polarizovanější politické debaty a narušování důvěry veřejnosti v demokratické procesy v důsledku dezinformací. Tyto jevy ještě zhoršuje koordinované vměšování do voleb ze strany třetích zemí nebo soukromých zájmů, šíření dezinformací a nedostatek transparentnosti a odpovědnosti v případě cílené politické reklamy. Jsou vyjadřovány i obavy z toho, že určité skupiny nejsou dostatečně začleněny nebo zapojeny, například mladí nebo starší lidé nebo osoby se zdravotním postižením. Etnické menšiny, včetně romských komunit, LGBTIQ osob a žen se v různé míře a v závislosti na kontextu zdráhají angažovat jako političtí kandidáti kvůli strachu ze zastrašování, hrozeb, obtěžování a nenávistných projevů. Za těchto okolností opatření na ochranu základních práv přímo přispívají k prosazování hodnot EU, které předpokládají udržitelnou, rovnou, demokratickou a participativní společnost, v níž panuje tolerance, nediskriminace a pluralismus. Ústředním prvkem demokracie je svoboda projevu, a to i projevu na internetu. Jakákoli legislativní nebo nelegislativní opatření týkající se moderování obsahu a odpovědnosti internetových zprostředkovatelů za obsah jejich služeb musí brát v úvahu, že právo na svobodu projevu zahrnuje právo vyjadřovat myšlenky, které mohou být považovány za kritické, urážlivé, hanlivé nebo kontroverzní, a že právo na svobodu projevu lze omezit jen za velmi přísných podmínek, včetně případů šíření údajně nezákonného obsahu, například materiálů obsahujících nenávistné projevy. Evropský soud pro lidská práva však také objasnil, že státy jsou oprávněny, a dokonce mohou mít pozitivní povinnost bojovat proti všem formám projevu, které šíří, podněcují, prosazují nebo ospravedlňují nenávist namířenou vůči osobám nebo skupinám, které přísluší k určitému etniku nebo náboženství. Dezinformace a mylné informace často nebývají nezákonné, ačkoli mohou být znepokojivé nebo urážlivé. U projevu chráněného svobodou projevu je primární povinností státu zdržet se vměšování a cenzury, stát však má zároveň pozitivní povinnost zajistit příznivé prostředí pro inkluzivní a pluralitní veřejnou diskusi, zejména pokud jde o volby a uplatňování svobody sdělovacích prostředků. Taková opatření přesahují rámec moderování obsahu a jsou spojena se zásadnějšími vzdělávacími a informačními akcemi. Soukromé subjekty jako například online platformy definují své vlastní podmínky a obchodní model v rámci výkonu svého práva na smluvní svobodu a svobodu podnikání bez státních pokynů, pokud jde o druh obsahu, který by měly povinnost hostovat. Za těchto podmínek by mohly přijímat opatření, která významně ovlivňují uživatele a jejich práva. Proti takovým soukromým rozhodnutím není vždy k dispozici opravný prostředek, který by umožnil vyvážit taková rozhodnutí vůči právům a oprávněným zájmům jednotlivců a zajistil určitou míru předvídatelnosti. Pokud online platformy nadměrně odstraňují zákonný obsah, mohou výrazně omezit svobodu projevu a informací. 4.1Stav na úrovni členských států V cílené konzultaci pro účely této zprávy subjekty občanské společnosti oznámily problémy v členských státech, které byly způsobeny určitým nezákonným online obsahem, například očerňující kampaně a útoky na ty, kdo se snaží chránit práva ostatních. Jako nepřiměřeně častý cíl byly uváděny ženy, zejména ženy jiné barvy pleti nebo ženy patřící ke zranitelným skupinám, jako jsou migranti a Romové, jakož i LGBTIQ osoby. Děti používající online platformy jsou vystaveny nevhodnému, škodlivému a násilnému obsahu a online predátorům, což rovněž zvyšuje riziko groomingu (navázání citového vztahu s dítětem v online prostředí za účelem pohlavního zneužívání) a náboru do extremistického prostředí. Bylo uváděno, že sexuální násilí na dětech se prostřednictvím internetu rozšířilo, například kvůli zvýšené poptávce po materiálech týkajících se pohlavního zneužívání dětí. V několika členských státech byly také organizacemi občanské společnosti jako problém ovlivňující zdraví a bezpečnost, jakož i demokratický diskurz určeny dezinformace. Panovala všeobecná obava z nedostatečné transparentnosti (štítky, výstrahy při sdílení, oznámení o kontaktu) a nedostatečné mediální gramotnosti, pokud jde o nepravdivý nebo zavádějící obsah. Šíření nezákonného obsahu a dezinformací bylo považováno za hrozbu, konzultované organizace občanské společnosti však také varovaly před dopady na svobodu projevu, pokud se k řešení takových hrozeb používají špatně nastavené politiky moderování. Organizace občanské společnosti uvedly, že k umlčení hlasů na internetu byla zneužita ochrana autorských práv a že zákony o pomluvách a oslavování terorismu byly použity k represím vůči jednotlivcům. Nízká přesnost automatizovaných systémů pro moderování obsahu, zejména pokud jsou použity v případě obsahu, u něhož posouzení jeho zákonnosti závisí na vysoké míře zasazení do kontextu, vyvolávala obavy z neodůvodněných dopadů na svobodu projevu prostřednictvím příliš rozsáhlého odstraňování obsahu a umlčování některých prohlášení a názorů, včetně prohlášení a názorů menšin. Podle akademiků a respondentů cílené konzultace může použití algoritmů pro přizpůsobení zobrazení obsahu uživatelům také narušit demokratický diskurz, protože je často zaměřeno spíše na zvýšení příjmů z reklamy, než aby se řídilo cílem poskytování spolehlivých informací veřejnosti ve veřejném zájmu. Podobná tvrzení, že algoritmy používané k přizpůsobení obsahu, jejž uživatelé vidí, jsou škodlivé, též tlumočili oznamovatelé prostřednictvím tisku. Kromě účinků používání takových systémů na základní práva bylo uváděno, a to respondenty cílené konzultace, že systémy jsou často zaváděny netransparentním nebo ne zcela transparentním způsobem a s malou odpovědností za jejich výstupy.

Několik členských států EU regulovalo digitální služby se sídlem na jejich území. Cílem těchto právních předpisů je zajistit, aby poskytovatelé služeb dodržovali určitá procesní pravidla v případech, kdy uživatelé nebo úřady oznámí nezákonný obsah. Někdy se týkají zvláštních kategorií nezákonného obsahu, jako je porušování autorských práv nebo nezákonné nenávistné projevy. Přesné požadavky těchto právních předpisů se však často liší v řadě bodů, jako jsou: ·informace požadované pro hlášení nezákonného obsahu, ·možnost reakce subjektů, které daný obsah zveřejnily, ·časový rámec pro reakci poskytovatelů služeb, ·případná povinná opatření proti oznámením o zneužití nebo ·možnost předložit sporné případy nezávislé třetí straně. V poslední době několik členských států vzhledem k rostoucím obavám ohledně šíření nenávistných projevů a teroristického obsahu přijalo, navrhlo nebo plánuje přijmout dodatečná pravidla, která se zaměřují zejména na určité kategorie nezákonného obsahu a někdy se vztahují i na poskytovatele služeb usazené mimo území těchto členských států. Panuje však značná právní roztříštěnost vyplývající z individuálních snah členských států bojovat proti nezákonnému online obsahu a poskytovat různé druhy záruk svobody projevu. Několik členských států, jakož i Rada a Evropský parlament vyzvaly k řešení těchto společných problémů na úrovni EU. Kromě toho řada členských států podotkla, že nedostatečná přeshraniční spolupráce mezi vnitrostátními orgány brání účinnému dohledu nad online platformami, které působí přeshraničně . 4.2Politická reakce EU Na základě požadavků členských států bylo na úrovni EU přijato několik odvětvových iniciativ k řešení problému konkrétních druhů nezákonného obsahu, jako je obsah související s terorismem, pohlavním zneužíváním dětí, podněcováním k nenávisti a násilí, obchodováním s lidmi, nebezpečnými produkty a porušováním autorských práv, které současně zaručují ochranu základních práv. Směrnice o audiovizuálních mediálních službách Revidovaná směrnice o audiovizuálních mediálních službách byla přijata v roce 2018. Směrnice obsahuje opatření na ochranu nezletilých osob před audiovizuálním obsahem a obchodními sděleními, které by je mohly tělesně, psychicky nebo mravně ohrožovat. Členské státy také musí zajistit, aby audiovizuální mediální služby neobsahovaly žádné podněcování k násilí či nenávisti namířeným proti osobám z některého z důvodů uvedených v článku 21 Listiny základních práv Evropské unie. Lhůta pro provedení této směrnice ve vnitrostátním právu byla 19. září 2020. V listopadu 2020 zahájila Komise řízení o nesplnění povinnosti (výzvy) proti 23 členským státům, které směrnici neprovedly ve vnitrostátním právu, a mnoho členských států ji provedlo v následujícím roce. V září 2021 zaslala Komise druhé varování (odůvodněná stanoviska) devíti členským státům, které neoznámily úplné provedení směrnice. Provádění revidované směrnice o audiovizuálních mediálních službách má zásadní význam nejen pro účastníky trhu, ale také pro jednotlivce (včetně diváků a nezletilých osob). Směrnice o autorském právu na jednotném digitálním trhu Směrnice o autorském právu byla přijata v dubnu 2019 a jejím cílem je zajistit, aby nositelé práv získali spravedlivou odměnu za užití jejich díla. Nastoluje tak rovnováhu mezi konkurenčními základními právy, jako je právo na duševní vlastnictví, svoboda projevu a informací, svoboda věd a právo na vzdělání a kulturní rozmanitost. Směrnice zavádí povinné výjimky z autorského práva, které chrání svobodu projevu uživatelů, kteří vytvářejí a nahrávají obsah na služby sdílení obsahu online. Směrnice požadovala, aby Komise zorganizovala dialog se zúčastněnými stranami s cílem projednat osvědčené postupy spolupráce mezi poskytovateli služeb sdílení obsahu online a nositeli práv, se zvláštním přihlédnutím k nutnosti vyvážit základní práva a používání výjimek a omezení. V návaznosti na tento dialog přijala Komise v červnu 2021 pokyny na podporu jednotného uplatňování článku 17 směrnice, který stanoví nová pravidla pro používání chráněného obsahu službami pro sdílení obsahu online . Pokyny uvádějí praktická doporučení k hlavním ustanovením článku 17, pomáhají účastníkům trhu lépe dodržovat vnitrostátní právní předpisy vycházející ze směrnice a zohledňují názory shromážděné od členských států a zúčastněných stran. Kodex chování pro boj proti nezákonným rasistickým a xenofobním nenávistným projevům V roce 2016 Komise podepsala s nejvýznamnějšími online platformami dobrovolný kodex chování, který má zajistit, aby byla oznámení nezákonných rasistických a xenofobních projevů posuzována urychleně, a to nejen podle podmínek poskytování služeb daných společností, ale i podle právních předpisů členských států používaných k provádění práva EU, které nenávistné rasistické a xenofobní projevy kriminalizuje. Dodržování kodexu chování je pravidelně sledováno. Kodex přináší dobré výsledky a napomohl i na spolupráci založenému přístupu online platforem, členských států a občanské společnosti, který má zajistit vysoce kvalitní moderování obsahu, u něhož je vyžadováno hluboké pochopení kulturních, jazykových a historických souvislostí sporného obsahu. Doporučení k bezpečnosti novinářů a dalších pracovníků sdělovacích prostředků Bezpečnost se stala pro novináře zásadním problémem kvůli online podněcování k nenávisti, hrozbám fyzického násilí, ale také rizikům v oblasti kybernetické bezpečnosti a nezákonnému sledování. Dne 16. září 2021 vydala Evropská komise doporučení o ochraně, bezpečnosti a posílení postavení novinářů. Doporučení vybízí členské státy, aby prosazovaly spolupráci mezi online platformami a organizacemi se zkušenostmi v boji proti hrozbám namířeným proti novinářům, například podporou jejich potenciální úlohy důvěryhodných oznamovatelů. Nejenže se novináři a další pracovníci sdělovacích prostředků stávají terčem online podněcování k nenávisti a výhrůžek fyzickým násilím, ale mohou být rovněž vystaveni nezákonnému sledování a doporučení uvádí, že příslušné vnitrostátní orgány pro kybernetickou bezpečnost by na požádání měly pomáhat novinářům, kteří potřebují zjistit, zda jejich zařízení nebo online účty nebyly napadeny, při vyhledávání služeb forenzních vyšetřovatelů v oblasti kybernetické bezpečnosti. Členské státy by měly rovněž prosazovat pravidelný dialog mezi těmito subjekty v oblasti kybernetické bezpečnosti, sdělovacími prostředky a odvětvím, zejména za účelem podpory povědomí o kybernetickém prostředí a digitálních dovedností novinářů. Nařízení o potírání šíření teroristického obsahu online Bezpečnost a dodržování základních práv nejsou cíle protichůdné, ale naopak konzistentní, které se vzájemně doplňují. Bezpečnost online prostředí i fyzického prostředí vyžaduje boj proti nezákonnému online obsahu. Aby zajistily, že bude teroristický obsah odstraňován, přijaly Evropský parlament a Rada v roce 2021 nařízení týkající se šíření teroristického obsahu online. Nařízení obsahuje řadu záruk základních práv, zejména svobody projevu. Příkazy vnitrostátních orgánů k odstranění obsahu lze například vydávat pouze pro teroristický obsah ve smyslu definovaném v nařízení a tyto příkazy musí odůvodňovat, proč je daný materiál považován za teroristický obsah. Nařízení stanoví výjimku pro obsah šířený pro vzdělávací, žurnalistické, umělecké nebo výzkumné účely a obsah šířený pro osvětové účely namířené proti teroristické činnosti. Online platformy nejsou povinny používat k proaktivní identifikaci nebo odstranění teroristického obsahu automatizované nástroje, avšak pokud jsou použita technická opatření, měly by být zavedeny záruky, které zajistí přesnost, zejména prostřednictvím lidského dohledu a ověřování. K březnu 2023 budou členské státy a online platformy také muset vydávat výroční zprávy o opatřeních přijatých k odstranění teroristického obsahu a o fungování případných automatizovaných nástrojů, které mohly být použity. Právní předpisy zabývající se pohlavním zneužíváním dětí online

Opatření v oblasti právní úpravy za účelem potírání nelegálního obsahu se z velké části zaměřovala na veřejně dostupný obsah, jako je obsah zveřejňovaný na sociálních médiích nebo internetových stránkách, je však třeba řešit také problém materiálů týkajících se pohlavního zneužívání dětí sdílených prostřednictvím interpersonální komunikace, včetně nástrojů interpersonální komunikace ve službách sociálních médií. Prozatímní právní předpis, jenž vstoupil v platnost v srpnu 2021, zajišťuje, že určité online komunikační služby, jako je webový e-mail nebo služby výměny zpráv, mohou i nadále – v nezbytně nutném rozsahu – používat konkrétní technologie k odhalování materiálů pohlavního zneužívání dětí, jejich oznamování a odstraňování, a to při zajištění řady záruk na ochranu soukromí a ochranu osobních údajů v souladu s obecným nařízením o ochraně osobních údajů. U mechanismů pro odhalování pohlavního zneužívání dětí v interpersonální komunikaci existuje riziko dopadu na základní práva, zejména právo na důvěrnost komunikace, ochranu osobních údajů nebo svobodu projevu. Cílem prozatímního nařízení je uvedený dopad zmírnit omezením použití na technologie nejméně narušující soukromí v souladu se současným stavem vývoje v odvětví. Nařízení stanoví také mechanismy nápravy, které musí být zavedeny s cílem zajistit, aby jednotlivci mohli u poskytovatelů podat stížnost, pokud je jejich obsah odstraněn neoprávněně. Komise připravuje i návrh právního předpisu, který nahradí toto prozatímní opatření, poskytne poskytovatelům služeb právní jistotu a zajistí jednotný přístup k odhalování, oznamování a odstraňování materiálů pohlavního zneužívání dětí a zároveň zajistí správnou rovnováhu mezi právy dítěte a potřebou chránit děti před pohlavním zneužíváním a právem všech uživatelů online služeb na soukromý život a komunikaci. Strategie EU pro boj proti obchodování s lidmi na období 2021–2025 Boj proti modelu digitálního podnikání obchodníků s lidmi je jednou z priorit strategie EU pro boj proti obchodování s lidmi na období 2021–2025, kterou Komise představila v dubnu 2021. Součástí řešení na podporu úsilí v boji proti obchodování s lidmi identifikací a odstraňováním online materiálu souvisejícího s vykořisťováním a zneužíváním obětí obchodování s lidmi jsou poskytovatelé internetových služeb a související společnosti. Komise povede dialog s příslušnými internetovými a technologickými společnostmi s cílem omezit využívání online platforem pro nábor a vykořisťování obětí. Komise rovněž usnadní případná obdobná jednání, která povedou členské státy na vnitrostátní úrovni. Návrh nařízení – aktu o digitálních službách Návrh nařízení – aktu o digitálních službách, který Komise přijala v prosinci 2020 a který je v současnosti projednáván se spolunormotvůrci, představuje rámec pro odpovědnost internetových zprostředkovatelů. Aniž jsou dotčena odvětvová pravidla EU, jako jsou pravidla týkající se autorských práv nebo teroristického obsahu online, stanoví jednotný horizontální soubor pravidel v EU pro vyváženou správu moderování online obsahu. Návrh zajišťuje odpovídající ochranu všech základních práv včetně svobody projevu a práva na soukromý život uživatelů, svobody podnikání a smluvní svobody platforem a práv duševního vlastnictví. Jeho cílem je také zmírňovat rizika osob ve zranitelném postavení a zranitelných skupin, chránit je před hrozbami, zastrašováním nebo diskriminačním chováním a chránit právo všech uživatelů online služeb na lidskou důstojnost. Návrh nařízení se snaží těchto cílů dosáhnout tím, že: ·do značné míry zachová stávající režim odpovědnosti pro internetové zprostředkovatele, včetně zákazu obecných povinností sledování či aktivního zjišťování skutečností. Tento přístup vychází ze stávající směrnice o elektronickém obchodu. Jeho cílem je řešit: i) přiměřenou a vhodnou ochranu práva na svobodu projevu, a to omezením pobídek k odstranění zákonného obsahu, a práva podnikat, a to zajištěním proporcionality úsilí požadovaného od internetových zprostředkovatelů a ochrany jejich oprávněných podnikatelských uživatelů a ii) otázky v oblasti veřejné politiky spojené s šířením různých typů nezákonného obsahu, a to zajištěním jeho rychlého odstraňování ze strany zprostředkovatelů za podmínek stanovených zákonem, ·stanoví jasné a přiměřené povinnosti v oblasti náležité péče pro internetové zprostředkovatele, aby se zajistilo, že nezákonný obsah bude náležitě a transparentně potírán a uživatelé budou moci uplatnit svá práva. Návrh také stanoví důsledný soubor záruk pro postupy moderování obsahu, včetně těch, které jsou založeny na soukromě stanovených podmínkách, ·ukládá velmi velkým online platformám (těm, které díky svému dosahu získaly ústřední systémovou úlohu při usnadňování veřejné rozpravy) povinnost posuzovat a zmírňovat rizika, která představují jejich služby, a to i pokud jde o určitá základní práva: respektování soukromého a rodinného života, svobodu projevu a informací, nediskriminace a práva dítěte. Strategie zmírňování rizik musí také zohledňovat potenciálně negativní účinky algoritmů pro rozšiřování obsahu platforem, jako jsou doporučující nebo reklamní systémy. Velmi velké online platformy rovněž podléhají povinnosti zvýšené odpovědnosti a musí uživatelům nabízet více možností v jejich online interakcích a umožňovat nezávislým auditorům a prověřeným výzkumným pracovníkům, aby prováděli kontroly jejich systémů. Boj proti dezinformacím a regulace politické reklamy na internetu Šíření dezinformací, zavádějících informací a konspiračních mýtů může vyústit v polarizaci debat a ohrozit zdraví, bezpečnost a životní prostředí. Dezinformace mohou také oslabit schopnost lidí činit informovaná rozhodnutí na základě přesných skutečností. V některých případech dezinformace představují verbální projevy, které stát může legitimně omezit (jako je podněcování k násilí a nenávisti na základě rasistických a xenofobních motivů). Velmi často jsou však chráněny právem na svobodu projevu, a to i pokud nemají žádný vědecký důkaz nebo oporu ve skutečných událostech. Pokud jde o chráněné verbální projevy, státy se musí zdržet cenzury. Aby byla opatření k omezení dosahu dezinformací a konspiračních mýtů účinná, musí být doprovázena podporou příznivého prostředí pro inkluzivní a pluralitní veřejnou rozpravu. Je to důležité zejména v souvislosti s volbami. Za této situace Komise v letech 2020–2021 pokračovala ve vývoji několika opatření, jejichž cílem je učinit internetové prostředí transparentnější a jeho aktéry zodpovědnější, posílit postavení uživatelů a podpořit otevřenou demokratickou diskusi online. Tyto kroky zahrnovaly i) podporu nezávislých ověřovatelů faktů a akademických výzkumných pracovníků, zejména prostřednictvím Evropského střediska pro sledování digitálních médií, ii) opatření ke zlepšení mediální gramotnosti a iii) monitorování samoregulačního kodexu zásad boje proti dezinformacím. Na základě výsledků těchto monitorovacích činností vydala Komise rovněž pokyny týkající se toho, jak by stávající a noví signatáři kodexu včetně aplikací pro zasílání soukromých zpráv, odvětví reklamy a dalších příslušných zúčastněných stran mohli posílit oblast působnosti a uplatňování kodexu a zajistit robustnější rámec monitorování. Za účelem prosazování demokratického diskurzu stanoví Evropský akční plán pro demokracii opatření na podporu svobodných a spravedlivých voleb, posílení svobody sdělovacích prostředků a pro boj proti dezinformacím. To zahrnuje návrh týkající se transparentnosti a cílení politické reklamy přijatý v listopadu 2021 jako součást opatření zaměřených na ochranu integrity voleb a otevřené demokratické diskuse. Podle těchto navrhovaných pravidel by jakákoli politická reklama byla jako taková jasně označena a obsahovala by informace např. o tom, kdo za ni zaplatil a kolik. Techniky politického cílení a zesilování by musely být veřejně vysvětleny v bezprecedentních podrobnostech a při použití citlivých osobních údajů bez výslovného souhlasu dotčené osoby by byly zakázány. A konečně, nový Akční plán digitálního vzdělávání (2021–2027) navrhuje vypracování pokynů pro učitele a pedagogické pracovníky týkající se boje proti dezinformacím a podpory digitální gramotnosti. Návrh nového nařízení o obecné bezpečnosti výrobků Aby vyhověla dalším odvětvovým požadavkům, Komise také v rámci přezkumu rámce EU pro bezpečnost výrobků v červnu 2021 přijala a zveřejnila návrh nového obecného nařízení o bezpečnosti výrobků. Tento návrh, který vychází z návrhu aktu o digitálních službách, by zavedl dodatečné požadavky na online tržiště týkající se nebezpečných výrobků jakožto zvláštní kategorie nezákonného obsahu. Tento návrh je v současné době projednáván se spolunormotvůrci.

5.Ochrana základních práv při použití umělé inteligence Využití technologií umělé inteligence (UI) může mít na naše společnosti významný pozitivní dopad. Může zvýšit efektivitu procesů nebo podněcovat inovace a výzkum. Lze je také použít k prosazování celé řady základních práv, jako je právo na svobodu projevu a informací nebo na zdravotní péči, a k podpoře důležitých otázek veřejného zájmu, jako je veřejná bezpečnost nebo veřejné zdraví. Na druhou stranu, pokud se umělá inteligence používá bez přiměřených záruk a kontrol kvality k automatizaci nebo podpoře rozhodovacích procesů nebo k činnostem, jako je dozor, může to znamenat i porušování práv fyzických osob. K takovýmto porušením může docházet ve velkém měřítku v závislosti na tom, jak široce se systém využívá, a může být obtížné jim zabránit nebo je odhalit, pokud není systém umělé inteligence dostatečně transparentní nebo pokud si lidé nejsou jeho použití vědomi. Například použití umělé inteligence k odvozování informací o lidech se může dotknout ochrany údajů a soukromí. Předpojatost v algoritmech nebo přípravě systému, například genderové stereotypy nebo předsudky týkající se etnického nebo rasového původu, může vést k nespravedlivým a diskriminačním výsledkům. Je-li systém pro odhad potenciálního úspěchu v práci nastaven převážně na základě údajů o mužích, bude pravděpodobně fungovat hůře, pokud se použije k analýze údajů o ženách, a to by mohlo vést k diskriminaci. Kromě toho může používání umělé inteligence ovlivnit také práva na lidskou důstojnost, řádnou správu, ochranu spotřebitele, sociální zabezpečení a pomoc, svobodu projevu, svobodu shromažďování, práva na vzdělávání, azyl, kolektivní vyjednávání a akce, slušné a spravedlivé pracovní podmínky, přístup k preventivní péči, kulturní a jazykovou rozmanitost, práva na ochranu údajů a respektování soukromého života, jakož i práva zranitelných skupin, například dětí. Pokud jsou tyto systémy používány v souvislosti s vymáháním práva nebo soudnictvím, mohou rovněž ovlivnit presumpci neviny a právo na spravedlivý proces a obhajobu. Nepřístupnost nebo neexistence příslušných informací o automatizovaných systémech navíc brání účinnému vymáhání povinností v oblasti základních práv a přístupu fyzických osob k zákonným opravným prostředkům. Co je umělá inteligence a jaké jsou její specifické vlastnosti, které mohou vést k rizikům?



– Umělá inteligence je označení souboru technologií, které v posledních letech prošly prudkým vývojem. V případě určitých typů systémů umělé inteligence se jejich funkce řídí pravidly, která jsou generována automaticky a nejsou výslovně naprogramována lidmi. To může někdy vést k působivým výsledkům, může to však také přinášet problémy. V návaznosti na definici umělé inteligence, kterou stanovila Organizace pro hospodářskou spolupráci a rozvoj, navrhovaný akt o umělé inteligenci definuje umělou inteligenci jako software, který je vyvíjen na základě strojového učení, logiky a znalostí nebo statistických přístupů a může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikuje. – Neprůhlednost (nedostatečná transparentnost) a složitost (provoz s mnoha různými složkami a procesy) některých systémů umělé inteligence ztěžuje identifikaci a prokazování možných porušení právních předpisů, včetně ustanovení zajišťujících dodržování základních práv, a zpětné dohledání možných chyb nebo nesprávného fungování systému. – Zvláštní dílčí kategorie aplikací umělé inteligence se může neustále přizpůsobovat, a to i během používání, a měnit se a vyvíjet nepředvídatelnými způsoby, které nelze snadno monitorovat. To vede k jisté míře nepředvídatelnosti, která může ovlivnit bezpečnost nebo základní práva. – Autonomní výkonnost systémů může ovlivnit bezpečnost, neboť některé systémy umělé inteligence vyžadují při provádění úkolů jen malý nebo žádný lidský zásah. – Závislost určitých systémů na datech a možná zkreslení zabudovaná do algoritmů mohou způsobit nebo zvýšit systémová zkreslení a chyby. Nejsou-li tyto systémy správně navrženy, vyzkoušeny a používány, mohou ještě zhoršit nepříznivé výsledky, jako je diskriminace. 5.1Stav a opatření na úrovni členských států V posledních letech se členské státy EU snaží řešit problémy, které přináší používání technologií umělé inteligence. Mnohé z nich vyvinuly národní strategie pro umělou inteligenci, v nichž zdůrazňují nutnost zajistit dodržování základních práv. Kromě toho členské státy vypracovaly nebo plánují vypracovat pokyny a etické normy, aby těm, kdo používají nástroje umělé inteligence, pomohly zajistit transparentnost, sledovatelnost a odolnost, řešit potenciální zkreslení a nalézt účinné způsoby, jak splnit povinnosti týkající se dodržování základních práv. V některých případech vypracovávají pokyny a odborné poznatky akademičtí pracovníci nebo expertní skupiny zřízené pro tento účel. Také v rámci společného postupu na úrovni EU členské státy zdůraznily, že je třeba zajistit, aby práva uvedená v Listině byla plně dodržována, a vyzvaly k přezkumu stávajících příslušných právních předpisů, aby odpovídaly danému účelu a aby bylo možné řešit nové příležitosti a výzvy, které umělá inteligence přináší. V říjnu 2020 přijalo 26 z 27 členských států dokument s názvem „Listina základních práv se zřetelem k umělé inteligenci a digitálním změnám“, ve kterém tyto státy vyzvaly k řešení neprůhlednosti, složitosti a neobjektivnosti, jakož i určité míry nepředvídatelnosti a částečně autonomního chování některých systémů umělé inteligence, s cílem zajistit, aby tyto systémy dodržovaly základní práva, a usnadnit prosazování právních norem. Členské státy zdůraznily, že je důležité zapojit různé zúčastněné strany, včetně subjektů občanské společnosti, aby bylo možné těžit z jejich odborných znalostí. V době přijetí této zprávy žádný členský stát EU nepřijal zvláštní právní předpisy k řešení problémů v oblasti základních práv, které přináší používání umělé inteligence. Spíše se zdá, že orgány v členských státech využívaly stávající právní předpisy. V roce 2017 nařídil italský soud italskému ministerstvu školství, aby zveřejnil automatizovaný rozhodovací algoritmus, který používalo pro řízení mobility pracovníků, a to na základě práva na přístup k dokumentům, které umožňuje i právo na účinnou soudní ochranu. V roce 2018 finský národní tribunál pro nediskriminaci a rovnost posoudil jako diskriminační případ přidělování sociálního kreditu podle statistických údajů o pohlaví, místě bydliště, věku a jazyce, a nikoli podle individuálního hodnocení. V únoru 2020 nizozemský soud zrušil platnost nizozemského právního předpisu, který zavedl systém odhalování podvodů založený na základním právu na soukromý život, jak je zakotveno v Evropské úmluvě o lidských právech. Tzv. „indikace systémového rizika“ (Sysi) byla použita k analýze dat shromážděných různými orgány veřejné moci za účelem odhalení lidí, kteří by se mohli dopouštět podvodů se sociálními dávkami. Nizozemský soud zjistil, že použití systému SyRi nebylo dostatečně transparentní a jeho zásah do práva na soukromí nebyl úměrný cíli, kterým bylo odhalování podvodů. Tyto příklady ukazují, že členské státy již čelily problémům, které používání umělé inteligence v souvislosti se základními právy přináší. Komisí navržený přístup k výzvám souvisejícím s umělou inteligencí má posílit účinnou ochranu základních práv a zároveň podpořit inovace v oblasti umělé inteligence. 5.2Návrh Komise na regulaci vysoce rizikové umělé inteligence V dubnu 2021 Komise předložila návrh nařízení o umělé inteligenci (akt o umělé inteligenci). Klíčovými cíli navrhovaného aktu o umělé inteligenci jsou ochrana základních práv a bezpečnosti a vytvoření jednotného trhu pro důvěryhodné systémy umělé inteligence. Cílem návrhu je zajistit, aby byly vysoce rizikové systémy umělé inteligence navrhovány a používány v souladu se základními právy a aby příslušné vnitrostátní orgány a soudy mohly účinněji vyšetřovat a řešit případná porušení povinností v oblasti základních práv. Návrh uplatňuje přístup založený na rizicích. Některé systémy umělé inteligence jsou zcela zakázány, například systémy využívající podprahové techniky a systémy používané orgány veřejné moci pro přidělování sociálního kreditu, neboť tyto systémy porušují hodnoty EU. Používání systémů biometrické identifikace na dálku ve veřejně přístupných prostorách pro účely vymáhání práva je rovněž zakázáno, kromě případů, kdy se použijí jasně definované výjimky a ochranná opatření. Vysoce rizikové systémy umělé inteligence budou muset před uvedením na trh nebo do provozu vyhovět souboru požadavků a podstoupit postupy posouzení shody. Tyto požadavky zajišťují náležitou dokumentaci a zkoušky vysoce rizikových systémů umělé inteligence, jakož i odpovídající kvalitu údajů, sledovatelnost, lidský dohled, robustnost, přesnost a kybernetickou bezpečnost. Budou uplatněny tam, kde se systémy umělé inteligence používají v kritických oblastech, jako je biometrická identifikace, vzdělávání, zaměstnání, základní veřejné a soukromé služby, jako jsou úvěry nebo dávky veřejné pomoci, vymáhání práva, migrace a ochrana hranic a soudnictví. Stejné požadavky se budou vztahovat i na systémy umělé inteligence, které jsou bezpečnostními součástmi určitých regulovaných produktů (např. strojů, zdravotnických prostředků), a tyto systémy budou muset být zkontrolovány, než je bude možné uvést na trh v EU nebo do provozu. Návrh zajišťuje, aby uživatelé systémů umělé inteligence, jako jsou společnosti, které přicházejí do styku s klienty, nebo orgány veřejné moci, které přijímají rozhodnutí, získávali od vývojářů systémů náležité informace, aby bylo zajištěno vhodné používání jejich aplikací a aby mohli uživatelé plnit své povinnosti vyplývající z právních předpisů v oblasti základních práv. Pokud by při používání systémů umělé inteligence docházelo k porušování základních práv, budou dotčeným osobám k dispozici účinné opravné prostředky na základě transparentnosti a sledovatelnosti systémů umělé inteligence, které doplní důsledné kontroly ex post ze strany příslušných orgánů. Dozorové orgány odpovědné za vymáhání základních práv, jako jsou úřady pro ochranu údajů, orgány pro rovné zacházení nebo spotřebitelské subjekty, budou mít přístup k veškeré dokumentaci o vysoce rizikových systémech umělé inteligence, které spadají do oblasti jejich působnosti. V případě potřeby budou moci spolupracovat s orgány dozoru nad trhem při zkouškách příslušných systémů umělé inteligence.

U konkrétních systémů umělé inteligence budou povinnosti transparentnosti vůči dotčeným osobám minimalizovat riziko manipulace, zejména v případě chatbotů (počítačové programy, které jsou schopny odpovídat na otázky v online chatu) nebo tzv. deep fakes (uměle generovaný nebo manipulovaný obrazový, zvukový nebo video obsah, který se podobá existujícím lidem, předmětům, místům nebo jiným subjektům nebo událostem a falešně se jeví jako autentický nebo pravdivý). Lidé by také měli být informováni, pokud budou používány systémy rozpoznávání emocí nebo biometrické kategorizace, což jim pomůže vymáhat jejich práva podle stávajících právních předpisů v oblasti ochrany údajů. Návrh je v současnosti projednáván se spolunormotvůrci. 5.3Interakce s odvětvovými právními předpisy – příklad hodnocení úvěruschopnosti a rizika úvěrů Návrh aktu o umělé inteligenci bude fungovat společně s dalšími právními předpisy, které stanoví hmotněprávní pravidla pro používání systémů umělé inteligence v jasně cílených kontextech. Poskytovatelé úvěrů například často používají techniky automatizovaného rozhodování, včetně systémů umělé inteligence, pro hodnocení úvěruschopnosti nebo hodnocení rizika úvěrů. Takoví poskytovatelé vycházejí z různých údajů, z nichž mnohé neposkytuje daný spotřebitel nebo tomuto spotřebiteli nejsou známy. To vyvolává obavy ohledně ochrany osobních údajů, přímé či nepřímé diskriminace a ochrany spotřebitele. Ustanovení o posuzování úvěruschopnosti obsahují směrnice o spotřebitelském úvěru a směrnice o hypotečním úvěru. V červnu 2021 přijala Komise nový návrh směrnice o spotřebitelských úvěrech, kterou se zrušuje a nahrazuje stávající směrnice o spotřebitelském úvěru. Navrhuje pravidla týkající se poskytování úvěrů spotřebitelům, podle nichž budou muset členské státy zajistit dokumentaci postupů a informací používaných při posouzeních úvěruschopnosti. Kromě toho budou muset posouzení vycházet z relevantních a přesných informací o finančních a ekonomických okolnostech (např. příjmech a výdajích) a neměla by být založena na údajích, jako jsou údaje ze sociálních médií. Spotřebitelé budou mít také právo na vysvětlení, jak bylo dosaženo rozhodnutí o jejich úvěruschopnosti, právo vyjádřit svůj názor a právo získat lidský zásah, což je odrazem zásad obecného nařízení o ochraně osobních údajů v oblasti automatizovaného rozhodování. Nový návrh také obsahuje článek o nediskriminaci, který upřesňuje, že podmínky, které mají být splněny pro poskytnutí úvěru, nesmí diskriminovat spotřebitele oprávněně pobývající v Unii z důvodu jejich státní příslušnosti nebo místa bydliště nebo z jakéhokoli důvodu uvedeného v článku 21 Listiny základních práv EU. Návrh je v současnosti projednáván se spolunormotvůrci. 5.4Dovednosti Pokud se používají systémy umělé inteligence, musí být pracovníci dostatečně kvalifikovaní, aby byli schopni zajistit dodržování základních práv a náležitý lidský dohled. Dozorové úřady budou také potřebovat zaměstnance se specifickými technickými dovednostmi, aby mohly účinně plnit svá pověření. V září 2020 přijala Komise Akční plán digitálního vzdělávání na období 2021–2027. Jeho cílem je podpořit digitální dovednosti, a to i ve vztahu k umělé inteligenci, a zahrnuje i vývoj etických pokynů v oblasti umělé inteligence a údajů ve vzdělávání a odborné přípravě. Kromě toho všechny členské státy, které přijaly národní strategie pro umělou inteligenci, začlenily do svých strategií prvek dovedností, například prostřednictvím reforem vzdělávacích systémů k posílení výpočetního myšlení nebo iniciativ k přizpůsobení politik celoživotního učení a rekvalifikace. 6.Řešení otázky digitální propasti Digitální připojení a kompetence umožňují aktivně se zapojit do společnosti. Stále větší počet základních činností se přesouvá do online prostředí, od hledání zaměstnání, výkonu zaměstnání formou práce na dálku, vzdělávání nebo styku s veřejnou správou až po objednání k lékaři. Ne každý je však připojen k internetu. Nepřipojení k internetu může ovlivnit lidi při uplatňování jejich práv. Například může ovlivnit práva lidí v demokratické společnosti, včetně jejich práva na svobodu projevu a informací a jejich práva kandidovat v komunálních volbách, neboť politické kampaně stále častěji probíhají online. U osob, které nemají potřebné vybavení nebo digitální znalosti, tyto problémy v oblasti přístupu k veřejným službám zhoršilo vypuknutí pandemie COVID-19, protože úřady byly uzavřeny a lidé měli s vnitrostátními správními orgány komunikovat online. Tento jev se často označuje jako „digitální propast“. Dosud postrádá 46 % Evropanů základní digitální dovednosti. Tuto skutečnost uznává Evropský pilíř sociálních práv, který zahrnuje digitální komunikaci mezi základní služby, k nimž by měl mít každý přístup, a vyzývá k podpůrným opatřením pro ty, kdo to potřebují. Osobám, které nemají řádný přístup k internetu, potřebné dovednosti k využívání těchto služeb nebo nemají přístup k digitálnímu produktu či službě z důvodu fyzického nebo kognitivního zdravotního postižení, stále větší měrou hrozí, že budou vyloučeny, a tyto osoby se setkávají s problémy při uplatňování svých práv. V případě veřejných služeb, které jsou přístupné výlučně digitálními prostředky, mohou osoby, které nejsou připojeny, zjistit, že nemohou uplatňovat svá práva nebo že by při jejich uplatňování potřebovaly pomoc. Například Haut Conseil du Travail, poradní orgán francouzského Ministerstva sociálních věcí, odhaduje, že jedna z pěti osob ve Francii má obtíže při snaze vyřídit administrativní postupy online, a varuje, že digitalizace může ohrozit zásadu rovného přístupu k veřejným službám, nejsou-li zachovány alternativní cesty přístupu. Obdobně také s tím, jak stále více hospodářských činností obsahuje digitální složku, je výkon práva na přístup ke službám obecného hospodářského zájmu stále více podmíněn přístupem k internetu. Děti, které nemají doma připojené zařízení, mají potíže se školní docházkou na dálku, což ovlivňuje práva dítěte a právo na vzdělání. Navíc v případě, kdy internetové stránky a mobilní aplikace nejsou přizpůsobeny potřebám osob se zdravotním postižením, může být omezeno právo těchto osob na začlenění. S ohledem na výzvy, které digitální propast představuje, členské státy a Komise provádějí řadu opatření s cílem zajistit, aby nikdo nebyl opomenut. Jak bylo oznámeno v Akčním plánu pro evropský pilíř sociálních práv, Komise v roce 2022 zveřejní zprávu o přístupu k základním službám, která se bude zabývat i přístupem k digitální komunikaci, a předloží přehled současného stavu v EU-27, jakož i mapování stávajících vnitrostátních a unijních opatření a osvědčených postupů podporujících přístup pro ty, kdo to potřebují. 6.1Obecné zmenšení digitální propasti Skutečnost, že během pandemie se mnoho aktivit přesunulo do online prostředí, není jen výzvou, ale také příležitostí. Členské státy vypracovaly projekty, které bude EU financovat s cílem pomoci hospodářství zotavit se z poklesu způsobeného pandemií. Tyto projekty zahrnují opatření k řešení digitální propasti a dosažení inkluzivních digitálních práv a k řešení otázky digitalizace práce. Jako příklad lze uvést dva národní plány. Rumunsko plánuje investovat do tvorby vzdělávacího obsahu a dostupných zdrojů, jako jsou videa a interaktivní lekce, a vyvinout dostupné programy digitální gramotnosti pro studenty se zdravotním postižením. Německo hodlá pomoci získat digitální zařízení pro učitele v celé zemi. Kromě toho zřídí platformu pro digitální celoživotní učení, přičemž bude zvláštní pozornost věnována podpoře formálně nejméně kvalifikovaných lidí. Obecněji řečeno, v různých členských státech existuje řada slibných iniciativ. V únoru 2021 vyhlásila Belgie veřejnou výzvu k předkládání projektů na podporu podnikatelek postižených pandemií COVID-19, včetně nabídnutí pokynů pro digitalizaci. Belgie rovněž investuje do místních organizací, jejichž cílem je zvýšit digitální dovednosti mladých lidí v nejisté ekonomické situaci. Portugalsko mobilizuje mladé dobrovolníky, aby pomohli vzdělávat dospělé v oblasti digitální transformace, a to pomocí celostátní sítě 1 500 školicích středisek a řady bezplatných nástrojů a zdrojů. Předpokládá se, že tento program digitální inkluze osloví jeden milion lidí a bude realizován ve spolupráci s místními úřady a místními organizacemi. Itálie, na základě principu podobného programu WiFi4EU, dotuje přístup k internetu pro určité osoby a zahájila projekt „Piazza Wifi Italia“, který více než 400 000 lidem umožňuje snadno a bezplatně se připojit prostřednictvím speciální aplikace k bezplatné síti WiFi rozšířené po celé zemi. V březnu 2020 byl tento projekt rozšířen na zdravotnická zařízení včetně nemocnic. Digitální infrastruktura se bude pravděpodobně nadále vyvíjet a EU v zájmu zlepšení konektivity přijala opatření v řadě oblastí. Hlavním cílem v oblasti konektivity v digitální dekádě je, aby každá evropská domácnost měla nejpozději v roce 2025 přístup k vysokorychlostnímu internetovému pokrytí a nejpozději v roce 2030 ke gigabitovému připojení. Komise a členské státy se v březnu 2021 dohodly na souboru nástrojů v oblasti konektivity s cílem podpořit zavádění digitálních sítí a usnadnit přístup ke spektru 5G. Cílem revize směrnice o snížení nákladů na širokopásmové připojení, jež je plánována na rok 2022, je další podpora zavádění digitálních sítí snížením administrativní zátěže, nákladů a rychlosti tohoto zavádění. Dlouhodobá vize pro venkovské oblasti, kterou Komise zveřejnila v červnu 2021, si kromě toho klade za cíl řešit rozdíly mezi městy a venkovem tím, že umožní přístup k rychlému internetovému připojení v sítích 5G (i pomocí financování z EU) a k digitální technologii a rovněž posílí digitální kompetence. Vysokorychlostní širokopásmové připojení je klíčovým faktorem umožňujícím digitální transformaci a obnovu po pandemii COVID-19. Komise se zavázala snížit digitální rozdíly z hlediska dostupnosti ve venkovských oblastech a EU bude investovat do síťové infrastruktury, standardu pro bezdrátový přenos dat a optických vláken, aby zajistila, že každý v EU bude mít přístup k energeticky účinné infrastruktuře digitálního připojení, jež obstojí i v budoucnosti. 6.2Veřejná správa Digitální technologie umožňují lidem těžit z širšího přístupu k veřejným službám a informacím, které jim mohou pomoci zvládat každodenní život a uplatňovat práva, zejména svobodu usazování a poskytování služeb. Od prohlášení z Malmö , které bylo podepsáno na summitu ve Švédsku v roce 2009, členské státy EU dosahují soustavného pokroku v modernizaci veřejné správy. Tallinské prohlášení z roku 2017 bylo podnětem k digitalizaci veřejných služeb pro fyzické osoby a přeshraničních veřejných služeb pro podniky . Berlínské prohlášení z prosince 2020 nejnověji zahrnulo mezi závazky členských států kroky k ochraně základních práv na internetu a cílem Lisabonského prohlášení z června 2021 je zajistit, aby „nikdo nezůstal opomenut“. Úsilí členských států zahrnuje rovněž digitalizaci soudnictví. Členské státy uplatňují různé přístupy, aby zajistily přístup k veřejným službám, a snaží se tuto digitální propast zmenšit a zároveň vyhovět požadavkům tohoto digitálního věku. Například Francie se rozhodla zachovat více cest zajištění přístupu k veřejným službám, aby předešla jakýmkoli překážkám. Lidé nejsou povinni kontaktovat státní správu elektronicky. Dánsko se vydalo jinou cestou: vytvořilo tzv. strategii „digitalizace jako standard“ a v roce 2014 zavedlo pro všechny kontakty se státní správou povinné používání elektronických prostředků. Aby řešil otázku digitální propasti, stát financuje opatření, jako je bezplatná osobní podpora v knihovnách, pomoc s nákupem vybavení a příspěvky na předplacený přístup k internetu. V podobném duchu vláda a místní knihovny v Nizozemsku zahájily iniciativu „Informační místo digitální státní správy“, kde školený zaměstnanec knihovny odpovídá na otázky a pomáhá lidem s tradičními digitálními službami státní správy, jako jsou daňová přiznání a sociální služby, stejně jako s novějšími službami, jako jsou aplikace související s koronavirovým onemocněním.

6.3Zdravotní péče Pandemie vedla k nárůstu poskytování zdravotní péče online, např. prostřednictvím virtuálních konzultací nebo prostřednictvím aplikací a softwaru vyvinutých pro diagnostické nebo léčebné účely. Některým osobám, například obyvatelům venkovských oblastí nebo malých ostrovů, tento trend usnadňuje získání lékařské podpory, zatímco pro jiné představuje novou překážku. Těm, kdo nemají přístup nebo kompetence, mohou opatření k překlenutí digitální propasti situaci zlepšit. Například Polsko zavedlo „internetový účet pacienta“, online nástroj, který pacientům umožňuje přístup k údajům o jejich minulé, současné nebo plánované lékařské léčbě a umožňuje jim vyřídit řadu záležitostí (e-recept, záznamy o historii návštěv, e-doporučení, e-neschopenka a nároky) bez nutnosti osobní návštěvy zdravotnického zařízení. 6.4Vzdělávání Několik členských států má politiky a programy na podporu přístupu k technologiím a posílení digitálních kompetencí v kontextu formálního vzdělávání. Řecko například poskytuje žákům a studentům, kteří to potřebují, poukázky na nákup vybavení, jako jsou tablety nebo počítače, a nabízí příslušné vzdělávací programy prostřednictvím virtuální „Akademie digitálních dovedností“, která zahájila činnost v roce 2020. Na úrovni EU stanovil Akční plán digitálního vzdělávání (2021–2027), který byl představen v září 2020, dlouhodobou strategickou vizi udržitelné a inkluzivní digitální transformace ve vzdělávání a odborné přípravě. Prosazuje právo na přístup k vysoce kvalitnímu digitálnímu vzdělání pro všechny a rovný přístup k infrastruktuře, přičemž věnuje zvláštní pozornost podpoře zapojení dívek a žen do předmětů v oborech STEM (přírodní vědy, technologie, inženýrství a matematika). 6.5Začlenění osob se zdravotním postižením Evropský kodex pro elektronické komunikace zajišťuje rovnocenný přístup a možnost volby pro koncové uživatele elektronických komunikací se zdravotním postižením, a tím usnadňuje zapojení do digitální společnosti. Evropský akt o přístupnosti vstoupí v účinnost v roce 2025 a rozšíří začlenění osob se zdravotním postižením a starších lidí do digitálního světa tím, že zpřístupní soubor klíčových produktů a služeb ze soukromého i veřejného sektoru. Směrnice o přístupnosti webových stránek z roku 2016 vyžaduje, aby členské státy zajistily, že webové stránky a mobilní aplikace subjektů veřejného sektoru budou přístupné lidem se zdravotním postižením, jako jsou lidé se zrakovým, sluchovým nebo motorickým postižením. Prosazuje tak svobodu projevu a informací, právo na vzdělání, svobodnou volbu povolání a právo pracovat, nediskriminaci, začleňování osob se zdravotním postižením, přístup ke službám obecného hospodářského zájmu, právo na přístup k dokumentům, právo volně se pohybovat a pobývat na území Unie, svobodu usazování a svobodu poskytovat služby. Směrnici lze provádět různými způsoby. Například Slovinsko zmodernizovalo svůj státní portál elektronické veřejné správy tak, aby jej mohli využívat nevidomí a osoby se zrakovým postižením, neslyšící a nedoslýchavé osoby, osoby s dyslexií a uživatelé s narušeným porozuměním. Textové popisy postupů jsou například doplněny krátkými videozáznamy, které jsou tlumočeny i do znakového jazyka. V Řecku byly během pandemie digitální učebnice upraveny tak, aby byly přístupné pro osoby se všemi kategoriemi postižení. 7.Ochrana lidí pracujících prostřednictvím platforem Online platformy zahrnují širokou škálu tržišť, sociálních médií a míst nabízejících kreativní obsah, platforem pro distribuci aplikací, webových stránek pro srovnávání cen, platforem pro ekonomiku sdílení i vyhledávačů. Usnadňují interakci mezi uživateli a podniky. Digitální pracovní platformy, samostatná podmnožina online platforem, se staly charakteristickým prvkem digitální ekonomiky. Práce prostřednictvím platforem vytvořila lidem nové hospodářské příležitosti, neboť jim umožnila například vykonávat činnosti na částečný úvazek a obecně usnadnila přístup na trh práce. Zároveň však představuje výzvy z hlediska základních práv, včetně ochrany osobních údajů, soukromí, práva pracovníků na informace a projednávání, práva na kolektivní vyjednávání a akce a na slušné a spravedlivé pracovní podmínky. Z 28 milionů osob, které podle odhadů pracují prostřednictvím digitálních pracovních platforem, může být až 5,5 milionu osob „falešně“ samostatně výdělečně činných . Ačkoli je smlouvy s platformami, prostřednictvím kterých pracují, popisují jako osoby samostatně výdělečně činné, ve skutečnosti podléhají kontrole a dohledu, jež jsou typické pro postavení „zaměstnance“. Existují také problémy vyplývající z obchodních modelů založených na algoritmech, jako je nedostatek informací a projednávání s lidmi pracujícími prostřednictvím platforem a jejich zástupci, pokud jde o způsob, jakým se algoritmy používají a jak ovlivňují pracovní podmínky při práci prostřednictvím platformy. Chybí také dostatečné opravné prostředky a není jasně stanovena odpovědnost, pokud jde o používání algoritmů. Práce prostřednictvím platforem Práce prostřednictvím platforem obvykle zahrnuje tři strany: platformu, osobu, která jejím prostřednictvím pracuje, a zákazníka (soukromé osoby nebo podniky). V některých případech by mohla být zapojena i čtvrtá strana, například restaurace, které dodávají jídlo. Digitální pracovní platformy se obvykle definují jako zprostředkovatelé a vztah mezi stranami charakterizují jako samostatně výdělečnou činnost. Pracovní úkoly prováděné na digitálních pracovních platformách mohou být různé, od složitých úkolů, jako je počítačové programování a grafický design, až po úkoly jednoduché, jako je označování fotografií. Předsedkyně Komise Ursula von der Leyenová ve svých politických směrech oznámila, že je třeba zlepšit pracovní podmínky v práci prostřednictvím platforem. To ještě více zdůraznila krize způsobená pandemií COVID-19 a rychlejší zavádění obchodních modelů fungujících na základě platforem. Nedávné usnesení Evropského parlamentu zdůrazňuje, že práce prostřednictvím platforem vyvolává obavy související s nejistotou a špatnými pracovními podmínkami, nedostatkem nebo obtížným přístupem k přiměřené sociální ochraně, roztříštěným a nepředvídatelným příjmem a s nedostatečnými opatřeními v oblasti bezpečnosti a ochrany zdraví při práci. Vyzývá k přijetí důrazných opatření EU pro řešení chybné klasifikace postavení v zaměstnání a pro zvýšení transparentnosti při používání algoritmů, a to i pro zástupce zaměstnanců. 7.1Stav a opatření na úrovni členských států Aby předešla nekalé hospodářské soutěži na úkor pracovníků a rychlému zhoršování postupů při zaměstnávání a sociálních standardů, stanovila EU minimální úroveň pracovních práv, která platí pro pracovníky ve všech členských státech. Soubor právních předpisů EU týkajících se práce a sociálních věcí se v průběhu let rozrůstal. Kromě toho se v jednotlivých členských státech liší vnitrostátní reakce na výzvy, které práce prostřednictvím platforem přináší. Některé státy přijaly vnitrostátní právní předpisy ke zlepšení pracovních podmínek nebo přístupu k sociální ochraně při práci prostřednictvím platforem. Ve značném počtu členských států soudy vydaly rozhodnutí k otázce chybné klasifikace postavení v zaměstnání. V některých členských státech zahájili sociální partneři a platformové společnosti jednání o kolektivních smlouvách. Francie v roce 2016 přijala formou revize zákoníku práce právní předpis zajišťující pracovní a sociální práva pro osoby pracující prostřednictvím platforem bez ohledu na odvětví ekonomické aktivity. Tento zákon se vztahuje na technologicky a ekonomicky závislé osoby samostatně výdělečně činné. Poskytuje přístup k systému dobrovolného pojištění pro případ pracovních úrazů, ukládá platformám povinnost platit pojistné nebo poskytovat kolektivní pojištění svých pracovníků a zaručuje právo na kolektivní akce a další vzdělávání. Kromě toho nejvyšší soud pro soukromé pracovněprávní záležitosti (kasační soud) ve dvou rozsudcích zdůraznil, že pracovníkům platformy v oblasti ride-hailingu (taxislužeb objednávaných prostřednictvím elektronické aplikace) musí být přiznán status zaměstnance tam, kde platforma může vydávat a vymáhat příkazy. Nadále však probíhá diskuse o skutečném postavení lidí pracujících prostřednictvím platforem, a to i v jiných sektorech. Italský region Lazio v roce 2019 přijal právní předpis, který má zlepšit pracovní podmínky a sociální ochranu všech pracovníků platforem bez ohledu na jejich postavení v zaměstnání. Tento právní předpis zahrnuje záruky pro pracovní úrazy, odpovídající bezpečnostní školení a pojištění odpovědnosti a úrazů. Zakazuje také platby za jednotlivé úkoly. Kromě toho v roce 2019 Itálie přijala vnitrostátní právní předpis ke zlepšení pracovních podmínek samostatně výdělečně činných řidičů v oboru rozvozu jídla. V červenci 2021 navíc italský úřad pro ochranu údajů nařídil společnosti Deliveroo Italy zaplatit pokutu ve výši 2,5 milionu EUR kvůli netransparentnímu používání algoritmů a nepřiměřenému shromažďování údajů o pracovnících. Úřad zjistil porušení některých ustanovení obecného nařízení o ochraně údajů a vnitrostátních právních předpisů v oblasti ochrany soukromí, italského statutu pracovníků a výše uvedeného právního předpisu na ochranu pracovníků. Španělsko přijalo v květnu 2021 právní předpis, který stanoví právní domněnku, podle níž jsou lidé pracující prostřednictvím platforem v oblasti rozvozu potravin i balíků považováni za zaměstnance, což přesouvá důkazní břemeno na platformy, které musí prokázat, že tomu tak není. Tento zákon navíc ukládá platformám povinnost poskytovat odborům informace o algoritmickém řízení, včetně digitálního sledování výkonu a automatizovaného přidělování pracovních úkolů. Zákon stanoví, že všechny společnosti (nejen doručovací platformy) musí své pracovníky informovat o parametrech a pravidlech, na kterých jsou založeny automatizované systémy, které mohou ovlivnit pracovní podmínky, přístup k zaměstnání a jeho udržení.

Německo zveřejnilo politické dokumenty o budoucnosti práce, které se týkají začlenění osob samostatně výdělečně činných, které vykonávají práci prostřednictvím platforem, do důchodových a pojistných systémů a modernizace jejich pojištění pro případ pracovních úrazů. V listopadu 2020 také Portugalsko zveřejnilo politický dokument o budoucnosti práce, který se týkal stanovení právní domněnky o postavení lidí pracujících prostřednictvím platforem, způsobů zvýšení sociální ochrany pro osoby samostatně výdělečně činné a metod, jak podpořit kolektivní zastoupení pracovníků platforem. V roce 2018 Portugalsko přijalo právní předpis o individuální placené přepravě cestujících, který stanoví meze pracovní doby pro řidiče. 7.2Společný přístup EU S ohledem na vnitrostátní přístupy vyvíjené k řešení různých problémů souvisejících s prací prostřednictvím platforem existuje riziko roztříštěnosti mezi různými vnitrostátními legislativními iniciativami. Komise v práci prostřednictvím platforem identifikovala řadu problémů a ve dvou fázích konzultovala evropské sociální partnery ohledně potřeby iniciativy týkající se práce prostřednictvím platforem a jejího případného zaměření. Evropští sociální partneři se shodli na problémech, jež je třeba řešit, jejich názory se však lišily, pokud jde o potřebu konkrétních opatření na úrovni EU. Kromě toho Komise vedla dialog s mnoha zúčastněnými stranami, mimo jiné prostřednictvím specializovaných a dvoustranných setkání se společnostmi provozujícími platformy, sdruženími zaměstnanců platforem, odborovými svazy, představiteli členských států, odborníky z akademické obce a mezinárodních organizací a zástupci občanské společnosti. Komise navrhla směrnici s cílem zlepšit pracovní podmínky pracovníků platforem na úrovni EU, a to zajištěním správného určení jejich postavení v zaměstnání, podporou transparentnosti, spravedlnosti a odpovědnosti při algoritmickém řízení práce prostřednictvím platforem a zlepšením transparentnosti práce prostřednictvím platforem, mimo jiné i v přeshraničních situacích, a zároveň podporou podmínek pro udržitelný růst digitálních pracovních platforem v Unii. 8.Dozor nad digitálním dohledem Ochrana dat a soukromí jsou klíčová základní práva v digitálním věku. Jsou také „umožňujícími“ právy, která usnadňují a zvyšují ochranu dalších základních práv, která mohou být dotčena dohledem ze strany státu nebo soukromého subjektu, jako je lidská důstojnost, svoboda projevu, svoboda myšlení, svědomí a náboženského vyznání nebo svoboda shromažďování, právo na spravedlivý proces a účinnou právní ochranu nebo nediskriminaci. Obecné nařízení o ochraně osobních údajů, směrnice o prosazování práva a ochraně údajů a směrnice o soukromí a elektronických komunikacích staví Evropu do čela v oblasti ochrany základních práv online. Narůstající digitalizace ve všech oblastech života přináší výzvy pro ochranu údajů a pro soukromý a rodinný život. Další právní předpisy, jako je akt o správě dat, o němž bylo nedávno dosaženo politické dohody mezi spolunormotvůrci, mají za cíl podpořit vznik silné ekonomiky založené na datech regulací služeb zprostředkovatelů dat, datového altruismu a opakovaného použití chráněných veřejných dat, a to v souladu s režimem ochrany údajů. Jaký je vztah mezi právy na soukromí a na ochranu údajů? Jedná se o samostatná, ale překrývající se základní práva zakotvená v článcích 7 a 8 Listiny základních práv. – Respektování soukromého a rodinného života (soukromí) chrání soukromou sféru před nezákonným narušením. Tímto právem je chráněna například důvěrnost mezilidské komunikace a elektronických koncových zařízení uživatelů před neoprávněným narušením. – „Ochrana osobních údajů“ se vztahuje pouze na případy, kdy jsou osobní údaje zpracovávány automatizovanými prostředky nebo v manuálně strukturované podobě. Toto právo není omezeno na informace týkající se soukromé sféry člověka, ale vztahuje se na jakékoli osobní údaje fyzické osoby, včetně údajů o jejím profesním životě. Základní zásady ochrany údajů představují transparentnost, korektnost a zákonnost činností zpracování osobních údajů. Ochrana údajů také znamená, že osobní údaje by měly být zpracovávány pouze pro konkrétní a výslovně vyjádřené účely, měly by být přesné, omezené na nezbytnou míru a měly by být uchovávány v bezpečí a pouze po nezbytně nutnou dobu. V praxi je silný právní rámec EU neustále podrobován zkouškám. Spotřebitelské organizace a organizace občanské společnosti zaměřující se na základní práva vyjadřují politování nad nedostatečným vymáháním práva v případech porušení obecného nařízení o ochraně údajů. V posledních letech EU a členské státy přijaly řadu opatření k zajištění veřejné bezpečnosti a k řešení bezpečnostních výzev s využitím moderních technologií. V této souvislosti vyjádřily organizace občanské společnosti znepokojení ohledně přiměřenosti politik sledování a bezpečnosti, například pokud jde o monitorování hranic EU nebo přijaté či navrhované právní předpisy, které by orgánům umožnily pro účely bezpečnosti kontrolovat soukromou komunikaci. Organizace občanské společnosti a odvětvové organizace rovněž vyjádřily obavy z toho, co vnímají jako pokusy členských států oslabit šifrování. Úřady pro ochranu údajů a vnitrostátní soudy zajistily účinnou právní ochranu všude tam, kde dohledová opatření ze strany soukromých i veřejných subjektů zakládají porušení základních práv. Několik příkladů: i) rozhodnutí švédského úřadu pro ochranu údajů o používání kamer nošených na těle revizory jízdenek ve stockholmské veřejné dopravě, které kritizovalo nedostatek transparentnosti a nadměrné shromažďování údajů a vedlo k pokutě ve výši 16,1 milionu SEK, nebo ii) rozhodnutí Conseil d'Etat (Státní rady) ve Francii, podle něhož musela policie přestat používat drony ke kontrole dodržování pravidel omezení fyzického kontaktu, neboť tyto drony byly technicky schopny identifikovat jednotlivé osoby a nebyly používány v souladu se zákonem o ochraně údajů. Navrhovaný evropský rámec digitální identity nabídne na dobrovolném základě každému občanovi a obyvateli EU důvěryhodnou a bezpečnou digitální peněženku pod plnou kontrolou uživatele jako samostatný prostředek přístupu k digitálním veřejným a soukromým službám a sdílení různých atributů a údajů. 8.1Uchovávání údajů Soudní dvůr EU rozhodl, že vnitrostátní právní předpisy upravující uchovávání telekomunikačních metadat (provozních a lokalizačních) pro účely vymáhání práva a zpravodajské účely od roku 2014 nesplňují požadavky práva EU. Soudní dvůr došel k závěru, že tyto vnitrostátní právní předpisy představují závažný a nepřiměřený zásah do práv na soukromí a ochranu údajů, neboť komunikační metadata mohou odhalit informace o značném počtu aspektů soukromého života dotčených osob. Jakkoli Soudní dvůr uznal, že opatření pro uchovávání údajů sledují legitimní cíle veřejného zájmu, mnohdy konstatoval, že až na některé výjimky právo EU brání legislativním opatřením, která ukládají poskytovatelům služeb elektronických komunikací jako preventivní opatření povinnost vyžadující plošné a nerozlišující uchovávání provozních a lokalizačních údajů. Ve strategii EU pro boj proti organizované trestné činnosti na období 2021–2025 ze dne 14. dubna 2021 Komise oznámila, že zanalyzuje a nastíní možné přístupy k uchovávání údajů v souladu s rozsudky Soudního dvora, které reagují na potřeby v oblasti prosazování práva a soudnictví způsobem, jenž je z provozního hlediska užitečný, technicky možný a právně spolehlivý, a to i plným dodržováním základních práv, a do konce června 2021 bude konzultovat členské státy. Komise v současné době provádí konzultace a výsledky uvedených konzultací pečlivě zváží, než přijme rozhodnutí o možném dalším postupu. 8.2Šifrování Šifrování je nezbytné pro ochranu základních práv a zabezpečení systémů a transakcí. Právní předpisy EU stanoví šifrování jako opatření k zajištění ochrany základních práv, jako je soukromí, ochrana osobních údajů a svoboda projevu, a také k zajištění kybernetické bezpečnosti . Kromě toho je šifrování také důležité pro ochranu obchodního tajemství, a pomáhá tak lidem při uplatňování práva podnikat. Od počátku pandemie COVID-19 se spolu s narůstajícím používáním digitálních nástrojů ve všech oblastech života zvýšil počet kybernetických útoků. Takové útoky způsobily velké škody společnostem a kritickým službám, včetně systémů zdravotní péče, a ohrozily práva lidí, což upozornilo na význam šifrování pro veřejné i soukromé subjekty jako prostředku ochrany důvěrnosti informací. Použití šifrování však také umožňuje pachatelům trestné činnosti maskovat jejich identitu a skrývat obsah komunikace. Na základě výzev členských států se Komise zavázala prozkoumat vyvážená technická, provozní a právní řešení těchto problémů. Tato řešení musí zachovat účinnost šifrování při ochraně soukromí a bezpečnosti komunikace a zároveň poskytovat účinnou reakci na trestnou činnost a terorismus. Komise v roce 2022 navrhne další postup, jak řešit otázku zákonného a cíleného přístupu k šifrovaným informacím v souvislosti s vyšetřováním a stíháním trestné činnosti, který bude založen na důkladném zmapování toho, jak členské státy zacházejí se šifrováním, spolu s mnohostranným procesem, jenž prozkoumá a posoudí konkrétní možnosti (právní, etické a technické).

8.3Biometrická identifikace na dálku Pravidla EU na ochranu údajů v zásadě zakazují zpracování biometrických údajů za účelem jedinečné identifikace fyzické osoby, s výhradou zvláštních podmínek. Zpracování takových údajů musí mít právní základ založený na právních předpisech v oblasti ochrany údajů. Takovým právním základem by mohl být svobodně udělený souhlas všech dotčených osob, který lze v praxi získat jen obtížně, nebo alternativně právo EU nebo členského státu, které sleduje podstatný veřejný zájem, jako je prevence konkrétní a bezprostřední hrozby teroristického útoku. V oblasti prosazování práva je zpracování povoleno povoleno zákonem. Má-li zpracování biometrických údajů základ v právu, pak toto právo musí být přiměřené sledovanému cíli, respektovat podstatu práva na ochranu údajů a další základní práva a stanovit vhodná a konkrétní opatření k ochraně základních práv a zájmů dotčených osob. Organizace občanské společnosti jsou znepokojeny narůstajícím používáním technologií biometrické identifikace na dálku v několika členských státech a vyzvaly k zákazu jejich používání. Používání biometrických systémů na dálku kritizoval rovněž evropský inspektor ochrany údajů, Evropský sbor pro ochranu osobních údajů, který zahrnuje vnitrostátní úřady pro ochranu údajů, a další vnitrostátní subjekty v oblasti základních práv, například Defenseur des Droits ve Francii. Existuje řada příkladů, kdy úřady pro ochranu údajů intervenovaly, aby ukončily nezákonné používání takové technologie, například ve škole ve Francii, ze strany policie ve Švédsku nebo v nizozemském supermarketu. Kromě stávajícího rámce obsahuje nařízení o umělé inteligenci, jehož návrh Komise předložila v dubnu 2021 (viz kapitola 4), zákaz biometrické identifikace na dálku v reálném čase na veřejně přístupných místech a umožňuje ji pro účely prosazování práva u tří omezených výjimek a za podmínky použití zvláštních záruk. 8.4Vzdělávání Během pandemie COVID-19 používaly instituce vzdělávání a odborné přípravy různé online platformy a nástroje. Používání komerčních řešení pro digitální učení a softwaru k dálkovému sledování studentů při zkouškách, která byla často zavedena jako „provizorní řešení“, vedlo k obavám, že by jejich návrh mohl umožňovat využití údajů uživatelů pro účely dosahování zisku namísto smysluplných pedagogických postupů. Evropské centrum digitálního vzdělávání, zřízené v rámci akčního plánu digitálního vzdělávání, představuje fórum pro rozvoj opatření k zajištění silnější meziodvětvové spolupráce, podporu výměny mezi pedagogy, vývoj prostředků pro zajištění kvality a zajištění respektování ochrany údajů a soukromí. Mezi nimi bude hrát klíčovou úlohu zajištění kvality a důvěra: zajištění kvality při podpoře společného chápání klíčových norem kvality v oblasti digitálního vzdělávání, důvěra při zajištění dodržování klíčových zásad týkajících se využívání údajů, etiky a soukromí. Tyto dva prvky mohou kromě zvýšení úrovně digitální připravenosti evropských vzdělávacích institucí a institucí odborné přípravy posílit spolupráci a zlepšit celkovou kvalitu dostupných digitálních řešení. 8.5Zdraví Mnoho složek reakce na pandemii COVID-19 zahrnuje zpracování osobních údajů, včetně zdravotních údajů, které vzhledem ke své citlivosti podléhají dalším pravidlům podle obecného nařízení o ochraně údajů. Zpracování osobních údajů musí být omezeno na to, co je nezbytné a přiměřené k dosažení cíle, a musí být v souladu s požadavky obecného nařízení o ochraně údajů. Tímto požadavkem se řídil přístup EU. Komise například poskytla členským státům pokyny k aplikacím pro boj s pandemií a podpořila jejich práci na souboru nástrojů prostřednictvím požadavků na aplikace a technických specifikací pro interoperabilitu mezi vnitrostátními výstražnými aplikacemi v rámci EU. Komise zřídila bránu, která umožňuje zasílání takových varování přes hranice a mezi aplikacemi různých členských států. Komise rovněž navrhla platformu pro výměnu údajů z formulářů pro trasování cestujících , aby podpořila přeshraniční trasování kontaktů v dopravě. V dalším kroku se zavázala navrhnout právní rámec EU pro koordinovaný přístup k zaznamenávání údajů o nedávné cestovní historii v rozsahu nezbytném k zastavení šíření onemocnění COVID-19, a to na základě zkušeností s formulářem pro trasování cestujících. Kromě toho Evropský parlament a Rada dne 14. června 2021 přijaly nařízení, kterým se zavádí rámec EU pro vydávání digitálních certifikátů COVID, jehož cílem je usnadnit volný pohyb během pandemie COVID-19 . Byla zřízena infrastruktura podporující vydávání a ověřování certifikátů o očkování, o testu a o zotavení, aby se zjednodušila kontrola opatření v oblasti veřejného zdraví při cestování (např. pro výjimky z požadavků týkajících se karantény). Pro snadné použití jsou certifikáty k dispozici v digitálním i v tištěném formátu. Ve všech případech jsou kategorie údajů a zpracování omezeny na to, co je nezbytné pro daný účel, například subjekty ověřující certifikáty nesmí po ověření uchovávat jejich obsah. Kromě toho rámec pro důvěryhodnost zřízený pro účely digitálního certifikátu EU COVID zajišťuje, že certifikáty lze ověřit offline bez informování vydavatele nebo jakékoli jiné třetí strany. Transparentnost je vždy klíčová jak pro zajištění právního souladu s Listinou a platnými právními předpisy, tak pro vytvoření a zachování důvěry. Výsledky ukazují, že pokud jsou opatření pečlivě navržena, ochrana údajů je v souladu s účinnými opatřeními v oblasti veřejného zdraví a může pomoci podpořit jejich přijetí a zajistit, aby rámec EU pro ochranu údajů poskytoval potřebnou flexibilitu. Komise v současné době připravuje legislativní návrh týkající se evropského prostoru pro data z oblasti veřejného zdraví, jehož přijetí se očekává na začátku roku 2022. Evropský prostor pro data z oblasti veřejného zdraví má usnadnit poskytování digitálních zdravotnických služeb a podpořit přístup ke zdravotním údajům pro účely výzkumu, inovací, tvorby politik a regulační činnosti a zároveň dále zlepšovat kontrolu, kterou lidé mají nad svými osobními údaji. Iniciativa týkající se evropského prostoru pro data z oblasti veřejného zdraví bude plně v souladu s použitelnými pravidly EU v oblasti ochrany údajů. 8.6Prosazování Příslušné vnitrostátní dozorové orgány pro sledování a prosazování pravidel ochrany údajů a soukromí jsou základním kamenem systému správy a řízení ochrany údajů v EU. Tyto orgány a vnitrostátní soudy odpovídají za sledování a prosazování pravidel podle obecného nařízení o ochraně údajů, vnitrostátních právních předpisů, kterými se provádí směrnice o ochraně údajů a směrnice o soukromí a elektronických komunikacích. Pro Komisi je jedním z hlavních cílů, aby členské státy tato pravidla prováděly správně a účinně. Členské státy mají podle práva EU povinnost zajistit, aby jejich úřady pro ochranu údajů byly nezávislé, a musí jim vyčlenit dostatečné zdroje na plnění jejich úkolů v oblasti dohledu . Komise sleduje vývoj týkající se nezávislosti, úkolů, pravomocí a zdrojů dozorových orgánů a v případě nedodržování pravidel EU ze strany členských států zahájí řízení o nesplnění povinnosti, aby zajistila účinné prosazování těchto pravidel. Úřady pro ochranu údajů spolupracují v rámci Evropského sboru pro ochranu osobních údajů s cílem zajistit jednotnost při prosazování obecného nařízení o ochraně údajů, zejména v přeshraničních případech. Po třech letech uplatňování obecného nařízení o ochraně údajů byla účinnost této spolupráce podrobena kritice a Evropský sbor pro ochranu osobních údajů bude nadále usilovat o zvýšení efektivnosti. Komise sdílí názor Rady, Evropského parlamentu a Evropského sboru pro ochranu osobních údajů, že je nyní třeba se zaměřit na zlepšování provádění a na opatření, která posílí prosazování práva EU v oblasti ochrany údajů. 8.7Ochrana osobních údajů za hranicemi EU Zásadním aspektem ochrany základních práv v online prostředí je zajištění kontinuity ochrany jednotlivců, jakmile jejich údaje opustí EU. Jelikož se osobní údaje v dnešním propojeném světě snadno předávají přes hranice a toky údajů se staly nedílnou součástí obchodu, spolupráce v oblasti regulace a dokonce sociální interakce, ochrana zaručená obecným nařízením o ochraně údajů a směrnicí o prosazování práva by byla neúčinná, pokud by se omezovala na zpracování v rámci EU. V této souvislosti Komise pokračovala ve svém ambiciózním programu zaměřeném na podporu vysoké úrovně ochrany při předávání údajů Evropanů do zahraničí a současně na usnadnění toků údajů. To zahrnovalo navázání spolupráce s klíčovými partnery s cílem dosáhnout „zjištění o odpovídající úrovni ochrany“, které stanoví, že třetí země poskytuje úroveň ochrany údajů, která je „v zásadě rovnocenná“ úrovni zajištěné v EU. Tato činnost přinesla důležité výsledky, jako je přijetí dvou rozhodnutí o odpovídající ochraně pro Spojené království (podle obecného nařízení o ochraně údajů a směrnice o prosazování práva) a uzavření jednání o odpovídající ochraně s Jižní Koreou. Kromě toho po zneplatnění dřívějšího zjištění o odpovídající úrovni ochrany štítu na ochranu soukromí Soudním dvorem EU zintenzivnily EU a USA jednání o novém rámci ochrany soukromí pro transatlantické předávání údajů mezi EU a Spojenými státy americkými, který zajišťuje plný soulad s rozsudkem Soudního dvora. Kromě toho v červnu 2020 Komise přijala modernizované standardní smluvní doložky pro předávání osobních údajů do zemí mimo EU, které odrážejí nové požadavky podle obecného nařízení o ochraně údajů a jsou přizpůsobeny potřebám moderní digitální ekonomiky. Jedná se o vzorové doložky o ochraně údajů, které může vývozce a dovozce údajů – dobrovolně – začlenit do svých smluvních ujednání (např. smlouvy o poskytování služeb vyžadující předání osobních údajů) a jejichž cílem je zajistit vhodné záruky ochrany údajů. Komise se také nadále účastní iniciativy „Data Free Flow with Trust“ (volný tok dat s důvěrou), kterou zahájilo Japonsko v roce 2019 a následně ji podpořily země G20 a G7. Jedním z ústředních prvků této koncepce, která je v současnosti projednávána na půdě OECD za aktivní účasti EU a jejích členských států, je vymezit hranici mezi legitimním přístupem vlády s odpovídajícími omezeními a zárukami a zneužívajícím státním dohledem.