6.12.2022
CS
Úřední věstník Evropské unie
C 465/89 Úterý 3. května 2022
134. upřesňuje, že klasifikace systémů UI jako „vysoce rizikových“ by měla vycházet z jejich konkrétního použití a kontextu, povahy, pravděpodobnosti, závažnosti a potenciální nevratnosti újmy týkající se základních práv a zdravotních a bezpečnostních pravidel, jak jsou stanovena v právu Unie; zdůrazňuje, že tato klasifikace by měla být doprovázena pokyny a podporou výměny osvědčených postupů pro vývojáře UI; zdůrazňuje, že musí být vždy respektováno právo na soukromí a že vývojáři UI by měli zaručit, že budou plně dodržována pravidla ochrany údajů;
135. zdůrazňuje, že umělá inteligence, u níž je pravděpodobné, že bude komunikovat s dětmi nebo je jinak ovlivňovat, musí zohledňovat jejich práva a zranitelnost a že koncepce i výchozí nastavení těchto systémů musí být v souladu s nejvyššími dostupnými normami bezpečnosti a ochrany soukromí;
136. konstatuje, že systémy UI fungují jinak v prostředí mezipodnikových vztahů (B2B) a v prostředí vztahů mezi podniky a spotřebiteli (B2C); poukazuje na to, že je nutné, aby práva spotřebitelů byla chráněna prostřednictvím právních předpisů na ochranu spotřebitele; zdůrazňuje, že ačkoli podniky mají možnost řešit problémy odpovědnosti a jiné právní problémy přímo, rychle a bez vysokých nákladů smlouvami, které uzavírají se svými obchodními partnery, někdy může být potřeba přijímat právní předpisy na ochranu menších podniků, kterým hrozí, že se stanou obětí zneužívání tržní síly dominantními subjekty prostřednictvím „lock-in“ efektu v obchodní nebo technologické oblasti, překážkami vstupu na trh nebo problémy spojenými s informační asymetrií; zdůrazňuje, že je rovněž nezbytné, aby malé a střední podniky a začínající podniky investující do technologií UI nebyly nadměrně zatěžovány příliš složitými legislativními požadavky, což by je znevýhodnilo ve srovnání s většími společnostmi, které mají zdroje na to, aby provozovali velká právní oddělení a útvary zabývající se dodržováním předpisů;
137. zdůrazňuje, že k dosud nevyřešeným etickým otázkám, které vyvstávají v důsledku nových technologických možností vyplývajících z prodeje a používání aplikací umělé inteligence, je třeba přistupovat principiálním způsobem, který by mohl zahrnovat i zásadu neškodnosti, princip respektování lidské důstojnosti a základních práv nebo ochranu demokratického procesu; konstatuje, že dalšími důležitými prvky při utváření ekonomiky umělé inteligence jsou osvědčené postupy v oblasti vývoje UI, jako je umělá inteligence zaměřená na člověka, odpovědná správa a zásady transparentnosti a vysvětlitelnosti, jakož i zásady udržitelné umělé inteligence, které by byly plně v souladu s Agendou OSN pro udržitelný rozvoj 2030;
138. uznává, že není vždy možné, aby byly algoritmy umělé inteligence zcela „zbaveny předsudků“, neboť ideálního cíle, kterým jsou údaje bez chyb, je velmi obtížné nebo téměř nemožné dosáhnout; konstatuje, že v reálném provozu mohou systémy umělé inteligence navzdory tomu, že byly řádně testovány, vést k neobjektivním výsledkům, pokud jsou použity v prostředí, jehož parametry se liší od původních trénovacích a testovacích dat; zdůrazňuje, že EU by měla usilovat o zlepšení transparentnosti datových souborů a algoritmů, velmi úzce spolupracovat s vývojáři UI s cílem vyvážit, omezovat strukturální společenské předsudky a zvážit povinná pravidla náležité péče v oblasti lidských práv v rané fázi vývoje;
139. domnívá se, že přiměřené povinnosti týkající se transparentnosti a vysvětlitelnosti systémů UI mohou být sice v mnohých případech užitečné, ale nemusí být vždy proveditelné; konstatuje, že práva duševního vlastnictví a obchodní tajemství musí být chráněna před nelegálními postupy, jako je průmyslová špionáž;
140. konstatuje, že legislativní rámec ochrany duševního vlastnictví musí i nadále motivovat a chránit inovátory v oblasti UI formou patentů zajišťujících odměnu za vývoj a zveřejnění jejich výtvorů; konstatuje, že stávající právní předpisy jsou většinou formulovány tak, aby obstály i v budoucnu, navrhuje však určité úpravy, jako je vložení ustanovení o otevřeném zdrojovém kódu a o tom, že by ve vhodných případech byla ve výběrových řízením stanovena povinnost používat UI řešení s otevřeným kódem; navrhuje nové formy udělování patentových licencí, které zajistí, že regiony budou mít k dispozici nástroje a iniciativy, které by si jinak nemohly dovolit;
141. domnívá se, že pro zajištění bezpečnosti a důvěryhodnosti systémů umělé inteligence na trhu by mohlo být užitečné stanovit povinnost předběžného vlastního hodnocení rizik na základě jednoznačných pravidel a norem a dále posouzení dopadu na ochranu údajů, doplněné o posouzení shody prováděné třetí stranou s příslušným a vhodným označením CE a s následným prosazováním prostřednictvím dozoru nad trhem; je přesvědčen, že pokud nemá dojít k vytlačení MSP z trhu, měly by normy a pokyny týkající se souladu s právními předpisy o UI týkajícími se UI vznikat v úzké spolupráci s malými podniky, měly by být v co největší možné míře harmonizovány na mezinárodní úrovni a měly by být k dispozici bezplatně;