P8_TA(2017)0051

Občanskoprávní pravidla pro robotiku

Usnesení Evropského parlamentu ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2103(INL))

(2018/C 252/25)

Evropský parlament,

Úvod

vzhledem k tomu, že zaměstnanost se za posledních 200 let díky technologickému vývoji setrvale zvyšovala; vzhledem k tomu, že robotika a umělá inteligence mohou potenciálně proměnit životy a pracovní návyky, zvýšit efektivitu a úspory posílit bezpečnost a poskytovat kvalitnější služby; vzhledem k tomu, že v krátkodobém až střednědobém horizontu nese robotika a umělá inteligence příslib zvyšování efektivity a úspor, a to nejen v průmyslové výrobě a obchodu, ale také v dopravě, zdravotní péči, záchranných službách, vzdělávání, zemědělství a dalších oblastech, a současně umožní, aby lidé nemuseli být vystaveni nebezpečným podmínkám, například při sanaci zamořených oblastí;

vzhledem k tomu, že stárnutí populace je výsledkem prodlužování života, jehož bylo dosaženo díky zlepšení životních podmínek a pokroku v moderní medicíně, a je jednou z největších politických, sociálních a hospodářských výzev, před nimiž stojí evropské společnosti ve 21. století; vzhledem k tomu, že do roku 2025 bude více než 20 % Evropanů věku 65 a více let, přičemž obzvlášť rychle poroste počet osob starších 80 let, což způsobí v naší společnosti podstatně jiný poměr mezi generacemi, a vzhledem k tomu, že je v zájmu společnosti, aby starší lidé zůstali co nejdéle zdraví a aktivní;

vzhledem k tomu, že široké využívání robotů sice nemusí automaticky vést k úbytku pracovních míst, je nicméně pravděpodobné, že pracovních míst vyžadujících nižší kvalifikaci v odvětvích, která jsou náročná na pracovní sílu, se automatizace dotkne citelněji; vzhledem k tomu, že tento trend by mohl vrátit výrobní procesy zpět do EU; vzhledem k tomu, že výzkum prokázal, že zaměstnanost roste výrazně rychleji v oborech, kde se ve větší míře používá počítačů; vzhledem k tomu, že automatizace práce může osvobodit lidi od jednotvárné ruční práce a umožnit jim přesměrovat své síly na tvořivější a smysluplnější úkoly; vzhledem k tomu, že automatizace vyžaduje, aby vlády investovaly do vzdělávání a dalších reforem, které umožní lepší rozložení ve prospěch těch typů dovedností, které budou pracovníci do budoucna potřebovat;

vzhledem k tomu, že nařízení Evropského parlamentu a Rady (EU) 2016/679 (2) (obecné nařízení o ochraně osobních údajů) stanoví právní rámec ochrany osobních údajů; vzhledem k tomu, že bude pravděpodobně potřeba se zabývat dalšími aspekty přístupu k údajům a ochrany osobních údajů a soukromí, protože aplikace a přístroje schopné komunikovat mezi sebou navzájem a s různými databázemi, aniž by do této komunikace vstupovali lidé, mohou být stále zdrojem obav týkajících se ochrany soukromí;

vzhledem k tomu, že evropskému průmyslu by mohl prospět účinný, konzistentní a transparentní regulační přístup na úrovni EU, který by vytvářel předvídatelné a dostatečně jasné podmínky, za nichž by podniky mohly vyvíjet aplikace a plánovat své obchodní modely na evropské úrovni, a současně by zajistil, že si Unie a její členské státy zachovají kontrolu nad novými regulačními standardy, a nebudou tedy nuceny přijímat a uplatňovat standardy stanovené někým jiným, totiž třetími státy, které rovněž stojí v čele vývoje robotiky a umělé inteligence;

Obecné zásady

vzhledem k tomu, že Unie by mohla sehrát zásadní úlohu při vytváření základních etických zásad, jimiž by se měl řídit vývoj, programování a používání robotů a umělé inteligence, a při začleňování těchto zásad do evropských právních předpisů a kodexů chování s cílem utvářet technickou revoluci tak, aby sloužila lidstvu, aby užitek z pokročilých robotických systémů a umělé inteligence byl co nejšířeji sdílen a aby sev nejvyšší možné míře zamezilo potenciálním rizikům;

Odpovědnost

vzhledem k tomu, že pokud by robot byl schopen činit samostatná rozhodnutí, tradiční pravidla by již nestačila k určení odpovědnosti za škodu způsobenou robotem, protože by nebylo možné určit stranu, která má poskytnout odškodnění a napravit škodu, kterou robot způsobil;

vzhledem k tomu, že bez ohledu na oblast působnosti směrnice 85/374/EHS není platná právní úprava dostačující k tomu, aby zajistila odpovědnost za škodu způsobenou roboty nové generace, pokud by tito roboti měli schopnost adaptace a učení, která by způsobila, že by jejich jednání bylo do určité míry nepředvídatelné, neboť tito roboti by se samostatně učili na základě vlastních variabilních zkušeností a interagovali by s prostředím jedinečným, nepředvídatelným způsobem;

Obecné principy rozvoje robotiky a umělé inteligence pro civilní účely

domnívá se, že pro určité konkrétní podkategorie robotů by měl být ve vhodných a nezbytných případech na vnitřním trhu Unie zaveden všeobecný unijní systém registrace pokročilých robotů, a vyzývá Komisi, aby stanovila kritéria pro klasifikaci robotů s cílem určit, kteří roboti by měli být registrováni; v této souvislosti vyzývá Komisi, aby posoudila, zda je žádoucí, aby takový registrační systém a registr spravovala zvláštní agentura EU pro robotiku a umělou inteligenci;

zdůrazňuje, že rozvoj robotických technologií by se měl zaměřit na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka; domnívá se, že ve vývoji robotiky a umělé inteligence je zcela zásadní, aby bylo zaručeno, že lidé budou mít nad inteligentními stroji neustálou kontrolu; domnívá se, že je třeba věnovat zvláštní pozornost tomu, že mezi člověkem a robotem může vzniknout emoční vazba – zejména v případě zranitelných skupin (děti, starší osoby a osoby se zdravotním postižením), a poukazuje na problémy spojené s vážnými emočními či fyzickými dopady, které by toto emoční pouto mohlo mít na člověka;

zdůrazňuje, že postup na úrovni Unie by zamezil tříštění vnitřního trhu a napomohl tak rozvoji, a zároveň vyzdvihuje důležitost zásady vzájemného uznávání při přeshraničním využívání robotů a robotických systémů; připomíná, že testování, certifikace a souhlas s uvedením na trh by měly být vyžadovány pouze v jednom členském státě; zdůrazňuje, že by tento postup měl být doprovázen účinným dozorem nad trhem;

Výzkum a inovace

Etické zásady

domnívá se, že současný právní rámec Unie je třeba modernizovat a ve vhodných případech doplnit o etické zásady, jež by odrážely složitost robotické problematiky a její dopady v sociální, zdravotní a bioetické oblasti; domnívá se, že je zapotřebí jasný, přísný a efektivní etický rámec pro vývoj, výrobu, používání a úpravy robotů, který by doplnil právní doporučení obsažená v této zprávě a ve vnitrostátním acquis a acquis Unie; přikládá k tomuto usnesení návrh rámce v podobě charty spočívající v etickém kodexu pro inženýry v oblasti robotiky, kodexu pro komise pro etiku výzkumu, které přezkoumávají robotické protokoly, a vzorových licencích pro konstruktéry a uživatele;

vyzdvihuje zásadu transparentnosti, podle níž by mělo být vždy možné podat odůvodnění každého rozhodnutí učiněného s pomocí umělé inteligence, které může mít významný dopad na život jedné nebo více osob; domnívá se, že výpočetní činnost systémů umělé inteligence by mělo být vždy možné převést do formy pochopitelné pro člověka; domnívá se, že pokročilí roboti by měli být vybaveni „černou skříňkou“, kde budou zaznamenávány údaje o každé operaci, kterou daný stroj provede, včetně logiky, na níž se jeho rozhodnutí zakládají;

Evropská agentura

domnívá se, že vzhledem k velkému potenciálu robotiky a problémům s ní spojeným a vzhledem k současné dynamice investic by měla být tato evropská agentura vybavena dostatečným rozpočtem a měla by zaměstnávat odborníky na regulaci a externí odborníky v oblasti techniky a etiky, kteří by se zabývali meziodvětvovým a multidisciplinárním sledováním robotických aplikací, zjišťovali osvědčené postupy a případně doporučovali regulační opatření, definovali nové zásady a řešili potenciální otázky ochrany spotřebitele a systémové výzvy; žádá Komisi (a evropskou agenturu, pokud vznikne), aby každoročně informovaly Evropský parlament o nejnovějším vývoji v robotice a o veškerých opatřeních, která je třeba přijmout;

Práva duševního vlastnictví a předávání údajů

poukazuje na to, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit některé stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvýšenou pozornost; vyzývá Komisi, aby podporovala horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví, v nichž by mohla být robotika uplatněna;

zdůrazňuje, že právo na respektování soukromého života a právo na ochranu osobních údajů, jak jsou zakotvena v článcích 7 a 8 Listiny a v článku 16 Smlouvy o fungování Evropské unie (Dále jen „Smlouva o fungování EU“), se uplatňují na všechny oblasti robotiky a umělé inteligence a že musí být plně dodržován unijní právní rámec ochrany údajů; v této souvislosti požaduje, aby byla v rámci pro provádění obecného nařízení o ochraně osobních údajů vyjasněna pravidla a kritéria týkající se používání kamer a senzorů v robotech; vyzývá Komisi, aby zajistila dodržování zásad ochrany údajů, jako je ochrana soukromí již od návrhu (privacy by design) a ochrana soukromí jako výchozí nastavení (privacy by default), minimalizace dat, omezení účelu, jakož i transparentní kontrolní mechanismy a přiměřené možnosti nápravy v souladu s právními předpisy Unie na ochranu údajů, a aby dbala na to, že přiměřená doporučení a standardy budou podporovány a začleňovány do politik Unie;

zdůrazňuje, že volný pohyb údajů má obrovský význam pro digitální ekonomiku a rozvoj odvětví robotiky a umělé inteligence; zdůrazňuje, že vysoká úroveň bezpečnosti robotických systémů, včetně jejich interních datových systémů a datových toků, je pro přiměřené využívání robotů a umělé inteligence klíčová; klade důraz na to, že musí být zajištěna ochrana sítí vzájemně propojených robotů a umělé inteligence, aby se zabránilo možnému narušení bezpečnosti; zdůrazňuje, že zcela zásadní význam má vysoký stupeň bezpečnosti a ochrany osobních údajů, spolu s náležitým ohledem na ochranu soukromí v komunikaci mezi lidmi, roboty a umělou inteligencí; zdůrazňuje, že konstruktéři robotických systémů a systémů umělé inteligence nesou odpovědnost za to, že jimi vyvíjené výrobky budou bezpečné, spolehlivé a vhodné pro daný účel; vyzývá Komisi a členské státy, aby podporovaly vývoj potřebných technologií, včetně koncepce vestavěné bezpečnosti (security by design);

Standardizace a bezpečnost

zdůrazňuje, že pro zjištění a posouzení rizik, které by roboti mohli přinášet, jakož i jejich technologického vývoje nad rámec čistě experimentální laboratorní fáze je nutné provádět jejich testování v reálných podmínkách; v této souvislosti zdůrazňuje, že testování robotů v reálných podmínkách, zejména ve městech a na silnicích, je spojeno s velkým množstvím problémů, včetně s překážkami, které zpomalují postup těchto testovacích fází a vyžadují účinné strategie a účinný mechanismus sledování; vyzývá Komisi, aby v souladu se zásadou předběžné opatrnosti vypracovala jednotná kritéria pro všechny členské státy, která by jednotlivé členské státy měly používat k určení oblastí, v nichž jsou pokusy s roboty povoleny;

Autonomní dopravní prostředky

a) Autonomní vozidla

b) Drony (dálkově řízené letadlové systémy)

poukazuje na pozitivní vývoj technologie dronů, zejména pokud jde o pátrací a záchranné akce; vyzdvihuje význam unijního rámce pro používání dronů na ochranu bezpečnosti a soukromí občanů Unie a vyzývá Komisi, aby učinila patřičné kroky v návaznosti na usnesení Evropského parlamentu ze dne 29. října 2015 o bezpečném využívání dálkově řízených letadlových systémů (RPAS), obecně známých jako bezpilotní vzdušné prostředky, v oblasti civilního letectví ( 5 ) ; žádá Komisi, aby vypracovala hodnocení bezpečnostních otázek spojených s širokým využíváním dronů; vyzývá Komisi, aby posoudila, zda by systémy RPAS neměly být povinně vybaveny systémem pro sledování a identifikaci, který by umožňoval okamžitě zjistit pozici letounu v době letu; připomíná, že homogenita a bezpečnost bezpilotních letounů by měla být zajištěna prostřednictvím opatření stanovených v nařízení Evropského parlamentu a Rady (ES) č. 216/2008 ( 6 )

Roboti v pečovatelských službách

poukazuje na to, že jedním z elementárních aspektů péče o člověka je lidský kontakt; je přesvědčen, že nahrazení lidského faktoru robotem by mohlo způsobit odlidštění pečovatelských služeb, na druhé straně však uznává, že roboti by mohli provádět automatizované pečovatelské úkony a díky nim by bylo možné ulehčit práci aisstentů pečovatelských služeb, přičemž by byla současně zlpešena lidská péče a proces rehabilitace by byl cílenější, tudíž by lékařům a ošetřovatelům bylo umožněno více času na diagnostiku a lepší plánování léčby; zdůrazňuje, že i když má robotika potenciál zvýšit mobilitu a integraci osob se zdravotním postižením a starších osob, lidé zůstanou i nadále v pečovatelské péči potřební a budou i nadále důležitým zdrojem sociální interakce, kterou nelze zcela nahradit;

Roboti ve zdravotní péči

zdůrazňuje, že pro zajištění co nejvyšší profesní způsobilosti., jakož i zajištění a ochrany zdraví pacientů je důležité vhodné vzdělání, odborná průprava a příprava zdravotnického personálu, jako například lékařů a ošetřovatelů,; klade důraz na to, že je nutné definovat minimální odborné požadavky, které musí chirurg splňovat, aby mohl operovat a bylo mu povoleno používat chirurgické roboty; považuje za velmi důležité dodržovat zásadu autonomní činnosti robotů pod dohledem, podle níž počáteční plánování léčby a konečné rozhodnutí o jejím provedení vždy příslušelo lidskému chirurgovi; vyzdvihuje zvláštní význam vzdělávání uživatelů, které jim umožní obeznámit se s technologickými požadavky v této oblasti; upozorňuje na sílící trend samovyšetření za použití mobilního robota a s ním tak spojenou potřebu, aby lékaři byli na tyto případy, kdy se pacient vyšetří sám, odborně připraveni; domnívá se, že používání těchto technologií by nemělo omezovat nebo poškozovat vztah mezi lékařem a pacientem, nýbrž musí lékaři poskytovat pomoc při diagnostice nebo léčbě pacienta s cílem snižovat riziko lidského selhání a zvyšovat kvalitu a délku života;

je přesvědčen, že lékařští roboti stále více pronikají do poskytování precizní chirurgie a provádějí opakující se úkony, a mohou zlepšovat výsledky při rehabilitaci, a že poskytují vysoce efektivní logistickou podporu v nemocnicích; poukazuje na to, že lékařští roboti mají potenciál snižovat náklady na zdravotní péči tím, že umožňují zdravotnickým pracovníkům zaměřit pozornost na prevenci místo léčby a že díky nim bude možné použít více rozpočtových prostředků na to, aby se péče lépe přizpůsobila potřebám pacientů a aby bylo možné zajistit průběžné vzdělávání zdravotnického personálu a financovat výzkum;

vyzývá Komisi, aby do datem použitelnosti nařízení (EU) 2017/745 zajistila, aby stávající postupy testování nových robotických zdravotnických prostředků byly bezpečné, zejména pokud jsou implantovány do lidského těla;

Opravy a vylepšování lidského těla

poukazuje na značný pokrok a další potenciál robotiky v oblasti oprav a kompenzace poškozených orgánů a životních funkcí lidí, ale také na komplexní otázky týkající se zejména možností vylepšování lidského těla, protože lékařští roboti a zejména kyberneticko-fyzikální systémy mohou změnit naše představy o zdravém lidském těle, neboť mohou být připevněny přímo na lidském těle nebo do něho implantovány; zdůrazňuje, že je důležité, aby nemocnice a ostatní zdravotnická zařízení urgentně zřizovaly přiměřeně personálně zajištěné komise pro etiku robotiky, které by posuzovaly neobvyklé a složité etické problémy ovlivňující léčbu a péči o pacienty a pomáhaly při jejich řešení; vyzývá Komisi a členské státy, aby vypracovaly pokyny, které by napomáhaly zřizování a fungování těchto komisí;

poukazuje na rizika spojená s možností neoprávněného ovládnutí nebo vypnutí kyberneticko-fyzikálních systémů v lidském těle či ke smazání jejich paměti, protože to by mohlo způsobit ohrožení lidského zdraví a v nejhorším případě i lidského života, a zdůrazňuje proto, že ochrana těchto systémů musí být prioritou;

Vzdělání a zaměstnanost;

upozorňuje na to, že podle prognózy Komise bude v Evropě v roce 2020 chybět až 825 000 odborníků na IKT a že 90 % pracovních míst bude vyžadovat alespoň základní digitální dovednosti; vítá, že Komise hodlá předložit plán možného použití a revize rámce digitálních schopností a deskriptorů digitálních schopností pro studenty všech úrovní, a vyzývá Komisi, aby poskytovala podporu rozvoji digitálních schopností ve všech věkových skupinách bez ohledu na pracovní status, což by mělo být prvním krokem k vyrovnání nedostatků a poptávky na trhu práce; zdůrazňuje, že růst v odvětví robotiky vyžaduje, aby členské státy vytvořily pružnější systémy odborné přípravy a vzdělávání s cílem zajistit, aby strategie pro rozvoj dovedností odpovídaly potřebám hospodářství využívajícího robotů;

poukazuje na to, že robotika má velký potenciál pro zlepšování bezpečnosti na pracovišti díky tomu, že přenáší velké množství nebezpečných a rizikových úkonů z člověka na roboty, ale současně upozorňuje na jejich potenciál k vytváření nových rizik způsobené zvýšením míry interakcí mezi člověkem a roboty na pracovišti; poukazuje tudíž na to, že pokud má být zajištěno zdraví, bezpečnost a dodržování základních práv na pracovišti, je třeba na interakce mezi člověkem a robotem uplatňovat přísná pravidla orientovaná na budoucnost;

Dopad na životní prostředí

poukazuje na to, že vývoj robotiky a umělé inteligence by měl probíhat tak, aby měl co nejmenší dopad na životní prostředí, čehož lze dosáhnout efektivním využíváním energie, energetickou účinností díky podpoře využívání energie z obnovitelných zdrojů a vzácných materiálů, vytvářením co nejmenšího množství odpadu, zejména elektrického a elektronického odpadu, a opravitelností; vyzývá proto Komisi, aby začlenila zásady oběhového hospodářství do veškerých politik Unie v oblasti robotiky; podotýká, že využívání robotiky bude mít pozitivní dopad na životní prostředí, především v oblasti zemědělství, dodávek potravin a dopravy, zejména díky snížení objemu strojních zařízení a omezeného využívání hnojiv, energie i vody, jakož i díky přesnému zemědělství a optimalizaci cest;

Odpovědnost

konstatuje, že rozvoj robotických technologií bude vyžadovat, abychom lépe porozuměli potřebnému společnému základu společné aktivity člověka a robotů, která by měla vycházet ze dvou základních vzájemně provázaných vztahů, konkrétně předvídatelnosti a ovladatelnosti; poukazuje na to, že tyto dva vzájemně provázané vztahy mají zásadní význam pro určení toho, jaké informace by měly být mezi člověkem a roboty sdíleny a jak se dobrat společného základu mezi člověkem a roboty, aby bylo možné zajistit hladký průběh společné činnosti člověka a robotů;

domnívá se, že ať bude zvoleno jakékoli právní řešení problému občanskoprávní odpovědnosti za škody způsobené roboty v případech, které se netýkají škody na majetku, neměl by budoucí legislativní nástroj žádným způsobem omezovat druh nebo rozsah škody, jejíž nahrazení lze vymáhat, a neměl by ani omezovat formu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk;

domnívá se, že jakmile by byly zjištěny strany, které nesou konečnou odpovědnost, měla by být odpovědnost těchto stran úměrná skutečnému rozsahu příkazů daných robotovi a míře jeho autonomie, takže by platilo, že čím má robot větší schopnost učení nebo vyšší autonomii a čím delší je doba jeho učení, tím větší by měla být odpovědnost jeho „učitele“; upozorňuje zejména na to, že při určování osoby, která je odpovědná za škodlivé jednání robota, by neměly být dovednosti, které robot získá formou „výcviku“, zaměňovány s dovednostmi nabytými výhradně prostřednictvím jeho schopnosti samostatného učení; podotýká, že alespoň v nynější fázi by měl odpovědnost nést člověk, a nikoli robot;

poukazuje na to, že složitou otázku určení odpovědnost za škodu způsobenou roboty s vyšší mírou autonomie by bylo možné vyřešit vytvořením povinného systému pojištění, jako je tomu již dnes v případě automobilů; konstatuje však, že na rozdíl od systému pojištění používaného v silničním provozu, kde se toto pojištění vztahuje na jednání a chyby lidského činitele, by pojištění v oblasti robotiky mělo zohledňovat veškerou potenciální odpovědnost v rámci celého řetězce;

domnívá se, že jako je tomu v případě pojištění motorových vozidel, mohl by být tento systém pojištění doplněn fondem, který by zajistil, aby bylo možné kompenzovat škodu i v případech, kdy pojistné krytí neexistuje; vyzývá odvětví pojišťovnictví, aby vytvářelo nové produkty a typy nabídek, které by byly v souladu s pokrokem v robotice;

zajištění toho, aby byl viditelně patrný vztah mezi robotem a jeho fondem prostřednictvím individuálního registračního čísla vedeného ve zvláštním rejstříku Unie, které umožní komukoli, kdo přijde do kontaktu s robotem, zjistit, jakou povahu má příslušný fond, jak je omezena jeho odpovědnost za škody na majetku, jméno a funkce přispěvatele do fondu a další užitečné údaje;

rozhodnutí, zda vytvořit všeobecný fond pro všechny inteligentní autonomní roboty nebo zvláštní fond pro každou jednotlivou kategorii robotů, a zda by byl příspěvek do fondu placen buď jednorázově při uvedení robota na trh, nebo pravidelně po celý životní cyklus robota;

Mezinárodní aspekty

poukazuje na to, že vývoj autonomních vozidel zatím naléhavě nevyžaduje podstatnou změnu stávajících obecných pravidel mezinárodního práva soukromého o dopravních nehodách platných v Unii, nicméně zjedodušení současného duálního systému pro určování rozhodného práva (vycházejícího z nařízení Evropského parlamentu a Rady (ES) č. 864/2007 ( 7 ) a Haagské úmluvy o právu použitelném pro dopravní nehodyze dne 4. května 1971) by zvýšilo právní jistotu a omezilo možnosti spekulativního výběru nejpříznivější jurisdikce;

poukazuje na to, že omezení a podmínky stanovené v nařízení Evropského parlamentu a Rady (ES) č. 428/2009 o obchodu se zbožím dvojího užití ( 8 ) – zbožím, softwarem a technologiemi, které lze použít pro civilní i vojenské účely nebo které mohou přispívat k šíření zbraní hromadného ničení – by se měly vztahovat i na robotické aplikace;

Závěr

o

o o

(1) Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).

(2) Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).

(3) (1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. (2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem. (3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem (viz Hra na honěnou, I. Asimov, 1943, česky 1981). (0) Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo.

(4) Schumanova deklarace z roku 1950: „Evropa se nevytvoří najednou, nebo podle jednoho plánu. Uskuteční se naplňováním konkrétních cílů, vytvářejíc nejprve skutečnou solidaritu.“

(5) Přijaté texty, P8_TA(2015)0390.

(6) Nařízení Evropského parlamentu a Rady (ES) č. 216/2008 ze dne 20. února 2008 o společných pravidlech v oblasti civilního letectví a o zřízení Evropské agentury pro bezpečnost letectví, kterým se ruší směrnice Rady 91/670/EHS, nařízení (ES) č. 1592/2002 a směrnice 2004/36/ES (Úř. věst. L 79, 19.3.2008, s. 1).

(7) Nařízení Evropského parlamentu a Rady (ES) č. 864/2007 ze dne 11. července 2007 o právu rozhodném pro mimosmluvní závazkové vztahy (Řím II) (Úř. věst. L 199, 31.7.2007, s. 40).

(8) Nařízení Rady (ES) č. 428/2009 ze dne 5. května 2009, kterým se zavádí režim Společenství pro kontrolu vývozu, přepravy, zprostředkování a tranzitu zboží dvojího užití (Úř. věst. L 134, 29.5.2009, s. 1).

PŘÍLOHA K USNESENÍ:

DOPORUČENÍ K OBSAHU POŽADOVANÉHO NÁVRHU

Definice a klasifikace „inteligentních robotů“

Měla by být zavedena společná evropská definice inteligentních autonomních robotů, která by případně zahrnovala definice příslušných podkategorií a zohledňovala by tyto jejich vlastnosti:

— schopnost nabýt autonomie díky senzorům nebo výměně dat s okolním prostředím (propojenost) a analýza těchto dat;

— schopnost učit se prostřednictvím zkušenosti a interakce;

— podoba fyzické struktury robota;

— schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí.

Registrace „inteligentních robotů“

Pro účely dohledatelnosti a s cílem usnadnit provádění dalších doporučení by měl být zaveden systém registrace pokročilých robotů založený na kritériích pro klasifikaci robotů. Systém registrace a rejstřík by měly být celounijní a pokrývat celý vnitřní trh, a mohla by je spravovat zvláštní agentura EU pro robotiku a umělou inteligenci, bude-li taková agentura vytvořena.

Občanskoprávní odpovědnost

Zvolené právní řešení problému odpovědnosti robotů a umělé inteligence v případech, které se netýkají škody na majetku, by nemělo žádným způsobem omezit druh nebo rozsah náhrady škody, kterou lze vymáhat, a nemělo by ani omezit podobu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk.

Budoucí legislativní nástroj by měl vycházet z důkladného posouzení provedeného Komisí, vymezujícího to, zda má být uplatňován přístup absolutní odpovědnosti nebo přístup založený na řízení rizik.

Měl by být zaveden systém povinného pojištění, který by mohl být založen na povinnosti výrobce pojistit autonomní roboty, které vyrábí.

Systém pojištění by měl být doplněn fondem s cílem zajistit, aby bylo možné kompenzovat škodu v případech, ve kterých pojištění škodu nepokrývá.

Jakékoliv rozhodnutí o politice týkající se pravidel občanskoprávní odpovědnosti robotů a umělé inteligence by mělo být v každém případě přijato po řádné konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy za účasti vědců a odborníků schopných posoudit veškerá související rizika a důsledky;

Interoperabilita, přístup ke zdrojovému kódu a práva duševního vlastnictví

Měla by být zajištěna interoperabilita autonomních robotů, kteří jsou vzájemně síťově propojeni a jsou spolu v kontaktu. V případě potřeby by měl být poskytnut přístup ke zdrojovému kódu a ke vstupním datům a konstrukčním údajům, aby bylo možné vyšetřovat nehody a škody způsobené inteligentními roboty, jakož i zajistit jejich další provoz, dostupnost, spolehlivost a bezpečnost.

Charta robotiky

Při navrhování právních aktů v oblasti robotiky by Komise měla zohlednit zásady zakotvené v této Chartě robotiky.

CHARTA ROBOTIKY

Navrhovaný kodex etického jednání v oblasti robotiky stanoví základ pro určení a dodržování základních etických principů a pro dohled nad nimi, počínaje fází návrhu a rozvoje,.

Rámec vytvořený po konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy musí být reflexivní povahy, aby umožňoval individuální přizpůsobení v daném konkrétním případě s cílem vyhodnotit, zda je určité jednání v dané situaci správné či nesprávné, a učinit rozhodnutí odpovídající předem stanovené hierarchii hodnot.

Tento kodex by neměl nahradit potřebu řešit veškeré zásadní právní problémy v této oblasti, nýbrž by měl mít doplňující úlohu. Kodex spíše napomůže etické kategorizaci robotiky, zvýší zodpovědné úsilí o inovace v této oblasti a odpovědět na otázky, které si klade veřejnost.

Je třeba obzvláště zdůraznit výzkumné a vývojové fáze příslušné technologické trajektorie (navrhování, etický přezkum, auditní kontrola atd.). Kodex by měl usilovat o to, aby práce výzkumných pracovníků, provozovatelů, uživatelů a konstruktérů byla v souladu s etickými standardy, ale rovněž by měl stanovit postup pro hledání způsobu, jak vyřešit příslušná etická dilemata a umožnit těmto systémům fungovat eticky odpovědným způsobem.

KODEX ETICKÉHO CHOVÁNÍ INŽENÝRŮ ROBOTIKY

PREAMBULE

Tento kodex chování vybízí všechny výzkumné pracovníky a projektanty, aby jednali zodpovědně a aby za všech okolností přihlíželi k tomu, že je třeba ctít lidskou důstojnost, soukromí a bezpečnost.

Kodex požaduje úzkou spolupráci napříč všemi obory s cílem zajistit, aby byl výzkum v oblasti robotiky v Evropské unii prováděn bezpečným, etickým a účinným způsobem.

Kodex chování se vztahuje na všechny aktivity výzkumu a vývoje v oblasti robotiky.

Kodex chování je dobrovolný a nabízí soubor obecných zásad a pokynů pro kroky, které mají činit všechny zainteresované strany.

Orgány financující výzkum v oblasti robotiky, výzkumné organizace, výzkumní pracovníci a etické komise se vybízejí, aby již od počátečních fází zvažovali budoucí dopady technologií či výrobků, kterých se výzkum týká, a aby rozvíjeli kulturu odpovědnosti vůči výzvám a příležitostem, které se mohou objevit v budoucnu.

Veřejné i soukromé subjekty financující výzkum v oblasti robotiky by měly požadovat, aby s každým podaným návrhem na financování výzkumu v této oblasti bylo vypracováno a předloženo posouzení rizik. Tento kodex by měl za odpovědné osoby považovat lidské bytosti a nikoli roboty.

Výzkumní pracovníci v oblasti robotiky by se měli zavázat, že budou dodržovat nejpřísnější standardy etického a profesního jednání a uplatňovat následující zásady:

Prospěšnost - roboti by měli jednat v nejlepším zájmu lidí.

Neškodlivost - doktrína „především nepáchat škodu“, podle níž by roboti neměli způsobovat újmu lidem.

Autonomie - schopnost přijímat informovaná a nevynucená rozhodnutí ohledně pravidel interakce s roboty.

Spravedlivost - spravedlivá distribuce přínosů spojených s robotikou a cenová dostupnost, především u robotů specializovaných na domácí a zdravotní péči.

Základní práva

Výzkum v oblasti robotiky by měl ctít základní práva a při navrhování, provádění, šíření a využívání by měl být prováděn v zájmu dobrých životních podmínek a sebeurčení jednotlivců i celé společnosti. Lidská důstojnost a autonomie – po fyzické i duševní stránce – má být vždy respektována.

Opatrnost

Výzkumné činnosti v oblasti robotiky by měly být prováděny v souladu se zásadou předběžné opatrnosti, měly by předvídat potenciální bezpečnostní dopady svých výsledků a měly by přijímat vhodná preventivní opatření úměrná potřebné úrovni ochrany, přičemž by zároveň měly podporovat pokrok ve prospěch společnosti i životního prostředí.

Inkluzivita

Inženýři v robotice zaručí transparentnost a dodržování legitimního práva na přístup k informacím ze strany všech zainteresovaných stran. Inkluzivita umožňuje, aby se všechny zatinteresované strany, které jsou zapojeny do výzkumných činností v robotice nebo se jich tyto činnosti týkají, podílely na rozhodovacích procesech.

Odpovědnost

Inženýři v robotice by měli i nadále zodpovídat za sociální a environmentální dopday a na dopady na lidské zdraví, jež může robotika přinést dnešním i budoucím generacím.

Bezpečnost

Konstruktéři robotů by měli zohledňovat a respektovat dobré fyzické životní podmínky, bezpečnost, zdraví a práva lidí. Inženýr v robotice musí chránit dobré životní podmínky lidí a současně též dodržovat lidská práva a neprodleně oznámit faktory, které by mohly ohrozit veřejnost či životní prostředí.

Reverzibilita

Reverzibilita, která je základním předpokladem pro kontrolu, je klíčovým konceptem při programování robotů, mají-li jednat bezpečně a spolehlivě. Model reverzibility robotovi sděluje, které činnosti jsou reverzibilní a jak je vrátit, pokud je to možné. Schopnost anulovat poslední krok nebo sekvenci kroků umožňuje uživatelům zrušit nežádoucí činnosti a vrátit se zpět do žádoucí fáze jejich práce.

Soukromí

Právo na soukromí musí být vždy dodržováno. Inženýr v robotice by měl zajistit, aby byly soukromé informace zabezpečeny a využívány výlučně řádným způsobem. Inženýr v robotice by měl mimoto zaručit, aby nebyli jednotlivci osobně identifikovatelní, kromě výjimečných situací, a i v těchto situacích jedině s jejich jednoznačným a nesporným informovaným souhlasem. Před jakoukoli interakcí mezi člověkem a strojem by měl být požadován a získán informovaný souhlas člověka. Konstruktéři v robotice jako takoví zodpovídají za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a náležitý postup. Konstruktéři vyhoví veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat.

Maximalizace přínosů a minimalizace škod

Výzkumní pracovníci by měli usilovat o maximalizaci přínosů své práce ve všech fázích, od nápadu až po šíření výsledku. Nesmí dojít k tomu, aby byla kterémukoli účastníkovi výzkumu, lidskému subjektu či účastníkovi experimentu, testu nebo studie způsobena újma. V případech, kdy jsou určitá rizika nevyhnutelnou a nedílnou součástí výzkumu, by měly být vypracovány a následně i dodržovány přísné protokoly pro vyhodnocování rizik a jejich řízení. Riziko újmy by v normálním případě nemělo převyšovat riziko, s nímž se setkáváme v běžném životě, což znamená, že by lidé neměli být vystaveni větším rizikům, než jakým jsou vystaveni v rámci svého běžného životního stylu, ani žádným dalším rizikům. Fungování robotického systému by se mělo vždy zakládat na podrobném postupu vyhodnocování rizik, který by se měl řídit zásadami předběžné opatrnosti a proporcionality.

KODEX PRO KOMISE PRO ETIKU VÝZKUMU

Zásady

Nezávislost

Postup posuzování etické správnosti by měl být nezávislý na samotném výzkumu. Tato zásada vychází z nutnosti vyhnout se střetům zájmů mezi výzkumnými pracovníky a osobami, které posuzují etický protokol, a mezi těmito osobami a vedením organizací.

Způsobilost

Posuzování etické správnost by měly provádět osoby s přiměřenou odbornou způsobilostí s přihlédnutím k tomuz, že členové komise by měli pokrývat dostatečně širokou škálu a měli by být řádně proškoleni v etických otázkách.

Transparentnost a odpovědnost

Monitorovací proces by měl probíhat odpovědným způsobem a podléhat kontrole. Komise pro etiku výzkumu musejí řádně vykonávat své úkoly a musejí se nacházet na vhodném místě v rámci organizační struktury, aby byla jejich činnost a postupy pro dodržování a přezkum standardů transparentní.

Úloha komisí pro etiku výzkumu

Komise pro etiku výzkumu obvykle zodpovídá za přezkum veškerého výzkumu zahrnujícího lidské účastníky a vedeného jednotlivci zaměstnanými v rámci dotčené instituce nebo touto institucí; zajišťuje, aby byl etický přezkum nezávislý, kompetentní a proběhl včas; chrání lidskou důstojnost, práva a dobré životní podmínky účastníků výzkumu; dbá na bezpečnost výzkumných pracovníků; chrání legitimní zájmy dalších zainteresovaných stran; vypracovává informovanározhodnutí o tom, zda jsou předložené návrhy dostatečně vědecky podložené; a adresuje výzkumným pracovníkům informovaná doporučení, dospěje-li k závěru, že daný návrh má v některém ohledu nedostatky.

Složení komisí pro etiku výzkumu

Komise pro etiku výzkumu by měla být obvykle multidisciplinární, měla by být složena z mužů i žen, její členové by měli mít rozsáhlé zkušenosti a odborné znalosti v oblasti výzkumu robotiky. Mechanismus jmenování by měl zajistit, aby složení komise odráželo vhodnou rovnováhu mezi vědeckými znalostmi, filozofickým, právním či etickým zázemím a laickými postoji a aby komise zahrnovala přinejmenším jednoho člena se specializovanými znalostmi etiky, uživatele specializovaných zdravotnických, vzdělávacích nebo sociálních služeb v případech, kdy se na tyto služby zaměřuje daný výzkum, a jednotlivce se specifickými metodologickými znalostmi relevantními pro výzkum, který je předmětem přezkumu; složení komise musí rovněž bránit střetům zájmů.

Monitorování

Všechny výzkumné organizace by měly zavést vhodné postupy monitorování způsobu, jímž je veden výzkum, schválený etickou komisí až do jeho dokončení, a zajistit setrvalý dohled v případech, kdy plán daného výzkumu předvídá do budoucna možné změny, jimiž bude možná třeba se zabývat. Monitorování by mělo odpovídat povaze a míře rizika spojeného s daným výzkumem. Pokud se komise domnívá, že monitorovací zpráva identifikovala významné problémy týkající se etického aspektu provádění dané studie, měla by si vyžádat plnohodnotný a podrobný souhrn výzkumu pro účely plného etického přezkumu. Domnívá-li se, že je určitá studie vedena neetickým způsobem, měla by komise zvážit odnětí souhlasu a požadovat, aby byl tento výzkum dočasně nebo úplně zastaven.

LICENCE KONSTRUKTÉRŮ

— Měli byste zohledňovat evropské hodnoty důstojnosti, autonomie a sebeurčení, svobody a spravedlnosti, a to v průběhu postupu navrhování, vývoje a dodávání takových technologií i po jeho skončení, včetně nutnosti nepoškodit, nezranit, neklamat a nevykořisťovat (zranitelné) uživatele.

— Měli byste ve všech aspektech fungování daného robota uplatnit důvěryhodné systémové konstrukční principy, a to pro jeho hardware i software, a pro veškeré zpracovávání údajů v rámci i mimo platformy pro bezpečnostní účely.

— Měli byste uplatňovat ochranu soukromí již od návrhu, a tím zajistit, že budou soukromé informace zabezpečeny a využívány výlučně řádným způsobem.

— Měli byste používat jednoznačné mechanismy umožňující vypnutí, které by měly být v souladu s přiměřenými konstrukčními cíli.

— Měli byste zajistit, aby robot fungoval způsobem, který je v souladu s místními, vnitrostátními a mezinárodními etickými a právními zásadami.

— Měli byste zajistit, aby rozhodovací kroky robota umožňovaly rekonstrukci a sledovatelnost.

— Měli byste zajistit, aby byla u programování robotických systémů požadována maximální transparentnost, jakož i předvídatelnost jednání robota.

— Měli byste analyzovat předvídatelnost systému interakce člověka a robota, přičemž zohledníte nejistotu výkladu a činnosti a možná selhání na straně robota či člověka.

— Měli byste vypracovat nástroje na sledování, a to již ve fázi návrhu. Tyto nástroje usnadní sledování a vysvětlování robotova jednání, byť jen do určité míry, na různých úrovních odborníkům, provozovatelům a uživatelům.

— Měli byste vypracovat konstrukční a hodnotící protokoly a při vyhodnocování přínosů a rizik robotiky, včetně kognitivních, psychologických a environmentálních, se spojit s potenciálními uživateli a zainteresovanými stranami.

— Měli byste zajistit, aby byli roboti při interakci s člověkem rozpoznatelní jakožto roboti.

— Měli byste chránit bezpečnost a zdraví osob, které jsou v kontaktu s roboty a dostávají se do styku s robotikou, vzhledem k tomu, že roboti jakožto výrobky by měli být konstruováni za využití postupů, které zajistí jejich bezpečnost a ochranu. Inženýr v robotice musí chránit životní podmínky osob a současně dodržovat lidská práva a nesmí uvést do provozu robota, aniž by předtím zajistil bezpečnost, účinnost a reverzibilitu fungování systému.

— Než začnete testovat robota v reálném prostředí nebo zapojíte lidské účastníky do postupů jeho navrhování a rozvoje, měli byste získat kladné stanovisko komise pro etiku výzkumu.

LICENCE UŽIVATELŮ

— Máte právo využívat roboty, aniž byste riskovali fyzickou či psychickou újmu, nebo z ní museli mít strach.

— Měli byste mít právo očekávat, že robot bude vykonávat úkoly, pro něž byl výslovně konstruován.

— Měli byste si být vědomi toho, že robot může mít omezené vnímání, chápání a reakce.

— Měli byste respektovat lidskou zranitelnost, a to fyzickou i psychickou, a emoční potřeby lidských bytostí.

— Měli byste zohlednit lidské právo na ochranu soukromí, a to včetně deaktivace videomonitorů v průběhu intimních vztahů.

— Nemáte právo shromažďovat, využívat ani zveřejňovat osobní informace bez výslovného souhlasu subjektu údajů.

— Nemáte právo využívat robota jakýmkoliv způsobem, který by byl v rozporu s etickými nebo právními zásadami a standardy.