P8_TA(2017)0051

Normy občianskeho práva v oblasti robotiky

Uznesenie Európskeho parlamentu zo 16. februára 2017 s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky (2015/2103(INL))

(2018/C 252/25)

Európsky parlament,

Úvod

keďže rozsiahle používanie robotov nemusí automaticky nahrádzať pracovné miesta, avšak menej kvalifikované pracovné miesta v odvetviach náročných na pracovnú silu sú náchylnejšie na to, že sa ich automatizácia dotkne; keďže tento trend by mohol navrátiť výrobné procesy späť do EÚ; keďže výskum preukázal, že zamestnanosť rastie oveľa rýchlejšie pri povolaniach, ktoré viac využívajú počítače; keďže automatizácia pracovných miest má potenciál oslobodiť ľudí od manuálnej monotónnej práce, čo im umožní preorientovať sa na kreatívnejšie a zmysluplnejšie úlohy; keďže automatizácia si vyžaduje, aby vlády investovali do vzdelávania a iných reforiem s cieľom zlepšiť prerozdelenie tých druhov zručností, ktoré budú potrebovať pracovníci budúcnosti;

keďže trend smerom k automatizácii vyžaduje, aby subjekty zapojené do vývoja a komercializácie aplikácií UI do nich od začiatku začlenili bezpečnosť a etiku, čím uznajú, že musia byť pripravené prijať právnu zodpovednosť za kvalitu technológie, ktorú vyrábajú;

keďže európsky priemysel by mohol ťažiť z efektívneho, jednotného a transparentného prístupu k regulácii na úrovni EÚ, ktorý by priniesol predvídateľné a dostatočne jasné podmienky, za ktorých by podniky mohli vyvíjať aplikácie a plánovať svoje obchodné modely v celoeurópskom meradle, a zároveň zabezpečoval, že EÚ a jej členské štáty si zachovajú kontrolu nad regulačnými normami, ktoré budú stanovené, a nebudú musieť prijímať a riadiť sa normami, ktoré stanovil niekto iný, t. j. tretie štáty, ktoré sú takisto na čele vývoja robotiky a UI;

Všeobecné zásady

keďže Asimove zákony (3) treba považovať za určené tvorcom, výrobcom a prevádzkovateľom robotov vrátane robotov so zabudovanou autonómiou a samovzdelávaním, keďže tieto zákony nie je možné prepísať do strojového kódu;

keďže EÚ by mohla hrať zásadnú úlohu pri stanovení základných etických zásad, ktoré treba dodržiavať pri vývoji, programovaní a používaní robotov a UI a pri začlenení takýchto zásad do európskych nariadení a kódexov správania s cieľom formovať technologickú revolúciu tak, aby slúžila ľudstvu a aby boli výhody vyspelej robotiky a UI dostupné pre všetkých, pričom treba v čo najväčšej miere zabrániť potenciálnym nástrahám;

Zodpovednosť

keďže nedostatky súčasného právneho rámca sú takisto zjavné v oblasti zmluvnej zodpovednosti vzhľadom na to, že stroje navrhnuté na výber svojich zmluvných partnerov, rokovanie o zmluvných podmienkach, uzatváranie zmlúv a rozhodovanie, či a ako ich vykonávať, robia tradičné pravidlá neuplatniteľnými; keďže toto zdôrazňuje potrebu prijatia nových, účinných a aktuálnych pravidiel, ktoré by mali zohľadniť najnovší technologický vývoj a inovácie na trhu;

keďže bez ohľadu na rozsah pôsobnosti smernice 85/374/EHS, súčasný právny rámec by nestačil na pokrytie škody spôsobenej novou generáciou robotov, keďže roboty môžu byť vybavené schopnosťami prispôsobovať sa a učiť sa, čo v sebe nesie určitý stupeň nepredvídateľnosti ich správania, keďže tieto roboty by autonómne vychádzali z vlastných variabilných skúseností a komunikovali by s prostredím jedinečným a nepredvídateľným spôsobom;

Všeobecné zásady týkajúce sa vývoja robotiky a umelej inteligencie na civilné účely

domnieva sa, že v rámci vnútorného trhu EÚ by sa mal zaviesť komplexný systém registrácie vyspelých robotov, a to podľa relevantnosti a potreby pre konkrétne kategórie robotov, a vyzýva Komisiu, aby stanovila kritériá na klasifikáciu robotov, ktoré by sa mali zaregistrovať; v tejto súvislosti vyzýva Komisiu, aby preskúmala, či by bolo vhodné, aby systém registrácie a register spravovala osobitná agentúra EÚ pre robotiku a umelú inteligenciu;

zdôrazňuje, že vývoj robotickej technológie by sa mal zameriavať na dopĺňanie ľudských schopností a nie na ich nahrádzanie; považuje za nevyhnutné, aby sa pri vývoji robotiky a UI zaručila neprestajná kontrola inteligentných strojov zo strany ľudí; domnieva sa, že osobitná pozornosť by sa mala venovať možnému vybudovaniu citového vzťahu medzi ľuďmi a robotmi – najmä u zraniteľných skupín (deti, starší ľudia a ľudia so zdravotným postihnutím) – a upozorňuje na otázky, ktoré vyplývajú z vážnych citových alebo fyzických dosahov, ktoré by takáto citová väzba mohla mať na ľudí;

zdôrazňuje, že prístup na úrovni EÚ môže uľahčiť vývoj tým, že zabráni fragmentácii vnútorného trhu, a zároveň zdôrazňuje dôležitosť zásady vzájomného uznávania v cezhraničnom používaní robotov a robotických systémov; pripomína, že testovanie, certifikácia a schvaľovanie uvádzania na trh by sa mali vyžadovať len v jednom členskom štáte; zdôrazňuje, že tento prístup by mal byť sprevádzaný účinným dohľadom nad trhom;

Výskum a inovácie

vyzýva Komisiu a členské štáty, aby podporovali výskumné programy, stimulovali výskum možných dlhodobých rizík a možností robotických a UI technológií a aby podnecovali začatie štruktúrovanej verejnej diskusie o dôsledkoch vývoja týchto technológií, a to čo najskôr; vyzýva Komisiu, aby pri príležitosti preskúmania viacročného finančného rámca v polovici obdobia zvýšila svoju podporu pre program SPARC financovaný v rámci Horizontu 2020; vyzýva Komisiu a členské štáty, aby zjednotili svoje snahy s cieľom dôkladne monitorovať a zabezpečiť plynulejší prechod týchto technológií od výskumu cez uvedenie na trh po používanie na trhu, a to po vykonaní primeraných hodnotení bezpečnosti a v súlade so zásadou predbežnej opatrnosti;

zdôrazňuje, že inovácie v robotike a UI, ako aj integrácia technológií v oblasti robotiky a UI do hospodárstva a spoločnosti si vyžadujú digitálnu infraštruktúru, ktorá zabezpečí všadeprítomnú pripojiteľnosť; vyzýva Komisiu, aby stanovila rámec, ktorý bude zodpovedať požiadavkám týkajúcim sa pripojiteľnosti pre digitálnu budúcnosť EÚ, a aby zabezpečila, že prístup k širokopásmovým a 5G sieťam bude plne v súlade so zásadou neutrality siete;

je pevne presvedčený, že na to, aby toky údajov v skutočnom čase umožnili, aby sa roboty a UI stali flexibilnejšími a autonómnejšími, je nevyhnutná interoperabilita medzi systémami, zariadeniami a cloudovými službami založená na bezpečnosti a ochrane súkromia už v štádiu návrhu; žiada Komisiu, aby podporovala otvorené prostredie, ktoré bude siahať od otvorených noriem a inovatívnych foriem udeľovania licencií až po otvorené platformy a transparentnosť, s cieľom zabrániť vzniku uzatvorených vlastníckych systémov, ktoré by obmedzovali interoperabilitu;

Etické zásady

poukazuje na to, že smerodajný etický rámec by mal vychádzať zo zásad ako zabezpečenie najlepšieho záujmu, neškodnosť, autonómia a spravodlivosť, zo zásad a hodnôt zakotvených v článku 2 Zmluvy o Európskej únii a v Charte základných práv Európskej únie, akými sú ľudská dôstojnosť, rovnosť, spravodlivosť a slušnosť, nediskriminácia, informovaný súhlas, súkromný a rodinný život a ochrana osobných údajov, ako aj z ďalších podstatných zásad a hodnôt práva EÚ, ako napríklad nestigmatizácia, transparentnosť, autonómia, individuálna zodpovednosť a sociálna zodpovednosť a z existujúcich postupov a kódexov etického správania;

domnieva sa, že osobitná pozornosť by sa mala venovať robotom, ktoré do značnej miery ohrozujú dôvernosť vzhľadom na ich umiestnenie v tradične chránených a súkromných sférach a pretože sú schopné získať a posielať osobné a citlivé údaje;

Európska agentúra

domnieva sa, že potenciál využitia robotiky a problémy s tým spojené, ako aj súčasná dynamika v oblasti investícií sú dôvodmi na to, aby mala európska agentúra k dispozícii primeraný rozpočet a personál odborníkov v oblasti regulácie, externých technických expertov a expertov v oblasti etiky, ktorí by sa venovali medzisektorovému a multidisciplinárnemu monitorovaniu aplikácií založených na robotike, identifikovali normy pre najlepšie postupy a v prípade potreby odporúčali regulačné opatrenia, definovali nové zásady a zaoberali sa možnými otázkami súvisiacimi s ochranou spotrebiteľa a systematickými výzvami; žiada Komisiu (a európsku agentúru, ak vznikne), aby informovala Európsky parlament o najnovšom vývoji v robotike a o akýchkoľvek opatreniach, ktoré je potrebné každoročne prijať;

Práva duševného vlastníctva a tok údajov

vyzýva Komisiu a členské štáty, aby zabezpečili súlad občianskoprávnych predpisov v odvetví robotiky so všeobecným nariadením o ochrane údajov a so zásadami nevyhnutnosti a proporcionality; vyzýva Komisiu a členské štáty, aby vzali do úvahy rýchly technologický vývoj v oblasti robotiky vrátane pokroku kyberneticko-fyzických systémov a aby zabezpečili, že právne predpisy EÚ nezaostanú za krivkou technologického vývoja a zavádzania;

Normalizácia a bezpečnosť

zdôrazňuje, že testovanie robotov v reálnych situáciách je nevyhnutné na identifikáciu a posúdenie rizík, ktoré môžu skrývať, ako aj ich technologického vývoja nad rámec výskumného laboratórneho štádia; v tejto súvislosti zdôrazňuje, že testovanie robotov v reálnych situáciách, najmä v mestách a na cestách, vyvoláva mnohé otázky vrátane prekážok, ktoré spomaľujú vývoj týchto štádií skúšok, a vyžaduje si účinnú stratégiu a účinný monitorovací mechanizmus; vyzýva Komisiu, aby vypracovala jednotné kritériá pre všetky členské štáty, ktoré by mali jednotlivé členské štáty používať s cieľom identifikovať oblasti, v ktorých sú pokusy s robotmi povolené, a to v súlade so zásadou predbežnej opatrnosti;

Autonómne dopravné prostriedky

a) Autonómne vozidlá

domnieva sa, že je to práve automobilový sektor, ktorý najnaliehavejšie potrebuje účinné európske a celosvetové pravidlá, aby sa zabezpečil cezhraničný rozvoj automatizovaných a autonómnych vozidiel, plne využil ich hospodársky potenciál a zužitkovali pozitívne vplyvy technologických trendov; zdôrazňuje, že nejednotné regulačné prístupy by bránili implementácii autonómnych dopravných systémov a ohrozovali konkurencieschopnosť Európy;

b) Bezpilotné lietadlá (RPAS)

Roboty určené na starostlivosť

poukazuje na to, že ľudský kontakt je jedným zo základných aspektov ľudskej starostlivosti; domnieva sa, že nahradenie ľudského faktora robotmi by mohlo dehumanizovať postupy v oblasti starostlivosti, na druhej strane uznáva, že roboty by mohli vykonávať automatizované úkony starostlivosti, pričom by sa zvýšila ľudská starostlivosť, proces rehabilitácie by sa stal viac cielený a zdravotnícky personál a opatrovatelia by mohli venovať viac času stanoveniu diagnózy a hľadaniu lepších možností liečby; zdôrazňuje, že hoci robotika má potenciál zvýšiť mobilitu a integráciu osôb so zdravotným postihnutím a starších osôb, ľudia opatrovatelia budú naďalej potrební a budú stále predstavovať dôležitý zdroj sociálnej interakcie, ktorý nemožno úplne nahradiť;

Roboty v oblasti lekárskej starostlivosti

zdôrazňuje dôležitosť primeraného odborného výcviku, vzdelávania a prípravy pre zdravotníckych pracovníkov, ako sú lekári a asistenti, aby sa zabezpečila najvyššia úroveň odbornej spôsobilosti, ako aj zaručilo a chránilo zdravie pacientov; zdôrazňuje potrebu vymedzenia minimálnych požiadaviek na odbornú spôsobilosť, ktoré bude musieť chirurg spĺňať, aby mohol operovať a používať chirurgické roboty; považuje za zásadne dôležité, aby sa rešpektovala zásada dohľadu nad autonómiou robotov, podľa ktorej počiatočné plánovanie liečby a konečné rozhodovanie o jej uskutočnení bude vždy závisieť od ľudského chirurga; zdôrazňuje osobitný význam ďalšej odbornej prípravy pre používateľov, aby sa im umožnilo oboznámiť sa s technologickými požiadavkami v tejto oblasti; upozorňuje na rastúci trend samodiagnostiky prostredníctvom mobilných robotov, a teda na potrebu vyškoliť lekárov v oblasti riešenia prípadov samodiagnostiky; zastáva názor, že používanie takýchto technológií by nemalo oslabovať ani poškodzovať vzťah medzi lekárom a pacientom, ale malo by lekárom poskytnúť pomoc pri diagnostikovaní a/alebo liečbe pacientov s cieľom znížiť riziko ľudského pochybenia a zvýšiť kvalitu a strednú dĺžku života;

vyzýva Komisiu, aby zabezpečila, že postupy skúšania nových robotických zdravotníckych pomôcok sú bezpečné, a to najmä v prípade pomôcok implantovaných do ľudského tela, pred dátumom nadobudnutia účinnosti nariadenia (EÚ) 2017/745 o zdravotníckych pomôckach;

Ľudské opravy a zlepšenia

berie na vedomie zásadné prínosy, ktoré robotika poskytuje a jej ďalší potenciál v oblasti nápravy a kompenzácie poškodených orgánov a telesných funkcií, ale aj komplexné otázky, najmä v súvislosti s možnosťou zdokonaľovania človeka, keďže medicínske roboty, a najmä kybernetické fyzikálne systémy, môžu zmeniť naše chápanie, pokiaľ ide o zdravé ľudské telo, keďže môžu byť na ľudské telo priamo upevnené alebo doň implantované; zdôrazňuje význam toho, aby boli v nemocniciach a iných zdravotníckych inštitúciách urýchlene zriadené a primerane vybavené personálom výbory pre etiku robotov, ktoré by boli poverené posudzovaním a pomáhali by pri riešení neobvyklých, zložitých etických otázok, ktoré majú dosah na zdravotnú starostlivosť a liečbu pacientov; vyzýva Komisiu a členské štáty, aby vypracovali usmernenia na pomoc pri zriaďovaní a prevádzke týchto výborov;

odporúča, aby sa vytvorili nezávislé dôveryhodné subjekty s cieľom zachovať prostriedky potrebné na poskytovanie služieb, ako sú údržba, opravy a vylepšenia, vrátane aktualizácií softvéru, osobám, ktoré majú na tele upevnené životne dôležité a moderné lekárske prístroje, a to najmä v prípade, keď už tieto služby neposkytuje pôvodný dodávateľ; navrhuje zavedenie povinnosti výrobcov poskytovať týmto nezávislým dôveryhodným subjektom komplexné inštrukcie týkajúce sa dizajnu vrátane zdrojového kódu, podobne ako pri právnej povinnosti ukladať publikácie do národnej knižnice;

upozorňuje na riziká spojené s možnosťou pirátskeho napadnutia, vypnutia alebo vymazania pamäte CPS integrovaných do ľudského tela, keďže by to mohlo ohroziť ľudské zdravie a v extrémnych prípadoch aj ľudské životy, a preto zdôrazňuje, akú prioritu musí mať ochrana týchto systémov;

zdôrazňuje, že je dôležité, aby bol pre všetkých ľudí zaručený rovnaký prístup k takýmto technologickým inováciám, nástrojom a intervenciám; vyzýva Komisiu a členské štáty, aby presadzovali rozvoj podporných technológií s cieľom uľahčiť rozvoj a prijímanie týchto technológií osobami, ktoré ich potrebujú, a to v súlade s článkom 4 Dohovoru OSN o právach osôb so zdravotným postihnutím, ktorého je EÚ zmluvnou stranou;

Vzdelávanie a zamestnanosť

upozorňuje na prognózu Komisie, že Európa môže do roku 2020 čeliť nedostatku až 825 000 odborníkov v oblasti IKT a 90 % pracovných miest bude vyžadovať aspoň základné digitálne zručnosti; víta iniciatívu Komisie navrhnúť plán možného použitia a revízie rámca digitálnych kompetencií a deskriptorov digitálnych kompetencií pre osoby, ktoré sa danou problematikou zaoberajú, a to nezávisle od toho, akú majú úroveň poznania danej veci, a vyzýva Komisiu, aby ako prvý krok vedúci k lepšiemu zosúladeniu nedostatkov na trhu práce a dopytu výrazne podporila rozvoj digitálnych schopností všetkých vekových skupín bez ohľadu na ich postavenie v zamestnaní; zdôrazňuje, že rast v oblasti robotiky si vyžaduje, aby členské štáty vyvinuli flexibilnejšie systémy vzdelávania a odbornej prípravy tak, aby sa zabezpečilo, že stratégie v oblasti zručností budú zodpovedať potrebám robotického hospodárstva;

Vplyv na životné prostredie

konštatuje, že rozvoj robotiky a UI by sa mal uskutočniť tak, aby bol vplyv na životné prostredie obmedzený účinnou spotrebou energie, energetickou účinnosťou v podobe podpory využívania energie z obnoviteľných zdrojov a vzácnych surovín, minimalizáciou odpadu, napríklad elektrického a elektronického odpadu, a opraviteľnosťou; vyzýva preto Komisiu, aby do každej politiky EÚ v oblasti robotiky začlenila zásady obehového hospodárstva; konštatuje, že používanie robotiky bude aj kladne vplývať na životné prostredie, najmä v oblastiach poľnohospodárstva a dodávky a prepravy potravín, predovšetkým vďaka menšej veľkosti strojov a zníženému využívaniu hnojív, energie a vody, ako aj vďaka presnému poľnohospodárstvu a optimalizácii trás;

Zodpovednosť

konštatuje, že rozvoj robotických technológií si bude vyžadovať viac porozumenia pre nájdenie spoločnej reči potrebnej v súvislosti s aktivitami, na ktorých sa spoločne podieľajú ľudia a roboty a ktoré by sa mali zakladať na dvoch hlavných vzťahoch vzájomnej závislosti, a to konkrétne na predvídateľnosti a ovládateľnosti; poukazuje na to, že tieto dva vzťahy vzájomnej závislosti sú dôležité na určenie toho, aké informácie sa musia vymieňať medzi ľuďmi a robotmi a ako možno medzi nimi vybudovať spoločný základ umožňujúci plynulé vykonávanie činností, na ktorých sa spoločne podieľajú ľudia a roboty;

domnieva sa, že bez ohľadu na to, aké právne riešenie sa uplatní na občianskoprávnu zodpovednosť za škody spôsobené robotmi v prípadoch iných, ako je škoda na majetku, v budúcom legislatívnom nástroji by sa v žiadnom prípade nemal obmedzovať druh ani rozsah škody, ktorá má byť nahradená, podobne, ako by nemal byť obmedzený spôsob náhrady, ktorá môže byť poskytnutá poškodenej strane, iba z dôvodu, že škoda bola spôsobená iným, než ľudským faktorom;

domnieva sa, že v zásade po tom, ako by boli zistené strany nesúce konečnú zodpovednosť, by ich zodpovednosť mala byť úmerná skutočnému rozsahu pokynov daných robotovi a miere jeho autonómnosti, takže čím väčšia by bola jeho schopnosť učiť sa alebo jeho autonómnosť a čím dlhšia by bola doba učenia robota, tým väčšia by bola zodpovednosť jeho učiteľa; konštatuje najmä, že pri zisťovaní osoby zodpovednej za škodlivé konanie robota by sa zručnosti nadobudnuté počas „výcviku“ robota nemali zamieňať so zručnosťami, ktoré závisia výlučne na jeho schopnosti učiť sa samostatne; konštatuje, že aspoň v súčasnom stave musí zodpovednosť niesť človek, a nie robot;

poukazuje na to, že možným riešením zložitého vyvodzovania zodpovednosti za škodu spôsobenú čoraz autonómnejšími robotmi by mohol byť systém povinného poistenia, ako je to napríklad pri automobiloch; konštatuje však, že na rozdiel od poistného systému pre cestnú dopravu, kde sa poistenie vzťahuje na ľudské konanie a zlyhanie, by systém poistenia pre robotiku mal zohľadňovať všetky potenciálne povinnosti v reťazci;

zabezpečenia toho, aby prepojenie robota s fondom bolo viditeľné prostredníctvom individuálneho registračného čísla v osobitnom registri EÚ, kde by sa každý, kto by s robotom prišiel do kontaktu, mohol informovať o povahe fondu, obmedzeniach zodpovednosti v prípade škody na majetku, menách a funkciách prispievateľov a všetkých ďalších relevantných podrobnostiach;

zavedenia systému povinného poistenia, ak je to vhodné a potrebné pre konkrétne kategórie robotov, pričom by podobne, ako je to pri automobiloch, výrobcovia alebo vlastníci robotov boli povinní uzavrieť poistenie pokrývajúce potenciálne škody spôsobené ich robotmi;

Medzinárodné aspekty

poukazuje na to, že obmedzenia a podmienky stanovené v nariadení Európskeho parlamentu a Rady (ES) č. 428/2009 ( 8 ) o obchode s položkami s dvojakým použitím – tovarom, softvérom a technológiami, ktoré sa môžu používať tak na civilné, ako aj vojenské účely a/alebo môžu prispievať k šíreniu zbraní hromadného ničenia – by sa mali uplatňovať aj na aplikácie v oblasti robotiky;

Záverečné aspekty

o

o o

(1) Smernica Rady 85/374/EHS z 25. júla 1985 o aproximácii zákonov, iných právnych predpisov a správnych opatrení členských štátov o zodpovednosti za chybné výrobky (Ú. v. ES L 210, 7.8.1985, s. 29).

(2) Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).

(3) 1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené. 2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom. 3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom. (pozri: I. Asimov, Runaround, 1943) a 0. Robot nesmie ublížiť ľudstvu alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.

(4) Por. Schumanova deklarácia (1950): „Európa sa nestvorí naraz, alebo podľa jediného plánu. Bude postavená prostredníctvom konkrétnych úspechov, ktoré najprv vytvoria skutočnú solidaritu.“

(5) Prijaté texty, P8_TA(2015)0390.

(6) Nariadenie Európskeho parlamentu a Rady (ES) č. 216/2008 z 20. februára 2008 o spoločných pravidlách v oblasti civilného letectva a o zriadení Európskej agentúry pre bezpečnosť letectva, ktorým sa zrušuje smernica Rady 91/670/EHS, nariadenie (ES) č. 1592/2002 a smernica 2004/36/ES (Ú. v. EÚ L 79, 19.3.2008, s. 1).

(7) Nariadenie Európskeho parlamentu a Rady (ES) č. 864/2007 z 11. júla 2007 o rozhodnom práve pre mimozmluvné záväzky (Rím II) (Ú. v. EÚ L 199, 31.7.2007, s. 40).

(8) Nariadenie Rady (ES) č. 428/2009 z 5. mája 2009, ktorým sa stanovuje režim Spoločenstva na kontrolu vývozov, prepravy, sprostredkovania a tranzitu položiek s dvojakým použitím (Ú. v. EÚ L 134, 29.5.2009, s. 1).

PRÍLOHA K UZNESENIU:

ODPORÚČANIA K OBSAHU VYŽIADANÉHO NÁVRHU

Vymedzenie a klasifikácia „inteligentných robotov“

Mala by sa zaviesť spoločná európska definícia inteligentných autonómnych robotov, podľa potreby vrátane vymedzenia ich podkategórií, s ohľadom na tieto parametre:

— schopnosť získavať autonómnosť prostredníctvom snímačov a/alebo výmenou údajov s prostredím (prepojiteľnosť) a analýzou týchto údajov;

— schopnosť samostatne sa učiť formou skúsenosti a interakcie;

— formu fyzickej podpory robota;

— schopnosť prispôsobiť svoje správanie a činnosti svojmu prostrediu.

Registrácia inteligentných robotov

Na účely vysledovateľnosti a uľahčenia vykonávania ďalších odporúčaní by sa mal zaviesť systém registrácie vyspelých robotov, a to na základe kritérií stanovených pre ich klasifikáciu. Systém registrácie a register by sa mal vzťahovať na celú Úniu a jej vnútorný trh a spravovať by ho mohla osobitná agentúra Únie pre robotiku a umelú inteligenciu, ak sa takáto agentúra vytvorí.

Občianskoprávna zodpovednosť

Každé právne riešenie, ktoré sa uplatní na zodpovednosť robotov a umelej inteligencie v iných prípadoch, ako je škoda na majetku, by v žiadnom prípade nemalo obmedzovať druh ani rozsah škody, ktorá má byť nahradená, ani formu náhrady poskytnutej poškodenej strane iba z dôvodu, že škoda bola spôsobená iným než ľudským faktorom.

Budúci legislatívny nástroj by mal byť založený na dôkladnom vyhodnotení zo strany Komisie, či by sa mal uplatňovať prístup objektívnej zodpovednosti alebo prístup riadenia rizík.

Mal by sa zaviesť povinný systém poistenia, ktorý by mohol byť založený na povinnosti výrobcu uzavrieť poistenie pre autonómne roboty, ktoré vyrába.

Poistný systém by sa mal doplniť o fond s cieľom zabezpečiť, že sa škoda nahradí aj v prípadoch, keď neexistuje žiadne poistné krytie.

Každé rozhodnutie v rámci politiky týkajúce sa pravidiel zodpovednosti za škodu uplatniteľných na roboty a umelú inteligenciu by sa malo prijať po riadnej konzultácii s celoeurópskym projektom výskumu a vývoja venovaným robotike a neurovede, aby vedci a odborníci mohli vyhodnotiť všetky súvisiace riziká a dôsledky;

Interoperabilita, prístup ku kódu a práva duševného vlastníctva

Mala by sa zaručiť interoperabilita autonómnych robotov pripojených na sieť, ktoré navzájom komunikujú. Prístup k zdrojovému kódu, vstupné údaje a údaje o konštrukcii by mali byť v prípade potreby k dispozícii na účely vyšetrovania nehôd a škôd spôsobených inteligentnými robotmi, ako aj s cieľom zabezpečiť ich ďalšiu prevádzku, dostupnosť, spoľahlivosť, ochranu a bezpečnosť.

Charta o robotike

Komisia by pri navrhovaní právnych aktov v oblasti robotiky mala zohľadniť zásady zakotvené v tejto charte o robotike.

CHARTA O ROBOTIKE

Navrhovaným kódexom etického správania v oblasti robotiky sa položia základy pre identifikáciu, dohľad a súlad so základnými etickými zásadami už od fázy navrhovania a vývoja.

Rámec, ktorý bol vypracovaný s prihliadnutím na celoeurópsky projekt výskumu a vývoja zameraný na robotiku a neurovedu, musí byť navrhnutý takým spôsobom, aby umožňoval individuálne úpravy v závislosti od konkrétneho prípadu, s cieľom posúdiť, či je dané konanie v danej situácii správne alebo nesprávne a prijímať rozhodnutia v súlade s vopred stanoveným rebríčkom hodnôt.

Kódex by nemal nahrádzať potrebu riešiť všetky hlavné právne problémy v tejto oblasti, ale mal by mať doplnkovú funkciu. Bude skôr uľahčovať etickú kategorizáciu robotiky, posilňovať snahy o zodpovedné inovácie v tejto oblasti a bude sa zaoberať obavami verejnosti.

Osobitný dôraz by sa mal klásť na výskumné a vývojové fázy príslušnej technologickej trajektórie (proces plánovania, etické posudzovanie, audit atď.). Mala by sa ním riešiť potreba dodržiavania etických noriem zo strany výskumných pracovníkov, používateľov a tvorcov, ale aj zaviesť postup navrhovania spôsobov riešenia príslušných etických dilem a umožniť, aby tieto systémy fungovali eticky zodpovedným spôsobom.

KÓDEX ETICKÉHO SPRÁVANIA PRE INŽINIEROV V OBLASTI ROBOTIKY

PREAMBULA

V kódexe správania sa všetci výskumníci a konštruktéri vyzývajú, aby konali zodpovedne a s úplným zreteľom na potrebu rešpektovať dôstojnosť, súkromie a bezpečnosť ľudí.

V kódexe sa požaduje úzka spolupráca medzi všetkými odbormi, s cieľom zabezpečiť, aby výskum v oblasti robotiky v Únii prebiehal bezpečným, etickým a účinným spôsobom.

Kódex správania sa vzťahuje na všetky výskumné a vývojové aktivity v oblasti robotiky.

Kódex správania vychádza zo zásady dobrovoľnosti a ponúka súbor všeobecných zásad a usmernení týkajúcich sa opatrení, ktoré majú prijať všetky zainteresované strany.

Subjekty financujúce výskum robotiky, výskumné organizácie, výskumní pracovníci a etické výbory sa vyzývajú, aby už v počiatočných fázach posudzovali budúce účinky technológií alebo objektov, ktoré skúmajú, a rozvíjali kultúru zodpovednosti s ohľadom na výzvy a príležitosti, ktoré sa môžu v budúcnosti objaviť.

Verejné a súkromné subjekty financujúce výskum robotiky by mali požadovať, aby sa spolu s každým predloženým návrhom na financovanie výskumu v oblasti robotiky vykonalo a predložilo aj posúdenie rizík. V takomto kódexe by ako prvky nesúce zodpovednosť mali vystupovať ľudia, nie roboty.

Výskumní pracovníci v oblasti robotiky by sa mali zaviazať k najetickejšiemu a najprofesionálnejšiemu konaniu a dodržiavať tieto zásady:

Dobrý úmysel – robot by mal konať v najlepšom záujme človeka;

Neškodnosť – doktrína „v prvom rade neublížiť“, pričom robot by nemal ublížiť človeku;

Samostatnosť – schopnosť robiť informované, slobodné rozhodnutia o podmienkach komunikácie s robotmi;

Spravodlivosť – spravodlivé rozdelenie prínosov, ktoré prináša robotika, a dostupnosť robotov určených najmä na domácu a zdravotnícku starostlivosť.

Základné práva

Výskum v oblasti robotiky by mal rešpektovať základné práva a v rámci navrhovania, realizácie, šírenia a používania by sa mal uskutočňovať v záujme blahobytu a sebaurčenia jednotlivcov a spoločnosti ako celku. Ľudská dôstojnosť a autonómia – fyzická aj psychická – sa musí vždy rešpektovať.

Predbežná opatrnosť

Výskum v oblasti robotiky by sa mal vykonávať v súlade so zásadou predbežnej opatrnosti, predvídať potenciálne bezpečnostné účinky dosiahnutých výsledkov a zaručovať preventívne opatrenia primerané úrovni ochrany pri súčasnej podpore pokroku v prospech spoločnosti a životného prostredia.

Inkluzívnosť

Inžinieri v oblasti robotiky sú zárukou transparentnosti a rešpektovania zákonného práva na prístup k informáciám pre všetky zainteresované strany. Inkluzívnosť umožňuje účasť na rozhodovacích procesoch všetkým zúčastneným stranám alebo tým, ktorých sa týka výskum v oblasti robotiky.

Zodpovednosť

Inžinieri v oblasti robotiky by mali ostať zodpovední za sociálne a environmentálne účinky a za účinky na ľudské zdravie, ktoré môže robotika mať na súčasné a budúce generácie.

Bezpečnosť

Tvorcovia robotov by mali zohľadňovať a rešpektovať telesnú pohodu, bezpečnosť, zdravie a práva ľudí. Inžinier v oblasti robotiky musí usilovať o blaho ľudí pri súčasnom rešpektovaní ľudských práv a urýchlene informovať o faktoroch, ktoré by mohli ohroziť verejné zdravie alebo životné prostredie.

Reverzibilita

Reverzibilita, ako nevyhnutná podmienka kontrolovateľnosti, je základnou koncepciou pri programovaní robotov takým spôsobom, aby fungovali bezpečne a spoľahlivo. Model reverzibility robotovi určí, ktoré činnosti sú reverzibilné a ako ich zvrátiť. Schopnosť napraviť posledný vykonaný úkon alebo sled úkonov umožňuje používateľom opravu neželanej činnosti a vrátiť veci do pôvodného stavu.

Súkromie

Právo na súkromie musí byť vždy dodržané. Inžinier v oblasti robotiky by mal zabezpečiť, že osobné údaje sa zabezpečia a správne použijú. Okrem toho by mal zaručiť, že jednotlivcov nebude možné osobne identifikovať, s výnimkou osobitných okolností a len po jasnom, jednoznačnom a informovanom súhlase. Informovaný súhlas človeka by sa mal vyžadovať a získať pred každou interakciou medzi človekom a strojom. Konštruktéri v oblasti robotiky majú povinnosť vypracovať postupy a postupovať podľa nich v prípade platného súhlasu, dôvernosti, anonymity, spravodlivého zaobchádzania a riadneho procesu. Konštruktéri vyhovejú každej požiadavke na zničenie a odstránenie príslušných údajov zo všetkých databáz.

Maximalizácia prínosov a minimalizácia škôd

Výskumní pracovníci by sa mali snažiť o maximalizáciu prínosov vo všetkých fázach od začiatku až po šírenie. V rámci výskumu sa musí predísť ujme účastníkov, ľudského jedinca alebo účastníka pokusu, procesu alebo štúdie. V prípade vzniku neodvrátiteľného rizika, ktoré je však neoddeliteľnou súčasťou výskumu, by sa malo vypracovať rozsiahle posúdenie rizika a protokoly riadenia, a tieto by sa mali dodržiavať. Za bežných okolností by riziko poškodenia nemalo byť väčšie než je v bežnom živote, t. j. ľudia by nemali byť vystavení väčším alebo dodatočným rizikám v porovnaní s tými, ktorým sú vystavení za bežných okolností. Prevádzkovanie robotických systémov by vždy malo vychádzať z dôkladného posúdenia rizika, ktoré by malo byť založené na zásadách opatrnosti a proporcionality.

KÓDEX VÝBOROV PRE ETIKU VO VÝSKUME (VEV)

Zásady

Nezávislosť

Proces etického preskúmania by mal byť nezávislý od samotného výskumu. Táto zásada zdôrazňuje potrebu zabránenia konfliktom záujmov medzi výskumnými pracovníkmi a tými, ktorí preskúmavajú vykonávanie etického protokolu, a medzi kontrolórmi a organizačnými štruktúrami riadenia.

Príslušnosť

Proces etického preskúmania by mali vykonávať kontrolóri s náležitými odbornými znalosťami, berúc do úvahy potrebu dôkladného zváženia rozsahu členstva a osobitnej odbornej prípravy VEV v oblasti etiky.

Transparentnosť a zodpovednosť

Postup preskúmania by mal vychádzať zo zodpovednosti a mal by byť otvorený kontrole. VEV si musia byť vedomé svojej zodpovednosti a byť vhodne zaradené do organizačných štruktúr, ktoré umožňujú transparentnosť ich operácií a postupov na zachovanie a revíziu noriem.

Úloha výboru pre etiku vo výskume

VEV je zvyčajne zodpovedný za kontrolu každého výskumu, ktorý zahŕňa ľudských účastníkov a je uskutočňovaný jednotlivcami zamestnanými príslušnou inštitúciou; zabezpečuje, aby etické preskúmanie bolo nezávislé, kompetentné a vykonané včas; chráni dôstojnosť, práva a blaho účastníkov výskumu; posudzuje bezpečnosť výskumníkov; posudzuje oprávnené záujmy zúčastnených strán; prijíma informované rozhodnutia, pokiaľ ide o vedeckú podstatu návrhov; a poskytuje informované odporúčania výskumníkovi, ak sa návrh z určitého hľadiska považuje za nevyhovujúci.

Zriadenie výboru pre etiku vo výskume

VEV by mal byť zvyčajne multidisciplinárny; mal by zahŕňať tak mužov ako ženy; mal by byť zložený z členov s rozsiahlymi skúsenosťami a poznatkami z výskumu v oblasti robotiky. Mechanizmus menovania členov by mal zabezpečiť, že členovia výboru budú predstavovať primeranú rovnováhu medzi odbornými znalosťami, filozofickým, právnym alebo etickým zázemím a názormi laikov a že budú zahŕňať aspoň jedného člena s odbornými znalosťami v oblasti etiky, používateľov špecializovaných zdravotníckych, vzdelávacích alebo sociálnych služieb, ak sú na ne zamerané výskumné činnosti, a osoby s osobitnými metodickými odbornými poznatkami týkajúcimi sa výskumu, ktorý preskúmavajú; a musia byť zostavené tak, aby nedochádzalo ku konfliktu záujmov.

Monitorovanie

Všetky výskumné organizácie by mali stanoviť vhodné postupy na monitorovanie vykonávania výskumu, ktorý dostal etické schválenie až dovtedy, kým nie je ukončený, a zaistiť nepretržité preskúmanie v prípadoch, keď sa vo výskumnom návrhu časom predpokladajú možné zmeny, ktoré bude treba riešiť. Monitorovanie by malo byť úmerné povahe a stupňu rizika spojeného s výskumom. Ak sa VEV domnieva, že monitorovacia správa vyvoláva značné obavy týkajúce sa etického vykonávania štúdie, mal by požiadať o úplné a podrobné informácie s cieľom vykonať úplné etické posúdenie. Ak sa rozhodne, že štúdia sa vykonáva neetickým spôsobom, mal by zvážiť zrušenie schválenia a príslušný výskum by sa mal zastaviť alebo prerušiť.

LICENCIA PRE KONŠTRUKTÉROV

— mali by ste mať na pamäti európske hodnoty ľudskej dôstojnosti, slobody a spravodlivosti pred, počas a po ukončení procesu projektovania, vývoja a dodávky takých technológií vrátane potreby nespôsobiť ujmu, nezraniť, neoklamať alebo nezneužiť (zraniteľných) užívateľov;

— mali by ste zaviesť spoľahlivý systém konštruktérskych zásad vo všetkých aspektoch prevádzky robota, tak pre hardvérové, ako aj softvérové projekty, a pre každé spracovanie údajov v rámci alebo mimo platformy na bezpečnostné účely;

— mali by ste zaviesť prvky ochrany súkromia už v štádiu návrhu tak, aby sa zaistilo bezpečné uchovávanie osobných údajov a výlučne ich správne použitie;

— mali by ste zaviesť jasné mechanizmy ukončenia prevádzky v stave núdze, ktoré by mali byť v súlade s primeranými konštruktérskymi cieľmi;

— mali by ste zabezpečiť, že robot bude fungovať spôsobom, ktorý je v súlade s miestnymi, národnými a medzinárodnými etickými a právnymi zásadami;

— mali by ste zabezpečiť, že činnosť robota v rámci rozhodovania bude možné prepracovať a vysledovať;

— mali by ste zabezpečiť požiadavku maximálnej transparentnosti pri programovaní robotických systémov, ako aj predvídateľnosť robotickej činnosti;

— mali by ste analyzovať predvídateľnosť ľudsko-robotických systémov zvážením interpretačnej a funkčnej neistoty a možné zlyhanie robota alebo ľudského faktora;

— mali by ste v štádiu projektovania vyvinúť nástroje na sledovanie robota, tieto nástroje uľahčia vyhodnotenie a vysvetlenie robotickej činnosti, aj keď obmedzene, na rôznych úrovniach určených pre odborníkov, prevádzkovateľov a používateľov;

— mali by ste vypracovať konštrukčné a hodnotiace protokoly a pri vyhodnocovaní prínosov a rizík robotiky vrátane kognitívnych, psychologických a environmentálnych, sa spojiť s potenciálnymi používateľmi a zainteresovanými stranami;

— mali by ste zabezpečiť, aby boli roboty pri komunikácii s človekom identifikovateľné ako roboti;

— mali by ste chrániť bezpečnosť a zdravie tých, ktorí s robotmi komunikujú a prichádzajú do kontaktu, keďže roboty ako výrobky musia byť navrhnuté tak, aby bola zaručená bezpečnosť, Inžinier v oblasti robotiky musí dbať na blaho ľudí a zároveň dodržiavať ľudské práva a nesmie dať do prevádzky robota bez toho, aby zaručil bezpečnosť, účinnosť a reverzibilitu prevádzky systému;

— mali by ste získať kladné stanovisko výboru pre etiku vo výskume pred testovaním robota v reálnom prostredí alebo zapojením ľudí do procesov jeho konštruovania alebo vývoja.

LICENCIA PRE POUŽÍVATEĽOV

— môžete využívať robota bez rizika alebo strachu, že vám fyzicky alebo psychicky ublíži;

— mali by ste byť oprávnení očakávať, že robot vykoná všetky úlohy, na ktoré bol vyslovene vytvorený;

— mali by ste mať na pamäti, že každý robot môžu mať obmedzenia z hľadiska vnemových, kognitívnych a funkčných vlastností;

— mali by ste rešpektovať ľudské slabosti, fyzické aj psychologické, a emocionálne potreby ľudí;

— mali by ste mať na zreteli práva jednotlivcov na súkromie vrátane deaktivácie videomonitorov počas dôverných činností;

— nie ste oprávnení zhromažďovať, používať alebo zverejňovať osobné informácie bez výslovného súhlasu dotknutej osoby;

— nie ste oprávnení používať robota akýmkoľvek spôsobom, ktorý je v rozpore s etickými alebo právnymi zásadami a normami;