V tejto časti sa pri posudzovaní právnych predpisov Únie v oblasti bezpečnosti výrobkov skúma, či súčasný legislatívny rámec Únie obsahuje príslušné prvky, ktorými sa zabezpečí integrácia bezpečnosti do nových technológií, najmä systémov umelej inteligencie, a to už v štádiu návrhu.

Tieto technológie môžu priniesť mnohé výhody zlepšením bezpečnosti výrobkov, ktoré budú menej náchylné na určité riziká. Napríklad prepojené a automatizované vozidlá by mohli zlepšiť bezpečnosť cestnej premávky, keďže väčšina dopravných nehôd je v súčasnosti spôsobená ľudským zavinením . Navyše systémy internetu vecí sú navrhnuté tak, aby prijímali a spracúvali obrovské množstvá údajov z rôznych zdrojov. Túto zvýšenú úroveň informácií možno použiť tak, aby sa výrobky mohli samé prispôsobiť a následne sa stali bezpečnejšími. Nové technológie môžu zefektívniť sťahovanie výrobkov z obehu, keďže používatelia by napríklad mohli byť varovaní pred bezpečnostným problémom cez výrobky . Ak sa pri používaní pripojeného výrobku vyskytne bezpečnostný problém, výrobcovia môžu priamo komunikovať s používateľmi, a to s cieľom na jednej strane varovať používateľov pred rizikami a na druhej strane priamo problém vyriešiť, ak je to možné, napríklad tým, že poskytnú bezpečnostnú aktualizáciu. Napríklad v roku 2017 istý výrobca smartfónov sťahoval jedno zo svojich zariadení a aby používatelia prestali nebezpečné zariadenia používať, vykonal aktualizáciu softvéru, ktorá znížila kapacitu batérie mobilných telefónov na nulu .

V oznámení o umelej inteligencii pre Európu , ktoré bolo prijaté 25. apríla 2018, sa uvádza, že Komisia predloží správu, v ktorej posúdi vplyv nových digitálnych technológií na existujúce rámce bezpečnosti a zodpovednosti. Táto správa má za úlohu identifikovať a preskúmať širšie dôsledky a možné medzery v rámcoch zodpovednosti a bezpečnosti pre umelú inteligenciu, internet vecí a robotiku. Táto správa slúži ako sprievodný dokument k bielej knihe o umelej inteligencii a predkladá východiská na diskusiu, ktoré sú súčasťou širšej konzultácie so zainteresovanými stranami. Časť venovaná bezpečnosti vychádza z hodnotenia smernice o strojových zariadeniach a z práce s príslušnými expertnými skupinami. Časť venovaná zodpovednosti vychádza z hodnotenia smernice o zodpovednosti za výrobky, príspevkov príslušných expertných skupín a kontaktov so zainteresovanými stranami. Cieľom tejto správy nie je poskytnúť vyčerpávajúci prehľad existujúcich pravidiel bezpečnosti a zodpovednosti, ale zamerať sa na doteraz zistené kľúčové problémy.

Právne rámce týkajúce sa bezpečnosti a zodpovednosti majú celkovo zabezpečiť, aby všetky výrobky a služby vrátane tých, do ktorých sú zabudované nové digitálne technológie, fungovali bezpečne, spoľahlivo a konzistentne a ak dôjde k ujme, aby bola účinne napravená. Vysoká úroveň bezpečnosti výrobkov a systémov, do ktorých sú zabudované nové digitálne technológie, a spoľahlivé mechanizmy odškodnenia (t. j. rámec zodpovednosti) prispejú k lepšej ochrane spotrebiteľov. Zároveň sa vďaka tomu vybuduje dôvera v tieto technológie, bez ktorej by ich priemysel a používatelia neprijali. To na druhej strane posilní konkurencieschopnosť nášho priemyslu a napomôže dosiahnuť ciele Únie. Jasný rámec bezpečnosti a zodpovednosti je najmä v prípade nových technológií, ako je umelá inteligencia, internet vecí a robotika, mimoriadne dôležitý, a to tak pre ochranu spotrebiteľov, ako aj pre právnu istotu podnikov.

Popri posudzovaní rizika pred uvedením výrobku na trh by sa mohol zaviesť nový postup posudzovania rizika pre výrobky, ktoré prechádzajú počas životného cyklu dôležitými zmenami, napríklad výrobok získa funkciu, ktorú výrobca pri pôvodnom posudzovaní rizika nepredpokladal. Tento nový postup by sa mal zamerať na vplyv autonómneho správania na bezpečnosť v celom životnom cykle výrobku. Posúdenie rizika by mal uskutočniť príslušný hospodársky subjekt. Okrem toho by sa mohli v príslušných právnych predpisoch Únie posilniť požiadavky na výrobcov, pokiaľ ide o pokyny a varovania pre používateľov.

V miere, do akej môžu výrobcovia vopred určiť budúce „správanie“ výrobkov vybavených umelou inteligenciou na základe posúdenia rizika pred uvedením výrobkov na trh, už dnes rámec Únie v oblasti bezpečnosti výrobkov ukladá výrobcom povinnosti zohľadňovať v posúdení rizika „používanie“ výrobkov v celom životnom cykle. Predpokladá sa v ňom aj to, že výrobcovia musia používateľom poskytovať pokyny a bezpečnostné informácie alebo výstrahy. V tejto súvislosti sa napríklad v smernici o rádiových zariadeniach od výrobcu vyžaduje, aby priložil pokyny s informáciami o tom, ako používať rádiové zariadenie v súlade s jeho zamýšľaným účelom.

V tejto súvislosti by sa mohlo zvážiť, aby sa do rozsahu pôsobnosti príslušných právnych predpisov Únie začlenili výslovné ustanovenia, ktoré by zabezpečili lepšiu ochranu používateľov a väčšiu právnu istotu.

Ďalší príklad sa uvádza v oznámení Nemecka týkajúcom sa osobného automobilu. Rádio vo vozidle môže mať určité medzery v zabezpečení softvéru, ktoré umožňujú neoprávnený prístup tretej strany do prepojených ovládacích systémov vo vozidle. Ak by tieto nedostatky v zabezpečení softvéru využila tretia strana na nekalé účely, mohlo by dôjsť k dopravnej nehode.

Príkladom je oznámenie týkajúce sa inteligentných hodiniek pre deti, ktoré poslal Island cez systém včasného varovania EÚ. Tento výrobok by dieťaťu, ktoré ho nosí, nespôsobil priamu škodu, ale keďže nie je ani minimálne zabezpečený, možno ho ľahko použiť na získanie prístupu k dieťaťu. Vzhľadom na to, že jedným zo zamýšľaných účelov tohto výrobku je chrániť bezpečnosť detí pomocou lokalizácie, spotrebiteľ očakáva, že výrobok neohrozí bezpečnosť detí tým, že umožní, aby ich ktokoľvek sledoval či kontaktoval.

Značná časť rámca Únie v oblasti bezpečnosti výrobkov vznikla pred príchodom digitálnych technológií, ako sú umelá inteligencia, internet vecí či robotika. Preto nie vždy obsahuje ustanovenia, ktoré by výslovne riešili nové výzvy a riziká spojené s týmito novými technológiami. Hoci je súčasný rámec bezpečnosti výrobkov technologicky neutrálny, neznamená to, že by sa na výrobky vybavené týmito technológiami nevzťahoval. Okrem toho v následných legislatívnych aktoch, ktoré tvoria súčasť tohto rámca, napríklad v odvetví zdravotníckych pomôcok alebo automobilov, sa už niektoré aspekty nových digitálnych technológií zohľadnili, napríklad automatizované rozhodnutia, softvér ako samostatný výrobok a prepojiteľnosť.

Cieľom právnych predpisov Únie v oblasti bezpečnosti výrobkov je zabezpečiť, aby výrobky uvedené na trh Únie spĺňali vysoké zdravotné, bezpečnostné a environmentálne požiadavky a aby sa takéto výrobky mohli v rámci Únie voľne pohybovať. Odvetvové právne predpisy dopĺňa smernica o všeobecnej bezpečnosti výrobkov, ktorá vyžaduje, aby boli bezpečné všetky spotrebné výrobky, a to aj keď nie sú upravené v odvetvových právnych predpisoch EÚ. Pravidlá bezpečnosti dopĺňa trhový dohľad a právomoci, ktoré vnútroštátnym orgánom vyplývajú z nariadenia o dohľade nad trhom a zo smernice o všeobecnej bezpečnosti výrobkov. V oblasti dopravy sa ďalšie pravidlá Únie a členských štátov vzťahujú na uvádzanie motorových vozidiel, lietadiel alebo lodí do prevádzky. Jasné pravidlá platia v oblasti bezpečnosti počas prevádzky, a to aj pokiaľ ide o úlohy operátorov a dohľad zo strany orgánov.

Právne predpisy Únie o bezpečnosti výrobkov vrátane právnych predpisov v oblasti dopravy už do istej miery zohľadňujú zložitosť výrobkov či systémov v snahe riešiť riziká, ktoré by mohli mať vplyv na bezpečnosť používateľov.

Zložitosť systémov sa konkrétnejšie rieši aj v odvetvových právnych predpisoch v oblasti bezpečnosti, ako je nariadenie o zdravotníckych pomôckach, a do určitej miery v právnych predpisoch o všeobecnej bezpečnosti výrobkov. Napríklad výrobca prepojeného zariadenia, ktoré má byť súčasťou inteligentného domáceho ekosystému, by mal byť schopný racionálne predpokladať, že jeho výrobky budú mať vplyv na bezpečnosť iných výrobkov.

Ak v tejto súvislosti výrobca predpokladá, že jeho zariadenie bude prepojené s ďalšími zariadeniami a bude s nimi komunikovať, malo by sa to pri posúdení rizika vziať do úvahy. Použitie, resp. nesprávne použitie sa stanovuje napríklad na základe skúseností s používaním rovnakého typu výrobku v minulosti, vyšetrovania porúch alebo ľudského správania.

Ďalšou významnou vlastnosťou niektorých výrobkov a systémov založených na umelej inteligencii je nepriehľadnosť, ktorú môže spôsobiť ich schopnosť zlepšovať výkon na základe poučenia zo skúsenosti. Výrobky a systémy založené na umelej inteligencii možno v závislosti od metodického prístupu charakterizovať rôznymi stupňami nepriehľadnosti To môže spôsobiť, že rozhodovací postup systému je náročné vysledovať („efekt čiernej skrinky“). Pre ľudí nemusí byť potrebné rozumieť každému kroku rozhodovacieho postupu, ale čím sú algoritmy umelej inteligencie vyspelejšie a prenikajú do kritických odvetví, ľudia by rozhodne mali rozumieť tomu, ako systém dospel k algoritmickému rozhodnutiu. To by bolo zvlášť dôležité pre následný mechanizmus presadzovania práva, keďže to umožní orgánom presadzovania práva vysledovať zodpovednosť za správanie a rozhodnutia systémov umelej inteligencie. Uznáva sa to aj v oznámení Komisie o budovaní dôvery v umelú inteligenciu sústredenú na človeka.

Vzniká otázka, či by právne predpisy Únie v oblasti bezpečnosti výrobkov mali obsahovať osobitné požiadavky, ktorými by sa riešili riziká spojené s chybami v údajoch v štádiu návrhu, ako aj mechanizmy, ktoré zabezpečia, že kvalita údajov sa zachová v celom cykle používania výrobkov a systémov umelej inteligencie.

Z hľadiska pôsobnosti príslušných právnych predpisov EÚ by sa mohlo pre výrobcov okrem iného humanoidných robotov vybavených umelou inteligenciou zvážiť zavedenie výslovnej povinnosti, aby zohľadňovali nemajetkovú ujmu, ktorú by ich výrobky mohli spôsobiť používateľom, najmä zraniteľným používateľom, ako sú staršie osoby v prostredí zdravotnej starostlivosti.

Napríklad autonómnosť by nemala spôsobovať dlhšie obdobia nadmerného stresu a nepohodlia, ani poškodzovať duševné zdravie. V tomto ohľade sa za faktory, ktoré pozitívne ovplyvňujú pocit bezpečia u starších ľudí, považujú: bezpečné vzťahy s personálom služieb zdravotnej starostlivosti, kontrola nad denným režimom a informovanosť o ňom. Výrobcovia robotov, ktorí komunikujú so staršími ľuďmi, by mali tieto faktory zohľadniť, aby predišli ohrozeniu duševného zdravia.

Budúce „správanie“ aplikácií umelej inteligencie by mohlo priniesť riziká pre duševné zdravie používateľov vyvolané napríklad spoluprácou s humanoidnými robotmi a systémami umelej inteligencie, a to v domácom aj pracovnom prostredí. V tejto súvislosti sa dnes pojem bezpečnosť všeobecne používa na označenie vnímanej hrozby fyzického poškodenia, ktoré môže používateľovi priniesť nová digitálna technológia. Zároveň v právnom rámci EÚ sú bezpečné výrobky vymedzené ako výrobky, ktoré nepredstavujú žiadne riziko alebo len minimálne riziká pre bezpečnosť a zdravie osôb. Panuje zhoda v tom, že vymedzenie pojmu zdravie zahŕňa fyzickú aj duševnú pohodu. No koncepcia bezpečnosti výrobkov by mala v legislatívnom rámci výslovne pokrývať riziká pre duševné zdravie.

Ukázalo sa, že v prípade súčasných zložitých hodnotových reťazcov je primerané, aby zodpovednosť za bezpečnosť konečného výrobku niesol výrobca. Avšak v hodnotových reťazcoch, ktoré by mohli byť dokonca ešte zložitejšie, by sa mohla právna istota zabezpečiť pomocou výslovných ustanovení požadujúcich, aby hospodárske subjekty v dodávateľskom reťazci a používatelia spolupracovali. Konkrétne každý aktér v hodnotovom reťazci, ktorý má vplyv na bezpečnosť výrobku (napr. výrobcovia softvéru), ako aj používatelia (ktorí napr. upravujú výrobok) by mali niesť zodpovednosť a poskytnúť ďalšiemu aktérovi v reťazci potrebné informácie a opatrenia.

Podľa rámca Únie upravujúceho bezpečnosť výrobkov nesie za bezpečnosť výrobku zodpovednosť výrobca, ktorý uvádza výrobok na trh, a to bez ohľadu na zložitosť hodnotového reťazca. Výrobcovia sú zodpovední za bezpečnosť konečného výrobku vrátane súčastí, ktoré sú do výrobku integrované, ako je napríklad softvér v počítači.

Na nové digitálne technológie majú v konečnom dôsledku vplyv aj zložité hodnotové reťazce. Táto zložitosť však nie je novinkou a nejde ani o problém, ktorý by bol výlučne spojený s novými digitálnymi technológiami, ako je umelá inteligencia alebo internet vecí. Je to tak napríklad aj v prípade výrobkov, ako sú počítače, servisné roboty alebo dopravné systémy.

V právnych predpisoch Únie v oblasti bezpečnosti výrobkov sa síce zohľadňujú bezpečnostné riziká vyplývajúce zo softvéru, ktorý je integrovaný do výrobku v čase jeho uvedenia na trh, ako aj z prípadných následných aktualizácií predvídaných výrobcom, no napriek tomu bude možno potrebné stanoviť osobitné a/alebo výslovné požiadavky na samostatný softvér (napr. „apka“, ktorá by sa sťahovala). Osobitná pozornosť by sa mala venovať samostatnému softvéru, ktorý výrobkom a systémom umelej inteligencie poskytuje bezpečnostné funkcie.

V právnych predpisoch Únie v oblasti bezpečnosti výrobkov by sa aktualizácie softvéru dali porovnať s vykonávaním údržby z bezpečnostných dôvodov za predpokladu, že výrazne neupravujú výrobok, ktorý už bol uvedený na trh, a že neprinášajú nové riziká, s ktorými sa pri počiatočnom posúdení rizika nepočítalo. Ak sa však aktualizáciou softvéru podstatne upravuje výrobok, do ktorého sa softvér sťahuje, celý výrobok sa môže považovať za nový výrobok a v čase vykonania úpravy sa musí prehodnotiť súlad s príslušnými právnymi predpismi v oblasti bezpečnosti výrobkov.

Uzatvorením riadneho poistenia sa môžu zmierniť negatívne následky nehôd tak, že sa zabezpečí bezproblémové odškodnenie obete. Jasné pravidlá zodpovednosti pomáhajú poisťovniam vypočítať svoje riziká a žiadať náhradu od strany, ktorá je v konečnom dôsledku zodpovedná za škodu. Ak napríklad dôjde k nehode spôsobenej chybou, poisťovateľ motorového vozidla môže po odškodnení obete žiadať náhradu od výrobcu.

Vlastnosti nových digitálnych technológií, ako je umelá inteligencia, internet vecí a robotika, však spochybňujú aspekty rámcov zodpovednosti Únie a vnútroštátnych rámcov zodpovednosti a mohli by znížiť ich účinnosť. Niektoré z týchto vlastností by mohli sťažiť vysledovateľnosť škody spôsobenej ľudským správaním, v prípade ktorej by sa podľa vnútroštátnych pravidiel mohol uplatňovať nárok na náhradu škody na základe subjektívnej zodpovednosti. To znamená, že nároky na náhradu škody na základe vnútroštátnych zákonov o občianskoprávnej zodpovednosti možno iba ťažko dokázať, alebo je toto dokazovanie neprimerane nákladné, a preto obete nemusia byť náležite odškodnené. Je dôležité, aby úroveň ochrany obetí nehôd spôsobených výrobkami a službami, medzi ktoré patria aj nové digitálne technológie ako umelá inteligencia, nebola nižšia v porovnaní s inými podobnými výrobkami a službami, v prípade ktorých by obete získali náhradu škody na základe vnútroštátnych zákonov o občianskoprávnej zodpovednosti. Inak by to mohlo viesť k tomu, že spoločnosť tieto nové technológie neprijme úplne a bude mať váhavý postoj k ich používaniu.

Bude nutné posúdiť, či by výzvy, ktoré nové technológie predstavujú pre existujúce rámce, mohli spôsobiť aj právnu neistotu, pokiaľ ide o to, ako by sa mali uplatňovať existujúce právne predpisy (napr. ako by sa koncepcia zavinenia mohla uplatňovať na škody spôsobené umelou inteligenciou). To by následne mohlo odrádzať od investícií, ako aj zvyšovať náklady na informácie a poistenie výrobcov a iných podnikov v dodávateľskom reťazci, najmä európskych MSP. Ak by navyše členské štáty napokon riešili výzvy spojené s vnútroštátnymi rámcami zodpovednosti, viedlo by to k ďalšej fragmentácii, čím by sa zvýšili náklady na uvádzanie inovačných riešení umelej inteligencie na jednotný trh a obmedzilo by sa cezhraničné obchodovanie s týmito riešeniami. Je dôležité, aby si spoločnosti boli vedomé svojich rizík zodpovednosti v celom hodnotovom reťazci a mohli ich obmedziť alebo im predchádzať a účinne sa proti nim poistiť.

V tejto kapitole sa vysvetľuje, aké výzvy predstavujú nové technológie pre existujúce rámce a akým spôsobom by sa mohli tieto výzvy riešiť. Okrem toho osobitosti niektorých sektorov, akým je napríklad sektor zdravotnej starostlivosti, si môžu vyžadovať dodatočné posúdenie.

Zložitosť výrobkov, služieb a hodnotového reťazca: Technológie a priemysel prešli za posledné desaťročia výraznými zmenami. Najmä deliaca čiara medzi výrobkami a službami už nemusí byť taká jednoznačná ako v minulosti. Výrobky a poskytovanie služieb sú čoraz viac vzájomne prepojené. Zatiaľ čo zložité produkty a hodnotové reťazce nie sú pre európsky priemysel či jeho regulačný model ničím novým, softvér a rovnako aj umelá inteligencia si zasluhujú osobitnú pozornosť z hľadiska zodpovednosti za výrobky. Softvér zohráva zásadnú úlohu vo fungovaní veľkého množstva výrobkov a môže ovplyvniť ich bezpečnosť. Aby bolo možné použiť výrobok na to, na čo bol určený, je softvér integrovaný do výrobkov, ale sa môže dodávať aj samostatne . Počítač ani smartfón by sa bez softvéru nedali používať. To znamená, že softvér môže spôsobiť chybu v hmotnom výrobku a viesť k jeho fyzickému poškodeniu (pozri rámček o softvéri v časti o bezpečnosti). Výrobca výrobku by tak mohol byť v konečnom dôsledku zodpovedný v zmysle smernice o zodpovednosti za výrobky.

Avšak vzhľadom na to, že existujú rôzne typy a podoby softvérov, odpovedať na otázku klasifikácie softvéru ako služby alebo ako výrobku nemusí byť vždy jednoduché. Zatiaľ čo softvér riadiaci prevádzku hmotného výrobku by sa mohol považovať za súčasť alebo komponent tohto výrobku, klasifikovať niektoré formy samostatného softvéru by už mohlo byť ťažšie.

Hoci je vymedzenie výrobku podľa smernice o zodpovednosti za výrobky široké, jeho rozsah by sa mohol ešte viac objasniť, aby lepšie zohľadňoval zložitosť nových technológií a zabezpečoval, aby bolo za škody spôsobené výrobkami, ktoré sú chybné z dôvodu softvéru alebo iných digitálnych prvkov, vždy dostupné odškodnenie. Hospodárske subjekty, ako napríklad vývojári softvéru, by mohli vďaka tomu lepšie posúdiť, či by sa podľa smernice o zodpovednosti za výrobky mohli považovať za výrobcov.

Aplikácie umelej inteligencie tvoria často súčasť zložitého prostredia internetu vecí, v ktorom fungujú mnohé navzájom prepojené zariadenia a služby. Vzhľadom na kombináciu rôznych digitálnych komponentov v zložitom ekosystéme a rôznorodosť zúčastnených aktérov môže byť komplikované posúdiť, kde je pôvod potenciálnej škody a ktorá osoba za škodu nesie zodpovednosť. Vzhľadom na zložitosť týchto technológií môže byť pre obete veľmi ťažké identifikovať zodpovednú osobu a dokázať všetky potrebné skutočnosti, aby mohli úspešne uplatniť svoj nárok na náhradu škody, ako sa vyžaduje podľa vnútroštátneho práva. Náklady na takúto expertízu môžu byť ekonomicky neúnosné a môžu odrádzať obete od požadovania náhrady.

Okrem toho výrobky a služby, ktoré sa spoliehajú na umelú inteligenciu, budú v kontakte s tradičnými technológiami, čo povedie k ešte väčšej zložitosti aj v prípade zodpovednosti. Napríklad autonómne autá budú určitý čas jazdiť na cestách spolu s tradičnými autami. Podobne zložité bude aj spolupôsobenie aktérov v niektorých odvetviach služieb (napríklad v oblasti riadenia dopravy a zdravotnej starostlivosti), kde budú rozhodovanie ľudí podporovať čiastočne automatizované systémy umelej inteligencie.

Podľa správy formácie pre nové technológie v rámci expertnej skupiny pre zodpovednosť a nové technológie by sa mohli zvážiť úpravy vnútroštátnych právnych predpisov s cieľom uľahčiť dôkazné bremeno pre obete škôd súvisiacich so umelou inteligenciou. Dôkazné bremeno by napríklad mohlo byť spojené s dodržiavaním zákonom stanovených osobitných povinností v oblasti kybernetickej bezpečnosti alebo iných bezpečnostných povinností (zo strany príslušného prevádzkovateľa): v prípade nedodržiavania týchto pravidiel by sa mohla uplatniť zmena dôkazného bremena, pokiaľ ide o zavinenie a príčinnú súvislosť.

Komisia skúma, či a do akej miery je potrebné obmedziť dôsledky zložitosti pomocou príslušnej iniciatívy EÚ, ktorá by zmiernila/zvrátila dôkazné bremeno požadované na základe vnútroštátnych pravidiel zodpovednosti za škody spôsobené prevádzkou aplikácií umelej inteligencie. Pokiaľ ide o právne predpisy Únie, podľa smernice o zodpovednosti za výrobky by sa výrobok, ktorý nespĺňa povinné bezpečnostné predpisy, považoval za chybný bez ohľadu na zavinenie výrobcom. Môžu však existovať aj dôvody na to, aby sa zvážili spôsoby, ako podľa smernice uľahčiť dôkazné bremeno pre obete: smernica sa opiera o vnútroštátne pravidlá týkajúce sa dôkazov a vzniku príčinnej súvislosti.

Prepojiteľnosť a otvorenosť: V súčasnosti nie je celkom jasné, čo možno očakávať z hľadiska bezpečnosti, pokiaľ ide o škody vyplývajúce z narušenia kybernetickej bezpečnosti vo výrobku, a či by mohli byť takéto škody primerane nahradené podľa smernice o zodpovednosti za výrobky.

Nedostatky v oblasti kybernetickej bezpečnosti môžu existovať hneď od začiatku, keď sa výrobok uvedie do obehu, no môžu sa objaviť aj neskôr, dávno po tom, čo sa výrobok uviedol do obehu.

Rámce upravujúce subjektívnu zodpovednosť, v ktorých sú jasne stanovené povinnosti týkajúce sa kybernetickej bezpečnosti, umožňujú prevádzkovateľom určiť, čo musia urobiť, aby sa vyhli dôsledkom zodpovednosti.

V rámci smernice o zodpovednosti za výrobky by sa mohla dostať do popredia otázka, či výrobca mohol predpokladať určité zmeny vzhľadom na racionálne predpokladané použitie výrobku. Je možné, že budeme napríklad čoraz častejšie počuť obranný argument, že k chybe došlo neskôr, podľa ktorého výrobca nenesie zodpovednosť, ak chyba neexistovala v čase, keď bol výrobok uvedený do obehu, alebo obranný argument, že ide o riziko spojené s vývojom (a teda že pri stave poznatkov v oblasti vývoja v danom čase sa táto chyba nedala predvídať). Zodpovednosť by sa okrem toho mohla obmedziť, pokiaľ poškodená strana nevykonáva príslušné bezpečnostné aktualizácie. To by sa mohlo potenciálne považovať za spoluzavinenie poškodenej osoby z nedbanlivosti , čo by viedlo k obmedzeniu zodpovednosti výrobcu. Keby prevládla koncepcia racionálne predpokladaného použitia a otázka spoluzavinenia z nedbanlivosti, ako je napríklad nestiahnutie bezpečnostnej aktualizácie, pre poškodené osoby by to mohlo znamenať, že získať náhradu škody spôsobenej chybou vo výrobku bude zložitejšie.

Autonómnosť a nepriehľadnosť: Pokiaľ sú aplikácie umelej inteligencie schopné konať autonómne, plnia svoju úlohu bez toho, aby bol každý krok vopred definovaný, a fungujú viac menej bez bezprostredného ovládania človekom alebo ľudského dohľadu. Pochopiť algoritmy založené na strojovom učení môže byť ťažké, ak nie úplne nemožné (tzv. efekt čiernej skrinky).

Vzhľadom na efekt čiernej skrinky, ako aj vzhľadom na vyššie spomínanú zložitosť by získanie náhrady škody spôsobenej aplikáciami umelej inteligencie mohlo byť zložité. Potreba pochopiť algoritmus a údaje použité umelou inteligenciou si vyžaduje analytické kapacity a technické odborné znalosti, čo by mohli obete považovať za neúnosne nákladné. Prístup k algoritmu a údajom by navyše nemusel byť možný bez spolupráce potenciálne zodpovednej strany. V praxi by to pre obete znamenalo, že si nebudú schopné uplatniť nárok na náhradu škody. Okrem toho by nebolo jasné, ako preukázať zavinenie umelou inteligenciou, ktorá koná autonómne, alebo čo by sa malo považovať za zavinenie osobou, ktorá sa spolieha na používanie umelej inteligencie.

V rámci vnútroštátnych právnych predpisov sa už vypracovalo viacero riešení s cieľom znížiť dôkazné bremeno pre obete v podobných situáciách.

Pokiaľ ide o bezpečnosť výrobkov a zodpovednosť za výrobok, hlavnou zásadou zostáva, že je úlohou výrobcu zabezpečiť, aby boli všetky výrobky uvedené na trh bezpečné tak počas svojho životného cyklu, ako aj pri ich použitiach, ktoré možno racionálne očakávať. To znamená, že výrobca by musel zabezpečiť, aby výrobok používajúci umelú inteligenciu dodržiaval určité bezpečnostné parametre. Funkcie umelej inteligencie vo výrobkoch (bez ohľadu na to, či ide o automatické kosačky na trávu alebo chirurgické roboty) sa nevylučujú s oprávnenými bezpečnostnými očakávaniami.