Zhrnutie

Posúdenie vplyvu iniciatívy týkajúcej sa občianskoprávnej zodpovednosti za škody spôsobené umelou inteligenciou

A. Potreba konať

V čom spočíva problém a prečo ide o problém na úrovni EÚ?

Zavádzanie umelej inteligencie je cieľom Komisie, ako aj očakávaným trendom. Hoci by produkty/služby založené na umelej inteligencii mali byť podľa očakávaní bezpečnejšie ako tradičné produkty/služby, nehody sa môžu vyskytnúť. Súčasné pravidlá zodpovednosti, a najmä vnútroštátne pravidlá odvíjajúce sa od existencie pochybenia, nie sú prispôsobené na riešenie nárokov na náhradu škody spôsobenej produktmi a službami založenými na umelej inteligencii. Podľa týchto pravidiel musia obete preukázať zavinenie/opomenutie osoby, ktorá spôsobila škodu. Osobitné vlastnosti umelej inteligencie, akými sú autonómia a neprehľadnosť (tzv. efekt čiernej skrinky), sťažujú alebo neúmerne predražujú určenie zodpovednej osoby a dodržanie požiadaviek na úspešné uplatnenie nároku na náhradu škody. Komisia chce zabrániť tomu, aby boli obete škody spôsobenej umelou inteligenciou, napríklad občania a podniky, menej chránené ako obete tradičných technológií. Takáto nedostatočná náhrada škody môže ovplyvniť ich dôveru v umelú inteligenciu a v konečnom dôsledku aj využívanie produktov/služieb založených na umelých technológiách. Nie je isté, do akej miery sa môžu vnútroštátne pravidlá zodpovednosti uplatňovať na osobitosti umelej inteligencie. Okrem toho môžu súdy s cieľom vyhnúť sa nespravodlivému výsledku pre obeť uplatňovať existujúce pravidlá na báze ad hoc, aby dospeli k spravodlivému výsledku. To spôsobí právnu neistotu. V jej dôsledku budú mať podniky problém predvídať, ako sa budú existujúce pravidlá zodpovednosti uplatňovať v prípade vzniku škody. Vzhľadom na to bude pre nich náročné posúdiť a poistiť vyvodenie zodpovednosti. Tento vplyv je ešte väčší v prípade podnikov pôsobiacich cezhranične, keďže neistota sa bude týkať rôznych jurisdikcií. Najväčší vplyv to bude mať na MSP, ktoré sa nemôžu spoliehať na svoje odborné kapacity v oblasti práva ani kapitálové rezervy. Okrem toho možno očakávať, že ak EÚ nebude konať, členské štáty prispôsobia svoje vnútroštátne pravidlá zodpovednosti výzvam spojeným s umelou inteligenciou. Dôsledkom bude ďalšia fragmentácia a vyššie náklady pre podniky pôsobiace cezhranične.

Čo by sa malo dosiahnuť?

Iniciatíva je zameraná na plnenie priority Komisie v oblasti digitálnej transformácie. Všeobecným cieľom je podporiť zavádzanie dôveryhodnej umelej inteligencie na využívanie všetkých výhod, ktoré umelá inteligencia prináša. Preto sa biela kniha o umelej inteligencii zameriava na vytvorenie ekosystému dôvery na podporu využívania umelej inteligencie. Iniciatíva v oblasti zodpovednosti je nevyhnutným dôsledkom prispôsobenia bezpečnostných predpisov umelej inteligencii, a preto dopĺňa akt o umelej inteligencii. Iniciatívou týkajúcou sa umelej inteligencie sa: -zabezpečí, aby boli obete produktov/služieb založených na umelej inteligencii rovnako chránené ako obete tradičných technológií, -zníži právna neistota týkajúca sa vyvodenia zodpovednosti podnikov vyvíjajúcich alebo používajúcich umelú inteligenciu, -zabráni vzniku fragmentovaných prispôsobení vnútroštátnych pravidiel občianskoprávnej zodpovednosti.

Aká je pridaná hodnota opatrení na úrovni EÚ (subsidiarita)?

Na podporu zavádzania umelej inteligencie v Európe je potrebné otvoriť jednotný trh EÚ tým hospodárskym subjektom, ktoré chcú vyvíjať alebo zavádzať umelú inteligenciu vo svojich podnikoch. Je potrebné znížiť právnu neistotu a zabrániť fragmentácii, ktorá by nastala, ak by členské štáty začali z vlastnej iniciatívy rozdielnym spôsobom prispôsobovať vnútroštátne pravidlá. Podľa konzervatívneho odhadu by malo mať v porovnaní so základným scenárom opatrenie na úrovni EÚ týkajúce sa zodpovednosti za umelú inteligenciu pozitívny vplyv v podobe 5 až 7 % zvýšenia výrobnej hodnoty príslušného cezhraničného obchodu.

B. Riešenia

Aké sú rôzne možnosti na dosiahnutie týchto cieľov? Je niektorá z možností uprednostňovaná? Ak nie, prečo?

Možnosť politiky 1: tri opatrenia na zmiernenie dôkazného bremena obetí pri dokazovaní ich nároku na náhradu škody: a) harmonizácia spôsobu, akým možno poskytovať informácie zaznamenávané/dokumentované podľa pravidiel aktu o umelej inteligencii týkajúcich sa bezpečnosti výrobkov v súdnych konaniach, aby mohla obeť identifikovať a dokázať konanie/opomenutie, ktoré viedlo k vzniku škody; b) ak obeť preukáže, že zodpovedná osoba nesplnila bezpečnostné požiadavky aktu o umelej inteligencii koncipované tak, aby sa nimi predchádzalo vzniku škody, súdy sa môžu domnievať, že toto nedodržanie pravidiel spôsobilo škodu. Potenciálne zodpovedná osoba bude mať príležitosť takúto domnienku vyvrátiť, napr. tým, že dokáže inú príčinu vzniku škody; c) ak môže obeť dokázať svoj nárok na náhradu škody len tým, že preukáže, čo sa stalo vnútri systému umelej inteligencie, takéto dôkazné bremeno obete sa zmierni. Potenciálne zodpovedná osoba bude mať príležitosť dokázať, že nekonala nedbanlivo. Možnosť politiky 2: opatrenia v rámci možnosti 1 + harmonizácia systému objektívnej zodpovednosti pre prípady používania umelej inteligencie s osobitným rizikovým profilom. Objektívna zodpovednosť znamená, že osoba, ktorá vystaví verejnosť riziku [zákonné záujmy vysokej hodnoty (život, zdravie, majetok)] a má z neho prospech, je zodpovedná, ak sa takéto riziko prejaví. Ide napríklad o zodpovednosť majiteľa automobilu. V takých prípadoch musí obeť dokázať iba to, že vzniknutá škoda vyplýva z oblasti rizika zodpovednej osoby. Táto možnosť môže byť spojená s povinným poistením. Možnosť politiky 3: fázový prístup (uprednostňovaná možnosť politiky) pozostávajúci z: – prvej fázy: opatrenia v rámci možnosti 1 a – druhej fázy: mechanizmus preskúmania na účely opätovného posúdenia potreby harmonizácie objektívnej zodpovednosti pre prípady používania umelej inteligencie s osobitným rizikovým profilom (v možnom spojení s povinným poistením).

Aké sú názory jednotlivých zainteresovaných strán? Kto podporuje ktorú možnosť?

Väčšina zainteresovaných strán vo všeobecnosti súhlasila s existenciou identifikovaných problémov a podporila opatrenie na úrovni EÚ. Občania EÚ, spotrebiteľské organizácie a akademické inštitúcie prevažnou väčšinou potvrdili potrebu opatrenia na úrovni EÚ na zmiernenie problémov obetí, pokiaľ ide o dôkazné bremeno. Podniky uznali negatívny vplyv neistoty na uplatňovanie pravidiel zodpovednosti, boli však opatrnejšie a žiadali cielenú intervenciu, ktorou by sa zabránilo obmedzeniu inovácie. Podobne to platilo aj pri možnostiach politiky. Občania EÚ, spotrebiteľské organizácie a akademické inštitúcie do veľkej miery podporili ako minimum opatrenia týkajúce sa dôkazného bremena. Takisto presadzovali najdôslednejšie opatrenie, ktorým je harmonizácia objektívnej zodpovednosti spojená s povinným poistením. Podniky boli nejednotnejšie, a to aj v závislosti od ich veľkosti. Objektívnu zodpovednosť považovali za neprimeranú. Harmonizácia zmiernenia dôkazného bremena si získala väčšiu podporu, a to najmä medzi MSP. Podniky však varovali pred úplným prenesením dôkazného bremena.

C. Vplyvy uprednostňovanej možnosti

Aké sú výhody uprednostňovanej možnosti (prípadne hlavných možností, ak sa žiadna konkrétna možnosť neuprednostňuje)?

Uprednostňovanou možnosťou politiky by sa zabezpečilo, aby obete produktov a služieb založených na umelej inteligencii (fyzické osoby, podniky a akékoľvek iné verejné alebo súkromné subjekty) neboli menej chránené ako obete tradičných technológií. Zvýšila by sa tým dôvera v umelú inteligenciu a podporilo jej využívanie. Ďalej by sa touto iniciatívou zmiernila právna neistota a zabránilo fragmentácii, čím by sa pomohlo spoločnostiam, a predovšetkým MSP, ktoré chcú v plnej miere využívať potenciál jednotného trhu EÚ cezhraničným zavádzaním produktov a služieb založených na umelej inteligencii. Touto iniciatívou by sa takisto zlepšili podmienky pre poisťovateľov, ktorí tak môžu ponúkať krytie činností súvisiacich s umelou inteligenciou, čo je mimoriadne dôležité najmä pre MSP na riadenie ich rizík. Pokiaľ ide o environmentálne prínosy, od iniciatívy sa očakáva, že prinesie pozitívne účinky a prispeje k inovácii v oblasti technológií šetrných k životnému prostrediu. Špičkové produkty a služby, ktoré sa majú touto iniciatívou podporovať, nie sú z väčšej časti na trhu zatiaľ dostupné. Navrhované opatrenia sú priekopnícke, keďže sa nimi prispôsobuje právny rámec osobitným potrebám a výzvam umelej inteligencie, aby sa vytvoril ekosystém dôvery a právnej istoty. Keďže ide o perspektívny prístup k politikám, nie sú k dispozícii dostatočné údaje na kvantifikáciu vplyvov uprednostňovanej možnosti politiky. Tieto vplyvy boli preto posúdené najmä kvalitatívne, a to pri zohľadnení všetkých dostupných údajov, odborných odhadov a vstupov od zainteresovaných strán. Na základe odôvodnených predpokladov sa použili určité kvantifikačné prístupy. Konkrétne sa odhaduje, že uprednostňovaná možnosť politiky prinesie v roku 2025 zvýšenie hodnoty trhu s umelou inteligenciou v krajinách EÚ27 v rozpätí od 500 mil. EUR približne do 1,1 mld. EUR. Okrem toho z mikroekonomickej analýzy údajov o trhu s robotickými vysávačmi vyplýva, že iniciatíva by viedla k nárastu celkového blahobytu v krajinách EÚ27 v rozpätí od 30,11 mil. EUR do 53,74 mil. EUR len v tejto jednej kategórii produktov.

Aké sú náklady na uprednostňovanú možnosť (prípadne na hlavné možnosti, ak sa žiadna konkrétna možnosť neuprednostňuje)?

Uprednostňovanou možnosťou politiky sa predchádza nedostatkom v oblasti zodpovednosti, ktoré spôsobujú osobitné vlastnosti umelej inteligencie. Zabezpečilo by sa ňou, aby v prípadoch, keď osobitné vlastnosti umelej inteligencie neumožňujú obeti dokázať potrebné skutočnosti, znášala náklady namiesto obete osoba zodpovedná za spôsobenú škodu. Je to v súlade s jedným zo základných účelov práva v oblasti zodpovednosti, ktorým je zabezpečiť, aby osoba, ktorá nezákonne poškodí inú osobu, nahradila obeti spôsobenú škodu. Takisto je súčasťou cieľa politiky Komisie spočívajúceho v zabezpečení rovnakej úrovne ochrany obetí škody spôsobenej pričinením systémov umelej inteligencie ako v prípade obetí škody spôsobenej tradičnými technológiami. Vedie k účinnejšej náhrade trov konania v prípade osoby, ktorá skutočne spôsobila škodu, a je najlepšou možnosťou na predchádzanie vzniku škody. Potenciálne zodpovedné osoby (najmä podniky pôsobiace na trhu s umelou inteligenciou) budú s najväčšou pravdepodobnosťou kryté poistením. Poistné riešenia umožňujú rozloženie bremena zodpovednosti na celú komunitu poistencov, čím sa obmedzia náklady zodpovedných osôb na ročné poistenie. Poistené zodpovedné osoby by preto náklady na odškodnenie obete vnímali iba ako mierne zvýšenie výšky svojho poistného. Vysokospoľahlivé a presné vyčíslenie nákladov nebolo možné, pretože špičkové produkty a služby podporené touto iniciatívou nie sú z väčšej časti na trhu zatiaľ dostupné. Na základe dostupných údajov, odbornej analýzy a odôvodnených predpokladov sa odhadovalo, že možnosť uprednostňovanej politiky môže viesť k zvýšeniu celkového ročného poistenia všeobecnej zodpovednosti v EÚ o 5,35 mil. EUR na 16,1 mil. EUR.

Aký je vplyv na MSP a konkurencieschopnosť?

Zlepšením podmienok fungovania vnútorného trhu s produktmi a službami založenými na umelej inteligencii by sa iniciatívou dosiahol pozitívny vplyv na hospodársku súťaž spoločností pôsobiacich na európskom trhu s umelou inteligenciou. Uvedené spoločnosti by sa stali konkurencieschopnejšími v celosvetovom meradle, čím sa posilní postavenie EÚ medzi jej konkurentmi v globálnych pretekoch v oblasti umelej inteligencie (najmä USA a Čínou). Keďže umelá inteligencia je špičkovou podpornou technológiou, tieto prínosy by sa neobmedzovali len na určité konkrétne sektory, ale prejavili by sa, hoci v rôznej miere, vo všetkých sektoroch, v ktorých sa umelá inteligencia vyvíja alebo používa. Pre MSP by bola znížená právna neistota a fragmentácia ešte prínosnejšia ako pre iné zainteresované strany, pretože tieto problémy ich v oblasti súčasných pravidiel zodpovednosti ovplyvňujú viac. Touto iniciatívou by sa zlepšili podmienky najmä pre MSP, ktoré chcú v iných členských štátoch zavádzať produkty alebo služby založené na umelej inteligencii. Toto je mimoriadne dôležité, pretože trh EÚ s umelou inteligenciou do veľkej miery stimulujú MSP, ktoré vyvíjajú, zavádzajú alebo používajú technológie umelej inteligencie. MSP by táto iniciatíva prospela rovnako ako obetiam škody spôsobenej umelou inteligenciou, keďže by sa mohli spoľahnúť na zmiernenie dôkazného bremena pri nároku na náhradu škody.

Očakáva sa významný vplyv na štátne rozpočty a verejnú správu?

Neočakáva sa významný vplyv na štátne rozpočty ani verejnú správu. Plánované opatrenia, ktorými sa zmierňuje dôkazné bremeno obetí, by sa mohli bez problémov začleniť do existujúcich procesných rámcov a rámcov občianskoprávnej zodpovednosti členských štátov. Členské štáty budú povinné podávať správy o vykonávaní iniciatívy a poskytovať určité informácie na účely cieleného preskúmania Komisiou. Tieto požiadavky na podávanie správ sa však budú obmedzovať na informácie dostupné prostredníctvom existujúcich databáz členských štátov a informácie oznamované podľa iných právnych nástrojov (napr. aktu o umelej inteligencii alebo smernice o poistení motorových vozidiel), čím sa dosiahnu synergie a zabezpečí súdržnosť budúcich opatrení politík v najrôznejších oblastiach politík.

Očakávajú sa iné významné vplyvy?

Základné práva: Iniciatívou sa prispeje k podpore účinného súkromného presadzovania základných práv a zachovaniu práva na účinný prostriedok nápravy v prípade prejavenia rizík súvisiacich s umelou inteligenciou (napr. diskriminácie) na základných právach. Medzinárodný rozmer: Navrhnutím vyváženého prístupu k zodpovednosti za škodu spôsobenú umelou inteligenciou má EÚ príležitosť stanoviť globálnu referenčnú hodnotu a podporiť svoj prístup ako globálne riešenie, ktoré by nakoniec znamenalo konkurenčnú výhodu pre „umelú inteligenciu vyrobenú v Európe“.

Proporcionalita?

Uprednostňovaná možnosť je koncipovaná tak, aby pripravila pôdu na vývoj a používanie umelej inteligencie v záujme dosahovania hlavného cieľa, ktorým je podpora jej zavádzania v EÚ. Táto možnosť však neprekračuje rámec toho, čo je nevyhnutné. Po prvé je intervencia EÚ zacielená, pretože sa ňou iba zmierni dôkazné bremeno obetí. Budú sa ňou len harmonizovať prvky zodpovednosti, pre ktoré predstavuje umelá inteligencia výzvu, pričom ostatné prvky ako stanovenie pochybenia a príčinnej súvislosti sa ponechávajú na existujúce vnútroštátne právne predpisy. Po druhé sa uprednostňovanou možnosťou odloží posúdenie potreby harmonizácie objektívnej zodpovednosti na neskoršiu fázu, keď bude k dispozícii viac informácií o umelej inteligencii a jej používaní (podrobnosti sa uvádzajú ďalej). Po tretie sa v rámci uprednostňovanej možnosti navrhuje prístup minimálnej harmonizácie. Hoci sa minimálnou harmonizáciou nevytvoria úplne rovnaké podmienky, zabezpečí sa ňou možnosť bezproblémového začlenenia nových pravidiel do existujúceho právneho rámca občianskoprávnej zodpovednosti v jednotlivých členských štátoch. Členské štáty tak budú môcť začleniť zacielené intervencie EÚ v rámci uprednostňovanej možnosti do svojho vnútroštátneho práva, pričom iniciatívou sa zabezpečí zvýšenie právnej istoty v celej EÚ, zabráni ďalšej právnej fragmentácii a zaistí účinná ochrana obetí, ktorá je porovnateľná s úrovňou ochrany v prípade iných škôd.

D. Nadväzné opatrenia

Kedy sa táto politika preskúma?