Сключването на подходяща застраховка може да смекчи отрицателните последици от злополуките, като осигури лесно заплащане на обезщетение на пострадалия. Ясните правила за отговорността помагат на застрахователните дружества да изчисляват рисковете и да искат възстановяване на разходите от страната, която в крайна сметка носи отговорност за вредите. Така например, ако злополуката е настъпила поради дефект, автомобилният застраховател може да поиска възстановяване на разходите от производителя, след като обезщети жертвата.

При все това, характеристиките на нововъзникващите цифрови технологии, като ИИ, ИН и роботиката, пораждат затруднения по отношение на някои аспекти от уредбата на Съюза и от националните уредби в областта на отговорността и биха могли да намалят тяхната ефективност. Някои от тези характеристики може да затруднят обратното проследяване на вредите до достигане до човешко поведение, което да може да даде основание за предявяване на претенция за виновна отговорност в съответствие с националните правила. Това означава, че претенциите за отговорност за причинени вреди, предявявани въз основа на националните норми за непозволеното увреждане, може да бъдат трудни за доказване или доказването им да бъде прекалено скъпо и съответно пострадалите може да не получат адекватно обезщетение. Важно е жертвите на злополуки, причинени от продукти и услуги, които включват нововъзникващи цифрови технологии като ИИ, да не се ползват от по-ниско равнище на защита в сравнение с други подобни продукти и услуги, за които биха получили обезщетение съгласно националното право в областта на непозволеното увреждане. Това би могло да намали приемането от обществото на тези нововъзникващи технологии и да доведе до колебание относно използването им.

Ще трябва да се прецени дали предизвикателствата, които новите технологии поставят пред съществуващите правни уредби, биха могли да доведат и до правна несигурност относно начина на прилагане на действащите закони (напр. как би се прилагала концепцията за „вината“ при вреди, причинени от ИИ). Това на свой ред би могло да обезкуражи инвестирането, както и да повиши разходите за информация и застраховане на производителите и другите предприятия по веригата на доставки, особено за европейските МСП. Освен това, дори държавите членки в крайна сметка да се справят с предизвикателствата пред националните си уредби в областта на отговорността, това би могло да доведе до допълнителна нормативна разпокъсаност, което би увеличило разходите за намиране на новаторски решения за ИИ и би намалило трансграничната търговия в рамките на единния пазар. Важно е дружествата да са наясно с рисковете, за които носят отговорност, по цялата верига за създаване на стойност и да могат да ги намаляват или предотвратяват, както и да се застраховат ефективно срещу тях.

В тази глава се обяснява защо новите технологии представляват предизвикателство за съществуващите уредби и по какъв начин могат да бъдат преодолени тези предизвикателства. Освен това особеностите на някои сектори, например здравеопазването, може да се нуждаят от допълнително разглеждане.

Сложност на продуктите, услугите и веригата за създаване на стойност: През последните десетилетия технологиите и промишлеността претърпяха драстично развитие. Особено разделителната линия между продуктите и услугите вече не може да бъде прокарана толкова ясно, колкото преди. Продуктите и предоставянето на услуги са все по-тясно преплетени. Въпреки че сложните продукти и вериги за създаване на стойност не са новост за европейската промишленост или нейния регулаторен модел, софтуерът и ИИ заслужават да им се обърне специално внимание във връзка с отговорността за вреди от продукти. Софтуерът е от основно значение за функционирането на голям брой продукти и може да повлияе върху тяхната безопасност. Той е интегриран в продуктите, но може да се доставя и отделно, за да позволи употребата на продукта по предназначение. Нито компютър, нито смартфон биха били от особена полза без софтуер. Това означава, че софтуерът може да доведе до дефект на материалния продукт и до материални вреди (вж. карето относно софтуера в частта относно безопасността). В крайна сметка това би могло да доведе до ангажиране на отговорността на производителя на продукта или стоката съгласно Директивата относно отговорността за вреди от продукти.

Тъй като обаче софтуерът съществува в много видове и форми, отговорите във връзка с класифицирането му като услуга или като продукт не винаги могат да са еднозначни. Така например, софтуерът за управление на работата на материален продукт може да се счита за част или компонент от този продукт, но някои форми на самостоятелен софтуер може да бъдат по-трудни за класифициране.

Макар че определението за продукт в Директивата относно отговорността за вреди от продукти е широко формулирано, неговият обхват може да бъде доизяснен, така че да се отрази по-добре сложността на нововъзникващите технологии и да се гарантира възможността за получаване на обезщетение винаги, когато настъпят вреди, причинени от продукти, които са дефектни поради софтуер или други цифрови елементи. Това би позволило на стопанските субекти, като разработчиците на софтуер, да преценят по-добре дали биха могли да се считат за производители по смисъла на Директивата относно отговорността за вреди от продукти.

Приложения с изкуствен интелект често се интегрират в сложна среда от типа „интернет на нещата“, в която си взаимодействат множество различни свързани устройства и услуги. Съчетаването на различни цифрови компоненти в една сложна екосистема и многообразието на участниците могат да затруднят извършването на преценка за това откъде произтичат евентуалните вреди и кое лице носи отговорност за тях. Поради сложността на тези технологии за пострадалите може да бъде много трудно да установят кой носи отговорност и да докажат всички необходими елементи за успешното предявяване на претенция, както се изисква от националното законодателство. Разходите за такава експертна преценка могат да бъдат икономически непосилни и да обезкуражат пострадалите да предявяват претенции за обезщетение.

Наред с това, продуктите и услугите, които разчитат на ИИ, ще взаимодействат с традиционните технологии, което ще доведе до допълнително усложняване и в областта на отговорността. Така например, за известно време автономните автомобили ще ползват пътищата наред с традиционните автомобили. Подобна сложна система на взаимодействащи си участници ще възникне в някои сектори на услугите (напр. управлението на пътния трафик и здравеопазването), където частично автоматизирани системи с ИИ ще помагат при вземането на решения от хората.

Според доклада, изготвен от подгрупата по новите технологии към Експертната група по въпросите на отговорността и новите технологии (Expert Group on Liability and New Technologies), може да се помисли за адаптиране на националните закони, за да се облекчи тежестта на доказване за лицата, които са претърпели вреди, свързани с ИИ. Възможно е например тежестта на доказване да бъде обвързана със спазването (от съответния оператор) на определени законоустановени задължения във връзка с киберсигурността или безопасността: ако правилата не бъдат спазени, може да се прилага промяна в тежестта на доказване по отношение на вината и причинно-следствената връзка.

Комисията събира мнения за това дали и до каква степен би имало нужда от ограничаване — чрез подходяща инициатива на ЕС — на последствията от сложността посредством облекчаване или обръщане на тежестта на доказване, предвидена в националните разпоредби, във връзка с отговорността за вреди, причинени от работата на приложения с ИИ. Що се отнася до законодателството на Съюза, съгласно Директивата относно отговорността за вреди от продукти всеки продукт, който не отговаря на задължителните правила относно безопасността, ще се счита за дефектен, независимо от вината на производителя. Може обаче да има основания да се обмислят и начините за облекчаване на тежестта на доказване за пострадалите чрез Директивата: Директивата се основава на националните разпоредби относно доказателствата и установяването на причинно-следствената връзка.

Свързаност и отвореност: Понастоящем не е съвсем ясно какви може да бъдат очакванията за безопасност по отношение на вредите, произтичащи от нарушения на киберсигурността на продукта, и дали тези вреди биха били обезщетени по адекватен начин въз основа на Директивата относно отговорността за вреди от продукти.

Слабостите в киберсигурността може да съществуват още от самото начало, при пускане на продукта в обращение, но също така е възможно да възникнат на по-късен етап, много след пускането му в обращение.

При правните уредби, предвиждащи виновна отговорност, вменяването на ясни задължения относно киберсигурността позволява на субектите да определят какво трябва да направят, за да избегнат последиците от отговорността.

Ако се прилага Директивата относно отговорността за вреди от продукти, въпросът дали даден производител е можел да предвиди някои промени, като се има предвид разумно предвидимата употреба на продукта, може да придобие по-голямо значение. Така например, бихме могли да станем свидетели на по-често прибягване до защита чрез аргумент за „възникнал впоследствие недостатък“, според която производителят не носи отговорност, ако дефектът/недостатъкът не е съществувал към момента на пускане на продукта в обращение, или чрез аргумент за „риска, свързан с разработването на продукта“ (че най-съвременните познания към онзи момент не са позволявали въпросният дефект да бъде предвиден). Освен това отговорността би могла да се намали, ако увреденото лице не извършва актуализации, които са от значение за безопасността. Това потенциално би могло да се счита за съпричиняване от страна на увреденото лице и съответно би могло да води до намаляване на отговорността на производителя. Тъй като понятието за „разумно предвидима употреба“ и въпросите, свързани със съпричиняването на вреди, като например пропускът да се свали актуализация от значение за безопасността, може да придобият по-голямо значение, за увредените лица може да стане по-трудно да получат обезщетение за вреди, причинени от дефект в продукта.

Автономност и непрозрачност: Когато приложенията с ИИ са способни да действат автономно (самостоятелно), те изпълняват задача без всяка стъпка да е предварително определена и с по-малко или евентуално без какъвто и да било непосредствен контрол или надзор от страна на човека. Алгоритмите, основани на машинно самообучение, може да бъдат трудни за разбиране, ако не и напълно неразбираеми (т.нар. „ефект на черната кутия“).

В допълнение към сложността, разгледана по-горе, поради ефекта на черната кутия при някои ИИ, получаването на обезщетение би могло да се превърне в трудна задача при вреди, причинени от автономни приложения с ИИ. За разбирането на алгоритъма и данните, използвани от ИИ, се изискват аналитичен капацитет и технически експертен опит, които биха могли да се окажат непосилно скъпи за увредените лица. Освен това достъпът до алгоритъма и данните може да бъде невъзможен без съдействието на евентуално отговорната страна. По този начин на практика жертвите може да не бъдат в състояние да предявят иск за обезщетение. Наред с това би било неясно как да се докаже вината на ИИ, който е действал автономно, или как би следвало да се разглежда вината на лице, което е разчитало на използването на ИИ.

Националните законодателства вече са разработили редица решения за намаляване на тежестта на доказване за увредените лица в подобни ситуации.

Като водещ принцип на Съюза по отношение на безопасността на продуктите и отговорността за вреди от продукти остава принципът, че производителите трябва да гарантират, че всички пуснати на пазара продукти следва да бъдат безопасни през целия си жизнен цикъл и при употреба на продукта, която може основателно да се очаква. Това означава, че производителят би трябвало да гарантира, че продукт, използващ ИИ, отговаря на определени показатели за безопасност. Характеристиките на ИИ не изключват правото на лицата да имат очаквания във връзка със сигурността на продуктите, независимо дали става дума за автоматични косачки на трева или хирургически роботи.