·Многообразие, недискриминация и справедливост,

·Обществено и екологично благополучие,

·Отчетност.

Освен това насоките съдържат списък за оценка на практическото използване на ИИ от страна на дружествата. През втората половина на 2019 г. този списък за оценка беше изпробван от над 350 организации, които изпратиха отзивите си. Групата на високо равнище е в процес на преразглеждане на насоките в светлината на тази обратна информация и ще приключи работата си до юни 2020 г. Този процес на събиране на обратна информация открои факта, че макар редица изисквания да присъстват вече в съществуващите правни или регулаторни режими, изискванията за прозрачност, проследимост и човешки надзор не са конкретно обхванати от настоящото законодателство в много икономически сектори.

В допълнение към този набор от необвързващи насоки на експертната група на високо равнище и в съответствие с политическите насоки на председателя на Комисията, една ясна европейска регулаторна рамка ще създаде доверие в ИИ у потребителите и предприятията и следователно ще ускори възприемането на технологията. Подобна регулаторна рамка следва да е съобразена с други действия за насърчаване на иновационния капацитет и конкурентоспособността на Европа в тази област. Освен това тя трябва да гарантира оптимални в социално, екологично и икономическо отношение резултати, както и спазване на законодателството, принципите и ценностите на ЕС. Това е от особено значение в областите, в които правата на гражданите са потенциално най-уязвими, например когато ИИ се използва в правоприлагането и съдебната система.

Разработчиците и внедрителите на технологии с ИИ вече са обект на европейското законодателство в областта на основните права, например защитата на данните, неприкосновеността на личния живот, недискриминацията, защитата на потребителите, както и на правилата относно безопасността на продуктите и отговорността. Потребителите очакват еднакви права и равнище на безопасност, независимо дали даден продукт или система използва ИИ или не. Някои присъщи на ИИ характеристики, например неговата непрозрачност, могат обаче да затруднят прилагането и изпълнението на въпросното законодателство. Затова е необходимо да се проучи дали действащото законодателство е в състояние да отговори на свързаните с ИИ рискове и може да се прилага ефективно, дали е необходимо законодателството да се адаптира или е необходимо ново законодателство.

Предвид темпа на развитие на свързаните с ИИ технологии регулаторната рамка трябва да се поддава и на доразработване. Всички промени следва да бъдат ограничени до ясно определени проблеми, за които съществуват приложими решения.

Държавите членки посочват отсъствието на общоевропейска рамка. Германската комисия по етика в областта на данните призова за регулаторна система с пет равнища, основана на оценка на риска, при която повечето безобидни системи с ИИ не подлежат на никакво регулиране, а най-опасните са напълно забранени. Дания наскоро въведе прототип на знак за етичност в областта на данните. Малта въведе доброволна система за сертифициране на ИИ. Ако ЕС не осигури общоевропейски подход, съществува реален риск от разпокъсване във вътрешния пазар, което би подкопало целите на доверието, правната сигурност и внедряването на пазара.

Една солидна европейска регулаторна рамка за надеждни технологии с ИИ би осигурила защита за всички европейски граждани и би спомогнала за създаването на безпроблемен вътрешен пазар за по-нататъшното разработване и внедряване на ИИ, както и за укрепването на промишлената база на Европа в областта на ИИ.

1.Определяне на проблема

ИИ носи много ползи, сред които е повишаването на безопасността на някои продукти и процеси, но той може да донесе и вреди. Те могат да са материални (за безопасността и здравето, включително загуба на човешки живот, имуществени щети) и нематериални (нарушаване на неприкосновеността на личния живот, ограничения на правото на свобода на изразяване, накърняване на човешкото достойнство, дискриминация, например при достъпа до заетост и др.) и могат да са свързани с най-разнообразни рискове. Всякаква регулаторна рамка би следвало да се съсредоточи върху начините за свеждане до минимум на различните рискове от потенциални вреди, особено на по-съществените.

Основните рискове, свързани с използването на ИИ, се отнасят до прилагането на правилата за защита на основните права (сред които са защитата на личните данни и неприкосновеността на личния живот и недискриминацията), както и до въпроси, свързани с безопасността и отговорността.

Рискове за основните права, включително неприкосновеността на личния живот, защитата на личните данни и недискриминацията

Използването на ИИ крие опасност от нарушаване на основните права, включително свободата на словото, свободата на събрания, човешкото достойнство, принципа на недискриминация на полова, расова или етническа основа, на основа на вероизповедание или религия, увреждания, възраст или сексуална ориентация, според случая в различните области, защитата на личните данни и личния живот или правото на ефективна съдебна защита и справедлив съдебен процес, както и защитата на потребителите. Тези рискове могат да се дължат на недостатъци в цялостното проектиране на системите с ИИ (включително по отношение на човешкия надзор) или на използването на данни без коригиране на потенциална необективност (например системата се обучава само или предимно с данни за мъже, което води до неоптимални резултати по отношение на жените).

ИИ може да изпълнява много задачи, които в миналото можеха да извършват единствено хора. Тоест все по-често граждани и правни субекти ще стават обект на действия и решения, които се вземат от системи с ИИ или с помощта на такива системи и чието разбиране и, при необходимост, ефективно оспорване може понякога да се окаже трудно. Освен това ИИ открива повече възможности за проследяване и анализ на ежедневните навици на хората. Например, съществува потенциален риск ИИ да бъде използван, в нарушение на правилата на Съюза за защита на данните и други правила, от държавни органи или други органи за масово наблюдение, както и от работодатели, за да наблюдават поведението на своите служители. ИИ е способен да анализира големи количества данни и да разпознава взаимовръзки в тях, което може да се използва също за проследяване и свързване на определени данни с определени лица, което поражда нови рискове за защитата на личните данни дори по отношение на набори от данни, които не включват сами по себе си лични данни. ИИ се използва също така от онлайн посредници за приоритизиране на информацията, която предлагат на своите потребители, и за модериране на съдържанието. Обработваните данни, проектантският замисъл на приложенията и възможностите за човешка намеса могат да се отразят върху правото на свобода на словото, защита на личните данни и неприкосновеност на личния живот, както и върху политическите свободи.

Някои алгоритми за ИИ, използвани за предсказване на престъпни рецидиви, могат да бъдат необективни и дискриминиращи по полов или расов признак и да предсказват различна вероятност от рецидив при жените в сравнение с мъжете или при гражданите на съответната държава в сравнение с чужденците. Източник: Tolan S., Miron M., Gomez E. and Castillo C. „Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia” (Защо машинното самообучение може да доведе до неравноправие: доказателства от оценката на риска при правораздаването за непълнолетни лица в Каталония), награда за най-добра статия, Международна конференция по въпросите на изкуствения интелект и правото, 2019 г.

При някои програми с ИИ за анализ на портретни снимки се наблюдава необективност на полова или расова основа. Например, системата разпознава по-правилно пола на мъже със светла кожа, но често греши при определянето на пола на жени с по-тъмна кожа. Източник: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency (Резултати от първата конференция за справедливост, отчетност и прозрачност), PMLR 81:77-91, 2018.