Становище на Европейския икономически и социален комитет относно „Съобщение на Комисията до Европейския парламент, Съвета, Европейския икономически и социален комитет и Комитета на регионите — Изграждане на доверие в ориентирания към човека изкуствен интелект“

(COM(2019) 168 final)

(2020/C 47/09)

Докладчик: Franca SALIS-MADINIER

Консултация Европейска комисия, 3.6.2019 г. Правно основание член 304 от Договора за функционирането на Европейския съюз Компетентна секция „Единен пазар, производство и потребление“ Приемане от секцията 18.10.2019 г. Приемане на пленарна сесия 30.10.2019 г. Пленарна сесия № 547 Резултат от гласуването („за“/„против“/„въздържал се“) 198/1/4

1. Заключения и препоръки

1.1. Изкуственият интелект (ИИ) не е цел сам по себе си, а инструмент, който може да доведе до положителни радикални промени, но и да носи рискове. Поради тази причина за използването му трябва да се установят ясни правила.

1.2. Комисията би трябвало да вземе мерки във връзка с предвиждането, предотвратяването и забраната на злонамереното използване на ИИ и машинното самообучение и по-добре да регулира предлагането на пазара на продукти със злонамерена цел.“

1.3. ЕС трябва, по-специално, да насърчава разработването на системи за ИИ, насочени към конкретни приложения, даващи възможност за ускоряване на екологичния и климатичния преход.

1.4. Необходимо е да се определят предизвикателствата, които ще могат да бъдат преодолени посредством етични кодекси, саморегулиране и доброволни ангажименти, и онези, които ще трябва да бъдат преодолени чрез регулаторни и законодателни средства, придружени от мониторинг, а в случай на неспазване — от санкции. При всички случаи системите на ИИ трябва да отговарят на съществуващото законодателство.

1.5. ИИ изисква подход, който обхваща не само техническите аспекти, но и обществените и етичните. ЕИСК приветства ангажимента на ЕС да изгради подход към ИИ, който е ориентиран към човека и съответства на основополагащите ценности на ЕС: зачитане на човешкото достойнство, свобода, демокрация, равенство и недискриминация, правова държава, зачитане на правата на човека.

1.6. ЕИСК отново потвърждава ( 1 ) необходимостта от консултиране и информиране на работниците и техните представители при въвеждането на системи с ИИ, които могат да доведат до промени в организацията на труда, нейния надзор и контрол, както и в системите за оценка и набиране на персонал. Комисията трябва да насърчава социалния диалог с цел включване на работниците в използването на системите с ИИ.

1.7. ЕИСК подчертава ( 2 ) , че един надежден ИИ предполага контрол на човека върху машината и информиране на гражданите относно неговото използване. Системите на ИИ трябва да могат да бъдат обяснени или, ако това не е възможно, трябва да се предостави информация на гражданите и потребителите относно ограниченията и рисковете, свързани с тези системи.

1.8. ЕС трябва да се занимае с „нововъзникващите рискове“ ( 3 ) в областта на здравословните и безопасни условия на труд. Трябва да се установят стандарти, за да се избегне положение, при което автономните системи засягат или причиняват щети на хората. Работниците трябва да бъдат обучени да работят с машината и да я спират в случай на авария.

1.9. ЕИСК призовава за развиване на стабилна система за сертифициране, основана на процедури за изпитване, които позволяват на предприятията да потвърдят надеждността и безопасността на своите системи с ИИ. Прозрачността, проследимостта и възможността за обясняване на алгоритмичните процеси на вземане на решения са техническо предизвикателство, което изисква подкрепа от инструменти на ЕС, като например програмата „Хоризонт Европа“.

1.10. Неприкосновеността на личния живот и защитата на данните ще определят равнището на доверие на гражданите и потребителите в ИИ. Собствеността върху данните, контролът и използването им от страна на предприятията и организациите са въпроси, които до голяма степен предстои да бъдат регулирани (по-специално с интернет на предметите). ЕИСК приканва Комисията да преразглежда редовно Общия регламент относно защитата на данните ( 4 ) и свързаната с него нормативна уредба с оглед на технологичните развития.

1.11. ЕИСК счита, че е от съществено значение да се помисли за приноса, който системите с ИИ могат да имат за намаляване на емисиите на парникови газове, по-специално в промишления, транспортния, енергийния, строителния и селскостопанския сектор. Той призовава преходът в областта на климата и цифровите технологии да бъдат взаимносвързани.

1.12. ЕИСК счита, че само контролът на системите с ИИ може да е недостатъчен за определяне на отговорностите и за изграждане на доверие. ЕИСК препоръчва да се даде приоритет на определянето на ясни правила, които в случай на нарушение вменяват отговорност на правните субекти: физически или юридически лица. ЕИСК призовава също така Комисията приоритетно да разгледа основния въпрос за възможността за застраховане на системите с ИИ.

1.13. ЕИСК предлага за предприятията, които отговарят на стандартите, да се разработи „европейски сертификат за надеждно предприятие в сектора на ИИ“, основаващ се, наред с другото, на списъка за оценка, предложен от експертната група на високо равнище по въпросите на изкуствения интелект (ЕГВР).

1.14. Като насърчава работата в тази сфера в рамките на Г-7, Г-20 и двустранните диалози, ЕС трябва да се стреми да гарантира, че регулирането на ИИ не се ограничава до европейските граници. Необходимо е споразумението за надежден изкуствен интелект, което трябва се създаде, да бъде международно, и да дава възможност за разработване на международни стандарти и редовна проверка на тяхната целесъобразност.

2. Обобщение на предложението на Комисията

2.1. Съобщението се основава на работата на експертната група на високо равнище по въпросите на изкуствения интелект (ЕГВР), която Комисията създаде през юни 2018 г. В настоящото съобщение Комисията определя седем основни изисквания за постигане на надежден ИИ, изброени в параграф 4 на настоящото становище.

2.2. Комисията стартира пилотна фаза с участието на широк кръг заинтересовани страни. Действията са съсредоточени по-специално върху списъка за оценка, съставен от ЕГВР за всяко едно от основните изисквания. В началото на 2020 г. ЕГВР ще преразгледа и актуализира списъка за оценка и при необходимост Комисията ще предложи нови мерки.

2.3. Комисията желае да пренесе своя подход към ИИ на международната сцена и ще продължи да играе активна роля, включително в рамките на Г-7 и Г-20.

3. Общи бележки

3.1. Ориентираният към човека ИИ изисква подход, който обхваща техническите аспекти, но така също и обществените и етичните. ЕИСК приветства проявения от институциите на ЕС стремеж да се изгради подход към ИИ, който съответства на основополагащите ценности на Съюза: зачитане на човешкото достойнство, свобода, демокрация, равенство и недискриминация, правова държава, зачитане на правата на човека. Както подчертава Комисията ( 5 ) , ИИ не е цел сам по себе си, а инструмент, който може да води до положителни радикални промени. Подобно на всеки инструмент, той създава едновременно възможности и рискове. Поради тази причина ЕС трябва да установи правила за неговото използване и да определи ясно свързаните с него отговорности.

3.2. Доверието в ориентиран към човека ИИ ще се изгради в резултат на утвърждаването на ценностите и принципите, добре установена нормативна уредба и етични насоки, които съдържат основни изисквания.

3.3. Сред множеството породени от ИИ предизвикателства е добре заедно с всички заинтересовани страни да се определят онези предизвикателства, които ще трябва да бъдат преодолени посредством регулаторни и законодателни средства, придружени от механизми за мониторинг и в случай на неспазване — от санкции, и онези, които ще могат да бъдат преодолени с етични кодекси, саморегулиране и доброволни ангажименти. ЕИСК приветства факта, че Комисията е възприела принципи, разгледани първоначално от ЕИСК, но изразява съжаление, че на този етап тя не предлага никакви конкретни мерки в отговор на основателните тревоги (в областта на правата на потребителите, безопасността на системите и отговорността).

3.4. Системите с ИИ трябва да спазват съществуващата нормативна уредба, по-специално що се отнася до защитата на личните данни, отговорността за продуктите, защитата на потребителите, недискриминацията, професионалните квалификации и информирането и консултирането на работниците на работното място. Трябва да се гарантира, че тези закони са адаптирани към новите предизвикателства на цифровизацията и ИИ.

3.5. Както отбелязва Комисията, „следва да бъдат въведени процеси за изясняване и оценяване на потенциалните рискове, свързани с използването на системи с изкуствен интелект в различните области на приложение“ ( 6 ) . ЕИСК придава най-голямо значение на бъдещите форми, които ще приеме тази оценка, както и на създаването на показатели, които биха могли да бъдат взети под внимание за извършването на оценката. Изготвеният от ЕГВР проект на списък за оценка представлява отправна точка за прилагането на такива процеси.

3.6. Това се отнася и до въпроса за справедливото разпределение на очакваната добавена стойност на системите с ИИ. ЕИСК счита, че дължащите се на ИИ положителни промени по отношение на икономическото развитие, устойчивостта на процесите на производство и на потребление (по-специално на енергия), подобряването на използването на ресурсите трябва да бъдат в полза на всички държави, а в техните граници — на всички граждани.

4. Конкретни бележки

4.1. Човешки фактор и надзор

4.1.1. Комисията желае да гарантира, че използването на системи с ИИ в никакъв случай не може да подкопае самостоятелността на човека или да причини неблагоприятни последици. ЕИСК споделя този подход на контрола на човека върху машината, както вече е посочвал в предишните си становища.

4.1.2. Това налага също гражданите да бъдат информирани правилно за използването на тези системи, последните да може да бъдат обяснени или, ако това не е възможно (например в случая на „задълбоченото учене“), на ползвателя да бъде предоставена информация относно ограниченията и рисковете на системата. При всички случаи гражданите трябва да могат да запазят свободата да вземат решение, различно от това на системата с ИИ.

4.1.3. В предприятията и публичните администрации работниците и техните представители трябва да бъдат надлежно информирани и консултирани при въвеждането на системи с ИИ, които могат да променят организацията на труда и да ги засегнат по отношение на контрола, наблюдението, оценката и наемането на работа. Комисията трябва да насърчава социалния диалог с цел включване на работниците в използването на системите с ИИ.

4.1.4. аварийната спирачка “). Що се отнася до човешките ресурси, трябва да се обърне особено внимание на рисковете от злоупотреби със системите с ИИ, като неограничен надзор, събиране на лични данни, данни за здравословното състояние, споделяне на тези данни с трети страни), както и на нововъзникващите рискове във връзка със здравословните и безопасни условия на труд ( 7 ) . Трябва да се установят ясни стандарти, за да се избегне положение, при което сътрудничеството между човек и машина засяга или причинява щети на хората. Създаденият от Международната организация по стандартизация (ISO) стандарт за „роботите сътрудници“ ( 8 ) , който е адресиран към производителите, интеграторите и ползвателите, предоставя насоки за разработването и организацията на работно пространство на сътрудничество и намаляване на рисковете, на които може да бъдат изложени хората. Работниците трябва да бъдат обучени да използват ИИ и роботиката, да работят с тях, и по-специално да могат да ги спират в случай на авария (принцип на „“).

4.2. Техническа стабилност и безопасност

4.2.1. ЕИСК призовава за въвеждането на европейски стандарти за безопасност и за развиването на стабилна европейска система за сертифициране, основана на процедури за изпитване, които биха позволили на предприятията да потвърдят надеждността и безопасността на своите системи с ИИ. ЕИСК държи също да подчертае важността на въпроса за възможността за застраховане на системите с ИИ.

4.2.2. data poisoning“ ), физическата безопасност (хакерски атаки върху автономни системи, в това число на автономни автомобили, дронове, автоматични оръжия) или политическата сигурност (мащабно събиране на лични данни, целенасочена пропаганда, видео манипулация и т.н.). Изследователите, инженерите и публичните органи трябва да си сътрудничат тясно, за да предотвратят тези рискове; експертите и други заинтересовани страни, като например ползвателите и потребителите, трябва да участват в дискусии относно тези предизвикателства. Комисията засяга слабо аспекта за предвиждането, предотвратяването и забраната на злонамереното използване на ИИ и машинното обучение, за което предупреждават множество изследователи ( 9 ) . Желателно е препоръките на изследователите да бъдат взети под внимание, по-специално във връзка с двойната употреба на тези технологии, която може да засегне цифровата сигурност (увеличаване на компютърните атаки, използване на уязвимостите на хората и на ИИ, „отравяне с данни“ (), физическата безопасност (хакерски атаки върху автономни системи, в това число на автономни автомобили, дронове, автоматични оръжия) или политическата сигурност (мащабно събиране на лични данни, целенасочена пропаганда, видео манипулация и т.н.). Изследователите, инженерите и публичните органи трябва да си сътрудничат тясно, за да предотвратят тези рискове; експертите и други заинтересовани страни, като например ползвателите и потребителите, трябва да участват в дискусии относно тези предизвикателства.

4.3. Управление на данните и неприкосновеност на личния живот

4.3.1. Privacy by design “), с което по силата на Общия регламент относно защитата на данните свързаните предмети трябва да бъдат в съответствие, се установява, че потребителят разполага с много малко информация по този въпрос или въобще не разполага с такава и няма никакви средства за контрол върху данните. Поради тази причина ЕИСК настоятелно приканва Комисията да преразгледа Общия регламент относно защитата на данните и свързаната с него нормативна уредба с оглед на технологичните развития Комисията призовава достъпът до данни „да бъде управляван и контролиран по подходящ начин“ ( 10 ) . ЕИСК смята, че общите декларации не са достатъчни. Степента на доверие, което гражданите имат в системите с ИИ, ще определи и развитието на тези системи. Въпросите за собствеността върху данните, контрола над тях и използването им от страна на предприятията и организациите до голяма степен все още предстои да бъдат регулирани. Количеството предадени данни, например от леките автомобили към производителите на автомобили, както и видът на предаваните данни повдигат въпроси ( 11 ) . Въпреки понятието „защита на личния живот още при проектирането“ („“), с което по силата на Общия регламент относно защитата на данните свързаните предмети трябва да бъдат в съответствие, се установява, че потребителят разполага с много малко информация по този въпрос или въобще не разполага с такава и няма никакви средства за контрол върху данните. Поради тази причина ЕИСК настоятелно приканва Комисията да преразгледа Общия регламент относно защитата на данните и свързаната с него нормативна уредба с оглед на технологичните развития ( 12 )

4.4. Прозрачност

4.4.1. ЕИСК счита, че възможността алгоритмичните процеси на вземане на решения да могат да бъдат обяснени е от съществено значение за разбирането не на механизмите сами по себе си, а на логиката в основата на процесите на вземане на решения, както и на начина, по който тези процеси се влияят от системите с ИИ. Разработването на стандартни процедури за изпитване на системите за машинно самообучение остава техническо предизвикателство, което би трябвало да бъде подкрепено от инструменти на ЕС, като например програмата „Хоризонт Европа“.

4.4.2. ЕИСК споделя подхода на Комисията, според който системите с ИИ трябва да бъдат лесно разпознаваеми, „за да се гарантира, че ползвателите им знаят, че взаимодействат с такава система“ ( 13 ) , в това число в рамките на отношенията пациент/здравни работници и професионални служби, свързани със здравето и благоденствието на гражданите. ЕИСК набляга и на факта, че е необходимо ползвателят или потребителят също да бъде информиран за услугите, които се извършват от хора. Множество системи с ИИ използват значителен по обем човешки труд, който често остава скрит за крайните ползватели ( 14 ) . Зад този въпрос се крие предизвикателството, свързано с липсата на прозрачност спрямо ползвателите и потребителите на услуги, но така също и това, изразяващо се в използване на скрита и непризната форма на труд.

4.4.3. Освен това ЕИСК счита, че потребителят винаги трябва да бъде информиран за интегрирането на системи с ИИ в продуктите, които купува, и трябва да може да има достъп до своите данни и да ги контролира.

4.5. Многообразие, недискриминация и справедливост

4.5.1. Рисковете по отношение на дискриминацията присъстват в определени приложения с ИИ, даващи възможност за моделиране на профили на граждани, ползватели и потребители (например за наемане на работа, за даване под наем на недвижими имоти, за определени услуги за личността и др.). ЕС разполага със законодателство за равно третиране и недопускане на дискриминация ( 15 ) . Системите с ИИ трябва да се приведат в съответствие с него. Това законодателство обаче също трябва да се адаптира и при необходимост да се засили (включително на равнището на правоприлагането), за да се справи с новите практики. Съществува реален риск профилирането въз основа на алгоритми да се превърне в мощен инструмент за дискриминация. ЕС трябва да предотврати този риск.

4.5.2. Директивата относно борбата срещу расизма ( 16 ) и Директивата относно равното третиране на мъжете и жените извън пазара на труда ( 17 ) предвиждат създаването на специални компетентни органи в областта на насърчаването на равенството между жените и мъжете. ЕИСК призовава тези органи да играят активна роля в мониторинга и контрола на системите с ИИ по отношение на рисковете от пряка и непряка дискриминация.

4.6. Благосъстояние на обществото и околната среда

4.6.1. Комисията не предлага конкретни възможности за свързване на климатичния преход и цифровизацията, по-специално при използването на системи с ИИ. От съществено значение е да се помисли за приноса, който системите с ИИ могат да имат за намаляване на емисиите на парникови газове, по-специално в промишления, транспортния, енергийния, строителния и селскостопанския сектор.

4.6.2. Комисията твърди, че системите с ИИ могат да се използват за подобряване на социалните умения, но те могат да допринесат и за тяхното влошаване. ЕИСК счита, че ЕС трябва да положи повече усилия за справяне с някои обществени предизвикателства. Проучвания показваха например, че някои приложения, включващи системи с ИИ, са проектирани с цел да държат възможно най-дълго включени в интернет потребителите на онлайн услуги (социални мрежи, игри, видеоклипове и др.). Целта е да се осигури възможност за събиране на максимално количество данни за тяхното поведение; използваните стратегии започват от безкрайното подновяване на алгоритмични препоръки и стигат до напомняния и известия, преминавайки през игри и др. Въздействието на прекомерната свързаност и стимулирането на децата е проучено ( 18 ) и резултатите разкриват увеличение на тревожността, агресивността, липса на сън и отражение върху образованието, социалните отношения, здравето и благоденствието. За създаване на надежден ИИ ЕС трябва да взема под внимание подобни въздействия и да ги предотвратява.

4.6.3. На последно място, един от факторите за благосъстоянието на обществото е свързан с усещането за сигурност на работното място. Последиците от цифровизацията обаче може да бъдат източник на несигурност и на стрес ( 19 ) . Поради тази причина е полезно да се предвидят стратегии за прогнозиране на промените, преди да се извършат евентуални преструктурирания, и да се предложи продължаващо обучение на всички работници. Това налага в рамките на предприятията да се провежда качествен социален диалог между работодателите и представители на работниците, който да позволи по-специално да се осъществи приобщаващо внедряване на новите технологии, по-конкретно на ИИ и роботиката. За да се засили доверието между ръководството и работниците, е необходимо системите с ИИ, свързани с ръководенето, оценките и контрола на работниците, да могат да бъдат обяснени, техните параметри да са известни и функционирането им да е прозрачно.

4.7. Отчетност

4.7.1. Решенията, вземани от сложните системи за машинно самообучение, нямат прости обяснения и освен това тези системи редовно се актуализират. ЕИСК счита, че само контролът на системите с ИИ може да е недостатъчен за определяне на отговорностите и за изграждане на доверие. Поради тази причина препоръчва да се определят правила, които в случай на нарушение вменяват отговорност на правните субекти: физически или юридически лица. ЕИСК препоръчва да се разчита повече на надеждни предприятия или специалисти, отколкото на алгоритми, и предлага да се разработи „европейски сертификат за надеждно предприятие в сектора на ИИ“, основаващ се, наред с другото, върху списъка за оценка, предложен от ЕГВР.

4.7.2. Директивата относно отговорността за вреди, причинени от дефект на стока ( 20 ) , предвижда принципа на невиновна отговорност, който се прилага спрямо европейските производители: ако дефектна стока причини вреди на потребител, отговорността на производителя може да се ангажира дори без вина или небрежност от негова страна. Разработването, внедряването и все по-широкото използване на системите с ИИ налагат приемане от страна на ЕС на адаптирани правила за отговорност за случаите, в които продукти с цифрово съдържание и услуги, предлагани на потребителите, може да се окажат опасни и вредни. В случай на щети, причинени от система с ИИ, потребителите трябва да имат достъп до правосъдие.

5. Необходимост от регулиране отвъд Европа

5.1. В един глобализиран свят регулирането на ИИ трябва да излиза извън европейските граници. Европа би трябвало да насърчава постигането на широкообхватно споразумение в рамките на Г-7 и Г-20 и да продължи двустранните диалози, за да може повечето държави да участват в процесите на стандартизация на ИИ и редовно да проверяват тяхната целесъобразност.

Брюксел, 30 октомври 2019 г. Председател на Европейския икономически и социален комитет Luca JAHIER

(1) ОВ C 440, 6.12.2018 г., стр. 1.

(2) ОВ C 288, 31.8.2017 г., стp. 1, ОВ C 440, 6.12.2018 г., стp. 1.

(3) https://osha.europa.eu/bg/emerging-risks.

(4) Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/ЕО (Общ регламент относно защитата на данните) (OB L 119, 4.5.2016 г., стр. 1).

(5) COM(2019) 168 final.

(6) COM(2019) 168 final, стр. 5.

(7) Вж. по-специално „OSH and the future of work: benefits and risks of artificial intelligence tools in workplaces“ (БЗУТ и бъдещето на труда: предимства и рискове на инструментите с изкуствен интелект на работното място).

(8) ISO/TS 15066, 2016 г.

(9) Вж. доклада „The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“ („Злонамереното използване на изкуствения интелект: прогнозиране, предотвратяване и смекчаване на последиците“), февруари 2018 г.

(10) COM(2019) 168 final, стр. 6.

(11) „Your car knows when you gain weight“ („Колата ви разбира, когато напълнеете“), The New York Times (международно издание), 22.5.2019 г.

(12) ОВ C 190, 5.6.2019 г., стp. 17.

(13) COM(2019) 168 final, стр. 6.

(14) Вж. например: „A white-collar sweatshop: Google Assistant contractors allege wage theft“ („Експлоатация на служители: външните сътрудници на Google Assistant отправят твърдения за кражба на възнаграждения“), The Guardian, 29.5.2019 г. и „Bot technology impressive, except when it’s not the bot“ („ Технологията на роботи е впечатляваща, особено когато всъщност няма робот“), The New York Times (международно издание), 24.5.2019 г.

(15) ОВ C 180, 19.7.2000 г., стp. 22, ОВ C 303, 2.12.2000 г., стp. 16, ОВ C 373, 21.12.2004 г., стp. 37, ОВ L 204, 26.7.2006 г., стp. 23.

(16) Директива 2000/43/ЕО на Съвета от 29 юни 2000 г. относно прилагане на принципа на равно третиране на лица без разлика на расата или етническия произход (OB L 180, 19.7.2000 г., стр. 22).

(17) Директива 2004/113/ЕО на Съвета от 13 декември 2004 г. относно прилагане на принципа на равното третиране на мъжете и жените по отношение на достъпа до стоки и услуги и предоставянето на стоки и услуги (OB L 373, 21.12.2004 г., стр. 37).

(18) Вж. по-специално Kidron, Evans, Afia (2018 г.), „Disrupted Childhood – The Cost of Persuasive Design“ („Нарушено детство — цената на убеждаващия дизайн“), 5Rights Foundation.

(19) Доклад на групата на високо равнище относно въздействието на цифровизацията върху пазарите на труда на ЕС, 2019 г.

(20) Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока (ОВ L 210, 7.8.1985 г., стр. 29).