Лучше, чем люди? Политика ЕС в области искусственного интеллекта

Научно-аналитический вестник ИЕ РАН, 2019, №5

УДК 327

Ольга ПОТЕМКИНА

ЛУЧШЕ, ЧЕМ ЛЮДИ? ПОЛИТИКА ЕС В ОБЛАСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Аннотация. В статье анализируется дискуссия о технологиях искусственного интеллекта (ИИ) и их влиянии на общество, развернувшаяся в Евросоюзе, центральная тема которой - подлежат ли данные технологии регулированию. На основании изучения резолюций Евро-парламента, докладов Комиссии и Совета ЕС, автор делает вывод о неоднозначном отношении институтов ЕС и государств-членов к феномену ИИ. Перспективы деятельности Евросоюза в данном направлении - разработка «человеческого подхода» к искусственному интеллекту при соблюдении принципов и ценностей ЕС.

Ключевые слова: искусственный интеллект (ИИ), робототехника, новые технологии, человеческий подход к ИИ, Общий регламент по защите данных

Как незваный гость, искусственный интеллект (ИИ)1 вырвался за пределы научных лабораторий и оказался в центре важных конференций и политических дебатов. Во всём мире, в том числе и в Европе, дискуссии об использовании ИИ приняли особенно шумный и даже нервозный характер, что продемонстрировал, к примеру, доклад Европейского парламента о нормах и правилах использования робототехники, где в предисловии упоминается о Мэри Шелли и созданном ею Франкенштейне2. На многочисленных конференциях высказываются опасения, что роботы отберут рабочие места у людей, разрушат социальную инфраструктуру, будут манипулировать общественным мнением и выборами, и, в конце концов, займут доминирующее положение в мире, потеснив людей. Неолуддиты аргументируют свои страхи новыми рисками, связанными с применением ИИ, которые трудно просчитать.

В то же время совершенно очевидно, что, зародившись совсем недавно и даже не став пока реальным фактором общественного развития, искусственный интеллект, тем не менее, уже продемонстрировал огромный потенциал для продвижения человечества к новым горизонтам благополучия и процветания. «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира» - лидеры государств и правительств явно разделяют это мнение президента России Путина, осознают прорывные возможности ИИ и стремятся обеспечить конкурентные преимущества в этой ключевой быстро развивающейся сфере общественной жизни. Тем временем учё-

© Потемкина Ольга Юрьевна - доктор политических наук, главный научный сотрудник, руководитель Отдела исследований европейской интеграции ИЕ РАН. Адрес: 125009, Россия, Москва, ул. Моховая, д. 11, стр. 3. E-mail: olga_potemkina@mail.ru. DOI: http://dx.doi.org/10.15211/vestnikieran520191621

1 Под искусственным интеллектом (ИИ) понимается целый ряд технологий: программное обеспечение, алгоритмы, процессы, робототехника, которые, в отличие от устройств, действующих только по команде человека, в состоянии самостоятельно выполнять задачи посредством «машинного обучения» и технологии «больших данных». Системы, основанные на ИИ, уже используются во многих секторах - энергетика, образование, финансовые услуги, строительство, транспорт, а также для оказания различных услуг - распознавание речи и идентификация лиц, перевод, самоходные транспортные средства, постановка медицинских диагнозов.

2 Nevejans N. European Civil Law Rules in Robotics. Study for JURI Committee. European Parliament, 2016.

ные и гражданское общество призывают разработать этические правила применения искусственного интеллекта, чтобы избежать негативных последствий его воздействия на окружающий мир.

Политические инициативы ЕС

Европейский союз не остаётся в стороне от глобальных процессов. Позиционируя себя в качестве потенциального лидера, способного привести человечество к «ответственному» использованию ИИ, ЕС заявляет о необходимости сосредоточиться на усилении способностей ИИ для достижения устойчивого развития в соответствии с целями «Повестки дня 2030»1.

Более десяти лет институты ЕС разрабатывали политические инициативы и финансовые программы в направлениях, близких к ИИ. Так, большие средства были вложены в исследования в сфере высокопроизводительных вычислений; продвигались предложения о регулировании экономики платформ, в том числе об отношениях бизнеса и торговых платформ (июль 2019 г.) о свободном обращении данных (июнь 2019 г.)2; велись дебаты о роли интернет-посредников в противодействии нарушению авторских прав, разжиганию ненависти и дезинформации, и, наконец, был принят Общий регламент по защите данных - GDPR (General Data Processing Regulation). Политика же ЕС в области искусственного интеллекта и робототехники получила развитие с 2016 г., когда Европарламент подготовил доклад о «Нормах гражданского права о робототехнике» и принял соответствующую резолюцию и рекомендации для Комиссии в феврале 2017 г. В докладе была нарисована довольно мрачная картина последствий нерегулируемой деятельности ИИ и предлагалось наделить мыслящих роботов правами и обязанностями. Евродепутаты также призвали Комиссию подумать над созданием специального агентства для управления ИИ в Европе, что, впрочем, показалось Комиссии преждевременным шагом. Однако, несмотря на некоторое сгущение красок и изначально негативное восприятие нового феномена, инициатива Европарламента способствовала появлению более взвешенного подхода Комиссии к ИИ. В 2018 г. в среднесрочном обзоре стратегии Единого цифрового рынка ЕС Комиссия подчеркнула важность обеспечения лидирующей позиции в развитии технологий ИИ, платформ и приложений. В октябре 2017 г. Совет предложил Комиссии разработать «европейский подход» к проблеме искусственного интеллекта. В свою очередь, Экономический и социальный комитет опубликовал Открытое письмо к Комиссии об искусственном интеллекте, в котором призвал ЕС «поощрять развитие ИИ и робототехники», «создать практическую основу для инновационных и надёжных ИИ и роботов в целях достижения большего благополучия для народов Европы и её общего рынка», минимизировав при этом риски здоровья и безопасности граждан3.

В апреле 2018 г. 24 государства - члена ЕС и Норвегия достигли политического согласия относительно сотрудничества по «Искусственному интеллекту для Европы»4, приняв более позитивный подход к ИИ в сравнении с пессимистической резолюцией Европарламента.

1 Renda A. Artificial Intelligence. Ethics, governance and policy challenges. Report of a CEPS Task Force. Brussels, 2019. P. 1-3.

2 Regulation (EU) 2019/1150 of the European Parliament and of the Council of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services. URL: https://eur-lex.europa.eu/legal-content/EN/TXT /?uri=CELEX:32019R1150; Regulation (EU) 2018/1807 of the European Parliament and of the Council of 14 November 2018 on a framework for the free flow of non-personal data in the European Union. URL: https://eur-lex.europa.eu/ 3egal-content/EN/TXT/?uri=CELEX:32018R1807.

Open letter to the European Commission. Artificial Intelligence and Robotics. URL: https://g8fip1kplyr33r3krz5b97d 1-wpengine.netdna-ssl.com/wp-content/uploads/2018/04/RoboticsQpenLetter.pdf.

Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions -Artificial Intelligence for Europe, C0M(2018) 237 final. P. 2.

Последовавшее сообщение Комиссии заложило основы для всеобъемлющей стратегии ЕС по ИИ, в которой выделены были главные элементы, составляющие «секретный соус» в отношении управления робототехникой. Комиссия утверждала, что Европа «может стать лидером в разработке и использовании ИИ для всеобщего благополучия на основе своих ценностей», что даст возможность достигнуть значительных показателей по числу высококлассных исследователей, лабораторий, стартапов; укрепить робототехнику и ведущие отрасли (транспорт, здравоохранение, торговлю, единый цифровой рынок)1.

Главное утверждение - «Европа может стать лидером» - сопровождалось тремя важными требованиями: увеличить инвестиции в ИИ соответственно экономическому весу Европы; занять первое место в мире в сфере образования, что обеспечит плавный переход к применению ИИ на рабочих местах; основывать новые технологии на европейских ценностях.

Комиссия объявила также целую серию инициатив, в том числе создание Независимой группы экспертов высокого уровня и Европейского альянса по искусственному интеллекту (European AI Alliance), который был зарегистрирован в феврале 2019 г. и быстро пополнился почти тремя тысячами участников. Группа экспертов в составе 52 человек - инженеров, философов, юристов, предпринимателей и представителей профсоюзов - получила задание разработать этические рекомендации для использования ИИ.

«Наша цель - сделать Европу глобальным лидером цифровой экономики», - такими словами Финляндия, признанный в Европе лидер в сфере инноваций, занявшая пост председателя в Совете ЕС во втором полугодии 2019 г., представила свою программу, в центре которой - цифровизация, искусственный интеллект, а также платформенная экономика2. Проект регламента о конфиденциальности электронных сообщений, а также политические дебаты о практических шагах по созданию экономики данных и безопасности были включены в повестку дня заседаний Совета в его различных конфигурациях.

В своей рабочей программе Финляндия подчеркнула, что предпримет усилия для обеспечения доступности, совместимости и упрощения использования информации для граждан ЕС при строгом соблюдении их прав и приватности их жизни. В качестве инструмента председательствующая страна избрала горизонтальный подход с учётом межсекторальной роли и потребностей экономики данных. В частности, особое внимание Финляндия обращает на циф-ровизацию и автоматизацию транспорта, надеясь, таким образом, улучшить экологические показатели транспортной инфраструктуры.

11 июля 2019 г. Комиссия ЕС выступила с предложением о создании сети центров передового опыта (centres of excellence) по изучению искусственного интеллекта и обещала выделить 50 млн евро на поддержку его деятельности в рамках программы Горизонт 2020 на период 2018-2020 гг.3 Посредством сети Комиссия надеется найти научно обоснованные причины и выявить технологические препятствия, замедляющие внедрение открытий, основанных на применении искусственного интеллекта. Центры, по замыслу Комиссии, будут выполнять двойную миссию: укреплять сотрудничество с научно-исследовательским сообществом и способствовать продвижению технологических открытий в сфере ИИ.

В самом начале своей деятельности новая глава Комиссии ЕС - Урсула фон дер Ляйен

1 Renda A. Op. cit. P. 44.

2 Sustainable Europe. Finland's Presidency Programme. Presidency of the Council of the European Union 1 July - 31 December 2019. URL: https://eu2019.fi/documents/11707387/14346258/EU2019FI-EU-puheeniohtaiakauden-ohielma-en.pdf/3556b7f1-16df-148c-6f59-2b2816611b36/EU2019FI-EU-puheeniohtaiakauden-ohjelma-en.pdf.pdf.

Восьмая рамочная программа Европейского союза по развитию научных исследований и технологий (РП8) -семилетняя программа финансирования Европейского союза для поддержки и поощрения исследований в Европейском исследовательском пространстве.

анонсировала законодательную инициативу о гуманитарных и этических аспектах применения искусственного интеллекта, в основу которой будут положены предложения Группы экспертов высокого уровня по ИИ.

Этические принципы применения искусственного интеллекта

Независимая группа экспертов высокого уровня развернула активную деятельность. На встрече Европейского альянса по искусственному интеллекту в июне 2019 г. эксперты предложили список критериев для компаний, а также рекомендации по политике и инвестированию в развитие ИИ для государств-членов и Комиссии, по существу, повторяющих и детализирующих «Три закона робототехники» Айзека Азимова.

Текст, подготовленный группой, включает 33 рекомендации Комиссии и государствам-членам по этическому измерению искусственного интеллекта, которые, как считают эксперты, станет основой для работы её нового состава. В своём докладе группа попыталась ответить на вопрос, как, с одной стороны, создать надёжный ИИ, не пренебрегая защитой граждан, общественных и частных сфер их деятельности; и, с другой стороны, как обеспечить инфраструктуру, управление и финансирование.

Эксперты обнародовали свои финальные заключения о наиболее противоречивых проблемах ИИ: подчеркнув, что ИИ должен обеспечивать здоровье и безопасность трудящихся, выполняя за них опасные манипуляции, они однозначно высказалась против массового наблюдения за гражданами, составления их рейтингов и профилей, а также против летального вооружения. При этом, как заключила группа, необходимо создание системы идентификации для того, чтобы люди понимали, имеют ли они дело с человеком или роботом.

Прежде всего, группа предложила идею управления искусственным интеллектом на основе оценки рисков, понимая риск как неблагоприятное воздействие ИИ на гражданина или общество в целом. Самым чувствительным вопросом здесь представляется гражданская и уголовная ответственность. Для тех случаев, когда применение ИИ представляет угрозу безопасности или нарушение основных прав человека, эксперты предложили выработать критерии мониторинга и отслеживания потенциально опасных ситуаций. Предложено было разработать правила гражданской ответственности для обеспечения необходимой компенсации в случае увечья или нарушения прав граждан вследствие применения ИИ, которые необходимо, по мнению группы, дополнить «положениями об обязательном страховании». Группа также призывает следить, чтобы уголовная ответственность за негативные последствия ИИ применялась строго в соответствии с принципами уголовного права.

Эксперты много внимания уделили чрезвычайно чувствительному вопросу массового и маркетингового наблюдения за потребителями в случае, когда велик соблазн для правительств создать «безопасное общество» при помощи вторгающихся в жизнь систем наблюдения на основе искусственного интеллекта. Группа считает, что нельзя допускать маркетингового наблюдения за потребителями в коммерческих целях, это нарушает такое основное право, как неприкосновенность частной жизни, даже если подразумевается «свободный выбор» покупателя.

В докладе содержатся рекомендации и по контролю и ограничению развития автономных летальных систем вооружения (АЛСВ). Группа призвала государства-члены принять соответствующий мораторий в международном масштабе.

В докладе перечислены сферы общественной жизни, которые могут испытать негативные последствия применения ИИ: идентификации по биометрическим данным и применение АЛСВ, нарушение прав человека. Группа рекомендовала Комиссии разработать новый регла-

мент, чтобы «обеспечить должную защиту от неблагоприятного воздействия искусственного интеллекта».

После публикации этических рекомендаций, Комиссия приступила 26 июня 2019 г. к реализации пилотной фазы их выполнения, которая предусматривает два компонента: первый имеет форму опросника, второй - детального анализа возможностей применения разработанных критериев в разных секторах экономики и общественной жизни. В результате будет ясно, какой из критериев следует оставить для применения, какой усилить или модифицировать.

Однако Комиссия с осторожностью относится к принятию жёстких ограничительных рамок для применения ИИ, опасаясь, что подобный регламент может «остановить инновации и воспрепятствовать внедрению новых продуктов и услуг на рынок».

Искусственный интеллект и автономная система летального вооружения

Заступая на пост председателя в Совете, Финляндия заявила также о своих намерениях инициировать дискуссию о влиянии ИИ и цифровизации на оборонный сектор. Центральная тема дискуссии - введение стандартов и регламентов для обеспечения контроля над автономным вооружением, и Евросоюз активно участвует в ней в рамках ООН.

В июле 2019 г. Европарламент принял резолюцию, в которой призвал «ввести запрет в международном масштабе на систему вооружений, которая не поддаётся контролю со стороны человека» и выработать общую позицию относительно использования АЛСВ при ведении военных действий. Однако в текст доклада об этических принципах ЕС относительно ИИ вошла лишь формулировка о «критических опасениях» относительно применения АЛСВ, но не о полном запрете системы.

Между тем, ряд государств-членов решили самостоятельно препятствовать созданию боевых роботов. Так, комитет по обороне парламента Бельгии в июле 2019 г. обратился к правительству с призывом поддержать международный консенсус против использования автономной системы вооружения; в парламенте Италии прошла конференция по инициативе Сети по разоружению, участники которой обсудили ужесточение соответствующего законодательства.

Другие страны не были столь активны в осуждении опасной тенденции. Так, правительство Великобритании отказалось пересмотреть определение автономной системы вооружения для сближения его с международными стандартами, вопреки призывам британской Ассоциации содействия ООН воспрепятствовать развитию продвинутых технологий, которое способно привести к роботизированным войнам. Нежелание Великобритании сотрудничать в полную меру с международным сообществом разделяют Франция и Германия, которые выступили против полного запрета АЛ СВ.

Правоохранительные организации настаивают, что «общественная совесть» и приверженность моральным нормам не предполагают иного выхода, кроме запрета автономных систем вооружения. Только осознав риски АЛСВ, можно предотвратить самый мрачный сценарий, утверждают правозащитники.

* * *

Искусственный интеллект пока не стал значимым фактором, который мог бы кардинально изменить экономику и общественную жизнь в мировом масштабе. Однако ЕС, как и другие глобальные акторы, решил действовать на предупреждение потенциальных опасностей широкого внедрения ИИ в жизнь, озаботившись этическими, экономическими и правовыми проблемами, связанными с рисками для прав и свобод человека.

«Человеческий» подход ЕС основывает на положениях Договора ЕС и Хартии ЕС об Научно-аналитический вестник ИЕ РАН, 2019, №5

основных правах и отводит центральное место уважению прав человека в процессе развития, распространения, использования и мониторинга систем ИИ.

Этические рекомендации Евросоюза на данный момент не имеют юридической силы. В планах Комиссии ЕС нового состава разработка законодательства, которое позволило бы минимизировать риски внедрения ИИ без ущерба его использованию в экономике и гуманитарно-социальной сфере. Однако уже заранее возникают сомнения в возможностях мониторинга исполнения будущего регламента и целесообразности учреждения специального агентства для данных целей.

Наконец, вполне вероятна фрагментация свода этических правил ЕС в отношении ИИ в случае, когда государства-члены приступят к собственным интерпретациям будущего феномена, в том числе, автономных систем летального вооружения. Координация и гармонизация возникающих правил и практик потребует серьезных усилий от новой Комиссии.

Список литературы

Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions -Artificial Intelligence for Europe, COM(2018) 237 final.

High-level expert group on Artificial Intelligence. Ethics guidelines for trustworthy AI. Brussels, 2019.

Madiega T. European Parliament. EU guidelines on ethics in artificial intelligence: Context and implementation. Brussels, 2019.

Nevejans N. European Civil Law Rules in Robotics. Study for JURI Committee. European Parliament. Brussels, 2016.

Open letter to the European Commission. Artificial Intelligence and Robotics.

Regulation (EU) 2019/1150 of the European Parliament and of the Council of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services.

Regulation (EU) 2018/1807 of the European Parliament and of the Council of 14 November 2018 on a framework for the free flow of non-personal data in the European Union.

Renda A. Artificial Intelligence. Ethics, governance and policy challenges. Report of a CEPS Task Force. Brussels, 2019.

Better than People? EU policy in the AI sphere

Author. Olga Potemkina, Doctor of Sciences (Politics), Head of the Department of European Integration Studies, Institute of Europe, Russian Academy of Science. Address: 11-3, Mokhovaya str., Moscow, Russia, 125009. E-mail: olga_potemkina@mail.ru.

Abstract. The article deals with the discussion about Artificial Intelligence (AI), its impact on society and principals of its regulation. Based on the study of the European Parliament's resolutions, Commission's reports Council's debates, the author concludes on the ambiguous attitude of the EU institutions and member States to the phenomenon of AI. The prospect of the EU in this direction is the development of a «human approach» to artificial intelligence with respect for the principles and values of the EU.

Key words: Artificial Intelligence (AI), robotics, new technologies, human-centric approach to AI, General Data Processing Regulation (GDPR).

DOI: http://dx.doi.org/10.15211/vestnikieran520191621

Научно-аналитический вестник ИЕ РАН, 2019, №5