О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта

О ПЕРСПЕКТИВНЫХ НАПРАВЛЕНИЯХ ПРАВОВОГО РЕГУЛИРОВАНИЯ В СФЕРЕ ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Аннотация. Различные направления робототехники и технологии искусственного интеллекта развиваются стремительными темпами во всем мире. Одним из лидеров в данной сфере является Европейский Союз. Европейская практика правового регулирования сферы технологии искусственного интеллекта может быть воспринята Российской Федерацией как в целях синхронизации российского законодательства с международным, так и для совершенствования позиций национального законодательства. Отсутствие федерального комплексного закона актуализирует поднятую тематику. Цель: исследовать основные правовые акты ЕС, направленные на развитие сферы робототехники и технологии искусственного интеллекта, выявить негативные факторы роботизации социума и предложить собственное определение технологии искусственного интеллекта как правовой категории. Методологическая основа: формально-логический метод и методы системного и сравнительного правоведения. Результаты: исследован блок основных правовых актов ЕС по стратегическим направлениям развития технологий искусственного интеллекта; выявлены негативные факторы как следствие роботизации. Выводы: определены правовые механизмы разрешения последствий использования технологии искусственного интеллекта; предложено авторское определение технологии искусственного интеллекта как программы для ЭВМ или системы таких программ (информационной системы), предназначенной для имитирования интеллектуальной деятельности человека. Ключевые слова: программы для ЭВМ; искусственный интеллект; робототехника; цифровые технологии.

Елена Викторовна ХОЛОДНАЯ,

доцент кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук lab.kpit@msal.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9

DOI: 10.17803/2311-5998.2019.64.12.089-096

E. V. KHOLODNAYA, Associate Professor of the Department of Information Law and Digital Technologies of the Kutafin Moscow State Law University (MSAL), Candidate of Jurisprudence lab.kpit@msal.ru 125993, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9 ABOUT PERSPECTIVE DIRECTIONS OF LEGAL REGULATION IN THE SPHERE OF ARTIFICIAL INTELLIGENCE TECHNOLOGY Abstract. Various areas of robotics and artificial intelligence technology are developing rapidly around the world. One of the leaders in this area is the European Union. The European practice of legal regulation of the sphere of

© Е. В. Холодная, 2019

) УНИВЕРСИТЕТА

а-—^ имени О. Е. Кугафи на

artificial intelligence technology can be perceived by the Russian Federation both for the purpose of synchronization of the Russian legislation with the international, and for improvement of positions of the national legislation Absence of the Federal complex law actualizes the raised subject. Objective: to investigate the main legal acts of the EU aimed at the development of robotics and artificial intelligence technology, to identify the negative factors of robotization of society and to propose its own definition of «artificial intelligence technology» as a legal category. Methodological basis: formal-logical and methods of systemic and comparative law. Results: the block of the main legal acts of the EU on strategic directions of development of technologies of artificial intelligence is investigated; negative factors as a consequence of robotization are revealed. Conclusions: the legal mechanisms for resolving the consequences of the use of artificial intelligence technology are determined; the author's definition of artificial intelligence technology as a computer program or a system of such programs (information system) designed to simulate human intellectual activity is proposed. Keywords: computer programs; artificial intelligence; robotics; digital technologies.

Зпоха цифровых технологий не только ввела в гражданский оборот термины «робототехника» и «искусственный интеллект», но и потребовала срочных мер по государственному регулированию соответствующих отношений. Термин «искусственный интеллект» был предложен в 1956 г. Джоном Маккарти как направление науки по моделированию «интеллектуальных» компьютерных программ1. При этом «интеллект» понимается как мыслительная способность, умственное начало, определяющее деятельность человека2. Изначально искусственный интеллект рассматривался как автоматизация умственной деятельности3. Также есть понимание искусственного интеллекта как научного направления, целью которого является решение задач аппаратного или программного моделирования интеллектуальных видов деятельности людей, т.е. создание информационных систем, способных выполнять творческие функции, традиционно считающиеся прерогативой человека. Даже выделяют искусственный мозг как повторение искусственными средствами функциональных свойств, присущих мозгу человека4.

Нам же представляется, что как объект права технология искусственного интеллекта — это программа для ЭВМ или система таких программ (информационная система), предназначенная для имитирования интеллектуальной деятельности человека (далее — технология ИИ).

1 McCarthy J. What is artificial intelligence? // URL: http://www-formal.stanford.edu/jmc/whatisai/ node1.html.

2 Ожегов С. И. Словарь русского языка / под общ. ред. Л. И. Скворцова. М. : Оникс ; Мир и образование, 2007. С. 322.

3 Гершман А. Заблуждения искусственного интеллекта // URL: https://postnauka.ru/faq/80051.

4 Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту // URL: http://www.raai.org/library/tolk/aivoc.html#L208.

В настоящий момент используются различные системы автоматизации, имитирующие умственную деятельность, в том числе экспертные информационные системы, такие как статистические модели лингвистических переводов, распознания речи, фотографий и т.п., и нейронные информационные системы (самообучающиеся), применение которых широко используется, например, в медицине5.

Уже сегодня мировой рынок искусственного интеллекта составляет около 664 млн долл. США и, как ожидается, вырастет до 38,8 млрд долл. к 2025 г.6 В качестве реакции со стороны государств стало появление национальных законов и стратегий, направленных на урегулирование этой сферы в целях как сохранения конкурентоспособности, так и обеспечения информационной безопасности7. Порождение новых киберугроз при использовании технологий ИИ актуализирует использование международного компонента при решении правовых задач национального законодательства. В качестве примера предлагаются правовые инициативы Европейского Союза как одного из лидеров по применению технологий ИИ.

В основе европейского законодательства о робототехнике и искусственном интеллекте лежат законы Айзека Азимова: 1) робот не может действием или бездействием причинить вред человеку; 2) робот должен повиноваться приказам человека, если они не противоречат Первому Закону; 3) робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Данные правила отражены, например, в Резолюции Европарламента от 16.02.2017 «Гражданско-правовые нормы по робототехнике» (далее — Резолюция по робототехнике). Согласно Резолюции по робототехнике выявлены наиболее перспективные направления использования «умных» роботов и иных технологий ИИ: производство, торговля, транспорт, медицина, образование, сельское хозяйство, экология, ликвидация чрезвычайных ситуаций природного и техногенного характера и др.8 Европейская комиссия подготовила сообщение «Искусственный интеллект для Европы»9, объясняя сущность и популяризируя технологии ИИ в масштабах всей экономики ЕС.

Европейской комиссией также был разработан Скоординированный план по искусственному интеллекту от 07.12.201810, определяющий европейскую стра-

5

Бурцев М. Главное понятие кибернетики // URL: https://postnauka.ru/video/86822.

European Parliament resolution of 16 February 2017 with recommendations to the Commission

on Civil Law Rules on Robotics (2015/2103(INL)) // URL: https://eur-lex.europa.eu/legal- ^^

content/ (дата обращения: 06.10.2019).

ПШ

См., например: Закон о дорожном движении Германии от 16.06.2017 (Strassen

verkehrsgesetz) // URL:https://www.bundesregierung.de/breg-de/suche/automatisiertes-fahren- П щ

auf-dem-weg-326108 ; План развития искусственного интеллекта нового поколения КНР ш Е

от 08.07.2017 // URL: http://www.gov.cn/zhengce/. Н у

European Parliament resolution of 16 February 2017 with recommendations to the Commission Ш И on Civil Law Rules on Robotics (2015/2103(INL)).

Artificial Intelligence for Europe // URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?qid= и щ

1570942146384&uri=CELEX:52018DC0237 (дата обращения: 13.10.2019). ПН

Coordinated Plan on Artificial Intelligence // URL: https://eur-lex.europa.eu/legal-content/EN/ Л Е

TXT/?uri=CELEX:52018DC0795&qid=1570942146384 (дата обращения: 13.10.2019). ЛЕЕКТА

7

8

9

) УНИВЕРСИТЕТА

а-—^ имени О. Е. Кугафи на

тегию по развитию робототехники и искусственного интеллекта. Скоординированный план подчеркивает важность принятия национальных программ по ИИ, а также объединение совместных усилий по развитию инноваций в указанной сфере, в том числе для привлечения частных инвестиций.

В качестве первого шага Европейская Комиссия увеличила инвестиции в развитие технологий ИИ в рамках рамочной программы исследований и инноваций Horizon 2020 до 1,5 млрд евро в период 2018—2020 гг., что на 70 % больше по сравнению с периодом 2014—2017 гг. Согласно Плану, консолидация совместных инвестиций в ЕС вырастет до более чем 20 млрд евро на период 2018—2020 гг. Это будет соответствовать ежегодным инвестициям государственного сектора (государств-членов и Комиссии) в размере 7 млрд евро наравне с другими континентами.

Центральное место занимает и стратегическая программа «Цифровая Европа» как системный компонент по вопросу финансовой консолидации стран ЕС на 2021—2027 гг. по цифровизации европейского общества и сохранению конкурентоспособности в сфере инновационных технологий, в том числе робототехнике и технологий ИИ11. Разработаны методы осуществления программы «Цифровая Европа», в том числе способы измерения эффективности и результативности этих методик: индекс цифровой экономики и общества (DESI) создан в качестве справочного инструмента для измерения прогресса цифровой трансформации в ЕС12.

В целях обеспечения положений программы принят Рабочий план Комиссии по оценке воздействия цифровизации на ЕС, сопровождающий документ Предложение по постановлению Европейского парламента и Совета об учреждении программы «Цифровая Европа» на период 2021—2027 гг.13 Ряд государств — членов ЕС уже разработали стратегии поддержки ИИ: Франция представила свою национальную стратегию развития ИИ; Германия создала платформу по системам обучения для обеспечения стратегического диалога между научными кругами, промышленностью и правительством; Финляндия выдвинула свою стратегию Tekoalyaika14 и т.д.

Заключение Европейского комитета регионов по теме «Искусственный интеллект для Европы»15 от 16.05.2019 подчеркнул важность тесного взаимодействия по созданию благоприятных условий инвестирования в технологии ИИ со сторо-

11 The Digital Europe programme for the period 2021-2027 // URL: https://eur-lex.europa.eu/ legal-content/EN/ALL/?uri=CELEX:52018PC0434 (дата обращения: 07.10.2019).

12 Инструмент DESI основан на ряде показателей, полученных на основе строгого статистического анализа. Данные будут также собираться из различных источников, включая специальные обследования.

13 Accompanying the document Proposal for a Regulation of the European Parliament and of the Council establishing the Digital Europe programme for the period 2021—2027 // URL: https:// eur-lex.europa.eu/legal-content/EN/TXT/?qid=1570929042429&uri=CELEX:52018SC0305.

14 Artificial intelligence programme Finland // URL: https://tem.fi/en/artificial-intelligence-programme.

15 Opinion of the European Committee of the Regions on 'Artificial Intelligence for Europe' // URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1570942146384&uri=CELEX:52 018IR3953 (дата обращения: 12.10.2019).

ны всех уровней публичной власти, включая местные и региональные; необходимость укрепления межрегионального сотрудничества на основе стратегий разумной специализации. Это означает внутри- и межрегиональное сотрудничество, основанное на симбиозе принятия коллективных решений заинтересованными сторонами из бизнеса, науки и инноваций в целях внедрения искусственного интеллекта как в государственном, так и в частном секторах.

Одним из последних документов, затрагивающих вопросы регулирования отношений Евросоюза по вопросам робототехники и искусственного интеллекта является Директива ЕС 2019/1024 Европейского парламента и Совета от 20.06.2019 об открытых данных и повторном использовании информации государственного сектора (с дополнениями и изменениями)16. Согласно Директиве устанавливается свод минимальных правил для регуляции механизма повторного использования документов, находящихся в распоряжении органов государственного сектора государств — членов ЕС всех ветвей власти. Новые правила отражают особенности технологического прогресса в области цифровых технологий и направлены на дальнейшее стимулирование технологических инноваций, особенно в отношении искусственного интеллекта.

Однако выявлены и вероятные негативные факторы, требующие правовой доработки, которые могут быть восприняты и российским законодателем:

1. В сфере производства и экономики технологии ИИ существенно влияют на трансформацию рынка труда, так как наметился процесс автоматизации низкоквалифицированных рабочих мест в трудоемких секторах. По оценке аналитиков Oxford Economics, уже к 2030 г 20 млн рабочих мест в мире заменят роботы. С 2000 г. в ходе роботизации производства сокращено 1,7 млн рабочих мест: 400 тыс. в Европе, 260 тыс. в США и 550 тыс. в КНР. На сегодняшний день, согласно статистике, один робот сокращает до 1,6 рабочих мест17.

В то же время появляется потенциал для освобождения людей от ручного монотонного труда, позволяющего смещать профессиональные навыки в сторону более творческих и значимых задач. Данное направление должно быть поддержано государственными инвестициями в сферу образования и занятости для перераспределения типов профессиональных компетенций, которые понадобятся работникам в обозримом будущем.

2. В условиях нарастающего социального раскола в обществе, с сокращающимся средним классом, важно иметь в виду, что развитие робототехники и технологий ИИ может привести к высокой концентрации богатства и влияния в руках ^ ^ меньшинства (формирование новой олигархии). Пш

3. Возрастает роль обеспечения информационной безопасности при разра- <§ ботке и применении робототехники и технологий ИИ как для государственного пЕ

16 Directive (EU) 2019/1024 of the European Parliament and of the Council of 20 June 2019

on open data and the re-use of public sector information // URL: https://eur-lex.europa.eu/ О И

legal-content/EN/TXT/?uri=CELEX:32019L1024&qid=1570929042429 (дата обращения: О О 27.10.2019).

17 Эволюция промышленных роботов: будущее за коботами (collaborative robot) // Tj URL: https://mcs.mail.ru/blog/bezlyudnye-zavody-pochti-da-ne-sovsem/ (дата обращения: Л Е 26.10.2019). ЛЕКТА

) УНИВЕРСИТЕТА

а-—^ имени О. Е. Кугафи на

сектора, так и для бизнеса, отдельных граждан. Представляется наиболее актуальным вопрос обеспечения безопасности при автоматизированной обработке данных, в том числе персональных, при использовании технологий ИИ.

4. Актуализируется проблематика юридической ответственности как со стороны работодателя, так и со стороны работника в новых условиях измененных взаимосвязей. Особое место должно отводиться юридической ответственности производителей робототехники и технологий ИИ за качество производимой продукции, безопасность и этичность; юридической ответственности пользователей «умного» продукта и других субъектов.

Кроме того, современные роботы не только способны выполнять действия, типичные для людей, но и развивать определенные автономные и когнитивные функции (например, способность самообучения и принятия квазинезависимых решений), что сделало роботов похожими на «резидентов», взаимодействующих с окружающей средой, что актуализирует вопрос правовой ответственности, возникающей в результате вредоносного действия робота.

5. Необходимость разработки этических фильтров (на уровне правовых норм) для сохранения достоинства, автономии и самоопределение личности. Эта задача наиболее актуальна для социальной и медицинской сфер (например, области ухода за людьми и общения с ними, а также в контексте применения имплантов, протезов и других медицинских приборов).

6. Резолюция по робототехнике закрепляет признаки интеллектуального робота: автономность команд с помощью датчиков и (или) путем обмена данными с окружающей средой (взаимное подключение), а также торговля этими данными и их анализ; самообучение на основе опыта и посредством взаимодействия с окружающей средой; необходимость технического ухода и поддержки; адаптация поведения и действий к окружающей среде; оснащены «черным ящиком», записывающим данные о каждой транзакции, выполняемой машиной, включая логику, которая способствовала ее решениям; отсутствие жизни в биологическом смысле.

На основе сущностных признаков технологии ИИ необходимо разработать критерии для классификации роботов для последующей регистрации этих объектов в регистре уполномоченного органа по робототехнике и искусственному интеллекту.

7. Стандартизация сферы робототехники и систем ИИ.

Международная стандартизация робототехники и технологий ИИ создают

конкурентоспособную среду в указанной сфере, стимулируют инновации. Поэтому в ЕС приветствуется создание специальных технических комитетов, таких как ISO/TC 299 Robotics, занимающихся исключительно разработкой стандартов по робототехнике.

8. Совершенствование правового регулирования в сфере транспорта и безопасности движения.

Переход на автономные транспортные средства повлияет на следующие аспекты: гражданская ответственность (ответственность и страхование); безопасность дорожного движения; все темы, связанные с окружающей средой (например, энергоэффективность, использование возобновляемых технологий и источников энергии); вопросы, связанные с данными (например, доступ к данным, защита данных, конфиденциальность и обмен данными); вопросы, связанные

с инфраструктурой ИКТ (например, высокая плотность эффективной и надежной связи) и занятости (например, создание и потеря рабочих мест, подготовка водителей большегрузных транспортных средств для использования автоматизированных транспортных средств) и др.

Исключительно важное значение приобретает направление развития спутниковой навигации при использовании автономных транспортных средств. Также автономные транспортные средства лицам с ограниченной мобильностью позволяют более активно участвовать в индивидуальных автомобильных перевозках, что облегчает их повседневную жизнь и повышает ее качество.

Позитивные сдвиги в беспилотный технологии, особенно в области поиска и спасания, подчеркивают важность создания границ для использования дистанционно пилотируемых авиационных систем (дронов) в целях обеспечения безопасности и частной жизни граждан.

Однородность и безопасность беспилотных летательных аппаратов обеспечивается в Европейском Союзе с помощью мер, изложенных в регламенте (ЕС) № 216/2008 Европейского парламента и Совета18.

9. Совершенствование законодательства о страховании и создание системы обязательного страхования использования автономных роботов, по аналогии со страхованием автомобилей, когда производители или владельцы должны получать страховое покрытие за ущерб, потенциально причиненный технологиями ИИ. Обязательная система страхования должна основываться на обязательстве производителя осуществлять страхование производимых им автономных роботов. Система страхования должна быть дополнена фондом, с тем чтобы обеспечить возможность возмещения ущерба в тех случаях, когда отсутствует страховая защита.

10. Особенностью европейского законодательства является постановка правовой задачи о разработке «правового статуса» для «умных» роботов в целях определения их как электронных лиц, ответственных за возмещение любого ущерба, который они могут причинить. Например, предлагается использование статуса «электронной личности» к роботам, принимающим автономные решения, или независимое взаимодействие с иными субъектами. На наш взгляд, это весьма спорное предложение, оно противоречит европейскому законодательству об «умных вещах». В юридической литературе также отмечается, что такой подход активно поддерживается корпорациями, стремящимися избежать юридической ответственности за действия роботов, используемых в процессе осуществления предпринимательской деятельности19. ^

11. Разработка единых правовых принципов робототехники и технологий ИИ. Пш

Представляется, что проработка указанных направлений позволит комплексно У §

разрешить задачи правового регулирования отношений в сфере технологий ИИ.  Е

Е Е

18 Regulation (EC) No. 216/2008 of the European Parliament and of the Council of 20 February Ну 2008 on common rules in the field of civil aviation and establishing a European Aviation Safety О И Agency, and repealing Council Directive 91/670/EEC, Regulation (EC) No. 1592/2002 and

U П

Directive 2004/36/EC (OJ L 79, 19.3.2008. P. 1) // URL: https://eur-lex.europa.eu/legal-content/ EN/TXT/PDF/?uri=CELEX:32008R0216 (дата обращения: 10.10.2019). ТН

19 Минбалеев А. В. Проблемы регулирования искусственного интеллекта // Вестник ЮУрГУ. Л Е Серия : Право. 2018. Т. 18. № 4. С. 82—87. ЛЕ КТА

) УНИВЕРСИТЕТА

L-—имени О. Е. Кугафи на

Очевидно, что практика правового регулирования ЕС может быть воспринята Российской Федерацией как в целях интеграции российского законодательства с международным, так и для совершенствования позиций национального законодательства. Как отмечается в юридической литературе, государство, принявшее всестороннее законодательство в сфере искусственного интеллекта, задаст мировые стандарты, на которые будут ориентироваться остальные страны20.

В настоящий момент в Российской Федерации принят пакет подзаконных актов стратегического назначения, направленных на заполнение правового пробела по урегулированию отношений в сфере технологий ИИ21. Так, Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, которая ориентирована на правовое регулирование непосредственно сферы применения технологии ИИ.

Однако необходимы фундаментальные проработки базисных начал, в том числе содержания компонентов как общего, так и специального правовых режимов технологии ИИ, что требует, на наш взгляд, немедленной реакции федерального законодателя.

БИБЛИОГРАФИЯ

1. Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту. — М. : Радио и связь, 1992. — 256 с.

2. Минбалеев А. В. Проблемы регулирования искусственного интеллекта // Вестник ЮУрГУ. — Серия : Право. — 2018. — Т. 18. — № 4. — С. 82—87.

3. Ожегов С. И. Словарь русского языка / под общ. ред. Л. И. Скворцова. — М. : Оникс ; Мир и образование, 2007. — 640 с.

20 Незнамов А. В. Новые законы робототехники: как в Европе регулируют права роботов // URL: https://www.popmech.ru/technologies/379112»novye-zakony-robototehniki-kak-v-evrope-reguliruyut-prava-robotov/.

21 См., например: Указы Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 2019. № 41. Ст. 5700 ; от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017—2030 годы» // СЗ РФ. 2017 г. № 20. Ст. 2901 ; от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации» // СЗ РФ. 2016. № 49. Ст. 6887 ; от 16.12.2015 № 623 «О Национальном центре развития технологий и базовых элементов робототехники» // СЗ РФ. 2015. № 51 (ч. III). Ст. 7313 ; постановление Правительства РФ от 02.03.2019 № 234 «О системе управления реализацией национальной программы "Цифровая экономика Российской Федерации"» // СЗ РФ. 2019. № 11. Ст. 1119.