К ВОПРОСУ О ПРАВОСУБЪЕКТНОСТИ И ПРАВОВОМ РАЗВИТИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

УДК 340, 347

DOI: 10.31249/rgpravo/2021.01.02

КРЫСАНОВА Н.В.1 К ВОПРОСУ О ПРАВОСУБЪЕКТНОСТИ И ПРАВОВОМ РАЗВИТИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА. (Обзор).

Аннотация. Изучаются точки зрения российских и зарубежных ученых о возможности наделения ИИ определенной формой правосубъектности физического или юридического лица и решения проблемы оснований такого наделения. Анализируются предложения о классификации форм правоспособности интеллектуальных систем, о признании концепции «квазисубъектности», прогнозируются потенциально возможные варианты изменения правосубъектности ИИ.

Ключевые слова: Национальная стратегия; искусственный интеллект; правовое регулирование; правоспособность, правосубъектность; правовой статус.

KRYSANOVA N.V. On the issue of legal personality and legal development of artificial intelligence. (R eview).

Abstract. We study the points of view of Russian and foreign scientists on the possibility of granting AI a certain form of legal personality of an individual or legal entity and solve the problem of the grounds for such an assignment. The article analyzes proposals on classification of forms of legal capacity of intellectual systems, on recognition of the concept of «quasi-personality», predicts potential options for changing the legal personality of AI.

Keyword: National strategy; artificial intelligence; legal regulation; legal capacity, legal personality; legal status of units.

1 Н.В. Крысанова, старший научный сотрудник Отдела правоведения ИНИОН РАН, канд. юрид. наук.

Стремительное развитие робототехники в современном мире выдвинуло на первый план проблемы правового регулирования разработки, применения, использования ИИ, а также ответственности создателей «конечного продукта» ИИ. К настоящему времени нормативная правовая база, регулирующая общественные отношения, возникающие в сфере использования искусственного интеллекта, состоит, в основном из подзаконных нормативных правовых актов. Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года» (далее - Стратегия). Целью принятия Стратегии является обеспечение ускоренного развития искусственного интеллекта в Российской Федерации, проведение научных исследований в области искусственного интеллекта, повышение доступности информации и вычислительных ресурсов для пользователей, а также совершенствование системы подготовки кадров в этой области.

В п. 5 Стратегии получили закрепление такие понятия, как «искусственный интеллект», «технологии искусственного интеллекта», «перспективные методы искусственного интеллекта», и др. Это позволяет более определенно подходить к решению проблем правового регулирования общественных отношений в сферах создания и использования технологий ИИ. Из определения метода искусственного интеллекта можно сделать вывод о том, что сам по себе ИИ неоднороден и подразделяется как минимум на два вида: обычный ИИ, который обеспечивает создание принципиально новой научно-технической продукции, используемой в различных сферах экономики, образования, здравоохранения, иных сферах общественной жизни; универсальный (сильный) ИИ, обладающий значительно большими возможностями автономного воздействия на общественные отношения с участием физических и юридических лиц. Это означает, что и правовое регулирование отношений с использованием технологий ИИ также должно быть дифференцировано в зависимости от возможностей, заложенных в искусственном интеллекте.

По мере того как системы ИИ становятся все более сложными и играют все большую роль в обществе, на первый план выдвигается вопрос о наделении ИИ определенной формой право-

субъектности - физического или юридического лица. В статье С. Честермена рассматриваются точки зрения зарубежных ученых о возможности наделения ИИ «какой-либо формой правосубъектности» [8, р. 819]. Наиболее часто, как замечает автор, ИИ-система наделяется правосубъектностью юридических лиц, таких как корпорации. В дискуссиях ученых при этом выражается идея о том, «что по мере приближения систем ИИ к точке неотличимости от человека они должны иметь право на статус, сравнимый с физическим лицом» [Ibid.]. Однако идея наделения ИИ правосубъектностью физического лица ставит проблему оснований такого наделения. Возникновение правосубъектности физического лица по факту рождения (создания) невозможно. Именно поэтому предлагается предоставить объем правосубъектности искусственного юридического лица в форме корпорации как наиболее распространенной. Вместе с тем по мере приближения систем ИИ «к точке неотличимости от людей, т.е. когда они проходят тест Тьюринга, они должны иметь право на статус, сравнимый с физическими лицами» [8, р. 820]. А. Тьюринг - создатель компьютерной науки, один из основоположников искусственного интеллекта. «В течение нескольких десятилетий тест А. Тьюринга был связан скорее с вопросом о том, возможен ли сам ИИ, а не с юридическим статусом такого субъекта. Тем не менее он обычно используется в дискуссиях о правосубъектности для ИИ», - подчеркивает С. Честер-мен [Ibid.].

По мере того как системы ИИ становятся все более сложными и играют все более значимую роль в обществе, существует по меньшей мере две причины, по которым они могут быть признаны лицами с точки зрения права. Первая - проблема возложения ответственности за возможные негативные последствия действия ИИ. Эта проблема обусловлена пробелами в правовом регулировании ответственности ИИ-систем, их автономией и непрозрачностью. Предоставление правосубъектности системам ИИ также сместило бы ответственность в соответствии с действующим законодательством с существующих юридических лиц, создало бы стимул для передачи риска таким электронным лицам, чтобы оградить физические и традиционные юридические лица от ответственности. Такая же проблема и с корпорациями, которые могут быть использованы для защиты инвесторов от ответственности,

превышающей фиксированную сумму их инвестиций. Для предотвращения манипуляций со стороны человека при злоупотреблениях системами ИИ некоторые ученые предлагают вообще не наделять их отдельным правовым статусом.

Вторая причина признания лицами состоит в том, чтобы гарантировать получение вознаграждения за положительные последствия действия ИИ. За рубежом значительно возрос объем литературы, посвященной проблемам признания прав на результаты интеллектуальной деятельности, созданные системами ИИ. Основываясь на исследовании истории корпораций и других искусственных юридических лиц, С. Честермен не сомневается в том, что «большинство правовых систем «могли бы признать ИИ-системы субъектом права» [8, р. 821], однако содержание правосубъектности ИИ остается под вопросом.

В 2017 г. Европейский парламент принял резолюцию, призывающую Европейскую комиссию рассмотреть вопрос о создании «особого правового статуса для роботов в долгосрочной перспективе, с тем чтобы по крайней мере самые сложные автономные роботы могли быть установлены как имеющие статус электронных лиц, ответственных за возмещение любого ущерба, который они могут причинить, и, возможно, использующие электронное лицо к случаям, когда роботы принимают автономные решения или иным образом независимо взаимодействуют с третьими сторонами» [8, р. 822].

В российской юридической науке уже продолжительное время ведутся споры по поводу определения правосубъектности ИИ, т.е. его правовой природы. П.М. Морхат, судья Арбитражного суда Московской области, преподаватель Института повышения квалификации Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), в монографии «Правосубъектность юнитов искусственного интеллекта: Гражданско-правовое исследование» предлагает ввести в оборот «концепт» «правосубъектности электронного лица» для сложных роботизированных систем с искусственным интеллектом. Причем данное понятие автор называет «гибридным», поскольку правосубъектность «электронного лица» содержит в себе некоторые элементы правосубъектности и физических, и юридических лиц. Эти два

элемента пересекаются, но обладают при этом самостоятельностью и уникальностью [6, с. 90].

П.М. Морхат формулирует определение понятия «электронное лицо»: это - «обладающий некоторыми признаками юридической фикции (по аналогии с юридическим лицом) технико-юридический образ (в значении воспринимаемой и сознаваемой третьими лицами целостной информационной проекции), отражающий, воплощающий и детерминирующий в юридическом пространстве конвенциально специфическую правосубъектность персонифицированного юнита искусственного интеллекта, обособленную от человеческого субстрата и гетерогенную (в части комплексов «прав» и обязанностей юнита) в зависимости от функционально-целевого назначения и возможностей такого юнита, и в силу этого аппроксимированный к конкретному целеполаганию производства и задействования такого юнита, т.е. его фунционально-целевому назначению» [6, с. 111]. Одновременно искусственный интеллект по своей природе рассматривается и как программа для электронно-вычислительных машин - «совокупность данных и команд, предназначенных для функционирования электронно-вычислительных машин и других компьютерных устройств в целях получения определенного результата» (ст. 1261 ГК РФ).

В юридической литературе предпринимаются попытки классификации форм правоспособности интеллектуальных систем, точнее спектра вероятных промежуточных вариантов правосубъектности, в том числе как «объекта с особым правовым положением», «участника правоотношения», «квазисубъекта», а также «субъекта отдельных правоотношений с рядом полномочий лица, замещающего государственную должность или должность муниципальной службы». При этом большинство ученых считают целесообразным использовать концепцию «квазисубъектности» ИИ, т.е. способности быть как бы субъектом права [3, с. 52; 7 с. 67].

Исследователи пытаются классифицировать правосубъектность ИИ, причем предлагается рассматривать ИИ как объект правоотношения, а не как участника, и тем более не как субъекта правоотношения. Объясняется это тем, что только человек может являться полноценным и единственным субъектом правоотношения, без учета существующих в экономических и иных целях фикций, которые производны от него, т.е. ИИ может выступать лишь

как объект права, как вещь, в отношении которой у полноправного субъекта права будут наличествовать имущественные права. Такой подход в основном применяется в современном российском и зарубежном праве [4 с. 98; 5, с. 67].

В процессе развития технологии, отражающей как публичный, так и частный интересы в гражданском обороте, может возникнуть проблема обеспечения бесперебойной работы и высокоэффективного функционирования интеллектуальных систем, робототехники и искусственного интеллекта, что невозможно при существующем правовом регулировании указанных технологий. Со временем для решения данной проблемы законодатель «вынужден будет ограничить права собственника, владельца и пользователя такими объектами права. Возможно, в отношении интеллектуальной системы у обладателя вещных прав на нее будет изъято право уничтожить вещь или же иным образом негативно повлиять на степень ее функциональности и производительности. В данном случае можно говорить о расширении правоспособности до «объекта права с особым правовым положением», а также как «участника правоотношения с ограниченной правоспособностью» (например, в случае эффективного развития технологии очевидна необходимость наделения искусственного интеллекта вещными и обязательственными правами для исполнения договоров: комиссии, агентского и поручения) [2, с. 15].

В дальнейшем в отношении высокоразвитых интеллектуальных систем могут быть установлены некоторые запреты на совершение определенных действий, подобные тем, которые адресованы традиционным субъектам права (например, на реализацию активного и пассивного избирательного права). Г.А. Гаджиев и Е.А. Войниканис предполагают, что правоспособность ИИ будет развиваться фрагментарно до уровня обладания отдельными правами и возложения обязанностей, которых нет у некоторых граждан (например, невостребованные или опасные для жизни и здоровья населения должности или службы смогут замещаться исключительно ИИ - «электронным лицом»). По мнению авторов, представляется также возможным и существование в будущем правового положения ИИ с ситуативным (например, территориальным или временным), а также смешанным статусом субъекта права [1, с. 45].

Анализ существующего правового положения робототехники и интеллектуальных систем позволяет ученым спрогнозировать потенциально возможные варианты изменения правосубъектности ИИ. Так, В.А. Лаптев, доктор юридических наук, доцент кафедры предпринимательского и корпоративного права Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), полагает, что ближайшая перспектива следующая: «Робот с искусственным интеллектом будет рассматриваться в качестве объекта права. Юридическую ответственность за работу искусственного интеллекта должен нести оператор либо иное лицо, задающее параметры его работы и управляющее его поведением. Ответственным лицом также признается создатель (изготовитель) ИИ. Среднесрочная перспектива: А1-роботы приобретают правосубъектность и выступают участниками отношений, несут самостоятельную юридическую ответственность. Ответственность создателя ИИ приобретает субсидиарный характер наряду с ответственностью робота. Правовое регулирование поведения А1-робота будет основано на принципе автономии его воли, но в пределах основной цели его создания - служить во благо человечества. Управление роботом будет в режиме самоуправления. И долгосрочная перспектива: правосубъектность будет существовать у искусственного интеллекта уже в виртуальном (цифровом) пространстве в отрыве от материального мира. Киберфизическая юридическая ответственность будет иметь регулятивную и охранительную функции, в то время как воспитательная и предупредительная функции уйдут на второй план. Потребуется принятие кодифицированного нормативного правового акта, определяющего правовое положение субъектов и содержание киберфизических отношений, юридические факты и механизмы привлечения к юридической ответственности» [4, с. 102]. Однако в процессе расширения его правоспособности «нельзя допустить превращение робота, зачастую являющегося источником повышенной опасности, в бесконтрольного и безответственного субъекта права» [7, с. 98].

Именно поэтому в вышеназванной Стратегии получили закрепление основные принципы развития и использования технологий ИИ, которыми следует руководствоваться при ее реализации. Первостепенное значение имеет принцип защиты прав и свобод человека, содержание которого раскрывается через обеспечение

защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики. Не менее важным является принцип безопасности, содержание данного принципа раскрывается как недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта.

В Стратегии определены приоритетные направления развития и применения технологий искусственного интеллекта в отраслях экономики и социальной сфере, которые способствуют повышению эффективности деятельности хозяйствующих субъектов и улучшению жизни. Среди основных направлений развития ИИ -создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ (подп. «е», п. 24 Стратегии). Однако Стратегия в разделе VI предусматривает лишь общий механизм реализации задач, что «не вселяет оптимизма относительно счастливой судьбы и успешности реализации Национальной стратегии в целом», считает В.П. Камышанский [2, с. 17].

Список литературы

1. Гаджиев Г.А., Войниканис Е.А. Может ли робот быть субъектом права (Поиск правовых форм для регулирования цифровой экономики)? // Право. Журнал Высшей школы экономики. - 2018. - № 4. - С. 24-48.

2. Камышанский В.П. О национальной стратегии развития искусственного интеллекта // Власть закона. - 2020. - № 1 (41). - С. 13-17.

3. Каплиев А.С. Критика национальной стратегии развития искусственного интеллекта на период до 2030 года // Право и государство : теория и практика. -2020. - № 2 (182). - С. 51-53.

4. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право : Журнал Высшей школы экономики. - 2019. -№ 2. - С. 79-102.

5. Мельничук М.А., Ченцова Д.В. Гражданско-правовая ответственность искусственного интеллекта // Закон и право. - 2020. - № 6. - С. 66-68.

6. Морхат П.М. Правосубъектность юнитов искусственного интеллекта. Гражданско-правовое исследование. - М.: ЮНИТИ-ДАНА, 2018. - 113 с.

7. Пономарева Е.В. Субъекты и квазисубъекты права : Теоретико-правовые проблемы разграничения : дис. ... канд. юрид. наук. - М., 2019. - 208 с.

8. Chesterman S. Artificial intelligence and the limits of legal personality // International and comparative law quarterly. - Cambridge, 2020. - Vol. 69, N 4. - P. 819844.