Проблемы правового регулирования трансформации правового статуса искусственного интеллекта: постановка проблемы

Ученые записки Крымского федерального университета имени В. И. Вернадского Юридические науки. - 2019. - Т. 5 (71). № 3. - С. 73-81.

УДК 347.1

ПРОБЛЕМЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ ТРАНСФОРМАЦИИ ПРАВОВОГО СТАТУСА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПОСТАНОВКА ПРОБЛЕМЫ

Щербаков М. Г.

Казанский (Приволжский) федеральный университет

Статья посвящена актуальной на сегодняшний день проблеме правового статуса искусственного интеллекта. Целью статьи является анализ природы искусственного интеллекта. Статья подводит к пониманию необходимости определения правового статуса искусственного интеллекта в качестве субъекта права. В статье анализируются признаки искусственного интеллекта. Автором рассматриваются возможность признания искусственного интеллекта в качестве цифрового лица, обладающего автономностью в принятии решений. В статье проводится аналогия дефиниции юридического лица и цифрового лица как юридической фикции. Автором подчеркивается необходимость, с одной стороны, определить права и обязанности искусственного интеллекта, с другой стороны определить степень ответственности. Предлагается включение в гражданское законодательство норм, посвященных цифровому лицу.

Ключевые слова: искусственный интеллект, статус цифрового лица, нейронная сеть, права и обязанности цифрового лица, юридическая ответственность цифрового лица, гибрид, андроид.

В современном мире объем информации растет экспоненциально, в результате чего, возникает режим не извлеченных смыслов. Ф. И. Гиренок указывал, что в мире антропологической катастрофы скорость смены одного события другим так велика, что значения и смыслы не успевают осесть, поэтому каждому из нас приходится жить в режиме не извлечённого смысла [1]. Вместе с тем необходимость извлечения смыслов явлений, обуславливается познавательной деятельностью человека. В этой связи возникает объективная потребность в создании искусственных инструментариев, позволяющих получать, обрабатывать и хранить огромный массив информации, т.е. средств извлечения смыслов. Этими средствами стали цифровые технологии, основанные на искусственном интеллекте, который правовая доктрина относит к объектам гражданских прав.

Между тем все чаще стали появляться предложения отнести искусственный интеллект к субъектам права. Ф. В. Ужов отмечал, что в случае если теория «мыслящих машин» (или же «сильного» искусственного интеллекта, т.е. искусственного интеллекта, способного мыслить соответственно и сообразно такой способности, присущей человеку) превратится в практику, перед законодателем неизбежно будет поставлен вопрос о наличии или же об отсутствии необходимости наделения носителя искусственного интеллекта правами [2]. Что же представляет собой субъект права? Правовая доктрина понимает под субъектом права лицо, обладающее способностью осуществлять субъективные права и юридические обязанности, а также нести ответственность. Субъектами права выступают индивидуальные лица (физические лица) и коллективные лица (юридические лица, государство и т.д.). В связи с этим необходимыми и достаточными признаками субъекта права являются способ-

73

ность осуществлять права и выполнять обязанности, а также нести юридическую ответственность.

Вместе с тем, чтобы определить статус искусственного интеллекта необходимо ответить на вопрос: что представляет собой искусственный интеллект? Искусственный интеллект представляет собой человекоподобную систему, имитирующую деятельность человека. Основой искусственного интеллекта является нейронные сети, которые представляют собой технологию, способную к обучению. Обучение нейронной сети - это процесс определения весов соединений между нейронами таким образом, чтобы сеть приближала необходимую функцию с заданной точностью. Л. С. Болотова определяла искусственный интеллект как некую искусственную систему, способную имитировать интеллект человека, то есть способность получать, обрабатывать, хранить информацию и знания и выполнять над таковыми разные действия, совокупно называемые мышлением [3]. Н. Нильсон сравнивал искусственный интеллект с антропогенным продуктом [4]. П. М. Морхан отмечал, что искусственный интеллект является инструментом расширения и усиления возможностей человеческого интеллектуального потенциала, а также призванный под контролем и воле человека заменить его при выполнении определенных функций и в решении определенных задач [5]. Макаров И. М. утверждал, что роботы - это лишь особая вещь, требующая особого регулирования с определенной встроенной автономностью [6].

Ручкин В. А. отмечал, что искусственный интеллект не может быть сравним в полной мере с человеком, поскольку не имеет души, сознания, чувств, интересов и свободы воли [7]. Г. А. Гаждиев указывал, что роботы не смогут в ближайшее время рассматривать и разбирать уголовные и гражданские дела, поскольку они не способны учесть все детали, в том числе и прежде всего - «человеческий фактор» [8]. М. Дельво указывал, что роботы никогда не будут людьми [9]. М. А. Булгаков писал, что уметь говорить - это еще не значит быть человеком [10]. Таким образом, способность искусственного интеллекта решать сложные задачи, оперируя большими данными, а также способность к самообучению не предполагает наличие у него сознания, которое выражается в субъективном переживании событий внешнего мира. С. Гудман отмечал, что сила человека заключается в способности признавать свои слабости. В способности принимать помощь других людей и оказывать помощь нуждающимся. В способности преодолевать жизненные препятствия и преграды [11]. Таким образом, сопереживание и взаимопомощь образует так называемый человеческий фактор личности, который связывают с моральным духом, способностью противостоять тяготам и склонности людей к ошибкам (лат. «еггаге humnnum est» [12]).

Между тем необходимо отметить, что в юриспруденции сознание не является необходимым условием правосубъектности. С. Чопра и Л. Уайт справедливо указывали, что в праве сознание не является необходимым или достаточным условием для правосубъектности [13].

В настоящее время искусственный интеллект способен самостоятельно принимать решение, которые не были предварительно одобрены их разработчиками или владельцами, что ставит их на одну сторону с субъектами права. Э. Уайтценбоук отмечал, что сегодня компьютеры являются не только средством коммуникации, которое обеспечивает и облегчает ведение электронной торговли, но и сами способ-

ны инициировать такую коммуникацию [14]. Способность искусственного интеллекта к самообучению и самостоятельному принятию решения, обуславливается наличием определённой степени свободы, а также его способностью своими действиями осуществлять права и обязанности. П. Черка отмечал, что права и обязанности атрибутируются субъектам права, следовательно, если возобладает точка зрения о том, что юнит искусственного интеллекта должен и будет нести ответственность за свои действия, его придётся сделать субъектом права [15]. Таким образом, способность искусственного интеллекта осуществлять права и обязанности, а также нести юридическую ответственность позволит выделить его в качестве субъекта права (цифрового лица).

Вместе с тем необходимо различать различные формы взаимодействия человека и искусственного интеллекта, которые дифференцируются степенью автономности действия искусственного интеллекта. Под автономностью необходимо понимать способность выполнять поставленные задачи в зависимости от текущего состояния и восприятия окружающей среды без вмешательства человека [16]. Так, можно выделить следующие формы коллаборации человека и машины: цифрового агента (андроида), гибрида человека и машины (киборга), цифрового лица (унитарного и корпоративного электронного лица).

К неавтономным формам взаимодействия человека и машины относятся цифровые агенты и гибриды человека и машины, в которых действия искусственного интеллекта обусловлены прямым волеизъявлением человека, поэтому все действия цифрового юнита априори будут считаться действиями человека, а к автономным системам искусственного интеллекта можно отнести цифровые лица (индивидуальные и коллективные электронные лица). Отличительной особенностью цифровых лиц является способность осуществлять права и обязанности, которая обуславливается автономным характером их функционирования. Практика применения цифровых юнитов на фондовом рынке показывает, что машины совершенно самостоятельно принимают те или иные инвестиционные решения, следовательно, самостоятельно осуществляют свои права и обязанности в качестве цифрового субъекта. Применение электронных технологий является одной из характерных особенностей фондового рынка: технологии обеспечивают высокую динамику операций, существенно ускоряют расчеты, расширяют круг участников и уменьшают риски. Например, Aidyia, гонконгский хедж-фонд, использующий «общий искусственный интеллект», более точно имитирующий человеческий мозг, в 2015 году запустил фонд длинных и коротких инвестиций, торгующий акциями США и совершающий все биржевые сделки без вмешательства человека. В связи с этим необходимо различать автономные и неавтономные технологии искусственного интеллекта. И. В. Понкин указывал, что правовое положение искусственного интеллекта зависит от меры и природы автономности искусственного интеллекта [17]. Так, если неавтономные технологии, выраженные в программно-аппаратных средствах, представляют собой объекты гражданских прав, которые являются продолжением личности в гражданско-правовых отношениях, то автономные юниты, наоборот, являются субъектами гражданских правоотношений (электронные лица).

Впервые термин «электронные лица» (electronic persons) был предложен Комитетом по правовым вопросам Европейского парламента в проекте отчета о правилах гражданского права в области робототехники от 31 мая 2016 года [18]. В соответ-

75

ствии с позицией Европейского парламент этот термин используется для выделения потенциального правового статуса роботов с высокой степенью автономности, так что они могут иметь определенные права и обязанности, в том числе возможность возмещения любого ущерба, который они могут нанести, а также применение электронной личности в случаях, когда роботы принимают умные автономные решения или иным образом независимо взаимодействуют с третьими лицами [19]. П. М. Морхат указывал, что наделение юнита искусственного интеллекта правовым статусом электронного лица должно быть направлено на непризнание автономности и самостоятельности такого юнита и освобождение физических и юридических лиц от ответственности за его действия, а, наоборот, на укрепление такой подотчетности и решение проблем идентификации юнитов искусственного интеллекта и стоящих за ним реальных людей [5]. В пояснительной записке Секретариата Комиссии ООН по праву международной торговли об использовании электронных средств связи в международных соглашениях сказано, что лицо (как физическое, так и юридическое), от имени которого компьютер был запрограммирован, должно нести ответственность за любое сообщение, сегрегированное машиной.

Вместе с тем правовой статус субъекта права не ограничивается способностью иметь права и обязанности, не менее важной характеристикой является способность нести юридическую ответственность за свои действия. В связи с особенностями искусственного интеллекта были выдвинуты предложения относительно прямой ответственности определенных систем [20]. Ф. В. Ужов обоснованно увязывает с резонами наделения юнитов искусственного интеллекта рядом обязанностей, в том числе - обязанностью нести ответственность за совершённые ими деяния [2]. В связи с этим необходимо на теоретическом и практическом уровнях решить вопрос ответственности цифрового лица. Действия собственника (владельца) автономного искусственного интеллекта, обуславливаются исключительно определением начальных параметров (целей) цифрового лица, например, извлечение прибыли в конкретной сфере, а способы реализации данной цели самостоятельно определяются непосредственно цифровым лицом (автономным искусственным интеллектом). С. де Шрайжвера отмечал, что электронное лицо может иметь сходство с юридическим лицом в том смысле, что оба являются для владельцев средствами достижения определенной цели и существуют исключительно в интересах их владельцев [21]. П. М. Морхат утверждал, что институт электронного лица схож с институтом юридических лиц, однако с еще большей нацеленностью на достижение конкретных практических целей [5]. Таким образом, практические цели применения цифрового лица, обусловленные его участием в коммерческом обороте, подразумевают наделение его обособленным имуществом, а также наличие органов управления. Д. И. Мейер указывал, что юридическое лицо - бесплотная идея; каким же образом проявит оно гражданскую деятельность? Средство состоит в том, что создается орган юридического лица, действия которого считаются действиями самого юридического лица: признавая существование юридического лица, законодательство в то же время определяет орган, через который оно должно проявлять свою гражданскую деятельность [22]. Д. В. Мурзин отмечал, что органы юридического лица - особая юридическая конструкция, позволяющая, юридическому лицу реализовывать свою правоспособность [23]. В связи с этим можно предположить, что правосубъектность

цифрового лица осуществляется через постоянно действующий орган управления -искусственный интеллект.

Между тем собственник (учредитель) цифрового лица осуществляет лишь общий контроль за деятельностью цифрового лица. Таким образом, цифровое лицо представляет собой юридическую фикцию, схожую с фикцией юридического лица, в которой искусственный интеллект является постоянно действующим органом. В пункте «2» введения к Резолюции Европейского Парламента вместе с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента от 16.02.2017 г. указывается, что роботы сейчас способны не просто выполнять действия, которые обычно присущи и типичны для человека, но и способны учиться на собственном опыте и принимать квазинезависимые решения, и в таком контексте проблема определения юридической ответственности за вредные действия робота становится решающей [24]. Кроме того, в Рекомендации Парламентской Ассамблеи Совета Европы № 2102 (2017) от 28.04.2017 «Слияние с технологиями, искусственный интеллект и права человека» было отмечено, что ответственность за деяние лежит на человеке независимо от обстоятельств, и ссылки на независимые решения юнитов искусственного интеллекта не могут освобождать их создателей, владельцев и операторов от ответственности за нарушение прав человека, совершенное с использованием таких систем, даже в тех ситуациях, когда само действие не было совершено по прямому указанию человека [25]. В связи с этим необходимо отметить, что решения искусственного интеллекта носит квазинезависимый характер. Между тем собственники, определяя цели и задачи искусственного интеллекта, формируют повестку цифрового лица. Следовательно, собственники (учредители) цифрового лица, должны нести субсидиарную ответственность за его действия цифрового лица.

Кроме того, практически важным является момент возникновения правоспособности цифрового лица (автономного искусственного интеллекта). Так, некоторые авторы предлагают считать моментом возникновения цифрового лица момент его регистрации в специальном реестре. В связи с этим возникает необходимость введения специального реестра цифровых лиц, который будет отражать информацию как о владельцах цифровых лиц, так и полномочиях самих цифровых лиц. Э. Уайтценбоук указывал, что одна из существенных проблем заключается в сложности надлежащей идентификации такого юнита, в особенности если аппаратное и программное обеспечение распределено по разным сайтам и поддерживается разными лицами. В таком случае необходимо будет создание и ведение соответствующего реестра, по аналогии с реестрами юридических лиц [14]. И. Баймилоплу отмечал, что система реестра электронных лиц может использоваться для предотвращения использования таких технологий в противоправных целях [26].

Кроме того, необходимо отметить, что в коллективных цифровых лицах практически важно определить доли участников цифровых лиц. Следовательно, отражение в реестре цифровых лиц сведений об их участниках, размерах долей, а также сделок, связанных переходом, обеспечить прозрачность деятельности цифрового лица и надлежащий корпоративный контроль. Вместе с тем предоставление искусственному интеллекту правосубъектности в качестве цифрового лица неоднозначно оценивается разными учеными. С. М. Солайман указывал, что предоставление ро-

77

ботам правосубъектности может быть не панацеей, скорее, это может оказаться ящиком Пандоры [27].

Между тем искусственный интеллект - это сложившийся факт эмпирической действительности, который в современных условиях является определяющей силой развития общества. С. Хасслер справедливо задавал вопрос: вместо того, чтобы предположить, что этически спорное будущее с разумными машинами неизбежно, мы не можем выбрать управление машинами, которые мы строим, и бросить вызов технологическому императиву. Или мы на столько в плену идеи создания искусственной жизни, монтров и големов, что это невозможно [28]. В связи с этим, теоретически важно и практически необходимо, определить правовой статус искусственного интеллекта, а также установить над ним надлежащий контроль. С. де Шрайж-вера отметил, что создание отдельного правового статуса электронного лица приведет к созданию нового правового института, в рамках которого действия роботов будут контролироваться и управляться отдельно от его владельца или эксплуатанта, а также позволит прояснить, что происходит при вступлении в правоотношения с роботами, и определить отношения между роботом и третьей стороной, а также между роботом и его владельцем [21]. П. М. Морхат отметил, что концепт правосубъектности «электронное лицо» может быть в некоторой перспективе внедрен, но пока для весьма ограниченного числа случаев сложных роботизированных систем с искусственным интеллектом [5]. Таким образом, можно сделать вывод о том, что автономный искусственный интеллект, способный к самообучению, находящийся под контролем оператора, а также приносящий выгоды его владельце может быть признан субъектом права в виде цифрового лица. Так, например, нами предлагается дополнить часть первую Гражданского кодекса Российской Федерации новой главой 4.1, посвященной цифровым лицам, в которой закрепить «понятие цифрового лица» следующего содержания: «Цифровым лицом признаётся роботизированная система или иная человекоподобная система, обладающая автономным искусственным интеллектом, которая по решению и контролем собственника (владельца) и в силу конструктивных особенностей предназначена для участия в гражданском обороте. Цифровое лицо имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. В случаях, установленных законом, цифровое лицо может выступать в качестве участника гражданского процесса. 2. Цифровое лицо должно быть зарегистрировано собственником (владельцем) в едином государственном реестре цифровых лиц. Порядок создания и ведения реестра цифровых лиц, а также орган, уполномоченный в области создания и ведения такого реестра, определяются в соответствии с федеральным законодательством о робототехнике. 3. Роботизированная система или иная человекоподобная система, обладающая автономным искусственным интеллектом, признаётся цифровым лицом и наделяется правоспособностью при условии регистрации ее модели (алгоритма, исходного кода) в едином государственном реестре цифровых лиц».

Кроме того, необходимо отметить, что признание искусственного интеллекта субъектом права приведет к смене парадигмы, устанавливающей фундаментальное положение, что право регулирует исключительно отношение между людьми. М. Карлюк указал, что наше отношение к автономным системам (будь то роботы или что-то еще) и наше переосмысление их роли в обществе и их места среди нас

может оказать трансформационный эффект [29]. В связи с этим, научному сообществу необходимо разработать обоснованную теоретическую базу, а также конкретные практические предложения по регулированию процесса трансформации правового статуса искусственного интеллекта.

Список литературы

1.Гиренок Ф. И. Фигуры и складки. - М.: Академический проект, 2014. - 249 с.

I. Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. - 2017. - № 3. - С. 357 - 360. - С. 358.

3. Болотова Л. С. Системы искусственного интеллекта: модели и технологии основанные на знаниях: Учебник. - М., 2012. - 664 с.

4. Нильсон Н. Искусственный интеллект: методы поиска решений: Пер. с англ. В.Л. Стефанюка; под ред. С.В. Фомина. - М.: Мир, 1973. - 272 с.

5. Морхат П. М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. - 2018. - № 4. - С. 1- 8

6. Макаров И. М., Топчеев Ю. И. Робототехника: История и перспективы. -М.: Наука; Изд-во МАИ, 2003.- 349 с.

7. Универсальный искусственный интеллект и экспертные системы / В. Н. Ручкин, В. А. Фулин. -СПб.: БХВ - Петербург, 2009. - 240 с.

8. Гаджиев Г.А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 15 - 30.

9. Draft Report with recommendations to the Commissionon Civil Law Rules on Robotics [Проект Отчёта с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники] (2015/2103(INL)), 31.05.2016 / Committee on Legal Affairs / European Parliament; Rapporteur: Mady Delvaux // . - 22 p. - P. 6 - 7.

10. Булгаков, М. А. Белая гвардия : Роман ; Дьяволиада ; Роковые яйца ; Собачье сердце : повести / М.А. Булгаков - Л. : Лениздат, 1989. - 768с

II. Гутман С. Жемчужины мысли. 2018. [Электронный ресурс]. Режим доступа: http://www.inpearls.ru/407877. Дата обращения 10.06.2018.

12. Философскийэнциклопедическийсловарь. -М.: Советскаяэнциклопедия. Гл. редакция: Л. Ф. Ильичев, П. Н. Федосеев, С. М. Ковалёв, В. Г. Панов. 1983.

13. Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [Электронный ресурс] // Brooklyn College: [сайт]. URL: http://www.sci.brooklyn.cuny.edu/~schopra/ agentlawsub.pdf

14. Weitzenboeck E. M. Electronic Agents and the Formation of Contracts // International Journal of Law and Information Technology. 2001. Vol. 9. No. 3. P. 204 - 234.

15. Cerka P., Grigiene J., Sirbikyte G. Liability for damages caused by artificial intelligence [Ответственность за ущерб, вызванный искусственным интеллектом] // Computer Law & Security Review. - 2015, June. - Vol. 31. - Issue 3. - P. 376 - 389.

16. ГОСТ Р 60.0.2.1 - 2016 «Роботы и робототехнические устройства. Общие требования по безопасности» / Утверждён и введён в действие Приказом Федерального агентства по техническому регулированию и метрологии от 29.11.2016 № 1843-ст. - М.: Стандартинформ, 2016.

17. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91 -109.

18. EU: Robot Workers Are Electronic Persons [Электронный ресурс]. Режим доступа: www.pcmag.com/news/345515/eu - robot - workers - are - electronic - persons. Дата обращения 10.06.2018.

19. European Parliament [Электронный ресурс]. Режим доступа: http://www.europarl.europa.eu. Дата обращения 10.06.2018.

20. Хейдж Дж. Теоретические основы ответственности автономных агентов // Право искусственного интеллекта. 2017, № 25 (3), с. 255 - 271.

21. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots [Электронный ресурс] // Who's Who Legal. [2018]. URL: http:// whos who le-gal.com/news/features/article/34313/future - now - legal - conse quence selectronic - personality-autonomous-robots (дата обращения: 02.04.2018).

22. Мейер, Д. И. Русское гражданское право / Д. И. Мейер. - М.: Статут, 2003. - 831 с.

23. Мурзин, Д. В. Комментарий к Гражданскому кодексу Российской Федерации. Учебно -практический. К части 2 / Д. В. Мурзин, Н. Ю. Мурзина, С. А. Степанов. - Москва: Мир, 2016. - 512 c.

24. Исследовательский центр проблем регулирования робототехники и искусственного интеллекта [Электронный ресурс]. Режим доступа: http://robopravo.ru/riezoliutsiia_ies. Дата обращения 10.06.2018.

25. Recommendation № 2102 (2017) of Parliamentary Assembly of the Council of Europe «Technological convergence, artificial intelligence and human rights», 28 April 2017.

26. Bayamlioрlu E. Intelligent Agents and Their Legal Status: An Essay on Artificial Intelligence and Personality // Ankara Bar Review. 2008. №. 1. P. 46 - 54.

27. Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. 2017. Vol. 25. №. 2. P. 155-179.

79

28. Hassler S. Do We Have to Build Robots That Need Rights? [Электронный ресурс] // IEEE Xplore. URL: http://ieeexplore.ieee.org/s1amp/stamp.jsp?amumber=7864739 (дата обращения: 02.04.2018).

29. Некоммерческое партнерство «Российский совет по международным делам» (НП РСМД) является основанной на членстве российской некоммерческой организацией [Электронный ресурс]. Режим доступа: http://rassiancouncil.ru/analytics-and-comments/analytics/eticheskie-i-pravovye-voprosy-skusstvennogo-intellekta/. Дата обращения 10.06.2018.

M.G. Sherbakov. Problems of legal regulation of the transformation of the legal status of artificial

intelligence: problem statement // Scientific notes of V. I. Vernadsky crimean federal university. Juridical science. - 2019. - Т. 4 (72). № 3. - Р. 73-81.

The article is devoted to the actual today the problem of the legal status of artificial intelligence. The purpose of the article is to analyze the nature of artificial intelligence. The article leads to an understanding of the need to determine the legal status of artificial intelligence as a subject of law. The article analyzes the signs of artificial intelligence. The author considers the possibility of recognizing artificial intelligence as a digital entity with autonomy in decision making. The article draws an analogy of the definition of a legal entity and a digital entity as a legal fiction. The author emphasizes the need, on the one hand, to define the rights and duties of artificial intelligence, on the other hand, to determine the degree of responsibility. It is proposed to include in the civil law regulations on a digital person.

Keywords: artificial intelligence, digital face status, neural network, rights and obligations of a digital face, legal liability of a digital face, hybrid, android.

Spisok literatury:

1.Girenok F. I. Figury i skladki. - M.: Akademicheskij proekt, 2014. - 249 s.

2.Uzhov F.V. Iskusstvennyj intellekt kak sub"ekt prava // Probely v rossijskom zakonodatel'stve. - 2017. - №

3. - S. 357 - 360. - S. 358.

3.Bolotova L. S. Sistemy iskusstvennogo intellekta: modeli i tekhnologii osnovannye na znaniyah: Uchebnik. - M., 2012. - 664 s.

4.Nil'son N. Iskusstvennyj intellekt: metody poiska reshenij: Per. s angl. V.L. Stefanyuka; pod red. S.V. Fom-ina. - M.: Mir, 1973. - 272 s.

5.Morhat P. M. K voprosu o pravosub"ektnosti «ehlektronnogo lica» // YUridicheskie issledovaniya. - 2018. -№ 4. - S. 1- 8

6.Makarov I. M., Topcheev YU. I. Robototekhnika: Istoriya i perspektivy. -M.: Nauka; Izd-vo MAI, 2003. -349 s.

7.Universal'nyj iskusstvennyj intellekt i ehkspertnye sistemy / V. N. Ruchkin, V. A. Fulin. - SPb.: BHV - Peterburg, 2009. - 240 s.

8.Gadzhiev G.A. YAvlyaetsya li robot-agent licom? (Poisk pravovyh form dlya regulirovaniya cifrovoj ehkonomiki) // ZHurnal rossijskogo prava. 2018. № 1 (253). S. 15 - 30.

9.Draft Report with recommendations to the Commissionon Civil Law Rules on Robotics [Proekt Otchyota s rekomendaciyami Komissii po grazhdansko-pravovomu regulirovaniyu v sfere robototekhniki] (2015/2103(INL)), 31.q5.2016 / Committee on Legal Affairs / European Parliament; Rapporteur: Mady Del-

10. Bulgakov, M. A. Belaya gvardiya : Roman ; D'yavoliada ; Rokovye yajca ; Sobach'e serdce : povesti / M.A. Bulgakov - L. : Lenizdat, 1989. - 768s

11. Gutman S. ZHemchuzhiny mysli. 2018. [EHlektronnyj resurs]. Rezhim dostupa: http://www.inpearls.ru/407877. Data obrashcheniya 10.06.2018.

12. Filosofskij ehnciklopedicheskijslovar'. - M.:Sovetskaya ehnciklopediya. Gl. redakciya: L. F. Il'ichev, P. N. Fedoseev, S. M. Kovalyov, V. G. Panov. 1983.

13. Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [EHlektronnyj resurs] // Brooklyn College: [sajt]. URL: http://www.sci.brooklyn.cuny.edu/~schopra/ agentlawsub.pdf

14. Weitzenboeck E.M. Electronic Agents and the Formation of Contracts // International Journal of Law and Information Technology. 2001. Vol. 9. No. 3. P. 204 - 234.

15. Cerka P., Grigiene J., Sirbikyte G. Liability for damages caused by artificial intelligence [Otvetstvennost' za ushcherb, vyzvannyj iskusstvennym intellektom] // Computer Law & Security Review. - 2015, June. - Vol. 31. - Issue 3. - P. 376 - 389.

16. GOST R 60.0.2.1 - 2016 «Roboty i robototekhnicheskie ustrojstva. Obshchie trebovaniya po bezopasnos-ti» / Utverzhdyon i vvedyon v dejstvie Prikazom Federal'nogo agentstva po tekhnicheskomu regulirovaniyu i metrologii ot 29.11.2016 № 1843-st. - M.: Standartinform, 2016.

17. Ponkin I. V., Red'kina A. I. Iskusstvennyj intellekt s tochki zreniya prava // Vestnik Rossijskogo universi-teta druzhby narodov. Seriya: YUridicheskie nauki. 2018. T. 22. № 1. S. 91 -109.

18. EU: Robot Workers Are Electronic Persons [EHlektronnyj resurs]. Rezhim dostupa: www.pcmag.com/news/345515/eu - robot - workers - are - electronic - persons. Data obrashcheniya 10.06.2018.

19. European Parliament [EHlektronnyj resurs]. Rezhim dostupa: http://www.europarl.europa.eu. Data obrashcheniya 10.06.2018.

20. Hejdzh Dzh. Teoreticheskie osnovy otvetstvennosti avtonomnyh agentov // Pravo iskusstvennogo intel-lekta. 2017, № 25 (3), s. 255 - 271.

21. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots [EHlektronnyj resurs] // Who's Who Legal. [2018]. URL: http:// whos who le-

WepdaKoe M. r.

gal.com/news/features/article/34313/future - now - legal - conse quence selectronic - personality-autonomous-robots (data obrashcheniya: 02.04.2018).

22. Mejer, D. I. Russkoe grazhdanskoe pravo / D. I. Mejer. - M. : Statut, 2003. - 831 s.

23. Murzin, D. V. Kommentarij k Grazhdanskomu kodeksu Rossijskoj Federacii. Uchebno -prakticheskij. K chasti 2 / D. V. Murzin, N. YU. Murzina, S. A. Stepanov. - Moskva: Mir, 2016. - 512 c.

24. Issledovatel'skij centr problem regulirovaniya robototekhniki i iskusstvennogo intellekta [EHlektronnyj resurs]. Rezhim dostupa: http://robopravo.ru/riezoliutsiia_ies. Data obrashcheniya 10.06.2018.

25. Recommendation № 2102 (2017) of Parliamentary Assembly of the Council of Europe «Technological convergence, artificial intelligence and human rights», 28 April 2017.

26. Bayamliorlu E. Intelligent Agents and Their Legal Status: An Essay on Artificial Intelligence and Personality // Ankara Bar Review. 2008. №. 1. P. 46 - 54.

27. Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. 2017. Vol. 25. №. 2. P. 155-179.

28. Hassler S. Do We Have to Build Robots That Need Rights? [EHlektronnyj resurs] // IEEE Xplore. URL: http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=7864739 (data obrashcheniya: 02.04.2018).

29. Nekommercheskoe partnerstvo «Rossijskij sovet po mezhdunarodnym delam» (NP RSMD) yavlyaetsya osnovannoj na chlenstve rossijskoj nekommercheskoj organizaciej [EHlektronnyj resurs]. Rezhim dostupa: http://russiancouncil.ru/analytics-and-comments/analytics/eticheskie-i-pravovye-voprosy-skusstvennogo-intellekta/. Data obrashcheniya 10.06.2018.

81