ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РОБОТОТЕХНИКА: ТЕОРЕТИКО-ПРАВОВЫЕ ПРОБЛЕМЫ РАЗГРАНИЧЕНИЯ ПОНЯТИЙНОГО АППАРАТА

706

ВЕСТНИК УДМУРТСКОГО УНИВЕРСИТЕТА

УДК 34.023; 343.3

И.Р. Бегишев, З.И. Хисамова

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РОБОТОТЕХНИКА:

ТЕОРЕТИКО-ПРАВОВЫЕ ПРОБЛЕМЫ РАЗГРАНИЧЕНИЯ ПОНЯТИЙНОГО АППАРАТА

Проводится разграничение таких понятий, как «робототехника» и «искусственный интеллект». По мнению авторов, указанные категории являются не только разнообъемными, но и семантически не совпадающими. Анализ понятийного аппарата указанных терминов позволяет заключить, что, в отличие от первого, второму свойственно наличие «интеллектуальности», саморазвития и пр. Отмечается, что, дискутируя относительно правового статуса роботов и искусственного интеллекта, большинство ученых допускают смешение понятий, предпринимаются попытки обосновать необходимость наделения правовым статусом именно роботов, а не искусственный интеллект. Вопрос, касающийся рассмотрения роботов и искусственного интеллекта в качестве субъектов права, в принципе, можно признать обоснованным. В перспективе данная тема актуальности не утратит. Среди имеющихся на данный момент подходов к рассмотрению роботов и искусственного интеллекта как субъектов права наиболее обоснован путь, построенный по аналогии с юридическим лицом с точки зрения теории фикции. Подходы, предлагающие обосновать правосубъектность роботов и искусственного интеллекта с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как цифровые технологии достигнут объективно высокого уровня. Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность, то может снизиться уровень ответственности профессиональных участников рынка.

Ключевые слова: теория и история государства и права, интеллект, искусственный интеллект, робот, робототехника, цифровые технологии, правосубъектность, субъект права, теория фикции.

DOI: 10.35634/2412-9593-2020-30-5-706-713

Искусственный интеллект (далее - ИИ) и робототехника как автономные области науки получают интенсивное параллельное развитие как в теоретическом, так и в практическом плане. Сегодня инновационные робототехнические и интеллектуальные системы имеют широкое распространение за пределами исследовательских центров. К разработкам в области робототехники и ИИ проявляют интерес государственные корпорации, представители бизнеса, по внедрению таких разработок организуются различные стартапы и пр.

Робототехника и ИИ сегодня становятся частью жизни человека, поэтому правовая оценка их природы и регламентация порядка их использования стали важнейшими задачами современного отечественного правоведения. Однако прежде, чем разграничить правовые подходы к данным категориям, необходимо отметить, что сегодня имеет место одно фундаментальное заблуждение, основанное на том, что ИИ и робототехника считаются понятиями или близкими по значению, или полностью идентичными. Однако это не так. Попробуем доказать это, разграничив понятийный аппарат данных категорий, основываясь на технологическом и правовом подходе.

Необходимо отметить, что на сегодняшний день нет единообразного толкования рассматриваемых дефиниций. Отсутствует легальное определение термина «искусственный интеллект», при этом вариантов определения данного понятия в науке более дюжины. Это же относится и к категориям «робот», «робототехника», «разумный робот» и пр.

Обратимся к определению понятия «робототехника». На настоящий момент универсальное определение основной составляющей указанной категории «робот» отсутствует. В современных исследованиях отмечается, что в широком смысле робот должен воздействовать на окружающую среду, получать от нее обратную связь и представлять собой собственно машину. При этом внешний вид робота должен быть стандартным для восприятия человеком [1]. Однако, если следовать логике, то необходимо отметить, что в качестве ключевого свойства «робота» должно все же выступать кибернетическое начало, соответственно, он должен являться неким устройством или механизмом. Сегодня это один из основных критериев, позволяющих с большой долей условности разграничить роботов и, например, программное обеспечение в чистом виде. Интересно, что после К. Чапека, впервые введшего в обиход указанный термин [2], единого определения понятия «робот» так и не было сформулировано.

Чтобы проанализировать семантику термина «робот», обратимся к толковым словарям. Существующие толковые словари определяют термин «робот» следующим образом.

- автомат, осуществляющий действия, подобные действиям человека [3];

- машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно1;

- механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди2;

- машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также: аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм3.

Можно сказать, что все составители словарей при разнообразии тех или иных характеристик сходятся в том, что робот - это некое устройство, машина и пр.

В литературе широко представлены подходы, посвященные анализу содержания исследуемого понятия. Так, П. Хаббард выделяет ряд характеристик, свойственных непосредственно роботам. В частности, роботы должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию [4]. По его мнению, из вышеназванных характеристик интерес представляет только автономность, благодаря которой «робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи» [5].

С позиции особенностей роботов выстроили собственную классификацию авторы европейского проекта Robolaw [6]. Так, по их мнению, роботы могут классифицироваться по:

- сфере применения или выполняемым задачам;

- окружающему пространству (воздух, земля, вода и человеческое тело и пр.);

- форме воплощения (воплощенные или бестелесные);

- взаимодействию с человеком;

- автономности и пр.

Согласно точке зрения авторов исследования, проведенного под эгидой ЮНЕСКО4, современный робот может быть охарактеризован посредством четырех ключевых особенностей: мобильности, интерактивности, обмена информацией и автономии.

К сожалению, российская правовая доктрина не дает легального определения термина «робот», но попытки определить данную категорию имеют место. В частности, П.М. Морхат считает, что робот выступает автоматическим, полностью или частично автономным системным устройством, призванным выполнять различного рода работы [7]. В.Б. Наумов и В.В. Архипов определяют понятие «робот» как устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека5.

Если обратиться к исследованию Сбербанка России «Аналитический обзор мирового рынка робототехники» от 12 апреля 2018 г., то можно увидеть, что здесь робот представляет собой «любое устройство или механизм, выполняющий предназначенные ему действия, которое одновременно отвечает трем условиям: воспринимает окружающий мир с помощью сенсоров, понимает окружающий мир и строит модели поведения, воздействует на физический мир тем или иным способом6.

1 Robot // Oxford On-Line Dictionary. URL: https://en.oxforddictionaries.com (дата обращения: 20.01.2020).

2 Robot // Cambridge Online Dictionary. URL: https://dictionary.cambridge.org/ru (дата обращения: 20.01.2020).

3 Robot // Merriam Webster Online Dictionary. URL: https://www.merriam-webster.com (дата обращения: 20.01.2020).

4 Report of COMEST on robotics ethics // UNESCO. URL: http://unesdoc.unesco.org/images/0025/002539/ 253952E.pdf (дата обращения: 20.01.2020).

5 Законопроект «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» // Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «РОБОПРАВО». URL: http://robopravo.ru/uploads/ s/z/6/g/z6gj 0wkwhv 1o/file/My74kFFZ.pdf (дата обращения: 20.01.2020).

6 Аналитический обзор мирового рынка робототехники // Сбербанк. Лаборатория робототехники Сбербанка. URL: https://www.sberbank.ru/common/img/uploaded/analytics/2018/analiticeskij-obzor-mirovogo-rynka-robototehniki.pdf (дата обращения: 20.01.2020).

708_И.Р. Бегишев, З.И. Хисамова_

2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО

Так как на сегодняшний день действующее законодательство не дает полноценного определения рассматриваемой категории, необходимо обратиться к ГОСТ Р ИСО 8373-2014, который может рассматриваться сегодня как ключевой документ в отношении исследуемой терминологии. Данный нормативно-технический документ истолковывает термин «робот» как «приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности (курсив наш.-И.Б.,З.Х.), движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»7. Попытка универсализации данного определения налицо, однако некоторые уточнения все же в будущем будут необходимы.

Таким образом, можно утверждать, что в зависимости сферы использования определения термина «робот» различаются, однако среди ключевых характеристик робота можно выделить несколько общих, которые касаются механизма, физического начала, искусственности, наличия автономности действий, программируемости, возможности воспринимать окружающую среду и взаимодействовать с ней, наличия привода.

К необязательным характеристикам робота можно отнести способность самообучаться, телеуправление.

Теперь обратимся к определению термина «искусственный интеллект». Как и с предыдущим термином, ситуация, касающаяся определения, неоднозначна. Попытка наиболее широкого определения термина представлена в труде С. Рассела и П. Норвига «Искусственный интеллект. Современный подход» [8], где обозначен ряд фундаментальных направлений в области определения термина «искусственный интеллект»:

- система, способная мыслить;

- система, действующая подобно человеку;

- система, умеющая рационально думать;

- система, способная к рациональным действиям.

Для самих авторов наиболее важны два последних параметра, включающие идею рациональности, направленную на выбор лучшего варианта поведения или решения в существующих условиях. Они считают, что именно посредством рациональности определяется интеллектуальность.

По мнению М. Хамерика, ИИ является системой, способной научиться учиться. Используя алгоритмы, написанные людьми, ИИ постепенно обучается писать собственные алгоритмы, при этом необходимости в дополнительном контроле или взаимодействии с человеком нет. Данный фактор характеризует способность ИИ постоянно учиться и решать новые проблемы внутри динамичной среды [9].

Законопроект США о ИИ также содержит определение «искусственного интеллекта». Согласно данному документу, ИИ - это любые искусственные системы, которые выполняют задачи в различных и непредсказуемых обстоятельствах, без значительного контроля со стороны людей или могут извлечь уроки из своего опыта и улучшить свою работу. Указанные системы действуют рационально и достигают свои цели через восприятие, планирование, рассуждение, обучение, общение, принятие решений и действий8.

В работе И.В. Понкина и А.И. Редькиной можно прочесть следующее определение ИИ: «Искусственный интеллект - это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе - виртуальная, электронно-механическая, биоэлектронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями. Данной системе присущи свойства субстантивности, автономности, высокоуровневые возможности к восприятию и моделированию окружающих образов и символов, отношений, процессов, самостоятельное принятие и реализация собственных решений, в том числе направленных на обучение, взаимодействие с окружающим миром и пр. [10].

П.М. Морхат считает, что ИИ выступает полностью или частично автономной самоорганизующей (самоорганизующейся) компьютерно-аппаратно-программной виртуальной (virtual) или кибер-

7 См.: ГОСТ Р ИСО 8373-2014. «Роботы и робототехнические устройства. Термины и определения». М.: Стандартинформ, 2014. Утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 26 ноября 2014 г. № 1863-ст «Об утверждении национального стандарта». Текст приказа официально опубликован не был.

8 S.2217 - FUTURE of Artificial Intelligence Act of 2017 // Library of Congress. URL: https://www.congiess.gov/bill/ 115th-congress/senate-bill/2217 (дата обращения: 20.01.2020).

физической (cyber-physical), в том числе био-кибернетической (bio-cybernetic) системой (юнит), способной к ряду действий, характеризующихся как антропоморфно-разумные мыслительные и когнитивные (самореферентность, самоподдержание себя в гомеостазе, генетический поиск, самостоятельная разработка и самостоятельное применение алгоритмов и пр. [7. С. 58].

Таким образом, можно сделать вывод, что в ИИ ключевая роль отводится цифровым технологиям, физическое их проявление отходит на второй план.

ИИ свойствен ряд ключевых характеристик:

- на первом месте находится описание программы или алгоритма, аппаратное воплощение может отсутствовать;

- наличие способности проводить анализ окружающей среды;

- присутствие автономности в реализации алгоритма;

- возможность самообучаться;

- присутствие так называемой интеллектуальности (способности «мыслить» или «действовать» как человек).

Необходимо отметить, что динамика определения ИИ достаточно высока, соответственно, достаточно сложно точно его квалифицировать.

Итак, проведенное разграничение понятий «робот» и «искусственный интеллект» позволяет говорить о том, что указанные категории являются не только разнообъемными, но и семантически не совпадающими.

Также для уточнения понятийного аппарата рассматриваемых терминов необходимо проанализировать категории «робот» и «искусственный интеллект в качестве субъектов права. В подп. «f» п. 59 резолюции Европейского парламента указано следующее: оценивая последствия предложения о законодательном урегулировании Комиссии Европейского Союза важно провести исследование вопроса о придании особого правового статуса роботам9. В данном документе указано, что «таким образом, по меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами».

Среди примеров, касающихся признания роботов в качестве субъектов права, можно указать исследование эстонских специалистов, специализирующихся на роботизированных транспортных средствах [11]. По словам авторов исследования, было бы возможно наделить робота статусом юридического лица, способного представлять владельца в той степени, в которой это определено.

Среди примеров реализации факта наделения робота правовым статусом можно назвать предоставление в 2017 г. роботу Sophia гражданства в Саудовской Аравии [12] и резидентства умному боту Shibuya Mirai в Японии [13]. Однако указанные случаи - это, скорее, исключение, нежели правило или тенденция в рассматриваемой области.

Также в литературе имеется позиция, согласно которой правосубъектностью могу наделяться не все роботы, а роботы-агенты [14].

В период достижения определенных успехов в области робототехники и систем с ИИ возникла необходимость определения правового режима или статуса для указанных выше категорий [15]. Так, еще в 1983 г. М. Уилликом был отмечено, что «... становится все сложнее отличить обработку информации компьютером от обработки информации человеком, если оценивать по конечному результату» и «увеличивающееся сходство между людьми и машинами может рано или поздно потребовать рассмотрения компьютеров как "лиц"» [16]. Достаточно давно обсуждается вопрос придания конструкции юридического лица роботу или ИИ. В более поздней публикации Э. Байамлиоглы «Intelligent Agents and Their Legal Status» указывает на три основных проблемы, которые предшествуют дискуссии о правосубъектности роботов и ИИ.

Выделяя понятие «умные агенты», автор подчеркивает, что им свойственны следующие особенности:

- они могут исполнять переговорные функции при заключении договоров;

- они могут нести ответственность за свои действия в рамках выполняемых ими функций;

- они могут выступать в качестве «правообладателей» относительно созданных ими баз данных и контента [17].

9 Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // European Parliament. URL: http://www.europarl.europa.eu/ doceo/document/TA-8-2017-0051_EN.pdf?redirect (дата обращения: 20.01.2020).

710 И.Р. Бегишев, З.И. Хисамова

2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО

Однако обращаясь к вышесказанному, можно заключить, что оно свойственно в большей степени ИИ, который, в отличие от роботов, обладает «интеллектуальностью». Соответственно, можно сделать вывод, что статус юридического лица здесь более применим к категории «искусственный интеллект».

Если рассматривать наиболее современные исследования, необходимо проанализировать труды П. Асаро [18], являющегося ключевым исследователем в рамках рассматриваемой проблематики и выстраивающего методологию анализа проблемы правосубъектности роботов, считая отправной точкой проблему юридической ответственности. Он предлагает провести параллель между роботами и животными, однако не наделять первых специальными правами и т.п. При этом следует отметить, что в своем труде автор, как и некоторые предыдущие исследователи, также смешивает понятия «робот» и «искусственный интеллект», выдавая свойства последнего за свойства первого.

Сегодня в Европе ряд экспертных подходов оформлен в виде резолюции Европейского парламента от 16 февраля 2017 г. с рекомендациями Комиссии о гражданско-правовых нормах в отношении робототехники (2015/2103(ГКЬ))10. В данной резолюции также рассматривается вопрос наделения правами юридического лица именно роботов, на не ИИ. Здесь отмечается, что «благодаря впечатляющим технологическим прорывам последней декады, современные роботы не только могут осуществлять деятельность, которую ранее осуществлял только человек, но развивают определенные автономные и когнитивные функции, например, возможность обучаться за счет опыта и принимать квазисамостоятельные решения, что делает их все больше и больше похожими на агентов, которые взаимодействуют со своей окружающей средой и могут ее существенно изменить.. ,»п.

Однако некоторые европейские ученые ведут речь о правосубъектности именно ИИ. В частности, обобщая и анализируя подходы к проблеме «электронного лица», М.А. Фелипе [15] отмечает, что самостоятельной ответственностью могут быть наделены только самоосознающие машины. «Реактивные машины» и «машины с ограниченной памятью и машины с имплементацией систем мышления» не могут быть наделены такой ответственностью, вместо них ее несут пользователи, разработчики или страховщики. Это позволяет говорить о том, что именно вопросы ответственности могут выступить в качестве отправной точкой для многих выводов в рамках общей дискуссии, касающейся правосубъектности роботов.

В российской правовой науке существует точка зрения, которая учитывает отдельные доктри-нальные и законодательные положения, имеющие место в нашей стране. В рамках указанной позиции возможно:

- соотнесение механизма формирования гражданско-правовой воли и динамики алгоритма, который определяет действия робота;

- частичное допущение возможности применить концепцию признаков юридической ответственности к роботам;

- адаптация признаков юридического лица к роботам;

- избирательное применение концепции вины к действиям, которые предполагают создать и запрограммировать роботов [19].

Указанная позиция отражена в работе Г.А. Гаджиева. Однако в данном контексте также необходимо отметить, что он не ставит во главу угла «интеллектуальные» возможности объекта исследования, поэтому не совсем ясно, каким образом робот будет реализовать свои обязанности даже частично [20].

Обобщая указанные подходы, можно обозначить следующее. В ряде исследований данная проблема рассматривается с различных позиций. Так, некоторые ученые считают, что для ее положительного решения нет достаточных научно-правовых предпосылок. По мнению других, данную проблему нужно исследовать как можно раньше, и они предлагают рассматривать робота в качестве квазисубъекта права, проводя аналогию с юридическим лицом.

Существующие подходы к наделению робота правами юридического лица имеют как преимущества, так и недостатки. Так, у подхода, при котором роботы и ИИ продолжают рассматриваться как объекты права, есть преимущества:

- нет необходимости разрабатывать и создавать принципиально новые нормы;

- модифицировать правовые нормы можно через толкование существующих норм.

10 Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // European Parliament. URL: http://www.europarl.europa.eu/ doceo/document/TA-8-2017-0051_EN.pdf?redirect (дата обращения: 20.01.2020).

11 Там же.

Однако среди недостатков следует указать на то, что не будут разрешены проблемы распределения ответственности, сложно будет достигнуть единообразия и формализации, также у указанных норм изначально отсутствует возможность регулировать и разрешать сложные ситуации и конфликты, связанные с использованием роботов и ИИ.

В первую очередь открытым остается вопрос, кто должен нести ответственность за действия ИИ, обладающего способностью к самообучению, который принял решение о совершении действий/бездействия, квалифицируемых как преступление. Вследствие этого возникает потребность в формировании системы уголовно-правовых мер противодействия преступлениям, совершаемым с применением ИИ [21].

Отметим, что изучение юридических аспектов, связанных с общественно опасными последствиями применения ИИ, представляет собой самостоятельный пласт серьезных и достаточно глубоких уголовно-правовых исследований, результатом которых должно стать формирование концептуально новой правовой модели регулирования отношений в указанной сфере [22].

Другие концепции («робот как животное», «робот как человек», «робот как юридическое лицо», «робот как электронное лицо») также имеют ряд недостатков, среди которых, в частности, усложнение правового регулирования, проблемы с переосмыслением базовых ценностей общества, попытка уйти от ответственности посредством «замены объекта» и пр. К тому же ИИ создает новые вызовы различным сферам права: от патентного до уголовного права, от охраны частной жизни до антимонопольного права. Среди существующих на сегодняшний день подходов наиболее оптимальным видится создание отдельного механизма правового регулирования, создающего четкое разграничение зон ответственности между разработчиками и пользователями систем с ИИ и непосредственно самой цифровой технологией [23-25].

Таким образом, можно сделать следующие выводы.

1. Необходимость рассмотрения роботов и ИИ в качестве субъектов права, в принципе, можно признать обоснованной. Однако пока рассмотрение данной проблемы преждевременно, но в перспективе тема актуальности не утратит.

2. Среди имеющихся на данный момент подходов к рассмотрению роботов и ИИ как субъектов права наиболее обоснован путь, построенный по аналогии с юридическим лицом с точки зрения теории фикции.

3. Подходы, предлагающие обосновать правосубъектность роботов и ИИ с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как развитие цифровых технологий достигнет объективно высокого уровня.

Таким образом, проанализировав понятийный аппарат терминов «робототехника» и «искусственный интеллект», можно заключить, что, в отличие от первого, второму свойственно наличие «интеллектуальности», саморазвития и пр. Однако дискутируя относительно правового статуса роботов и ИИ, большинство авторов допускают смешение понятий, предпринимая попытки обосновать необходимость наделения правовым статусом именно роботов, а не ИИ.

Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность, это может снизить уровень ответственности профессиональных участников рынка.

Перспективы наделения правовым статусом ИИ предполагают необходимость регулярного мониторинга уровня развития цифровых технологий и экономических отношений. При этом необходимо оценивать актуальный уровень технологического развития, а также юридико-экономический риск наделения ИИ или роботов правосубъектностью. Результатом мониторинга может стать разработка формально-юридической конструкции правосубъектности роботов или ИИ, если это будет допустимо с позиции существующей правовой ситуации и уровня развития науки и техники.

СПИСОК ЛИТЕРАТУРЫ

1. Джордан Дж. Роботы. М.: Точка, 2017. 272 с.

2. Capek K. R.U.R. (Rossum's Universal Robots). London: Pengium books, 2004. 600 p.

3. Ожегов С.И., Шведова Н.Ю. Толковый словарь русского языка. М.: А ТЕМП, 2010. 944 с.

4. Hubbard F.P. Sophisticated Robots: Balancing Liability, Regulation, and Innovation // Florida Law Review. 2014.

Vol. 66. P. 1-91.

712_И.Р. Бегишев, З.И. Хисамова_

2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО

5. Keisner A., Raffo J., Wunsch-Vincent S. Robotics: Breakthrough Technologies, Innovation, Intellectual Property // Foresight and STI Governance. 2016. Vol. 10, iss. 2. P. 7-27.

6. Palmerini E., Azzarri F., Battaglia F., Bertolini A., Carnevale A., Carpaneto J., Cavallo F., Angela Di Carlo, Cempini M., Controzzi M., Bert-Jaap Koops, Lucivero F., Mukerji N., Nocco L., Pirni A., Shah H., Salvini P., Schellekens M., and Warwick K. D6.2 Guidelines on Regulating Robotics. 2014. 215 p. URL: http://www.robolaw.eu/ RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf

7. Морхат П.М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. 257 с.

8. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. New Jersey: Prentice Hall, 1995. 905 p.

9. Humerick M. Taking AI Personally: How the E.U. Must Learn to Balance the Interests of Personal Data Privacy & Artificial Intelligence // Santa Clara High Technology Law Journal. 2016. Vol. 34, iss. 4. P. 393-418.

10. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Сер.: Юридические науки. 2018. Т. 22, № 1. С. 91-109.

11. Turk K., Pild M. Analuus sae tase 4 ja 5 soidukite kasutusele votmiseks (kitsas ja lai vaade). 2017. 117 p. URL: https://triniti.ee/wp-content/uploads/sites/2/2017/10/L%C3%95PPRAP0RT_Anal%C3%BC%C3%BCs-SAE-tase-4-ja-5 -s%C3 %B5idukite-kasutusele-v%C3 %B5tmiseks_Riigikantselei_okt-2017.pdf

12. Katznelson G. AI Citizen Sophia and Legal Status. URL: https://blog.petrieflom.law.harvard.edu/2017/11/09/ai-citizen-sophia-and-legal-status

13. Cuthbertson A. Tokyo: Artificial Intelligence 'Boy' Shibuya Mirai Becomes World's First AI Bot to Be Granted Residency. URL: http://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382

14. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Т. 6, № 55. С. 46-62.

15. Filipe M.A. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control // SSRN Electronic Journal. 2017. P. 1-68. URL: http://dx.doi.org/10.2139/ssrn.2985466 (дата обращения: 30.11.2019).

16. Willick M.S. Artificial Intelligence: Some Legal Approaches and Implications // AI Magazine. 1983. Vol. 4, iss. 2. P. 5-16.

17. Bayamlioglu E. Intelligent Agents and Their Legal Status // AnkaraBarReview. 2008. Vol. 1. P. 46-54.

18. Asaro P.M. Robots and Responsibility from a Legal Perspective // Proceedings of the IEEE. 2007. Vol. 4, iss. 14. P. 20-24.

19. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.

20. Гаджиев Г.А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2008. № 1. С. 16-29.

21. Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13, № 4. С. 564-574.

22. Бегишев И.Р., Хисамова З.И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12, № 6. С. 767-775.

23. Хисамова З.И., Бегишев И.Р. Правовое регулирование искусственного интеллекта // Baikal Research Journal. 2019. Т. 10, № 2.

24. Khisamova Z.I., Begishev I.R., Gaifutdinov R.R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol 9, № 1. P. 5159-5162.

25. Bikeev I.I., Kabanov P.A., Begishev I.R., Khisamova Z.I. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation // ACM International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC2019). 2019. December 2019, Sanya, China.

Поступила в редакцию 22.06.2020

Бегишев Ильдар Рустамович, кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник

Казанский инновационный университет им. В.Г. Тимирясова (ИЭУП) 420111, Россия, г. Казань, ул. Московская, 42. E-mail: begishev@mail.ru

Хисамова Зарина Илдузовна, кандидат юридических наук, начальник отделения планирования и координации научной деятельности научно-исследовательского отдела Краснодарский университет Министерства внутренних дел Российской Федерации 350005, Россия, Краснодар, ул. Ярославская, 128. E-mail: alise89@inbox.ru

I.R. Begishev, Z.I. Khisamova

ARTIFICIAL INTELLIGENCE AND ROBOTICS: THEORETICAL AND LEGAL PROBLEMS OF DIFFERENTIATION OF THE CONCEPTUAL APPARATUS

DOI: 10.35634/2412-9593-2020-30-5-706-713

A distinction is made between such concepts as "robotics" and "artificial intelligence". These categories are not only multi-volume, but also semantically non-falling. After analyzing the conceptual apparatus of these terms, we can conclude that, in contrast to the first, the second is characterized by the presence of "intelligence", self-development, etc. However, when discussing the legal status of robots and artificial intelligence, most scientists allow confusion of concepts, making attempts to justify the need to confer a legal status on robots, and not artificial intelligence. The question of considering robots and artificial intelligence as subjects of law, in principle, can be considered justified. However, it is premature to consider this issue, but the topic will not lose its relevance in the future. Among the currently available approaches to the consideration of robots and artificial intelligence as subjects of law, the path constructed by analogy with a legal entity from the point of view of the theory of fiction is the most justified. Approaches that offer to justify the legal personality of robots and artificial intelligence, taking into account the essence of animate subjects who have a real, and not just a formal legal will, will be developed only after the development of digital technologies reaches an objectively high level. When implementing these approaches, it is necessary to take into account the existence of legal and economic validity and social conditionally, as well as a possible theoretical and legal problem, the essence of which is as follows: if new legal entities with legal personality are introduced, the level of responsibility of professional market participants may decrease.

Keywords: theory and history of law and state, intelligence, artificial intelligence, robot, robotics, digital technologies, legal personality, subject of law, theory of fiction.

Received 22.06.2020

Begishev I.R., Candidate of Law, Honored Lawyer of the Republic of Tatarstan, Senior Researcher Kazan Innovative University named after V.G. Timiryasov (IEML) Moskovskaya st., 42, Kazan, Russia, 420111 E-mail: begishev@mail.ru

Khisamova Z.I., Candidate of Law, Head of Department ofPlanning and Coordination of Research Activities, Research Department

Krasnodar University of the Ministry of Internal Affairs of the Russian Federation Yaroslavskaya st., 128, Krasnodar, Russia, 350005 E-mail: alise89@inbox.ru