Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности (правовые аспекты)

ПРАВОВАЯ ОХРАНА РЕЗУЛЬТАТОВ ИНТЕЛЛЕКТУАЛЬНОЙ ДЕЯТЕЛЬНОСТИ

001: 10.17803/1994-1471.2020.116.7.076-090

Б. А. Шахназаров*

Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности

Аннотация. В статье рассматривается проблематика использования технологий искусственного интеллекта при создании объектов интеллектуальной собственности, в частности вакцин, в условиях борьбы с пандемией. Подчеркивается, что технологии искусственного интеллекта позволяют оперативно преодолевать подобные вызовы как на национальном, так и на международном уровне и не допустить их повторения в будущем. Автор отмечает, что важнейшие требования о соблюдении конституционных прав и свобод граждан и о невозможности их ограничения при применении технологий искусственного интеллекта, которые устанавливаются в нормативных правовых актах, должны быть дополнены четкими правилами о правовом режиме результатов деятельности искусственного интеллекта, в том числе интеллектуальной деятельности, а также положениями об ответственности разработчиков, пользователей искусственного интеллекта. При этом вопросы правосубъектности искусственного интеллекта также нуждаются в детальной проработке с ориентацией на соблюдение разумного баланса прав, обязанностей и ответственности между разработчиками, пользователями искусственного интеллекта, а также субъектами-адресатами, вступающими в правоотношения с участием искусственного интеллекта. Ключевым аспектом в контексте вопросов правового регулирования результатов интеллектуальной деятельности, полностью или частично созданных искусственным интеллектом, представляется соблюдение баланса между интересами правообладателей и общественными интересами. Установленные на международно-правовом уровне (п. 31 Соглашения по торговым аспектам прав интеллектуальной собственности 1994 г.) возможные ограничения прав правообладателей должны быть приняты за гармонизирующую основу и должны восприниматься национальными правовыми системами при обязательном установлении соответствующих гарантий прав правообладателей (в частности, неисключительный характер использования интеллектуальных прав в контексте таких ограничений, выплата разумного вознаграждения и др.).

Ключевые слова: технологии; искусственный интеллект; вакцины; объекты интеллектуальной собственности; результаты интеллектуальной деятельности; пандемия; правовое регулирование; ответственность; правосубъектность; ограничения прав.

© Шахназаров Б. А., 2020

* Шахназаров Бениамин Александрович, кандидат юридических наук, доцент, доцент кафедры международного частного права Московского государственного юридического университета имени О.Е. Кутафина

Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 ben_raf@mail.ru

Для цитирования: Шахназаров Б. А. Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности (правовые аспекты) // Актуальные проблемы российского права. - 2020. - Т. 15. - № 7. - С. 76-90. - DOI: 10.17803/1994-1471.2020.116.7.076-090.

Application of Artificial Intelligence Technologies in the Creation of Vaccines and other Intellectual Property Objects

Beniamin A. Shakhnazarov, Cand. Sci. (Law), Associate Professor, Department of Private International Law, Kutafin Moscow State Law University (MSAL) ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993 ben_raf@mail.ru

Abstract. The paper is devoted to the issues associated with the use of artificial intelligence (Al) technologies in intellectual property objects, in particular vaccines, in the context of fight against a pandemic. It is emphasized that Al technologies allow us to overcome similar problems at the national and international levels and to prevent their recurrence in the future. The author highlights that the most important requirements for observance of constitutional rights and freedoms of citizens consolidated in regulatory acts and impossibility of their restriction in Al technologies must be supplemented with clear rules regulating the legal framework of artificial intelligence, including intellectual activity, and responsibility of developers and Al users. At the same time, the Al legal personality also needs to be thoroughly elaborated with the focus on providing a reasonable balance of rights, responsibilities and eligibility among developers, Al users, and other addressees entering into legal relationships involving artificial intelligence. A key aspect in the context of the legal regulation of the results of intellectual activity created entirely or partially by artificial intelligence is represented by the balance between the interests of rights holders and the public interests. Possible restrictions of rights of copyright holders as established in international instruments (Para 31 of the 1994 Agreement on Trade-Related Aspects of Intellectual Property Rights) should be accepted as a harmonizing basis and adopted in national legal systems. At the same time, rights holders must be provided with appropriate guarantees of respect for their rights (In particular, the non-exclusive nature of the use of intellectual rights in the context of such restrictions, payment of reasonable remuneration, etc.).

Keywords: technologies; artificial intelligence; vaccines; intellectual property objects; intellectual activity results; pandemic; legal regulation; liability; legal personality; limitations of rights.

Cite as: Shakhnazarov BA. Primenenie tekhnologiy iskusstvennogo intellekta pri sozdanii vaktsin i inykh obektov intellektualnoy sobstvennosti

Стремительное развитие технологий в современном обществе должно отвечать новейшим вызовам, что предопределяет необходимость стимулирования и государственной поддержки таких технологий.

Все чаще для разработки эффективных технических решений, способствующих разрешению общественно значимых проблем, вызываемых, в частности, угрозами распространения инфекционных заболеваний и иными общественно опасными явлениями, изобретатели прибегают к помощи искусственного интеллекта

(ИИ, AI, от англ. artificial intelligence). Технологии искусственного интеллекта позволяют оперативно преодолевать подобные вызовы как на национальном, так и на международном уровне и не допустить их повторения в будущем. С учетом того обстоятельства, что искусственный интеллект определяется в доктрине как полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/обладающая

способностями и возможностями мыслить, са-моогранизовываться, обучаться, самостоятельно принимать решения и т.д.1, искусственный интеллект может быть использован и в медицинских целях, что способствует прежде всего решению проблем в этой области, которые возникают из-за недостаточности медицинского обслуживания, а также позволяет улучшить качество медицинского обслуживания2. При этом искусственному интеллекту противопоставляется естественный интеллект человека и других живых организмов3.

Действительно, применение технологии искусственного интеллекта позволяет оптимизировать ряд технических и даже биологических процессов, так или иначе связанных с осуществлением медицинской деятельности. Государственное регулирование медицинской деятельности с учетом обозначенного не должно обходить вопросы использования искусственного интеллекта при осуществлении медицинской деятельности с учетом особого социального значения данной сферы правоотношений. Обеспечение четкого, прозрачного и понятного правового режима для широкого использования искусственного интеллекта в медицинских целях, таким образом, находится именно в сфере интересов государства4 в контексте установления благоприятного правового режима использования современных технологий в медицине, в том числе и для целей широкого распространения современных медицинских технологий в мире.

Среди наиболее значимых областей общественных отношений, в которых искусственный интеллект уже активно используется, наряду с

образованием, электронной торговлей, финансовыми услугами, транспортом и логистикой отмечаются отношения в сфере здравоохранения (обработка и анализ медицинских данных, содействие в постановке медицинских диагнозов), которые занимают в обозначенном перечне особое место5. Для правового регулирования названных отношений в разных юрисдикциях реализуются разные подходы и принципы. Различия могут быть связаны с различным уровнем развития медицины, соответствующего медицинского обеспечения, инновационного развития в разных странах, а также правового регулирования данной сферы правоотношений. Соответственно, отсутствуют международные договоры, которые бы унифицировали регламентацию рассматриваемых отношений.

Таким образом, использование искусственного интеллекта имеет существенное перспективное значение в рамках реализации телемедицины и систем диагностики и подлежит правовой регламентации прежде всего на национально-правовом уровне. Кроме того, использование автоматизированных технологий в медицине может повлечь возникновение целого ряда правовых проблем, некоторые из которых на национально-правовом уровне могут быть разрешены лишь посредством введения дополнительных стандартов, а иные такие проблемы порождают сложности правового регулирования и разрешения ввиду неопределенности подходов к правосубъектности систем искусственного интеллекта6.

В зарубежной литературе отмечается, что системы искусственного интеллекта могут ра-

1 См.: Морхат П. М. Искусственный интеллект: правовой взгляд. М. : Буки Веди, 2017. С. 69.

2 См.: Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах // Закон и право. 2018. № 6. С. 64.

3 См.: Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 82.

4 См.: Лаптев В. А. Указ. соч.

5 См.: Поннин И. В., Редьнина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия : Юридические науки. 2018. Т. 22. № 1. С. 100.

6 См.: Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта ... С. 64-65.

дикально изменить нашу жизнь способами, которые неизвестны7. Достижения в области технологий искусственного интеллекта развиваются очень быстрыми темпами, поскольку вычислительная мощность продолжает расти в геометрической прогрессии, и даже если экзистенциальные опасения по поводу искусственного интеллекта не материализуются, уже сейчас существует достаточное количество конкретных проблем, связанных с текущим применением искусственного интеллекта, которые должны быть учтены при определении уровня контроля, который необходимо установить над разработками в этой области с целью предотвращения вреда, который может быть нанесен искусственным интеллектом, вышедшим из-под контроля.

Необходимо учитывать и то обстоятельство, что достижения в области регулирования не поспевают за развитием новых технологий. Проблематика осложняется тем, что регулирование соответствующих отношений зачастую происходит децентрализованно, его осуществляют представители отрасли в условиях ослабления или неэффективности традиционного государственного регулирования. Кроме того, наблюдается сокращение государственных ресурсов и увеличение влияния технологических компаний в сфере развития искусственного интеллекта. Обозначенное приводит к отсутствию четкого правового поля, урегулированного на законодательном уровне, ввиду усложнения государственного регулирования в рассматриваемой сфере.

В данных условиях участники отрасли активно прибегают к саморегулированию, формируя мягкое право в таких формах, как кодексы поведения (практики) и стандарты, что не снимает необходимости государственного регулирования тех сфер отношений, реализуемых с использованием искусственного интеллекта, которые в значительной степени являются неурегулированными, в целях нивелирования

рисков, вызываемых безудержным и зачастую бесконтрольным развитием искусственного интеллекта8.

При этом само развитие технологий искусственного интеллекта уже сейчас происходит с использованием средств частных инвесторов, а результаты соответствующих «финансируемых» разработок должны вписываться как минимум в действующие нормативные рамки. Эффективность инвестиций в исследования искусственного интеллекта требует детального рассмотрения возможности и обоснованности патентной охраны на технологию искусственного интеллекта, особенно в области здравоохранения, а также возможности эксклюзивного использования правообладателями результатов деятельности искусственного интеллекта. Искусственный интеллект уже используется во многих областях медицины, в том числе в радиологии, механизмах визуализации, а также в биоинформатике. ИИ демонстрирует большие перспективы в улучшении сбора, обработки и моделирования данных в таких областях, как секвенирование генов (определение последовательности нуклеотидов в молекуле, несущей ген (гены), без уточнения метода), гибридизация нуклеиновой кислоты, прогнозирование структуры белка, фармакология и моделирование клеточных рецепторов и многие другие.

Искусственный интеллект использует алгоритмы, реализуемые автоматизированным путем. Таким образом, медицинские изобретения, предполагающие использование искусственного интеллекта, разрабатываются, как правило, в междисциплинарном контексте группами ученых — компьютерщиков и математиков, которые разбираются в ИИ, и биотехнологами, врачами и фармацевтами, которые понимают биологию человека, медицину и фармакологию.

Так, в 2015 г. IBM запустила проект Watson Health, целью которого является партнерство с медицинскими исследователями для разработки новых технологий в здравоохранении.

7 Guihot М., Matthew A., Suzor N. Nudging robots: Innovative solutions to regulate artificial intelligence // Vanderbilt Journal of Entertainment and Technology Law. 2017. 20(2). Pp. 385—456. URL: https://eprints.qut. edu.au/109926/ (дата обращения: 02.05.2020).

8 См.: Guihot M., Matthew A., Suzor N. Op. cit.

Watson Health Cloud от IBM — это суперкомпьютер, способный выполнять анализ большого объема данных (примерно 1 млн гигабайт данных за одну жизнь человека, что в печатном виде эквивалентно более 300 млн книг). В настоящее время трудно связать все эти данные с существующими фрагментированными наборами данных в системе здравоохранения, которыми не так легко обмениваться, такими как медицинские записи, клинические исследования и отдельные геномы. Усовершенствованная вычислительная система уже активно используется в службах здравоохранения, помогая фармацевтическим компаниям исследовать новые лекарственные препараты, давая советы врачам на основе фактических данных и даже обучая их новым навыкам. Сама IBM получила более 1 300 патентов в области здравоохранения, наук о жизни и медицинских изделий.

Компания Google также имеет соответствующее подразделение DeepMind Health, которое имеет аналогичную модель партнерства с медицинскими исследователями и поставщиками медицинских услуг.

Подразделение Google DeepMind разработало и представило в январе 2020 г. AlphaFold — передовую систему, которая предсказывает трехмерную структуру белка на основе его генетической последовательности. В начале марта система прошла испытания на COVID-19. Подразделение DeepMind опубликовало предсказания структуры нескольких недостаточно изученных белков, связанных с SARS-CoV-2 — вирусом, вызывающим COVID-19, чтобы помочь исследовательскому сообществу лучше понять вирус.

Есть также много примеров небольших компаний, занимающихся искусственным интеллектом, которые разрабатывают технологии здравоохранения в областях персонализированного здравоохранения и персонализированной медицины, медицинской визуализации и диагностики. Enlitic — это небольшой стартап из Силиконовой долины, который применяет глубокое обучение для анализа рентгенограмм, а также других данных изображений, таких как компьютерная и магнитно-резонансная томография. TwoXAR использует свою платформу DUMA Drug

Discovery для оценки больших общедоступных и проприетарных наборов данных с целью выявления и ранжирования совпадений с высокой вероятностью заболевания. Atomwise использует технологию глубокого обучения AtomNet для анализа тысяч молекул, которые могут служить кандидатами в лекарственные препараты, и прогнозирования их пригодности для блокирования механизма действия патогена.

Крупнейшие технологические компании Китая, среди которых Alibaba, Baidu, Tencent, Huawei, DiDi, запустили новые технологии в области здравоохранения, предназначенные для диагностики случаев заболевания и поиска вакцины для коронавируса. Некоторые из таких технологий включают анализ медицинских изображений на основе облачных вычислений и консультации врачей в режиме онлайн. В частности, компания Alibaba (ведущая компания в области электронной торговли) бесплатно предоставляет свои технологические мощности и разработки в области искусственного интеллекта для создания вакцины против коронавирус-ной инфекции в условиях пандемии.

Особого внимания заслуживает активное взаимодействие в рассматриваемой сфере крупных научно-образовательных и технологических центров в России.

Так, 28 апреля 2020 г. Московский государственный университет имени М. В. Ломоносова, Сибирское отделение Российской академии наук и Государственный научный центр вирусологии и биотехнологии «Вектор» подписали соглашение об объединении усилий в разработке вакцины от коронавируса нового типа, а также в создании других вакцин и лекарств. Подписание документа направлено на объединение усилий трех структур для работы не только над проблемами пандемии коронавируса, но и над другими фундаментальными проблемами, связанными с вирусами и жизнью человека.

Соглашение предполагает научно-техническое сотрудничество в области исследований и разработок лекарственных препаратов, а также совместную работу в областях молекулярного моделирования, биоинформатики, суперкомпьютерного моделирования, искусственного интеллекта, медицинской химии и вирусологии,

при этом стороны соглашения обязуются осуществлять научно-техническое сотрудничество в виде реализации научно-исследовательских работ, опытно-конструкторских и инновационных разработок и совместную деятельность по развитию научно-исследовательского, образовательного, инновационного потенциала сторон в области исследований и разработок лекарственных препаратов9.

Пандемия коронавирусной инфекции иллюстрирует, что перед искусственным интеллектом могут быть поставлены важные для всего человечества социальные задачи, в том числе в целях разработки вакцины. Искусственный интеллект играет две важные вспомогательные роли в этом контексте: предлагая компоненты вакцины, понимая структуры вирусных белков и помогая медицинским исследователям в беспрецедентном темпе отыскивать и анализировать десятки тысяч соответствующих научных исследований10. Уже с самого начала пандемии коронавирусной инфекции команды технологических компаний (в частности, рассмотренные выше проекты), занимающихся разработками в сфере искусственного интеллекта, за короткий срок создавали инструменты для искусственного интеллекта, обобщали и анализировали большие объемы данных, собирали результаты исследований в рассматриваемой сфере и свободно обменивались ими с мировым научным сообществом. Одна из основных задач в условиях пандемии, в решении которой могут быть активно задействованы технологии искусственного интеллекта, — разработка вакцин.

В первые три месяца 2020 г. появилось несколько тысяч статей, анализирующих те или иные аспекты коронавирусной инфекции, и количество научной литературы в этой сфере динамично растет. В процессе таких исследо-

ваний ученые в максимально короткие сроки пытаются найти документы, относящиеся к их конкретным исследованиям, рассмотреть содержание и все многообразие недавних открытий, а также раскрыть их понимание. Во-первых, необходимо собрать соответствующую литературу и поместить ее в едином доступном ресурсе (платформе). Так, например, в Институте Аллена — некоммерческой организации, занимающейся исследованиями искусственного интеллекта, в сотрудничестве с несколькими исследовательскими организациями создали реестр открытых исследований коронавирусной инфекции (СО\/Ю-19) — уникальный ресурс из более чем 44 ООО научных статей о СО\/Ю-19, о собственно вирусе 5АКБ-Со\/-2 и родственных коронавирусах. Ресурс обновляется ежедневно по мере публикации новых исследований, представляя собой свободно доступный набор машиночитаемых данных, что позволяет исследователям создавать и применять алгоритмы обработки на естественном языке и в целях ускорения открытия вакцины11.

Вакцины имитируют инфекцию, заставляя организм вырабатывать защитные лейкоциты и антитела. Существует два основных типа вакцин — живые и неживые. При этом неживые значительно различаются по способу получения антигена и включают инактивированные; расщепленные; субъединичные; анатоксины; рекомбинантные; полисахаридные; полисаха-ридные конъюгированные; вакцины с искусственным адъювантом12.

Проблематика разработки вакцин в условиях пандемии с учетом особой срочности достижения соответствующих результатов и необходимости в кратчайшие сроки получить максимально эффективное средство, способствующее предотвращению распространения инфекционных заболеваний в мире, демонстрирует особую

9 URL: https://www.msu.ru/press/smiaboutmsu/mgu-so-ran-i-vektor-podpisali-soglashenie-o-sotrudnichestve-v-razrabotke-lekarstv.html (дата обращения: 02.05.2020).

10 См.: Etzioni О., DeCario N. Al Can Help Scientists Find a Covid-19 Vaccine // URL: https://www.wired.com/story/ opinion-ai-can-help-find-scientists-find-a-covid-19-vaccine/ (дата обращения: 02.05.2020).

11 См.: Etzioni О., DeCario N. Op. cit.

12 См., например: Методические рекомендации по выявлению, расследованию и профилактике побочных проявлений после иммунизации, утвержденные 12 апреля 2019 г. Минздравом России.

актуальность использования технологий искусственного интеллекта в обозначенных целях.

Неотъемлемая часть вирусов — белок — состоит из последовательности аминокислот, которые определяют его уникальную трехмерную форму. Понимание структуры белка необходимо для понимания того, как он работает. Как только форма понята, ученые могут разработать лекарства, которые работают с уникальной формой белка. Но, не прибегая к технологиям искусственного интеллекта, на изучение всевозможных форм белка придется потратить огромное количество времени, прежде чем будет найдена уникальная трехмерная структура белка.

В обозначенном контексте стоит отметить уже имеющийся опыт по созданию вакцин с помощью технологий искусственного интеллекта. Так, например, специалисты Университета Флиндерса в Южной Австралии в 2019 г. представили вакцину, которая считается первым в мире препаратом для человека, полностью разработанным искусственным интеллектом13. Новая вакцина направлена на предотвращение распространения гриппа, который остается серьезной глобальной проблемой здравоохранения, несмотря на доступные в настоящее время вакцины. При создании этой вакцины использовались адъюванты — вещества, которые усиливают иммунный ответ организма на вакцину. Несмотря на то что ранее вычислительные машины использовались для разработки лекарств, эта технология вакцины была независимо разработана системой искусственного интеллекта под названием SAM (Алгоритм поиска лигандов14), созданной командой Университета Флиндерса.

При этом в зарубежной науке отмечается, что, так как создание новых вакцин является

одной из ключевых задач в борьбе с глобальными инфекционными заболеваниями, обеспечение оптимальных условий для внедрения инноваций в процессы разработки вакцин должно являться одним из важнейших направлений нормативного правового регулирования в этой сфере общественных отношений15. Что касается лекарственных препаратов, то академическая, техническая наука зачастую эксплуатирует экономическую теорию патентной защиты для обоснования патентования жизненно важных лекарств и вакцин, притом что экономическая теория патентной защиты исходит из того обстоятельства, что инновации происходят благодаря патентам на изобретения, защищающим инвестиции в исследования и разработки, сделанные изобретателями, а отсутствие механизмов и возможности патентной защиты как таковой приведет к ситуации, когда такие инновации в лекарствах и вакцинах будут происходить со значительно меньшей скоростью16.

Безусловно, проблематика получения патентной охраны на соответствующие технические решения, приводящие к реализации вакцины как способа борьбы с распространением вирусной инфекции, является актуальной в контексте стимулирования, окупаемости и ускорения процессов изобретательской деятельности. При этом одной из важнейших проблем остается достижение баланса между исключительными правами изобретателей и общественным интересом в контексте необходимого распространения и доступности вакцин как в рамках одного государства, так и в мировых масштабах в условиях пандемии.

Так, 193 государства — члена Генассамблеи ООН 20 апреля 2020 г. единогласно приняли резолюцию № А/ИЕБ/74/274 «Международное

13 См.: U.S. clinical trials for more effective flu vaccine // URL: https://news.flinders.edu.au/blog/2019/07/02/u-s-clinical-trials-for-more-effective-influenza-vaccine-begin/ (дата обращения: 02.05.2020).

14 Л иганды — химические соединения, которые образуют комплекс с той или иной биомолекулой и вследствие такого связывания вызывают те или иные биохимические, физиологические или фармакологические эффекты.

15 См.: Eccleston-Turner М. The Economic Theory of Patent Protection and Pandemic Influenza Vaccines: Do Patents Really Incentivize Innovation in the Field? // American Journal of Law & Medicine. Vol. 42. Iss. 2—3. Pp. 572-597.

16 См.: Eccleston-Turner M. Op. cit.

сотрудничество в целях обеспечения глобального доступа к лекарствам, вакцинам и медицинскому оборудованию для противодействия СО\/Ю-19», выступив за общедоступность будущих вакцин от коронавирусной инфекции17. В рассматриваемой резолюции Генеральная Ассамблея среди прочего сформулировала рекомендации государствам-членам работать в партнерстве со всеми заинтересованными сторонами в целях увеличения объема финансовых ресурсов, предназначенных для проведения научных исследований и разработки вакцин и лекарств, оптимального использования цифровых технологий и укрепления международного научного сотрудничества, необходимого для борьбы с СО\/Ю-19, а также в целях усиления координации, в том числе с частным сектором, для быстрой разработки, производства и распространения средств диагностики, противовирусных препаратов, средств индивидуальной защиты и вакцин, придерживаясь при этом таких целей, как эффективность, безопасность, справедливость и физическая и ценовая доступность. Кроме того, в документе сформулирован призыв к государствам-членам и другим заинтересованным сторонам незамедлительно принять меры по предотвращению, в рамках их соответствующих правовых систем, спекуляции и чрезмерного накопления запасов, которые могут препятствовать доступу к безопасным, эффективным и доступным по цене основным лекарствам, вакцинам, средствам индивидуальной защиты и медицинскому оборудованию, которые могут потребоваться для эффективной борьбы с СО\/Ю-19.

Таким образом, на международном уровне в рамках ООН сформулированы основные направления деятельности по обеспечению доступности лекарственных средств, средств индивидуальной защиты и вакцин в аспекте борьбы с коронавирусной инфекцией. При этом речь идет не только о физической и ценовой доступности,

но и о принципе справедливости, в том числе в контексте международного сотрудничества и максимально оперативного и эффективного распространения соответствующей продукции в мире, что представляется возможным воспринимать как акцент в том числе и на разумных ограничениях патентных прав, устанавливаемых на соответствующие разработки, и соблюдении оптимального баланса общественных интересов и интересов правообладателей. Кроме того, в резолюции Генеральной Ассамблеи ООН акцентируется внимание и на оптимальном использовании цифровых технологий и укреплении международного научного сотрудничества для борьбы с СО\/Ю-19. Обозначенные рекомендации позволяют судить о гармонизированных направлениях реализации мер борьбы и взаимодействия в рассматриваемой сфере государств, несмотря на различный экономический уровень развития и нормативно-правовую базу обозначенных в резолюции вопросов.

В этом контексте не стоит забывать и о закрепленной на международно-правовом уровне — в п. 31 Соглашения по торговым аспектам прав интеллектуальной собственности 1994 г. возможности введения государствами — членами ВТО ограничений прав правообладателей, которые могут и должны быть приняты за гармонизирующую основу и восприниматься национальными правовыми системами при обязательном установлении соответствующих гарантий прав правообладателей (в частности, неисключительный характер использования интеллектуальных прав в контексте таких ограничений, выплата разумного вознаграждения и др.).

В докладе Всемирной организации здравоохранения за период 16—24 февраля 2020 г. отмечается, что искусственный интеллект и большие данные являются ключевым решением проблемы с коронавирусной инфекцией18. Существуют, в частности, различные способы борьбы с коронавирусной инфекцией, осно-

17 Резолюция, принятая Генеральной Ассамблеей ООН 20 апреля 2020 г. № 74/274. Семьдесят четвертая сессия, пункт 123 повестки дня // URL: https://undocs.Org/ru/A/RES/74/274 (дата обращения: 02.05.2020).

18 Report of the WHO-China Joint Mission on Coronavirus Disease 2019 (COVID-19). 16—24 February 2020 // URL: https://www.who.int/docs/default-source/coronaviruse/who-china-joint-mission-on-covid-19-final-report. pdf (дата обращения: 02.05.2020).

ванные на машинном обучении. Например, датская компания UVD Robots заключила соглашение с Sunay Healthcare Supply о продаже своих роботов в Китае. Разработанные UVD Robots устройства курсируют вокруг медицинских учреждений, распространяя ультрафиолетовый свет для дезинфекции помещений, зараженных вирусами или бактериями. Компания Shenzhen Micromulticopter в нескольких китайских городах запустила более 100 беспилотных летательных аппаратов, которые способны не только определять температуру, но и распылять дезинфицирующие средства и патрулировать общественные места.

Обозначенные формы реализации искусственного интеллекта, представляя собой полностью автоматизированные эффективные процессы взаимодействия роботов с объектами материального мира, позволяющие минимизировать контакт человека с человеком, способствуют сдерживанию распространения коронавирусной инфекции.

При этом использование искусственного интеллекта непосредственно в медицинской деятельности порождает ряд специфических правовых проблем. Например, в ситуациях, когда системы искусственного интеллекта участвуют в процессе принятия решений, так или иначе связанных со здоровьем человека, нет окончательной ясности, насколько было бы разумным привлекать врачей к ответственности за вред, причиненный пациентам19. Во-первых, врачи не осуществляют прямой контроль над тем, какие решения генерирует система. Во-вторых, многие системы искусственного интеллекта по своей природе непрозрачны20, поэтому понимание врачом того, как система переводит входные

данные в окончательные решения, представляется крайне осложненным, а в некоторых случаях невозможным.

Многие системы искусственного интеллекта в здравоохранении являются вспомогательными. В таких случаях именно врачи принимают окончательное решение о том, следует ли действовать в соответствии с рекомендациями этих систем. В отношении этого окончательного решения или выбора врачи несут ответственность, порядок определения которой также не определен достаточно ясным образом.

В американской доктрине сформулирована концепция решения обозначенной проблематики, согласно которой необходима разработка специальной теории уголовной ответственности за действия искусственного интеллекта и роботов, которая бы охватывала «производителя, программиста, пользователя и всех других вовлеченных лиц»21. Таким образом, относительно персональной ответственности за действия искусственного интеллекта существует справедливая на данном этапе технологического развития концепция ответственности лиц, причастных к разработке, программированию, эксплуатации искусственного интеллекта и управлению им22.

Говоря о правовом регулировании в РФ искусственного интеллекта как такового, стоит отметить, что с появлением угрозы распространения коронавирусной инфекции соответствующее регулирование подверглось оперативной модернизации. В то же время уже в 2017 г. в России Исследовательским центром проблем регулирования робототехники и искусственного интеллекта был разработан проект Модельной конвенции о робототехнике и искусственном интеллекте23, основная цель принятия которой состоит в форму-

19 Habli /., Lawtonb Т., Porterc Z. Artificial intelligence in health care: accountability and safety // Bulletin of the World Health Organization. 2020. № 98. Pp. 251—252. URL: https://www.who.int/bulletin/ volumes/98/4/19-237487.pdf?ua=l (дата обращения: 02.05.2020).

20 LeCun Y., Bengio Y., Hinton G. Deep learning // Nature. 2015. May 28. № 521 (7553). Pp. 436—444.

21 См.: Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England, 2013.

22 См. об этом также: Кибальнин А. Г., Волосюн П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика : Вестник Нижегородской академии МВД России. 2018. № 4 (44). С. 176.

23 URL: http://robopravo.rU/matierialy_dlia_skachivaniia#ul-id-4-35 (дата обращения: 06.05.2020).

лировании основных подходов к регулированию отношений с использованием искусственного интеллекта и в принятии единого унифицированного на международном уровне акта. В этой конвенции сформулирован ряд определений, представляющих особый интерес, в том числе и в контексте отсылки к международным стандартам, что свидетельствует о возможном ее гармонизирующем характере. Так, в начальных положениях конвенции определен субъектный состав участников процессов создания, внедрения или использования роботов и киберфизических систем с искусственным интеллектом: исследователи; разработчики; лица, финансирующие исследования и разработки в сфере робототехники; производители,собственники, владельцы, операторы роботов; органы государственной власти и любые регулирующие органы, а также пользователи и иные лица, взаимодействующие с роботами и киберфизическими системами, в том числе с искусственным интеллектом. При этом к объектам робототехники относятся все категории роботов в самом широком их понимании, независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.

В случае если значения понятий «робот», «роботизированный механизм», «умный робот» не определены, могут быть использованы существующие международные стандарты, в частности ISO 8373:2012 «Роботы и робототех-нические устройства. Термины и определения».

Наряду с установлением в конвенции принципов безопасности, контролируемости роботов человеком, правила равных рисков (риски при использовании роботов должны быть не больше обычных рисков), механизма «черного ящика», позволяющего фиксировать и хранить все данные о действиях робота, и «красной кнопки», позволяющей отключить робота в любой момент по требованию, интерес вызывают и положения конвенции об ответственности за выполнение правил функционирования роботов, которая по общему правилу возлагается на создателей роботов, а также на любое иное лицо, которое может своими действиями повлиять на выполнение правил.

Отдельного внимания заслуживает и положение конвенции о необходимости создания межгосударственных и негосударственных институтов, в том числе при уже существующих международных объединениях и организациях, для целей эффективного, гармоничного и безопасного развития робототехники и искусственного интеллекта.

Обозначенные правила представляются важными гармонизирующими нормами, которые могут быть положены в основу международно-правового сотрудничества в рассматриваемой сфере отношений. Однако разный уровень развития технологий, правовых основ и правовой культуры в сфере отношений, так или иначе связанных с использованием искусственного интеллекта, в разных странах может воспрепятствовать скорейшему принятию и вступлению в силу подобных положений на универсальном международно-правовом уровне. В то же время в России уже определен вектор развития правового регулирования в обозначенной сфере, что подтверждается рядом документов, в частности Указом Президента РФ от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации», распоряжениями Правительства РФ от 23.03.2018 № 482-р2 и от 28.07. 2017 № 1632-р3, Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в ст. 6 и 10 Федерального закона "О персональных данных"». Кроме того, в контексте региональной интеграции стоит отметить решение Высшего Евразийского экономического совета от 11.10.2017 № 12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года», в котором отмечается, что цифровые активы могут строиться на основе новых бизнес-моделей и технологий, среди которых выделяется и искусственный интеллект.

В Указе Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» заложены важнейшие терминологические основы правового регулирования искусственного интеллекта. Так, искусственный интеллект определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе использующее методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. При этом под технологиями искусственного интеллекта понимаются технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта. Таким образом, уже исходя из определений ключевых терминов, данных в Указе Президента, можно сделать вывод о значительной ориентации правового регулирования искусственного интеллекта на использование и создание результатов интеллектуальной деятельности в процессе эксплуатации технологий искусственного интеллекта. То есть для целей установления правовой природы результатов деятельности искусственного интеллекта в здравоохранении, в частности при создании вакцин, результаты такой деятельности можно и нужно оценивать через призму критериев охраноспособности того или иного объекта интеллектуальной собственности (результата интеллектуальной деятельности).

С учетом того обстоятельства, что к основным задачам развития искусственного интеллекта Указ Президента относит поддержку научных исследований в целях обеспечения опережающего развития искусственного интеллекта; разработку и развитие программного обеспечения, в котором используются технологии искусствен-

ного интеллекта; создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, можно заключить, что проблематика правовой охраны соответствующей интеллектуальной собственности будет перманентно сопровождать процессы развития искусственного интеллекта, а вышеуказанная система регулирования общественных отношений в порядке необходимости должна включать и нормы о правовой охране технологий искусственного интеллекта и результатов его деятельности как объектов интеллектуальной собственности.

Обозначенное подтверждается и положениями п. 27 Указа Президента, согласно которым к основным показателям, характеризующим рост предложения продуктов (услуг), созданных (оказываемых) с использованием искусственного интеллекта, относится увеличение количества результатов интеллектуальной деятельности в области искусственного интеллекта, которые прошли государственную регистрацию либо учтены иным способом в соответствии с общепринятой мировой практикой и применяются в промышленности. В Указе Президента также реализован вектор на разработку и регистрацию интеллектуальных прав на новые типы архитектур вычислительных систем. Действительно, возможность получения патентной охраны, равно как и использование иных объектов интеллектуальной собственности (в частности, произведений науки, программ ЭВМ), позволяет оценить потенциал развития отрасли, уровень частноправовых интересов в рассматриваемой сфере отношений, а главное — качество и полезный эффект от использования технологий искусственного интеллекта.

В условиях стремительного распространения коронавирусной инфекции, когда использование искусственного интеллекта приобрело особую актуальность как в разработке вакцин, так и в иных общественных отношениях, в частности при обеспечении контроля за исполнением режима самоизоляции, принятие федерального законодательства в рассматриваемой сфере отношений не заставило себя ждать. Был принят Федеральный закон от 24.04.2020 № 123-Ф3

«О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в ст. 6 и 10 Федерального закона "О персональных данных"».

Речь в обозначенном Законе идет об экспериментальном правовом режиме не на всей территории РФ, а на территории г. Москвы. Экспериментальный правовой режим устанавливается на 5 лет — до 1 июля 2025 г. и представляет собой применение в течение срока проведения эксперимента в отношении участников экспериментального правового режима специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в Москве, а также последующего возможного использования результатов применения искусственного интеллекта. При этом определения самого искусственного интеллекта и технологий искусственного интеллекта полностью идентичны приведенным выше определениям из Указа Президента РФ № 490 «О развитии искусственного интеллекта в Российской Федерации».

Статус участника экспериментального правового режима могут получить заявители, являющиеся юридическими лицами, индивидуальными предпринимателями, зарегистрированными в Москве, осуществляющими деятельность по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта и (или) производству, реализации или обороту отдельных товаров (работ, услуг) на основе указанных технологий, а также не имеющие (в том числе руководители юридического лица) неснятой или непогашенной судимости (по определенной категории преступлений).

Правительство Москвы уполномочено данным Законом среди прочего определять на территории Москвы условия и (или) порядок разработки, создания, внедрения, реализации, оборота отдельных технологий искусственного интеллекта и (или) производства, реализации, оборота отдельных товаров (работ, услуг) на основе указанных технологий, а также требования

к указанным технологиям и (или) товарам (работам, услугам); случаи и порядок использования результатов применения искусственного интеллекта; случаи обязательного применения и (или) учета результатов применения искусственного интеллекта в деятельности органов исполнительной власти г. Москвы и подведомственных им организаций и т.д.

При этом в качестве целей установления экспериментального правового режима выделяются: обеспечение повышения качества жизни населения; повышение эффективности государственного или муниципального управления; повышение эффективности деятельности хозяйствующих субъектов в ходе внедрения технологий искусственного интеллекта; формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, по результатам установления экспериментального правового режима.

В обозначенном контексте представляется, что важнейшие требования о соблюдении конституционных прав и свобод граждан и невозможности их ограничения экспериментальным правовым режимом, установленные в данном Законе, должны быть дополнены четкими правилами о правовом режиме результатов деятельности искусственного интеллекта, в том числе интеллектуальной деятельности, а также положениями об ответственности участников экспериментального правового режима, равно как и оператора искусственного интеллекта. При этом вопросы правосубъектности искусственного интеллекта нуждаются в детальной проработке с ориентацией на соблюдение разумного баланса прав, обязанностей и ответственности между разработчиками, пользователями искусственного интеллекта, а также субъектами-адресатами, вступающими в правоотношения с участием искусственного интеллекта. Ключевым аспектом в вопросах правового регулирования результатов интеллектуальной деятельности, полностью или частично созданных искусственным интеллектом, представляется соблюдение баланса между интересами правообладателей и общественными интересами.

Продолжая рассмотрение проблематики создания патентуемых объектов искусственным интеллектом, стоит отметить очень важный научно-практический проект «Искусственный изобретатель»24, наглядно демонстрирующий правовые проблемы (прежде всего вопросы принадлежности личных неимущественных прав) в обозначенной сфере отношений. Так, в 2019 г. создатели проекта «Искусственный изобретатель» подали несколько заявок на патенты в отношении изобретений в патентные ведомства ЕС, Великобритании и США (пластмассовый контейнер для хранения пищи, изготовленный на основе рекурсивной геометрии, а также светосигнальная лампа (работающая на принципе «нейронного света»), предназначенная для оповещения об экстренных ситуациях). В качестве автора изобретений была указана программа ОАВиБ (машинный инструмент, основанный на технологии искусственного интеллекта), которая и создала изобретения. С учетом того обстоятельства, что в большинстве стран авторами изобретений признаются физические лица25, изобретатели пошли на такой шаг, чтобы привлечь внимание к проблематике личных неимущественных прав и проверить эффективность правовых норм в этой сфере. В описании проекта отмечается, что в 1988 г. Великобритания стала первой страной, сознательно распространившей правовую охрану на произведения, которые были созданы искусственным интеллектом, признавая автором «источник» произведения. США в обозначенном контексте придерживаются прямо противоположной позиции, признавая изобретателями только физических лиц. Заявители получили отказы в регистрации соответствующих изобретений в указанных странах26.

Представляется очевидным, что изобретениям, созданным искусственным интеллектом,

необходимо предоставлять патентную охрану, если они удовлетворяют критериям охраноспособности, установленным в той или иной стране, так как это способствует раскрытию информации и коммерциализации социально значимых технологий, а также позволяет стимулировать инновации и мотивировать людей, разрабатывающих и использующих технологии искусственного интеллекта, к изобретательской деятельности, что, в свою очередь, позволит повысить интенсивность инновационной деятельности в обществе. Вопрос лишь в личном неимущественном праве — кого считать изобретателем, поскольку проблем с исключительными правами практически не возникает, так как, имея имущественную природу, их принадлежность определяется применительно к субъектам права: физическим и юридическим лицам, которые разработали и/или используют искусственный интеллект (в зависимости от условий такого использования). Разрешение же физическим лицам присваивать себе авторство изобретений, которые созданы не их целенаправленным трудом, а искусственным интеллектом, обесценивает значение изобретательской деятельности людей27, которые своим собственным самостоятельным творческим трудом создают изобретения, справедливо претендуя на защиту личных неимущественных прав. При этом и искусственный интеллект не наделяется личными неимущественными правами как таковыми, не являясь субъектом права, акцент в данном случае делается лишь на то, что изобретение создано искусственным интеллектом.

Однако изобретателем может быть признан оператор технологии искусственного интеллекта, если формулирование задачи, которая ставится перед искусственным интеллектом, требует изобретательских навыков, равно как и в случаях, когда разработчик технологии

24 См.: Эббот Р. Проект «Искусственный изобретатель» // Журнал ВОИС. 2019. № 6. URL: https://www.wipo. int/wipo_magazine/ru/2019/06/article_0002.html (дата обращения: 12.05.2020).

25 См.: Эббот Р. Указ. соч.

26 См.: Иалинчева М. В. О некоторых вопросах правовой охраны изобретений, созданных искусственным интеллектом// URL: https://zakon.rU/blog/2020/2/25/o_nekotoryh_voprosah_pravovoj_ohranyJzobretenij_ sozdannyh_iskusstvennym_intellektom (дата обращения: 12.05.2020).

27 См.: Эббот Р. Указ. соч.

искусственного интеллекта может считаться изобретателем, если он своим творческим (интеллектуальным) трудом создал искусственный интеллект для решения изначально определенной проблемы или в процессе обучения искусственного интеллекта, настройки и развития его когнитивных функций осуществлял четко определенную интеллектуальную деятельность.

При этом сложно согласиться с высказываемой в науке позицией о том, что изобретателем может быть специалист, оценивающий актуальность результатов работы искусственного интеллекта28. Такой специалист действительно может выбрать из возможных результатов деятельности искусственного интеллекта оптимальный, но он в любом случае не является создателем такого результата.

Использование искусственного интеллекта в контексте оценки изобретательского уровня — критерия охраноспособности изобретения, когда технология искусственного интеллекта могла бы заменить деятельность специалиста патентного ведомства, также представляется нереалистичным и неоправданным сценарием, по крайней мере на данном этапе разви-

тия технологий и патентного законодательства, ввиду важности оценочных, «ручных» суждений специалиста в конкретной сфере знаний. Иначе можно было бы отказаться от критерия изобретательского уровня в пользу расширения объема критерия новизны.

Таким образом, решение вопросов правового регулирования отношений в сфере создания и получения охраны прав на патентуемые объекты должно лежать в русле действующих правовых подходов в части критериев охраноспособности патентуемых объектов при необходимой модернизации системы предоставляемых таким объектам прав с учетом факта создания результата интеллектуальной деятельности искусственным интеллектом и указания на это в патентной документации. При этом роль разработчика и пользователя технологии искусственного интеллекта в создании объекта интеллектуальной собственности, уровень самостоятельности в создании технологии и творческий вклад обозначенных лиц должны оцениваться в каждом конкретном случае, что, в свою очередь, влияет на распределение и предоставление интеллектуальных прав данным субъектам права.

БИБЛИОГРАФИЯ

1. Калинчева М. В. О некоторых вопросах правовой охраны изобретений, созданных искусственным интеллектом // URL: https://zakon.rU/blog/2020/2/25/o_nekotoryh_voprosah_pravovoj_ohrany_izobretenij_ sozdannyh_iskusstvennym_intellektom (дата обращения: 12.05.2020).

2. Кибальник А. Г., Волосюк П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов// Юридическая наука и практика : Вестник Нижегородской академии МВД России. - 2018. - №4(44).

3. Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. — 2019. — № 2.

4. Морхат П. М. Искусственный интеллект: правовой взгляд. — М. : Буки Веди, 2017.

5. Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах // Закон и право. — 2018. — № 6.

6. Поннин И. В., Редьнина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия : Юридические науки. — 2018. — Т. 22. — № 1.

7. Эббот Р. Проект «Искусственный изобретатель» //Журнал ВОИС. — 2019. — № 6. — URL: https:// www.wipo.int/wipo_magazine/ru/2019/06/article_0002.html (дата обращения: 12.05.2020).

28 См.: Эббот Р. Указ. соч.

8. Eccleston-Turner M. The Economic Theory of Patent Protection and Pandemic Influenza Vaccines: Do Patents Really Incentivize Innovation in the Field? // American Journal of Law & Medicine. — Vol. 2. — Is. 2—3. — Pp. 572—597.

9. Etzioni O., DeCario N. AI Can Help Scientists Find a Covid-19 Vaccine // URL: https://www.wired.com/story/ opinion-ai-can-help-find-scientists-find-a-covid-19-vaccine/ (дата обращения: 02.05.2020).

10. Guihot M., Matthew A., Suzor N. Nudging robots: Innovative solutions to regulate artificial intelligence // Vanderbilt Journal of Entertainment and Technology Law. — 2017. — 20(2). — Pp. 385—456. — URL: https:// eprints.qut.edu.au/109926/ (дата обращения: 02.05.2020).

11. Habli I., Lawtonb T., Porterc Z. Artificial intelligence in health care: accountability and safety // Bulletin of the World Health Organization. — 2020. — № 98. — Pp. 251—252. — URL: https://www.who.int/bulletin/ volumes/98/4/19-237487.pdf?ua=1 (дата обращения: 02.05.2020).

12. Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. — University Press of New England, 2013.

13. LeCun Y, Bengio Y, Hinton G. Deep learning // Nature. — 2015. — May 28. — № 521 (7553). — Pp. 436—444.

Материал поступил в редакцию 13 мая 2020 г.

REFERENCES

1. Kalincheva M. V. O nekotoryh voprosah pravovoj ohrany izobretenij, sozdannyh iskusstvennym intellektom // URL: https://zakon.ru/blog/2020/2/25/o_nekotoryh_voprosah_pravovoj_ohrany_izobretenij_sozdannyh_ iskusstvennymjntellektom (data obrashcheniya: 12.05.2020).

2. Kibal'nik A. G., Volosyuk P. V. Iskusstvennyj intellekt: voprosy ugolovno-pravovoj doktriny, ozhidayushchie otvetov // Yuridicheskaya nauka i praktika : Vestnik Nizhegorodskoj akademii MVD Rossii. — 2018. — № 4 (44).

3. LaptevV. A. Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost' za ego rabotu // Pravo. Zhurnal Vysshej shkoly ekonomiki. — 2019. — № 2.

4. Morhat P. M. Iskusstvennyj intellekt: pravovoj vzglyad. — M. : Buki Vedi, 2017.

5. Morhat P. M. K voprosu o specifike pravovogo regulirovaniya iskusstvennogo intellekta i o nekotoryh pravovyh problemah ego primeneniya v otdel'nyh sferah // Zakon i pravo. — 2018. — № 6.

6. Ponkin I. V., Red'kina A. I. Iskusstvennyj intellekt s tochki zreniya prava // Vestnik Rossijskogo universiteta druzhby narodov. Seriya : Yuridicheskie nauki. — 2018. — T. 22. — № 1.

7. Ebbot R. Proekt «Iskusstvennyj izobretatel'» // Zhurnal VOIS. — 2019. — № 6. — URL: https://www.wipo. int/wipo_magazine/ru/2019/06/article_0002.html (data obrashcheniya: 12.05.2020).

8. Eccleston-Turner M. The Economic Theory of Patent Protection and Pandemic Influenza Vaccines: Do Patents Really Incentivize Innovation in the Field? // American Journal of Law & Medicine. — Vol. 2. — Is. 2—3. — Pp. 572—597.

9. Etzioni O., DeCario N. AI Can Help Scientists Find a Covid-19 Vaccine // URL: https://www.wired.com/story/ opinion-ai-can-help-find-scientists-find-a-covid-19-vaccine/ (data obrashcheniya: 02.05.2020).

10. Guihot M., Matthew A., Suzor N. Nudging robots: Innovative solutions to regulate artificial intelligence // Vanderbilt Journal of Entertainment and Technology Law. — 2017. — 20(2). — Pp. 385—456. — URL: https:// eprints.qut.edu.au/109926/ (data obrashcheniya: 02.05.2020).

11. Habli I., Lawtonb T., Porterc Z. Artificial intelligence in health care: accountability and safety // Bulletin of the World Health Organization. — 2020. — № 98. — Pp. 251—252. — URL: https://www.who.int/bulletin/ volumes/98/4/19-237487.pdf?ua=1 (data obrashcheniya: 02.05.2020).

12. Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. — University Press of New England, 2013.

13. LeCun Y., Bengio Y., Hinton G. Deep learning // Nature. — 2015. — May 28. — № 521 (7553). — Pp. 436—444.