ОРГАНИЗАЦИОННО-ПРАВОВЫЕ И ФИНАНСОВЫЕ АСПЕКТЫ ЦИФРОВИЗАЦИИ И ВНЕДРЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ОБЛАСТИ ЗДРАВООХРАНЕНИЯ

ОРИГИНАЛЬНАЯ СТАТЬЯ

DOI: 10.26794/2587-5671-2022-26-3-169-185 УДК 349;336.1;369.06(045) JEL K32, G22, I18

(СО ]

Организационно-правовые и финансовые аспекты цифровизации и внедрения технологий искусственного интеллекта в области здравоохранения

М.А. Лапина

Финансовый университет, Москва, Россия

АННОТАЦИЯ

Цель исследования - обосновать основные направления развития правового регулирования искусственного интеллекта в области здравоохранения. Выдвинута гипотеза, что искусственный интеллект не должен быть субъектом права. Автор сформулировал исходные постулаты, необходимые для внедрения современных технологий в контексте цифровизации медицины. В исследовании применялись общие и специальные научные методы: диалектический метод познания действительности, синтеза и дедукции. Сравнительный и формально-правовой методы научного познания позволил проанализировать законы и иные документы ряда государств в области цифровизации и механизма финансирования оказания медицинских услуг и медицинской помощи. Проведен анализ предлагаемых учеными и практиками, с участием крупнейших 1Т-компаний, направлений совершенствования оказания медицинской помощи и медицинских услуг, оптимизации управления здравоохранением. Автор уделил внимание финансовым механизмам стимулирования внедрения цифровых технологий в систему здравоохранения непосредственно для оказания медицинской помощи. Структурирование основных направлений применимости цифровых технологий в здравоохранении позволило сформулировать предложения по совершенствованию их правового обеспечения. Анализ зарубежного и отечественного законодательства выявил важность использования такого финансово-правового механизма, как медицинское страхование. По результатам исследования автор делает вывод о необходимости системного подхода к решению проблем цифровизации в области здравоохранения и предлагает институционально-правовую модель развития пациентоориентированной медицины на основе использования технологий искусственного интеллекта.

Ключевые слова: здравоохранение; искусственный интеллект; медицинское страхование; медицинская этика; финансирование; цифровые технологии

Для цитирования: Лапина М. А. Организационно-правовые и финансовые аспекты цифровизации и внедрения технологий искусственного интеллекта в области здравоохранения. Финансы: теория и практика. 2022;26(3):169-185. DOI: 10.26794/2587-5671-2022-26-3-169-185

ORIGINAL PAPER

Organizational, Legal and Financial Aspects of Digitalization and implementation of Artificial intelligence Technologies in Healthcare

M.A. Lapina

Financial University, Moscow, Russia

ABSTRACT

The paper aims to substantiate the main development directions of legal regulation of artificial intelligence in healthcare. The main hypothesis of the study is the assumption that artificial intelligence should not be a subject of law. The author formulates the postulates necessary for the introduction of modern technologies in the context of the digitalization of medicine. General and special scientific methods are used: the dialectical method of cognition of reality, synthesis and deduction. The comparative and formal legal method of scientific cognition made it possible to analyze the laws and other documents of a number of states in the field of digitalization and the mechanism for financing the provision of medical services and medical care. The article analyzes the directions proposed by scientists and practitioners with the participation of the largest IT companies to improve the provision of medical care and medical services and optimize healthcare management. The author draws attention to financial mechanisms to stimulate the introduction of digital

© Лапина М.А., 2022

BY 4.0

technologies in the healthcare system, directly to the provision of medical care. Structuring the main directions of applicability of digital technologies in healthcare allowed us to formulate proposals for improving their legal support. The analysis of foreign and domestic legislation has revealed the importance of using such a financial and legal mechanism as health insurance. Based on the results of the study, the author makes a conclusion about the need for a systematic approach to digitalization in healthcare and proposes an institutional and legal model for the development of patient-centered medicine based on artificial intelligence technologies.

Keywords: healthcare; artificial intelligence; health insurance; medical ethics; financing; digital technologies

For citation: Lapina M. a. Organizational, legal and financial aspects of digitalization and implementation of artificial intelligence technologies in healthcare. Finance: Theory and Practice. 2022;26(3):169-185. DOi: 10.26794/2587-56712022-26-3-169-185

введение

Россия взяла курс на развитие информационного общества и повышение эффективности деятельности органов государственной власти во всех сферах жизнедеятельности посредством интеграции определенных достижений развития цифровых технологий и искусственного интеллекта (далее — ИИ; от англ. artificial intelligence, AI).

Среди отечественных исследователей наиболее системно раскрыл правовые основы технологий искусственного интеллекта в 2017 г. П.М. Морхат в монографии «Искусственный интеллект: правовой взгляд» [1]. Одну из первых попыток рассмотреть вопросы правосубъектности киберфизических систем, основания, содержание и правовые перспективы понятия «электронного лица» предпринял профессор О. А. Ястребов [2]. Коллектив авторов Финуниверситета занимается исследованием проблем правового регулирования ИИ третий год. Проанализировав множество подходов к созданию нормативно-правовой базы, авторский коллектив пришел к выводу о важности учета рисков и возможных негативных последствий от использования роботизированных систем и ИИ [3].

Необходимо заметить, что тема правового регулирования ИИ, в том числе вопросы узкого применения данной технологии в медицине, неоднократно поднималась в зарубежной научной литературе, причем рассмотрению предавались как широкие теоретические вопросы применения ИИ в различных отношениях в области здравоохранения, так и более практические и специализированные разработки, которые могут быть использованы в прикладной деятельности медицинских организаций и в управлении публичными органами здравоохранением.

Проблема интеграции современных IT-техноло-гий, а также технологий с использованием искусственного интеллекта в область здравоохранения представляет собой один из наиболее увлекательных и в то же время затруднительных вопросов актуальной правовой теории.

Исходными постулатами для дальнейших научно-правовых исследований будут следующие:

• взаимодействие с интеллектуальными системами возможно не как с субъектами, а как с механизмами, «источниками повышенной опасности»;

• при этом окончательное решение и ответственность будет за человеком, за субъектами права (физическими или юридическими лицами).

Мы понимаем, что для искусственных интеллектуальных систем такие понятия, как «человеческий фактор», «субъективные переживания», «умысел», «неосторожность», «презумпция невиновности» и прочие, практически не учитываются при принятии решений. Соответственно, нельзя перекладывать ответственность с субъекта права (в традиционной правовой доктрине) на искусственный интеллект. Использование искусственного интеллекта должно быть вписано в специальный правовой режим. Институты права, связанные с их использованием, должны быть предусмотрены и отрегулированы в базовых нормативно-правовых актах, востребованы различными отраслями права и законодательства. Ранее в результатах наших исследований были сформулированы концептуальные выводы, которые должны лечь в основу дальнейших разработок [3-7]. Особенно остро стоит вопрос, связанный с медицинским правом в контексте цифровизации здравоохранения, в котором разработана лишь часть вопроса, касающаяся безопасности использования медицинских изделий, в которых применены технологии ИИ.

С другой стороны, возникает вопрос: насколько автоматизированная система «ответственна» за принятие решений. Субъект администрирования должен за ее действия отвечать как за собственные, ведь правовые последствия наступают реально, а не «виртуально». Неправильная постановка диагноза пациенту на основе механизма «телемедицины» должна влечь такие же правовые последствия, как и за действия в обычной среде. В противном случае мы получаем «фикцию юридического лица» и «фикцию физического лица», «фикцию должностного лица, специалиста» и пр. Когда ответственности нет в подобных случаях или она возникает не в полной

мере, теряются и сами основания права, критерии дозволенного и недозволенного. «Зарубежные исследователи приходят к выводу о знаке равенства между конструкцией юридического лица и автономной системы: робот может управлять компанией без какого-либо людского субстрата. Данная проблема выходит за рамки исследования возможности применения фикции юридического лица к таким системам» [8, с. 357]. Тем самым, действия и решения любой автоматизированной системы равнозначны деятельности самого юридического лица, который ее администрирует. В публикации речь идет также и о системе прав на управление компанией. Автор приходит к выводу о необходимости совершенствования корпоративного законодательства в части выработки специального правового режима для определения характера прав и обязанностей юридического лица, передаваемых через автоматизированную систему. Но существует и противоположное мнение, например, Е. А. Суханов считает, что базовые определения в ГК РФ вполне применимы и для цифровой среды и не существует необходимости выделения цифровых прав и активов в специальную группу. Это может нарушить систему регулирования объектов гражданских прав. И реальные, и виртуальные объекты гражданских прав должны иметь одинаковое правовое регулирование [9, с. 296]. Данный подход также заслуживает внимания. Для этого требуется развернутая правовая регламентация, закрепленная на уровне не только гражданского законодательства, но и специализированного медицинского законодательства для детализации цифровых прав, цифровых объектов и пр.

Отдельной проблемой является передача данных, составляющих какую-либо тайну, включая врачебную. Кто несет ответственность за передачу данных автоматизированной системой, если лицо не давало согласия на передачу и обработку данных? В связи с этим также возникает вопрос о надежности системы проверки сертификатов электронной подписи. «Аналитики в области кибербезопасности делают все возможное — быстро изучают новые угрозы, выпускают средства для защиты от них, которые оперативно распространяются. Однако факт остается фактом: в промежутке между первой атакой и появлением новейшего средства противодействия пользователи остаются беззащитными» [10].

Проблемы защиты интеллектуальной собственности связаны с обращением объектов интеллектуальных прав на виртуальных площадках. «Сложность регулирования процессов, происходящих в сети Интернет и затрагивающих права интеллектуальной собственности, объясняется, прежде всего, экстерри-

ториальностью интернет-среды, что порой затрудняет определение границ действия национального законодательства» [11].

Переход к управлению с помощью цифровых систем должен не только снимать барьеры для выхода на рынок, обеспечивать равенство прав доступа к информации, но и контролировать процесс использования переданных данных в систему злоумышленниками. Существуют возможности передачи искаженной информации, следует предвидеть угрозы и риски кибератак, обеспечить защиту информации. В системе автоматического обмена данными «необходимо законодательно проработать вопрос о подтверждении юридической достоверности и значимости передаваемой цифровой информации. Для начала для совершения определенных действий в сфере цифровой экономики должен быть создан и детально проработан специальный правовой режим» [12, с. 114]. Это, прежде всего, вопросы децентрализованного ведения реестров, удостоверения прав и обмена данных в автоматическом режиме.

В Российской Федерации, по мнению В. С. Черенковой, «для полноценной защиты персональных медицинских данных они должны быть квалифицированы судом как врачебная тайна» [13, с. 134].

В Европейском союзе — более широкая трактовка медицинских персональных данных, на что, в частности, указал Европейский суд по правам человека, который постановил, «что выражение "данные, касающиеся здоровья" должно иметь широкое толкование, с тем, чтобы включать информацию, касающуюся всех аспектов как физического, так и психического здоровья человека. Анализируя Дело T-343/13 — CN v. Parliament от 3 декабря 2015 г., Е. Б. Лупарев отмечает, что это понятие не может быть расширено до такой степени, чтобы включать положения, которые не приводят к раскрытию каких-либо данных, касающихся здоровья или медицинских показаний человека» [14]. Автор статьи обращает внимание на роль оператора информационной системы, через которую осуществляется обмен информацией, содержащей врачебную тайну. Если медицинская услуга оказана некачественно по вине оператора информационной системы, то он выступает субъектом гражданско-правовой ответственности [14].

Общемировой, как утверждал в 2018 г. профессор И. В. Понкин, является проблема «практически полного отсутствия нормативного правового регулирования и нормативного технического регулирования основ, условий и особенностей разработки, запуска в работу, функционирования и деятельности, интеграции в другие системы и контроля применения технологий искусственного интеллекта» [15, с. 91].

Буквально за последние два года эта проблема интенсивно разрешается, приняты многочисленные нормативные акты, на которых мы подробнее остановимся в данной публикации.

Главной гипотезой результатов нашего исследования является предположение, что ИИ не должен в итоге быть субъектом права в любых сферах общественных отношений, в том числе в области здравоохранения. Целесообразно относить все действия автоматизированных систем к объектам повышенной опасности, за функционирование которых отвечают субъекты их администрирования. Необходимо все же развивать специальный правовой режим, в котором были бы определены юридические последствия действий и решений умных машин, предусмотрена юридическая ответственность. Объект права никогда не должен быть субъектом права и пользоваться правами и защитой такого субъекта. Ни презумпция невиновности, ни иные завоевания человека в области прав человека, гарантии прав, установленные законодательно, не должны прекращать свои действия. Результаты применения средств, работающих в автоматическом режиме, не могут быть изначально бесспорными и приниматься без доказательств для привлечения лица к ответственности и пр. Подобная практика, как и иные негативные с точки зрения умаления прав человека решения о применении интеллектуальных систем и перекладывание ответственности на них, приводят к нарушению существующих стандартов и норм международного права.

что представляет современная медицина на основе

использования современных

технологий, в том числе ии?

На основе внедрения информационных технологий ускоренно происходит становление и развитие пациентоориентированной медицины во всем мире, в том числе и в России. В целях реализации Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы, Стратегии развития медицинской науки в Российской Федерации на период до 2025 года, приоритетного проекта «Совершенствование процессов организации медицинской помощи на основе внедрения информационных технологий», утвержденного протоколом Совета при Президенте Российской Федерации по стратегическому развитию и приоритетным проектам от 25.11.2016 № 9, с учетом утвержденной распоряжением Правительства РФ от 28.07.2017 № 1632-р программы «Цифровая экономика Российской Федерации» (программа утратила

силу), Указом Президента РФ от 21.07.2020 № 474 «О национальных целях развития Российской Федерации на период до 2030 года», где одной из национальных целей является «Цифровая трансформация», и других документов предусмотрено развитие пациентоориентированной медицины с использованием современных инновационных технологий, в том числе информационных технологий. Развитие правового регулирования пациен-тоориентированной медицины и трансформации на ее основе системы здравоохранения невозможно без правового обеспечения применения технологий искусственного интеллекта в медицине.

В Послании Президента Российской Федерации Федеральному Собранию Российской Федерации от 01.03.2018 В. В. Путин отметил, что «роль, позиции государства в современном мире определяют не только и не столько природные ресурсы, производственные мощности, (...) а прежде всего люди, условия для развития, самореализации, творчества каждого человека. Поэтому в основе всего лежит сбережение народа России и благополучие наших граждан. Именно здесь нам нужно совершить решительный прорыв», «в кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных. Причем такая нормативная база должна постоянно обновляться, строиться на гибком подходе к каждой сфере и технологии»1.

В соответствии с реализацией Послания Президента Федеральному Собранию от 20.02.2019 запущены масштабные программы национального уровня в области ИИ2. Так, в 2019 г. была разработана национальная стратегия в области ИИ3 и в последние год-полтора ряд других нормативных правовых актов, значимых для развития технологий ИИ в системе здравоохранения.

По мнению экспертов, современная система здравоохранения и традиционный подход к лечению не могут считаться эффективными в силу ряда причин, и не только экономического характера. Есть дан-

1 Послание Президента РФ Федеральному Собранию от

01.03.2018. Российская газета. № 46. 02.03.2018.

2 Послание Президента РФ Федеральному Собранию от

20.02.2019. Российская газета. № 38. 21.02.2019.

3 Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искус-

ственного интеллекта на период до 2030 года»). СЗ РФ, 14.10.2019, № 41, ст. 5700.

ные, что примерно у половины пациентов результат лечения не приносит ожидаемого результата [16]. Обращение именно к пациентоориентированной, а не клиентоориентированной медицине будет соответствовать принципам гуманизма и провозглашенной Конституции Российской Федерации ценности человека, его прав и свобод, первейшими из которых являются право на жизнь и здоровье4. Применение технологий искусственного интеллекта в пациентоориентированной медицине основано на взаимосвязи «информационных технологий, клинической терапии, маркетингового подхода, правового обеспечения, направленного как для улучшения здоровья, так и удовлетворения потребностей пациентов» [16].

Проблемы здоровья, его охраны и гарантирован-ности со стороны государства находятся в центре внимания ученых. Поиск новых социально-инновационных подходов, основанных на принципах доказательной медицины, к решению проблем медицинского обслуживания с позиции межсекторального взаимодействия государства, бизнеса и гражданского общества становится важнейшей государственной задачей.

Важным аспектом создания и разработки пациен-тоориентированных медицинских информационных систем является взаимодействие с профессиональным сообществом. В научной литературе вопросам цифровизации здравоохранения уделяется определенное внимание.

Так, отдельные авторы, специализирующиеся в области медицины, раскрывают особенности пациентоориентированной медицины [17-22].

Пациентоориентированная медицина представляет собой медицинский подход, заключающийся в фокусировке на потребностях больного. Это требует смены приоритетов и перенастройки информационных медицинских систем с соблюдением принципов персонифицированной медицины. Анализ лечебного процесса может информировать о реализации информационных технологий, раскрывая роли, действия и другие важные данные, такие как передача информации и требования к осведомленности о ситуации. Такие данные могут быть получены с помощью использования электронного документооборота, включая клинические наблюдения [23] и анализ баз данных [24, 25]. Тем не менее исследования рабочих процессов в области здравоохранения,

4 Конституция Российской Федерации (принята всенародным голосованием 12.12.1993 с изменениями, одобренными в ходе общероссийского голосования 01.07.2020). Официальный интернет-портал правовой информации. URL: http://www.pravo.gov.ru.

как правило, сосредоточены вокруг медицинского персонала — врачей или медсестер. Эти модели, ориентированные на клиницистов, часто описывают серию дискретных действий конкретного типа врача и количество времени, затрачиваемого на каждый вид деятельности. Менее распространенными, но не менее важными являются исследования, ориентированные на пациентов, в которых описывается последовательность действий всех вовлеченных сотрудников медицинских учреждений для оказания помощи конкретному пациенту [26].

K. Blakemore занимался оценкой роли государства в лице системы медицинских учреждений по проблемам клиенториентированной медицины [27].

Вопросы организации клиентоориентированной медицины находятся в пределах внимания в работах Л. М. Мухарямовой, И. Б. Кузнецовой, Г. Г. Вафиной [28], Л. А. Гончарова [29] и др. Авторы С. П. Трошин, И. Н. Легкова, К. В. Гавриленко раскрывают особенности пациентоориентированной медицины на основе применения современных информационных технологий [30].

Технологии ИИ весьма интенсивно применяются в здравоохранении. Уже имеются на вооружении у врачей медицинские роботы различных типов (например, хирургическая система да Винчи и Хоспи). В сфере здравоохранения технологии ИИ применяются при диагностике заболеваний и прогнозировании, сборе данных, для выявления пациентов с высоким риском развития заболеваний, при разработке лекарств. Наиболее перспективно использование ИИ в телемедицине и системе диагностики [19]. По мнению некоторых исследователей, электронное здравоохранение стало одним из главных «драйверов» всей отрасли [31].

Совершенствованием оказания медицинской помощи и оптимизации управления здравоохранением занимаются не только непосредственно учреждения здравоохранения, но и многие крупнейшие IT-ком-пании. Так, IBM Watson Health™ предлагает три этапа эволюции использования информационных технологий в здравоохранении:

1) цифровизация рутинных процессов в системе здравоохранения и оказания медицинской помощи (например, МРТ, КТ, автоматическое управление оплатой услуг, цифровизация хранения данных, доступ к их обороту);

2) отказ от старых моделей и применение таких прорывных инноваций, как искусственный интеллект, мобильные технологии, аналитика и облако5;

5 1. Облако обеспечивает гибкость и масштабируемость для

запуска и управления набором аналитических возможно-

3) трансформация системы здравоохранения, в результате которой произойдет интеграция и объединение цифровых функций и процессов медицинских учреждений и других организаций в системе здравоохранения.

Реализовав этапы эволюции, сформулированные компанией IBM Watson Health™, здравоохранение с технологической точки зрения превратится «из разрозненных фрагментов в интегрированную экосистему, позволяющую медикам успешно решать проблемы более крупного масштаба, сохраняя фокус на пациенте, и оказывать ценностно-ориентированную медицинскую помощь»6.

стей, поддерживающих текущие приложения и приложения следующего поколения, и все это в защищенной среде. В конечном счете облачная аналитическая платформа может обмениваться данными, чтобы потенциально помочь врачам, пациентам, опекунам и клиницистам принимать своевременные и эффективные решения о терапии пациентов. 2. ИИ уже применялся для использования в здравоохранении для построения моделей прогрессирования конкретного заболевания и анализа генетической информации для определения эффективности лечения. ИИ также может быть применен для проектирования и разработки клинических испытаний, ранее трудоемкого и ручного процесса. Уже сейчас AI-automated trial matching может интегрировать данные из электронных медицинских карт, медицинской литературы и критериев приемлемости от законодательных органов и научиться интерпретировать требования к испытаниям на основе случаев пациентов. 3. Интернет вещей. Использование этой возможности требует надежного и комплексного подхода, который позволил бы нескольким микросервисам и устройствам работать на одной аналитической платформе. Снижение стоимости датчиков и рост защищенных облачных платформ могут оказать глубокое влияние на отрасль здравоохранения. 4. Блокчейн может предложить решение для безопасного доступа получения информации к данным о здоровье. Данные, добавленные в блокчейн, могут быть переданы почти в режиме реального времени группе разрешенных лиц и/или учреждениям. Каждое событие или транзакция помечается временем и становится частью неизменной записи объекта, будь то запись о лекарстве или о пациенте. Прозрачность, обеспечиваемая блокчейнами, перемещает данные из индивидуального, изолированного владения в совместно доступную, защищенную запись для разрешенных заинтересованных сторон. Эта общедоступная запись становится единственным источником истины для истории пациента (или вещи), беспрепятственно переносимым пациентом в виде цифровой записи, независимо от местоположения или системы здравоохранения. 5. Квант позволит путем квантовых вычислений выявлять закономерности и получать информацию в системах искусственного интеллекта настолько сложных, что в мире просто не хватает классических компьютерных ресурсов для их моделирования, включая исследования и разработки лекарств.

6 Технологии открывают дорогу для трансформации здравоохранения. URL: https://www.ibm.com/ru-ru/watson-health/learn/healthcare-transformation (дата обращения: 17.03.2021).

О необходимости внедрения ИИ в систему здравоохранения заявлено в Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг.,7 где ИИ отнесен к одному из основных направлений развития российских информационных и коммуникационных технологий, наряду с конвергенцией сетей связи, биотехнологиями и облачными вычислениями. По мнению С. Г. Васина, необходима реализация системы управления на государственном уровне с применением ИИ [32]. В качестве подтверждения данного тезиса автор приводит примеры из Национального стратегического плана исследований и разработок в области искусственного интеллекта США, из Стратегии цифровой экономики Великобритании. В названных документах немалое внимание уделяется применению ИИ в области социальных отношений, а также поднимаются вопросы государственных инвестиций в данные сферы публичного управления. Как верно отмечает автор, в зарубежных странах внимание данному вопросу уделяется уже достаточно давно: в качестве примера может быть приведен комплексный доклад Национального совета по науке и технике США «Preparing For the Future of Artificial Intelligence.— Executive Office of the President National Science and Technology Council Committee on Technology» за 2016 г.8 Значительная часть указанного доклада посвящена вопросам необходимости государственного инвестирования в программы разработки ИИ-решений в области социальных отношений, включая здравоохранение, которые должны привести к увеличению производительности труда, уменьшению количества рабочего времени, росту заработной платы и в конечном итоге процветанию американских компаний и работников, а также продолжить лидерство американской нации в создании и использовании ИИ9.

При анализе научных публикаций, посвященных современному состоянию цифровизации медицины, исследователи бизнес-процессов Sascha Kraus, Francesco Schiavone, Anna Pluzhnikova, Anna

7 Указ Президента Российской Федерации от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы». СЗ РФ. 2017. № 20. Ст. 2901.

8 Preparing For the Future of Artificial Intelligence. Executive Office of the President National Science and Technology Council Committee on Technology, October 2016. URL: https://obamawhitehouse.archives.gov/sites/default/files/ whitehouse_files/microsites/ostp/NSTC/preparing_for_the_ future_of_ai.pdf (дата обращения: 17.03.2021).

9 Artificial intelligence, automation, and the economy. Executive Office of the President Washington, D.C. 20502. December 20, 2016. 55 р. URL: https://obamawhitehouse. archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.pdf. (дата обращения: 28.03.2021).

Chiara Invernizzi в управлении здравоохранением выделяют пять основных направлений: разработку и внедрение эффективных медицинских изделий с использованием ИИ; пациентоориентированный подход; организационные факторы и совершенствование управления здравоохранением; кадровую политику; социально-экономические аспекты [33]. В частности, авторы дают рекомендацию ученым заняться в будущем вопросами надежности решений с использованием технологий ИИ в области здравоохранения.

Непосредственно применимость информационных технологий в здравоохранении исследовали ученые I. C. Marques и J. J. Ferreira. Сделав обзор научной литературы о цифровизации в области здравоохранения, они предлагают выделить семь основных направлений: 1) интегрированное управление информационными технологиями в здравоохранении; 2) медицинские изображения; 3) электронные медицинские карты; 4) информационные технологии и портативные устройства в здравоохранении; 5) доступ к электронному здравоохранению; 6) телемедицина; 7) конфиденциальность медицинских данных [34].

Существенной составляющей цифровизации здравоохранения является сбор, обработка и оборот больших данных. В их основе лежат результаты клинических исследований, электронные медицинские записи (EHR), а также личные данные пациентов или потребителей медицинских изделий, полученных с устройств самопроверки, например носимых устройств для мониторинга работы или занятий спортом [35]. Данные пациента обычно включают всю документацию, связанную с лечением: письменные и визуальные медицинские карты, письма врачей, электронные рецепты, а также страховые выплаты. Компания Siemens Medical Solutions USA, Inc. полагает, что основными генераторами таких данных выступают поставщики медицинских изделий, поставщики вспомогательных услуг (например, фармацевтические компании), государственные и частные учреждения и пациенты10. Для установления правового режима оборота данными в здравоохранении важным моментом является определить весь перечень субъектов, владеющих информацией, которая может потенциально составлять врачебную тайну.

Получаемая при помощи больших данных и обработанная искусственным интеллектом аналитика

10 Knight M. Healthcare Dives into Big Data Increasingly used data-driven care protocols will change healthcare delivery

systems globally. August 5, 2015. URL: https://www.siemens-healthineers.com/en-us/news-and-events/mso-big-data-and-healthcare-1 (дата обращения: 28.03.2021).

будет способствовать развитию персонализированной индивидуальной помощи в прогностических моделях для больших групп населения.

Правильное использование больших данных в области здравоохранения требует сбора достоверных данных, включая медицинские записи, геномику и информацию, полученную из различных приложений.

Электронные медицинские карты (EHR) представляют «репозиторий данных пациентов в цифровой форме, безопасное хранение и обмен, доступный для множества пользователей» [36].

Помимо EHR в цифровизации здравоохранения используют электронные медицинские записи (EMR), представляющие «цифровые системы, которые функционально предоставляют историю пациентов, демографические данные пациентов и регистрационные данные» для использования профессионалами, часто основанные на подходах телемедицины [37]. С помощью систем EMR возможно решить многие проблемы, связанные с анализом данных в системе здравоохранения и улучшением операционных процессов с участием ИИ.

Однако не все зарубежные ученые приветствуют концепцию цифрового здравоохранения. Некоторые из них акцентируют свое внимание на том, что цифровизация на основе больших данных, мобильного здоровья, электронного здравоохранения, телемедицины и телездравоохранения явно подрывает традиционную систему здравоохранения. Ряд ученых называют разрушительной тенденцию дальнейших цифровых трансформирующих технологий, таких как искусственный интеллект и робототехника [38-40].

правовое регулирование

В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. приняты национальные планы развития ИИ, создания фондов для финансирования стартапов по развитию технологий ИИ. Финансирование программы «Цифровая Европа» (срок действия программы — с 2021 по 2027 г.) согласно текущей версии, одобренной Европейским парламентом и Советом Европейского союза, составляет 9,2 млрд евро. В том числе запланировано выделить 2,7 млрд евро на высокопроизводительные вычисления; 2,5 млрд евро — на искусственный интеллект; 2 млрд евро — на повышение кибербез-опасности и доверия; 1,3 млрд евро — на обеспечение широкого использования цифровых технологий в экономике и обществе и 700 млн евро — на развитие навыков работы с цифровыми технологиями.

Резолюцией Европейского парламента о всеобъемлющей европейской промышленной политике в области ИИ и робототехники, опубликованной в феврале 2019 г., установлены общие положения рекомендательного характера. К примеру, в резолюции содержатся рекомендации по применению технологий ИИ в области здравоохранения.

Для тестирования и сравнительного анализа приложений ИИ в области здравоохранения совместной оперативной группой МСЭ (Международным союзом электросвязи) и ВОЗ (Всемирной организацией здравоохранения) по ИИ для здоровья (FG-A14H) создана цифровая платформа11. Сама оперативная группа включает экспертов и представителей заинтересованных сторон в области научных исследований, практики, этики и правового регулирования в здравоохранении, способных разрабатывать руководящую документацию, касающуюся этики, оценки, правового регулирования ИИ для применения в различных областях здравоохранения — в офтальмологии, гистопатологии, стоматологии, радиологии и др. Вся документация этой группы общедоступна.

Важным документом для возможностей применения технологий ИИ в различных сферах жизнедеятельности общества является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать так: делать добро, не навредить и работать прозрачно. Предполагается, что перечисленные принципы позволят устойчиво развивать технологии ИИ: они должны быть безопасными, подотчетными, не носить дискриминационного характера, быть поднадзорными человеку.

Перечисленные документы ЕС, по сути, являются базовым юридическим фундаментом правового регулирования ИИ в области здравоохранения. Во многих развитых государствах существуют правила, касающиеся сбора данных о пациентах. К ним относится Закон о переносимости и подотчетности медицинского страхования (Н1РРА) и Европейский общий регламент по защите данных (GDPR). В США также аналогично Н1РРА защищают медицинские данные пациентов. Сбор таких данных необходим для машинного обучения и использования ИИ в здравоохранении.

Предлагаемый в государствах ЕС начальный путь развития правового регулирования закономерен, но не учитывает возникающих в результате такой

11 Оперативная группа МСЭ-ВОЗ по искусственному интеллекту. URL: https://ru.abcdef.wiki/wiki/ITU-WHO_Focus_ Group_on_Artificial_Intelligence_for_Health (дата обращения: 28.03.2021).

деятельности рисков [41]. Одним из способов покрытия рисков потери здоровья и возмещение расходов при оказании медицинской помощи является страхование. Федеративная Республика Германия в ноябре 2019 г. приняла Закон Германии о цифровом здравоохранении (Digitale Versorgung Gesetz — DVG), который дает право всем лицам, охваченным статутным медицинским страхованием, на возмещение расходов за определенные цифровые медицинские приложения (т.е. страховщики будут платить за их использование)12. Известно, что немецкая система обязательного медицинского страхования является одной из крупнейших в мире. Примерно 90% населения (около 75 млн человек) в Германии охвачено государственным медицинским страхованием, а остальные 10% — частным страхованием. Закон DVG (о цифровом здравоохранении) дает право тем, кто застрахован одним из независимых поставщиков обязательного медицинского страхования Германии, получать страховые выплаты для определенных цифровых медицинских приложений.

Как правило, застрахованные лица имеют право на страховые выплаты по цифровым медицинским заявкам, если они соответствуют следующим критериям:

1. Являются медицинскими изделиями с более низким риском.

2. Их основная функция основана на цифровых технологиях.

3. Они предназначены для поддержки мониторинга, выявления, облегчения или лечения заболеваний, травм, при уходе, предоставляемом поставщиками услуг.

4. Они были включены в недавно созданный официальный реестр цифровых медицинских приложений, который ведет Федеральный институт лекарственных средств и медицинских изделий Германии (Bundesinstitut für Arzneimittel und Medizinprodukte — BfArM).

5. Они используются либо с согласия медицинского страховщика, либо по назначению лечащего врача или психотерапевта [SGB V, § 33a(1)].

Кроме того, закон DVG также стремится ускорить внедрение и использование телемедицины. В частности, в рамках DVG пациент может легко воспользоваться преимуществами видеоконсультаций. Во время такой консультации пациент может быть проинформирован об обстоятельствах, имеющих существенное значение для согласия на медицинскую

12 Gesetz für eine bessere Versorgung durch Digitalisierung

und Innovation (Digitale-Versorgung-Gesetz — DVG) [Digital Healthcare Act] of 9 December, BGBl I at 2562 (Germany, 2019).

помощь, включая ее характер, объем, осуществление, ожидаемые риски и последствия (SGB V, § 291g (4); BGB 14, § 630e). DVG также содержит положения о том, чтобы сделать демографические данные от медицинских страховщиков более пригодными для исследовательских целей (SGB V, § § 303a-303f). В частности, в соответствии с Общим положением о защите данных 2016/679 (GDPR) DVG позволяет некоторым бенефициарам, таким как университеты и финансируемые государством научно-исследовательские учреждения (например, Общество Макса Планка) обрабатывать определенные демографические данные, полученные от медицинских страховщиков для конкретных исследовательских целей, особенно для анализа процессов лечения или ухода в течение более длительных периодов (SGB V, § § 303b, 303e(1) и (2).

В США в системе здравоохранения федеральная Программа Medicare обеспечивает страховое покрытие для более чем 60 млн американцев13. С 2019 г. Medicare Part B (амбулаторное медицинское страхование) предоставляет страховое покрытие для некоторых услуг телемедицины, таких как визиты в офис, психотерапия и другие консультации. В 2020 г. во время пандемии COVID-19 Medicare значительно расширила свою политику телемедицинского покрытия.

Благодаря медицинскому страхованию, стимулирующему ускоренное внедрение технологий ИИ, и в Германии, и в США происходит возмещение расходов на применение инновационных технологий и полезных цифровых решений в области здравоохранения.

Во всем мире доступно более 318 000 мобильных приложений для здоровья, и около 200 приложений добавляются в магазины приложений каждый день [42].

Исследователи проблем правового регулирования цифровизации здравоохранения Sara Gerke, Ariel D. Stern and Timo Minssen приходят к вполне закономерным выводам о важности обеспечения безопасности пациентов и потребителей при использовании медицинских приложений. При этом критериями их оценки должны стать безопасность, функциональность, качество, защита данных, безопасность данных и положительное влияние на уход. Авторы статьи полагают, что «риск-ориентированный подход может служить полезной отправной точкой для разработки стандартизированных, осно-

13 CMS. CMS fast facts. URL: https://www.cms.gov/Research-Statistics-Data-and-Systems/Statistics-Trends-and-Reports/ CMS-Fast-Facts/index (2020).

ванных на фактических данных процессов оценки и правовых требований к цифровым решениям в области здравоохранения. Однако директивным органам также необходимо будет убедиться в том, что они не чрезмерно регулируют этот сектор таким образом, что это сделает его слишком обременительным для производителей соблюдать требования к квалификации их продукции и для возмещения убытков, тем самым предотвращая или замедляя инновации» [43].

Самостоятельным направлением правового обеспечения применения технологий ИИ в области здравоохранения является разработка обязательных требований для медицинских изделий (медицинских устройств). В отличие от разработки лекарственных средств, которые считаются опасными до тех пор, пока не доказано обратное, разработка медицинских изделий должна быть основана на соблюдении требований по определенным рискам14. К примеру, в США регулятором медицинских изделий является Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA). Отдел промышленности и потребительского образования FDA (DICE) определяет является ли цифровое «устройство» медицинским изделием или продуктом, предназначенным для оздоровительных целей15. Медицинские изделия, предположительно, могут быть классифицированы по профилю риска, определяемому в настоящее время FDA как класс I, II или III в порядке увеличения риска. Устройства класса I требуют небольшого тестирования безопасности. Сегодня около 50% медицинских изделий подпадают под эту категорию, а 95% из них освобождены от процесса регулирования16.

Для упорядочения стандартизации медицинских изделий в цифровом здравоохранении имеются международные организации. К примеру, Общество цифровой медицины разрабатывает ресурс на своем сайте (www.dimesociety.org) для отслеживания

14 U. S. Food and DrugAdministration. Information Sheet Guidance For IRBs, Clinical Investigators, and Sponsors. Silver Spring, MD: U. S. Food and DrugAdministration. January 2006. 15 p. URL: https://www.fda.gov/downloads/RegulatoryInformation/ Guidances/UCM126418.pdf (дата обращения: 28.03.2021).

15 U. S. Food and Drug Administration. Multiple Function Device Products. Policy and Considerations. Silver Spring: U. S. Food and Drug Administration. 2018 Apr 27. 18 p. URL: https://www.fda.gov/ucm/groups/fdagov-public/@fdagov-meddev-gen/documents/document/ucm605683.pdf (дата обращения: 28.03.2021).

16 U. S. Food and Drug Administration. Reclassification [Internet]

[updated 2018 Dec 13]. URL: https://www.fda.gov/MedicalDevices/

DeviceRegulationandGuidance/Overview/ClassifyYourDevice/

ucm080412.htm (дата обращения: 28.03.2021).

и мониторинга различных стандартов, документов и требований17.

В обзорной статье «Цифровая медицина: учебник по измерениям» авторы раскрывают три основных принципа биомедицинской этики, описанные в докладе Белмонта (1978 г.)18, которые применимы для исследований цифровых технологий:

1. Уважение к личности. Этот принцип демонстрируется через процесс информированного согласия, который происходит, когда человеку дают информацию, необходимую для принятия обоснованного решения о том, стоит ли добровольно участвовать. Важно то, как эта информация передается, потому что добровольное участие в исследовании отличается, скажем, от принятия условий предоставления услуг (ToS) для доступа к приложению или подписания формы согласия на получение медицинской помощи.

2. Благотворительность. Это когда оценка вероятности и величины потенциального вреда сопоставляется с возможными выгодами для участника, людей, которых он представляет, и общества.

3. Справедливость. Этот принцип фокусируется на справедливом распределении выгод и бремени исследований и разработок [44].

В научных статьях по цифровизации здравоохранения авторы обращают внимание на проблемы обеспечения информационной безопасности и защиты информации как персональной, так и личной медицинской информации.

Здравоохранение стало свидетелем распространения уязвимостей, особенно в связанных технологиях, многие из которых жизненно важны: инсулиновые помпы Johnson & Johnson, имплантируемые сердечные устройства St. Jude Medical и атака вымогателей WannaCry, которая заразила 200 тыс. компьютеров, многие из которых являются частью критической инфраструктуры больниц, в 150 странах [45].

Помимо хакерских атак, незаконно распространять информацию могут и медицинские работники. Ряд исследователей разработали проект «Клятвы Гиппократа для подключенных медицинских устройств» (HOCMD)19. В Клятве излагается ряд принципов без-

17 The Digital Medicine Society. The Digital Medicine (DiMe) Society. 2019. URL: www.dimesociety.org (дата обращения: 28.03.2021).

18 National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research, Department of Health, Education and Welfare (DHEW). The Belmont Report. Washington: United States Government Printing Office. 1978 September 30. URL: https://videocast.nih.gov/pdf/ohrp_ belmont_report.pdf (дата обращения: 28.03.2021).

191 Am the Cavalry. Hippocratic Oath for Connected Medical Devices. URL: https://www.iamthecavalry.org/domains/ medical/oath/ (дата обращения: 28.03.2021).

опасности и этики, включая «безопасность по замыслу» и «устойчивость и сдерживание» [46].

Характеризуя вопросы использования ИИ в здравоохранении и его правового регулирования в Российской Федерации, следует отметить национальный проект «Здравоохранение», который определил ключевой задачей цифровизацию системы здравоохранения20. В рамках проекта принят федеральный проект «Создание единого цифрового контура в здравоохранении на основе единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ)»21, благодаря которому все организации сферы здравоохранения, имеющие информационные системы, информационно-телекоммуникационные сети, автоматизированные системы управления, будут категорированы как объекты критической информационной инфраструктуры (КИИ)22. Категорированию будут подлежать ИС, ИТКС, АСУ, которые обеспечивают управленческие, технологические, производственные, финансово-экономические и (или) иные критические бизнес-процессы в рамках выполнения функций (полномочий) или осуществления видов деятельности организации сферы здравоохранения. В итоге будет сформирован Перечень потенциально значимых объектов КИИ для организаций сферы здравоохранения и создан единый цифровой контур в здравоохранении на основе единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ). Общая задача цифровизации — обеспечить возможность оперативно получать достоверную и структурированную информацию, необходимую врачам и управленцам.

Для граждан основным пациентоориентиро-ванным сервисом является сервис «Мое здоровье», позволяющий записаться на прием к врачу; прикрепиться к медицинской организации; подать заявление о выборе страховой медицинской организации;

20 Паспорт национального проекта «Здравоохранение» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 24.12.2018 № 16). Документ опубликован не был (СПС КонсультантПлюс).

21 Национальный проект «Здравоохранение». Федеральный проект «Создание единого цифрового контура в здравоохранении на основе единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ)». Методические рекомендации по категорированию объектов критической информационной инфраструктуры сферы здравоохранения (Версия 1.0) (утв. Минздравом России 05.04.2021). Документ опубликован не был (СПС Консуль-тантПлюс).

22 Федеральный закон от 26.07.2017 № 187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» СЗ РФ, 31.07.2017, № 31 (Часть I), ст. 4736.

получить сведения об оказанных медицинских услугах и их стоимости; получить ряд документов, к примеру, медицинскую справку о допуске к управлению транспортным средством, электронные рецепты, сертификат о прививке от COVID-19 и др. Сервис активно развивается.

С завершением формирования единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ) в течение ближайших четырех лет электронные карты пациентов, центральные архивы медицинских изображений и единые лабораторные системы должны стать доступны для всех медучреждений страны. Все государственные медучреждения должны будут обеспечить доступ граждан к своим электронным медицинским документам через Единый портал госуслуг.

Для доступности медицины с учетом географических особенностей нашего государства активно развивается телемедицина23, которую внедряют многие организации здравоохранения24.

В России активно ведутся работы по стандартизации использования ИИ в области здравоохранения. Так, в 2020 г. был разработан первый в России проект национального стандарта для ИИ в здравоохранении, который регулирует проведение клинических испытаний медицинских ИИ-систем (СИИ). В целях координации работ по унификации и стандартизации требований к системам ИИ в здравоохранении, а также установки сертификационных требований к медицинским изделиям, приказом Росстандарта в составе ТК 164 создан подкомитет «Искусственный интеллект в здравоохранении» (ПК01/ТК164)25.

В соответствии с перспективным планом работы Технического комитета по стандартизации «Искусственный интеллект» (ТК 164), созданного на базе Акционерного общества «Российская венчурная компания» (РВК), до 2027 г. планируется разработать около 50 стандартов в области ИИ в здравоохране-

23 Приказ Минздрава России от 30.11.2017 № 965н «Об утверждении порядка организации и оказания медицинской помощи с применением телемедицинских технологий». Официальный интернет-портал правовой информации. URL: http://www.pravo.gov.ru, 10.01.2018 (дата обращения: 28.03.2021).

24 Следует отметить, что согласно закону о телемедицине врач не имеет права давать какие-либо рекомендации без первичного приема, установлен запрет на удаленную постановку диагноза. Отсутствуют ограничения на повторный прием.

25 Приказ Росстандарта от 31.12.2019 № 3471 «О внесении изменений в приказ Федерального агентства по техническому регулированию и метрологии от 25 июля 2019 г. № 1732 «О создании технического комитета по стандартизации «Искусственный интеллект»». Документ опубликован не был. СПС КонсультантПлюс.

нии по отдельным направлениям, включая общие требования и классификацию систем ИИ в клинической медицине, большие данные в здравоохранении, функциональную диагностику, лучевую диагностику, системы дистанционного мониторинга, гистологию, системы поддержки принятия врачебных решений, реконструкцию изображений в диагностике и лечении, медицинские системы аналитики и прогнозирования, а также образовательные программы в здравоохранении.

Для разработки стандартов на международном уровне создана рабочая группа Технического комитета № 215 «Информатизация здоровья» Международной организации по стандартизации (ИСО) — TC 215 ISO Health informatics. В его задачи входит формирование требований подтверждения соответствия высокотехнологичных систем ИИ для применения их в здравоохранении. В частности, оценки рисков влияния на здоровье пациентов, определения непротиворечивости баз медицинских данных, корректности вывода решений и организации информационного обмена между системами ИИ и электронными медицинскими картами, медицинскими изделиями и информационными системами в здравоохранении.

Исходя из представленного анализа, следует, что в Российской Федерации активно ведутся работы по цифровизации здравоохранения, проводится стандартизация использования ИИ, отечественные эксперты входят в ряд международных организаций, занимающихся, в том числе, цифровизацией здравоохранения, происходит обмен опытом как внутри государства, так и с зарубежными коллегами, активно развивается телемедицина, внедряются технологии ИИ в высокотехнологичный сектор оказания медицинской помощи, в стране создается единый информационный контур здравоохранения на базе ЕГИСЗ.

С учетом проведенного анализа имеющегося правового регулирования в России и за рубежом предлагаем выстроить институционально-правовую модель развития пациентоориентированной медицины на основе использования ИИ следующим образом.

1. В основе модели лежит смена лечебной парадигмы от клиентоориентированной медицины к пациентоориентированной.

2. Основными элементами модели являются:

• цифровизация управленческих процессов в системе здравоохранения (управление оказанием медицинских услуг, цифровизация формирования и оборота медицинских данных, цифро-визация организации к их доступу, электронные

медицинские карты, электронные медицинские записи);

• цифровизация оказания медицинской помощи (например, МРТ, КТ, высокотехнологичные операции при помощи робототехники, создание и оборот базы данных);

• интеграционные процессы в системе здравоохранения, объединение цифровых функций управления медицинскими учреждениями и цифровых процессов организации и оказания медицинской помощи и медицинских услуг в единой системе организаций здравоохранения независимо от организационно-правовых форм конкретных медицинских и фармацевтических учреждений;

• разработка обязательных требований для медицинских изделий (медицинских устройств) с использованием ИИ на основе риск-ориентированного подхода и их внедрение при помощи экспериментальных правовых режимов (регуля-торных песочниц). Правовыми основами их регулирования являются базовые принципы ИИ, применимые, в том числе, в области здравоохранения;

• интенсивное пространственное развитие телемедицины, особенно на труднодоступных территориях нашей страны;

• внедрение и продвижение института саморегулирования медицинской этики, в том числе для соблюдения врачебной тайны в условиях цифрови-зации медицинской помощи и медицинских услуг;

• внедрение финансово-правового механизма использования ИИ в системе здравоохранения, в основе которого должен быть институт медицинского страхования путем включения в перечень страховых покрытий в рамках ОМС оказание медицинской помощи с использованием ИИ, оказание услуг телемедицины и др.;

• на международном уровне Российской Федерации необходимо иметь представительство и активнее принимать участие в работе международных организаций, занимающихся вопросами развития цифрового здравоохранения.

выводы

1. Предложена институционально-правовая модель развития пациентоориентированной медицины на основе использования инновационных технологий, в том числе технологий ИИ. Происходят стремительные изменения в системе здравоохранения на основе применяемых технологий, которые необходимо регулировать, применяя системный подход. При таком подходе отдельные нормы различных отраслей права в совокупности с нормами стандартизации (техниче-

ского нормированием) рассматриваются в тесной взаимосвязи друг с другом.

2. Установлено, что несмотря на сложность прогнозирования проблем и последствий, вызванных использованием технологий ИИ в области здравоохранения, в научных публикациях выделяют следующие проблемы правового регулирования:

• проблемы, связанные с корректным определением юридической ответственности за деяния, совершенные с использованием технологий искусственного интеллекта [1, 2, 3-7, 15];

• проблемы, связанные с адаптацией вновь создаваемых норм права, направленных на регулирование отношений в этой сфере, в общем массиве существующего законодательства [1, 5];

• проблемы обеспечения конфиденциальности персональных сведений и личной информации в условиях сбора и хранения большого массива персональной информации в электронных и автоматизированных базах данных (институт врачебной тайны);

• проблемы стандартизации технологий ИИ в медицине;

• проблемы лицензирования медицинских изделий с использованием технологий ИИ;

• финансово-правовые проблемы оказания медицинских услуг в цифровом формате.

3. Развитие правового регулирования ИИ в области здравоохранения следует вести по следующим основным направлениям:

• в зависимости от выполняемых работ, оказываемых услуг в системе цифрового здравоохранения и от изготавливаемой высокотехнологичной продукции для медицины (медицинские изделия) и фармакологии;

• в зависимости от задействования в цифровом здравоохранении слабого или сильного ИИ;

• в зависимости от рисков и регулирования требований кибербезопасности, информационной безопасности, безопасности использования кибер-физических систем;

• в зависимости от финансирования выполняемых работ, оказываемых услуг в системе цифрового здравоохранения и от изготавливаемой высокотехнологичной продукции для медицины (медицинские изделия) и фармакологии (стимулирование государства, совершенствование правового механизма оплаты медицинских услуг и оказания медицинской помощи с использованием технологий ИИ через страховые компании).

4. Зарубежный опыт развитых стран (ФРГ и США) демонстрирует, что правовое регулирование цифровой медицины существенно опережает отече-

ственное по ряду направлений. В частности, для интенсивного внедрения инноваций в систему здравоохранения необходимо активнее задействовать институт обязательного медицинского страхования.

Также положительным опытом является разработка биоэтических принципов, необходимых для привлечения граждан в качестве людей, участвующих добровольно в медицинских исследованиях.

Для соблюдения врачебной тайны уместно медицинскому сообществу на уровне саморегулирования медицинской этики модернизировать «Клятву Гиппократа» для условий цифрового здравоохранения.

5. Международная стандартизация и отечественное техническое нормирование демонстрируют подход к техническому регулированию медицинских изделий как узкопрофильный. Этот подход следует оценивать положительно. Так, в 2020-2021 гг. приняты многочисленные отечественные стандарты в виде ГОСТов и предварительных ГОСТов, устанавливающих терминологию и требования безопасности. Бесспорно, это упорядочивает требования к технологиям ИИ в цифровом здравоохранении.

Вторая большая составляющая правового регулирования в сфере технического нормирования — это специальные стандарты в медицине, главным образом для определенных медицинских изделий. Кроме того, требует совершенствования и институт лицензирования медицинских изделий (разграничение с бытовыми товарами в сфере здравоохранения), ускоренное внедрение инновационных технологий ИИ, робототехники, КФС, работы в медицине, используемые в готовом изделии или при оказании услуг и проведении работ в сфере здравоохранения. Готовые изделия требуют более тщательного контроля и надзора со стороны государства. В частности, помимо соответствия стандартам медицинские изделия подлежат обязательному лицензированию (это затраты средств, сил и главное — времени).

6. Предлагается больше применять регуляторные песочницы — экспериментальные правовые режимы для следующей цепочки: новые технологии — высокотехнологичная медицина — экспериментальные методы лечения.

благодарности

Статья выполнена по результатам III этапа фундаментальной научно-исследовательской работы Фин-университета по теме «Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации». Финансовый университет, Москва, Россия.

acknowledgements

The article is based on the results of the III stage of the basic research work of the University of Finance on "The theory of legal regulation of artificial intelligence, robots and robotics objects in the Russian Federation". Financial University, Moscow, Russia.

список источников

1. Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди; 2017. 257 с.

2. Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц». Вопросы правоведения. 2017;(1):189-202.

3. Ручкина Г. Ф., ред. Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники в РФ. М.: Прометей; 2020. 296 с.

4. Попова А. В. Правовые аспекты онтологии искусственного интеллекта. Государство и право. 2020;(11):115-127. Б01: 10.31857^ 102694520012531-5

5. Попова А. В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования. Правовое государство: теория и практика. 2020;(3):34-43. Б01: 10.33184/ pravgos-2020.3.4

6. Горохова С. С. Технологии на основе искусственного интеллекта: перспективы и ответственность в правовом поле. Юрист. 2021;(6):60-67. Б01: 10.18572/1812-3929-2021-6-60-67

7. Свиридова Е. А., Рахматулина Р. Ш., Шайдуллина В. К., Горохова С. С., Лапина М. А. Вопросы экономико-правовой ответственности при применении технологий искусственного интеллекта в угольной отрасли. Уголь. 2020;(7):57-61. Б01: 10.18796/0041-5790-2020-7-57-61

8. Серова О. А. Проблемы развития методологии гражданско-правовых исследований в цифровую эпоху. Методологические проблемы цивилистических исследований. 2019;1(1):351-362.

9. Вайпан В. А., Егорова М. А., ред. Правовое регулирование экономических отношений в современных условиях развития цифровой экономики. М.: Юстицинформ; 2019. 376 с.

10. Гниденко И. Г., Егорова И. В., Мердина О. Д. Интеллектуальные системы как вектор развития информационной безопасности предприятия. Петербургский экономический журнал. 2020;(1):147-154. DOI: 10.25631/ PEJ.2020.1.147.154

11. Ельчанинова Н. Б. Проблемы правовой охраны интеллектуальной собственности в сети Интернет. Общество: политика, экономика, право. 2016;(12):118-120.

12. Ручкина Г. Ф., Лапина М. А., ред. Публично-правовые средства эффективности развития экономики и финансов. Ч. 1. Публично-правовые средства цифровизации управления, экономического и социального пространства. М.: Русайнс; 2020. 246 с.

13. Лазарев В. В., Гаджиев Х. И., Алимов Э. В. и др. Защита данных: научно-практический комментарий к судебной практике. М.: Контракт; 2020. 176 с.

14. Лупарев Е. Б. Правовое регулирование экспорта телемедицинских услуг: российский и европейский опыт. Кубанское агентство судебной информации PRO-SUD-123.RU: Юридический сетевой электронный научный журнал. 2020;(1):69-78.

15. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права. Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018;22(1):91-109. DOI: 10.22363/2313-2337-2018-22-1-91-109

16. Дудник В. Ю. Модель персонализированного медицинского обслуживания пациентов. Академический журнал Западной Сибири. 2016;12(1):98-100.

17. Николаев Н. Пациентоориентированная антигипертензивная терапия: клинические рекомендации для практических врачей. Врач. 2016;(4):82-85.

18. Меньшиков А. Н. Разработка модели пациентоориентированного здравоохранения в Республике Башкортостан. Обязательное медицинское страхование в Российской Федерации. 2016;(3):34-37.

19. Трошин С. П., Легкова И. Н., Гавриленко К. В. Создание пациентоориентированной модели ОМС на основе применения современных информационных технологий. Обязательное медицинское страхование в Российской Федерации. 2016;(6):34-41.

20. Аверин А. В., Швардакова О. А. Пациентоориентированные технологии в практике многопрофильной медицинской организации. Главная медицинская сестра. 2015;(10):39-48.

21. Китаева Э. А., Китаев М. Р., Суетина Т. А., Саляхова Л. Я., Вафин А. Ю. Внедрение пациентоориентирован-ной программы, направленной на формирование приверженности к лекарственной терапии у пациентов из сельской местности (на примере Рыбно-Слободского района Республики Татарстан). Вестник современной клинической медицины. 2017;10(2):64-71. DOI: 10.20969/VSKM.2017.10(2).64-71

22. Schunk M., Stark R., Reitmeir P., Meisinger C., Holle R. Towards patient-oriented diabetes care: Results from two KORA surveys in Southern Germany. Journal of Diabetes Research. 2015;2015:368570. DOI: 10.1155/2015/368570

23. Zheng K., Haftel H. M., Hirschl R. B., O'Reilly M., Hanauer D. A. Quantifying the impact of health IT implementations on clinical workflow: A new methodological perspective. Journal of the American Medical Informatics Association. 2010;17(4):454-461. DOI: 10.1136/jamia.2010.004440

24. Huang Z., Lu X., Duan H. On mining clinical pathway patterns from medical behaviors. Artificial Intelligence in Medicine. 2012;56(1):35-50. DOI: 10.1016/j.artmed.2012.06.002

25. Bouarfa L., Dankelman J. Workflow mining and outlier detection from clinical activity logs. Journal of Biomedical Informatics. 2012;45(6):1185-1190. DOI: 10.1016/j.jbi.2012.08.003

26. Ozkaynak M. Characterizing workflow in hospital emergency departments. Madison, WI: University of Wisconsin-Madison; 2011.

27. Blakemore K. Are professionals good for you? The example of health policy and health professionals. In: Blakemore K. Social policy: An introduction. Buckingham, Philadelphia: Open University Press; 1998.

28. Мухарямова Л. М., Кузнецова И. Б., Вафина Г. Г. Больной, пациент, клиент: позиции трудового мигранта в российской системе здравоохранения (на примере республики Татарстан). Вестник современной клинической медицины. 2014;7(1):43-49.

29. Гончаров Л. А. От государственного патернализма к клиентоориентированности? Российские институты власти в поисках эффективных моделей формирования и подготовки корпуса государственных гражданских служащих. Вестник Воронежского института экономики и социального управления. 2017;(2):68-74.

30. Понкин И. В., Понкина А. А., Лаптев В. С. Концепты электронного здравоохранения и электронного здоровья человека. Наркология. 2014;13(6):34-40.

31. Грищенко Г. А. Искусственный интеллект в государственном управлении. Российский юридический журнал. 2018;(6):27-31.

32. Васин С. Г. Искусственный интеллект в управлении государством. Управление. 2017;5(3):5-10.

33. Kraus S., Schiavone F., Pluzhnikova A., Invernizzi A. C. Digital transformation in healthcare: Analyzing the current state-of-research. Journal of Business Research. 2021;123:557-567. DOI: 10.1016/j.jbusres.2020.10.030

34. Marques I. C.P., Ferreira J. J.M. Digital transformation in the area of health: systematic review of 45 years of evolution. Health and Technology. 2020;10(3):575-586. DOI: 10.1007/s12553-019-00402-8

35. North K., Maier R., Haas O., eds. Knowledge management in digital change. Cham: Springer-Verlag; 2018. 394 p. (Progress in IS). DOI: 10.1007/978-3-319-73546-7

36. Hayrinen K., Saranto K., Nykanen P. Definition, structure, content, use and impacts of electronic health records: A review of the research literature. International Journal of Medical Informatics. 2008;77(5):291-304. DOI: 10.1016/j.ijmedinf.2007.09.001

37. Chakravorty T., Jha K., Barthwal S. Digital technologies as enablers of care-quality and performance: A conceptual review of hospital supply chain network. IUP Journal of Supply Chain Management. 2018;15(3):7-25.

38. Agnihothri S., Cui L., Delasay M., Rajan B. The value of mHealth for managing chronic conditions. Health Care Management Science. 2020;23(2):185-202. DOI: 10.1007/s10729-018-9458-2

39. Patricio L., Teixeira J. G., Vink J. A service design approach to healthcare innovation: From decision-making to sense-making and institutional change. AMSReview. 2019;9(8):115-120. DOI: 10.1007/s13162-019-00138-8

40. Yousaf К., Mehmood Z., Awan I. A., Saba T., Alharbey R., Oadah T., Alrige M. A. A comprehensive study of mobile-health based assistive technology for the healthcare of dementia and Alzheimer's disease (AD). Health Care Management Science. 2020;23(2):287-309. DOI: 10.1007/s10729-019-09486-0

41. Лапина М. А. Теоретико-правовые аспекты управления рисками. Государство и право. 2015;(2):35-44.

42. The rise of mHealth apps: A market snapshot. Liquid State. Mar. 26, 2018. URL: https://liquid-state.com/ mhealth-apps-market-snapshot/

43. Gerke S., Stern A. D., Minssen T. Germany's digital health reforms in the COVID-19 era: Lessons and opportunities for other countries. npj Digital Medicine. 2020;3(1):94. DOI: 10.1038/s41746-020-0306-7

44. Coravos A., Goldsack J. C., Karlin D. R., Nebeker C., Perakslis E., Zimmerman N., Erb M. K. Digital medicine: A primer on measurement. DigitalBiomarkers. 2019;3:31-71. DOI: 10.1159/000500413

45. Brewster T. Medical devices hit by ransomware for the first time in US hospitals. Forbes. May 17, 2017. URL: https://www.forbes.com/sites/thomasbrewster/2017/05/17/wannacry-ransomware-hit-real-medical-devices/#dad2b18425cf

46. Woods B., Coravos A., Corman J. D. The case for a Hippocratic Oath for connected medical devices: Viewpoint. Journal of Medical Internet Research. 2019;21(3):e12568. DOI: 10.2196/12568

references

1. Morkhat P. M. Artificial intelligence: Legal view. Moscow: Buki Vedi; 2017. 257 p. (In Russ.).

2. Yastrebov O. A. Discussion about the prerequisites for assigning robots the legal status of "electronic persons". Voprosy pravovedeniya. 2017;(1):189-202. (In Russ.).

3. Ruchkina G. F., ed. The theory of legal regulation of artificial intelligence, robots and robotics objects in the Russian Federation. Moscow: Prometheus; 2020. 296 p. (In Russ.).

4. Popova A. V. Legal aspects of artificial intelligence ontology. Gosudarstvo i pravo = State and Law. 2020;(11):115-127. (In Russ.). DOI: 10.31857/S 102694520012531-5

5. Popova A. V. Ethical principles of interaction with artificial intelligence as a basis of legal regulation. Pravovoe gosudarstvo: teoriya i praktika = The Rule of Law State: Theory and Practice. 2020;(3):34-43. (In Russ.). DOI: 10.33184/pravgos-2020.3.4

6. Gorokhova S. S. Artificial intelligence-based technologies: Prospects and liability in the legal environment. Yurist = Jurist. 2021;(6):60-67. (In Russ.). DOI: 10.18572/1812-3929-2021-6-60-67

7. Sviridova E. A., Rahmatulina R. S., Shaydullina V. K., Gorohova S. S., Lapina M. A. Issues of economic and legal responsibility in the application of artificial intelligence technologies in the coal industry. Ugol'. 2020;(7):57-61. (In Russ.). DOI: 10.18796/0041-5790-2020-7-57-61

8. Serova O. A. Problems of development of the methodology of civil law research in the digital age. Metodologicheskie problemy tsivilisticheskikh issledovanii = Methodological Problems of the Civil Law Researches. 2019;1(1):351-362. (In Russ.).

9. Vaipan V. A., Egorova M. A., eds. Legal regulation of economic relations in modern conditions of digital economy development. Moscow: Yustitsinform; 2019. 376 p. (In Russ.).

10. Gnidenko I. G., Egorova I. V., Merdina O. D. Intelligent systems as a vector of enterprise information security development. Peterburgskii ekonomicheskii zhurnal = Saint-Petersburg Economic Journal. 2020;(1):147-154. (In Russ.). DOI: 10.25631/PEJ.2020.1.147.154

11. Elchaninova N. B. The problems of legal protection of intellectual property on the Internet. Obshchestvo: politika, ekonomika, pravo = Society: Politics, Economics, Law. 2016;(12):118-120. (In Russ.).

12. Ruchkina G. F., Lapina M. A., eds. Public-legal means of economic and financial development efficiency. Pt. 1. Public-legal means of digitalization of management, economic and social space. Moscow: RuScience; 2020. 246 p. (In Russ.).

13. Lazarev V. V., Gadzhiev Kh.I., Alimov E. V. et al. Data protection: Scientific and practical comment on judicial practice. Moscow: Kontrakt; 2020. 176 p. (In Russ.).

14. Luparev E. B. Legal regulation of the export of telemedicine services: Russian and European experience. Kubanskoe agentstvo sudebnoi informatsii PRO-SUD-123.RU: Yuridicheskii setevoi elektronnyi nauchnyi zhurnal. 2020;(1):69-78. (In Russ.).

15. Ponkin I. V., Redkina A. I. Artificial intelligence from the point of view of law. Vestnik Rossiiskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki = RUDN Journal of Law. 2018;22(1):91-109. (In Russ.). DOI: 10.22363/2313-2337-2018-22-1-91-109

16. Dudnik V. Yu. A model of personalized medical care. Akademicheskii zhurnal Zapadnoi Sibiri = Academic Journal of West Siberia. 2016;12(1):98-100. (In Russ.).

17. Nikolaev N. Patient-oriented antihypertensive therapy: Clinical guidelines for practitioner. Vrach = The Doctor. 2016;(4):82-85. (In Russ.).

18. Menshikov A. N. Development of a model of patient-oriented healthcare in the Republic of Bashkortostan. Obyazatel'noe meditsinskoe strakhovanie v Rossiiskoi Federatsii. 2016;(3):34-37. (In Russ.).

19. Troshin S. P., Legkova I. N., Gavrilenko K. V. Creation of a patient-oriented models of obligatory medical insurance based on the application of current information technologies. Obyazatel'noe meditsinskoe strakhovanie v Rossiiskoi Federatsii. 2016;(6):34-41. (In Russ.).

20. Averin A. V., Shvardakova O. A. Patient-oriented technologies in the practice of a multidisciplinary medical organization. Glavnaya meditsinskaya sestra. 2015;(10):39-48. (In Russ.).

21. Kitaeva E. A., Kitaev M. R., Suetina T. A., Salyahova L. Ya., Vafin A. Yu. Implementation of patient oriented program aiming to develop compliance to drug therapy in rural area patients (in terms of Rybnaya Sloboda district of the Republic of Tatarstan). Vestnik sovremennoi klinicheskoi meditsiny = The Bulletin of Contemporary Clinical Medicine. 2017;10(2):64-71. DOI: 10.20969/VSKM.2017.10(2).64-71

22. Schunk M., Stark R., Reitmeir P., Meisinger C., Holle R. Towards patient-oriented diabetes care: Results from two KORA surveys in Southern Germany. Journal of Diabetes Research. 2015;2015:368570. DOI: 10.1155/2015/368570

23. Zheng K., Haftel H. M., Hirschl R. B., O'Reilly M., Hanauer D. A. Quantifying the impact of health IT implementations on clinical workflow: A new methodological perspective. Journal of the American Medical Informatics Association. 2010;17(4):454-461. DOI: 10.1136/jamia.2010.004440

24. Huang Z., Lu X., Duan H. On mining clinical pathway patterns from medical behaviors. Artificial Intelligence in Medicine. 2012;56(1):35-50. DOI: 10.1016/j.artmed.2012.06.002

25. Bouarfa L., Dankelman J. Workflow mining and outlier detection from clinical activity logs. Journal of Biomedical Informatics. 2012;45(6):1185-1190. DOI: 10.1016/j.jbi.2012.08.003

26. Ozkaynak M. Characterizing workflow in hospital emergency departments. Madison, WI: University of Wisconsin-Madison; 2011.

27. Blakemore K. Are professionals good for you? The example of health policy and health professionals. In: Blakemore K. Social policy: An introduction. Buckingham, Philadelphia: Open University Press; 1998.

28. Mukharyamova L. M., Kuznetsova I. B., Vafina G. G. Sick, patient, client: The positions of labor migrants in the Russian health care system (evidence from the Republic of Tatarstan). Vestnik sovremennoi klinicheskoi meditsiny = The Bulletin of Contemporary Clinical Medicine. 2014;7(1):43-49. (In Russ.).

29. Goncharov L. A. From state paternalism to client orientation? Russian government institutions in search of effective models for the formation and training of the corps of state civil servants. Vestnik Voronezhskogo instituta ekonomiki i sotsial'nogo upravleniya. 2017;(2):68-74. (In Russ.).

30. Ponkin I. V., Ponkina A. A., Laptev V. S. Concept of digital public health and e-health. Narkologiya = Narcology. 2014;13(6):34-40. (In Russ.).

31. Grishchenko G. A. Artificial intelligence in public administration. Rossiiskii yuridicheskii zhurnal = Russian Juridical Journal. 2018;(6):27-31. (In Russ.).

32. Vasin S. G. Artificial intelligence in state management. Upravlenie. 2017;5(3):5-10. (In Russ.).

33. Kraus S., Schiavone F., Pluzhnikova A., Invernizzi A. C. Digital transformation in healthcare: Analyzing the current state-of-research. Journal of Business Research. 2021;123:557-567. DOI: 10.1016/j.jbusres.2020.10.030

34. Marques I. C.P., Ferreira J. J.M. Digital transformation in the area of health: systematic review of 45 years of evolution. Health and Technology. 2020;10(3):575-586. DOI: 10.1007/s12553-019-00402-8

35. North K., Maier R., Haas O., eds. Knowledge management in digital change. Cham: Springer-Verlag; 2018. 394 p. (Progress in IS). DOI: 10.1007/978-3-319-73546-7

36. Háyrinen K., Saranto K., Nykánen P. Definition, structure, content, use and impacts of electronic health records: A review of the research literature. International Journal of Medical Informatics. 2008;77(5):291-304. DOI: 10.1016/j.ijmedinf.2007.09.001

37. Chakravorty T., Jha K., Barthwal S. Digital technologies as enablers of care-quality and performance: A conceptual review of hospital supply chain network. IUP Journal of Supply Chain Management. 2018;15(3):7-25.

38. Agnihothri S., Cui L., Delasay M., Rajan B. The value of mHealth for managing chronic conditions. Health Care Management Science. 2020;23(2):185-202. DOI: 10.1007/s10729-018-9458-2

39. Patricio L., Teixeira J. G., Vink J. A service design approach to healthcare innovation: From decision-making to sense-making and institutional change. AMSReview. 2019;9(8):115-120. DOI: 10.1007/s13162-019-00138-8

40. Yousaf К., Mehmood Z., Awan I. A., Saba T., Alharbey R., Oadah T., Alrige M. A. A comprehensive study of mobile-health based assistive technology for the healthcare of dementia and Alzheimer's disease (AD). Health Care Management Science. 2020;23(2):287-309. DOI: 10.1007/s10729-019-09486-0

41. Lapina M. A. Theoretical and legal aspects of risk management. Gosudarstvo i pravo = State and Law. 2015;(2):35-44. (In Russ.).

42. The rise of mHealth apps: A market snapshot. Liquid State. Mar. 26, 2018. URL: https://liquid-state.com/ mhealth-apps-market-snapshot/

43. Gerke S., Stern A. D., Minssen T. Germany's digital health reforms in the COVID-19 era: Lessons and opportunities for other countries. npj Digital Medicine. 2020;3(1):94. DOI: 10.1038/s41746-020-0306-7

44. Coravos A., Goldsack J. C., Karlin D. R., Nebeker C., Perakslis E., Zimmerman N., Erb M. K. Digital medicine: A primer on measurement. DigitalBiomarkers. 2019;3:31-71. DOI: 10.1159/000500413

45. Brewster T. Medical devices hit by ransomware for the first time in US hospitals. Forbes. May 17, 2017. URL: https://www.forbes.com/sites/thomasbrewster/2017/05/17/wannacry-ransomware-hit-real-medical-devices/#dad2b18425cf

46. Woods B., Coravos A., Corman J. D. The case for a Hippocratic Oath for connected medical devices: Viewpoint. Journal of Medical Internet Research. 2019;21(3):e12568. DOI: 10.2196/12568

информация об авторе / about the author

Марина Афанасьевна Лапина — доктор юридических наук, профессор, главный научный сотрудник, профессор департамента международного и публичного права, Финансовый университет, Москва, Россия

Marina A. Lapina — Dr. Sci. (Law.), Professor, Chief Researcher, Professor, Department of International and Public Law, Financial University, Moscow, Russia https://orcid.org/0000-0003-0320-161X MALapina@fa.ru

Конфликт интересов: автор заявляет об отсутствии конфликта интересов. Conflicts of Interest Statement: The authors have no conflicts of interest to declare.

Статья поступила в редакцию 02.09.2021; после рецензирования 20.09.2021; принята к публикации 27.12.2021. Автор прочитала и одобрила окончательный вариант рукописи.

The article was submitted on 02.09.2021; revised on 20.09.2021 and accepted for publication on 27.12.2021. The author read and approved the final version of the manuscript.