ГОСУДАРСТВЕННОЕ УПРАВЛЕНИЕ И РЕГУЛЯТОРНОЕ ПРОСТРАНСТВО В СФЕРЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

УНИВЕРСИТЕТА

O.E. Кугафина

Цифровая трансформация государственного управления

Игорь Владиславович ПОНКИН,

профессор кафедры административного права и процесса Университета имени О.Е. Кутафина (МГЮА), доктор юридических наук, профессор i@lenta.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9

Государственное управление и регуляторное пространство в сфере искусственного интеллекта

Аннотация. Статья посвящена оценке полноты и качества правового регулирования в сфере искусственного интеллекта и правового обеспечения применения искусственного интеллекта в государственном управлении. В статье отражено состояние и развитие регулирования искусственного интеллекта в России. Автор показывает, что сегменты актов концептуально-доктриналь-ного характера и стратегически-планировочного порядка, сегмент стандартизирующих документов в России более или менее отработаны и наполнены (хотя бы чисто формально), но собственно нормативно-правовое регулирование сегодня не существует — ни в полноценной модальности, ни как некоторая отправная позиция. Вскрыты некоторые ключевые проблемы в сфере регулирования разработки, тестирования, внедрения и применения искусственного интеллекта. Поднимается вопрос о разделении реальных разработок технологий искусственного интеллекта, перспективных для применения в государственном управлении или уже применяемых или тестируемых, и откровенного обмана в этой сфере.

Предложен механизм поиска соответствующих решений, первоочередные меры достройки регуляторного пространства в сфере искусственного интеллекта.

Ключевые слова: государственное управление, цифровизация государственного управления, искусственный интеллект, правовое регулирование в сфере искусственного интеллекта, публичное право.

DOI: 10.17803/2311-5998.2022.99.11.108-116

IGOR V. PONKIN,

Professor of the Department of Administrative Law and Procedure of the Kutafin Moscow State Law University (MSAL), Dr. Sci. (Law), Professor

i@lenta.ru

9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993

Public Administration and Regulatory Space in the Field of Artificial Intelligence

Abstract. The article is devoted to assessing the completeness and quality of legal regulation in the field of artificial intelligence and legal support for the use of artificial intelligence in public administration. The author shows the state and development of artificial intelligence regulation in Russia.

© И. В. Понкин, 2022

"7^ЕСТНИК Понкин И. В. л по

/ / S ) УНИВЕРСИТЕТА Государственное управление и регуляторное

имени o.e. кугафина(мгюА) пространство в сфере искусственного интеллекта

The author shows that the segments of conceptual and doctrinal and strategic planning acts and the segment of standardizing documents in Russia have been created and filled to a certain extent in the country (at least purely formally), but there are no acts of legal regulation today, neither in a full-fledged modality, nor as some starting point. The article reveals some key problems in the field of regulating the development, testing, implementation and use of artificial intelligence. The author raises the issue of separating the real developments of artificial intelligence technologies that are promising for use in public administration or are already being used or tested in this area, and outright deception in this area. The article proposes a mechanism for searching for appropriate solutions. The author proposes priority measures for completing the regulatory space in the field of artificial intelligence. Keywords: public administration, digitalization of public administration, artificial intelligence, legal regulation in the field of artificial intelligence, public law.

Введение

Обсуждение возможностей, целеполагания и релевантных примеров задействования искусственного интеллекта в государственном управлении1 уже вышло за рамки профессиональной дискуссии и стало позиционироваться как чуть ли не тотально повсеместное и широкомасштабное (по функционалам и целям) его задействование, хотя наличие ряда реальных примеров такого внедрения в целом показывает, что эта тематика находится еще в стадии проектирования и обсуждения.

Прежде всего, совершенно необходимы субстратное обобщение и концептуализация знаний, информативно-насыщенное представление идей о текущем состоянии, перспективных тенденциях и потребностях развития нормативно-правового, нормативного технического и экстраправового регулирования (в России и за рубежом) разработки, проектирования, тестирования, внедрения, оборота, эксплуатации, контроля эксплуатации, омологации технологий и юнитов искус-

Г

ственного интеллекта, отключения и утилизации таких юнитов (в том числе ки-берфизических систем). Необходимо картирование регуляторного пространства в сфере искусственного интеллекта. Следует точно оценить и понять, что имеется и насколько это имеющееся регулирование действительно работоспособно и перспективно, каковы критически-негативные пробелы и (или) иные дефекты в законодательстве Российской Федерации, а также в сфере экстраправового щАА

регулирования (саморегулирования).

Частично эти вопросы обсуждались на секции 7 «Нормативно-правовое

П

- го

регулирование искусственного интеллекта» и ряде других секций конгресса

па

1 Морхат П. М. Право и искусственный интеллект / предисл. И. А. Близнеца и И. В. Пон-

кина ; под ред. И. В. Понкина ; Российская гос. академия интеллектуальной собствен- в я

ности. М. : Юнити-Дана, 2018. 544 с. ления

>

в М УНИВЕРСИТЕТА

4-—^ и мени О. Е. Кугафи на

«Стратегическое лидерство и технологии искусственного интеллекта» в рамках форума Армия-2022 (16.08.2022), но все это были (при всей позитивной оценке в целом) лишь частные эпизоды. Необходимы намного более обстоятельные исследования и более детализированные и масштабные профессиональные обсуждения этого тематического горизонта. В настоящей статье мы затронем некоторые его аспекты.

Состояние и развитие регулирования искусственного интеллекта в России

Эволюция регулирования, как правило, имеет сложную и нелинейную трассировку. Регулирование редко осуществляется предиктивно — предвосхищая будущее. Но вот сфера ИИ — как раз исключение. Здесь насущно необходимо опережающее, стимулирующее регулирование.

Законодательство об искусственном интеллекте в России крайне фрагментарно (как следствие — пробельно), поверхностно и однобоко, сводится к единственному профильному Федеральному закону от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"», касающемуся регуляторного эксперимента в одном лишь субъекте РФ по лишь нескольким приложениям (направлениям применения) искусственного интеллекта.

Есть еще упоминания ИИ в нескольких федеральных законах, например в Федеральном законе от 27.07.2006 № 152-ФЗ (ред. от 02.07.2021) «О персональных данных» (п. 9.1 ч. 1 ст. 6).

Также следует привести несколько подзаконных актов в этой сфере:

— Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года);

— Указ Президента РФ от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017—2030 годы» (два упоминания);

— перечень поручений Президента РФ по итогам конференции по искусственному интеллекту, утвержденный Президентом РФ 31.12.2020 № Пр-2242;

— распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»;

— паспорт федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации» от 27.08.2020 (приложение № 3 к протоколу президиума Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности от 27.08.2020 № 17);

"7^ЕСТНИК Панкин И. В. ппп

я УНИВЕРСИТЕТА Государственное управление и регуляторное

имени o.e. кугафина(мгюА) пространство в сфере искусственного интеллекта

— ряд приказов федеральных органов исполнительной власти по некоторым частным вопросам искусственного интеллекта (в частности, приказ Минэкономразвития России от 29.06.2021 № 392 «Об утверждении критериев определения принадлежности проектов к проектам в сфере искусственного интеллекта»). Техническое нормативное регулирование включает некоторый объем (несколько десятков) профильных ГОСТов — нацстандартов и предварительных нацстандартов.

Упомянем подписанный в октябре 2021 г. Кодекс этики в сфере искусственного интеллекта (его немногочисленные достоинства существенно перевешиваются его глубокими недостатками, но это тема иной нашей статьи).

Есть некоторые документы, касающиеся машинного зрения и распознавания образов, машиночитаемого права, машинного обучения и ряда иных референтных аспектов.

Таким образом, не касаясь качества всех этих актов (не будем вдаваться в подробности, это отдельный вопрос), мы можем сказать, что сегмент актов кон-цептуально-доктринального характера и стратегически-планировочного порядка, равно как и сегмент стандартизирующих документов у нас более или менее в стране отработан и наполнен (хотя бы чисто формально).

Но собственно нормативно-правового регулирования и экстраправового регулирования — не то что в полноценной модальности, но и даже в качестве некоторой отправной позиции — на сегодня нет.

Останавливаться подробно на чисто инструментальных девиантологических (дефектологических) аспектах этого — смысла нет.

Но отметим, что такие объем и качество регулирования в данной сфере не могут быть признаны надлежащими.

Отсутствие надлежащего регулирования понятия, разработки, тестирования, внедрения и применения искусственного интеллекта создает множественность рисков (для национальной безопасности, для неприкосновенности частной жизни, безопасности личности и человеческого достоинства), усугубляемых тем, что пробелы публично-правового регулирования сферы искусственного интеллекта активно стремятся замещать своими интересами (по своему усмотрению, исключительно под свои коммерческие и даже идеологические (трансгуманизм) и т.д.), в полном отрыве от интересов публичных.

вия в связи с активным военным применением технологии и юнитов искусствен-

Г

Интенсивные размывание и деградация международного гуманитарного права и права ведения войны в текущих условиях создают чрезвычайно опасные усло- п р

Ш

ного интеллекта. Особо выраженные угрозы влечет активное автономное (пока ограниченное и в большей степени проектируемое) применение юнитов искус- п ^

ственного интеллекта в образцах вооружений, системах управления вооружения и управления боевыми действиями, угрожающее выходом таких юнитов из-под контроля человека. Вопрос здесь стоит не об аллюзии к фильмам про терминаторов, а об отсутствии внятных и верифицируемых способов подтвердить и обеспечить реально исчерпывающе полный контроль человека над подобного рода системами. рц

Не меньшие угрозы детерминированы применением искусственного интеллек- > и

та в сфере изысканий фармацевтических субстанций и инфекционных агентов,

ления

>

в М УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на

рассчитанных на селективное (избирательное) негативное воздействие на социальные группы определенных этнических генотипов.

Ключевые проблемы в сфере регулирования разработки,

тестирования, внедрения и применения искусственного интеллекта

Ключевыми проблемами в указанной сфере являются:

— чрезмерная увлеченность тематикой и риторикой искусственного интеллекта в условиях, когда нет никаких оснований говорить о его реальном наличии, и проявление выраженной некомпетентности по данному кругу вопросов, а такие разговоры служат лишь прикрытием для расходования финансовых средств, что размывает действительно серьезный круг проблем в этой сфере;

— в публичном пространстве практически нет материалов, в которых разработчики, производители, программные «оснастители», поставщики, владельцы и эксплуатанты юнитов искусственного интеллекта верифицируемо показывали и гарантировали бы отсутствие дефектов и дисфункций в рассматриваемой сфере — машинных сбоев, машинных «галлюцинаций» (Machines Hallucinations — в негативном смысле), «самовольничания» юнита искусственного интеллекта, самопроизвольной самоинтеграции нескольких различных юнитов искусственного интеллекта в искусственный метаинтеллект с последующим блокированием им каналов управления со стороны человека, злонамеренное закладывание разработчиком или третьим лицом в программную модель деструктивных «багов» — «модуляторов поведения» и др.), что, собственно, явно отражает реальное отсутствие таких гарантий и даже пониманий;

— отсутствие внятных и полноценных представлений о мере должного в действиях и этически определенных пределах действий разработчиков, производителей, программных «оснастителей», поставщиков, владельцев и экс-плуатантов юнитов искусственного интеллекта (все ныне сводимо к этическим благопожеланиям «кодекса», либо, по существу, к отсылкам к законам робототехники фантаста Айзека Азимова);

— отсутствие внятных и полноценных представлений о мере должного в ограничениях применения технологий и юнитов искусственного интеллекта в массированной идентификации людей. Так, в совместном заявлении глав Европейского совета по защите данных2 было объявлено о разработке регламентации применения искусственного интеллекта (AI): «Принимая во внимание чрезвычайно высокие риски, связанные с удаленной биометрической идентификацией людей в общедоступных местах, EDPB и EDPS призывают к общему запрету на любое использование ИИ для автоматического распознавания человеческих особенностей в общедоступных местах, таких как

2 См.: Европейский совет по защите данных (The European Data Protection Board, EDPB) и Европейский надзорный орган по защите данных (European Data Protection Supervisor, EDPS). 21.06.2021 // URL: https://edps.europa.eu/press-pubNcations/press-news/press-releases/2021/edpb-edps-call-ban-use-ai-automated-recognition_en>, 21 Jun. 2021.

"7^ЕСТНИК Панкин И. В.

я УНИВЕРСИТЕТА Государственное управление и регуляторное

имени o.e. кугафина(мгюА) пространство в сфере искусственного интеллекта

распознавание лиц, походка, отпечатки пальцев, ДНК, голос, нажатия клавиш и другие биометрические или поведенческие сигналы в любом контексте. Аналогичным образом, EDPB и EDPS рекомендуют запретить системы искусственного интеллекта, использующие биометрию, для классификации людей по группам на основе этнической принадлежности, пола, политической или сексуальной ориентации или других оснований»;

— отсутствие внятных и полноценных представлений (и соответствующих обсуждений) о мере должного в ограничениях применения технологий и юнитов искусственного интеллекта в биомедицинской сфере (мнимое «усовершенствование» человека в экстремистской идеологии трансгуманизма);

— отсутствие внятных и полноценных представлений (и соответствующих обсуждений) о мере должного в ограничениях применения технологий и юнитов искусственного интеллекта в военной сфере (есть некоторое число материалов Министерства обороны США и Министерства обороны Великобритании, но они по большей части выступают риторическими прикрытиями).

Вопрос о реальной интеллектоспособности (интеллектуального потенциала) искусственного интеллекта

Обсуждая поиск решений по вопросам улучшения в сфере искусственного интеллекта, в частности применительно к сфере государственного управления, в данном случае — по совершенствованию нормативного регулирования, мы попадаем в интересную ситуацию.

В рамках исследования, проведенного в 2019 г. лондонской инвестиционной компанией MMC Ventures, не удалось отыскать никаких подтверждающих доказательств (основанных на общедоступной информации и интервью с руководителями) действительного применения искусственного интеллекта или оперирования таковым в 40 % из 2 830 стартапов искусственного интеллекта в Европе3. В России эта проблема не менее остра — за искусственный интеллект выдается все что угодно, к нему никакого отношения в реальности не имеющее. Тем не менее объективно имеются яркие и достоверные, прагматически релевантные, реалистичные решения по созданию и внедрению технологий искусственного интеллекта.

no artificial intelligence programs in their products [Исследование показало, что европей-

J=

К сегодняшнему дню юниты (т.е. единицы, системы, комплексы) искусственного интеллекта явно (как это вполне подтверждаемо заявляется) умеют делать с р интеллектуализированный выбор, способны различать объекты даже в нечеткой логике, способны к сложному творчеству, к выработке древ решений и древ сценариев предиктивного моделирования.

ша

тн тп

3 Ram A. Europe's AI start-ups often do not use AI, study finds. Research shows two-fifths have ° q

г  о р

ские стартапы в области искусственного интеллекта часто не используют искусственный интеллект. Исследования показывают, что две пятых компаний не используют программы

искусственного интеллекта в своих продуктах] // URL: https://www.ft.com/content/21 b19010- вя

3e9f-11e9-b896-fe36ec32aece. 05.03.2019. л е ния

>

в М УНИВЕРСИТЕТА

4-—^ и мени О. Е. Кугафи на

И возникает вопрос, а что если поставить добротный (имеется в виду действительно, а не на словах работоспособный и эффективный, высокоскоростной, мощный) юнит (систему) искусственного интеллекта на обработку массива публикаций об искусственном интеллекте. При всем уважении к отечественной науке понятно, что сделать это надо не на хилой «туманности» редких толковых (в общем объеме) российских статей. Но не станем переоценивать и англоязычную литературу, а возьмем, к примеру, массив в 1 600—2 000 томов научной литературы по искусственному интеллекту на десятке языков мира: не только монографии авторитетных авторов, причем разной специализации — математиков, «1Т-шников» (программистов и программных архитекторов), правоведов, логиков и т.д., но и специализированные сборники материалов научных конференций (не студенческих).

Сможет ли юнит искусственного интеллекта, путем выявления, оценки или взвешивания, систематизации, машинно-аналитической обработки, найти ответы на следующие вопросы:

1. Каковы наиболее важные релевантные перспективные компьютерно-программные, математические, иные технические решения развития технологий искусственного интеллекта — из числа вообще обсуждаемых в этом массиве литературы?

2. Какие исследовательские направления и решения в области развития технологий искусственного интеллекта такого рода и из числа тех, которые очень активно ранее репрезентовались (публиковались) и обсуждались, вдруг в какие-то моменты полностью стали замалчиваться?

3. Каковы наиболее релевантные и безотлагательные решения в сфере нормативно-правового, нормативного технического и экстраправового регулирования разработки, проектирования, тестирования, внедрения, оборота, эксплуатации, контроля эксплуатации, омологации технологий и юнитов искусственного интеллекта, отключения и утилизации таких юнитов?

4. Каковы критически негативные пробелы и (или) иные дефекты в законодательстве Российской Федерации, препятствующие должному подрывному (прорывному, дизруптивному) или интенсивному эволюционному развитию, внедрению и применению искусственного интеллекта, в том числе технологий, его обеспечивающих, — машинного обучения, машинного зрения и распознавания, машинного чтения (в том числе машинного чтения нормативных онтологических объектов), машинных когнитивных способностей и в целом машинной аналитики?

5. Каковы наиболее существенные (в предельно конкретизированной формулировке) риски, продуцируемые дизруптивными технологиями в сфере искусственного интеллекта из числа тех, что обычно не обсуждаются?

Или же можно посадить юнит ИИ на патентную аналитику в целях выявления наиболее перспективных решений и собственное (этим юнитом ИИ) производство изобретений и технологических решений в интересах развития этой же сферы.

Ведь мы реально достигли такого уровня искусственного интеллекта, при котором он способен решать такие задачки. А уж если смотреть по отчетам отечественных спикеров, то мы давно уже прошли этот этап и способны получать решения столь простеньких задачек. Вот и возникает вопрос: а что же тогда мы

"7^ЕСТНИК Панкин И. В. ллк

я УНИВЕРСИТЕТА Государственное управление и регуляторное II^J

имени o.e. кугафина(мгюА) пространство в сфере искусственного интеллекта

здесь обсуждаем, если сами говорим о выходе на проектную мощность юнитов ИИ, для которых это простенькие задачи? Или же проблема много сложнее?

Кстати, не исключаемая нами провальность этой затеи даже при ее исполнении более чем способным к ее воплощению юнитом искусственного интеллекта может быть детерминирована проблемами недостаточной проработанности способов формализации в сфере машинной аналитики. То есть оператор может «зависнуть» на задаче формулирования своих «хотелок» (как сфому-лировать, что мы хотим). Ибо нам явно нужен не поиск по ключевым фразам типа «наиболее перспективные». Нам необходим глубинный, генетический, аппроксимированный поиск именно посредством интеллектуализированных технологических способов.

Впрочем, в пп. «а» п. 5 Указа Президента РФ от 10.10.2019 № 490 отмечено, что само понятие ИИ предполагает «поиск решений без заранее заданного алгоритма», т.е. в само это понятие сказанное уже заложено.

Вместо заключения. Первоочередные меры достройки регуляторного пространства в сфере искусственного интеллекта

Совершенствование правовых режимов в сфере искусственного интеллекта требует существенных усилий в аналитическом обеспечении этого процесса, а именно:

— обретения понимания и кристаллизации знаний о текущем состоянии, перспективных тенденциях и потребностях развития в России и за рубежом нормативно-правового, нормативного технического и экстраправового регулирования разработки, проектирования, тестирования, внедрения, оборота, эксплуатации, контроля эксплуатации, омологации технологий и юнитов искусственного интеллекта, отключения и утилизации таких юнитов (в том числе киберфизических систем);

— обретения понимания и кристаллизации знаний о текущем состоянии, перспективных тенденциях и потребностях развития в ведущих иностранных государствах нормативно-правового, нормативного технического и экстраправового регулирования разработки, проектирования, тестирования, внедрения, обо-

Г

рота, эксплуатации, контроля эксплуатации, омологации технологий и юнитов

искусственного интеллекта, отключения и утилизации таких юнитов; п р

обретения понимания и кристаллизации знаний о критически негативных про- д

белах или иных дефектах в законодательстве Российской Федерации, пре- р>

пятствующих должному подрывному (прорывному, дизруптивному) развитию,

внедрению и применению искусственного интеллекта;  >

нахождения хотя бы приблизительного экспертного консенсуса относительно

наиболее приоритетных, самых актуально востребованных, неотложных ме- о ф

рах по внесению изменений в законодательство Российской Федерации по

обсуждаемой тематике; возможно — формулирования таких предложений

для подачи в уполномоченные инстанции; рц

нахождения предварительных конструктивных решений о создании регу- >и

ляторных песочниц по обсуждаемой тематике, о разработке предложений ления

>

в Я УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на

о применении иных новейших регуляторных технологий и инструментов — регуляторных экспериментов, экосистем, платформ в этой сфере. Непосредственно совершенствование правовых режимов в сфере искусственного интеллекта, полагаем, должно включать следующие меры.

В регулировании следует сосредоточиться доминирующим образом не на поддержке абстрактных идей в сфере искусственного интеллекта, а в части поддержки — на технологиях, интегративно составляющих технологии искусственного интеллекта: технологиях машинного обучения, технологиях машинного зрения и распознавания образов, технологиях машинной аналитики и в целом машинных когнитивных технологиях, технологиях машиночитаемого, машинопроектируемого и машинопроизводимого права, сделав вторую доминанту на поддержке технологий искусственного интеллекта в конкретных сферах и на конкретных направлениях (в военной сфере, в сфере беспилотных транспортных средств и т.д.).

Необходимо существенно пересмотреть (в современных условиях экономической войны и иных имеющих место известных обстоятельств) отечественное патентное право в части закрепления правовой возможности и правовых условий и механизмов освобождения от патентно-правовой охраны тех объектов прав интеллектуальной собственности, в которых есть насущная необходимость России на уровне обеспечения национальной безопасности и публичного порядка, национальных интересов.

БИБЛИОГРАФИЯ

1. Момотов В. В. Искусственный интеллект в судопроизводстве: состояние, перспективы использования // Вестник Университета имени О.Е. Кутафина (МГЮА). — 2021. — № 5. — С. 188—191.

2. Морхат П. М. Право и искусственный интеллект / Предисл. И. А. Близнеца и И. В. Понкина ; под ред. И. В. Понкина / Российская гос. академия интеллектуальной собственности. — М. : Юнити-Дана, 2018. — 544 с.

3. Соменков С. А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О.Е. Кутафина (МГЮА). — 2019. — № 2. — С. 75—85.

4. Ram A. Europe's AI start-ups often do not use AI, study finds. Research shows two-fifths have no artificial intelligence programs in their products [Исследование показало, что европейские стартапы в области искусственного интеллекта часто не используют искусственный интеллект. Исследования показывают, что две пятых компаний не используют программы искусственного интеллекта в своих продуктах] // URL: https://www.ft.com/content/21b19010-3e9f-11e9-b896-fe36ec32aece. — 05.03.2019.