ВЫСОКИЕ ТЕХНОЛОГИИ В РАМКАХ ПРАВОВОГО ПОЛЯ: РЕАЛИИ И ПЕРСПЕКТИВЫ

УДК 341.1/8

М. Э. ГУЛИЕВА

M. E. GULIEVA

Высокие технологии в рамках правового поля: реалии и перспективы

High technologies involved into the legal field: realities

and perspectives

Аннотация

Технологии, которые внедряются в общественные процессы, из-за многочисленных рисков и возможностей, которые они несут в себе, подлежат регулированию, т.е. установлению набора правил, определяющих основы их применения в каждой конкретной ситуации. Создание новой технологии может иметь серьезные последствия, что вызывает необходимость разработки дополнительных правовых регуляторов. Учитывая, что чаще всего речь идет о разрешении споров и конфликтов в обществе, эти регуляторы должны иметь обязательный характер. Важным аспектом, при этом, является соблюдения принципа защиты персональных данных и невмешательства в личную жизнь, что заставляет некоторые государства более тщательно прорабатывать возможные в этой области предписания.

Ключевые слова: технологии, государства, регулирование, общество, законопроект, развитие, искусственный интеллект.

Abstract

Technologies which are included into the social processes, due to a number of risks and opportunities that they can cause are the subjects to the regulation, i.e. establishing a set of rules determining the basis for their application in each specific situation. The creation of each technology can have serious consequences, which need the development of additional legal regulators. Considering the points of resolving disputes and conflicts in society, these regulators must be obligatory. At the same time, the important aspect here is the observation of the principles of protection of personal information and non-interference in personal life, which forces some states to treat more carefully with the bills in this area.

Keywords: technologies, states, regulation, society, bill, development, artificial intelligence.

Введение

С момента создания первого автоматизированного механизма появилось правило обязательного регулирования использования технологических инноваций в обществе с помощью особых средств и инструментов. Однако в обществе «бытует мнение», что регулирование, направленное на контроль технологических процессов, часто препятствует их развитию и повсеместному использованию, при этом, не учитывая, что оно также выполняет ряд функций, которые способствуют развитию технологий. Государственное регулирование может как обеспечить признание конкретной технологии и установить стандарты, которые могут помочь технологии быть принятой обществом, так и определить критерии, при помощи которых использование этой технологии является приемлемым. Отсюда можно сделать вывод, что государственное регулирование оказывает большое влияние не только на развитие инноваций, но и степень внедрения технологий в определенные области.

На сегодняшний день многие госу-

дарства работают над созданием государственного механизма по регулированию высоко — технологичных процессов, включая деятельность по применению искусственного интеллекта (далее ИИ). Однако после того, как некоторые государства сформировали стратегии в отношении применения высоких технологий и разработали несколько предложений по этическим основам его использования, во многих юрисдикциях возникли правовые коллизии, о некоторых их которых будет рассмотрено ниже.

Основное исследование

В 50-х годах XX века Алан Тьюринг разработал концепцию о переводе сложных вычислительных функций, выполняемых человеческим разумом, машинам [6, рр. 2365]. В XXI веке данная концепция расширилась в значительной степени благодаря развитию вычислительной мощности технологий и возможностей хранения и обработки данных [4, сс. 4-7]. Из-за универсальности характера сегодня трудно определить высоко — технологические процессы с точки зрения регулирования

и разместить их в определённые рамки с ограниченными вариантами использования, рисками и возможностями. Чтобы регулировать такого рода технологии были попытки создать правовые механизмы, как с точки зрение регионального, так и отраслевого признаков [3].

Трансграничные аспекты регулирования высоких технологий не столь универсальны, как в случае с такими цифровыми технологиями, как, например, Интернет. Но сегодня появляется явный интерес к созданию международных регулятивных механизмов, как в случае со смертоносными автономными системами вооружения, при этом, в целом, сама польза, приносимая обществу данным видом технологий, является весьма спорной. Так, Международный комитет Красного Креста несколько раз выносил эту тему на международную повестку. Кроме того, в рамках Конвенции об обычном оружии она также обсуждается Международной группой правительственных экспертов. Существуют также международные институты такие, как Специальный Комитет при Совете Европы по искусственному интеллекту, целью которого является разработка Рамочной конвенции об искусственном интеллекте. Тем не менее, разработаны также регулирующие механизмы и на национальном уровне. По мере того, как высокие технологии стали коммерчески более «жизнеспособными», одна из самых главных проблем, с которой столкнулись законодатели, состоит в том, чтобы определить, что можно оставить на усмотрение этических норм (представляющих из себя как неформальные рекомендации, так и произвольно принятые стандарты), а какие предлагаемые подходы следует регламентировать в законе [1].

Европейский Союз

Правовой основой Европейского Союза (далее ЕС), установленной в основных документах организации, является статья 114 («Внутренний рынок») Договора о функционировании Европейского Союза (далее <«^Еи»), что полностью соответствует целям, заключающимся в гармонизации правил для размещения на рынке, ввода в эксплуатацию и использования автоматизированных систем на территории Союза [5, рр. 1-11]. Первым шагом к регулированию ИИ в Европейском Союзе стало принятие ещё в 2018 году Европейской Комиссией «Европейской стратегии по искусственному интеллекту».1 В 2019 году были разработаны основные правила для внедрения и регулированию искусственного интеллекта, которые были доработаны и расширены уже в 2020 году Европейской комиссией2. Новые правила будут применяться напрямую и одинаковым образом во всех государствах-членах. К этим правилам относятся следующие положения:

- гарантировать, что системы искусственного интеллекта, размещенные и используемые на рынке Союза, безопасны и соответствуют действующему законодательству об основных правах и ценностях Союза;

- обеспечить правовую определенность для содействия инвестициям и инновациям в сфере ИИ;

Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions, A Digital Single market Strategy for Europe, 6 May 2015, COM(2015) 192 final (2014-2019). https://eur-lex.europa.eu/legal-content/EN/ TXT/?uri=cele x%3A52015DC0192.

Commission von der Layen "Shaping Europe's digital future: A Europe fit for the Digital Age" (one of six priorities) (2020-2025), online: https://ec.europa.eu/info/strategy/ priorities-2019-2024/europe-fit-digital-age en.

- улучшить управление и эффективное применение существующего закона об основных правах и требованиях безопасности, применимых к системам ИИ;

- способствовать развитию единого рынка законных, безопасных и заслуживающих доверия приложений ИИ и предотвращать фрагментацию рынка. По мнению Комиссии ЕС, правила

должны основываться на следующих основных требованиях:

Данные для обучения. Наборы данных и их использование должны соответствовать стандартам, изложенным в соответствующих правилах безопасности ЕС. Также должны быть предусмотрены специальные данные для обучения ИИ. Например, системы искусственного интеллекта должны работать с достаточно объёмным наборам данных, чтобы охватить все сценарии, возможные для предотвращения опасных ситуаций, тем самым избегая ненужных рисков. Это включает также принятие необходимых мер для предотвращения дискриминации.

Ведение учета. Необходимо принять адекватные меры, чтобы избежать так называемого «эффекта черного ящика». Соответственно, следует вести учет наборов данных, используемых для обучения и тестирования систем ИИ, а также его основных характеристик. Также должна быть четкая документация по программированию, обучению и процессам, используемым для создания и проверки систем ИИ. В некоторых случаях следует сохранить и сами данные, хотя это может повлечь за собой дополнительные расходы на хранение.

Информативность. Системы ИИ должны быть прозрачными. Это также подразумевает информирование людей, когда они взаимодействуют с системами ИИ, при этом вся информация должна быть краткой и понятной.

Надежность. Многие технологии искусственного интеллекта непредсказуемы и трудно поддаются контролю. Должна быть предварительная оценка рисков, а также контроль того, что системы ИИ работают точно на протяжении всей фазы их жизненного цикла с воспроизводимыми результатами. Кроме того, системы ИИ также должны адекватно обрабатывать ошибки и иметь возможности для их обработки и исправления.

Надзор со стороны человека. В зависимости от обстоятельств человеческий контроль должен осуществляться до того, как будет произведен результат, или после него, и/или на протяжении всего процесса. Это должно зависеть от типа системы и формы ее использования: например, автоматизированный беспилотный автомобиль должен иметь кнопку безопасности или подобное устройство, чтобы человек мог взять на себя его управление при определенных обстоятельствах; он также должен предусматривать прерывание работы, если определенные элементы системы работают ненадежно.

Основной целью Европейского Союза является создание Единого Цифрового Рынка на всём европейском пространстве. Разработки ЕС направлены, прежде всего, на комплексное регулирование, включающее государственный сектор и частный сектор (государственные органы и органы ЕС, а также национальные органы и органы государственной власти). Этот комплексный подход считается горизонтальным и не ограничивается только областью деятельности. Объем применяемого подхода основан на значении и роли высоко — технологичных систем и определяет возможные риски для основных прав, здоровья или безопасности людей независимо от технологий, методов или применяемого сектора [2, с. 107115].

Однако есть исключения, при которых эти правила не применяются. К технологиям, разработанным или используемым исключительно в военных целях указанные правила не распространяются. Это можно объяснить тем, что военные вопросы входят в компетенцию не только Евросоюза, но и государств-членов. Также эти правила не действуют в отношении государственных органов третьих стран, а также международных организаций, если иное не предусмотрено в рамках международных договоров в области правоприменения и судебного сотрудничества с Союзом и/или с одним или несколькими государствами-членами. Это исключение оправдано уважением суверенитета других государств и независимости международной организации.

В феврале 2020 года Европейская Комиссия приняла новый документ под названием «Белая Книга», которая должна создать видение ИИ как «Экосистемы качества и надежности». Правила регулирования, утвержденные в рамках данной Белой Книги, были опубликованы в 2021 году.

Помимо принятых в рамках всего Евросоюза правовых норм каждое европейское государство работает также над отдельными проектами. Например, 15 марта 2021 г. федеральное правительство Германии представило на обсуждение в парламент Германии законопроект о полностью автоматизированном вождении.3 В соответствии с законопроектом автономным транспортным средствам будет разрешено ездить в обычном режиме без физического присутствия водителя, ограниченного определенными на тот момент

Draft law of the Bundesregierung, Entwurf eines Gesetzes

zur Änderung des Straßenverkehrsgesetzes und des Pflich tversicherungsgesetzesbiGesetz zum autonomen Fahren, Drucksache 19/27439 (March 15, 2021), available at https:// dip21.bundestag.de/dip21/btd/19/274/1927439.pdf.

местными рабочими зонами. Законопроект также включает в себя рамочные положения об ответственности, согласно которым если, например, человек получает травму или поврежден какой-то предмет во время управления автомобилем, автострахование владельца автомобиля компенсирует данный ущерб. Тем не менее, законопроект также вводит такое новое понятие как «технический надзор», определяемый как возможность деактивиро-вать беспилотный автомобиль во время работы и применять необходимые маневры для дальнейшего безопасного вождения автономного транспортного средства. В принципе, за «технический надзор» отвечает владелец автомобиля, но он также может поручить выполнение этих задач другому лицу. Тем не менее, владелец по-прежнему несет ответственность за любое действие лица, на которое возложен «технический надзор».

США

В 2020 году компании и регулирующие органы столкнулись с беспрецедентными проблемами, преодолевая кризис, вызванный Covid-19, и быстро меняющимся набором вопросов и политических предложений по регулированию высоко — технологических процессов, в особенности, искусственного интеллекта. Еще до того, как пандемия короновируса привела к глобальному сбою рынка электронных услуг и перегрузке виртуальных сетей, растущий потребительский спрос требовал установлению большей ответственности в рамках экосистемы ИИ.4 В Соединенных Штатах эта тенденция проявилась, в частности, в призывах к регулированию опре-

Natasha Singer, 'Employers Rush to Adopt Virus Screening. The Tools May Not Help Much,' The New York Times (14 May 2020), available at https://www.nytimes.com/2020/05/11/ technology/coronavirus-worker-testing-privacy.html (accessed 07.02.2023).

деленных «противоречивых» технологий и способов применения ИИ, что дало законодателям больше возможностей в рамках принятия более масштабных шагов в целях контроля сферы применения ИИ и автоматизированных систем в государственном и частном секторах.

В 2019 году федеральное правительство стало уделять приоритетное внимание как разработке, так и регулированию технологий искусственного интеллекта. 11 февраля 2019 года президент Дональд Трамп подписал указ о создании «Американской инициативы по искусственному интеллекту»,5 призванной стимулировать разработку и регулирование искусственного интеллекта и укрепить позицию Соединенных Штатов на международной арене, предписывая федеральным агентствам ставить в приоритеты инвестировать в исследования и разработки ИИ.6 Данный указ, названный как «Поддержание американского лидерства в области искусственного интеллекта», обозначил пять ключевых областей: исследования и разработки, «высвобождение» ресурсов ИИ, установление стандартов управления ИИ, создание рабочих инструментов ИИ, а также развитие международного сотрудничества и поддержание безопасности.

Через пару месяцев после указа, 11 апреля 2019 г., был принят Закон о развитии искусственного интеллекта посредством исследований (далее «GrAITR») для создания скоординированной федеральной инициативы, направленной на ускорение исследований и разработок в области ИИ для экономической и национальной безопасности США и устранение существу-

Donald J Trump, Executive Order on Maintaining American

Leadership in Artificial Intelligence, The White House (11

February 2019).

The White House, Accelerating America's Leadership in Artificial Intelligence, Office of Science and Technology Policy (11 February 2019).

ющего дефицита финансирования.7 Закон должен был создать стратегический план по инвестированию 1,6 млрд долларов США в течение 10 лет в исследования, разработку и применение ИИ в частном секторе, академических кругах и государственных учреждениях, включая Национальный научный фонд и Министерство энергетики. Законопроект был передан в комитет Палаты представителей по науке, космосу и технологиям, но принят не был.

В мае 2020 года был принят Закон «О создании сетевой безопасности искусственного интеллекта» (далее «GAINS»), который предписывает Министерству торговли и Федеральной торговой комиссии определить преимущества и препятствия для внедрения ИИ в США; изучить стратегии других государств в области искусственного интеллекта и провести оценку в сравнении с Соединенными Штатами; а также оценить риски поставок и выявить способы их устранения.8 Законопроект требует, чтобы агентства сообщали о результатах своей деятельности Конгрессу вместе с рекомендациями по разработке национальной стратегии искусственного интеллекта.

Несколько законопроектов, предложенных на федеральном уровне, были направлены на увеличение финансирования и развитие инноваций в оборонном секторе США. 16 июня 2020 года был представлен законопроект «Об искусственном интеллекте для вооруженных сил», направленный на дальнейшее укрепление потенциала Министерства обороны США в области искусственного интеллекта за счет увеличения числа специалистов по искусственному интеллекту и киберспе-циалистов. Законопроект требовал от ми-

HR 2202, 116th Cong (2019). HR 6950, 116th Cong (2019-2020).

нистра обороны разработать программу обучения и сертификации, а также издать руководство о том, как правительство могло бы содействовать найму специалистов по ИИ. Министерство обороны должно было гарантировать, что любая технология искусственного интеллекта, приобретенная Министерством, будет разрабатываться с соблюдением всех этических норм и принципов.9

В феврале 2021 г. комитет Палаты представителей по вооруженным силам создал новый подкомитет по кибербезо-пасности, инновационным технологиям и информационным системам, в ведении которого находится политика Министерства обороны США в отношении искусственного интеллекта.10 Подкомитет был создан для «более целенаправленного внимания» к технологическим возможностям, включая ИИ.

Заключение

Разработка и внедрение искусственного интеллекта представляет собой многогранный процесс, включающий различные аспекты, такие как: отрасли внедрения; краткосрочные, среднесрочные и долгосрочные перспективы развития; план финансовой поддержки отрасли;

9 'Summary of AI Provisions from the National Defense Authorization Act 2021', Stanford Human-Centered Artificial Intelligence, available at https://hai.stanford.edu/policy/ policy-resources/summary-ai-provisions-national-defense-authorization-act-2021.

10 House Armed Services Committee, 'Cyber, Innovative Technologies, and Information Systems', available at https:// armedservices.house.gov/cyber-innovative-technologies-and-information-systems.

сложности этического характера и многие другие. Развитие технологий ИИ в каждом отдельном государстве может иметь свои особенности в соответствии с потребностями и экономическими особенностями. Анализ государственных стратегий в области высоких технологий в различных государствах даёт возможность выделить полезные особенности с целью имплементации позитивного опыта структурирования правовых механизмов, структурирующих отношения в сфере искусственного интеллекта.

Обсуждение вопроса регулирования высоко — технологичных продуктов за последние годы явно ускорилось, что привело к появлению дополнительных предложений от законодательных органов в отношении различных секторов общественной жизни. Тем не менее, хотя фактически уже был принят ряд законодательных актов, касающихся регулирования высоких технологий, в том числе, и технологий искусственного интеллекта, те из них, которые были приняты, и те, которые находятся на стадии рассмотрении в качестве законопроектов, по-прежнему вызывают серьезные вопросы. Учитывая указанные обстоятельства, следующие несколько лет окажутся чрезвычайно важными для всех государств с точки зрения развития механизмов контроля и руководства технологиями. А поскольку технологии становятся главным элементом нашего времени, правовым регуляторам придётся активно развиваться вслед за ними.

Список литературы

1. Бакуменко В. В. [и др.]. Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта / В. В. Бакуменко. Москва: Инфотропик Медиа. — 2018. — 220 с. ISBN 978-5-9998-0324-5.

2. МатюкЮ. С. Правовое регулирование искусственного интеллекта: зарубежный опыт // Российский журнал правовых исследований. — 2022. — Т. 9. — №2. — C. 107-115. Doi: 10.17816/RJLS91009.

3. Правовое регулирования искусственного интеллекта, роботов и объектов робототехники как условие формирования экономического лидерства в России: монография / Г. Ф. Ручкина, М. В. Демченко, А. В. Попова и др.; под ред. Г. Ф. Ручкиной. — Москва: Прометей, 2021. — 350 с. — ISBN 978-5-00172-197-0.

4. ШошитаишвилиН. Г. Тест Тьюринга, за и против создания искусственного интеллекта // Международный студенческий научный вестник. 2018. № 4-7. С. 1135-1141.

5. Kop, Mauritz, EU Artificial Intelligence Act: The European Approach to AI (September 21, 2021). Stanford — Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/ 2021. Pp. 1-11. D0I:10.2139/ssrn.3705590.

6. Turing A. M. (2009). Computing Machinery and Intelligence. In: Epstein, R., Roberts, G., Beber, G. (eds) Parsing the Turing Test. Springer, Dordrecht. Pp. 23-65. ISBN: 978-1-4020-9624-2.

References

1. Bakumenko V. V. [i dr.]. Noviye zakoni robototexniki. Regulyarniy landshaft. Mirovoy opit regulirovaniya robototexniki I texnologiy iskusstvennogo intellekta / V. V. Bakumenko. Moscow: Infotropik Media, 2018. 220 p. ISBN: 978-5-9998-0324-5.

2. Matyuk Yu.S. Pravovoe regulirovanie iskusstvennogo intellekta: zarubezhny'j opy't // Rossijskij zhurnal pravovy'kh issledovanij. — 2022, T. 9, No 2, pp. 107-115. Doi: 10.17816/ RJLS91009.

3. Pravovoye regulirovaniye iskusstvennogo intellekta, robotov i ob'yektov robototekhniki kak usloviya formirovaniya ekonomicheskogo liderstva v Rossii: monografiya / G. F. Ruchkina, M. V. Demchenko, A. V. Popova [i dr.] ; pod red. G. F. Ruchkinoy, Moskva: Prometey, 2021, 350 pp. — ISBN 978-5-00172-197-0.

4. Shoshitaishvili N.G. Test A. Turinga, za i protiv sozdaniya iskusstvennogo intellekta // Mejdunarodniy studencheskiy nauchniy vestnik, 2018, No 4-7, Pp. 1135-1141.

5. Kop, Mauritz, EU Artificial Intelligence Act: The European Approach to AI (September 21, 2021). Stanford — Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/2021, Pp. 1-11. D0I:10.2139/ssrn.3705590.

6. Turing A. M. (2009). Computing Machinery and Intelligence. In: Epstein, R., Roberts, G., Beber, G. (eds) Parsing the Turing Test. Springer, Dordrecht, Pp. 23 — 65. ISBN: 978-1-4020-9624-2.

ИНФОРМАЦИЯ ОБ АВТОРЕ

Гулиева Мехрибан Эльбрус кызы, к.ю.н., доцент Департамента международного и публичного права Юридического факультета Финансового университета при Правительстве Российской Федерации

MEGulieva@fa.ru

ABOUT THE AUTHOR

Mekhriban E. Gulieva, PhD in Law, Associate Professor of the Department of International and Public Law Faculty of Law of the Financial University under the Government of the Russian Federation

MEGulieva@fa.ru

Статья поступила в редакцию 17.02.23; одобрена после рецензирования 10.03.23;

принята к публикации 17.03.23; Авторы прочитали и одобрили окончательный вариант рукописи.

The article was submitted 17.02.23; approved after reviewing 10.03.23;

accepted for publication 17.03.23; The authors read and approved the final version of the manuscript.