ЗАРУБЕЖНЫЙ ОПЫТ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СУДЕБНОЙ СИСТЕМЕ

СУДЕБНАЯ ВЛАСТЬ И ПРОКУРАТУРА

УДК 34

DOI: https://doi.org/10.17308/law/1995-5502/2023/3/35-44

ЗАРУБЕЖНЫЙ ОПЫТ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СУДЕБНОЙ СИСТЕМЕ

Н. М. Галкина, Д. В. Кузнецова, М. А. Воробьев Национальный исследовательский университет «Высшая школа экономики»

INTERNATIONAL EXPERIENCE IN THE APPLICATION OF ARTIFICIAL INTELLIGENCE IN THE JUDICIAL SYSTEM

N. M. Galkina, D. V. Kuznetsova, M. A. Vorobyev National Research University «Higher School of Economics»

Аннотация: в последнее десятилетие технологии искусственного интеллекта (ИИ) получают все большее распространение. Положительные эффекты их применения трудно недооценить - оптимизация рабочих процессов, повышение эффективности труда, экономия времени и простота использования. Сегодня мы можем наблюдать, как все большее количество программ на базе ИИ берется на вооружение судебными системами различных стран мира. В России применение ИИ в судебной системе находится на начальном этапе. В связи с этим авторы статьи провели обзор зарубежного опыта применения ИИ в судебной системе и пришли к выводу, что технологии ИИ имеют значительный потенциал в качестве инструмента в системе правосудия, однако при внедрении технологий на базе ИИ необходимо учитывать ряд этических моментов и правовых рисков. Ключевые слова: искусственный интеллект, этика и право, судебная система.

Abstract: artificial Intelligence (AI) technologies have become increasingly widespread in the last decade. The positive effects of their use are hard to underestimate - streamlined workflows, increased efficiency, time savings and ease of use. Nowadays, we can see how an increasing number of Al-based programs are being implemented in judicial systems around the world. In Russia, the use of AI in the court system is at an initial stage. In this connection the authors of the article reviewed foreign experience in the use of AI in the judicial system. The authors concluded that AI technologies have significant potential as a tool in the justice system, however, when implementing AI-based technologies, a number of ethical issues and legal risks must be taken into account. Key words: Artificial Intelligence, ethics and law, judicial system.

Мы живем в уникальное время формирования новой реальности, когда технический прогресс достиг такого высокого уровня, что нам открыты возможности использования технологий искусственного интеллекта (далее - ИИ) практически во всех областях деятельности1.

Системы, относящиеся к ИИ, получают все более широкое распространение. Положительный

1 См.: Álvaro Alegría Meunier. Inteligencia Artificial y Tribunales - El debate sigue // Telefónica Tech. 2019. URL: https://empresas.blogthinkbig.com/ia-el-debate-sigue-pe-ro-llegan-las-primeras-decisiones/

© Галкина Н. М., Кузнецова Д. В., Воробьев М. А., 2023

эффект от их применения сложно недооценить -оптимизация рабочих процессов, рост эффективности труда, экономия времени, удобство использования. Пандемия СОУГО-19 показала, какую важную роль цифровые технологии занимают в нашей жизни. С их помощью в условиях локдаунов не только была обеспечена бесперебойная работа предприятий различных сфер экономики, но и сохранен доступ к системе правосудия. В эпоху стремительной цифровизации потребность граждан осуществлять как можно больше действий в режиме онлайн также растет, и возможности решать судебные дела без лич-

ной явки, подавать документы в суд удаленно оцениваются населением крайне положительно. В настоящее время технологии ИИ широко используются в судебном процессе. Это приводит к сокращению сроков судебного разбирательства и облегчению доступа к правосудию в целом2.

Несмотря на все плюсы использования технологий ИИ в судебной системе, возникает также ряд новых юридических вопросов. Риски использования подобных технологий все чаще становятся предметом публичного обсуждения3.

Хотя технологии ИИ используются широко, единого общепринятого определения у этого термина нет.

Впервые термин «искусственный интеллект» был использован в 1955 г. его отцом-основателем Джоном Маккарти (John McCarthy) и подразумевал под собой «науку и технологию создания интеллектуальных машин, особенно интеллектуальных компьютерных программ»4. В настоящее время чаще всего под ИИ понимают комбинацию алгоритмов, предложенную с целью создания машин, обладающих теми же возможностями, что и человек5.

В Белой книге Еврокомиссии («Белая книга об искусственном интеллекте - европейский подход к совершенству и доверию»), которая представляет собой план Европейского союза по регулированию использования ИИ, принятый в развитие разработанной в 2018 г. стратегии использования ИИ, есть упрощенное определение ИИ как «набора технологий, сочетающих данные, алгоритмы и вычислительную мощность»6.

2 Background Paper Conference of Ministers of Justice "Digital technology and artificial intelligence - New challenges for justice in Europe". URL: https://rm.coe.int/ background-paper-conference-of-ministers-of-justice-5-october-2021/1680a409f0

3 Background Paper Conference of Ministers of Justice "Digital technology and artificial intelligence - New challenges for justice in Europe"// URL: https://rm.coe.int/back-ground-paper-conference-of-ministers-of-justice-5-octo-ber-2021/1680a409f0

4 McCarthy John. What is Artificial Intelligence? URL: https://borghese.di.unimi.it/Teaching/Advanced-IntelligentSystems/0ld/IntelligentSystems_2008_2009/0ld/ IntelligentSystems_2005_2006/Documents/Symbolic/04_ McCarthy_whatisai.pdf

5 См.: Muñoz Rodríguez A. B. El impacto de la inteligencia artificial en el proceso penal // Anuario De La Facultad De Derecho. Universidad De Extremadura. 2020. № 36. P. 695728. DOI 10.17398/2695-7728.36.695

6 White Paper on Artificial Intelligence. A European

approach to excellence and trust. URL: https://ec.europa.eu/

Европейская комиссия по эффективности правосудия под ИИ понимает «набор научных методов, теорий и техник, цель которых - воспроизвести с помощью машины когнитивные способности человека»7.

Несмотря на отсутствие единого мнения о самом определении ИИ, эксперты различают так называемые «слабый» ИИ (часто называют «узким») и «сильный» ИИ. Под первым понимают ИИ, который способен выполнять только определенные задачи (например, в программах анализа данных, робототехнике), а под вторым - ИИ, обладающий способностями, подобными человеческому разуму или превышающими его. Что касается применения сильного ИИ, то ученые пока только работают в этом направлении и примеры его использования можно увидеть только в научно-фантастических фильмах8.

Целями данного исследования являются проведение обзора практики применения технологий ИИ в судебных системах разных стран, выявление возможных этических проблем и рисков, связанных с использованием ИИ в системе правосудия.

Для достижения поставленных целей исследования был применен метод системного анализа большого объема данных, связанных с использованием технологий ИИ в судебной системе различных стран, метод кабинетных исследований (desk research) - для анализа возможных правовых рисков от применения ИИ.

Для поиска необходимой информации были использованы первичные источники, которые генерируются непосредственно исследователем для решения исследуемой проблемы, и вторичные, представляющие собой данные, собранные из печатных материалов, в частности официальные интернет-сайты по данной теме, научные статьи, опубликованные экспертами, специализированные журналы, книги и академические журналы.

info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf

7 Justice of the future: predictive justice and artificial intelligence // CEPEJ Newsletter N° 16 - August 2018. P. 4. URL: https://rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8

8 Искусственный интеллект (ИИ) // IBM Cloud Education. 2020. URL: https://www.ibm.com/ru-ru/cloud/ learn/what-is-artificial-intelligence

Использование искусственного интеллекта в судебной системе

С каждым днем ИИ завоевывает все больше сфер человеческой жизни - пишет музыку, рисует картины, управляет техникой, машинами, облегчает различные бизнес-процессы, собирает всевозможные данные, анализирует, делает выводы. Судебная система также не смогла избежать экспансии ИИ и сегодня мы можем наблюдать, как все большее количество программ на базе ИИ берется на вооружение судебными системами различных стран мира.

В судебной системе используются различные технологии «слабого» ИИ, которые являются частью собирательного термина «Legal Tech», под которым подразумевают общее использование информационных технологий в правовой сфере. В основном речь идет об использовании ИИ для улучшения и персонализации результатов поиска в юридических базах данных и облегчения принятия решений, особенно оказания помощи в контексте судебных разбирательств. Также необходимо упомянуть о так называемом «предсказанном правосудии» («predictive justice»), которое представляет собой анализ большого количества судебных решений с помощью технологий ИИ для прогнозирования исхода определенных типов споров. С помощью такого анализа система определяет связи между входными данными, такими как обстоятельства дела, и выходными данными - принятыми решениями. Все это позволяет системе создавать модели и прогнозировать решения на основе введенных данных. Однако необходимо заметить, что использование подобных технологий вызывает наибольшее количество споров, так как многим представляется сомнительным, что метод математического моделирования может быть применим ко всем социальным явлениям9.

Применение ИИ в судебных процессах ставит вопрос о возможных правовых рисках. Это вызывает множество дискуссий между сторонниками и противниками использования ИИ в судебной системе. Одни считают, что в будущем ИИ способен полностью заменить собой судей и адво-

9 Justice of the future: predictive justice and artificial intelligence // CEPEJ Newsletter N° 16-August 2018. P. 5. URL: https://rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8 ; Бирюков П. Н. Искусственный интеллект и «предсказанное правосудие» : зарубежный опыт // Lex Russica. 2019. № 11 (156). Р. 79-87. DOI: 10.17803/1729-5920.2019.156.11.079-087.

катов, другие с этим не согласны, поскольку, по их мнению, в силу специфики судебного процесса присутствие человека в нем обязательно. Речь идет прежде всего о том, что многие юридические решения основаны на ценностном подходе и, в отличие от математических уравнений не имеют четкого единственно верного решения.

Обеспокоенность этической стороной использования ИИ выразили международные организации, поэтому рекомендовано, чтобы судебные органы глубоко изучали в каждом отдельном случае особое воздействие ИИ на фундаментальные, человеческие и процессуальные права сторон10.

Только при уделении пристального внимания вышеперечисленным вопросам технологии ИИ могут оказать положительное влияние на функционирование судебной системы, а также способствовать обеспечению справедливости, эффективности и защите основных прав граждан.

Обзор применения технологий искусственного интеллекта в судебных системах разных стран

Лидерами по использованию ИИ в судебной системе являются США и Китай. Американская система COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), применяемая для оценки риска возможного рецидива совершения правонарушений, стала уже хрестоматийным примером этических проблем, связанных с использованием ИИ. На основании ответов на вопросы, задаваемые лицу во время собеседования, и данных о его судимости система анализирует возможность повторного совершения данным лицом правонарушения11. Проблема состоит в том, что поскольку COMPAS разработан частной компанией, его алгоритм является коммерческой тайной и недоступен лицам, участвующим в судебном разбирательстве. Было установлено, что чернокожие обвиняемые с гораздо большей вероятностью ошибочно признавались подверженными более высокому риску рецидивизма, в то время как белые были неправильно

10 Например, первоначальный вариант проекта рекомендации об этических аспектах искусственного интеллекта. Париж. 7 мая 2020 г. URL: https://ircai.org/wp-content/uploads/2020/07/Recommendation_first_draft_RUS. pdf

11 Practitioner's Guide to COMPAS Core, 4. April 2019 //

URL: https://www.equivant.com/wp-content/uploads/

Practitioners-Guide-to-COMPASCore-040419.pdf.

отмечены как имеющие низкий риск рециди-ва12. Это свидетельствует о дискриминации системой анализируемых лиц по расовому признаку и говорит об отсутствии объективности и беспристрастности, о подверженности системы тем же «искажениям», что свойственны человеку из-за предвзятости, вызванной устоявшимися стереотипами. Таким образом, важно не забывать, что ИИ - это прежде всего система, созданная людьми, которая в силу технической специфики «наследует» установки, прежде всего нравственные, достоинства и пороки своих разработчиков. Это не дает возможности относиться к ней как к совершенному инструменту и идеальному механизму для решения поставленных задач и требует обязательного контроля со стороны человека и возможности опротестования вынесенного на основании такого «прогнозного анализа» решения заинтересованными лицами. Но прежде всего необходима прозрачность самого заложенного алгоритма, возможность доступа к информации о логике его построения.

Также хотелось бы упомянуть электронный ассистент Ross - разработку компании США Ross Intelligence. Система способна понимать вопросы юристов и сообщать им необходимую информацию по судебным делам, сопровождая свой ответ нужными ссылками, кроме того она осуществляет постоянный мониторинг новых судебных решений, чтобы вовремя проинформировать о них пользователя13. Использование электронного ассистента помогает адвокатским бюро оптимизировать рабочие процессы и увеличивать количество дел, которые они берут в работу. В данном случае ИИ выступает как исполнитель только прикладных функций без вмешательства в сферу принятия решений, которые могут повлиять на осуществление правосудия. Вследствие этого можно сказать, что риск угрозы нарушения прав человека не усматривается, а польза в виде экономии времени и трудозатрат очевидна.

В Китае использование ИИ в судебной системе прошло три стадии. Сначала речь шла о систематизации связанной с судебным разбира-

12 Larson Jeff, Mattu Surya, Kirchner Lauren and Angwin Julia. How We Analyzed the COMPAS Recidivism Algorithm // Propublica, 2016. URL: https://www.propublica.org/ article/how-we-analyzed-the-compas-recidivism-algorithm

13 Робот, а не человек: как искусственный интеллект перестроит работу юристов // Право.ру. 2016. URL: https:// pravo.ru/story/view/131655/

тельством информации с целью оптимизации поиска нужных данных, далее технологии стали использоваться не только для сбора данных, но и для их анализа. С появлением онлайн-су-дов системы ИИ еще более усложнились, к ним добавились функции анализа доказательств и решений по разным делам, сравнение принятых судьями решений с целью предсказания решений по подобным делам. И, наконец, третьим этапом использования технологий ИИ в Китае стало появление так называемых «умных судов», что позволило ускорить рассмотрение дел и повысило эффективность судебной системы. Данный собирательный термин описывает централизованно скоординированное использование различных современных технологий, начиная от технологий простого сбора данных и заканчивая сложными системами принятия решений в судах. Например, были созданы три суда, в которых гражданское судопроизводство, связанное с интернетом (например, по вопросам электронной торговли), может проводиться полностью в интернете14. Для этого был создан специальный сайт, а затем и веб-приложение. В зданиях судов используются различные роботизированные сервисы-помощники, способные найти необходимую информацию, отсканировать документы, направить процессуальные документы. Во время слушания дела системы распознавания речи способны точно различать голоса судей и других участников судебного процесса, что может быть использовано для автоматической расшифровки судебных слушаний в режиме реального времени15. Пример Китая является интересным, поскольку иллюстрирует процесс постепенного внедрения ИИ в судебную систему, поступательное движение от простого к сложному. Китай уже прошел путь от оптимизации решения прикладных задач до внедрения ИИ в более сложные процессы принятия решений, вследствие чего изучение и применение его опыта видится возможным и полезным.

Что касается Латинской Америки, то Федеральный Верховый Суд (Supremo Tribunal Fede-

14 Zou. 'Smart Courts' in China and the Future of Personal Injury Litigation // Journal of Personal Injury Law, June 2020. : https://papers.ssrn.com/sol3/papers.cfm7abstract_ id=3552895

15 Benjamin Minhao Chen & Zhiyu Li. How will technology

change the face of Chinese Justice?// Columbia Journal of

Asian Law. 2020. Vol. 34.

ral) Бразилии использует в своей деятельности программу под названием «VICTOR», которая предназначена для анализа поступающих судебных дел и изучения условий, относящихся к юрисдикции суда16. Согласно отчету о деятельности данного суда за 2017 г. (последние данные) было вынесено 126 531 решение и зарегистрировано самое низкое количество нерассмотренных дел за последние пять лет (45 437). VICTOR сокращает первоначальный анализ поданных обращений с 30 минут до пяти секунд17. Высший Суд Правосудия Бразилии (Superior Tribunal de Justiça) использует систему искусственного интеллекта «SOKRAT», которая, применяя базу данных рассмотренных судом дел, анализирует новые поступающие дела и разделяет их на группы, чтобы их можно было рассматривать вместе.

Аналогичная бразильской программе VICTOR программа PRETORIA используется судами в Колумбии18.

Прокуратура Аргентины имеет на вооружении программу Prometea, которая может анализировать данные огромного количества ранее рассмотренных дел и принимать на их основе собственные решения по новым аналогичным судебным разбирательствам.

Таким образом, говоря о Латинской Америке, мы можем констатировать, что основной вектор движения направлен все же на оптимизацию процессов обработки данных, сортировки поступающих документов и их систематизации для ускорения и облегчения последующего рассмотрения дел человеком, а не ИИ. И лишь в Аргентине мы можем видеть попытку передать принятие решений по судебным делам системе ИИ. Важно подчеркнуть, что в данном случае речь идет о принятии решений по аналогии и о делах, связанных с мелкими административными правонарушениями. Попыток вторжения, например, в уголовный процесс нет.

16 Isabela Ferari, Daniel Becker. Artificial Intelligence and the Supreme Court of Brazil - Beauty or a Beast? // SIFOCC Website, 22 June 2020. URL: https://sifocc.org/app/ uploads/2020/06/Victor-Beauty-or-the-Beast.pdf

17 Sean La Roque-Doherty. Toward Smarter Courts // ABA Journal. 2021. Vol. 107, Issue 2.

18 Felipe Calderon-Valencia, Juan-Jose Perez-Montoya, Fausto Santos de Morais. Sistemas de IA en la Experiencia del Supremo Tribunal Federal Brasileño y la La Corte Constitucional Colombiana:Análisis Prospectivo // Revista de Direito, Estado e Telecomunicaçôes. 2021. Vol. 13, no. 1, P. 143-169.

В Европе заслуживает внимания опыт применения ИИ в судебных системах Латвии, Эстонии, Австрии, Нидерландов и Германии.

В Латвии особого внимания заслуживает система TIX, получившая в 2015 г. особую награду CEPEJ, а в 2017-м ставшая одним из обладателей European public service award (EPSA). TIX - это инновационная система записи судебного заседания, которая комбинирует письменную информацию и аудиозапись в общем PDF-протоколе. Подготовка протокола заседания стала занимать значительно меньше времени19.

Правительство Эстонии внедряет ИИ в судебную систему с 2019 г. Идея пилотного проекта состоит в том, что обе стороны судебного разбирательства загружают документы и другую соответствующую информацию в систему, а ИИ на основании этих данных выносит решение, которое можно обжаловать у судьи-человека. Предполагается, что система будет принимать решения по контрактам на сумму менее 7000 евро, что существенно разгрузит судебную систему20.

В Австрии ИИ применяется в различных направлениях работы судебной системы: для анализа входящей корреспонденции, когда из документа извлекаются данные с целью его автоматизированной категоризации; для управления файлами, когда после сканирования бумажного документа происходит автоматизированная интеллектуальная обработка результата; для анализа данных расследований, когда извлекаются данные из любого объема информации с целью выявления семантических связей, обнаружения мошеннических схем, поиска необходимой информации и т. п.; для анонимизации судебных решений, когда система анализирует судебные решения, извлекает из них необходимую информацию, но анонимизирует персональные данные21.

19 Examples of European practices in the field of justice of the future // CEPEJ Newsletter. P. 5. URL: https://rm.coe. int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8

20 Can AI Be a Fair Judge in Court: Estonia Thinks So // WIRED. URL: https://www.wired.com/story/can-ai-be-fair-judge-courtestonia-thinks-so/

21 Mag. Georg Stawa Federal Ministry of Constitutional Affairs, Reforms, Deregulation and Justice. "Artificial Intelligence. How is Austria approaching AI integration into judicial policies" // CEPEJ website. URL: https://rm.coe.int/ how-is-austria-approaching-ai-integration-into-judicial-policies-/16808e4d81

В Нидерландах с 2007 г. использовалась программа Rechtwijzer, которая примечательна тем, что способствовала вынесению решений по делам о разводе22. К большому сожалению, несмотря на продемонстрированную эффективность, ввиду финансовых проблем в 2017 г. программа Rechtwijzer вынуждена была уйти с рынка, однако на смену ей пришла новая программа Justice42.

В Германии в настоящее время министерство юстиции Баварии выполняет исследовательский проект в области ИИ под названием «Legal Analytics». Речь идет об автоматизированной системе анонимного анализа судебных решений с соблюдением требований защиты данных. Используя интеллектуальную базу данных судебных решений, пользователи могут выполнять прогнозную аналитику для решения будущих судебных дел, особенно в области гражданского права, на основе имеющихся там данных23.

Интересен проект KISTRA, который стартовал 1 июля 2020 г. Его целью является исследование возможностей и рамочных условий для этически и юридически оправданного использования ИИ органами безопасности для раннего обнаружения и предотвращения преступлений на почве ненависти24. В частности, предполагается выявление и социологическое исследование политически мотивированных высказываний, демонстрирующих ненависть, в сети Интернет.

Эксперты утверждают, что в Германии возможны различные сценарии использования ИИ для облегчения работы судей, однако не может быть и речи о полной замене судьи на ИИ, поскольку судебная власть возложена на судью, ко-

22 Rechtwijzer. nl: A Game Changer // HiiL Innovating Justice. URL: https://www.hiil.org/press/rechtwijzer-nl-a-game-changer-2/

23 Bayerische Staatsregierung, Antwort vom 16. Juli 2020 auf die Schriftliche Anfrage der Landtagsabgeordneten Schuberl und Adjei vom 3. Juni 2020, S. 3. URL: http://www1. bayern.landtag.de/www/ElanTextAblage_WP18/Druck-sachen/Schriftliche%20Anfragen/18_0009313.pdf

24 Künstliche Intelligenz in der zivilen Sicherheit-

sforschung // Bundesministerium für Bildung und Forschung (BMBF). URL: https://www.sifo.de/sifo/de/projekte/quer-schnittsthemen-und-aktivitaeten/kuenstliche-intelli-genz-in-der-zivilen-sicherheitsforschung/kistra/kistra_ node.html; KISTRA - Use of Artificial Intelligence for Early Detection of Crimes. URL: https://www.comm.rwth-aachen. de/cms/COMM/Forschung/Projekte/~jeohm/KISTRA/lidx/1/

торым должно быть физическое лицо, и право на публичное судебное разбирательство в соответствии с Конвенцией о защите прав человека и основных свобод (ЕКПЧ) также должно предполагать проведение судьей-человеком25.

Проанализировав опыт применения ИИ в странах Европы, мы можем сделать вывод, что внедрение ИИ не ограничивается лишь сферой оптимизации трудозатрат и экономии рабочего времени при решении прикладных задач, но также имеет место использование технологий ИИ в более сложных процессах, связанных с вынесением судебных решений. ИИ может формировать уже готовые судебные решения по аналогии с подобными делами административного и гражданского судопроизводства либо предоставлять анализ дела, на основании которого человек-судья выносит решение. Отметим, что речь также не идет об использовании ИИ в уголовном процессе. Позиция Германии в этом вопросе достаточно жесткая и вполне четко обозначена - речи о замене судьи-человека ИИ в этой стране не идет.

Как мы можем видеть, внедрение ИИ в судебную систему является мировым трендом. При этом ни в одной из рассмотренных стран нет правового регулирования применения технологий ИИ в судах. Также отсутствует единый унифицированный правовой документ в этой области. В целом прослеживается такой вектор движения: от простых процессов сбора и анализа данных до предсказательного правосудия и вынесения решений по простым делам.

Безусловно, сложно переоценить удобство и экономию времени, которые являются главной целью подобной оптимизации. Тем не менее, как показывает опыт, такие разработки и их внедрение связаны с рисками. Это необходимо учитывать. Речь прежде всего идет о безопасности личных данных, их конфиденциальности и защите; о возможной дискриминации, обусловленной тем, что ИИ, будучи алгоритмом, созданным человеком и действующим на основании введенных им данных, не является нейтральным, может быть подвержен неточностям и укоренившимся предубеждениям; о непрозрачности самих алгоритмов, их непонятности и недоступности для пользователей, что вызы-

25 Isabelle Désirée Biallass. Der Einsatz von künstlicher Intelligenz in der Justiz. URL: https://www.deutscheran-waltspiegel.de/e-justice/kuenstliche-intelligenz/der-ein-satz-von-kuenstlicher-intelligenz-in-der-justiz/

вает сложности с опротестованием вынесенных решений; о возможных ошибках во вводимых данных, которые могут приводить к неверным решениям.

Важно отметить, что использование ИИ в судебной системе требует наличия официальной правовой основы, особенно когда способ обработки данных может привести к вмешательству в основные права субъекта данных. Необходимость совершенствования законодательства, создание правовых основ использования ИИ - первостепенные задачи каждого современного государства.

По мнению представителей Европейской комиссии по эффективности правосудия, последние достижения в области цифрового правосудия являются реальными возможностями для повышения качества и эффективности правосудия. В то же время они представляют собой новые вызовы для соблюдения основополагающих принципов судебного разбирательства, основных гарантий судебных систем, таких как верховенство закона, независимость и беспристрастность судьи, принцип состязательности судебного разбирательства или защита основных свобод26.

Безусловно, ИИ способен принести массу пользы, облегчить жизнь людей, ускорить рабочие процессы, минимизировать временные издержки, но крайне важно адаптировать существующее правовое регулирование под новые нужды, постараться максимально предусмотреть возможные последствия и выработать новые правовые конструкции, которые прежде всего помогут защитить права людей в нашем стремительно развивающемся мире новых технологий.

Необходимо сохранить контроль за деятельностью систем ИИ, сделать алгоритмы, по которым она принимает решения доступными для пользователей. Это особенно важно в уголовном процессе и криминалистике, когда от решения машины зависит судьба человека.

Для России ИИ имеет значительный потенциал в качестве инструмента в системе правосудия. Определенные программы, разрабатываемые и разработанные сегодня, направлены на оказание помощи юристам в проведении правовых исследований или прогнозировании исходов судебных споров (инструменты предсказан-

26 Cyberjustice and artificial intelligence used in the field of justice. CEPEJ Website. URL: https://www.coe.int/en/web/ cepej/cepej-working-group-cyber-just

ного правосудия). Другие программы на базе ИИ могут быть использованы для помощи судам в управлении делами (например, путем анализа и распределения ходатайств по соответствующим судебным подразделениям) или анализа работы суда. Кроме того, эти инструменты можно применять для более простого урегулирования споров в режиме онлайн. В настоящее время ИИ используется в России спорадически, но в обозримом будущем, вероятно, будет чаще применяться для прогнозирования судебных решений.

Представляется, что китайская поэтапная система внедрения ИИ в систему правосудия была бы наиболее оптимальной для России с точки зрения проведения всестороннего правового анализа оформления и принятия такой системы. Следует учитывать, что решения в судебной системе особенно чувствительны в отношении прав заинтересованных лиц, поэтому особое внимание следует уделять потенциальным проблемам прозрачности и персональным данным. В данном отношении интеграция систем ИИ в структуру верховенства закона требует, чтобы сформированные документы (с помощью человека или без него) могли предоставлять информацию об основаниях для принятия такого решения в понятной для человека форме.

Также при внедрении ИИ в сферу принятия судебных решений непременно должен быть предусмотрен механизм оспаривания собранных при помощи ИИ доказательств и выносимых с помощью ИИ решений. Представляется крайне важным оставить человеку возможность контролировать и корректировать деятельность ИИ, особенно если речь идет о вынесении судебных решений. Ни в коем случае не допустимо полностью делегировать ИИ функцию судьи. Думается, что ввиду особой специфики сферы новые технологии должны применяться в ней с особой осторожностью, после всецелого анализа возможных рисков и в строго определенных правовых рамках.

Библиографический список

Бирюков П. Н. Искусственный интеллект и «предсказанное правосудие» : зарубежный опыт // Lex Russica. 2019. № 11 (156). С. 79-87.

Искусственный интеллект (ИИ) // IBM Cloud Education. 2020. URL: https://www.ibm.com/ru-ru/ cloud/learn/what-is-artificial-intelligence

Первоначальный вариант проекта рекомендации об этических аспектах искусственного интеллекта. Париж. 7 мая 2020 г. URL: https://ircai.org/wp-

content/uploads/2020/07/Recommendation_first_ draft_RUS.pdf

Робот, а не человек : как искусственный интеллект перестроит работу юристов // Право.ру. 2016. URL: https://pravo.ru/story/view/131655/

Álvaro Alegría Meunier. Inteligencia Artificial y Tribunales - El debate sigue//Telefónica-Tech.11.06.2019. URL: https://empresas.blogthinkbig. com/ia-el-debate-sigue-pero-llegan-las-primeras-de-cisiones/

Background Paper Conference of Ministers of Justice "Digital technology and artificial intelligence -New challenges for justice in Europe". URL: https:// rm.coe.int/background-paper-conference-of-minis-ters-of-justice-5-october-2021/1680a409f0

Bayerische Staatsregierung, Antwort vom 16. Juli 2020 auf die Schriftliche Anfrage der Landtagsabgeordneten Schuberl und Adjei vom 3. Juni 2020. S. 3, abrufbar unter. URL: http://www1.bayern.land-tag.de/www/ElanTextAblage_WP18/Drucksachen/ Schriftliche%20Anfragen/18_0009313.pdf

Benjamin Minhao Chen & Zhiyu Li. How will technology change the face of Chinese Justice? // Columbia Journal of Asian Law. 2020. Vol. 34.

Can AI Be a Fair Judge in Court: Estonia Thinks So // WIRED. 2019. URL: https://www.wired.com/story/ can-ai-be-fair-judge-courtestonia-thinks-so/

Cyberjustice and artificial intelligence used in the field of justice // CEPEJ website. URL: https://www. coe.int/en/web/cepej/cepej-working-group-cyber-just Examples of European practices in the field of justice of the future // CEPEJ Newsletter. P. 5. URL: https:// rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8

Felipe Calderon-Valencia, Juan-Jose Perez-Montoya, Fausto Santos de Morais. Sistemas de IA en la Experiencia del Supremo Tribunal Federal Brasileño y la La Corte Constitucional Colombiana:Análisis Prospectivo // Revista de Direito, Estado e Tele-comunica^öes. 2021. Vol. 13, no. 1. P. 143-169.

Isabela Ferari, Daniel Becker. Artificial Intelligence and the Supreme Court of Brazil - Beauty or a Beast? // SIFOCC Website. 2020. URL: https://sifocc.org/app/ uploads/2020/06/Victor-Beauty-or-the-Beast.pdf

Isabelle Désirée Biallass. Der Einsatz von künstlicher Intelligenz in der Justiz. URL: https://www. deutscheranwaltspiegel.de/e-justice/kuenstliche-in-telligenz/der-einsatz-von-kuenstlicher-intelli-genz-in-der-justiz/

Jeff Larson, Surya Mattu, Lauren Kirchner and Julia Angwin. How We Analyzed the COMPAS Recidivism Algorithm // Propublica. 2016. URL: https://www.pro-publica.org/article/how-we-analyzed-the-compas-re-cidivism-algorithm

John McCarthy. What is Artificial Intelligence? URL: https://borghese.di.unimi.it/Teaching/

AdvancedIntelligentSystems/Old/Intelli-gentsystems_2008_2009/0ld/lntelli-gentSystems_2005_2006/Documents/Symbolic/04_ McCarthy_whatisai.pdf

Justice of the future: predictive justice and artificial intelligence // CEPEJ Newsletter N° 16 - August 2018. P.4. URL: https://rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8

KISTRA - Use of Artificial Intelligence for Early Detection of Crimes // The Institute of Linguistics and Communication Science webpage. URL: https://www. comm.rwth-aachen.de/cms/COMM/Forschung/ Projekte/~jeohm/KISTRA/lidx/1/

Künstliche Intelligenz in der zivilen Sicher-heitsforschung//Bundesministerium für Bildung und Forschung (BMBF). URL: https://www.sifo.de/sifo/de/ projekte/querschnittsthemen-und-aktivitaeten/ku-enstliche-intelligenz-in-der-zivilen-sicherheitsfor-schung/kistra/kistra_node.html

Mag. Georg Stawa Artificial Intelligence.How is Austria approaching AI integration into judicial po-licies//CEPEJ website. URL: https://rm.coe.int/ how-is-austria-approaching-ai-integration-into-judicial-policies-/16808e4d81

Practitioner's Guide to COMPAS Core, 4. April 2019. URL: https://www.equivant.com/wp-content/uploads/ Practitioners-Guide-to-COMPASCore-040419.pdf

Rechtwijzer.nl: A Game Changer//HiiL Innovating Justice (Apr. 23, 2013). URL: https://www.hiil.org/ press/rechtwijzer-nl-a-game-changer-2/

Sean La Roque-Doherty. Toward Smarter Courts // ABA Journal, 2021, Vol. 107, Issue 2

White Paper on Artificial Intelligence. A European approach to excellence and trust. URL: https://ec.euro-pa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (accessed 29.03.2022).

References

A robot, not a person : how artificial intelligence will restructure the work of lawyers //Pravo.ru. 2016. URL: https://pravo.ru/story/view/131655/

Álvaro Alegria Meunier. Inteligencia Artificial y Tribunales - El debate sigue//Telefóni-caTech. 11.06.2019. URL: https://empresas. blogthinkbig.com/ia-el-debate-sigue-pero-llegan-las-primeras-decisiones/

An initial version of the draft recommendation on ethical aspects of artificial intelligence SHS/BIO/ AHEGAI/2020/4. URL:https://ircai.org/wp-content/ uploads/2020/07/Recommendation_first_draft_RUS.pdf Artificial Intelligence (AI) // IBM Cloud Education. 2020. URL: https://www.ibm.com/ru-ru/cloud/learn/ what-is-artificial-intelligence

Background Paper Conference of Ministers of Justice "Digital technology and artificial intelligence -

New challenges for justice in Europe". URL: https:// rm.coe.int/background-paper-conference-of-mini-sters-of-justice-5-october-2021/1680a409f0

Bayerische Staatsregierung, Antwort vom 16. Juli 2020 auf die Schriftliche Anfrage der Landtagsabgeordneten Schuberl und Adjei vom 3. Juni 2020. S. 3, abrufbar unter. URL: http://www1.bayern.landtag. de/www/ElanTextAblage_WP18/Drucksachen/ Schriftliche%20Anfragen/18_0009313.pdf

Benjamin Minhao Chen & Zhiyu Li. How will technology change the face of Chinese Justice? // Columbia Journal of Asian Law. 2020. Vol. 34.

BiryukovP. N. Artificial Intelligence and "Predicted Justice" : Foreign Experience. Lex Russica. 2019. No. 11 (156). P. 79-87.

Can AI Be a Fair Judge in Court: Estonia Thinks So // WIRED. 2019. URL: https://www.wired.com/story/ can-ai-be-fair-judge-courtestonia-thinks-so/

Cyberjustice and artificial intelligence used in the field of justice // CEPEJ website. URL: https://www. coe.int/en/web/cepej/cepej-working-group-cyber-just Examples of European practices in the field of justice of the future // CEPEJ Newsletter. P. 5. URL: https://rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/16808d00c8

Felipe Calderon-Valencia, Juan-Jose Perez-Montoya, Fausto Santos de Morais. Sistemas de IA en la Experiencia del Supremo Tribunal Federal Brasileño y la La Corte Constitucional Colombiana:Análisis Prospectivo // Revista de Direito, Estado e Tele-comunicaçôes. 2021. Vol. 13, no. 1. P. 143-169.

Isabela Ferari, Daniel Becker. Artificial Intelligence and the Supreme Court of Brazil - Beauty or a Beast? // SIFOCC Website. 2020. URL: https://sifocc.org/app/ uploads/2020/06/Victor-Beauty-or-the-Beast.pdf

Isabelle DésiréeBiallass. Der Einsatz von künstlicher Intelligenz in der Justiz. URL: https://www. deutscheranwaltspiegel.de/e-justice/kuenstliche-intelligenz/der-einsatz-von-kuenstlicher-intelligenz-in-der-justiz/

Jeff Larson, Surya Mattu, Lauren Kirchner and Julia Angwin. How We Analyzed the COMPAS Recidivism Algorithm // Propublica. 2016. URL: https://www. propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm

John McCarthy. What is Artificial Intelligence? URL: https://borghese.di.unimi.it/Teaching/ AdvancedIntelligentSystems/Old/Intelligent-Systems_2008_2009/0ld/Intelligent-Systems_2005_2006/Documents/Symbolic/04_ McCarthy_whatisai.pdf

Justice of the future: predictive justice and artificial intelligence // CEPEJ Newsletter N° 16 -August 2018. P.4. URL: https://rm.coe.int/newsletter-no-16-august-2018-en-justice-of-the-future/ 16808d00c8

KISTRA - Use of Artificial Intelligence for Early Detection of Crimes // The Institute of Linguistics and Communication Science webpage. URL: https://www. comm.rwth-aachen.de/cms/COMM/Forschung/ Projekte/~jeohm/KISTRA/lidx/1/

Künstliche Intelligenz in der zivilen Sicher-heitsforschung//Bundesministerium für Bildung und Forschung (BMBF). URL: https://www.sifo.de/sifo/de/ projekte/querschnittsthemen-und-aktivitaeten/ kuenstliche-intelligenz-in-der-zivilen-sicher-heitsforschung/kistra/kistra_node.html

Mag. Georg Stawa Artificial Intelligence.How is Austria approaching AI integration into judicial policies//CEPEJ website. URL: https://rm.coe.int/how-is-austria-approaching-ai-integration-into-judicial-policies-/16808e4d81

Practitioner's Guide to COMPAS Core, 4. April 2019. URL: https://www.equivant.com/wp-content/uploads/ Practitioners-Guide-to-COMPASCore-040419.pdf

Rechtwijzer.nl: A Game Changer//HiiL Innovating Justice (Apr. 23, 2013). URL: https://www.hiil.org/ press/rechtwijzer-nl-a-game-changer-2/

Sean La Roque-Doherty. Toward Smarter Courts// ABA Journal, 2021, Vol. 107, Issue 2.

White Paper on Artificial Intelligence. A European approach to excellence and trust. URL: https://ec. europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (accessed 29.03.2022).

Финансирование. Настоящая статья написана в рамках реализации Фундаментального проекта НИУ ВШЭ «Этика и право».

Financing. This article was written as part of the implementation of the Fundamental Project of the National Research University Higher School of Economics "Ethics and Law".

Национальный исследовательский университет «Высшая школа экономики»

Галкина Н. М., заместитель директора Института исследований национального и сравнительного права

E-mail: ngalkina@hse.ru

National Research University «Higher School of Economics»

Galkina N. M., Deputy Director of the Institute of National and Comparative Legal Studies E-mail: ngalkina@hse.ru

Кузнецова Д. В., ведущий эксперт Института исследований национального и сравнительного права

E-mail: dvkuznetsova@hse.ru

Воробьев М. А., заместитель директора Института исследований национального и сравнительного права, доцент департамента публичного права

E-mail: mavorobev@hse.ru

Поступила в редакцию: 23.11.2022

Для цитирования:

Галкина Н. М., Кузнецова Д. В., Воробьев М. А. Зарубежный опыт применения искусственного интеллекта в судебной системе // Вестник Воронежского государственного университета. Серия: Право. 2023. № 3 (54). С. 35-44. DOI: https:// doi.org/10.17308/law/1995-5502/2023/3/35-44.

Kuznetsova D. V., Lead Expert of the Institute of National and Comparative Legal Studies

E-mail: dvkuznetsova@hse.ru

Vorobyev M. A., Deputy Director of the Institute of National and Comparative Legal Studies, Associate Professor of the Public Law Department E-mail: mavorobev@hse.ru

Received: 23.11.2022

For citation:

Galkina N. M., Kuznetsova D. V., Vorobyev M. A. International experience in the application of artificial intelligence in the judicial system // Proceedings of Voronezh State University. Series: Law. 2023. № 3 (54). P. 35-44. DOI: https://doi.org/10.17308/law/1995-5502/2023/3/35-44.