Использование искусственного интеллекта в современной судебной системе и права человека

ИСПОЛЬЗОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СОВРЕМЕННОЙ СУДЕБНОЙ СИСТЕМЕ И ПРАВА ЧЕЛОВЕКА

К.А. Амиянц, канд. юрид. наук, доцент К.В. Чемеринский, канд. юрид. наук, доцент

Институт сервиса, туризма и дизайна

DO1: 10.24411/2500-1000-2019-11811

Аннотация: В статье проводится анализ внедрения искусственного интеллекта в судебную систему РФ. Обращается внимание на несомненную актуальность данного вопроса, а также рассмотрение главного аспекта - возможности замены профессионального судьи носителем искусственного интеллекта, способным осуществлять правосудие в отсутствии «человеческого фактора». Что будет способствовать в свою очередь соблюдению принципов законности и справедливости при вынесении судебных постановлений. Также делается вывод, о том что полный переход правосудия к использованию нейронных сетей не должен быть осуществлен, так как это повлечет за собой нарушение прав человека.

Ключевые слова: искусственный интеллект, нейронные сети, правосудие, судебная система, права человека.

Развитие информационных технологий, в России и переход к цифровой экономике предполагает повсеместное использование нейронных сетей или технологии искусственного интеллекта. Правовое обеспечение их функционирования видится нам приоритетной задачей современного законодателя. При этом нельзя обойти вопрос о внедрении систем искусственного интеллекта в судебную систему Российской Федерации.

Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» принята «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [1]. При этом в качестве одного из приоритетных направлений развития искусственного интеллекта называется «автоматизация рутинных (повторяющихся) производственных операций». В настоящее время мы наблюдаем такую автоматизацию практически во всех сферах общественной жизни. Разрешение данного вопроса не обходит стороной и судебную систему.

С одной стороны, искусственный интеллект стремится проникнуть во все сферы нашей жизни, понемногу догоняя чело-

веческий. И если машина с успехом заменяет рабочего на производстве, то почему не может сделать этого в зале суда? Многие говорят о продажности и невнимательности представителей этой ветви власти, а компьютер может сделать точный анализ и вынести разумное, верное решение, руководствуясь разумом, а не сердцем, которого, из-за особенностей конструкции, не имеет. Уже достаточно давно высказываются мысли о необходимости сокращения пределов судебного усмотрения, закрепленных не только в процессуальном, но и материальном законодательстве [2].

В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли автоматизировать весь процесс отправления правосудия, т.е. заменить судью компьютерной программой или нейросе-тью, способной анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение. Идея заменить человека на машину пришла американскому судье Энтони Капице, который рассматривает дела о лишении родительских прав. У него в производстве постоянно находится свыше 30 материалов и, понятное дело, запом-

нить все тонкости отношений внутри каждой семьи просто невозможно [3]. Робот в мантии, как утверждают разработчики, вскоре, может прийти не смену человеку, как и во многих других сферах деятельности.

В Китае, США, Великобритании, Франции и некоторых других странах такие программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.

Сравнительно недавно - в декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, - «Европейская этическая хартия о применении искусственного интеллекта в судебных системах» [4], утвержденная Европейской комиссией по эффективности правосудия Совета Европы. В Хартии сформулированы пять принципов применения искусственного интеллекта, при этом особый интерес представляет принцип пользовательского контроля, согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должны быть предоставлены возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить решение, принятое последним.

В то же время, "Европейская комиссия по эффективности правосудия (CEPEJ)» призывает с осторожностью подходить к автоматизации процессов при поиске альтернативных мер урегулирования гражданских исков, при использовании онлайн-платформ разрешения споров. Кроме того, с крайней осторожностью эксперты советуют относиться к количественным показателям, к которым может апеллировать программа при анализе прецедентов, а также к использованию ИИ для анализа склонности к преступлению того или иного человека [5].

В качестве примера неудачного применения программ в хартии приводится алгоритм американской программы

COMPAS. Согласно данным неправительственной организации, которая решила проверить эффективность этого инструмента, программа практически вдвое чаще, чем у других групп, указывала на возможный риск повторного преступления, когда речь заходила об афро-американцах. Это можно было бы списать на определенные социально-экономические тенденции в тех или иных группах, однако исследователи указали, что ИИ может назвать рецидивистом даже человека, который никогда не сидел в тюрьме, но исправно ответил на вопросы в электронной анкете.

Вообще по части использования таких систем в уголовном праве эксперты расходятся во мнениях. С одной стороны, ИИ ни от кого не зависит и делает выводы на основе чистых данных, будь то факты из биографии или положения конституции. С другой, возникает вопрос прозрачности разработки алгоритма, а также тот факт, что программа принимает исходные данные за аксиому и вместо того, чтобы исправить несовершенства системы будет их лишь умножать.

Ранее, комментируя принятую Хартию, директор по акселерации юридических технологий Фонда «Сколково» Антон Пронин указывал, что имеющиеся вопросы дискриминации, поставленные в документе, могут вызвать некоторые осложнения. «Проблема, которую я вижу в Хартии, заключается в том, что практически в любых накопленных массивах данных, с которыми работает искусственный интеллект, можно узреть дискриминацию какого-либо рода. Конечно, это зависит от того, какой тон или характер заложен в данных, - отмечает он. - Если вдруг выяснится на большом объеме данных, что по какой-то категории преступлений, скажем, женщин оправдывали чаще чем мужчин, то это будет являться паттерном для искусственного интеллекта (он так обучился). И на базе этого паттерна он и далее будет применять решения» [6].

В данном случае, интерес представляет мнение председателя Совета судей РФ, который указал, что процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим

внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу. «Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего, невозможно» [6], - посчитал Виктор Момотов. Он отметил, что при рассмотрении бесспорных требований в приказном производстве не исключается применение искусственного интеллекта, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. Следует отметить, что в некоторых регионах такие системы уже внедряются.

Изложенное, позволяет сделать следующие выводы:

1. Необходимо более детальное изучение вопроса о внедрении искусственного интеллекта в судебную систему.

2. Представляется, что использование искусственного интеллекта при осуществлении правосудия, должно носить «вспомогательный» характер, а не «определяющий», с целью оптимизации рутинной его (правосудия) составляющей.

3. С целью соблюдения прав человека и гражданина, представляется необходимым принятие на законодательном уровне нормативно-правового акта по аналогии с «Европейской этической хартией о применении искусственного интеллекта в судебных системах».

4. Необходимо внесение изменений в процессуальные нормативно-правовые акты, с целью нормативного регулирования оснований, порядка и пределов использования искусственного интеллекта при

осуществлении правосудия.

Библиографический список

1. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» вместе с «Национальной стратегий развития искусственного интеллекта на период до 2030 года» // Электронная правовая система «Консультант-Плюс» (Дата обращения 20.11.2019).

2. Амиянц К.А. Размер как последствие в преступлениях в сфере экономики // Известия Российского государственного педагогического университета им. А. И. Герцена. - 2008. -№ 65. - С. 19-24.

3. Тарасов М.А. Искусственный интеллект может заменить судей. - [Электронный ресурс]. - Режим доступа: https://chelovekizakon.ru/dela/mashinalnoe-pravosudie (Дата обращения 20.11.2019).

4. Совет Европы принял хартию о судебном применении искусственного интеллекта. -[Электронный ресурс]. - Режим доступа: http://www.rapsinews.ru/international_news/20181204/292074043.html?utm_source=yxnews&u tm_medшm=desktop&utm_referrer=https%3A%2F%2Fyandex.ru%2Fnews (Дата обращения 22.11.2019).

5. Совет Европы принял первый регламент для искусственного интеллекта в судебной системе. - [Электронный ресурс]. - Режим доступа: https://tass.ru/obschestvo/5877495 (Дата обращения 20.11.2019).

6. Нагорная М. Искусственный интеллект в судопроизводстве // Новая адвокатская газета. 09.04.2019. - [Электронный ресурс]. - Режим доступа: https://www.intellectpro.ru/press/commenters/iskusstvennyy_intellekt_v_sudoproizvodstve/ (Дата обращения 20.11.2019).

THE USE OF ARTIFICIAL INTELLIGENCE IN THE MODERN JUDICIAL SYSTEM

AND HUMAN RIGHTS

K.A. Amiyants, Candidate of Legal Sciences, Associate Professor K.V. Chemerinsky, Candidate of Legal Sciences, Associate Professor

Institute of Service, Tourism and Design

Abstract. The article analyzes the implementation of artificial intelligence in the judicial system of the Russian Federation. Attention is drawn to the undoubted relevance of this issue, as well as consideration of the main aspect-the possibility of replacing a professional judge with a carrier of artificial intelligence capable of administering justice in the absence of the"human factor". This, in turn, will contribute to the observance of the principles of legality and justice in the issuance of judicial decisions. It is also concluded that the full transition of justice to the use of neural networks should not be carried out, as this would entail a violation of human rights. Keywords: artificial intelligence, neural networks, justice, judicial system, human rights.