Европейская хартия об этических принципах применения искусственного интеллекта в судебных системах: ценностные ориентиры

ЕВРОПЕЙСКАЯ ХАРТИЯ ОБ ЭТИЧЕСКИХ ПРИНЦИПАХ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СУДЕБНЫХ СИСТЕМАХ: ЦЕННОСТНЫЕ ОРИЕНТИРЫ*

ГУРБАНОВ Рамин Афад оглы, президент Европейской комиссии по эффективности правосудия (CEPEJ), доктор юридических наук

В 2019 г. все европейские страны отметили 70 лет со дня создания Совета Европы — организации, основными принципами работы которой являются уважение прав человека, демократия и верховенство права. Совет Европы превратился в крупнейшую региональную организацию с единым правовым пространством — так называемую панъевропейскую организацию, объединяющую 47 государств, из которых 28 являются членами Европейского Союза, с общим населением 830 млн человек.

Когда мы говорим о правах человека, верховенстве права и демократии, мы говорим об основах наших обществ. Ни одна другая международная организация в мире не имеет таких всеобъемлющих механизмов и форм сотрудничества для защиты этих основ. За последние 70 лет в интересах всех европейцев было разработано более 200 юридически обязательных международных документов, охватывающих широкий круг областей, некоторые из них по своему содержанию являются уникальными в мире.

В качестве примера отметим Конвенцию о защите персональных данных (которую ратифицировали более 50 стран) и Конвенцию о киберпреступности (ратифицировали более 60 стран, в том числе США, Австралия, Япония), а также Конвенцию о предупреждении и борьбе с насилием в отношении женщин и бытовым насилием (Стамбульская конвенция), Конвенцию о защите детей от сексуальной эксплуатации и надругательств (Лансаротская конвенция).

Можно утверждать, что самыми значительными достижениями Совета Европы стали принятие Европейской конвенции о защите прав человека и основных свобод и создание Европейского суда, формиро -вание единого правового пространства для европейцев в 47 государствах, а также общей зоны, свободной от смертной казни.

Отцы-основатели Европейского суда рассматривали его как коллективную страховку от рецидива превращения демократии в диктатуру. Никто из них не мог предвидеть его загруженность в будущем: сегодня Суд выносит тысячи решений и обязательных для исполнения постановлений в год, защищая права примерно 830 млн граждан. Суд остается гарантом индивидуальных прав человека на всем пространстве от Лиссабона до Владивостока. За период сво-

* Выступление Р. А. оглы Гурбанова на IX Международном конгрессе сравнительного правоведения (г. Москва, 2 декабря 2019 г.).

его существования он рассмотрел более 800 тыс. заявлений. Постановление Страсбургского Суда против государства может повлиять на жизни тысяч других людей, находящихся в аналогичной ситуации.

Когда речь заходит об улучшении качества отправления правосудия на европейском континенте и даже за его пределами, нельзя не упомянуть о важной работе Европейской комиссии по эффективности правосудия (CEPEJ), Венецианской комиссии, Консультативного совета европейских судей (ССШ) и других структур Совета Европы, а также региональных организаций, таких как Европейская и международная ассоциации судей со статусом наблюдателя в СЕРЕ!

В последние годы СЕРЕ1 стала экспертным ресурсом для разработки и обмена решениями в сфере правосудия на европейском пространстве. CEPEJ была создана для оказания непосредственной помощи государствам-членам в совершенствовании их судебных систем путем повышения эффективности и качества правосудия с целью приведения их в соответствие со стандартами и нормами Совета Европы, а также для сокращения чрезмерного объема работы Европейского суда и смещения нагрузки по судебному разбирательству с наднационального на национальный уровень. Комиссия также содействует реализации требований международно-правовых документов Совета Европы, касающихся эффективности и справедливости правосудия, особенно Европейской конвенции о защите прав человека и основных свобод и прецедентного права Европейского суда по вопросам правосудия.

Основные направления деятельности СЕРЕ1 можно классифицировать следующим образом: оценка судебных систем, качество правосудия, управление судебным временем, медиация и исполнение судебных решений.

СЕРЕ1 разрабатывает конкретные и применимые инструменты управления и руководящие правила, предназначенные для директивных органов, практикующих судей и представителей правового сообщества, а также выявляет передовую практику и проводит научные исследования по различным вопросам юстиции.

За последние 15 лет структурные подразделения СЕРЕ1 издали более 25 публикаций по научным исследованиям, касающимся важных вопросов качества правосудия, оценки эффективности работы судов, а также сроков судебного разбирательства, ме-

диации и исполнения судебных решений (например, исследования по вопросам доступа к правосудию в Европе, качества судебных решений, администрирования и управления судебными системами в Европе, мониторинга и оценки судебных систем, сроков рассмотрения судебных дел на основе анализа судебной практики Европейского суда и т. д.).

CEPEJ также сформулировала значительное число так называемых руководящих правил для государств-членов по совершенствованию их систем правосудия с учетом ключевых требований Европейской конвенции.

Доклады CEPEJ за двухгодичный период об оценке функционирования судебных систем являются в настоящее время единственным всеобъемлющим источником информации о европейских судебных системах и ориентиром при проведении судебно-правовых реформ в Европе.

Следует отметить, что CEPEJ активно участвует в реализации проектов стратегического партнерства Совета Европы с Европейским Союзом в рамках Восточного сотрудничества, а также в процессе расширения членства в Европейском Союзе для Албании, Боснии и Герцеговины, Черногории, Северной Македонии, Сербии и Косово путем проведения оценки их судебных систем на соответствие стандартам Совета Европы — "Western Balkans Dashboard".

Также CEPEJ развивает тесное сотрудничество с Европейской комиссией в рамках подготовки отчета по оценке деятельности судебных систем государств — членов Европейского Союза — "EU Justice Scoreboard". Судебная статистика по 28 странам подготавливается представителями нашей Комиссии и является единственным в своем роде источником информации по продуктивности судов ЕС.

Что касается качества правосудия и управления судебным временем, то CEPEJ разработала множество инструментов, которые используются во многих странах (например, руководящие правила по управлению борьбой с киберпреступностью, по созданию судебных карт для поддержки доступа к правосудию в рамках качественной судебной системы, по организации и доступности судебных помещений, по судебным срокам и т. д.).

CEPEJ также содействует внедрению европейских стандартов в области исполнения судебных решений и медиации. Например, CEPEJ разработала уникальные документы по медиации для улучшения ситуации в европейских судебных системах, основанные на научных исследованиях: Европейский справочник по медиации в сфере правотворчества; Кодекс поведения центров медиации; Руководящие принципы по разработке и мониторингу программ подготовки по вопросам медиации.

В 2019 г. мы отметили 10 лет со дня принятия Руководящих правил по исполнению судебных решений и в ближайшие дни проводим в Страсбурге со-

вместно с Международным союзом судебных приставов Всемирный форум по исполнению судебных решений, на котором будут презентованы различные практики применения информационных технологий, в том числе алгоритмы искусственного интеллекта в исполнительном производстве.

В то же время CEPEJ разработала и успешно реализовала программы помощи на основе индивидуальных запросов государств — членов Совета Европы. Так, СЕРЕ1 неоднократно привлекалась к проведению анализа национальных систем правосудия для проверки соответствия требованиям Европейской конвенции о защите прав человека и основных свобод и других документов Совета Европы и представила более 20 докладов (например, доклады о медиации в Швейцарии, об оценке процедур отбора судей в Азербайджане, о дематериализации и использовании информационных технологий в Португалии, об исполнении судебных решений в отношении государственных органов в Российской Федерации, о практических путях борьбы с задержками по рассмотрению судебных дел в системе правосудия Словении и Мальты и др.).

СЕРЕ1 с 2005 г. каждые два года проводит конкурс «Хрустальные весы правосудия», целью которого является выявление новаторской и эффективной практики в области отправления правосудия. В этом году в рамках празднования Европейского дня юстиции 25 октября Верховный суд Словении был награжден за проект в сфере повышения качества правосудия, а три других проекта из Голландии, Испании и Бельгии были удостоены внимания.

Я хотел бы также привлечь внимание к совместному июньскому пленарному заседанию СЕРЕ1 и Европейского суда по правам человека, в рамках которого было принято решение по увеличению ссылок на различные как практические, так и научные источники CEPEJ в постановлениях Европейского суда, что, в свою очередь, будет стимулировать их реализацию на национальном уровне и служить совершенствованию судебных систем в государствах-членах.

В настоящее время основными проблемами в сфере обеспечения прав человека и верховенства права являются цифровые технологии. Волна цифровых преобразований в обществе также отражается на судебных системах европейских государств. Среди технологий, используемых в этой большой цифровой трансформации, искусственный интеллект является самой сенсационной технологией, также вызывающей наибольшие сомнения.

В связи с этим в соответствии с Руководящими правилами по киберюстиции Комиссия предоставляет работникам органов правосудия ключи к наилучшему объяснению понятия «прогнозируемое правосудие», системам обработки данных судебной практики, составления шкал в некоторых гражданских спорах касательно компенсаций, использования ал-

горитмов в уголовном расследовании с целью выявления мест совершения преступлений и характеристики лиц, совершивших уголовно наказуемые деяния.

Признавая растущее значение искусственного интеллекта и ожидаемые преимущества его использования для повышения качества правосудия, СЕРЕ1 приняла пять основополагающих принципов под названием «Европейская этическая хартия по использованию искусственного интеллекта в судебных системах и окружающих их реалиях».

При подготовке Хартии было проведено углубленное исследование правового вопроса использования искусственного интеллекта в судебных системах. Ответственными за данную работу были коллеги из Франции, Великобритании и Италии. Данная Хартия предназначена для государственных и частных лиц, ответственных за разработку и внедрение инструментов и услуг, основанных на искусственном интеллекте и направленных на обработку судебных решений и данных по судебной деятельности, а также для государственных лиц, ответственных за законодательную или нормативную базу, разработку, контроль или использование таких инструментов и услуг, а также лиц, ответственных за проведение научных исследований по правам человека, по уголовной юстиции и в области административных правонарушений.

Использование подобных инструментов и услуг в судебных системах направлено на повышение эффективности и качества правосудия. Вместе с тем оно должно осуществляться добросовестно, с учетом основных прав человека, изложенных в Европейской конвенции о защите прав человека и основных свобод и Конвенции о защите персональных данных, а также в соответствии с другими основополагающими принципами, которыми следует руководствоваться при разработке государственной политики в области правосудия в этой сфере.

По мнению разработчиков систем обработки судебных решений с помощью искусственного интеллекта в гражданских, коммерческих и административных вопросах, такая обработка способна повысить предсказуемость применения закона и способствовать последовательности принимаемых судебных решений при условии соблюдения принципов, изложенных в этой Хартии.

В уголовно-правовых вопросах использование искусственного интеллекта должно рассматриваться с самыми серьезными оговорками в целях предотвращения дискриминации на основе конфиденциальных данных в соответствии с гарантиями справедливого судебного разбирательства. Независимо от того, предназначена обработка данных для оказания помощи в предоставлении юридических консультаций, разработке документов, процессе принятия решений, для уменьшения правовой неопределенности и непредсказуемости судебных решений или же для

консультирования пользователя, крайне важно, чтобы она осуществлялась с соблюдением принципов прозрачности, беспристрастности и достоверности и подтверждалась внешним и независимым экспертным заключением.

Сторонники понятия «прогнозируемое правосудие» подчеркивают преимущества с точки зрения прозрачности, предсказуемости и унификации прецедентного права, а противники указывают на ограничения и необъективность аргументации в отношении программного обеспечения. Риски, присущие этим технологиям, могут даже выходить за рамки процесса принятия решения и затрагивать важнейшие функциональные элементы верховенства права и судебных систем, к которым Совет Европы особенно привержен.

Речь идет, в частности, о таких принципах, как верховенство права: данные инструменты не только побуждают к каким-то действиям, но и имеют практически предписывающий характер, создавая новую форму нормативности, которая могла бы дополнить закон, регулируя суверенную свободу усмотрения судьи, и потенциально привести в долгосрочной перспективе к стандартизации судебных решений, базирующихся уже не на обосновании судами конкретных дел, а на чисто статистических расчетах, связанных со средней компенсацией, ранее присужденной другими судами.

Вопрос состоит в совместимости данных решений с индивидуальными правами, закрепленными в Европейской конвенции о защите прав человека и основных свобод. К ним относятся право на справедливое судебное разбирательство (а именно, право на компетентного судью, установленное законом, право на независимый и беспристрастный суд и равенство сторон в судебном разбирательстве) и право на уважение частной и семейной жизни в случае недостаточной защиты данных, передаваемых в открытых источниках.

Наряду с этим знание того, как выносится решение, всегда было важным элементом при прогнозировании исхода дела адвокатами, для которых знакомство с судьей иногда было практически так же важно, как и знание закона. Адвокаты уже давно пытаются провести сопоставление и сравнение между составами суда, в большей или меньшей мере эмпирическим методом для того, чтобы лучше консультировать своих клиентов, имеющих дело с тем или иным судьей или коллегией судей.

Существует реальный риск, что ради такого конкурентного преимущества принцип справедливого судебного разбирательства, установленный законом, будет подорван. Возможность составления профиля судьи путем перекрестных ссылок на публичные и частные данные может позволить частным компаниям и их адвокатам еще активнее использовать практику поиска «удобного» суда. Этот феномен уже дав-

но применяется в США и Франции в отношении правонарушений в сфере печати и посягательств на неприкосновенность частной жизни в прессе, где истец выбирает суд, который, по его прогнозам, присуждает наибольшую сумму компенсации ущерба.

Использование алгоритмов также ставит вопрос о защите персональных данных при их обработке. Поэтому вопрос псевдонимизации или автономизации персональных данных играет большую роль в обеспечении прав человека. В законодательстве упоминание имен судей в судебных решениях является общим обязательством государств-членов в связи с принципом публичного разбирательства, изложенным в ст. 6 Европейской конвенции о защите прав человека и основных свобод, которая направлена на обеспечение объективной беспристрастности судей, которые должны быть идентифицируемыми, законно назначенными и распределенными для выполнения своих обязанностей, и соблюдение процессуальных норм, например таких, как гласность и коллегиальность.

Прежде чем перейти на рассмотрение принципов, утвержденных Хартией, хотелось бы отметить, что так называемый нейтралитет алгоритмов — это миф, поскольку их создатели сознательно или непреднамеренно переносят в них собственные системы ценностей.

Так, философ Э. Садин отмечал, что «за эффективным и обезличенным фасадом алгоритмические системы незаметно отражают намерения их создателей или заказчиков, получая действенную и асимметричную власть над жизнью других людей».

Исследователь О. Гросдидье также считает, что «алгоритм сам по себе не способен ни на что иное, как позволить нам — в лучшем случае — понять часть замысла его создателя», и распространяет опросник на всю цепочку обработки информации (намерение создателя, написание компьютерного кода, выполнение компьютерного кода, контекст исполнения и дальнейшее обслуживание).

Принцип 1.

Принцип соблюдения основополагающих прав: обеспечение разработки и внедрения инструментов и услуг, основанных на искусственном интеллекте, соответствующих основным правам

Обработка судебных решений и данных должна преследовать четкие цели и полностью соответствовать основным правам, гарантированным Европейской конвенцией о защите прав человека и основных свобод и Конвенцией о защите персональных данных (Конвенция о защите частных лиц в отношении автоматизированной обработки данных личного характера). При использовании в целях разрешения спора или в качестве инструмента, помогающего в вынесении судебных решений или в предоставлении консультации участникам судебного процесса, технические средства, основанные на искусственном интеллекте, не должны препятствовать осуществлению

права на доступ к правосудию и права на справедливое судебное разбирательство (равенство возможностей и соблюдение принципа состязательности).

Они также должны использоваться в полном соответствии с принципами верховенства права и независимости судей в процессе принятия решений. Поэтому предпочтение следует отдавать так называемым подходам, основанным на «этике с момента их разработки» или «на правах человека с момента их разработки». Они состоят во внедрении уже на фазе разработки и изучения правил, запрещающих прямое или косвенное нарушение базовых ценностей, защищаемых конвенциями.

Право на доступ к суду. Предоставление инструментов урегулирования споров в режиме онлайн не должно нарушать право на доступ к суду по смыслу ст. 6 Конвенции о защите прав человека и основных свобод, даже если это право не является абсолютным и подразумевается, что оно может быть ограничено. В гражданских делах, например, каждая сторона имеет право передать в суд любой спор, связанный с ее «гражданскими правами и обязанностями». В 2015 г. Парламентская ассамблея Совета Европы приняла резолюцию «Доступ к правосудию и Интернет: потенциал и проблемы», в которой призвала «обеспечить, чтобы стороны, участвующие в процедурах онлайн разрешения споров, сохраняли право на доступ к процедуре обжалования в суде, удовлетворяющей требованиям справедливого судебного разбирательства в соответствии со статьей 6 Конвенции».

Принцип состязательности. В отношении оценочных шкал представляется необходимым сделать определенный объем количественной (например, количество решений, обработанных для получения масштаба) и качественной информации (происхождение решений, репрезентативность отобранных примеров, распределение решений между различными критериями, такими как экономический и социальный контекст) доступной для граждан, и прежде всего для сторон процесса, чтобы понять, как были построены масштабы, оценить их возможные пределы и иметь возможность обсудить их в суде.

Равенство сторон. Использование технических средств не должно приводить к дисбалансу между сторонами. Использование цифровых средств действительно может облегчить процедуры для некоторых операторов (учреждений, компаний, располагающих средствами, лиц, обладающих компьютерной грамотностью) и, наоборот, создать трудности для некоторых категорий населения, которые более или менее знакомы с компьютерами. Важно, чтобы пользователь не оставался один перед экраном и мог быть проинформирован о возможности обратиться за юридической консультацией и при необходимости получить помощь.

Беспристрастность и независимость судей. Возникает вопрос: может ли «норма, выведенная из

числа», косвенно влиять на независимость и беспристрастность судей, особенно в системах, в которых независимость судебных органов не достигается в полной мере? В этих системах нельзя исключать риска, что такие нормы окажут косвенное давление на судей и будут способствовать их обезличиванию при принятии ими решений, либо же поспособствуют тому, что исполнительная власть будет контролировать тех, кто отклоняется от нормы.

Право на адвоката. Ранее мы упомянули о преимуществах применения инструментов предсказуемого правосудия для юристов и, в частности, о возможности предоставления их клиентам более обоснованных консультаций путем эмпирической и систематической оценки шансов на успех определенного процесса. Тем не менее давайте представим дело, в котором шансы на успех для стороны в споре крайне низки: может ли это повлиять на решение адвоката помочь своему клиенту? Профессиональная практика должна быть направлена на сведение к минимуму риска того, что лица, нуждающиеся в юридической помощи, в конечном счете могут быть ее лишены.

Принцип 2.

Принцип недискриминации: определенным образом предупреждать развитие или усиление любой дискриминации между отдельными лицами или группами лиц

Учитывая возможность выявления существующих неравенств при применении данных методов обработки, выражающихся в группировании или классификации данных, касающихся отдельных лиц или групп лиц, государственные и частные задействованные лица должны удостовериться, что указанные методы не порождают и не усугубляют такую дискриминацию, равно как и не приводят к бесконтекстно -му анализу или использованию.

Особое внимание следует уделять на этапе как разработки, так и применения, в частности, когда обработка прямо или косвенно основана на конфиденциальных данных. Таковыми могут быть признаны предполагаемое расовое или этническое происхождение, социально-экономическое положение, политические взгляды, религиозные или философские убеждения, членство в профсоюзах, генетические или биометрические данные и т. д. С целью ограничить и по возможности нейтрализовать эти риски должны быть предусмотрены меры по корректировке, а также повышение осведомленности заинтересованных лиц при констатации подобных фактов дискриминации. Что касается борьбы с такой дискриминацией, следует поощрять использование машинного обучения и междисциплинарного научного анализа.

Принцип 3.

Принцип качества и безопасности: в том, что касается обработки судебных решений и данных, необходимо использовать сертифицированные источ-

ники и нематериальные данные с применением моделей, разработанных на междисциплинарной основе, в безопасной технологической среде

Разработчики моделей машинного обучения должны иметь возможность собрать широкий опыт соответствующих специалистов системы правосудия (судей, прокуроров, адвокатов и т. д.), а также исследователей/преподавателей в области права и социальных наук (например, экономистов, социологов и философов). Формирование смешанных проектных групп в короткие циклы проектирования для создания функциональных моделей является одним из организационных методов, который позволяет максимально эффективно использовать этот мультидисциплинарный подход. Проектные группы должны постоянно обмениваться информацией о существующих этических гарантиях и поддерживать обратную связь. Данные, основанные на судебных решениях, которые вводятся в программное обеспечение, реализующее алгоритм машинного обучения, должны поступать из сертифицированных источников и не изменяться до момента начала их фактического использования механизмом обучения. Поэтому весь процесс должен быть отслеживаемым для обеспечения гарантии того, чтобы не произошло никаких корректировок, меняющих содержание или смысл обрабатываемого решения. Созданные модели и алгоритмы также должны обладать способностью быть аккумулированными и исполнимыми в безопасной среде, обеспечивающей целостность и нерушимость системы.

Принцип 4.

Принцип прозрачности, беспристрастности и достоверности: методы обработки данных должны быть доступными и понятными, разрешить проведение внешнего аудита

Необходимо найти баланс между защитой интеллектуальной собственности определенных методов обработки и требованием обеспечения прозрачности (доступ к процессу разработки), нейтральности (отсутствие предвзятости), лояльности и достоверности (приоритет — интересам правосудия) в зависимости от правовых последствий и воздействия на лиц, которые могут иметь данные методы. Следует отметить, что эти меры затрагивают всю цепочку проектирования и эксплуатации, поскольку методология отбора, а также качество и организация данных напрямую влияют на этап обучения. Первый вариант — полная техническая прозрачность (например, открытый исходный код и документация), иногда ограничиваемая защитой коммерческой тайны. Система могла бы также быть объяснена простым и понятным языком для описания способа достижения результатов, например с помощью передачи информации о характере предлагаемых услуг, разработанных инструментов, положительных результатах и рисках ошибок. Независимые органы или эксперты могли бы обес-

печить сертификацию и контроль методов обработки или давать предварительные консультации. Органы государственной власти могли бы периодически регулярно выдавать свидетельства.

Принцип 5.

Принцип контроля пользователем: отойти от предписывающего подхода и позволить пользователю выступать в роли информированного лица, ответственного за свой выбор

Автономия пользователей должна быть усилена и не ограничена использованием инструментов и услуг на основе искусственного интеллекта. Специалисты системы правосудия должны в любой момент иметь возможность пересмотра судебных решений и данных, использованных для получения результата, при этом не обязательно оставаясь связанными ими в свете определенных особенностей данного конкретного дела. Участник судебного процесса должен быть проинформирован ясным и понятным языком о предполагаемой обязательности решений, предлагаемых инструментами, работающими на основе искусственного

интеллекта, а также о различных имеющихся вариантах и его праве на юридическую консультацию и обращение в суд. Он также должен быть четко информирован о любом предварительном обращении к возможностям искусственного интеллекта при рассмотрении дела до или во время судебного процесса и иметь возможность настоять, чтобы его дело могло быть рассмотрено непосредственно судом по смыслу ст. 6 Европейской конвенции о защите прав человека и основных свобод. По большому счету, при внедрении любой информационной системы, основанной на искусственном интеллекте, должны проводиться обучение по программам повышения компьютерной грамотности пользователей и публичные обсуждения с участием специалистов системы правосудия.

Я твердо убежден в том, что уважение прав и свобод личности, демократических принципов и верховенства права, а также укрепление беспристрастности и независимости судебных органов являются важнейшей основой прочного мира и стабильности во всем мире.

О