Законом по интеллекту

Профильные комитеты Европарламента предварительно одобрили Закон об искусственном интеллекте, регулирующий различные аспекты использования систем и инструментов, основанных на ИИ. В частности, в проекте содержится запрет на использование технологии распознавания лиц в общественных местах, применение полицией предиктивной аналитики и меры по регулированию систем генеративного ИИ. По мнению экспертов, закон в случае принятия повлияет не только на европейский, но и на глобальный рынок.

Фото: Александр Коряков, Коммерсантъ

В четверг два комитета Европарламента — по внутреннему рынку и по гражданским свободам — одобрили проект закона (.pdf) об искусственном интеллекте (AI Act). 84 депутата проголосовали за, 7 — против, 12 воздержались. В июне должен будет проголосовать Европарламент в целом. После этого пройдут обсуждения документа с Еврокомиссией, а также со странами—членами ЕС. Ожидается, что закон будет окончательно принят в конце нынешнего или начале следующего года.

144-страничный законопроект описывает правила использования различных систем на основе ИИ, в том числе систем распознавания лиц, предиктивной аналитики, генеративного ИИ, беспилотных автомобилей и других.
Все основанные на ИИ системы и инструменты по новому закону должны подразделяться по уровню риска — от низкого до неприемлемого.

Закон станет первым в мире примером разностороннего и всеобъемлющего регулирования использования искусственного интеллекта, на который в дальнейшем так или иначе будут ориентироваться власти других стран и корпорации. «Мы находимся на пороге создания по-настоящему значимого для цифровой среды законодательства, не только для Европы, но и для всего мира»,— отметил один из авторов законопроекта депутат Брандо Бенифеи.

Это связано в числе прочего с тем, что компании, скорее всего, будут ориентироваться на принятые в ЕС нормы при разработке ИИ-систем. Как отметил преподаватель Оксфордского института интернета и эксперт в сфере регулирования ИИ Йоханн Лаукс, «европейцы довольно богаты и их много», так что разработчики будут ориентироваться на нормы ЕС, а не разрабатывать разные системы для разных рынков.

Законопроект запрещает применение целого ряда инструментов и систем, позволяющих с помощью ИИ следить за гражданами и, в частности, создавать профили потенциальных преступников.

На запрете таких практик настаивали депутаты от левых и левоцентристских партий, а также многие правозащитные организации. Правоцентристская Европейская народная партия, напротив, выступала против этой меры.

«Своим списком запретов парламент… дает понять правительствам и разработчикам, что некоторые виды применения ИИ слишком вредны, чтобы их можно было разрешить»,— считает старший советник по вопросам политики организации «Европейские цифровые права» (EDRi) Сара Чандер.

В числе прочего Закон об ИИ предусматривает запрет использования систем распознавания лиц и других систем «удаленной биометрической идентификации» в режиме реального времени в общественных местах. В последние годы они получили широкое распространение в разных странах.

Помимо распознавания лиц в классическом смысле, позволяющего определить личность человека по видео, закон запрещает также и так называемое распознавание эмоций. Оно работает сходным образом и выявляет состояние человека — это может быть использовано работодателями или полицией для выявления уставших работников или водителей.

Также закон запрещает использование полицией систем предиктивной аналитики для профилактики правонарушений. Такие системы, анализируя огромные массивы данных, делают прогноз о вероятности совершения преступления и составляют профили потенциальных правонарушителей. Помимо общей непрозрачности такого прогнозирования подобные системы ИИ уже критиковали за то, что они воспроизводят стереотипы, господствующие в обществе. Так, представители малообеспеченных групп населения могут быть отнесены ИИ к группе высокого риска только потому, что они чаще контактируют с социальными службами и их данные с большей вероятностью можно найти в государственных базах, на основе которых ИИ и делает прогнозы.

Закон содержит нормы жесткого регулирования различных «высокорисковых систем, основанных на ИИ». К ним относят физические объекты — беспилотные автомобили, медицинские приборы с применением ИИ, основанные на ИИ системы управления критической инфраструктурой и т. д. Сбой в их работе угрожает жизни людей или ведет к другим серьезным последствиям.

Что касается генеративного ИИ, то есть, в частности, основанных на ИИ чат-ботов, таких как ChatGPT, закон не запрещает их использование, но довольно жестко его регулирует. В числе прочего создатели таких систем должны раскрывать информацию о том, какие защищенные авторским правом книги, музыкальные произведения, картины и др. использовались при обучении ИИ. Это должно помочь бороться с нарушением авторского права и плагиатом.

В целом компании, использующие различные ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения «здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона».

В соответствии с законом за нарушение этих норм будет грозить штраф на сумму до €30 млн, или 6% годовой глобальной выручки компании. Правда, первые два года после вступления закона в силу он будет действовать в тестовом режиме. Для контроля за соблюдением закона будет создано Управление ЕС по ИИ, которое будет следить за его выполнением вместе с регуляторами отдельных стран ЕС.