Искусственный интеллект научат уважению

В Ватикане разработали кодекс этики искусственного интеллекта. Как пишет Financial Times, авторы документа настаивают: ИИ должен уважать частную жизнь человека. Свод правил предложили компаниям из Кремниевой долины, IBM и Microsoft идею уже одобрили. Что это меняет? И поддержат ли кодекс российские разработчики? Об этом — Иван Якунин.

Фото: Frank Rumpenhorst / dpa / AFP

Пока документ напоминает наставления тренеров по личностному росту — конкретики там слишком мало. Этический кодекс подразумевает, что технологии должны гарантировать соблюдение прав человека, особенно незащищенных слоев населения, а разработчики искусственного интеллекта должны разъяснять, как работают системы и для чего они нужны. За этой, казалось бы, абстрактной формулировкой на самом деле кроется много вполне понятных проблем. Например, одному американцу неэтичная система распознавания лиц стоила брака, рассказал частный инвестор Андрей Зиновьев: «Был случай, когда жена узнала о любовнице мужа, потому что камера дорожного движения идентифицировала его и любовницу. С тех пор в Америке приходят штрафы без распознавания лиц».

Проблему остро воспринимают и в России: например, в прошлом году москвичка Алена Попова подала иск к столичным властям, требуя запретить технологию распознавания лиц в городе. По ее мнению, обработка биометрии без письменного согласия нарушает закон о персональных данных. “Ъ FM” тогда обсудил инцидент с главой Сбербанка Германом Грефом, который также внедряет такую технологию в банкоматы — появление претензий к мэрии его не удивили: «Я думаю, что эта сфера подлежит тщательному описанию и регулированию. Такие парадоксы на стадии зарождения технологий всегда бывают. Собственно, система сбора биометрической информации у нас так и построена. Нужно получить письменное согласие, и только после этого ты можешь собрать биометрическую информацию и использовать ее ровно в тех целях, которые были прописаны в договоре. Клиент может в любое время точно также отозвать это согласие, и соответствующие биометрические образцы должны быть изъяты».

В итоге суд ожидаемо отклонил иск Поповой, а столичные власти продолжили развивать систему распознавания лиц. Как писал Forbes, технологию мэрия купила у компании NtechLab больше чем за $3 млн. Гендиректор фирмы Александр Минин в беседе с “Ъ FM” согласился с рекомендациями этического кодекса: «Больше всего вопросов возникает из-за того, что люди не понимают, как работает технология, что, например, камера, которая стоит на улице сейчас, снимает всех прохожих. Порой людям кажется, что технология с функцией распознавания лиц идентифицировала их и теперь видит всех. На самом деле это не так — людей распознают только в тот момент, когда информацию с видеокамеры соединяют с цифровым индексом из базы данных паспортов, доступ к которой очень сильно ограничен — чаще всего только правоохранительные органы обладают доступом к этим данным.

Чем больше будет прозрачной информации о том, как это работает, тем меньше будет накал страстей на эту тему».

С одной стороны, похвально, что отрасль сама себя регулирует. С другой — ограничения могут негативно повлиять на финансовые результаты компаний-производителей. Те же IBM и Microsoft пообещали не продавать свои технологии заказчикам, если те не гарантируют их этичное использование. Сорванные сделки — меньшее из зол, признает директор по бизнес-развитию компании «Центр речевых технологий» Андрей Хрулев: «Для компаний, которые хотят работать на рынках ЕС и США, конечно же, крайне важно показывать определенное следование принципам. Если Microsoft уличат в неэтичности применения технологий, то это может нести гораздо более серьезные экономические потери, нежели разовый выигрыш от продажи технологий и проектов».

Создание такого документа — это, конечно, позитивный сигнал, но вице-президент IBM Джон Келли уже признал, что около трети этических вопросов, с которыми компания обычно сталкивается, не имеют очевидного ответа. Так что, судя по всему, этический кодекс искусственного интеллекта, как и российская Конституция, будет еще неоднократно переписываться.

Как система распознавания лиц работает в других странах

Папа римский не первый раз высказывает опасения из-за развития искусственного интеллекта. Прошлой осенью он предостерег Кремниевую долину от новой формы варварства, когда интересы крупнейших компаний стоят выше всеобщего блага.