«Предъявление фотографии или записи голоса — самая примитивная атака на ИИ»

О том, какие бывают атаки на системы распознавания биометрии и как от них защититься, рассказал “Ъ” директор по цифровой идентичности «Ростелекома» Иван Беров.

— Что собой представляет сейчас ЕБС и как она работает?

— ЕБС позволяет идентифицировать личность человека по его биометрическим признакам (фотографии и записи голоса) для получения им цифровых услуг. Сегодня свыше 13 тыс. отделений 230 банков по всей стране регистрируют биометрические данные. Зарегистрироваться в ЕБС может человек, имеющий подтвержденную учетную запись на «Госуслугах», а в случае ее отсутствия такую запись можно создать в банке.

— ЕБС хранит фотоснимки, записи голоса и отпечатки пальцев, то есть «сырую» биометрию, или только их математическую формулу, «вектор» (последовательность чисел, в которых зашифрованы биометрические параметры)?

— Конечно, без оригиналов невозможно получить математически преобразованные данные, с которыми и будет работать система. Они сохраняются, но отдельно от персональных данных пользователей. Это позволяет исключить возможность сопоставления вашей биометрии с конкретным лицом. Сама система работает с «вектором». Из него нельзя получить оригинал фотографии или записи голоса — можно только сравнить поступающие в систему запросы и подтвердить, является человек тем, за кого себя выдает, или нет. Если злоумышленник получит «вектор», воспользоваться им не сможет.

— Где сейчас используется ЕБС?

— Система начинала путь с банковского сектора, но сегодня это уже не только финансовые продукты. Так, в этом году студенты семи крупнейших вузов страны смогли сдать экзамены летней сессии дистанционно. Летом стало возможным удаленное получение электронных сим-карт eSIM. Важный шаг — дистанционное получение электронной подписи. Раньше ее нужно было хранить на флешке, а для получения лично приезжать в аккредитованный удостоверяющий центр.

— Кто поставляет технологию распознавания для ЕБС?

— Мы работаем со всеми ведущими технологиями, которые есть у российских разработчиков. Наша система мультивендорная: решение о том, похож человек на себя или нет, принимает не один искусственный интеллект, а несколько отечественных разработок.

— Как ЕБС защищается от мошенников?

— Атаки делятся на три уровня. Самая простая — использование фотографии, маски или грима, а также записи голоса. При распознавании биометрии система получает видеозапись, на которой пользователь, глядя в камеру, произносит сгенерированную случайным образом последовательность чисел. Она отслеживает правильность произнесения чисел, мимику лица и губ, освещенность и другие параметры и детектирует подделку.

Атаки второго уровня сложности связаны с синтезом речи и наложением изображения лица. Если используется морфинг (компьютерная анимация), то при наложении одного изображения на другое набор опорных точек смещается, лицо как бы плывет, и машина это видит. С такими атаками система справляется легко.

Самый сложный тип атаки — когда нейросеть полностью эмулирует лицо и голос, это так называемые дипфейки. Но какой бы ни был искусный дипфейк, злоумышленнику надо «показать» его камере и микрофону, ведь это компьютерная программа и ее нельзя просто отправить в защищенную систему в виде файла. Именно этот факт определяется и пресекается. Мы используем несколько технологий ИИ, которые принимают решение о том, живой ли человек перед камерой или это его компьютерная копия.

— Каковы риски утечки биометрических данных?

— Мы часто слышим опасения, что наши данные утекут или однажды скомпрометированная биометрия испортит нам жизнь. Но наши фотографии годами присутствуют в соцсетях, интернете, не составляет проблемы и записать наш голос по телефону. Злоумышленнику необходимо не только иметь эти записи, но и как-то предъявить их системе для распознавания. А мы уже знаем, что предъявление фотографии или записи голоса — это самая примитивная атака на ИИ. Если у меня ваша фотография и запись голоса, это не значит, что я смогу получить услугу.

К чему ведет развитие новых технологий идентификации в России