Искусственный интеллект отслушает музыку

«Яндекс. Музыка» начнет проверять контент на «чувствительность» с помощью искусственного интеллекта. Сервис вводит премодерацию треков. Музыка, которая, по мнению «Яндекса», может вызвать дискомфорт у слушателей, будет «с еще более высокой точностью» помечаться специальными значками ограничения по возрасту. Кроме того, такие треки могут исключить из рекомендаций или даже удалить с платформы.

Фото: Эмин Джафаров, Коммерсантъ

Премодерация будет происходить по гибридной модели — при помощи машинного обучения, а затем вручную, предположил генеральный директор компании-разработчика искусственного интеллекта «А-Я Эксперт» Роман Душкин: «Это классическая задача классификации в машинном обучении, то есть нужно разделить контент на хороший и плохой. Здесь важно заострить внимание на том, что у всех подобных моделей есть некий уровень точности и метрики качества.

До 100-процентной точности ни одна система дойти не может. Есть ошибки первого и второго рода. Ошибки первого рода — это когда система неправильно помечает. Контент хороший, а она указала, что плохой. Это не так страшно, как если она не заметит плохой контент и напишет, что он хороший.

Система не может просигнализировать об этом, потому что она не знает. И вот здесь как раз "Яндекс" правильно отправляет контент на постмодерацию, когда человек отлавливает ошибки второго рода. Эту технологию можно сравнить с ловушками спама в электронной почте. Та же самая классификация на спам и не спам».

«В Яндекс. Музыке заявляют, что «комфорт и безопасность» пользователей для площадки важны «так же, как и свобода творчества». При этом компания нигде не разъясняет, как именно будет работать алгоритм и по каким критериям контент может попасть в категорию «чувствительный». Поэтому вероятность того, что треки «нежелательных» артистов пропадут из рекомендаций, есть, отмечает эксперт музыкальной индустрии Владимир Завьялов:

«Мне кажется, это говорит о какой-то цензуре, самоцензуре, потому что другого объяснения, зачем к действующим ограничениям добавлять новые, нет. Как известно, уже есть плашка, которая называется explicit content. Она говорит об опасном контенте, который содержит какие-то вредоносные символы, нецензурную лексику и так далее. Это такая достаточно расхожая практика, которая есть и на Западе, и у нас. Она всегда была, есть и будет. Зачем нужны дополнительные ограничения, какой они несут смысл?

Второй вопрос в том, как это будет работать на практике. Что такое опасный контент, в чем заключается его опасность? Тоже непонятно, как и то, насколько эффективно система будет функционировать с точки зрения поставленных задач и целей. Нельзя исключать, что с платформы пропадут артисты-иноагенты. Мне кажется, речь идет не только о возможной пропаже, допустим, треков иноагентов или каких-то песен, которые могут показаться алгоритму и экспертам опасными, сенситивными.

Может быть практика так называемого shadow ban, когда автор публикует контент, а ему мешают доставить его до потребителя алгоритмы. Вполне возможно, что треки могут не попадать в систему рекомендаций».

Среди артистов, признанных Минюстом иноагентами, Земфира, Борис Гребенщиков, Монеточка, лидер группы «Би-2» Егор Бортник, рэпер Oxxxymiron и Noize MC. О необходимости премодерации музыкального контента в мае этого года заявил депутат Госдумы Александр Хинштейн. Он предложил законодательно обязать «Яндекс. Музыку» удалять «откровенно русофобские и экстремистские композиции». Идея возникла после скандала, когда в преддверии Дня Победы в каталоге сервиса появился украинский трек под названием «Горит москаль».

Новости в вашем ритме — Telegram-канал "Ъ FM".