Большие языковые модели — большие возможности для роста бизнеса

Большие языковые модели — большие возможности для роста бизнеса

CEO группы компаний ЦРТ Дмитрий Дырмовский — о том, как бизнес внедряет речевые технологии

Как и зачем крупный бизнес внедряет речевые технологии и почему аудио LLM могут стать новым катализатором рынка, рассказал CEO группы компаний ЦРТ Дмитрий Дырмовский.

Дмитрий Дырмовский, CEO группы компаний ЦРТ

Фото: Предоставлено ГК ЦРТ

Крупный бизнес все активнее внедряет речевые технологии для улучшения качества коммуникаций с клиентами, импортозамещения и сокращения расходов на содержание контактных центров. Речевая аналитика, диалоговые ассистенты уже доказали эффективность, а появление больших языковых моделей (Large Language Model — LLM), таких как GigaChat, позволяет развивать новые подходы, чтобы предоставить бизнесу возможность решения насущных задач принципиально новыми инструментами на основе нейросетей. По прогнозу аналитического агентства Research and Markets, рынок LLM вырастет с $6,4 млрд в 2024 году до $36,1 млрд к 2030 году при совокупном годовом темпе роста 33,2% в течение прогнозируемого периода.

Аналитика речи

Речевые технологии ЦРТ используют крупнейшие банки и телеком-компании. В контактном центре «МегаФона» речевая аналитика позволила переквалифицировать 20% специалистов контроля качества в коучей, повысила уровень удовлетворенности клиентов более чем на 10 пунктов, снизив количество претензий на 40%. Речевая аналитика ЦРТ обрабатывает 98,5% звонков розничных клиентов «Билайна». Использование речевой аналитики звонков позволило снизить количество некорректных возвратов средств клиентам на 19%. Кроме того, было проведено более 250 экспериментов, результаты которых положительно сказались на разных показателях клиентского сервиса.

В «Ростелекоме» речевая аналитика ЦРТ охватывает более 80% продуктов и 75% процессов обслуживания клиентов более чем на 3 тыс. рабочих мест операторов, средняя точность распознавания речи в телефонном канале составила 97,6%, количество жалоб клиентов сократилось на 30%.

МТС речевая аналитика ЦРТ менее чем за год помогла на 10% снизить количество операторских ошибок, повысить уровень удовлетворенности клиентов и эффективность прямых продаж интернет-магазина.

Следуя новым трендам, мы разработали AI-решение для аналитики и управления коммуникациями в контактных центрах. Алгоритмы машинного обучения позволили увеличить скорость обработки и анализа обращений клиентов, а их совмещение с новыми инструментами анализа на основе LLM — нейросетевой модели GigaChat — позволило нам предоставить бизнесу новый функционал: суммаризацию содержания и тематик диалогов, оценку их результативности и тональности. Теперь все данные агрегируются, расшифровываются и анализируются в онлайн-режиме прямо в момент обращения клиента. Это помогает оператору давать более точные ответы на запросы. Онлайн речевая аналитика помогает не просто отвечать на запросы клиента, а прогнозировать изменение клиентских предпочтений. Новое решение позволяет управлять клиентским опытом, увеличивает экономическую эффективность и развивает бизнес.

Диалоговые ассистенты

С прогрессом технологий совершенствуется функциональность голосовых помощников: они могут «на лету» определять тематику обращения в контактный центр, вести интеллектуальный диалог с клиентом: работать с контекстом, реагировать на перебивания, выделять сразу несколько параметров из одной фразы клиента. Эволюция синтеза речи позволяет добиться максимальной плавности и реалистичности речи диалоговых ассистентов, а большие языковые модели открывают новую эру в их развитии.

LLM могут помочь создавать ассистентов без ручного обучения, а также персональных Co-pilots — AI-помощников для целого набора различных специализаций. Так, к примеру, AI-помощник финансиста-аналитика может формировать SQL-запросы к базе данных на основе запроса аналитика на естественном языке, а поисковый AI-помощник сотрудника может помогать осуществлять поиск по корпоративной базе знаний, формулировать ответ на запрос с учетом мгновенного анализа всех нормативных актов и положений компании.

Аудио LLM — новый челлендж для разработчиков

Бизнес уже видит ценность от синергии речевых технологий и LLM. Особый интерес возникает со стороны контактных центров банков, телекома и других компаний. Речевая аналитика уже доказала эффективность, а LLM привносит новые ценности: суммаризацию содержания и тематик диалогов, оценку их результативности, что помогает бизнесу «слышать» голос клиентов и наиболее эффективно удовлетворять желания клиентов, предвосхищать их. И это лишь один из примеров, как технологии уже сейчас приносят пользу бизнесу.

Разработчики двигаются дальше: развивая работу с аудио LLM, можно в перспективе добиться еще более прорывных результатов. Традиционно LLM работает с текстом, а в тексте, очевидно, сложно передать спектр атрибутов живой человеческой речи: сарказм, иронию и другие, при этом именно в естественной речи содержится пласт важной информации о мнении клиента, его настроении и отношении к бренду. Развитие аудио LLM может позволить совершенствовать модели, которые будут способны анализировать и понимать аудио со всей полнотой интонационного контура, а, значит, появится еще больше возможностей для получения инсайтов, улучшения клиентского опыта и развития бизнеса.