СПОСОБ И УСТРОЙСТВО ДЛЯ ОБНАРУЖЕНИЯ ЗВУКОВОЙ АКТИВНОСТИ И КЛАССИФИКАЦИИ ЗВУКОВЫХ СИГНАЛОВ
METHOD AND APPARATUS FOR DETECTING SOUND ACTIVITY AND CLASSIFYING SOUND SIGNALS

Область технического применения
Настоящее изобретение относится к обнаружению звуковой активности, оценке фоновых шумов и классификации звуковых сигналов, где под звуком понимается полезный сигнал. Настоящее изобретение также относится к соответствующим детектору звуковой активности, эстиматору фонового шума и классификатору звуковых сигналов.
В частности, но не исключительно:
- обнаружение звуковой активности используется при выборе кадров для кодирования с использованием технологий, оптимизированных для неактивных кадров;
- классификатор звуковых сигналов используется для распознавания речевых сигналов различных классов и музыки, что позволяет осуществлять более эффективное кодирование звуковых сигналов, т.е. кодирование, оптимизированное для сигналов невокализованной речи и стабильной вокализованной речи, а также обобщенного кодирования других звуковых сигналов;
- предложен алгоритм, использующий несколько релевантных параметров и особенностей для улучшения выбора режима кодирования и более устойчивой оценки фонового шума;
- оценка тональности используется для улучшения производительности обнаружения звуковой активности в присутствии музыкальных сигналов, а также для лучшего распознавания невокализованных звуков и музыки. Например, оценка тональности может использоваться в сверхширокополосном кодеке для принятия решения о кодировании моделью кодека сигнала с частотой выше 7 кГц.
Предпосылки изобретения
В последнее время в различных областях применения, таких как конференц-связь, мультимедиа и беспроводная связь, возрастает потребность в эффективных цифровых узкополосных и широкополосных технологиях кодирования речевого сигнала с хорошим компромиссом между субъективным качеством и скоростью передачи битовых данных (битрейтом). До последнего времени диапазон частот телефонной связи, ограниченный 200-3400 Гц, в основном использовался для приложений, кодирующих речевой сигнал (дискретизация сигнала на частоте 8 кГц). Однако широкополосные речевые приложения, в сравнении с традиционным диапазоном частот телефонной связи, обеспечивают повышенную разборчивость и естественность передачи информации. В широкополосных средствах связи входной сигнал дискретизируется на частоте 16 кГц, а диапазон кодированных частот находится в пределах 50-7000 Гц. Установлено, что этот частотный диапазон является достаточным для обеспечения хорошего качества, давая впечатление общения практически лицом к лицу. Дальнейшее улучшение качества достигается при использовании так называемых сверхширокополосных технологий, где сигнал дискретизируется на частоте 32 кГц, а диапазон кодированных частот находится в пределах 50―15000 Гц. Поскольку практически вся энергия человеческой речи находится ниже 14000 Гц, для голосовых сигналов обеспечивается качество общения лицом к лицу. Данный частотный диапазон также обеспечивает значительное улучшение качества для аудиосигналов в целом, включая музыку (широкополосный частотный диапазон эквивалентен АМ-радиовещанию, сверхширокополосный - FM-радиовещанию). Более высокий частотный диапазон используется для аудиосигналов полного диапазона 20-20000 Гц (CD-качество с дискретизацией на частоте 44,1 кГц или 48 кГц).
Кодировщик звукового сигнала преобразует звуковой сигнал (голосовой или аудиосигнал) в цифровой поток, который передается через канал связи или хранится на информационном носителе. Звуковой сигнал оцифровывается, т.е. дискретизируется и кодируется, обычно 16 битами на каждое значение. Кодировщик звука представляет данные цифровые значения в виде минимального количества битов, при котором сохраняется хорошее субъективное качество. Декодер звука оперирует с переданным или сохраненным цифровым потоком, преобразуя его обратно в звуковой сигнал.
Кодовое линейное предсказание
L
кадрами
L
L
подкадрами
Технология кодирования (CELP) является одной из лучших среди предложенных ранее для достижения компромисса между субъективным качеством и скоростью передачи битовых данных. Данная технология лежит в основе нескольких стандартов кодирования речи как в беспроводных, так и проводных приложениях. При кодировании методом CELP дискретизированный речевой сигнал обрабатывается в виде последовательных блоков из  значений, обычно называемых , где  - заранее заданное число, соответствующее обычно 10-30 мс. Вычисляется фильтр с линейным предсказанием (ЛП) и передается каждый кадр. Кадр из  значений разбивается на меньшие блоки, называемые . В каждом подкадре сигнал возбуждения обычно получается из двух компонент, компоненты прошлого возбуждения и прогрессивной компоненты, возбуждения с фиксированным словарем кодов. Компонента, полученная из прошлого возбуждения, часто называется адаптивным словарем кодов или возбуждением основного тона. Параметры, характеризующие сигнал возбуждения, кодируются и передаются в декодер, где реконструированный сигнал возбуждения используется в фильтре ЛП в качестве входного.
Использование кодирования речи с зависящей от источника переменной скоростью передачи битовых данных (VBR) существенно улучшает производительность системы. В зависящем от источника VBR-кодировании кодек использует модуль классификации сигналов, а для кодирования каждого речевого кадра на основе его сущности (например, вокализованной, невокализованной, промежуточной, фонового шума) используется оптимизированная модель кодирования. Кроме того, для каждого из классов могут использоваться различные скорости передачи битовых данных. Простейший способ зависящего от источника VBR-кодирования - обнаружение активности речи (VAD) и кодирование неактивных речевых кадров (фонового шума) с очень низкой скоростью передачи битовых данных. Кроме того, в отсутствие передачи данных (устойчивого фонового шума) возможно использование прерывистой передачи (DTX). Для генерирования фоновых шумовых характеристик декодер может использовать генерацию комфортного шума (CNG). Применение VAD/DTX/CNG приводит к значительному снижению средней скорости передачи битовых данных, а также, в приложениях с коммутацией пакетов, значительно снижает количество трассируемых пакетов. Алгоритмы VAD хорошо применимы к речевым сигналам, однако в случае музыкальных сигналов они могут привести к значительным трудностям. Фрагменты музыкальных сигналов могут быть классифицированы как невокализованные сигналы и соответственно кодироваться по оптимизированной для невокализованных сигналов модели, которая чрезвычайно отрицательно влияет на качество музыки. Кроме того, некоторые фрагменты устойчивых музыкальных сигналов могут быть классифицированы как устойчивый фоновый шум, что запустит модификацию фонового шума по алгоритму VAD и приведет к снижению производительности алгоритма. Поэтому было бы полезным расширение алгоритма VAD для лучшего распознавания музыкальных сигналов. В предыдущем раскрытии данный алгоритм носил название алгоритма выявления звуковой активности (SAD), где звук мог представлять из себя речь, музыку или любой другой полезный сигнал. В настоящем раскрытии также описан способ использования обнаружения тональности для улучшения производительности алгоритма SAD для случая музыкальных сигналов.
Другой подход к кодированию речевых и аудиосигналов заключается в концепции встраиваемого кодирования, также известной как многоуровневое кодирование. В многоуровневом кодировании сигнал кодируется на первом уровне с образованием первого цифрового потока. Затем расхождение между оригинальным сигналом и кодированным сигналом первого уровня кодируется, образуя второй цифровой поток. Кодируя различие между оригинальным сигналом и кодированным сигналом со всех предшествующих уровней, можно получать новые уровни. Для передачи цифровые потоки со всех уровней соединяются. Преимуществом многоуровневого кодирования является то, что части цифрового потока (соответствующие верхним уровням) могут быть потеряны в сети (например, в результате перегрузки), однако при этом сохраняется возможность декодирования сигнала в приемнике в зависимости от количества полученных уровней. Многоуровневое кодирование также пригодно для многоадресных приложений, где кодировщик генерирует цифровой поток от всех уровней, а сеть принимает решение об отсылке разных скоростей передачи битовых данных в разные конечные точки в зависимости от доступности скорости передачи битовых данных каждого из каналов связи.
Встраиваемое или многоуровневое кодирование также может быть применимо для улучшения качества существующих широко используемых кодеков, поддерживая функциональную совместимость с этими кодеками. Добавление новых уровней к базовому уровню кодека может привести к улучшению качества и даже увеличить частотный диапазон кодированного аудиосигнала. Примером является недавно стандартизированная рекомендация сектора электросвязи МСЭ G.729.1, где основной уровень функционально совместим с широко используемым широкополосным стандартом 8 кбит/с G.729, а верхние уровни генерируют скорости передачи битовых данных до 32 кбит/с (с широкополосным сигналом, начиная от 16 кбит/с). Текущие работы по стандартизации имеют целью добавление большего количества уровней для создания сверхширокополосного кодека (частотный диапазон 14 кГц) и стереорасширений. Другой пример - рекомендация сектора электросвязи МСЭ G.718 для кодирования широкополосных сигналов 8, 12, 16, 24 и 32 кбит/с. Данный кодек также расширен для кодирования сверхширокополосных и стереосигналов на более высоких скоростях передачи битовых данных.
Требования к встраиваемым кодекам обычно заключаются в хорошем качестве речевых и аудиосигналов. Поскольку речь может кодироваться на относительно невысоких скоростях передачи битовых данных с использованием приближения на основе модели, первый уровень (или первые два уровня) кодируется (кодируются) с использованием технологий, специфичных для кодирования речи, а сигнал рассогласования для верхних уровней кодируется с использованием обобщенных технологий кодирования аудиоинформации. Это обеспечивает хорошее качество речи на низких скоростях передачи битовых данных и хорошее качество аудио при повышении скоростей передачи битовых данных. В рекомендациях G.718 и G.729.1 первые два уровня основаны на технологии ACELP (алгебраическое кодовое линейное предсказание), пригодной для кодирования речевых сигналов. На верхних уровнях для кодирования сигнала рассогласования (разницы между исходным сигналом и выходным сигналом с первых двух уровней) используется кодирование на основе преобразования, пригодное для аудиосигналов. Для преобразования сигнала рассогласования в частотную область используется хорошо известное модифицированное дискретное косинусное преобразование (MDCT). На сверхширокополосных уровнях сигналы выше 7 кГц кодируются с использованием обобщенной модели кодирования или модели тонального кодирования. Для выбора наиболее подходящей модели кодирования также может быть использовано вышеупомянутое обнаружение тональности.
Краткое описание изобретения
Согласно первой особенности настоящего изобретения, изобретение предусматривает способ оценки тональности звукового сигнала, который включает в себя вычисление текущего остаточного спектра звукового сигнала; обнаружение пиков в текущем остаточном спектре; вычисление карты корреляции между текущим остаточным спектром и предыдущим остаточным спектром для каждого обнаруженного пика; вычисление на основе вычисленной карты корреляции долгосрочной карты корреляции, являющейся признаком тональности звукового сигнала.
Согласно второй особенности настоящего изобретения, изобретение предусматривает устройство для оценки тональности звукового сигнала, которое включает в себя средства вычисления текущего остаточного спектра звукового сигнала; средства обнаружения пиков в текущем остаточном спектре; средства вычисления карты корреляции между текущим остаточным спектром и предыдущим остаточным спектром для каждого обнаруженного пика; средства вычисления на основе вычисленной карты корреляции долгосрочной карты корреляции, являющейся признаком тональности звукового сигнала.
Согласно третьей особенности настоящего изобретения, изобретение предусматривает устройство для оценки тональности звукового сигнала, которое включает в себя вычислитель текущего остаточного спектра звукового сигнала; детектор пиков в текущем остаточном спектре; вычислитель карты корреляции между текущим остаточным спектром и предыдущим остаточным спектром для каждого обнаруженного пика; вычислитель на основе вычисленной карты корреляции долгосрочной карты корреляции, являющейся признаком тональности звукового сигнала.
Вышеперечисленные цели, преимущества и особенности настоящего изобретения станут яснее при ознакомлении с нижеследующим неограничивающим описанием иллюстративного варианта осуществления изобретения, данного исключительно в качестве примера с отсылкой к прилагаемым иллюстрациям.
Краткое описание графических материалов
Фиг.1 - блок-схема части примера системы звуковой связи, включающей обнаружение звуковой активности, модификацию оценки фонового шума и классификацию звуковых сигналов.
Фиг.2 - неограничивающая иллюстрация обработки методом окна в спектральном анализе.
Фиг.3 - неограничивающая графическая иллюстрация принципа вычисления спектрального дна.
Фиг.4 - неограничивающая иллюстрация вычисления карты спектральной корреляции в текущем кадре.
Фиг.5 - пример функциональной блок-схемы алгоритма классификации сигналов.
Фиг.6 - пример дерева решений для распознавания невокализованной речи.
Подробное описание изобретения
В неограничительном иллюстративном варианте осуществления настоящего изобретения обнаружение звуковой активности (SAD) осуществляется в системе звуковой связи для классификации кратковременных кадров сигналов звука или фонового шума/тишины. Обнаружение звуковой активности основано на частотно-зависимом отношении сигнал/шум (SNR) и использует оценку энергии фонового шума на критическую полосу. Принятие решения о модификации оценки фонового шума основывается на нескольких параметрах, включающих параметры, различающие фоновый шум/тишину и музыку, и предотвращающих таким образом модификацию оценки фонового шума на музыкальных сигналах.
SAD соответствует первому этапу классификации сигналов, используемому с целью распознавания неактивных кадров для оптимизированного кодирования неактивного сигнала. На втором этапе с целью оптимизированного кодирования невокализованного сигнала распознаются невокализованные речевые кадры. Также на втором этапе, во избежание классификации музыки как невокализованного сигнала, добавляется обнаружение музыки. На третьей стадии вокализованные сигналы распознаются через дальнейшее изучение параметров кадра.
AMR Wideband Speech Codec: Transcoding Functions,
Source-Controlled
Variable-Rate Multimode Wideband Speech Codec (VMR-WB), Service Options 62 и 63 для Spread Spectrum Systems,
Раскрытые здесь технологии могут употребляться как с узкополосными (УП) звуковыми сигналами, дискретизированными на частоте 8000 значений/с, так и с широкополосными (ШП) звуковыми сигналами, дискретизированными на частоте 16000 значений/с, или на любой другой частоте дискретизации. Кодировщик, используемый в неограничительном иллюстративном варианте осуществления настоящего изобретения, основан на кодеках AMR-WB (широкополосный речевой кодек AMR) [3GPP Technical Specification TS 26.190 (http://www.3gpp.org)] и VMR-WB (зависимый от источника многорежимный широкополосный речевой кодек с переменной скоростью передачи битовых данных) [3GPP2 Technical Specification C.S0052-A v1.0, апрель 2005 г. (http://www.3gpp2.org)], которые используют внутреннее преобразование дискретизации для преобразования частоты дискретизации сигнала к 12800 значений/с (функционирует в частотном диапазоне 6,4 кГц). Таким образом, технология обнаружения звуковой активности является неограничительным иллюстративным вариантом осуществления изобретения, функционирующим после преобразования к 12,8 кГц как на узкополосных, так и на широкополосных сигналах.
На фиг.1 приведена блок-схема системы звуковой связи 100 согласно неограничительному иллюстративному варианту осуществления изобретения, который включает в себя обнаружение звуковой активности.
Система звуковой связи 100 (фиг.1) включает в себя препроцессор 101. Предварительная обработка в модуле 101 может осуществляться, как описано в нижеследующем примере (фильтрация верхних частот, передискретизация, предыскажения).
Перед преобразованием частоты входной звуковой сигнал подвергается фильтрации верхних частот. В данном неограничительном иллюстративном варианте осуществления изобретения частота среза фильтра верхних частот составляет 25 Гц для ШП и 100 Гц для УП. Фильтр верхних частот выступает в качестве меры предосторожности от низкочастотных составляющих. Например, может быть использована следующая функция преобразования:
b
b
=
b
a
a
b
b
b
=
a
a
0
1
2
1
2
0
1
2
1
2
где для ШП: =0,9930820, -1,98616407, =0,9930820, =-1,9861162, =0,9862119292; для УП: =0,945976856, =-1,891953712, 0,945976856, =-1,889033079, =0,894874345. Разумеется, фильтрация высоких частот может осуществляться и после редискретизации на 12,8 кГц.
В случае ШП, входной звуковой сигнал прореживается от 16 кГц до 12,8 кГц. Прореживание осуществляется при помощи повышающего дискретизатора, который осуществляет повышающую дискретизацию звукового сигнала на 4. Результирующий выходной сигнал затем фильтруется через фильтр низких КИХ (конечных импульсных характеристик) с частотой среза 6,4 кГц. Затем сигнал, подвергнутый фильтрации нижних частот, подвергается понижающей дискретизации на 5 при помощи подходящего понижающего дискретизатора. Задержка фильтрации на частоте дискретизации 16 кГц составляет 15 значений.
В случае УП, звуковой сигнал подвергается повышающей дискретизации от 8 кГц до 12,8 кГц. Для этой цели повышающий дискретизатор осуществляет повышающую дискретизацию звукового сигнала на 8. Результирующий звуковой сигнал фильтруется через фильтр низких КИХ с частотой среза 6,4 кГц. Затем понижающий дискретизатор осуществляет понижающую дискретизацию сигнала, подвергнутого фильтрации нижних частот, на 5. Задержка фильтрации на частоте дискретизации 8 кГц составляет 16 значений.
После преобразования дискретизации перед процессом кодирования звуковой сигнал подвергается предыскажению. В ходе предыскажения для введения предыскажений высоких частот используется фильтр верхних частот первого порядка, который образует предысказитель и использует, например, следующую функцию преобразования:
.
Предыскажение используется для того, чтобы улучшить производительность кодека на высоких частотах и перцепционное взвешивание в процессе минимизации рассогласования, используемой в кодировщике.
Как было описано выше, входной звуковой сигнал преобразуется к частоте дискретизации 12,8 кГц и подвергается предварительной обработке, пример которой также приведен выше. Однако раскрытая технология может таким же образом быть применена к сигналам с другими частотами дискретизации, например 8 кГц или 16 кГц, с другой предварительной обработкой или без предварительной обработки.
В неограничительном иллюстративном варианте осуществления настоящего изобретения кодировщик 109 (фиг.1), использующий обнаружение звуковой активности, функционирует на кадрах по 20 мс, содержащих 256 значений с частотой дискретизации 12,8 кГц. Кроме того, кодировщик 109 использует 10 мс предварительный вид следующего кадра для его анализа (фиг.2). Обнаружение звуковой активности следует той же структуре кадров.
IEEE J. Select. Areas Commun.,
Спектральный анализ согласно фиг.1 производится в анализаторе 102 спектра. В каждом кадре производится два анализа с использованием 20 мс окон с 50% перекрыванием. Принцип обработки методом окна проиллюстрирован на фиг.2. Энергия сигнала вычисляется для элементов разрешения по частоте и критических полос [J. D. Johnston, "Transform coding of audio signal using perceptual noise criteria," vol. 6, pp. 314-323, февраль 1988 г.].
Обнаружение звуковой активности (первый этап классификации сигнала) осуществляется в детекторе 103 звуковой активности с использованием оценок энергии шума, вычисленных в предыдущем кадре. Выводной сигнал детектора 103 звуковой активности представляет собой двоичную переменную, которая затем используется кодировщиком 109 и определяет кодирование текущего кадра как активного или неактивного.
Эстиматор 104 шума осуществляет нисходящую модификацию оценки шума (первый уровень оценки и модификации шума), т.е. если в критической полосе энергия кадра меньше, чем оценка энергии фонового шума, энергия оценки шума модифицируется в этой критической полосе.
Proc. Eusipco,
В случае необходимости, к речевому сигналу прилагается шумоподавление посредством необязательного шумоподавителя 105, использующего, например, метод вычитания спектров. Пример такого шумоподавления описан в работе [M. Jelinek и R. Salami, "Noise Reduction Method for Wideband Speech Coding," in Vienna, Austria, сентябрь 2004 г.].
Анализ линейного предсказания (ЛП) и анализ основного тона с разомкнутой петлей осуществляются (обычно как часть алгоритма кодирования речи) ЛП-анализатором и следящим фильтром высоты тона 106. В данном неограничительном иллюстративном варианте осуществления изобретения параметры, полученные из ЛП-анализатора и следящего фильтра высоты тона 106, используются для принятия решения о модификации оценки шума в критических полосах, что производится в модуле 107. В качестве альтернативы, для принятия решения о модификации шума может использоваться детектор 103 звуковой активности. В качестве дополнительной альтернативы, функции, осуществляемые ЛП-анализатором и следящим фильтром высоты тона 106, могут являться составляющими алгоритма кодирования звука.
Перед модификацией оценок энергии шума в модуле 107 для предотвращения ложной модификации активных музыкальных сигналов осуществляется обнаружение музыки. Обнаружение музыки использует спектральные параметры, вычисленные анализатором 102 спектра.
В конечном итоге, оценки энергии шума модифицируются в модуле 107 (второй уровень оценки и модификации шума). Для принятия решения о модификации оценок энергии шума модуль 107 использует все доступные параметры, вычисленные в модулях 102-106.
В классификаторе 108 сигналов звуковой сигнал дополнительно классифицируется как невокализованный, устойчиво вокализованный или обобщенный. Для обеспечения принятия этого решения вычисляется несколько параметров. Режим кодирования звукового сигнала текущего кадра в классификаторе сигналов выбирается для наилучшего представления класса сигнала, который кодируется.
Кодировщик 109 сигнала осуществляет кодирование звукового сигнала на основе режима кодирования, который выбирается в классификаторе 108 сигналов. В других приложениях классификатором 108 сигналов может выступать автоматическая система распознавания речи.
Спектральный анализ
Спектральный анализ осуществляется спектральным анализатором 102 (фиг.1).
Для осуществления спектрального анализа и оценки энергии спектра используется преобразование Фурье. Спектральный анализ каждого кадра осуществляется дважды с использованием быстрого преобразование Фурье (БПФ) по 256 точкам с 50% перекрыванием (как показано на фиг.2). Окна анализа расположены таким образом, чтобы задействовать весь предварительный вид. Начало первого окна находится в начале текущего кадра кодировщика. Второе окно находится на 128 значений дальше. Для взвешивания входного звукового сигнала для спектрального анализа используется окно квадратных корней Хеннинга (которое эквивалентно окну синусов). Это окно особенно хорошо подходит для методов сложения с перекрытием (так, именно этот спектральный анализ используется в шумоподавлении, основанном на вычитании спектров и анализе/синтезе сложения с перекрытием). Окно квадратных корней Хеннинга задано следующим образом:
L
L
FFT
FFT
где =256 ― объем БПФ. Поскольку данное окно симметрично, вычисляется и сохраняется только половина окна (от 0 до /2).
Сигналы, обработанные методом окна, для обоих спектральных анализов (первого и второго спектрального анализа) получены с использованием следующих соотношений:
s'
где (0) - первое значение в текущем кадре. В неограничивающем иллюстративном примере осуществления настоящего изобретения начало первого окна расположено в начале текущего кадра. Второе окно расположено 128 значениями дальше.
БПФ осуществляется на обоих сигналах, обработанных методом окна, давая для каждого кадра два набора спектральных параметров:
N=L
FFT
где .
X
(k), k
X
(k), k=
X
(0)
X
(128)
R
I
R
R
БПФ дает вещественную и мнимую части спектра, обозначенные как =0-128, и 1-127.  соответствует спектру при 0 Гц (постоянная составляющая),  соответствует спектру при 6400 Гц. В этих точках спектр имеет только вещественные значения.
Proc. Eusipco,
Спектр, полученный после анализа БПФ, разделяется на критические полосы с использованием интервалов, имеющих следующие верхние пределы [M. Jelinek и R. Salami, "Noise Reduction Method for Wideband Speech Coding," in Vienna, Austria, сентябрь 2004 г.] (20 полос в диапазоне частот 0-6400 Гц):
Критические полосы = {100,0, 200,0, 300,0, 400,0, 510,0, 630,0, 770,0, 920,0, 1080,0, 1270,0, 1480,0, 1720,0, 2000,0, 2320,0, 2700.0, 3150,0, 3700,0, 4400,0, 5300,0, 6350,0} Гц.
M
CB
БПФ на 256 точках приводит к разрешающей способности по частоте 50 Гц (6400/128). Поэтому после пропуска постоянной составляющей спектра количество элементов разрешения по частоте для каждой критической полосы ={2, 2, 2, 2, 2, 2, 3, 3, 3, 4, 4, 5, 6, 6, 8, 9, 11, 14, 18, 21} соответственно.
Средняя энергия в критической полосе вычисляется по следующему соотношению:
R
I
i
i
i
j
где X(k) и X(k) - соответственно, вещественная и мнимая части k элемента разрешения по частоте, а j - индекс первого элемента разрешения по частоте в  критической полосе, который задан как ={1, 3, 5, 7, 9, 11, 13, 16, 19, 22, 26, 30, 35, 41, 47, 55, 64, 75, 89, 107}.
E
(k)
BIN
Также спектральный анализатор 102 вычисляет нормированную энергию на элемент разрешения по частоте  в интервале 0-6400 Гц, используя для этого соотношение
Кроме того, энергии спектра на элемент разрешения по частоте в обоих анализах объединяются, давая среднюю log-энергию спектра (в децибелах), т.е.
где верхние индексы (1) и (2) используются для указания первого и второго спектральных анализов соответственно.
E
CB
В конечном итоге, анализатор 102 спектра вычисляет среднюю полную энергию для обоих, первого и второго, спектральных анализов в 20 мс кадре путем добавления средних энергий критических полос . Таким образом, энергия спектра для определенного спектрального анализа вычисляется по следующему соотношению:
(5)
а полная энергия кадра вычисляется как среднее энергий спектра для первого и второго спектральных анализов кадра:
, дБ(6)
Выводные параметры анализатора 102 спектра - средняя энергия на критическую полосу, энергия на элемент разрешения по частоте и полная энергия - используются в детекторе 103 звуковой активности. Средняя log-энергия спектра используется при обнаружении музыки.
В узкополосных вводных сигналах, дискретизированных на 8000 значений/с, после преобразования дискретизации в 12800 значений/с, содержимое на обоих концах спектра отсутствует, поэтому при вычислении релевантных параметров первая низкочастотная критическая полоса и три последние высокочастотные критические полосы не учитываются (учитываются только полосы i=1―16), что, однако, не оказывает влияния на уравнения (3) и (4).
Обнаружение звуковой активности (SAD)
Обнаружение звуковой активности осуществляется при помощи детектора 103 звуковой активности на основе отношения сигнал/шум (фиг.1).
Спектральный анализ, описанный выше, осуществляется анализатором 102 дважды для каждого кадра. Пусть  вычисленные по уравнению (2), обозначают информацию об энергии на критическую полосу в первом и втором спектральных анализах соответственно. Средняя энергия на критическую полосу для всего кадра и части предыдущего кадра вычисляется по следующему соотношению:
(7)
где  - информация об энергии на критическую полосу из второго спектрального анализа для предыдущего кадра. Тогда отношение сигнал/шум для каждой критической полосы вычисляется по следующему соотношению:
с ограничением (8)
где  - оценка энергии шума на критическую полосу, как будет разъяснено ниже. Тогда среднее отношение сигнал/шум для каждого кадра вычисляется следующим образом:
(9)
где  и  для широкополосных сигналов,  и  - для узкополосных сигналов.
Звуковая активность обнаруживается путем сопоставления средних отношений сигнал/шум для каждого кадра с определенным порогом, являющимся функцией долгосрочного отношения сигнал/шум, которое задается следующим соотношением:
(10)
где  и  вычисляются по уравнениям (13) и (14) соответственно, как будет описано ниже. Исходное значение  составляет 45 дБ.
Порог является кусочно-линейной функцией долгосрочного отношения сигнал/шум. Используются две функции, одна из них описывает четкий речевой сигнал, а вторая - речевой сигнал, искаженный шумами.
SNR
LT
Для широкополосных сигналов, если <35 (речевой сигнал, искаженный шумами), пороговая величина равна
иначе (четкий речевой сигнал):
SNR
LT
Для узкополосных сигналов, если <20 (речевой сигнал, искаженный шумами), пороговая величина равна
иначе (четкий речевой сигнал)
Кроме того, в алгоритм принятия решения об обнаружении звуковой активности (SAD) для предотвращения частых переключений в конце активного звукового периода добавлен гистерезис. Стратегия гистерезиса отличается для широкополосных и узкополосных сигналов и вступает в действие только в случае сигнала, искаженного шумами.
Для широкополосных сигналов стратегия гистерезиса применяется в тех случаях, когда кадр находится в "периоде затягивания", длительность которого изменяется в зависимости от долгосрочного отношения сигнал/шум:
, если
, если
, если
Период затягивания начинается в первом неактивном звуковом кадре после трех (3) последовательных активных звуковых кадров. Его назначение заключается в форсировании каждого неактивного кадра в течение периода затягивания как активного кадра. Принятие решения SAD будет разъяснено ниже.
Для узкополосных сигналов стратегия гистерезиса заключается в снижении порога принятия решения SAD
, если
, если
, если
Таким образом, для сигналов, искаженных шумами с низким отношением сигнал/шум, пороговое значение становится ниже, отдавая предпочтение при принятии решения активным сигналам. Для узкополосных сигналов затягивание отсутствует.
В конечном итоге детектор 103 звуковой активности имеет два выходных сигнала - флаг SAD и локальный флаг SAD. Если обнаруживается активный сигнал, обоим флагам присваивается значение 1, иначе - 0. Кроме того, флагу SAD присваивается значение 1 в периоде затягивания. Решение SAD принимается путем сопоставления среднего отношения сигнал/шум для каждого кадра с порогом принятия решения SAD (например, при помощи компаратора):
если
иначе
если в периоде затягивания
иначе
конец
конец.
Первый уровень оценки и модификации шума
Эстиматор 104 шума, показанный на фиг.1, вычисляет полную энергию шума, относительную энергию кадра, а также модифицирует долгосрочную среднюю энергию шума, долгосрочную среднюю энергию кадра, среднюю энергию на критическую полосу и коэффициент коррекции шума. Кроме того, эстиматор 104 шума осуществляет присвоение исходных значений и нисходящую модификацию энергии шума.
Полная энергия шума для каждого кадра вычисляется по следующему соотношению:
(11)
где  - оценка энергии шума на критическую полосу.
Относительная энергия кадра определяется по разности между энергией кадра в дБ и долгосрочной средней энергией. Относительная энергия кадра вычисляется по следующему соотношению:
(12)
E
t
где  определяется из уравнения (6).
Долгосрочная средняя энергия шума или долгосрочная средняя энергия кадра модифицируется в каждом кадре. В случае активных кадров сигнала (флаг SAD=1), долгосрочная средняя энергия кадра модифицируется с использованием соотношения
(13)
.
с начальным значением =45 дБ
Для неактивных речевых кадров (флаг SAD=0) долгосрочная средняя энергия шума модифицируется следующим образом:
(14)
Начальное значение  задается как эквивалентное  для первых четырех кадров. Кроме того, в первых четырех (4) кадрах величина  ограничена .
Энергия кадра на критическую полосу вычисляется для всего кадра путем усреднения энергий из первого и второго спектральных анализов кадра с использованием следующего соотношения:
(15)
Энергии шума  присваивается начальное значение 0,03.
На этом этапе, по причине того, что энергия меньше, чем энергия фонового шума, для критических полос осуществляется только нисходящая модификация энергии шума. Вначале вычисляется промежуточная модифицированная энергия шума:
(18)
где  - энергия на критическую полосу, соответствующую второму спектральному анализу из предыдущего кадра.
Тогда для i=0 до 19, если , тогда .
Второй уровень оценки и модификации шума осуществляется позднее путем приравнивания  в случае, если кадр признан неактивным.
Второй уровень оценки и модификации шума
Модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шума модифицирует оценки энергии шума на критическую полосу для использования в детекторе 103 звуковой активности в следующем кадре. Модификация осуществляется во время периодов неактивного сигнала. Однако осуществленное выше принятие решения SAD, основанное на отношении сигнал/шум на критическую полосу, для определения, модифицированы ли оценки энергии шума, не используется. На основе других параметров, более независимых, чем отношение сигнал/шум на критическую полосу, принимается другое решение. Параметры, используемые для модификации оценок энергии шума и имеющие низкую чувствительность к изменениям уровня шума: устойчивость основного тона, нестационарность сигнала, вокализованность и отношение между ЛП энергий остаточного рассогласования второго и шестнадцатого порядков. Принятие решения о модификации оценок энергии шума оптимизировано для речевых сигналов. Для улучшения обнаружения активных музыкальных сигналов используются другие параметры: спектральная разнородность, комплементарная нестационарность, характер шума и тональная устойчивость. Обнаружение музыки подробно описано в нижеследующем описании.
Причина, по которой принятие решения SAD не используется для модификации оценок энергии шума, заключается в необходимости придания оценке шума надежности по отношению к быстро изменяющимся уровням шума. Если для модификации оценок энергии шума используется принятие решения SAD, внезапное изменение уровня шума приведет к увеличению отношения сигнал/шум, даже для неактивных кадров сигнала, предотвращая модификацию оценок энергии шума, что, в свою очередь, будет поддерживать отношение сигнал/шум на высоком уровне в последующих кадрах и т.д. В результате этого модификация блокируется и для адаптации шума возникает необходимость в другой логике.
d
d
d
[Source-Controlled Variable-Rate Multimode Wideband Speech Codec (VMR-WB), Service Options 62 и 63 для Spread Spectrum Systems,
0
1
2
В неограничительном иллюстративном варианте осуществления настоящего изобретения для вычисления трех оценок основного тона с разомкнутой петлей на кадр, соответствующих первой половине кадра, второй половине кадра и предварительному виду (,  и  соответственно), в анализаторе ЛП и следящем фильтре высоты тона 106 (фиг.1) осуществляется анализ основного тона с разомкнутой петлей на кадр. Данная процедура хорошо известна любому специалисту в данной области и в настоящем раскрытии подробно описана не будет (см., например, VMR-WB 3GPP2 Technical Specification C.S0052-A v1.0, апрель 2005 г. (http://www.3gpp2.org)]). Модуль анализатора ЛП и следящего фильтра высоты тона 106 вычисляет счетчик устойчивости основного тона по соотношению
(19)
d
d
рс
рс
рс
2
1
где  - запаздывание второй половины кадра для предыдущего кадра. При запаздываниях основного тона, превышающих 122, модуль анализатора ЛП и следящего фильтра высоты тона 106 устанавливает равенство =. Таким образом, для подобных запаздываний значение  в уравнении (19) умножается на 3/2 для компенсации недостающего третьего члена уравнения. Устойчивость основного тона является истиной, если значение  меньше 14. Кроме того, для кадров с низкой вокализованностью значение  приравнивается 14 для обозначения неустойчивости основного тона. Более подробно:
если , тогда pc=14 (20),
где  - нормированная грубая корреляция,  - необязательная поправка к нормированной корреляции, вводимая для компенсации снижения нормированной корреляции в присутствии фонового шума. Порог вокализованности = 0,52 для ШП, = 0,65 для УП. Поправочный коэффициент вычисляется по следующему соотношению:
где  - полная энергия шума на кадр, вычисленная по уравнению (11).
Нормированная грубая корреляция вычисляется на основе децимированного взвешенного звукового сигнала  с использованием следующего соотношения:
где пределы суммирования сами зависят от задержки. Взвешенный сигнал  тот же, что и в анализе основного тона с разомкнутой петлей, и задается путем фильтрации предварительно обработанного в препроцессоре 101 входного звукового сигнала через взвешивающий фильтр в форме . Взвешенный сигнал  децимируется на 2, а пределы суммирования задаются следующим образом:
для
для
для
для
Эти отрезки гарантируют, что длина корреляционного вектора включает в себя, по меньшей мере, один период основного тона, что помогает получить надежное обнаружение основного тона с разомкнутой петлей. Моменты времени  относятся к началу текущего кадра и задаются следующим образом:
для первой половины кадра,
для второй половины кадра,
для предварительного вида
на частоте дискретизации 12,8 кГц.
Модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шумов осуществляет оценку нестационарности сигнала на основе частного из отношения между энергией на критическую полосу и средней долгосрочной энергией на критическую полосу.
Средняя долгосрочная энергия на критическую полосу модифицируется согласно соотношению
, для  до (21)
где = 0, =19 для широкополосных сигналов, =1, =16 для узкополосных сигналов,  - энергия кадра на критическую полосу, определяемая по уравнению (15). Коэффициент модернизации  является линейной функцией полной энергии кадра, определяемой по уравнению (6), и задается следующим образом:
для широкополосных сигналов:  в пределах ;
для узкополосных сигналов:  в пределах .
E
t
задается уравнением (6).
Нестационарность кадра задается частным от отношения между энергией кадра и средней долгосрочной энергией на критическую полосу. Подробнее:
(22)
Затем модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шумов вырабатывает коэффициент вокализованности для модификации шума, используя следующее соотношение:
(23)
В конечном итоге, модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шумов вычисляет отношение между ЛП остаточных энергий после анализов ЛП второго и шестнадцатого порядков по соотношению
(24)
E(2)
E(16)
E(2)
E(16)
где и  - ЛП остаточных энергии после ЛП анализов второго и шестнадцатого порядков соответственно, вычисленные в ЛП-анализаторе и следящем фильтре высоты тона 106 с использованием рекурсии Левинсона-Дарбина - процедуры, которая хорошо известна специалистам в данной области. Данное отношение отражает тот факт, что для представления огибающей спектра сигнала для речевого сигнала, как правило, необходимо ЛП более высокого порядка, чем для шума. Иными словами, для шума следует ожидать меньшей величины различия между  и , чем для активного речевого сигнала.
noise_update
noise_update
noise_update
Принятие в модуле 107 параметрического обнаружения звуковой активности и оценки и модификации шумов решения о модификации осуществляется на основе переменной , которой присвоено начальное значение 6, уменьшаемое до 1, если обнаружен неактивный кадр, или увеличиваемое на 2, если обнаружен активный кадр. Переменная  также ограничена значениями 0 и 6. Оценки энергии шума модифицируются только в случае, если =0.
noise_update
Значение переменной  модифицируется для каждого кадра следующим образом:
если  ИЛИ  ИЛИ  ИЛИ
иначе
,
где для широкополосных сигналов  и  а для узкополосных сигналов ,  и .
Иными словами, кадры признаются неактивными для модификации шума, когда
И  И  И ,
а перед модификацией шума происходит затягивание протяженностью в 6 кадров.
noise_update
Тогда, если =0, то
для  до 19 ,
где  - промежуточно модифицированная энергия шума, уже вычисленная по уравнению (18).
Улучшение обнаружения шума для музыкальных сигналов
Оценка шума, описанная выше, по причине оптимизации для обнаружения, главным образом, речевых сигналов, имеет ограничения для определенных музыкальных сигналов, таких как фортепианные концерты, инструментальная рок- и поп-музыка. Для улучшения обнаружения музыкальных сигналов в целом модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шумов использует другие параметры или технологии в дополнение к существующим. Эти параметры и технологии включают в себя, как было указано выше, спектральную разнородность, комплементарную нестационарность, характер шума и тональную устойчивость, которые вычисляются вычислителем спектральной разнородности, вычислителем комплементарной нестационарности, вычислителем характера шума и эстиматором тональности соответственно, которые подробно описаны ниже.
Спектральная разнородность
Спектральная разнородность предоставляет информацию о существенных изменениях сигнала в частотной области. Изменения отслеживаются в критических полосах путем сопоставления энергий первого спектрального анализа текущего кадра и второго спектрального анализа за два кадра до него. Энергия в критической полосе первого спектрального анализа текущего кадра обозначается как , а энергия в той же критической полосе, вычисленная за два кадра до текущего, как . Обе эти энергии имеют начальное значение 0,0001. Затем для всех критических полос выше 9 вычисляются максимумы и минимумы двух энергий:
Затем в одной и той же критической полосе вычисляется отношение максимальной энергии к минимальной:
, для .
В конечном итоге, модуль 107 параметрического обнаружения звуковой активности и оценки и модификации шумов вычисляет параметр спектральной разнородности как нормированную взвешенную сумму отношений с весовым коэффициентом, являющимся максимальной энергией . Таким образом, параметр спектральной разнородности задается следующим соотношением:
spec_div
spec_div
Параметр  используется при принятии окончательного решения о музыкальной активности и модификации энергии шума. Кроме того, параметр  используется в качестве вспомогательного для вычисления параметра комплементарной нестационарности, которое описано ниже.
Комплементарная нестационарность
nonstat
Введение параметра комплементарной нестационарности обосновано тем фактом, что параметр нестационарности, определяемый по уравнению (22), отказывает в тех случаях, когда вслед за медленным уменьшением энергии в музыкальном сигнале происходит ее резкая атака. В этом случае средняя долгосрочная энергия на критическую полосу , определяемая по уравнению (21), медленно увеличивается в ходе атаки, в то время как энергия кадра на критическую полосу, определяемая по уравнению (15), медленно уменьшается. В некотором кадре после атаки эти две величины энергии встречаются, и параметр приобретает небольшое значение, указывающее на отсутствие активного сигнала, что приводит к ложной модификации шума, а затем и к принятию ложного решения SAD.
Для преодоления этой трудности вычисляется альтернативная средняя долгосрочная энергия на критическую полосу:
i
Переменной  присваивается начальное значение 0,03 для всех . Уравнение (26) имеет очень близкое сходство с уравнением (21) за одним исключением: коэффициент модификации  представлен как
Если
иначе
конец,
spec_div
nonstat
где =5. При обнаружении энергетической атаки (>5) альтернативной средней долгосрочной энергии сразу же присваивается значение средней энергии кадра, т.е. . Иначе, альтернативная средняя долгосрочная энергия модифицируется так же, как в случае обычной нестационарности, т.е. с использованием экспоненциального фильтра с коэффициентом модификации . Параметр комплементарной нестационарности вычисляется так же, как и параметр , но с использованием , т.е.
nonstat2
nonstat
nonstat
nonstat2
Параметр комплементарной нестационарности  может отказать через несколько кадров после энергетической атаки, но не должен отказывать в проходах, характеризующихся медленно возрастающей энергией. Поскольку параметр  хорошо работает во время энергетических атак и на нескольких кадрах после них, логическое разделение и  решает проблему обнаружения неактивного сигнала на определенных музыкальных сигналах. Однако разделение применяется только в проходах, которые "вероятно активны". Правдоподобие вычисляется следующим образом:
если  ИЛИ
иначе
конец.
act_pred_LT
act_pred_LT
tonal_stability
tonal_stability
Коэффициенту  присваивается значение 0,99. Параметр , приобретающий значения в интервале <0:1>, можно интрепретировать как предсказатель активности: если он близок к 1, сигнал с большой вероятностью активен, если близок к 0, сигнал с большой вероятностью не активен. Параметр имеет исходное значение 1. При соблюдении вышеописанного условия - это двоичный параметр, используемый для обнаружения устойчивого тонального сигнала. Параметр описан ниже.
nonstat2
nonstat
act_pred_LT
Параметр принимается во внимание (отдельно от ) в модификации энергии, только если  превышает определенный порог, которому присвоено значение 0,8. Логика модификации энергии шума подробно разъясняется в конце данного раздела.
Характер шума
Характер шума представляет собой еще один параметр, используемый для обнаружения определенных музыкальных сигналов, напоминающих шум, таких как звуки тарелок и низкочастотных барабанов. Этот параметр определяется из следующего соотношения:
noise_char
noise_char
Параметр  вычисляется только для кадров, спектральный состав которых содержит, по меньшей мере, минимальную энергию, что выполняется в том случае, когда значения числителя и знаменателя в уравнении (28) превышают 100. Значение параметра  ограничено сверху 10, а его долгосрочное значение модифицируется при помощи следующего соотношения:
(29)
noise_char_LT
noise_char_LT
n
Начальное значение =0, а α присваивается значение 0,9. Параметр  используется в принятии решения о модификации энергии шума, которое разъяснено в конце данного раздела.
Тональная устойчивость
Тональная устойчивость является последним параметром, используемым для предотвращения ложной модификации оценок энергии шума. Также тональная устойчивость используется для предотвращения признания некоторых музыкальных сегментов невокализованными кадрами. Тональная устойчивость используется в дальнейшем во встроенном сверхширокополосном кодеке для принятия решения о выборе модели кодирования при кодировании сигнала с частотой более 7 кГц. Обнаружение тональной устойчивости использует тональную природу музыкальных сигналов. В типичном музыкальном сигнале присутствуют тона, которые сохраняют устойчивость в течение нескольких последовательных кадров. Для использования этой особенности необходимо отследить положения и формы интенсивных пиков в спектре, поскольку они могут соответствовать тонам. Обнаружение тональной устойчивости основано на анализе корреляций между спектральными пиками в текущем кадре и следующем кадре. Вводными данными является средний низкоэнергетический спектр, определяемый уравнением (4). Количество спектральных элементов разрешения обозначается как  (элемент разрешения 0 - это постоянная составляющая, ). В настоящем раскрытии термин "спектр" относится к среднему низкоэнергетическому спектру, определяемому уравнением (4).
Обнаружение тональной устойчивости осуществляется в три этапа. Для обнаружения тональной устойчивости используется вычислитель текущего остаточного спектра, детектор пиков в текущем остаточном спектре и вычислитель карты корреляции и долгосрочной карты корреляции, которые будут описаны ниже.
i
min
На первом этапе отыскиваются индексы локальных минимумов (например, при помощи устройства обнаружения спектральных минимумов) в цикле, описываемом нижеследующей формулой, и сохраняются в буфере , описываемом следующим образом:
,  (30),
где символ  означает логическое И.
N
min
В уравнении (30)  обозначает средний низкоэнергетический спектр, вычисляемый по уравнению (4). Первый индекс  если  Соответственно, последний индекс  если  Обнаруженное количество минимумов обозначим как .
Второй этап заключается в вычислении спектрального дна (например, при помощи вычислителя спектрального дна) и его вычитании из спектра (например, при помощи подходящего вычитателя). Спектральное дно представляет собой кусочно-линейную функцию, которая проходит через обнаруженные локальные минимумы. Каждый линейный участок между двумя последовательными минимумами  и  можно описать как
k
k
где  - наклон линии, . Наклон  можно вычислить по следующему соотношению:
.
Таким образом, спектральное дно представляет собой логическую связь всех участков:
Начальные элементы разрешения до  и конечные элементы разрешения от  спектрального дна устанавливаются в спектре сами. В конечном итоге, спектральное дно вычитается из спектра с использованием следующего соотношения:
, (32)
а результат называется остаточным спектром. Вычисление спектрального дна проиллюстрировано на фиг.3.
На третьем этапе из остаточного спектра текущего и предыдущего кадров вычисляется карта корреляции и долгосрочная карта корреляции, что также является кусочной операцией. Карта корреляции вычисляется пик за пиком до достижения минимума, разграничивающего пики. В данном раскрытии термин "пик" используется для обозначения участка, находящегося между двумя минимумами остаточного спектра .
Обозначим остаточный спектр предыдущего кадра как . Для каждого пика в текущем остаточном спектре вычисляется нормированная корреляция с формой, которая в предыдущем остаточном спектре соответствует положению этого пика. Если сигнал устойчив, пики от кадра к кадру не должны существенно перемещаться, а их положение и форма должны быть приблизительно одинаковыми. Таким образом, операция корреляции принимает во внимание все индексы (элементы разрешения) конкретного пика, которые определяются двумя последовательными минимумами. Нормированная корреляция вычисляется с использованием следующего соотношения:
cor_map
cor_map
Головным элементам разрешения до  и завершающим элементам разрешения  от  присваиваются нулевые значения. Карта корреляции показана на фиг.4.
Карта корреляции текущего кадра используется для модификации ее долговременного значения, которое описывается следующим образом:
(34)
k
cor_map_LT
где . Для всех  присваиваются нулевые начальные значения.
cor_map_LT
В конечном итоге все значения суммируются (например, посредством сумматора)
(35)
cor_map_LT(j), j=0,…,N
-1
cor_srong
SPEC
Если какое-либо значение  превышает порог 0,95, флагу  (которое может рассматриваться как детектор) присваивается значение 1, иначе присваивается нулевое значение.
cor_map_sum
thr_tonal
Принятие решения о тональной устойчивости вычисляется путем воздействия на  адаптивного порога . Порогу присваивается начальное значение 56, и он модифицируется в каждом кадре следующим образом:
если
иначе
конец.
thr_tonal
Адаптивный порог  имеет верхний предел 60 и нижний предел 49. Таким образом, он понижается, когда корреляция относительно хорошо указывает на активный сегмент сигнала и увеличивается в противном случае. При понижении порога большее количество кадров с большей вероятностью классифицируется как активное, особенно в конце активных периодов. Поэтому адаптивный порог может рассматриваться как затягивание.
tonal_stability
cor_map_sum
thr_tonal
cor_strong
Параметру  присваивается значение 1 всякий раз, когда больше, чем , или когда флагу  присваивается значение 1. Подробнее:
если  ИЛИ
иначе
конец.
Использование параметров обнаружения музыки при модификации энергии шума
noise_update
Все параметры обнаружения музыки включены в окончательное решение, принятие которого осуществляется в модуле 107 параметрического обнаружения звуковой активности и оценки и модификации шумов при модификации оценок энергии шума. Модификация оценок энергии шума происходит при условии нулевого значения , которому присваивается начальное значение 6, а модификация происходит в каждом кадре следующим образом:
nonstat>th
pc<14
voicing>th
resid_ratio>th
tonal_stability=1
noise_char_LT>0,3
((act_pred_LT>0,8)
(nonstat2>th
))
stat
Cnorm
resid
stat
если () ИЛИ () ИЛИ () ИЛИ () ИЛИ () ИЛИ () ИЛИ  и
noise_update=noise_update+2
иначе
noise_update=noise_update-1
конец.
noise_update
Если комбинированное условие дает положительный результат, сигнал активен и параметр  увеличивается. Иначе, сигнал неактивен и параметр уменьшается. При достижении нуля энергия шума модифицируется текущей энергией сигнала.
tonal_stability
Кроме того, для модификации энергии шума в алгоритме классификации невокализованных звуковых сигналов также используется параметр . Параметр используется для улучшения надежности классификации невокализованных сигналов для музыки, как будет описано в следующем разделе.
Классификация звуковых сигналов (классификатор 108 звуковых сигналов)
Общая доктрина классификатора 108 звуковых сигналов (фиг.1) изображена на фиг.5. Подход может быть описан следующим образом. Классификация звуковых сигналов осуществляется в три стадии в логических модулях 501, 502 и 503, каждый из которых распознает конкретный класс сигналов. Детектор 501 активности сигнала (SAD) распознает активные и неактивные кадры сигнала. Данный детектор 501 активности сигнала является тем же самым, что и детектор 103 активности сигнала, обозначенный на фиг.1. Описание детектора активности сигнала было произведено в предшествующем описании.
Если детектор 501 активности сигнала обнаруживает неактивный кадр (сигнал фонового шума), цепь классификации завершается, и, если поддерживается прерывистая передача (DTX), модуль 541 кодирования, который может быть объединен с кодировщиком 109 (фиг.1), кодирует кадр с генерацией комфортного шума (CNG). В отсутствие поддержки DTX кадр продолжается в классификацию активных сигналов и чаще всего классифицируется как кадр невокализованной речи.
При обнаружении детектором 501 звуковой активности активного кадра сигнала этот кадр подвергается обработке во втором классификаторе 502, распознающем невокализованные речевые сигналы. Если классификатор 502 классифицирует кадр как невокализованный речевой сигнал, цепь классификации завершается, и модуль 542 кодирования, который может быть объединен с кодировщиком 109 (фиг.1), кодирует кадр при помощи способа кодирования, оптимизированного для невокализованных речевых сигналов.
В противном случае, кадр сигнала обрабатывается посредством "стабильно вокализованного" классификатора 503. Если кадр классифицируется классификатором 503 как стабильно вокализованный кадр, модуль 543 кодирования, который может быть объединен с кодировщиком 109 (фиг.1), кодирует кадр при помощи способа кодирования, оптимизированного для стабильно вокализованных и квазипериодических сигналов.
В противном случае, кадр с большой вероятностью содержит сегмент с нестационарным сигналом, таким как начало вокализованной речи или быстрое развитие вокализованной речи или музыкального сигнала. Кадры, как правило, требуют кодирующий модуль 544 общего назначения, который может быть объединен с кодировщиком 109 (фиг.1) для кодирования кадра с высокой скоростью передачи битовых данных с целью поддержки хорошего субъективного качества.
Далее раскрыта классификация кадров вокализованных и невокализованных сигналов. Описание детектора SAD 501 (или 103 на фиг.1), используемого для распознавания неактивных кадров, уже приводилось в предшествующем описании.
Невокализованные части речевого сигнала характеризуются отсутствием периодической компоненты и могут быть дополнительно разделены на неустойчивые кадры, в которых происходят быстрые изменения энергии и спектра, и устойчивые кадры, в которых эти характеристики относительно устойчивы. В неограничивающем иллюстративном варианте осуществления данного изобретения предлагается способ классификации невокализованных кадров с использованием следующих параметров:
- степени вокализованности, вычисляемой как усредненная нормированная корреляция ;
- степени среднего наклона спектра ;
dE
- максимального кратковременного увеличения энергии на низком уровне (0), разработанного для эффективного обнаружения в сигнале взрывных звуков речи;
- тональной устойчивости (описанной в предшествующем описании) для установления отличия музыки от невокализованного сигнала; и
E
rel
- относительной энергии кадра () для обнаружения чрезвычайно низкоэнергетических сигналов.
Степень вокализованности
S
(n)
w
Нормированная корреляция, используемая для определения степени вокализованности, вычисляется как часть анализа основных тонов с разомкнутой петлей в модуле ЛП-анализатора и следящего фильтра высоты тона 106 (фиг.1). Могут использоваться, например, кадры по 20 мс. Обычно модуль ЛП-анализатора и следящего фильтра высоты тона 106 выводит оценку основного тона с разомкнутой петлей каждые 10 мс (дважды на кадр). В данном случае, модуль ЛП-анализатора и следящего фильтра высоты тона 106 также используется для генерирования и вывода нормированных корреляционных критериев. Нормированные корреляции вычисляются на взвешенном сигнале и предыдущем взвешенном сигнале при задержке основного тона с разомкнутой петлей. Взвешенный речевой сигнал  вычисляется с использованием перцепционного взвешивающего фильтра. Например, может использоваться перцепционный взвешивающий фильтр с фиксированным знаменателем, пригодный для широкополосных сигналов. Примером функции преобразования для перцепционного взвешивающего фильтра может служить следующее соотношение:
2
1
<
, где 0<γ<γ1,
A(z)
где  - функция преобразования фильтра линейного предсказания (ЛП), вычисленная в модуле ЛП-анализатора и следящего фильтра высоты тона 106 и определяемая следующим соотношением:
Подробности ЛП-анализа и анализа основных тонов с разомкнутой петлей в данном описании не приводятся, поскольку подразумевается, что они хорошо известны специалистам в данной области.
Критерий вокализованности задается средней корреляцией , которая определяется следующим образом:
(36)
C
(d
), C
(d
)
C
(d
)
r
norm
0
norm
1
norm
2
e
где и  соответственно представляют нормированные корреляции первой половины текущего кадра, нормированные корреляции второй половины текущего кадра и нормированные корреляции предварительного вида (начала следующего кадра). Аргументами для корреляций являются вышеупомянутые запаздывания основного тона с разомкнутой петлей, вычисленные в модуле ЛП-анализатора и следящего фильтра высоты тона 106 (фиг.1). Например, можно использовать предварительный вид 10 мс. Для компенсации фонового шума (в присутствии фонового шума величина корреляции уменьшается) в среднюю корреляцию вводится поправочный коэффициент . Поправочный коэффициент вычисляется из следующего соотношения:
(37)
N
tot
где  - полная энергия шума на кадр, вычисленная по уравнению (11).
Спектральный наклон
Параметр спектрального наклона содержит информацию о частотном распределении энергии. Спектральный наклон можно оценить в частотной области как отношение между энергией, сконцентрированной в низких частотах, и энергией, сконцентрированной в высоких частотах. Однако его также можно оценить, используя другие способы, как, например, отношение между первыми двумя коэффициентами автокорреляции сигнала.
Proc. Eusipco,
Как описано выше, спектральный анализатор 102 (фиг.1) используется для осуществления двух спектральных анализов на каждый кадр. Энергия на высоких и низких частотах вычисляется в перцепционных критических полосах [M. Jelinek и R. Salami, "Noise Reduction Method for Wideband Speech Coding", in Vienna, Austria, сентябрь 2004 г.], повторенных в данном описании для удобства:
Критические полосы = {100,0, 200,0, 300,0, 400,0, 510,0, 630,0, 770,0, 920,0, 1080,0, 1270,0, 1480,0, 1720,0, 2000,0, 2320,0, 2700,0, 3150,0, 3700,0, 4400,0, 5300,0, 6350,0} Гц.
Энергия в высоких частотах вычисляется как среднее энергий двух последних критических полос по соотношению
(39)
E
(i)
CB
где энергии критических полос  вычисляются по уравнению (2). Вычисления производятся дважды для каждого спектрального анализа.
Энергия в низких частотах вычисляется как среднее энергий десяти первых критических полос (для УП сигналов самая первая полоса исключается) по соотношению
(40)
Промежуточные критические полосы исключаются из вычислений для улучшения разграничения кадров с высокой концентрацией энергии в низких частотах (обычно вокализованных) и с высокой концентрацией энергии в высоких частотах (обычно невокализованных). В промежутке энергосодержание не является характеристическим для любого из классов и увеличивает неопределенность при принятии решения.
Однако энергия в низких частотах вычисляется иначе, чем для гармонических невокализованных сигналов с высоким энергосодержанием в низких частотах. Это происходит по причине того, что для улучшения вокализованного и невокализованного распознавания сегментов женской вокализованной речи можно воспользоваться гармонической структурой спектра. Подвергаемые воздействию сигналы либо имеют период основного тона короче 128, либо изначально не рассматриваются как невокализованные. Сигналы, изначально невокализованные, должны удовлетворять следующему критерию:
(41)
Таким образом, для сигналов, разграниченных по вышеприведенному критерию, энергия в низких частотах вычисляется для элементов разрешения, и только элементы разрешения по частоте, достаточно близкие к гармоникам, принимаются во внимание при суммировании. Точнее говоря, используется следующее соотношение:
(42)
K
K
K
E
(k)
w
(i)
cnt
min
min
min
BIN
h
где  - первый элемент разрешения (=1 для ШП, =3 для УП),  - энергии элементов разрешения, определяемые по уравнению (3), в первых 25 элементах разрешения по частоте (постоянная составляющая опущена). Эти 25 элементов разрешения соответствуют первым 10 критическим полосам. В вышеприведенном суммировании учитываются только члены, близкие к гармоникам основных тонов;  присваивается значение 1, если расстояние между ближайшими гармониками не превышает определенный частотный порог (например, 50 Гц), и нулевое значение - в противном случае; поэтому рассматриваются только элементы разрешения, находящиеся ближе 50 Гц к ближайшим гармоникам. Счетчик  равен количеству ненулевых членов суммирования. Тогда, если структура является гармонической на низких частотах, в суммирование будут включены только высокоэнергетические члены. С другой стороны, если структура гармонической не является, выбор членов будет случайным и сумма будет меньше. Таким образом, можно обнаружить только невокализованные звуковые сигналы с высоким энергосодержанием в низких частотах.
Спектральный наклон вычисляется по следующему соотношению:
(43)
где  и  - усредненные энергии шума в двух (2) последних и 10 первых критических полосах (или 9 первых критических полосах для УП) соответственно, вычисленные так же, как  и  в уравнениях (39) и (40). Оценки энергий шума включаются в вычисление наклона для учета присутствия фонового шума. Для УП сигналов отсутствующие полосы компенсируются путем умножения  на 6. Вычисление спектрального наклона осуществляется дважды для каждого кадра для получения  и , соответствующих первому и второму спектральным анализам для каждого кадра. Средний спектральный наклон, используемый при классификации невокализованных кадров, вычисляется следующим образом:
(44)
где  - наклон во второй половине предыдущего кадра.
Максимальное кратковременное увеличение энергии на низком уровне
dE0
s(n)
n
Максимальное кратковременное увеличение энергии на низком уровне  оценивается для звукового сигнала , где =0 соответствует началу текущего кадра. Например, для кодирования используются 20 мс речевые кадры, каждый из которых разделен на 4 подкадра. Энергия сигнала оценивается дважды для каждого подкадра, т.е. 8 раз для каждого кадра, на основе кратковременных сегментов длиной 32 значения (на частоте дискретизации 12,8 кГц). Затем вычисляются кратковременные энергии последних 32 значений из предыдущего кадра. Кратковременные энергии вычисляются по следующему соотношению:
j
j
где =-1 и =0,…,7 соответствует концу предыдущего кадра и текущему кадру соответственно. Еще один набор 9 максимальных энергий вычисляется путем сдвига сигнальных индексов в уравнении (45) на 16 значений. То есть
10log(E
(j))<37
st
Для этих энергий, которые достаточно малы, т.е. удовлетворяют условию , вычисляется отношение
rat
(j)
rat
(j)
(1)
(2)
для первого набора индексов, и то же самое вычисление повторяется для , давая два набора отношений  и . Единственный максимум в двух этих наборах отыскивается следующим образом:
(48)
и является максимальным кратковременным увеличением энергии на низком уровне.
Степень равномерности спектра фонового шума
В данном примере неактивные кадры обычно кодируются в режиме кодирования, конструкция которого предназначена для невокализованной речи в отсутствие операции DTX. Однако в случае квазипериодического фонового шума, такого, как некоторые автомобильные шумы, более точной визуализации шума удается достичь путем обобщенного кодирования вместо использования ШП.
Для обнаружения фонового шума этого типа вычисляется и усредняется по времени степень неравномерности спектра фонового шума. Сначала для первой и четырех последних критических полос вычисляется средняя энергия шума:
Затем с использованием нижеследующего соотношения вычисляется равномерность:
которая усредняется по времени с использованием следующего соотношения:
где  - усредненная степень равномерности предыдущего кадра, а  - модифицированное значение степени равномерности текущего кадра.
Классификация невокализованных сигналов
dE0
Классификация кадров невокализованных сигналов основана на параметрах, описанных выше: степени вокализованности , среднем наклоне спектра , максимальном кратковременном увеличении энергии на низком уровне , а также степени равномерности спектра фонового шума . Классификация дополнительно опирается на параметр тональной устойчивости и относительную энергию кадра, вычисляемые на стадии модификации энергии шума (модуль 107 на фиг.1). Относительная энергия кадра вычисляется с использованием следующего соотношения:
где  - полная энергия кадра (в дБ), вычисленная по уравнению (6),  - долгосрочная средняя энергия кадра, модифицируемая в каждом активном кадре по соотношению:
SAD
Модификация происходит только при условии установленного флага SAD (переменная  равна 1).
Правила классификации ШП сигналов как невокализованных подытожены ниже:
e
old
И  ИЛИ ( И [последний кадр НЕАКТИВНЫЙ ИЛИ НЕВОКАЛИЗОВАННЫЙ ИЛИ ((<2,4) И
И
dE0
[<250] И
e
t
[(1)<2,7] И
[(локальный флаг SAD=1) ИЛИ (<1,45) ИЛИ ()] И
tonal_stability
rel
НЕ [( И (((>0,52) И (>0,5)) ИЛИ (>0,85)) И (E>-14) И флаг SAD равен 1].
Первая строка условия относится к низкоэнергетическим сигналам и сигналам с низкой корреляцией, концентрирующим свою энергию в высоких частотах. Вторая строка покрывает вокализованные завершения, третья строка покрывает взрывные сегменты сигнала, четвертая строка относится к вокализованным вступлениям. Пятая строка обеспечивает равномерный спектр в случае неактивных кадров с шумами. Последняя строка распознает музыкальные сигналы, которые иначе могут быть отнесены к невокализованным сигналам.
Для УП сигналов условие классификации сигналов как невокализованных имеет следующую форму:
E
rel
[локальный флаг SAD равен 0 ИЛИ (<-25) ИЛИ
e
C
old
norm
0
e
И (последний кадр НЕ АКТИВЕН ИЛИ НЕВОКАЛИЗОВАННЫЙ ИЛИ ((<7,0) И ((d)+r<0,52))))] И
dE0
[<250] И
[<390] И
tonal_stability
E
rel
НЕ [( И (((>0,52) И (>0,5)) ИЛИ (>0,75)) И (>-10) И флаг SAD равен 1].
Деревья решений для случаев ШП и УП сигналов показаны на фиг.6. Если комбинированные условия удовлетворяются, классификация завершается выбором режима кодирования невокализованных сигналов.
Классификация вокализованных сигналов
Если кадр не классифицирован как неактивный кадр или невокализованный кадр, осуществляется его проверка, если он является устойчивым вокализованным кадром. Правило принятия решения основано на нормированной корреляции каждого из подкадров (с ¼ разрешения подвыборки), во всех подкадрах производятся оценки среднего наклона спектра и основного тона с разомкнутой петлей (с ¼ разрешения подвыборки).
d
d
d
S
(n)
S
(n)
d
d
d
d
d
d
,
d
d
d
0
1
2
wd
wd
0
1
max
max
max
max
max
max
max
Процедура оценки основного тона с разомкнутой петлей осуществляется в модуле ЛП-анализатора и следящего фильтра высоты тона 106 (фиг.1). В уравнении (19) используются три оценки основного тона с разомкнутой петлей: ,  и , соответствующие первой половине кадра, второй половине кадра и предварительному виду. Для получения точной информации о высоте тона во всех четырех подкадрах вычисляется дробное уточнение высоты тона с ¼ разрешения выборки. Уточнение вычисляется на взвешенном звуковом сигнале . В данном иллюстративном варианте осуществления изобретения взвешенный сигнал  для уточнения оценки разомкнутого основного тона не децимируется. В начале каждого подкадра производится сокращенный корреляционный анализ (64 значения на частоте дискретизации 12,8 кГц) с разрешением в 1 значение в интервале (-7, +7) с использованием следующих задержек:  - для первого и второго подкадра,  - для третьего и четвертого подкадра. Затем корреляции интерполируются вокруг своих максимумов в дробных положениях -3/4, -1/2, -1/4, +1/4, +1/2, +3/4. В качестве уточненной задержки основного тона выбирается величина, дающая максимальную корреляцию.
T(0), T(1), T(2)
T(3)
C(0), C(1), C(2) и C(3)
Обозначим уточненные задержки основного тона с разомкнутой петлей во всех четырех подкадрах как  и , а соответствующие нормированные корреляции - как . Тогда условие классификации вокализованного сигнала дается следующим образом:
[C(0)>0,605] И
[C(1)>0,605] И
[C(2)>0,605] И
[C(3)>0,605] И
[>4] И
И
И
Условие указывает на то, что нормированная корреляция очень высока во всех подкадрах, оценки основного тона по всему кадру не расходятся, а энергия сконцентрирована в низких частотах. При соответствии этому условию классификация завершается выбором режима кодирования вокализованного сигнала, в противном случае сигнал кодируется в обобщенном режиме кодирования сигналов. Условие применимо к ШП и УП сигналам.
Оценка тональности в сверхширокополосном содержимом
При кодировании сверхширокополосных сигналов для звуковых сигналов с тональной структурой используется специфический режим кодирования. Частотный диапазон 7000-14000 Гц представляет наибольший интерес, однако он также может изменяться. Целью является обнаружение кадров, имеющих значительное тональное содержимое в интересующем диапазоне так, чтобы возможно было эффективное использование режима кодирования, специфического для тонов. Эта цель достигается при использовании описанного ранее в настоящем описании анализа тональной устойчивости. Однако в данном случае присутствуют некоторые отклонения, которые и описаны в этом разделе.
L
MA
Во-первых, спектральное дно, вычитаемое из log-энергии спектра, вычисляется следующим образом. Спектр log-энергии фильтруется с использованием фильтра скользящего среднего (СС), или фильтра FIR, длина которого составляет =15 значений. Отфильтрованный спектр описывается соотношением
j=L
,…,N
-L
-1
MA
SPEC
MA
для .
j=L
MA
Для сохранения вычислительной сложности операция фильтрации осуществляется только для , а для остальных запаздываний она вычисляется как
j=L
+1,…,N
-L
-1.
MA
SPEC
MA
для
L
N
-L
,…,N
-1
MA
SPEC
MA
SPEC
Для запаздываний 0,…,-1 и  спектральное дно вычисляется при помощи экстраполяции. Более точно используется следующее соотношение:
для ,
для .
L
MA
В первом из вышеприведенных уравнений процесс направлен по нисходящей от -1 к 0.
Затем спектральное дно вычитается из log-энергии спектра так же, как в данном описании описано выше.
res,dB
j
Остаточный спектр, обозначаемый как E(), затем сглаживается по трем значениям, как изложено ниже с использованием кратковременного фильтра скользящего среднего:
j=1,…,N
-1
SPEC
для .
res,dB
j
Поиск спектральных минимумов и их индексов, вычисление корреляционной карты и долгосрочной корреляционной карты осуществляются так же, как в способе, описанном в настоящем описании выше, с использованием сглаженного спектра E'().
thr_tonal
Принятие решения о тональности сигнала в сверхширокополосном содержимом также осуществляется аналогично тому, как описано выше в настоящем описании, т.е. на основе адаптивного порога. Однако в данном случае используется другой фиксированный порог и шаг. Порогу присваивается начальное значение 130, которое модифицируется в каждом кадре следующим образом:
(cor_map_sum>130)
если
thr_tonal=thr_tonal-1,0
иначе
thr_tonal=thr_tonal+1,0
конец.
thr_tonal
thr_tonal=N
/2
SPEC
Адаптивный порог имеет верхний предел 140 и нижний предел 120. Установка значения фиксированного порога производится с учетом частотного диапазона 7000-14000 Гц. Для другого диапазона необходима его корректировка. В качестве общего практического правила можно воспользоваться следующим взаимоотношением .
Последнее отличие от способа, описанного выше в настоящем описании, заключается в том, что обнаружение сильных тонов для сверхширокополосного содержимого не используется. Это мотивируется тем, что сильные тона перцепционно не подходят для цели кодирования тонального сигнала сверхширокополосного содержимого.
Хотя настоящее изобретение описано в вышеприведенном описании посредством неограничивающего иллюстративного варианта его осуществления, этот вариант осуществления может быть модифицирован каким угодно образом, оставаясь при этом в пределах прилагаемой формулы изобретения без отклонения от сути и содержания изобретения.