СПОСОБ КОНКАТЕНАЦИИ КАДРОВ В СИСТЕМЕ СВЯЗИ
METHOD FOR CONCATENATING FRAMES IN COMMUNICATION SYSTEM

Область техники, к которой относится изобретение
Настоящее изобретение относится к телекоммуникационным системам. В частности, настоящее изобретение относится к способу, устройству и конфигурации, которые позволяют уменьшить нарушения непрерывности, которые возникают при конкатенации кадров, относящихся к непоследовательным кадрам в исходном аудиосигнале, или когда один или оба кадра относятся к методу маскирования. Это происходит, в частности, в связи с потерями и/или флуктуациями времени задержки и/или расфазировкой тактовых сигналов пакетов сигналов. Изобретение позволяет повысить качество передачи сигнала в беспроводных телекоммуникационных системах и сетях с коммутацией пакетов.
Описание уровня техники
Современные телекоммуникации базируются на цифровой передаче сигналов. Например, согласно фиг.1 передатчик 200 получает звуковой сигнал от источника 100. Этот источник может соответствовать одному или нескольким говорящим людям и другим источникам акустической волны, воспринимаемым микрофоном, или может являться системой хранения или генерации звукового сигнала, например системой текстуально-речевого синтеза или диалога. Если источник сигнала является аналоговым, он преобразуется в цифровое представление посредством аналого-цифрового преобразователя. Затем цифровое представление кодируется и компануется в пакеты, формат которых пригоден для цифрового канала 300. Пакеты передаются по цифровому каналу. Цифровой канал обычно содержит несколько уровней абстракции.
В уровне абстракции, показанном на фиг.1, цифровой канал принимает последовательность пакетов на входе и доставляет последовательность пакетов на выходе. Вследствие ухудшения канала, обычно вызванного шумом, неоднородностями и перегрузкой в канале, выходная последовательность пакетов обычно ухудшается за счет потери некоторых пакетов и задержки по времени доставки и флуктуаций времени задержки других пакетов. Кроме того, различие тактовых генераторов передатчика и приемника может приводить к расфазировке тактовых сигналов. Задача приемника 400 состоит в декодировании принятых пакетов данных и в преобразовании декодированных цифровых представлений из потока пакетов и декодировании их в цифровые представления сигнала и дальнейшем преобразовании этих представлений в декодированный звуковой сигнал в формате, пригодном для вывода на получателя сигнала 500. Этот получатель сигнала может являться одним человеком или несколькими людьми, которые воспринимают декодированный звуковой сигнал через, например, один или несколько громкоговорителей. Альтернативно, получатель сигнала может представлять собой систему хранения речевых сигналов или аудиосигналов или диалоговую систему или распознаватель речевых сигналов или аудиосигналов.
Задача приемника состоит в точном воспроизведении сигнала, который можно представлять получателю. Когда получатель прямо или косвенно соответствует слушателю-человеку, задачей приемника является получение представления звукового сигнала, которое, будучи представлено слушателю-человеку, точно воспроизводит воспринимаемое человеком впечатление и информацию акустического сигнала от источника или источников. Для решения этой задачи в общем случае, когда канал ухудшает принятую последовательность пакетов за счет потерь, задержки, флуктуаций времени задержки, и расфазировки тактовых сигналов, которые могут дополнительно присутствовать, эффективное маскирование необходимо как часть приемной подсистемы.
В порядке примера, одна возможная реализация приемной подсистемы для осуществления этой задачи показана на фиг.2. Согласно фиг.2 входящие пакеты сохраняются в буфере 410 флуктуаций, откуда блок 420 декодирования и маскирования получает принятые кодированные представления сигнала и декодирует и маскирует эти кодированные представления сигнала для получения представлений сигнала, пригодных для хранения в буфере 430 воспроизведения и последующего воспроизведения. Управление временем начала маскирования и выбором конкретных параметров этого маскирования, например длины маскированного сигнала, может, в порядке примера, осуществлять блок 440 управления, который отслеживает содержимое буфера флуктуаций и буфера воспроизведения и управляет работой блока 420 декодирования и маскирования.
Маскирование также может осуществляться как часть канальной подсистемы. На фиг.3 показан один пример канальной подсистемы, в которой пакеты направляются из канала 310 в канал 330 через подсистему 320, которая далее упоминается как ретрансляционная. В реальных системах функция ретрансляции может осуществляться блоками, которые могут называться по-разному в зависимости от контекста, например маршрутизаторами различных типов, прокси-серверами, краевыми серверами, контроллерами доступа к сети, контроллерами беспроводной локальной сети, шлюзами Voice-over-IP, медиашлюзами, контроллерами нелицензионной сети и пр. В данном контексте все они являются примерами ретрансляционных систем.
Один пример ретрансляционной системы, которая способна осуществлять маскирование аудиосигнала, показана на фиг.4. Согласно фиг.4 пакеты направляются из входного буфера 310 в выходной буфер 360 через подсистемы 320 и 350 коммутации пакетов. Блок 370 управления отслеживает входной и выходной буферы и в результате того отслеживания, принимает решения относительно необходимости перекодирования и маскирования. Если необходимо, коммутаторы направляют пакеты через блок 330 перекодирования и маскирования. В противном случае, коммутаторы направляют пакеты через подсистему 340 минимального действия протокола, которая выполняет минимум операций над заголовками пакетов для их согласования с применяемыми протоколами. Эти операции могут включать в себя изменение порядковых номеров и меток времени пакетов.
При передаче аудиосигналов с использованием систем, в частности, проиллюстрированных в вышеприведенном описании, требуется маскирование потерь, задержки флуктуации времени задержки, и/или расфазировки тактовых сигналов в сигналах, представляющих или частично представляющих звуковой сигнал.
Методы повторения основного тона, иногда реализуемые в модели осциллятора, базируются на оценке периода основного тона в вокализованной речи или, альтернативно, на оценке соответствующей основной частоты вокализованного речевого сигнала. Если известен период основного тона, кадр маскирования получается путем повторного считывания последнего периода основного тона. Нарушения непрерывности в начале и конце кадра маскирования и между каждыми двумя повторениями периода основного тона можно сглаживать с использованием процедуры сложения с перекрытием с оконной обработкой. Примеры метода повторения основного тона можно найти в публикации № WO 0148736 и рекомендации Международного союза электросвязи ITU-T G.711 Приложение 1. Системы, отвечающие уровню техники, предусматривают маскирование на основе повторения основного тона посредством декодеров, основанных на принципе кодирования с линейным предсказанием. В этих системах повторение основного тона обычно осуществляется в области возбуждения линейного предсказания путем считывания из цепи долгосрочного предсказателя или адаптивной кодовой книги. Примеры маскирования на основе повторения основного тона в области возбуждения линейного предсказания можно найти в патенте № US5699481, рекомендации Международного союза электросвязи ITU-T G.729, и Internet Engineering Task Force Request For Comments 3951. Вышеописанные методы применяются для маскирования потерь или возрастающей задержки, т.е. положительных флуктуаций времени задержки, и ситуаций недогрузки или близких к недогрузке входного буфера или буфера флуктуаций, например, вследствие расфазировки тактовых сигналов. Для маскирования убывающей задержки отрицательных флуктуаций времени задержки, или ситуаций перегрузки или близких к перегрузке входного буфера или буфера флуктуаций необходимо генерировать укороченные сигналы маскирования. Методы, основанные на основном тоне, позволяют делать это посредством процедуры сложения с перекрытием между периодом основного тона и более ранним периодом основного тона. Пример этого метода описан в публикации № WO 0148736. Это может быть реализовано с использованием возможностей, имеющихся в декодерах с линейным предсказанием. В порядке примера, в патенте № US5699481 раскрыт способ, согласно которому векторы вклада фиксированной кодовой книги просто отбрасываются из сигнала воспроизведения на основании состояния адаптивной кодовой книги для стабилизации периодичности основного тона в воспроизводимом сигнале. В связи с методами повторения основного тона одна задача состоит в плавном продолжении сигнала от кадра маскирования к следующему кадру. В публикации № WO 0148736 раскрыт способ решения этой задачи. Согласно изобретению, раскрытому в WO 0148736, эта задача решается посредством кадров маскирования, изменяющихся со временем и, возможно, имеющих длину, зависящую от сигнала. Хотя это позволяет эффективно осуществлять плавное продолжение сигнала в связи с маскированием флуктуаций времени задержки и расфазировки тактовых сигналов, это решение малопригодно для систем, подобных показанным на фиг.4: маскирование такого типа не позволяет гарантировать кодирование маскирования в кадры фиксированной заранее заданной длины, которые плавно соединяются с уже закодированными кадрами, которые предпочтительно ретранслируются через блок 340 минимального действия протокола.
Таким образом, важной задачей является получение кадров маскирования заранее заданной длины, равной длине регулярных кадров сигнала. Один способ маскирования с заранее заданной длиной состоит в осуществлении сглаженного сложения с перекрытием между выборками, которые превышают заранее заданную длину кадра в число раз, равное количеству кадров маскирования, с хвостовым подмножеством выборок из кадра, следующего за кадрами маскирования. Этот способ хорошо известен из уровня техники и используется, например, в рекомендации Международного союза электросвязи ITU-T G.711, Приложение 1. В принципе этот способ также можно применять при конкатенации кадра с другим кадром, когда два кадра связаны с непоследовательными кадрами в исходном аудиосигнале. Таким образом, специалист в данной области техники может сделать это, получив кадр маскирования как продолжение первого кадра, и ввести кадр маскирования в процедуру сложения с перекрытием со вторым кадром, тем самым частично уменьшив нарушения непрерывности, возникающие в границе между последней выборкой первого кадра и первой выборкой второго кадра.
Вышеописанные решения этих сценариев проблематичны. Дело в том, что в зависимости от фактической формы двух сигналов, поступающих в эту процедуру сложения с перекрытием, в результирующем аудиосигнале остается заметное нарушение непрерывности. Это нарушение непрерывности воспринимается слушателем-человеком как "всплеск" или "провал" в сигнале.
В первом сценарии, где предусмотрен один или несколько кадров маскирования, в качестве одного такого способа в литературе предложена повторная дискретизация этих кадров маскирования, см., например, Valenzuela and Animalu, "A new voice-packet reconstruction technique", IEEE, 1989. Этот способ не обеспечивает решения, когда задача состоит в конкатенации двух существующих кадров, а не конкатенации с кадром маскирования, кроме того, для конкатенации кадра маскирования и следующего кадра, этот способ по-прежнему сопряжен с проблемами. Причина в том, что необходимая повторная дискретизация для ослабления нарушения непрерывности, воспринимаемого слушателем-человеком, может вносить значительное частотное искажение, т.е. частотный сдвиг, который также воспринимается слушателем-человеком как раздражающий артефакт.
Сущность изобретения
Раскрытое изобретение, в частности, варианты его осуществления позволяют эффективно преодолевать вышеупомянутые ограничения известных решений, а также другие, не упомянутые, трудности известных решений. Согласно настоящему изобретению эти задачи решаются посредством способа, устройства хранения программ и конфигурации, которые отвечают разным аспектам настоящего изобретения, признаки которого определены в прилагаемой формуле изобретения.
В частности, по сравнению с известными методами на основе повторения основного тона раскрытое изобретение предусматривает подходы к конкатенации кадров сигнала с внутренним нарушением непрерывности на границах кадров, со значительно менее воспринимаемым артефактом, чем тот, который известен из уровня техники. Таким образом, раскрытое изобретение ослабляет ограничение, характерное для систем, отвечающих уровню техники, что позволяет непосредственно повышать воспринимаемое качество звука.
В данном раскрытии будут использоваться следующие определения. Термин "выборка" означает выборку, получаемую из оцифрованного аудиосигнала или из сигнала, выведенного из него, или коэффициентов или параметров, представляющих такие сигналы, причем эти коэффициенты или параметры имеют скалярные или векторные значения. Термин "кадр" означает множество последовательных выборок с использованием вышеприведенного определения выборки. Термин "подпоследовательность" означает множество двух или более последовательных выборок с использованием вышеприведенного определения выборки. В случае использования, например, сложения с перекрытием две последовательные подпоследовательности могут включать в себя перекрывающиеся выборки. В зависимости от выбора кадров подпоследовательность может проходить между двумя последовательными кадрами.
Согласно первому аспекту изобретение предусматривает способ конкатенации первого кадра выборок и последующего второго кадра выборок, причем способ содержит этапы, на которых применяют фазовый фильтр, предназначенный для минимизации нарушения непрерывности на границе между первым и вторым кадрами выборок.
Предпочтительно фазовый фильтр применяют к, по меньшей мере, части выборок в, по меньшей мере, двух последовательных кадрах. По меньшей мере, два последовательных кадра могут представлять собой первый и второй, последующий, кадры.
Фазовый фильтр можно применять к, по меньшей мере, части выборок в, по меньшей мере, втором кадре и к, по меньшей мере, части выборок во, по меньшей мере, одном кадре, следующем за вторым кадром. Фазовый фильтр можно применять к, по меньшей мере, части выборок во, по меньшей мере, втором кадре и к, по меньшей мере, части выборок в, по меньшей мере, двух кадрах, следующих за вторым кадром.
Фазовый фильтр можно применять к, по меньшей мере, части выборок в, по меньшей мере, первом кадре и к, по меньшей мере, части выборок в, по меньшей мере, одном кадре, предшествующем первому кадру. Фазовый фильтр можно применять к, по меньшей мере, части выборок в, по меньшей мере, первом кадре и к, по меньшей мере, части выборок в, по меньшей мере, двух кадрах, предшествующих первому кадру.
Предпочтительно фазовый фильтр включает в себя секцию всечастотного фильтра, в простых предпочтительных вариантах осуществления фазовый фильтр является всечастотным фильтром. Секция всечастотного фильтра может представлять собой секцию параметрического всечастотного фильтра. Секция параметрического всечастотного фильтра предпочтительно включает в себя от 1 до 20 ненулевых коэффициентов.
Фазовый фильтр может включать в себя сдвиг фазы подпоследовательности из, по меньшей мере, одной выборки на π радиан.
В предпочтительных вариантах осуществления фазовый фильтр изменяется с течением времени. Фазовый фильтр предпочтительно изменяется с течением времени, благодаря чему характеристика фазового фильтра аппроксимирует нулевую фазу в конечном количестве выборок от границы между первым и вторым кадрами, например в конечном количестве выборок после границы между первым и вторым кадрами. Предпочтительно фазовый фильтр предпочтительно имеет первоначально выбранную фазовую характеристику в начальный момент времени. Количество выборок от границы может зависеть от первоначально выбранной фазовой характеристики фазового фильтра. Момент времени, когда характеристика фазового фильтра аппроксимирует нулевую фазу, может находиться в, по меньшей мере, одном из первого и второго кадров. Альтернативно, момент времени, когда характеристика фазового фильтра аппроксимирует нулевую фазу, находится в кадре, который является, по меньшей мере, одним кадром, предшествующим первому кадру. В порядке дополнительной альтернативы, момент времени, когда характеристика фазового фильтра аппроксимирует нулевую фазу, находится в кадре, который является, по меньшей мере, одним кадром, следующим за вторым кадром.
Количество выборок от границы может зависеть от характеристик подпоследовательности выборок во втором кадре или в кадре, следующем за вторым кадром. Например, в случае, когда входные выборки представляют речевой сигнал и характеристики таких выборок можно использовать для определения, представляют ли выборки вокализованную или невокализованную речь.
Количество выборок от границы может зависеть от характеристик подпоследовательности выборок в первом кадре или в кадре, предшествующем первому кадру.
Фазовый фильтр может включать в себя многофазную структуру. Фазовая фильтрация может содержать процедуру повышающей дискретизации.
Способ включает в себя этап, на котором применяют процедуру взвешенного сложения с перекрытием, например процедуру взвешенного сложения с перекрытием с использованием согласованного фильтра. Одну часть выборок, полученных в этой процедуре взвешенного сложения с перекрытием, предпочтительно используют для инициализации состояния фазового фильтра, если другая часть выборок, полученных в этой процедуре сложения с перекрытием, остается после этой инициализации, эти выборки предпочтительно используют как первые входные выборки фазового фильтра.
По меньшей мере, один из первого и второго кадров включает в себя одну или несколько выборок маскирования, которые можно генерировать методом маскирования. Метод маскирования может представлять собой метод, который включает в себя генерацию двух последовательных подпоследовательностей выборок маскирования на основании двух последовательных подпоследовательностей буферизованных выборок в обратном временном порядке.
Фазовый фильтр может базироваться на выборках маскирования, генерируемых из второго кадра назад во времени. Начальное состояние фазового фильтра может базироваться на выборках маскирования. Количество выборок, которые могут быть включены из, по меньшей мере, одной из выборок маскирования, выбирается, например, для максимизации меры совпадения. Мера совпадения может включать в себя корреляцию, например нормированную корреляцию.
В способе, как описано выше, выборки в первом и втором кадрах представляют оцифрованный аудиосигнал, например аудиосигнал, включающий в себя речевой сигнал.
Согласно предпочтительным вариантам осуществления этого изобретения для фазовой фильтрации используется всечастотный фильтр, например параметрический всечастотный фильтр. Фазовый фильтр выполнен как изменяющийся во времени, благодаря чему по мере удаления от границы кадра его характеристика постепенно приближается к нулевой фазе. В точке достижения нулевой фазы фильтр отсоединяется от тракта сигнала. Эта точка может находиться в том же кадре, где нарушение непрерывности на границе кадра уменьшено этим методом, или эта точка может предпочтительно находиться в одном или нескольких кадрах от точки, где было уменьшено нарушение непрерывности на границе кадра. Согласно другим предпочтительным вариантам осуществления изобретения определяются начальный фазовый фильтр, начальное состояние фильтра и входной сигнал фильтра, например, для минимизации нарушения непрерывности между последними выборками первого кадра и первыми выборками второго кадра, причем минимизация осуществляется путем максимизации меры подобия между сглаженным продолжением последних выборок в первом кадре, полученным методом маскирования, и начальной частью входа, состояния или выхода фазовой фильтрации выборок во втором кадре. Кроме того, в предпочтительных вариантах осуществления выборки, представляющие время до первой выборки второго кадра, получаются методом маскирования, выполняющимся назад во времени, с целью оценивания входа, состояния и/или выхода фазового фильтра из первой выборки второго кадра и вперед. В дополнительных предпочтительных вариантах осуществления процедура взвешенного сложения с перекрытием и предпочтительно процедура взвешенного сложения с перекрытием с использованием согласованного фильтра применяются между выборками маскирования из первого кадра и входом, состоянием или выходом из фазового фильтра.
Согласно второму аспекту изобретение предусматривает программный код, выполняемый на компьютере, предназначенный для осуществления способа согласно первому аспекту. Такой программный код может быть записан в машинозависимой или машинонезависимой форме и на любом языке программирования, например в машинном коде или на языке программирования более высокого уровня.
Согласно третьему аспекту изобретение предусматривает устройство хранения программ, содержащее последовательность команд для микропроцессора, например микропроцессора общего назначения, для осуществления способа согласно первому аспекту. Устройство хранения может представлять собой средство хранения данных любого типа, например диски, карты памяти или линейки памяти, жесткие диски и т.д.
Согласно четвертому аспекту изобретение предусматривает конфигурацию, например устройство или аппарат, для приема оцифрованного аудиосигнала, причем упомянутая конфигурация включает в себя
средство памяти для хранения выборок, представляющих принятый оцифрованный аудиосигнал, и
средство процессора для осуществления способа согласно первому аспекту.
Реализация этого изобретения адекватными средствами, например описанными ниже для предпочтительных вариантов осуществления, позволяет декодеру и системе маскирования и/или транскодеру и системе маскирования эффективно маскировать последовательности потерянных или задержанных пакетов без привнесения артефактов, мешающих восприятию. Таким образом, заявленное изобретение обеспечивает двустороннюю передачу аудиосигнала высокого качества в условиях сильной расфазировки тактовых сигналов, канальных потерь и/или флуктуаций времени задержки.
Краткое описание чертежей
Ниже приведено более подробное описание изобретения со ссылкой на прилагаемые чертежи, на которых показано следующее:
фиг.1 - блок-схема известной системы сквозной передачи звука с коммутацией пакетов, для которой характерны эффекты потерь, задержки, флуктуаций времени задержки и/или расфазировки тактовых сигналов;
фиг.2 - иллюстративная приемная подсистема, осуществляющая буферизацию флуктуаций, декодирование и буферизацию маскирования и воспроизведения под управлением блока управления;
фиг.3 - блок-схема ретрансляционной подсистемы канала с коммутацией пакетов, для которой характерны эффекты расфазировки тактовых сигналов, потерь, задержки и флуктуаций времени задержки;
фиг.4 - иллюстративная ретрансляционная подсистема, осуществляющая входную буферизацию, выходную буферизацию и, при необходимости, перекодирование и маскирование под управлением блока управления;
фиг.5 - блок-схема ряда предпочтительных вариантов осуществления настоящего изобретения;
фиг.5A - иллюстративная схема подпоследовательностей в кадрах маскирования, начиная с подпоследовательностей, базирующихся на последних буферизованных подпоследовательностях, в обратном временном порядке;
фиг.5B - другой пример более крупной последовательности подпоследовательностей в кадрах маскирования, начиная с последних двух буферизованных подпоследовательностей в обратном временном порядке, и где последовательные подпоследовательности базируются на буферизованных подпоследовательностях с дополнительным сдвигом назад во времени;
фиг.5C - индексы счетчика выборок в шаблоне индексирования, форматированном шагами назад и длинами чтения;
фиг.6 - иллюстративная схема сигналов, используемых в функции индексирования и интерполяции;
фиг.7 - логическая блок-схема одного возможного варианта реализации логики принятия решений для критериев остановки;
фиг.8 - логическая блок-схема одного возможного способа осуществления итерационной совместной оптимизации сглаживания и коррекции, критериев остановки и количества допустимых повторений;
фиг.9 - схема использования циклического сдвига и сложения с перекрытием в связи с инициализацией и возбуждением фильтра регулировки фазы; и
фиг.10 - один вариант осуществления раскрытой процедуры взвешенного сложения с перекрытием.
Хотя изобретение допускает различные модификации и альтернативные формы, конкретный вариант осуществления показан в порядке примера на чертежах и подробно описан ниже. Однако следует понимать, что изобретение не ограничивается конкретными раскрытыми формами. Напротив, изобретение охватывает все модификации, эквиваленты и альтернативы, отвечающие сущности и объему изобретения, определяемым прилагаемой формулой изобретения.
Описание предпочтительных вариантов осуществления
Ниже приведено описание изобретения в связи с конкатенацией кадра маскирования и последующего кадра. Однако, как следует из объема формулы изобретения, способ конкатенации, отвечающий изобретению, имеет значительно более широкую сферу применения.
Способ, отвечающий изобретению, осуществляется в блоке 420 декодирования и маскирования приемника, например, показанном на фиг.2, или осуществляется в блоке 330 перекодирования и маскирования ретранслятора, например, показанном на фиг.4, или в любом другом месте системы связи, где его выполнение целесообразно. В этих местах имеется некоторое количество буферизованных кадров сигнала и требуется некоторое количество кадров маскирования. Доступные кадры сигнала и нужные кадры маскирования могут состоять из выборок во временной области аудиосигнала, например речевого сигнала, или могут состоять из выборок, выведенных из них, например выборок возбуждения линейного предсказания, или могут состоять из других коэффициентов, выведенных из аудиосигнала и полностью или частично представляющих кадры звукового сигнала. Примерами таких коэффициентов являются коэффициенты частотной области, коэффициенты синусоидальной модели, коэффициенты кодирования с линейным предсказанием, коэффициенты интерполяции формы сигнала и другие множества коэффициентов, которые полностью или частично представляют выборки аудиосигнала.
На фиг.5 показан предпочтительный вариант осуществления изобретения. Согласно фиг.5 доступные кадры сигнала 595, которые могут представлять собой принятые и декодированные или перекодированные кадры сигнала или кадр маскирования из более ранней операции этого или других способов генерации кадров маскирования, или комбинации вышеупомянутых типов кадров сигнала, сохраняются в буфере 600 кадров. Сигнал в буфере кадров анализируется генератором 660 шаблона индекса. Генератор шаблона индекса может предпочтительно использовать оценки основного тона 596 и вокализации 597 сигнала. В зависимости от общей конфигурации системы эти оценки могут быть доступны для ввода из других процессов, например процесса кодирования, декодирования или перекодирования, или могут вычисляться другими средствами предпочтительно с использованием методов анализа сигнала, отвечающих уровню техники. Кроме того, генератор шаблона индекса принимает количество 598 кадров сигнала маскирования для генерации и указатели 599 начала и конца конкретных кадров сигнала в буфере кадров, которые заменяются кадром или кадрами маскирования. В порядке примера, если эти буферы указывают на конец буфера кадров, это означает, что кадр или кадры маскирования должны быть сделаны адекватными для следования за сигналом, хранящимся в буфере кадров. В порядке другого примера, если эти указатели указывают непустое подмножество последовательных кадров в буфере кадров, это означает, что кадр или кадры маскирования должны заменить эти кадры в последовательность кадров, представляющую или частично представляющую звуковой сигнал.
Для дальнейшей иллюстрации допустим, что буфер 600 кадров содержит кадры сигнала A, B, C, D, E и что количество кадров 598 маскирования равно двум. Тогда, если указатели кадров, подлежащих замене 599, указывают на конец буфера кадров, это означает, что два кадра сигнала маскирования должны следовать последовательно после кадра сигнала E. Напротив, если указатели 599 указывают на кадры сигнала B, C, D, два кадра маскирования должны заменять кадры сигнала B, C, D и следовать последовательно после кадра сигнала A, и за ними должен следовать последовательно кадр сигнала E.
Что касается способов определения количества кадров 598 маскирования и подмножества кадров, которые в конечном итоге должны заменять кадры маскирования, т.е. указателей 599, предпочтительно использовать способы, отвечающие уровню техники. Таким образом, данные 596, 597, 598 и 599 совместно с кадрами 595 сигнала составляют входные данные для способа, устройства и конфигурации, отвечающих настоящему изобретению.
В некоторых общих конфигурациях системы длина или размер кадра сигнала предпочтительно поддерживаются постоянными в ходе работы блока маскирования. Помимо прочих сценариев, это обычно имеет место, когда блок маскирования интегрирован в ретрансляционную систему, где результат маскирования подлежит компоновке в пакеты, представляющие звуковой сигнал в интервале времени заранее заданной длины, причем эта заранее заданная длина определяется в другом месте. В порядке примера, эта заранее заданная длина может определяться в ходе согласования протоколов при установлении вызова в системе Voice over IP и может изменяться в ходе преобразования в соответствии, например, с механизмами управления сетевой перегрузкой. Некоторые варианты осуществления настоящего изобретения, как прояснено ниже, предпочтительно отвечают этому требованию работы с заранее заданной длиной кадра сигнала. Однако инновация как таковая не ограничивается этими системными требованиями; другие варианты осуществления данной инновации предусматривают работу с маскированиями, которые составляют нецелое число кадров, и маскированиями кадров, которые имеют длины, зависящие от времени, и где эти длины могут зависеть от конкретного содержимого буфера кадров, возможно в комбинации с другими факторами.
Варианты осуществления настоящего изобретения могут предпочтительно использовать операцию 610 сглаживания и коррекции, выполняемую над сигналом 605 из буфера кадров. В этой операции сглаживания и коррекции генерируется сигнал 615, в котором кадры, более ранние по времени, чем кадр или кадры маскирования, имеют повышенное подобие с кадром или кадрами сигнала, которые подлежат замещению кадром, или кадрами маскирования, или кадром непосредственно перед ним. Альтернативно, если кадр или кадры маскирования вставлены последовательно с существующими кадрами без замещения, имеет место подобие с кадром или кадрами непосредственно перед назначенной позицией кадра или кадров маскирования. В дальнейшем в обоих случаях будет использоваться термин «подобие». Подобие интерпретируется слушателем-человеком. Сглаживание и коррекция получает сигнал с повышенным подобием, в то же время сохраняя естественно звучащую эволюцию сигнала 615. Примеры операций повышения подобия, предпочтительно выполняемых сглаживанием и коррекцией 610, включают в себя повышение сглаженности и подобия в таких параметрах, как энергетическая огибающая, контур основного тона, степень вокализации, частота среза вокализации и спектральная огибающая, а также других параметрах, важных для восприятия.
В отношении каждого из этих параметров резкие переходы в эволюции параметра в кадрах, подлежащие сглаживанию и коррекции, отфильтровываются и средний уровень параметра в этих кадрах плавно изменяется для приобретения большего подобия в вышеупомянутом смысле. Предпочтительно подобие вводится только в той степени, которая позволяет сохранять естественно звучащую эволюцию сигнала. Под управлением генератора 660 шаблона индекса сглаживание и коррекция могут предпочтительно сглаживать переходы и нарушения непрерывности, которые, в противном случае, могли бы появляться в последующей операции 620 индексирования и интерполяции. Кроме того, сглаживание и коррекция контура основного тона могут предпочтительно контролироваться генератором 660 шаблона индекса таким образом, чтобы минимизировать искажение, которое, так или иначе, привносится в кадры маскирования позже фазовым фильтром 650. Операция сглаживания и коррекции может предпочтительно использовать замену, смешивание, интерполяцию и/или слияние сигнала или параметра с кадрами сигнала (или параметрами, выведенными из них), найденными с дополнительным сдвигом назад во времени в буфере кадров 600. Операция сглаживания и коррекции 610 может осуществляться вне системы без отхода от общего объема настоящего изобретения. В этом случае сигнал 615 равен сигналу 605, и вход 656 сигнала и выход 665 управления генератора 660 шаблона индекса можно в этом случае исключить из конфигурации системы.
Операция 620 индексирования и интерполяции принимает, возможно, сглаженный и скорректированный сигнал 615 и шаблон 666 индекса. Кроме того, в некоторых предпочтительных вариантах осуществления настоящего изобретения операция индексирования и интерполяции принимает индикатор 667 качества совпадения. Индикатор качества совпадения может иметь скалярное значение в каждый момент времени или может быть функцией времени и частоты. Предназначение индикатора качества совпадения будет пояснено ниже. Шаблон 666 индекса параметризует операцию функция индексирования и интерполяции.
На фиг.5A показан пример того, как шаблон индекса может индексировать подпоследовательности в буферизованных выборках, BS1, BS2, BS3, BS4, с постепенным сдвигом назад во времени при синтезе одного или нескольких кадров маскирования. В показанном примере последовательные подпоследовательности CS1, CS2, CS3, CS, CS5, CS6, CS7 в кадрах маскирования CF1, CF2, CF3 базируются на буферизованных подпоследовательностях BS1, BS2, BS3 и BS4 выборок в кадрах BF1, BF2. Можно видеть, что подпоследовательности маскирования CS1-CS7 индексированы исходя из буферизованных подпоследовательностей BS1-BS4, при этом указатель положения постепенно перемещается назад и затем постепенно перемещается вперед во времени, что выражается функциональным обозначением CS1(BS4), CS2(BS3), CS3(BS2), означающим, что CS1 базируется на BS4, и т.д. Таким образом, на фиг.5A показан один пример, иллюстрирующий, как последовательные подпоследовательности в кадрах маскирования могут следовать друг за другом на основании последовательных буферизованных подпоследовательностей, но переупорядоченных во времени. Можно видеть, что первые четыре подпоследовательности маскирования CS1(BS4), CS2(BS3), CS3(BS2) и CS4(BS1) выбраны базирующимися на последних четырех подпоследовательностях буферизованных выборок BS1, BS2, BS3, BS4, в последовательном порядке, но в обратном временном порядке, таким образом начиная с последней буферизованной подпоследовательности BS1. После первых четырех подпоследовательностей в обратном временном порядке следуют три подпоследовательности CS5, CS6, CS7, которые все базируются на последовательных буферизованных подпоследовательностях во временном порядке, а именно BS2, BS3 и BS4 соответственно. Предпочтительный шаблон индекса формируется генератором шаблона 660 индекса и может варьироваться в широких пределах в зависимости от входов 656, 596, 597, 598 и 599 этого блока. На фиг.5B приведен, с сохранением обозначений фиг.5A, другой иллюстративный пример того, как подпоследовательности маскирования CS1-CS11 могут базироваться на буферизованных подпоследовательностях BS1-BS4 при переупорядочении во времени. Можно видеть, что более поздние подпоследовательности маскирования постепенно базируются на буферизованных подпоследовательностях с дополнительным смещением назад во времени. Например, первые две последовательные подпоследовательности маскирования CS1 и CS2 базируются на последних двух буферизованных подпоследовательностях BS3, BS4, в обратном временном порядке, тогда как более поздняя подпоследовательность маскирования, например CS10, базируется на BS1, т.е. буферизованной подпоследовательности с дополнительным смещением назад во времени, по отношению к используемым для вычисления CS1 и CS2. Таким образом, фиг.5B демонстрирует, что последовательные подпоследовательности маскирования базируются на буферизованных подпоследовательностях, индексированных вперед и назад во времени, таким образом, что индексирование постепенно эволюционирует назад во времени.
В предпочтительных вариантах осуществления настоящего изобретения эта постепенная эволюция назад во времени формализуется как последовательность того, что в целях этого описания названо шагами назад, и последовательность того, что в целях этого описания названо длинами чтения. В простых вариантах осуществления этого формата шаблона индекса указатель на выборки сигнала, или представляющие их параметры или коэффициенты, смещается назад на величину, равную первому шагу назад, после чего некоторое количество выборок, или представляющих их параметров или коэффициентов, вставляется в кадр маскирования, причем эта величина равна первой длине чтения. После этого указатель смещается назад на величину, равную второму шагу назад, и некоторое количество выборок, или представляющих их параметров или коэффициентов, равное второй длине чтения считывается, и т.д.
На фиг.5C показан пример этого процесса посредством переупорядочения первого перечисления индексированных выборок. Это первое перечисление отображается на временной оси сигнала, тогда как перечисление, отображаемое на временной оси маскирования на фиг.5C, соответствует переупорядочению исходных выборок при их размещении в кадре маскирования. В этом иллюстративном примере первый, второй и третий шаги назад произвольно выбраны равными 5, 6, 5 соответственно, и первая, вторая и третья длины чтения также произвольно выбраны равными 3, 4, 3, соответственно. В этом примере подпоследовательности с множествами временных индексов {6,7,8}, {3,4,5,6} и {2,3,4} соответственно являются подпоследовательностями, эволюционирующими постепенно назад во времени. Последовательности шагов назад и длина чтения выбраны здесь исключительно в целях иллюстрации. При использовании остаточных речевых выборок с частотой дискретизации 16 кГц в порядке примера типичные значения шагов назад находятся в диапазоне от 40 до 240, но не ограничиваются этим диапазоном, и типичные значения длин чтения находятся в диапазоне от 5 до 1000 выборок, но не ограничивается этим диапазоном. В более усовершенствованных вариантах осуществления этого формата переход от последовательности прямого направления (например, исходного времени или подпоследовательности, индексированной назад во времени) к другой последовательности прямого направления, один шаг дополнительно назад во времени, выполняется постепенно путем интерполяции с постепенным сдвигом.
На фиг.6 показано действие простого варианта осуществления функции индексирования и интерполяции в соответствии с одним шагом назад и соответствующей длиной чтения и индикатором качества совпадения. Исключительно в целях иллюстрации кадры сигнала состоят здесь из выборок аудиосигнала во временной области. Интерполяция с постепенным сдвигом применяется к общему определению "выборки", используемому в этом описании, т.е. включающему в себя скалярные или векторные коэффициенты или параметры, представляющие выборки аудиосигнала во временной области сходным и, следовательно, простым способом. На фиг.6 700 обозначает сегмент сигнала 615. Указатель 705 - это момент времени выборки, следующий за моментом времени выборки для последней сгенерированной выборки в выходном сигнале 625 индексирования и интерполяции. Интервал времени 750 имеет длину, равную длине чтения. Интервал времени 770 также имеет длину, равную длине чтения. Интервал времени 760 имеет длину, равную шагу назад. Выборки сигнала в 700, начиная с момента 705, и на длину чтения вперед во времени по очереди перемножаются с функцией окна 720. Кроме того, выборки сигнала в 700, начинающиеся в положении одной выборки после шага назад до положения 706 и на длину чтения выборки вперед оттуда по очереди, перемножаются с функцией окна 710. Выборки, полученные перемножением с окном 710 и с окном 720, суммируются по очереди 730 для получения выборок 740, которые составляют новую совокупность выборок для вывода 625 из операции индексирования и интерполяции. По завершении этой операции указатель 705 переходит в положение 706.
В простых вариантах осуществления настоящего изобретения функции окна 710 и 720 являются простыми функциями длины чтения 750. Одна такая простая функция состоит в выборе окна 710 и окна 720 в качестве первой и второй половины соответственно окна Ханнинга, длина которого вдвое больше длины чтения. Хотя здесь можно выбирать функции в широком диапазоне, с учетом того, что такие функции должны иметь смысл в контексте настоящего изобретения, они должны осуществлять взвешенную интерполяцию между выборками в сегменте, обозначенном 750, и выборками, обозначенными 770, таким образом, чтобы постепенно, но не обязательно монотонно, перемещаться от большого весового коэффициента на сегменте, обозначенном 750, к большому весовому коэффициенту на сегменте, обозначенном 770.
В других вариантах осуществления настоящего изобретения функции окна 710 и 720 являются функциями индикатора качества совпадения. Простой пример такой функции состоит в том, что, в зависимости от порога нормированной корреляции на сегментах сигнала 700, указанного интервалами времени 750 и 770, операция интерполяции выбрана так, чтобы суммировать до единицы либо по амплитуде, либо по мощности. Другой пример такой функции избегает ограничения суммированием по амплитуде либо по мощности до единицы, но зато оптимизирует весовые коэффициенты окна как функцию только меры совпадения. Дополнительное уточнение этого способа принимает фактическое значение нормированной корреляции и оптимизирует операцию интерполяции в соответствии с ним, например, с использованием классических методов линейной оценки. Однако примеры предпочтительных методов описаны ниже. В этих примерах порог, соответственно фактическое значение нормированной корреляции, дает примеры предпочтительной информации, переносимой индикатором 667 качества совпадения. Согласно предпочтительным вариантам осуществления, описанным ниже, операция интерполяции может реализовывать различные взвешивания на разных частотах. В этом случае индикатор 667 качества совпадения может предпочтительно переносить меры совпадения как функции частоты. В предпочтительных вариантах осуществления это взвешивание как функция частоты реализуется в виде линии задержки с отводами или другого параметрического фильтра, который можно оптимизировать для максимизации критерия совпадения.
Фиг.6 иллюстрирует действие индексирования и интерполяции, когда сигнал 615 (а следовательно, и сегмент 700 сигнала) содержит выборки, представляющие выборки во временной области звукового сигнала или выведенного из него сигнала временной области. Как отмечено выше, выборки в кадрах 595, а следовательно, в сигналах 605 и 615 могут предпочтительно быть такими, что каждая выборка является вектором (выборками с векторными значениями), где такой вектор содержит коэффициенты или параметры, представляющие или частично представляющие звуковой сигнал. Примерами таких коэффициентов являются частоты линейчатого спектра, коэффициенты частотной области или коэффициенты, задающие модель синусоидального сигнала, например множества амплитуд, частот и фаз. На основании этого подробного описания предпочтительных вариантов осуществления настоящего изобретения специалист в данной области техники может спроектировать операции интерполяции, которые предпочтительно применяются к выборкам с векторными значениями, тогда как описание остальных подробностей каждого конкретного случая таких выборок с векторными значениями можно найти в общей литературе.
Для понимания настоящего изобретения предпочтительным образом следует учитывать, что при неоднократном применении операции индексирования и интерполяции с длиной чтения, которая меньше шага назад, получается, что выборки в сигнале 625 представляют выборки сигнала, имеющие все большее и большее смещение назад в сигнале 615. Если шаг назад и/или длину чтения выбрать так, чтобы длина чтения была больше шага назад, то этот процесс повернется вспять, и выборки в сигнале 625 будут представлять выборки сигнала, которые постепенно смещаются все больше вперед в сигнале 615. Благодаря предпочтительному выбору последовательности шагов назад и последовательности длин чтения можно получить продолжительный сигнал маскирования с богатой и естественной вариацией, не вызывая выборки вперед во времени из самого позднего принятого кадра сигнала в буфере 600 кадров или даже не вызывая выборки впереди другого заранее заданного момента времени, который может располагаться раньше, чем самая поздняя выборка в самом позднем принятом кадре в буфере 600 кадров. Таким образом, настоящее изобретение делает возможным маскирование пиков задержки в системе с низкой задержкой воспроизведения или планированием выходного буфера. В формулировке данного описания простая строгая обратная эволюция во времени сигнала, которую, может быть, полезно рассматривать как элемент простой варианта осуществления настоящего изобретения, реализуется путем повторного использования длины чтения в одну выборку, шага назад в две выборки и окна 720, содержащего единичную выборку со значением 0 и окна 710, содержащего единичную выборку со значением 1.0.
Основной задачей генератора 660 шаблона индекса является управление действием операции 620 индексирования и интерполяции. В ряде предпочтительных вариантов осуществления это управление формализовано в шаблоне 666 индексирования, который может состоять из последовательности шагов назад и последовательности длин чтения. Это управление может быть дополнено последовательностью индикаций качества совпадения, каждая из которых, в свою очередь, может быть функцией, например, частоты. Дополнительной особенностью, которая может выводиться из генератора шаблона индекса и использование которой поясняется далее, является счетчик 668 повторения. Счетчик повторения показывает, сколько раз начиналась эволюция назад во времени при построении кадра или кадров маскирования. Генератор шаблона индекса получает эти последовательности на основании информации, которая может содержать сглаженный и скорректированный сигнал 656, выводимый из операции 610 сглаживания и коррекции; оценку 596 основного тона, оценку 597 вокализации, количество 598 генерируемых кадров маскирования и указатели 599 на кадры, подлежащие замене. В одном варианте осуществления генератора шаблона индекса он работает в разных режимах в зависимости от индикатора вокализации. Такие режимы проиллюстрированы ниже.
В порядке примера, предпочтительно используемого в области возбуждения линейного предсказания, если индикатор вокализации устойчиво указывает, что сигнал является невокализованной речью или что в сигнале отсутствует активная речь, т.е. сигнал состоит из фонового шума, генератор шаблона индекса может войти в режим, в котором инициируется простое обращение эволюции во времени выборок сигнала. Как описано выше, это может осуществляться, например, путем формирования последовательности значений шага назад, равных двум и последовательности значений длины чтения, равных единице (это описание опирается на выбор конструкции, в которой операция индексирования и интерполяции будет сама идентифицировать эти значения и применять соответствующую вырезающую функцию, как описано выше). В некоторых случаях эта последовательность может продолжаться до тех пор, пока обратная эволюция во времени сигнала не будет реализована для половины количества новых выборок, необходимых в кадре или кадрах маскирования, после чего значение в последовательности шагов назад может смениться на 0, иными словами, начнется прямая эволюция во времени сигнала, и продолжаться до тех пор, пока указатель 706 эффективно не вернется в отправную точку указателя 705 в первом применении шага назад. Однако этой простой процедуры не всегда достаточно для кадров маскирования высокого качества. Важной задачей генератора шаблона индекса является мониторинг адекватных критериев остановки. В вышеприведенном примере обратная эволюция во времени может переводить указатель 706 обратно в позицию в сигнале, в которой звук при интерпретации слушателем-человеком значительно отличается от начальной точки. Прежде чем это произойдет, эволюция во времени должна претерпеть обращение.
Предпочтительные варианты осуществления настоящего изобретения предусматривают применение множества критериев остановки, базирующихся на множестве мер. Ниже приведены примеры некоторых из этих мер и критериев остановки. Если вокализация указывает, что сигнал по указателю 706 вокализован, то в вышеприведенном примере, начиная с невокализованного, направление эволюции во времени может предпочтительно поменяться на обратное, также, если энергия сигнала в области вокруг указателя 706 отличается (определяемая по абсолютному или относительному порогу) от энергии сигнала в отправной точке для указателя 705, направление эволюции во времени может предпочтительно поменяться на обратное. В порядке третьего примера спектральное расстояние между областью вокруг отправной точки для указателя 705 и текущей позицией указателя 706 может превышать порог, и направление эволюции во времени должно смениться на обратное.
Второй пример режима может потребоваться, когда сигнал нельзя уверенно определить как невокализованный или не содержащий активной речи. В этом режиме оценка основного тона 596 составляет основу для определения шаблона индекса. Одна процедура для этого состоит в поиске каждого шага назад, дающего максимальную нормированную корреляцию между сигналом на один период основного тона вперед во времени от указателя 705 и сигналом на один период основного тона вперед от точки, находящейся в шаге назад от указателя 705. Поиск потенциальных значений шага назад может предпочтительно ограничиваться некоторой областью. Эта область может предпочтительно задаваться в пределах плюс-минус 10 процентов от ранее найденного шага назад или отставания на период основного тона, если не было найдено предыдущих шагов назад. После определения шага назад значение длины чтения определяет, должна ли эволюция сигнала во времени проходить назад или вперед во времени и насколько быстрой должна быть эта эволюция. Медленная эволюция получается за счет выбора длины чтения, близкой к найденному значению шага назад. Быстрая эволюция получается за счет выбора длины чтения, много меньшей или много большей шага назад в случае обратной и прямой эволюции соответственно. Задача генератора шаблона индекса состоит в выборе длины чтения для оптимизации качества звука при интерпретации слушателем-человеком. Выбор длины чтения, слишком близкой к шагу назад, может, в некоторых сигналах, например сигналах, которые не являются достаточно периодическими, приводить к артефактам, мешающим восприятию, например струнным звукам. Выбор длины чтения, слишком далекой от шага назад, приводит к тому, что в ходе эволюции во времени кадра или кадров маскирования в конечном итоге просматривается более длительный интервал времени в буфере кадров, альтернативно, что направление эволюции во времени приходится менять больше раз прежде, чем будет сгенерировано достаточное количество выборок для кадра или кадров маскирования.
В первом случае, в некоторых сигналах, например сигналах, которые не являются достаточно стационарными (альтернативно, не являются достаточно сглаженными и скорректированными), в звуке кадра или кадров маскирования возникают некоторые артефакты, мешающие восприятию, которые несколько напоминают заикание. Во втором случае могут возникать артефакты, напоминающие струнные звуки. Особенность предпочтительных вариантов осуществления настоящего изобретения состоит в том, что длину чтения можно определить как функцию шага назад и нормированной корреляции, которая оптимизируется в поиске оптимального шага назад. Один простой, но предпочтительный, выбор этой функции согласно вариантам осуществления настоящего изобретения, связанным с обработкой речевых сигналов, когда кадры сигнала содержат сигнал возбуждения линейного предсказания длительностью в 20 мс с частотой дискретизации 16 кГц, в порядке примера задается следующей функцией
где квадратные скобки [] используются для указания округления до ближайшего целого числа и где символы ReadLength, NormalizedCorrelation и StepBack используются для обозначения длины чтения, нормированной корреляции, полученной для оптимального шага назад, и соответствующего шага назад соответственно. Вышеприведенная функция служит лишь примером одного предпочтительного выбора в некоторых вариантах осуществления настоящего изобретения. Любой выбор длины чтения, включающий в себя любую функциональную зависимость для получения этой длины чтения, возможен без отхода от сущности настоящего изобретения. В частности, предпочтительные методы выбора длины чтения включают в себя использование управления 665 для параметризации операции 610 сглаживания и коррекции, например для достижения совместной минимизации артефактов наподобие заикания и наподобие струнных звуков в промежуточном кадре 625 маскирования. Это объясняет, почему генератор шаблона индекса 660 принимает промежуточный сигнал 656, а не выходной сигнал 615 операции сглаживания и коррекции: сигнал 656 представляет возможные версии окончательного сигнала 615 под управлением 665 и позволяет генератору шаблона индекса решать задачу оптимизации методом итераций. Как и в вышеописанном случае режима невокализованной и неактивной речи, критерии остановки в этом режиме также важны. Все примеры критериев остановки, предложенные в вышеописанном режиме, применимы и в этом режиме. Дополнительно, в этом режиме критерии остановки из измерения на основном тоне и нормированной корреляции могут предпочтительно составлять часть вариантов осуществления настоящего изобретения.
На фиг.7 показана, в порядке примера, предпочтительная логика принятия решений для комбинации критериев остановки. На фиг.7 используются следующие условные обозначения:
800: Установить, относится ли сигнал к типу высокой корреляции, типу низкой корреляции или не относится ни к одному из них. Определить начальный уровень энергии
801: Определить следующий шаг назад и нормированную корреляцию и длину чтения
802: Определить, вошел ли сигнал в тип низкой корреляции
803: Определить, вошел ли сигнал в тип высокой корреляции
804: Сигнал типа высокой корреляции?
805: Сигнал типа низкой корреляции?
806: Энергия ниже относительного минимального порога или выше относительного максимального порога?
807: Нормированная корреляция ниже порога для типа высокой корреляции?
808: Нормированная корреляция выше порога для типа низкой корреляции?
809: Достаточно ли выборок сгенерировано?
В случае работы в области возбуждения линейного предсказания для речи с частотой дискретизации 16 кГц. Пороги, упомянутые на фиг.7, можно предпочтительно выбирать следующим образом: в тип высокой корреляции можно входить, когда нормированная корреляция оказывается выше 0,8; порог для сохранения в типе высокой корреляции можно задать равным значению нормированной корреляции 0,5; в тип низкой корреляции можно входить, когда нормированная корреляция оказывается ниже 0,5; порог для сохранения в типе низкой корреляции можно задать равным значению нормированной корреляции 0,8; минимальную относительную энергию можно задать равной 0,3; и максимальную относительную энергию можно задать равной 3,0. Кроме того, можно использовать другие логики и другие критерии остановки в контексте настоящего изобретения, не выходя за рамки сущности и объема настоящего изобретения.
Применение критериев остановки означает, что единичная эволюция, назад во времени, до тех пор, пока либо не будет сгенерировано достаточно выборок, либо не будет удовлетворен критерий остановки, после чего вновь начнется эволюция вперед во времени, не гарантирует необходимое количество выборок для кадров маскирования. Поэтому генератор шаблона индекса может применять больше эволюций назад и вперед во времени. Однако слишком много прямых и обратных эволюций может привести к возникновению артефактов струнного звука в некоторых сигналах. Поэтому предпочтительные варианты осуществления настоящего изобретения предусматривают совместную оптимизацию критериев остановки, функции, применяемой для вычисления длин чтения, управления 665 сглаживанием и коррекцией и количества обратных и прямых эволюций, т.е. счетчика 668 повторения и, если разрешают указатели кадров, подлежащих замене 599, также количества выборок в направлении вперед во времени до начала каждой новой эволюции назад во времени. Для этого операцией сглаживания и коррекции также можно предпочтительно управлять таким образом, чтобы несколько изменять контур основного тона сигнала. Кроме того, совместная оптимизация может осуществляться с учетом действия фазового фильтра 650 и создавать небольшие изменения в контуре основного тона, например, для того, чтобы шаблон индекса минимизировал искажение, вносимое в фазовый фильтр совместно с другими вышеупомянутыми параметрами. На основании описания предпочтительных вариантов осуществления настоящего изобретения специалист в данной области техники может понять, что для решения этой задачи можно применять различные общие инструменты оптимизации, в том числе итерационную оптимизацию, марковские процессы принятия решения, методы Витерби и пр., любой из которых применим к этой задаче без отхода от объема настоящего изобретения.
Фиг.8 иллюстрирует посредством логической блок-схемы один пример итерационной процедуры для осуществления простой, но эффективной оптимизации этих параметров. На фиг.8 используются следующие условные обозначения:
820: Инициировать управление сглаживанием и коррекцией 665
821: Получить новый сглаженный сигнал 656
822: Инициировать критерии остановки
823: Инициировать допустимое количество повторений
824: Определить шаблон индекса для последовательности обратных и прямых эволюций, равномерно распределенных по доступным кадрам, указанным указателями 599, или при указании на конец доступных кадров, обратных эволюций, следующих непосредственно за прямыми эволюциями
825: Сгенерировано достаточное количество выборок для количества кадров маскирования 598?
826: Максимальное количество повторений достигнуто?
827: Увеличить допустимое количество повторений
828: Самый слабый порог для критериев остановки достигнут?
829: Ослабить пороги для критериев остановки
830: Изменить управление в сторону повышения влияния сглаживания и коррекции
Заметим, что одна эволюция назад и вперед во времени и следующая эволюция назад и вперед во времени в случае, когда в ходе предыдущей/их эволюции или эволюций назад и вперед во времени не был синтезирован достаточный сигнал, могут предпочтительно отличаться. Например, следует предусмотреть последовательности шагов назад, длины чтения и функции интерполяции, а также указатель конечного положения после эволюции назад и вперед во времени, например, для минимизации артефактов периодичности, которые в противном случае возникают вследствие повторения аналогичных шаблонов индекса. Например, для области вокализованного речевого остатка с частотой дискретизации 16 кГц одна эволюция назад и вперед во времени, генерирующая, например, 320 выборок, может предпочтительно заканчиваться с дополнительным смещением назад примерно на 100 выборок в сигнале по отношению к более ранней эволюции назад и вперед во времени.
Раскрытые выше варианты осуществления эффективно решают проблемы искусственно звучащих струнных звуков, известных для способов, отвечающих уровню техники, и в то же время допускают эффективное маскирование резких, пиковых флуктуаций времени задержки и внезапно происходящие потери повторных пакетов. Однако в неблагоприятных сетевых условиях, встречающихся, например, в некоторых беспроводных системах, и специализированных беспроводных сетях, и негарантированных сетях, и в других сценариях передачи, даже раскрытый способ может в ряде случаев вносить небольшие компоненты тональности в кадры маскирования. Поэтому в некоторых вариантах осуществления настоящего изобретения предпочтительно применять операцию 630 слабого примешивания шума и фильтр 640 мягкого ослабления. Общие подходы к примешиванию шума и ослаблению хорошо известны специалистам в данной области техники. Они включают в себя предпочтительное использование частотно-зависимой эволюции во времени мощности шумовой составляющей и частотно-зависимой эволюции во времени функции ослабления. Характерной особенностью использования примешивания шума и ослабления в контексте настоящего изобретения является непосредственное использование шаблона 666 индекса, меры 667 качества совпадения и/или счетчика 668 повторения для адаптивной параметризации операций примешивания шума и ослабления. В частности, шаблоны индексирования указывают, где неизменные выборки сигнала скомпонованы в кадр маскирования и где выборки кадра маскирования являются результатом операции интерполяции. Кроме того, отношение шага назад относительно длины чтения в сочетании с мерой качества совпадения указывают воспринимаемое качество, получающееся в результате операции интерполяции. Этот малый шум можно предпочтительно примешивать к исходным выборкам, причем более сильный шум предпочтительно примешивается к выборкам, являющимся результатом процесса интерполяции, и величина шума, примешиваемого к этим выборкам, может предпочтительно быть функцией меры качества совпадения, предпочтительно в частотно-дифференцированном режиме. Кроме того, значение длины чтения относительно шага назад также указывает на степень периодичности, которая может иметь место, причем примешивание шума может предпочтительно включать в себя эту меру при определении величины шума, примешиваемого к сигналу маскирования. Тот же принцип применяется к ослаблению; предпочтительно использовать мягкое ослабление, но меньшее ослабление можно применять к выборкам, представляющим исходные выборки сигнала, и большее ослабление можно применять к выборкам, полученным в результате операции интерполяции. Кроме того, величина ослабления в этих выборках может предпочтительно быть функцией индикации качества совпадения и предпочтительно в частотно-дифференцированном режиме. Опять же значение длины чтения относительно шага назад указывает степень периодичности, которая может иметь место; операция ослабления может предпочтительно включать в себя эту меру в проектирование ослабления.
Как указано при описании предпосылок настоящего изобретения, важной задачей подмножества вариантов осуществления настоящего изобретения является получение кадров маскирования заранее заданной длины, равной длине регулярных кадров сигнала. Когда это необходимо с точки зрения системы, средством для этого предпочтительно может быть фазовый фильтр 650. Простая в вычислительном отношении, приблизительная, но зачастую важная работа этого блока состоит в осуществлении сглаженного сложения с перекрытием между выборками, которые превышают заранее заданную длину кадра в число раз, равное количеству кадров маскирования, с хвостовым подмножеством выборок из кадра, следующего за кадрами маскирования. Сам по себе этот способ хорошо известен из уровня техники и используется, например, в рекомендации Международного союза электросвязи ITU-T G.711, Приложение 1. Если это практично с точки зрения системы, простую процедуру сложения с перекрытием можно усовершенствовать путем умножения последующих кадров на -1 всякий раз, когда это приводит к повышению корреляции в области сложения с перекрытием. Однако можно предпочтительно использовать другие методы, например, при переходе между кадрами вокализованного сигнала для дополнительного ослабления эффекта нарушений непрерывности на границах кадров. Один такой метод предусматривает повторную дискретизацию кадров маскирования. Этот метод сам по себе также хорошо известен из уровня техники. См., например, Valenzuela and Animalu, "A new voice-packet reconstruction technique", IEEE, 1989. Таким образом, специалист в данной области техники может осуществлять ослабление нарушений непрерывности на границах кадров. Однако в предпочтительных вариантах осуществления раскрытого изобретения повторная дискретизация может предпочтительно продолжаться в кадрах, следующих за последним кадром маскирования. При этом крутизна характеристики изменения во времени и таким образом частотный сдвиг, который возникает вследствие повторной дискретизации, может быть сделан незаметным при интерпретации слушателем-человеком. Кроме того, вместо повторной дискретизации в настоящем изобретении раскрыто использование переменных во времени всечастотных фильтров для ослабления нарушений непрерывности на границах кадров. Один вариант осуществления этого подхода задается уравнением фильтра
функция которого поясняется ниже. Предположим, что желательно изменение от задержки в L выборок до задержки в 0 выборок на интервале изменения, который может включать в себя все выборки или их часть для всех или части кадров маскирования в кадрах до кадров маскирования и в кадрах после кадров маскирования. Тогда в начале интервала изменения alpha_1(t) задается равным нулю, и alpha_2(t) задается равным 1,0 для реализации задержки в L выборок. После начала изменения по t alpha_1(t) должна постепенно возрастать до 0,5 и alpha_2(t) должна постепенно убывать до 0,5. Когда в конце интервала изменения alpha_1(t) равняется alpha_2(t), фильтр H_L(z,t) вносит нулевую задержку. Если желательно изменение от задержки в ноль выборок до задержки в L выборок на интервале изменения, который может включать в себя все выборки или их часть для всех или части кадров маскирования в кадрах до кадров маскирования и в кадрах после кадров маскирования, тогда в начале интервала изменения alpha_1(t) задается равным 0,5, и alpha_2(t) задается равным 0,5 для реализации задержки в 0 выборок. После начала изменения по t alpha_1(t) должна постепенно убывать до 0 и alpha_2(t) должна постепенно возрастать до 1,0. Когда в конце интервала изменения alpha_1(t) равняется 0 и alpha_2(t) равняется 1,0, фильтр H_L(z,t) вносит задержку в L выборок.
Вышеописанная фильтрация проста с точки зрения вычислений, однако имеет нелинейную фазовую характеристику. Исходя из особенностей восприятия, использование этой нелинейной фазы ограничивается сравнительно малыми L. Предпочтительно L<10 для речи на частоте дискретизации 16 кГц. Один способ осуществления фильтрации более значительных начальных значений L состоит в инициировании нескольких фильтров для меньших значений L, которые суммируются до нужного полного значения L, эти несколько фильтров можно предпочтительно инициировать в разные моменты времени и осуществить изменение в их диапазоне alpha на разных интервалах времени. Другой способ увеличения диапазона L, в котором можно применять этот фильтр, раскрыт ниже. Структура, которая реализует фильтрацию функционально идентичную вышеописанной, делит сигнал на L полифаз и производит следующую фильтрацию в каждой из этих полифаз
Согласно настоящему изобретению полифазовая фильтрация предпочтительно реализуется с использованием повышающей дискретизации. В одном варианте это предпочтительно предусматривает повышающую дискретизацию каждой полифазы с коэффициентом K и осуществление фильтрации H_1(z,t) K раз в каждой дискретизированной с повышением полифазе с последующей понижающей дискретизацией с коэффициентом K и реконструкцией сигнала с измененной фазой из полифаз. Коэффициент K может предпочтительно выбираться как K=2. Благодаря процедуре повышающей дискретизации получается фазовая характеристика, более близкая к линейной. Таким образом, воспринимаемое качество при интерпретации слушателем-человеком повышается.
Вышеописанная фазовая регулировка по множеству кадров применима, когда кадры маскирования вставляются в последовательность принятых кадров без потерь. Она также применима, когда кадры отбираются из последовательности сигналов для снижения задержки воспроизведения последующих кадров. Она также применима в случае потери кадров и когда ноль или более кадров маскирования вставляются между принятыми кадрами до и принятыми кадрами после потерянных кадров. В этих случаях предпочтительный способ получения входного сигнала для этого фильтра и нахождения задержки L состоит в следующем:
1) Для кадров, более ранних по времени, чем момент нарушения непрерывности, продолжает или начинает применяться раскрытый или какой-либо иной способ маскирования.
2) Для кадров, более поздних по времени, чем нарушение непрерывности, некоторое количество выборок L_test вставляется в начало кадра посредством раскрытого или какого-либо иного способа маскирования, но с обращенным индексированием временных выборок.
3) Мера совпадения, например нормированная корреляция, применяется между кадром или кадрами маскирования из 1) и кадром или кадрами из 2), включая начальные выборки L_test.
4) Значение L_test, которое максимизирует меру совпадения, выбирается в качестве L.
5) Кадр или кадры маскирования из 2) и кадр или кадры из 3) теперь объединяются с использованием процедуры взвешенного сложения с перекрытием. Хотя это взвешенное сложение с перекрытием можно осуществлять способом, известным специалисту в данной области техники, его можно предпочтительно оптимизировать согласно раскрытию, приведенному ниже.
6) Результирующий(-е) кадр или кадры подвергаются вышеописанной фазовой фильтрации, инициируемой при определенном значении L. Если L больше порога, то несколько фильтров инициируется и коэффициент изменяется в разные моменты времени и на интервалах времени, причем их значения L суммируются до определенного значения L.
Предпочтительно в речи или речевом остатке с частотой дискретизации 8 или 16 кГц можно выбирать значение вышеупомянутого порога в диапазоне от 5 до 50. Также предпочтительно в вокализованной речи или вокализованном речевом остатке выборки маскирования L_test и их продолжение на следующий кадр получают путем циклического сдвига выборок первого периода основного тона кадра. Таким образом, меру корреляции без нормирования, коррелирующую с полным периодом основного тона, можно предпочтительно использовать как меру совпадения для отыскания предпочтительного циклического сдвига L.
На фиг.9 показан вариант осуществления такого способа. Согласно фиг.9 фазовая регулировка обеспечивает сглаженный переход между кадром 900 сигнала последующими кадрами. Это осуществляется следующим образом: из кадра 900 сигнала и более ранних кадров генерируется сигнал 910 маскирования. Этот сигнал маскирования можно генерировать с использованием раскрытых методов или с использованием других методов, которые хорошо известны из уровня техники. Сигнал маскирования перемножается с окном 920 и суммируется 925 с другим окном 930, которое перемножается с сигналом, генерируемым следующим образом: сигнал 940 маскирования генерируется из последующих выборок 950 и, возможно, 960 путем эффективного применения метода маскирования, например, раскрытого или других методов, которые хорошо известны из уровня техники, и конкатенируется с последующими выборками 950. Количество выборок в маскировании 940 оптимизируется, например, для максимизации совпадения между маскированием 910 и конкатенацией 940 и последующими выборками 950.
Предпочтительно нормированную корреляцию можно использовать как меру этого совпадения. Кроме того, для снижения сложности вычислений совпадение для вокализованной речи или вокализованного речевого остатка может содержать лишь один период основного тона. В этом случае выборки 940 маскирования можно получить как первую часть циклического сдвига одного периода основного тона, и меру корреляции по одному периоду основного тона теперь не нужно нормировать. Это позволяет исключить вычисления нормирующих множителей. Что касается операции индексирования и интерполяции, описанной выше при описании предпочтительных вариантов осуществления, окна предпочтительно могут быть функцией индикатора качества совпадения и/или функцией частоты и могут предпочтительно реализовываться в виде линии задержки с отводами. Фильтр 970 действует следующим образом. Первые L выборок, полученных посредством процедуры сложения с перекрытием, передаются непосредственно на его выход и используются для задания начального состояния фильтра. После этого коэффициенты фильтра инициируются, как описано выше, и по мере того, как фильтр осуществляет фильтрацию от выборки L+1 и вперед, эти коэффициенты постепенно регулируются, например, для постепенного удаления задержки в L выборок, как описано выше.
В вышеописанной процедуре применяется вышеописанный способ оптимизации весовых коэффициентов окон в соответствии с максимизацией критерия совпадения, а также обобщение функций окон для частотно-зависимых весовых коэффициентов и согласованных фильтров в форме линий задержки с отводами или другим формам параметрического фильтра. В предпочтительных вариантах осуществления эволюция во времени частотно-зависимых весовых коэффициентов фильтра обеспечивается посредством последовательности из трех последовательностей сложения с перекрытием, первая из которых ослабляет кадр или кадры маскирования из более ранних кадров, вторая усиливает их фильтрованную версию с помощью фильтра, например, для согласования кадров маскирования из более поздних кадров, полученных во времени, индексированном в обратном направлении, а затем снова ослабляет их, третья усиливает кадр или кадры более поздние по времени. Согласно другой совокупности предпочтительных вариантов осуществления эволюция во времени частотно-зависимых весовых коэффициентов фильтра обеспечивается посредством последовательности из четырех последовательностей сложения с перекрытием, первая из которых ослабляет кадр или кадры маскирования из более ранних кадров, вторая усиливает их фильтрованную версию с помощью фильтра, например, для согласования кадров маскирования из более поздних кадров, полученных во времени, индексированном в обратном направлении, а затем снова ослабляет их, третья усиливает фильтрованную версию кадров, более поздних по времени, например, для дальнейшего улучшения этого согласования, а затем снова ослабляет их, и, наконец, четвертое окно усиливает кадр или кадры, более поздние по времени. Дополнительные предпочтительные варианты осуществления методов взвешенного сложения с перекрытием раскрыты ниже в этом описании.
Что касается операции 610 сглаживания и коррекции в вариантах осуществления, где выборки остаточной области используются как часть информации, представляющей речевой сигнал, сглаживание и коррекцию можно предпочтительно применять к этому остаточному сигналу с использованием фильтрации, адаптированной к основному тону, например гребенчатого фильтра или периодического узкополосного режекторного фильтра. Кроме того, можно предпочтительно применять фильтрацию Винера или Калмана, используя фильтр с долгосрочной корреляцией плюс шум в качестве модели нефильтрованного остатка. Таким образом, благодаря применению фильтра Винера или Калмана дисперсия шума в модели применяется для регулировки степени сглаживания и коррекции. Это использование несколько противоречит интуитивному представлению, поскольку эта составляющая согласно теории фильтрации Винера или Калмана традиционно применяется для моделирования наличия нежелательной шумовой составляющей. Применительно к данной инновации задача состоит в установлении уровня сглаживания и коррекции. В порядке альтернативы гребенчатой или узкополосной режекторной фильтрации, адаптированной к основному тону, и фильтрации Винера или Калмана третий способ предпочтительно применяется для сглаживания и коррекции остаточных сигналов в контексте данной инновации. Согласно этому третьему способу либо амплитуды выборки, как предпочтительно применяется, например, к невокализованной речи, либо последовательные векторы выборок, как предпочтительно применяется, например, к вокализованной речи, выполняются все более сходными. Возможные процедуры осуществления этого описаны ниже для векторов вокализованной речи и выборок невокализованной речи соответственно.
Для вокализованной речи последовательные выборки речи или остатка группируются в векторы, причем количество выборок в каждом векторе равно одному периоду основного тона. Для удобства описания этот вектор обозначается как v(k). Согласно способу вектор остатка r(k) получается как составляющая вектора v(k), которую невозможно найти в окружающих векторах v(k-L1), v(k-L1+1), …, v(k-1) и v(k+1), v(k+2), …, v(k+L2). Для удобства описания составляющая, найденная в окружающих векторах, обозначается как a(k). Затем над вектором остатка r(k) выполняются те или иные линейные или нелинейные преобразования для снижения его слышимости, в то же время сохраняя естественное звучание для результирующего реконструированного вектора, который получается путем повторной вставки составляющей a(k) в преобразованную версию r(k).
Таким образом, получаем сглаженную и скорректированную версию вокализованной речи или вокализованной остаточной речи. Ниже приведен простой вариант осуществления вышеописанного принципа с использованием, для удобства, матрично-векторной системы обозначений и, для простоты примера, понятия линейной комбинации и наименьших квадратов для определения a(k). Это всего лишь пример простого варианта осуществления вышеописанного общего принципа сглаживания и коррекции.
В целях этого примера зададим матрицу M(k) следующим образом:
откуда a(k) можно вычислить, например, как оценку наименьших квадратов для v(k) при данной M(k)
где inv() обозначает обращение или псевдообращение матрицы и trans() обозначает транспонирование матрицы. Теперь остаток r(k) можно вычислить, например, вычитанием.
Один пример преобразования r(k) состоит в срезании пиков в этом векторе, например, для ограничения максимального абсолютного значения выборки уровнем, равным максимальной амплитуде вектора r(k), ближайшего к начальной точке процедуры маскирования назад-вперед, или до некоторого кратного амплитуды выборки в той же позиции в векторе, но в векторе, ближайшем к начальной точке процедуры маскирования назад-вперед. Преобразованный остаток rm(k) затем объединяется с вектором a(k) для реконструкции скорректированной версии v(k), для удобства обозначенной как ve(k). Это объединение можно осуществлять, например, посредством простого сложения:
Параметр alpha в этом примере можно задать равным 1,0 или можно предпочтительно выбрать меньшим 1,0, например, как 0,8.
Для невокализованной речи можно предпочтительно использовать другой способ сглаживания и коррекции. Согласно одному примеру сглаживание и коррекция невокализованной речи предусматривает вычисление полиномиальной аппроксимации амплитуд остаточного сигнала в логарифмической области. В порядке примера можно использовать многочлен второго порядка и в области log10. После преобразования аппроксимирующего многочлена из логарифмической области обратно в линейную область аппроксимирующая кривая предпочтительно нормируется к 1,0 в точке, соответствующей начальной точке процедуры назад-вперед. Затем аппроксимирующая кривая подвергается ограничению снизу, например до 0,5, после чего амплитуды остаточного сигнала можно делить с помощью аппроксимирующей кривой, например, для сглаживания изменений амплитуды невокализованного остаточного сигнала.
Что касается процедур взвешенного сложения с перекрытием, некоторые применения которых раскрыты выше, т.е. операция 620 индексирования и интерполяции и способ инициирования входного сигнала для фильтрации 970 с регулировкой фазы, можно осуществлять процедуры, известные специалисту в данной области техники. Однако в предпочтительных вариантах осуществления процедур взвешенного сложения с перекрытием можно предпочтительно использовать способы, раскрытые ниже.
В простом варианте осуществления процедуры взвешенного сложения с перекрытием, видоизмененной в соответствии с индикатором качества совпадения, предполагается, что первое окно перемножается с первой подпоследовательностью, и второе окно перемножается со второй подпоследовательностью, и эти два произведения подвергаются операции сложения с перекрытием. Также предполагается, что первое окно является убывающим окном, например монотонно убывающей функцией, а второе окно является возрастающим окном, например монотонно возрастающей функцией. Кроме того, предполагается, что второе окно параметризуется базовой формой окна со скалярным множителем. Теперь по определению: target - первая подпоследовательность; w_target - первая подпоследовательность, каждая выборка которой умножена на убывающее окно; w_regressor - вторая подпоследовательность, каждая выборка которой умножена на базовую форму окна для возрастающего окна; и coef - скалярный множитель. Теперь составляющую скалярного множителя второго окна можно оптимизировать, например, для минимизации суммарной квадратичной ошибки между target и результатом операции сложения с перекрытием. Используя для удобства матрично-векторную систему обозначений, проблему можно сформулировать как минимизацию суммы квадратов разностей между target и величиной
определяя отсюда векторы T и H как
Решение этой оптимизации определяется в виде
где inv() обозначает скалярное или матричное обращение, trans() обозначает транспонирование матрицы или вектора и * обозначает матричное или векторное умножение. Теперь в качестве основных компонентов раскрытого здесь изобретения этот способ можно распространить для оптимизации фактической формы окна. В возможном варианте осуществления этого способа задается множество форм, для которых искомое окно получается как линейная комбинация элементов этого множества. Задается H так, чтобы каждый столбец H представлял собой форму из этого множества, каждая выборка которой умножена на вторую подпоследовательность, и задается coef как вектор-столбец, содержащий неизвестные весовые коэффициенты этих форм в оптимизирующей вырезающей функции. Согласно этим определениям вышеприведенные уравнения, формулирующие проблему и ее решение, теперь применяются для решения для более общей формы окна. Естественно, первое и второе окна могут поменяться ролями в вышеприведенном описании, в результате чего оптимизация будет осуществляться в отношении первого окна.
Более усовершенствованный вариант осуществления настоящего изобретения предусматривает совместную оптимизацию обеих форм окна. Для этого задается второе множество базовых форм окна, возможно, эквивалентное первому множеству форм окна и предпочтительно выбранное как обращенное по времени индексирование выборок в каждой из форм окна в первом множестве форм окна. Далее определяется w_target как матрица, каждый столбец которой является базовой формой окна из второго множества форм окна, каждая выборка которой умножена на первую подпоследовательность, и определяем coef как вектор-столбец, содержащий, во-первых, весовые коэффициенты для первого окна и, во-вторых, весовые коэффициенты для второго окна. Тогда более общую проблему можно сформулировать как минимизацию суммы квадратов разностей между target и величиной
где квадратные скобки [] используются для формирования матрицы из подматриц или векторов. Отсюда векторы T и H определяются как
Решение этой оптимизации задано в виде
Еще один более усовершенствованный вариант осуществления настоящего изобретения предусматривает оптимизацию не только мгновенных форм окна, но и окон с оптимизированным частотно-зависимым взвешиванием. Один вариант осуществления этого изобретения предусматривает применение разновидности линии задержки с отводами, хотя изобретение никоим образом не ограничивается этой разновидностью. Один способ для осуществления этого обобщения состоит в замене, в вышеприведенном определении w_target и w_regressor, каждого столбца некоторым количеством столбцов, в каждом из которых каждая выборка перемножена с базовой формой окна, соответствующей столбцу, которые его заменяют, причем в этой базовой форме окна теперь каждая выборка умножена на соответствующую подпоследовательность, задержка которой соответствует конкретной позиции в линии задержки с отводами.
Предпочтительно при оптимизации коэффициентов согласно этим способам учитываются взвешивание, ограничение или последовательное вычисление коэффициентов без отхода от раскрытого изобретения. Такие взвешивания могут предпочтительно включать в себя взвешивание путем придания большего веса коэффициентам, соответствующим низким абсолютным значениям задержки. Такое последовательное вычисление может предпочтительно предусматривать расчет коэффициентов для низких абсолютных значений задержки в первую очередь, например для минимизации суммарной квадратичной ошибки с использованием только этих коэффициентов, с последующим повторением этого процесса для все больших значений задержки, но только над оставшимися ошибками более ранних этапов этого процесса.
В целом, варианты осуществления этого изобретения предусматривают использование нескольких подпоследовательностей в качестве целей оптимизации. Оптимизация, в общем случае, минимизирует функцию искажения, которая является функцией этих целевых подпоследовательностей и выходным сигналом системы взвешенного сложения с перекрытием. В этой оптимизации можно, без отхода от настоящего изобретения, применять различные ограничения при выборе базовых форм и задержек и их взвешивания для сложения с перекрытием в целом. В зависимости от точного выбора форм эффект сложения с перекрытием предпочтительно постепенно ослабевает от подпоследовательностей, следующих за область сложения с перекрытием во времени.
На фиг.10 показан один вариант осуществления раскрытого способа сложения с перекрытием, который не ограничивает изобретение именно показанной на чертеже структурой. Согласно фиг.10 одна подпоследовательность 1000 подвергается сложению с перекрытием, оптимизированному по времени и частоте, с другой подпоследовательностью 1010. Каждая из этих подпоследовательностей поступает в отдельную линию задержки, при этом z обозначает опережение по времени одной выборки и z-1 обозначает задержку по времени одной выборки, и задержки, равные 1, -1 и 0, выбраны исключительно в целях иллюстрации: в связи с настоящим изобретением можно предпочтительно использовать другие, большие или меньшие, задержки. Каждая задержанная версия каждой подпоследовательности умножается на некоторое количество базовых форм окна, и результат каждого умножения умножается на коэффициент, отыскиваемый совместно с другими коэффициентами в ходе оптимизации. После перемножения с этими коэффициентами результирующие подпоследовательности суммируются, формируя выходной сигнал 1020 сложения с перекрытием, оптимизированный по времени и частоте. При оптимизации 1030 коэффициентов в примере, показанном на фиг.10, берутся подпоследовательности 1040 и 1050 и минимизируется функция искажения, которая является функцией от 1040 и 1050 и выхода 1020.
В формуле изобретения условные обозначения, применяемые на чертежах, включены только по соображениям ясности. Эти ссылки на предпочтительные варианты осуществления на чертежах никоим образом не следует рассматривать в порядке ограничения объема формулы изобретения.