ФОРМИРОВАНИЕ РАССЕЯННОГО ЗВУКА ДЛЯ СХЕМ БИНАУРАЛЬНОГО КОДИРОВАНИЯ С ИСПОЛЬЗОВАНИЕМ КЛЮЧЕВОЙ ИНФОРМАЦИИ (ВСС)
GENERATION OF SCATTERED SOUND FOR BINAURAL CODING CIRCUITS USING KEY INFORMATION

Описание
Перекрестные ссылки на родственные заявки
Данная заявка претендует на преимущество даты подачи предварительной патентной заявки США №60/620401, поданной 20.10.04 (Дело поверенного № Allamanche 1-2-17-3), основные положения которой включены сюда по ссылке.
Вдобавок предмет этой заявки относится к предмету следующих патентных заявок США, основные положения которых включены сюда по ссылке:
Патентная заявка США №09/848877, поданная 04.05.2001 (Дело поверенного № Faller 5);
Патентная заявка США №10/045458, поданная 07.11.2001 (Дело поверенного № Baumgarte 1-6-8), которая, в свою очередь, претендовала на преимущество даты подачи предварительной патентной заявки США №60/311565, поданной 10.08.2001;
Патентная заявка США №10/155437, поданная 24.05.2002 (Дело поверенного № Baumgarte 2-10);
Патентная заявка США №10/246570, поданная 18.09.2002 (Дело поверенного № Baumgarte 3-11);
Патентная заявка США №10/815591, поданная 01.04.2004 (Дело поверенного № Baumgarte 7-12);
Патентная заявка США №10/936464, поданная 08.09.2004 (Дело поверенного № Baumgarte 8-7-15);
Патентная заявка США №10/762100, поданная 20.01.2004 (Faller 13-1); и
Патентная заявка США №10/хххххх, поданная с той же датой, что и данная заявка (Дело поверенного № Allamanche 2-3-18-4).
Предмет данной заявки также касается вопросов, описанных в следующих статьях, основные положения которых включены сюда по ссылке:
F. Baumgarte and C. Faller, “Binaural Cue Coding-Part I: Psychoacoustic fundamentals and design principles”, IEEE Trans. on Speech and Audio Proc., vol.11, no.6, Nov.2003;
C. Faller and F. Baumgarte, “Binaural Cue Coding - Part II: Schemes and applications”, IEEE Trans on Speech and Audio Proc., vol.11, no 6, Nov.2003; and
th
C. Faller, “Coding of spatial audio compatible with different playback formats”, Preprint 117 Conv. Aud. Eng. Soc., October 2004.
Область техники, к которой относится изобретение
Настоящее изобретение относится к кодированию аудиосигналов и последующему синтезу звуковых сцен из кодированных аудиоданных.
Уровень техники
Когда человек слышит аудиосигнал (то есть звуки), созданный конкретным источником звука, этот аудиосигнал поступает в его левое и правое ухо, как правило, в разные моменты времени и с двумя разными уровнями звука (например, в децибелах), причем эти разные моменты времени и уровни зависят от различий в траекториях, по которым распространяется каждый аудиосигнал, достигая левого и правого уха соответственно. Человеческий мозг интерпретирует эти различия во времени и уровне, обеспечивая ощущение того, что принимаемый аудиосигнал создается источником звука, находящимся в конкретном месте (например, по конкретному направлению и на конкретном расстоянии) по отношению к этому человеку. Звуковая сцена представляет собой совокупное воздействие аудиосигналов, одновременно слышимых человеком, которые создаются одним или несколькими разными источниками звука, находящимися в одном или нескольких различных местах по отношению к этому человеку.
Указанную обработку, осуществляемую мозгом, можно использовать для синтеза звуковых сцен, где аудиосигналы от одного или нескольких разных источников звука целенаправленно модифицируются для создания левого и правого аудиосигналов, которые обеспечивают ощущение того, что разные источники звука находятся в разных местах по отношению к слушателю.
На фиг.1 показана обобщенная блок-схема стандартного синтезатора 100 бинаурального сигнала, который преобразует сигнал от одного источника звука (например, монофонический сигнал) в левый и правый аудиосигналы бинаурального сигнала, где бинауральный сигнал определяется как два сигнала, принимаемые на барабанных перепонках слушателя. Вдобавок к сигналу источника звука синтезатор 100 получает набор пространственной ключевой информации, соответствующей желаемому положению источника звука по отношению к слушателю. В типовых реализациях набор пространственной ключевой информации содержит значение разницы уровней сигнала между каналами (ICLD) (которое идентифицирует разницу в уровне между левым и правым аудиосигналами, принимаемыми в левом и правом ухе соответственно) и значение временного сдвига между каналами (ICTD) (которое идентифицирует разницу во времени поступления левого и правого аудиосигналов, принимаемых в левом и правом ухе соответственно). Вдобавок или как альтернативный вариант некоторые технологии синтеза включают в себя моделирование передаточной функции, зависящей от направления, для звука от источника звука к барабанным перепонкам, которую также называют передаточной функцией, моделирующей восприятие звука человеком (HRTF). Смотри, например, работу J.Blauert, The Psychophysics of Human Sound Localization, MIT Press, 1983, основные положения которой включены сюда по ссылке.
Используя синтезатор 100 бинаурального сигнала по фиг.1, можно обрабатывать монофонический аудиосигнал, создаваемый одним источником звука, так чтобы при прослушивании через наушники создавалось ощущение пространственного расположения источника звука, путем использования подходящего набора пространственной ключевой информации (например, ICLD, ICTD и/или HRTF) для создания аудиосигнала для каждого уха. Смотри, например, работу D.R.Begaut, 3-D Sound for Virtual Reality and Multimedia, Academic Press, Cambridge, MA, 1994.
Синтезатор 100 бинаурального сигнала по фиг.1 создает звуковые сцены простейшего типа, имеющие один источник звука, позиционированный относительно слушателя. Можно создавать более сложные звуковые сцены, содержащие два или более источников звука, находящихся в разных местах по отношению к слушателю, путем использования синтезатора звуковой сцены, который фактически реализуется с использованием множества экземпляров синтезатора бинаурального сигнала, где каждый экземпляр синтезатора бинаурального сигнала создает бинауральный сигнал, соответствующий тому или иному источнику звука. Поскольку каждый из разных источников звука имеет свое собственное местоположение по отношению к слушателю, для создания бинаурального аудиосигнала для каждого из различных источников звука используют свой собственный набор пространственной ключевой информации.
Сущность изобретения
Согласно одному варианту настоящее изобретение представляет собой способ и устройство для преобразования входного аудиосигнала, имеющего входную временную огибающую, в выходной аудиосигнал, имеющий выходную временную огибающую. Затем характеризуют входную временную огибающую входного аудиосигнала. Входной аудиосигнал обрабатывают для создания обработанного аудиосигнала, где в результате обработки выполняется декорреляция входного аудиосигнала. Обработанный аудиосигнал настраивают на основе охарактеризованной входной временной огибающей для создания выходного аудиосигнала, где выходная временная огибающая, по существу, совпадает с входной временной огибающей.
Согласно другому варианту настоящее изобретение представляет собой способ и устройство для кодирования С входных аудиоканалов с целью создания Е передаваемых аудиоканалов (аудиоканала). Для двух или более из С входных каналов создают один или несколько кодов ключевой информации. Выполняют смешение С входных каналов с сокращением числа каналов для создания Е передаваемых каналов (канала), где С>E≥1. Анализируют один или несколько из С входных каналов и Е передаваемых каналов (канал) для создания флага, указывающего, должен ли декодер Е передаваемых каналов (канала) выполнять формирование огибающей во время декодирования Е переданных каналов (канала).
Согласно еще одному варианту настоящее изобретение представляет собой поток кодированных аудиобитов, созданный способом, указанным в предыдущем абзаце.
Согласно следующему варианту настоящее изобретение представляет собой поток кодированных аудиобитов, содержащий Е передаваемых каналов (канал), один или несколько кодов ключевой информации и флаг. Один или несколько кодов ключевой информации создают путем создания одного или нескольких кодов ключевой информации для двух или более из С входных каналов. Е передаваемых каналов (канал) создают путем смешения С входных каналов с сокращением числа каналов, где С>E≥1. Флаг создают путем анализа одного или нескольких из С входных каналов и Е передаваемых каналов (канала), где флаг указывает, должен ли декодер Е переданных каналов (канала) выполнять формирование огибающей во время декодирования Е переданных каналов (канала).
Краткое описание чертежей
Другие аспекты, признаки и преимущества настоящего изобретения станут более очевидными из последующего подробного описания, прилагаемой формулы изобретения и сопроводительных чертежей, на которых одинаковые ссылочные позиции идентифицируют подобные или идентичные элементы.
Фиг.1 - обобщенная блок-схема стандартного синтезатора бинаурального сигнала;
фиг.2 - блок-схема системы базовой обработки аудиосигнала на основе бинаурального кодирования с использованием ключевой информации (BCC);
фиг.3 - блок-схема смесителя, сокращающего число каналов, которые можно использовать в качестве смесителя, сокращающего число каналов, по фиг.2;
фиг.4 - блок-схема синтезатора BCC, который можно использовать в качестве декодера по фиг.2;
фиг.5 - блок-схема блока оценки BCC по фиг.2 согласно одному варианту настоящего изобретения;
фиг.6 - схема создания данных о временном сдвиге между каналами (ICTD) и данных о разнице уровней между каналами (ICLD) для пятиканальной аудиосистемы;
фиг.7 - схема создания данных о межканальной корреляции (ICC) для пятиканальной аудиосистемы;
фиг.8 - блок-схема реализации синтезатора BCC по фиг.4, который можно использовать в декодере BCC для создания стерео- или многоканального аудиосигнала, заданного одним переданным суммарным сигналом s(n) плюс пространственной ключевой информации;
фиг.9 - иллюстрация изменений ICTD и ICLD в субполосе в зависимости от частоты;
фиг.10 - блок-схема, представляющая по меньше мере часть декодера BCC согласно одному варианту настоящего изобретения;
фиг.11 - пример применения схемы формирования огибающей по фиг.10 в контексте синтезатора BCC по фиг.4;
фиг.12 - пример альтернативного применения схемы формирования огибающей по фиг.10 в контексте синтезатора BCC по фиг.4, где формирование огибающей используется во временной области;
TP
фиг.13А и 13В - иллюстрация возможных вариантов реализации блоков TPA и TP по фиг.12, где формирование огибающей используют только на частотах, превышающих частоту f среза;
фиг.14 - пример применения схемы формирования огибающей по фиг.10 в контексте схемы синтеза ICC на основе запаздывающей реверберации, описанной в патентной заявке США №10/815591, поданной 01.04.2004 (Дело поверенного № Baumgarte 7-12);
фиг.15 - блок-схема, представляющая по меньшей мере часть декодера BCC согласно варианту настоящего изобретения, которая является альтернативой для схемы, показанной на фиг.10;
фиг.16 - блок-схема, представляющая по меньшей мере часть декодера BCC, согласно варианту настоящего изобретения, которая является альтернативой для схем, показанных на фиг.10 и 15;
фиг.17 - пример применения схемы формирования огибающей по фиг.15 в контексте синтезатора BCC по фиг.4; и
фиг.18А-18С - блок-схемы возможных вариантов реализации блоков TPA, ITP и TP по фиг.17.
Подробное описание изобретения
При бинауральном кодировании с использованием ключевой информации (BCC) кодер кодирует С входных аудиоканалов для создания Е передаваемых аудиоканалов, где С>E≥1. В частности, два или более из С входных каналов обеспечивают в частотной области, а для каждой из одной или нескольких различных частотных полос в двух или более входных каналах в частотной области создают один или несколько кодов ключевой информации. Вдобавок для создания Е передаваемых каналов выполняют смешение С входных каналов с сокращением числа каналов. В некоторых вариантах реализации смешения с сокращением числа каналов по меньшей мере один из Е передаваемых каналов базируется на двух или более из С входных каналов, а по меньшей мере один из Е передаваемых каналов базируется только на одном из С входных каналов.
В одном варианте кодер BCC имеет два или более блока фильтров, блок оценки кодов и смеситель, сокращающий число каналов. Два или более блока фильтров преобразуют два или более из С входных каналов из временной области в частотную область. Блок оценки кодов создает один или несколько кодов ключевой информации для каждой из одной или нескольких различных частотных полос в двух или более преобразованных входных каналах. Смеситель, сокращающий число каналов, выполняет смешение С входных каналов с сокращением числа каналов для создания Е передаваемых каналов, где С>E≥1.
При декодировании BCC декодируют Е переданных аудиоканалов для создания С аудиоканалов воспроизведения. В частности, для каждой из одной или нескольких различных частотных полос выполняют в частотной области смешение одного или более из Е переданных каналов с увеличением числа каналов для создания двух или более из С каналов воспроизведения в частотной области, где С>E≥1. Для каждой из одной или нескольких различных частотных полос в двух или более каналах воспроизведения в частотной области используют один или несколько кодов ключевой информации для создания двух или более модифицированных каналов, и эти два или более модифицированных канала преобразуют из частотной области во временную область. В некоторых вариантах реализации смешения с увеличением числа каналов по меньшей мере один из С каналов воспроизведения базируется по меньшей мере на одном из Е переданных каналов и по меньшей мере на одном коде ключевой информации, а по меньшей мере один из С каналов воспроизведения базируется только на одном из Е переданных каналов и не зависит от какого-либо из кодов ключевой информации.
В одном варианте декодер BCC содержит смеситель, увеличивающий число каналов, синтезатор и один или несколько блоков обратных фильтров. Для каждой из одной или нескольких различных частотных полос смеситель, увеличивающий число каналов, выполняет в частотной области смешение одного или нескольких из Е переданных каналов с увеличением числа каналов для создания двух или более из С каналов воспроизведения в частотной области, где С>E≥1. Синтезатор использует один или несколько кодов ключевой информации для каждой из одной или нескольких различных частотных полос в двух или более каналах воспроизведения в частотной области для создания двух или более модифицированных каналов. Один или более блоков обратных фильтров преобразует два или более модифицированных канала из частотной области во временную область.
В зависимости от конкретной реализации данный канал воспроизведения может базироваться на одном переданном канале, а не на комбинации из двух или более переданных каналов. Например, при наличии только одного переданного канала каждый из С каналов воспроизведения базируется на этом одном переданном канале. В таких ситуациях смешение с увеличением числа каналов соответствует копированию соответствующего переданного канала. По существу, для приложений, в которых имеется только один переданный канал, смеситель, увеличивающий число каналов, можно реализовать с использованием репликатора, который копирует этот переданный канал для каждого канала воспроизведения.
Кодеры и/или декодеры BCC можно включить в ряд систем или приложений, в том числе, например, в цифровые видеомагнитофоны/плееры, цифровые аудиомагнитофоны/плееры, компьютеры, спутниковые передатчики/приемники, кабельные передатчики/приемники, наземные вещательные передатчики/приемники, системы домашних развлечений и системы домашнего кинотеатра.
Базовая обработка на основе BCC
На фиг.2 представлена блок-схема системы 200 базовой обработки аудиосигнала на основе бинаурального кодирования с использованием ключевой информации (BCC), содержащая кодер 202 и декодер 204. Кодер 202 включает в себя смеситель 206, сокращающий число каналов, и блок 208 оценки BCC.
i
i
Смеситель 206, сокращающий число каналов, преобразует C входных аудиоканалов x(n) в Е передаваемых аудиоканалов y(n), где С>E≥1. В этом описании сигналы, выраженные с использованием переменной n, являются сигналами временной области, в то время как сигналы, выраженные с использованием переменной k, являются сигналами частотной области. В зависимости от конкретной реализации смешение с сокращением числа каналов можно реализовать либо во временной либо в частотной области. Блок 208 оценки BCC создает коды BCC из С входных аудиоканалов и передает эти коды BCC в виде либо внутриполосной либо внеполосной дополнительной информации по отношению к Е передаваемым аудиоканалам. Типовые коды BCC включают в себя одно или несколько из: временной сдвиг между каналами (ICTD), разница уровней между каналами (ICLD) и данные о межканальной корреляции (ICC), оцененные между определенными парами входных каналов в функции частоты и времени. Конкретный вариант реализации определяет, между какими конкретными парами входных каналов выполняется оценка кодов BCC.
Данные ICC соответствуют когерентности бинаурального сигнала, которая относится к воспринимаемому размеру источника звука по горизонтали. Чем больше размер источника звука по горизонтали, тем ниже когерентность между левым и правым каналами результирующего бинаурального сигнала. Например, когерентность бинаурального сигнала соответствующего оркестру, разбросанному по сцене зала, обычно ниже, чем когерентность бинаурального сигнала, соответствующего одной скрипке, исполняющей сольную партию. В общем случае аудиосигнал с низкой когерентностью обычно воспринимается как развернутый в звуковом пространстве. Данные ICC, как таковые, обычно относятся к кажущемуся размеру источника по горизонтали и степени охвата слушателя. Смотри, например, J.Blauert, The Psychophysics of Human Sound Localization, MIT Press, 1983.
В зависимости от конкретного применения Е переданных аудиоканалов и соответствующие коды BCC можно передавать непосредственно в декодер 204 или запоминать в запоминающем устройстве подходящего типа для последующего обращения к ним со стороны декодера 204. В зависимости от ситуации термин «передача» может относиться либо к непосредственной передаче в декодер либо к запоминанию соответствующих данных для последующего предоставления их декодеру. В любом случае декодер 204 принимает переданные аудиоканалы и дополнительную информацию и выполняет смешение с увеличением числа каналов, а также синтез BCC, используя коды BCC для преобразования Е переданных аудиоканалов в аудиоканалы воспроизведения , число которых превышает Е (как правило, но не обязательно, равно С), для воспроизведения звука. В зависимости от конкретной реализации смешение с увеличением числа каналов можно выполнять либо во временной области либо в частотной области.
Вдобавок к обработке BCC, показанной на фиг.2, система базовой обработки аудиосигнала на основе BCC может включать в себя дополнительные этапы кодирования и декодирования для дальнейшего сжатия аудиосигналов в кодере с последующей распаковкой аудиосигналов в декодере. Такие аудиокодеки могут базироваться на стандартных технологиях сжатия/распаковки аудиосигналов, например, на технологиях, основанных на импульсно-кодовой модуляции (PCM), дифференциальной PCM (DPCM) или адаптивной DPCM (ADPCM).
Когда смеситель 206, сокращающий число каналов, создает один единственный суммарный сигнал (то есть Е=1), кодирование BCC позволяет представить многоканальные аудиосигналы со скоростью передачи битов, лишь слегка превышающую скорость, необходимую для представления монофонического аудиосигнала. Причина этого заключается в том, что оцененные данные ICTD, ICLD и ICC между каналами в паре имеют примерно на два порядка меньший объем информации, чем сам аудиосигнал.
Представляет интерес не только низкая скорость передачи битов при кодировании BCC, но также его свойство обратной совместимости. Один переданный суммарный сигнал соответствует монофоническому смешению с сокращением числа каналов исходного стерео- или многоканального сигнала. Для приемников, которые не поддерживают стерео- или многоканальное воспроизведение звука, прослушивание переданного суммарного сигнала является эффективным способом представления аудиоматериала на низкопрофильном оборудовании для монофонического воспроизведения. Следовательно, кодирование BCC можно также использовать для расширения существующих услуг, включая предоставление монофонического аудиоматериала многоканальной аудиосистеме. Например, существующие монофонические системы радиовещания могут быть модифицированы для стерео- или многоканального воспроизведения, если в существующий канал передачи можно будет встроить дополнительную информацию BCC. Аналогичные возможности существуют при смешении многоканального аудиосигнала с сокращением количества каналов до двух суммарных сигналов, которые соответствуют стереофоническим аудиосистемам.
При использовании BCC аудиосигналы обрабатывают с определенным временным и частотным разрешением. Используемое частотное разрешение в значительной степени определяется частотным разрешением слуховой системы человека. Психоакустика предполагает, что пространственное восприятие основано скорее всего на представлении критической полосы слышимых частот в акустическом входном сигнале. Это частотное разрешение учитывается посредством использования блока обратимых фильтров, например, на основе быстрого преобразования Фурье (FFT) или квадратурного зеркального фильтра (QMF), с субполосами, равными или пропорциональными ширине критической полосы слуховой системы человека.
Базовое смешение с сокращением числа каналов
В предпочтительных вариантах реализации переданный суммарный сигнал (сигналы) содержит все сигнальные компоненты входного аудиосигнала. Целью является полное сохранение каждой сигнальной компоненты. Простое суммирование входных аудиоканалов часто приводит к усилению или ослаблению сигнальных компонент. Другими словами, мощность сигнальных компонент в «простой» сумме часто оказывается больше или меньше суммы мощностей соответствующих сигнальных компонент каждого канала. Можно использовать технологию смешения с сокращением числа каналов, которая выравнивает суммарный сигнал, так что мощность сигнальных компонент в суммарном сигнале будет примерно такой же, как соответствующая мощность во всех входных каналах.
i
i
На фиг.3 показана блок-схема смесителя 300, сокращающего число каналов, который можно использовать в качестве смесителя 206 по фиг.2, сокращающего число каналов, в соответствии с конкретными вариантами реализации системы BCC 200. Смеситель 300, сокращающий число каналов, содержит блок (302) фильтров (FB) для каждого входного канала x(n), блок 304 смешения с сокращением числа каналов, необязательный блок 306 масштабирования/задержки и блок 308 обратных фильтров (IFB) для каждого кодированного канала y(n).
i
Каждый блок 302 фильтров преобразует каждый кадр (например, 20 мс) соответствующего цифрового входного канала x(n) во временной области в набор входных коэффициентов  в частотной области. Блок 304 смешения с сокращением числа каналов выполняет указанные смешения каждой субполосы из С соответствующих входных коэффициентов в соответствующую субполосу из Е коэффициентов в частотной области, подвергшихся смешению с сокращением числа каналов. Уравнение (1) представляет смешение с сокращением числа каналов для k-й субполосы входных коэффициентов (,…,) для создания k-й субполосы коэффициентов (), подвергшихся смешению с сокращением числа каналов, следующим образом:
D
CE
где - вешественнозначная матрица смешения с сокращением числа каналов с С до Е.
Необязательный блок 306 масштабирования/задержки содержит набор умножителей 310, каждый из которых умножает соответствующий коэффициент , подвергнутый смешению с сокращением числа каналов, на масштабный коэффициент  для создания соответствующего масштабированного коэффициента . Мотивировка выполнения операции масштабирования такая же, как для операции выравнивания, обобщенной для смешения (с сокращением числа каналов) с помощью произвольных весовых коэффициентов для каждого канала. Если входные каналы являются независимыми, то тогда мощность сигнала  (после смешения с сокращением числа каналов) в каждой субполосе задается уравнением (2) следующим образом:
где  получают путем возведения в квадрат каждого элемента в матрице
смешения с сокращением числа каналов с С до Е, а  - мощность субполосы k входного канала i.
Если субполосы не являются независимыми, то тогда значения  мощности сигнала после смешения с сокращением числа каналов будут больше или меньше значений, вычисленных с использованием уравнения (2), из-за усиления или ослабления сигналов, когда сигнальные компоненты находятся в фазе или не в фазе соответственно. Во избежание этого операция смешения с сокращением числа каналов по уравнению (1) применяется в субполосах, после чего следует операция масштабирования, выполняемая умножителями 310. Масштабные коэффициенты  (1#i#E) можно получить, используя уравнение (3) следующим образом:
где  - мощность субполосы, вычисленная по уравнению (2), а  - мощность соответствующего сигнала  субполосы после смешения с сокращением числа каналов.
Вдобавок или вместо необязательного масштабирования блок 306 масштабирования/задержки может выполнить задержки этих сигналов.
Каждый блок 308 обратных фильтров преобразует набор соответствующих масштабированных коэффициентов  в частотной области в кадр соответствующего переданного цифрового канала .
Хотя на фиг.3 показаны все С входных каналов, преобразуемых в частотную область для последующего смешения с сокращением числа каналов, в альтернативных вариантах реализации для одного или нескольких (но меньше, чем С-1) из С входных каналов может не выполняться часть или вся обработка, показанная на фиг.3, и тогда они будут передаваться в виде эквивалентного количества немодифицированных аудиоканалов. В зависимости от конкретной реализации эти немодифицированные аудиоканалы могут быть или не быть использованы блоком 208 оценки BCC по фиг.2 при создании переданных кодов BCC.
В варианте реализации смесителя 300, сокращающего число каналов, который создает один суммарный сигнал , число E=1, а сигналы  каждой субполосы каждого входного канала с суммируются, а затем умножаются на коэффициент  согласно уравнению (4) следующим образом:
где коэффициент  задается уравнением (5) следующим образом:
где  - кратковременная оценка мощности  на временной отметке k, а  - кратковременная оценка мощности  Выравненные субполосы преобразуют обратно во временную область, в результате чего получают суммарный сигнал y(n), который передается в декодер BCC.
Базовый синтез BCC
i
На фиг.4 показана блок-схема синтезатора 400 BCC, который можно использовать для декодера 204 по фиг.2 согласно конкретным вариантам реализации системы 200 BCC. Синтезатор 400 BCC содержит блок 402 фильтров для каждого переданного канала y(n), блок 404 смешения с увеличением числа каналов задержки 406, умножители 408, блок 410 корреляции и блок 412 обратных фильтров для каждого канала  воспроизведения.
i
Каждый блок 402 фильтров преобразует каждый кадр соответствующего переданного цифрового канала y(n) во временной области в набор входных коэффициентов  в частотной области. Блок 404 смешения с увеличением числа каналов смешивает каждую субполосу из Е соответствующих переданных канальных коэффициентов в соответствующую субполосу из С коэффициентов частотной области, прошедших операцию смешения с увеличением числа каналов. Уравнение (4) представляет смешение с увеличением числа каналов k-й субполосы переданных канальных коэффициентов  для создания k-й субполосы коэффициентов  после смешения с увеличением числа каналов следующим образом:
EC
где U вещественнозначная матрица смешения с увеличением числа каналов с Е до С. Выполнение смешения с увеличением числа каналов в частотной области позволяет использовать такое смешение отдельно в каждой субполосе.
i
i
Каждая задержка 406 использует значение d(k) задержки на основе соответствующего кода BCC для данных ICTD, чтобы обеспечить появление желаемых значений ICTD между определенными парами каналов воспроизведения. Каждый умножитель 408 использует масштабный коэффициент a(k) на основе соответствующего кода BCC для данных ICLD, чтобы обеспечить желаемые значения ICLD между определенными парами каналов воспроизведения. Блок 410 корреляции выполняет операцию A декорреляции на основе соответствующих кодов BCC для данных ICC, чтобы обеспечить желаемые значения ICC между определенными парами каналов воспроизведения. Дополнительное описание операций, выполняемых блоком 410 корреляции, можно найти в патентной заявке США №10/155437, поданной 24.05.2002 (Baumgarte 2-10).
i
Синтез значений ICLD может оказаться менее проблемным, чем синтез значений ICTD и ICC, поскольку синтез ICLD включает простое масштабирование сигналов субполосы. Поскольку ключевая информация ICLD является наиболее широко используемой ключевой информацией направленности, обычно важнее, чтобы значения ICLD аппроксимировали соответствующие значения исходного аудиосигнала. Данные ICLD, как таковые, могут быть оценены между всеми канальными парами. Масштабные коэффициенты a(k)(1#i#C) для каждой субполосы предпочтительно выбирать таким образом, чтобы мощность субполосы каждого канала воспроизведения аппроксимировала соответствующую мощность исходного входного аудиоканала.
Одной из целей может быть использование для синтеза значений ICTD и ICC относительно небольших модификаций сигналов. Данные BCC, как таковые, могут не включать значения ICTD и ICC для всех канальных пар. В этом случае синтезатор 400 BCC будет синтезировать значения ICTD и ICC только между некоторыми канальными парами.
Каждый блок 412 обратных фильтров преобразует набор соответствующих синтезированных коэффициентов  в частотной области в кадр соответствующего цифрового канала  воспроизведения.
Хотя на фиг.4 показаны все Е переданных каналов, преобразуемых в частотную область для последующего смешения с увеличением числа каналов и обработки BCC, в альтернативных вариантах реализации для одного или нескольких (но не всех) из Е переданных каналов может не выполняться вся обработка, показанная на фиг.4. Например, один или несколько переданных каналов могут представлять собой немодифицированные каналы, которые не подвергаются смешению с увеличением числа каналов. Вдобавок один или несколько из С каналов воспроизведения могут быть, в свою очередь, немодифицированными каналами, которые можно, но не обязательно использовать в качестве опорных каналов, к которым применяется обработка BCC для синтеза одного или нескольких других каналов воспроизведения. В любом случае указанные немодифицированные каналы могут подвергаться задержкам для компенсации времени обработки, затрачиваемого на смешение с увеличением числа каналов, и/или обработке BCC, используемой для создания остальных каналов воспроизведения.
Заметим, что хотя на фиг.4 показано С каналов воспроизведения, синтезируемых из Е переданных каналов, где С также является количеством исходных входных каналов, синтез BCC не ограничивается этим количеством каналов воспроизведения. В общем случае количество каналов воспроизведения может быть любым, включая число, большее или меньшее С, и даже возможны ситуации, когда количество каналов воспроизведения меньше или равно количеству переданных каналов.
«Значимые для восприятия различия» между аудиоканалами
Если предположить наличие одного суммарного сигнала, то при выполнении BCC синтезируется стерео- или многоканальный аудиосигнал, так что параметры ICTD, ICLD и ICC аппроксимируют соответствующую ключевую информацию (параметры) исходного аудиосигнала. Далее обсуждается роль ICTD, ICLD и ICC в отношении атрибутов звуковых пространственных образов.
Знания о пространственной слышимости предполагают, что для одного звукового события параметры ICTD и ICLD относятся к воспринимаемому направлению. При учете бинауральных импульсных характеристик (BRIR) в условиях помещения для одного источника имеет место взаимосвязь между размером звукового события по горизонтали и охватом слушателя и данными ICC, оцененными для начальной и конечной части характеристик BRIR. Однако взаимосвязь между ICC и этими свойствами для обычных сигналов (а не только для BRIR) не является прямой.
Стерео- и многоканальные аудиосигналы обычно содержат сложную смесь сигналов от одновременно действующих источников, на которые накладываются компоненты отраженного сигнала в результате записи в замкнутых пространствах или добавления со стороны инженера по звукозаписи для искусственного создания пространственного впечатления. Сигналы от разных источников и их отражения занимают различные области на плоскости время - частота. Это отражается с помощью параметров ICTD, ICLD и ICC, которые изменяются в функции времени и частоты. В этом случае взаимосвязь между мгновенными значениями ICTD, ICLD и ICC и направлениями звуковых событий и пространственным впечатлением не очевидна. Стратегия некоторых вариантов BCC состоит в синтезе указанной ключевой информации «вслепую», так чтобы она аппроксимировала соответствующую ключевую информацию исходного аудиосигнала.
Используют блоки фильтров с шириной субполос, равной удвоенной эквивалентной прямоугольной полосе (FRB). Свободное прослушивание обнаруживает, что качество звучания при использовании BCC не улучшается при выборе более высокого разрешения по частоте. Может оказаться желательным более низкое частотное разрешение, поскольку оно приводит к меньшим значениям ICTD, ICLD и ICC, которые потребуется передавать в декодер, что позволит использовать более низкую скорость передачи битов.
Что касается временного разрешения, то параметры ICTD, ICLD и ICC обычно учитывают с регулярными временными интервалами. Высокое качество получается тогда, когда ICTD, ICLD и ICC учитывают примерно каждые 4-16 мс. Заметим, что если ключевую информацию не учитывать с очень короткими временными интервалами, то эффект Хааза непосредственно не учитывается. В предположении использования классической пары опережения-запаздывания звуковых стимулов, если опережение и запаздывание попадают на временной интервал, где синтезируется только один набор ключевой информации, то тогда влияние локализации опережения не учитывается. Несмотря на это кодирование BCC обеспечивает качество звука со средней оценкой порядка 87 баллов по методу тестирования MUSHRA (то есть отличное качество звучания) и почти до 100 баллов для некоторых аудиосигналов.
Часто достигаемое небольшое различие восприятия между опорным сигналом и синтезированным сигналом означает, что ключевая информация, относящаяся к широкому диапазону атрибутов звуковых пространственных образов, учитывается в неявном виде путем синтеза ICTD, ICLD и ICC с регулярными временными интервалами. Далее приводится ряд аргументов по поводу того, как можно связать ICTD, ICLD и ICC с диапазоном атрибутов звуковых пространственных изображений.
Оценка пространственной ключевой информации
Далее описывается, каким образом оценивается ключевая информация (параметры) ICTD, ICLD и ICC. Скорость передачи бит для передачи этих (квантованных и кодированных) пространственных ключевых параметров может составлять как раз несколько кбит/с, и, тогда используя кодирования BCC, можно передавать стерео- и многоканальные аудиосигналы со скоростями передачи битов, близкими той, которая требуется для одного аудиоканала.
На фиг.5 показана блок-схема блока 208 оценки BCC по фиг.2 согласно одному варианту настоящего изобретения. Блок 208 оценки BCC содержит блоки 502 фильтров (FB), которые могут быть такими же, как блоки 302 фильтров по фиг.3, и блок 504 оценки, который создает пространственные ключевые параметры ICTD, ICLD и ICC для каждой отдельной субполосы, созданной блоками 502 фильтров.
Оценка ICTD, ICLD и ICC для стереосигналов
Для меток ICTD, ICLD и ICC для соответствующих сигналов субполос  и
двух (например, стерео) аудиоканалов используют следующие меры:
ICTD [отсчеты]:
с кратковременной оценкой нормализованной функции перекрестной корреляции, заданной уравнением (8) следующим образом:
а  - кратковременная оценка среднего от
ICLD [децибел]:
ICC:
12
Заметим, что рассматривается абсолютное значение нормализованной перекрестной корреляции, а с(k) имеет диапазон [0,1].
Оценка ICTD, ICLD и ICC для многоканальных аудиосигналов
1 с
12
Когда имеется больше двух входных каналов, как правило, достаточно определить ICTD и ICLD между опорным каналом (например, канал номер 1) и другими каналами, как показано на фиг.6 для случая С=5 каналов, где τ(k) и ΔL(k) обозначают ICTD и ICLD соответственно между опорным каналом 1 и каналом с.
В противоположность ICTD и ICLD параметр ICC обычно имеет больше степеней свободы. ICC по определению может иметь различные значения во всех возможных парах входных каналов. Для С каналов имеется С(С-1)/2 возможных канальных пар; например, для 5 каналов имеется 10 канальных пар, как показано на фиг.7А. Однако указанная схема требует оценки и передачи С(С-1)/2 значений ICC для каждой субполосы и каждого временного индекса, что повышает сложность вычислений и скорость передачи бит.
В альтернативном варианте для каждой субполосы ICTD и ICLD определяют направление, по которому воспринимается звуковое событие соответствующей сигнальной компоненты в данной субполосе. Затем для описания общей когерентности между всеми аудиоканалами можно использовать один единый параметр ICC на каждую субполосу. Хорошие результаты можно получить путем оценки и передачи ключевых параметров ICC только между двумя каналами с максимальной энергией в каждой субполосе на каждом временном индексе. Это показано на фиг.7В, где для моментов времени k-1 и k самыми мощными являются соответственно канальные пары (3,4) и (1,2). Для определения ICC между другими канальными парами можно использовать эвристическое правило.
Синтез пространственной ключевой информации
c
c
c
На фиг.8 показана блок-схема реализации синтезатора 400 BCC по фиг.4, который можно использовать в декодере BCC для создания стерео- или многоканального аудиосигнала, задаваемого одним переданным суммарным сигналом s(n) плюс пространственной ключевой информации. Суммарный сигнал s(n) разбивается на субполосы, где  обозначает одну указанную субполосу. Для создания соответствующих субполос каждого из выходных каналов к соответствующей субполосе суммарного сигнала применяются задержки d, масштабные коэффициенты a и фильтры h. (Для упрощения написания временной индекс k в задержках, масштабных коэффициентах и фильтрах опущен). Параметры ICTD синтезируют путем наложения задержек, параметры ICLD - путем масштабирования, а параметры ICC - путем применения фильтров декорреляции. Обработка, показанная на фиг.8, применяется независимо к каждой субполосе.
Синтез ICTD
c
1с
Задержки d определяют изτ(k) параметров ICTD согласно уравнению (12) следующим образом:
1
c
Задержку d для опорного канала вычисляют таким образом, чтобы обеспечить минимум максимальной величины задержек d. Чем меньше модифицируются сигналы субполос, тем меньше риск появления привнесенных искажений. Если частота дискретизации субполосы не обеспечивает достаточно высокое временное разрешение для синтеза ICTD, задержки можно накладывать более точно, используя подходящие всечастотные фильтры.
Синтез ICLD
12
с
Для того чтобы сигналы выходных субполос имели желаемую величину ΔL(k) параметров ICLD между каналом с и опорным каналом 1, коэффициенты усиления а должны удовлетворять уравнению (13) в следующем виде:
с
Вдобавок выходные субполосы предпочтительно нормализовать, так чтобы сумма мощностей всех выходных каналов равнялась мощности входного суммарного канала. Поскольку общая исходная мощность сигнала в каждой субполосе в суммарном сигнале сохраняется, такая нормализация дает абсолютную мощность субполосы для каждого выходного канала, аппроксимирующую соответствующую мощность исходного входного аудиосигнала кодера. При задании указанных ограничений масштабные коэффициенты а задаются уравнением (14) следующим образом:
Синтез ICC
c
В некоторых вариантах целью синтеза ICC является уменьшение корреляции между субполосами после задержек и применения масштабирования без воздействия на параметры ICTD и ICLD. Этого можно достичь путем расчета фильтров h на фиг.8, так чтобы ICTD и ICLD эффективно изменялись в функции частоты и чтобы среднее изменение равнялось нулю в каждой субполосе (критическая звуковая полоса).
На фиг.9 показано, как изменяются ICTD и ICLD в субполосе в функции частоты. Амплитуда изменения ICTD и ICLD определяет степень декорреляции и регулируется в функции ICC. Заметим, что ICTD изменяются плавно (как на фиг.9А), в то время как ICLD изменяются случайным образом (как на фиг.9В). ICLD может изменяться также плавно, как ICTD, но это приведет к большей корреляции результирующих аудиосигналов.
Другой способ синтеза ICC, подходящий, в частности, для синтеза многоканального параметра ICC, более подробно описан в работе C.Faller, Parametric multi-channel audio coding. Synthesis of coherence cues, IEEE Trans. on Speech and Audio Proc., 2003, основные положения которой включены сюда по ссылке. К каждому из выходных каналов для достижения желаемого значения ICC добавляются специальные величины искусственной запаздывающей реверберации в функции времени или частоты. Вдобавок может быть применена модификация спектра, так чтобы спектральная огибающая результирующего сигнала приближалась к спектральной огибающей исходного аудиосигнала.
th
th
Другие технологии синтеза, связанного и не связанного с ICC, для стереосигналов (или аудиоканальных пар) представлены в работах E.Schuijers, W.Oomen, B.den Brinker, and J.Breebaart, Advances in parametric coding for high-quality audio, in Preprint 114 Conv. Aud. Eng. Soc., Mar. 2003, и J.Engdegard, H.Purnhagen, J.Roden, and L.Liljeryd, Synthetic ambience in parametric stereo coding, in Preprint 117 Conv. Aud. Eng. Soc., May 2004, основные положения которых включены сюда по ссылке.
Кодирование BCC по схеме «с С до Е»
Как было описано ранее, кодирование BCC может быть реализовано с более чем одним каналом передачи. Описан вариант BCC, который представляет С аудиоканалов не в виде одного единственного (переданного) канала, а в виде Е каналов (этот вариант обозначен здесь как BCC по схеме «с С до Е»). Имеется по меньшей мере два обоснования для использования BCC по схеме «с С до Е»: BCC с одним каналом передачи обеспечивает обратную совместимость при обновлении существующих монофонических систем для стерео- или многоканального воспроизведения звука. Обновленные системы передают суммарный сигнал BCC, подвергшийся смешению с сокращением числа каналов, через существующую монофоническую инфраструктуру, передавая кроме того дополнительную информацию BCC. Кодирование BCC по схеме «с С до Е» применимо в случае Е-канального обратно совместимого кодирования С-канального аудиосигнала.
Кодирование BCC по схеме «с С до Е» вводит масштабируемость с точки зрения различной степени сокращения количества переданных каналов. Ожидается, что чем больше аудиоканалов передается, тем выше будет качество аудиосистемы.
Подробности обработки сигналов для кодирования BCC по схеме «с С до Е», например, то, каким образом определять ключевые параметры ICTD, ICLD и ICC, описаны в патентной заявке США №10/762100, поданной 20.01.2004 (Faller 13-1).
Формирование рассеянного звука
В некоторых вариантах реализации кодирование BCC включает в себя алгоритмы для синтеза ICTD, ICLD и ICC. Ключевую информацию ICC можно синтезировать посредством декорреляции сигнальных компонент в соответствующих субполосах. Это можно сделать путем изменения ICLD в зависимости от частоты, изменения ICTD и ICLD в зависимости от частоты, всечастотной фильтрации или с использованием идей, связанных с алгоритмами реверберации.
При применении этих способов к аудиосигналам характеристика временной огибающей сигналов не сохраняется. В частности, при их применении к переходным состояниям вероятно, что мгновенная энергия сигнала будет размыта на некотором интервале времени. Это приводит к таким привнесенным искажениям, как «упреждающее эхо» или «размытые переходы».
Базовый принцип некоторых вариантов настоящего изобретения связан с контролем за тем, чтобы звук, синтезированный декодером BCC, имел бы не только спектральные характеристики, подобные характеристикам исходного звука, но имел бы достаточно близкое сходство с временной огибающей исходного звука, чтобы обеспечить аналогичные характеристики его восприятия. В общем случае это достигается в схемах, подобных BCC, путем обеспечения их функцией динамического синтеза ICLD, который предусматривает применение операции масштабирования, зависящего от времени, для аппроксимации временной огибающей каждого канала в сигнале. В случае кратковременных сигналов (резкое вступление, звуки ударных инструментов и т.д.) временное разрешение для этого процесса может оказаться недостаточным для создания синтезированных сигналов, которые достаточно точно аппроксимируют исходную временную огибающую. В этом разделе описывается ряд подходов, позволяющих сделать это с достаточно высоким временным разрешением.
Кроме того, для декодеров, которые не имеют доступа к временной огибающей исходных сигналов, предлагается вместо аппроксимации использовать временную огибающую переданного «суммарного сигнала (сигналов)». В этом случае, по существу, отсутствует дополнительная информация, необходимая для передачи от кодера BCC на декодер BCC, чтобы переслать упомянутую информацию об огибающей. Таким образом, изобретение основано на следующем принципе.
Переданные аудиоканалы (то есть «суммарный канал (каналы)») - или линейные комбинации этих каналов, на которых может быть основан синтез BCC - анализируются экстрактором временной огибающей для получения временной огибающей с высоким временным разрешением (например, значительно точнее, чем размер блока BCC).
Последующий синтезированный звук для каждого выходного канала формируется таким образом, что даже после синтеза ICC он соответствует временной огибающей, определенной экстрактором настолько близко, насколько это возможно. Этим достигается то, что даже в случае кратковременных сигналов синтезированный выходной звук ухудшается незначительно из-за синтеза ICC/процесса декорреляции сигнала.
На фиг.10 показана блок-схема, представляющая по меньшей мере часть декодера 1000 BCC согласно одному варианту настоящего изобретения. На фиг.10 блок 1002 представляет обработку для синтеза BCC, которая включает в себя по меньшей мере синтез ICC. Блок 1002 синтеза BCC получает базовые каналы 1001 и создает синтезированные каналы 1003. В некоторых вариантах реализации блок 1002 представляет обработку для блоков 406, 408 и 410 по фиг.4, причем базовые каналы 1001 являются сигналами, созданными блоком 404 смешения, увеличивающим число каналов, а синтезированные каналы 1003 являются сигналами, созданными блоком 410 корреляции. На фиг.10 представлена обработка, реализованная для одного базового канала 1001' и соответствующего синтезированного канала. Аналогичная обработка также применяется к любому другому базовому каналу и соответствующему синтезированному каналу.
Экстрактор 1004 огибающей определяет точную временную огибающую «а» базового канала 1001', а экстрактор 1006 огибающей определяет точную временную огибающую «b» синтезированного канала 1003'. Блок 1008 обратной настройки огибающей использует временную огибающую b от экстрактора 1006 огибающей для нормализации огибающей (то есть «сглаживает» тонкую временную структуру) синтезированного канала 1003' для создания сглаженного сигнала 1005', имеющего сглаженную (например, монотонную) временную огибающую. В зависимости от конкретной реализации сглаживание может применяться либо перед либо после смешения с увеличением числа каналов. Блок 1010 настройки огибающей использует временную огибающую «а» от экстрактора 1004 огибающей для повторного наложения огибающей исходного сигнала на выравненный сигнал 1005' для создания выходного сигнала 1007' с временной огибающей, по существу, идентичной временной огибающей базового канала 1001'.
В зависимости от реализации эту обработку временной огибающей (которую здесь также называют «формирование огибающей») можно также применить ко всему синтезированному каналу (как здесь показано) или только к ортогонализованной части (например, часть, относящаяся к запаздывающей реверберации, декоррелированная часть) синтезированного канала (как описано ниже). Кроме того, в зависимости от реализации формирование огибающей можно применить либо к сигналам во временной области либо в зависимости от частоты (например, когда временную огибающую оценивают и накладывают отдельно на разных частотах).
Блок 1008 обратной настройки огибающей и блок 1010 настройки огибающей могут быть реализованы различными путями. При одном типе реализации огибающая сигнала обрабатывается посредством умножения отсчетов сигнала во временной области (или отсчетов спектра/субполосы) на функцию модификации амплитуды, зависящей от времени (например, «1/b» для блока 1008 обратной настройки огибающей и на «а» для блока 1010 настройки огибающей). В альтернативном варианте можно использовать свертку/фильтрацию спектрального представления сигнала по частоте способом, аналогичным способу, используемому в известном уровне техники в целях формирования шума квантования аудиокодера с низкой скоростью передачи битов. Аналогичным образом временную огибающую сигналов можно выделять либо непосредственно путем анализа временной структуры сигнала либо путем оценки автокорреляции спектра сигнала по частоте.
На фиг.11 показан пример применения схемы формирования огибающей по фиг.10 в контексте синтезатора 400 BCC по фиг.4. В этом варианте имеется единственный переданный суммарный сигнал s(n), создается С базовых сигналов путем копирования этого суммарного сигнала, и операция формирования огибающей применяется отдельно к каждой из различных субполос.В альтернативных вариантах порядок задержек, масштабирования и иной обработки может быть другим. Кроме того, в альтернативных вариантах формирование огибающей не ограничивается независимой обработкой каждой субполосы. Это особенно верно для реализаций на основе свертки/фильтрации, в которых используется ковариация по частотным полосам для получения информации о тонкой временной структуре сигнала.
На фиг.11А анализатор 1104 временного процесса (TPA) аналогичен экстрактору 1004 огибающей по фиг.10, а каждый временной процессор (TP) 1106 аналогичен комбинации экстрактора 1006 огибающей, блоку 1008 обратной настройки огибающей и блоку 1010 настройки огибающей по фиг.10.
На фиг.11В показана блок-схема одной возможной реализации TPA 1104 во временной области, где отсчеты базового сигнала возводятся в квадрат (1110), а затем подвергаются фильтрации по нижним частотам (1112) для характеризации временной огибающей «а» синтезированного сигнала.
На фиг.11С показана блок-схема одной возможной реализации ТР 1106 во временной области, где отсчеты синтезированного сигнала возводятся в квадрат (1114), а затем подвергаются фильтрации нижних частот (1116) для характеризации временной огибающей «b» синтезированного сигнала. Создается масштабный коэффициент (например, квадрат (a/b)) (1118), который затем применяется (1120) к синтезированному сигналу для создания выходного сигнала с временной огибающей, по существу, идентичной временной огибающей исходного базового канала.
В альтернативных вариантах реализации анализатора TPA 1104 и процессора TP 1106 временные огибающие характеризуются с использованием операций со значениями отсчетов сигнала, а не путем возведения их в квадрат. В указанных вариантах реализации в качестве масштабного коэффициента можно использовать отношение a/b, не применяя операцию извлечения квадратного корня.
Хотя операция масштабирования по фиг.11С соответствует реализации обработки TP во временной области, обработку TP (так же, как обработку TPA и обработку, обратную обработке TP (ITP)), можно также реализовать, используя сигналы в частотной области, как в варианте по фиг.17-18 (описаны ниже). По существу, применительно к данному описанию термин «функция масштабирования» следует интерпретировать как термин, охватывающий операции либо во временной области либо в частотной области, например операции фильтрации по фиг.18В и 18С.
В общем случае анализатор TPA 1104 и процессор TP 1106 предпочтительно спроектировать таким образом, чтобы они не изменяли мощность (то есть энергию) сигнала. В зависимости от конкретной реализации эта мощность сигнала может быть средней мощностью сигнала за короткое время в каждом канале, например, определяемой на основе общей мощности сигнала на канал за период времени, определенный окном синтеза, или можно использовать какие-либо другие подходящие меры мощности. Масштабирование для синтеза ICLD (например, с использованием умножителей 408) как таковое можно использовать перед или после формирования огибающей.
Заметим, что на фиг.11А имеется два выхода для каждого канала, причем обработка TP применяется только к одному из них. Это отражается в схеме синтеза ICC, которая смешивает две сигнальные компоненты: немодифицированный и ортогонализованный сигналы, где отношение немодифицированной и ортогонализованной сигнальных компонент определяет ICC. В варианте, показанном на фиг.11А, обработка TP применяется только к ортогонализованной сигнальной компоненте, причем узлы 1108 суммирования рекомбинируют немодифицированные сигнальные компоненты с соответствующими ортогонализованными сигнальными компонентами, сформированными во времени.
На фиг.12 показан альтернативный пример применения схемы формирования огибающей по фиг.10 в контексте синтезатора 400 BCC по фиг.4, где формирование огибающей применяется к временной области. Указанный вариант может быть обеспечен тогда, когда временное разрешение спектрального представления, в котором выполняется синтез ICTD, ICLD и ICC, недостаточно велико для эффективного подавления «упреждающего эха» путем наложения желаемой временной огибающей. Например, это может быть случай, когда кодирование BCC реализуется с помощью короткопериодного преобразования Фурье (STFT).
Как показано на фиг.12А, анализатор TPA 1204 и каждый процессор TP 1206 реализованы во временной области, где полнодиапазонный сигнал масштабируется таким образом, что он имеет желаемую временную огибающую (например, огибающую, полученную в результате оценки переданного суммарного сигнала). На фиг.12В и 12С показаны возможные варианты реализации TPA 1204 и TP 1206, аналогичные тем, которые показаны на фиг.11В и 11С.
В этом варианте обработка в TP применяется к выходному сигналу, а не только к ортогонализованным сигнальным компонентам. В альтернативных вариантах обработка TP во временной области может применяться именно к ортогонализованным сигнальным компонентам, если это требуется, и в этом случае немодифицированные и ортогонализованные субполосы преобразуют во временную область с помощью отдельных блоков обратных фильтров.
TP
Поскольку всечастотное масштабирование выходных сигналов BCC может привести к искажениям, формирование огибающей можно применять только на определенных частотах, например на частотах, больших некоторой частоты f среза (например, 500 Гц). Заметим, что частотный диапазон для анализа (TPA) может отличаться от частотного диапазона для синтеза (TP).
TP
TP
TP
На фиг.13А и 13В показаны возможные варианты реализации анализатора TPA 1204 и процессора TP 1206, где формирование огибающей применяется только на частотах, больших частоты f среза. В частности, на фиг.13А показано добавление в виде фильтра 1302 верхних частот, который отфильтровывает частоты, меньшие f, до характеризации временной огибающей. На фиг.13В показано добавление в виде блока 1304 двухполосных фильтров, имеющих частоту f среза между двумя субполосами, где временное формирование выполняется только для высокочастотной части. Затем блок 1306 двухполосных обратных фильтров рекомбинирует низкочастотную часть с высокочастотной частью, подвергнутой временному формированию, для создания выходного сигнала.
На фиг.14 показан пример применения схемы формирования огибающей по фиг.10 в контексте схемы синтеза ICC на основе запаздывающей реверберации, описанной в патентной заявке США №10/815591, поданной 01.04.2004 (Дело поверенного № Baumfarte 7-12). В этом варианте TPA 1404 и каждый TP 1406 применяются во временной области, как на фиг.12 или фиг.13, но при этом каждый TP 1406 применяется для выходного сигнала из блока 1402 запаздывающей реверберации (LR).
На фиг.15 показана блок-схема, представляющая по меньшей мере часть декодера 1500 BCC согласно варианту настоящего изобретения, которая является альтернативой схемы, показанной на фиг.10. На фиг.15 блок 1502 синтеза BCC, экстрактор 1504 огибающей и блок 1510 настройки огибающей аналогичны блоку 1002 синтеза BCC, экстрактору 1004 огибающей и блоку 1010 настройки огибающей по фиг.10. Однако на фиг.15 блок 1508 обратной настройки огибающей применяется до синтеза BCC, а не после синтеза BCC, как на фиг.10. Таким путем блок 1508 обратной настройки огибающей сглаживает базовый канал до того, как применяется синтез BCC.
На фиг.16 показана блок-схема, представляющая по меньшей мере часть декодера 1600 BCC согласно варианту настоящего изобретения, которая является альтернативой схемам, показанным на фиг.10 и 15. На фиг.16 экстрактор 1604 огибающей и блок 1610 настройки огибающей аналогичны экстрактору 1504 огибающей и блоку 1510 настройки огибающей по фиг.15. Однако в варианте по фиг.15 блок 1602 синтеза представляет синтез ICC на основе запаздывающей реверберации, аналогичный синтезу, показанному на фиг.16. В этом случае формирование огибающей применяется только к некоррелированному сигналу запаздывающей реверберации, а узел 1612 суммирования добавляет временно сформированный сигнал запаздывающей реверберации к исходному базовому каналу (который уже имеет желаемую временную огибающую). Заметим, что в этом случае блок обратной настройки огибающей применять не обязательно, поскольку сигнал запаздывающей реверберации имеет более или менее выравненную временную огибающую благодаря процессу ее создания в блоке 1602.
На фиг.17 показан пример применения схемы формирования огибающей по фиг.15 в контексте синтезатора 400 BCC по фиг.4. На фиг.17 анализатор TPA 1704, обратный процессор TP (ITP) 1708 и процессор TP 1710 аналогичны экстрактору 1504 огибающей, блоку 1508 обратной настройки огибающей и блоку 1510 настройки огибающей по фиг.15.
В этом варианте, основанном на частоте, формирование огибающей рассеянного звука реализуется путем применения свертки к элементам частотного разрешения блока 402 фильтров (например, преобразования STFT) по оси частоты. Существо этого способа смотри в патенте США №5781888 (Herre) и патенте США №5812971 (Herre), основные положения которых включены сюда по ссылке.
На фиг.18А показана блок-схема одной возможной реализации анализатора TPA 1704 по фиг.17. В этой реализации анализатор TPA 1704 реализован в виде операции анализа с кодированием с линейным предсказанием (LPC), которая определяет оптимальные коэффициенты предсказания для ряда спектральных коэффициентов по частоте. Указанный способ анализа с LPC хорошо известен, например, в области речевого кодирования, а также известно множество алгоритмов для эффективного вычисления коэффициентов LPC, например метод автокорреляции (включающий вычисление автокорреляционной функции сигнала с последующей рекурсией Левинсона - Дурбина). В результате такого вычисления на выходе получается набор коэффициентов LPC, которые представляют временную огибающую сигнала.
На фиг.18В и 18С показаны блок-схемы возможных вариантов реализации ITP 1708 и TP 1710 по фиг.17. В обоих вариантах реализации спектральные коэффициенты сигнала, подлежащего обработке, обрабатываются в порядке увеличения или уменьшения частоты, как символически показано здесь схемами поворотных переключателей, преобразующими эти коэффициенты в ряд, расположенный в последовательном порядке для обработки посредством фильтрации с предсказанием (и возврата назад после этой обработки). В случае ITP 1708 в результате фильтрации с предсказанием вычисляется остаток и таким образом «выравнивается» временная огибающая сигнала. В случае TP 1710 обратный фильтр вновь вводит временную огибающую, представленную коэффициентами LPC из TPA 1704.
Для вычисления временной огибающей сигнала процессором TPA 1704 важно исключить влияние окна анализа блока 402 фильтров, если такое окно используется. Это можно обеспечить либо путем нормализации результирующей огибающей с помощью (известной) формы окна анализа или путем использования отдельного блока фильтров анализа, где окно анализа не используется.
В контексте схемы формирования огибающей по фиг.16 можно также применить способ на основе свертки/фильтрации по фиг.17, причем на фиг.16 экстрактор 1604 огибающей и блок 1610 настройки огибающей основаны на TPA по фиг.18А и TP по фиг.18С соответственно.
Дополнительные альтернативные варианты
Можно разработать декодеры BCC, избирательно разрешающие/блокирующие формирование огибающей. Например, в декодере BCC можно применять стандартную схему синтеза BCC и разрешать формирование огибающей, когда временная огибающая синтезированного сигнала имеет флуктуации, достаточные для того, чтобы выгоды от формирования огибающей перевешивали любые привнесенные искажения, которые могут быть порождены при формировании огибающей. Такое управление разрешением/блокированием можно обеспечить следующими путями:
1. Обнаружение переходного состояния: если обнаружено переходное состояние, то обработка TP разрешается. Обнаружение переходного состояния можно реализовать с упреждением для эффективного формирования не только переходного состояния, но также сигнала, идущего чуть раньше и позже переходного состояния. Возможные способы обнаружения переходных состояний включают в себя:
наблюдение за временной огибающей переданного суммарного сигнала (сигналов) BCC, чтобы определить момент внезапного увеличения мощности, указывающего на появление переходного состояния; и
анализ коэффициента усиления фильтра с предсказанием (LPC). Если коэффициент усиления фильтра с предсказанием (LPC) превышает определенный порог, то можно предположить, что имеет место переходное состояние или большая флуктуация сигнала. Вычисления для анализа LPC выполняются на основе автокорреляции спектра.
2. Обнаружение случайности: имеются сценарии, в которых временная огибающая флуктуирует псевдослучайным образом. В указанном сценарии переходное состояние может не быть обнаружено, но обработка TP может еще применяться (например, указанному сценарию соответствует сигнал, передающий сплошные аплодисменты).
Вдобавок, в некоторых вариантах реализации для предотвращения возможных искажений в тональных сигналах обработку TP не применяют при высокой тональности переданного суммарного сигнала (сигналов).
Кроме того, аналогичные меры можно использовать в кодере BCC для определения необходимого момента активизации обработки TP. Поскольку кодер имеет доступ ко всем исходным входным сигналам, он может использовать более сложные алгоритмы (например, часть блока 208 оценки) для принятия решения о том, когда следует разрешить обработку TP. Результат этого решения (флаг, сигнализирующий о том, когда следует активизировать TP) может быть передан в декодер BCC (например, в качестве части дополнительной информации по фиг.2).
Хотя настоящее изобретение было описано в контексте схем кодирования BCC, где имеет место единственный суммарный сигал, настоящее изобретение можно также реализовать в контексте схем кодирования BCC, имеющих два или более суммарных сигнала. В этом случае временная огибающая для каждого из разных «базовых» суммарных сигналов может быть оценена до использования синтеза BCC, а различные выходные каналы BCC можно создать на основе разных временных огибающих в зависимости от того, какие суммарные сигналы были использованы для синтеза различных выходных каналов. Выходной канал, синтезированный из двух или более различных суммарных каналов, может быть создан на основе действительной временной огибающей, которая учитывает (например, посредством взвешенного усреднения) относительные вклады образующих суммарных каналов.
Хотя настоящее изобретение было описано в контексте схем кодирования BCC, включающих коды ICTD, ICLD и ICC, настоящее изобретение можно также реализовать в контексте других схем кодирования BCC, включающих только один или два из указанных трех типов кодов (например, ICLD и ICC, но без ICTD) и/или один или несколько дополнительных типов кодов. Кроме того, последовательность обработки при синтезе BCC и формировании огибающей может меняться в зависимости от вариантов реализации. Например, при применении формирования огибающей к сигналам в частотной области, как на фиг.14 и 16, формирование огибающей может быть реализовано как альтернативный вариант после синтеза ICTD (в тех вариантах, где используется синтез ICTD), но до синтеза ICLD. В других вариантах формирование огибающей можно применить к сигналам, подвергшимся смешению с увеличением числа каналов, прежде чем будет использован какой-либо иной синтез BCC.
Хотя настоящее изобретение было описано в контексте схем кодирования BCC, настоящее изобретение можно также реализовать в контексте других систем обработки аудиосигнала, в которых выполняется декорреляция аудиосигналов или другая аудиообработка, необходимая для декорреляции сигналов.
Хотя настоящее изобретение было описано в контексте вариантов реализаций, в которых кодер получает входной аудиосигнал во временной области и создает переданные аудиосигналы во временной области, а декодер получает переданные аудиосигналы во временной области и создает аудиосигналы воспроизведения во временной области, настоящее изобретение этим не ограничивается. Например, в других вариантах реализации любые один или несколько входных переданных аудиосигналов и сигналов воспроизведения могут быть представлены в частотной области.
Кодеры и/или декодеры BCC могут быть использованы вместе с множеством различных приложений или систем либо они могут являться их составными частями, причем это относится в том числе к системам для распространения телевизионных программ или электронной музыки, домашним кинотеатрам, телерадиовещанию, потоковым приложениям и/или приемным системам. Сюда относятся также системы для кодирования/декодирования передач, например, через наземные, спутниковые, кабельные сети, Интернет, сети Интранет или физические носители (например, компакт-диски, цифровые универсальные диски, полупроводниковые микросхемы, накопители на жестких дисках, карты памяти и т.п.). Кодеры и/или декодеры BCC можно также использовать в играх и игровых системах, в том числе, например, в интерактивных программных продуктах, предназначенных для взаимодействия с пользователем во время развлечения (игровой бой, ролевая игра, стратегическая игра, приключения, имитация, гонки, спортивные соревнования, галерея игровых автоматов, карты и настольные игры) и/или в образовательных целях, причем эти программы могут быть растиражированы для множества машин, платформ или носителей. Кроме того, кодеры и/или декодеры BCC могут быть встроены в аудиомагнитофоны/плееры или системы CD-ROM/DVD. Кодеры и/или декодеры BCC также могут быть встроены в программные приложения для персональных компьютеров, которые включают в себя цифровое декодирование (например, плеер, декодер) и программные приложения, имеющие возможности цифрового кодирования (например, кодер, риппер, рекодер и музыкальный автомат).
Настоящее изобретение можно реализовать в виде схемных процессов, в том числе возможна реализация в виде одной интегральной схемы (например, специализированной интегральной микросхемы (ASIC) или в виде вентильной матрицы, программируемой пользователем (FPGA)), многокристалльного модуля, одной платы или в виде узла, состоящего из множества схемных плат. Специалистам в данной области техники очевидно, что различные функции схемных элементов также можно реализовать в виде шагов обработки в программе. Указанное программное обеспечение можно использовать, например, в цифровом процессоре сигналов, микроконтроллере или компьютере общего назначения.
Настоящее изобретение можно воплотить в виде способов и устройств для практической реализации этих способов. Настоящее изобретение также можно воплотить в виде программного кода, воплощенного на материальном носителе, например на гибких дисках, ПЗУ на компакт-дисках (CD-ROM), накопителях на жестких дисках или на любом другом считываемом машиной носителе, где при загрузке указанного программного кода и выполнении его машиной, например компьютером, эта машина становится устройством для практической реализации изобретения. Настоящее изобретение можно также воплотить в виде программного кода, хранящегося, например, на носителе для хранения данных, который загружают в машину и/или который выполняется машиной, или передают через некоторую среду передачи или носитель, например, по электрическим проводам или кабелям, через волоконно-оптические каналы, или посредством электромагнитного излучения, где при загрузке этого программного кода в машину, такую как компьютер, и его исполнении, эта машина становится устройством для практической реализации изобретения. При реализации в процессоре общего назначения сегменты программного кода объединяются с процессором, создавая уникальное устройство, которое функционирует по аналогии со специализированными логическими схемами.
Кроме того, должно быть понятно, что специалисты в данной области техники смогут внести в изобретение различные изменения, касающиеся деталей, материалов и компоновки частей, которые были описаны и приведены в качестве примеров, чтобы объяснить природу этого изобретения, при условии, что эти изменения не будут выходить за рамки объема изобретения, сформулированного в прилагаемой формуле изобретения.
Хотя шаги способа в последующей формуле изобретения на способ, если они имеются, перечислены в определенной последовательности с соответствующими обозначениями, здесь не предполагается, что реализация этих шагов должна обязательно происходить именно в указанной конкретной последовательности, если эти перечисления не предполагают иную конкретную последовательность пунктов формулы изобретения для реализации некоторых или всех упомянутых шагов.