УСТРОЙСТВО И СПОСОБ ОБРАБОТКИ КОДИРОВАННОГО АУДИОСИГНАЛА
DEVICE AND METHOD FOR PROCESSING ENCODED AUDIO SIGNAL

Изобретение относится к устройству и способу обработки кодированного аудиосигнала.
Недавно были предложены параметрические методики для передачи и/или сохранения с эффективной битовой скоростью звуковых сцен, содержащих множественные звуковые объекты, в области аудиокодирования (см. следующие ссылки [BCC, АО, SAOC, SAOC1, SAOC2]) и разделения информированных источников (см., например, следующие ссылки [ISS1, ISS2, ISS3, ISS4, ISS5, ISS6]).
Эти методики стремятся восстановить желаемую выдаваемую звуковую сцену или желаемый объект источника звука на основании дополнительной вспомогательной информации, описывающей переданные и/или сохраненные аудиосигналы и/или объекты источников звука в звуковой сцене. Это восстановление происходит в декодере с использованием схемы параметрического разделения информированного источника.
К сожалению, было обнаружено, что в некоторых случаях схемы параметрического разделения могут приводить к серьезным слышимым артефактам, вызывающим неудовлетворительное восприятие при прослушивании.
Способ обработки аудиосигналов, исходящих от разных звуковых объектов, описан в документе WO 2014/021588 A1. Кодер обеспечивает битовый поток, содержащий микшированные с понижением сигналы. Микшированные с понижением сигналы сформированы на основе групп сигналов звуковых объектов. Декодер формирует микшированные с понижением сигналы из принятого битового потока и восстанавливает соответствующие группы сигналов объектов.
Таким образом, задача изобретения состоит в улучшении качества звука декодированных аудиосигналов, используя методики параметрического кодирования.
Задача решается устройством по пункту 1 формулы и соответствующим способом по пункту 21 формулы.
E
Задача решается посредством устройства для обработки кодированного аудиосигнала. Кодированный аудиосигнал содержит множество микшированных с понижением сигналов, связанных с множеством входных звуковых объектов и параметрами () объектов. Устройство содержит блок группирования, процессор и блок объединения.
E
k
Блок группирования выполнен с возможностью группирования множества микшированных с понижением сигналов во множество групп микшированных с понижением сигналов. Каждая группа микшированных с понижением сигналов связана с набором входных звуковых объектов (или входных аудиосигналов) из множества входных звуковых объектов. Другими словами, группы покрывают подмножества набора входных аудиосигналов, представленных кодированным аудиосигналом. Каждая группа микшированных с понижением сигналов также связана с некоторыми параметрами  объектов, описывающих входные звуковые объекты. Далее индивидуальные группы G идентифицируются с помощью индекса k (1≤k≤K), где K - количество групп микшированных с понижением сигналов.
Далее, после группирования процессор выполнен с возможностью индивидуального выполнения по меньшей мере одного этапа обработки параметров объекта из каждого набора входных звуковых объектов. Следовательно, по меньшей мере один этап обработки выполняется не одновременно для всех параметров объекта, а индивидуально для параметров объекта, принадлежащих соответствующей группе микшированных с понижением сигналов. В одном варианте осуществления только один этап выполняется индивидуально. В другом варианте осуществления выполняется более одного этапа, тогда как в альтернативном варианте осуществления вся обработка выполняется индивидуально для групп микшированных с понижением сигналов. Процессор обеспечивает результаты групп для индивидуальных групп.
В другом варианте осуществления процессор после группирования выполнен с возможностью индивидуального выполнения по меньшей мере одного этапа обработки для каждой группы из множества групп микшированных с понижением сигналов. Следовательно, по меньшей мере один этап обработки выполняется не одновременно для всех микшированных с понижением сигналов, а индивидуально для соответствующих групп микшированных с понижением сигналов.
Наконец, блок объединения выполнен с возможностью объединения результатов групп или обработанные результаты групп, чтобы обеспечить декодированный аудиосигнал. Следовательно, результаты групп или результаты этапов последующей обработки, выполненных для результатов групп, объединяются, чтобы обеспечить декодированный аудиосигнал. Декодированный аудиосигнал соответствует множеству входных звуковых объектов, которые кодированы посредством кодированного аудиосигнала.
Группирование, выполняемое блоком группирования, делается по меньшей мере с ограничением, что каждый входной звуковой объект из множества входных звуковых объектов принадлежит одному и только одному набору входных звуковых объектов. Это подразумевает, что каждый входной звуковой объект принадлежит только одной группе микшированных с понижением сигналов. Это также подразумевает, что каждый микшированный с понижением сигнал принадлежит только одной группе микшированных с понижением сигналов.
В соответствии с вариантом осуществления блок группирования выполнен с возможностью группирования множества микшированных с понижением сигналов во множество групп микшированных с понижением сигналов таким образом, что каждый входной звуковой объект из каждого набора входных звуковых объектов либо лишен отношения, сигнализированного в кодированном аудиосигнале, с другими входными звуковыми объектами, либо имеет отношение, сигнализированное в кодированном аудиосигнале, только по меньшей мере с одним входным звуковым объектом, принадлежащим тому же набору входных звуковых объектов. Это подразумевает, что никакой входной звуковой объект не имеет сигнализированного отношения с входным звуковым объектом, принадлежащим другой группе микшированных с понижением сигналов. Такое сигнализированное отношение в одном варианте осуществления представляет собой то, что два входных звуковых объекта являются стереосигналами, исходящими от одного источника.
Устройство по изобретению обрабатывает кодированный аудиосигнал, содержащий микшированные с понижением сигналы. Понижающее микширование представляет собой часть процесса кодирования заданного количества индивидуальных аудиосигналов и подразумевает, что определенное количество входных звуковых объектов объединено в сигнал понижающего микширования. Количество входных звуковых объектов, таким образом, сокращается до меньшего количества микшированных с понижением сигналов. Вследствие этого микшированные с понижением сигналы связаны с множеством входных звуковых объектов.
Микшированные с понижением сигналы группируются в группы микшированных с понижением сигналов и индивидуально подвергаются (т.е., как единые группы) по меньшей мере одному этапу обработки. Следовательно, устройство выполняет по меньшей мере один этап обработки не совместно для всех микшированных с понижением сигналах, а индивидуально для индивидуальных групп микшированных с понижением сигналов. В другом варианте осуществления параметры объектов групп рассматриваются отдельно, чтобы получить матрицы, которые будут применены к кодированному аудиосигналу.
В одном варианте осуществления устройство представляет собой декодер кодированных аудиосигналов. Устройство в альтернативном варианте осуществления представляет собой часть декодера.
В одном варианте осуществления каждый микшированный с понижением сигнал назначен в одну группу микшированных с понижением сигналов и, следовательно, обрабатывается индивидуально относительно по меньшей мере одного этапа обработки. В этом варианте осуществления количество групп микшированных с понижением сигналов равно количеству микшированных с понижением сигналов. Это подразумевает, что группирование и индивидуальная обработка совпадают.
В одном варианте осуществления объединение представляет собой один из окончательных этапов обработки кодированного аудиосигнала. В другом варианте осуществления результаты групп далее подвергаются разным этапам обработки, которые выполняются либо индивидуально, либо совместно для результатов групп.
Группирование (или обнаружение групп) и индивидуальная обработка групп показали улучшение качества звука. Это особенно относится, например, к методикам параметрического кодирования.
В соответствии с вариантом осуществления блок группирования устройства выполнен с возможностью группирования множества микшированных с понижением сигналов во множество групп микшированных с понижением сигналов, минимизируя количество микшированных с понижением сигналов в каждой группе микшированных с понижением сигналов. В этом варианте осуществления устройство пытается сократить количество микшированных с понижением сигналов, принадлежащих каждой группе. В одном случае по меньшей мере одной группе микшированных с понижением сигналов принадлежит только один микшированный с понижением сигнал.
В соответствии с вариантом осуществления блок группирования выполнен с возможностью группирования упомянутого множества микшированных с понижением сигналов в упомянутое множество групп микшированных с понижением сигналов таким образом, что всего один единственный микшированный с понижением сигнал принадлежит одной группе микшированных с понижением сигналов. Другими словами, группирование приводит к различным группам микшированных с понижением сигналов, причем задана по меньшей мере одна группа микшированных с понижением сигналов, которой принадлежит только один микшированный с понижением сигнал. Таким образом, по меньшей мере одна группа микшированных с понижением сигналов относится только к одному единственному микшированному с понижением сигналу. В дополнительном варианте осуществления максимизируется количество групп микшированных с понижением сигналов, которым принадлежит только один микшированный с понижением сигнал.
В одном варианте осуществления блок группирования устройства выполнен с возможностью группирования множества микшированных с понижением сигналов во множество групп микшированных с понижением сигналов на основании информации в кодированном аудиосигнале. В дополнительном варианте осуществления устройство использует только информацию в кодированном аудиосигнале для группирования микшированных с понижением сигналов. Использование информации в битовом потоке кодированного аудиосигнала в одном варианте осуществления содержит принятие во внимание информации корреляции или ковариации. Блок группирования, в частности, извлекает из кодированного аудиосигнала информацию об отношении между разными входными звуковыми объектами.
В одном варианте осуществления блок группирования выполнен с возможностью группирования упомянутого множества микшированных с понижением сигналов в упомянутое множество групп микшированных с понижением сигналов на основании значений bsRelatedTo в упомянутом кодированном аудиосигнале. Относительно этих значений см., например, WO 2011/039195 A1.
В соответствии с вариантом осуществления блок группирования выполнен с возможностью группирования множества микшированных с понижением сигналов во множество групп микшированных с понижением сигналов, применяя по меньшей мере следующие этапы (к каждой группе микшированных с понижением сигналов):
- обнаружения, назначен ли микшированный с понижением сигнал в существующую группу микшированных с понижением сигналов;
- обнаружения, является ли по меньшей мере один входной звуковой объект из множества входных звуковых объектов, связанных с микшированным с понижением сигналом, частью набора входных звуковых объектов, связанных с существующей группой микшированных с понижением сигналов;
- назначения микшированного с понижением сигнала в новую группу микшированных с понижением сигналов
-- в случае, если микшированный с понижением сигнал лишен назначения в существующую группу микшированных с понижением сигналов (следовательно, микшированный с понижением сигнал еще не приписан к группе), и
-- в случае, если все входные звуковые объекты из множества входных звуковых объектов, связанных с микшированным с понижением сигналом, лишены привязки к существующей группе микшированных с понижением сигналов (следовательно, входные звуковые объекты микшированного с понижением сигнала еще не назначены (через другой микшированный с понижением сигнал) в группу); и
- объединения микшированного с понижением сигнала с существующей группой микшированных с понижением сигналов
-- либо в случае, если микшированный с понижением сигнал назначен в существующую группу микшированных с понижением сигналов,
-- либо в случае, если по меньшей мере один входной звуковой объект из множества входных звуковых объектов, связанных с микшированным с понижением сигналом, связан с существующей группой микшированных с понижением сигналов.
Если отношение, сигнализированное в кодированном аудиосигнале, также будет принято во внимание, то будет добавлен другой этап обнаружения, приводящий к дополнительному требованию для привязки и объединения микшированных с понижением сигналов.
E
E
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью индивидуального выполнения различных этапов обработки для параметров () объектов изкаждого набора входных звуковых объектов (или каждой группы микшированных с понижением сигналов), чтобы обеспечить индивидуальные матрицы как результаты группы. Блок объединения выполнен с возможностью объединения индивидуальных матриц, чтобы обеспечить упомянутый декодированный аудиосигнал. Параметры () объектовпринадлежат входным звуковым объектам соответствующей группы микшированных с понижением сигналов с индексом k и обрабатываются для получения индивидуальных матриц для этой группы, имеющей индекс k.
В соответствии с другим вариантом осуществления процессор выполнен с возможностью индивидуального выполнения различных этапов обработки для каждой группы из упомянутого множества групп микшированных с понижением сигналов, чтобы обеспечить выходные аудиосигналы как результаты групп. Блок объединения выполнен с возможностью объединения выходных аудиосигналов, чтобы обеспечить упомянутый декодированный аудиосигнал.
В этом варианте осуществления группы микшированных с понижением сигналов обрабатываются таким образом, что получаются выходные аудиосигналы, которые соответствуют входным звуковым объектам, принадлежащим соответствующей группе микшированных с понижением сигналов. Следовательно, объединение выходных аудиосигналов с декодированными аудиосигналами является близким к заключительным этапам процессов декодирования, выполняемым над кодированным аудиосигналом. В этом варианте осуществления, таким образом, каждая группа микшированных с понижением сигналов индивидуально подвергается всем этапам обработки после обнаружения групп микшированных с понижением сигналов.
В другом варианте осуществления процессор выполнен с возможностью выполнения по меньшей мере одного этапа обработки индивидуально для каждой группы из упомянутого множества групп микшированных с понижением сигналов, чтобы обеспечить обработанные сигналы как результаты группы. Устройство также содержит постпроцессор, выполненный с возможностью совместной обработки упомянутых обработанных сигналов, чтобы обеспечить выходные аудиосигналы. Блок объединения выполнен с возможностью объединения выходных аудиосигналов как результаты обработанных групп, чтобы обеспечить упомянутый декодированный аудиосигнал.
В этом варианте осуществления группы микшированного с понижением сигнала подвергаются по меньшей мере одному этапу обработки индивидуально и по меньшей мере одному этапу обработки совместно с другими группами. Индивидуальная обработка приводит к обработанным сигналам, которые в варианте осуществления обрабатываются совместно.
E
k
Что касается матриц, в одном варианте осуществления процессор выполнен с возможностью индивидуального выполнения по меньшей мере одного этапа обработки параметров () объектовкаждого набора входных звуковых объектов, чтобы обеспечить индивидуальные матрицы. Постпроцессор, содержащийся в устройстве, выполнен с возможностью совместной обработки параметров объектов, чтобы обеспечить по меньшей мере одну общую матрицу. Блок объединения выполнен с возможностью объединения упомянутых индивидуальных матриц и упомянутой по меньшей мере одной общей матрицы. В одном варианте осуществления постпроцессоры совместно выполняют по меньшей мере один этап обработки для индивидуальных матриц, чтобы получить по меньшей мере одну общую матрицу.
Следующие варианты осуществления относятся к этапам обработки, выполняемых процессором. Некоторые из этих этапов также подходят для упомянутого в предыдущем варианте осуществления постпроцессора.
В одном варианте осуществления процессор содержит блок разбиения, выполненный с возможностью выполнения разбиения микшированных с понижением сигналов соответствующих групп из упомянутого множества групп микшированных с понижением сигналов. Посредством разбиения микшированных с понижением сигналов процессор получает представления первоначальных входных звуковых объектов, которые были микшированы в микшированный с понижением сигнал.
В соответствии с вариантом осуществления блок разбиения выполнен с возможностью выполнения разбиения микшированных с понижением сигналов соответствующих групп из упомянутого множества групп микшированных с понижением сигналов на основании алгоритма оценки минимальной среднеквадратичной ошибки (MMSE). Такой алгоритм будет описан в следующем описании.
В другом варианте осуществления процессор содержит блок разбиения, выполненный с возможностью индивидуальной обработки параметров объекта каждого из набора входных звуковых объектов, чтобы обеспечить индивидуальные матрицы разбиения.
В одном варианте осуществления процессор содержит блок вычисления, выполненный с возможностью индивидуального вычисления для каждой группы микшированных с понижением сигналов матрицы с размерами, зависящими по меньшей мере от одного количества из количества входных звуковых объектов из набора входных звуковых объектов, связанных с соответствующей группой микшированных с понижением сигналов, и количества микшированных с понижением сигналов, принадлежащих соответствующей группе микшированных с понижением сигналов. Поскольку группы микшированных с понижением сигналов меньше, чем весь ансамбль микшированных с понижением сигналов, и поскольку группы микшированных с понижением сигналов относятся к меньшему количеству входных аудиосигналов, матрицы, используемые для обработки групп микшированных с понижением сигналов, меньше, чем используемые на текущем уровне техники. Это облегчает вычисления.
В соответствии с вариантом осуществления блок вычисления выполнен с возможностью вычисления для индивидуальных матриц разбиения индивидуальной пороговой величины на основании максимального значения энергии в соответствующей группе микшированных с понижением сигналов.
В соответствии с вариантом осуществления процессор выполнен с возможностью вычисления индивидуальной пороговой величины на основании максимального значения энергии в соответствующей группе микшированных с понижением сигналов для каждой группы микшированных с понижением сигналов индивидуально.
В одном варианте осуществления блок вычисления выполнен с возможностью вычисления индивидуальной пороговой величины для этапа регуляризации для разбиения микшированных с понижением сигналов каждой группы микшированных с понижением сигналов на основании максимального значения энергии в соответствующей группе микшированных с понижением сигналов. Пороговые величины для групп микшированных с понижением сигналов в другом варианте осуществления вычисляются самим блоком разбиения.
Нижеследующее описание покажет интересный эффект вычисления пороговой величины для групп (одна пороговая величина для каждой группы), а не для всех микшированных с понижением сигналов.
В соответствии с вариантом осуществления процессор содержит блок рендеризации, выполненный с возможностью рендеризации подвергнутых разбиению микшированных с понижением сигналов соответствующих групп для сценария вывода упомянутого декодированного аудиосигнала, чтобы обеспечить рендеризированные сигналы. Рендеризация основана на вводе, обеспеченном слушателем, или на основании данных о фактическом сценарии вывода.
В варианте осуществления процессор содержит блок рендеризации, выполненный с возможностью обработки параметров объекта, чтобы обеспечить по меньшей мере одну матрицу рендеризации.
В варианте осуществления процессор содержит постмикшер, выполненный с возможностью обработки параметров объекта, чтобы обеспечить по меньшей мере одну матрицу декорреляции.
wet
dry
В соответствии с вариантом осуществления процессор содержит постмикшер, выполненный с возможностью выполнения по меньшей мере одного этапа декорреляции для упомянутых рендеризированных сигналов, и выполненный с возможностью объединения результатов (Y) выполненного этапа декорреляции с упомянутыми соответствующими рендеризированными сигналами (Y).
D
E
D
E
J
k
k
k
k
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной матрицы () понижающего микширования для каждой группы микшированных с понижением сигналов (k - индекс соответствующей группы), процессор выполнен с возможностью определения индивидуальной ковариационной матрицы () группы для каждой группы микшированных с понижением сигналов, процессор выполнен с возможностью определения индивидуальной ковариационной матрицы (Δ) понижающего микширования группы для каждой группы микшированных с понижением сигналов на основании индивидуальной матрицы () понижающего микширования и индивидуальной ковариационной матрицы () группы, и процессор выполнен с возможностью определения индивидуальной матрицы () регуляризированной инверсии группы для каждой группы микшированных с понижением сигналов.
J
J
k
В соответствии с вариантом осуществления блок объединения выполнен с возможностью объединения индивидуальных матриц () регуляризированной инверсии группы, чтобы получить общую матрицу () регуляризированной инверсии группы.
U
D
E
J
U
U
k
k
k
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной матрицы () параметрического разбиения группыдля каждой группы микшированных с понижением сигналов на основании индивидуальной матрицы () понижающего микширования, индивидуальной ковариационной матрицы () группы и индивидуальной матрицы () регуляризированной инверсии группы, и блок объединения выполнен с возможностью объединения индивидуальной матрицы () параметрического разбиения группы, чтобы получить общую матрицу () параметрического разбиения группы.
U
D
E
J
U
U
k
k
k
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной матрицы () параметрического разбиения группыдля каждой группы микшированных с понижением сигналов на основании индивидуальной матрицы () понижающего микширования, индивидуальной ковариационной матрицы () группы и индивидуальной матрицы () регуляризированной инверсии группы, и блок объединения выполнен с возможностью объединения индивидуальной матрицы () параметрического разбиения группы, чтобы получить общую матрицу () параметрического разбиения группы.
R
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной матрицы () рендеризации группы для каждой группы микшированных с понижением сигналов.
R
U
R
U
R
U
RU
k
k
k
k
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной матрицы () повышающего микшированиядля каждой группы микшированных с понижением сигналов на основании индивидуальной матрицы () рендеризации группы и индивидуальной матрицы () параметрического разбиения группы, и блок объединения выполнен с возможностью объединения индивидуальных матриц () повышающего микширования, чтобы получить общую матрицу () повышающего микширования.
C
R
E
C
C
k
k
k
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной ковариационной матрицы () группы для каждой группы микшированных с понижением сигналов на основании индивидуальной матрицы () рендеризации группы и индивидуальной ковариационной матрицы () группы, и блок объединения выполнен с возможностью объединения индивидуальных ковариационных матриц () группы, чтобы получить общую ковариационную матрицу () группы.
E
R
U
D
E
E
E
y
k
k
k
k
k
y
k
y
dry
dry
dry
В соответствии с вариантом осуществления процессор выполнен с возможностью определения индивидуальной ковариационной матрицы группы параметрически оцененного сигнала () на основании индивидуальной матрицы () рендеризации группы, индивидуальной матрицы () параметрического разбиения группы, индивидуальной матрицы () понижающего микширования и индивидуальной ковариационной матрицы () группы,и блок объединения выполнен с возможностью объединения индивидуальных ковариационных матриц группы параметрически оцененного сигнала (), чтобы получить общий параметрически оцененный сигнал .
J
E
DMX
В соответствии с вариантом осуществления процессор выполнен с возможностью определения матрицы () регуляризированной инверсии на основании сингулярного разложения ковариационной матрицы () понижающего микширования.
Δ
U
Δ
k
В соответствии с вариантом осуществления процессор выполнен с возможностью определения подматрицы ()для определения матрицы () параметрического разбиения посредством выбора элементов ( (m, n)), соответствующих микшированным с понижением сигналам (m, n), назначенным в соответствующую группу (имеющей индекс k) микшированных с понижением сигналов. Каждая группа микшированных с понижением сигналов покрывает заданное количество микшированных с понижением сигналов и связанный набор входных звуковых объектов и обозначена здесь индексом k.
Δ
Δ
k
В соответствии с этим вариантом осуществления индивидуальные подматрицы ()получаются посредством выбора элементов из ковариационной матрицы  понижающего микширования, которые принадлежат соответствующей группе k.
Δ
J
k
В одном варианте осуществления индивидуальные подматрицы ()индивидуально инвертируются, и результаты объединяются в матрице () регуляризированной инверсии.
Δ
Δ
D
E
D
D
k
k
k
k
k
k
В другом варианте осуществления подматрица ()получается с использованием ее определения как =* с помощью индивидуальной матрицы () понижающего микширования.
(P)
(P)
В соответствии с вариантом осуществления блок объединения выполнен с возможностью определения матрицы  постмикширования основе индивидуально определенных матриц для каждой группы микшированных с понижением сигналов, и блок объединения выполнен с возможностью применения матрицы  постмикширования к множеству микшированных с понижением сигналов, чтобы получить декодированный аудиосигнал. В этом варианте осуществления из параметров объектов вычисляется матрица постмикширования, которая применяется к кодированному аудиосигналу, чтобы получить декодированный аудиосигнал.
В соответствии с одним вариантом осуществления устройство и его соответствующие компоненты выполнены с возможностью индивидуального выполнения для каждой группы микшированных с понижением сигналов по меньшей мере одного из следующих вычислений:
E
k
k
k
- вычисление ковариационной матрицы  группы с размером N на N с элементами: ,
Δ
Δ
D
E
D
k
k
k
k
k
k
k
- вычисление ковариационной матрицы  понижающего микширования группы с размером M на M: =*,
Δ
D
E
D
Δ
V
Λ
V
k
k
k
k
k
k
k
k
- вычисление сингулярного разложения ковариационной матрицы понижающего микширования группы =*: =*,
J
Λ
k
k
inv
- вычисление матрицы регуляризированной инверсии группы, аппроксимирующей : , в том числе вычисление индивидуальной матрицы  (подробности будут даны ниже),
U
U
E
D
J
k
k
k
k
k
k
k
- вычисление матрицы  параметрического разбиения группы с размером N на M: =*,
R
U
R
U
k
Upmix
k
k
k
k
k
k
- умножение матрицы  рендеризации группы с размером N на N на матрицу  разбиения с размером N на M: ,
C
C
R
E
R
k
out
out
k
k
k
k
- вычисление ковариационной матрицы  группы с размером N на N: =*,
E
y
k
out
out
dry
- вычисление ковариации группы параметрически оцененного сигнала () с размером N на N: .
Nk
k
out
В этом отношении k обозначает индекс соответствующей группы микшированных с понижением сигналов,  обозначает количество входных звуковых объектов привязанного набора входных звуковых объектов, N обозначает количество микшированных с понижением сигналов, принадлежащих соответствующей группе микшированных с понижением сигналов, и N обозначает количество подвергнутых повышающему микшированию и рендеризации выходных каналов.
Вычисленные матрицы имеют меньшие размеры, чем используемые на текущем уровне техники. В соответствии с этим в одном варианте осуществления как можно больше этапов обработки выполняются индивидуально для групп микшированных с понижением сигналов.
Задача изобретения также решается соответствующим способом обработки кодированного аудиосигнала. Кодированный аудиосигнал содержит множество микшированных с понижением сигналов, связанных с множеством входных звуковых объектов и параметрами объектов. Способ содержит следующие этапы:
- группирование микшированных с понижением сигналов во множество групп микшированных с понижением сигналов, связанных с набором входных звуковых объектов из множества входных звуковых объектов,
- индивидуальное выполнение по меньшей мере одного этапа обработки для параметров объектов из каждого набора входных звуковых объектов, чтобы обеспечить результаты групп, и
- объединение упомянутых результатов групп, чтобы обеспечить декодированный аудиосигнал.
Группирование выполняется по меньшей мере с ограничением, что каждый входной звуковой объект из множества входных звуковых объектов принадлежит только одному набору входных звуковых объектов.
Упомянутые выше варианты осуществления устройства также могут быть выполнены посредством этапов способа и соответствующих вариантов осуществления способа. Таким образом, разъяснения, данные для вариантов осуществления устройства, также относятся к способу.
Далее изобретение будет описано в отношении прилагаемых чертежей и вариантов осуществления, изображенные в прилагаемых чертежах:
Фиг. 1 показывает обзор концепции параметрического понижающего/повышающего микширования на основе MMSE,
Фиг. 2 показывает схему параметрической реконструкции с декорреляцией, применяемую к рендеризированному выводу,
Фиг. 3 показывает структуру процессора понижающего микширования,
Фиг. 4 показывает спектрограммы пяти входных звуковых объектов (столбец слева) и спектрограммы соответствующих микшированных с понижением каналов (столбец справа),
Фиг. 5 показывает спектрограммы опорных выходных сигналов (столбец слева) и спектрограммы соответствующих декодированных посредством SAOC 3D и рендеризированных выходных сигналов (столбец справа),
Фиг. 6 показывает спектрограмм выходных сигналов SAOC 3D с использованием изобретения,
Фиг. 7 показывает параметрическую обработку кадра в соответствии с текущим уровнем техники,
Фиг. 8 показывает параметрическую обработку кадра в соответствии с изобретением,
Фиг. 9 показывает пример реализации функции обнаружения групп,
Фиг. 10 схематично показывает устройство для кодирования входных звуковых объектов,
Фиг. 11 схематично показывает пример устройства по изобретению для обработки кодированного аудиосигнала,
Фиг. 12 схематично показывает другой пример устройства по изобретению для обработки кодированного аудиосигнала,
Фиг. 13 показывает последовательность этапов варианта осуществления способа по изобретению,
Фиг. 14 схематично показывает пример устройства по изобретению,
Фиг. 15 схематично показывает дополнительный пример устройства,
Фиг. 16 схематично показывает процессор устройства по изобретению, и
Фиг. 17 схематично показывает применение устройства по изобретению.
Далее будет дан обзор схем параметрического разделения с использованием примера технологии пространственного кодирования звуковых объектов (Spatial Audio Object Coding, SAOC) для MPEG ([SAOC]) и части обработки 3D SAOC для MPEG-H 3D Audio ([SAOC3D, SAOC3D2]). Рассматриваются математические свойства этих способов.
Используются следующие математические обозначения:
N
количество входных звуковых объектов (альтернативно: входных объектов)
N<sub>dmx</sub>
Количество микшированных с понижением (транспортных) каналов
N<sub>out</sub>
Количество микшированных с повышением (рендеризированных) каналов
N<sub>samples</sub>
Количество отсчетов на аудиосигнал
<b>D</b>
Матрица понижающего микширования, размер N<sub>dmx</sub> на N
<b>S</b>
Входной сигнал звукового объекта, размер N на N<sub>samples</sub>
<b>E</b>
Ковариационная матрица объекта, размер N на N, аппроксимация <b>E</b> ≈ <b>SS</b>*
<b>X</b>
Микшированные с понижением аудиосигналы, размер N<sub>dmx</sub> на N<sub>samples</sub>, определенны как <b>X</b>=<b>DS</b>
<b>E</b><sub><b>DMX</b></sub>
Ковариационная матрица микшированных с понижением сигналов, размер N<sub>dmx</sub> на N<sub>dmx</sub>, определена как <b>E</b><sub><b>DMX</b></sub>=<b>DED</b>*
<b>U</b>
Матрица параметрической оценки источника, размер N times N<sub>dmx</sub>, аппроксимация <b>U</b> ≈ <b>ED</b>* (<b>DED</b>*)<sup>-1</sup>
<b>R</b>
Матрица рендеризации (определяется на стороне декодера), размер N<sub>out</sub> times N
<img file="00000005.jpg" he="6" wi="3" img-content="undefined" img-format="jpg" />
Параметрически восстановленные сигналы объекта, размер N на N<sub>samples</sub>, аппроксимация <b>S</b>, определены как <img file="00000005.jpg" he="6" wi="3" img-content="undefined" img-format="jpg" />=<b>UX</b>
<b>Y</b><sub>dry</sub>
Параметрически восстановленные и рендеризированные сигналы объекта, размер N<sub>out</sub> на N<sub>samples</sub>, определены как <b>Y</b><sub>dry</sub>=<b>RUX</b>
<b>Y</b><sub>wet</sub>
Выводы декоррелятора, размер N<sub>out</sub> на N<sub>samples</sub>
<b>Y</b>
Окончательный вывод, размер N<sub>out</sub> на N<sub>samples</sub>
(⋅)*
Самосопряженный (эрмитов) оператор, который представляет сопряженное транспонирование (⋅)
<b>F</b><sub>decorr</sub> (⋅)
Функция декоррелятора
Без потери общности, чтобы улучшить удобочитаемость уравнений для всех введенных переменных, опущены индексы, обозначающие зависимость от времени и частоты.
Системы параметрического разделения объектов:
Общие схемы параметрического разделения нацелены на оценку нескольких звуковых источников из смеси сигналов (микшированных с понижением) с использованием вспомогательной параметрической информации. Стандартное решение этой задачи основано на применении алгоритмов оценки минимальной среднеквадратичной ошибки (MMSE). Технология SAOC является одним примером таких систем параметрического аудиокодирования.
Фиг. 1 изображает общий принцип архитектуры кодера/декодера SAOC.
Общая параметрическая обработка понижающего/повышающего микширования выполняется выборочно по времени/частоте и может быть описана как последовательность следующих этапов:
S
D
S
X
D
- В «Кодер» вводятся входные «звуковые объекты»  и «параметры микширования» . «икшер» выполняет понижающее микширование «звуковых объектов»  в некоторое количество «микшированных с понижением сигналов»  с использованием «параметров микширования»  (например, коэффициентов понижающего микширования).
S
- «Блок оценки вспомогательной информации» извлекает вспомогательную информацию, описывающую характеристики входных «звуковых объектов»  (например, свойства ковариации).
X
- «Микшированные с понижением сигналы»  и вспомогательная информация передаются или сохраняются. Эти микшированные с понижением аудиосигналы могут быть дополнительно сжаты с использованием звуковых кодеров (таких как MPEG-1/2 уровня II или III, MPEG-2/4 усовершенствованный аудиокодер (AAC) MPEG-2/4, унифицированный кодер речи и звука (USAC) MPEG и т.д.). Вспомогательная информация также может быть представлена и эффективно кодирована (например, как кодированные отношения мощностей объектов и коэффициентов корреляции объектов).
S
Y
R
«Декодер» восстанавливает первоначальные «звуковые объекты» из декодированных «микшированных с понижением сигналов» с использованием переданной вспомогательной информации (эта информация обеспечивает параметры объектов). «Процессор вспомогательной информации» выполняет оценку коэффициентов разбиения, которые следует применить к «микшированным с понижением сигналам» в «параметрическом разделителе объектов», чтобы получить параметрическую реконструкцию объекта . Восстановленные «звуковые объекты» рендеризируются как (многоканальная) целевая сцена, представленная выходными каналами , посредством применения «параметров рендеризации» .
Тот же самый общий принцип и последовательные этапы применяются в обработке SAOC 3D, которая включает в себя дополнительную ветвь декорреляции.
Фиг. 2 обеспечивает обзор концепции параметрического понижающего/повышающего микширования с интегрированной ветвью декорреляции.
С использованием примера методики SAOC 3D, части методики MPEG-H 3D Audio, главные этапы обработки такой системы параметрического разделения могут быть кратко описаны следующим образом:
Y
Y
Y
dry
wet
Декодер SAOC 3D производит модифицированный рендеризированный вывод  как смесь параметрически восстановленного и рендеризированного сигнала («сухого», необработанного сигнала)  и его декоррелированной версии («влажного», обработанного сигнала) .
Для надлежащего описания изобретения этапы обработки могут быть дифференцированы, как проиллюстрировано на фиг. 3:
U
- Разбиение, которое параметрически восстанавливает входные звуковые объекты с использованием матрицы ,
R
- Рендеризация с использованием информации рендеризации (матрица ),
- Декорреляция,
P
- Постмикширование с использованием матрицы , вычисленной на основании информации, содержащейся в битовом потоке.
X
U
UX
Параметрическое разделение объектов получается из микшированного с понижением сигнала  с использованием матрицы  разбиения на основании дополнительной вспомогательной информации: =.
R
Y
R
RUX
dry
Информация  рендеризации используется для получения необработанного сигнала как: ==.
Y
Y
Y
dry
wet
Окончательный выходной сигнал вычисляется из сигналов  и  как.
P
Матрица  микширования вычисляется, например, на основании информации рендеризации, информации корреляции, информации энергии, информации ковариации и т.д.
В изобретении матрица постмикширования будет применяться к кодированному аудиосигналу для получения декодированного аудиосигнала.
Далее будет описана общая операция параметрического разделения объектов с использованием MMSE.
U
D
E
U
ED*J
Матрица  разбиения получается на основании информации, выведенной из переменных, содержащихся в битовом потоке (например, матрицы  понижающего микширования и информации ковариации), с использованием алгоритма оценки минимальной среднеквадратичной ошибки (MMSE): =.
J
E
DED
J
E
dmx
dmx
DMX
DMX
-1
Матрица  с размером N на N представляет приближение псевдоинверсии ковариационной матрицы  =* понижающего микширования как:  ≈ .
J
J
V Λ
V
inv
Вычисление матрицы  выводится в соответствии с: =*,
V
Λ
E
E
V Λ
V
DMX
DMX
где матрицы  и  определены с использованием сингулярного разложения (SVD) матрицы  как: =*.
Следует отметить, что подобные результаты могут быть получены с использованием разных способов разложения, таких как: разложение по собственным значениям, разложение Шура и т.д.
inv
Λ
Операция (⋅) регуляризированной инверсии, используемая для диагональной сингулярной матрицы , может быть определена, например, как это сделано в SAOC 3D, с использованием отсечения сингулярных значений относительно наибольшего сингулярного значения:
В другом варианте осуществления используется следующая формула:
reg
reg
Λ
-2
Скаляр  относительной регуляризации определяется с использованием абсолютной пороговой величины T и максимального значения  как: , например, при T=10.
i,i
i,i
i,i
i,i
i,i
В зависимости от определения сингулярных значений λ могут быть ограничены только положительными значениями (если λ<0, то λ=abs(λ), и sign(λ) умножается на соответствующий левый или правый сингулярный вектор), или отрицательные значения могут быть разрешены.
i,i
Во втором случае с отрицательными значениями λ скаляр относительной регуляризации  вычисляется как: .
Для простоты далее будет использоваться второе определение .
Подобные результаты могут быть получены с использованием усечения сингулярных значений относительно абсолютного значения или других способов регуляризации, используемых для инверсии матриц.
Инверсия очень малых сингулярных значений может привести к очень высоким коэффициентам разбиения и, следовательно, к высоким усилениям соответствующих микшированных с понижением каналов. В таком случае каналы с очень малыми энергетическими уровнями могут быть усилены с использованием высоких коэффициентов усиления, и это может привести к слышимым артефактам. Чтобы сократить этот нежелательный эффект, сингулярные значения, которые меньше относительной пороговой величины , отсекаются до нуля.
Теперь будут пояснены обнаруженные недостатки в методике параметрического разделения объектов из уровня техники.
Описанные способы параметрического разделения объектов из уровня техники определяют использование регуляризированной инверсии ковариационной матрицы понижающего микширования, чтобы избежать артефактов разделения. Однако для некоторых реальных сценариев микширования на выходе системы были идентифицированы вредные артефакты, вызванные слишком агрессивной регуляризацией.
Далее построен и проанализирован пример такого сценария.
(S)
(X)
dmx
Входные звуковые объекты  в количество N=5 кодируются с использованием описанной методики (более точно, способа обработки SAOC 3D, части MPEG-H 3D Audio) как микшированные с понижением каналы  в количестве N=3.
Входные звуковые объекты примера могут состоять из:
- одной группы из двух коррелированных звуковых объектов, содержащих сигналы из музыкального сопровождения (левый и правый каналы стереопары),
- одной группы из одного независимого звукового объекта, содержащего речевой сигнал, и
- одной группы из двух коррелированных звуковых объектов, содержащих запись фортепьяно (левый и правый каналы стереопары).
Входные сигналы подвергаются понижающему микшированию на три группы транспортных каналов:
1
1
- группу G с одним (M=1) микшированным с понижением каналом, содержащую первую группу объектов,
2
2
- группу G с одним (M=1) микшированным с понижением каналом, содержащую вторую группу объектов, и
3
3
- группу G с одним (M=1) микшированным с понижением каналом, содержащую третью группу объектов,
dmx
1
2
3
причем N=M+M+M.
D
D
k
k
Матрицы  понижающего микширования, соответствующие каждой группе G, k=1, 2, 3, строятся с использованием унарных коэффициентов микширования, и полная матрица понижающего микширования задана как:
Можно отметить отсутствие перекрестного микширования между группой из первых двух сигналов объектов, третьим сигналом объекта и группой из последних двух сигналов объектов. Также следует отметить, что третий сигнал объекта, содержащий речь, только один микшируется как один микшированный с понижением канал. Таким образом, ожидается хорошая реконструкция этого объекта, и, следовательно, также хорошая рендеризация. Спектрограммы входных сигналов и полученного микшированного с понижением сигнала проиллюстрированы на фиг. 4.
out
Возможное основное кодирование микшированного с понижением сигнала, используемое в реальной системе, здесь опущено для лучшего обозначения в общих чертах нежелательного эффекта. На стороне декодера параметрическое декодирование SAOC 3D используется для восстановления и рендеризации сигналов звуковых объектов как компоновки с 3 каналами (N=3): левый (L), центральный (C) и правый (R) каналы.
Простое ремикширование входных звуковых объектов примера используется следующим образом:
- первые два звуковых объекта (музыкальное сопровождение) заглушаются (т.е., рендеризируются с коэффициентом усиления 0),
- третий входной объект (речь) рендеризируется в центральном канале, и
- объект 4 рендеризируется в левом канале, и объект 5 - в правом канале.
В соответствии с этим используемая матрица рендеризации задается как:
где .
Y
RS
ref
Опорный выходной сигнал может быть вычислен посредством применения заданной матрицы рендеризации непосредственно к входным сигналам: =.
Спектрограммы опорного выходного сигнала и выходных сигналов декодирования и рендеризации SAOC 3D и визуализации проиллюстрированы двумя столбцами на фиг. 5.
На основании показанных спектрограмм выхода декодера SAOC 3D могут быть отмечены следующие наблюдения:
- Центральный канал, содержащий только речевой сигнал, сильно поврежден по сравнению с опорным сигналом. Могут быть замечены большие спектральные провалы. Эти спектральные провалы (являющийся частотно-временными областями с недостающей энергией) приводят к серьезным слышимым артефактам.
- Малые спектральные провалы присутствуют также в левом и правом каналах, особенно в низкочастотных областях, в которых сконцентрирована наибольшая часть энергии сигнала. Эти спектральные провалы также приводят к слышимым артефактам.
- В микшированных с понижением каналах нет перекрестного микширования групп объектов, т.е., объекты, микшированные в одном микшированном с понижением канале, не присутствуют ни в каком другом микшированном с понижением канале. Второй микшированный с понижением канал содержит только один объект (речь); таким образом, спектральные провалы на выходе системы могут быть формированы только потому, что он обработан вместе с другими микшированными с понижением каналами.
На основании упомянутых наблюдений можно прийти к заключению, что:
- Система SAOC 3D не является «сквозной» системой, т.е. если только один входной сигнал микшируется как один микшированный с понижением канал, качество звука этого входного сигнала должно сохраниться при декодировании и рендеризации.
- Система SAOC 3D может вносить слышимые артефакты вследствие обработки многоканальных микшированных с понижением сигналов. Выходное качество объектов, содержащихся в одной группе микшированных с понижением каналов, зависит от обработки остальных микшированных с понижением каналов.
Спектральные провалы, особенно в центральном канале, указывают, что некоторая полезная информация, содержащаяся в микшированных с понижением каналах, отбрасывается посредством обработки. Эта потеря информации может быть отслежена обратно до этапа параметрического разделения объектов, более точно до этапа регуляризации инверсии ковариационной матрицы понижающего микширования.
По определению матрица понижающего микширования в примере имеет блочно-диагональную структуру:
Кроме того, вследствие заданного отношения между входными объектами (например, сигнализация параметрических корреляций) также ковариационная матрица входного сигнала объекта, доступная в декодере, имеет блочно-диагональную структуру:
Как следствие ковариационная матрица понижающего микширования может быть представлена в блочно-диагональной форме:
E
DMX
В этом случае матрица уже является блочно-диагональной, но для общего случая ее блочно-диагональная форма может быть получена после перестановки строк/столбцов с использованием оператора перестановки : .
A
Ā
Ā
Φ AΦ*
Оператор перестановки  определен как матрица, полученная посредством перестановки строк единичной матрицы. Если симметричная матрица  может быть представлена в блочно-диагональной форме посредством перестановки строк и столбцов, оператор перестановки может использоваться, чтобы выразить полученную в результате матрицу  как: =.
Если  является оператором перестановки, тогда поддерживаются следующие свойства:
V
T
ΦV
- во-первых, если  является унарной матрицей, тогда = также является унитарной матрицей, и
Φ Φ*
Φ*
Φ
I
I
- во-вторых, ==, где является единичной матрицей.
A
Ā
Как следствие операторы перестановки являются прозрачными для алгоритмов сингулярного разложения. Это означает, что первоначальная матрица  и полученная посредством перестановки матрица  имеют общие сингулярные значения и полученные посредством перестановки сингулярные векторы:
E
E
E
DMX
DMX
k
DMX
Вследствие блочно-диагонального представления сингулярные значения матрицы  могут быть вычислены посредством применения сингулярной декомпозиции к матрице  или посредством применения сингулярной декомпозиции к блочно-диагональным подматрицам  и объединения результатов:
где,, и.
E
DMX
Так как сингулярные значения ковариационной матрицы понижающего микширования непосредственно относятся к энергетическим уровням микшированных с понижением каналов (которые описаны главной диагональю матрицы ):
и объекты, содержащиеся в одном канале, не содержатся ни в каком другом микшированном с понижением канале, можно прийти к заключению, что каждое сингулярное значение соответствует одному микшированному с понижением каналу.
Таким образом, если один из микшированных с понижением каналов будет иметь намного меньший энергетический уровень, чем остальные микшированные с понижением каналы, сингулярное значение, соответствующее этому каналу, будет намного меньше, чем остальные сингулярные значения.
E
DMX
Этап отсечения, используемый при инверсии матрицы, содержащей сингулярные значения матрицы :
или
может привести к отсечению сингулярных значений, соответствующих микшированному с понижением каналу с малым энергетическим уровнем (относительно микшированного с понижением канала с самой высокой энергией). Вследствие этого информация, присутствующая в этом микшированном с понижением канале с малой относительной энергией, отбрасывается, и формируются спектральные провалы, наблюдаемые в фигурах спектрограммы и на аудиовыходе.
Для лучшего понимания следует учесть то, что понижающее микширование входных звуковых объектов происходит для каждого отсчета и для каждого диапазона частот отдельно. Особенно разделение на разные полосы помогает понять, почему в спектрограммах выходных сигналов на разных частотах могут находиться провалы.
Идентифицированная проблема может быть сведена к тому, что относительная пороговая величина регуляризации вычисляется для сингулярных значений без учета того, что матрица, которая будет инвертирована, является блочно-диагональной: .
Каждая блочно-диагональная матрица соответствует одной независимой группе микшированных с понижением каналов. Отсечение реализуется относительно самого большого сингулярного значения, но это значение описывает только одну группу каналов. Таким образом, реконструкция объектов, содержащихся во всех независимых группах микшированных с понижением каналов, становится зависимой от группы, которая содержит это самое большое сингулярное значение.
Далее изобретение будет описано на основе описанного выше варианта осуществления в отношении уровня техники.
G
k
С учетом описанного выше примера три ковариационных матрицы могут быть связаны с тремя разными группами микшированных с понижением каналов , 1≤k≤3. Звуковые объекты или входные звуковые объекты, содержащиеся в микшированных с понижением каналах каждой группы, не содержатся ни в какой другой группе. Кроме того, не сигнализировано никакое отношение (например, корреляция) между объектами, содержащимися в микшированных с понижением каналах из разных групп.
Чтобы решить выявленную проблему системы параметрической реконструкции, способ по изобретению предлагает применять этап регуляризации независимо для каждой группы. Это подразумевает, что вычисляются три различных пороговых величины для инверсии трех независимых ковариационных матриц понижающего микширования: , где 1≤k≤3. Следовательно, в изобретении в одном варианте осуществления такая пороговая величина вычисляется для каждой группы отдельно, а не как на текущем уровне техники - одна общая пороговая величина для соответствующих диапазонов частот и отсчетов.
E
DMXk
Инверсия сингулярных значений получается соответствующим образом посредством применения регуляризации независимо для подматриц , 1≤k≤3:
В другом варианте осуществления используется следующая формула:
С использованием предложенного способа по изобретению в идентичной в других отношениях системе SAOC 3D для примера, описанного в предыдущем разделе, улучшается качество звука декодированного и рендеризированного выхода. Полученные в результате сигналы проиллюстрированы на фиг. 6.
При сравнении спектрограмм в правом столбце на фиг. 5 и фиг. 6 можно заметить, что способ по изобретению решает выявленные проблемы в существующей системе параметрического разделения предшествующего уровня техники. Способ по изобретению гарантирует функциональность «сквозной» системы, и самое главное, удаляются спектральные провалы.
Описанное решение для обработки трех независимых групп микшированных с понижением каналов может быть легко обобщено для любого количества групп.
Способ по изобретению предлагает модифицировать методику параметрического разделения объектов с использованием информации группирования при инверсии ковариационной матрицы микшированного с понижением сигнала. Это приводит к существенному улучшению качества аудиовывода.
Группирование может быть получено, например, из информации микширования и/или корреляции, уже доступной в декодере без дополнительной сигнализации.
Более точно, одна группа определена в одном варианте осуществления посредством наименьшего набора микшированных с понижением сигналов со следующими двумя свойствами в этом примере:
- Во-первых, входные звуковые объекты, содержащиеся в этих микшированных с понижением каналах, не содержатся ни в каком другом микшированном с понижением канале.
- Во-вторых, все входные сигналы, содержащиеся в микшированных с понижением каналах одной группы, не соотносятся (например, в кодированном аудиосигнале не сигнализирована никакая взаимная корреляция) с любыми другими входными сигналами, содержащимся в микшированных с понижением каналах любой другой группы. Такая взаимная корреляция подразумевает объединенную обработку соответствующих звуковых объектов во время декодирования.
Ndmx
k
DMX
G
E
На основании введенного определения группы могут быть определены K (1≤K≤) групп:  (1≤k≤K), и ковариационная матрица  понижающего микширования может быть выражена с использованием блочно-диагональной формы посредством применения оператора перестановки :
E
G
G
E
E
V
Λ
V
DMX
DMX
DMX
k
k
k
k
k
k
k
k
k
k
Подматрицы  построены посредством выбора элементов ковариационной матрицы понижающего микширования, соответствующей независимым группам . Для каждой группы  матрица  с размером M на M выражена с использованием сингулярной декомпозиции как: =*,
где  и .
E
E
V
Λ
V
Λ
DMXk
k
k
k
k
k
DMX
-1
inv
inv
Матрица  псевдоинверсии вычисляется как ()=*, где матрица  регуляризированной инверсии задана в одном варианте осуществления как:
и в другом варианте осуществления как:
reg
k
reg
Λ
-2
Скаляр  относительной регуляризации определен с использованием абсолютной пороговой величины T и максимального значения как: , где T=10, например.
Инверсия полученной посредством перестановки ковариационной матрицы  понижающего микширования получена как:
и инверсия ковариационной матрицы понижающего микширования вычисляется посредством применения обратной операции перестановки .
Кроме того, способ по изобретению предлагает в одном варианте осуществления определять группы полностью на основании информации, содержащейся в битовом потоке. Например, эта информация может быть задана посредством информации понижающего микширования и информации корреляции.
G
k
Более точно одна группа определяется посредством наименьшего набора микшированных с понижением каналов со следующими свойствами:
G
k
- Входные звуковые объекты, содержащиеся в микшированных с понижением каналах группы , не содержатся ни в каком другом микшированном с понижением канале. Входной звуковой объект не содержится в микшированном с понижением канале, например, если соответствующий коэффициент понижающего микширования задан посредством наименьшего индекса квантования, или если он равен нулю.
G
k
- Все входные сигналы i, содержащиеся в микшированных с понижением каналах группы , не соотносятся ни с каким входным сигналом j, содержащимся в каком-либо микшированном с понижением канале какой-либо другой группы. Например, (сравните, например, с WO 2011/039195 A1) переменная битового потока bsRelatedTo[i][j] может использоваться, чтобы сигнализировать, соотносятся ли два объекта (bsRelatedTo[i][j] == 1), или они не соотносятся (bsRelatedTo[i][j] == 0). Также могут использоваться разные способы сигнализации двух соотносящихся объектов, например, на основании информации корреляции или ковариации.
Группы могут быть определены один раз на кадр или один раз на набор параметров для всех полос обработки, или один раз на кадр или один раз на набор параметров для каждой полосы обработки.
Способ по изобретению также позволяет в одном варианте осуществления значительно сокращать вычислительную сложность системы параметрического разделения (например, декодера SAOC 3D) с использованием информации группирования в большинстве дорогих вычислительных компонентах параметрической обработки.
Таким образом, способ по изобретению предлагает удалить вычисления, которые не вносят вклад в качество звука окончательного результата. Эти вычисления могут быть выбраны на основании информации группирования.
Более точно, способ по изобретению предлагает вычислять все параметрические этапы обработки независимо для каждой предварительно заданной группы и в конце объединять результаты.
С использованием примера обработки SAOC 3D, часть MPEG-H 3D Audio сложные, в вычислительном отношении операции заданы как:
E
- вычисление ковариационной матрицы  с размером N на N с элементами: ,
Δ
Δ
DED
dmx
dmx
- вычисление ковариационной матрицы  микшированного с понижением сигнала с размером N на N: =*,
Δ
DED
Δ
V Λ
V
- вычисление сингулярного разложения матрицы =*: =*,
J
- вычисление матрицы регуляризированной инверсии, аппроксимирующей : ,
U
U
ED*J
dmx
,
- вычисление матрицы  параметрического разбиения с размером N на N: =
R
U
RU
out
dmx
- умножение матрицы  рендеризации с размером N на N на матрицу  разбиения с размером N на N: ,
C
C
RER
out
out
- вычисление ковариационной матрицы  с размером N на N: =*,
E
y
out
out
dry
- вычисление ковариации параметрически оцененного сигнала  с размером N times N: .
Различиями на уровне объектов (OLD) называется относительная энергия одного объекта к объекту с наибольшей энергией в течение некоторого времени и для некоторого диапазона частот, и перекрестная когерентность между объектами (IOC) описывает величину подобия или взаимную корреляцию для двух объектов в некоторое время и в некотором диапазоне частот.
G
k
Способ по изобретению предлагает сократить вычислительную сложность посредством независимого вычисления всех этапов параметрической обработки для всех предварительно определенных K групп , 1≤k≤K, и объединения результатов в конце параметрической обработки.
G
k
k
k
Одна группа  содержит M микшированных с понижением каналов и Nвходных звуковых объектов таким образом, что:  и .
G
D
D
G
k
k
k
Для каждой группы  матрица понижающего микширования группы определена как  посредством выбора элементов матрицы  понижающего микширования, соответствующих микшированным с понижением каналам и входным звуковым объектам, содержащимся в группе .
R
R
G
k
k
Аналогичным образом, матрица  рендеризации группы получается из матрицы  рендеризации посредством выбора строк, соответствующих входным звуковым объектам, содержащимся в группе .
k
k
G
k
Аналогичным образом, вектор OLD группы и матрица IOC группы получаются из вектора OLD и матрицы IOC посредством выбора элементов, соответствующих входным звуковым объектам, содержащимся в группе .
G
k
Для каждой группы описанные этапы обработки заменяются на менее сложные вычислительном отношении этапы следующим образом:
E
k
k
k
- вычисление ковариационной матрицы  группы с размером N на N с элементами:
Δ
Δ
D
E
D
k
k
k
k
k
k
k
- вычисление ковариационной матрицы  понижающего микширования группы с размером M на M: =*,
Δ
D
E
D
Δ
V
Λ
V
k
k
k
k
k
k
k
k
- вычисление сингулярного разложения ковариационной матрицы понижающего микширования группы =*: =*,
J
k
- вычисление матрицы регуляризированной инверсии группы, аппроксимирующей : ,
U
U
E
D
J
k
k
k
k
k
k
k
- вычисление матрицы  параметрического разбиения группы с размером N на M: =*,
R
U
R
U
k
Upmix
k
k
k
k
k
k
- умножение матрицы  рендеризации группы с размером N на N на матрицу  разбиения с размером N на M: ,
C
C
R
E
R
k
out
out
k
k
k
k
- вычисление ковариационной матрицы  группы с размером N на N: =*,
E
y
k
out
out
dry
- вычисление ковариации группы параметрически оцененного сигнала () с размером N на N: .
И результаты этапов индивидуальной обработки групп в конце объединяются:
RU
R
U
out
dmx
k
k
- матрица  повышающего микширования с размером N на N получается посредством слияния матриц  групп: ,
C
C
out
out
k
- ковариационная матрица  с размером N на N получается посредством суммирования матриц  групп: ,
E
E
y
out
out
y
k
dry
dry
- ковариация параметрически оцененного сигнала  с размером N на N получается посредством суммирования матриц () групп:
Для краткого описания этапов обработки в соответствии со структурой процессора понижающего микширования, проиллюстрированного на фиг. 3, опуская этап декорреляции, существующая параметрическая обработка кадров предшествующего уровня техники может быть изображена на фиг. 7.
С использованием предложенного способа по изобретению сложность вычисления сокращается, используя обнаружение групп, как проиллюстрировано на фиг. 8.
Пример реализации функции обнаружения групп, называемой: , дан на фиг. 9 с использованием кода на языке ANSI C и статической функции ʺgetSaocCoreGroups()ʺ.
Предложенный способ по изобретению оказывается значительно более эффективным в вычислительном отношении, чем выполнение операций без группирования. Он также позволяет лучше распределять память и использование, поддерживает параллелизацию вычислений, сокращает накопление числовых ошибок и т.д.
Предложенный способ по изобретению и предложенное устройство по изобретению решают существующую проблему систем параметрического разделения объектов текущего уровня техники и предлагают значительно более высокое качество звука на выходе.
Предложенный способ по изобретению описывает способ обнаружения групп, который полностью реализован на основании существующей информации битового потока.
Предложенное изобретательское решение для группирования приводит к значительному сокращению вычислительной сложности. В целом сингулярное разложение в вычислительном отношении является затратным, и его сложность растет экспоненциально с размером матрицы, которая должна быть инвертирована: .
Для большого количества микшированных с понижением каналов вычисление K операций сингулярной декомпозиции для матрицы меньшего размера в вычислительном отношении намного более эффективно: .
С использованием тех же соображений все этапы параметрической обработки в декодере могут быть эффективно реализованы посредством вычисления всех умножений матриц, описанных в системе, только для независимых групп и объединения результатов.
Оценка сокращения сложности для разного количества входных звуковых объектов, т.е., входных звуковых объектов, микшированных с понижением каналов и фиксированного количества из 24 выходных каналов дана в следующей таблице:
Количество входных звуковых объектов
8
16
32
60
96
128
256
Количество микшированных с понижением каналов, N<sub>dmx</sub>
4
8
16
24
24
32
64
Количество групп, K
2
4
4
6
6
8
8
Параметрическая обработка SAOC 3D [миллионов операций в секунду]
7,5
28
56
464
1000
2022
12000
Параметрическая обработка способа по изобретению [миллионов операций в секунду]
3
3
7,5
10
20
20
81
Сокращение сложности [%]
60,00
89,29
86,61
97,84
98,00
99,01
99,33
Изобретение представляет следующие дополнительные преимущества:
- Для ситуаций, когда может быть создана только одна группа, вывод побитно идентичен системам текущего уровня техники.
- Группирование сохраняет функциональность «сквозной» системы. Это подразумевает, что если только один входной звуковой объект микшируется как один микшированный с понижением канал, декодер способен отлично восстановить его.
Изобретение приводит к следующим предложенным иллюстративным модификациям для формулировки стандарта.
Добавить в ʺ9.5.4.2.4 Операция регуляризированной инверсииʺ:
J
Матрица регуляризированной инверсии, аппроксимирующая , вычисляется как.
V
Λ
V Λ
V*
Матрицы иопределяются как сингулярное разложение матрицы Δ как: Δ=.
Λ
Λ
inv
Регуляризированная инверсия  диагональной сингулярной матрицы  вычисляется в соответствии с 9.5.4.2.5.
U
k
k
В случае, когда матрица Δ используется при вычислении матрицы  параметрического разбиения, описанные операции применяются для всех подматриц Δ. Подматрица Δ получается посредством выбора элементов Δ(m, n), соответствующих микшированным с понижением каналам m и n, назначенным в группу k.
Группа k определяется посредством наименьшего набора микшированных с понижением каналов со следующими свойствами:
- входные сигналы, содержащиеся в микшированных с понижением каналах группы k, не содержатся ни в каком другом микшированном с понижением канале. Входной сигнал не содержится в микшированном с понижением канале, если соответствующий коэффициент понижающего микширования задан посредством наименьшего индекса квантования (23003-2:2010 ISO/IEC, Таблица 49).
- Все входные сигналы i, содержащиеся в микшированных с понижением каналах группы k, не соотносятся ни с каким входным сигналом, содержащимся в каком-либо микшированном с понижением канале какой-либо другой группы (т.е., bsRelatedTo[i][j] == 0).
J
Результаты независимых операций регуляризированной инверсии  объединяются для получения матрицы .
Изобретение также приводит к следующим предложенным иллюстративным модификациям для формулировки стандарта.
9.5.4.2.5 Операция регуляризированной инверсии
Матрица  регуляризированной инверсии, аппроксимирующая , вычисляется как:
.
Матрицы и определены как сингулярное разложение матрицы как:
.
Регуляризированная инверсия  диагональной сингулярной матрицы  вычисляется в соответствии с 9.5.4.2.6.
В случае, когда матрица  используется при вычислении матрицы параметрического разбиения, описанные операции применяются для всех подматриц . Подматрица с размером , с элементами  получается посредством выбора элементов , соответствующих микшированным с понижением каналам  и , назначенным в группу  (т.е.  и ).
Группа  с размером  определяется посредством наименьшего набора микшированных с понижением каналов со следующими свойствами:
- входные сигналы, содержащиеся в микшированных с понижением каналах группы , не содержатся ни в каком другом микшированном с понижением канале. Входной сигнал не содержится в микшированном с понижением канале, если соответствующий коэффициент понижающего микширования задан посредством наименьшего индекса квантования (23003-2:2010 ISO/IEC, Таблица 49).
bsRelatedTo
- Все входные сигналы , содержащиеся в микшированных с понижением каналах группы , не соотносятся ни с каким входным сигналом , содержащимся в каком-либо микшированном с понижением канале какой-либо другой группы (т.е., [i][j] == 0).
Результаты независимых операций регуляризированной инверсии  объединяются для получения матрицы  как:
9.5.4.2.6 Регуляризация сингулярных значений
Операция  регуляризированной инверсии, используемая для диагональной сингулярной матрицы, определена как:
Λ
Скаляр  относительной регуляризации определен с использованием абсолютной пороговой величины  и максимального значения  следующим образом:
, где .
На некоторых из следующих фигур индивидуальные сигналы показаны как получаемые из различных этапов обработки. Это сделано для лучшего понимания изобретения и является одной возможностью реализации изобретения, т.е., извлечение индивидуальных сигналов и выполнение этапов обработки этих сигналов или обработанных сигналов.
Другой вариант осуществления вычисляет все необходимые матрицы и применяет их как последний этап к кодированному аудиосигналу, чтобы получить декодированный аудиосигнал. Это включает в себя вычисление разных матриц и их соответствующих комбинаций.
Вариант осуществления объединяет оба метода.
Фиг. 10 схематично показывает устройство 10 для обработки множества (здесь в этом примере пяти) входных звуковых объектов 111, чтобы обеспечить представление входных звуковых объектов 111 посредством кодированного аудиосигнала 100.
Входные звуковые объекты 111 распределяются или микшируются с понижением как микшированные с понижением сигналы 101. В показанном варианте осуществления четыре из пяти входных звуковых объектов 111 назначены в два микшированных с понижением сигнала 101. Один входной звуковой объект 111 назначен в третий микшированный с понижением сигнал 101. Таким образом, пять входных звуковых объектов 111 представлены тремя микшированными с понижением сигналами 101.
Эти микшированные с понижением сигналы 101 затем (возможно, после некоторых не показанных этапов обработки) объединяются в кодированный аудиосигнал 100.
Такой кодированный аудиосигнал 100 подается на устройство 1 по изобретению, для которого один вариант осуществления показан на фиг. 11.
Из кодированного аудиосигнала 100 извлекаются три микшированных с понижением сигнала 101 (сравните с фиг. 10).
Микшированные с понижением сигналы 101 группируются (в показанном примере) в две группы 102 микшированных с понижением сигналов.
Поскольку каждый микшированный с понижением сигнал 101 связан с заданным количеством входных звуковых объектов, каждая группа 102 микшированных с понижением сигналов относится к заданному количеству входных звуковых объектов (соответствующее выражение - входной объект). Следовательно, каждая группа 102 микшированных с понижением сигналов связана с набором входных звуковых объектов из множества входных звуковых объектов, которые кодированы посредством кодированного аудиосигнала 100 (сравните с фиг. 10).
Группирование происходит в показанном варианте осуществления со следующими ограничениями:
1. Каждый входной звуковой объект 111 принадлежит только одному набору входных звуковых объектов и, таким образом, одной группе 102 микшированных с понижением сигналов.
2. Каждый входной звуковой объект 111 не имеет отношения, сигнализированного в кодированном аудиосигнале, к входному звуковому объекту 111, принадлежащему другому набору, связанному с другой группой микшированных с понижением сигналов. Это означает, что кодированный аудиосигнал не имеет такой информации, которая вследствие стандарта привела бы к объединенному вычислению соответствующих входных звуковых объектов.
3. Количество микшированных с понижением сигналов 101 в соответствующих группах 102 минимизировано.
Группы (здесь: две группы) 102 микшированных с понижением сигналов затем обрабатываются индивидуально для получения пяти выходных аудиосигналов 103, соответствующих пяти входным звуковым объектам 111.
Одна группа 102 микшированных с понижением сигналов, которая связана с двумя микшированными с понижением сигналами 101, покрывающими две пары входных звуковых объектов 111 (сравните с фиг. 10), позволяет получить четыре выходных аудиосигнала 103.
Другая группа 102 микшированных с понижением сигналов приводит к одному выходному сигналу 103 как единственному микшированному с понижением сигналу 101, или эта группа 102 микшированных с понижением сигналов (или более точно: группа из одного микшированного с понижением сигнала) относится к одному входному звуковому объекту 111 (сравните с фиг. 10).
Пять выходных аудиосигналов 103 объединяются в один декодированный аудиосигнал 110 в качестве выхода устройства 1.
В варианте осуществления на фиг. 11 все этапы обработки выполняются индивидуально для групп 102 микшированных с понижением сигналов.
Вариант осуществления устройства 1, показанный на фиг. 12, может принимать такой же кодированный аудиосигнал 100, как устройство 1, показанное на фиг. 11, и полученный устройством 10, как показано на фиг. 10.
Из кодированного аудиосигнала 100 получаются три микшированных с понижением сигнала 101 (для трех транспортных каналов) и группируются в две группы 102 микшированных с понижением сигналов. Эти группы 102 обрабатываются индивидуально для получения пяти обработанных сигналов 104, соответствующих пяти входным звуковым объектам, показанным на фиг. 10.
На следующих этапах из пяти совместно обработанных сигналов 104 получаются восемь выходных аудиосигналов 103, например, рендеризируются для использования для восьми выходных каналов. Выходные аудиосигналы 103 объединяются в декодированный аудиосигнал 110, который является выходом из устройства 1. В этом варианте осуществления, выполняется как индивидуальная, так и совместная обработка групп 102 микшированных с понижением сигналов.
Фиг. 13 показывает некоторые этапы варианта осуществления способа по изобретению, в котором декодируется кодированный аудиосигнал.
На этапе 200 микшированные с понижением сигналы извлекаются из кодированного аудиосигнала. На следующем этапе 201 микшированные с понижением сигналы распределяются в группы микшированных с понижением сигналов.
На этапе 202 каждая группа микшированных с понижением сигналов индивидуально обрабатывается, чтобы обеспечить результаты индивидуальных групп. Индивидуальная обработка групп содержит по меньшей мере разбиение для получения представлений аудиосигналов, которые были объединены через понижающее микширование входных звуковых объектов в процессе кодирования. В одном варианте осуществления (не показанном здесь) после индивидуальной обработки следует совместная обработка.
На этапе 203 эти результаты групп объединяются в декодированный аудиосигнал для вывода.
Фиг. 14 еще раз показывает вариант осуществления устройства 1, в котором все этапы обработки после группирования микшированных с понижением сигналов 101 из кодированного аудиосигнала 100 в группы 102 микшированных с понижением сигналов выполняются индивидуально. Устройство 1, которое принимает кодированный аудиосигнал 100 с микшированными с понижением сигналами 101, содержит блок 2 группирования, который группирует микшированные с понижением сигналы 101, чтобы обеспечить группы 102 микшированных с понижением сигналов. Группы 102 микшированных с понижением сигналов обрабатываются процессором 3, выполняющим все необходимые этапы индивидуально для каждой группы 102 микшированных с понижением сигналов. Индивидуальными результатами обработки групп 102 микшированных с понижением сигналов являются выходные аудиосигналы 103, которые объединяются блоком 4 объединения, чтобы получить декодированный аудиосигнал 110 для вывода посредством устройства 1.
Устройство 1, показанное на фиг. 15, отличается от варианта осуществления, показанного на фиг. 14, после группирования микшированных с понижением сигналов 101. В примере не все этапы обработки групп 102 микшированных с понижением сигналов выполняются индивидуально, а некоторые этапы выполняются совместно, и тем самым учитывается более чем одна группа 102 микшированных с понижением сигналов.
Вследствие этого процессор 3 в этом варианте осуществления выполнен с возможностью выполнения только некоторых или по меньшей мере одного этапа обработки индивидуально. Результатом обработки являются обработанные сигналы 104, которые обрабатываются совместно постпроцессором 5. Полученные выходные аудиосигналы 103, наконец, объединяются блоком 4 объединения, что приводит к декодированному аудиосигналу 110.
На фиг. 16 схематично показан процессор 3, принимающий группы 102 микшированных с понижением сигналов и обеспечивающий выходные аудиосигналы 103.
Процессор 3 содержит блок 300 разбиения, выполненный с возможностью разбиения микшированных с понижением сигналов 101 из соответствующих групп 102 микшированных с понижением сигналов. Блок 300 разбиения, таким образом, восстанавливает индивидуальные входные звуковые объекты, которые были объединены кодером в соответствующие микшированные с понижением сигналы 101.
Восстановленные или разделенные входные звуковые объекты подаются на блок 302 рендеризации. Блок 302 рендеризации выполнен с возможностью рендеризации разбитых микшированных с понижением сигналов соответствующих групп для сценария вывода упомянутого декодированного аудиосигнала 110, чтобы обеспечить рендеризированные сигналы 112. Рендеризированные сигналы 112, таким образом, адаптированы к сценарию воспроизведения декодированного аудиосигнала. Рендеризация зависит, например, от количества динамиков, которые будут использоваться, от их размещения или от вида эффектов, которые должны быть получены посредством воспроизведения декодированного аудиосигнала.
Y
Y
Y
dry
wet
dry
Рендеризированные сигналы 112, , далее подаются на постмикшер 303, выполненный с возможностью выполнения по меньшей мере одного этапа декорреляции для упомянутых рендеризированных сигналов 112, и выполненный с возможностью объединения результатов  выполненного этапа декорреляции с упомянутыми соответствующими рендеризированными сигналами 112, . Постмикшер 303, таким образом, выполняет этапы для декорреляции сигналов, которые были объединены в одном микшированном с понижением сигнале.
Полученные в результате выходные аудиосигналы 103, наконец, подаются на блок объединения, как показано выше.
Для выполнения этапов процессор 3 полагается на блок 301 вычисления, который является здесь отдельным от других блоков процессора 3, но который в альтернативном (не показанном) варианте осуществления представляет собой признак блока 300 группирования, блока 302 рендеризации и постмикшера 303, соответственно.
Уместно упомянуть, что необходимые матрицы, значения и т.д. вычисляются индивидуально для соответствующих групп 102 микшированных с понижением сигналов. Это подразумевает, что, например, вычисляемые матрицы меньше, чем матрицы, используемые на текущем уровне техники. Матрицы имеют размеры, зависящие от количества входных звуковых объектов соответствующего набора входных звуковых объектов, связанных с группами микшированных с понижением сигналов, и/или от количества микшированных с понижением сигналов, принадлежащих соответствующей группе микшированных с понижением сигналов.
На существующем уровне техники матрица, которая будет использоваться для разбиения, имеет размер [количество входных звуковых объектов или входных аудиосигналов] на [это же количество]. Изобретение позволяет вычислять меньшую матрицу с размером, зависящим от количества входных аудиосигналов, принадлежащих соответствующей группе микшированных с понижением сигналов.
На фиг. 17 разъясняется цель рендеризации.
Устройство 1 принимает кодированный аудиосигнал 100 и декодирует его, обеспечивая декодированный аудиосигнал 110.
Этот декодированный аудиосигнал 110 воспроизводится в заданном сценарии 400 вывода. Декодированный аудиосигнал 110 в этом примере должен быть выдан пятью динамиками 401: левым, правым, центральным левым окружающим и правым окружающим. Слушатель 402 находится в середине сценария 400 и направлен лицом к центральному динамику.
Блок рендеризации в устройстве 1 распределяет восстановленные аудиосигналы, которые должны быть переданы на отдельные динамики 401, и, таким образом, распределяет восстановленное представление первоначальных звуковых объектов как источники аудиосигналов в данном сценарии 400 вывода.
Рендеризация, таким образом, зависит от вида сценария 400 вывода и от индивидуальных вкусовых предпочтений слушателя 402.
Хотя некоторые аспекты были описаны в контексте устройства, понятно, что эти аспекты также представляют описание соответствующего способа, в котором блок или устройство соответствуют этапу способа или признаку этапа способа. Аналогичным образом, аспекты, описанные в контексте этапа способа, также представляют описание соответствующего блока или элемента или признака соответствующего устройства. Некоторые или все этапы способа могут быть исполнены посредством (или с использованием) аппаратного устройства, например, микропроцессора, программируемого компьютера или электронной схемы. В некоторых вариантах осуществления один или более самых важных этапов способа могут быть исполнены таким устройством.
В зависимости от конкретных требований реализации варианты осуществления изобретения могут быть реализованы в аппаратных средствах или в программном обеспечении, или по меньшей мере частично в аппаратных средствах, или по меньшей мере частично в программном обеспечении. Реализация может быть выполнена с использованием цифрового запоминающего носителя, например, гибкого диска, DVD, Blu-Ray, CD, ПЗУ (ROM), ППЗУ (PROM), СППЗУ (EPROM), ЭСППЗУ (EEPROM) или флэш-памяти, имеющего сохраненные на нем электронно-читаемые управляющие сигналы, которые взаимодействуют (или способны взаимодействовать) с программируемой компьютерной системой таким образом, что выполняется соответствующий способ. Таким образом, цифровой запоминающий носитель может быть машиночитаемым.
Некоторые варианты осуществления в соответствии с изобретением содержат носитель данных, имеющий электронно-читаемые управляющие сигналы, которые способны взаимодействовать с программируемой компьютерной системой таким образом, что выполняется один из способов, описанных в настоящем документе.
В целом варианты осуществления настоящего изобретения могут быть реализованы как компьютерный программный продукт с программным кодом, программный код выполнен с возможностью выполнения одного из способов, когда компьютерный программный продукт исполняется на компьютере. Программный код программы, например, может быть сохранен на машиночитаемом носителе.
Другие варианты осуществления содержат компьютерную программу для выполнения одного из способов, описанных в настоящем документе, сохраненную на машиночитаемом носителе.
Другими словами, вариант осуществления способа по изобретению, таким образом, является компьютерной программой, имеющей программный код для выполнения одного из способов, описанных в настоящем документе, когда компьютерная программа работает на компьютере.
Дополнительный вариант осуществления способов по изобретению, таким образом, является носителем информации (или цифровым носителем, или машиночитаемым носителем), содержащим записанную на нем компьютерную программу для выполнения одного из способов, описанных в настоящем документе. Носитель данных, цифровой запоминающий носитель или носитель с записанными данными обычно являются материальными и/или постоянными.
Дополнительный вариант осуществления способа по изобретению, таким образом, является потоком данных или последовательностью сигналов, представляющими компьютерную программу для выполнения одного из способов, описанных в настоящем документе. Поток данных или последовательность сигналов, например, могут быть выполнены с возможностью их передачи через соединение передачи данных, например, через Интернет или по радиоканалу.
Дополнительный вариант осуществления содержит средство обработки, например, компьютер или программируемое логическое устройство, выполненное с возможностью выполнения одного из способов, описанных в настоящем документе.
Дополнительный вариант осуществления содержит компьютер, имеющий установленную на нем компьютерную программу для выполнения одного из способов, описанных в настоящем документе.
Дополнительный вариант осуществления в соответствии с изобретением содержит устройство или систему, выполненные с возможностью переноса (например, в электронном виде или оптически) компьютерной программы для выполнения одного из способов, описанных в настоящем документе, к приемнику. Приемник может, например, представлять собой компьютер, мобильное устройство, запоминающее устройство и т.п. Устройство или система могут, например, содержать файловый сервер для переноса компьютерной программы к приемнику.
В некоторых вариантах осуществления программируемое логическое устройство (например, программируемая пользователем вентильная матрица) может использоваться для выполнения некоторой или всей функциональности способов, описанных в настоящем документе. В некоторых вариантах осуществления программируемая пользователем вентильная матрица может взаимодействовать с микропроцессором, чтобы выполнить один из способов, описанных в настоящем документе. В общем случае способы предпочтительно выполняются любым аппаратным устройством.
Устройство, описанное в настоящем документе, может быть реализовано с использованием аппаратного устройства, или с использованием компьютера, или с использованием комбинации аппаратного устройства и компьютера.
Способы, описанные в настоящем документе, могут быть выполнены с использованием аппаратного устройства, или с использованием компьютера, или с использованием комбинации аппаратного устройства и компьютера.
Список литературы
[BCC] C. Faller and F. Baumgarte, ʺBinaural Cue Coding - Part II: Schemes and applications,ʺ IEEE Trans. on Speech and Audio Proc., vol. 11, no. 6, Nov. 2003.
[ISS1] M. Parvaix and L. Girin: ʺInformed Source Separation of underdetermined instantaneous Stereo Mixtures using Source Index Embeddingʺ, IEEE ICASSP, 2010.
[ISS2] M. Parvaix, L. Girin, J.-M. Brossier: ʺA watermarking-based method for informed source separation of audio signals with a single sensorʺ, IEEE Transactions on Audio, Speech and Language Processing, 2010.
[ISS3] A. Liutkus, J. Pinel, R. Badeau, L. Girin, G. Richard: ʺInformed source separation through spectrogram coding and data embeddingʺ, Signal Processing Journal, 2011.
[ISS4] A. Ozerov, A. Liutkus, R. Badeau, G. Richard: ʺInformed source separation: source coding meets source separationʺ, IEEE Workshop on Applications of Signal Processing to Audio and Acoustics, 2011.
[ISS5] S. Zhang and L. Girin: ʺAn Informed Source Separation System for Speech Signalsʺ, INTERSPEECH, 2011.
[ISS6] L. Girin and J. Pinel: ʺInformed Audio Source Separation from Compressed Linear Stereo Mixturesʺ, AES 42nd International Conference: Semantic Audio, 2011.
[JSC] C. Faller, ʺParametric Joint-Coding of Audio Sourcesʺ, 120th AES Convention, Paris, 2006.
[SAOC] ISO/IEC, ʺMPEG audio technologies - Part 2: Spatial Audio Object Coding (SAOC),ʺ ISO/IEC JTC1/SC29/WG11 (MPEG) International Standard 23003-2.
[SAOC1] J. Herre, S. Disch, J. Hilpert, O. Hellmuth: "From SAC To SAOC - Recent Developments in Parametric Coding of Spatial Audio", 22nd Regional UK AES Conference, Cambridge, UK, April 2007.
[SAOC2] J. Engdegård, B. Resch, C. Falch, O. Hellmuth, J. Hilpert, A. Hölzer, L. Terentiev, J. Breebaart, J. Koppens, E. Schuijers and W. Oomen: " Spatial Audio Object Coding (SAOC) - The Upcoming MPEG Standard on Parametric Object Based Audio Coding", 124th AES Convention, Amsterdam 2008.
[SAOC3D] ISO/IEC, JTC1/SC29/WG11 N14747, Text of ISO/MPEG 23008-3/DIS 3D Audio, Sapporo, July 2014.
[SAOC3D2] J. Herre, J. Hilpert, A. Kuntz, and J. Plogsties, ʺMPEG-H Audio - The new standard for universal spatial/3D audio coding,ʺ 137th AES Convention, Los Angeles, 2011.