СИСТЕМА, УСТРОЙСТВО И СПОСОБ ДЛЯ СОГЛАСОВАННОГО ВОСПРОИЗВЕДЕНИЯ АКУСТИЧЕСКОЙ СЦЕНЫ НА ОСНОВАНИИ ИНФОРМИРОВАННОЙ ПРОСТРАНСТВЕННОЙ ФИЛЬТРАЦИИ
SYSTEM, APPARATUS AND METHOD FOR CONSISTENT ACOUSTIC SCENE REPRODUCTION BASED ON INFORMED SPATIAL FILTERING

Настоящее изобретение относится к обработке аудиосигнала и, в частности, к системе, устройству и способу для согласованного воспроизведения акустической сцены на основании информированной пространственной фильтрации.
При воспроизведении пространственного звука звук в местоположении записи (на стороне ближнего конца) захватывается множеством микрофонов и затем воспроизводится на стороне воспроизведения (стороне дальнего конца) с использованием множества громкоговорителей или головных наушников. Во многих применениях, желательно воспроизводить записанный звук таким образом, чтобы пространственное изображение, воссоздаваемое на стороне дальнего конца, согласовывалось с первоначальным пространственным изображением на стороне ближнего конца. Это означает, например, что звук источников звука воспроизводится с направлений, где источники присутствовали в первоначальном сценарии записи. Альтернативно, когда, например, видео дополняет записанное аудио, желательно, чтобы звук воспроизводился таким образом, чтобы воссоздаваемое акустическое изображение согласовывалось с видеоизображением. Это означает, например, что звук источника звука воспроизводится с направления, в котором источник наблюдается в видео. Дополнительно, видеокамера может быть снабжена функцией визуального масштабирования, или пользователь на стороне дальнего конца может применять к видео цифровое масштабирование, которое будет изменять визуальное изображение. В этом случае, должно соответственно изменяться акустическое изображение воспроизводимого пространственного звука. Во многих случаях, сторона дальнего конца определяет пространственное изображение, с которым нужно согласовывать воспроизводимый звук, определяется либо на стороне дальнего конца, либо в ходе воспроизведения, например, когда используется видеоизображение. В результате, пространственный звук на стороне ближнего конца нужно записывать, обрабатывать и передавать таким образом, чтобы на стороне дальнего конца все же можно было управлять воссоздаваемым акустическим изображением.
Возможность воспроизведения записанной акустической сцены в согласовании с желаемым пространственным изображением требуется во многих современных областях применения. Например, такие современные бытовые устройства, как цифровые камеры или мобильные телефоны часто снабжены видеокамерой и множественными микрофонами. Это позволяет записывать видео совместно с пространственным звуком, например, стереозвуком. При воспроизведении записанного аудио совместно с видео, желательно, чтобы визуальное и акустическое изображения были согласованы. Когда пользователь осуществляет масштабирование приближения с помощью камеры, желательно воссоздавать эффект визуального масштабирования акустически таким образом, чтобы визуальные и акустические изображения выравнивались при просмотре видео. Например, когда пользователь осуществляет масштабирование приближения на человеке, голос этого человека должен становиться менее реверберирующим по мере приближения человека к камере. Кроме того, голос человека должен воспроизводиться с того же направления, где находится человек в визуальном изображении. Акустическая имитация визуального масштабирования камеры в дальнейшем именуется акустическим масштабированием и представляет один пример согласованного аудио-видео-воспроизведения. Согласованное аудио-видеовоспроизведение, в котором может применяться акустическая масштабирование, также полезно в телеконференцсвязи, где пространственный звук на стороне ближнего конца воспроизводится на стороне дальнего конца совместно с визуальным изображением. Кроме того, желательно акустически воссоздавать эффект визуального масштабирования таким образом, чтобы визуальные и акустические изображения выравнивались.
Первая реализация акустического масштабирования представлена в [1], где эффект масштабирования получен путем увеличения направленности направленного микрофона второго порядка, сигнал которого сгенерирован на основании сигналов линейной микрофонной решетки. Этот подход получил развитие в [2] до стереомасштабирования. В [3] представлен более недавний подход к моно- или стереомасштабированию, который состоит в изменение уровней источников звука таким образом, что источник с фронтального направления сохраняется, тогда как источники, поступающие с других направлений, и диффузный звук ослабляются. Подходы, предложенные в [1,2] приводят к увеличению отношения прямого звука к реверберации (DRR), и подход в [3] дополнительно позволяет подавлять нежелательные источники. Вышеупомянутые подходы предполагают, что источник звука располагается перед камерой, и не предполагают захват акустического изображения которое согласуется с видеоизображением.
Общеизвестный подход к адаптивным записи и воспроизведению пространственного звука представлен направленным аудиокодированием (DirAC) [4]. В DirAC, пространственный звук на стороне ближнего конца описывается посредством аудиосигнала и параметрической вспомогательной информации, а именно, направления прихода (DOA) и диффузности звука. Параметрическое описание позволяет воспроизводить первоначальное пространственное изображение с произвольными конфигурациями громкоговорителей. Это означает, что воссоздаваемое пространственное изображение на стороне дальнего конца согласуется с пространственным изображением в ходе записи на стороне ближнего конца. Если же, например, видео дополняет записанное аудио, то воспроизводимый пространственный звук не обязательно выравнивать с видеоизображением. Кроме того, воссоздаваемое акустическое изображение невозможно регулировать при изменении визуальных изображений, например, когда изменяется направление наведения и масштабирование камеры. Это означает, что DirAC не позволяет регулировать воссоздаваемое акустическое изображение до произвольного желаемого пространственного изображения.
В [5] акустическое масштабирование реализовано на основании DirAC. DirAC представляет приемлемую основу для реализации акустического масштабирования, поскольку оно основано на простой, но эффективной модели сигнала, предполагающей, что звуковое поле в частотно-временной области состоит из одиночной плоской волны плюс диффузный звук. Основные параметры модели, например, DOA и диффузность, используются для разделения прямого звука и диффузного звука и для создания эффекта акустического масштабирования. Параметрическое описание пространственного звука позволяет эффективно передавать звуковую сцену стороне дальнего конца, предоставляя при этом пользователю полное управление эффектом масштабирования и воспроизведением пространственного звука. Хотя DirAC использует множественные микрофоны для оценивания параметров модели, для выделения прямого звука и диффузного звука применяются только одноканальные фильтры, ограничивающие качество воспроизводимого звука. Кроме того, предполагается, что все источники в звуковой сцене располагаются на окружности, и воспроизведение пространственного звука осуществляется согласно изменению положения аудиовизуальной камеры, которое не согласуется с визуальным масштабированием. Фактически, масштабирование изменяет угол зрения камеры, в то время как расстояние до визуальных объектов и их относительные положения в изображении остаются неизменными, в отличие от движения камеры.
Родственным подходом является так называемый метод виртуальных микрофонов (VM) [6,7], который опирается на ту же модель сигнала, что и DirAC, но позволяет синтезировать сигнал несуществующего (виртуального) микрофона в произвольном положении в звуковой сцене. Движение VM к источнику звука аналогично перемещению камеры в новое положение. VM реализован с использованием многоканальных фильтров для повышения качества звука, но требует несколько распределенных микрофонных решеток для оценивания параметров модели.
Однако очевидно, что можно предложить дополнительно усовершенствованные принципы обработки аудиосигнала.
Таким образом, задачей настоящего изобретения является обеспечение усовершенствованных принципов обработки аудиосигнала. Задача настоящего изобретения решается путем обеспечения системы по п. 1, устройства по п. 13, способа по п. 14, способа по п. 15 и компьютерной программы по п. 16.
Предусмотрена система для генерации одного или более выходных аудиосигналов. Система содержит модуль разложения, процессор сигналов и выходной интерфейс. Модуль разложения выполнен с возможностью приема двух или более входных аудиосигналов, причем модуль разложения выполнен с возможностью генерации прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более входных аудиосигналов, и модуль разложения выполнен с возможностью генерации диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более входных аудиосигналов. Процессор сигналов выполнен с возможностью приема прямого компонентного сигнала, диффузного компонентного сигнала и информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов. Кроме того, процессор сигналов выполнен с возможностью генерации одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала. Для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, процессор сигналов выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления, процессор сигналов выполнен с возможностью применения упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и процессор сигналов выполнен с возможностью объединения упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала. Выходной интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов.
Согласно вариантам осуществления, предусмотрены принципы обеспечения записи и воспроизведения пространственного звука, позволяющие, например, согласовывать воссоздаваемое акустическое изображение с желаемым пространственным изображением, которое, например, определяется пользователем на стороне дальнего конца или видеоизображением. Предложенный подход предусматривает использование микрофонной решетки на стороне ближнего конца, которая позволяет разлагать захваченный звук на составляющие прямого звука и составляющую диффузного звука. Затем выделенные составляющие звука передаются стороне дальнего конца. Согласованное воспроизведение пространственного звука можно реализовать, например, посредством взвешенной суммы выделенного прямого звука и диффузного звука, где весовые коэффициенты зависят от желаемого пространственного изображения, с которым нужно согласовывать воспроизводимый звук, например, весовые коэффициенты зависят от направления наведения и коэффициента масштабирования видеокамеры, которые могут, например, дополнять аудиозапись. Предусмотрены принципы использования информированных многоканальных фильтров для выделения прямого звука и диффузного звука.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью определения двух или более выходных аудиосигналов, причем для каждого выходного аудиосигнала из двух или более выходных аудиосигналов панорамирующая функция усиления может, например, присваиваться упомянутому выходному аудиосигналу, причем панорамирующая функция усиления каждого из двух или более выходных аудиосигналов содержит множество значений аргумента панорамирующей функции, причем возвращаемое значение панорамирующей функции может, например, присваиваться каждому из упомянутых значений аргумента панорамирующей функции, причем, когда упомянутая панорамирующая функция усиления принимает одно из упомянутых значений аргумента панорамирующей функции, упомянутая панорамирующая функция усиления может, например, быть выполнена с возможностью возвращения возвращаемого значения панорамирующей функции, присваиваемого упомянутому одному из упомянутых значений аргумента панорамирующей функции, и при этом процессор сигналов может, например, быть выполнен с возможностью определения каждого из двух или более выходных аудиосигналов в зависимости от зависящего от направления значения аргумента из значений аргумента панорамирующей функции панорамирующей функции усиления, присваиваемой упомянутому выходному аудиосигналу, причем упомянутое зависящее от направления значение аргумента зависит от направления прихода.
Согласно варианту осуществления, панорамирующая функция усиления каждого из двух или более выходных аудиосигналов имеет один или более глобальных максимумов, являющихся одним из значений аргумента панорамирующей функции, причем для каждого из одного или более глобальных максимумов каждой панорамирующей функции усиления, не существует других значений аргумента панорамирующей функции, для которых упомянутая панорамирующая функция усиления возвращает более высокое возвращаемое значение панорамирующей функции, чем для упомянутых глобальных максимумов, и при этом, для каждой пары первого выходного аудиосигнала и второго выходного аудиосигнала из двух или более выходных аудиосигналов, по меньшей мере, один из одного или более глобальных максимумов панорамирующей функции усиления первого выходного аудиосигнала может, например, отличаться от любого из одного или более глобальных максимумов панорамирующей функции усиления второго выходного аудиосигнала.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от функции окна усиления, причем функция окна усиления может, например, быть выполнена с возможностью возвращения возвращаемого значения функции окна при приеме значения аргумента функции окна, причем, если значение аргумента функции окна может, например, быть больше нижнего порога окна и меньше верхнего порога окна, функция окна усиления может, например, быть выполнена с возможностью возвращения возвращаемого значения функции окна, которое больше любого возвращаемого значения функции окна, возвращаемого функцией окна усиления, если значение аргумента функции окна может, например, быть меньше нижнего порога или больше верхнего порога.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с дополнительной возможностью приема информации ориентации, указывающей угловой сдвиг направления наведения относительно направления прихода, и при этом, по меньшей мере, одна из панорамирующей функции усиления и функции окна усиления зависит от информации ориентации; или модуль вычисления функции усиления может, например, быть выполнен с дополнительной возможностью приема информации масштабирования, причем информация масштабирования указывает угол раствора камеры, и при этом, по меньшей мере, одна из панорамирующей функции усиления и функции окна усиления зависит от информации масштабирования; или модуль вычисления функции усиления может, например, быть выполнен с дополнительной возможностью приема параметра калибровки, и при этом, по меньшей мере, одна из панорамирующей функции усиления и функции окна усиления зависит от параметра калибровки.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью приема информации расстояния, причем процессор сигналов может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от информации расстояния.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью приема первоначального значения угла в зависимости от первоначального направления прихода, которое является направлением прихода прямых составляющих сигнала двух или более входных аудиосигналов, и может, например, быть выполнен с возможностью приема информации расстояния, причем процессор сигналов может, например, быть выполнен с возможностью вычисления измененного значения угла в зависимости от первоначального значения угла и в зависимости от информации расстояния, и при этом процессор сигналов может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от измененного значения угла.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью генерации одного или более выходных аудиосигналов путем проведения низкочастотной фильтрации, или путем прибавления задержанного прямого звука, или путем проведения ослабления прямого звука, или путем проведения временного сглаживания, или путем проведения расширения направления прихода, или путем проведения декорреляции.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью генерации двух или более выходных аудиоканалов, причем процессор сигналов может, например, быть выполнен с возможностью применения диффузного коэффициента усиления к диффузному компонентному сигналу для получения промежуточного диффузного сигнала, и при этом процессор сигналов может, например, быть выполнен с возможностью генерации одного или более декоррелированных сигналов из промежуточного диффузного сигнала путем проведения декорреляции, причем один или более декоррелированных сигналов образуют один или более обработанных диффузных сигналов, или промежуточный диффузный сигнал и один или более декоррелированных сигналов образуют один или более обработанных диффузных сигналов.
Согласно варианту осуществления, прямой компонентный сигнал и один или более дополнительных прямых компонентных сигналов образуют группу из двух или более прямых компонентных сигналов, причем модуль разложения может, например, быть выполнен с возможностью генерации одного или более дополнительных прямых компонентных сигналов, содержащих дополнительные прямые составляющие сигнала двух или более входных аудиосигналов, причем направление прихода и одно или более дополнительных направлений прихода образуют группу из двух или более направлений прихода, причем каждое направление прихода из группы из двух или более направлений прихода может, например, присваиваться в точности одному прямому компонентному сигналу из группы из двух или более прямых компонентных сигналов, причем количество прямых компонентных сигналов из двух или более прямых компонентных сигналов, и количество направлений прихода двух направлений прихода может, например, быть равным, причем процессор сигналов может, например, быть выполнен с возможностью приема группы из двух или более прямых компонентных сигналов и группы из двух или более направлений прихода, и при этом, для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, процессор сигналов может, например, быть выполнен с возможностью определения, для каждого прямого компонентного сигнала из группы из двух или более прямых компонентных сигналов, прямого коэффициента усиления в зависимости от направления прихода упомянутого прямого компонентного сигнала, процессор сигналов может, например, быть выполнен с возможностью генерации группы из двух или более обработанных прямых сигналов путем применения, для каждого прямого компонентного сигнала из группы из двух или более прямых компонентных сигналов, прямого коэффициента усиления упомянутого прямого компонентного сигнала к упомянутому прямому компонентному сигналу, и процессор сигналов может, например, быть выполнен с возможностью объединения одного из одного или более обработанных диффузных сигналов и каждого обработанного сигнала из группы из двух или более обработанных сигналов для генерации упомянутого выходного аудиосигнала.
Согласно варианту осуществления, количество прямых компонентных сигналов из группы из двух или более прямых компонентных сигналов плюс 1 может, например, быть меньше количества входных аудиосигналов, принимаемых приемным интерфейсом.
Кроме того, может, например, быть предусмотрен слуховой аппарат или вспомогательное слуховое устройство, содержащее вышеописанную систему.
Кроме того, предусмотрено устройство для генерации одного или более выходных аудиосигналов. Устройство содержит процессор сигналов и выходной интерфейс. Процессор сигналов выполнен с возможностью приема прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более первоначальных аудиосигналов, причем процессор сигналов выполнен с возможностью приема диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более первоначальных аудиосигналов, и при этом процессор сигналов выполнен с возможностью приема информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов. Кроме того, процессор сигналов выполнен с возможностью генерации одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала. Для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, процессор сигналов выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления, процессор сигналов выполнен с возможностью применения упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и процессор сигналов выполнен с возможностью объединения упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала. Выходной интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов.
Кроме того, предусмотрен способ генерации одного или более выходных аудиосигналов. Способ содержит:
- прием двух или более входных аудиосигналов.
- генерацию прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более входных аудиосигналов.
- генерацию диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более входных аудиосигналов.
- прием информации направления в зависимости от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов.
- генерацию одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала.
- для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, определение, в зависимости от направления прихода, прямого коэффициента усиления, применение упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и объединение упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала, и
- вывод одного или более выходных аудиосигналов.
Кроме того, предусмотрен способ генерации одного или более выходных аудиосигналов. Способ содержит:
- прием прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более первоначальных аудиосигналов.
- прием диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более первоначальных аудиосигналов.
- прием информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов.
- генерацию одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала.
- для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, определение, в зависимости от направления прихода, прямого коэффициента усиления, применение упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и объединение упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала, и
- вывод одного или более выходных аудиосигналов.
Кроме того, предусмотрены компьютерные программы, причем каждая из компьютерных программ выполнена с возможностью осуществления одного из вышеописанных способов при выполнении на компьютере или процессоре сигналов, таким образом, что каждый из вышеописанных способов осуществляется одной из компьютерных программ.
Кроме того, предусмотрена система для генерации одного или более выходных аудиосигналов. Система содержит модуль разложения, процессор сигналов и выходной интерфейс. Модуль разложения выполнен с возможностью приема двух или более входных аудиосигналов, причем модуль разложения выполнен с возможностью генерации прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более входных аудиосигналов, и модуль разложения выполнен с возможностью генерации диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более входных аудиосигналов. Процессор сигналов выполнен с возможностью приема прямого компонентного сигнала, диффузного компонентного сигнала и информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов. Кроме того, процессор сигналов выполнен с возможностью генерации одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала. Для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, процессор сигналов выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления, процессор сигналов выполнен с возможностью применения упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и процессор сигналов выполнен с возможностью объединения упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала. Выходной интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов. Процессор сигналов содержит модуль вычисления функции усиления для вычисления одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления. Кроме того, процессор сигналов дополнительно содержит модификатор сигнала для выбора, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации поисковой таблицы для каждой функции усиления из одной или более функций усиления, причем поисковая таблица содержит множество записей, причем каждая из записей поисковой таблицы содержит одно из значений аргумента функции усиления и возвращаемого значения функции усиления, присваиваемого упомянутому значению аргумента функции усиления, причем модуль вычисления функции усиления может, например, быть выполнен с возможностью сохранения поисковой таблицы каждой функции усиления в постоянной или непостоянной памяти, и при этом модификатор сигнала может, например, быть выполнен с возможностью получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента, путем считывания упомянутого возвращаемого значения функции усиления из одной из одной или более поисковых таблиц, хранящихся в памяти.
Согласно варианту осуществления, процессор сигналов может, например, быть выполнен с возможностью определения двух или более выходных аудиосигналов, причем модуль вычисления функции усиления может, например, быть выполнен с возможностью вычисления двух или более функций усиления, причем, для каждого выходного аудиосигнала из двух или более выходных аудиосигналов, модуль вычисления функции усиления может, например, быть выполнен с возможностью вычисления панорамирующей функции усиления, присваиваемой упомянутому выходному аудиосигналу в качестве одной из двух или более функций усиления, причем модификатор сигнала может, например, быть выполнен с возможностью генерации упомянутого выходного аудиосигнала в зависимости от упомянутой панорамирующей функции усиления.
Согласно варианту осуществления, панорамирующая функция усиления каждого из двух или более выходных аудиосигналов может, например, иметь один или более глобальных максимумов, являющихся одним из значений аргумента функции усиления упомянутой панорамирующей функции усиления, причем для каждого из одного или более глобальных максимумов упомянутой панорамирующей функции усиления, не существует других значений аргумента функции усиления, для которых упомянутая панорамирующая функция усиления возвращает более высокое возвращаемое значение функции усиления, чем для упомянутых глобальных максимумов, и при этом, для каждой пары первого выходного аудиосигнала и второго выходного аудиосигнала из двух или более выходных аудиосигналов, по меньшей мере, один из одного или более глобальных максимумов панорамирующей функции усиления первого выходного аудиосигнала может, например, отличаться от любого из одного или более глобальных максимумов панорамирующей функции усиления второго выходного аудиосигнала.
Согласно варианту осуществления, для каждого выходного аудиосигнала из двух или более выходных аудиосигналов, модуль вычисления функции усиления может, например, быть выполнен с возможностью вычисления функции окна усиления, присваиваемой упомянутому выходному аудиосигналу в качестве одной из двух или более функций усиления, причем модификатор сигнала может, например, быть выполнен с возможностью генерации упомянутого выходного аудиосигнала в зависимости от упомянутой функции окна усиления, и при этом, если значение аргумента упомянутой функции окна усиления больше нижнего порога окна и меньше верхнего порога окна, функция окна усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, которое больше любого возвращаемого значения функции усиления, возвращаемого упомянутой функцией окна усиления, если значение аргумента функции окна меньше нижнего порога или больше верхнего порога.
Согласно варианту осуществления, функция окна усиления каждого из двух или более выходных аудиосигналов имеет один или более глобальных максимумов, являющихся одним из значений аргумента функции усиления упомянутой функции окна усиления, причем для каждого из одного или более глобальных максимумов упомянутой функции окна усиления, не существует других значений аргумента функции усиления, для которых упомянутая функция окна усиления возвращает более высокое возвращаемое значение функции усиления, чем для упомянутых глобальных максимумов, и при этом, для каждой пары первого выходного аудиосигнала и второго выходного аудиосигнала из двух или более выходных аудиосигналов, по меньшей мере, один из одного или более глобальных максимумов функции окна усиления первого выходного аудиосигнала может, например, быть равен одному из одного или более глобальных максимумов функции окна усиления второго выходного аудиосигнала.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с дополнительной возможностью приема информации ориентации, указывающей угловой сдвиг направления наведения относительно направления прихода, и модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации панорамирующей функции усиления каждого из выходных аудиосигналов в зависимости от информации ориентации.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации функции окна усиления каждого из выходных аудиосигналов в зависимости от информации ориентации.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с дополнительной возможностью приема информации масштабирования, причем информация масштабирования указывает угол раствора камеры, и модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации панорамирующей функции усиления каждого из выходных аудиосигналов в зависимости от информации масштабирования.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации функции окна усиления каждого из выходных аудиосигналов в зависимости от информации масштабирования.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с дополнительной возможностью приема параметра калибровки для выравнивания визуального изображения и акустического изображения, и модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации панорамирующей функции усиления каждого из выходных аудиосигналов в зависимости от параметра калибровки.
Согласно варианту осуществления, модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации функции окна усиления каждого из выходных аудиосигналов в зависимости от параметра калибровки.
Система по любому из предыдущих пунктов, модуль вычисления функции усиления может, например, быть выполнен с возможностью приема информации в визуальном изображении, и модуль вычисления функции усиления может, например, быть выполнен с возможностью генерации, в зависимости от информации в визуальном изображении, размывающей функции, возвращающей комплексные коэффициенты усиления для реализации перцептивного расширения источника звука.
Кроме того, предусмотрено устройство для генерации одного или более выходных аудиосигналов. Устройство содержит процессор сигналов и выходной интерфейс. Процессор сигналов выполнен с возможностью приема прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более первоначальных аудиосигналов, причем процессор сигналов выполнен с возможностью приема диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более первоначальных аудиосигналов, и при этом процессор сигналов выполнен с возможностью приема информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов. Кроме того, процессор сигналов выполнен с возможностью генерации одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала. Для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, процессор сигналов выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления, процессор сигналов выполнен с возможностью применения упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и процессор сигналов выполнен с возможностью объединения упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала. Выходной интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов. Процессор сигналов содержит модуль вычисления функции усиления для вычисления одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления. Кроме того, процессор сигналов дополнительно содержит модификатор сигнала для выбора, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
Кроме того, предусмотрен способ генерации одного или более выходных аудиосигналов. Способ содержит:
- прием двух или более входных аудиосигналов,
- генерацию прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более входных аудиосигналов,
- генерацию диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более входных аудиосигналов,
- прием информации направления в зависимости от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов,
- генерацию одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала,
- для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, определение, в зависимости от направления прихода, прямого коэффициента усиления, применение упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и объединение упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала, и
- вывод одного или более выходных аудиосигналов.
Генерация одного или более выходных аудиосигналов содержит вычисление одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления. Кроме того, генерация одного или более выходных аудиосигналов содержит выбор, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
Кроме того, предусмотрен способ генерации одного или более выходных аудиосигналов. Способ содержит:
- прием прямого компонентного сигнала, содержащего прямые составляющие сигнала двух или более первоначальных аудиосигналов,
- прием диффузного компонентного сигнала, содержащего диффузные составляющие сигнала двух или более первоначальных аудиосигналов,
- прием информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов,
- генерацию одного или более обработанных диффузных сигналов в зависимости от диффузного компонентного сигнала,
- для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, определение, в зависимости от направления прихода, прямого коэффициента усиления, применение упомянутого прямого коэффициента усиления к прямому компонентному сигналу для получения обработанного прямого сигнала, и объединение упомянутого обработанного прямого сигнала и одного из одного или более обработанных диффузных сигналов для генерации упомянутого выходного аудиосигнала, и
- вывод одного или более выходных аудиосигналов.
Генерация одного или более выходных аудиосигналов содержит вычисление одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления. Кроме того, генерация одного или более выходных аудиосигналов содержит выбор, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
Кроме того, предусмотрены компьютерные программы, причем каждая из компьютерных программ выполнена с возможностью осуществления одного из вышеописанных способов при выполнении на компьютере или процессоре сигналов, таким образом, что каждый из вышеописанных способов осуществляется одной из компьютерных программ.
Далее, более подробно описаны варианты осуществления настоящего изобретения со ссылкой на чертежи, в которых:
фиг. 1a - система согласно варианту осуществления,
фиг. 1b - устройство согласно варианту осуществления,
фиг. 1c - система согласно другому варианту осуществления,
фиг. 1d - устройство согласно другому варианту осуществления,
фиг. 2 - система согласно другому варианту осуществления,
фиг. 3 - модули для разложения на прямые/диффузные составляющие и для параметра оценивания системы согласно варианту осуществления,
фиг. 4 - первая геометрия для воспроизведения акустической сцены с акустическим масштабированием согласно варианту осуществления, где источник звука располагается в фокальной плоскости,
фиг. 5 - панорамирующие функции для согласованного воспроизведения сцены и для акустической масштабирования,
фиг. 6 - дополнительные панорамирующие функции для согласованного воспроизведения сцены и для акустической масштабирования согласно вариантам осуществления,
фиг. 7 - иллюстративные функции окна усиления для различных ситуации согласно вариантам осуществления,
фиг. 8 - функция диффузного усиления согласно варианту осуществления,
фиг. 9 - вторая геометрия для воспроизведения акустической сцены с акустическим масштабированием согласно варианту осуществления, где источник звука не располагается в фокальной плоскости,
фиг. 10 - функции для объяснения размывания прямого звука, и
фиг. 11 - слуховые аппараты согласно вариантам осуществления.
На фиг. 1a показана система для генерации одного или более выходных аудиосигналов. Система содержит модуль 101 разложения, процессор 105 сигнала и выходной 106 интерфейс.
dir
1
2
p
diff
1
2
p
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Модуль 101 разложения выполнен с возможностью генерации прямого компонентного сигнала X(,), содержащего прямые составляющие сигнала двух или более входных аудиосигналов x(,), x(,), … x(,). Кроме того, модуль 101 разложения выполнен с возможностью генерации диффузного компонентного сигнала X(,), содержащего диффузные составляющие сигнала двух или более входных аудиосигналов x(,), x(,), … x(,).
dir
diff
1
2
p
k
n
k
n
k
n
k
n
k
n
Процессор 105 сигнала выполнен с возможностью приема прямого компонентного сигнала X(,), диффузного компонентного сигнала X(,) и информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,).
diff,1
diff,2
diff,v
diff
k
n
k
n
k
n
k
n
Кроме того, процессор 105 сигнала выполнен с возможностью генерации одного или более обработанных диффузных сигналов Y(,), Y(,), …, Y(,) в зависимости от диффузного компонентного сигнала X(,).
i
1
2
v
i
i
dir
dir,i
dir,i
diff,i
diff
1
diff
2
diff
v
i
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Для каждого выходного аудиосигнала Y(,) из одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,), процессор 105 сигнала выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления G(,), процессор 105 сигнала выполнен с возможностью применения упомянутого прямого коэффициента усиления G(,) к прямому компонентному сигналу X(,) для получения обработанного прямого сигнала Y(,), и процессор 105 сигнала выполнен с возможностью объединения упомянутого обработанного прямого сигнала Y(,) и одного Y(,) из одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) для генерации упомянутого выходного аудиосигнала Y(,).
1
2
v
k
n
k
n
k
n
Выходной 106 интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,).
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
1
2
p
1
2
p
1
2
p
Как описано, информация направления зависит от направления прихода ϕ(,) прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,). Например, направление прихода прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,) может, например, само быть информацией направления. Или, например, информация направления, может, например, быть направлением распространения прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,). Направление прихода указывает от принимающей микрофонной решетки к источнику звука, направление распространения указывает от источника звука к принимающей микрофонной решетке. Таким образом, направление распространения в точности противоположно направлению прихода и поэтому зависит от направления прихода.
i
1
2
v
k
n
k
n
k
n
k
n
Для генерации одного Y(,) из одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,), процессор 105 сигнала
i
k
n
- определяет, в зависимости от направления прихода, прямой коэффициент усиления G(,),
i
dir
dir,i
k
n
k
n
k
n
- применяет упомянутый прямой коэффициент усиления G(,) к прямому компонентному сигналу X(,) для получения обработанного прямого сигнала Y(,), и
dir,i
diff,i
diff
1
diff
2
diff
v
i
k
n
k
n
k
n
k
n
k
n
k
n
- объединяет упомянутый обработанный прямой сигнал Y(,) и один Y(,) из одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) для генерации упомянутого выходного аудиосигнала Y(,).
1
2
v
1
2
v
1
2
v
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Это осуществляется для каждого из одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,), которые должны быть сгенерированными Y(,), Y(,), …, Y(,). Процессор сигналов может, например, быть выполнен с возможностью генерации одного, двух, трех или более выходных аудиосигналов Y(,), Y(,), …, Y(,).
diff
1
diff
2
diff
v
diff
1
diff
2
diff
v
diff
k
n
k
n
k
n
k
n
k
n
k
n
Q
k
n
k
n
В отношении одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,), согласно варианту осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью генерации одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) путем применения диффузного коэффициента усиления (,) к диффузному компонентному сигналу X(,).
dir
1
2
p
diff
1
2
p
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Модуль 101 разложения выполнен с возможностью, например, генерации прямого компонентного сигнал X(,), содержащего прямые составляющие сигнала двух или более входных аудиосигналов x(,), x(,), … x(,), и диффузного компонентного сигнала X(,), содержащего диффузные составляющие сигнала двух или более входных аудиосигналов x(,), x(,), … x(,), путем разложения одного или более входных аудиосигналов на прямой компонентный сигнал и диффузный компонентный сигнал.
1
2
v
diff
diff
1
diff
2
diff
v
diff
1
diff
2
diff
v
k
n
k
n
k
n
Q
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
В конкретном варианте осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью генерации двух или более выходных аудиоканалов Y(,), Y(,), …, Y(,). Процессор 105 сигнала может, например, быть выполнен с возможностью применения диффузного коэффициента усиления (,) к диффузному компонентному сигналу X(,) для получения промежуточного диффузного сигнала. Кроме того, процессор 105 сигнала может, например, быть выполнен с возможностью генерации одного или более декоррелированных сигналов из промежуточного диффузного сигнала путем проведения декорреляции, причем один или более декоррелированных сигналов образуют один или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,), или промежуточный диффузный сигнал и один или более декоррелированных сигналов образуют один или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,).
diff
1
diff
2
diff
v
1
2
v
k
n
k
n
k
n
k
n
k
n
k
n
Например, количество обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) и количество выходных аудиосигналов может, например, быть равно Y(,), Y(,), …, Y(,).
Генерация одного или более декоррелированных сигналов из промежуточного диффузного сигнала может, например, проводиться путем применения задержек к промежуточному диффузному сигналу, или, например, путем осуществления свертки промежуточного диффузного сигнала с шумовым импульсом или, например, путем осуществления свертки промежуточного диффузного сигнала с импульсным откликом и т.д. Альтернативно или дополнительно, можно применять, например, любой другой традиционный метод декорреляции.
1
2
v
1
2
v
dir
1
2
v
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Для получения v выходных аудиосигналов Y(,), Y(,), …, Y(,), v определений v прямых коэффициентов усиления G(,), G(,), …, G(,) и v применений соответствующего коэффициента усиления к одному или более прямым компонентным сигналам X(,) можно, например, использовать для получения v выходных аудиосигналов Y(,), Y(,), …, Y(,).
1
2
v
diff
diff
k
n
k
n
k
n
k
n
Q
k
n
Q
k
n
k
n
Для получения v выходных аудиосигналов Y(,), Y(,), …, Y(,) может, например, потребоваться один-единственный диффузный компонентный сигнал X(,), одно-единственное определение одиночного диффузного коэффициента усиления (,) и одно-единственное применение диффузного коэффициента усиления (,) к диффузному компонентному сигналу X(,). Для обеспечения декорреляции, методы декорреляции можно применять только после применения диффузного коэффициента усиления к диффузному компонентному сигналу.
diff
dir,i
i
k
n
k
n
k
n
Согласно варианту осуществления, показанному на фиг. 1a, тот же обработанный диффузный сигнал Y(,) затем объединяется с соответствующим одним (Y(,)) из обработанных прямых сигналов для получения соответствующего одного (Y(,)) из выходных аудиосигналов.
1
2
p
1
2
v
dir
diff
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Согласно варианту осуществления, показанному на фиг. 1a, учитывается направление прихода прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,). Таким образом, выходные аудиосигналы Y(,), Y(,), …, Y(,) можно генерировать, гибко регулируя прямые компонентные сигналы X(,) и диффузные компонентные сигналы X(,) в зависимости от направления прихода. Достигаются улучшенные возможности адаптации.
1
2
v
k
n
k
n
k
n
k
n
Согласно вариантам осуществления выходные аудиосигналы Y(,), Y(,), …, Y(,) можно, например, определять для каждого частотно-временного бина (,) частотно-временной области.
1
2
p
1
2
p
1
2
p
diff
dir
dir
diff
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Согласно варианту осуществления, модуль 101 разложения может, например, быть выполнен с возможностью приема двух или более входных аудиосигналов x(,), x(,), … x(,). В другом варианте осуществления, модуль 101 разложения может, например, быть выполнен с возможностью приема трех или более входных аудиосигналов x(,), x(,), … x(,). Модуль 101 разложения может, например, быть выполнен с возможностью разложения двух или более (или трех или более входных аудиосигналов) x(,), x(,), … x(,) на диффузный компонентный сигнал X(,), который не является многоканальным сигналом, и один или более прямых компонентных сигналов X(,). То, что аудиосигнал не является многоканальным сигналом, означает, что аудиосигнал сам по себе не содержит более одного аудиоканала. Таким образом, аудиоинформация множества входных аудиосигналов передается в двух компонентных сигналах (X(,), X(,)) (и, возможно, в дополнительной вспомогательной информации), что способствует эффективной передаче.
i
1
2
v
i
i
i
dir
dir,i
i
dir,i
i
diff
i
1
2
v
1
2
v
diff
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Процессор 105 сигнала, может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала Y(,) из двух или более выходных аудиосигналов Y(,), Y(,), …, Y(,) путем определения прямого коэффициента усиления G(,) для упомянутого выходного аудиосигнала Y(,), путем применения упомянутого прямого коэффициента усиления G(,) к одному или более прямым компонентным сигналам X(,) для получения обработанного прямого сигнала Y(,) для упомянутого выходного аудиосигнала Y(,), и путем объединения упомянутого обработанного прямого сигнала Y(,) для упомянутого выходного аудиосигнала Y(,) и обработанного диффузного сигнала Y(,) для генерации упомянутого выходного аудиосигнала Y(,). Выходной 106 интерфейс выполнен с возможностью вывода двух или более выходных аудиосигналов Y(,), Y(,), …, Y(,). Особенно предпочтительна генерация два или более выходных аудиосигналов Y(,), Y(,), …, Y(,) путем определения одного-единственного обработанного диффузного сигнала Y(,).
1
2
v
k
n
k
n
k
n
На фиг. 1b показано устройство для генерации одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,) согласно варианту осуществления. Устройство реализует так называемую сторону ʺдальнего концаʺ системы, показанной на фиг. 1a.
Устройство, показанное на фиг. 1b, содержит процессор 105 сигнала и выходной 106 интерфейс.
dir
1
2
p
diff
1
2
p
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Процессор 105 сигнала выполнен с возможностью приема прямого компонентного сигнала X(,), содержащего прямые составляющие сигнала двух или более первоначальных аудиосигналов x(,), x(,), … x(,) (например, входных аудиосигналов, показанных на фиг. 1a). Кроме того, процессор 105 сигнала выполнен с возможностью приема диффузного компонентного сигнала X(,), содержащего диффузные составляющие сигнала двух или более первоначальных аудиосигналов x(,), x(,), … x(,). Кроме того, процессор 105 сигнала выполнен с возможностью приема информации направления, причем упомянутая информация направления зависит от направления прихода прямых составляющих сигнала двух или более входных аудиосигналов.
diff
1
diff
2
diff
v
diff
k
n
k
n
k
n
k
n
Процессор 105 сигнала выполнен с возможностью генерации одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) в зависимости от диффузного компонентного сигнала X(,).
i
1
2
v
i
i
dir
dir,i
dir,i
diff,i
diff
1
diff
2
diff
v
i
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
Для каждого выходного аудиосигнала Y(,) из одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,), процессор 105 сигнала выполнен с возможностью определения, в зависимости от направления прихода, прямого коэффициента усиления G(,), процессор 105 сигнала выполнен с возможностью применения упомянутого прямого коэффициента усиления G(,) к прямому компонентному сигналу X(,) для получения обработанного прямого сигнала Y(,), и процессор 105 сигнала выполнен с возможностью объединения упомянутого обработанного прямого сигнала Y(,) и одного Y(,) из одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) для генерации упомянутого выходного аудиосигнала Y(,).
1
2
v
k
n
k
n
k
n
Выходной 106 интерфейс выполнен с возможностью вывода одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,).
Все конфигурации процессора 105 сигнала, описанного в дальнейшем со ссылкой на систему, также могут быть реализованы в устройстве согласно фиг. 1b. Это относится, в частности, к различным конфигурациям модификатора 103 сигнала и модуля 104 вычисления функции усиления, которые описаны ниже. То же самое применимо к различных примерам применения описанных ниже принципов.
На фиг. 1c показана система согласно другому варианту осуществления. Согласно фиг. 1c, генератор 105 сигнала, показанный на фиг. 1a, дополнительно содержит модуль 104 вычисления функции усиления для вычисления одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления.
Кроме того, процессор 105 сигнала дополнительно содержит модификатор 103 сигнала для выбора, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
На фиг. 1d показана система согласно другому варианту осуществления. Согласно фиг. 1d, генератор 105 сигнала, показанный на фиг. 1b, дополнительно содержит модуль 104 вычисления функции усиления для вычисления одной или более функций усиления, причем каждая функция усиления из одной или более функций усиления, содержит множество значений аргумента функции усиления, причем возвращаемое значение функции усиления присваивается каждому из упомянутых значений аргумента функции усиления, причем, когда упомянутая функция усиления принимает одно из упомянутых значений аргумента функции усиления, упомянутая функция усиления выполнена с возможностью возвращения возвращаемого значения функции усиления, присваиваемого упомянутому одному из упомянутых значений аргумента функции усиления.
Кроме того, процессор 105 сигнала дополнительно содержит модификатор 103 сигнала для выбора, в зависимости от направления прихода, зависящего от направления значения аргумента из значений аргумента функции усиления функции усиления из одной или более функций усиления, для получения возвращаемого значения функции усиления, присваиваемого упомянутому зависящему от направления значению аргумента из упомянутой функции усиления, и для определения значения коэффициента усиления, по меньшей мере, одного из одного или более выходных аудиосигналов в зависимости от упомянутого возвращаемого значения функции усиления, полученного из упомянутой функции усиления.
Варианты осуществления предусматривают запись и воспроизведение пространственного звука таким образом, что акустическое изображение согласуется с желаемым пространственным изображением, которое определяется, например, видео, дополняющим аудио, на стороне дальнего конца. Некоторые варианты осуществления базируются на записях, сделанных с помощью микрофонной решетки, расположенной на реверберирующей стороне ближнего конца. Варианты осуществления предусматривают, например, акустическое масштабирование, согласованное с визуальным масштабированием камеры. Например, при приближении, прямой звук громкоговорителей воспроизводится с направления, где располагались бы громкоговорители в приближенном визуальном изображении, благодаря чему, визуальное и акустическое изображения выравниваются. Если после приближения громкоговорители располагаются за пределами визуального изображения (или за пределами желаемой пространственной области), прямой звук этих громкоговорителей можно ослаблять, поскольку эти громкоговорители больше не видны, или, например, поскольку прямой звук от этих громкоговорителей не желателен. Кроме того, отношение прямого звука к реверберации можно, например, увеличивать при приближении для имитации меньшего угла раствора визуальной камеры.
Варианты осуществления базируются на принципе разделения записанных сигналов микрофонов на прямой звук источников звука и диффузный звук, например, реверберирующий звук, путем недавнего применения двух многоканальных фильтров на стороне ближнего конца. Эти многоканальные фильтры могут, например, опираться на параметрическую информацию звукового поля, например, DOA прямого звука. В некоторых вариантах осуществления, разделенные прямой звук и диффузный звук могут, например, передаваться стороне дальнего конца совместно с параметрической информацией.
Например, на стороне дальнего конца, конкретные весовые коэффициенты можно, например, применять к выделенным прямому звуку и диффузному звуку, которые регулируют воспроизводимое акустическое изображение таким образом, что полученные выходные аудиосигналы согласуются с желаемым пространственным изображением. Эти весовые коэффициенты моделируют, например, эффект акустической масштабирования, и зависят, например, от направления прихода (DOA) прямого звука и, например, от коэффициента масштабирования и/или направления наведения камеры. Затем окончательные выходные аудиосигналы можно, например, получать путем суммирования взвешенных прямого звука и диффузного звука.
Изложенные принципы реализуют эффективное использование в вышеупомянутом сценарии видеозаписи с помощью бытовых устройств или в сценарии телеконференцсвязи: например, в сценарии видеозаписи, может быть, например, достаточно сохранять или передавать выделенные прямой звук и диффузный звук (вместо сигналов всех микрофонов), сохраняя при этом возможность управления воссоздаваемым пространственным изображением.
Это означает, что если, например, визуальная масштабирование применяется на этапе последующей обработки (цифровой масштабирования), акустическое изображение все еще можно соответственно изменять без необходимости в сохранении первоначальных сигналов микрофонов и доступе к ним. В сценарии телеконференцсвязи, предложенные принципы также можно эффективно использовать, поскольку выделение прямого и диффузного звука можно осуществлять на стороне ближнего конца, сохраняя способность управления воспроизведением пространственного звука (например, изменения конфигурации громкоговорителей) на стороне дальнего конца и выравнивания акустического и визуального изображений. Таким образом, необходимо передавать только несколько аудиосигналов и оцененных DOA в качестве вспомогательной информации, при низкой вычислительной сложности на стороне дальнего конца.
На фиг. 2 показана система согласно варианту осуществления. Сторона ближнего конца содержит модули 101 и 102. Сторона дальнего конца содержит модули 105 и 106. Модуль 105 сам содержит модули 103 и 104. Рассматривая сторону ближнего конца и сторону дальнего конца, следует понимать, что в некоторых вариантах осуществления, первое устройство может реализовать сторону ближнего конца (например, содержащую модули 101 и 102), и второе устройство может реализовать сторону дальнего конца (например, содержащую модули 103 и 104), тогда как в других вариантах осуществления, единое устройство реализует, как сторону ближнего конца, так и сторону дальнего конца, причем такое единое устройство, например, содержит модули 101, 102, 103 и 104.
В частности, на фиг. 2 показана система согласно варианту осуществления содержащая модуль 101 разложения, модуль 102 оценивания параметров, процессор 105 сигнала и выходной 106 интерфейс. Согласно фиг. 2, процессор 105 сигнала содержит модуль 104 вычисления функции усиления и модификатор 103 сигнала. Процессор 105 сигнала и выходной 106 интерфейс могут, например, реализовать устройство, показанное на фиг. 1b.
1
2
p
1
2
p
k
n
k
n
k
n
k
n
k
n
k
n
Кроме того, модуль 102 оценивания параметров, показанный на фиг. 2, может, например, быть выполнен с возможностью приема двух или более входных аудиосигналов x(,), x(,), … x(,). Кроме того, модуль 102 оценивания параметров может, например, быть выполнен с возможностью оценивания направления прихода прямых составляющих сигнала двух или более входных аудиосигналов x(,), x(,), … x(,) в зависимости от двух или более входных аудиосигналов. Процессор 105 сигнала может, например, быть выполнен с возможностью приема информации направления прихода, содержащей направление прихода прямых составляющих сигнала двух или более входных аудиосигналов, от модуля 102 оценивания параметров.
M
X
k
n
k
n
k
n
1
...M
Вход системы, показанной на фиг. 2, состоит из  сигналов микрофонов (,) в частотно-временной области (частотный индекс , временной индекс ). Например, можно предположить, что звуковое поле, захватываемое микрофонами, состоит для каждого (,) из плоской волны, распространяющейся в изотропном диффузном поле. Плоская волна моделирует прямой звук источников звука (например, громкоговорителей), тогда как диффузный звук моделирует реверберацию.
m
Согласно такой модели, сигнал -го микрофона можно выразить в виде
(1)
X
k
n
X
k
n
X
(k
n)
dir,m
diff,m
n,m
где (,) - измеренный прямой звук (плоская волна), (,) - измеренный диффузный звук, и , - шумовая составляющая (например, собственный шум микрофона).
X
k
n
X
k
n
ϕ
k
n
ϕ
k
n
r
k
n
dir
diff
В модуле 101 разложения, показанном на фиг. 2 (разложения на прямые/диффузные составляющие), прямой звук (,) и диффузный звук (,) выделяется из сигналов микрофонов. С этой целью можно применять, например, информированные многоканальные фильтры, описанные ниже. Для разложения на прямые/диффузные составляющие, можно, например, использовать конкретную параметрическую информацию о звуковое поле, например, DOA прямого звука (,). Эту параметрическую информацию можно, например, оценивать из сигналов микрофонов в модуле 102 оценивания параметров. Помимо DOA (,) прямого звука, в некоторых вариантах осуществления, можно, например, оценивать информацию расстояния (,). Эта информация расстояния может, например, описывать расстояние между микрофонной решеткой и источником звука, который испускает плоскую волну. Для оценивания параметров, можно, например, использовать блоки оценивания расстояния и/или традиционные блоки оценивания DOA,. Соответствующие блоки оценивания могут быть, например, описаны ниже.
X
k
n
X
k
n
ϕ
k
n
r
k
n
dir
diff
Выделенный прямой звук (,), выделенный диффузный звук (,) и оцененная параметрическая информация прямого звука, например, DOA (,) и/или расстояние (,), могут, например, затем сохраняться, передаваться стороне дальнего конца, или сразу использоваться для генерации пространственного звука с желаемым пространственным изображением, например, для создания эффекта акустической масштабирования.
X
k
n
X
k
n
ϕ
k
n
r
k
n
dir
diff
Желаемое акустическое изображение, например, эффект акустической масштабирования, генерируется в модификаторе 103 сигнала с использованием выделенного прямого звука (,), выделенного диффузного звука (,) и оцененной параметрической информации (,) и/или (,).
Y
k
n
Y
k
n
i
Y
k
n
X
k
n
X
k
n
i
i
i
dir
diff
Модификатор 103 сигнала может, например, вычислять один или более выходных сигналов (,) в частотно-временной области, которые воссоздают акустическое изображение таким образом, что оно согласуется с желаемым пространственным изображением. Например, выходные сигналы (,) имитируют эффект акустической масштабирования. Наконец, эти сигналы могут преобразовываться обратно во временную область и воспроизводиться, например, через громкоговорители или головные наушники. -й выходной сигнал (,) вычисляется как взвешенная сумма выделенного прямого звука (,) и диффузного звука (,), например,
G
k
n
Q
Q
i
В формулах (2a) и (2b), весовые коэффициенты (,) и  являются параметрами, которые используются для создания желаемого акустического изображения, например, эффекта акустической масштабирования. Например, при приближении, параметр  можно уменьшать таким образом, чтобы ослаблять воспроизводимый диффузный звук.
G
k
n
i
Кроме того, с помощью весовых коэффициентов (,) можно управлять, с какого направления воспроизводить прямой звук, благодаря чему, визуальное и акустическое изображения выравниваются. Кроме того, эффект акустического размывания можно выравнивать с прямым звуком.
G
k
n
Q
G
k
n
Q
g
q
ϕ
k
n
r
k
n
i
i
i
В некоторых вариантах осуществления, весовые коэффициенты (,) и  могут, например, определяться в блоках 201 и 202 выбора коэффициента усиления. Эти блоки могут, например, выбирать надлежащие весовые коэффициенты (,) и  из двух функций усиления, обозначенных  и , в зависимости от оцененной параметрической информации (,) и (,). В математическом выражении,
(3a)
(3b)
g
q
G
k
n
Q
ϕ
k
n
r
k
n
i
i
В некоторых вариантах осуществления, функции усиления  и  могут зависеть от применения и могут, например, генерироваться в модуле 104 вычисления функции усиления. Функции усиления описывают, какие весовые коэффициенты (,) и  следует использовать в (2a) для данной параметрической информации (,) и/или (,), чтобы получить желаемое согласованное пространственное изображение.
G
k
n
Q
g
q
G
k
n
Q
g
q
i
i
i
i
Например, при приближении с помощью визуальной камеры, функции усиления регулируются таким образом, чтобы звук воспроизводился с направлений, где источники наблюдаются в видео. Весовые коэффициенты (,) и  и лежащие в основе функции усиления  и  дополнительно описаны ниже. Следует отметить, что весовые коэффициенты (,) и  и лежащие в основе функции усиления  и  могут, например, быть комплекснозначными. Вычисление функций усиления требует такой информации, как коэффициент масштабирования, ширина визуального изображения, желаемое направление наведения и конфигурация громкоговорителей.
G
k
n
Q
G
k
n
Q
i
i
В других вариантах осуществления, весовые коэффициенты (,) и  вычисляются непосредственно в модификаторе 103 сигнала, вместо того, чтобы сначала вычислять функции усиления в модуле 104 и затем выбирать весовые коэффициенты (,) и  из вычисленных функций усиления в блоках 201 и 202 выбора коэффициента усиления.
Согласно вариантам осуществления, более одной плоской волны на частотно-временной можно, например, подвергаться конкретной обработке. Например, две или более плоских волн в одном и том же частотном диапазоне могут, например, приходить с двух разных направлений и записываться микрофонной решеткой в один и тот же момент времени. Эти две плоские волны могут приходить с разных направлений. В таких сценариях, прямые составляющие сигнала двух или более плоских волн и их направление прихода можно, например, рассматривать по отдельности.
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
k
n
k
n
k
n
dir
1
dir
2
dir
q
dir
1
dir
2
dir
q
dir
2
dir
q
1
2
p
Согласно вариантам осуществления, прямой компонентный сигнал (,) и один или более дополнительных прямых компонентных сигналов (,), …, (,) могут, например, образовывать группу из двух или более прямых компонентных сигналов (,), (,), …, (,), причем модуль 101 разложения может, например, быть выполнен с возможностью генерации одного или более дополнительных прямых компонентных сигналов (,), …, (,), содержащих дополнительные прямые составляющие сигнала двух или более входных аудиосигналов x(,), x(,), … x(,).
X
k
n
X
k
n
X
k
n
X
k
n
dir
j
dir
1
dir
2
dir
q,m
Направление прихода и одно или более дополнительных направлений прихода образуют группу из двух или более направлений прихода, причем каждое направление прихода из группы из двух или более направлений прихода присваивается в точности одному прямому компонентному сигналу (,) группы из двух или более прямых компонентных сигналов (,), (,), …, (,), причем количество прямых компонентных сигналов из двух или более прямых компонентных сигналов, и количество направлений прихода двух направлений прихода равны.
X
k
n
X
k
n
X
k
n
dir
1
dir
2
dir
q
Процессор 105 сигнала может, например, быть выполнен с возможностью приема группы из двух или более прямых компонентных сигналов (,), (,), …, (,) и группы из двух или более направлений прихода.
i
1
2
v
k
n
k
n
k
n
k
n
Для каждого выходного аудиосигнала Y(,) из одного или более выходных аудиосигналов Y(,), Y(,), …, Y(,),
X
k
n
X
k
n
X
k
n
X
k
n
G
k
n
X
k
n
dir
j
dir
1
dir
2
dir
q
j,i
dir
j
- процессор 105 сигнала может, например, быть выполнен с возможностью определения, для каждого прямого компонентного сигнала (,) из группы из двух или более прямых компонентных сигналов (,), (,), …, (,), прямого коэффициента усиления (,) в зависимости от направления прихода упомянутого прямого компонентного сигнала (,),
Y
k
n
Y
k
n
Y
k
n
X
k
n
X
k
n
X
k
n
X
k
n
G
k
n
X
k
n
X
k
n
dir
1
,i
dir
2
,i
dir
q,i
dir
j
dir
1
dir
2
dir
q
j,i
dir
j
dir
j
- процессор 105 сигнала может, например, быть выполнен с возможностью генерации группы из двух или более обработанных прямых сигналов (,), (,), …, (,) путем применения, для каждого прямого компонентного сигнала (,) из группы из двух или более прямых компонентных сигналов (,), (,), …, (,), прямого коэффициента усиления (,) упомянутого прямого компонентного сигнала (,) к упомянутому прямому компонентному сигналу (,), и
diff,i
diff
1
diff
2
diff
v
dir
j
,i
dir
1
,i
dir
2
,i
dir
q,i
i
k
n
k
n
k
n
k
n
Y
k
n
Y
k
n
Y
k
n
Y
k
n
Y
k
n
- процессор 105 сигнала может, например, быть выполнен с возможностью объединения одного Y(,) из одного или более обработанных диффузных сигналов Y,(,), Y,(,), …, Y,(,) и каждого обработанного сигнала (,) из группы из двух или более обработанных сигналов (,), (,), …, (,) для генерации упомянутого выходного аудиосигнала (,).
Таким образом, если рассматривать по отдельности две или более плоских волн, модель, выраженная формулой (1), приобретет вид:
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
X
k
n
m
dir
1
,
m
dir
2
,
m
dir
q,m
diff,m
n,m
(,)=(,)+(,)+…+(,)+(,)+(,)
и весовые коэффициенты можно, например, вычислять аналогично формулам (2a) и (2b) согласно:
Y
k
n
G
k
n
X
k
n
G
k
n
X
k
n
G
k
n
X
k
n
Q X
k
n
Y
k
n
Y
k
n
Y
k
n
Y
k
n
i
1
,i
dir
1
2
,i
dir
2
q,i
dir
q
diff,m
dir
1
,i
dir
2
,i
dir q,i
diff,i
(,)=(,) (,)+(,) (,) +…+(,) (,)+(,)=(,)+(,) +…+ (,)+(,)
X
k
n
X
k
n
X
k
n
k
n
k
n
k
n
q
X
k
n
dir
1
dir
2
dir
q
1
2
p
diff
Если достаточно лишь нескольких прямых компонентных сигналов, диффузный компонентный сигнал и вспомогательная информация передаются от стороны ближнего конца стороне дальнего конца. Согласно варианту осуществления, количество прямых компонентных сигналов группы из двух или более прямых компонентных сигналов (,), (,), …, (,) плюс 1 меньше количества входных аудиосигналов x(,), x(,), … x(,), принимаемых приемным интерфейсом 101. (использование индексов: +1<p) ʺплюс 1ʺ представляет необходимый диффузный компонентный сигнал (,).
Далее приведены объяснения одиночной плоской волны, одиночного направления прихода и одиночного прямого компонентного сигнала, но следует понимать, что объясненные принципы одинаково применимы к более чем одной плоской волне, более чем одному направлению прихода и более чем одному прямому компонентному сигналу.
Далее описано выделение прямого и диффузного звука. Обеспечены практические реализации модуля 101 разложения, показанного на фиг. 2, который осуществляет разложение на прямые/диффузные составляющие.
Согласно вариантам осуществления, для осуществления согласованного воспроизведения пространственного звука, выходные сигналы двух недавно предложенных информированных фильтров линейно ограниченной минимальной дисперсии (LCMV), описанных в [8] и [9], объединяются, что обеспечивает точное многоканальное выделение прямого звука и диффузного звука с желаемым произвольным откликом, предполагая аналогичную модель звукового поля, как в DirAC (направленном аудиокодировании). Далее описан конкретный способ объединения этих фильтров согласно варианту осуществления.
Сначала опишем выделение прямого звука согласно варианту осуществления.
Прямой звук выделяется с использованием недавно предложенного информированного пространственного фильтра, описанного в [8]. Этот фильтр кратко описан ниже и затем выражен таким образом, чтобы его можно было использовать согласно вариантам осуществления, представленным фиг. 2.
i
Оцененный желаемый прямой сигнал  для -го канала громкоговорителя в (2b) и фиг. 2 вычисляется путем применения линейного многоканального фильтра к сигналам микрофонов, например,
(4)
x
w
k
n
X
k
n
,…,X
k
n
M
G
k
n
1
M
dir,i
i
T
где вектор (,)=[(,)(,)] содержит  сигналов микрофонов, и  - вектор комплекснозначных весовых коэффициентов. Здесь, весовые коэффициенты фильтра минимизируют шум и диффузный звук, содержащийся микрофонами при захвате прямого звука с желаемым коэффициентом усиления (,). В математическом выражении, весовые коэффициенты можно, например, вычислять как
(5)
при условии линейного ограничения
(6)
a
d
k
ϕ
m
m
ϕ
k
n
1
Здесь, (,) - так называемый вектор распространения решетки. -й элемент этого вектора является относительной передаточной функцией прямого звука между -ым микрофоном и опорным микрофоном решетки (без потери общности, в нижеследующем описании используется первый микрофон в положении ). Этот вектор зависит от DOA (,) прямого звука.
Вектор распространения решетки определен, например, в [8]. В формуле (6) документа [8], вектор распространения решетки определяется согласно
ϕ
l
l
l
где  - азимутальный угол направления прихода -ой плоской волны. Таким образом, вектор распространения решетки зависит от направления прихода. Если существует или рассматривается одна-единственная плоская волна, индекс  можно исключить.
i
a
l
i
i
a,
Согласно формуле (6) в [8], -й элемент  вектора распространения решетки  описывающий сдвиг фазы -ой плоской волны микрофонов с первого по -й, определяется согласно
r
i
κ
j
i
Например,  равно расстоянию между первым и -ым микрофонами,  указывает волновое число плоской волны, и  - мнимая единица.
a
a
i
Дополнительную информацию о векторе распространения решетки  и его элементах  можно найти в [8], которое в явном виде включено в данное описание в порядке ссылки.
M
M
k
n
Ф
u
Матрица ×(,) в (5) является матрицей спектральной плотности мощности (PSD) шума и диффузного звука, которую можно определить, как объяснено в [8]. Решение (5) задается согласно
(7)
где
(8)
a
k
ϕ
ϕ
k
n
Расчет фильтра требует вектора распространения решетки (,), который можно определить после оценивания DOA (,) прямого звука [8]. Как объяснено выше, вектор распространения решетки и, таким образом, фильтр зависит от DOA. DOA можно оценивать, как объяснено ниже.
x
x
k
n
G
k
n
k
n
G
k
n
i
i
Информированный пространственный фильтр, предложенный в [8], например, выделение прямого звука с использованием (4) и (7), нельзя непосредственно использовать согласно варианту осуществления, представленному на фиг. 2. Фактически, для расчета требуются сигналы микрофонов (,) а также коэффициент усиления прямого звука (,). Как следует из фиг. 2, сигналы микрофонов (,) доступны только на стороне ближнего конца, тогда как коэффициент усиления прямого звука (,) доступен только на стороне дальнего конца.
Чтобы использовать информированный пространственный фильтр согласно вариантам осуществления изобретения, предусмотрено изменение, в которой (7) заменяется на (4), что дает
(9)
где
(10)
h
d
dir
i
1
k
n
G
k
n
Этот измененный фильтр (,) не зависит от весовых коэффициентов (,). Таким образом, фильтр можно применять на стороне ближнего конца для получения прямого звука , который затем может передаваться стороне дальнего конца совместно с оцененными DOA (и расстоянием) в качестве вспомогательной информации для обеспечения полного управления воспроизведением прямого звука. Прямой звук  можно определять относительно опорного микрофона в положении . Таким образом, составляющие прямого звука также можно рассматривать как , и, таким образом:
(10a)
Таким образом, согласно варианту осуществления, модуль 101 разложения может, например, быть выполнен с возможностью генерации прямого компонентного сигнала путем применения фильтра к двум или более входным аудиосигналам согласно
,
k
n
k
n
k
n
x
h
dir
где  указывает частоту, и при этом  указывает время, где  указывает прямой компонентный сигнал, где (,) указывает два или более входных аудиосигналов, где (,) указывает фильтр, причем
Ф
a
-1
u
k
n
k
ϕ
ϕ
где (,) указывает матрицу спектральной плотности мощности шума и диффузного звука двух или более входных аудиосигналов, где (,) указывает вектор распространения решетки, и  указывает азимутальный угол направления прихода прямых составляющих сигнала двух или более входных аудиосигналов.
На фиг. 3 показаны модуль 102 оценивания параметров и модуль 101 разложения осуществляющий разложение на прямые/диффузные составляющие согласно варианту осуществления.
Вариант осуществления, проиллюстрированный на фиг. 3, осуществляет выделение прямого звука посредством модуля 203 выделения прямого звука и выделение диффузного звука посредством модуля 204 выделения диффузного звука.
G
k
n
i
Выделение прямого звука осуществляется в модуле 203 выделения прямого звука путем применения весовых коэффициентов фильтра к сигналам микрофонов, как указано в (10). Прямые весовые коэффициенты фильтра вычисляются в блоке вычисления 301 прямых весовых коэффициентов, который можно реализовать, например, согласно (8). Коэффициенты усиления (,) согласно, например, уравнению (9), затем применяются на стороне дальнего конца, как показано на фиг. 2.
Далее описано выделение диффузного звука. Выделение диффузного звука можно реализовать, например, посредством модуля 204 выделения диффузного звука, показанного на фиг. 3. Диффузные весовые коэффициенты фильтра вычисляются в блоке 302 вычисления диффузных весовых коэффициентов, показанном на фиг. 3, например, как описано ниже.
X
k
n
diff
Согласно вариантам осуществления, диффузный звук можно, например, выделять с использованием пространственного фильтра, который был недавно предложен в [9]. Диффузный звук (,) в (2a) и на фиг. 2 можно, например, оценивать путем применения второго пространственного фильтра к сигналам микрофонов, например,
(11)
h
diff
k
n
Чтобы найти оптимальный фильтр для диффузного звука (,), рассмотрим недавно предложенный фильтр в [9], который может выделять диффузный звук с желаемым произвольным откликом, минимизируя при этом шум на выходе фильтра. Для пространственно белого шума, фильтр задается как
(12)
h
a
h
γ
γ
H
H
k,ϕ
k
Q,
k
1
1
при условии ()=0 и ()=1. Первое линейное ограничение гарантирует подавление прямого звука, тогда как второе ограничение гарантирует, что в среднем, диффузный звук захватывается с желаемым коэффициентом усиления см. документ [9]. Заметим, что () представляет собой вектор когерентности диффузного звука, определенный в [9]. Решение (12) задается в виде
(13)
где
(14)
I
h
M
M
k
n
G
k
n
Q
diff
i
где - единичная матрица размером ×. Фильтр (,) не зависит от весовых коэффициентов (,) и , и, таким образом, его можно вычислять и применять на стороне ближнего конца для получения . При этом, необходимо только передавать стороне дальнего конца единый аудиосигнал, а именно , сохраняя способность полностью управлять воспроизведением пространственного звука диффузного звука.
Кроме того, на фиг. 3 показано выделение диффузного звука согласно варианту осуществления. Выделение диффузного звука осуществляется в модуле 204 выделения диффузного звука путем применения весовых коэффициентов фильтра к сигналам микрофонов, как указано в формуле (11). Весовые коэффициенты фильтра вычисляются в блоке 302 вычисления диффузных весовых коэффициентов, который можно реализовать, например, с использованием формулы (13).
Далее описано оценивание параметров. Оценивание параметров может, например, проводиться посредством модуля 102 оценивания параметров, в котором может, например, оцениваться параметрическая информация о записанной звуковой сцене. Эта параметрическая информация используется для вычисления двух пространственных фильтров в модуле 101 разложения и для выбора коэффициента усиления в согласованном воспроизведении пространственного аудиосигнала в модификаторе 103 сигнала.
Сначала опишем определение/оценивание информации DOA.
Ниже описаны варианты осуществления, в которых модуль (102) оценивания параметров содержит блок оценивания DOA для прямого звука, например, для плоской волны, которая исходит из положения источника звука и поступает на микрофонную решетку. Без потери общности, предполагается, что одиночная плоская волна существует для каждого момента времени и каждой частоты. Другие варианты осуществления предусматривают случаи, когда существует множественные плоские волны, и описанные здесь принципов одиночной плоской волны напрямую распространяются на множественные плоские волны. Таким образом, настоящее изобретение также охватывает варианты осуществления с множественными плоскими волнами.
ϕ
k
n
μ
k
ϕ
k
n
k
ϕ
k
n
a
Узкополосные DOA можно оценивать из сигналов микрофонов с использованием одного из традиционных блоков оценивания узкополосного DOA, например, ESPRIT [10] или root MUSIC [11]. Вместо азимутального угла (,), информация DOA также может обеспечиваться в форме пространственной частоты [|(,)], сдвига фазы или вектора распространения [|(,)] для одной или более волн, приходящих на микрофонную решетку. Следует отметить, что информация DOA также может обеспечиваться извне. Например, DOA плоской волны можно определять посредством видеокамеры совместно с алгоритмом распознавания лиц исходя из того, что акустическую сцену образуют говорящие люди.
ϕ
k
n
ϑ
k
n
ϕ
ϑ
Наконец, следует отметить, что информацию DOA также можно оценивать в 3D (в трех измерениях). В этом случае, углы азимута (,) и возвышения (,) оцениваются в модуле 102 оценивания параметров, и, в таком случае, DOA плоской волны обеспечивается, например, как (, ).
Таким образом, рассматривая ниже азимутальный угол DOA, следует понимать, что все объяснения применимы также к углу возвышения DOA, к углу, выведенному из азимутального угла DOA, к углу, выведенному из угла возвышения DOA, или к углу, выведенному из азимутального угла и угла возвышения DOA. В более общем случае, все нижеприведенные объяснения одинаково применимы к любому углу, зависящему от DOA.
Теперь опишем определение/оценивание информации расстояния.
r
k
n
Некоторые варианты осуществления относятся к верхней акустической масштабирования на основании DOA и расстояний. В таких вариантах осуществления, модуль 102 оценивания параметров может, например, содержать два подмодуля, например, вышеописанный подмодуль оценивания DOA и подмодуль оценивания расстояния, который оценивает расстояние от положения записи до источника звука (,). В таких вариантах осуществления, например, можно предположить, что каждая плоская волна, которая поступает на записывающую микрофонную решетку, исходит из источника звука и распространяется по прямой линии к решетке (что также именуется прямолинейным распространением).
r
k
n
Существуют несколько традиционных подходов к оцениванию расстояния с использованием сигналов микрофонов. Например, расстояние до источника можно найти путем вычисления отношений мощности между сигналами микрофонов, как описано в [12]. Альтернативно, расстояние до источника (,) в акустически замкнутых пространствах (например, комнатах) можно вычислять на основании оцененного отношения сигнала к диффузии (SDR) [13]. Затем оценки SDR можно объединять со временем реверберации комнаты (известным или оцененным с использованием традиционных способов) для вычисления расстояния. Для высокого SDR, энергия прямого звука высока по сравнению с диффузным звуком, и это указывает, что расстояние до источника мало. При низком значении SDR, мощность прямого звука невелика по сравнению с реверберацией комнаты, что указывает большое расстояние до источника.
В других вариантах осуществления, вместо вычисления/оценивание расстояния с использованием модуля вычисления расстояния в модуле 102 оценивания параметров, внешняя информация расстояния может, например, приниматься, например, от визуальной системы. Например, при наблюдении можно, например, использовать традиционные методы, которые могут обеспечивать информацию расстояния, например, времяпролетный (ToF), стереоскопическое наблюдение и структурированный свет. Например, в ToF-камерах, расстояние до источника можно вычислять из измеренного времени прохождения светового сигнала испускаемого камерой и распространяющегося к источнику и обратно к датчику камеры. Компьютерное стереоскопическое наблюдение, например, использует две точки наблюдения, из которых визуальное изображение захватывается для вычисления расстояния до источника.
r
k
n
r
k
n
ϕ
k
n
ϕ
k
n
Альтернативно, например, можно применять камеры структурированного света, где известный рисунок пикселей проецируется на визуальную сцену. Анализ деформаций после проекции позволяет визуальной системе оценивать расстояние до источника. Следует отметить, что для согласованного воспроизведения аудиосцены требуется информация расстояния (,) для каждого частотно-временного бина. Если информация расстояния обеспечивается визуальной системой извне, расстояние до источника (,), которое соответствует DOA (,), можно, например, выбирать как значение расстояния от визуальной системы, которое соответствует этому конкретному направлению (,).
Далее рассмотрим согласованное воспроизведение акустической сцены. Сначала рассмотрим воспроизведение акустической сцены на основании DOA.
Воспроизведение акустической сцены может производиться таким образом, чтобы она согласовывалась с записанной акустической сценой. Альтернативно, воспроизведение акустической сцены может производиться таким образом, чтобы она согласовывалась с визуальным изображением. Соответствующая визуальная информация может предоставляться для обеспечения согласованности с визуальным изображением.
G
k
n
Q
ϕ
k
n
Y
k
n
i
i
Согласованность может, например, достигаться путем регулировки весовых коэффициентов (,) и  в (2a). Согласно вариантам осуществления, модификатор 103 сигнала, который может, например, существовать, на стороне ближнего конца, или, как показано на фиг. 2, на стороне дальнего конца, может, например, принимать прямой  и диффузный  звуки в качестве входного сигнала, совместно с оценками DOA (,) в качестве вспомогательной информации. На основании этой принятой информации, выходные сигналы (,) для доступной системы воспроизведения могут, например, генерироваться, например, согласно формуле (2a).
G
k
n
Q
g
ϕ
k
n
q
k
n
i
i
В некоторых вариантах осуществления, параметры (,) и  выбираются в блоках 201 и 202 выбора коэффициента усиления, соответственно, из двух функций усиления ((,)) и (,), обеспеченных модулем 104 вычисления функции усиления.
G
k
n
Q
G
k
n
Q
i
i
Согласно варианту осуществления, (,) можно, например, выбирать только на основании информации DOA, и  может, например, иметь постоянное значение. Однако в других вариантах осуществления, весовой коэффициент (,) можно, например, определять на основании дополнительной информации, и весовой коэффициент  может, например, определяться переменно.
Сначала рассмотрим реализации, которые обеспечивают согласованность с записанной акустической сценой. Затем рассмотрим варианты осуществления, которые обеспечивают согласованность с информацией изображения/визуальным изображением.
G
k
n
Q
i
Далее описано вычисление весовых коэффициентов (,) и  для воспроизведения акустической сцены, которая согласуется с записанной акустической сценой, например, таким образом, что слушатель, расположенный в зоне наилучшего восприятия системы воспроизведения, воспринимает источники звука как приходящие с DOA источников звука в записанной звуковой сцене, имеющие такую же мощность, как в записанной сцене, и воспроизводящие такое же восприятие окружающего диффузного звука.
ϕ
k
n
G
k
n
ϕ
k
n
i
Для известной конфигурации громкоговорителей, воспроизведение источника звука с направления (,) может, например, достигаться путем выбора коэффициента усиления прямого звука (,) в блоке 201 выбора коэффициента усиления (ʺвыбора прямого коэффициента усиленияʺ) из фиксированной поисковой таблицы, обеспеченной модулем 104 вычисления функции усиления для оцененного DOA (,), который можно выразить в виде
(15)
g
ϕ
p
ϕ
i
p
ϕ
i
i
i
где ()=() - функция, возвращающая коэффициент усиления за счет панорамирования по всем DOA для -го громкоговорителя. Панорамирующая функция усиления () зависит от конфигурации громкоговорителей и схемы панорамирования.
p
ϕ
i
Пример панорамирующей функции усиления (), определенной посредством амплитудного панорамирования на векторной основе (VBAP) [14] для левого и правого громкоговорителей в стереофоническом воспроизведении, показан на фиг. 5(a).
p
b,i
На фиг. 5(a) проиллюстрирован пример панорамирующей функции усиления VBAP  для стереофонической конфигурации, и на фиг. 5(b) проиллюстрированы коэффициенты усиления за счет панорамирования для согласованного воспроизведения.
ϕ
k
n
G
k
n
g
p
G
k
n
g
p
ϕ
k
n
G
k
n
G
k
n
r
r
r
l
l
l
r
l
Например, если прямой звук поступает с (,)=30°, коэффициент усиления правого громкоговорителя равен (,)=(30°)=(30°)=1, и коэффициент усиления левого громкоговорителя равен (,)=(30°)=(30°)=0. Для прямого звука, приходящего с (,)=0°, окончательные коэффициенты усиления стереофонических громкоговорителей равны (,)=(,)=.
p
ϕ
i
Согласно варианту осуществления, панорамирующая функция усиления, например, (), может представлять собой, например, связанной с головой передаточной функцией (HRTF) в случае бинаурального воспроизведения звука.
g
ϕ
p
ϕ
G
k
n
i
i
i
Например, если HRTF ()=() возвращает комплексные значения, то коэффициент усиления прямого звука (,), выбранный в блоке 201 выбора коэффициента усиления, может, например, быть комплекснозначным.
Если нужно генерировать три или более выходных аудиосигналов, соответствующие традиционные принципы панорамирования можно, например, использовать для панорамирования входного сигнала в три или более выходных аудиосигналов. Например, VBAP можно применять для трех или более выходных аудиосигналов.
При согласованном воспроизведении акустической сцены, мощность диффузного звука должна оставаться такой же, как в записанной сцене. Таким образом, для системы громкоговорителей, например, с эквидистантными громкоговорителями, коэффициент усиления диффузного звука имеет постоянное значение:
(16)
I
i
Y
k
n
i
Y
k
n
diff,i
diff
где  - количество выходных каналов громкоговорителей. Это означает, что модуль 104 вычисления функции усиления обеспечивает единое выходное значение для -го громкоговорителя (или канала головного наушника) в зависимости от количества громкоговорителей, доступных для воспроизведения, и это значение используется как диффузный коэффициент усиления Q по всем частотам. Окончательный диффузный звук (,) для -го канала громкоговорителя получается путем декоррелирования (,), полученного в (2b).
G
k
n
Q
i
Таким образом, воспроизведение акустической сцены, которая согласуется с записанной акустической сценой, может обеспечиваться, например, путем определения коэффициенты усиления для каждого из выходных аудиосигналов в зависимости от, например, направления прихода, путем применения множества определенных коэффициентов усиления (,) к прямому звуковому сигналу  для определения множества прямых составляющих выходного сигнала , путем применения определенного коэффициента усиления  к диффузному звуковому сигналу  для получения диффузной составляющей выходного сигнала  и путем объединения каждого из множества прямых составляющих выходного сигнала  с диффузной составляющей выходного сигнала  для получения одного или более выходных аудиосигналов .
G
k
n
Q
i
Теперь опишем генерацию выходного аудиосигнала согласно вариантам осуществления, который достигает согласованности с визуальной сценой. В частности, опишем вычисление весовых коэффициентов (,) и  согласно вариантам осуществления которые используются для воспроизведения акустической сцены, которая согласуется с визуальной сценой. Задача состоит в воссоздании акустического изображения, в котором прямой звук от источника воспроизводится с направления, в котором источник наблюдается в видео/изображении.
l
l
Можно рассмотреть геометрию, изображенную на фиг. 4, где  соответствует направлению наведения визуальной камеры. Без потери общности,  может задавать ось y системы координат.
x
y
ϕ
k
n
x
k
n
g
g
g
Азимут DOA прямого звука в изображенной системе координат (,) задается в виде (,) и положение источника на оси x задается в виде (,). Здесь предполагается, что все источники звука располагаются на одном и том же расстоянии  от оси x, например, положения источников располагаются на левой пунктирной линии, которая называется в оптике фокальной плоскостью. Следует отметить, что это предположение выдвинуто только чтобы гарантировать, что визуальные и акустические изображения выровнены, и фактическое значение расстояния  не требуется для представленной обработки.
b
x
k
n
x
x
ϕ
S
ϕ
k
n
ϕ
k
n
x
k
n
S
b
x
k
n
x
x
k
n
ϕ
k
n
ϕ
k
n
b
d
d
d
b
b
b
b
d
b
b
g
На стороне воспроизведения (стороне дальнего конца), дисплей располагается в , и положение источника на дисплее задается в виде (,). Кроме того,  обозначает размер дисплея (или, в некоторых вариантах осуществления, например,  указывает половину размера дисплея),  - соответствующий максимальный визуальный угол,  - зона наилучшего восприятия системы воспроизведения звука, и (,) - угол, из которого должен воспроизводиться прямой звук таким образом, чтобы визуальные и акустические изображения были выровнены. (,) зависит от (,) и от расстояния между зоной наилучшего восприятия  и дисплеем, расположенным в . Кроме того, (,) зависит от нескольких параметров, например, расстояния g источника от камеры, размера датчика изображения, и размера дисплея . К сожалению, по меньшей мере, некоторые из этих параметров часто не известны на практике, что не позволяет определять (,) и (,) для данного DOA (,). Однако, предполагая линейность оптической системы, согласно формуле (17):
(17)
c
c
g
где  - неизвестная постоянная, компенсирующая вышеупомянутые неизвестные параметры. Следует отметить, что  является постоянной, только если все положения источников имеют одинаковое расстояние  до оси x.
c
c
c
В дальнейшем предполагается, что  является параметром калибровки, который следует регулировать на стадии калибровки, пока визуальные и акустические изображения не будут согласованы. Для осуществления калибровки, источники звука нужно расположить в фокальной плоскости и найти значение , при котором визуальные и акустические изображения будут выровнены. После калибровки, значение  остается неизменным, и угол, из которого должен воспроизводиться прямой звук, задается в виде
(18)
p
ϕ
p
ϕ
G
k
n
i
b,i
i
Чтобы гарантировать согласованность акустической и визуальной сцен, первоначальная панорамирующая функция () заменяется согласованной (измененной) панорамирующей функцией (). Теперь коэффициент усиления прямого звука (,) выбирается согласно
(19)
(20)
p
ϕ
i
c
b,i
где () - согласованная панорамирующая функция, возвращающая коэффициенты усиления за счет панорамирования для -го громкоговорителя по всем возможным DOA источников. Для фиксированного значения , такая согласованная панорамирующая функция вычисляется в модуле 104 вычисления функции усиления из первоначальной таблицы коэффициентов усиления за счет панорамирования (например, VBAP) как
(21)
G
k
n
i
Таким образом, согласно вариантам осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью определения, для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, таким образом, что прямой коэффициент усиления (,) определяется согласно
G
k
n
p
c
ϕ
k
n
i
i
-1
(,)=(tan[ tan((,))]),
i
k
n
G
k
n
ϕ
k
n
c
p
i
i
где  указывает индекс упомянутого выходного аудиосигнала,  указывает частоту, и  указывает время, где (,) указывает прямой коэффициент усиления, (,) указывает угол в зависимости от направления прихода (например, азимутальный угол направления прихода),  указывает постоянное значение, и  указывает панорамирующую функцию.
G
k
n
ϕ
k
n
i
Согласно вариантам осуществления, коэффициент усиления прямого звука (,) выбирается в блоке 201 выбора коэффициента усиления на основании оцененного DOA (,) из фиксированной поисковой таблицы, обеспеченной модулем 104 вычисления функции усиления, которая вычисляется один раз (после стадии калибровки) с использованием (19).
Таким образом, согласно варианту осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью получения, для каждого выходного аудиосигнала из одного или более выходных аудиосигналов, прямого коэффициента усиления для упомянутого выходного аудиосигнала из поисковой таблицы в зависимости от направления прихода.
g
k
n
ϕ
G
k
n
ϕ
G
k
n
ϕ
ϕ
G
k
n
ϕ
ϕ
G
k
n
i
i
i
i
i
Согласно варианту осуществления, процессор 105 сигнала вычисляет поисковую таблицу для функции прямого усиления (,). Например, для каждого возможного полного градуса, например, 1°, 2°, 3°, …, для значения азимута  DOA, прямой коэффициент усиления (,) можно вычислять и сохранять заранее. Затем, когда текущее значение азимута  направления прихода принято, процессор 105 сигнала считывает прямой коэффициент усиления (,) для текущего значения азимута  из поисковой таблицы. (Текущее значение азимута , может быть, например, значением аргумента поисковой таблицы; и прямой коэффициент усиления (,) может быть, например, возвращаемым значением поисковой таблицы). Вместо азимута  DOA, в других вариантах осуществления, поисковую таблицу можно вычислять для любого угла в зависимости от направления прихода. Преимущество, состоит в том, что значение коэффициента усиления не всегда нужно вычислять для каждого момента времени, или для каждого частотно-временного бина, но вместо этого, поисковая таблица вычисляется один раз и затем, для принятого угла , прямой коэффициент усиления (,) считывается из поисковой таблицы.
Таким образом, согласно варианту осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью вычисления a поисковая таблица, причем поисковая таблица содержит множество записей, причем каждая из записей содержит значение аргумента поисковой таблицы и возвращаемое значение поисковой таблицы, присваиваемое упомянутому значению аргумента. Процессор 105 сигнала может, например, быть выполнен с возможностью получения одного из возвращаемых значений поисковой таблицы из поисковой таблицы путем выбора одного из значений аргумента поисковой таблицы поисковой таблицы в зависимости от направления прихода. Кроме того, процессор 105 сигнала может, например, быть выполнен с возможностью определения значения коэффициента усиления для, по меньшей мере, одного из одного или более выходных аудиосигналов, в зависимости от упомянутого одного из возвращаемых значений поисковой таблицы, полученных из поисковой таблицы.
Процессор 105 сигнала может, например, быть выполнен с возможностью получения другого из возвращаемых значений поисковой таблицы из (той же) поисковой таблицы путем выбора другого из значений аргумента поисковой таблицы в зависимости от другого направления прихода для определения другого значения коэффициента усиления. Например, процессор сигналов может, например, принимать дополнительную информацию направления, например, в более поздний момент времени, которая зависит от упомянутого дополнительного направления прихода.
Пример панорамирования VBAP и согласованные панорамирующие функции усиления показаны на фиг. 5(a) и 5(b).
ϕ
k
n
ϕ
ϕ
k
n
b
i
b
Следует отметить, что вместо перерасчета таблиц коэффициента усиления за счет панорамирования, можно альтернативно вычислять DOA (,) для дисплея и применять его в первоначальной панорамирующей функции как ((,)). Это верно, поскольку справедливо следующее соотношение:
(22)
ϕ
k
n
n
Однако для этого требуется, чтобы модуль 104 вычисления функции усиления также принимал оцененные DOA (,) в качестве входного сигнала, и чтобы перерасчет DOA, например, проводимый согласно формуле (18), затем осуществлялся для каждого временного индекса .
Y
k
n
i
Y
k
n
i
Y
k
n
diff
diff,i
diff
В отношении воспроизведения диффузного звука, акустические и визуальные изображения согласованно воссоздаются, когда обрабатываются таким же образом, как объяснено для случая отсутствия визуальных изображений, например, когда мощность диффузного звука остается такой же, как диффузная мощность в записанной сцене, и сигналы громкоговорителей являются раскоррелированными версиями (,). Для эквидистантных громкоговорителей, коэффициент усиления диффузного звука имеет постоянное значение, например, заданное формулой (16). В результате, модуль 104 вычисления функции усиления обеспечивает единое выходное значение для -го громкоговорителя (или канала головного наушника), которое используется как диффузный коэффициент усиления Q по всем частотам. Окончательный диффузный звук (,) для -го канала громкоговорителя получается путем декоррелирования (,), например, согласно формуле (2b).
G
k
n
Q
i
Теперь рассмотрим варианты осуществления, где предусмотрено акустическое масштабирование на основании DOA. В таких вариантах осуществления, можно рассматривать обработку для акустического масштабирования, которое согласуется с визуальным масштабированием. Эта согласованная аудиовизуальная масштабирование достигается путем регулировки весовых коэффициентов (,) и , например, используемых в формуле (2a) как указано в модификаторе 103 сигнала на фиг. 2.
G
k
n
g
k
n
Q
q
β
G
k
n
Q
i
i
i
Согласно варианту осуществления, прямой коэффициент усиления (,) можно, например, выбирать в блоке 201 выбора коэффициента усиления из функции прямого усиления (,), вычисленной в модуле 104 вычисления функции усиления на основании DOA, оцененных в модуле 102 оценивания параметров. Диффузный коэффициент усиления  выбирается в блоке 202 выбора коэффициента усиления из функции диффузного усиления (), вычисленной в модуле 104 вычисления функции усиления. В других вариантах осуществления, прямой коэффициент усиления (,) и диффузный коэффициент усиления  вычисляются модификатором 103 сигнала без первоначального вычисления соответствующей функции усиления и последующего выбора коэффициентов усиления.
q
β
β
Следует отметить, что в отличие от вышеописанного варианта осуществления, функция диффузного усиления () определяется на основании коэффициента масштабирования . Согласно вариантам осуществления, информация расстояния не используется, и, таким образом, в таких вариантах осуществления, не оценивается в модуле 102 оценивания параметров.
G
k
n
Q
i
Для вывода параметров масштабирования (,) и  в (2a), рассматривается геометрия, показанная на фиг. 4. Параметры, обозначенные на фигуре, аналогичны описанным со ссылкой на фиг. 4 согласно вышеописанному варианту осуществления.
g
g
ϕ
k
n
x
k
n
x
β
b
b
d
Аналогично вышеописанному варианту осуществления, предполагается, что все источники звука располагаются в фокальной плоскости, которая располагается параллельно оси x на расстоянии . Следует отметить, что некоторые системы автофокусировки способны обеспечивать , например, расстояние до фокальной плоскости. Это позволяет предполагать, что все источники в изображении являются резкими. На стороне воспроизведения (дальнем конце), DOA (,) и положение (,) на дисплее зависят от многих параметров, например, расстояния g источника от камеры, размера датчика изображения, размера дисплея  и коэффициента масштабирования камеры (например, угла раствора камеры) . Предполагая линейность оптической системы, согласно формуле (23):
(23)
c
β
β
x
k
n
β
c
g
c
G
k
n
g
ϕ
b
i
i
где  - параметр калибровки, компенсирующий неизвестные оптические параметры, и ≥1 - регулируемый пользователем коэффициент масштабирования. Следует отметить, что в визуальной камере, приближение с коэффициентом  эквивалентно умножению (,) на . Кроме того,  является постоянной, только если все положения источников имеют одинаковое расстояние  до оси x. В этом случае,  можно рассматривать как параметр калибровки, который регулируется один раз таким образом, чтобы визуальные и акустические изображения были выровнены. Коэффициент усиления прямого звука (,) выбирается из функции прямого усиления () в виде
(24)
(25)
p
ϕ
w
ϕ
p
ϕ
b,i
b
i
где () обозначает панорамирующую функцию усиления, и () - функция окна усиления для согласованного аудиовизуального масштабирования. Панорамирующая функция усиления для согласованного аудиовизуального масштабирования вычисляется в модуле 104 вычисления функции усиления из первоначальной (например, VBAP) панорамирующей функции усиления () в виде
(26)
G
k
n
ϕ
k
n
β
p
ϕ
β
i
b,i
Таким образом, коэффициент усиления прямого звука (,), например, выбранный в блоке 201 выбора коэффициента усиления, определяется на основании оцененного DOA (,) из поисковой таблицы панорамирования, вычисленной в модуле 104 вычисления функции усиления, которое является фиксированным, если  не изменяется. Следует отметить, что, в некоторых вариантах осуществления, () нуждается в перерасчете, например, с использованием формулы (26) каждый раз, когда коэффициент масштабирования  изменяется.
β
β
p
β
β
β
b,i
Пример стереопанорамирующих функций усиления для =1 и =3 показаны на фиг. 6 (см. фиг. 6(a) и фиг. 6(b)). В частности, фиг. 6(a) демонстрирует пример панорамирующей функции усиления  для =1; фиг. 6(b) демонстрирует коэффициенты усиления за счет панорамирования после масштабирования с =3; и фиг. 6(c) демонстрирует коэффициенты усиления за счет панорамирования после масштабирования с =3 с угловым сдвигом.
ϕ
k
n
β
β
β
β
Как можно видеть в примере, когда прямой звук поступает с (,)=10°, коэффициент усиления за счет панорамирования для левого громкоговорителя увеличивается для больших значений , тогда как панорамирующая функция для правого громкоговорителя и =3 возвращает меньшее значение, чем для =1. Такое панорамирование эффективно перемещает воспринимаемое положение источника в направлениях наружу, когда коэффициент масштабирования  увеличивается.
Согласно вариантам осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью определения двух или более выходных аудиосигналов. Для каждого выходного аудиосигнала из двух или более выходных аудиосигналов, панорамирующая функция усиления присваивается упомянутому выходному аудиосигналу.
Панорамирующая функция усиления каждого из двух или более выходных аудиосигналов содержит множество значений аргумента панорамирующей функции, причем возвращаемое значение панорамирующей функции присваивается каждому из упомянутых значений аргумента панорамирующей функции, причем, когда упомянутая панорамирующая функция принимает одно из упомянутых значений аргумента панорамирующей функции, упомянутая панорамирующая функция выполнена с возможностью возвращения возвращаемого значения панорамирующей функции, присваиваемого упомянутому одному из упомянутых значений аргумента панорамирующей функции, и
процессор 105 сигнала выполнен с возможностью определения каждого из двух или более выходных аудиосигналов в зависимости от зависящего от направления значения аргумента из значений аргумента панорамирующей функции панорамирующей функции усиления, присваиваемой упомянутому выходному аудиосигналу, причем упомянутое зависящее от направления значение аргумента зависит от направления прихода.
Согласно варианту осуществления, панорамирующая функция усиления каждого из двух или более выходных аудиосигналов имеет один или более глобальных максимумов, являющихся одним из значений аргумента панорамирующей функции, причем для каждого из одного или более глобальных максимумов каждой панорамирующей функции усиления, не существует других значений аргумента панорамирующей функции, для которых упомянутая панорамирующая функция усиления возвращает более высокое возвращаемое значение панорамирующей функции, чем для упомянутых глобальных максимумов.
Для каждой пары первого выходного аудиосигнала и второго выходного аудиосигнала из двух или более выходных аудиосигналов, по меньшей мере, один из одного или более глобальных максимумов панорамирующей функции усиления первого выходного аудиосигнала отличается от любого из одного или более глобальных максимумов панорамирующей функции усиления второго выходного аудиосигнала.
Короче говоря, панорамирующие функции реализованы таким образом, что глобальные максимумы (по меньшей мере, один из них) разных панорамирующих функций отличаются.
p
ϕ
p
ϕ
b,l
b,r
Например, на фиг. 6(a), локальные максимумы () заключены в диапазоне от -45° до -28°, и локальные максимумы () заключены в диапазоне от +28° до +45°, и, таким образом, глобальные максимумы отличаются.
p
ϕ
p
ϕ
b,l
b,r
Например, на фиг. 6(b), локальные максимумы () заключены в диапазоне от -45° до -8°, и локальные максимумы () заключены в диапазоне от +8° до +45°, и, таким образом, глобальные максимумы также отличаются.
p
ϕ
p
ϕ
b,l
b,r
Например, на фиг. 6(c), локальные максимумы () заключены в диапазоне от -45° до +2°, и локальные максимумы () заключены в диапазоне от +18° до +45°, и, таким образом, глобальные максимумы также отличаются.
Панорамирующую функцию усиления можно реализовать, например, в виде поисковой таблицы.
В таком варианте осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью вычисления поисковой таблицы панорамирования для панорамирующей функции усиления, по меньшей мере, одного из выходных аудиосигналов.
Поисковая таблица панорамирования каждого выходного аудиосигнала упомянутого, по меньшей мере, одного из выходных аудиосигналов может, например, содержать множество записей, причем каждая из записей содержит значение аргумента панорамирующей функции панорамирующей функции усиления упомянутого выходного аудиосигнала и возвращаемое значение панорамирующей функции панорамирующей функции усиления, присваиваемой упомянутому значению аргумента панорамирующей функции, причем процессор 105 сигнала выполнен с возможностью получения одного из возвращаемых значений панорамирующей функции из упомянутой поисковой таблицы панорамирования путем выбора, в зависимости от направления прихода, зависящего от направления значения аргумента из поисковой таблицы панорамирования, и при этом процессор 105 сигнала выполнен с возможностью определения значения коэффициента усиления для упомянутого выходного аудиосигнала в зависимости от упомянутого одного из возвращаемых значений панорамирующей функции, полученных из упомянутой поисковой таблицы панорамирования.
w
ϕ
b
Далее описаны варианты осуществления, где используется окно прямого звука. Согласно таким вариантам осуществления, окно прямого звука для согласованного масштабирования () вычисляется согласно
(27)
w
ϕ
β
b
где () - функция окна усиления для акустического масштабирования, которая ослабляет прямой звук, если источник отображается в положение за пределами визуального изображения для коэффициента масштабирования .
w
ϕ
β
w
ϕ
β
β
β
b
Функция окна () может, например, устанавливаться для =1, таким образом, что прямой звук источников, находящихся за пределами визуального изображения, ослабевает до желаемого уровня и может повторно вычисляться, например, с использованием формулы (27), каждый раз, когда параметр масштабирования изменяется. Следует отметить, что () одинаково для всех каналов громкоговорителей. Иллюстративные функции окна для =1 и =3 показаны на фиг. 7(a-b), где для увеличенного значения  ширина окна уменьшается.
w
β
β
β
b
На фиг. 7 проиллюстрированы примеры согласованных функций окна усиления. В частности, фиг. 7(a) демонстрирует функцию  окнаусиления  без масштабирования (коэффициент масштабирования =1), фиг. 7(b) демонстрирует функцию окна усиления после масштабирования (коэффициент масштабирования =3), фиг. 7(c) демонстрирует функцию окна усиления после масштабирования (коэффициент масштабирования =3) с угловым сдвигом. Например, угловой сдвиг может реализовать поворот окна к направлению наведения.
ϕ
ϕ
ϕ
Например, на фиг. 7(a), 7(b) и 7(c) функция окна усиления возвращает коэффициент усиления 1, если DOA  располагается в окне, функция окна усиления возвращает коэффициент усиления 0,18, если  располагается за пределами окна, и функция окна усиления возвращает коэффициент усиления между 0,18 и 1, если  располагается на границе окна.
Согласно вариантам осуществления, процессор 105 сигнала выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от функции окна усиления. Функция окна усиления выполнена с возможностью возвращения возвращаемого значения функции окна при приеме значения аргумента функции окна.
Если значение аргумента функции окна больше нижнего порога окна и меньше верхнего порога окна, функция окна усиления выполнена с возможностью возвращения возвращаемого значения функции окна, которое больше любого возвращаемого значения функции окна, возвращаемого функцией окна усиления, если значение аргумента функции окна меньше нижнего порога или больше верхнего порога.
Например, в формуле (27)
ϕ
β
азимутальный угол направления прихода  является значением аргумента функции окна функции окна усиления . Функция окна усиления  зависит от информации масштабирования, в данном случае, коэффициента масштабирования .
Для объяснения определение функции окна усиления, обратимся к фиг. 7(a).
ϕ
ϕ
Если азимутальный угол DOA  больше -20° (нижний порог) и меньше +20° (верхнего порога), все значения, возвращаемые функцией окна усиления, больше 0.6. Если же азимутальный угол DOA  меньше -20° (нижнего порога) или больше +20° (верхнего порога), все значения, возвращаемые функцией окна усиления, меньше 0.6.
Согласно варианту осуществления, процессор 105 сигнала выполнен с возможностью приема информации масштабирования. Кроме того, процессор 105 сигнала выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от функции окна усиления, причем функция окна усиления зависит от информации масштабирования.
β
Это можно видеть для (измененных) функций окна усиления, показанных на фиг. 7(b) и фиг. 7(c), если другие значения рассматриваются как нижний/верхний пороги, или если другие значения рассматриваются как возвращаемые значения. На фиг. 7(a), 7(b) и 7(c), можно видеть, что функция окна усиления зависит от информации масштабирования: коэффициента масштабирования .
Функцию окна усиления можно реализовать, например, в виде поисковой таблицы. В таком варианте осуществления, процессор 105 сигнала выполнен с возможностью вычисления поисковой таблицы окна, причем поисковая таблица окна содержит множество записей, причем каждая из записей содержит значение аргумента функции окна функции окна усиления и возвращаемое значение функции окна функции окна усиления, присваиваемое упомянутому значению аргумента функции окна. Процессор 105 сигнала выполнен с возможностью получения одного из возвращаемых значений функции окна из поисковой таблицы окна путем выбора одного из значений аргумента функции окна поисковой таблицы окна в зависимости от направления прихода. Кроме того, процессор 105 сигнала выполнен с возможностью определения значения коэффициента усиления для, по меньшей мере, одного из одного или более выходных аудиосигналов, в зависимости от упомянутого одного из возвращаемых значений функции окна полученный из поисковой таблицы окна.
θ
θ
w
ϕ
p
ϕ
l
b
b,i
Помимо принципа масштабирования, функции окна и панорамирующую функцию можно сдвигать на угол сдвига . Этот угол может соответствовать либо повороту направления наведения  камеры, либо перемещению в визуальном изображении по аналогии с цифровым масштабированием в камерах. В первом случае, угол поворота камеры повторно вычисляется для угла на дисплее, например, аналогично формуле (23). В последнем случае,  может быть прямым сдвигом функции окна и панорамирующей функции (например, () и ()) для согласованного акустического масштабирования. Иллюстративный пример сдвига обеих функций изображен на фиг. 5(c) и 6(c).
ϕ
k
n
p
ϕ
w
ϕ
b
i
b
Следует отметить, что вместо перерасчета функции окна и панорамирующей усиливающей функции, можно вычислять DOA (,) для дисплея, например, согласно формуле (23), и применять его в первоначальных функций окна и панорамирующей функции как () и (), соответственно. Такая обработка эквивалентна, поскольку справедливы следующие соотношения:
(28)
(29)
ϕ
k
n
β
Однако для этого требуется, чтобы модуль 104 вычисления функции усиления принимал оцененные DOA (,) в качестве входного сигнала, и чтобы перерасчет DOA, например, согласно формуле (18), мог, например, осуществляться в каждом последовательном временном кадре, независимо от того, изменился ли .
q
β
I
Что касается диффузного звука, для вычисления функции диффузного усиления (), например, в модуле 104 вычисления функции усиления, требуется только знать количество громкоговорителей , доступных для воспроизведения. Таким образом, ее можно задавать независимо от параметров визуальной камеры или дисплея.
β
Q
β
Например, для эквидистантных громкоговорителей, действительнозначный коэффициент усиления диффузного звука  в формуле (2a) выбирается в блоке 202 выбора коэффициента усиления на основании параметра масштабирования . Цель использования диффузного коэффициента усиления состоит в ослаблении диффузного звука в зависимости от коэффициента масштабирования, например, масштабирование увеличивает DRR воспроизводимого сигнала. Это достигается снижением  для более высокого . Фактически, приближение означает, что угол раствора камеры уменьшается, например, естественным акустическим соответствием будет более направленный микрофон, который захватывает меньше диффузного звука.
q
β
Для имитации этого эффекта, вариант осуществления может, например, использовать функцию усиления, показанную на фиг. 8. Фиг. 8 демонстрирует пример функции диффузного усиления ().
Y
k
n
i
Y
k
n
diff,i
diff
В других вариантах осуществления, функция усиления определяется иначе. Окончательный диффузный звук (,) для -го канала громкоговорителя достигается путем декоррелирования (,), например, согласно формуле (2b).
Далее рассмотрим акустическое масштабирование на основании DOA и расстояний.
Согласно некоторым вариантам осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью приема информации расстояния, причем процессор 105 сигнала может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от информации расстояния.
ϕ
k
n
r
k
n
r
k
n
Некоторые варианты осуществления используют обработку для согласованного акустического масштабирования, которая основана на оцененном DOA (,) и на значении расстояния (,). Принципы этих вариантов осуществления также можно применять к выравниванию записанной акустической сцены с видео без масштабирования, где источники не располагаются на одном и том же расстоянии, поскольку ранее предполагаемая доступность в информации расстояния (,) позволяет создавать эффект акустического размывания для источников звука, которые не выглядят резкими в визуальном изображении, например, для источников, которые не располагаются в фокальной плоскости камеры.
G
k
n
Q
ϕ
k
n
r
k
n
β
β
β
i
Для облегчения согласованного воспроизведения звука, например, акустического масштабирования, с размыванием для источников, расположенных на разных расстояниях, коэффициенты усиления (,) и  можно регулировать в формуле (2a), как указано в модификаторе 103 сигнала на фиг. 2, на основании двух оцененных параметров, а именно, (,) и (,) и в зависимости от коэффициента масштабирования . Если масштабирование не используется, можно задать как=1.
ϕ
k
n
r
k
n
G
k
n
g
k
n
Q
q
β
β
i
i,j
Параметры (,) и (,) можно, например, оценивать в вышеописанном модуле 102 оценивания параметров. В этом варианте осуществления, прямой коэффициент усиления (,) определяется (например, путем выбора в блоке 201 выбора коэффициента усиления) на основании DOA и информации расстояния из одной или более функций прямого усиления (,) (которые можно, например, вычислять в модуле 104 вычисления функции усиления). Аналогично описанному для вышеприведенных вариантов осуществления, диффузный коэффициент усиления  можно, например, выбирать в блоке 202 выбора коэффициента усиления из функции диффузного усиления (), например, вычисленной в модуле 104 вычисления функции усиления на основании коэффициента масштабирования .
G
k
n
Q
i
В других вариантах осуществления, прямой коэффициент усиления (,) и диффузный коэффициент усиления  вычисляются модификатором 103 сигнала без первоначального вычисления соответствующей функции усиления и последующего выбора коэффициентов усиления.
Для объяснения воспроизведения акустической сцены и акустического масштабирования для источников звука на разных расстояниях, обратимся к фиг. 9. Параметры, обозначенные на фиг. 9, аналогичны вышеописанным.
P′
R
k
n
r
k
n
r
k
n
g
g
Согласно фиг. 9, источник звука располагается в положении  на расстоянии (,) от оси x. Расстояние , которое может зависеть, например, от(,) (иметь частотно-временную зависимость: (,)) обозначает расстояние между положением источника и фокальной плоскостью (левая вертикальная линия, проходящая через ). Следует отметить, что некоторые системы автофокусировки способны обеспечивать , например, расстояние до фокальной плоскости.
ϕʹ
k
n
P′
R
k
n
DOA прямого звука с точки зрения микрофонной решетки указывается посредством (,). В отличие от других вариантов осуществления, не предполагается, что все источники располагаются на одном и том же расстоянии g от объектива камеры. Таким образом, например, положение  может находиться на произвольном расстоянии (,) от оси x.
x
k
n
ϕʹ
k
n
ϕʹ
k
n
x
ϕ
k
n
ϕʹ
k
n
R
k
n
b
b
b
Если источник не располагается в фокальной плоскости, источник будет выглядеть размытым в видео. Кроме того, варианты осуществления базируются на понимании того, что, если источник располагается в любом положении на пунктирной линии 910, он окажется в том же положении (,) в видео. Однако варианты осуществления базируются на понимании того, что оцененное DOA (,) прямого звука изменяется, если источник перемещается вдоль пунктирной линии 910. Другими словами, на основании пониманий, используемых вариантами осуществления, если источник перемещается параллельно оси y, оцененное DOA (,) изменяется, тогда как  (и, таким образом, DOA (,) с которого должен воспроизводиться звук) остается неизменным. В результате, если оцененное DOA (,) передается стороне дальнего конца и используется для воспроизведения звука, как описано в предыдущих вариантах осуществления, то акустическое и визуальное изображения больше не выравниваются, если источник изменяет свое расстояние (,).
P
P′
ϕ
k
n
ϕ
k
n
ϕʹ
k
n
r
g
Для компенсации этого эффекта и для обеспечения согласованного воспроизведения звука, оценивание DOA, например, проводимое в модуле 102 оценивания параметров, оценивает DOA прямого звука, как если бы источник располагался в фокальной плоскости в положении . Это положение представляет проекцию  в фокальной плоскости. Соответствующее DOA обозначается (,) на фиг. 9 и используется на стороне дальнего конца для согласованного воспроизведения звука, аналогично предыдущим вариантам осуществления. DOA (,) (измененное) можно вычислять из оцененного (первоначального) DOA (,) на основании геометрических соображений, если  и  известны.
ϕ
k
n
ϕʹ
k
n
r
g
Например, на фиг. 9, процессор 105 сигнала может, например, вычислять (,) из (,) и  согласно:
.
ϕʹ
k
n
r
ϕ
k
n
ϕʹ
k
n
r
g
ϕ
k
n
Таким образом, согласно варианту осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью приема первоначального азимутального угла (,) направления прихода, которое является направлением прихода прямых составляющих сигнала двух или более входных аудиосигналов, и выполнен с дополнительной возможностью приема информации расстояния, и может, например, быть выполнен с дополнительной возможностью приема информации расстояния . Процессор 105 сигнала может, например, быть выполнен с возможностью вычисления измененного азимутального угла (,) направления прихода в зависимости от азимутального угла первоначального направления прихода (,) и в зависимости от информации расстоянияи. Процессор 105 сигнала может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала одного или более выходных аудиосигналов в зависимости от азимутального угла измененного направления прихода (,).
g
r
k
n
ϕ
k
n
Необходимую информацию расстояния можно оценивать, как объяснено выше (расстояние  до фокальной плоскости можно получать из информации линзовой системы или автофокусировки). Следует отметить, что, например, в этом варианте осуществления, расстояние (,) между источником и фокальной плоскостью передается стороне дальнего конца совместно с (отображенным) DOA (,).
r
Кроме того, по аналогии с визуальным масштабированием, источники, находящиеся на большом расстоянии  от фокальной плоскости, не выглядят резкими в изображении. Этот эффект хорошо известен в оптике и выражается глубиной резкости (DOF), которая задает диапазон расстояний до источника, на которых он выглядит достаточно резким в визуальном изображении.
r
Пример кривой DOF как функции расстояния  изображен на фиг. 10(a).
На фиг. 10 показаны графики относительно глубины резкости (фиг. 10(a)), частоты среза фильтра низких частот (фиг. 10(b)), и задержки по времени в мс для повторного прямого звука (фиг. 10(c)).
Согласно фиг. 10(a), источники на малом расстоянии от фокальной плоскости все еще являются резкими, тогда как источники на более значительных расстояниях (ближе или дальше от камеры) выглядят размытыми. Таким образом, согласно варианту осуществления, соответствующие источники звука размываются таким образом, чтобы их визуальные и акустические изображения согласовывались.
G
k
n
Q
P
ϕ
r
i
Для вывода в (2a) коэффициентов усиления (,) и , которые реализуют акустическое размывание и согласованное воспроизведение пространственного звука, рассматривается угол, в котором источник, расположенный в (,) появится на дисплее. Размытый источник будет отображаться в
(30)
c
β
ϕ
k
n
G
k
n
g
g
ϕ
k
n
g
r
k
n
ϕ
k
n
r
k
n
G
k
n
i
i,j
i,
1
i,
2
i
где  - параметр калибровки, ≥1 - регулируемый пользователем коэффициент масштабирования, (,) - (отображенный) DOA, например, оцененный в модуле 102 оценивания параметров. Как упомянуто выше, прямой коэффициент усиления (,) в таких вариантах осуществления можно, например, вычислять из множественных функций прямого усиления . В частности, можно, например, использовать две функции усиления ((,)) и ((,)), где первая функция усиления зависит от DOA (,), и второй функция усиления зависит от расстояния (,). Прямой коэффициент усиления (,) можно вычислять как:
(31)
(32)
(33)
p
ϕ
w
ϕ
b
r
b,i
b
где () обозначает панорамирующую функцию усиления (чтобы гарантировать, что звук воспроизводится с правого направления), () - функция окна усиления (чтобы гарантировать, что прямой звук ослабляется, если источник не наблюдается в видео), и () - размывающая функция (для акустического размывания источников, если они не располагаются в фокальной плоскости).
G
i
Следует отметить, что все функции усиления можно задать частотно-зависимыми (что для краткости здесь опущено). Следует дополнительно отметить, что в этом варианте осуществления прямой коэффициент усиления  находится путем выбора и умножения коэффициентов усиления из двух разных функций усиления, как показано в формуле (32).
p
ϕ
w
ϕ
β
b
r
g
b
r
b,i
b
i
Обе функции усиления () и () задаются аналогично описанному выше. Например, они могут вычисляться, например, в модуле 104 вычисления функции усиления, например, с использованием формул (26) и (27), и они остаются фиксированными, пока не изменится коэффициент масштабирования . Подробное описание этих двух функций приведено выше. Размывающая функция () возвращает комплексные коэффициенты усиления, которые приводят к размыванию, например перцептивному расширению, источника, и, таким образом, общая функция усиления  также обычно будет возвращать комплексное число. Для простоты, в дальнейшем, размывание обозначается как функция расстояния до фокальной плоскости ().
Эффект размывания можно получить путем выбора одного или комбинации следующих эффектов размывания: низкочастотной фильтрации, прибавления задержанного прямого звука, ослабления прямого звука, временного сглаживания и/или расширения DOA. Таким образом, согласно варианту осуществления, процессор 105 сигнала может, например, быть выполнен с возможностью генерации одного или более выходных аудиосигналов путем проведения низкочастотной фильтрации, или путем прибавления задержанного прямого звука, или путем проведения ослабления прямого звука, или путем проведения временного сглаживания, или путем проведения расширения направления прихода.
r
b
r,k
k
r
r
Низкочастотная фильтрация: при наблюдении, нерезкое визуальное изображение можно получать посредством низкочастотной фильтрации, которая эффективно соединяет соседние пиксели в визуальном изображении. По аналогии, эффект акустического размывания можно получать посредством низкочастотной фильтрации прямого звука с частотой среза, выбранной на основании оцененного расстояния от источника до фокальной плоскости . В этом случае, размывающая функция () возвращает коэффициенты усиления фильтра низких частот для частоты  и расстояния . На фиг. 10(b) показан пример кривой для частоты среза фильтра низких частот первого порядка для частоты дискретизации 16 кГц. Для малых расстояний , частота среза близка к частоте Найквиста, и, таким образом, фактически низкочастотной фильтрации почти не осуществляется. Для более высоких значений расстояния, частота среза уменьшается до 3 кГц, когда акустическое изображение в достаточной степени размыто.
τ
Прибавление задержанного прямого звука: чтобы сделать акустическое изображение источника нерезким, можно декоррелировать прямой звук, например, повторяя ослабление прямого звука с некоторой задержкой  (например, от 1 до 30 мс). Такую обработку можно, например, проводить согласно комплексной функции усиления по формуле (34):
(34)
α
τ
α
где  обозначает коэффициент усиления за счет ослабления для повторного звука, и  - задержка, с которой повторяется прямой звук. На фиг. 10(c) показан пример кривой задержки (в мс). Для малых расстояний, задержанный сигнал не повторяется, и  задается равным нулю. Для более значительных расстояний, задержка по времени увеличивается с увеличением расстояния, что приводит к перцептивному расширению акустического источника.
b
r
b
r
Ослабление прямого звука: источник также может восприниматься как размытый, когда прямой звук ослабляется с постоянным коэффициентом. В этом случае ()=const<1. Как упомянуто выше, размывающая функция () может быть образована любым из упомянутых эффектов размывания или комбинацией этих эффектов. Кроме того, можно использовать альтернативную обработку, которая размывает источник.
Временное сглаживание: сглаживание прямого звука по времени можно, например, использовать для перцептивного размывания акустического источника. Этого можно добиться сглаживанием огибающей выделенного прямого сигнала по времени.
ϕ
Расширение DOA: другой способ снижения резкости акустического источника состоит в воспроизведении сигнала источника из диапазона направлений, а не только с оцененного направления. Этого можно добиться рандомизацией угла, например, взятием случайного угла из нормального распределения с центром в оцененном . Увеличение дисперсии такого распределения и, таким образом, расширение диапазона возможных DOA, увеличивает восприятие размывания.
q
β
I
q
β
β
Q
β
Y
k
n
i
Y
k
n
diff,i
diff
Аналогично описанному выше, для вычисления функции диффузного усиления () в модуле 104 вычисления функции усиления, может, в некоторых вариантах осуществления, требоваться только знать количество громкоговорителей , доступных для воспроизведения. Таким образом, функцию диффузного усиления () можно, в таких вариантах осуществления, устанавливать как желательную для применения. Например, для эквидистантных громкоговорителей, действительнозначный коэффициент усиления диффузного звука  в формуле (2a) выбирается в блоке 202 выбора коэффициента усиления на основании параметра масштабирования . Цель использования диффузного коэффициента усиления состоит в ослаблении диффузного звука в зависимости от коэффициента масштабирования, например, масштабирование увеличивает DRR воспроизводимого сигнала. Это достигается снижением  для более высокого . Фактически, приближение означает, что угол раствора камеры уменьшается, например, естественным акустическим соответствием будет более направленный микрофон, который захватывает меньше диффузного звука. Для имитации этого эффекта, можно использовать, например, функцию усиления, показанную на фиг. 8. Очевидно, функция усиления также можно определить иначе. В необязательном порядке, окончательный диффузный звук (,) для -го канала громкоговорителя получается путем декоррелирования (,), полученного в формуле (2b).
Теперь рассмотрим варианты осуществления, которые реализуют применение к слуховым аппаратам и вспомогательным слуховым устройствам. Фиг. 11 демонстрирует такое применение к слуховому аппарату.
Некоторые варианты осуществления связаны с бинауральными слуховыми аппаратами. В этом случае, предполагается, что каждый слуховой аппарат снабжен, по меньшей мере, одним микрофоном, и что возможен обмен информацией между двумя слуховыми аппаратами. В силу некоторой потери слуха, слабослышащий человек может испытывать затруднения с фокусировкой (например, концентрацией на звуки, поступающие из конкретной точки или с конкретного направления) на желательный звук или звуки. Чтобы помочь мозгу слабослышащего человека в обработке звуков, воспроизводимых слуховыми аппаратами, акустическое изображение согласовывается с точкой или направлением фокуса пользователя слуховых аппаратов. Допустимо, чтобы точка или направление фокуса было заранее заданным, определенным пользователем или определенным мозгомашинным интерфейсом. Такие варианты осуществления гарантируют, что желательные звуки (которые, предположительно, приходят из точки фокуса или с направления фокуса) и нежелательные звуки выглядят пространственно разделенными.
В таких вариантах осуществления, направления прямых звуков можно оценивать по-разному. Согласно варианту осуществления, направления определяются на основании межушных различий в уровне (ILD) и/или межушных различий во времени (ITD), которые определяются с использованием обоих слуховых аппаратов (см. [15] и [16]).
Согласно другим вариантам осуществления, направления прямых звуков слева и справа оцениваются независимо с использованием слухового аппарата, снабженного, по меньшей мере, двумя микрофонами (см. [17]). Оцененные направления можно фокусировать на основании уровней звукового давления на левом и правом слуховом аппарате или пространственной когерентности на левом и правом слуховом аппарате. Вследствие эффекта затенения от головы, для разных частотных диапазонов можно применять разные блоки оценивания (например, ILD на высоких частотах и ITD на низких частотах).
В некоторых вариантах осуществления, прямой и диффузный звуковые сигналы можно, например, оценивать с использованием вышеупомянутых методов информированной пространственной фильтрации. В этом случае, прямой и диффузный звуки, принятые на левом и правом слуховом аппарате, можно оценивать по отдельности (например, меняя опорный микрофон), или левый и правый выходные сигналы можно генерировать с использованием функции усиления для выхода левого и правого слуховых аппаратов, соответственно, аналогично тому, как разные сигналы громкоговорителя или головного наушника получаются в предыдущих вариантах осуществления.
Для пространственного разделения желательных и нежелательный звуков, можно применять акустическое масштабирование, объясненное в вышеупомянутых вариантах осуществления. В этом случае, точка фокуса или направление фокуса определяет коэффициент масштабирования.
Таким образом, согласно варианту осуществления, может обеспечиваться слуховой аппарат или вспомогательное слуховое устройство, причем слуховой аппарат или вспомогательное слуховое устройство содержит вышеописанную систему, причем процессор 105 сигнала вышеописанной системы определяет прямой коэффициент усиления для каждого из одного или более выходных аудиосигналов, например, в зависимости от направления фокуса или точки фокуса.
Согласно варианту осуществления, процессор 105 сигнала вышеописанной системы может, например, быть выполнен с возможностью приема информации масштабирования. Процессор 105 сигнала вышеописанной системы может, например, быть выполнен с возможностью генерации каждого выходного аудиосигнала из одного или более выходных аудиосигналов в зависимости от функции окна усиления, причем функция окна усиления зависит от информации масштабирования. Используются те же принципы, которые объяснены со ссылкой на фиг. 7(a), 7(b) и 7(c).
Если аргумент функции окна, в зависимости от направления фокуса или от точки фокуса, больше нижнего порога и меньше верхнего порога, функция окна усиления выполнена с возможностью возвращения коэффициента усиления окна, который больше любого коэффициента усиления окна, возвращаемого функцией окна усиления, если аргумент функции окна меньше нижнего порога или больше верхнего порога.
Например, в случае направления фокуса, направление фокуса само может быть аргументом функции окна (и, таким образом, аргумент функции окна зависит от направления фокуса). В случае положения фокуса, аргумент функции окна может, например, выводиться из положения фокуса.
Аналогично, изобретение можно применять к другим носимым устройствам, которые включают в себя вспомогательные слуховые устройства или такие устройства, как Google Glass. Следует отметить, что некоторые носимые устройства также снабжены одной или более камерами или ToF-датчиком, которые можно использовать для оценивания расстояния от объектов до человека, носящего устройство.
Хотя некоторые аспекты описаны применительно к устройству, ясно, что эти аспекты также представляют описание соответствующего способа, где блок или устройство соответствует этапу способа или признаку этапа способа. Аналогично, аспекты, описанные в применительно к этапу способа, также представляют описание соответствующего блока или элемента или признака соответствующего устройства.
Предусмотренный изобретением разложенный сигнал может сохраняться на цифровом носителе данных или может передаваться в среде передачи, например, беспроводной среде передачи или проводной среде передачи, например, интернете.
В зависимости от некоторых требований к реализации, варианты осуществления изобретения можно реализовать аппаратными средствами или программными средствами. Реализация может осуществляться с использованием цифрового носителя данных, например, флоппи-диска, DVD, CD, ROM, PROM, EPROM, EEPROM или флэш-памяти, где хранятся электронно считываемые сигналы управления, которые взаимодействуют (или способны взаимодействовать) с программируемой компьютерной системой для осуществления соответствующего способа.
Некоторые варианты осуществления согласно изобретению содержат невременный носитель данных, имеющий электронно считываемые сигналы управления, которые способны взаимодействовать с программируемой компьютерной системой для осуществления одного из описанных здесь способов.
В общем случае, варианты осуществления настоящего изобретения можно реализовать в виде компьютерного программного продукта с программным кодом, причем программный код способен осуществлять один из способов, когда компьютерный программный продукт выполняется на компьютере. Программный код может, например, храниться на машиночитаемом носителе.
Другие варианты осуществления содержат компьютерную программу для осуществления одного из описанных здесь способов, хранящуюся на машиночитаемом носителе.
Другими словами, вариант осуществления способа, отвечающего изобретению, предусматривает, таким образом, компьютерную программу, имеющую программный код для осуществления одного из описанных здесь способов, когда компьютерная программа выполняется на компьютере.
Дополнительный вариант осуществления способов, отвечающих изобретению, предусматривает, таким образом, носитель данных (или цифровой носитель данных, или компьютерно-считываемый носитель), на котором записана компьютерная программа для осуществления одного из описанных здесь способов.
Дополнительный вариант осуществления способа, отвечающего изобретению, предусматривает, таким образом, поток данных или последовательность сигналов, представляющий/ую компьютерную программу для осуществления одного из описанных здесь способов. Поток данных или последовательность сигналов может, например, быть выполнен/а с возможностью переноса через соединение для передачи данных, например, через интернет.
Дополнительный вариант осуществления содержит средство обработки, например, компьютер или программируемое логическое устройство, выполненный/ое с возможностью или предназначенный/ое для осуществления одного из описанных здесь способов.
Дополнительный вариант осуществления содержит компьютер с установленной на нем компьютерной программой для осуществления одного из описанных здесь способов.
В некоторых вариантах осуществления, программируемое логическое устройство (например, вентильная матрица, программируемая пользователем) может использоваться для осуществления некоторых или всех из функций описанных здесь способов. В некоторых вариантах осуществления, вентильная матрица, программируемая пользователем, может взаимодействовать с микропроцессором для осуществления одного из описанных здесь способов. В общем случае, способы, предпочтительно, осуществляются любым аппаратным устройством.
Вышеописанные варианты осуществления призваны лишь иллюстрировать принципы настоящего изобретения. Следует понимать, что модификации и вариации описанных здесь конфигураций и детали будут очевидны специалистам в данной области техники. Таким образом, они ограничиваются только объемом нижеследующей формулы изобретения, но не конкретными деталями, представленными в порядке описания и объяснения рассмотренных здесь вариантов осуществления.
ССЫЛКИ
[1] Y. Ishigaki, M. Yamamoto, K. Totsuka, and N. Miyaji, ʺZoom microphone,ʺ in Audio Engineering Society Convention 67, Paper 1713, October 1980.
[2] M. Matsumoto, H. Naono, H. Saitoh, K. Fujimura, and Y. Yasuno, ʺStereo zoom microphone for consumer video cameras,ʺ Consumer Electronics, IEEE Transactions on, vol. 35, no. 4, pp. 759-766, November 1989. August 13, 2014
[3] T. van Waterschoot, W. J. Tirry, and M. Moonen, ʺAcoustic zooming by multi microphone sound scene manipulation,ʺ J. Audio Eng. Soc, vol. 61, no. 7/8, pp. 489-507, 2013.
[4] V. Pulkki, ʺSpatial sound reproduction with directional audio coding,ʺ J. Audio Eng. Soc, vol. 55, no. 6, pp. 503-516, June 2007.
[5] R. Schultz-Amling, F. Kuech, O. Thiergart, and M. Kallinger, ʺAcoustical zooming based on a parametric sound field representation,ʺ in Audio Engineering Society Convention 128, Paper 8120, London UK, May 2010.
[6] O. Thiergart, G. Del Galdo, M. Taseska, and E. Habets, ʺGeometry-based spatial sound acquisition using distributed microphone arrays,ʺ Audio, Speech, and Language Processing, IEEE Transactions on, vol. 21, no. 12, pp. 2583-2594, December 2013.
[7] K. Kowalczyk, O. Thiergart, A. Craciun, and E. A. P. Habets, ʺSound acquisition in noisy and reverberant environments using virtual microphones,ʺ in Applications of Signal Processing to Audio and Acoustics (WASPAA), 2013 IEEE Workshop on, October 2013.
[8] O. Thiergart and E. A. P. Habets, ʺAn informed LCMV filter based on multiple instantaneous direction-of-arrival estimates,ʺ in Acoustics Speech and Signal Processing (ICASSP), 2013 IEEE International Conference on, 2013, pp. 659-663.
[9] O. Thiergart and E. A. P. Habets, ʺExtracting reverberant sound using a linearly constrained minimum variance spatial filter,ʺ Signal Processing Letters, IEEE, vol. 21, no. 5, pp. 630-634, May 2014.
[10] R. Roy and T. Kailath, ʺESPRIT-estimation of signal parameters via rotational invariance techniques,ʺ Acoustics, Speech and Signal Processing, IEEE Transactions on, vol. 37, no. 7, pp. 984-995, July 1989.
[11] B. Rao and K. Hari, ʺPerformance analysis of root-music,ʺ in Signals, Systems and Computers, 1988. Twenty-Second Asilomar Conference on, vol. 2, 1988, pp. 578-582.
[12] H. Teutsch and G. Elko, ʺAn adaptive close-talking microphone array,ʺ in Applications of Signal Processing to Audio and Acoustics, 2001 IEEE Workshop on the, 2001, pp. 163-166.
[13] O. Thiergart, G. D. Galdo, and E. A. P. Habets, ʺOn the spatial coherence in mixed sound fields and its application to signal-to-diffuse ratio estimation,ʺ The Journal of the Acoustical Society of America, vol. 132, no. 4, pp. 2337-2346, 2012.
[14] V. Pulkki, ʺVirtual sound source positioning using vector base amplitude panning,ʺ J. Audio Eng. Soc, vol. 45, no. 6, pp. 456-466, 1997.
[15] J. Blauert, Spatial hearing, 3rd ed. Hirzel-Verlag, 2001.
[16] T. May, S. van de Par, and A. Kohlrausch, ʺA probabilistic model for robust localization based on a binaural auditory front-end,ʺ IEEE Trans. Audio, Speech, Lang. Process., vol. 19, no. 1, pp. 1-13, 2011.
[17] J. Ahonen, V. Sivonen, and V. Pulkki, ʺParametric spatial sound processing applied to bilateral hearing aids,ʺ in AES 45th International Conference, Mar. 2012.