(57)【要約】  低複雑度インターチャネルの差分を推定するための方法と装置が提供される。インターチャネルの差分（ICD）を推定するための方法は、複数のオーディオチャネル信号に対して時間ドメインから周波数ドメインへの変換を適用するステップと、所定の周波数範囲にわたる、前記複数のオーディオチャネル信号のうち少なくとも一つと基準オーディオチャネル信号の間の前記ICDのための複数のICD値を演算するステップであって、各ICD値は所定の周波数範囲の一部にわたって演算されるステップと、複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ複数のICD値をそれぞれ乗算することによって重み付きICD値を演算するステップと、複数の重み付きICD値を加算することによって、所定の周波数範囲のICD範囲値を演算するステップとを有する。
2015517121.tif 000002
【特許請求の範囲】
【請求項１】
複数のオーディオチャネル信号に対し、時間ドメインから周波数ドメインへの変換を適用するステップ（30a,30b）と、
所定の周波数範囲にわたる、前記複数のオーディオチャネル信号のうち少なくとも一つと、基準オーディオチャネル信号との間のICD用の複数のICD値を演算するステップであって、各ICD値は前記所定の周波数範囲の一部にわたって演算される、ステップ（31,32）と、
前記複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ前記複数のICD値をそれぞれ乗算することによって、重み付きICD値を演算するステップ（35）と、
前記複数の重み付きICD値を加算することによって、前記所定の周波数範囲に対するICD範囲値を演算するステップ（36）と、
を有する、インターチャネルの差分（ICD）を推定するための方法（30）。
【請求項２】
前記ICDが、インターチャネルフェーズの差分（IPD）であるか、又は、インターチャネル時間の差分（ITD）である、請求項１に記載の方法（30）。
【請求項３】
前記時間ドメインから周波数ドメインへの変換が、高速フーリエ変換（FFT）、コサイン変調フィルタバンク、離散フーリエ変換（DFT）、複素数フィルタバンクのグループのうちの一つを具備する請求項１又は２記載の方法（30）。
【請求項４】
前記所定の周波数範囲が、
前記複数のオーディオチャネル信号の全周波数帯と、
前記複数のオーディオチャネル信号の前記全周波数帯に含まれる、所定の周波数インターバルと、
前記複数のオーディオチャネル信号の前記全周波数帯に含まれる、複数の所定の周波数インターバルとのグループのうちの一つを含む、
請求項１から３のうち一項に記載の方法（30）。
【請求項５】
前記所定の周波数インターバルが、２００Hzと６００Hzの間、又は、３００Hzと１．５kHzの間に位置している請求項４に記載の方法（30）。
【請求項６】
前記基準オーディオチャネル信号が、前記オーディオチャネル信号または前記複数のオーディオチャネル信号の少なくとも２つのオーディオチャネル信号から取得されダウンミックスされたオーディオ信号のうちの一つを有する、請求項１から５のいずれか一項に記載の方法（30）。
【請求項７】
前記複数のICD値を演算するステップが、前記周波数サブバンドを基準とした前記複数のICD値を演算するステップを有する、請求項１から６のいずれか一項に記載の方法（30）。
【請求項８】
前記周波数依存重み係数が、前記所定の周波数範囲にわたる全体のエネルギーに基づいて正規化された前記周波数サブバンドの前記エネルギーを基準として決定される、請求項７に記載の方法（30）。
【請求項９】
前記周波数依存重み係数が、前記所定の周波数範囲にわたり正規化された前記オーディオチャネル信号の前記周波数のエネルギー分布のマスキング曲線を基準として決定される、請求項７に記載の方法（30）。
【請求項１０】
前記周波数依存重み係数が、前記所定の周波数範囲にわたり正規化された前記オーディオチャネル信号の前記サブバンドの知覚エントロピー値を基準として決定される、請求項７に記載の方法（30）。
【請求項１１】
前記周波数依存重み係数が、少なくとも２つの連続するフレーム間で平滑化される、請求項１から１０のいずれか一項に記載の方法（30）。
【請求項１２】
複数のオーディオチャネル信号（10a,10b）に対し、時間ドメインから周波数ドメインへの変換を適用するように構成された変換モジュール（15）と、
所定の周波数範囲にわたる、前記複数のオーディオチャネル信号（10a,10b）のうち少なくとも１つと、基準オーディオチャネル信号との間のICD用の複数のICD値を演算し、前記複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ前記複数のICD値をそれぞれ乗算することによって重み付きICD値を演算し、前記複数の重み付きICD値を加算することによって前記所定の周波数範囲に対するICD範囲値を演算するように構成されたパラメータ推定モジュール（11）と、
を有する空間オーディオコーディング装置（10）。
【請求項１３】
前記複数のオーディオチャネルデータ信号（10a,10b）をダウンミックスすることによって、ダウンミックスされたオーディオチャネル信号を生成するように構成されたダウンミキシングモジュール（12）を有する、請求項１２に記載の空間オーディオコーディング装置（10）。
【請求項１４】
前記ダウンミキシングモジュール（12）に接続され、符号化されてダウンミックスされたオーディオビットストリームを含む、符号化されたオーディオビットストリームを生成するように構成された符号化モジュール（13）を有する、請求項１３に記載の空間オーディオコーディング装置（10）。
【請求項１５】
前記パラメータ推定モジュール（11）に接続され、かつ、ダウンミックスされたオーディオビットストリームと、前記複数のオーディオチャネル信号（10a,10b）のための前記ICD範囲値を有する補助データとを含むオーディオビットストリーム（１）を生成するように構成されたストリーミングモジュール（14）を有する、請求項１２から１４のいずれか一項に記載の空間オーディオコーディング装置（10）。
【請求項１６】
コンピュータ上で動作する際、請求項１から１１のいずれか一項に記載の前記方法を実行するためのプログラミングコードを備えたコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、インターチャネルの差分（ICD）推定の方法及び空間オーディオ符号化、又は、パラメトリックマルチチャネル符号化装置に関し、特にパラメトリック・マルチチャネル・オーディオ符号化に関する。
【背景技術】
【０００２】
パラメトリック・マルチチャネル・オーディオ符号化は、Faller, C.,Baumgarte, F.の“Efficient representation of spatial audio using perceptual parametrization”, Proc. IEEE Workshop on Appl. of Sig. Proc. to Audio and Acoust., October 2001, pp. 199-202.にて説明されている。ダウンミックスされたオーディオ信号は、マルチチャネルオーディオ信号を合成してアップミックスしてもよく、空間キューを使用して、ダウンミックスされたオーディオ信号よりも多くの出力オーディオチャネルを生成してもよい。通常、ダウンミックスされたオーディオ信号は、マルチチャネルオーディオ信号の複数のオーディオチャネル信号の重ね合わせによって生成される。例えば、ステレオオーディオ信号である。ダウンミックスされたオーディオ信号は、符号化され、空間キューに関連する補助データとともにオーディオビットストリームに挿入された波形である。デコーダは、オーディオ信号を符号化した波形に基づいてマルチチャネルオーディオ信号を合成するために補助データを使用する。
【０００３】
マルチチャネルオーディオ信号を合成するために使用されてもよい、いくつかの空間キューまたはパラメータが存在する。第１に、インターチャネルレベルの差分（ILD）は、比較される２つのチャネルのオーディオ信号上のレベル間の差分を示す。第２に、インターチャネル時間の差分（ITD）は、人間の聴取者の両耳の間で音が到達する時間の差分を示す。聴取者の耳に対する音源の方向または入射角を特定する手がかりを提供するため、 ITD値は、音の定位のために重要である。第３に、インターチャネル位相差（ICD）は、比較される２つのチャネル間の関連の位相差を特定する。サブバンドICD値は、サブバンドITD値の推定に使用されてもよい。最後に、インターチャネルコヒーレンス（ICC）は、ITDまたはICDに基づく位相配置の後に、正規化されたインターチャネル相互相関として定義される。ICC値は、音源の幅の推定に使用されてもよい。
【０００４】
ILD、ITD、ICDおよびICCは、空間マルチチャネル符号化/復号化、特に、ステレオオーディオ信号と、とりわけバイノーラルオーディオ信号のために重要なパラメータである。ITDは、例えば、-1.5msから1.5msの間の可聴遅延の範囲をカバーしてもよい。ICDは、-πとπの間の位相差の全範囲をカバーしてもよい。ICCは、相関の範囲をカバーしてもよく、さらに0と、1または-1と+1の間の他の相関係数との間の割合値を特定してもよい。現在のパラメトリックステレオ符号化方式において、ILD、ITD、ICDおよびICCは、通常周波数ドメインで推定される。全てのサブバンドのために、ILD、ITD、ICDおよびICCは、演算され、量子化され、オーディオビットストリームのパラメータセクションに含まれ、かつ送信される。
【０００５】
パラメトリックオーディオ符号化方式のためのビットレートの制約に起因して、空間符号化パラメータのすべての値を送信するオーディオビットストリームのパラメータセクションに十分なビットが存在しない場合がある。例えば、文献US 2006/0153408 A1は、オーディオエンコーダを開示している。その中で、組み合わされたキュー符号は、ダウンミックスされたオーディオビットストリームに対するサイド情報として含まれる複数のオーディオチャネルのために生成される。文献US 8,054,981 B2は、オーディオチャネルのエネルギー測定レベルと複数のオーディオチャネルのエネルギー測定の関係に関連付けられた量子化規則を使用した空間オーディオ符号化の方法を開示している。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明の思想は、複数のオーディオチャネル信号の各ペア間の各周波数サブバンドあるいは周波数ビンのインターチャネルの差分（ICD）値を演算するとともに、ICD値に基づいて加重平均値を算出することである。加重の方法に依存し、知覚的に重要な周波数サブバンドまたはビンは、それほど重要でないものよりも高い優先度を与えて考慮される。
【０００７】
有利なことに、背景音又は拡散音はICDの推定に影響を与えないように、エネルギーまたは知覚の重要性は、本技術を使用して考慮される。これは、発声音データのような強い直接要素を持つ音の空間イメージを有意義に表すために、特に有利である。
【０００８】
加えて、提供される方法は、オーディオビットストリームに含まれる空間符号化パラメータの数を減らし、その結果、推定の複雑性と送信ビットレートを低減する。
【課題を解決するための手段】
【０００９】
従って、本発明の第１の態様は、インターチャネル差分（ICD）の推定のための方法に関し、前記手法は、
複数のオーディオチャネル信号に対し、時間ドメインから周波数ドメインへの変換を適用するステップと、
所定の周波数範囲にわたる、複数のオーディオチャネル信号の少なくとも一つと、基準オーディオチャネル信号との間のICD用の複数のICD値を演算するステップであって、各ICD値は所定の周波数範囲の一部にわたって演算される、ステップと、
複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ前記複数のICD値をそれぞれ乗算することによって、重み付きICD値を演算するステップと、
複数の重み付きICD値を加算することによって、所定の周波数範囲に対するICD範囲値を演算するステップと、を有する。
【００１０】
ICDの第１の態様の第１の実施形態によると、ICDは、インターチャネルフェーズの差分（IPD）またはインターチャネル時間の差分（ITD）である。それらの空間符号化パラメータは、人間が聞くためのオーディオデータ再生のために特に有利である。
【００１１】
第１の態様の第２の実施形態によると、時間ドメインから周波数ドメインへの変換は、高速フーリエ変換（FFT）、コサイン変調フィルタバンク、離散フーリエ変換（DFT）、さらに複素数フィルタバンクのグループの内の一つを具備する。
【００１２】
第１の態様の第３の実施形態によると、所定の周波数範囲は、複数のオーディオチャネル信号の全周波数帯と、複数のオーディオチャネル信号の全周波数帯に含まれる所定の周波数インターバルと、複数のオーディオチャネル信号の全周波数帯に含まれる、複数の所定の周波数インターバルとのグループの内の一つを具備する。
【００１３】
第１の態様の第３の実施形態のうちの最初の実施例によると、所定の周波数インターバルは、200Hzと600Hz、又は、300Hzと1.5kHzの間に位置している。これらの周波数範囲は、ICDパラメータが最も重要である周波数依存の人間聴覚の感度に一致する。
【００１４】
第１の態様の第４の実施形態によると、基準オーディオチャネル信号は、オーディオチャネル信号、または複数のオーディオチャネル信号のうち少なくとも2つのオーディオチャネル信号から得たダウンミックスされたオーディオ信号のうちの一つを具備する。
【００１５】
第１の態様の第５の実施形態によると、複数のICD値を演算するステップは、周波数サブバンドに基づいた複数のICD値を演算するステップを有する。
【００１６】
第１の態様の第５の実施形態のうちの最初の実施例によると、周波数依存重み係数は、所定の周波数範囲にわたる全体のエネルギーに基づいて正規化された周波数サブバンドのエネルギーに基づいて決定される。
【００１７】
第１の態様の第５の実施形態のうちの第２の実施例によると、周波数依存重み係数は、所定の周波数範囲にわたり正規化されたオーディオチャネル信号の周波数のエネルギー分布のマスキング曲線に基づいて決定される。
【００１８】
第１の態様の第５の実施形態のうちの第３の実施例によると、周波数依存重み係数は、所定の周波数範囲にわたり正規化されたオーディオチャネル信号のサブバンドの知覚エントロピー値に基づいて決定される。
【００１９】
第１の態様の第６の実施形態によると、周波数依存重み係数は、少なくとも２つの連続するフレーム間で平滑化される。これは、推定ICD値が、短時間間隔の内では通常ほとんど変化がないステレオイメージに起因して、連続したフレーム間で比較的安定しているため、有利となることがある。
【００２０】
本発明の第２の態様によると、空間オーディオ符号化装置は、複数のオーディオチャネル信号に対して時間ドメインから周波数ドメインへの変換を実施するように構成された変換モジュールと、複数のオーディオチャネル信号のうちの少なくとも１つと、所定の周波数範囲にわたる基準オーディオチャネル信号との間のICD用の複数のICD値を演算し、複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ複数のICD値をそれぞれ乗算することによって重み付きICD値を演算し、さらに、複数の重み付きICD値を加算することによって所定の周波数範囲のためのICD範囲値を演算するように構成されたパラメータ推定モジュールを有する。
【００２１】
第２の態様の第１の実施形態によると、空間オーディオ符号化装置は、複数のオーディオチャネル信号をダウンミックスすることによって、ダウンミックスされたオーディオチャネル信号を生成するように構成されたダウンミキシングモジュールをさらに有する。
【００２２】
第２の態様の第２の実施形態によると、空間オーディオ符号化装置は、ダウンミキシングモジュールに接続され、かつ符号化されダウンミックスされたオーディオビットストリームを含む、符号化されたオーディオビットストリームを生成するように構成された符号化モジュールをさらに有する。
【００２３】
第２の態様の第３の実施形態によると、空間オーディオ符号化装置は、パラメータ推定モジュールに接続され、かつ、ダウンミックスされたオーディオビットストリームと、複数のオーディオチャネル信号のためのICD範囲値を有する補助データとを含むオーディオビットストリームを生成するように構成されたストリーミングモジュールをさらに有する。
【００２４】
第２の態様の第３の実施形態のうちの最初の実施例によると、ストリーミングモジュールは、オーディオビットストリームのフラグを設定し、前記フラグは、オーディオビットストリームのICD範囲値を有する補助データの存在を示すようにさらに構成される。
【００２５】
第２の態様の第４の実施形態によると、フラグは、オーディオビットストリームの全体に設定されるか、またはオーディオビットストリームに包含された補助データに含まれる。
【００２６】
本発明の第３の態様によると、コンピュータプログラムは提供され、前記コンピュータプログラムは、コンピュータ上で実行する際に、１つ目の態様、またはその実施例のいずれか一つによる方法を実行するためのプログラミングコードを具備する。
【００２７】
ここに開示された方法は、デジタル・シグナル・プロセッサ（DSP）、マイクロ-コントローラ、あるいはほかのサイド-プロセッサのソフトウェアとして、もしくは特定用途向け集積回路（ASIC）内のハードウェア回路として実装されてもよい。
【００２８】
本発明は、デジタル電気回路の中、またはコンピュータハードウェア、ファームウェア、ソフトウェア、もしくはそれらの組合せで実現されることができる。
【００２９】
追加の実施態様と実施例は、以下の記述から容易に理解され得る。特に、具体例、態様および以下に述べられるような実施例からのどのような特徴も、特に言及されていなければ、実施形態、態様、実施例の他の特徴と組み合わされてもよい。
【図面の簡単な説明】
【００３０】
図面は、本開示についてさらに理解をするために添付される。それらは、実施形態を図示し、本明細と結びついた本発明の原理を説明するために役立つ。他の実施形態および意図した利点、想定された原理および機能の多くは、以下の詳細な説明を参照することによって、より良く理解されるものとして認識され得る。図面の要素は、互いの図面に対して同じスケールで必ずしも図示されていない。概ね同一の符号は、対応する類似の部分を示す。
【図１】空間オーディオ符号化システムを示す概略図である。
【図２】空間オーディオ符号化装置を示す概略図である。
【図３】空間オーディオ復号化装置を示す概略図である。
【図４】インターチャネル差分を推定するための方法の一態様を示す概略図である。
【図５】オーディオビットストリームのビットストリーム構造の他の態様を示す概略図である。
【発明を実施するための形態】
【００３１】
以下の詳細な説明において、添付図面が参照され、特定の実施態様が図面によって示される。他の実施形態は、本発明の範囲を逸脱することなく活用され、かつ構造上あるいは論理的な変更がされ得ることは明白である。特に他の点で言及されなければ、各実施形態の機能、原理、および詳細は、他の実施形態に組み合わせてもよい。一般的に、本願は、ここに説明された特定の適用又はバリエーションをカバーすることを目的とする。従って、以下の詳細な説明は、限定的な解釈がされてはならず、かつ本発明の範囲は添付された特許請求の範囲によって定義される。
【００３２】
本実施形態は、機械可読媒体によって提供される機械可読命令内で具体化され得る方法と処理を含んでもよい。前記機械可読媒体は、デバイス、装置、メカニズムまたはシステムを含むがこれらに限定されない。前記システムは、コンピュータ、演算装置、プロセスユニット、ネットワーク装置、携帯コンピュータ、マイクロプロセッサなどのような機械にアクセス可能である情報を格納することができる。機械可読媒体は、揮発性または不揮発性のメディア、および機械に情報を伝えることができるメディアである電気信号、デジタル信号、論理信号、光信号、音響信号、音響光学信号などの任意の形式の伝搬信号を含んでもよい。
【００３３】
以下において、フローチャートとブロック図の中に概略的かつ例示的に示される方法と方法のステップについて参照される。これらの実例の図面に関連して、説明された前記方法は、システム、装置、および/またはデバイスの実施形態によって同様に容易に実行できることが理解されなければならない。特に、詳細なブロック図、および/またはフローチャートの実行が可能なシステム、装置、および/またはデバイスは、下記に図示され、説明されたシステム、装置、および/またはデバイスに必ずしも限定されるものではなく、むしろ異なるシステム、装置、および/またはデバイスであってもよいことは明白である。用語「第一の」「第二の」「第三の」等は単に符号として使用されているだけであり、それらの対象に数字的条件を課す、またはそれらの対象の重要性の特定の順位を定めることを意図するものではない。
【００３４】
図１は、概略的に空間オーディオ符号化システム１００を示す。空間オーディオ符号化システム１００は、空間オーディオ符号化装置１０と空間オーディオ復号化装置２０を有する。図１において２つのみが例示されている複数のオーディオチャネル信号10a・10bは、空間オーディオ符号化装置１０に入力される。空間オーディオ符号化装置１０は、オーディオチャネル信号10a・10bを符号化しダウンミックスするとともに空間オーディオ復号化装置２０に送信されるオーディオビットストリーム１を生成する。空間オーディオ復号化装置２０は、オーディオビットストリーム１に含まれるオーディオデータを復号化し、アップミックスするとともに図１で２つのみが例示されている複数の出力オーディオチャネル信号20a・20bを生成する。オーディオチャネル信号10a・10bと20a・20ｂの数は、それぞれ原則として限定されない。例えば、オーディオチャネル信号、10a・10bと20a・20bの数は、バイノーラルステレオ信号のために２つであってもよい。例えば、バイノーラルステレオ信号が３Ｄオーディオ、または、例えばＨＲＴＦフィルタリングを用いたヘッドホンベースの音響レンダリングのために使用されてもよい。
【００３５】
空間オーディオ符号化システム１００は、ITU-T G.722, G.722 Annex B, G.711.1 および/または G.711.1 Annex D.のステレオ拡張の符号化のために適用されてもよい。さらに、空間オーディオ符号化システム１００は、3GPP EVS（Enhanced Voice Services）codecにて定義されているような携帯アプリケーションの音声と音響の符号化/復号化のために使用されてもよい。
【００３６】
図２は、概略的に図１の空間オーディオ符号化装置１０をより詳細に示す。空間オーディオ符号化装置１０は、変換モジュール１５、変換モジュール１５に接続されたパラメータ推定モジュール１１、変換モジュール１５に接続されたダウンミキシングモジュール１２、ダウンミキシングモジュール１２に接続された符号化モジュール１３、及び符号化モジュール１３とパラメータ推定モジュール１１に接続されたストリーミングモジュール１４を有する。
【００３７】
前記変換モジュール１５は、空間符号化装置１０に入力する複数のオーディオチャネル信号10a・10bに対して時間ドメインから周波数ドメインへの変換を適用するように構成されてもよい。ダウンミキシングモジュール１２は、変換モジュール１５から変換されたオーディオチャネル信号10a・10bを受信し、かつ複数の変換されたオーディオチャネル信号10a・10bをダウンミックスすることによって少なくとも１つのダウンミックスされたオーディオチャネル信号を生成するように構成されてもよい。ダウンミックスされたオーディオチャネル信号の数は、例えば変換されたオーディオチャネル信号10a・10bの数よりも少なくてもよい。例えば、ダウンミキシングモジュール１２は、ただ一つのダウンミックスされたオーディオチャネル信号を生成するように構成されてもよい。符号化モジュール１３は、ダウンミックスされたオーディオチャネル信号を受信し、かつ符号化されダウンミックスされたオーディオチャネル信号を有する、符号化されたオーディオビットストリームを生成するように構成されてもよい。
【００３８】
前記パラメータ推定モジュール１１は、入力された複数のオーディオチャネル信号10a・10bを受信し、かつ複数のオーディオチャネル信号10aと10bのうち少なくとも一つと、所定の周波数範囲にわたる基準オーディオチャネル信号との間のICDのための複数のインターチャネル差分（ICD）値を演算するように構成されてもよい。基準オーディオチャネル信号は、例えば複数のオーディオチャネル信号10a・10bのうちの一つであってもよい。あるいは、複数のオーディオチャネル信号10aと10bの少なくとも二つのオーディオチャネル信号から生成されたダウンミックスされたオーディオ信号を使用することができる。パラメータ推定モジュール１１は、複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ複数のICD値をそれぞれ乗算することによって、重み付きICD値を演算し、かつ複数の重み付きICD値を加算することによって、所定の周波数範囲に対するICD範囲値を演算するように、さらに構成されてもよい。
【００３９】
前記ICD範囲値は、次に符号化モジュール１３から符号化されたオーディオビットストリームと、ICD範囲値の量子化された表示を含むパラメータセクションを有する出力オーディオビットストリーム１を生成するように構成され得るストリーミングモジュール１４に入力されてもよい。ストリーミングモジュール１４は、オーディオビットストリーム１に含まれているICD範囲値の種別を示すオーディオビットストリーム１のパラメータセクションのパラメータ種別フラグを設定するようにさらに構成されてもよい。
【００４０】
加えて、前記ストリーミングモジュール１４は、オーディオビットストリーム１のフラグを設定するようにさらに構成されてもよく、前記フラグは、オーディオビットストリーム１のパラメータセクションのICD範囲値の存在を示す。このフラグは、オーディオビットストリーム１全体のために設定されるか、またはオーディオビットストリーム１のパラメータセクションに含まれてもよい。このようにして、オーディオビットストリーム１に含まれるICD範囲値の信号は、空間オーディオ復号化装置２０に明示的または暗黙的にシグナリングされ得る。明示的と暗黙的なシグナリングスキームの間は切り替えが可能であってもよい。
【００４１】
暗黙的なシグナリングの場合、フラグは、パラメータセクション内の補助データの２番目のチャネル情報の存在を示してもよい。従来の復号化装置２０は、そのようなフラグが存在するかどうかをチェックしないで、単に符号化されダウンミックスされたオーディオビットストリームを復号化するだけである。一方で、従来ではない、例えば最新の復号化装置２０は、受信されたオーディオビットストリーム１のそのようなフラグの存在をチェックし、さらに、例えばオーディオビットストリーム１のパラメータセクションに含まれるICD範囲値のような追加の全帯域空間符号化パラメータに基づいてマルチチャネルオーディオ信号20a・20bを再構築してもよい。
【００４２】
明示的な信号を使用する際、全オーディオビットストリーム１は、ICD範囲値を含むものとしてフラグを立ててもよい。このように、従来の復号化装置２０は、ビットストリームを複合できず、そのためオーディオビットストリーム１を破棄する。一方、最新の復号化装置２０は、全体としてのオーディオビットストリーム１を復号化するか、またはICD範囲値を無視しながら符号化されダウンミックスされたオーディオビットストリーム１だけを復号化するかを判断してもよい。明示的信号の利点は、例えば、新しい携帯端末が、エネルギーを節約するためにオーディオビットストリームのどの部分を復号化するかを決定でき、従って統合されたバッテリーのバッテリー寿命を延長するという点である。空間符号化パラメータの復号化は、通常、より複雑でよりエネルギーを必要とする。さらに、レンダリングシステムに依存した、最新の復号化装置２０は、オーディオビットストリーム１のどの部分が復号化されるべきかを決定してもよい。例えばヘッドフォンでレンダリングするためには、符号化されダウンミックスされたオーディオビットストリームを単に復号化することで十分であってもよく、一方で、携帯端末がそのようなマルチチャネルレンダリング能力を備えたドッキングステーションに接続されている場合にのみ、マルチチャネルオーディオ信号は復号化される。
【００４３】
図３は、概略的に図１の空間オーディオ復号化装置２０をより詳細に示す。空間オーディオ復号化装置２０は、ビットストリーム抽出モジュール２６、パラメータ抽出モジュール２１、復号化モジュール２２、アップミキシングモジュール２４、並びに変換モジュール２５を有してもよい。ビットストリーム抽出モジュール２６は、オーディオビットストリーム１を受信し、かつパラメータセクションとオーディオビットストリーム１に包含された符号化されダウンミックスされたオーディオビットストリームを分離するように構成されてもよい。パラメータ抽出モジュール２１は、オーディオビットストリーム１に含まれているICD範囲値を示す受信されたオーディオビットストリーム１のパラメータセクション中のパラメータ種別フラグを検出するように構成されてもよい。パラメータ抽出モジュール２１は、受信したオーディオビットストリーム１のパラメータセクションからICD範囲値を読みとるようにさらに構成されてもよい。
【００４４】
前記復号化モジュール２２は、符号化されダウンミックスされたオーディオビットストリームを復号化し、かつ複合化されダウンミックスされたオーディオ信号をアップミキシングモジュール２４に入力するように構成されてもよい。アップミキシングモジュール２４は、パラメータ抽出モジュール２１に接続され、パラメータ抽出モジュール２１によって提供された受信したオーディオビットストリーム１のパラメータセクションから読みとられたICD範囲値を使用して、複合化されダウンミックスされたオーディオ信号を複数のオーディオチャネル信号にアップミックスするように構成されてもよい。最後に、変換モジュール２５は、アップミキシングモジュール２４に接続され、かつ複数のオーディオチャネル信号に基づいて音を再生するために複数のオーディオチャネル信号を周波数ドメインから時間ドメインへ変換するように構成されてもよい。
【００４５】
図４は、概略的にパラメトリックな空間符号化の方法３０の実施形態を示す。前記方法３０は、第１のステップにおいて、入力したチャネル（例えば入力チャネル10a・10b）に対して時間-周波数変換を実行する。ステレオ信号の場合、第１の変換はステップ30aで実行され、第２の変換はステップ30bで実行される。変換は、高速フーリエ変換（FFT）を使用してそれぞれのケースで実行されてもよい。あるいは、短時間フーリエ変換（STFT）、コサイン変調フィルタバンクを有するコサイン変調フィルタ、または複素数フィルタバンクを有する複素数フィルタが実行されてもよい。
【００４６】
第２のステップ３１で、相互スペクトルc[b]はサブバンドbごとに次式のように算出されてもよい。
【００４７】
【数１】
2015517121.tif 000003
【００４８】
ここで、X1[k]とX2[k]は、２つのチャネル1と２のFFT係数である。例えば、ステレオの場合の左と右のチャネルである。“*”は複素共役を示し、kbはサブバンドbの開始ビンを示し、さらにkb+1は隣接サブバンドb+1の開始ビンを示す。従って、kbからkb+1のFFTの周波数ビン[k]は、サブバンドbを表す。
【００４９】
あるいは相互スペクトルは、FFTのそれぞれの周波数ビンkに対して算出されてもよい。この場合、サブバンドbは、一つの周波数ビン[k]に直接対応する。
【００５０】
第３のステップ３２では、インターチャネル差分は、相互スペクトルに基づいてサブバンドごとに演算されてもよい。例えば、両耳間位相差（IPD）の場合、かかる演算は、次式のように行われてもよい。
【００５１】
【数２】
2015517121.tif 000004
【００５２】
ここで、サブバンドbごとのIPDは、それぞれのサブバンドbの相互スペクトルc[b]の角度である。ステップ３１・３２は、複数のオーディオチャネル信号のうち少なくとも一つと所定の周波数範囲にわたる基準オーディオチャネル信号との間のICD/IPDに対する、特定のIPD値の複数のICD値が演算されることを保証する。さらに、それぞれのICD値は、周波数サブバンドb又は少なくとも一つの周波数ビンである所定の周波数範囲の一部分にわたり演算される。
【００５３】
ステップ３１と３２に関連して詳述されるように演算スキームは、Breebart, J., van de Par, S., Kohlrausch, A., Schuijers, E.らの“Parametric Coding of Stereo Audio”, EURASIP Journal on Applied Signal Processing, 005, No. 9, pp. 1305-1322.によって知られた方法に対応する。
【００５４】
このIPD値は、帯域が限定された信号のために位相差を示す。もし、帯域幅が十分に限定されていれば、このフェーズ差分は、入力信号間のわずかな遅延とすることができる。それぞれの周波数サブバンドbのためのIPDとインターチャネル時間差分（ITD）は、同じ情報を示す。しかし、全バンクのためのIPD値はITD値と異なる。全帯域IPDは、２つのチャネル１と２の間に一定の位相差があるのに対し、全帯域ITDは、２つのチャネル間に一定の時間差がある。
【００５５】
サブバンドIPD値に基づいた全帯域IPDを演算するために、全帯域IPD値を取得するための、全サブバンドIPD値にわたる平均を算出することができてもよい。すなわち、オーディオチャネル信号の全周波数範囲にわたるIPD範囲値である。しかしながら、この推定方法は、周波数サブバンドが異なる知覚的重要性を持つために、代表IPD範囲値の間違った推定を導く可能性がある。
【００５６】
ICDの範囲値の算出のために、所定の周波数範囲が定義されてもよい。例えば、所定の周波数範囲は、複数のオーディオチャネル信号の全周波数帯域であってもよい。あるいは、複数のオーディオチャネル信号の全周波数帯の中の一つまたは複数の所定の周波数インターバルが選ばれてもよく、一方で所定の周波数インターバルは、コヒーレントまたは間隔があいていてもよい。所定の周波数範囲は、例えば２００Hzと６００Hzの間、あるいは３００Hzと１.５ｋHzの間の周波数帯を含んでもよい。
【００５７】
第３のステップ３３と第４のステップ３４では、第１と第２のステップ３１，３２と並行して、所定の周波数範囲の一部分ごとのエネルギーE[b]、すなわち各周波数サブバンドbまたは周波数ビンbが次式によって演算される。
【００５８】
【数３】
2015517121.tif 000005
【００５９】
続いて所定の周波数範囲のエネルギーEGにわたり正規化される。例えば、全周波数帯は次式となる。
【００６０】
【数４】
2015517121.tif 000006
【００６１】
ここで、MminとMmaxはそれぞれ所定の周波数範囲中の最小と最大の周波数サブバンドまたはビンのインデックスである。
【００６２】
ステップ３５では、複数のICD値それぞれに対して、例えばIPD[b]値、重み付きICD値、例えば重み付きIPD値IPDｗ[b]が、対応する周波数依存重み係数Ew[b]と複数のICD値のそれぞれを乗算することによって演算される。
【００６３】
【数５】
2015517121.tif 000007
【００６４】
周波数依存重み係数は、例えば次式によって算出される重み付きエネルギー値Ew[b]に関連してもよい。
【００６５】
【数６】
2015517121.tif 000008
【００６６】
連続したフレームにわたる重み係数Ew[b]は、平滑化されることができる。すなわち、現在の重み係数Ew[b]を演算するときに複数のオーディオチャネル信号の前フレームの重み係数EW[b]の割合を考慮に入れることである。
【００６７】
最後に、ステップ３６では、ICD範囲値、例えば全帯域IPD値IPDFが、複数の重み付きICD値を加算することによって所定の周波数範囲のために演算されてもよい。
【数７】
2015517121.tif 000009
【００６８】
あるいは、重み係数Ew[b]は、所定の周波数範囲にわたって正規化されたオーディオチャネル信号の周波数のエネルギー相関係数マスキング曲線から生成されてもよい。このようなマスキング曲線は、例えばBosi, M., Goldberg, R.の“Introduction to Digital Audio Coding and Standards”, Kluwer Academic Publishers, 2003.によって知られているように算出される。これは、所定の周波数範囲にわたり正規化されたオーディオチャネル信号のサブバンドbの知覚エントロピー値に基づいて周波数依存重み係数を決定することもできる。この場合、マスキング曲線または知覚エントロピーの正規化されたバージョンは重み係数として使われてもよい。
【００６９】
図４で示される方法は、マルチチャネルのパラメトリックオーディオ符号化のために実行されてもよい。相互スペクトルは、サブバンドbごととチャネルjごとに以下のように演算される。
【００７０】
【数８】
2015517121.tif 000010
【００７１】
ここで、Xj[k]は、チャネルjのFFT係数であり、Xref[k]は、基準チャネルのFFT係数である。基準チャネルは、複数のチャネルjから一つ選ばれてもよい。あるいは基準チャネルは、全チャネルjに渡る平均であるモノラルのダウンミックスされた信号のスペクトルであってもよい。前者の場合は、M-1個の空間キューが生成され、一方で後者の場合は、M個の空間キューが生成される。Mはチャネルjの数である。“*”は、複素共役を示し、kbは、サブバンドbの開始ビンを示し、さらにkb+1は隣接サブバンドb+1の開始ビンを示す。従って、FFTのkbからkb+1の周波数ビン[k]は、サブバンドbを表す。
【００７２】
あるいは、相互スペクトルは、FFTの各周波数ビンkのために算出されてもよい。この場合、サブバンドbは、一つの周波数ビン[k]に直接対応する。
【００７３】
チャネルjのインターチャネル差分は、相互スペクトルに基づいたサブバンドbごとに演算されてもよい。例えば、両耳間位相差（IPD）の場合は、そのような演算は以下のように処理される。
【００７４】
【数９】
2015517121.tif 000011
【００７５】
ここで、サブバンドbごとのIPDjとチャネルjは、サブバンドbとチャネルjそれぞれの相互スペクトルcj[b]の角度である。
【００７６】
所定の周波数範囲の各部分のチャネルjごとのエネルギーEj[b]は、例えば各周波数サブバンドb、もしくは周波数ビンｂは、次式によって演算される。
【００７７】
【数１０】
2015517121.tif 000012
【００７８】
さらにその後、所定の周波数範囲のエネルギーEGjにわたり正規化される。例えば全周波数帯域は以下のようになる。
【００７９】
【数１１】
2015517121.tif 000013
【００８０】
ここで、MminとMmaxは、それぞれ所定の周波数範囲に含まれる周波数サブバンドもしくはビンの最小、最大のインデックスである。
【００８１】
複数のICD値それぞれに対して、例えば値IPDj[b]、重み付きICD値、例えば重み付きIPD値IPDwj[b]が、対応する周波数依存重み係数Ewj[b]を有する複数のICDをそれぞれ乗算することによって演算される。
【００８２】
【数１２】
2015517121.tif 000014
【００８３】
周波数依存重み係数は、例えば次式で算出される重み付きエネルギー値Ewj[b]に関連されてもよい。
【００８４】
【数１３】
2015517121.tif 000015
【００８５】
連続したフレームにわたる重み係数Ewj[b]を平滑化することができてもよい。すなわち、現在の重み係数Ewj[b]を演算するときに複数のオーディオチャネル信号の前フレームの重み係数Ewj[b]の割合を考慮に入れることである。
【００８６】
最後に、ICD範囲値は、例えば、全周波数帯IPD値であるIPDFjが複数の重み付きICD値を加算することによって所定の周波数範囲のために演算されてもよい。
【００８７】
【数１４】
2015517121.tif 000016
【００８８】
図５は、概略的に例えば図１から３に詳細に述べられたオーディオビットストリーム１のオーディオビットストリームのビットストリーム構造を示す。図５のオーディオビットストリーム１は、符号化されダウンミックスされたオーディオ・ビットストリーム・セクション1aとパラメータセクション1bを含んでもよい。符号化されダウンミックスされたオーディオ・ビットストリーム・セクション1aとパラメータセクション1bは、入れ替えてもよく、それらを結合した長さは、オーディオビットストリーム１の全体のビットレートで表されてもよい。符号化されダウンミックスされたオーディオ・ビットストリーム・セクション1aは、複合化される実際のオーディオデータを含んでもよい。パラメータセクション1bは、ICD範囲値などのような空間符号化パラメータの、一つまたは複数の量子化された表示を有してもよい。オーディオビットストリーム１は、例えばオーディオビットストリーム１がパラメータセクション１ｂの中に補助データを含むか否かを明示的にシグナリングするために使われる信号フラグビット２を含んでもよい。さらに、パラメータセクション1bは、オーディオビットストリーム１がパラメータセクション1bに補助データを含むかどうかを暗黙的にシグナリングするために使われる信号フラグビット３を含んでもよい。
【符号の説明】
【００８９】
１  オーディオビットストリーム
２、３  信号フラグビット
１０  空間オーディオ符号化装置
１１  パラメータ推定モジュール
１２  ダウンミキシングモジュール
１３  符号化モジュール
１４  ストリーミングモジュール
１５  変換モジュール
２０  空間オーディオ復号化装置
２１  パラメータ抽出モジュール
２２  複合化モジュール
２４  アップミキシングモジュール
２５  変換モジュール
２６  ビットストリーム抽出モジュール
１００  空間オーディオ符号化システム
【図１】
2015517121.tif 000017
【図２】
2015517121.tif 000018
【図３】
2015517121.tif 000019
【図４】
2015517121.tif 000020
【図５】
2015517121.tif 000021
【手続補正書】
【提出日】平成26年11月13日(2014.11.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
複数のオーディオチャネル信号に対し、時間ドメインから周波数ドメインへの変換を適用するステップと、
所定の周波数範囲にわたる、前記複数のオーディオチャネル信号のうち少なくとも一つと、基準オーディオチャネル信号との間のICD用の複数のICD値を演算するステップであって、各ICD値は前記所定の周波数範囲の一部にわたって演算される、ステップと、
前記複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ前記複数のICD値をそれぞれ乗算することによって、重み付きICD値を演算するステップと、
前記複数の重み付きICD値を加算することによって、前記所定の周波数範囲に対するICD範囲値を演算するステップと、
を有する、インターチャネルの差分（ICD）を推定するための方法。
【請求項２】
前記ICDが、インターチャネルフェーズの差分（IPD）であるか、又は、インターチャネル時間の差分（ITD）である、請求項１に記載の方法。
【請求項３】
前記時間ドメインから周波数ドメインへの変換が、高速フーリエ変換（FFT）、コサイン変調フィルタバンク、離散フーリエ変換（DFT）、複素数フィルタバンクのグループのうちの一つを具備する請求項１又は２記載の方法。
【請求項４】
前記所定の周波数範囲が、
前記複数のオーディオチャネル信号の全周波数帯と、
前記複数のオーディオチャネル信号の前記全周波数帯に含まれる、所定の周波数インターバルと、
前記複数のオーディオチャネル信号の前記全周波数帯に含まれる、複数の所定の周波数インターバルとのグループのうちの一つを含む、
請求項１から３のうち一項に記載の方法。
【請求項５】
前記所定の周波数インターバルが、２００Hzと６００Hzの間、又は、３００Hzと１．５kHzの間に位置している請求項４に記載の方法。
【請求項６】
前記基準オーディオチャネル信号が、前記オーディオチャネル信号または前記複数のオーディオチャネル信号の少なくとも２つのオーディオチャネル信号から取得されダウンミックスされたオーディオ信号のうちの一つを有する、請求項１から５のいずれか一項に記載の方法。
【請求項７】
前記複数のICD値を演算するステップが、前記周波数サブバンドを基準とした前記複数のICD値を演算するステップを有する、請求項１から６のいずれか一項に記載の方法。
【請求項８】
前記周波数依存重み係数が、前記所定の周波数範囲にわたる全体のエネルギーに基づいて正規化された前記周波数サブバンドの前記エネルギーを基準として決定される、請求項７に記載の方法。
【請求項９】
前記周波数依存重み係数が、前記所定の周波数範囲にわたり正規化された前記オーディオチャネル信号の前記周波数の前記エネルギー分布のマスキング曲線を基準として決定される、請求項７に記載の方法。
【請求項１０】
前記周波数依存重み係数が、前記所定の周波数範囲にわたり正規化された前記オーディオチャネル信号の前記サブバンドの知覚エントロピー値を基準として決定される、請求項７に記載の方法。
【請求項１１】
前記周波数依存重み係数が、少なくとも２つの連続するフレーム間で平滑化される、請求項１から１０のいずれか一項に記載の方法。
【請求項１２】
複数のオーディオチャネル信号に対し、時間ドメインから周波数ドメインへの変換を適用するように構成された変換モジュールと、
所定の周波数範囲にわたる、前記複数のオーディオチャネル信号のうち少なくとも１つと、基準オーディオチャネル信号との間のICD用の複数のICD値を演算し、前記複数のICD値それぞれに対して、対応する周波数依存重み係数を持つ前記複数のICD値をそれぞれ乗算することによって重み付きICD値を演算し、前記複数の重み付きICD値を加算することによって前記所定の周波数範囲に対するICD範囲値を演算するように構成されたパラメータ推定モジュールと、
を有する空間オーディオコーディング装置。
【請求項１３】
前記複数のオーディオチャネルデータ信号をダウンミックスすることによって、ダウンミックスされたオーディオチャネル信号を生成するように構成されたダウンミキシングモジュールを有する、請求項１２に記載の空間オーディオコーディング装置。
【請求項１４】
前記ダウンミキシングモジュールに接続され、符号化されてダウンミックスされたオーディオビットストリームを含む、符号化されたオーディオビットストリームを生成するように構成された符号化モジュールを有する、請求項１３に記載の空間オーディオコーディング装置。
【請求項１５】
前記パラメータ推定モジュールに接続され、かつ、ダウンミックスされたオーディオビットストリームと、前記複数のオーディオチャネル信号のための前記ICD範囲値を有する補助データとを含むオーディオビットストリームを生成するように構成されたストリーミングモジュールを有する、請求項１２から１４のいずれか一項に記載の空間オーディオコーディング装置。
【請求項１６】
コンピュータ上で動作する際、請求項１から１１のいずれか一項に記載の前記方法を実行するためのプログラミングコードを備えたコンピュータプログラム。
【国際調査報告】
2015517121.tif 000022
2015517121.tif 000023