(57)【要約】符号化手順全体と、関連する復号手順とを提案する。符号化手順には、オーディオ入力チャネル集合の信号表現について動作する少なくとも二つの信号符号化プロセス（Ｓ１、Ｓ４）が含まれる。第１の符号化プロセスに関連して局所合成（Ｓ２）を用いて、第１の符号化プロセスの符号化誤差の表現を含む局所復号された信号を生成する。この局所復号された信号が、第２の符号化プロセスへの入力（Ｓ３）として適用される。符号化プロセス全体が、少なくとも前記第２の符号化プロセスを含む符号化プロセスのうちの少なくとも一つからの少なくとも二つの残差符号化誤差信号（Ｓ５）を生成する。次いで、残差誤差信号は、好適には残差誤差信号間の相関に基づいて、さらなる符号化プロセスにおいて複合残差符号化（Ｓ６）を対象とする。
2010540985.tif 000002
【特許請求の範囲】
【請求項１】
マルチチャネル・オーディオ信号のオーディオ入力チャネル集合の信号表現について動作し、第１の符号化プロセスと第２の符号化プロセスとを含む少なくとも二つの信号符号化プロセスを伴う符号化手順全体に基づくマルチチャネル・オーディオ符号化方法であって、
前記第１の符号化プロセスの符号化誤差の表現を含む局所復号された信号を生成するために、前記第１の符号化プロセスに関連して局所合成を実行する工程と、
少なくとも前記局所復号された信号を前記第２の符号化プロセスの入力として適用する工程と、
前記符号化手順のうち前記第２の符号化プロセスを含む少なくとも一つから、少なくとも二つの残差符号化誤差信号を生成する工程と、
前記残差誤差信号間の相関に基づいて、さらなる符号化プロセスにおいて前記残差誤差信号の複合残差符号化を実行する工程と
を有することを特徴とするマルチチャネル・オーディオ符号化方法。
【請求項２】
前記複合残差符号化を実行する工程は、
対応する無相関誤差成分を生成する変換によって前記相関残差誤差信号を無相関化する工程と、
前記無相関誤差成分の少なくとも一つを量子化する工程と、
前記変換の表現を量子化する工程と
を含むことを特徴とする請求項１に記載のマルチチャネル・オーディオ符号化方法。
【請求項３】
前記無相関誤差成分の少なくとも一つを量子化する工程は、前記誤差成分のエネルギー・レベルに基づいて前記無相関誤差成分にビット割り当てを実行する工程を含むことを特徴とする請求項２に記載のマルチチャネル・オーディオ符号化方法。
【請求項４】
前記変換はカルーネン・レーベ変換（ＫＬＴ）であることを特徴とする請求項２に記載のマルチチャネル・オーディオ符号化方法。
【請求項５】
前記変換の前記表現はＫＬＴ回転角の表現を含み、前記第２の符号化プロセスはパンニング角に加えられる予測パラメータを生成し、前記パンニング角と前記ＫＬＴ回転角とは量子化されていることを特徴とする請求項４に記載のマルチチャネル・オーディオ符号化方法。
【請求項６】
前記パンニング角と前記ＫＬＴ回転角とは差分量子化によって一緒に量子化されていることを特徴とする請求項５に記載のマルチチャネル・オーディオ符号化方法。
【請求項７】
前記少なくとも二つの残差符号化誤差信号は前記第２の符号化プロセスから生成されるを有することを特徴とする請求項１に記載のマルチチャネル・オーディオ符号化方法。
【請求項８】
前記入力チャネル集合の第１の信号表現は前記第１の符号化プロセスにおいて符号化され、
前記入力チャネルの少なくとも一部のうち、少なくとも一つの付加的な信号表現は、前記局所復号された信号を前記第２の符号化プロセスへの入力として用いつつ、前記第２の信号符号化プロセスにおいて符号化され、
前記残差誤差信号は、前記残差信号間の相関に基づいて複合誤差分析を含む複合誤差符号化プロセスにおいて処理される
ことを特徴とする請求項１に記載のマルチチャネル・オーディオ符号化方法。
【請求項９】
前記第１の符号化プロセスはモノラル符号化プロセスのようなメイン符号化プロセスであり、前記第２の符号化プロセスはステレオ符号化プロセスのような補助的な符号化プロセスであることを特徴とする請求項１に記載のマルチチャネル・オーディオ符号化方法。
【請求項１０】
マルチチャネル・オーディオ信号のオーディオ入力チャネル集合の信号表現について動作し、第１のエンコーダと第２のエンコーダとを含む少なくとも二つのエンコーダを備えるマルチチャネル・オーディオ符号化装置であって、
前記第１のエンコーダの符号化誤差の表現を含む局所復号された信号を生成するために、前記第１のエンコーダに関連する局所合成のための手段と、
少なくとも前記局所復号された信号を前記第２のエンコーダへの入力として適用する手段と、
前記第１のエンコーダと前記第２のエンコーダとのうち前記第２のエンコーダを含む少なくとも一方から、少なくとも二つの残差符号化誤差信号を生成する手段と、
前記残差誤差信号間の相関に基づいて、前記残差誤差信号の複合残差符号化のための複合残差エンコーダと
を備えることを特徴とするマルチチャネル・オーディオ符号化装置。
【請求項１１】
前記複合残差エンコーダは、
対応する無相関誤差成分を生成する変換を用いて前記相関残差誤差信号を無相関化する手段と、
前記無相関誤差成分の少なくとも一つを量子化する手段と、
前記変換の表現を量子化する手段と
を含むことを特徴とする請求項１０に記載のマルチチャネル・オーディオ符号化装置。
【請求項１２】
前記無相関誤差成分の少なくとも一つを量子化する手段は、前記誤差成分のエネルギー・レベルに基づいて前記無相関誤差成分にビット割り当てを実行するように構成されていることを特徴とする請求項１１に記載のマルチチャネル・オーディオ符号化装置。
【請求項１３】
前記変換はカルーネン・レーベ変換（ＫＬＴ）であることを特徴とする請求項１１に記載のマルチチャネル・オーディオ符号化装置。
【請求項１４】
前記変換の前記表現はＫＬＴ回転角の表現を含み、前記第２のエンコーダはパンニング角に加えられる予測パラメータを生成するように構成されており、前記符号化装置は、前記パンニング角と前記ＫＬＴ回転角とを量子化するように構成されていることを特徴とする請求項１３に記載のマルチチャネル・オーディオ符号化装置。
【請求項１５】
前記パンニング角と前記ＫＬＴ回転角とを差分量子化によって一緒に量子化するように構成されていることを特徴とする請求項１４に記載のマルチチャネル・オーディオ符号化装置。
【請求項１６】
前記少なくとも二つの残差符号化誤差信号は前記第２のエンコーダから生成されることを特徴とする請求項１０に記載のマルチチャネル・オーディオ符号化装置。
【請求項１７】
前記第１のエンコーダは、前記入力チャネル集合の第１の信号表現を符号化するように構成されており、
前記第２のエンコーダは、前記局所復号された信号を前記第２のエンコーダへの入力として用いつつ、前記入力チャネルの少なくとも一部のうち、少なくとも一つの付加的な信号表現を符号化するように構成されており、
前記複合残差エンコーダは、前記残差信号間の相関に基づいて複合誤差分析を含む前記残差誤差信号の処理を行うように構成されている
ことを特徴とする請求項１０に記載のマルチチャネル・オーディオ符号化装置。
【請求項１８】
前記第１のエンコーダはモノラル・エンコーダのようなメイン・エンコーダであり、前記第２のエンコーダはステレオ・エンコーダのような補助的なエンコーダであることを特徴とする請求項１０に記載のマルチチャネル・オーディオ符号化装置。
【請求項１９】
前記複合残差エンコーダは、ステレオ予測誤差とモノラル符号化誤差との間の相関に基づいて動作するように構成されていることを特徴とする請求項１８に記載のマルチチャネル・オーディオ符号化装置。
【請求項２０】
マルチチャネル・オーディオ信号の再構築のための入来ビットストリームについて動作し、第１の復号プロセスと第２の復号プロセスとを含む少なくとも二つの信号復号プロセスを伴う復号手順全体に基づくマルチチャネル・オーディオ復号方法であって、
相関残差誤差信号を生成するために、無相関残差誤差信号情報を表す入来残差ビットストリームに基づいて、さらなる復号プロセスにおいて複合残差復号を実行する工程と、
マルチチャネル・オーディオ信号を生成するために、前記第１の復号プロセスと前記第２の復号プロセスとのうち前記第２の復号プロセスを含む少なくとも一方からの復号されたチャネル表現に前記相関残差誤差信号を加える工程と
を有することを特徴とするマルチチャネル・オーディオ復号方法。
【請求項２１】
前記第１の復号プロセスは、入来メイン・ビットストリームに基づいて復号されたダウンミックス信号を生成するメイン・デコーダの復号プロセスであり、前記第２の復号プロセスは、前記復号されたダウンミックス信号と入来予測ビットストリームとに基づいて予測チャネル集合を再構築するパラメトリック・マルチチャネル・デコーダの復号プロセスであることを特徴とする請求項２０に記載のマルチチャネル・オーディオ復号方法。
【請求項２２】
前記さらなる復号プロセスにおいて複合残差復号を実行する工程は、前記入来残差ビットストリームに基づいて残差逆量子化を実行する工程と、前記相関残差誤差信号を生成するために入来変換ビットストリームに基づいて直交信号置換及び逆変換を実行する工程とを含むことを特徴とする請求項２０又は２１に記載のマルチチャネル・オーディオ復号方法。
【請求項２３】
前記逆変換は逆カルーネン・レーベ変換（ＫＬＴ）であることを特徴とする請求項２２に記載のマルチチャネル・オーディオ復号方法。
【請求項２４】
前記入来残差ビットストリームは量子化された第１の無相関成分と第２の無相関成分のエネルギーの指標とを含み、前記変換ビットストリームは前記ＫＬＴ変換の表現を含み、量子化された前記第１の無相関成分は復号されており、前記第２の無相関成分は前記示されたエネルギーで雑音注入を行うことによってシミュレートされ、前記逆ＫＬＴ変換は前記第１の復号された無相関成分とシミュレートされた前記第２の無相関成分と前記ＫＬＴ変換表現とに基づいて前記相関残差誤差信号を生成することを特徴とする請求項２３に記載のマルチチャネル・オーディオ復号方法。
【請求項２５】
マルチチャネル・オーディオ信号の再構築のための入来ビットストリームについて動作し、第１のデコーダと第２のデコーダとを含む少なくとも二つのデコーダを備えるマルチチャネル・オーディオ復号装置であって、
相関残差誤差信号を生成するために、無相関残差誤差信号情報を表す入来残差ビットストリームに基づいて、複合残差復号を実行するように構成された複合残差デコーダと、
マルチチャネル・オーディオ信号を生成するために、前記第１のデコーダと前記第２のデコーダとのうち前記第２のデコーダを含む少なくとも一方からの復号されたチャネル表現に前記相関残差誤差信号を加えるように構成された加算モジュールと
を備えることを特徴とするマルチチャネル・オーディオ復号装置。
【請求項２６】
前記第１のデコーダは、入来メイン・ビットストリームに基づいて復号されたダウンミックス信号を生成するメイン・デコーダであり、前記第２のデコーダは、前記復号されたダウンミックス信号と入来予測ビットストリームとに基づいて予測チャネル集合を再構築するパラメトリック・マルチチャネル・デコーダであることを特徴とする請求項２５に記載のマルチチャネル・オーディオ復号装置。
【請求項２７】
前記複合残差デコーダは、
前記入来残差ビットストリームに基づいた残差逆量子化のための手段と、
前記相関残差誤差信号を生成するための入来変換ビットストリームに基づいた直交信号置換及び逆変換のための手段と
を含むことを特徴とする請求項２５又は２６に記載のマルチチャネル・オーディオ復号装置。
【請求項２８】
前記逆変換は逆カルーネン・レーベ変換（ＫＬＴ）であることを特徴とする請求項２７に記載のマルチチャネル・オーディオ復号装置。
【請求項２９】
前記入来残差ビットストリームは量子化された第１の無相関成分と第２の無相関成分のエネルギーの指標とを含み、前記変換ビットストリームは前記ＫＬＴ変換の表現を含み、前記複合残差デコーダは量子化された前記第１の無相関成分を復号するとともに、前記第２の無相関成分を前記示されたエネルギーで雑音注入を行うことによってシミュレートするように構成されており、前記逆ＫＬＴ変換は前記第１の復号された無相関成分とシミュレートされた前記第２の無相関成分と前記ＫＬＴ変換表現とに基づいて前記相関残差誤差信号を生成することを特徴とする請求項２８に記載のマルチチャネル・オーディオ復号装置。
【請求項３０】
請求項１０乃至１９のいずれか１項に記載のオーディオ符号化装置と請求項２５乃至２９のいずれか１項に記載のオーディオ復号装置とを備えるオーディオ送信システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は一般に、オーディオ符号化および復号技術に関し、より詳細には、ステレオ符号化のようなマルチチャネル・オーディオ符号化に関する。
【背景技術】
【０００２】
パケット交換ネットワーク上で通信サービスを提供する必要性が急激に増加してきており、現在ではかつてないほど強い。それと並行して、多様な帯域幅と、モノラル・サウンド及びステレオ・サウンドと、音声信号及び音楽信号の両方とを含む送信されるメディア・コンテンツの多様性が増している。混合されたコンテンツをユーザに配信するための柔軟で効率的な解決策を規定するため、さまざまな標準化団体では多大な努力が結集されている。特に、二つの主要な課題がなおも解決策を待っている。第１に、展開されるネットワーキング技術とユーザデバイスとの多様性により、同一のサービスが多様なユーザに提供されると、トランスポート・ネットワークの特性の違いが原因で、ユーザが知覚する品質が異なるかもしれないことが暗示される。それゆえ、実際のトランスポート特性にサービスを適応させるため、品質メカニズムを改良することが必要である。第２に、通信サービスは、幅広いメディア・コンテンツに対応しなければならない。現在、音声と音楽との送信は、いまだに異なるパラダイムに属しており、あらゆるタイプのオーディオ信号について良好な品質を提供できるサービスのため埋めるべき溝が存在する。
【０００３】
今日、スケーラブルなオーディオ・ビジュアル・コーデック及び一般的にはメディア・コンテンツ・コーデックが利用可能であり、実際に、ＭＰＥＧの初期の設計ガイドラインの一つは当初からスケーラブルであった。しかし、これらのコーデックは、それらの機能が魅力的であるものの、低ビットレートで動作する効率に欠けており、そのため、現在のような大量市場の無線デバイスに実際に対応しているとはいえない。無線通信が広く普及したことにより、もっと高性能なスケーラブル・コーデックが必要となっている。この事実はすでに認識されており、近い将来、新しいコーデックが出現すると予想されている。
【０００４】
適応型サービスとスケーラブル・コーデックとに関して多大な努力が払われているにもかかわらず、トランスポートの問題にもっと注意が向けられない限り、スケーラブル・サービスは起こらないだろう。従って、サービス配信においてスケーラビリティを十分に活用するための実現技術として、効率的なコーデック以外に、適切なネットワーク・アーキテクチャとトランスポート・フレームワークとを検討しなければならない。基本的に、三つのシナリオが考えられ得る。
・エンドポイントでの適応。すなわち、より低い送信レートが選択されなければならない場合に、送信側に通知が行われ、送信側がスケーリング又はコーデックの変更を行う。
・中間ゲートウェイでの適応。ネットワークの一部が輻輳した場合に、又は異なるサービス能力を有する場合に、図１に示すような専用ネットワーク・エンティティが、サービスのトランスコーディングを行う。スケーラブル・コーデックを使えば、これはメディア・フレームを破棄したり、一部を切り取ったりするのと同じくらい単純でありうるだろう。
・ネットワーク内部での適応。ルータ又は無線インタフェースが輻輳した場合に、まさにその問題の場所でパケットを破棄するか又は一部を切り取ることによって適応が行われる。これは、無線リンクの深刻なトラヒック・バースト又はチャネル品質の変化の処理のような一時的な問題についての望ましい解決策である。
【０００５】
〔スケーラブル・オーディオ符号化〕
非会話型、ストリーミング／ダウンロード
一般に、現行のオーディオ研究の傾向は、低レートでの圧縮効率を改良する（３２ｋｂｐｓ未満のビットレートにおいて十分良好なステレオ品質を提供する）ことである。最近の低レート・オーディオの改良としては、ＭＰＥＧにおけるパラメトリック・ステレオ（ＰＳ）ツール開発の完成と、３ＧＰＰにおけるＣＥＬＰと変換コーデックである拡張ＡＭＲ−ＷＢ（ＡＭＲ−ＷＢ＋とも知られる）との混合的な標準化とが挙げられる。また、空間的オーディオ符号化（サラウンド／５．１コンテンツ）の周辺でＭＰＥＧ標準化の活動が進行中であり、最初の見本モデル（ＲＭ０）がすでに選択されている。
【０００６】
スケーラブル・オーディオ符号化に関しては、ＭＰＥＧにおける最近の標準化作業の結果、スケーラブル可逆拡張ツールであるＭＰＥＧ４−ＳＬＳが作成された。ＭＰＥＧ４−ＳＬＳは、可逆に至るまでずっと０．４ｋｂｐｓという細かい粒度ステップを使って、コアＡＡＣ／ＢＳＡＣに漸進的な改良を提供する。ＳＬＳのためのオーディオ・オブジェクト・タイプ（ＡＯＴ）は、まだ定義されていない。さらに、ＭＰＥＧの中で、スケーラブルな音声・オーディオ符号化の領域を目標にして、２００５年１月にコール・フォア・インフォメーション（ＣｆＩ）（非特許文献１）が発表されたが、ＣｆＩで扱われる重要な課題は、スケーラビリティと、コンテンツ・タイプ全域（例えば音声と音楽）にわたる一貫した性能と、低ビットレート（＜２４ｋｂｐｓ）での符号化品質とである。
【０００７】
音声符号化（会話モノラル）
概要
一般的な音声圧縮において、最新の標準化活動は、８．５５ｋｂｐｓの最大レートでの動作をもサポートする３ＧＰＰ２／ＶＭＲ−ＷＢコーデックの拡張である。ＩＴＵ−Ｔでは、以前、マルチレートＧ．７２２．１オーディオ／ビデオ会議コーデックが、２４、３２及び４８ｋｂｐｓで動作する超広帯域（１４ｋＨｚオーディオ帯域幅、３２ｋＨｚサンプリング）の能力を提供する２つの新規モードと共に更新された。帯域幅を４８ｋＨｚのフルバンド符号化へと拡張するさらなるモードが、現在、標準化の最中である。
【０００８】
スケーラブルな会話型音声符号化に関して、主な標準化活動はＩＴＵ−Ｔ（作業部会３、研究グループ１６）で行われている。そこでＧ．７２９のスケーラブルな拡張についての要件が最近（２００４年１１月）定義され、適格性確認プロセスが２００５年７月に終了した。この新たなＧ．７２９の拡張は、１２ｋｂｐｓから少なくとも２ｋｂｐｓの粒度ステップで、８ｋｂｐｓから３２ｋｂｐｓまでスケーラブルとなる予定である。Ｇ．７２９のスケーラブル拡張の主な対象用途は、共有され且つ帯域制限されたｘＤＳＬリンク上の会話型音声であり、すなわち、スケーリングは、特定の制御された音声チャネル（Ｖｃ’ｓ）を通じてＶｏＩＰパケットを通過させるディジタル家庭用ゲートウェイにおいて行われる可能性が高い。またＩＴＵ−Ｔは、完全に新しいスケーラブルな会話コーデックの要件を定義するプロセスをＳＧ１６／ＷＰ３／クエスチョン９で進めている。Ｑ．９／エンベデッド可変レート（ＥＶ）コーデックの要件は、２００６年７月に完成済みであり、現在、Ｑ．９／ＥＶ要件は、８．０ｋｂｐｓのコア・レートと３２ｋｂｐｓの最大レートとを提示している。Ｑ．９／ＥＶ精細スケーラビリティの特定の要件は、まだ導入されているわけではなく、その代わりに所定の運用のポイントが評価される可能性があるが、精細スケーラビリティは依然として目標である。Ｑ．９／ＥＶコアは、Ｇ．７２９の拡張が予想されるように、狭帯域（８ｋＨｚサンプリング）に制限されておらず、すなわち、Ｑ．９／ＥＶは、コア・レイヤから前方への広帯域（１６ｋＨｚサンプリング）を提供してもよい。さらに、超広帯域且つステレオ能力（３２ｋＨｚサンプリング／２チャンネル）をそれに与えるだろう来るべきＱ．９／ＥＶコーデックの拡張の要件が、２００６年１１月に定義された。
【０００９】
ＳＮＲスケーラビリティ
ビット量／レイヤ数を増加させることでＳＮＲを高めることのできるスケーラブルな会話型コーデックが複数存在する。例えば、ＭＰＥＧ４−ＣＥＬＰ（非特許文献２）、Ｇ．７２７（エンベデッドＡＤＰＣＭ）は、ＳＮＲがスケーラブルであり、追加レイヤの各々が、再構築された信号の再現性を高める。最近ではＫｏｖｅｓｉ他が、所定のコア・レートから精細スケーラビリティを実現し、音声／オーディオ会議サーバ又はオープンループ・ネットワークの輻輳制御に適用可能なトランスポート帯域幅の精細最適化を可能にする柔軟なＳＮＲ及び帯域幅スケーラブルなコーデック（非特許文献３）を提案した。
【００１０】
帯域幅スケーラビリティ
ビット量を増加させることで帯域幅を増加させることができるコーデックも存在する。その例としては、Ｇ７２２（サブバンドＡＤＰＣＭ）、３ＧＰＰ  ＷＢ音声コーデック競合に対するＴＩ候補（非特許文献４）、そして、アカデミックなＡＭＲ−ＢＷＳ（非特許文献５）コーデックなどがある。これらのコーデックについて、特定の帯域幅レイヤを追加すると、〜４ｋＨｚから〜７ｋＨｚまでの合成信号のオーディオ帯域幅を増加させる。帯域幅スケーラブル・コーダのもう１つの例は、非特許文献６の中で小石田によって記載されたＧ．７２９に基づく１６ｋｂｐｓ帯域幅スケーラブル・オーディオ・コーダである。また、ＳＮＲがスケーラブルであることに加えて、ＭＰＥＧ４−ＣＥＬＰは、８および１６ｋＨｚでサンプルされた入力信号についてのＳＮＲスケーラブル符号化システムを規定する（非特許文献３）。
【００１１】
チャネル・ロバスト性技術
会話型コーデックのチャネル・ロバスト性を改良することに関して、既存の標準及びコーデックについて様々な方法で行われてきた。以下に例をあげる。
・ＥＶＲＣ（１９９５）、部分的冗長符号化パラメータである差分遅延パラメータを送信して、チャネル削除の後で適応コードブック状態を再構築することを可能にし、従ってエラーリカバリを向上させる。ＥＶＲＣの詳細な概要は、非特許文献７に見られる。
・ＡＭＲ−ＮＢ（非特許文献８）において、ＧＳＭネットワークのために特定された音声サービスが、最大ソースレート適応原理で動作する。所与の総ビットレートについてのチャネル符号化とソース符号化との間のトレードオフが、ＧＳＭシステムによって連続的に監視されて調整され、そして、エンコーダ・ソースレートが、実現し得る最高の品質を提供するように構成される。ソースレートは、４．７５ｋｂｐｓから１２．２ｋｂｐｓまで変動してもよい。そして、チャネル総レートは、２２．８ｋｂｐｓか１１．４ｋｂｐｓかのいずれか一方である。
・最大ソースレートに加えて、上記の中点で述べた適応能力。ＡＭＲ  ＲＴＰペイロード・フォーマット（非特許文献９）によって、過去のフレーム全部の再送信が可能になり、ランダム・フレーム・エラーに対するロバスト性を大いに高める。非特許文献１０には、全体的および部分的冗長性概念を適応的に用いるマルチモード適応ＡＭＲシステムについて記載されている。さらに、ＲＴＰペイロードによって、パケットのインタリービングが可能になり、従って、非会話アプリケーションのロバスト性が強化される。
・ＡＭＲ−ＷＢと組み合わせた複数記述符号化について非特許文献１１に記載されており、加えて、低エラー条件についてはＡＭＲ−ＷＢが用いられる適応コーデック・モード選択方式が提案されており、深刻なエラー条件の間は、ここに記載されたチャネル・ロバストＭＤ−ＡＭＲ（ＷＢ）コーダが用いられる。
・冗長データ送信技術に対するチャネル・ロバスト性技術の変形として、状態の依存関係を低減させるためにエンコーダ分析を調整する技術があり、これはＡＭＲ４．７５符号化モードで行われる。ＡＭＲ−ＷＢについての同様のエンコーダ側分析技術の用途については、非特許文献１２の中でＬｅｆｅｂｖｒｅ他によって記載された。
・非特許文献１３では、Ｃｈｅｎ他が、総レートを適応させるためにマルチレート・オーディオ能力を用いるマルチメディア・アプリケーションと、低速の（１秒の）フィードバック・チャネルからの情報に基づく実際に用いられる圧縮方式とについて記述している。加えて、Ｃｈｅｎ他は、非常に深刻なエラー条件について音声合成を提供することができるように、冗長パラメータとしてテキストを用いる非常に低レートの基本レイヤを用いてオーディオ・アプリケーションを拡張する。
【００１２】
オーディオ・スケーラビリティ
基本的に、オーディオ・スケーラビリティは、以下によって達成することができる。
・信号の量子化、すなわち、ＳＮＲのようなスケーラビリティを変えること。
・信号の帯域幅を拡張又は縮小すること。
・オーディオ・チャネルを落とすこと（例えば、１チャネルで構成されるモノラル、２チャネルで構成されるステレオ、５チャンネルで構成されるサラウンド）−（空間的スケーラビリティ）
現時点で利用可能な精細なスケーラブル・オーディオ・コーデックは、ＡＡＣ−ＢＳＡＣ（アドバンスド・オーディオ符号化−ビット・スライス算術符号化）である。これは、オーディオと音声との両方の符号化に用いることができ、また、少量ずつの増分によるビットレートのスケーラビリティも可能にする。
【００１３】
これはビットストリームを生成し、ストリームの所定の部分が欠落した場合に、それを復号することすら可能である。ストリームの復号を可能にするために利用可能でなければならない、データ量に関する最小限の要件が存在する。これは、基本レイヤと呼ばれる。残りのビット集合は、品質向上に対応しており、それゆえ、それらは拡張レイヤと呼ばれる。ＡＡＣ−ＢＳＡＣは、１Ｋｂｉｔ／ｓ／チャネル付近で、又はオーディオ信号についてはより少ない値で、拡張レイヤをサポートする。
【００１４】
「そのような精細なスケーラビリティを得るために、量子化されたスペクトル・データにビット・スライシング方式が適用される。最初に、量子化されたスペクトル値が周波数帯でグループ分けされ、これらのグループの各々は、それらの２進法表現の中に量子化されたスペクトル値を含める。次いで、グループの各ビットが、それらの重みとスペクトル・コンテンツとに従って、スライスにおいて処理される。従って、最初に、グループの中の量子化された値の最上位ビット（ＭＳＢ）がすべて処理され、そして、各ビットは、所与のスライスの範囲内で低周波数から高周波数へと処理される。次いで、これらのビット・スライスは、２進算術符号化方式を用いて符号化され、最小の冗長性を備えたエントロピー符号化が得られる。」（非特許文献１）
【００１５】
「デコーダによって利用される拡張レイヤの数が増加すると、提供するＬＳＢ情報を増やすことによって、量子化されたスペクトル・データが精緻化される。同時に、より高い周波数帯域でスペクトル・データのビット・スライスを提供すると、オーディオ帯域幅が増加する。このようにして、準連続的なスケーラビリティを達成することができる。」（非特許文献１）
【００１６】
言い換えると、スケーラビリティは２次元空間で達成することができる。より多くのＬＳＢを送信することによって所定の信号の帯域幅に対応する品質を向上させることができ、又は、より多くのビット・スライスを受信器に提供することによって信号の帯域幅を拡張することもできる。さらに、復号に利用可能なチャネル数を適応させることによって、第３次元のスケーラビリティが利用可能である。例えば、サラウンド・ステレオ（５チャネル）は、ステレオ（２チャネル）へと縮小されてもよいだろうし、それが、他方では、例えばトランスポート条件によって必要とされる場合に、モノラル（１チャネル）へと縮小されてもよいだろう。
【００１７】
〔オーディオ符号化のための知覚モデル〕
オーディオ符号化システムについて所与のビットレートにおいて最良の知覚品質を達成するには、人間の聴覚系の性質を考慮しなければならない。その目的は、注意深く聞かれるだろう音の部分にリソースを集中させつつ、聴覚が鈍感なところではリソースを節約することである。人間の聴覚系の性質は、各種の聴覚検査で文書化されており、知覚モデルの導出にあたっては、それらの結果が用いられた。
【００１８】
オーディオ符号化における知覚モデルの応用は、多様な方法で実装されうる。一つの方法は、知覚的重要度に対応する方法で符号化パラメータのビット割当てを行うことである。例えばＭＰＥＧ−１／２レイヤIIIのような変換領域コーデックでは、周波数領域において各ビットをそれらの知覚的重要度に従って相異なるサブバンドに割り当てることによって、これが実装される。別の方法は、信号の知覚的に重要な周波数を強調するために、知覚的重み付け又はフィルタリングを行うことである。強調は、標準的なＭＭＳＥ符号化技術において、より多くのリソースが割り当てられるであろうことを保証する。さらに別の方法では、符号化後の残差誤差信号に知覚的重み付けを行うことである。知覚的に重み付けされた誤差を最小化することによって、このモデルに関する知覚品質は最大化される。この方法は、例えばＣＥＬＰ音声コーデックにおいて一般的に用いられている。
【００１９】
〔ステレオ符号化又はマルチチャネル符号化〕
マルチチャネル（すなわち、少なくとも二つの入力チャネル）符号化・復号を用いるオーディオ送信システムの一般的な例を図２に示す。システム全体は基本的に送信側にマルチチャネル・オーディオ・エンコーダ１００と送信モジュール１０とを備え、受信側に受信モジュール２０とマルチチャネル・オーディオ・デコーダ２００とを備える。
【００２０】
オーディオ信号のステレオ符号化又はマルチチャネル符号化の最も単純な方法は、図３に示すように、相異なるチャネルの信号を、個別の独立した信号として、別々に符号化することである。しかし、これは、複数のチャネル間の冗長性が除去されないことと、ビットレート要件がチャネル数に比例することになるであろうということとを意味する。
【００２１】
ステレオＦＭラジオ送信で用いられるとともに、旧式のモノラル・ラジオ受信器との互換性を保証する別の基本的な方法は、二つの関係チャネルの和信号（モノラル）と差信号（サイド）とを送信することである。
【００２２】
例えばＭＰＥＧ−１／２レイヤIII及びＭＰＥＧ−２／４ＡＡＣのような最先端のオーディオ・コーデックは、いわゆるジョイント・ステレオ符号化を利用する。この技術によれば、相異なるチャネルの信号が、別々に個々にではなく、一緒に処理される。二つの最も一般的に用いられるジョイント・ステレオ符号化技術は、「ミッド／サイド」（Ｍ／Ｓ）ステレオ及びインテンシティ・ステレオ符号化として知られるものであり、それらは通常、符号化されるステレオ又はマルチチャネル信号のサブバンドに適用される。
【００２３】
Ｍ／Ｓステレオ符号化は、チャネル・サブバンドの和信号と差信号とを符号化して送信し、それによってチャネル・サブバンド間の冗長性を利用するという意味で、ステレオＦＭラジオにおける先述の手順と類似する。Ｍ／Ｓステレオ符号化に基づく符号器の構造と動作とは、例えばＪ．Ｄ．Ｊｏｈｎｓｔｏｎによる特許文献１の中に記載されている。
【００２４】
他方、インテンシティ・ステレオは、ステレオの無関係性を利用することができる。インテンシティ・ステレオは、チャネル間でどのように強度が分散されるかを示す何らかの位置情報と共に、（相異なるサブバンドの）各チャネルの連結強度を送信する。インテンシティ・ステレオは、チャネルのスペクトルの大きさの情報を提供するだけであり、一方で、位相情報は伝達されない。このような理由で、且つ、一時的なチャネル間情報（より具体的には、チャネル間の時間差）は、特に低周波数では心理音響に大きく関わるという理由で、インテンシティ・ステレオは例えば２ｋＨｚを上回る高周波数でのみ用いられうる。インテンシティ・ステレオ符号化の方法については、例えば、Ｒ．Ｖｅｌｄｈｕｉｓ他による特許文献２に記述されている。
【００２５】
最近開発されたステレオ符号化の方法については、例えば、２００２年５月のミュンヘン（ドイツ）での第１１２回ＡＥＳコンベンションにおける、Ｃ．Ｆａｌｌｅｒ他による「ステレオ及びマルチチャネル・オーディオ圧縮に適用されるバイノーラル・キュー符号化（Binaural cue coding applied to stereo and multi-channel audio compression）」と題された会議の論文に記述されている。この方法は、パラメトリック・マルチチャネル・オーディオ符号化方法である。そのようなパラメトリック技術の基本原理は、符号化側でＮ個のチャネルＣ1、Ｃ2、…ＣNからの入力信号が一つのモノラル信号ｍへと組み合わされることである。モノラル信号は、いずれかの従来型のモノラルのオーディオ・コーデックを用いてオーディオ符号化される。並行して、マルチチャネル・イメージについて記述する各パラメータがチャネル信号から導出される。各パラメータは、符号化されて、オーディオ・ビットストリームと共にデコーダへ送信される。デコーダは、最初にモノラル信号ｍ’を復号し、次いで、マルチチャネル・イメージのパラメトリックな記述に基づいて、チャネル信号Ｃ1’、Ｃ2’、…ＣN’を再生する。
【００２６】
バイノーラル・キュー符号化（ＢＣＣ、非特許文献１４）の方法の原理は、符号化されたモノラル信号といわゆるＢＣＣパラメータとを送信することである。ＢＣＣパラメータは、元のマルチチャネル入力信号のサブバンドについて、符号化されたチャネル間のレベル差とチャネル間の時間差とを含む。デコーダは、ＢＣＣパラメータに基づいてモノラル信号のサブバンドに関するレベル調整および位相調整を適用することによって、相異なるチャネル信号を再生する。例えばＭ／Ｓ又はインテンシティ・ステレオに対する利点は、一時的なチャネル間情報を含むステレオ情報がはるかに低いビットレートで送信されることである。
【００２７】
別の技術は、Ｃ．Ｅ．Ｈｏｌｔ他によって特許文献３の中で記載されたものだが、モノラル信号及びサイド情報の符号化という同じ原理を用いる。この場合に、サイド情報は、予測器フィルタと、場合によっては残差信号とから成る。ＬＭＳアルゴリズムによって推定される予測器フィルタは、モノラル信号に適用される場合に、マルチチャネルのオーディオ信号の予測を可能にする。この技術を使えば、マルチチャネルのオーディオ・ソースの非常な低ビットレートの符号化を行うことができるが、ただし、品質の低下を犠牲にすることになる。
【００２８】
パラメトリック・ステレオ符号化の基本原理を図４に示すが、図４はダウンミキシング・モジュール１２０と、コア・モノラル・コーデック１３０、２３０と、パラメトリック・ステレオ・サイド情報エンコーダ／デコーダ１４０、２４０とを備えたステレオ・コーデックのレイアウトを示す図である。ダウンミキシングは、マルチチャネル（この場合はステレオ）信号をモノラル信号へ変換する。パラメトリック・ステレオ・コーデックの目的は、再構築されたモノラル信号と追加のステレオパラメータとを所与として、デコーダでステレオ信号を再現することである。
【００２９】
特許文献４として公開された国際特許出願の中で、マルチチャネル符号化に関する適応ビット割当てのための技術が記載されている。これは、少なくとも二つのエンコーダを利用するものであり、第２のエンコーダはマルチステージ・エンコーダである。符号化ビットは、マルチチャネル・オーディオ信号特性に基づいて、第２のマルチステージ・エンコーダの相異なるステージに適応的に割り当てられる。
【００３０】
最後に、完全性のために、３Ｄオーディオにおいて用いられる技術について言及する。この技術は、サウンドソース信号をいわゆるヘッド関連フィルタでフィルタリングすることによって、左右のチャネル信号を合成する。しかし、この技術は、相異なるサウンドソース信号が分離されることを必要とし、従って、ステレオ又はマルチチャネル符号化に適用することが一般にはできない。
【００３１】
従来のパラメトリック・マルチチャネル又はステレオ符号化の解決策は、チャネル関係のパラメトリック表現を用いてモノラルのダウンミックス信号からステレオ又はマルチチャネル信号を再現することを目指している。符号化されたダウンミックス信号の品質が悪い場合に、ステレオ信号パラメータに費やされたリソースの量に関らず、これも最終結果に反映されるであろう。
【先行技術文献】
【特許文献】
【００３２】
【特許文献１】米国特許第５２８５４９８号明細書
【特許文献２】欧州特許第０４９７４１３号公報
【特許文献３】米国特許第５４３４９４８号明細書
【特許文献４】国際公開第２００６／０９１１３９号パンフレット
【非特許文献】
【００３３】
【非特許文献１】ＩＳＯ／ＩＥＣ  ＪＴＣ１、ＳＣ２９、ＷＧ１１／Ｍ１１６５７、「スケーラブル音声・オーディオ符号化に関するＣｆＩについての既存のＭＰＥＧ−４技術の性能及び機能（Performance and functionality of existing MPEG-4 technology in the context of CfI on Scalable Speech and Audio Coding）」、２００５年１月
【非特許文献２】Ｈｅｒｒｅ、「ＭＰＥＧ−４オーディオの概要及びその移動体通信における応用（OVERVIEW OF MPEG-4 AUDIO AND ITS APPLICATIONS IN MOBILE COMMUNICATIONS）」、ＩＣＣＴ  ２０００
【非特許文献３】Ｋｏｖｅｓｉ、「連続したビットレート柔軟性を有するスケーラブル音声・オーディオ符号化方式（A SCALABLE SPEECH AND AUDIO CODING SCHEME WITH CONTINUOUS BITRATE FLEXIBILITY）」、ＩＣＡＳＳＰ  ２００４
【非特許文献４】ＭｃＣｒｅｅ他、「エンベデッド適応マルチレート広帯域音声コーダ（AN EMBEDDED ADAPTIVE MULTI‐RATE WIDEBAND SPEECH CODER）」、ＩＣＡＳＳＰ  ２００１
【非特許文献５】Ｈｕｉ  Ｄｏｎｇ  Ｇｉｂｓｏｎ、ＪＤ  Ｋｏｋｅｓ、ＭＧ、「ＳＮＲ及び帯域幅スケーラブル音声符号化（SNR and bandwidth scalable speech coding）」、Ｃｉｒｃｕｉｔｓ  ａｎｄ  Ｓｙｓｔｅｍｓ、２００２年。ＩＳＣＡＳ  ２００２
【非特許文献６】小石田  他、「Ｇ．７２９標準に基づく１６ＫＢＩＴ／Ｓ帯域幅スケーラブル・オーディオ・コーダ（A 16-KBIT/S BANDWIDTH SCALABLE AUDIO CODER BASED ON THE G.729 STANDARD）」、ＩＣＡＳＳＰ  ２０００
【非特許文献７】Ｒｅｃｃｈｉｏｎｅ、「ＣＤＭＡに対して改良された可変レート・コーダ・トール品質音声（The Enhanced Variable Rate Coder Toll Quality Speech For CDMA）」、Ｊｏｕｒｎａｌ  ｏｆ  Ｓｐｅｅｃｈ  Ｔｅｃｈｎｏｌｏｇｙ、１９９９
【非特許文献８】Ｕｖｌｉｄｅｎ他、「セルラ無線通信品質に適応された適応マルチレートＡ音声サービス（Adaptive Multi-Rate-A Speech service adapted to Cellular Radio Network Quality）」、Ａｓｉｌｏｍａｒ、１９９８
【非特許文献９】Ｓｊｏｂｅｒｇ他、「（適応マルチレート（ＡＭＲ）及び適応マルチレート広帯域（ＡＭＲ−ＷＢ）オーディオ・コーデックのためのリアルタイム・トランスポート・プロトコル（ＲＴＰ）ペイロード・フォーマット及びファイル記憶フォーマット（Real-Time Transport Protocol(RTP)Payload Format and File Storage Format for the Adaptive Multi-Rate(AMR)and Adaptive Multi-Rate Wideband(AMR-WB)Audio Codecs）」、ＲＦＣ  ３２６７、ＩＥＴＦ、２００２年６月
【非特許文献１０】Ｊｏｈａｎｓｓｏｎ他、「ＶｏＩＰに対する帯域幅効率ＡＭＲ動作（Bandwidth Efficient AMR Operation for VoIP）」、ＩＥＥＥ  ＷＳ  ｏｎ  ＳＰＣ、２００２年
【非特許文献１１】Ｈ．Ｄｏｎｇ他、「移動体アドホック・ネットワークに対するＡＭＲ−ＷＢに基づいた複数記述音声コーダ（Multiple description speech coder based on AMR-WB for Mobile ad-hoc networks）」、ＩＣＡＳＳＰ  ２００４
【非特許文献１２】Ｃｈｉｂａｎｉ，Ｍ；Ｇｏｕｒｎａｙ，Ｐ；Ｌｅｆｅｂｖｒｅ，Ｒ、「制約最適化によるＣＥＬＰベース・コーダのロバスト性の向上（Increasing the Robustness of CELP-Based Coders By Constrained Optimization）」、ＩＣＡＳＳＰ  ２００５
【非特許文献１３】Ｃｈｅｎ他、「マルチホップ無線ネットワーク上のエンドユーザ音声認識の改良のためのＱｏＳ適応に関する実験（Experiments on QoS Adaptation for Improving End User Speech Perception Over Multi-hop Wireless Networks）」、ＩＣＣ、１９９９年
【非特許文献１４】Ｃ．Ｆａｌｌｅｒ、Ｆ．Ｂａｕｍｇａｒｔｅ、「バイノーラル・キュー・符号化−パート１：心理音響的基礎及び設計原理（Binaural cue coding - Part I:Psychoacoustic fundamentals and design principles）」、ＩＥＥＥ  Ｔｒａｎｓ．Ｓｐｅｅｃｈ  Ａｕｄｉｏ  Ｐｒｏｃｅｓｓｉｎｇ、ｖｏｌ．１１、ｐｐ．５０９−５１９、２００３年１１月
【発明の概要】
【発明が解決しようとする課題】
【００３４】
本発明は、先行技術の装置のこれらの欠点およびその他の欠点を克服する。
【課題を解決するための手段】
【００３５】
本発明は一般に、符号化手順全体と、関連する復号手順とに関する。符号化手順は、オーディオ入力チャネル集合の信号表現について動作する少なくとも二つの信号符号化プロセスを含む。本発明の基本概念は、第１の符号化プロセスに関連する局所合成を用いて、第１の符号化プロセスの符号化誤差の表現を含む局所復号された信号を生成し、この局所復号された信号を第２の符号化プロセスへの入力として適用することである。符号化手順全体では、第１の符号化プロセスと第２の符号化プロセスとの一方又は両方から少なくとも二つの残差符号化誤差信号が生成され、それらは主として第２の符号化プロセスから生成されるが、場合によっては第１および第２の符号化プロセスから同時に生成される。次いで、残差誤差信号は、好適には残差誤差信号間の相関に基づいて、さらなる符号化プロセスにおいて複合残差符号化を対象とする。また、このプロセスでは、知覚尺度が考慮されてもよい。
【００３６】
局所復号された信号が第２の符号化プロセスへの入力として用いられるため、複合残差が第１と第２の符号化プロセスの両方の符号化誤差の表現を含むことが常に保証されうる。残差誤差信号間の相関を利用することによって、品質向上の可能性も備えたリソース効率が非常に高いオーディオ入力全体の符号化が達成できる。
【００３７】
ハードウェアの観点からは、本発明は、エンコーダと、関連するデコーダとに関する。エンコーダ全体は、基本的に、入力チャネルの相異なる表現を符号化するための少なくとも二つのエンコーダを備える。第１のエンコーダに関連する局所合成によって、局所復号された信号が生成され、そして、この局所復号された信号が、第２のエンコーダへの入力として適用される。また、エンコーダ全体は、第１及び／又は第２のエンコーダからの、主として第２のエンコーダからであるが、場合によっては第１と第２のエンコーダの両方からの少なくとも二つの残差符号化誤差信号を生成するために動作することも可能である。また、エンコーダ全体は、好適には残差誤差信号と変換とその後の量子化との間の相関に基づいて、残差誤差信号の複合誤差分析を行うための複合残差エンコーダを備える。
【００３８】
局所合成が第１のエンコーダから抽出できない場合に、符号化手順全体で局所合成を行うために、第１のエンコーダに対応するデコーダを符号化側に実装して使用することができる。これは、局所合成が、第１のエンコーダの中でか、又は、第１のエンコーダに関連して符号化側に実装された専用のデコーダによって内部的に達成できることを意味する。
【００３９】
より詳細には、復号メカニズムは基本的に、第１の復号プロセスと第２の復号プロセスとを含むマルチチャネル・オーディオ信号を再構築するために入来ビットストリームについて動作する少なくとも二つの復号プロセスを含む。次いで、さらなる復号プロセスにおいて、無相関残差誤差信号情報を表す入来残差ビットストリームに基づいて複合残差復号が行われ、相関残差誤差信号が生成される。次いで、相関残差誤差信号は、第１の復号プロセスと第２の復号プロセスとのうち第２の復号プロセスを含む少なくとも一方からの復号されたチャネル表現に加えられ、復号されたマルチチャネル出力信号が生成される。
【００４０】
さらに別の側面では、本発明は、提案されたオーディオ・エンコーダおよびデコーダに基づいたオーディオ送信システムの改良に関する。
【００４１】
本発明によって提供される他の利点は、下記の本発明の諸実施形態の記述を読めば認識されるであろう。
【００４２】
本発明及びそのさらなる目的と利点とは、添付の図面と共に下記の説明を参照することによって最も良く理解されるであろう。
【図面の簡単な説明】
【００４３】
【図１】メディア適応のための専用ネットワーク・エンティティの例を説明する。
【図２】マルチチャネル符号化・復号を用いたオーディオ送信システムの一般例を説明する概略ブロック図である。
【図３】個別且つ独立の信号として相異なるチャネルの信号がどのように別個に符号化されるかを説明する概略図である。
【図４】パラメトリック・ステレオ符号化の基本原理を説明する概略ブロック図である。
【図５】本発明の例示の実施形態に係るステレオ符号器の概略ブロック図である。
【図６】本発明の別の例示の実施形態に係るステレオ符号器の概略ブロック図である。
【図７Ａ】、
【図７Ｂ】Ｌ／Ｒ平面においてステレオ・パンニングがどのように角度として表現されるかを説明する概略図である。
【図８】場合によってはより短いラップ・アラウンド・ステップが採られうる量子化器の境界がどのように用いられうるかを説明する概略図である。
【図９Ａ】、
【図９Ｂ】、
【図９Ｃ】、
【図９Ｄ】、
【図９Ｅ】、
【図９Ｆ】、
【図９Ｇ】、
【図９Ｈ】八つの帯域を用いた特定のフレームについてのＬ／Ｒ信号平面における例示の散布図である。
【図１０】図５のステレオ・エンコーダに対応するステレオ・デコーダの概観を説明する概略図である。
【図１１Ａ】、
【図１１Ｂ】本発明の例示の実施形態に係るマルチチャネル・オーディオ・エンコーダの概略ブロック図である。
【図１２】本発明の例示の実施形態に係るマルチチャネル・オーディオ・デコーダの概略ブロック図である。
【図１３】本発明の例示の実施形態に係るマルチチャネル・オーディオ符号化方法の概略フロー図である。
【図１４】本発明の例示の実施形態に係るマルチチャネル・オーディオ復号方法の概略フロー図である。
【発明を実施するための形態】
【００４４】
図面を通して、対応又は類似する要素には、同じ参照符号が用いられるだろう。
【００４５】
本発明は、オーディオ・アプリケーションにおけるマルチチャネル（すなわち、少なくとも二つのチャネル）符号化／復号技術に関し、特に、オーディオ送信システムにおける、及び／又はオーディオ記憶装置のためのステレオ符号化／復号に関する。取り得るオーディオ・アプリケーションの例には、電話会議システムと、移動体通信システムにおける立体音響オーディオ送信と、オーディオ・サービスを供給するための種々のシステムと、マルチチャネル・ホームシネマ・システムとが含まれる。
【００４６】
図１３の例示的な概略フロー図を参照すると、本発明は好適は、第１の信号符号化プロセスにおいて入力チャネルの集合の第１の信号表現を符号化すること（Ｓ１）と、第２の信号符号化プロセスにおいて入力チャネルの少なくとも一部の少なくとも一つの追加信号表現を符号化すること（Ｓ４）と、という原理に依存することが見て取れる。簡潔に言えば、基本概念は、いわゆる局所復号された信号を、第１の符号化プロセスに関連する局所合成を通じて生成すること（Ｓ２）である。局所復号された信号は、第１の符号化プロセスの符号化誤差の表現を含む。局所復号された信号は、第２の符号化プロセスへの入力として適用される（Ｓ３）。符号化手順全体では、第１および第２の符号化プロセスの一方又は両方から、主として第２の符号化プロセスから、少なくとも二つの残差符号化誤差信号が生成される（Ｓ５）が、場合によっては第１および第２の符号化プロセスから一緒に生成される。次いで、残差誤差信号が、残差誤差信号間の相関に基づいて、複合誤差分析を含む複合残差符号化プロセス（Ｓ６）において処理される。
【００４７】
例えば、第１の符号化プロセスは、モノラル符号化プロセスのようなメインの符号化プロセスであってもよいし、第２の符号化プロセスは、ステレオ符号化プロセスのような補助的な符号化プロセスであってもよい。符号化手順全体は一般に、ステレオ符号化と、より複雑なマルチチャネル符号化とを含む少なくとも二つの（複数の）入力チャネル上で行われる。
【００４８】
本発明の好適な実施形態において、後で詳細に例示して説明されるように、複合残差符号化プロセスは、対応する無相関誤差成分を生成するための適切な変換による相関残差誤差信号の無相関化と、少なくとも一つの無相関誤差成分の量子化と、変換の表現の量子化とを含んでもよい。後で分かるであろうが、誤差成分（群）の量子化は、例えば、誤差成分の対応するエネルギー・レベルに基づいた無相関誤差成分間のビット割当てを含んでもよい。
【００４９】
図１４の例示的な概略フロー図を参照すると、対応する復号プロセスは好適には、マルチチャネル・オーディオ信号の再構築のための入来ビットストリームで行われる第１の復号プロセス（Ｓ１１）と第２の復号プロセス（Ｓ１２）とを含む少なくとも二つの復号プロセスを含む。複合残差復号は、相関残差誤差信号を生成するために、無相関残差誤差信号情報を表す入来残差ビットストリームに基づいて、さらなる復号プロセスにおいて実行される（Ｓ１３）。次いで、マルチチャネル・オーディオ信号を生成するために、第１と第２の復号プロセスのうち第２の復号プロセスを含む少なくとも一方から、復号されたチャネル表現に相関残差誤差信号が加えられる（Ｓ１４）。
【００５０】
本発明の例示的で好適な実施形態において、複合残差復号は、相関残差誤差信号を生成するための、入来残差ビットストリームに基づく残差逆量子化と、入来変換ビットストリームに基づく直交信号置換および逆変換とを含んでもよい。
【００５１】
マルチチャネル又はステレオ信号の性質は、時間の経過と共に変化する可能性が高いということを本発明者らは認識した。信号の一部においてチャネル相関が高く、このことはステレオ・イメージが狭い（モノラルに類似する）か、左右への単純なパンニングで表現されうることを意味する。この状況は、例えばテレビ会議アプリケーションでは普通である。なぜなら、一度に話をしているのは一人だけである可能性が高いからである。そのような場合に、ステレオ・イメージを描写するのに必要なリソースは少なくなり、そして、余ったビットは、モノラル信号の品質を向上させるために費やされる方が良い。
【００５２】
本発明をより良く理解するには、ステレオ符号化および復号に関連して本発明の例を記載することから始め、後で、より一般的なマルチチャネルの記載を続けることが有益であろう。
【００５３】
図５は、本発明の例示する実施形態によるステレオ符号器の概略ブロック図である。
【００５４】
本発明は、一貫且つ統合された方法でダウンミックス品質だけでなくステレオ空間品質も暗示的に精緻化するという概念に基づく。図５に説明される本発明の実施形態は、ステレオ拡張レイヤとしてのスケーラブルな音声コーデックの一部であることが意図されている。図５の例示的なステレオ・エンコーダ１００−Ａは、基本的に、ダウンミキサ１０１−Ａと、メイン・エンコーダ１０２−Ａと、チャネル予測器１０５−Ａと、複合残差エンコーダ１０６−Ａと、インデックス多重化部１０７−Ａとを含む。メイン・エンコーダ１０２−Ａは、エンコーダ部１０３−Ａと、局所合成器１０４−Ａとを含む。メイン・エンコーダ１０２−Ａは第１の符号化プロセスを実装し、チャネル予測器１０５−Ａは第２の符号化プロセスを実装する。複合残差エンコーダ１０６−Ａは、別の補助的な符号化プロセスを実装する。基礎となるコーデック・レイヤはモノラル信号を処理するが、それは、入力ステレオ・チャネルが単一のチャネルへとダウンミックスされなければならないことを意味する。ダウンミキシングの標準的な方法は、単に信号を足し合わせることである。
2010540985.tif 000003
【００５５】
このタイプのダウンミキシングは、ｎでインデックス付けされた時間領域信号に直接に適用される。一般に、ダウンミックスは、入力チャネル数ｐを、より少ないダウンミックス・チャネル数ｑへと低減するプロセスである。ダウンミックスは、時間領域又は周波数領域で行われる入力チャネルの任意の線形又は非線形の組み合わせであってもよい。ダウンミックスは信号特性に適応されうる。
【００５６】
他のタイプのダウンミキシングとして、左チャネルと右チャネルとの任意の組み合わせを用いるものがあり、この組み合わせも周波数依存であってもよい。
【００５７】
本発明の例示的な実施形態では、ステレオ符号化及び復号は、周波数帯又は変換係数のグループについて行われると想定されている。これは、チャネルの処理が周波数帯において行われることを想定する。周波数依存の係数を伴う任意のダウンミックスは、以下のように表すことができる。
2010540985.tif 000004
ここで、インデックスｍは、周波数帯のサンプルをインデックス付けする。本発明の精神から逸脱することなく、適応型の時変重み係数αb及びβbと共に、もっと複雑なダウンミキシング方式が用いられてもよい。
【００５８】
これ以降、インデックスｎ、ｍ又はｂを伴わない信号Ｌ、Ｒ及びＭに言及する場合に、典型的には、時間領域又は周波数領域の信号表現のいずれか一方を用いて実装されうる一般概念を記載する。しかし、時間領域の信号に言及する場合に、小文字を用いるのが一般的である。下記の記述で、例示的な時間領域信号にサンプル・インデックスｎで明示的に言及する場合に、主に小文字ｌ（ｎ）、ｒ（ｎ）及びｍ（ｎ）を用いるであろう。
【００５９】
モノラル・チャネルが生成されると、モノラル・チャネルは、一般にメイン・エンコーダ１０２−Ａと呼ばれる下位レイヤのモノラル・コーデックへと供給される。メイン・エンコーダ１０２−Ａは、エンコーダ部１０３−Ａにおいて、量子化されたビットストリーム（Ｑ0）を生成するために、入力信号Ｍを符号化し、そしてまた、局所復号されたモノラル信号
2010540985.tif 000005
を局所合成器１０４−Ａにおいて生成する。次いで、ステレオ・エンコーダが、局所復号されたモノラル信号を用いてステレオ信号を生成する。
【００６０】
後続の処理ステージの前に、知覚的重み付けを採用することが有利である。そうすれば、信号のうち知覚的に重要な部分が自動的により高い解像度で符号化される。復号ステージで重み付けは反転されるであろう。この例示的な実施形態では、メイン・エンコーダは、局所復号されたモノラル信号用だけでなくステレオ入力チャネルＬ及びＲ用としても抽出されて再利用される知覚的重み付けフィルタを有すると想定される。知覚モデルのパラメータがメイン・エンコーダのビットストリームと共に送信されるため、知覚的重み付けのための追加ビットは必要ない。また、異なるモデル、例えばバイノーラル・オーディオ知覚を考慮に入れるモデルを用いることも可能である。一般に、そのステージの符号化の方法にとってそれが有利であるならば、各符号化ステージについて異なる重み付けを適用することができる。
【００６１】
ステレオ符号化方式／エンコーダは好適には二つのステージを有する。本明細書ではチャネル予測器１０５−Ａと呼ばれる第１ステージは、局所復号されたモノラル信号
2010540985.tif 000006
を入力として使用しつつ、左チャネル
2010540985.tif 000007
及び
右チャネル
2010540985.tif 000008
の相関を推定して予測値を提供することによって、ステレオ信号の相関成分を処理する。プロセスにおいて、チャネル予測器１０５−Ａは、量子化されたビットストリーム（Ｑ1）を生成する。元の入力信号Ｌ及びＲから予測値
2010540985.tif 000009
及び
2010540985.tif 000010
を差し引くことによって、各チャネルのステレオ予測誤差εL及びεRが算出される。予測値は、局所復号されたモノラル信号
2010540985.tif 000011
に基づくことから、予測残差はステレオ予測誤差とモノラル・コーデックからの符号化誤差との両方を含むだろう。本明細書では複合残差エンコーダ１０６−Ａと呼ばれる次のステージにおいて、複合誤差信号がさらに分析されて量子化され（Ｑ2）、それによってエンコーダは、ステレオ予測誤差とモノラル符号化誤差との相関を利用できるだけでなく、二つのエンティティ間のリソースを共有できるようになる。
【００６２】
量子化されたビットストリーム（Ｑ0、Ｑ1、Ｑ2）は、復号側への送信のために、インデックス多重化部１０７−Ａによって収集される。
【００６３】
ステレオ信号の二つのチャネルは、多くの場合、非常に良く似ており、従って、予測技術をステレオ符号化に適用することは有益である。復号されたモノラル・チャネル
2010540985.tif 000012
は、デコーダで利用可能であるだろうから、予測の目的は、この信号から左右のチャネルのペアを再構築することである。
2010540985.tif 000013
エンコーダでの元の入力信号から予測値を差し引くと、誤差信号のペア
2010540985.tif 000014
が形成されるだろう。
【００６４】
ＭＭＳＥの観点では、誤差ベクトル［εL  εR］Tを最小化することによって最適予測値が得られる。時変ＦＩＲフィルタ
2010540985.tif 000015
を用いることによって時間領域でこの解を求めることができる。
周波数領域における同様の算出は、次式のように書くことができる。
2010540985.tif 000016
ここで、ＨL（ｂ，ｋ）とＨR（ｂ，ｋ）とは、周波数帯ｂの係数ｋについてのフィルタ
2010540985.tif 000017
と
2010540985.tif 000018
との周波数応答であり、
2010540985.tif 000019
と
2010540985.tif 000020
と
2010540985.tif 000021
とは、時間信号
2010540985.tif 000022
と
2010540985.tif 000023
と
2010540985.tif 000024
との変換後の相手方である。
【００６５】
周波数領域処理の利点には位相の明示的な制御を行うということが含まれるが、それはステレオ知覚に関連する（非特許文献１４）。低周波数領域では位相情報は大いに関連するが、高周波数では不要でありうる。また、知覚的に関連する周波数の解決策を与えるサブバンド分割に適応させることもできる。周波数領域処理の欠点は、時間／周波数変換の複雑性及び遅延要件である。これらのパラメータがクリティカルである場合には、時間領域アプローチが望ましい。
【００６６】
本発明のこの例示的な実施形態によって対象とされるコーデックについて、コーデックの最上位レイヤは、ＭＤＣＴ領域にあるＳＮＲ拡張レイヤである。ＭＤＣＴについての遅延要件は、すでに低レイヤにおいて明らかにされており、従って、処理の一部を再利用することができる。このため、ＭＤＣＴ領域がステレオ処理のために選択される。変換符号化には大いに適しているが、明示的な位相制御を行わないため、ステレオ信号処理には若干の欠点がある。さらに、隣接フレームが本質的に依存性であるため、ＭＤＣＴの時間エイリアシング特性によって、予期せぬ結果がもたらされるかもしれない。他方、周波数依存のビット割当てについての柔軟性はやはり高い。
【００６７】
ステレオ処理については、周波数スペクトルは好適には処理帯域に分割される。ＡＡＣパラメトリック・ステレオでは、処理帯域は、人間の聴覚のクリティカルな帯域幅に合致するように選択される。利用可能なビットレートが低いため、選択される帯域はより少なく且つより広くなるが、帯域幅は、やはりクリティカルな帯域幅に比例する。帯域幅をｂで表すと、予測値は次式のように書ける。
2010540985.tif 000025
ここでｋは帯域ｂにおけるＭＤＣＴ係数のインデックスを表し、ｍは時間領域のフレーム・インデックスを表す。
【００６８】
平均２乗誤差の意味で［Ｌb  Ｒb］Tに近い、ｗb（ｍ）についての解は次式ある。
2010540985.tif 000026
ここで、Ｅ［・］は、平均化演算子を表すとともに、任意の時間周波数変数の一例として、所定の時間周波数領域全体の平均化として定義される。例えば次式のようである。
2010540985.tif 000027
また、平均化は、周波数帯ｂを越えて拡張されてもよい。
【００６９】
予測パラメータを導出する際に符号化されたモノラル信号を利用することは、算出の際の符号化誤差を含む。ＭＭＳＥの観点からは賢明ではあるけれども、これによって、知覚的に厄介なステレオ・イメージの不安定さが引き起こされる。このため、予測パラメータは、予測値からモノラル誤差を除外する未処理のモノラル信号に基づく。
2010540985.tif 000028
【００７０】
予測パラメータの低ビットレート符号化を容易にするために、さらなる簡略化を行う。符号化はＭＤＣＴ領域で行われるため、信号は実数値となるであろうし、それゆえ、予測因子ｗ’b（ｍ）もそうであろう。複数の予測因子は、一つのパンニング角度ψb（ｍ）へと結合される。
2010540985.tif 000029
【００７１】
この角度は、図７Ａ、Ｂに説明されるように、Ｌ／Ｒ信号空間における解釈を有する。この角度は、［０，π／２］という範囲に限定される。［π／２，π］という範囲内の角度ならば、チャネルが相関防止されていることを意味するであろうが、それは大半のステレオ録音にとって、可能性が低い状況である。従って、ステレオ・パンニングは、Ｌ／Ｒ平面における角度として表されうる。
【００７２】
図７Ｂは、各ドットが所与の時間インスタンスｎ（Ｌ（ｎ），Ｒ（ｎ））におけるステレオ・サンプルを表す散布図である。この散布図は、所定の角度を成す太い線に沿って広がるサンプルを示している。チャネルがＬ＝Ｒに等しい場合に、ドットは、ψ＝π／４の角度で一本の線上に広がるであろう。ここでは、音がわずかに左側にパンニングされることから、点の分布はψのより小さい値の方へ傾く。
【００７３】
図６は、本発明の別の例示的な実施形態によるステレオ符号器の概略ブロック図である。図６の例示的なステレオ符号器１００−Ｂは基本的に、ダウンミキサ１０１−Ｂと、メイン・エンコーダ１０２−Ｂと、いわゆるサイド予測器１０５−Ｂと、複合残差エンコーダ１０６−Ｂと、インデックス多重化部１０７−Ｂとを含む。メイン・エンコーダ１０２−Ｂは、エンコーダ部１０３−Ｂと、局所合成器１０４−Ｂとを含む。メイン・エンコーダ１０２−Ｂは第１の符号化プロセスを実装し、チャネル予測器１０５−Ｂは第２の符号化プロセスを実装する。複合残差エンコーダ１０６−Ｂは、別の補助的な符号化プロセスを実装する。ステレオ符号化では、チャネルは通常、左右の信号ｌ（ｎ）及びｒ（ｎ）によって表される。しかし、等価な表現として、モノラル信号ｍ（ｎ）（メイン信号の特殊なケース）とサイド信号ｓ（ｎ）とがある。両方の表現は等価であり、通常、以下の従来の行列演算によって関係付けられる。
2010540985.tif 000030
【００７４】
図６に説明される特定の例において、サイド信号ｓ（ｎ）を推定値
2010540985.tif 000031
によって表現するために、いわゆるチャネル間予測（ＩＣＰ）がサイド予測器１０５−Ｂにおいて採用されるが、これは以下の式のようにＮ個のフィルタ係数ｈt（ｉ）を有する時変ＦＩＲフィルタＨ（ｚ）を通じてモノラル信号ｍ（ｎ）をフィルタリングすることによって得られてもよい。
2010540985.tif 000032
【００７５】
エンコーダで導出されるＩＣＰフィルタは、例えば、サイド信号予測誤差の平均２乗誤差（ＭＳＥ）か、関連する性能尺度、例えば、心理音響的に重み付けされた平均２乗誤差を最小化することによって推定されてもよい。ＭＳＥは典型的には、次式で与えられる。
2010540985.tif 000033
ここで、Ｌはフレームサイズであり、ＮはＩＣＰフィルタの長さ／次数／次元である。簡単に言えば、ＩＣＰフィルタの性能は、従ってＭＳＥの大きさは、最終のステレオ分離を判定する主要な要因である。サイド信号は左右のチャネル間の差を記述するので、十分に広いステレオ・イメージを保証するためには、忠実なサイド信号の再構築が欠かせない。
【００７６】
モノラル信号ｍ（ｎ）は、メイン・エンコーダ１０２−Ｂのエンコーダ１０３−Ｂによって符号化されて量子化され（Ｑ0）、通常通り復号側へ転送される。サイド信号予測のためのサイド予測器１０５−ＢのＩＣＰモジュールは、復号側への転送のために量子化される（Ｑ1）ＦＩＲフィルタ表現Ｈ（ｚ）を提供する。サイド信号予測誤差εSを符号化及び／又は量子化することによって（Ｑ2）、さらなる品質が得られる。残差誤差が量子化される場合に、符号化は、もはや純粋なパラメトリックとは言及されず、従って、サイド・エンコーダはハイブリッド・エンコーダと呼ばれることに留意されたい。さらに、いわゆるモノラル信号符号化誤差εmは、複合残差エンコーダ１０６−Ｂにおいてサイド信号予測誤差εsと一緒に生成されて解析される。このエンコーダ・モデルは、多かれ少なかれ、図５に関連して記述したモデルと等価である。
【００７７】
複合誤差符号化
本発明の例示的な実施形態において、チャネル間相関又は他の信号依存性を抽出することを目指して、複合誤差信号に関して分析が行われる。分析結果は好適には、複合誤差のチャネルの無相関化／直交化を行う変換を導出するために用いられる。
【００７８】
例示的な実施形態において、誤差成分が直交化される際に、変換された誤差成分は個別に量子化されうる。好適には、変換された誤差「チャネル」のエネルギー・レベルがチャネル間のビット割当てを実行する際に用いられる。また、ビット割当ては、知覚重要度又は他の重み付け要因を考慮に入れてもよい。
【００７９】
元の入力信号からステレオ予測値を差し引いて、予測残差［εL  εR］Tを生成する。この残差は、ステレオ予測誤差とモノラル符号化誤差との両方を含む。モノラル信号は、以下の式のように、元の信号と符号化雑音との合計として書かれうると想定する。
2010540985.tif 000034
次いで、帯域ｂについての予測誤差は、（フレーム・インデックスｍと帯域係数ｋとを省略すると）以下のように書ける。
2010540985.tif 000035
【００８０】
ここでは、二つの誤差成分が識別されうる。第１に、ステレオ予測誤差
2010540985.tif 000036
である。これは、とりわけ、拡散音場成分、すなわち、モノラル信号とはまったく相関関係のない成分を有する。第２の成分は、モノラル符号化誤差に関するものであり、そして、モノラル信号についての符号化雑音に比例する。
2010540985.tif 000037
モノラル符号化誤差は、パンニング因子を用いて相異なるチャネルに分散されることに留意されたい。
【００８１】
これら二つの誤差のソースは、一見すると非依存で無相関であるように見えるけれども、左右のチャネルの二つの誤差
2010540985.tif 000038
を相関させるであろう。二つの誤差の相関行列は、次式として導出されうる。
2010540985.tif 000039
【００８２】
これは、究極的には、左右のチャネルの誤差が相関されることを示す。二つの信号が無相関でない限り、二つの誤差を別々に符号化することは最適ではないことが理解される。従って、相関ベースの複合誤差符号化を採用することが適切である。
【００８３】
好適且つ例示的な実施形態では、主成分分析（ＰＣＡ）のような技術又は同様の変換技術をこのプロセスの中で用いることができる。
【００８４】
ＰＣＡは、分析のため多次元のデータ集合を低次元に縮小するのに用いられる技術である。応用分野によっては、離散カルーネン・レーブ変換（あるいはＫＬＴ）と呼ばれることもある。
【００８５】
ＫＬＴは、数学的には、データのいずれかの投影による最も大きい分散が第１の座標上に位置し（第１の主成分と呼ばれる）、２番目に大きい分散が第２の座標上に位置し、以下同様となるようにデータを新たな座標系に変換する直交線形変換と定義される。
【００８６】
ＫＬＴは、より低次の主成分を保持し、より高次の主成分を無視することにより、その分散に一番貢献するデータ集合のこれらの特性を維持することによって、データ集合における次元縮小に用いられうる。そのような低次の成分は、データの「最重要」側面を含むことが多い。しかし、用途によっては、これは必ずしもそうとは限らない。
【００８７】
上記のステレオ符号化の例で、残差誤差は、２×２カルーネン・レーブ（ＫＬＴ）を用いることによって、無相関化／直交化されうる。これは、この２次元の場合の単純な演算である。従って、誤差は次式のように分解されうる。
2010540985.tif 000040
ここで、
2010540985.tif 000041
は、ＫＬＴ変換（角度θb（ｍ）を平面内で回転）であり、
2010540985.tif 000042
は、
2010540985.tif 000043
となる二つの無相関成分である。
【００８８】
この表現で、相関残差誤差を、一つが他の成分よりも大きいエネルギーを有するような誤差の二つの無相関ソースに暗示的に変換した。
【００８９】
この表現は、二つの成分を符号化するためのビット割当てを行う方法を暗示的に提供する。ビットは好適には、最大の分散を有する無相関成分に割り当てられる。第２の成分は、そのエネルギーが無視できるか又は非常に低い場合に、場合によっては無視されうる。これは、実際には、無相関誤差成分の一つだけを量子化することが可能であることを意味する。
【００９０】
二つの成分
2010540985.tif 000044
をどのようにして符号化するかの様々な方式が実装されうる。
【００９１】
例示的な実施形態では、最も大きい成分
2010540985.tif 000045
が、例えばスカラ量子化器又は格子量子化器を用いることによって、量子化されて符号化される。最も低い成分が無視される一方で、すなわち、そのエネルギー以外の第２の成分
2010540985.tif 000046
のゼロビット量子化が、この成分を人工的にシミュレートするために、デコーダにおいて必要であろう。言い換えると、ここで、量子化のための第１の誤差成分と第２の誤差成分のエネルギーの指標とを選択するために、エンコーダが構成される。
【００９２】
本実施形態は、トータルのビット割当量では、両方のＫＬＴ成分の適切な量子化が可能でない場合に有益である。
【００９３】
デコーダにおいて、
2010540985.tif 000047
の成分が復号され、一方で、適切なエネルギーで雑音注入を用いることによって
2010540985.tif 000048
の成分がシミュレートされ、受信されたレベルにレベルを調整する利得算出モジュールを用いることによってエネルギーが設定される。また、利得は、直接に量子化されることもできるし、利得量子化の任意の先行技術を用いてもよい。雑音注入は、（量子化された形式でデコーダにおいて利用可能な）
2010540985.tif 000049
によって無相関化されており、かつ、
2010540985.tif 000050
と同じエネルギーを有しているという制約を用いて雑音成分を生成する。二つの残差のエネルギー分散を維持するために、無相関化の制約が重要である。事実、雑音置換と
2010540985.tif 000051
との間のいかなる量の相関も、相関のミスマッチにつながるであろうし、二つの復号されたチャネル上の知覚バランスを阻害して、ステレオ幅に影響を及ぼすであろう。
【００９４】
従って、この特定の例において、いわゆる残差ビットストリームは、第１の量子化された無相関成分と、第２の無相関成分のエネルギー指標とを含み、いわゆる変換ビットストリームはＫＬＴ変換の表現を含み、第１の量子化された無相関成分は復号され、第２の無相関成分は示されたエネルギーにおいて雑音注入によってシミュレートされる。次いで、逆ＫＬＴ変換は、第１の復号された無相関成分と、シミュレートされた第２の無相関成分と、ＫＬＴ変換表現に基づいて相関残差誤差信号を生成する。
【００９５】
別の実施形態において、
2010540985.tif 000052
の両方の符号化は、低周波数帯で行われ、他方、高周波数帯については
2010540985.tif 000053
は破棄され、デコーダにおいて、高周波数帯についてだけ直交雑音注入が用いられる。
【００９６】
図９Ａ〜Ｈは、八つの帯域を用いる特定のフレームについてのＬ／Ｒ信号平面における例示的な散布図である。低帯域では、サイド信号成分が誤差の大半を占める。これは、モノラル・コーデックとステレオ予測とが良好なステレオ・レンダリングを行ったことを示す。高帯域では、モノラル誤差が優勢である。楕円は、相関値を用いた推定サンプル分布を示す。
【００９７】
2010540985.tif 000054
を符号化する以外に、ＫＬＴ行列（すなわち、二つのチャネルの場合のＫＬＴ回転角）が符号化される必要がある。実験的に、ＫＬＴ角が以前に定義されたパンニング角ψb（ｍ）に相関することが示された。これは、差分量子化を設計するために、すなわち、差θb（ｍ）−ψb（ｍ）を量子化するために、ＫＬＴ角θb（ｍ）を符号化する場合に有利である。
複合又は連結誤差空間の作成によって、さらなる適応と最適化とが可能になる。
【００９８】
・各周波数帯についてＫＬＴのような非依存の変換を可能にすることによって、この方式は、様々な周波数について相異なる方針を適用することができる。メイン・（モノラル・）コーデックが、所定の周波数範囲について悪い性能を示す場合に、メイン・（モノラル・）コーデックが良い性能を有するようなステレオ・レンダリングに注目しつつ、その範囲を修正するためにリソースがリダイレクトされてもよい（図９Ａ〜Ｈ）。
・バイノーラル・マスキング・レベル差（ＢＭＬＤ、非特許文献１４）に依存する周波数重み付けを導入することによって。この周波数重み付けはさらに、人間の聴覚系のマスキング特性を利用するために、一方のＫＬＴ成分を他方に対して強調してもよい。
【００９９】
可変ビットレート・パラメータ符号化
本発明の例示的な実施形態において、好適にはデコーダへ送信されるパラメータは、二つの回転角、すなわちパンニング角ψbとＫＬＴ角θbとである。典型的には各サブバンドについて一組の角度が用いられ、パンニング角ψbのベクトルとＫＬＴ角θbのベクトルとが生成される。例えば、これらのベクトルの要素が共通のスカラ量子化器を用いて個別に量子化される。次いで、予測方式が量子化器のインデックスに適用されうる。この方式は好適には、評価されて選択された閉ループである二つのモードを有する。
１．時間予測。各帯域についての予測器は、前のフレームからのインデックスである。
２．周波数予測。各インデックスが中央値インデックスに対して量子化される。
【０１００】
モード１は、フレーム間の条件が安定している場合に、良い予測をもたらす。遷移時又は開始時には、モード２が、より良い予測を行うことがある。選択された方式は、１ビットを用いてデコーダへ送信される。予測に基づいてデルタ・インデックスの集合が算出される。
【０１０１】
デルタ・インデックスはさらに、エントロピー符号の一種であるユニタリ符号を用いて符号化される。これは、より小さな値に対してより短い符号語を割り当てるもので、その結果、安定したステレオ条件が、より低いパラメータ・ビットレートを生じさせるであろう。
2010540985.tif 000055
デルタ・インデックスは量子化器の境界を用いることによって、図８に説明されるように、ラップ・アラウンド・ステップが考慮されてもよい。
【０１０２】
図１０は、図５のステレオ・エンコーダに対応するステレオ・デコーダの概要を説明するする概略図である。図１０のステレオ・デコーダは、基本的に、インデックス逆多重化部２０１−Ａと、モノラル・デコーダ２０２−Ａと、予測部２０３−Ａと、逆量子化（ｄｅＱ）と雑音注入と直交化とオプションの利得算出と逆ＫＬＴ変換（ＫＬＴ−１）とに基づいて動作する残差誤差復号部２０４−Ａと、残差追加部２０５−Ａとを含む。残差誤差復号部２０４−Ａの動作の例は上述した。モノラル・デコーダ２０２−Ａは第１の復号プロセスを実装し、予測部２０３−Ａは第２の復号プロセスを実装する。残差誤差復号部２０４−Ａは、残差追加部２０５−Ａと共に、左右のステレオ・チャネルを最終的に再構築する第３の復号プロセスを実装する。
【０１０３】
すでに示したように、本発明は、ステレオ音響（２チャネル）符号化及び復号に適用できるだけでなく、一般に複数の（すなわち、少なくとも二つの）チャネルに適用できる。三つ以上のチャネルを備えた例は、５．１（前左、前中央、前右、後左、後右、及びサブウーファ）又は２．１（左、右、及び中央サブウーファ）マルチチャネル・サウンドの符号化／復号が含まれるが、これらに限定されない。
【０１０４】
次に、例示的な実施形態に関してではあるが一般的なマルチチャネルの文脈で本発明を説明する概略図である図１１を参照しよう。図１１のマルチチャネル・エンコーダ１００−Ｃ全体には基本的に、ダウンミキサ１０１−Ｃと、メイン・エンコーダ１０２−Ｃと、パラメトリック・エンコーダ１０５−Ｃと、残差算出部１０８−Ｃと、複合残差エンコーダ１０６−Ｃと、量子化ビットストリーム収集器１０７−Ｃとが含まれる。メイン・エンコーダ１０２−Ｃは典型的に、エンコーダ部１０３−Ｃと、局所合成器１０４−Ｃとを含む。メイン・エンコーダ１０２−Ｃは第１の符号化プロセスを実装し、パラメトリック・エンコーダ１０５−Ｃは（残差算出部１０８−Ｃと共に）第２の符号化プロセスを実装する。複合残差エンコーダ１０６−Ｃは、第３の補助的な符号化プロセスを実装する。
【０１０５】
本発明は、ダウンミックス品質だけでなくステレオ空間品質も、一貫且つ統合された方法で暗示的に精緻化するという概念に基づく。
【０１０６】
本発明は、チャネル数を削減するチャネルのダウンミキシングに基づいてマルチチャネル信号を符号化する方法及びシステムを提供する。ダウンミキサ１０１−Ｃにおけるダウンミックスは一般に、入力チャネル数ｐを、より少ないダウンミックス・チャネル数ｑへと削減するプロセスである。ダウンミックスは、時間的領域又は周波数領域で行われる入力チャネルの任意線形又は非線形の組み合わせであってもよい。ダウンミックスは信号特性に適応させることができる。
【０１０７】
ダウンミックスされたチャネルは、メイン・エンコーダ１０２−Ｃによって、より詳細には、そのエンコーダ部１０３−Ｃによって符号化され、結果として生じる量子化されたビットストリームは通常、メイン・ビットストリーム（Ｑ0）と呼ばれる。局所合成器モジュール１０４−Ｃからの局所復号されたダウンミックス後のチャネルは、パラメトリック・エンコーダ１０５−Ｃへ供給される。パラメトリック・マルチチャネル・エンコーダ１０５−Ｃは、典型的には、ダウンミックス・チャネルと元のマルチチャネル信号との間の相関の分析を行うように構成され、その結果として、元のマルチチャネル信号の予測を行う。結果として生じる量子化されたビットストリームは通常、予測器ビットストリーム（Ｑ1）と呼ばれる。モジュール１０８−Ｃによる残差算出は、結果として、残差誤差信号の集合を生じる。
【０１０８】
本明細書では複合残差エンコーダ１０６−Ｃと呼ぶ次の符号化ステージは、予測されたマルチチャネル信号と元のマルチチャネル信号との間の複合誤差の複合残差符号化を扱う。予測マルチチャネル信号は、局所復号されたダウンミックス・チャネルに基づくことから、複合予測残差は、空間予測誤差とメイン・エンコーダからの符号化雑音との両方を含むだろう。次の符号化ステージ１０６−Ｃでは、複合誤差信号が分析され、変換され、量子化されて（Ｑ2）、本発明がマルチチャネル予測誤差と局所復号されたダウンミックス信号の符号化誤差との間の相関を利用できるようにするだけでなく、符号化されたダウンミックス・チャネルとマルチチャネル出力の空間知覚との両方を一様に精緻化するための利用可能なリソースを暗示的に共有できるようにする。複合誤差エンコーダ１０６−Ｃは基本的に、いわゆる量子化された変換ビットストリーム（Ｑ2-A）と量子化された残差ビットストリーム（Ｑ2-B）とを提供する。
【０１０９】
メイン・エンコーダ１０２−Ｃのメイン・ビットストリームと、パラメトリック・エンコーダ１０５−Ｃの予測器ビットストリームと、残差誤差エンコーダ１０６−Ｃの変換ビットストリーム及び残差ビットストリームとは、復号側へ送信するための全ビットストリーム（Ｑ）を提供するために収集器すなわち多重化器１０７−Ｃへ転送される。
【０１１０】
提案される符号化方式の利点は、それが、信号特性に適応し、かつ、リソースが最も必要とされるところへリダイレクトされる可能性があることである。また、提案される符号化方式は、必要な量子化された情報に対する主観的ひずみを低くする可能性があり、追加の圧縮遅延をほとんど消費させない解決策を示す。
【０１１１】
本発明はまた、マルチチャネル入力信号と類似したマルチチャネル出力信号を再構築するためにエンコーダにおいて抽出される情報を利用することができる複数のステージの復号手順を含むマルチチャネル・デコーダに関する。
【０１１２】
図１２の例で説明されるように、デコーダ２００−Ｂ全体は、符号化側からの全ビットストリームを受信するための受信器部２０１−Ｂと、メイン・ビットストリームに応じて、対応するエンコーダにおいて局所復号されたダウンミックス信号と同じ（ｑ個のチャネルを有する）復号されたダウンミックス信号を生成するメイン・デコーダ２０２−Ｂとを含む。復号されたダウンミックス信号は、マルチチャネル・エンコーダにおいて導出されて用いられた（予測器ビットストリームからの）パラメータと共に、パラメトリック・マルチチャネル・デコーダ２０３−Ｂへ入力される。パラメトリック・マルチチャネル・デコーダ２０３−Ｂは、エンコーダで予測されたチャネルと同じ、ｐ個の予測されたチャネルの集合を再構築するために予測を行う。
【０１１３】
残差誤差デコーダ２０４−Ｂの形式のデコーダの最終ステージは、ここでは変換ビットストリームと量子化された残差ビットストリームとの形式で提供されるエンコーダからの符号化された残差信号の復号を処理する。また、エンコーダがビットレートの制約に起因して残差におけるチャネル数を減少させたかもしれないこと、又は、一部の信号がそれほど重要ではないと考えられて、これらのｎ個のチャネルが符号化されず、それらのエネルギーだけがビットストリームを介して符号化された形式で送信されたことを考慮に入れる。マルチチャネル入力信号のエネルギーの一貫性とチャネル間相関とを維持するために、直交信号置換が行われてもよい。残差誤差デコーダ２０４−Ｂは、相関された残差誤差成分を再構築するために、残差逆量子化と、直交置換と、逆変換とに基づいて動作するように構成される。パラメトリック・マルチチャネル・デコーダ２０３−Ｂからの復号されたチャネルに対して相関残差誤差成分を残差追加部２０５−Ｂに追加させることによって、デコーダ全体の復号されたマルチチャネル出力信号が生成される。
【０１１４】
符号化／復号は、フレーム毎に行われることが多いが、ビット割当てと符号化／復号とをサイズ可変フレーム上で行うことも可能であり、それによって、信号に適応して最適化されたフレーム処理が可能になる。
【０１１５】
上記の実施形態は、単に例として与えられているのであって、本発明はそれらに限定されていないと考えられるべきである。
【０１１６】
略語
ＡＡＣ  先進的音響符号化（Advanced Audio Coding）
ＡＡＣ−ＢＳＡＣ  先進的音響符号化−ビット・スライス算術符号化（Advanced Audio Coding-Bit-Sliced Audio Coding）
ＡＤＰＣＭ  適応差分パルス符号変調（Adaptive Differential Pulse Code Modulation）
ＡＭＲ  適応マルチレート（Adaptive Multi Rate）
ＡＭＲ−ＮＢ  狭帯域適応マルチレート（AMR NarrowBand）
ＡＭＲ−ＷＢ  広帯域適応マルチレート（AMR WideBand）
ＡＭＲ−ＢＷＳ  ＡＭＲ帯域幅スケーラブル（AMR-BandWidth Scalable）
ＡＯＴ  オーディオ・オブジェクト・タイプ（Audio Object Type）
ＢＣＣ  バイノーラル・キュー符号化（Binaural Cue Coding）
ＢＭＬＤ  バイノーラル・マスキング・レベル差分（Binaural Masking Level Difference）
ＣＥＬＰ  符号励振線形予測（Code Excited Linear Prediction）
ＥＶ  エンベデッド可変ビットレート（Embedded VBR（Variable Bit Rate））
ＥＶＲＣ  拡張可変レートコーダ（Enhanced Variable Rate Coder）
ＦＩＲ  有限インパルス応答（Finite Impulse Response）
ＧＳＭ  移動体通信のための全世界システム（Groupe Special Mobile;Global System for Mobile communications）
ＩＣＰ  チャネル間予測（Inter Channel Prediction）
ＫＬＴ  カルーネン・レーベ変換（Karhunen-Loeve Transform）
ＬＳＢ  最下位ビット（Least significant Bit）
ＭＤ−ＡＭＲ  マルチディスクリプションＡＭＲ（Multi Description AMR）
ＭＤＣＴ  修正離散コサイン変換（Modified Discrete Cosine Transform）
ＭＰＥＧ  ムービング・ピクチャ・エキスパート・グループ（Moving Picture Experts Group）
ＭＰＥＧ−ＳＬＳ  ＭＰＥＧスケーラブル・ロスレス（MPEG-Scalable to Lossless）
ＭＳＢ  最上位ビット（Most Significant Bit）
ＭＳＥ  平均２乗誤差（Mean Squared Error）
ＭＭＳＥ  最小平均２乗誤差（Minimum MSE）
ＰＣＡ  主成分分析（Principal Components Analysis）
ＰＳ  パラメトリック・ステレオ（Parametric Stereo）
ＲＴＰ  リアルタイムプロトコル（Real-Time Protocol）
ＳＮＲ  信号対雑音比（Signal-to-Noise Ratio）
ＶＭＲ  可変マルチレート（Variable Multi Rate）
ＶｏＩＰ  ＩＰ音声（Voice over Internet Protocol）
ｘＤＳＬ  ｘディジタル加入者線（x Digital Subscriber Line）
【図１】
2010540985.tif 000056
【図２】
2010540985.tif 000057
【図３】
2010540985.tif 000058
【図４】
2010540985.tif 000059
【図５】
2010540985.tif 000060
【図６】
2010540985.tif 000061
【図７Ａ】
2010540985.tif 000062
【図７Ｂ】
2010540985.tif 000063
【図８】
2010540985.tif 000064
【図９Ａ】
2010540985.tif 000065
【図９Ｂ】
2010540985.tif 000066
【図９Ｃ】
2010540985.tif 000067
【図９Ｄ】
2010540985.tif 000068
【図９Ｅ】
2010540985.tif 000069
【図９Ｆ】
2010540985.tif 000070
【図９Ｇ】
2010540985.tif 000071
【図９Ｈ】
2010540985.tif 000072
【図１０】
2010540985.tif 000073
【図１１Ａ】
2010540985.tif 000074
【図１１Ｂ】
2010540985.tif 000075
【図１２】
2010540985.tif 000076
【図１３】
2010540985.tif 000077
【図１４】
2010540985.tif 000078
【国際調査報告】
2010540985.tif 000079
2010540985.tif 000080
2010540985.tif 000081