(57)【要約】      （修正有）【課題】オーディオトランスポート信号からオーディオ出力チャネルを生成するための装置及び方法を提供する。【解決手段】効率的なトランスポーテーションが実現され、３Ｄオーディオコンテンツのためのダウンミックスを復号化する手段である。パラメータプロセッサ１１０は、２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数及び第２のミキシング規則に関する情報に依存して出力チャンネルミキシング情報を算出する。ダウンミックスプロセッサ１２０は、出力チャンネルミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成する。【選択図】図１
2018185526.tif 000002
【特許請求の範囲】
【請求項１】
１つ以上のオーディオ出力チャンネルを生成する装置であって、該装置は、
出力チャンネルミキシング情報を算出するパラメータプロセッサ（１１０）と、
１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサ（１２０）と、を備え、
前記ダウンミックスプロセッサ（１２０）は１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成され、２つ以上のオーディオオブジェクト信号が前記オーディオトランスポート信号内で混合され、かつ、前記１つ以上のオーディオトランスポートチャンネルの数が前記２つ以上のオーディオオブジェクト信号の数より少なくされており、
前記オーディオトランスポート信号は第１のミキシング規則と第２のミキシング規則とに依存しており、前記第１のミキシング規則は複数のプリミックスされたチャンネルを得るために前記２つ以上のオーディオオブジェクト信号を混合する方法を示し、前記第２のミキシング規則は前記オーディオトランスポート信号の前記１つ以上のオーディオトランスポートチャンネルを得るために前記複数のプリミックスされたチャンネルを混合する方法を示しており、
前記パラメータプロセッサ（１１０）は前記第２のミキシング規則に関する情報を受信するように構成され、前記第２のミキシング規則に関する前記情報は前記１つ以上のオーディオトランスポートチャンネルが得られるように前記複数のプリミックスされた信号を混合する方法を示し、
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、前記複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存して、及び、前記第２のミキシング規則に関する情報に依存して前記出力チャンネルミキシング情報を算出するように構成され、かつ、
前記ダウンミックスプロセッサ（１２０）は、前記出力チャンネルミキシング情報に依存して前記オーディオトランスポート信号から前記１つ以上のオーディオ出力チャンネルを生成するよう構成されている装置。
【請求項２】
該装置は前記オーディオオブジェクト数と前記プリミックス済みチャンネル数のうちの少なくとも一方を受信するように構成されている請求項１に記載の装置。
【請求項３】
前記パラメータプロセッサ（１１０）は、前記オーディオオブジェクト数に依存して、及び、前記プリミックス済みチャンネル数に依存して、前記第１のミキシング規則に関する情報が、前記複数のプリミックスされたチャンネルを得るために前記２つ以上のオーディオオブジェクト信号を混合する方法を示すように、前記第１のミキシング規則に関する前記情報を決定するように構成され、かつ、
前記パラメータプロセッサ（１１０）は、前記第１のミキシング規則に関する前記情報に依存して、及び、前記第２のミキシング規則に関する前記情報に依存して前記出力チャンネルミキシング情報を算出するように構成されている請求項１又は２に記載の装置。
【請求項４】
前記パラメータプロセッサ（１１０）は、前記オーディオオブジェクト数に依存して、及び、前記プリミックス済みチャンネル数に依存して、前記第１のミキシング規則に関する前記情報として第１の行列（Ｐ）の複数の係数を決定するように構成され、前記第１の行列（Ｐ）は前記複数のプリミックスされたチャンネルを得るために前記２つ以上のオーディオオブジェクト信号を混合する方法を示すものであり、
前記パラメータプロセッサ（１１０）は、前記第２のミキシング規則に関する前記情報として第２の行列（Ｑ）の複数の係数を受信するように構成され、前記第２の行列（Ｑ）は前記オーディオトランスポート信号の前記１つ以上のオーディオトランスポートチャンネルを得るために前記複数のプリミックスされたチャンネルを混合する方法を示すものであり、かつ、
前記パラメータプロセッサ（１１０）は、前記第１の行列（Ｐ）に依存して、及び、前記第２の行列（Ｑ）に依存して、前記出力チャンネルミキシング情報を算出するように構成されている請求項３に記載の装置。
【請求項５】
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報を含むメタデータ情報を受信するように構成され、
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対する前記位置情報に依存して前記第１のミキシング規則に関する情報を決定するように構成されている請求項１又は２に記載の装置。
【請求項６】
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報を含むメタデータ情報を受信するように構成され、
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対する前記位置情報に依存して前記第１のミキシング規則に関する前記情報を決定するように構成されている請求項３又は４に記載の装置。
【請求項７】
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対する前記位置情報に依存してレンダリング情報を決定するように構成され、
前記パラメータプロセッサ（１１０）は、前記オーディオオブジェクト数に依存して、前記プリミックス済みチャンネル数に依存して、前記第２のミキシング規則に関する前記情報に依存して、及び前記レンダリング情報に依存して前記出力チャンネルミキシング情報を算出するように構成されている請求項５又は６に記載の装置。
【請求項８】
前記パラメータプロセッサ（１１０）は、前記２つ以上のオーディオオブジェクト信号の１つずつに対するオブジェクトレベル差を示す共分散情報を受信するように構成され、
前記パラメータプロセッサ（１１０）は、前記オーディオオブジェクト数に依存して、前記プリミックス済みチャンネル数に依存して、前記第２のミキシング規則に関する前記情報に依存して、及び前記共分散情報に依存して前記出力チャンネルミキシング情報を算出するように構成されている請求項１から７のいずれか一項に記載の装置。
【請求項９】
前記共分散情報は、さらに、前記２つ以上のオーディオオブジェクト信号のうちの１つと、前記２つ以上のオーディオオブジェクト信号のうちのもう１つとの間の少なくとも１つのオブジェクト間相関を示し、
前記パラメータプロセッサ（１１０）は、前記オーディオオブジェクト数に依存して、前記プリミックス済みチャンネル数に依存して、前記第２のミキシング規則に関する前記情報に依存して、前記２つ以上のオーディオオブジェクト信号の１つずつについてのオブジェクトレベル差に依存して、及び前記２つ以上のオーディオオブジェクト信号のうちの１つと前記２つ以上のオーディオオブジェクト信号のうちのもう１つとの間の前記少なくとも１つのオブジェクト間相関に依存して前記出力チャンネルミキシング情報を算出するように構成されている請求項８に記載の装置。
【請求項１０】
１つ以上のオーディオ出力チャンネルを生成する方法であって、該方法は、
１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するステップであって、２つ以上のオーディオオブジェクト信号が前記オーディオトランスポート信号内で混合され、前記１つ以上のオーディオトランスポートチャンネルの数が前記２つ以上のオーディオオブジェクト信号の数より少なくされており、前記オーディオトランスポート信号は第１のミキシング規則に依存し及び第２のミキシング規則に依存しており、前記第１のミキシング規則は複数のプリミックスされたチャンネルを得るために前記２つ以上のオーディオオブジェクト信号を混合する方法を示しており、前記第２のミキシング規則は前記オーディオトランスポート信号の前記１つ以上のオーディオトランスポートチャンネルを得るために前記複数のプリミックスされたチャンネルを混合する方法を示しているステップと、
前記第２のミキシング規則に関する情報を受信するステップであって、前記第２のミキシング規則に関する情報は前記１つ以上のオーディオトランスポートチャンネルが得られるように前記複数のプリミックスされた信号を混合する方法を示すステップと、
前記２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、前記複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存して、及び前記第２のミキシング規則に関する前記情報に依存して出力チャンネルミキシング情報を算出するステップと、
前記出力チャンネルミキシング情報に依存して前記オーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するステップと、を含む方法。
【請求項１１】
コンピュータ又は信号プロセッサ上で実行されたときに請求項１０に記載の方法を実施するコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、オーディオ符号化／復号化に関し、詳しくは空間オーディオ符号化及び空間オーディオオブジェクト符号化に関し、より詳しくは３ＤオーディオコンテンツのＳＡＯＣダウンミックスを実現する装置及び方法と、３ＤオーディオコンテンツのＳＡＯＣダウンミックスを効率的に復号化する装置及び方法に関する。
【背景技術】
【０００２】
空間オーディオ符号化ツールは、当該技術分野において周知であり、例えば、ＭＰＥＧサラウンド規格において標準化されている。空間オーディオ符号化は、再生セットアップにおけるチャンネル配置によって識別された５つ又は７つのチャンネルのような元の入力チャンネル、すなわち、左チャネル、中央チャネル、右チャネル、左サラウンドチャネル、右サラウンドチャネル、及び低周波数強化チャンネルから始まる。空間オーディオエンコーダは、典型的には元のチャンネルから１つ以上のダウンミックスチャンネルを取り出し、その上、チャンネル間レベル差、チャンネル間位相差、チャンネル間時間差などのような空間キューに関連するパラメトリックデータを取り出す。１つ以上のダウンミックスチャンネルは、元の入力チャンネルの近似バージョンである出力チャンネルを最終的に得るために、空間キューを示すパラメトリックサイド情報と共に、ダウンミックスチャンネル及び関連付けられたパラメトリックデータを復号化する空間オーディオデコーダに送信される。出力セットアップの中のチャンネルの配置は典型的には固定され、例えば５．１フォーマット、７．１フォーマットなどである。
【０００３】
このようなチャンネルベースのオーディオフォーマットは、各チャンネルが所定の位置に特定のスピーカーに関係するマルチチャンネルオーディオコンテンツを記憶又は送信するため広く使用されている。このようなフォーマットの忠実な再生は、スピーカーがオーディオ信号の生成中に使用されたスピーカーと同じ位置に設置されているというスピーカーセットアップを要件とする。スピーカーの台数を増やすことは、正確没入型３Ｄオーディオシーンの再生を改善するが、この要件を実現することは、特に、居間のような家庭内環境ではより一層困難になる。
【０００４】
特定のスピーカーセットアップを有する必要性は、スピーカー信号が再生セットアップのために明確にされるオブジェクトベースのアプローチによって克服することができる。
【０００５】
例えば、空間オーディオオブジェクト符号化ツールは、当該技術分野において周知であり、ＭＰＥＧ  ＳＡＯＣ規格（ＳＡＯＣ＝空間オーディオオブジェクト符号化：spatial audio object coding）において標準化されている。元のチャンネルから始まる空間オーディオ符号化に対比して、空間オーディオオブジェクト符号化は、特定のレンダリング再生セットアップのために自動的に特化されることがないオーディオオブジェクトから始まる。それどころか、再生シーン内のオーディオオブジェクトの配置は自由自在であり、特定のレンダリング情報（rendering information）を空間オーディオオブジェクト符号化デコーダに入力することによりユーザによって決定することができる。それに替えて又はそれに加えて、レンダリング情報、すなわち、特定のオーディオオブジェクトが再生セットアップ内のどの位置に典型的に経時的に置かれるべきであるかという情報は、付加サイド情報又はメタデータとして送信することができる。特定のデータ圧縮を得るために、複数のオーディオオブジェクトがＳＡＯＣエンコーダによって符号化される。ＳＡＯＣエンコーダは、入力オブジェクトから、特定のダウンミックス情報に従ってオブジェクトをダウンミックスすることにより１つ以上のトランスポートチャンネルを算出するものである。さらに、ＳＡＯＣエンコーダは、オブジェクトレベル差（ＯＬＤ：object level differences）、オブジェクトコヒーレンス値などのようなオブジェクト間キューを表現するパラメトリックサイド情報を算出する。オブジェクト間パラメトリックデータが、パラメータ時間／周波数タイルに対して、すなわち、例えば、１０２４又は２０４８個のサンプルを含むオーディオ信号の特定のフレームに対して算出されるので、２８、２０、１４又は１０個などの処理帯域が考慮され、その結果、最終的に、パラメトリックデータが各フレーム及び各処理帯域に対して存在する。一例として、オーディオ作品が２０フレームを有し、かつ、各フレームが２８個の処理帯域に細分されるとき、パラメータ時間／周波数タイルの数は５６０個である。
【０００６】
オブジェクトベースのアプローチでは、音場は離散的なオーディオオブジェクトによって記述される。これは、特に、３Ｄ空間内の各音源の時間的に変化する位置を記述するオブジェクトメタデータを要件とする。
【０００７】
従来技術における第１のメタデータ符号化概念は、空間サウンド記述交換フォーマット（ＳｐａｔＤＩＦ：spatial sound description interchange format）であり、今もなお開発中のオーディオシーン記述フォーマットである［Ｍ１］。これは、オブジェクトベースのサウンドシーンのための交換フォーマットとして設計されているが、オブジェクト軌道のための圧縮方法を提供しない。ＳｐａｔＤＩＦは、オブジェクトメタデータを構造化するためにテキストベースのオープンサウンドコントロール（ＯＳＣ：Open Sound Control）フォーマットを使用する［Ｍ２］。しかしながら、単純なテキストベースの表現は、オブジェクト軌道の圧縮伝送のための選択肢ではない。
【０００８】
従来技術における別のメタデータ概念は、オーディオシーン記述フォーマット（ＡＳＤＦ：Audio Scene Description Format）［Ｍ３］、すなわち、同じ欠点があるテキストベースの解決策である。そのデータは、拡張マークアップ言語（ＸＭＬ：Extensible Markup Language）［Ｍ４］、［Ｍ５］の部分集合である同期マルチメディア統合言語（ＳＭＩＬ：Synchronized Multimedia Integration Language）の拡張によって構造化される。
【０００９】
従来技術におけるさらなるメタデータ概念は、オーディオ・バイナリ・フォーマット・フォー・シーン（ＡｕｄｉｏＢＩＦＳ：audio binary format for scenes）、すなわち、ＭＰＥＧ−４仕様［Ｍ６］、［Ｍ７］の一部であるバイナリフォーマットである。これは、オーディオ−ビジュアル３Ｄシーン及び相互作用仮想現実アプリケーション［Ｍ８］の記述のために開発されたＸＭＬベースの仮想現実モデリング言語（ＶＲＭＬ：Virtual Reality Modeling Language）に密接に関係している。複雑なＡｕｄｉｏＢＩＦＳ仕様は、オブジェクト移動の経路を特定するためにシーングラフを使用する。ＡｕｄｉｏＢＩＦＳの主な欠点は、制限付きシステム遅延及びデータストリームへのランダムアクセスが要件であるリアルタイム動作のためには設計されていないということである。さらに、オブジェクト位置の符号化は、聴取者の制限付き定位性能を利用しない。オーディオ−ビジュアルシーン内の固定したリスナ位置に対しては、オブジェクトデータは非常に少ないビット数で量子化することができる［Ｍ９］。それ故に、ＡｕｄｉｏＢＩＦＳにおいて適用されるオブジェクトメタデータの符号化は、データ圧縮に関して効率的ではない。
【先行技術文献】
【非特許文献】
【００１０】
【非特許文献１】[SAOC1] J. Herre, S. Disch, J. Hilpert, O. Hellmuth: "From SAC To SAOC - Recent Developments in Parametric Coding of Spatial Audio", 22nd Regional UK AES Conference, Cambridge, UK, April 2007.
【非特許文献２】[SAOC2] J. Engdegard, B. Resch, C. Falch, O. Hellmuth, J. Hilpert, A. Holzer, L. Terentiev, J. Breebaart, J. Koppens, E. Schuijers and W. Oomen: " Spatial Audio Object Coding (SAOC) - The Upcoming MPEG Standard on Parametric Object Based Audio Coding", 124th AES Convention, Amsterdam 2008.
【非特許文献３】[SAOC] ISO/IEC, “MPEG audio technologies - Part 2: Spatial Audio Object Coding (SAOC),” ISO/IEC JTC1/SC29/WG11 (MPEG) International Standard 23003-2.
【非特許文献４】[VBAP] Ville Pulkki, “Virtual Sound Source Positioning Using Vector Base Amplitude Panning”; J. Audio Eng. Soc., Level 45, Issue 6, pp. 456-466, June 1997.
【非特許文献５】[M1] Peters, N., Lossius, T. and Schacher J. C., "SpatDIF: Principles, Specification, and Examples", 9th Sound and Music Computing Conference, Copenhagen, Denmark, Jul. 2012.
【非特許文献６】[M2] Wright, M., Freed, A., "Open Sound Control: A New Protocol for Communicating with Sound Synthesizers", International Computer Music Conference, Thessaloniki, Greece, 1997.
【非特許文献７】[M3] Matthias Geier, Jens Ahrens, and Sascha Spors. (2010), "Object-based audio reproduction and the audio scene description format", Org. Sound, Vol. 15, No. 3, pp. 219-227, December 2010.
【非特許文献８】[M4] W3C, "Synchronized Multimedia Integration Language (SMIL 3.0)", Dec. 2008.
【非特許文献９】[M5] W3C, "Extensible Markup Language (XML) 1.0 (Fifth Edition)", Nov. 2008.
【非特許文献１０】[M6] MPEG, "ISO/IEC International Standard 14496-3 - Coding of audio-visual objects, Part 3 Audio", 2009.
【非特許文献１１】[M7] Schmidt, J.; Schroeder, E. F. (2004), "New and Advanced Features for Audio Presentation in the MPEG-4 Standard", 116th AES Convention, Berlin, Germany, May 2004.
【非特許文献１２】[M8] Web3D, "International Standard ISO/IEC 14772-1:1997 - The Virtual Reality Modeling Language (VRML), Part 1: Functional specification and UTF-8 encoding", 1997.
【非特許文献１３】[M9] Sporer, T. (2012), "Codierung raumlicher Audiosignale mit leichtgewichtigen Audio-Objekten", Proc. Annual Meeting of the German Audiological Society (DGA), Erlangen, Germany, Mar. 2012.
【発明の概要】
【発明が解決しようとする課題】
【００１１】
本発明の目的は、オーディオコンテンツをダウンミックスする改良された概念を提供することである。
【課題を解決するための手段】
【００１２】
本発明の目的は、請求項１に記載の装置、請求項９に記載の装置、請求項１２に記載のシステム、請求項１３に記載の方法、請求項１４に記載の方法、及び請求項１５に記載のコンピュータプログラムによって解決される。
【００１３】
実施形態によれば、効率的なトランスポーテーションが実現され、３Ｄオーディオコンテンツのためのダウンミックスを復号化する手段が提供される。
【００１４】
１つ以上のオーディオ出力チャンネルを生成する装置が提供される。この装置は、出力チャンネルミキシング情報を算出するパラメータプロセッサと、１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサとを備える。ダウンミックスプロセッサは１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成されており、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくされている。オーディオトランスポート信号は第１のミキシング規則と第２のミキシング規則に依存する。第１のミキシング規則は、複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示す。さらに、第２のミキシング規則は、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。パラメータプロセッサは第２のミキシング規則に関する情報を受信するように構成されており、第２のミキシング規則に関する情報は１つ以上のオーディオトランスポートチャンネルが得られるように複数のプリミックスされた信号を混合する方法を示す。さらに、パラメータプロセッサは、２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存して、及び第２のミキシング規則に関する情報に依存して出力チャンネルミキシング情報を算出するように構成されている。ダウンミックスプロセッサは出力チャンネルミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
【００１５】
さらに、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置が提供される。この装置は、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくなるように、２つ以上のオーディオオブジェクト信号から１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するオブジェクトミキサと、オーディオトランスポート信号を出力する出力インターフェースとを備える。オブジェクトミキサは、第１のミキシング規則に依存し、かつ、第２のミキシング規則に依存して、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを生成するように構成されている。第１のミキシング規則は複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示し、第２のミキシング規則はオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。第１のミキシング規則は２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存し、かつ、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存し、そして、第２のミキシング規則はプリミックス済みチャンネル数に依存する。出力インターフェースは、第２のミキシング規則に関する情報を出力するように構成されている。
【００１６】
さらに、システムが提供される。このシステムは、前述のとおりオーディオトランスポート信号を生成する装置と、前述のとおり１つ以上のオーディオ出力チャンネルを生成する装置とを備える。１つ以上のオーディオ出力チャンネルを生成する装置は、オーディオトランスポート信号を生成する装置からオーティオトランスポート信号と、第２のミキシング規則に関する情報とを受信するように構成されている。さらに、１つ以上のオーディオ出力チャンネルを生成する装置は、第２のミキシング規則に関する情報に依存して、オーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
【００１７】
さらに、１つ以上のオーディオ出力チャンネルを生成する方法が提供される。この方法は以下のステップを含む。
−  １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するステップ。２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくされており、オーディオトランスポート信号は第１のミキシング規則と第２のミキシング規則に依存しており、第１のミキシング規則は複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示しており、第２のミキシング規則はオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示している。
−  第２のミキシング規則に関する情報を受信するステップ。第２のミキシング規則に関する情報は１つ以上のオーディオトランスポートチャンネルが得られるように複数のプリミックスされた信号を混合する方法を示す。
−  ２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存して、及び第２のミキシング規則に関する情報に依存して出力チャンネルミキシング情報を算出するステップ。及び
−  出力チャンネルミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するステップ。
【００１８】
さらに、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する方法が提供される。この方法は以下のステップを含む。
−  ２つ以上のオーディオオブジェクト信号から１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するステップ。
−  オーディオトランスポート信号を出力するステップ。及び
−  第２のミキシング規則に関する情報を出力するステップ。
【００１９】
２つ以上のオーディオオブジェクト信号から１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するステップは、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくされているように実施される。オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを生成するステップは、第１のミキシング規則に依存して、及び第２のミキシング規則に依存して実施され、第１のミキシング規則は複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示し、第２のミキシング規則はオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。第１のミキシング規則は、２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存し、及び複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存する。第２のミキシング規則はプリミックス済みチャンネル数に依存する。
【００２０】
さらに、コンピュータ又は信号プロセッサ上で実行されたときに上述の方法を実施するコンピュータプログラムが提供される。
【図面の簡単な説明】
【００２１】
【図１】一実施形態による１つ以上のオーディオ出力チャンネルを生成する装置を示す図である。
【図２】一実施形態による１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置を示す図である。
【図３】一実施形態によるシステムを示す図である。
【図４】３Ｄオーディオエンコーダの第１の実施形態を示す図である。
【図５】３Ｄオーディオデコーダの第１の実施形態を示す図である。
【図６】３Ｄオーディオエンコーダの第２の実施形態を示す図である。
【図７】３Ｄオーディオデコーダの第２の実施形態を示す図である。
【図８】３Ｄオーディオエンコーダの第３の実施形態を示す図である。
【図９】３Ｄオーディオデコーダの第３の実施形態を示す図である。
【図１０】方位角、仰角及び原点からの距離によって表現された原点からの３次元空間内のオーディオオブジェクトの位置を示す図である。
【図１１】オーディオチャンネルジェネレータによって想定されたオーディオオブジェクトの位置及びスピーカーセットアップを示す図である。
【発明を実施するための形態】
【００２２】
以下、本発明の実施形態を図面を参照してより詳細に説明する。
【００２３】
本発明の好ましい実施形態を詳細に説明する前に、新しい３Ｄオーディオコーデックシステムについて説明する。
【００２４】
従来技術においては、低ビットレートで許容可能なオーディオ品質が得られるようにチャンネル符号化とオブジェクト符号化とを組み合わせる自由自在な技術は存在しない。
【００２５】
この制限は新しい３Ｄオーディオコーデックシステムによって克服される。
【００２６】
好ましい実施形態を詳細に説明する前に、新しい３Ｄオーディオコーデックシステムについて説明する。
【００２７】
図４は、本発明の実施形態による３Ｄオーディオエンコーダを示す。この３Ｄオーディオエンコーダは、オーディオ出力データ５０１を得るためにオーディオ入力データ１０１を符号化するために設けられている。この３Ｄオーディオエンコーダは、ＣＨによって示された複数のオーディオチャンネルと、ＯＢＪによって示された複数のオーディオオブジェクトとを受信する入力インターフェースを備える。さらに、図４に示されたように、入力インターフェース１１００は、複数のオーディオオブジェクトＯＢＪのうちの１つ以上に関連しているメタデータをさらに受信する。さらに、この３Ｄオーディオエンコーダは、複数の予め混合されたチャンネルを得るために複数のオブジェクト及び複数のチャンネルを混合するミキサ２００を備え、予め混合された各チャンネルは、チャンネルのオーディオデータ及び少なくとも１つのオブジェクトのオーディオデータを含む。
【００２８】
さらに、この３Ｄオーディオエンコーダは、コアエンコーダ入力データをコア符号化するコアエンコーダ３００と、複数のオーディオオブジェクトのうちの１つ以上に関連したメタデータを圧縮するメタデータ圧縮器４００とを備える。
【００２９】
さらに、この３Ｄオーディオエンコーダは、いくつかの動作モードのうちの１つでミキサ、コアエンコーダ及び／又は出力インターフェース５００を制御するモードコントローラ６００を備えることができる。第１のモードでは、コアエンコーダは、ミキサによる相互作用なしで、すなわち、ミキサ２００によって混合することなく、入力インターフェース１１００によって受信された複数のオーディオチャンネル及び複数のオーディオオブジェクトを符号化するように構成される。しかしながら、第２のモードでは、ミキサ２００がアクティブ状態となっており、コアエンコーダは、複数の混合されたチャンネル、すなわち、ブロック２００によって生成された出力を符号化する。後者の場合、もはやオブジェクトデータを符号化しないことが好ましい。その代わりに、オーディオオブジェクトの位置を示すメタデータは、そのメタデータによって示されるとおりにチャンネルでオブジェクトをレンダリング（rendering）するように、ミキサ２００によってすでに使用されている。換言すれば、ミキサ２００は、オーディオオブジェクトをプリレンダリング（pre-rendering）するために複数のオーディオオブジェクトに関連したメタデータを使用し、その後、プリレンダリングされたオーディオオブジェクトはチャンネルと混合されて、ミキサの出力で混合されたチャンネルが得られる。本実施形態では、オブジェクトは、必ずしも送信されなくてもよく、このことは、ブロック４００によって出力されたままの圧縮されたメタデータにも適用される。しかしながら、インターフェース１１００に入力された全てのオブジェクトが混合されるのではなく、ある量のオブジェクトだけが混合される場合、その後、残りの混合されていないオブジェクト及び関連付けられたメタデータだけがそれにもかかわらずコアエンコーダ３００又はメタデータ圧縮器４００にそれぞれ送信される。
【００３０】
図６は３Ｄオーディオエンコーダのさらなる実施形態を示し、ＳＡＯＣエンコーダ８００をさらに備える。ＳＡＯＣエンコーダ８００は、空間オーディオオブジェクトエンコーダ入力データから１つ以上のトランスポートチャンネル及びパラメトリックデータを生成するために設けられている。図６に示されるように、空間オーディオオブジェクトエンコーダ入力データは、プリレンダラ（pre-renderer）／ミキサによって処理されていないオブジェクトである。あるいは、プリレンダラ／ミキサが個別のチャンネル／オブジェクトがアクティブ状態であるモード１の場合のように迂回されていると仮定すると、入力インターフェース１１００に入力された全てのオブジェクトは、ＳＡＯＣエンコーダ８００によって符号化される。
【００３１】
さらに、図６に示されるように、コアエンコーダ３００は、好ましくは、ＵＳＡＣエンコーダとして、すなわち、ＭＰＥＧ−ＵＳＡＣ規格（ＵＳＡＣ＝音声音響統合符号化：Unified Speech and Audio Coding）において規定され、標準化されたエンコーダとして実現されている。図６に示された全３Ｄオーディオエンコーダの出力はＭＰＥＧ ４データストリーム、ＭＰＥＧ Ｈデータストリーム又は３Ｄオーディオデータストリームであり、個別のデータタイプのためのコンテナのような構造体（container-like structures）を有する。さらに、メタデータは「ＯＡＭ」データとして示され、図４におけるメタデータ圧縮器４００はＵＳＡＣエンコーダ３００に入力される圧縮されたＯＡＭデータを得るためのＯＡＭエンコーダ４００に対応する。ＵＳＡＣエンコーダ３００は、図６から分かるように、符号化済みチャンネル／オブジェクトデータを有するだけでなく、圧縮されたＯＡＭデータも有するＭＰ４出力データストリームを得るために出力インターフェースをさらに備える。
【００３２】
図８はこの３Ｄオーディオエンコーダのさらなる実施形態を示しており、図６と対比して、ＳＡＯＣエンコーダは、このモードではアクティブ状態でないプリレンダラ（pre-renderer）／ミキサ２００に供給されたチャンネルをＳＡＯＣ符号化アルゴリズムを用いて符号化するように、又はそれに替えて、プリレンダリングされたチャンネルとオブジェクトとをＳＡＯＣ符号化するように構成することができる。このようにして、図８では、ＳＡＯＣエンコーダ８００は、３つの異なった種類の入力データ、すなわち、プリレンダリングされたオブジェクトを含まないチャンネル、チャンネル及びプリレンダリングされたオブジェクト、又はオブジェクト単独に作用することができる。さらに、ＳＡＯＣエンコーダ８００が、その処理のために、元のＯＡＭデータではなく、デコーダ側と同じデータ、すなわち、不可逆的（lossy）圧縮によって得られたデータを使用するように、図８における付加的なＯＡＭデコーダ４２０を設けることが好ましい。
【００３３】
図８の３Ｄオーディオエンコーダは、いくつかの個別のモードで動作することができる。
【００３４】
図４との関連で説明した第１のモード及び第２のモードに加えて、図８の３Ｄオーディオエンコーダは、プリレンダラ／ミキサ２００がアクティブ状態ではなかったときに、コアエンコーダが個別のオブジェクトから１つ以上のトランスポートチャンネルを生成する第３のモードでさらに動作することができる。あるいは、又はさらに、この第３のモードでは、ＳＡＯＣエンコーダ８００は、１つ以上の代替的もしくは付加的なトランスポートチャンネルを元のチャンネルから生成することができる、すなわち図４のミキサ２００に対応するプリレンダラ／ミキサ２００がアクティブ状態ではなかったときに再び生成することができる。
【００３５】
最後に、ＳＡＯＣエンコーダ８００は、３Ｄオーディオエンコーダが第４のモードで構成されているとき、チャンネルとプリレンダラ／ミキサによって生成されたプリレンダリングされたオブジェクトを符号化することができる。このようにして、第４のモードでは、チャンネルとオブジェクトが、個別のＳＡＯＣトランスポートチャンネルと図３及び図５において「ＳＡＯＣ−ＳＩ」として示されたような関連付けられたサイド情報に完全に変換され、さらに、この第４のモードでは圧縮されたメタデータを送信する必要がないという事実によって、最低ビットレートアプリケーションが優れた品質を示す。
【００３６】
図５は、本発明の実施形態による３Ｄオーディオデコーダを示す。この３Ｄオーディオデコーダは、入力として、符号化済みオーディオデータ、すなわち、図４のデータ５０１を受信する。
【００３７】
この３Ｄオーディオデコーダは、メタデータ展開器１４００と、コアデコーダ１３００と、オブジェクトプロセッサ１２００と、モードコントローラ１６００と、ポストプロセッサ１７００とを備える。
【００３８】
具体的には、この３Ｄオーディオデコーダは符号化済みオーディオデータを復号化するために設けられ、入力インターフェースは符号化済みオーディオデータを受信するために設けられ、符号化済みオーディオデータは、複数の符号化済みチャンネルと、複数の符号化済みオブジェクトと、特定のモードにおける複数のオブジェクトに関連する圧縮されたメタデータとを含む。
【００３９】
さらに、コアデコーダ１３００は複数の符号化済みチャンネル及び複数の符号化済みオブジェクトを復号化するために設けられ、さらに、メタデータ展開器は、圧縮されたメタデータを展開するために設けられている。
【００４０】
さらに、オブジェクトプロセッサ１２００は、オブジェクトデータ及び復号化済みチャンネルを含む所定の数の出力チャンネルを得るために、展開されたメタデータを使用してコアデコーダ１３００によって生成されたとおりの複数の復号化済みオブジェクトを処理するために設けられている。符号１２０５で示されたとおりのこれらの出力チャンネルは、その後、ポストプロセッサ１７００に入力される。ポストプロセッサ１７００は、出力チャンネル１２０５の数を、バイノーラル出力フォーマット又は５．１、７．１などの出力フォーマットのようなスピーカー出力フォーマットとすることのできる特定の出力フォーマットに変換するために設けられている。
【００４１】
好ましくは、この３Ｄオーディオデコーダは、モード指示を検出するために符号化済みデータを解析するために設けられたモードコントローラ１６００を備える。したがって、モードコントローラ１６００は、図５において入力インターフェース１１００に接続されている。しかしながら、あるいは、モードコントローラは必ずしもそこになくてもよい。その代わり、この汎用性のあるオーディオデコーダはユーザ入力又はその他のコントロールのようなどんな種類の制御データによってもプリセットすることができる。図５に示され、かつ、好ましくはモードコントローラ１６００によって制御されるこの３Ｄオーディオデコーダは、オブジェクトプロセッサを迂回するように、かつ、複数の復号化済みチャンネルをポストプロセッサ１７００に送り込むように構成されている。これは、モード２における動作、すなわち、プリレンダリングされたチャンネルだけが受信される、すなわち、モード２が図４の３Ｄオーディオエンコーダにおいて適用されたときの動作である。あるいは、モード１が３Ｄオーディオエンコーダにおいて適用されたとき、すなわち、３Ｄオーディオエンコーダが個別のチャンネル／オブジェクト符号化を実行したとき、オブジェクトプロセッサ１２００は迂回されないが、複数の復号化済みチャンネル及び複数の復号化済みオブジェクトが、メタデータ展開器１４００によって生成された展開されたメタデータと共にオブジェクトプロセッサ１２００に送り込まれる。
【００４２】
好ましくは、モード１又はモード２が適用されるべきか否かの指示は、符号化済みオーディオデータの中に含まれ、その後、モードコントローラ１６００は、モード指示を検出するために符号化済みデータを解析する。モード１は、モード指示が、符号化済みオーディオデータが符号化済みチャンネル及び符号化済みオブジェクトを含むことを示すときに使用され、モード２は、モード指示が、符号化済みオーディオデータがオーディオオブジェクトを含んでいないこと、すなわち、図４の３Ｄオーディオエンコーダのモード２によって得られたプリレンダリングされたチャンネルだけを含むことを示すときに適用される。
【００４３】
図７は図５の３Ｄオーディオデコーダと比べて好ましい実施形態を示し、図７の実施形態は図６の３Ｄオーディオエンコーダに対応する。図５の３Ｄオーディオデコーダ実施に加えて、図７における３ＤオーディオデコーダはＳＡＯＣデコーダ１８００を備える。さらに、図５のオブジェクトプロセッサ１２００は、図７では別個のオブジェクトレンダラ１２１０とミキサ１２２０として実施されるが、モードに依存して、オブジェクトレンダラ１２１０の機能はＳＡＯＣデコーダ１８００によって実施することができる。
【００４４】
さらに、ポストプロセッサ１７００は、バイノーラルレンダラ１７１０又はフォーマットコンバータ１７２０として実施することができる。あるいは、図５のデータ１２０５の直接出力は、１７３０によって示されるように実施することもできる。その結果、フレキシビリティを実現するために２２．２又は３２のような最高数のチャンネルに関してデコーダにおいて処理を実行し、その後、より小規模のフォーマットが必要とされる場合に後処理することが好ましい。しかしながら、５．１フォーマットのようなよりチャンネル数の少ない異なったフォーマットだけが必要とされることが最初から明らかになるとき、好ましくは、ショートカット１７２７によって図９によって示されるように、不必要なアップミキシング動作及び後に続くダウンミキシング動作を回避するためにＳＡＯＣデコーダ及び／又はＵＳＡＣデコーダの特定の制御を適用することができる。
【００４５】
本発明の好ましい実施形態では、オブジェクトプロセッサ１２００はＳＡＯＣデコーダ１８００を備え、ＳＡＯＣデコーダは、コアデコーダによって出力された１つ以上のトランスポートチャンネル及び関連付けられたパラメトリックデータを、展開されたメタデータを使用して復号化し、複数のレンダリングされたオーディオオブジェクトを得るために設けられている。このため、ＯＡＭ出力はボックス１８００に接続されている。
【００４６】
さらに、オブジェクトプロセッサ１２００は、オブジェクトレンダラ１２１０によって示されるように、ＳＡＯＣトランスポートチャンネルにおいて符号化されていないが、典型的に単一のチャンネル化済み要素において個別に符号化され、コアデコーダによって出力された復号化済みオブジェクトをレンダリングするように構成されている。さらに、デコーダは、ミキサの出力をスピーカーへ出力するため出力１７３０に対応する出力インターフェースを備える。
【００４７】
さらなる実施形態では、オブジェクトプロセッサ１２００は、１つ以上のトランスポートチャンネルと、符号化済みオーディオ信号又は符号化済みオーディオチャンネルを表現する関連付けられたパラメトリックサイド情報とを復号化する空間オーディオオブジェクト符号化デコーダ１８００を備え、この空間オーディオオブジェクト符号化デコーダは、関連付けられたパラメトリック情報及び展開されたメタデータを、例えば、ＳＡＯＣの旧バージョンに規定されているように、出力フォーマットを直接レンダリングするため使用可能であるトランスコードされたパラメトリックサイド情報にトランスコードするように構成されている。ポストプロセッサ１７００は、復号化済みトランスポートチャンネルとトランスコードされたパラメトリックサイド情報を使用して出力フォーマットのオーディオチャンネルを算出するため構成されている。ポストプロセッサによって実行される処理は、ＭＰＥＧサラウンド処理に類似するものとすることができ、又はＢＣＣ処理などのような他の処理とすることができる。
【００４８】
さらなる実施形態では、オブジェクトプロセッサ１２００は、（コアデコーダによって）復号化されたトランスポートチャンネルとパラメトリックサイド情報を使用して出力フォーマットのためにチャンネル信号を直接的にアップミックスし、レンダリングするように構成された空間オーディオオブジェクト符号化デコーダ１８００を備える。
【００４９】
さらに、かつ、重要なことには、図５のオブジェクトプロセッサ１２００はミキサ１２２０を付加的に備え、ミキサ１２２０は、チャンネルと混合されたプリレンダリングされたオブジェクトが存在するとき、すなわち図４のミキサがアクティブ状態であったとき、ＵＳＡＣデコーダ１３００によって出力されたデータを入力として直接に受信する。さらに、ミキサ１２２０は、ＳＡＯＣ復号化なしでオブジェクトレンダリングを実行するオブジェクトレンダラからデータを受信する。さらに、ミキサは、ＳＡＯＣデコーダ出力データ、すなわち、ＳＡＯＣレンダリングされたオブジェクトを受信する。
【００５０】
ミキサ１２２０は、出力インターフェース１７３０、バイノーラルレンダラ１７１０及びフォーマットコンバータ１７２０に接続されている。バイノーラルレンダラ１７１０は、頭部伝達関数又はバイノーラル室内インパルス応答（ＢＲＩＲ）を使用して出力チャンネルを２つのバイノーラルチャンネルにレンダリングするために設けられている。フォーマットコンバータ１７２０は、出力チャンネルをミキサの出力チャンネル１２０５よりより少ない数のチャンネルを有する出力フォーマットに変換するために設けられ、フォーマットコンバータ１７２０は５．１スピーカーなどのような再生レイアウトに関する情報を必要とする。
【００５１】
図９の３Ｄオーディオデコーダは、ＳＡＯＣデコーダがレンダリングされたオブジェクトを復号できるだけでなく、レンダリングされたチャンネルを生成することができる点で図７の３Ｄオーディオデコーダとは異なり、これは、図８の３Ｄオーディオエンコーダが使用され、チャンネル／プリレンダリングされたオブジェクトとＳＡＯＣエンコーダ８００の入力インターフェースとの間の接続９００がアクティブ状態であるときの事例である。
【００５２】
さらに、ベクトルベース振幅パニング（ＶＢＡＰ：vector base amplitude panning）段１８１０が設けられており、ベクトルベース振幅パニング段１８１０は、ＳＡＯＣデコーダから再生レイアウトに関する情報を受信し、レンダリング行列をＳＡＯＣデコーダに出力し、その結果、ＳＡＯＣデコーダが、最終的に、高チャンネルフォーマット１２０５、すなわち、３２台のスピーカーにおいて、ミキサのさらなる動作なしでレンダリングされたチャンネルを提供することができるようになる。
【００５３】
ＶＢＡＰブロックは、好ましくは、レンダリング行列を導き出すために復号化済みＯＡＭデータを受信する。より一般的には、好ましくは、再生レイアウトの幾何学的情報だけでなく、入力信号が再生レイアウト上で再現されるべき位置の幾何学的情報を必要とする。この幾何学的入力データは、オブジェクトのためのＯＡＭデータ、又はＳＡＯＣを使用して送信されたチャンネルのためのチャンネル位置情報とすることができる。
【００５４】
しかしながら、特定の出力インターフェースだけが必要とされる場合、ＶＢＡＰ状態１８１０は、例えば、５．１出力のために必要とされるレンダリング行列を予め提供することができる。ＳＡＯＣデコーダ１８００は、その後、ＳＡＯＣトランスポートチャンネル、関連付けられたパラメトリックデータ及び展開されたメタデータから、ミキサ１２２０の相互作用なしに、必要とされる出力フォーマットへの直接レンダリングを実行する。しかしながら、モード間で特定の混合が適用されるとき、すなわち、いくつかのチャンネルがＳＡＯＣ符号化されているが全てのチャンネルがＳＡＯＣ符号化されているとは限らない場合、もしくは、いくつかのオブジェクトがＳＡＯＣ符号化されているが全てのオブジェクトがＳＡＯＣ符号化されているとは限らない場合、又は、チャンネルを含むある一定量のプリレンダリングされたオブジェクトだけがＳＡＯＣ符号化され残りのチャンネルがＳＡＯＣ処理されていないとき、ミキサは、個別の入力部分から、すなわち、コアデコーダ１３００から、オブジェクトレンダラ１２１０から、及びＳＡＯＣデコーダ１８００からのデータをまとめる。
【００５５】
３Ｄオーディオでは、方位角、仰角及び原点からの距離が、オーディオオブジェクトの位置を定義するために使用される。さらに、オーディオオブジェクトの利得が送信されることがある。
【００５６】
方位角、仰角及び原点からの距離は、原点からの３Ｄ空間内でのオーディオオブジェクトの位置を明確に定義する。これは図１０を参照して示す。
【００５７】
図１０は、方位角、仰角及び原点からの距離によって表現された原点４００からの３次元（３Ｄ）空間内のオーディオオブジェクトの位置４１０を示す。
【００５８】
方位角は、例えば、ｘｙ平面（ｘ軸とｙ軸とによって定義された平面）での角度を指定する。仰角は、例えば、ｘｚ平面（ｘ軸とｚ軸とによって定義された平面）での角度を定義する。方位角と仰角を指定することにより、原点４００とオーディオオブジェクトの位置４１０を通る直線４１５を定義することができる。さらに原点からの距離を指定することにより、オーディオオブジェクトの正確な位置４１０を定義することができる。
【００５９】
一実施形態では、方位角は−１８０°＜方位角≦１８０°の範囲に対して定義し、仰角は−９０°＜仰角≦９０°の範囲に対し定義し、原点からの距離は、例えば、メートル［ｍ］単位（０ｍ以上）で定義することができる。方位角と仰角によって記述された球は２つの半球に分割することができる。すなわち、左半球（０°＜方位角≦１８０°）及び右半球（−１８０°＜方位角≦０°）、又は上半球（０°＜仰角≦９０°）及び下半球（−９０°＜仰角≦０°）である。
【００６０】
例えば、ｘｙｚ座標系におけるオーディオオブジェクト位置の全ｘ値が零以上であると想定することができる別の実施形態では、方位角は−９０°≦方位角≦９０°の範囲に対し定義することができ、仰角は−９０°＜仰角≦９０°の範囲に対し定義することができ、原点からの距離は、例えば、メートル［ｍ］単位で定義することができる。
【００６１】
ダウンミックスプロセッサ１２０は、例えば、再構成済みのメタデータ情報値に依存する１つ以上のオーディオオブジェクト信号に依存して１つ以上のオーディオチャンネルを生成するように構成することができる。再構成済みのメタデータ情報値は、例えば、オーディオオブジェクトの位置を示すことができる。
【００６２】
一実施形態では、メタデータ情報値は、例えば、−１８０°＜方位角≦１８０°の範囲に対して定義された方位角と、−９０°＜仰角≦９０°の範囲に対して定義された仰角と、例えば、メートル［ｍ］単位（０ｍ以上）で定義することができる原点からの距離とを示すことができる。
【００６３】
図１１は、オーディオチャンネルジェネレータによって想定されたオーディオオブジェクトの位置とスピーカーセットアップを示す。ｘｙｚ座標系の原点５００が示されている。さらに、第１のオーディオオブジェクトの位置５１０と第２のオーディオオブジェクトの位置５２０が示されている。さらに、図１１は、オーディオチャンネルジェネレータ１２０が４台のスピーカーのための４つのオーディオチャンネルを生成するシナリオを示している。オーディオチャンネルジェネレータ１２０は、４台のスピーカー５１１、５１２、５１３及び５１４が図１１に表された位置にあると想定する。
【００６４】
図１１では、第１のオーディオオブジェクトはスピーカー５１１と５１２の想定位置の近くにある位置５１０にあり、スピーカー５１３と５１４から遠く離れている。その結果、オーディオチャンネルジェネレータ１２０は、第１のオーディオオブジェクト５１０がスピーカー５１３と５１４ではなくスピーカー５１１と５１２によって再生されるように４つのオーディオチャンネルを生成することができる。
【００６５】
他の実施形態では、オーディオチャンネルジェネレータ１２０は、第１のオーディオオブジェクト５１０がスピーカー５１１と５１２による高レベルで、かつ、スピーカー５１３と５１４による低レベルで再生されるように４つのオーディオチャンネルを生成することができる。
【００６６】
さらに、第２のオーディオオブジェクトはスピーカー５１３と５１４の想定位置の近くにある位置５２０にあり、スピーカー５１１と５１２から遠く離れている。その結果、オーディオチャンネルジェネレータ１２０は、第２のオーディオオブジェクト５２０がスピーカー５１１と５１２ではなくスピーカー５１３と５１４によって再生されるように４つのオーディオチャンネルを生成することができる。
【００６７】
他の実施形態では、ダウンミックスプロセッサ１２０は、第２のオーディオオブジェクト５２０がスピーカー５１３と５１４による高レベルで、かつ、スピーカー５１１と５１２による低レベルで再生されるように４つのオーディオチャンネルを生成することができる。
【００６８】
代替的な実施形態では、２つのメタデータ情報値だけがオーディオオブジェクトの位置を指定するために使用される。例えば全オーディオオブジェクトが単一の平面内に位置していると想定される場合は、例えば方位角と原点からの距離だけを指定することができる。
【００６９】
さらに他の実施形態では、各オーディオオブジェクトに対して、メタデータ信号の単一のメタデータ情報値だけが符号化され、位置情報として送信される。例えば、方位角だけをオーディオオブジェクトに対する位置情報として指定することができる（例えば、全オーディオオブジェクトが中心点から同一距離を有する同じ平面内に位置していると想定することができ、それ故に、原点からの同一距離を有すると想定することができる場合である。）。方位角情報は、例えば、オーディオオブジェクトが左スピーカーの近くにあり、右スピーカーから遠く離れていることを決定するために十分であることがある。このような状況では、オーディオチャンネルジェネレータ１２０は、例えば、オーディオオブジェクトが右スピーカーではなく左スピーカーによって再生されるように１つ以上のオーディオチャンネルを生成することができる。
【００７０】
各オーディオ出力チャンネル内でのオーディオオブジェクト信号の重みを決定するために、例えばベクトルベース振幅パニング（Vector Base Amplitude Panning）を利用することができる（例えば、［ＶＢＡＰ］を参照）。ＶＢＡＰに関して、オーディオオブジェクト信号が仮想音源に割り当てられることが想定され、さらに、オーディオ出力チャンネルがスピーカーのチャンネルであることが想定される。
【００７１】
実施形態では、例えば、さらなるメタデータ信号のさらなるメタデータ情報値は、各オーディオオブジェクトに対するボリューム、例えば、（例えば、デシベル［ｄＢ］単位で表現された）利得を指定することができる。
【００７２】
例えば、図１１では、第１の利得値は、位置５１０にある第１のオーディオオブジェクトに対するさらなるメタデータ情報値によって指定することができ、位置５２０にある第２のオーディオオブジェクトに対する別のさらなるメタデータ情報によって指定されている第２の利得値より高い。このような状況では、スピーカー５１１と５１２は、スピーカー５１３と５１４が第２のオーディオオブジェクトを再生する際に用いるレベルより高いレベルで第１のオーディオオブジェクトを再生することができる。
【００７３】
ＳＡＯＣ技術によれば、ＳＡＯＣエンコーダは、複数のオーディオオブジェクト信号Ｘを受信し、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号Ｙを得るためにダウンミックス行列Ｄを用いることによりこれらをダウンミックスする。式
Ｙ＝ＤＸ
を利用することができる。ＳＡＯＣエンコーダは、オーディオトランスポート信号Ｙとダウンミックス行列Ｄに関する情報（例えば、ダウンミックス行列Ｄの係数）をＳＡＯＣデコーダに送信する。さらに、ＳＡＯＣエンコーダは、共分散行列Ｅに関する情報（例えば、共分散行列Ｅの係数）をＳＡＯＣデコーダに送信する。
【００７４】
デコーダ側で、オーディオオブジェクト信号Ｘは、以下の式を利用することにより再構成済みのオーディオオブジェクト
2018185526.tif 000003
を得るために再構成することができる。
2018185526.tif 000004
式中、Ｇはパラメトリック音源推定行列であり、Ｇ＝ＥＤＨ（ＤＥＤＨ）−１である。
【００７５】
次に、１つ以上のオーディオ出力チャンネルＺは、以下の式に従って再構成済みのオーディオオブジェクト
2018185526.tif 000005
にレンダリング行列Ｒを適用することにより生成することができる。
2018185526.tif 000006
【００７６】
しかしながら、オーディオトランスポート信号から１つ以上のオーディオ出力チャンネルＺを生成することは、以下の式に従って行列Ｕを利用することにより単一のステップにおいてさらに実施することができる。
Ｚ＝ＵＹ、但し、Ｕ＝ＲＧ
【００７７】
レンダリング行列Ｒの各行は、生成されるべきオーディオ出力チャンネルのうちの１つに関連付けられる。レンダリング行列Ｒの行の１つの行の内部の各係数は、レンダリング行列Ｒのその行に関係するオーディオ出力チャンネル内の再構成済みのオーディオオブジェクト信号のうちの１つの重みを決定する。
【００７８】
例えば、レンダリング行列Ｒは、メタデータ情報内で、ＳＡＯＣデコーダに送信されたオーディオオブジェクト信号の１つずつに対する位置情報に依存することができる。例えば、想定又は現実のスピーカー位置の近くにある位置を有するオーディオオブジェクト信号は、例えば、そのスピーカーのオーディオ出力チャンネル内で、そのスピーカーから遠く離れた位置にあるオーディオオブジェクト信号の重みより大きな重みをもつことができる（図５を参照）。各オーディオ出力チャンネル内でオーディオオブジェクト信号の重みを決定するために、例えば、ベクトルベース振幅パニングを利用することができる（例えば、［ＶＢＡＰ］を参照）。ＶＢＡＰに関して、オーディオオブジェクト信号が仮想音源に割り当てられることが想定され、さらに、オーディオ出力チャンネルがスピーカーのチャンネルであることが想定される。
【００７９】
図６及び図８にはＳＡＯＣエンコーダ８００が描かれている。ＳＡＯＣエンコーダ８００は、複数の入力オブジェクト／チャンネルをより少ない数のトランスポートチャンネルにダウンミックスし、３Ｄ−オーディオビットストリームに埋め込まれる必要な補助情報を抽出することによって、入力オブジェクト／チャンネルをパラメータ的に符号化するために使用される。
【００８０】
より少ない数のトランスポートチャンネルにダウンミックスすることは、（例えば、ダウンミックス行列を利用することによって）各入力信号及びダウンミックスチャンネルに対するダウンミックス係数を使用して行われる。
【００８１】
オーディオオブジェクト信号を処理する最先端技術は、ＭＰＥＧ  ＳＡＯＣ−システムである。このようなシステムの１つの主要な特性は、中間ダウンミックス信号（又は図６及び図８によるＳＡＯＣトランスポートチャンネル）がＳＡＯＣ情報を復号化できないレガシー機器で聴取できることである。このことは、通常ではコンテンツクリエータによって供給される、使用されるべきダウンミックス係数に制約を課す。
【００８２】
３Ｄオーディオコーデックシステムは、多数のオブジェクト又はチャンネルを符号化する効率を高めるためにＳＡＯＣ技術を使用する目的を有する。多数のオブジェクトを少数のトランスポートチャンネルにダウンミックスすることはビットレートを節約する。
【００８３】
図２は、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する一実施形態による装置を示す。
【００８４】
この装置は、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、かつ、１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくなるように、２つ以上のオーディオオブジェクト信号から１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するオブジェクトミキサ２１０を備える。
【００８５】
さらに、この装置は、オーディオトランスポート信号を出力する出力インターフェース２２０を備える。
【００８６】
オブジェクトミキサ２１０は、第１のミキシング規則に依存して、及び第２のミキシング規則に依存して、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを生成するように構成されており、第１のミキシング規則は複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示し、第２のミキシング規則はオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示している。第１のミキシング規則は２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存し、かつ、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存し、そして、第２のミキシング規則はプリミックス済みチャンネル数に依存する。出力インターフェース２２０は第２のミキシング規則に関する情報を出力するように構成されている。
【００８７】
図１は１つ以上のオーディオ出力チャンネルを生成する一実施形態による装置を示す。
【００８８】
この装置は、出力チャンネルミキシング情報を算出するパラメータプロセッサ１１０と、１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサ１２０とを備える。
【００８９】
ダウンミックスプロセッサ１２０は１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成されており、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、かつ１つ以上のオーディオトランスポートチャンネルの数が２つ以上のオーディオオブジェクト信号の数より少なくされている。オーディオトランスポート信号は第１のミキシング規則と第２のミキシング規則に依存する。第１のミキシング規則は、複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示す。さらに、第２のミキシング規則は、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。
【００９０】
パラメータプロセッサ１１０は第２のミキシング規則に関する情報を受信するように構成されており、第２のミキシング規則に関する情報は１つ以上のオーディオトランスポートチャンネルが得られるように複数のプリミックスされた信号を混合する方法を示す。パラメータプロセッサ１１０は、２つ以上のオーディオオブジェクト信号の数を示すオーディオオブジェクト数に依存して、複数のプリミックスされたチャンネルの数を示すプリミックス済みチャンネル数に依存して、及び第２のミキシング規則に関する情報に依存して出力チャンネルミキシング情報を算出するように構成されている。
【００９１】
ダウンミックスプロセッサ１２０は、出力チャンネルミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
【００９２】
一実施形態によれば、この装置は、例えば、オーディオオブジェクト数とプリミックス済みチャンネル数のうちの少なくとも一方を受信するように構成することができる。
【００９３】
別の実施形態では、パラメータプロセッサ１１０は、例えば、オーディオオブジェクト数に依存して、及びプリミックス済みチャンネル数に依存して、第１のミキシング規則に関する情報が複数のプリミックスされたチャンネルを得るために２つ以上のオーディオオブジェクト信号を混合する方法を示すように、第１のミキシング規則に関する情報を決定するように構成することができる。このような実施形態では、パラメータプロセッサ１１０は、例えば、第１のミキシング規則に関する情報に依存して、及び第２のミキシング規則に関する情報に依存して出力チャンネルミキシング情報を算出するように構成することができる。
【００９４】
一実施形態によれば、パラメータプロセッサ１１０は、例えば、オーディオオブジェクト数に依存して、及びプリミックス済みチャンネル数に依存して、第１のミキシング規則に関する情報として第１の行列Ｐの複数の係数を決定するように構成することができる。第１の行列Ｐはオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。このような実施形態では、パラメータプロセッサ１１０は、例えば、第２のミキシング規則に関する情報として、第２の行列Ｐの複数の係数を受信するように構成することができる。第２の行列Ｑはオーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを得るために複数のプリミックスされたチャンネルを混合する方法を示す。このような実施形態のパラメータプロセッサ１１０は、例えば、第１の行列Ｐに依存して、及び第２の行列Ｑに依存して、出力チャンネルミキシング情報を算出するように構成することができる。
【００９５】
実施形態は、式
Ｙ＝ＤＸ
に従ってダウンミックス行列Ｄを利用することによりエンコーダ側でオーディオトランスポート信号Ｙを得るために２つ以上のオーディオオブジェクト信号Ｘをダウンミックスするとき、ダウンミックス行列Ｄは、式
Ｄ＝ＱＰ
に従って２つのより小さい行列Ｐ及びＱに分割することができる、という発見に基づいている。
【００９６】
ここで、第１の行列Ｐは、式
Ｘｐｒｅ＝ＰＸ
に従ってオーディオオブジェクト信号Ｘから複数のプリミックスされたチャンネルＸｐｒｅへの混合を実現する。
【００９７】
第２の行列Ｑは、
Ｙ＝ＱＸｐｒｅ
に従って複数のプリミックスチャンネルＸｐｒｅからオーディオトランスポート信号Ｙの１つ以上のオーディオトラスポートチャンネルへの混合を実現する。
【００９８】
実施形態によれば、第２のミキシング規則、例えば、第２のミキシング行列Ｑの係数に関する情報はデコーダに送信される。
【００９９】
第１のミキシング行列Ｐの係数はデコーダに送信される必要がない。その代わりに、デコーダは、オーディオオブジェクト信号の数に関する情報とプリミックスされたチャンネルの数に関する情報を受信する。この情報から、デコーダは、第１のミキシング行列Ｐを再構成する能力がある。例えば、エンコーダ及びデコーダは、第１の数Ｎｏｂｊｅｃｔｓのオーディオオブジェクト信号を第２の数Ｎｐｒｅのプリミックスされたチャンネルに混合するとき、同じ方法でミキシング行列Ｐを決定する。
【０１００】
図３は一実施形態によるシステムを示す。このシステムは、図２を参照して前述したとおりのオーディオトランスポート信号を生成する装置３１０と、図１を参照して前述のとおりの１つ以上のオーディオ出力チャンネルを生成する装置３２０とを備える。
【０１０１】
１つ以上のオーディオ出力チャンネルを生成する装置３２０は、オーディオトランスポート信号を生成する装置３１０からオーティオトランスポート信号と、第２のミキシング規則に関する情報とを受信するように構成されている。さらに、１つ以上のオーディオ出力チャンネルを生成する装置３２０は、第２のミキシング規則に関する情報に依存して、オーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
【０１０２】
例えば、パラメータプロセッサ１１０は、例えば、２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報を含むメタデータ情報を受信するように構成することができ、例えば、垂直ベース振幅パニングを利用することにより２つ以上のオーディオオブジェクト信号の１つずつの位置情報に依存して第１のダウンミックス規則に関する情報を決定する。例えば、エンコーダは、２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報にアクセスすることもでき、プリミックスされたチャンネル内のオーディオオブジェクト信号の重みを決定するためにベクトルベース振幅パニングを利用することもでき、これにより、デコーダによって後で行われるのと同じ方法で第１の行列Ｐの係数を決定する（例えば、エンコーダとデコーダは両方ともに、Ｎｐｒｅ個のプリミックスされたチャンネルに割り当てられた、想定されるスピーカーの同じ位置決めを想定することができる）。
【０１０３】
第２の行列Ｑの係数を受信することにより、及び第１の行列Ｐを決定することにより、デコーダはＤ＝ＱＰに従ってダウンミックス行列Ｄを決定することができる。
【０１０４】
一実施形態では、パラメータプロセッサ１１０は、例えば、共分散情報、例えば共分散行列Ｅの係数を（例えば、オーディオトランスポート信号を生成する装置から）受信するように構成することができる。共分散情報は２つ以上のオーディオオブジェクト信号の１つずつに対するオブジェクトレベル差を示し、また、場合によっては、オーディオオブジェクト信号のうちの１つとオーディオオブジェクト信号のうちのもう１つとの間の１つ以上のオブジェクト間相関を示す。
【０１０５】
このような実施形態では、パラメータプロセッサ１１０は、オーディオオブジェクト数に依存して、プリミックス済みチャンネル数に依存して、第２のミキシング規則に関する情報に依存して、及び共分散情報に依存して出力チャンネルミキシング情報を算出するように構成することができる。
【０１０６】
例えば、共分散行列Ｅを使用して、オーディオオブジェクト信号Ｘは、以下の式を利用することにより再構成済みのオーディオオブジェクト
2018185526.tif 000007
を得るために再構成することができる。
2018185526.tif 000008
式中、Ｇはパラメトリック音源推定行列であり、Ｇ＝ＥＤＨ（ＤＥＤＨ）−１である。
【０１０７】
次に、１つ以上のオーディオ出力チャンネルＺは、以下の式に従って再構成済みのオーディオオブジェクト
2018185526.tif 000009
にレンダリング行列Ｒを適用することにより生成することができる。すなわち、
2018185526.tif 000010
である。
【０１０８】
しかしながら、オーディオトランスポート信号から１つ以上のオーディオ出力チャンネルＺを生成することは、以下の式に従って行列Ｕを利用することにより単一のステップにおいて実行することもできる。
Ｚ＝ＵＹ、但し、Ｓ＝ＵＧ
【０１０９】
このような行列Ｓは、パラメータプロセッサ１１０によって決定された出力チャンネルミキシング情報の例である。
【０１１０】
例えば、前述のとおり、レンダリング行列Ｒの各行は、生成されるべきオーディオ出力チャンネルのうちの１つに関連付けることができる。レンダリング行列Ｒの行のうち１行の中の各係数は、レンダリング行列Ｒのその行に関係するオーディオ出力チャンネル内の再構成済みのオーディオオブジェクト信号のうち１つの重みを決定する。
【０１１１】
一実施形態によれば、パラメータプロセッサ１１０は、例えば、２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報を含むメタデータ情報を受信するように構成することができ、例えば、２つ以上のオーディオオブジェクト信号の１つずつに対する位置情報に依存してレンダリング情報、例えば、レンダリング行列Ｒの係数を決定するように構成することができ、また、例えば、オーディオオブジェクト数に依存して、プリミックス済みチャンネル数に依存して、第２のミキシング規則に関する情報に依存して、及びレンダリング情報（例えば、レンダリング行列Ｒ）に依存して出力チャンネルミキシング情報（例えば、上記行列Ｓ）を算出するように構成することができる。
【０１１２】
それ故に、レンダリング行列Ｒは、例えば、メタデータ情報内でＳＡＯＣデコーダに送信されたオーディオオブジェクト信号の１つずつに対する位置情報に依存させることができる。例えば、想定又は現実のスピーカー位置の近くにある位置を有するオーディオオブジェクト信号は、例えば、そのスピーカーのオーディオ出力チャンネル内で、そのスピーカーから遠く離れた位置にあるオーディオオブジェクト信号の重みより大きな重みを有する（図５を参照）ことができる。例えば、各オーディオ出力チャンネル内でオーディオオブジェクト信号の重みを決定するためにベクトルベース振幅パニングを利用することができる（例えば、［ＶＢＡＰ］を参照）。ＶＢＡＰに関して、オーディオオブジェクト信号が仮想音源に割り当てられることが想定され、オーディオ出力チャンネルがスピーカーのチャンネルであることがさらに想定される。レンダリング行列Ｒの対応する係数（考慮されたオーディオ出力チャンネル及び考慮されたオーディオオブジェクト信号に割り当てられた係数）は、したがって、このような重みに依存した値に設定することができる。例えば、重み自体をレンダリング行列Ｒ内のその対応する係数の値とすることができる。
【０１１３】
以下では、オブジェクトベース信号のための空間ダウンミックスを実現する実施形態を詳細に説明する。
【０１１４】
以下の表記及び定義を参照する。
ＮＯｂｊｅｃｔｓ：入力オーディオオブジェクト信号の数
ＮＣｈａｎｎｅｌｓ：入力チャンネルの数
Ｎ：入力信号の数；
ＮはＮＯｂｊｅｃｔｓ、ＮＣｈａｎｎｅｌｓ又はＮＯｂｊｅｃｔｓ＋ＮＣｈａｎｎｅｌｓと等しくできる
ＮＤｍｘＣｈ：ダウンミックス（処理済み）チャンネルの数
Ｎｐｒｅ：プリミックスチャンネルの数
ＮＳａｍｐｌｅｓ：処理済みデータサンプルの数
Ｄ：ダウンミックス行列、サイズＮＤｍｘＣｈ×Ｎ
Ｘ：２つ以上のオーディオ入力信号を含む入力オーディオ信号、サイズＮ×ＮＳａｍｐｌｅｓ
Ｙ：ダウンミックスオーディオ信号（オーディオトランスポート信号）、サイズＮＤｍｘＣｈ×ＮＳａｍｐｌｅｓ、Ｙ＝ＤＸと定義される
ＤＭＧ：あらゆる入力信号、ダウンミックスチャンネル、及びパラメータセットに対するダウンミックス利得データ
ＤＤＭＧ：あらゆる入力信号、ダウンミックスチャンネル、及びパラメータセットに対する逆量子化され、マッピングされたＤＭＧデータを保持する３次元行列である
【０１１５】
一般性を失うことなく、式の読みやすさを改善するために、全ての導入された変数に対して、時間依存性及び周波数依存性を表す添字は省略する。
【０１１６】
入力信号（チャンネル又はオブジェクト）に関して制約が指定されない場合、ダウンミックス係数は、入力チャンネル信号及び入力オブジェクト信号の場合と同様に算出される。入力信号の数Ｎに対する表記法が使用される。
【０１１７】
幾つかの実施形態は、例えば、オブジェクトメタデータにおいて利用可能な空間情報によって誘導され、チャンネル信号とは異なった方法でオブジェクト信号をダウンミックスするため設計することができる。
【０１１８】
ダウンミックスは、２つのステップに分離することができる。
−  第１のステップでは、オブジェクトは、スピーカーの最大数Ｎｐｒｅ（例えば、２２．２コンフィギュレーションによって与えられるＮｐｒｅ＝２２）を用いて再生レイアウトにプリレンダリングされる。例えば、第１の行列Ｐを利用することができる。
−  第２のステップでは、得られたＮｐｒｅ個のプリレンダリングされた信号は、（例えば、直交ダウンミックス分配アルゴリズムに従って）利用可能なトランスポートチャンネル数（ＮＤｍｘＣｈ）にダウンミックスされる。例えば、第２の行列Ｑを利用することができる。
【０１１９】
しかしながら、幾つかの実施形態では、ダウンミックスは、例えば、式Ｄ＝ＱＰに従って定義された行列Ｄを利用することにより、及び、Ｄ＝ＱＰとともにＹ＝ＤＸを適用することにより、単一のステップで行われる。
【０１２０】
とりわけ、提案された概念のさらなる利点は、例えば、オーディオシーンにおいて同じ空間位置にレンダリングされると想定される入力オブジェクト信号は、同じトランスポートチャンネル内で一緒にダウンミックスされる、ということである。その結果、デコーダ側で、プリレンダリングされた信号のより良好な分離が達成され、最終的な再生シーンにおいて再度一緒に混合されるオーディオオブジェクトの分離を防ぐ。
【０１２１】
特定の好ましい実施形態によれば、ダウンミックスは、行列乗算によって記述することができる。
Ｘｐｒｅ＝ＰＸ  及び  Ｙ＝ＱＸｐｒｅ
式中、サイズ（Ｎｐｒｅ×ＮＯｂｊｅｃｔｓ）のＰ及びサイズ（ＮＤｍｘＣｈ×Ｎｐｒｅ）のＱは、以下で説明されるように算出される。
【０１２２】
Ｐの中のミキシング係数は、パニングアルゴリズム（例えば、ベクトルベース振幅パニング）を使用してオブジェクト信号メタデータ（原点からの距離、利得、方位角及び仰角）から構成される。パニングアルゴリズムは、出力チャンネルを構成するためにデコーダ側で使用されるものと同じであるべきである。
【０１２３】
Ｑの中のミキシング係数は、Ｎｐｒｅ個の入力信号とＮＤｍｘＣｈ個の利用可能なトランスポートチャンネルに対してエンコーダ側で与えられる。
【０１２４】
計算の複雑さを低減するために、２ステップのダウンミックスは、最終ダウンミックス利得を以下のように算出することにより１ステップに簡略化できる。
Ｄ＝ＱＰ
【０１２５】
その結果、ダウンミックス信号は次式によって与えられる。
Ｙ＝ＤＸ
【０１２６】
Ｐの中のミキシング係数はビットストリームの内部で送信されない。その代わりに、これらのミキシング係数は、同じパニングアルゴリズムを使用してデコーダ側で再構成される。その結果として、ビットレートは、Ｑの中のミキシング係数だけを送出することによって低減される。特に、Ｐの中のミキシング係数は通常で時間的に変化するものであり、Ｐは送信されないので、高度のビットレート低減を達成できる。
【０１２７】
以下、実施形態によるビットストリーム構文を検討する。
【０１２８】
第１のステップにおいてオブジェクトをプリレンダリングするために使用されたダウンミックス方法とチャンネルの数Ｎｐｒｅとを信号伝達するために、ＭＰＥＧ  ＳＡＯＣビットストリーム構文は、４ビットを使って拡張される。
【０１２９】
2018185526.tif 000011
【０１３０】
2018185526.tif 000012
【０１３１】
ＭＰＥＧ  ＳＡＯＣとの関連において、これは、以下の変形によって達成できる。
bsSaocDmxMethod:ダウンミックス行列がどのように構成されるかを示す
【０１３２】
SAOC3DSpecificConfig()の構文−信号伝達（Signaling）
2018185526.tif 000013
【０１３３】
Saoc3DFrame()の構文: ＤＭＧが異なったモードのため読み取られる方法。
2018185526.tif 000014
【０１３４】
bsNumSaocDmxChannels：チャンネルベースコンテンツのためのダウンミックスチャンネルの数を定義する。チャンネルがダウンミックスに存在しない場合、bsNumSaocDmxChannelsが０に設定される。
bsNumSaocChannels：ＳＡＯＣ  ３Ｄパラメータが送信される入力チャンネルの数を定義する。bsNumSaocChannels = 0である場合、チャンネルはダウンミックスに存在しない。
bsNumSaocDmxObjects：オブジェクトベースコンテンツのためのダウンミックスチャンネルの数を定義する。オブジェクトがダウンミックスに存在しない場合、bsNumSaocDmxObjectsが０に設定される。
bsNumPremixedChannels：入力オーディオオブジェクトに対するプリミキシングチャンネルの数を定義する。bsSaocDmxMethodが１５に等しい場合、プリミックスされたチャンネルの実際の数は、bsNumPremixedChannelsの値によって直接的に信号伝達される。全ての他の場合、bsNumPremixedChannelsは、前述の表に従って設定される。
【０１３５】
一実施形態によれば、入力オーディオ信号Ｓに適用されたダウンミックス行列Ｄは、以下のようにダウンミックス信号を決定する。
Ｘ＝ＤＳ
【０１３６】
サイズがＮｄｍｘ×Ｎであるダウンミックス行列Ｄは、以下のように得られる。
Ｄ＝ＤｄｍｘＤｐｒｅｍｉｘ
【０１３７】
行列Ｄｄｍｘ及び行列Ｄｐｒｅｍｉｘは処理モードに依存して異なったサイズをもつ。
【０１３８】
行列Ｄｄｍｘは以下のようにＤＭＧパラメータから得られる。
ｄｉ，ｊ＝０：ペア（ｉ，ｊ）に対するＤＭＧデータがビットストリームの中に存在しない場合、
ｄｉ，ｊ＝１００.０５ＤＭＧｉ,ｊ：そうではない場合。
【０１３９】
ここで、逆量子化されたダウンミックスパラメータは以下のように得られる。
ＤＭＧｉ,ｊ＝ＤＤＭＧ（ｉ,ｊ,ｌ）
【０１４０】
直接モードの場合、プリミキシングは使用されない。行列ＤｐｒｅｍｉｘはサイズＮ×Ｎをもち、Ｄｐｒｅｍｉｘ＝Ｉによって与えられる。行列ＤｄｍｘはサイズＤｄｍｘ×Ｎをもち、ＤＭＧパラメータから得られる。
【０１４１】
プリミキシングモードでは、行列Ｄｐｒｅｍｉｘはサイズ（Ｎｃｈ＋Ｎｐｒｅｍｉｘ）×Ｎをもち、次式
2018185526.tif 000015
によって与えられる。式中、サイズがＮｐｒｅｍｉｘ×Ｎｏｂｊであるプリミキシング行列ＡがオブジェクトレンダラからＳＡＯＣ  ３Ｄデコーダへの入力として受信される。
【０１４２】
行列ＤｄｍｘはサイズＮｄｍｘ×（Ｎｃｈ＋Ｎｐｒｅｍｉｘ）をもち、ＤＭＧパラメータから得られる。
【０１４３】
幾つかの態様が装置に関連して説明されているが、これらの態様は対応する方法の説明も表現し、ブロック又は機器は方法ステップ又は方法ステップの特徴に対応することが明らかである。同様に、方法ステップに関連して説明された態様は、対応する装置の対応するブロック、物又は特徴の説明も表現する。
【０１４４】
本発明の分解された信号はディジタル記憶媒体に記憶することができ、又は無線伝送媒体もしくはインターネットのような有線伝送媒体といった伝送媒体上で送信することができる。
【０１４５】
特定の実施要件に依存して、本発明の実施形態はハードウェア又はソフトウェアで実施することができる。その実施は、ディジタル記憶媒体、例えば、フロッピーディスク、ＤＶＤ、ＣＤ、ＲＯＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ又はＦＬＡＳＨメモリを使用して実行することができる。そのディジタル記憶媒体は、それぞれの方法が実行されるようにプログラマブルコンピュータシステムと協働する（協働する能力がある）電子的に読み取り可能な制御信号を記憶しているものである。
【０１４６】
本発明によるいくつかの実施形態は、本明細書に記載された方法のうちの１つが実行されるようにプログラマブルシステムと協働する能力がある電子的に読み取り可能な制御信号を有する非遷移型のデータ担体を含む。
【０１４７】
概して、本発明の実施形態はプログラムコードをもつコンピュータプログラムプロダクトとして実施することができ、そのプログラムコードはこのコンピュータプログラムプロダクトがコンピュータ上で動くとき本発明方法のうち１つを実行するために動作するものである。そのプログラムコードは、例えば機械読み取り可能な担体に記憶することができる。
【０１４８】
他の実施形態は、機械読み取り可能な担体上に記憶され、かつ本明細書に記載された方法のうち１つを実行するコンピュータプログラムを含む。
【０１４９】
換言すれば、本発明の方法の実施形態は、従って、コンピュータプログラムがコンピュータ上で動くとき、本明細書に記載された方法のうち１つを実行するプログラムコードを有するコンピュータプログラムである。
【０１５０】
本発明の方法のさらなる実施形態は、従って、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを記録しているデータ担体（又はディジタル記憶媒体、もしくはコンピュータ読み取り可能な媒体）である。
【０１５１】
本発明の方法のさらなる実施形態は、従って、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを表現するデータストリーム又は信号のシーケンスである。そのデータストリーム又は信号のシーケンスは、例えば、データ通信接続を介して、例としてインターネットを介して転送されるように構成することができる。
【０１５２】
さらなる実施形態は、本明細書に記載された方法のうちの１つを実行するように構成され又は適合した処理手段、例えば、コンピュータ又はプログラマブル論理デバイスを含む。
【０１５３】
さらなる実施形態は、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを実装しているコンピュータを含む。
【０１５４】
いくつかの実施形態では、プログラマブル論理デバイス（例えば、フィールドプログラマブルゲートアレイ）を本明細書に記載された方法の機能性のうちの一部又は全部を実行するために使用することができる。いくつかの実施形態では、フィールドプログラマブルゲートアレイが、本明細書に記載された方法のうち１つを実行するためにマイクロプロセッサと協働することができる。概して、本発明方法は、好ましくは、ハードウェア装置によって実行される。
【０１５５】
上記実施形態は、本発明の原理の単なる例示である。当然のことながら、本明細書に記載された配置構成及び細部の変更及び変形は、当業者には明白であろう。したがって、意図するところは、本発明は直ぐ後の特許請求の範囲だけによって限定され、本明細書において実施形態の記載及び説明のために提示された具体的な細部によって限定されないことである。
【図１】
2018185526.tif 000016
【図２】
2018185526.tif 000017
【図３】
2018185526.tif 000018
【図４】
2018185526.tif 000019
【図５】
2018185526.tif 000020
【図６】
2018185526.tif 000021
【図７】
2018185526.tif 000022
【図８】
2018185526.tif 000023
【図９】
2018185526.tif 000024
【図１０】
2018185526.tif 000025
【図１１】
2018185526.tif 000026