(57)【要約】本発明は別個のオーディオオブジェクトとして符号化されているオーディオ信号の構成を記述する方法に関する。サウンドシーンにおけるオーディオオブジェクトの配置および処理はシーン記述内に階層的に配置されているノードによって記述されている。２Ｄベクトルを使用する２Ｄスクリーンにおける空間化のためにのみ規定されているノードが、前述の２Ｄベクトルと、前述のオーディオオブジェクトの奥行きを記述する１Ｄ値とを使用して、オーディオオブジェクトの３Ｄポジションを記述する。別の実施形態では座標のマッピングが実施され、このマッピングによって、スクリーン平面におけるグラフィックオブジェクトの移動をこのスクリーン平面に垂直な奥行きでのオーディオオブジェクトの移動にマッピングすることができる。【特許請求の範囲】
【請求項１】
オーディオ信号のプレゼンテーション記述をコーディングする方法であって、
２Ｄ座標系での空間化を可能にする情報を包含する、音源のパラメータ的な記述を生成し、
前記音源のパラメータ的な記述を該音源のオーディオ信号とリンクさせる、オーディオ信号のプレゼンテーション記述をコーディングする方法において、
２Ｄビジュアルコンテクストにおいて前記音源を３Ｄ領域に空間化する付加的な１Ｄ値を前記パラメータ的な記述に付加することを特徴とする、オーディオ信号のプレゼンテーション記述をコーディングする方法。
【請求項２】
別個の音源を別個のオーディオオブジェクトとしてコーディングし、サウンドシーンにおける前記音源の配置を、前記別個のオーディオオブジェクトに対応する第１のノードとオーディオオブジェクトのプレゼンテーションを記述する第２のノードとを有するシーン記述によって記述し、第２のノードのフィールドは音源の３Ｄ空間化を定義する、請求項１記載の方法。
【請求項３】
前記２Ｄ座標系はスクリーン平面に対応し、前記１Ｄ値は該スクリーン平面に垂直な奥行き情報に対応する、請求項１または２記載の方法。
【請求項４】
前記２Ｄ座標系の値を３次元ポジションに変換することにより、前記スクリーン平面におけるグラフィカルオブジェクトの移動を、該スクリーン平面に垂直な奥行きでのオーディオオブジェクトの移動にマッピングする、請求項３記載の方法。
【請求項５】
オーディオ信号のプレゼンテーション記述をデコーディングする方法であって、
音源のパラメータ的な記述とリンクされている、該音源に対応するオーディオ信号を受信し、該パラメータ的な記述は２Ｄ座標系での空間化を可能にする情報を包含する、オーディオ信号のプレゼンテーション記述をデコーディングする方法において、
付加的な１Ｄ値を前記パラメータ的な記述から分離し、
２Ｄビジュアルコンテクストにおいて、前記付加的な１Ｄ値を使用して前記音源を３Ｄ領域に空間化することを特徴とする、オーディオ信号のプレゼンテーション記述を復号化する方法。
【請求項６】
別個の音源を表すオーディオオブジェクトを別個にデコーディングし、別個のオーディオオブジェクトに対応する第１のノードとオーディオオブジェクトの処理を表す第２のノードとを有するシーン記述を使用して、デコーディングされたオーディオオブジェクトから単一のサウンドトラックを構成し、第２のノードのフィールドは音源の３Ｄ空間化を定義する、請求項５記載の方法。
【請求項７】
前記２Ｄ座標系はスクリーン平面に対応し、前記１Ｄ値は該スクリーン平面に垂直な奥行き情報に対応する、請求項５または６記載の方法。
【請求項８】
前記２Ｄ座標系の値を３次元ポジションに変換することにより、前記スクリーン平面におけるグラフィカルオブジェクトの移動を、該スクリーン平面に垂直な奥行きでのオーディオオブジェクトの移動にマッピングする、請求項７記載の方法。
【請求項９】
請求項１から８までのいずれか１項記載の方法を実施する装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、殊にＭＰＥＧ−４符号化されたオーディオ信号を３Ｄ領域に空間化するために、オーディオ信号のプレゼンテーション記述をコーディングおよびデコーディングするための方法と装置に関する。
【０００２】
背景技術
ＭＰＥＧ−４オーディオ標準ＩＳＯ／ＩＥＣ  １４４９６−３：２００１およびＭＰＥＧ−４システム標準１４４９６−１：２００１において定義されているようにＭＰＥＧ−４オーディオ標準はオーディオオブジェクトの表現を支援することによって多種多様な用途を容易にする。オーディオオブジェクトに付加的な情報、いわゆるシーン記述を組み合わせるために、空間および時間における配置を求め、符号化されたオーディオオブジェクトと共に伝送される。
【０００３】
再生に関しては単一のサウンドトラックを供給するために、オーディオオブジェクトがシーン記述を使用して別個にデコーディングされ、構成されて、聴取者に再生される。
【０００４】
効率に関しては、ＭＰＥＧ−４システム標準ＩＳＯ／ＩＥＣ  １４４９６−１：２００１がバイナリ表現されたシーン記述、いわゆるＢＩＦＳ（Binary Format for Scene）記述を符号化するやり方を定義している。したがってオーディオシーンはいわゆるオーディオＢＩＦＳを使用して記述される。
【０００５】
シーン記述は階層的に構造化されており、またグラフとして表現することができる。ここでグラフの葉ノードは別個のオブジェクトを形成し、また他のノードは例えば位置決め、スケーリング、効果などの処理を記述する。別個のオブジェクトの外観および動作をシーン記述ノード内のパラメータを使用して制御することができる。
【０００６】
本発明
本発明は以下の事実の認識に基づくものである。上述したＭＰＥＧ−４オーディオ標準のバージョンは、オーディオ信号を３Ｄ領域に空間化することを可能にする「Sound」と称されるノードを定義している。「Sound2D」の名称を有する別のノードは２Ｄスクリーンにおける空間化のみを可能にする。２Ｄグラフィカルプレイヤにおける「Sound」ノードの使用は、２Ｄプレイヤと３Ｄプレイヤにおける特性の具体化が異なるために規定されていない。しかしながらゲーム、映画およびＴＶのアプリケーションからは、たとえビデオプレゼンテーションが前方における小さい平坦なスクリーンに制限されるとしても、完全に空間化された「３Ｄサウンド」をエンドユーザに提供することに意味があることが知られている。このことは、定義されている「Sound」ノードおよび「Sound2D」ノードを用いては不可能である。
【０００７】
したがって、本発明によって解決されるべき課題は上述の欠点を克服することである。この課題は請求項１記載に記載されているコーディング方法および請求項５に記載されている相応のデコーディング方法によって解決される。
【０００８】
原則として本発明によるコーディング方法は、２Ｄ座標系での空間化を可能にする情報を包含する音源のパラメータ的な記述の生成を含む。音源のパラメータ的な記述はこの音源のオーディオ信号とリンクされている。２Ｄビジュアルコンテクストにおいて前述の音源を３Ｄ領域に空間化することを可能にする付加的な１Ｄ値が前述のパラメータ的な記述に付加される。
【０００９】
別個の音源を別個のオーディオオブジェクトとしてコーディングすることができ、またサウンドシーン内での音源の配置を、別個のオーディオオブジェクトに対応する第１のノードとオーディオオブジェクトのプレゼンテーションを記述する第２のノードとを有するシーン記述によって記述することができる。第２のノードのフィールドは音源の３Ｄ空間化を定義することができる。
【００１０】
有利には、２Ｄ座標系はスクリーン平面に対応し、１Ｄ値はこのスクリーン平面に垂直な奥行き（深度）情報に対応する。
【００１１】
さらには、前述の２Ｄ座標系の値を前述の３次元ポジションに変換することによって、スクリーン平面におけるグラフィカルオブジェクトの移動を、このスクリーン平面に垂直な奥行きでのオーディオオブジェクトの移動にマッピングすることができる。
【００１２】
本発明によるデコーディング方法は、原則として、音源のパラメータ的な記述とリンクされているこの音源に対応するオーディオ信号の受信を含む。パラメータ的な記述は２Ｄ座標系での空間化を可能にする情報を含む。付加的な１Ｄ値が前述のパラメータ的な記述から分離される。音源は２Ｄビジュアルコンテクストにおいて前述の付加的な１Ｄ値を使用して３Ｄ領域に空間化される。
【００１３】
別個の音源を表すオーディオオブジェクトを別個にデコーディングすることができ、また単一のサウンドトラックを、別個のオーディオオブジェクトに対応する第１のノードとオーディオオブジェクトの処理を記述する第２のノードとを有するシーン記述を使用することにより、デコーディングされたオーディオオブジェクトから構成することができる。第２のノードのフィールドは音源の３Ｄ空間化を定義することができる。
【００１４】
有利には、２Ｄ座標系はスクリーン平面に対応し、前述の１Ｄ値は前述のスクリーン平面に垂直な奥行き情報に対応する。
【００１５】
さらには、前述の２Ｄ座標系の値を前述の３次元ポジションに変換することによって、スクリーン平面におけるグラフィカルオブジェクトの移動を、このスクリーン平面に垂直な奥行きでのオーディオオブジェクトの移動にマッピングすることができる。
【００１６】
実施例
Sound2Dノードは次のように定義されている：
【００１７】
【表１】
2006517356.tif 000002
【００１８】
また３ＤノードであるSoundノードは次のように定義されている：
【００１９】
【表２】
2006517356.tif 000003
【００２０】
以下では全てのサウンドノード（Sound2D、SoundおよびDirectiveSound）に対する総称的な述語を小文字で例えば「sound nodes」と表記する（※便宜上、以下ではこのsound nodesを「サウンドノード」と表記する）。
【００２１】
最も単純なケースにおいては、SoundノードまたはSound2DノードはAudioSourceノードを介してデコーダ出力側に接続されている。サウンドノードは強度（intensity）情報およびロケーション（location）情報を包含する。
【００２２】
オーディオの観点からすれば、サウンドノードはスピーカへのマッピング前の最終ノードである。サウンドノードが複数存在する場合には出力が合計される。システムの観点からすれば、サウンドノードをオーディオサブグラフに対する入口点とみなすことができる。サウンドノードは非オーディオノードと共に、オリジナルのロケーションにセットされるTransformノードにグループ化される。
【００２３】
AudioSourceノードのphaseGroupフィールドを用いることにより、例えば「ステレオペア」、「マルチチャネル」などの場合のような重要な相関係を含んでいるチャネルをマークすることができる。相関係のあるチャネルと相関係のないチャネルとを組み合わせた動作が可能となる。サウンドノードにおけるspatializeフィールドはサウンドが空間化されるべきか否かを規定する。このことは相グループのメンバでないチャネルに対してのみ該当する。
【００２４】
Sound2Dは２Ｄスクリーンにおいてサウンドを空間化することができる。前述の標準ではサウンドは１メートルの距離をおいて２ｍ×１．５ｍのサイズのスクリーンに空間化されるとしている。しかしながらこの説明は効果がないと思われる。何故ならばlocationフィールドの値は制限されておらず、したがってサウンドをスクリーンサイズの外側に位置決めすることも可能だからである。
【００２５】
SoundノードおよびDirectiveSoundノードは３Ｄ空間内のどこにでもロケーション（location）をセットすることができる。既存のスピーカ位置へのマッピングは単純な幅のパニングまたはより精巧な技術を使用して行うことができる。
【００２６】
SoundおよびSound2Dはマルチチャネル入力を処理することができ、また基本的には同一の機能を有するが、Sound2Dノードはサウンドを前方以外には空間化することができない。
【００２７】
SoundおよびSound2Dを全てのシーングラフプロファイルに付加することができる。すなわち、SoundノードをSF2DNodeグループに付加することができる。
【００２８】
しかしながら「３Ｄ」サウンドノードが２Ｄシーングラフプロファイルに包含されない理由の１つは、典型的な２ＤプレイヤがSoundのdirectionフィールドおよびlocationフィールドに対して要求されるような３Ｄベクトル（ＳＦＶｅｃ３ｆタイプ）を処理できないからである。
【００２９】
別の理由はSoundノードが、聴音地点が移動し、また遠距離のサウンドオブジェクトに対する減衰属性を有する仮想現実シーンのために特別に設計されているからである。これに関してはListening pointノードおよびSound maxBack、maxFront、minBackおよびminFrontフィールドが定義されている。
【００３０】
１つの実施形態によれば、旧式のSound2Dノードが拡張されるか、新たなSound2Ddepthノードが定義されている。Sound2DdepthノードはSound2Dノードに類似するもので良いが、付加的なdepthフィールドを有する。
【００３１】
【表３】
2006517356.tif 000004
【００３２】
intensityフィールドは音の大きさを調節する。その値は０．０から１．０の間で変化し、またこの値は音の再生の間に使用されるファクタを規定する。
【００３３】
locationフィールドは２Ｄシーンでの音のロケーションを規定する。
【００３４】
depthフィールドはlocationフィールドと同じ座標系を使用して２Ｄシーンでのサウンドの奥行きを規定する。デフォルト値は０．０であり、スクリーンポジションを参照する。
【００３５】
spatializeフィールドはサウンドが空間化されるべきか否かを規定する。このフラグがセットされている場合には、サウンドは最大限の精巧度で空間化されるべきである。
【００３６】
マルチチャネルオーディオの空間化に関する同一の規則がSound2DdepthノードにもSound（３Ｄ）ノードにも適用される。
【００３７】
２ＤシーンにおけるSound2Dノードの使用は、作成者が記録した通りのサラウンドサウンドのプレゼンテーションを可能にする。サウンドを前方以外には空間化することはできない。空間化とはユーザとの相互作用またはシーンの更新に基づくモノラル信号のロケーションの移動を意味する。
【００３８】
Sound2Ddepthノードを用いることにより、聴取者の後方または側方または上方においてサウンドを空間化することができる。想定されるオーディオプレゼンテーションシステムはこれを表現することができる。
【００３９】
本発明は、付加的なdepthフィールドがSound2Dノードに導入されている上述の実施形態に制限されるものではない。付加的なdepthフィールドを、階層的にSound2Dノードよりも上に配置されているノードに挿入することもできる。
【００４０】
別の実施形態によれば座標のマッピングが実施される。Sound2Ddepthノードにおける付加的なフィールドdimensionMappingは、例えば２行×３列ベクトルが２Ｄコンテクスト座標系（ccs）を先祖の変換階層からノードの原点にマッピングするために使用されるような変換を定義する。
【００４１】
ノードの座標系（ncs）は以下のように計算される。
ncs = ccs × dimensionMapping
【００４２】
ノードのロケーションは３次元ポジションであり、ncsに関して２Ｄ入力ベクトルのロケーションと奥行きが組み合わされている{location.x location.y depth}。
【００４３】
例：ノードの座標系コンテクストを{xｉ, yｉ}とする。dimensionMappingを{1,0,0  0,0,1}とする。この場合ncs = {xｉ, 0, yｉ}が導かれ、このことはｙ次元でのオブジェクトの移動を奥行きでのオーディオの移動にマッピングすることを可能にする。
【００４４】
フィールド「dimensionMapping」はMFFloatとして定義することができる。同一の機能は別のＭＰＥＧ−４タイプであるフィールドデータタイプ「SFRotation」を使用して達成することもできる。
【００４５】
本発明は、たとえ再生装置が２Ｄグラフィックに制限されているとしても、オーディオ信号を３Ｄ領域に空間化することができる。
【国際調査報告】
2006517356.tif 000005