(57)【要約】  エンコードされたビットストリームの記述を変換するための方法および装置が記載される。エンコードされたビットストリームはデータパケットを含み、記述はマークアップ言語たとえばＢＳＤＬなどで書かれる。１つまたは２つ以上のデータパケットからなる群が前記記述においてある要素により記述され、前記要素は変換タグを含む少なくとも１つの属性を有する。記載を走査して、変換タグに対するチェックを予め定められた条件に従って行ない、適合された記述を発生させる。マルチメディアファイルの変換はコンテンツスケーラビリティを可能にするよう記述される。適合方策は以下のように働く：直接ビットストリームを適合する代わりに、ビットストリームの記述の変更をいわゆるスタイルシートの使用により行なう。したがって、変更された記述から２進形式ファイルが発生され得る。
2005510920.tif 000002
【特許請求の範囲】
【請求項１】
エンコードされたビットストリームの記述を変換する方法であって、前記エンコードされたビットストリームはデータパケットを含み、前記記述はマークアップ言語で書かれ、１つまたは２つ以上のデータパケットからなる群が前記記述において要素によって記述され、前記要素は変換タグを含む少なくとも１つの属性を有し、前記方法は、
前記記述を走査して、変換タグに対して、予め定められた条件に従ってチェックを行なうステップ、および
変換タグが前記予め定められた条件を満たさない要素は取除かれる、適合された記述を発生させるステップを含む、方法。
【請求項２】
前記エンコードされたビットストリームはいくつかのデータ層が定義されるスケーラブルなフォーマットを有し、前記変換タグは１つまたは２つ以上のデータパケットからなる群が属するデータ層を示すものである、請求項１に記載の記述を変換する方法。
【請求項３】
前記変換タグはパケット識別子であり、前記予め定められた条件は達成されるべきある特定の変換に関連付けられるパケット識別子の組のメンバーシップの条件である、請求項１に記載の記述を変換する方法。
【請求項４】
適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させる方法であって、前記元のエンコードされたビットストリームはデータパケットを含み、前記方法は：
マークアップ言語で書かれた、前記元のエンコードされたビットストリームの記述を変換して、適合された記述を発生させることを、請求項１〜３に記載される記述を変換する方法を適用することにより行なうステップ、および、
前記適合されたビットストリームを前記適合された記述から発生させるステップを含む、方法。
【請求項５】
マークアップ言語で書かれた、データパケットを含むエンコードされたビットストリームの記述であって、前記記述は１つまたは２つ以上のデータパケットからなる群を記述するための要素を含み、前記要素は、前記要素のいくつかを除去することにより、前記記述を適合させるために、予め定められた条件に対しチェックされるよう用いられるよう意図される変換タグを含む少なくとも１つの属性を有する、記述。
【請求項６】
前記エンコードされたビットストリームはいくつかのデータ層が定義されるスケーラブルなフォーマットを有し、前記変換タグはデータパケットからなる群が属するデータ層を示すものである、請求項５に記載の記述。
【請求項７】
前記変換タグはパケット識別子であり、前記予め定められた条件は達成されるべきある特定の変換に関連付けられるパケット識別子の組のメンバーシップの条件である、請求項５に記載の記述。
【請求項８】
請求項５〜７のいずれかに記載されるビットストリームの記述を記憶するメモリ、および請求項１〜３のいずれかに記載される前記記述を変換する方法を実現するための処理手段を含む電子装置。
【請求項９】
前記プログラムがプロセッサによって実行されるとき、請求項１〜３のいずれかに記載される記述を変換する方法を実現するための命令を含むプログラム。
【請求項１０】
送信機および受信機を含む伝送システムであって、前記送信機は、請求項４に記載され
る、適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させる方法を実現するための手段、および前記適合されたエンコードされたビットストリームを前記受信機に送信するための手段を有する、伝送システム。
【請求項１１】
スキーマのインスタンスを発生させる方法であって、
前記インスタンスはエンコードされた画像データのツリー状表現を構成し、前記スキーマは総称的に前記表現のフォーマットを記述し、フォーマットによってデータの名称およびタイプが記載される複数の要素を含み、前記方法は：
画像にアクセスするステップ；
前記画像を符号化するステップを予め定められた符号化パラメータに従って実行し、それによって、ビットストリームおよび前記インスタンスの発生を、前記要素に対応するビットストリームの部分をリンクすることにより行なうステップを含み；
前記方法は：
前記スキーマは前記符号化方法の符号化パラメータに関係する特別な要素を含むこと；および、
前記インスタンスは前記特別な要素にリンクされる明示的な情報を含み、前記明示的な情報も前記ビットストリームに埋込まれ、前記符号化パラメータに関係することにおいて特徴付けられる、方法。
【請求項１２】
適合されたビットストリームを元のビットストリームから発生させる方法であって、前記ビットストリームはエンコードされた画像データであり、前記エンコードは予め定められた符号化パラメータに従って実行され、
前記方法は：
前記元のビットストリームおよび前記元のビットストリームに見出されるデータを含むスキーマのインスタンスを受取るステップを含み、インスタンスはツリー状表現を構成し、
前記スキーマの、適合されたインスタンスを発生させるステップ；および、
前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含み、
前記方法は：
前記インスタンスは明示的な情報を前記符号化パラメータ上に含むこと；および
適合されたインスタンスを発生させる前記ステップは前記明示的な情報を利用することにより特徴付けられる、方法。
【請求項１３】
画像符号化装置であって：
画像を読取るための手段；
符号化パラメータを入力するための手段；
前記読取られた画像を前記符号化パラメータに従ってエンコードしそれによってビットストリームを発生させるよう構成されるハードウェア部を含み；
符号化装置はスキーマのインスタンスを発生させることに向けて設けられ、
前記スキーマは総称的に前記表現のフォーマットを記述し、フォーマットによってデータの名称およびタイプが記述される複数の要素を含み、
前記インスタンスは前記エンコードされた画像データのツリー状表現を構成し、リンクを前記ビットストリームの部分間において前記要素とともに含み、
前記装置は：
前記スキーマは前記符号化パラメータに関係する特別な要素を含むこと；および
前記インスタンスは前記特別な要素にリンクされる前記符号化パラメータに関する明示的な情報を含むことによって特徴付けられる、画像符号化装置。
【請求項１４】
第１のビットストリームを受取るための手段を含み、前記ビットストリームはエンコー
ドされた画像データであり、前記エンコードは予め定められた符号化パラメータに従って実行され；さらに、
前記第１のビットストリームに見出されるデータを含みかつツリー状表現を構成するスキーマのインスタンスを受取るまたは発生させるための手段；
前記スキーマの、適合されたインスタンスを発生させること、および適合されたビットストリームを前記適合されたインスタンスから発生させることに向けて構成されるハードウェア部を含み、
前記端子は：
前記インスタンスは明示的な情報を前記符号化パラメータ上に含むこと；および、
前記ハードウェア部は適合されたインスタンスの発生を前記明示的な情報を利用することにより行なうよう構成されることにおいて特徴付けられる、端子。
【請求項１５】
適合されたビットストリームを元のビットストリームから発生させる方法であって：
前記元のビットストリームを受取るステップ；
あるフォーマットに従ってある構造を有するデータを含む前記元のビットストリームを構文解析するステップを含み、前記解析ステップは前記元のビットストリームのツリー状表現を発生させ、前記方法は：
前記フォーマットを総称的に記述するスキーマを読出すステップを含み、前記スキーマはフォーマットによってデータの名称およびタイプが記述される複数の要素、および符号化方法に関係する情報に関連付けられる特別な要素を含み；
前記元のビットストリームにおいて、前記スキーマに含まれる前記特別な要素を含む要素に対応するデータを検索するステップ；
前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンスを発生させるステップを含み、前記インスタンスはさらに、前記元のビットストリームに埋込まれる明示的な情報を含み；
前記スキーマの、適合されたインスタンスを発生させるステップを含み、前記適合プロセスは前記明示的な情報を利用し；および
前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含む、方法。
【請求項１６】
スキーマのインスタンスを発生させる方法であって、
ビットストリームのツリー状表現を構成する前記インスタンスは符号化方法を画像のうちの少なくとも一部に適用した結果であり、ビットストリームにおいては複数のパケットが区別され得、
前記スキーマは前記表現のフォーマットを総称的に記述し、フォーマットによってデータの名称およびタイプが記述される複数の要素を含み、
前記方法は：
画像にアクセスするステップ；
前記画像を符号化するステップを実行し、それによって、ビットストリームおよび前記インスタンスの発生を、前記要素に対応するビットストリームの部分をリンクすることにより行なうステップを含み；
前記方法は：
前記スキーマは符号化方法によって規定されるパケット位置情報に関係する特別な要素を含むこと；および
前記インスタンスは前記パケットに対するさらなる属性を含み、前記さらなる属性は前記ビットストリームにおける前記パケットの位置を示し、前記位置は符号化方法によって規定されることにおいて特徴付けられる、方法。
【請求項１７】
画像符号化装置であって、
画像を読取る手段；
前記読取られた画像を前記符号化パラメータに従ってエンコードし、それによって、複数のパケットを含むビットストリームを発生させるよう構成されるハードウェア部を含み；
符号化装置はスキーマのインスタンスを発生させることに対して設けられ、
前記スキーマは前記表現のフォーマットを総称的に記載し、それによってデータの名称およびタイプが記載される複数の要素を含み、
前記インスタンスは前記エンコードされた画像データのツリー状表現を構成し、リンクを前記ビットストリームの部分間において前記要素とともに含み、
前記装置は、
前記スキーマは前記ビットストリームにおけるパケット位置に関係する特別な要素を含むこと；および
前記インスタンスはビットストリーム内における前記パケット位置を示す前記パケットに対する属性を含み、前記属性は前記特別な要素とリンクされることにおいて特徴付けられる、画像符号化装置。
【請求項１８】
適合されたビットストリームを元のビットストリームから発生させる方法であって、前記元のビットストリームは符号化方法を画像のうちの少なくともある部分に適用した結果であり、前記元のビットストリームにおいては複数のパケットが与えられ
前記方法は：
前記元のビットストリームを受取るステップ；
あるフォーマットに従ってある構造を有するデータを含む前記元のビットストリームを構文解析するステップを含み、前記解析ステップは前記元のビットストリームのツリー状表現を発生させ、および：
前記フォーマットを総称的に記述するためスキーマを読出すステップを含み、スキーマそれによってデータの名称およびタイプが記載される複数の要素、ならびに符号化方法に関係する、情報に関係する特別な要素を含み；
前記元のビットストリームにおいて、前記スキーマに含まれる前記特別な要素を含む要素に対応するデータを検索するステップ；
前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンスを発生させるステップを含み、前記インスタンスは、さらに、前記パケットに対するさらなる属性を含み、前記さらなる属性は前記元のビットストリームにおける前記パケットの位置を示し；さらに、
前記スキーマの、適合されたインスタンスを発生させるステップを含み、前記適合プロセスは前記さらなる属性を利用し；および
最後に、前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含む、方法。
【請求項１９】
前記データのツリー状表現を構成するスキーマのインスタンスから発生されるビットストリームから画像の或る部分を表示する方法であって、前記インスタンスはビットストリームにおいて見出されるデータを含み、前記ビットストリームは符号化方法を画像の少なくともある部分に適用し、変換を前記結果に適用した結果であり、前記ビットストリームはさらに複数のパケットを含み、前記方法は：
前記スキーマの前記インスタンスは前記パケットに対しさらなる属性を含み、前記さらなる属性は前記符号化方法に関係する予め規定された走査手順に従って前記パケットの位置を示すこと；および
前記表示は前記属性に基づく少なくとも１つのパケットを選択することを含むことにおいて特徴付けられる、方法。
【請求項２０】
画像表示端子であって：
画像ディスプレイ；
画像のどの部分が前記画像ディスプレイに表示されるかを示すための指示手段；
ビットストリームおよび前記ビットストリームのツリー状表現を構成するスキーマのインスタンスにアクセスするための手段を含み、前記インスタンスはビットストリームに見出されるデータを含み、前記ビットストリームは符号化方法を画像の少なくともある部分に適用した結果であり、前記ビットストリームはさらに複数のパケットを含み；
前記指示手段からの入力を受取るよう構成されるハードウェア部を含み、前記ハードウェア部は、前記インスタンスによって与えられるさらなる属性を用いることにより前記ビットストリームから入力される前記指示手段に基づくパケットを選択し、前記さらなる属性は前記符号化方法に関係する予め規定された走査手順に従って前記ビットストリームにおける前記パケットの位置を示すことにおいて特徴付けられる、画像表示端子。
【発明の詳細な説明】
【技術分野】
【０００１】
発明の分野
この発明は、マルチメディア方法、装置およびビットストリームに関するものであり、特に、ハイレベルのコンテンツの記述の適用を、たとえばいわゆるビットストリーム構文記述言語、たとえばＢＳＤＬまたはその変形物もしくは派生物におけるような、ＸＭＬのような文書を用いることにより行なうものに関する。この発明は、特に、画像符号化技術に関し、そこにおいては、画像の、ブロックに基づく構成が考慮される。この画像符号化技術はパケット化されたビットストリームを発生する。この発明は、さらに、エンコードされたビットストリームの記述、そのような記述を変換して適合された記述を発生させるための方法、および適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させる方法に関する。この発明は、さらに、記述を変換するそのような方法を実現するために設計される電子装置に関する。この発明は、さらに、送信機および受信機を含む伝送システムに関し、その送信機は、適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させるそのような方法を実現するための手段、および前記適合されたエンコードされたビットストリームを前記受信機に送信するための手段を有する送信システムに関する。
【０００２】
この発明は興味ある適用を特に画像／映像伝送の分野において有する。
【背景技術】
【０００３】
発明の背景
ビットストリーム構文記述言語（ＢＳＤＬまたは同様のもの）は、［「ビットストリーム構文記述言語：ＭＰＥＧ−２１コンテンツ表現への入力」、ISO/IEC JTC1/SC29/WG11 MPEG01/M7053、シンガポール、２００１年３月］および［Sylvain Devillers、Myriam Caprioglio、「ビットストリーム構文記述言語（ＢＳＤＬ）」、ISO/IEC JTC1/SC29/WG11 MPEG01/M7433、シドニー、２００１年７月］において、マルチメディアコンテンツを記述し適合させる効率的かつプラットフォームに依存しない方法として導入された。このＸＭＬスキーマに基づく言語は、マルチメディアファイルのコンテンツの記述を、ＸＳＬＴを用いて修正され２進形式に戻され得る包括的で構造化された態様において可能にする。マルチメディアファイルを変換する可能性はコンテンツのスケーラビリティの観点から非常に魅力的である。
【０００４】
今日、ビデオをストリーム化することは一般的な慣習であるのに、３Ｄコンテンツのストリーム化は依然として稀であるかまたは存在すらしないままである。３Ｄコンテンツをデコードしレンダリングする際、顧客のプラットフォーム上のワークロードは、数オーダの大きさにわたって、その視聴条件とともに激しく変動する。大抵は、テクスチャ化された３Ｄオブジェクトのうちほんの一部のみが任意の所与の時間において可視であるので、そのテクスチャの可視領域のみをストリーム化および／またはデコードすることは、瞬間の帯域幅および／またはプラットフォームワークロードを低減することになる。視聴条件が変化すると、新たに可視となる部分は、それらが徐々に可視になるにつれ、ストリーム化および／またはデコードされ得る。その結果、テクスチャ化された３Ｄコンテンツをデコードおよびレンダリングするための必要とされたネットワーク帯域幅および必要とされたワークロードは時間にわたって広がり、その一方、知覚された品質の損失を最小限にする。このプロセスはビュー依存型テクスチャデコードとして公知である［D. Cohen-Or, Y. Mann, S. Fleishman,“Deep Compression for Streaming Texture Intensive Animations,” （テクスチャ集中型アニメーションをストリーム化するためのディープ圧縮）Proc
eedings of the SIGGRAPH 1999 annual conference on Computer graphics（コンピュータグラフィックスに関するＳＩＧＧＲＡＰＨ１９９０年度会議会報）,pp. 261-267. 1999］。
【０００５】
ＭＰＥＧ−４マルチメディア圧縮規格［“The MPEG-4 Audio-Visual Compression Standard（ＭＰＥＧ−４  音声−映像圧縮規格）, Text of ISO/IEC 14496-5/FPDAM1,”ISO/IEC JTC1/SC29/ WG11/MPEG99/N3309, Noordwijkerhout, 2000年3月］内では、３Ｄコンテンツを符号化するためのツールが利用可能である。特に、ＭＰＥＧ−４は、ビジュアルテクスチャ符号化（ＶＴＣ）と称される、スケーラブルな、ウェーブレットに基づく、テクスチャ用圧縮ツールを提供する［I. Sodagar, H.J. Lee, P. Hatrack, Y.Q. Zhang,“Scalable Wavelet Coding for Synthetic/Natural Hybrid Images（合成／自然ハイブリッド画像のためのスケーラブルなウェーブレット符号化）,”IEEE Transactions on Circuits
and Systems for Video Technology（映像技術のための回路およびシステムにおけるＩＥＥＥ会報）, Vol.9, No.2, pp.244-254, 1999年3月］。
【０００６】
ＶＴＣはパケット境界を定義するための高い柔軟性でのパケット化されたビットストリームの発生を可能にする。各パケットはテクスチャユニット（ＴＵ）と称されるいくつかの基本単位からなる。ＶＴＣにおけるある特定のケースはマルチプル量子化、ツリー−深さモード（ＭＱ−ＴＤ）である。
【０００７】
ＭＱ−ＴＤモードにおいて与えられる最大粒度はウェーブレット変換レベルの数によって与えられる。変換に必要とされるピクセルの数はブロックのサイズが２n_levelsｘｎn_levelsである中、増大する。エラー障害許容力が何らかのオーバヘッドを招くなか、粒度を制限することは圧縮された画像のサイズを低減し得る。いくつかの、変換の、空間的ブロックは、各ブロックの後エラー障害許容力マーカーを導入する代わりに、単一のパケットにグループ化され得る。これは粗い粒度のみが必要とされるときに役立ち得る。
【０００８】
公知のマルチメディアフォーマットは情報を隠す傾向があり、その情報は、マルチメディアコンテンツ適合プロセスに対しては極めて重要であり得るが、ビットストリームに埋込まれる。
【０００９】
ビットストリームの記述を変換するためのある方法がKoninklijke Philips Electronics N.V.により提出された国際特許出願ＷＯ  ０２／０６３４９４に記載されている。この文献に記載される方法は以下を含む：
−マークアップ言語で書かれたビットストリームの元の記述、および予め規定された変換の組を用いること、
−前記予め規定された変換のうちの１つを前記元の記述に適用して、適合された記述を発生させること、
−適合されたビットストリームを前記適合された記述から発生させること。
【００１０】
この文献に記載される方法では、元の記述は変換を実行するために必要とされる符号化情報を回復することを可能にするのに十分なほど詳細でなければならない。そのような詳細な記述はかなり長いものであり得、したがって、適合するのに容易な記述が求められている。より単純およびより短い記述を有することも役立つであろう。
【発明の開示】
【発明が解決しようとする課題】
【００１１】
発明の概要
この発明の目的の１つは容易な適合を可能にする記述を変換する方法を提供することである。これはこの特許出願の請求項１〜３に記載される方法で達成される。この発明に従
うと、その記載においてデータパケットの群を記述する要素は変換タグを含む属性を有する。元の記述を変換するとき、変換タグは予め定められた条件に対してチェックされる。適合された記述の発生は、変換タグがその予め定められた条件を満たさない要素を取除くことにより行なわれる。この発明は、たとえば、通信チャネルを介して送信されるべきビットストリームに埋込まれる記述であって、マークアップ言語で書かれ、タグを含む少なくとも１つの属性を有する要素を含む記述を含む。この記述は、記憶装置、たとえばＣＤ−ＲＯＭ、ＤＶＤ光ディスク、ディスケット、磁気テープ、計算用のメモリ、またはテレコミュニケーションシステムのネットワーク要素のメモリにおいて記憶されるデータ構造であってもよい。このタグは、チャネルを介して送信されるべきビットストリームの階層的構造の少なくとも一部またはこのビットストリームにおけるデータパケットの識別情報を記述する情報を表現してもよい。変換のために必要とされる情報は変換タグを介して利用可能とされる。そのような変換タグを用いることの、上記の先行技術に比しての別の有利な点は、変換処理速度を増大させることを可能にするということである。
【課題を解決するための手段】
【００１２】
この発明の第１の実施例では、エンコードされたビットストリームは、いくつかのデータ層がそれに従って定義されるスケーラブルなフォーマットを有し、前記変換タグは、データパケットの群が属するデータ層の表示である。このデータ層は階層的構造に属し得、たとえば、異なるデータ層は、画像の、異なる解像度または品質に関係するデータを含む。この第１の実施例は、コンテンツの、異なる品質を得て、たとえば、異なる端子、たとえば異なる解像度または帯域幅に対して適応することを可能にする。より高いデータ層に属する要素は、取除いて、より低い能力を有する端子（たとえば携帯電話の低解像度ディスプレイなど）に向けて意図されるより低い品質のビットストリームの記述を発生させ得る。
【００１３】
この発明の第２の実施例では、変換タグはパケット識別子であり、前記予め定められた条件は、達成されるべきある特定の変換に関連付けられるパケット識別子の組のメンバーシップの条件である。この第２の実施例が有利に用いられるのはいくつかの異なる変換が規定されるときである。各変換はデータパケット識別子の組をパラメータとして含み、それらパケット識別子は変換の後ビットストリームから保持されるべき（または除去されるべき）パケットに関係する。
【００１４】
有利なことに、変換はたとえばＢＳＤＬから公知のごとくのスタイルシートを用いることにより実行される。
【００１５】
この発明のさらなる利点は、マルチメディアコンテンツを適合させるのにより適したスキーマ、より特にはビットストリームまたはその関係しているスキーマインスタンスの連続的適合のそれを提供することである。スキーマインスタンスは、そのスキーマから発生された、エンコードされたビットストリームの記述である。そのビットストリームの適合／変換を得るため、適合された記述を発生させる。適合されたビットストリームの、適合された記述からの発生は、Koninklijke Philips Electronics N.V.により提出された国際特許出願ＷＯ  ０２／０６９１８７に記載されるスキーマが有するいくつかの局面を用いることにより有利になされる。この発明は、したがって、スキーマ、そのスキーマを用いてビットストリームの構文解析のための方法、および前記スキーマに基づくビットストリームを発生させる方法に関するものであり、前記スキーマは、この発明の新規および進歩性を有する特徴を除けば、ＷＯ  ０２／０６９１８７  Ａ１に与えられる特徴を有するものである。このスキーマはビットストリーム表現においてデータの構造に対しあるフォーマットを記述する。このスキーマ方策は、マルチメディアコンテンツを適合させる効率的かつプラットフォームに依存しない態様に対して用いられる。
【００１６】
上記のスキーマ方策はビットストリームの構造をマークアップ言語、たとえばＸＭＬのような（たとえばＸＭＬに基づくまたはＸＭＬに準拠する）言語で記述することに対してある枠組みを定義し、リソース適合に対する包括的な方策を与える。ユーザの嗜好が、その適合を実行する際に考慮され得る。マルチメディアビットストリームは、２進の記号の、構造化されたシーケンスを含むので、ある構造が符号化フォーマットに対して特化している状態では、このスキーマ方策はビットストリームのハイレベル構造を記述することを可能にする。
【００１７】
マルチメディア適合プロセスに対して非常に重要であり得る情報を隠すことを回避するため、記述は、この発明の別の局面に従うと、有用な情報を含む特定の要素を含む。これらの要素はコンテンツエンコードプロセス中において、または後で、エンコードされたビットストリームから発生される。
【００１８】
有利なことに、そのような記述が導き出され得るスキーマが与えられる。そのようなスキーマは要素を有し、それらに対して、スキーマは、名称、情報のタイプを記述し、前記情報はビットストリームに埋込まれる。したがって、それらをビットストリームから導き出すことに対し複雑な計算を必要とする情報が明示され、より特には、この情報は前記ビットストリームの一部をデコードする際に取得可能であるにすぎない。
【００１９】
これは画像符号化技術に対して説明され、まず、画像をブロックに分割する。この画像符号化技術はパケット化されたビットストリームを発生させ、したがって、そのビットストリーム内においては複数のパケットが区別され得る。画像のうちいくつのブロック（１つまたはそれより多い）をともに１つのパケットにおいてエンコードすべきかを選択し得る。これは、パケットがスタンドアロンであることを暗示し、どのようなデータ依存性もパケット間には存在しないことを意味する。変換が画像に適用される場合、オーバーラップが、たとえばウェーブレット変換のようなサブバンド符号化技術の場合には必要であり得、その結果いくつかのデータ依存性がもたらされる。
【００２０】
画像の構造を記述するためのスキーマは、上記の画像符号化技術に従うと、要素として、各画像に対し、メインヘッダおよび部分を有し、各部分はパケットに関係する。これらの部分は、ビットストリームの、関係する部分への参照を含み、この参照もペイロード示され、たとえば、ＵＲＬの形式で特定化され得る。
【００２１】
この発明は、ある要素を、ＷＯ  ０２／０６９１８７から公知のものに加えて与え、前記要素はいわゆる拡張された情報を記述するために用いられる。
【００２２】
さらなる説明として、画像符号化技術に対するこの拡張された情報概念の使用が与えられ、そこにおいては、画像は差品質層においてエンコードされる。そのような画像符号化技術においては、層の品質は画像の画素において用いられる量子化および変換レベルに依存する。この画像符号化技術を用いるときの使用される量子化および変換レベルについての情報もビットストリームに、たとえばその品質層に関係する第１の層においてエンコードされる。そのような情報は、層の数、１つの層に対するパケットの数、および変換レベルであり得る。したがって、それはパケットの中に隠される。情報は利用可能ではあるが、それはビットストリームに埋込まれる。この品質層方策はその特定の層に関係するビットストリームの部分に含まれるべき情報をグループ化することに基づく。
【００２３】
メインヘッダを補完し得るさらなる要素を、量子化についての、たとえば層の数、１つの層に対するパケットの数、および変換レベルなどのいわゆる拡張された情報を記述するために用い得る。他の可能性としては、ビットストリームの部分の、品質の或るレベル、解像度のレベルおよびそれぞれの色成分などに対する寄与のマーキングがある。
【００２４】
上記のスキーマを、マルチメディアコンテンツを適合させることに対し用い得る。マルチメディアファイルを変換する可能性が必要とされるのは、コンテンツスケーラビリティを可能にすることが望まれる場合である。このスキーマ適合方策は以下のように機能する：ビットストリームを直接適合させる代わりに、ビットストリームの、スキーマのような記述の変更を、いわゆるスタイルシートを用いることにより行なう。したがって、変更された、スキーマのような記述からは、２進形式（適合された２進テクスチャ）ファイルが発生される。
【００２５】
ブロックに基づく画像符号化技術を考えるとき、パケット化されたビットストリームを発生させ、したがってそのビットストリーム内では複数のパケットが区別され得、連続する変換の後パケットのビットストリームにおける位置はもはや画像内および品質層空間におけるその関係する位置には対応しないという問題に直面する。やはり、これも、ビットストリームの部分をデコードすることにより解決され、この位置を見出し得るが、これには複雑な計算が必要である。
【００２６】
別の局面に従うと、画像の構造を記述するためのスキーマは、上記の画像符号化技術に従うと、要素として、各画像に対し、メインヘッダおよび部分を有し、各部分はパケットに関係し、そのスキーマにおいてはさらなる属性またはタグがパケットのために加えられる。さらなる属性は、画像におけるパケットの位置を容易に導き出し得るようなものである。これは、そのさらなる属性に前記位置を記憶するかまたはある識別番号をそのパケットに対し用いることにより実現される。そのさらなる属性の結果、一種の、パケットのタグ付けがもたらされる。
【００２７】
たとえば、この発明はマルチメディア方法および装置を提供し、ビットストリームのハイレベルコンテンツ記述の利用を、ＢＳＤＬまたはその変形物もしくは派生物のようないわゆるビットストリーム構文記述言語におけるＸＭＬのような文書を用いることにより行ない、その発明された方法および装置は、用いられた記述に対し、たとえば視覚的テクスチャ符号化の場合、より特には３Ｄオブジェクトおよびビュー依存符号化を考える際に必要とされ得る効率的なビットストリーム適合を可能にする追加の特別な要素および属性が与えられることにおいて特徴付けられる。
【発明を実施するための最良の形態】
【００２８】
この発明の詳細な説明
この発明をある実施例および図面を参照して説明するが、この発明はそれに限定されるものではない。当業者であれば、この発明は特許請求の範囲に記載される広範囲な適用を有することを理解する。
【００２９】
この発明は、さらに、ビットストリームを構文解析するための方法およびビットストリームを発生させる方法に関し、前記方法は前記ビットストリームを表現する文書に対しあるフォーマットを用い、前記文書は前記ビットストリームのツリー状表現である。
【００３０】
このフォーマット（いわゆるスキーマにおいて記述される）は１つ以上のデータのタイプ、特に、無限な長さの２進セグメントに対応するデータのタイプを規定する。さらに、前記スキーマは、それが少なくともデータの名称およびタイプを記述する複数の要素を含む。
【００３１】
ビットストリームのマルチメディアフォーマットはどの情報がビットストリームのどこにあるかを規定する。スキーマまたはそれにより規定されるフォーマットを用いることにより、文書を構築し、ビットストリームの構造を記述し得る。データの他に、ビットスト
リームは、さらに、用いられる符号化プロセスに関する情報も含む。前記情報はしたがってビットストリーム内においてエンコードされる。
【００３２】
スキーマに基づいて形成される文書のように、より高いレベルの表現に基づくビットストリームの適合を実行するとき、前記埋込まれた情報は適合プロセスに対して隠されたままであり、ビットストリームのその部分のデコードが必要であるのは前記情報を利用することが望まれるまたは必要とされる場合であることを意味する。
【００３３】
この発明の利点は、マルチメディアコンテンツを適合するのにより適したスキーマを提供することである。これはあるスキーマによって実現され、データの構造を記述するためのフォーマットを可能にし、この埋込まれた情報の少なくとも一部は明示され得る。したがって、スキーマは特別な要素を有し、それらに対してそれは情報の名称、タイプを記述し、前記情報はビットストリーム内に埋込まれる。
【００３４】
特に、この発明は以下に関するものである：
適合されたビットストリームを元のビットストリームから発生させる方法であって、
前記方法は：
前記元のビットストリームを受取るステップ；
あるフォーマットに従ってある構文を有するデータを含む前記元のビットストリームを構文解析するステップを含み、前記解析ステップは前記元のビットストリームのツリー状表現を発生させ、前記方法はさらに、
前記フォーマットを総称的に記述するためのスキーマを読出すステップを含み、前記スキーマは、データの名称およびタイプをそれが記述する複数の要素、ならびに符号化方法に関係する、情報に関係する特別な要素を含み；さらに
前記元のビットストリームにおいて、前記スキーマに含まれる（前記特別な要素を含む）要素に対応するデータを検索するステップ；
前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンスを発生させるステップを含み、前記インスタンスはさらに明示的な情報を含み、それは前記元のビットストリームに埋込まれ；さらに
前記スキーマの、適合されたインスタンスを発生させるステップを含み、前記適合プロセスは前記明示的な情報を利用し；さらに
最後に前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含む方法。
【００３５】
これをこれから画像符号化技術（１００）に対して説明する。まず画像（１０）をブロック（１５）に分割する。この画像符号化技術はパケット化されたビットストリーム（７０）を発生させ、したがってそのビットストリーム内には複数のパケット（７５）が区別され得る。画像のうちいくつのブロック（１つ以上）（たとえば選択（２０））をともに１つのパケットにおいてエンコードするかを選択し得る。
【００３６】
さらに、この画像符号化またはエンコードは、元の画像においてではなく、その画像の、変換されたバージョンにおいて用いられる。用いられる変換の考えられ得るタイプはウェーブレット変換のようなサブバンド変換である。画像符号化技術内においては、したがって、変換ステップ（１１０）および変換された画像（８０）の符号化ステップが見出され得る。この変換ステップを適用すると、サブバンド（４０）において分解された画像（３０）が結果としてもたらされる。
【００３７】
画像エンコード技術は典型的には画像の（変換された）部分（たとえばブロック）に対して働く。図４において、画像のブロック分割を示す。ブロックサイズは変換レベルの数から導き出される。この例の場合、パケットは２つのブロックからなる。パケットはスタ
ンドアロンであり、他のパケットとデータ依存性を伴わない。パケットのサイズは粒度を決定する。これが当てはまるのは水平方向に対してでのみであることに注目されたく、なぜならば、ブロックはコラム方向態様においてはパッキングされ得ないからである。さらに、画像（またはその変換された部分）は差品質層においてエンコードされ、変換された部分のうちどのサブバンドを用いるかを暗黙的に選択し、その選択されたサブバンド部の画素において用いられる量子化の度合（異なるビット面（６０）を参照のこと）を暗黙的に選択することを意味する。これらの選択およびグループ化（たとえば選択（５０）を参照されたい）はある品質を定義する。元の画像の表示が、その品質層に関係するビット層の部分のデコード後になされるであろう場合には、ある予め規定された品質が期待され得る。
【００３８】
層の品質は画像の画素において用いられる量子化および変換レベルに依存し、より特には、どのサブバンドが含まれるかに依存する。この画像符号化技術を用いるとき用いられる量子化およびサブバンドに関する情報もビットストリームに埋込まれ、たとえば、その品質層に関係する第１のパケットに埋込まれる。もちろん、本質的に同じ情報の、他のパラメータ表示も用いられ得る。
【００３９】
画像の構造を記述するためのスキーマは、上記の画像符号化技術に従うと、要素として、各画像に対し、メインヘッダおよび部分を有し、各部分はパケットに関係する。これらの部分はビットストリームの、関係する部分への参照を含み、この参照もペイロード示され、たとえば、ＵＲＬの形式で特定化され得る。
【００４０】
この発明は、特別な要素を、上で論じたものに加えて可能にし、前記要素はいわゆる拡張された情報を記述するために用いられる。そのような情報は、層の数、１つの層に対するパケットの数、および用いられるサブバンドであり得る。したがって、それはパケット内に隠される。その情報は利用可能であるけれども、それはビットストリームに埋込まれる。
【００４１】
図２を参照して、ビットストリームにおいて直接動作させるのではなく、この発明は、前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンス（５００）を発生させ、前記インスタンスは、さらに、明示的な情報（７００）を含み、それは前記元のビットストリームに埋込まれる。
【００４２】
この発明は上で論じた要素に加えてある要素を可能にし、それはメインヘッダを補完すべきものであり、前記要素は、層の数、１つの層に対するパケットの数および変換レベルのような量子化に関する、画像符号化により発生したいわゆる拡張された情報を記述するために用いられる。
【００４３】
拡張された情報が直接利用できることは、前記拡張された情報を利用することに対応し、適合されたインスタンスを構築するプロセス（４００）である。この適合されたインスタンスから、画像符号化の逆プロセス（２００）が、画像デコード（２２０）サブステップおよび逆変換（２１０）サブステップを伴って実行される。
【００４４】
この発明は適合されたビットストリームを元のビットストリームから発生させる方法を提供し、
前記元のビットストリームは符号化方法を画像の少なくともある部分に適用した結果のものであり
前記方法は：
前記元のビットストリームを受取るステップ；
あるフォーマットに従ってある構文を有するデータを含む前記元のビットストリームを
構文解析するステップを含み、前記解析ステップは前記元のビットストリームのツリー状表現を発生させ、前記方法はさらに、
前記フォーマットを総称的に記述するためのスキーマを読出すステップを含み、前記スキーマは、データの名称およびタイプをそれが記述する複数の要素、ならびに符号化方法に関係する、情報に関係する特別な要素を含み；さらに
前記元のビットストリームにおいて、前記スキーマに含まれる（前記特別な要素を含む）要素に対応するデータを検索するステップ；
前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンスを発生させるステップを含み、前記インスタンスはさらに明示的な情報を含み、それは前記元のビットストリームに埋込まれ；さらに
前記スキーマの、適合されたインスタンスを発生させるステップを含み、前記適合プロセスは前記明示的な情報を利用し；さらに
最後に前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含む方法。
【００４５】
そのある実施例においては、前記符号化方法は画像のある部分をサブバンド変換するステップを含む。
【００４６】
そのある実施例では、前記符号化方法は品質層を規定し、品質層ごとに、前記画像の前記部分のうちどのサブバンドが符号化に対して含まれるかを選択するステップを含み；前記明示的な情報は前記サブバンドおよびビット面のグループ化を示す。
【００４７】
そのある実施例では、前記符号化方法は、品質層を規定し、各品質層ごとに、どのような量子化の割合を、前記品質層に対し選択される画像の部分において用いるかを選択するステップを含み；前記明示的な情報は前記量子化の割合を示す。
【００４８】
スキーマはマルチメディアコンテンツを適合させるのに用いられ得る。マルチメディアファイルを変換する可能性が必要とされるのは、コンテンツスケーラビリティを可能にすることが望まれる場合である。このスキーマ適合方策は以下のように機能する：ビットストリームを直接適合させる代わりに、ビットストリームの、スキーマのような記述の変更を、いわゆるスタイルシートを用いることにより行なう。したがって、変更された、スキーマのような記述からは、２進形式（適合された２進テクスチャ）ファイルが発生される。
【００４９】
ブロックに基づく画像符号化技術を考えるとき、パケット化されたビットストリームを発生させ、したがってそのビットストリーム内では複数のパケットが区別され得、連続する変換の後パケットのビットストリームにおける位置はもはや画像内におけるその関係する位置には対応しないという問題に直面する。
【００５０】
元の画像の当該特定の領域を表示したい場合には、元のビットストリーム容易に関連するパケットを選択することができるかも知れないことに注目されたく、なぜならば、画像符号化技術は、予め規定された走査を、その画像を通して、前記元のビットストリームを発生させるために用いるからである。代替的に、ビットストリームにおいて利用可能な情報に基づく関連のパケットを判断することができるかもしれないが、これにはデコードおよび従って複雑な計算が必要である。
【００５１】
この発明のある利点は、特に、たとえばネットワークにおいてなど、ビットストリームの連続的適合の場合において、マルチメディアコンテンツを適合させるのにより適したスキーマを提供することである。
【００５２】
画像の構造を記述するためのスキーマは、上記の画像符号化技術に従うと、要素として、各画像に対し、メインヘッダおよび部分を有し、各部分はパケットに関係し、そのスキーマにおいてはさらなる属性（６００）がパケットのために加えられる。このさらなる属性は、画像におけるその位置を容易に導き出し得るようなものである。これは、そのさらなる属性に前記位置を記憶するかまたはある識別番号をそのパケットに対し用いることにより実現される。そのさらなる属性の結果、一種の、パケットのタグ付けがもたらされる。
【００５３】
したがって、適合された画像の当該の特定の領域を（したがって適合（４００）後ビットストリームから）表示したい場合、必要とされるパケット選択ステップ（３００）において前記さらなる属性を利用し、なぜならば、画像に対する予め規定された走査はビットストリームにおける変更のゆえ再使用し得ないからである。そのさらなる属性を用いて、適合されたビットストリームにおけるパケットをトレースして、前記パケットを割当てその品質レベルを判断し得る。当該領域表示プロセス再びスキーマに基づく方策が用いられることに注目されたい。
【００５４】
前記データの、ツリー状表現を構築する、スキーマのインスタンスから発生されるビットから画像の一部を表示する方法であって、前記インスタンスはビットストリームに見出されるデータを含み、前記ビットストリームは、符号化方法を画像の少なくとも一部に適用し、変換を前記結果に適用した結果であり、前記ビットストリームはさらに複数のパケットを含み、前記方法は以下のように特徴付けられる：
前記スキーマの前記インスタンスはさらなる属性を前記パケットに対して含み、前記さらなる属性は前記パケットの位置を前記符号化方法に関係する予め規定された走査手順に従って示し；
前記表示は前記属性に基づく少なくとも１つのパケットを選択することを含む。
【００５５】
この発明の特定の実現をここでさらに記載する。
【００５６】
国際特許出願ＷＯ  ０２／０６９１８７に記載されるビットストリーム構文記述言語（ＢＳＤＬ）はマルチメディアコンテンツを記述し適合させる効率的でプラットフォームに依存しない態様である。このＸＭＬスキーマに基づく言語により、マルチメディアファイルのコンテンツの記述が、ＸＳＬＴを用いて変更され２進形式に戻され得る包括的で構造化された態様において可能となる。マルチメディアファイルを変換する可能性はコンテンツのスケーラビリティという観点から非常に魅力的である。ＭＰＥＧ−４  ＡＦＸの場合においては、エラー障害許容力マーカーの使用が、ＶＴＣにおけるスケーラビリティを可能にすべく検討されている［Eric Delfosse, Gauthier Lafruit,“the use of VTC error
resilience for view-dependent texture decoding（ビュー依存型テクスチャデコードに対するＶＴＣエラー障害許容力の使用）”, ISO/IECJTC1/SC29/WG11/MPEG2001/m7580, Pattaya, 2001年12月参照］。
【００５７】
以下に記載されるこの発明の例示的実施例は異なる品質レベルをＶＴＣファイル内における任意の数の領域に対して選択することを可能にするＢＳＤＬ実現例に関する。このプロセスの目的は、ネットワークＱｏＳを、３Ｄ適用例において、ある瞬間においてデコードに対し必要とされる情報のみを送信することにより可能にすることである。しかしながら、この発明はこの特定の実施例に限定されるものではない。
【００５８】
今日、ビデオをストリーム化することは一般的な慣習であるのに、３Ｄコンテンツのストリーム化は依然として稀であるかまたは存在すらしないままである。３Ｄコンテンツをデコードしレンダリングする際、顧客のプラットフォーム上のワークロードは、数オーダの大きさにわたって、その視聴条件とともに激しく変動する。［G. Lafruit, L. Nachter
gaele, K. Denolf, J. Bormans,“3D Computational Graceful Degradation（３Ｄ計算グレースフル劣化）,”Proceedings of ISCAS-Workshop and Exhibition on MPEG-4（ＭＰＥＧ−４におけるＩＳＣＡＳ−ワークショップおよびエキシビジョン集録）, pp. III-547-III-550, 2000年5月28-31日］。
【００５９】
大抵は、テクスチャ化された３Ｄオブジェクトのうちほんの一部のみが任意の所与の時間において可視であるので、そのテクスチャの可視領域のみをストリーム化および／またはデコードすることは、瞬間の帯域幅および／またはプラットフォームワークロードを低減することになる。視聴条件が変化すると、新たに可視となる部分は、それらが徐々に可視になるにつれ、ストリーム化および／またはデコードされ得る。その結果、テクスチャ化された３Ｄコンテンツをデコードおよびレンダリングするための必要とされたネットワーク帯域幅および必要とされたワークロードは時間にわたって広がり、その一方、知覚された品質の損失を最小限にする。このプロセスはビュー依存型テクスチャデコードとして公知である［D. Cohen-Or, Y. Mann, S. Fleishman,“Deep Compression for Streaming Texture Intensive Animations,” （テクスチャ集中型アニメーションをストリーム化するためのディープ圧縮）Proceedings of the SIGGRAPH 1999 annual conference on Computer graphics（コンピュータグラフィックスに関するＳＩＧＧＲＡＰＨ１９９０年度会議会報）,pp. 261-267. 1999］。
【００６０】
ＭＰＥＧ−４マルチメディア圧縮規格［“The MPEG-4 Audio-Visual Compression Standard（ＭＰＥＧ−４  音声−映像圧縮規格）, Text of ISO/IEC 14496-5/FPDAM1,”ISO/IEC JTC1/SC29/ WG11/MPEG99/N3309, Noordwijkerhout, 2000年3月.］内では、３Ｄコンテンツを符号化するためのツールが利用可能である。特に、ＭＰＥＧ−４は、ビジュアルテクスチャ符号化（ＶＴＣ）と称される、スケーラブルな、ウェーブレットに基づく、テクスチャ用圧縮ツールを提供する［I. Sodagar, H.J. Lee, P. Hatrack, Y.Q. Zhang,“Scalable Wavelet Coding for Synthetic/Natural Hybrid Images（合成／自然ハイブリッド画像のためのスケーラブルなウェーブレット符号化）,”IEEE Transactions on Circuits
and Systems for Video Technology（映像技術のための回路およびシステムにおけるＩＥＥＥ会報）, Vol.9, No.2, pp.244-254, 1999年3月］。
【００６１】
この発明において、エラー障害許容力マーカーを用いてスケーラビリティをＶＴＣにおいてＭＰＥＧ−４  ＡＦＸの場合において可能にすることが開示される［Eric Delfosse,
Gauthier Lafruit,“the use of VTC error resilience for view-dependent texture decoding”, ISO/IECJTC1/SC29/WG11/MPEG2001/m7580, Pattaya, 2001年12月、これをここに引用により援用する］。
【００６２】
ＶＴＣのエラー障害許容力特徴はビュー依存型テクスチャデコードに対して利用され得る。このエラー障害許容力マーカーを用いることで、パケット化されたビットストリームを、高い柔軟性でもって、パケット境界を規定することに対し発生させることが可能となる。各パケットは、ある数の、テクスチャユニット（ＴＵ）と称される基本的単位からなる。各パケットは、ある数の、テクスチャユニット（ＴＵ）と称される基本的単位からなる。以下、ＶＴＣにおける最も興味深い例、マルチプル量子化ツリー深さモード（ＭＱ−ＴＤ）に焦点を当てる。
【００６３】
この発明は、さらに、マルチプル量子化ツリー深さモード（ＭＱ−ＴＤ）に対し説明される。このＭＱ−ＴＤにおいて与えられる最大粒度はウェーブレット変換レベルの数によって与えられる。変換に必要とされるピクセルの数はブロックのサイズが２n_levelsｘｎn_levelsである中、増大する。エラー障害許容力が何らかのオーバヘッドを招くなか、粒度を制限することは圧縮された画像のサイズを低減し得る。いくつかの、変換の、空間的ブロックは、各ブロックの後エラー障害許容力マーカーを導入する代わりに、単一のパケ
ットにグループ化され得る。これは粗い粒度のみが必要とされるときに役立ち得る。
【００６４】
ＭＰＥＧ−４  ＶＴＣにおいては、画像はブロックに分割される。ブロックサイズは変換レベルの数から導き出される。この例の場合、パケットは２つのブロックからなる。パケットはスタンドアロンであり、他のパケットとデータ依存性を伴わない。パケットのサイズは粒度を決定する。これが当てはまるのは水平方向に対してでのみであることに注目されたく、なぜならば、ブロックはコラム方向態様においてはパッキングされ得ないからである。
【００６５】
さらに、この発明は、異なる品質レベルをＶＴＣファイル内における任意の数の領域に対して選択することを可能にするそのＢＳＤＬ実現例を開示する。このプロセスの目的は、ネットワークＱｏＳを、３Ｄ適用例において、ある瞬間においてデコードに対し必要とされる情報のみを送信することにより可能にすることである。
【００６６】
ビットストリーム構文記述言語はＶＴＣ画像の構造を記述するよう適用され得る。図５は典型的な記述のフラグメントを示す。各画像はメインヘッダおよびパケットの集まりからなる。各パケットはどのＴＵがパケットに含まれるかに関するかの情報、およびあるペイロードをＵＲＬとして含む。この記述から元の２進ファイルを発生することが可能である。記述要素は、スキーマにおいて、それらのタイプ定義とともに宣言される。Schema（スキーマ）の或るフラグメントを図６に示す。記述はＶＴＣ２進ファイルから発生され得るか、またはその２進ファイルが作成される中ＶＴＣエンコーダにより発生され得る。第１の選択肢はBintoＸＭＬパーサおよびSchemaを用いて異なる要素を識別することである。
【００６７】
ＶＴＣの、ＢＳＤＬタイプの実現例は、画像の構造を記述するためのスキーマを用いる方法として正式に記述され得、前記スキーマは要素として各画像に対しメインヘッダおよび部分を有し、各部分はパケットに関係する。これらの部分はビットストリームの、関係する部分に対する参照を含み、この参照もペイロード示され、たとえば、ＵＲＬの形式で特定され得る。
【００６８】
低いレベルの詳細が必要な場合完全なＢＳＤＬ記述はかなり冗長であり得ることがわかっているので、その記述は目標の適用例に対しては詳細すぎ得る。したがって、この発明は記述を最も関係のある要素に低減し、それによって、より簡潔で、より短く、より変換が容易な記述を得ることを可能にする。
【００６９】
より短い記述は２つの態様で得られ得る。
【００７０】
１．パケット構造を詳細化しない。ヘッダはペイロードとマージされる。
【００７１】
２．テクスチャをエンコードして必要とされるよりも高い粒度を与えた場合には、パケットがグループ化され得る。
【００７２】
双方の手順のある例を図７に示す。２つのパケットを合せ、ペイロードの制限をそれら両方を包含するよう変更する。単純化された記述は依然として同じスキーマに従っている。
【００７３】
ＶＴＣフォーマットはパケット内にある量子化に関するある重要な情報を隠す。この種の情報はファイルのメインヘッダにおいて入手可能であるはずだが、それはビットストリーム内に埋込まれている。例として、量子化ステップのエンコードをすべての品質層の第１のパケットにおいて行なう。層の数および層ごとのパケットの数は極めて重要な情報で
あるが、それらを知るには複雑な計算を必要とする。
【００７４】
ＶＴＣにおけるＢＳＤＬの利用を容易にするための解決策として、この発明はさらなる要素を記述に含み、容易には得られないテクスチャに関する重要な情報を詳細にすることを提案する。この新たな要素はエンコード中または直接ＢＳＤＬ記述から、たとえばＸＳＬＴスタイルシートを伴って発生され得る。この拡張された情報はＸＭＬｔｏＢｉｎパーサによっては無視され、ＸＳＬＴスタイルシートによってのみ処理される。そのような拡張された情報の一例を図８に示す。
【００７５】
ＸＳＬＴスタイルシートを用いてＢＳＤＬ記述を変換し、したがって、コンテンツの、適合されたバージョンを得る。変換スタイルシートは画像内の任意の数の領域を選択するよう設計され、その画像はそれらの各々に対し品質設定を特定している。この後、ＸＭＬｔｏＢｉｎパーサは、Schemaを用いて、適合された２進テクスチャファイルを発生させる。領域制限を、画像の全サイズのパーセンテージとして特定する。スタイルシートは最小量のパケットを選択して、利用可能な粒度を与えられる領域を覆う。この手順は、テクスチャを所望の品質レベルにスケーリングすることを可能にし、ネットワークＱｏＳを与える。変換は２つの異なる態様で起こり得る。
【００７６】
−まず、テクスチャの、スケーリングされたバージョンが顧客によって要求される。これはスタンドアロンのＶＴＣ準拠テクスチャファイルである。
【００７７】
−さらに、表示条件が変ると、顧客はさらなる品質をある領域に対し要求し得る。この場合には、ほんのいくつかのパケットのみが送られる。
【００７８】
必要不可欠な情報のみが必要とされるときにだけ送られるので、帯域幅の最適な使用がなされる。ＶＴＣフォーマットはスケーラブルであるよう設計されているので、デコーダＱｏＳが可能である。さらに、関係のある情報のみを送信することにより、ネットワークＱｏＳも可能である。
【００７９】
この手順のある例を図９および図１０に示す。このテストケースでは、ルービックキューブ（Rubiks's Cube（著作権））がLena画像で包まれる。すべてのタイルが同時に可視ではないので、すべての情報が送信されデコードされる必要はない。図９は、どのように画像の送信が、４つの異なる品質レベル、わずかＤＣから損失なしまでの範囲にわたり行われるかを示す。図１０においては、Cubeレンダリングがみられ得る。図の部分（ａ）はフル品質テクスチャを用いてレンダリングされたCubeを示す。部分（ｂ）は図９のテクスチャを用い、前面のみがフル品質でレンダリングされなければならない一方で右側面および頂部面はより低い品質設定でレンダリングされ得るということを利用する。Cubeのうち可視でない部分は、単に、ＤＣ成分を用いてレンダリングされる。（図１０（ｃ））。
【００８０】
一般に、科学の世界では、アクティブなネットワークが、今後何年かのうちに、通信の効率を向上させる方法として現れるであろうと信じられている。３ＤグラフィックスおよびＢＳＤＬに対するある考えられ得るシナリオは以下のようになるかも知れない：
「３Ｄシーンまたは映画が放送されている。レンダリングが端子側で行なわれるが、端子の特性はヘテロジニアスである。サーバは品質を現在の視点に適合させるテクスチャを送信する。この品質は高能力端子に対して意図され、ネットワークはコンテンツを異なる端子に適合させる。サーバ側はテクスチャをネットワークノードにＢＳＤＬコードとともに与える。かくして、携帯電話の操作者はさらなる変換を適用して品質を携帯電話の低解像度ディスプレイに従って低減する。」
このシナリオにおいて、連続的な変換が適用される場合には、ビットストリームにおけるパケットの位置はもはや画像におけるその位置には対応しない。このように、パケット
の割当および品質レベルはトレースするのが困難となり得る。この場合には、パケットをタグ付けしなければならない。これは、各パケットに対する属性または属性の組を含むことによりなされ得る。ある例を図１１に示す。
【００８１】
この図の、一番上の例において、記述の要素は以下を含む：
−パケットの群が属するデータ層の表示を含む第１の変換タグ、
−画像におけるパケットの群の位置を含む第２および第３の変換タグ。
【００８２】
これは、上記の適用例においては、品質層および画像における位置の両方を考慮して、適合された記述を発生させる際にどのパケットを取除くかを判断するからである。
【００８３】
当然のことながら、他の適用例および他のエンコードフォーマットに対し、要素はデータ層の表示を含む変換タグを含むだけでもよい。たとえば、そのような変換タグを含む記述を走査して、データ層表示が「１」より高いすべてのパケットを取除く。
【００８４】
図１１の一番下の例では、記述の要素はパケット識別子を含む単一の変換タグを含む。
【００８５】
この場合、パケット識別子の組は各可能な変換に対し定義されることになる。ある特定の変換が適用されるとき、記述は走査され、変換タグ画素が特定の変換に対し定義されるパケット識別子の組に属さない要素を取除く。（もちろん、取除かれるべきパケット識別子の組を定義すること、および変換タグ画素が特定の変換に対し定義されるパケット識別子の組に属する要素を取除くことも可能である）。
【００８６】
この発明のこの第１の局面は上記の例（ＭＰＥＧ−４  ＶＴＣ）に限定されないことを理解すべきである。特に、それは他の二次元画像または映像エンコードフォーマットに適用可能である。
【００８７】
変換タグが記述において属性として導入されなければならないのは、適合されたビットストリームの発生が、適合された記述から、ＷＯ  ０２／０６９１８７に記載されるスキーマを用いて行われることになる場合のみであることに注目されたい（なぜならば属性はＸＭＬｔｏＢｉｎパーサによっては無視されるからである）。そうでない場合には、それは要素として導入され得る。
【００８８】
結論として、この発明は、さらなる要素および属性のような必要不可欠な特徴をＢＳＤＬのような方策に対しを与えて、強力かつプラットフォームに依存しないコンテンツスケーラビリティを、ＭＰＥＧ−４  ＶＴＣに対し示されるようなマルチメディア適用例に対し可能にすると言える。領域および品質選択は利用可能な粒度を十分に利用して行われ得る。ＢＳＤＬを用いたコンテンツ適合はＱｏＳ管理をサーバ、ネットワーク要素および端子にわたって行き渡らせることを可能にする。
【００８９】
スキーマの、発明された特徴（さらなる要素および特別な属性）を、前記スキーマのインスタンスを発生させるための方法、適合されたビットストリームを発生させるための方法、および／または画像の当該領域を表示するための方法において用い得る。さらに、前記特徴を、画像エンコードのための装置において用いてビットストリームおよびそのようなインスタンスを与えたり、ネットワークノード装置において用いてビットストリームおよび／または画像表示端子を適合させ、当該領域選択を実行し得る。
【００９０】
そのような画像符号化またはエンコード装置はハードウェア部を含み、前記スキーマのインスタンスをエンコードし発生させるよう構成されることに注目されたい。前記ハードウェア部はカスタマイズされるかしたがってまたはプログラマブルプロセッサもしくはそ
の組合せであり得る。同様の考慮をネットワークノード装置のハードウェア部に対してなし得るが、それは、前記スキーマの、適合されたビットストリームおよび適合されたインスタンスを発生させるために与えられる。さらに、画像表示端子のハードウェア部はカスタマイズおよび／またはプログラミングされて当該領域パケット選択ステップおよびデコーディングを実行し得る。
【００９１】
前記装置は前記スキーマのインスタンスを記憶するための記憶手段を有することになり、前記記憶手段は、任意の物理的な記憶エンティティであり得、インスタンスを、少なくとも１つの特別な要素および／または少なくとも１つの属性とともに記憶することに向けて構成されることになる。さらに、スキーマを特別な要素および属性とともに記憶するための記憶空間も予測される。
【００９２】
ある実施例においては、画像符号化装置は画像をビットストリームでエンコードすることに向けて構成されたハードウェア部を符号化し、前記ハードウェア部はそれが発生するスキーマのインスタンス内におけるあるパケットに対する重要な符号化パラメータを含む能力がある。
【００９３】
ネットワークノード装置のある実施例では、前記スキーマのインスタンスを受取るまたは発生させる手段が設けられ、前記装置のハードウェア部の構成は受取られたまたは発生されたインスタンス内における明示的な情報を利用し得るようなされる。
【００９４】
画像表示端子のある実施例では画像の当該の領域を示すための手段に加えて前記スキーマのインスタンスを受取るまたは発生させるための手段が設けられ、前記装置のハードウェア部の構成は受取られたまたは発生されたインスタンス内の明示的な属性を利用し得るようになされる。
【００９５】
この発明の別の局面に従う伝送システム９００を図１２に示す。それは送信機９０２および受信機９０４を含む。画像符号化、記述変換、および適合されたビットストリーム発生は送信機側で行なわれ、画像デコードは受信機側で行なわれる。前記送信機および受信機はメモリ手段および処理手段を含む。この発明は、前記メモリ手段に記憶され前記処理手段によって実行されるソフトウェアによって実現される。このソフトウェアは、たとえば、Ｃ、Ｃ＋＋または同様のもので書かれある特定のマイクロプロセッサに対してコンパイルされるコンピュータプログラムであり得る。この発明は、さらに、前記プログラムを記憶するデータキャリア、たとえば、テレコミュニケーションネットワークにおけるまたは電算装置内におけるディスケット、ＣＤ−ＲＯＭ、磁気テープまたはメモリなどを含む。このデータキャリアは電算装置にロードされるとこの発明に従う方法を実行する。
【００９６】
前記コンピュータプログラムが、この発明に従う方法を、特に任意の特許請求された方法を実行するのは、マイクロプロセッサ、たとえばIntel Corp.により供給されるPentium
（登録商標）IVマイクロプロセッサなど、または他の好適な処理エンジン、たとえばプログラマブル論理アレイ（ＰＬＡ）、プログラマブルアレイ論理（ＰＡＬ）、プログラマブルゲートアレイ、たとえばフィールドプログラマブルゲートアレイ（ＦＰＧＡ）などにロードされたときである。処理エンジンは、メモリを有する好適な電算装置、たとえばパソコンまたはＵＮＩＸ（登録商標）ワークステーションなどだけでなく、携帯電話、パーソナルデジタルアシスタント（ＰＤＡ）などに含まれてもよく、または、ＶＬＳＩに埋込まれるか、もしくはパソコンもしくはビデオプロジェクタもしくは他の表示装置とともに用いるのに好適なアクセレレータカードに埋込まれてもよい。この発明は、さらに、専用のモジュールを、たとえば、この発明に従う方法を実行することに専ら向けられるＶＬＳＩ、ＡＳＩＣの形式において含む。
【図面の簡単な説明】
【００９７】
【図１】画像符号化技術のある例のブロック図である。
【図２】エンコードされたビットストリームの発生、エンコードされたビットストリームのツリー表現であるインスタンスの発生、前記インスタンスの適合、適合されたビットストリームの発生、およびその適合されたビットストリームのデコードを含む方法のある例のブロック図である。
【図３】エンコードされたビットストリームの発生、エンコードされたビットストリームのツリー表現であるインスタンスの発生、前記インスタンスの適合、適合されたビットストリームの発生、および当該領域選択を含むその適合されたビットストリームのデコードを含む別の方法のある例のブロック図である。
【図４】ブロックおよびパケットの画像粒度および変換を示す。
【図５】ＶＴＣ  ＭＱ−ＴＤ画像に対するＢＳＤＬ記述のフラグメントを示す。
【図６】ＶＴＣ  ＭＱ−ＴＤモードに対するSchemaのフラグメントを示す。
【図７】パケットの、低減された記述を示す。
【図８】ＶＴＣに対する拡張された情報要素の例を示す。
【図９】Rubik's Cube-Lena画像に適用されるスケーラビリティを示す。
【図１０】Rubik's Cubeテストケース、（ａ）完全にデコードされたテクスチャを伴う結果、（ｂ）ビュー依存型デコードを伴う結果、（ｃ）キューブの非可視部を示す。
【図１１】アクティブなネットワークにおける連続的変換に対するタグ付けされたパケットを示す。
【図１２】この発明の実施例に従う伝送システムのブロック図である。
【図１】
2005510920.tif 000003
【図２】
2005510920.tif 000004
【図３】
2005510920.tif 000005
【図５】
2005510920.tif 000006
【図６】
2005510920.tif 000007
【図７】
2005510920.tif 000008
【図８】
2005510920.tif 000009
【図１１】
2005510920.tif 000010
【図１２】
2005510920.tif 000011
【図４】
2005510920.tif 000012
【図９】
2005510920.tif 000013
【図１０】
2005510920.tif 000014
【手続補正書】
【提出日】平成16年10月19日(2004.10.19)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
エンコードされたビットストリームの記述を変換する方法であって、前記エンコードされたビットストリームはデータパケットを含み、前記記述はマークアップ言語で書かれ、１つまたは２つ以上のデータパケットからなる群が前記記述において要素によって記述され、前記要素は変換タグを含む少なくとも１つの属性を有し、前記方法は、
前記記述を走査して、変換タグに対して、予め定められた条件に従ってチェックを行なうステップ、および
変換タグが前記予め定められた条件を満たさない要素は取除かれる、適合された記述を発生させるステップを含み、前記変換タグはパケット識別子であり、前記予め定められた条件は達成されるべきある特定の変換に関連付けられるパケット識別子の組のメンバーシップの条件であり、パケット識別子の組は１つより多い識別子を有する、方法。
【請求項２】
前記エンコードされたビットストリームはいくつかのデータ層が定義されるスケーラブルなフォーマットを有し、前記変換タグは１つまたは２つ以上のデータパケットからなる群が属するデータ層を示すものである、請求項１に記載の記述を変換する方法。
【請求項３】
適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させる方法であって、前記元のエンコードされたビットストリームはデータパケットを含み、前記方法は：
マークアップ言語で書かれた、前記元のエンコードされたビットストリームの記述を変換して、適合された記述を発生させることを、請求項１または２のいずれかに記載される記述を変換する方法を適用することにより行なうステップ、および、
前記適合されたビットストリームを前記適合された記述から発生させるステップを含む、方法。
【請求項４】
マークアップ言語で書かれた、データパケットを含むエンコードされたビットストリームの記述であって、前記記述は１つまたは２つ以上のデータパケットからなる群を記述するための要素を含み、前記要素は、前記要素のいくつかを除去することにより、前記記述を適合させるために、予め定められた条件に対しチェックされるよう用いられるよう意図される変換タグを含む少なくとも１つの属性を有し、前記変換タグはパケット識別子であ
り、前記予め定められた条件は達成されるべきある特定の変換に関連付けられるパケット識別子の組のメンバーシップの条件であり、パケット識別子の組は１つより多い識別子を有する、記述。
【請求項５】
前記エンコードされたビットストリームはいくつかのデータ層が定義されるスケーラブルなフォーマットを有し、前記変換タグはデータパケットからなる群が属するデータ層を示すものである、請求項４に記載の記述。
【請求項６】
請求項４または５のいずれかに記載されるビットストリームの記述を記憶するメモリ、および請求項１または２のいずれかに記載される前記記述を変換する方法を実現するための処理手段を含む電子装置。
【請求項７】
前記プログラムがプロセッサによって実行されるとき、請求項１または２のいずれかに記載される記述を変換する方法を実現するための命令を含むプログラム。
【請求項８】
送信機および受信機を含む伝送システムであって、前記送信機は、請求項３に記載される、適合されたエンコードされたビットストリームを元のエンコードされたビットストリームから発生させる方法を実現するための手段、および前記適合されたエンコードされたビットストリームを前記受信機に送信するための手段を有する、伝送システム。
【請求項９】
適合されたビットストリームを元のビットストリームから発生させる方法であって、前記ビットストリームはエンコードされた画像データであり、前記エンコードは予め定められた符号化パラメータに従って実行され、
前記方法は：
前記元のビットストリームおよび前記元のビットストリームに見出されるデータを含むスキーマのインスタンスを受取るステップを含み、インスタンスはツリー状表現を構成し、前記スキーマは前記エンコードの符号化パラメータに関係する特別な要素を含み；および、
前記インスタンスは前記特別な要素にリンクされる明示的な情報を含み、前記明示的な情報も前記ビットストリームに埋込まれ、前記符号化パラメータに関係し、前記方法はさらに、
前記スキーマの、適合されたインスタンスを発生させるステップ；および、
前記適合されたビットストリームを前記適合されたインスタンスから発生させるステップを含み、
前記方法は：
適合されたインスタンスを発生させる前記ステップは前記明示的な情報を利用すること、および適合されたビットストリームを発生させる前記ステップは前記明示的な情報を利用しないことにより特徴付けられる、方法。
【請求項１０】
画像符号化装置であって：
画像を読取るための手段；
符号化パラメータを入力するための手段；
前記読取られた画像を前記符号化パラメータに従ってエンコードしそれによってビットストリームを発生させるよう構成されるハードウェア部を含み；
符号化装置はスキーマのインスタンスを発生させることに向けて設けられ、
前記スキーマは総称的に前記表現のフォーマットを記述し、フォーマットによってデータの名称およびタイプが記述される複数の要素を含み、
前記インスタンスは前記エンコードされた画像データのツリー状表現を構成し、リンクを前記ビットストリームの部分間において前記要素とともに含み、
前記装置は：
前記スキーマは前記符号化パラメータに関係する特別な要素を含むこと；および
前記インスタンスは前記特別な要素にリンクされる前記符号化パラメータに関する明示的な情報を含み、前記明示的な情報も前記ビットストリームに埋込まれ、前記符号化装置は適合されたインスタンスの発生を前記明示的な情報を利用することにより行なうようにされ、前記符号化装置は適合されたビットストリームの発生を前記明示的な情報を利用せずに行なうようにされることによって特徴付けられる、画像符号化装置。
【請求項１１】
第１のビットストリームを受取るための手段を含み、前記ビットストリームはエンコードされた画像データであり、前記エンコードは予め定められた符号化パラメータに従って実行され；さらに、
前記第１のビットストリームに見出されるデータを含みかつツリー状表現を構成するスキーマのインスタンスを受取るまたは発生させるための手段を含み、前記スキーマは前記符号化パラメータに関係する特別な要素を含み、さらに；
前記スキーマの、適合されたインスタンスを発生させること、および適合されたビットストリームを前記適合されたインスタンスから発生させることに向けて構成されるハードウェア部を含み、
前記インスタンスは明示的な情報を前記符号化パラメータ上に含むこと；および、
前記ハードウェア部は適合されたインスタンスの発生を前記明示的な情報を利用することにより行なうよう構成され、適合されたビットストリームの発生を前記明示的な情報を利用することなく行うようにされることにおいて特徴付けられる、端子。
【請求項１２】
適合されたビットストリームを元のビットストリームから発生させる方法であって：
前記元のビットストリームを受取るステップ；
あるフォーマットに従ってある構造を有するデータを含む前記元のビットストリームを構文解析するステップを含み、前記解析ステップは前記元のビットストリームのツリー状表現を発生させ、前記方法は：
前記フォーマットを総称的に記述するスキーマを読出すステップを含み、前記スキーマはフォーマットによってデータの名称およびタイプが記述される複数の要素、および符号化方法に関係する情報に関連付けられる特別な要素を含み；
前記元のビットストリームにおいて、前記スキーマに含まれる前記特別な要素を含む要素に対応するデータを検索するステップ；
前記元のビットストリームに見出されるデータを含みかつ前記ツリー状表現を構成する前記スキーマのインスタンスを発生させるステップを含み、前記インスタンスはさらに、前記元のビットストリームに埋込まれる明示的な情報を含み；
前記スキーマの、適合されたインスタンスを発生させるステップを含み、前記適合プロセスは前記明示的な情報を利用し；および
前記適合されたビットストリームを前記適合されたインスタンスから発生させ、その一方で明示的な情報は用いないステップを含む、方法。
【請求項１３】
特別な要素は前記ビットストリームにおけるパケット位置に関係し、；および
前記インスタンスはビットストリーム内における前記パケット位置を示す前記パケットに対する属性を含み、前記属性は前記特別な要素とリンクされる、請求項１０に記載の画像符号化装置。
【請求項１４】
前記インスタンスは、さらに、前記パケットに対するさらなる属性を含み、前記さらなる属性は前記元のビットストリームにおける前記パケットの位置を示し；
前記スキーマの、適合されたインスタンスを発生させるステップは前記さらなる属性を利用する、請求項１２に記載の、適合されたビットストリームを元のビットストリームから発生させる、方法。
【請求項１５】
スキーマのインスタンスから発生されるビットストリームから画像の或る部分を表示することをさらに含み、前記表示は前記属性に基づく少なくとも１つのパケットを選択することを含むことにおいて特徴付けられる、請求項１４に記載の方法。
【国際調査報告】
2005510920.tif 000015
2005510920.tif 000016
2005510920.tif 000017
2005510920.tif 000018
2005510920.tif 000019
2005510920.tif 000020