(57)【特許請求の範囲】
【請求項１】
映像をコード化するための方法であって、
前記映像を複数のオブジェクトに分割するステップと、
各オブジェクトの形状差を経時的に測定し、各オブジェクトの形状特徴を抽出するステップと、
１つのオブジェクトの形状特徴とほかのオブジェクトの形状特徴を経時的に組み合わせて、各オブジェクトについての時間解像度を経時的に決定するステップと、
前記オブジェクトの対応する時間解像度に応じて各オブジェクトをコード化するステップと
を含む映像をコード化するための方法。
【請求項２】
前記映像は、圧縮されていないデータであり、
前記分割、組み合わせ、及びコード化は、符号化器において行われる
請求項１記載の映像をコード化するための方法。
【請求項３】
前記映像は、圧縮されたデータであり、
前記分割、組み合わせ、及びコード化は、トランスコーダにおいて行われる
請求項１記載の映像をコード化するための方法。
【請求項４】
少なくとも２つのオブジェクトは、異なる対応の時間解像度に従ってコード化される
請求項１記載の映像をコード化するための方法。
【請求項５】
コード化されたオブジェクトの時間解像度は、前記コード化されたオブジェクトに関連する形状差と比例する
請求項１記載の映像をコード化するための方法。
【請求項６】
前記形状差は、前記オブジェクト間の差である画素数を測定するハミング距離である
請求項１記載の映像をコード化するための方法。
【請求項７】
前記分割されたオブジェクトは、バイナリ形状を有し、ハミング距離ｄは以下の式で定義され、
【数１】
0004786114.tif 000003
ここで、α１（ｍ，ｎ）およびα２（ｍ，ｎ）は、異なる時間における対応するセグメンテーション面である
請求項６記載の映像をコード化するための方法。
【請求項８】
前記形状差は、前記オブジェクトに関連する画素のセット間の最大関数として定義されるハウスドルフ距離である
請求項１記載の映像をコード化するための方法。
【請求項９】
前記最大関数は、
ｈ（Ａ，Ｂ）＝ｍａｘ｛ｍｉｎ｛ｄ（ａ，ｂ）｝｝
であり、ここで、ａ及びｂは、第１及び第２のオブジェクトのセットＡ及びＢのそれぞれの画素であり、ｄ（ａ，ｂ）は、前記画素間のユークリッド距離である
請求項８記載の映像をコード化するための方法。
【請求項１０】
前記映像は、複数のフレームを含み、各フレームは、複数のマクロブロックを含み、前記マクロブロックは、不透明ブロック、透明ブロック、及び境界ブロックとしてコード化される
請求項１記載の映像をコード化するための方法。
【請求項１１】
前記オブジェクトの形状特徴をメタデータとしてコード化するステップ
をさらに含む請求項１記載の映像をコード化するための方法。
【請求項１２】
各オブジェクトからのモーション特徴を経時的に抽出するステップと、
前記モーション特徴と前記形状特徴とを経時的に組み合わせて、各オブジェクトについての時間解像度を経時的に決定するステップと
をさらに含む請求項１記載の映像をコード化するための方法。
【請求項１３】
各オブジェクトからコーディング複雑さを経時的に抽出するステップと、
前記コーディング複雑さと前記形状特徴とを組み合わせて、各オブジェクトについての時間解像度を経時的に決定するステップと
をさらに含む請求項１記載の映像をコード化するための方法。
【請求項１４】
映像をコード化するための装置であって、
前記映像を複数のオブジェクトに分割する手段と、
各オブジェクトの形状差を経時的に測定し、各オブジェクトの形状特徴を抽出する手段と、
１つのオブジェクトの形状特徴とほかのオブジェクトの形状特徴を経時的に組み合わせて、各オブジェクトについての時間解像度を経時的に決定する手段と、
前記オブジェクトの対応する時間解像度に応じて各オブジェクトをコード化する手段と
を備えた映像をコード化するための装置。
【請求項１５】
前記分割及び抽出する手段は、形状コーダ、モーション推定器、モーション補償器、及びテクスチャコーダを有する
請求項１４記載の映像をコード化するための装置。
【請求項１６】
前記オブジェクト及び形状特徴は、メモリ内に格納される
請求項１４記載の映像をコード化するための装置。
【請求項１７】
前記映像は、圧縮されず、
前記決定する手段は、レート制御ユニットである
請求項１４記載の映像をコード化するための装置。
【請求項１８】
前記映像は、圧縮され、
前記決定する手段は、トランスコーディング制御ユニットである
請求項１４記載の映像をコード化するための装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、一般に、多重映像オブジェクトを符号化およびトランスコード化することに関し、特に、可変時間解像度を用いた多重映像オブジェクトの符号化およびトランスコード化を制御するシステムに関するものである。
【０００２】
【従来の技術】
近年、符号化された情報を通信するための多数の基準が開発されてきた。映像シーケンスについては、最も広範囲に用いられている基準として、ＭＰＥＧ−１（動画の格納および取り出し用）、ＭＰＥＧ−２（デジタルテレビ用）、およびＨ．２６３が挙げられる。『ISO/IEC JTC1 CD 11172、ＭＰＥＧ、「Information Technology-Coding of Moving Pictures and Associated Audio for Digital Storage Media up to about 1.5 Mbit/s-Part2:Coding of Moving Pictures Information」１９９１年、LeGall、「MPEG:A Video Compression Standard for Multimedia Applications」Communications of the ACM、３４巻４号、４６から５８頁、１９９１年、ISO/IEC DIS 13818-2、ＭＰＥＧ−２、「Information Technology-Generic Coding of Moving Pictures and Associated Audio Information-Part2:Video」１９９４年、ITU-T SGXV、ＤＲＡＦＴ  Ｈ．２６３、「Video Coding for Low Bitrate Communication」１９９６年、ITU-T SGXVI、DRAFT13 H.263+Q15-A-60rev.0、「Video Coding for Low Bitrate Communication」１９９７年』を参照のこと。
【０００３】
これらの基準は、映像シーケンスの空間および時間圧縮を主として取り扱う比較的低レベルの規格である。共通の特徴として、これらの基準は、フレーム毎の圧縮を行う。これらの基準を用いることによって、広範囲な応用に対して高圧縮比を成し遂げることができる。
【０００４】
ＭＰＥＧ−４（マルチメディア応用）などの新しい映像コーディング基準（「Information Technology――Generic coding of audio/visual objects」ISO/IEC FDIS 14496-2（MPEG4 Visual）、１９９８年１１月を参照）では、任意の形状のオブジェクトを別個の映像オブジェクト面（ＶＯＰ）として符号化および復号化することが可能である。オブジェクトは、視覚、音声、自然、合成、プリミティブ、複合、またはその組み合わせであり得る。映像オブジェクトは、複合オブジェクトまたは「シーン」を形成するように構成される。
【０００５】
新しく浮上しつつあるＭＰＥＧ−４基準は、自然および合成材料が統合され、アクセスが普遍的である、インタラクティブ映像などのマルチメディア応用を可能にすることを意図している。ＭＰＥＧ−４は、コンテンツに基づいた相互作用を考慮している。例えば、１つの映像から他の映像に動く人物またはオブジェクトを「切貼り」したい場合がある。このタイプの応用では、マルチメディアコンテンツにおけるオブジェクトは、何らかのタイプのセグメンテーションプロセスを用いて識別されていると想定される。例えば、リン（Lin）らによって１９９９年６月４日に提出された米国特許出願第０９／３２６，７５０号、「Method for Ordering Image Spaces to Search for Object Surfaces」を参照のこと。
【０００６】
映像送信では、これらの圧縮基準は、ネットワークによって必要とされる帯域幅（利用可能なビットレート）の量を低減するために必要である。ネットワークは、無線チャネルまたはインターネットを表し得る。いずれにせよ、ネットワークは、コンテンツを送信する必要があるときにリソースが分解されなければならないため、容量およびコンテンションが限定される。
【０００７】
長年にわたって、デバイスが映像コンテンツを安定して送信し、コンテンツの品質を利用可能なネットワークリソースに適用することを可能にするアーキテクチャおよびプロセスに多大な努力が払われてきた。コーディング時間毎のビット数を割り付けるためにレート制御が用いられる。レート制御は、符号化器によって生成されるビットストリームがバッファ制約を満足することを確実にする。
【０００８】
レート制御プロセスは、符号化された信号の品質を最大にすることを試みると共に、一定のビットレートを提供する。ＭＰＥＧ−２などのフレームに基づいた符号化については、１９９８年１２月８日付けでウズ（Uz）らに発行された米国特許第５,８４７,７６１号「Method for performing rate control in a video encoder which provides a bit budget for each frame while employing virtual buffers and virtual buffer verifiers」を参照のこと。ＭＰＥＧ−４などのオブジェクトに基づいた符号化については、１９９９年１０月１９日付けでサン（Sun）およびベトロ（Vetro）に発行された米国特許第５,９６９,７６４号「Adaptive video coding method」を参照のこと。
【０００９】
コンテンツがすでに符号化されている場合、ストリームが、例えば、利用可能なビットレートの減少に対処するためにネットワークを通して送信される前に、すでに圧縮されたビットストリームをさらに変換する必要がある場合もある。ビットストリーム変換または「トランスコーディング」は、ビットレート変換、解像度変換、およびシンタックス変換に分類することができる。ビットレート変換には、一定のビットレート（ＣＢＲ）と可変ビットレート（ＶＢＲ）との間のビットレートスケーリングおよび変換が含まれる。ビットレートスケーリングの基本的な機能は、入力ビットストリームを受け、受信機の新しい負荷制約に合致するスケーリングされた出力ビットストリームを生成することである。ビットストリームスケーラは、ソースビットストリームと受信負荷とを一致させるトランスコーダ、またはフィルタである。
【００１０】
図７に示すように、通常、スケーリングは、トランスコーダ１００によって成し遂げられ得る。力ずくの場合、トランスコーダは、復号化器１１０および符号化器１２０を有する。圧縮された入力ビットストリーム１０１は、入力レートＲｉｎで完全に復号化され、新しい出力レートＲｏｕｔ１０２で符号化され、出力ビットストリーム１０３を生成する。通常、出力レートは入力レートよりも低い。しかし、実際には、復号化されたビットストリームを符号化するのは非常に複雑であるため、トランスコーダにおける完全な復号化および完全な符号化は行われず、その代わりに圧縮されたまたは部分的に復号化されたビットストリームに対してトランスコーディングが行われる。
【００１１】
ＭＰＥＧ−２に対する初期の研究は、「Architectures for MPEG compressed bitstream scaling」、IEEE Transactions on Circuits and Systems for Video Technology、１９９６年４月においてサン（Sun）らによって公開されている。この文献では、複雑さおよびアーキテクチャを変化させた４つのレート低減方法が示されている。
【００１２】
図８は、例示的な方法を示している。このアーキテクチャでは、映像ビットストリームは単に部分的に復号化されている。具体的には、入力ビットストリーム２０１のマクロブロックは、可変長復号化（ＶＬＤ）２１０される。入力ビットストリームはまた、遅延２２０され、逆量子化（ＩＱ）２３０され、離散コサイン変換（ＤＣＴ）係数を生成する。所望の出力ビットレートが与えられると、部分的に復号化されたデータは分析２４０され、新しい量子化器のセットは符号２５０でＤＣＴマクロブロックに適用される。これらの再量子化されたマクロブロックは、次に、可変長コード化（ＶＬＣ）２６０され、より低いレートの新しい出力ビットストリーム２０３が形成され得る。この方式は図７に示す方式よりもはるかに簡単である。なぜなら、運動ベクトルが再使用され、逆ＤＣＴ操作の必要がないからである。
【００１３】
アサンカオ（Assuncao）らのさらに最近の研究では、「A frequency domain video transcoder for dynamic bit-rate reduction of MPEG-2 bitstreams」IEEE Transactions on Circuits and Systems fｏｒ  Ｖｉｄｅｏ  Ｔｅｃｈｎｏｌｏｇｙ、９５３から９５７頁、１９９８年１２月において、同じタスクに対する簡略化されたアーキテクチャについて記載している。アサンカオ（Assuncao）らは、ドリフト補償のために周波数ドメインにおいて動作するモーション補償（ＭＣ）ループを用いている。近似マトリクスは、周波数ドメイン内のＭＣマクロブロックの迅速な計算のために得られる。ラグランジュ最適化は、トランスコーディングのための最良の量子化器スケールを計算するために用いられる。
【００１４】
ソリアル（Sorial）らの他の研究、「Joint transcoding of multiple MPEG video bitstreams」Proceedings of the International Symposium on Circuits and Systems、１９９９年５月は、多重ＭＰＥＧ−２ビットストリームを共同でトランスコードする方法を示している。ベトロ（Vetro）らによって１９９９年１０月１日付けで提出された米国特許出願第０９／４１０,５５２号「Estimating Rate-Distortion Characteristics of Binary Shape Data」も参照のこと。
【００１５】
従来の圧縮基準によると、テクスチャ情報を符号化するために割り付けられるビットの数は、量子化パラメータ（ＱＰ）によって制御される。上記の文献も同様である。元のビットストリームに含まれる情報に基づいてＱＰを変更することによって、テクスチャビットのレートは低減される。効率的な実施のために、情報は、通常、圧縮されたドメイン内で直接抽出され、マクロブロックの運動またはＤＣＴマクロブロックの残留エネルギーに関連する測度を含み得る。このタイプの分析は、図８のビット割り付け分析器２４０において見出すことができる。
【００１６】
上記の従来のトランスコーディング法に加えて、新しいトランスコーディング法がいくつか記載されている。例えば、２０００年２月１４日にベトロ（Vetro）らによって提出された米国特許出願第０９／５０４,３２３号「Object-Based Bitstream Transcoder」を参照のこと。この文献では、従来のトランスコーディングシステムの制限を克服する情報搬送システムについて記載されている。従来のシステムは、低減可能なレートの量においていくぶんか拘束される。従来のシステムはまた、全体的な知覚品質を考慮せず、むしろ、ＰＳＮＲなどの客観的測度が支配していた。
【００１７】
ベトロ（Vetro）らによって記載されているシステムでは、変換はより柔軟で、品質の測定は、従来のビット毎の相違から逸脱している。
【００１８】
ベトロ（Vetro）は、非常に特有な方法で映像コンテンツをまとめている。オブジェクトに基づいたフレーム構造内で、個々の映像オブジェクトは異なる品質でトランスコードされる。品質の相違は、空間品質または時間解像度（品質）のいずれかに関連し得る。
【００１９】
時間解像度がシーン内のオブジェクト間で変化する場合、すべてのオブジェクトが互いに何らかのタイプの時間同期を維持することが重要である。時間同期が維持されると、受信機は、再構築されたシーン内のすべての画素が規定されるようにオブジェクトを構成し得る。
【００２０】
シーン内で規定されていない画素は、背景および前景オブジェクトから生じ得る。あるいは、重複するオブジェクトは、異なる時間解像度でサンプリングされ、再構成されたシーン内で「ホール（ｈｏｌｅｓ）」が現れる。従って、符号化またはトランスコーディング中の多重オブジェクトの時間解像度を変化させる場合、同期が維持されることは重要であった。
【００２１】
この点をさらに例示するために、比較的静止した背景オブジェクト（例えば、空白の壁）および動いている人などのさらに活動的な前景オブジェクトがあるシーンについて考えよう。背景は、比較的低い時間解像度（例えば、１秒当たり１０フレーム）で符号化され得る。前景オブジェクトは、１秒当たり３０フレームのより高い時間解像度で符号化される。これは、前景オブジェクトがあまり動かない限り良好である。しかし、万一前景オブジェクトが背景に対して動くと、「ホール」が背景の部分に現れ、前景オブジェクトによって塞ぐことはできない。
【００２２】
【発明が解決しようとする課題】
本発明の目的は、上記の問題を解決し、可変時間解像度を用いて多重オブジェクトの符号化およびトランスコーディングを可能にすることである。
【００２３】
ＭＰＥＧ基準委員会によって行われている最近の基準化に向けての取り組みは、正式には「Multimedia Content Description Interface」と呼ばれるＭＰＥＧ−７である。「MPEG-7 Context、Objectives and Techinical Roadmap」、ＩＳＯ／ＩＥＣ  Ｎ２８６１、１９９９年７月を参照のこと。実質的には、この基準は、様々なタイプのマルチメディアコンテンツを記述するために用いられ得る記述子のセットおよび記述方式を導入することを計画している。記述子および記述方式は、コンテンツ自体と関連し、特定のユーザに関心のあるマテリアルの迅速かつ効率的な検索を考慮する。この基準は、以前のコーディング基準に置き換わるものではなく、むしろ、他の基準表現（特に、ＭＰＥＧ−４）の上に構築されることに留意することが重要である。これは、マルチメディアコンテンツが異なるオブジェクトに分解され、各オブジェクトには特有の記述子のセットが割り当てられるからである。また、この基準は、コンテンツが保存される形式とは独立している。
【００２４】
ＭＰＥＧ−７の主な応用は、検索および取得の応用であることが期待される。「MPEG-7 Applications」ISO/IEC N2861、１９９９年７月を参照のこと。簡単な応用では、ユーザは特定オブジェクトのいくつかの属性を指定する。この低レベルの表現では、これらの属性は、特定オブジェクトのテクスチャ、モーション、および形状を記述する記述子を含み得る。形状を表現し、比較する方法は、リン（Lin）らによって１９９９年６月４日付けで提出された米国特許出願第０９／３２６,７５９号「Method for Ordering Image Spaces to Represent Object Shapes」に記載され、モーションアクティビティを記述する方法は、デバカラン（Divakaran）らによって１９９９年９月２７日付けで提出された米国特許出願第０９／４０６,４４４号「Activity Descriptor for Video Sequences」に記載されている。より高いレベルの表現を得るためには、いくつかの低レベルの記述子を組み合わせるさらに複雑な記述方式を考慮することができる。事実、これらの記述方式は、他の記述方式を含み得る。「MPEG-7 Multimedia Description Schemes WD(V1.0)」ISO/IEC N3113、１９９９年１２月およびリン（Lin）らによって１９９９年８月３０日付けで提出された米国特許出願第０９／３８５,１６９号「Method for representing and comparing multimedia content」を参照のこと。
【００２５】
これらの記述子および記述方式によって、ユーザは、符号化器またはトランスコーダによって従来では得られなかった映像コンテンツの特性にアクセスすることができる。例えば、これらの特性は、トランスコーダがアクセスできないと想定されていたルックアヘッド情報を表し得る。符号化器またはトランスコーダがこれらの特性にアクセスするのは、これらの特性が初期にコンテンツから得られる、即ち、コンテンツが予め処理され、関連するメタデータを有するデータベースに格納される場合だけである。
【００２６】
情報自体は、シンタックスまたはセマンティックスのいずれかであり得る。シンタックス情報とは、コンテンツの物理的および論理的信号局面を指し、セマンティックス情報とは、コンテンツの概念的な意味を指す。映像シーケンスについては、シンタックス要素は、特定オブジェクトの色、形状、およびモーションに関連し得る。他方、セマンティックス要素は、事象の時間および場所、映像シーケンス内の人名などの、低レベル記述子から抽出することができない情報を指し得る。
【００２７】
可変時間解像度を有するシーンにおける映像オブジェクトのためのオブジェクトに基づいた符号化器またはトランスコーダにおける同期を維持することが望まれる。さらに、このような変化は、映像コンテンツメタデータを用いて識別されることが望まれる。
【００２８】
【課題を解決するための手段】
本発明は、映像のコーディング装置および方法を提供する。本発明によるコーディングは、符号化器またはトランスコーダによって成し遂げられ得る。映像は、まず、映像オブジェクトに分割される。符号化器の場合、この分割は、セグメンテーション面を用いて行われ、トランスコーダの場合にはデマルチプレクサが用いられる。経時的に、形状特徴は、各オブジェクトから抽出される。形状特徴は、各オブジェクトの形状が経時的にどのように展開するかを測定することによって得ることができる。ハミングまたはハウスドルフ距離測定が用いられ得る。抽出された形状特徴はレートまたはトランスコーダ制御ユニットで組み合わされ、各オブジェクトに対して経時的に時間解像度が決定される。時間解像度は、様々な映像オブジェクトを符号化するために用いられる。必要に応じて、モーション特徴およびコーディング複雑さはまた、時間解像度決定におけるトレードオフを行うと共に考慮され得る。
【００２９】
映像が圧縮されていないデータである場合、分割、組み合わせ、およびコーディングは符号化器において行われる。圧縮された映像については、デマルチプレクシング、組み合わせ、およびコーディングがトランスコーダにおいて行われる。後者の場合、圧縮映像におけるオブジェクトの境界ブロックは、形状特徴を抽出するために用いられる。本発明の１つの態様では、異なるオブジェクトは、異なる時間解像度またはフレームレートを有し得る。
【００３０】
【発明の実施の形態】
可変時間解像度符号化およびトランスコーディングに関する概説
本発明は、シーンにおける多重映像オブジェクトを符号化およびトランスコーディングしながら時間解像度を制御するための方法および装置を提供する。時間解像度コントローラは、可変時間解像度および異なる時間解像度を有するオブジェクトの符号化、トランスコーディング、および再構築を可能にする。オブジェクトに基づいたコーディング方式の主な利点の１つは、オブジェクトの空間および時間解像度の両方が独立して変化し得ることである。
【００３１】
人間の顔などのさらに興味深いオブジェクトにより高い空間品質を提供することが望まれる。同じことは時間解像度にも当てはまる。しかし、時間解像度では、重大な微妙さが存在する。即ち、シーン内でのオブジェクト間の同期は、再構築されたシーン内のすべての画素が規定されるように維持されなければならない。圧縮映像の映像再構築が大部分の映像基準（ＭＰＥＧ−１／２／４）の規範部分によって規定され、従来の復号化器によって処理されることに留意されたい。従って、復号化器については、本明細書には記載しない。
【００３２】
本明細書に記載する方法および装置は、オブジェクトに基づいた符号化およびトランスコーディングシステム、ならびに非リアルタイムおよびリアルタイム応用に適用可能である。入力映像は、符号化中には圧縮されず、トランスコーディング中には圧縮される。出力映像は、符号化中およびトランスコーディング中に圧縮される。本明細書で記載する機構および手法は、従来のデバイスのアーキテクチャにシームレスに統合され得る。
【００３３】
構成問題
図１は、２つの映像オブジェクト、即ち、前景オブジェクト３０１および背景オブジェクト３０２に分割されたシーン３０３を示す。シーンは、２つのオブジェクトを組み合わせることによって再構築され得る。この簡単な例では、前景オブジェクトは、動く人であり、背景オブジェクトは、静止した壁である。前景および背景オブジェクトの画素は、初期のフレームにおいて、シーン内のすべての画素を規定することに留意されたい。これらの２つのオブジェクトが同じ時間解像度で符号化され場合、受信機内での画像再構築中にはオブジェクト構成には問題はない。再構築されたシーン３０３内の画素はすべて規定されている。
【００３４】
しかし、オブジェクトが異なる時間解像度で符号化される場合に問題が生じる。例えば、背景は１５Ｈｚのフレームレートで符号化され、前景は、第１のレートの２倍の３０Ｈｚのフレームレートで符号化される。一般に、２つのオブジェクトは、独立したモーションを有し、それぞれに関連する画素は各フレームにおいて変化する。さらに、前景オブジェクトはまた比較的静止し得るが、背景オブジェクトよりも高い内部モーションを有することに留意されたい。例えば、前景はテクスチャが豊富であり、動く目、唇、および他の動く顔の特徴部を有するのに対して、背景は空白の壁である。従って、背景よりも前景をより高い空間および時間解像度で符号化することが望まれる。
【００３５】
本実施例では、図２のシーケンスに示すように、前景オブジェクトは、背景に対して動いている。シーケンス４０１から４０３では、時間は左から右へと経過する。ここで、シーケンス４０１は、比較的低い時間解像度で符号化された背景オブジェクトであり、シーケンス４０２は、比較的高い解像度で符号化された前景オブジェクトであり、シーケンス４０３は、再構築されたシーンである。シーケンス４０３には、１つ置きのフレームにホール４０４が生じる。これらのホールは、隣接したオブジェクトまたは重複したオブジェクトを更新しない場合に、１つのオブジェクトの移動によって発生する。ホールは、いずれのオブジェクトとも関連し得ないシーンのカバーされていない領域であり、画素は規定されていない。ホールはオブジェクトが（例えば、フレーム置きに）再同期されると消える。
【００３６】
形状歪みメトリクス
本発明によるオブジェクトの時間解像度についての決定を制御および行うための方法および装置は、シーンにおける形状変化（歪み）量を示す。本明細書では、この目的のために抽出され得る多数の形状特徴について記載する。例えば、１つの形状特徴は、経時的なオブジェクトの形状差を測定する。様々なオブジェクトの形状特徴が抽出および比較された後、符号化器は、符号化またはトランスコーディング中に各オブジェクトに対して用いられる時間解像度の量を決定し得る。
【００３７】
各オブジェクトについての形状差は、経時的に測定される。形状差は、オブジェクト間の時間解像度における変動量と逆比例する。固定時間量では、小さな差は、より大きな変動を示すのに対して、大きな差は、より小さな変動を示す。オブジェクトが再同期される間の持続時間がより大きくなれば、保存されているビットは、より良好な品質を必要とするオブジェクトに割り付けられ得る。
【００３８】
時間メトリクス
オブジェクトを最適に合成する方法は以下のように動作する。映像を定期的にサンプリングし、各オブジェクトの形状間の差を経時的に見出す。オブジェクトの形状差が経時的に小さい場合には、差を測定するためのサンプリング期間を増加させる。差が所定の閾値Ｄよりも大きくなるまでサンプリング期間を増加し続ける。この時点で、フレームを出力して、その差を有する映像オブジェクトを再同期させるか、またはオブジェクトが合成されるべき新しい周波数を決定する。周波数は、同期フレーム間の平均、最小、または中間時間間隔に基づき得る。この周波数は、様々な映像オブジェクトのそれぞれに対する最適な時間レートを決定するために用いられ得る。
【００３９】
差に基づいた形状特徴
簡単のため、２つのシーンのみの間、即ち、１つのフレームから次のフレームへの形状特徴における差を考える。しかし、このような形状特徴はまた、様々なキューレベルでのシーンに関連し得る。キューレベルは、２０００年４月１１日付けでベトロ（Vetro）らによって提出された、米国特許出願第０９／５４６,７１７号、「Adaptable Bitstream Video Delivery System」において定義されている。この文献を本願では参照することで援用する。
【００４０】
形状特徴が抽出されるキューレベルによって、時間コントローラは、シーン内のオブジェクトの時間解像度を成し遂げるための様々な方法を提供し得る。これらの方法は、符号化器およびトランスコーダの両方に適用可能である。
【００４１】
ハミング距離
本願で考慮する第１の差は、周知のハミング距離である。ハミング距離は、２つの形状間の差である画素数を測定する。まず、バイナリ形状、即ち、セグメンテーション（アルファ−α）値が単にゼロまたは１であり得る場合について考える。ここで、ゼロはセグメンテーション面における透明画素を指し、１はセグメンテーション面における不透明画素を指す。この場合、ハミング距離ｄは、以下の式で定義され、
【００４２】
【数２】
0004786114.tif 000002
【００４３】
ここで、α１（ｍ，ｎ）およびα２（ｍ，ｎ）は、異なる時間における対応するセグメンテーション面である。
【００４４】
ハウスドルフ距離
他の広範囲に用いられている形状差測定は、ハウスドルフ距離である。ハウスドルフ距離は、２つの画素セット間の最大関数として定義される。
【００４５】
ｈ（Ａ，Ｂ）＝ｍａｘ｛ｍｉｎ｛ｄ（ａ，ｂ）｝｝
【００４６】
ここで、ａおよびｂは、２つの映像オブジェクトのセットＡおよびＢのそれぞれの画素であり、ｄ（ａ，ｂ）は、これらの画素間のユークリッド距離である。上記のメトリックは、セットＢにおける最近似画素までのセットＡにおける画素の最大距離を示す。なぜなら、このメトリックは対称ではないからである。即ち、ｈ（Ａ，Ｂ）は、ｈ（Ｂ，Ａ）とは等しくなく、より一般的な定義は、以下の式によって表される。
【００４７】
Ｈ（Ａ，Ｂ）＝ｍａｘ｛ｈ（Ａ，Ｂ），ｈ（Ｂ，Ａ）｝
【００４８】
これらの差の測定は、画素−ドメイン内で計算されるとき最も正確であるが、圧縮ドメインからの近似データもまた上記の計算において用いられ得ることに留意されたい。画素−ドメインデータは、符号化器において容易に得られるが、トランスコーダについては、形状データを復号化することは計算上実現できない。その代わりに、データは何らかの計算上効率的な方法で近似され得る。
【００４９】
マクロブロックに基づいた形状特徴
例えば、ＭＰＥＧ−４において、形状は、様々に異なるモードでコード化され、マクロブロックレベルで行われる。例えば、モード内では、形状マクロブロックは、不透明マクロブロック、透明マクロブロック、または境界マクロブロックとしてコード化される。言うまでもなく、境界ブロックは、オブジェクトの形状を規定する。これらのコーディングモードは、バイナリ形状のマクロブロックレベルシルエットを再構築するために用いられ得る。言うまでもなく、画素レベルのメトリックほどは正確ではないが、複雑さの観点では全く実現可能である。
【００５０】
符号化器の構造
図３は、本発明によるオブジェクトに基づいた符号化器５００を示す。符号化器は、スイッチ５１０、形状コーダ５２０、モーション推定器５３０、モーション補償器５４０、モーションコーダ５５０、テクスチャコーダ５６０、ＶＯＰメモリ５７０、マルチプレクサ（ＭＵＸ）５８０、出力バッファ５９０、およびメタデータ格納ユニット５９１を有する。符号化器はまた、ＱＰテクスチャ分析器、時間分析器、形状分析器、及びメタデータ分析器５９３〜５９６を行うためのレート制御ユニット（ＲＣＵ）５９２を有する。符号化器５００への入力はオブジェクトに基づいた映像（入力）５０１である。映像は、画像シーケンスデータ、及び各映像オブジェクトの境界（形状）を規定するセグメンテーション（アルファ）面で構成される。
【００５１】
符号化器の動作
形状コーダ５２０は、各オブジェクトの形状を処理し、形状コーディングの結果をＭＵＸ５８０およびバッファ５９０を介して出力ビットストリーム（出力）５０９に書き込む。形状データはまた、モーション推定器５３０、モーション補償器５４０、およびテクスチャコーダ５６０に対しても用いられ得る。特に形状データは、各オブジェクトについての形状特徴を抽出するために用いられる。オブジェクト、ならびに関連する形状およびモーション特徴は、ＶＯＰメモリ５７０に格納される。
【００５２】
モーション推定器５３０では、モーションベクトルが各マクロブロックについて決定される。モーションベクトルはまたコード化され、ＭＵＸおよびバッファを介して出力ビットストリームに書き込まれる。モーション推定から得られるモーションベクトルを用いて、モーションが補償された予測はＶＯＰメモリ５７０に格納されている映像オブジェクトデータから形成される。この予測は、入力オブジェクトから減算５４１され、残留マクロブロックのセットを生成する。これらの残留マクロブロックは、テクスチャコーダ５６０にかけられ、対応するデータは出力ビットストリームに書き込まれる。テクスチャコーディングは、ＲＣＵによって提供されるＱＰ制御信号に従う。
【００５３】
ＲＣＵ５９２の量子化パラメータ（ＱＰ）は、各映像オブジェクトに対して適切な量子化パラメータＱＰを選択することに関与する。これは、モデルを用いて、割り当てられたレートバジェットに従って対応する量子化パラメータＱＰを推定することによって行われる。時間分析を以下に詳細に記載する。簡単に言うと、時間分析は、コーディングおよびトランスコーディング中に各オブジェクトの時間解像度を制御することに関与する。
【００５４】
従来技術では、図８を参照しながら上述したように、構成問題を避けるために、すべての映像オブジェクトの時間解像度は同一である。従って、従来技術では、様々なオブジェクトについての時間解像度は独立して考慮されていなかった。また従来技術では、時間分析は、出力バッファがオーバフローの危険がある場合にすべての映像オブジェクトをスキップするための信号を提供していた。本発明は、さらに良好な解決法を提供する。例えば、比較的静止しているオブジェクトは、より速い動くオブジェクトよりも遅いフレームレートで符号化され、ビットレート全体を低減し得る。
【００５５】
本発明では、可変時間品質を考慮する。本発明では、可変時間解像度を用いて映像オブジェクトの符号化およびトランスコーディングを可能にする。
【００５６】
形状分析５９５は、時間分析によって用いられる形状特徴を抽出し、可変時間解像度が問題を生じずに成し遂げられ得るかどうか、即ち、様々なオブジェクトの時間符号化レートが異なる場合でもホールを避けることができるかどうかを決定することに関与する。形状分析は、リアルタイム符号化モードにおいて作用し得る。ここで、データは、ＶＯＰメモリ５７０から取得される。しかし、符号化器がまた形状特徴（即ち、すでに存在するコンテンツの記述）に関連するメタデータ格納ユニット５９１からメタデータを受信する場合、このようなメタデータは、ＶＯＰメモリ５７０からの形状データの代わりに、または形状データと共に用いられ得る。メタデータは、メタデータ分析によって扱われ、形状分析と同様に、メタデータは、各映像オブジェクトに対する最適な時間解像度を決定する際の時間分析を助ける。
【００５７】
トランスコーダの構造
図４は、本発明の他の実施の形態によるオブジェクトに基づいたトランスコーダ６００の高レベルブロック図を示す。ここで、入力映像はすでに圧縮されている。トランスコーダ６００は、デマルチプレクサ（ＤＥ−ＭＵＸ）６０１、マルチプレクサ（ＭＵＸ）６０２、および出力バッファ６０３を有する。トランスコーダ６００はまた、制御情報６０４に従ってトランスコーディング制御ユニット（ＴＣＵ）６１０によって作動される１つまたはそれ以上のオブジェクトに基づいたトランスコーダ６３０を有する。ユニットＴＣＵは、形状分析器、ＱＯテクスチャ分析器、時間分析器、およびメタデータ分析器６１１〜６１４を有する。
【００５８】
圧縮された入力ビットストリーム６０５は、デマルチプレクサによって１つまたはそれ以上のオブジェクトに基づいた基本ビットストリームに分割される。オブジェクトに基づいたビットストリームは、直列または並列であり得る。ビットストリーム６０５の全ビットーレートはＲｉｎである。トランスコーダ６００からの圧縮された出力ビットストリーム６０６は全ビットレートＲｏｕｔを有し、Ｒｏｕｔ＜Ｒｉｎである。デマルチプレクサ６０１は、オブジェクトに基づいたトランスコーダ６３０のそれぞれに１つまたはそれ以上の基本ビットストリームを提供し、オブジェクトに基づいたトランスコーダは、オブジェクトデータ６０７をＴＣＵ６１０に与える。
【００５９】
トランスコーダは、基本ビットストリームをスケーリングする。スケーリングされたビットストリームは、出力バッファ６０３に渡される前にマルチプレクサ６０２によって構成され、そこから受信機に渡される。出力バッファ６０３はまた、レートフィードバック情報６０８をＴＣＵに与える。
【００６０】
上記のように、トランスコーダのそれぞれに渡される制御情報６０４は、ＴＣＵによって提供される。図４に示すように、ＴＣＵは、形状データおよびテクスチャの分析６１１、６１２に関与する。分析中、ＴＣＵはまたネットワークデータ６０９を用いることができる。ＴＣＵはまた、メタデータ分析６１４を行う。時間品質の分析によって、可変時間解像度を用いたトランスコーディングが可能になる。
【００６１】
符号化／トランスコーディング方法
図５は、本発明による映像入力７０１を符号化およびトランスコード化するための方法７００のステップを示す。この方法で用いられる映像入力７０１は、符号化器５００の場合には、圧縮されていない映像であり、トランスコーダ６００の場合には、圧縮された映像である。ステップ７１０において、映像入力７０１はオブジェクト７１１に分割される。ステップ７２０において、各オブジェクトから形状特徴７２１が経時的に抽出される。形状抽出は、上記のように、距離またはマクロブロックに基づき得る。ステップ７３０において、モーション特徴が経時的に各オブジェクトから選択的に抽出される。最適な時間解像度を決定するために抽出され、考慮され得る他の特徴には、コーディング複雑さ、例えば、空間複雑さ、ＤＣＴ複雑さ、テクスチャ複雑さなどが含まれる。ステップ７４０では、抽出された特徴が組み合わせられ、ステップ７５０において様々なオブジェクト７１１を符号化またはトランスコード化している間に、用いられる時間解像度７４１が決定される。
【００６２】
例示的な符号化シナリオ
図６は、映像オブジェクトの展開形状を経時的に分析することに基づいた例示的な符号化シナリオをいくつか示す。ここでは、入力は、第１および第２の抽出されたオブジェクトシーケンス８０１〜８０２である。グラフ８１０および８２０は、形状特徴、例えば、経時的（ｔ）な形状差（Δ）をプロットしている。時間ｔ１とｔ２との間のオブジェクト形状は比較的一定していることに留意されたい。グラフ８１１および８２１は、経時的な各オフジェクトの内部モーション特徴を選択的にプロットしている。第１のオブジェクトは内部モーションが非常に少ないのに対して、第２のオブジェクトの内部モーションは非常に高いことに留意されたい。結合器８５０（ＲＣＵ５９２またはＴＣＵ６１０）は、恐らく、最大、合計、比較、または他の組み合わせ関数を用いて抽出された特徴を考慮し、得られるビットを実際のコーディング中にどのようにして最良に様々なオブジェクトにわたって分配するのかを決定する。
【００６３】
シナリオ８３１において、インターバル［ｔ１、ｔ２］では第１のオブジェクトは全くコード化されず、得られるすべてのビットは第２のオブジェクトに割り付けられる。これは、時間ｔ１およびｔ２において映像の品質が観察できるほど顕著に突然変化するという効果を有し得る。より良好なシナリオ８３２では、インターバル［ｔ１、ｔ２］中により低い時間解像度を用い得るか、またより良好には解像度は次第に減少し、その後次第に増加する。シナリオ８３３では、時間インターバル［ｔ０、ｔ１］と［ｔ２、ｔｅｎｄ］中にさらに多くのビットが第２のオブジェクトに割り付けられ、次いで、インターバル［ｔ１、ｔ２］中に第２のオブジェクトのより高い内部モーションを反映する。
【００６４】
上記の新しい自由度はすべて、オブジェクトに基づいたトランスコーディングフレームワークをネットワーク応用に関して非常に特有かつ望ましいものにする。ＭＰＥＧ−２およびＨ．２６３コーディング基準のように、ＭＰＥＧ−４は、モーション補償およびＤＣＴを用いて映像の空間−時間冗長を活用する。その結果、本発明のオブジェクトに基づいたトランスコーダの核心は、上記のＭＰＥＧ−２トランスコーダの適応である。主な相違は、形状情報がビットストリーム内に含まれ、テクスチャコーディングに関しては、ブロック内についてのＤＣおよびＡＣを予測するためにツールが設けられていることである。
【００６５】
テクスチャのトランスコーディングが実際には形状データに依存していることに留意することも重要である。換言すれば、形状データを単に解析し、無視することはできない。規格ビットストリームのシンタックスは、復号化形状データに依存する。
【００６６】
明らかに、本発明のオブジェクトに基づいた入力および出力ビットストリーム６０５、６０６は、従来のフレームに基づいた映像プログラムとは全く異なる。また、ＭＰＥＧ−２は、動的なフレームスキッピングを可能にしない。ＭＰＥＧ−２では、ＧＯＰ構造および基準フレームが通常固定されている。
【００６７】
非リアルタイムシナリオの場合、コンテンツ６５１および対応するコンテンツ記述子６５２はデータベース６５０に格納される。コンテンツ記述子は特徴抽出器６４０から生成され、この特徴抽出器６４０は、入力オブジェクトに基づいたビットストリーム６０５を受け取る。コンテンツを送信する時間になると、入力ビットストリームは、上記のように、デマルチプレクサ６０１およびトランスコーダに与えられる。メタデータは、ＴＣＵ内でメタデータ分析器６１４に送信される。
【００６８】
時間分析の機能性
オブジェクトに基づいた符号化器またはトランスコーダにおける時間コントローラの主な目的は、図２を参照しながら上述した構成問題を避けながら、受信機側での構成シーンの品質を最大にすることである。これらの制約下で品質を最大にするためには、信号内の時間冗長をできるだけ活用する必要がある。
【００６９】
大部分の映像コーディング方式によると、モーション補償プロセスにおいて、時間冗長は除去される。しかし、すべてのコーディングユニットまたはマクロブロックに対してモーションベクトルを特定することは、実際に必要とされている以上のことであり得る。モーションベクトルに対するビットに加えて、モーション補償差の残りもコード化されなければならない。重要な点は、品質を最大にするために、すべてのオブジェクトを時間毎にコード化する必要はないことである。このように、これらの保存ビットは、異なる時間において、さらに他の重要なオブジェクトに用いられ得る。
【００７０】
非リアルタイムシナリオでは、時間コントローラは、形状歪みメトリクスを用いて、シーン内の形状における移動量を示す。この測定は、米国特許出願第０９／５４６,７１７号に規定されているような様々なキューレベルでのシーンに関連し得る。この特徴（または測定）が抽出されるキューレベルに応じて、時間コントローラは、シーン内のオブジェクトの時間解像度に衝撃を与える様々な方法を提供し得る。これらの方法は、符号化器およびトランスコーダに適用可能である。
【００７１】
リアルタイムシナリオでは、時間コントローラは同様に作用する。しかし、潜在制約のために観察は限定されているため、因果データのみ考慮される。従って、時間コーディング決定は、即座に行われる。
【００７２】
上記のように、形状歪みメトリックの抽出は、画素または圧縮ドメインのいずれかにおいて行われ得る。歪み情報がどこから抽出されるかに関係なく、時間制御の決定プロセスには許容誤差が導入され得ることに留意されたい。換言すると、規定領域における利得がかなりのものである場合には、応用によっては、少量の規定されていない領域を許容し得るものもある。
【００７３】
この場合、［０，１］間の重み付けが規定される。ここで、０は、形状境界に動きがないことを意味し、１は、形状境界が全く異なっていることを意味する。重み付けは、先に規定された形状歪みメトリクスの関数であり、百分率または正規化値に対応し得る。他方、構成問題を全く考慮しない応用では、この重み付けは、存在しない。むしろ、過剰重み付け（即ち、０または１）のみが有効である。
【００７４】
ある許容可能な量の規定されていない画素が受信される状況では、簡単な処理後補間技術またはエラー隠匿に基づいた他の技術を用いてこれらの画素を回収することが可能である。
【００７５】
【発明の効果】
可変時間解像度符号化の効果および利点
本発明による時間コントローラは以下の効果および利点を提供する。
【００７６】
オブジェクトが可変時間解像度を用いて符号化またはトランスコード化され得る瞬間を決定する。固定された不均一なフレームレートを映像セグメントのオブジェクトに割り当てる。キーフレームを抽出または見出し、コンテンツの要約を可能にする。
【００７７】
ビット割り付けを向上させるか、またはオブジェクトの形状の変化が大きい映像の部分（フレーム）に対してビットを保存する。このようなフレームは、形状情報について必要とされるよりもさらにビットを要求する。テクスチャ情報の品質を維持するためにさらなるビットが必要とされ得る。
【００７８】
上記実施の形態を例示することによって本発明を説明したが、言うまでもなく、様々な適応および改変は、本発明の精神および範囲内でなされ得る。従って、添付の請求の範囲の目的は、本発明の真の精神および範囲内にあるこのようなすべての変形および改変を網羅することである。
【図面の簡単な説明】
【図１】  ２つの映像オブジェクトから再構築されたシーンのブロック図である。
【図２】  異なる時間解像度を有する２つの映像オブジェクトから再構築されたシーンのブロック図である。
【図３】  本発明による符号化器のブロック図である。
【図４】  本発明によるトランスコーダのブロック図である。
【図５】  本発明による符号化法のフローチャートである。
【図６】  図５の方法によって用いられる例示的な符号化法のフローチャートである。
【図７】  従来のトランスコーダのブロック図である。
【図８】  従来の部分復号化器／符号化器のブロック図である。
【図１】
0004786114.tif 000004
【図２】
0004786114.tif 000005
【図３】
0004786114.tif 000006
【図４】
0004786114.tif 000007
【図５】
0004786114.tif 000008
【図６】
0004786114.tif 000009
【図７】
0004786114.tif 000010
【図８】
0004786114.tif 000011