(57)【要約】本発明は、グループ・オブ・ピクチャ（ＧＯＰ）として既知の少なくとも２つの連続ピクチャを備えるセットにグループ化されたピクチャシーケンスを表現するための方法に関し、これによってテクスチャ化メッシュ化３次元モデルが該ＧＯＰの各々と関連付けられる。本発明によると、頂点は共通の頂点として既知であり、ｎレベルのＧＯＰと関連した３次元モデルが、ｎ−１レベルのＧＯＰと関連した３次元モデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの該頂点を考慮する不規則メッシュによって表現される。
2006527945.tif 000002
【特許請求の範囲】
【請求項１】
ＧＯＰと称される、少なくとも２つの連続ピクチャのセットにグループ化されたピクチャのシーケンスを表現する方法であって、テクスチャ化メッシュ化３次元モデルが前記ＧＯＰの各々と関連している、ここで、頂点は共通の頂点と称され、レベルｎのＧＯＰと関連した３次元モデルが、レベルｎ−１のＧＯＰと関連した３次元モデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの前記頂点を考慮する不規則メッシュによって表現される、方法。
【請求項２】
少なくとも２つの連続３次元モデルはまた、これと関連した、前記少なくとも２つの３次元モデルに共通の前記頂点から構築された基本モデルを有する請求項１に記載の表現方法。
【請求項３】
前記３次元モデルのうちの１つから別の１つへの移動が、第１のセットのウェーブレット係数を使用するウェーブレット変換によって実行される請求項１および２のいずれかに記載の表現方法。
【請求項４】
前記３次元モデルの１つが、第２のセットのウェーブレット係数を使用するウェーブレット変換によって前記関連基本モデルから得られる請求項１〜３のいずれかに記載の表現方法。
【請求項５】
レベルｎの前記不規則メッシュは、レベルｎの前記ＧＯＰのピクチャのうちの１つの２次元不規則メッシュである請求項１〜４のいずれかに記載の表現方法。
【請求項６】
前記メッシュ化ピクチャがレベルｎの前記ＧＯＰの第１のピクチャである請求項５に記載の表現方法。
【請求項７】
前記３次元モデルの各々がこれを表現する前記不規則メッシュの仰角によって得られる請求項１〜６のいずれかに記載の表現方法。
【請求項８】
前記不規則２次元メッシュが前記ピクチャの規則的三角形メッシュの連続簡略化によって得られる請求項５〜７のいずれかに記載の表現方法。
【請求項９】
前記不規則２次元メッシュが前記ピクチャの所定の対象ポイントのＤｅｌａｕｎａｙメッシュから得られる請求項５〜７のいずれかに記載の表現方法。
【請求項１０】
２つの連続ＧＯＰは少なくとも１つの共通ピクチャを有する請求項１〜９のいずれかに記載の表現方法。
【請求項１１】
前記レベルｎ−１およびｎに共通の前記頂点が、レベルｎ−１の前記ＧＯＰの第１のピクチャと、レベルｎの前記ＧＯＰの第１のピクチャとの間の動きの推定によって検出される請求項１〜１０のいずれかに記載の表現方法。
【請求項１２】
前記検出された共通の頂点を記憶するためのステップを含む請求項１１に記載の表現方法。
【請求項１３】
レベルｎのＧＯＰと関連した前記モデルを表現する前記不規則メッシュはまた、レベルｎ＋１のＧＯＰと関連したモデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの頂点を考慮する請求項１〜１２のいずれかに記載の表現方法。
【請求項１４】
前記第２のセットのウェーブレット係数が、前記関連３次元モデルの半規則的再メッシュ化に少なくとも１つの解析フィルタを適用することによって生成される請求項４〜１３のいずれかに記載の表現方法。
【請求項１５】
前記ウェーブレットが第二世代ウェーブレットである請求項３〜１４のいずれかに記載の表現方法。
【請求項１６】
前記ウェーブレットが、区分的アフィンウェーブレットと、多項式ウェーブレットと，バタフライ再分割スキームに基づいたウェーブレットとを備えるグループに属する請求項３〜１５のいずれかに記載の表現方法。
【請求項１７】
ＧＯＰと称される、少なくとも２つの連続ピクチャのセットにグループ化されたピクチャのシーケンスを表現する信号であって、テクスチャ化メッシュ化３次元モデルが前記ＧＯＰの各々と関連している、ここで、前記信号が、
少なくとも２つの不規則メッシュに共通の頂点から構築された基本モデルを含む少なくとも１つのフィールドであって、各々は３次元モデルを表現しており、前記少なくとも２つの３次元モデルは少なくとも２つの連続ＧＯＰと関連している、少なくとも１つのフィールドと、
前記基本モデルからのウェーブレット変換によって、前記ＧＯＰのうちの１つと関連した少なくとも１つの３次元モデルの構築に使用された１セットのウェーブレット係数を含む少なくとも１つのフィールドと、
前記３次元モデルのうちの１つと関連した少なくとも１つのテクスチャを含む少なくとも１つのフィールドと、
少なくとも１つのカメラ位置パラメータを含む少なくとも１つのフィールドと
を備える、信号。
【請求項１８】
請求項１〜１６のいずれかの表現方法を実現する、ピクチャシーケンスを表現するための装置。
【請求項１９】
ＧＯＰと称される、少なくとも２つの連続ピクチャのセットにグループ化されたピクチャのシーケンスを表現するための装置であって、テクスチャ化メッシュ化３次元モデルが前記ＧＯＰの各々と関連している、ここで、前記装置が、
２つの連続３次元モデルを表現する少なくとも２つの不規則メッシュに共通な頂点から作成された少なくとも１つの基本モデルのウェーブレット変換によって前記３次元モデルを構築するための手段と、
前記３次元モデルから、テクスチャの少なくとも１つのピクチャおよび少なくとも１つのカメラ位置パラメータから、シーケンスの前記ピクチャを表現するための手段と
を備える、装置。
【請求項２０】
ＧＯＰと称される、少なくとも２つの連続ピクチャのセットにグループ化されたピクチャのシーケンスを符号化する装置であって、テクスチャ化メッシュ化３次元モデルが前記ＧＯＰの各々と関連している、ここで、前記装置が、
レベルｎのＧＯＰと関連した３次元モデルを符号化するための手段を備え、前記３次元モデルが、レベルｎ−１のＧＯＰと関連した３次元モデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの頂点を考慮する不規則メッシュによって表現される、装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の分野は、ピクチャ（つまり画像）シーケンスの符号化である。より具体的には、３次元モデル、つまり３Ｄモデルのストリームによるピクチャシーケンスの符号化技術に関する。
【背景技術】
【０００２】
３Ｄモデルによるビデオ符号化は、１つ以上のテクスチャ化３Ｄモデルによってビデオシーケンスを表現する点であることが想起されるであろう。ピクチャシーケンスの符号器に送信される情報は、３Ｄモデルと、これと関連したテクスチャのピクチャと、シーケンスをフィルム化したカメラのパラメータとからなる。
【０００３】
従って、このタイプの符号化は、ビデオシーケンスが一般的に１セットの画素によって表現される従来の符号化技術よりも低いビットレートの達成を可能にする。しかし、これは送信にかなりのコストがかかる。
【０００４】
さらに、従来の符号化技術と比較して、３Ｄモデルによるこのような符号化技術は、再構築されたシーケンスへの一定の機能の追加を可能にする。従って、シーンの照明を変更し、立体表示を得て、（ビデオシーケンスである場合には）シーケンスを安定化させ、シーンにオブジェクトを追加し、あるいはシーンのフリーナビゲーションをシミュレーションするために視点を変更したりすることが可能である（フリーナビゲーションはオリジナル経路に対するカメラの経路の変更として画定されてもよい）。
【０００５】
従って、３Ｄモデルをビデオシーケンスから抽出する方法に対してピクチャ符号化マーケットにおいて主要な需要がある。事実、リアルな３Ｄシーンを開始すると、３Ｄモデリングは、過去に想定されていた合成方法によって得られたものよりかなり写真に近い描写のコンテンツを得るために使用される。さらに、上記機能を使用すると、リアルなシーンの仮想モデルの取得によって、ｅコマース、ビデオゲーム、シミュレーション、特殊効果または地理的局所化における用途など多数の用途を想定することができる。
【０００６】
現在、ビデオピクチャから３Ｄモデルを構築するための複数の技術が知られている。
【０００７】
能動的技術として知られている特定の技術はリアルシーンのライティングの制御を必要とし、一般的に、複数の角度のビューと深度に関する多量のデータとを取得するためにレーザー技術や多数のカメラを使用する。
【０００８】
受動的技術として知られている他の技術はその一部について、高度計算アルゴリズムに依存しており、またピクチャ間の関係性またはシルエットのいずれかに基づいている。これらは主に必要な較正レベルおよび可能な双方向度によって相互に異なる。これらは１セットの写真やピクチャから１つの３Ｄ情報を再構築することからなり、また主に以下の２つの問題に直面する。
対応性を確立または判断することである。これは所与のピクチャのゾーンについて、他のピクチャにおける対応するゾーンを見つけることである（このゾーンはピクチャのポイントまで縮小されてもよい）。
ピクチャ成形パラメータ（つまり、（焦点距離などの）カメラの内在的パラメータとその外在的パラメータ（シーケンスの異なるピクチャを取得するためのカメラ位置など））の推定からなるカメラを較正することである。
【０００９】
対応性を確立することは、一般的に、Ｖ．Ｍ．Ｂｏｖｅ  ａｎｄ  ａｌ．によって「Ｓｅｍｉ−ａｕｔｏｍａｔｉｃ  ３Ｄ−ｍｏｄｅｌ  ｅｘｔｒａｃｔｉｏｎ  ｆｒｏｍ  ｕｎｃａｌｉｂｒａｔｅｄ  ２Ｄ  ｃａｍｅｒａ  ｖｉｅｗｓ」．Ｐｒｏｃｅｅｄｉｎｇｓ  Ｖｉｓｕａｌ  Ｄａｔａ  Ｅｘｐｌｏｒａｔｉｏｎ  ａｎｄ  Ａｎａｌｙｓｉｓ，１９９５に説明されるようにマニュアルで実行される。
【００１０】
その較正は面倒なプロセスであり、これと関連した計算アルゴリズムはしばしば不安定である。従って、多数の方法が、「ターンテーブル」（Ｗ．Ｎｉｅｍ、「Ｒｏｂｕｓｔ  ａｎｄ  Ｆａｓｔ  Ｍｏｄｅｌｉｎｇ  ｏｆ  ３Ｄ  Ｎａｔｕｒａｌ  Ｏｂｊｅｃｔｓ  ｆｒｏｍ  Ｍｕｌｔｉｐｌｅ  Ｖｉｅｗｓ」，ｖｃｉｐ１９９４，１９９４）やモバイルロボットの使用（Ｊ．Ｗｉｎｇｂｅｒｍｕｈｌｅ、「Ａｕｔｏｍａｔｉｃ  Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ  ｏｆ  ３Ｄ  Ｏｂｊｅｃｔ  Ｕｓｉｎｇ  ａ  Ｍｏｂｉｌｅ  Ｍｏｎｏｓｃｏｐｉｃ  Ｃａｍｅｒａ」，Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｒｅｃｅｎｔ  Ａｄｖａｎｃｅｓ  ｉｎ  ３Ｄ  Ｉｍａｇｉｎｇ  ａｎｄ  Ｍｏｄｅｌｉｎｇ、Ｏｔｔａｗａ、Ｃａｎａｄａ、１９９７）に応じて、人手による動作（Ｅ．Ｂｏｙｅｒ  ａｎｄ  ａｌ．，「Ｃａｌｉｂｒａｇｅ  ｅｔ  Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ  ａ  ｌ’ａｉｄｅ  ｄｅ  Ｐａｒａｌｌｅｌｅｐｉｐｅｄｅｓ  ｅｔ  ｄｅ  Ｐａｒａｌｌｅｌｏｇｒａｍｍｅｓ」（Ｃａｌｉｂｒａｔｉｏｎ  ａｎｄ  Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ  ｔｈｒｏｕｇｈ  Ｐａｒａｌｌｅｌｅｐｉｐｅｄｓ  ａｎｄ  Ｐａｒａｌｌｅｌｏｇｒａｍｓ）Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  １３th  Ｆｒｅｎｃｈ  Ｓｐｅａｋｅｒｓ’  Ｃｏｎｇｒｅｓｓ  ｏｎ  Ｓｈａｐｅ  Ｒｅｃｏｇｎｉｔｉｏｎ  ａｎｄ  Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｒｌｌｉｇｅｎｃｅ，２００２）または複雑な取得システムのいずれかを必要とする較正済みシーケンスに依拠している。
【００１１】
特定の他の自動または半自動方法において、対応性の確立はマニュアルで管理されない。例えば、Ａ．Ｆｉｔｚｇｉｂｂｏｎ  ａｎｄ  ａｌ．，（「Ａｕｔｏｍａｔｉｃ  Ｌｉｎｅ  Ｍａｔｃｈｉｎｇ  ａｎｄ  ３Ｄ  Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ  ｏｆ  Ｂｕｉｌｄｉｎｇ  ｆｒｏｍ  Ｍｕｌｔｉｐｌｅ  Ｖｉｅｗｓ」，ＩＡＰＲＳ，Ｍｕｎｉｃｈ，Ｇｅｒｍａｎｙ，１９９９）またはＣ．Ｚｅｌｌｅｒ  ａｎｄ  ａｌ．，（「３−Ｄ  Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ  ｏｆ  Ｕｒｂａｎ  Ｓｃｅｎｅ  ｆｒｏｍ  Ｓｅｑｕｅｎｃｅ  ｏｆ  Ｉｍａｇｅｓ」，ＩＮＲＩＡ，Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｅｃｈｎｏｌｏｇｙ  ２５７２、１９９５）によって説明された技術を参照してもよい。
【００１２】
しかしながら、これらの半自動または自動方法は、再構築されるシーンについて多数の想定がなされることを必要としており、例えば、アーキテクチャシーンにのみ適用可能である。
【００１３】
従来、自動３Ｄ再構築方法は以下のステップを実現する。
特定のポイントまたはラインを検出するステップと、ピクチャ間の対応性を確立するステップと、ここで、このステップにおいて、ビデオシーケンスに沿って前のステップで抽出された特定のポイントやラインがある、ステップと、異なるピクチャを相互に関連付けるステップと、３Ｄポイントを投影再構築するステップと、必要ならば測定基準の３Ｄモデルを目的として自動較正したり較正を改良したりするステップと（事実、モデルの双方向性操作はユークリッド空間で実行される）、テクスチャ化３Ｄモデルを推定するステップとである。
【００１４】
上記アルゴリズムに基づいた特定のアプローチは、単眼カメラによって付与されたデータから３Ｄモデルを動きについて再構築することを可能にする（つまり、カメラ、または再構築されるシーンの内在的または外在的パラメータのいずれかについての先験的な（ａ  ｐｒｉｏｒｉ）な知識はない）。例えば、Ｐ．Ｄｅｂｅｖｅｃ  ａｎｄ  ａｌ．によって「Ｐａｎｅｌ  Ｓｅｓｓｉｏｎ  ｏｎ  Ｖｉｓｕａｌ  Ｓｃｅｎｅ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ」，Ｓｍｉｌｅ２０００，２０００において、あるいはＧ．Ｃｒｏｓｓ  ａｎｄ  ａｌ．，の「ＶＨＳ  ｔｏ  ＶＲＭＬ：３Ｄ  Ｇｒａｐｈｉｃａｌ  Ｍｏｄｅｌｓ  ｆｒｏｍ  Ｖｉｄｅｏ  Ｓｅｑｕｅｎｃｅｓ」，ＩＥＥＥ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｍｕｌｔｉｍｅｄｉａ  Ｃｏｍｐｕｔｉｎｇ  ａｎｄ  Ｓｙｓｔｅｍ，Ｆｌｏｒｅｎｃｅ，１９９９によって説明された技術を参照してもよい。
【００１５】
「Ｍｏｄｅｌｉｎｇ  Ｓｔｒｕｃｔｕｒｅｄ  Ｅｎｖｉｒｏｎｍｅｎｔｓ  ｂｙ  ａ  Ｓｉｎｇｌｅ  Ｍｏｖｉｎｇ  Ｃａｍｅｒａ」，Ｓｅｃｏｎｄ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  ３−Ｄ  Ｉｍａｇｉｎｇ  ａｎｄ  Ｍｏｄｅｌｉｎｇ，１９９９においてＪ．Ｒｏｎｉｎｇ  ａｎｄ  ａｌ．は、検出された輪郭および拡張Ｋａｌｍａｎフィルタから第１のモデルを推定する方法を提案している。しかしながら、この方法は、輪郭に大きく左右され、また複雑なシーンに不適切であるとうい欠点を有する。
【００１６】
「ＶＨＳ  ｔｏ  ＶＲＭ：３Ｄ  Ｇｒａｐｈｉｃａｌ  Ｍｏｄｅｌｓ  ｆｒｏｍ  Ｖｉｄｅｏ  Ｓｅｑｕｅｎｃｅｓ」，ＩＥＥＥ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｍｕｌｔｉｍｅｄｉａ  Ｃｏｍｐｕｔｉｎｇ  ａｎｄ  Ｓｙｓｔｅｍ，Ｆｌｏｒｅｎｃｅ，１９９９において、Ｇ．Ｃｒｏｓｓ  ａｎｄ  ａｌ．はＨａｒｒｉｓ法によってポイントを検出して、幾何学推定と同時に異なるビュー間の対応性を確立するための方法を提供する。ポイントは、２つのビュー間のエピポーラ幾何学、または３つのビュー間の３焦点幾何学と結びつけられたクロス相関によって対応付けられ、これによってガイドマッチングが可能になる。そして対応性の事例はシーケンスに拡張され、またバンドル調整によって最適化される。そして３*４投影マトリックスおよび（自動較正による）３Ｄユークリッド構成が得られ、これにはオリジナルピクチャのテクスチャがある。これは幾何学の不完全性をマスクする。
【００１７】
しかしながら、この方法の欠点は、２つの連続ピクチャ間の動きが相対的に小さくなければならず、またピクチャシーケンスは合理的なサイズでなければならないという点である。従って、本方法はいずれのピクチャシーケンスにもふさわしくない。
【００１８】
また２つのアプローチがＵｎｉｖｅｒｓｉｔｙ  ｏｆ  Ｌｏｕｖａｉｎで提案されている。
【００１９】
第１のアプローチ（Ｍ．Ｐｏｌｌｅｆｅｙｓ，「Ｔｕｔｏｒｉａｌ  ｏｎ  ３Ｄ  Ｍｏｄｅｌｉｎｇ  ｆｒｏｍ  Ｉｍａｇｅｓ」，ｅｃｃｖ２０００，２０００）によると、検出されたピクチャの特定のポイントまたはラインが抽出されて、（上記文献に説明された）Ｔｏｒｒのアルゴリズムによって対応付けられる。同時に、較正と矛盾する対応性の排除を可能にするために、制限較正が評価される。Ｂｅａｒｄｓｌｅｙの方法（Ｍ．Ｐｏｌｌｅｆｅｙｓ，「Ｔｕｔｏｒｉａｌ  ｏｎ  ３Ｄ  Ｍｏｄｅｌｉｎｇ  ｆｒｏｍ  Ｉｍａｇｅｓ」，ｅｃｃｖ２０００，２６  Ｊｕｎｅ  ２０００，Ｄｕｂｌｉｎ，Ｉｒｅｌａｎｄ）が、最初の２つのピクチャおよび他のビューの投影マトリックスに対する粗い投影再構築を得るために使用される。ある未知数をそのデフォルト値に固定し、絶対的円錐曲線の概念を適用する際に、自動較正は、測定基準の表現に移動するためにカメラの内部パラメータを検索することを可能にする。そして複数の情報は、較正時に計算された格差および回転マップから、複数のピクチャで相互に対応するポイントを連結させる方法（下向き鎖および上向き鎖）で共通の３Ｄモデルに統合される。大きなオブジェクトについては、多重解像度アプローチが提案されている。
【００２０】
しかしながら、この技術の欠点は、大きなオブジェクトについて提案された多重解像度アプローチが、ビュー全体だけでなく詳細部分にもアクセスするために、同一シーンの複数のビデオシーケンスの使用可能性を要するという点である。
【００２１】
第２の技術（Ｇｏｏｌ  ａｎｄ  ａｌ．，「Ｆｒｏｍ  ｉｍａｇｅ  ｓｅｑｕｅｎｃｅｓ  ｔｏ  ３Ｄ  ｍｏｄｅｌｓ」，Ｔｈｉｒｄ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｗｏｒｋｓｈｏｐ  ｏｎ  Ａｕｔｏｍａｔｉｃ  Ｅｘｔｒａｃｔｉｏｎ  ｏｆ  Ｍａｎ−ｍａｄｅ  Ｏｂｊｅｃｔｓ  ｆｒｏｍ  Ａｅｒｉａｌ  ａｎｄ  Ｓｐａｃｅ  Ｉｍａｇｅｓ，２００１）によると、ピクチャの特定のポイントやラインは、（Ｍ．ｐｏｌｌｅｆｅｙｓによって、「Ｔｕｔｏｒｉａｌ  ｏｎ  ３Ｄ  Ｍｏｄｅｌｉｎｇ  ｆｒｏｍ  Ｉｍａｇｅｓ」，ｅｃｃｖ２０００，２６Ｊｕｎｅ  ２０００，Ｄｕｂｌｉｎ，Ｉｒｅｌａｎｄにおいて説明された）ＨａｒｒｉｓまたはＳｈｉおよびＴｏｍａｓａｉ方法によって検出される。そしてこれらの特徴は対応付けられ、あるいはピクチャまたはビデオシーケンスのいずれに関するかによって、異なるビュー間にある。これらの対応性から、ビュー間の関連性が、ＴｏｒｒやＦｉｓｈｅｒおよびＢｏｌｌｅｓの方法などのロバスト方法によって算出される。投影再構築について、２つの画像またはピクチャが、内在的パラメータに対する投影マトリックスおよび近似回転マトリックスを判断する際に、かつ三角測量によって初期再構築を得るために選択される。そして他のビューに対応するカメラの位置はエピポーラ幾何学によって判断される。そして構成はポイントごとに拡張された（Ｍ．Ｐｏｌｌｅｆｅｙｓによって、「Ｔｕｔｏｒｉａｌ  ｏｎ  ３Ｄ  Ｍｏｄｅｌｉｎｇ  ｆｒｏｍ  Ｉｍａｇｅｓ」，ｅｃｃｖ２０００，２６Ｊｕｎｅ  ２０００，Ｄｕｂｌｉｎ，Ｉｒｅｌａｎｄにおいて説明された）Ｋａｌｍａｎフィルタの使用によって改良される。構成および動きがシーケンス全体について得られると、バンドル調整が実行される。自動較正によって、投影再構築からユークリッド再構築までの移動が実行される。そして仮想３Ｄモデルが、深度が使用可能でないポイントを排除する際に、シーケンスのピクチャのうちの１つに三角形メッシュを上げることによって得られる。
【００２２】
本方法の欠点は、単純なシーン以外では良好な結果を付与せず、複雑なシーンにはふさわしくないという点である。
【００２３】
より一般的には、上記の従来技術の全ては、（例えばカメラのパラメータに関する）ピクチャシーケンスの取得および／またはシーンのコンテンツやシーケンスの長さについてなされる推定を簡略化する必要があるという欠点を有する。すなわち、これらの異なる方法は、不特定な、場合によっては複雑なシーンおよびピクチャシーケンスにはふさわしくない。
【００２４】
符号化本位の方法である最終的方法が、Ｆｒａｎｃｋ  Ｇａｌｐｉｎによって、「Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ３Ｄ  ｄｅ  ｓｅｑｕｅｎｃｅ  ｖｉｄｅｏ：Ｓｃｈｅｍａ  ｄ’ｅｘｔｒａｃｔｉｏｎ  ａｕｔｏｍａｔｉｑｕｅ  ｄ’ｕｎ  ｆｌｕｘ  ｄｅ  ｍｏｄｅｌｅｓ  ３Ｄ，ａｐｐｌｉｃａｔｉｏｎｓ  ａ  ｌａ  ｃｏｍｐｒｅｓｓｉｏｎ  ｅｔ  ａ  ｌａ  ｒｅａｌｉｔｅ  ｖｉｒｔｕｅｌｌｅ」（３Ｄ  ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ｏｆ  ｖｉｄｅｏ  ｓｅｑｕｅｎｃｅｓ：ｓｃｈｅｍｅ  ｆｏｒ  ｔｈｅ  ａｕｔｏｍａｔｉｃ  ｅｘｔｒａｃｔｉｏｎ  ｏｆ  ａ  ｓｔｒｅａｍ  ｏｆ  ３Ｄ  ｍｏｄｅｌｓ，ａｐｐｌｉｃａｔｉｏｎ  ｃｏｍｐｒｅｓｓｉｏｎ  ａｎｄ  ｔｏ  ｖｉｒｔｕａｌ  ｒｅａｌｉｔｙ），Ｕｎｉｖｅｒｓｉｔｙ  ｏｆ  Ｒｅｎｎｅｓ  １，２００２において提案されている。ピクチャシーケンス全体について単一の３Ｄモデルを再構築することが考えられている従来技術の他の方法とは異なって、Ｆｒａｎｃｋ  Ｇａｌｐｉｎの方法の主要な考えは、各々がＧＯＰ（つまりグループ・オブ・ピクチャ）として知られているシーケンスの１セクションについて有効である複数のモデルを得るためのビデオシーケンスの区分的処理である。
【００２５】
シーンは静的であり（つまり、動きの意味でセグメント化されており）、また単眼カメラによって動きをフィルム化されており、取得パラメータ（カメラの内在的および外在的パラメータ）は未知であり、カメラの焦点距離は一定であり、またシーンは全くまたはほとんど鏡面を含んでいないと想定される。シーンのコンテンツとカメラの動きは、不特定のコンテンツおよび動きであるとされる。
【００２６】
シーケンスのリモートピクチャ（つまりＧＯＰを区別するキーピクチャ）間の推定を可能にするために、光学フローの等化または変形可能な２Ｄメッシュに基づいて動きの緻密な推定がなされる。キーピクチャは並行して選択され、３Ｄモデルの推定のサポートとして作用する。カメラの内在的および外在的パラメータのロバスト算出もまたキーピクチャについて実行され、スライディングウィンドウバンドル調整の方法によって３Ｄ幾何学と同時に改良される。中間ピクチャの位置は、図１に示されるように、オリジナルシーケンスの再構築を可能にするために、Ｄｅｍｅｎｔｈｏｎによる局所化によって推定される（特にＦｒａｎｃｋ  Ｇａｌｐｉｎ「Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ３Ｄ  ｄｅ  ｓｅｑｕｅｎｃｅ  ｖｉｄｅｏ：ｓｃｈｅｍａ  ｄ’ｅｘｔｒａｃｔｉｏｎ  ａｕｔｏｍａｔｉｑｕｅ  ｄ’ｕｎ  ｆｌｕｘ  ｄｅ  ｍｏｄｅｌｅｓ  ３Ｄ，ａｐｐｌｉｃａｔｉｏｎ  ａ  ｌａ  ｃｏｍｐｒｅｓｓｉｏｎ  ｅｔ  ａ  ｌａ  ｒｅａｌｉｔｅ  ｖｉｒｔｕｅｌｌｅ」（３Ｄ  ｒｅｐｒｅｓｅｎｔａｉｏｎ  ｏｆ  ｖｉｄｅｏ  ｓｅｑｕｅｎｃｅｓ：ｓｃｈｅｍｅ  ｆｏｒ  ｔｈｅ  ａｕｔｏｍａｔｉｃ  ｅｘｔｒａｃｔｉｏｎ  ｏｆ  ａ  ｓｔｒｅａｍ  ｏｆ  ３Ｄ  ｍｏｄｅｌｓ，ａｐｐｌｉｃａｔｉｏｎ  ｃｏｍｐｒｅｓｓｉｏｎ  ａｎｄ  ｔｏ  ｖｉｒｔｕａｌ  ｒｅａｌｉｔｙ），Ｕｎｉｖｅｒｓｉｔｙ  ｏｆ  Ｒｅｎｎｅｓ  １，Ｊａｎｕａｒｙ  ２００２を参照）。
【００２７】
初期シーケンスは、ＧＯＰと称されるピクチャグループに合成された複数の連続ピクチャＩkを含む。従って、ピクチャＩ0〜Ｉ5は、１と称され、かつこれと関連した３ＤモデルＭ0を有する第１のＧＯＰ内に共にグループ化される。ピクチャＩ5〜Ｉ13は、２と称され、かつこれと関連した第２のモデルＭ1を有する第の２ＧＯＰ内に組み立てられる。
【００２８】
この最後に述べた従来技術の方法は、この文書に上述された他の方法によって付与されるよりも良好な結果を符号化に関して得るために使用可能である。図２ａ〜２ｅは、一方では本技術に従って、他方ではＨ２６Ｌ技術に従って、低ビットレートで得られた結果を示している。より具体的には、図２ａは、ＰＳＮＲの展開を示しており、図２ｂおよび２ｃはそれぞれ、８２ｋｂ／ｓのビットレートについてＨ２６技術（つまり、Ｈ２６４技術、特に「Ｓｌｉｄｉｎｇ  ａｄｊｕｓｔｍｅｎｔ  ｆｏｒ  ３Ｄ  ｖｉｄｅｏ  ｒｅｐｒｅｓｅｎｔａｉｏｎ」，Ｆｒａｎｃｋ  ＧａｌｐｉｎおよびＬｕｃｅ  Ｍｏｒｉｎ、ｅｕｒａｓｉｐ  ２０００，ｐａｇｅｓ  １０８８〜２００１を参照）に従って得られたピクチャと、このピクチャの詳細なゾーンとを示しており、図２ｄおよび２ｅは、Ｆｒａｎｃｋ  Ｇａｌｐｉｎによる３Ｄモデルのストリームを使用する方法に従って得られた同一ピクチャを示している。
【００２９】
図２ａにおいて、第１の曲線（図面の最上）は、Ｆｒａｎｃｋ  Ｇａｌｐｉｎの方法に従って３Ｄモデルをテクスチャ空間に再投影することによって得られた、つまり幾何学的ひずみを考慮していない再構築シーケンスの客観的品質に関する。図２ａの他の２つの曲線は、Ｆｒａｎｃｋ  Ｇａｌｐｉｎの方法によって、かつピクチャ空間のＨ２６４符号器によって得られた、再構築シーケンスの客観的品質を示している。
【００３０】
客観的測定（すなわち、ＰＳＮＲつまりピーク信号対雑音比）に関して、得られた性能はＦｒａｎｃｋ  Ｇａｌｐｉｎ符号器およびＨ２６Ｌ符号器に類似しているが、視覚的観点から、得られた品質は、特に詳細に対する忠実度およびブロック効果の欠如などに関して３Ｄモデルストリームに基づいた符号器によってより高いことに注目すべきである。
【００３１】
さらに、３Ｄモデルストリームに基づいた本符号化技術は、図３ａ〜３ｃに示されるように、十分な視覚的品質によって極めて低いビットレートを得るために使用可能であり、図面はそれぞれ、１６ｋｂ／ｓのビットレートに対する、ＰＳＮＲの展開と、本技術に従って得られたピクチャと、このピクチャの詳細な領域とを示している。
【００３２】
３Ｄモデルストリームの抽出に応じて、Ｆｒａｎｃｋ  Ｇａｌｐｉｎの方法は、上記の単一の３Ｄモデルを抽出する方法に固有の特定の欠点を示していないが、特定の問題に直面している。
【００３３】
特に、この従来技術の欠点は、ピクチャシーケンスについて得られた３Ｄモデルの全てが部分的にのみ冗長的である点であり、本技術を、１シーンのフリーナビゲーションの適用にふさわしくないものとしている。
【００３４】
事実、得られた異なる３Ｄモデルは異なる参照システムで表され、（ドリフト、および異常ポイントなどに関して）多数の不完全性を示している。
【００３５】
この従来技術の別の欠点は、（上記の他のアプローチとは異なり）符号化を目的としているが、幾何学の観点からではなく、ピクチャのテクスチャの観点からのみスケーリング可能であるという点である。
【００３６】
従って、本方法は、極めて多様な処理能力を有するディスプレイ端末での実現や、可変ビットレートの送信ネットワークにふさわしくない、つまり不適合である。
【００３７】
本発明は特に、従来技術のこれらの欠点を克服することを目的としている。
【００３８】
より具体的には、本発明の目的は、複雑なものを含む、固定的または静的ピクチャやシーンの任意のタイプのシーケンスに適した３Ｄモデルによってピクチャシーケンスを表現するための技術を提供することである。特に、本発明の目的は、想定がなされず、かつ特徴も動きも既知ではない大規模消費者製品である装置によって取得されたシーンの再構築を可能にする種類の技術を実現することである。
【００３９】
本発明の別の目的は、シーケンスの取得に使用されたカメラのオリジナル経路から離れた動きがある場合でも、高い視覚的品質の再投影によって生成されたシーケンスを得るために使用可能な種類の技術を実現することである。
【００４０】
本発明のさらに別の目的は、低い、かつ極めて低いビットレートに適した種類の技術を提供することである。
【００４１】
本発明の目的はまた、大型シーンに特に十分適した種類の技術を実現することである。
【００４２】
本発明のさらに別の目的は、符号化および仮想ナビゲーションの適用に適した種類の技術を提供することである。
【００４３】
本発明のさらに別の目的は、特にポータブル用途について異なるビットレートでネットワーク上の送信を可能にするために、ピクチャシーケンスのスケーリング可能な表現を得るために使用可能な種類の技術を実現することである。
【００４４】
本発明のさらに別の目的は、上記のＦｒａｎｃｋ  Ｇａｌｐｉｎの技術よりも高い視覚的品質のシーンを同一のビットレートで表現するために使用可能な種類の技術を提供することである。
【００４５】
また本発明の目的は、同一の視覚的品質のピクチャシーケンスを表現する場合に、上記のＦｒａｎｃｋ  Ｇａｌｐｉｎの技術と比較して低いビットレートを得るために使用可能な種類の技術を実現することである。
【００４６】
これらの目的ならびに、以下に見られる他の目的は、ＧＯＰと称される少なくとも２つの連続ピクチャのセットにグループ化されたピクチャシーケンスを表現するための方法であって、テクスチャ化メッシュ化３Ｄモデルは該ＧＯＰの各々と関連している方法の手段によって達成される。
【００４７】
本発明によると、レベルｎのＧＯＰと関連した３Ｄモデルは、レベルｎ−１のＧＯＰと関連した３Ｄモデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの頂点を考慮する不規則メッシュによって表現され、該頂点は共通の頂点と称される。
【００４８】
従って、本発明は、３Ｄモデルによるピクチャシーケンスの表現に対する完全に新規のかつ発明的アプローチに依拠している。事実、Ｆｒａｎｃｋ  Ｇａｌｐｉによって提案された方法の場合のように、本発明は、各々がＧＯＰと称されるグループ・オブ・ピクチャと関連した、シーケンスの全ピクチャに対する一意の３Ｄモデルの抽出ではなく、３Ｄモデルのストリームの抽出に依拠するアプローチを提案している。
【００４９】
さらに、本発明は、特にその冗長性を増大させるために、ＧＯＰの各々と関連した異なる３Ｄモデル間の対応性を設定することによってＦｒａｎｃｋ  Ｇａｌｐｉｎの技術の発明的改良を提案している。従って、本発明は好都合なことに、双方向ナビゲーションタイプの適用を可能にする。
【００５０】
連続３Ｄモデル間のこの種類の対応性は、ピクチャの特異性に特に十分適したピクチャの不規則メッシュの使用によって可能になる。従って、３Ｄモデルの不規則メッシュは前の３Ｄ頂点の不規則メッシュの少なくとも１つの特異な頂点（あるいは、より具体的にはピクチャの特定のポイントまたはライン）を考慮する。
【００５１】
従って、同等の視覚的品質に対して、本発明は、異なる３Ｄモデル間の冗長性ゆえに、ピクチャシーケンスの送信のビットレートを削減する。また同一ビットレートについて、連続３Ｄモデル間のピクチャの特異性を追跡することによって、ピクチャシーケンスの表現のより良好な視覚的品質を得ることを可能にする。
【００５２】
本発明の有利な特徴によると、少なくとも２つの連続３Ｄモデルはまた、これと関連して、該少なくとも２つの３Ｄモデルに共通の該頂点から構築された基本モデルを有する。
【００５３】
ピクチャシーケンスの本質に応じて、シーケンスと関連した３Ｄモデルの全てが、これらに対応する同一の基本メッシュを有することが可能である。この基本メッシュ、つまり異なる３Ｄモデルが改良を構成する粗いメッシュは、これと関連した全３Ｄモデルに共通の幾何学的構成に対応する。
【００５４】
好ましくは、該３Ｄモデルの１つから別のモデルへの移動は、第１のセットのウェーブレット係数を使用するウェーブレット変換によって実行される。
【００５５】
好都合なことに、該３次元モデルの１つは、第２のセットのウェーブレット係数を使用するウェーブレット変換によって該関連基本モデルから得られる。
【００５６】
従って、本発明は、ネットワークの特徴やディスプレイ端末の関数として適合可能なピクチャシーケンスのスケーリング可能な送信を可能にする。シーケンスの再構築に対して送信される要素は、カメラのパラメータに加えて、第１に基本メッシュであり、第２に、異なる３Ｄモデルを再構築するために使用された異なるウェーブレット係数である。不特定多数のウェーブレット係数の送信は、送信ネットワークのビットレートやディスプレイ端末の容量に適合された不特定な高い再構築品質を付与する。
【００５７】
好ましくは、レベルｎの該不規則メッシュは、レベルｎの該ＧＯＰのピクチャのうちの１つの２次元不規則メッシュである。
【００５８】
好都合なことに、該メッシュ化ピクチャは、レベルｎの該ＧＯＰの第１のピクチャである。
【００５９】
好ましくは、該３次元モデルの各々は、これを表現する該不規則メッシュの仰角によって得られる。
【００６０】
従って、深度情報は、仰角によってメッシュ化深度マップを得るために２Ｄメッシュと組み合わされる。
【００６１】
本発明の第１の有利な変形例によると、該不規則２次元メッシュは、該ピクチャの規則的三角形メッシュの連続簡略化によって得られる。
【００６２】
例えば、動作はサイド１によって三角形から開始し、ピクチャの全ポイントをカバーする。
【００６３】
本発明の第２の有利な変形例によると、該不規則２次元メッシュは、該ピクチャの所定の対象ポイントのＤｅｌａｕｎａｙメッシュから得られる。
【００６４】
これらの対象ポイントは、例えばＨａｒｒｉｓおよびＳｔｅｐｈｅｎアルゴリズムによって事前に検出される。
【００６５】
好ましくは、２つの連続ＧＯＰは少なくとも１つの共通なピクチャを有する。
【００６６】
従って、ＧＯＰの最後のピクチャは次のＧＯＰの最初のピクチャでもある。
【００６７】
本発明の有利な特徴によると、該レベルｎ−１およびｎに共通の該頂点は、レベルｎ−１の該ＧＯＰの最初のピクチャと、レベルｎの該ＧＯＰの最初のピクチャとの間の動きの推定によって検出される。
【００６８】
好都合なことに、この種の方法は、該検出された共通の頂点を記憶するためのステップを含む。
【００６９】
そして、これらの記憶された共通の頂点は、次のＧＯＰと関連したモデルの構築について使用されてもよい。
【００７０】
好ましくは、レベルｎのＧＯＰと関連した該モデルを表現する該不規則メッシュは、レベルｎ＋１のＧＯＰと関連したモデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの頂点を考慮する。
【００７１】
このように双方向に作用することによって、再構築時に視覚的品質はさらに上がる。
【００７２】
好都合なことに、該第２のセットのウェーブレット係数は、該関連３次元モデルの半規則的再メッシュ化について少なくとも１つの解析フィルタを適用することによって生成される。
【００７３】
半規則的メッシュは、６個の隣接する頂点を有していない頂点がメッシュ上で分離されるための（つまり、相互に隣接するメッシュではない）メッシュである点が想起されるであろう。
【００７４】
好ましくは、該ウェーブレットは第二世代ウェーブレットである。
【００７５】
好ましくは、該ウェーブレットは、区分的アフィンウェーブレットと、多項式ウェーブレットと、バタフライ再分割スキームに基づいたウェーブレットとを備えるグループに属する。
【００７６】
本発明はまた、ＧＯＰと称される少なくとも２つの連続ピクチャのセットにグループ化されたピクチャシーケンスを表現する信号であって、テクスチャ化メッシュ化３Ｄモデルは該ＧＯＰの各々に関連している信号に関する。
【００７７】
本発明によると、このような信号は、少なくとも２つの不規則メッシュに共通の頂点から構築された基本モデルを含む少なくとも１つのフィールドであって、各々が３次元モデルを表現しており、該少なくとも２つの３次元モデルは少なくとも２つの連続ＧＯＰと関連している、少なくとも１つのフィールドと、該基本モデルからのウェーブレット変換によって、該ＧＯＰのうちの１つと関連した少なくとも１つの３次元モデルの構築に使用された１セットのウェーブレット係数を含む少なくとも１つのフィールドと、該３次元モデルのうちの１つと関連した少なくとも１つのテクスチャを含む少なくとも１つのフィールドと、少なくとも１つのカメラ位置パラメータを含む少なくとも１つのフィールドとを備えている。
【００７８】
本発明はまた、上記表現方法を実現するピクチャシーケンスを表現するための装置に関する。
【００７９】
本発明はまた、ＧＯＰと称される少なくとも２つの連続ピクチャのセットにグループ化されたピクチャシーケンスを表現するための装置であって、テクスチャ化メッシュ化３Ｄモデルは該ＧＯＰの各々と関連している装置に関する。
【００８０】
本発明によると、このような装置は、２つの連続３次元モデルを表現する少なくとも２つの不規則メッシュに共通な頂点から作成された少なくとも１つの基本モデルのウェーブレット変換によって該３次元モデルを構築するための手段と、該３次元モデルから、テクスチャの少なくとも１つのピクチャから、かつ少なくとも１つのカメラ位置パラメータからシーケンスの該ピクチャを表現するための手段とを備えている。
【００８１】
本発明はまた、ＧＯＰと称される少なくとも２つの連続ピクチャのセットに組み立てられたピクチャシーケンスを符号化するための装置であって、テクスチャ化メッシュ化３Ｄモデルは該ＧＯＰの各々と関連している装置に関する。
【００８２】
本発明によると、この種の符号化装置は、レベルｎのＧＯＰと関連した３次元モデルを符号化するための手段を備えており、該３次元モデルは、レベルｎ−１のＧＯＰと関連した３次元モデルを表現する少なくとも１つの不規則メッシュの少なくとも１つの頂点を考慮する不規則メッシュによって表現される。
【００８３】
本発明の他の特徴および利点は、例証や非制限的例および添付の図面によって付与される好ましい実施形態に関する以下の説明からより明確になる。
【発明を実施するための最良の形態】
【００８４】
本発明の一般原理は、シーケンスのピクチャのコンテンツに適した、かつ前の３Ｄモデルの不規則メッシュの頂点の対応性を考慮する、不規則メッシュが関連した３Ｄモデルのストリームの抽出に基づいている。
【００８５】
図４を参照すると、３次元モデルによるビデオシーケンスの再構築の一般原理を簡単に想起することができる。
【００８６】
現実のシーン、この場合はカメラ４３によってフィルム化された（４２）オブジェクト４１（ここではティーポット）を考える。大規模消費者製品であってもよいこのカメラの本質についても、ビデオシーケンスの取得パラメータについても想定されない。
【００８７】
ビデオシーケンスのディジタル化４４の後、オリジナルシーケンスと称されるべきピクチャシーケンス４５が得られる。
【００８８】
このオリジナルシーケンスの解析４６によって、少なくとも１つの３Ｄモデル４７が構築され（本発明に従った複数の３Ｄモデル）、これによって、ピクチャシーケンス４９を、ディスプレイ端末で表示するために再構築する（４８）ことが可能になる。
【００８９】
次に図５を参照して、第１にテクスチャ化メッシュ化３Ｄモデルのストリームに、第２のウェーブレット変換の実現に基づく本発明の一般原理を示す。
【００９０】
各３Ｄモデルはオリジナルのピクチャシーケンスの一部、すなわちＧＯＰ（つまりグループ・オブ・ピクチャ）に対応する。考慮された３Ｄモデルは制限的に不規則にメッシュ化された不規則メッシュ化仰角マップであり、これによって前のモデルの頂点の対応性は考慮される。この制限は、連続モデルの頂点間の正確な対応性を保証する。
【００９１】
モデル間を移動するために使用された変換はウェーブレットに分解され、従って、ウェーブレットの本質的なスケーリング性によって、変換の正確さがビットレートに適合される。
【００９２】
さらに本発明は、図４に示されるように、１つ以上の連続ＧＯＰと関連した基本モデルの再構築に依存している。
【００９３】
オリジナルのピクチャシーケンスは連続ピクチャＩkによって構成される。図４はピクチャＩ0、Ｉ3、Ｉ5、Ｉ10、Ｉ20、Ｉ30、Ｉ40、Ｉ50およびＩ60をより具体的に示している。このシーケンスは不特定な長さであってもよく、制限的な前提は本発明に必要ない。
【００９４】
ピクチャシーケンスＩkは、ＧＯＰと称される連続ピクチャグループに分割される。従って、第１のＧＯＰ５０はＩ0〜Ｉ5と称されたピクチャを含み、第２のＧＯＰ５１はピクチャＩ5〜Ｉ20を含み、（ｋ＋１）番目のＧＯＰ５２は特にピクチャＩ30〜Ｉ40を含み、（ｋ＋２）番目のＧＯＰ５３はピクチャＩ40〜Ｉ60を含む。図４の好ましい実施形態において、ＧＯＰの最後のピクチャは次のＧＯＰの最初のピクチャでもあることに注目する。従って、ピクチャＩ5は、例えば第１のＧＯＰ５０および第２のＧＯＰ５１に属する。
【００９５】
これらのＧＯＰ５０〜５３の各々について、３ＤモデルＭkが構築される。３ＤモデルＭ0はＧＯＰ５０と関連しており、３ＤモデルＭ1はＧＯＰ５１と関連している。
【００９６】
その３ＤモデルＭkが改良を構成する、ＭＢkと称される１セットの基本モデルもまた構築される。従って、図４において、基本モデルＭＢ0は３ＤモデルＭ0〜Ｍkと関連しており、基本モデルＭＢ1は３ＤモデルＭk、Ｍk+1およびこれらに続く３Ｄモデルと関連している。
【００９７】
１セットの所定の特定ポイントがある全ＧＯＰの３Ｄモデルに、このような粗いモデルＭＢkを関連付けるように選択される。これらのポイントのいくつかが次の３Ｄモデルにもはや現れない場合には、新たな基本モデルＭＢk+1に移動するように選択される。
【００９８】
従って、別個に得られているが全て同一の基本メッシュ、つまり関連した共通の粗いモデルのそれに基づいている、異なる３ＤモデルＭkをウェーブレットに分解することが可能である。
【００９９】
オリジナルシーケンスのピクチャの本質、および多数のこれらのピクチャ間の共通のゾーンの存在に応じて、基本メッシュＭＢkは不特定多数のＧＯＰに対して、場合によってはピクチャシーケンス全体に対して有効である。
【０１００】
従って、これらの基本モデルＭＢkを介して、第１にこれに対応する基本メッシュによって、第２に１セットのウェーブレット係数によって各推定済み３ＤモデルＭkを表すことができる。
【０１０１】
この表現は図６の図面に要約されており、ここで係数
【数１】
2006527945.tif 000003
は３ＤモデルＭkから次への移動の変換に関するウェーブレット係数を表しており、係数
【数２】
2006527945.tif 000004
は、基本モデルＭＢkと関連３ＤモデルＭk間の改良に関するウェーブレット係数を表している。
【０１０２】
従って、ウェーブレット係数
【数３】
2006527945.tif 000005
は、モデルＭkから３ＤモデルＭk+1に移動するために使用される。そのうちのウェーブレット係数
【数４】
2006527945.tif 000006
は、３ＤモデルＭkから関連基本モデル（この場合はモデルＭＢ1）への移動を示している。
【０１０３】
従って、第１のセットのウェーブレット係数
【数５】
2006527945.tif 000007
は異なるモデルＭk間のリンクを画定し、これによって、対応性間の線形補間によって、またはウェーブレットによって絶対的に、モデル間の移動および中間モデルの生成を可能にする。
【０１０４】
第２のセットのウェーブレット
【数６】
2006527945.tif 000008
は異なるモデルの（ビットレートに関して）漸次的かつ効果的な送信を提供する。従って、本発明の技術は、その処理能力に関係なく全タイプの端末に、またそのビットレートに関係なく全タイプの送信ネットワークに適合可能である。
【０１０５】
以下図７を参照して、オリジナルのピクチャシーケンスを表現するためのモデルおよび関連テクスチャの符号化時に本発明に従って実現された異なるステップを示す。
【０１０６】
アルゴリズムの入力において、図４を参照してここに示されたように、現実世界のシーンまたはオブジェクトから撮られた異なるショットに対応する１セットの自然ピクチャＩn〜Ｉmがある。本発明の好ましい実施形態において、ピクチャはｐｐｍフォーマットおよびｐｇｍフォーマットである。本発明は当然、他のピクチャフォーマットにも適用可能である。
【０１０７】
まず、ピクチャＩnおよびＩn+p間の動きフィールドＣn、n+pならびに３Ｄ情報の推定に対する全サポートポイント、つまりＨａｒｒｉｓおよびＳｔｅｐｈｅｎ検出器による最高スコアを有し、かつ規則的に破棄されるピクチャＩnおよびＩn+p間の動き推定に使用されたメッシュの頂点のセットεn、n+pを判断するために、動き推定７１がオリジナルシーケンスの異なるピクチャ間で実行される。
【０１０８】
次いで、シーケンスの異なるＧＯＰを区別するオリジナルシーケンスのキーピクチャＫkの選択が実行される（７２）。
【０１０９】
オリジナルシーケンスがビデオシーケンスである場合、ＧＯＰを判断するキーピクチャＫkの選択７２が、Ｆｒａｎｃｋ  Ｇａｌｐｉｎ  ａｎｄ  ａｌ．によって、「Ｓｌｉｄｉｎｇ  Ａｄｊｕｓｔｍｅｎｔ  ｆｏｒ  ３Ｄ  Ｖｉｄｅｏ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ」ＥＵＲＡＳＩＰ  Ｊｏｕｒｎａｌ  ｏｎ  Ａｐｐｌｉｅｄ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｉｇ  ２００２：１０に展開されたアルゴリズムに従って実行される（特に段落５．１．Ｓｅｌｅｃｔｉｏｎ  Ｃｒｉｔｅｒｉａを参照のこと）。従って、開始および終了ＧＯＰのこの選択７２は３つの基準の妥当性に左右される。
３Ｄ情報の再構築に十分な平均的な動きと、ＧＯＰの２つの最遠ピクチャ間の共通ポイントの比較的高いパーセンテージと、（エピポーラ残余によって評価された）推定幾何学の妥当性とである。
【０１１０】
第１の選択されたキーピクチャはオリジナルシーケンスの第１のピクチャＩ0である。
【０１１１】
３ＤモデルＭkの抽出、つまり基本マトリックスの推定と投影マトリックスおよびカメラ位置の推定７３はまた、Ｆｒａｎｃｋ  Ｇａｌｐｉｎによって「Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ３Ｄ  ｄｅ  ｓｅｑｕｅｎｃｅｓ  ｖｉｄｅｏ：Ｓｃｈｅｍａ  ｄ’ｅｘｔｒａｃｔｉｏｎ  ａｕｔｏｍａｔｉｑｕｅ  ｄ’ｕｎ  ｆｌｕｘ  ｄｅ  ｍｏｄｅｌｅｓ  ３Ｄ，ａｐｐｌｉｃａｔｉｏｎｓ  ａ  ｌａ  ｃｏｍｐｒｅｓｓｉｏｎ  ａｎｄ  ａ  ｌａ  ｒｅａｌｉｔｅ  ｖｉｒｔｕｅｌｌｅ」（３Ｄ  ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ｏｆ  ｖｉｄｅｏ  ｓｅｑｕｅｎｃｅｓ：ｓｃｈｅｍｅ  ｆｏｒ  ｔｈｅ  ａｕｔｏｍａｔｉｃ  ｅｘｔｒａｃｔｉｏｎ  ｏｆ  ａ  ｓｔｒｅａｍ  ｏｆ  ３Ｄ  ｍｏｄｅｌｓ，ａｐｐｌｉｃａｔｉｏｎ  ｃｏｍｐｒｅｓｓｉｏｎ  ａｎｄ  ｔｏ  ｖｉｒｔｕａｌ  ｒｅａｌｉｔｙ）、Ｕｎｉｖｅｒｓｉｔｙ  ｏｆ  Ｒｅｎｎｅｓ  １，２０００および「Ｓｌｉｄｉｎｇ  Ａｄｊｕｓｔｍｅｎｔ  ｆｏｒ  ３Ｄ  Ｖｉｄｅｏ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ」ＥＵＲＡＳＩＰ  Ｊｏｕｒｎａｌ  ｏｎ  Ａｐｐｌｉｅｄ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｉｎｇ  ２００２：１０に展開された技術を利用する。技術はまた、３Ｄモデリングのクラシックアルゴリズムに依存する。
【０１１２】
ビデオシーケンスではなくて１セットのピクチャの場合、原理は３Ｄ情報の抽出と同じである。しかしながら、この推定の基本は、次のピクチャの対応性がブロックマッチングによって検索される、（「Ａ  Ｃｏｍｂｉｎｅｄ  Ｃｏｒｎｅｒ  ａｎｄ  Ｅｄｇｅ  Ｄｅｔｅｃｔｏｒ」，Ｐｒｏｃ．４ｔｈ  Ａｌｖｅｙ  Ｖｉｓｉｏｎ  Ｃｏｎｆ．，１９９８に説明された）ＨａｒｒｉｓおよびＳｔｅｐｈｅｎ検出器に対して高スコアを有する現在のピクチャの１セットの特定ポイントである。さらに、送信されるモデル数は、オリジナルシーケンスの再構築について考慮されるピクチャの選択７２を実現することによって制限される。この選択７２は、ビデオシーケンスの場合は、キーピクチャの選択と同じ基準に基づいている。
【０１１３】
従って、ＧＯＰ  ｋのキーピクチャＫkの選択７２の後、ＧＯＰ  ｋと関連した動きフィールドＣkは、ＧＯＰ  ｋの開始および終了ピクチャ間の動きフィールドであると判断される。
【０１１４】
較正７５もまた、ピクチャシーケンスの取得に使用されたカメラの内在的および外在的パラメータの全て、特にピクチャＩkと関連したカメラの位置Ｐkを判断するために実行される。
【０１１５】
第１にこの位置Ｐkによって、第２に既知のＧＯＰ  ｋと関連した動きフィールドＣkによって、推定（７４）は、ＧＯＰ  ｋと関連した深度マップＺkからなる。
【０１１６】
ＧＯＰ  ｋと関連したオリジナルシーケンスのキーピクチャＫkの全てもまた記憶される（７６）。
図７で７１〜７６と称されたブロックのより具体的な動作モードについて上記参照された、Ｆｒａｎｃｋ  Ｇａｌｐｉｎによる２つの公報を参照してもよい。
【０１１７】
再構築を目的として、２次元不規則メッシュ７７が強制的に深度マップＺkから作成され、ここでは、ピクチャＫkに含まれる前のＧＯＰと関連したモデルの頂点の対応性が考慮される。
【０１１８】
この２Ｄメッシュは２通りの方法で算出されてもよい。サイド１による三角形の規則的メッシュからの連続簡略化によるもの（つまりピクチャの全ポイント）と、事前に検出された対象ポイントのＤｅｌａｕｎａｙメッシュによるものとである。
【０１１９】
メッシュがレベルｎで判断された場合、推定（７８）は、（これもまた本発明の好ましい実施形態において、ＧＯＰｎ＋１の第１のピクチャである）ＧＯＰ  ｎの最後のピクチャのこれらのポイントの対応性の動きフィールドＣnによって実行される。対応する頂点のこのリストもまた記憶され（７８）、ＧＯＰ  ｎ＋１と関連したモデルのメッシュ化７７時に使用される。
【０１２０】
簡略化によって得られた２Ｄメッシュの場合、制約が課され、これによってこのリスト７８のポイントは最終メッシュに存在する。
【０１２１】
Ｄｅｌａｕｎａｙメッシュの場合、Ｄｅｌａｕｎａｙ三角測量によって得られたＧＯＰ  ｎ＋１と関連したメッシュの頂点は、ＨａｒｒｉｓおよびＳｔｅｐｈｅｎアルゴリズム、（「Ａ  Ｃｏｍｂｉｎｅｄ  Ｃｏｒｎｅｒ  ａｎｄ  Ｅｄｇｅ  Ｄｅｔｅｃｔｏｒ」，Ｐｒｏｃ．４ｔｈ  Ａｌｖｅｙ  Ｖｉｓｉｏｎ  Ｃｏｎｆ．，１９８８）、またはＧＯＰ  ｎ＋１のキーピクチャＫn+1上の対象ポイントの他の適切な検出器によって検出された特定ポイントと、ＧＯＰ  ｎと関連したメッシュの頂点の対応性とである。
【０１２２】
レベルｎで算出された対応性Ｃ（Ｅn）のリストは、ＧＯＰ  ｎ＋１のキーピクチャにおいてＨａｒｒｉｓによって検出された頂点間にはないＧＯＰ  ｎのモデルの頂点を考慮するために使用可能である。
【０１２３】
これは、１つのモデルの頂点の対応性が次のモデルに存在することを保証し、これによってこれら２つのモデル間のリンク７９を極めて容易にする。事実、モデル間の対応性７９は、動きフィールドによって正確に得られる。
【０１２４】
本発明の一代替実施形態において、より正確な変換７９を得るために、この研究は強制的に現在のモデルのメッシュを置くことによって双方向になされ、これによって、考慮されるのは前のモデルの頂点だけではなく、次のモデルの頂点でもある。
【０１２５】
ＧＯＰを表現する３Ｄモデルの幾何学に対応する３ＤメッシュＭkは、８０と称されるブロックで示されるような推定２Ｄメッシュの仰角によって得られる。
【０１２６】
２つの連続モデルの頂点間の対応性７８のセットアップは、ウェーブレット係数によってモデルＭkからモデルＭk+1に移動するために使用される変換７９を表す。
【０１２７】
波長によってこの変換を表すことの有用性は、変換の正確さが、ウェーブレットの自然なスケーリング可能性によってビットレートに適合可能であるという点にある。
【０１２８】
分解に使用されたウェーブレットは第二世代ウェーブレットである、つまりこれらはベクター空間構成を全く有していないセットで画定可能である。この場合、図６の表記によって、ウェーブレットは基本モデルＭＢ0、ＭＢ1などに画定される。
【０１２９】
基本メッシュＭＢiと、ＭＢiおよび３ＤモデルＭi間の幾何学的対応性の使用可能性
によって、ウェーブレット係数は、Ｍiの半規則的再メッシュ化に解析フィルタを適用することによって生成される。ウェーブレット係数ｄは以下の線形システムの解像度である。
Ｔｄ＝ｃ
ここでＴは全合成のマトリックスであり、ｃはＭiの半規則的再メッシュ化での頂点の位置のセットである。
【０１３０】
Ｔは使用されたウェーブレットのタイプに左右される。３つのスキームが本発明において優先される。区分的アフィンウェーブレットと、多項式ウェーブレット（特にループウェーブレット）と、バタフライ再分割スキームに基づいたウェーブレット（Ｊ．Ｗａｒｒｅｎ  ａｎｄ  ａｌ．，「Ｍｕｌｔｉｒｅｓｏｌｕｔｉｏｎ  Ａｎａｌｙｓｉｓ  ｆｏｒ  Ｓｕｒｆａｃｅｓ  ｏｆ  Ａｒｂｉｔｒａｒｙ  Ｔｏｐｏｌｏｇｉｃａｌ  Ｔｙｐｅ」，ＡＣＭ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｇｒａｐｈｉｃｓ，ｖｏｌ．１６，ｐｐ．３４−７３、１９９７）である。
【０１３１】
従って、マトリックスＴは、
Ｔ＝（ＰＱ）
というフォームを有する。
ここでＰは再分割スキームのみを表現するサブマトリックスであり（アフィン、ループ、バタフライ、・・・）、サブマトリックスＱはウェーブレット係数の幾何学的解釈である。
【０１３２】
本発明の好ましい実施形態において、Ｑは、ウェーブレット係数がゼロモーメントを有するように選択される。一般的に、Ｔは可逆的なので、ＰおよびＱは任意であってもよい。
【０１３３】
図７は、ＧＯＰｋについて説明されたアプローチを要約している。以下の表記が本図面で使用される。Ｉn〜Ｉmは入力ピクチャであることと、Ｃn、n+pはピクチャＩnおよびＩn+p間の動きフィールドであることと、ＣkはＧＯＰ  ｋと関連した動きフィールドであることと、Ｃ（Ｖ）は動きフィールドによって見つけられたセットＶのポイントの対応性のセットであることと、εmは３Ｄ情報の推定のサポートポイントのセットであることと（ＨａｒｒｉｓおよびＳｔｅｐｈｅｎ検出器による最高スコアを有しかつ規則的に破棄される、動き推定に使用されたメッシュの頂点）、ＥkはＧＯＰ  ｋと関連した３Ｄモデルの頂点のセットであることと、ＺkはＧＯＰ  ｋと関連した深度マップであることと、ＫkはＧＯＰ  ｋと関連したキーピクチャに対応するオリジナルシーケンスのピクチャであることと、ＭkはＧＯＰｋと関連した３Ｄモデルであることと、ＰmはピクチャＩmと関連したカメラ位置であることと、θkはＭkおよびＭk+1間の移動の変換を画定するウェーブレット係数のセットであることと、ＶkはモデルＭkに対応するメッシュの頂点のセットであることである。
【０１３４】
符号器８１は、オリジナルシーケンスの異なるピクチャＩkに対するカメラの位置Ｐk、テクスチャ化３Ｄモデルの推定Ｍk、およびモデルＭk-1からモデルＭkへの変換を可能にするウェーブレット係数の入力を受け取る。
【０１３５】
図７に示されたＧＯＰ  ｋの各々の３ＤモデルＭkの推定と同時に、複数の連続ＧＯＰに有効な基本モデルＭＢiが構築される。
【０１３６】
このために、算出された動きフィールドＣkによって、ＧＯＰｋの第１のピクチャで検出された特定ポイントのセットがシーケンスの複数のピクチャに沿ってある。より正確には、複数の連続ＧＯＰに沿ったこれらのポイントの対応性の存在は、解析されたピクチャに含まれる対応性の数が所定の閾値未満になるまで検出される。この閾値は、再構築の可能性（つまり、基本マトリックスの推定）を保証するように選択されなければならない。例えばこれは７以下である。ＧＯＰで検出された特定ポイント数が閾値未満である場合、このことから、このＧＯＰは前のＧＯＰと同じ基本モデルＭＢiと関連していないことが推論される。
【０１３７】
ＧＯＰからＧＯＰへと追跡された特定ポイントのこのサブセットから、その頂点が全て、これらのポイントが追跡されたＧＯＰと関連したモデルＭkに存在する基本モデルＭＢiを再構築する。
【０１３８】
そして、これらの基本モデルつまり粗いモデルＭＢiは個々にウェーブレットに分解される。これは、同じ基本メッシュに依存する際に、Ｐ．Ｇｉｏｉａによって、「Ｒｅｄｕｃｉｎｇ  ｔｈｅ  ｎｕｍｂｅｒ  ｏｆ  ｗａｖｅｌｅｔ  ｃｏｅｆｆｉｃｉｅｎｔｓ  ｂｙ  ｇｅｏｍｅｔｒｉｃ  ｐａｒｔｉｔｉｏｎｉｎｇ」，Ｃｏｍｐｕｔａｔｉｏｎａｌ  ｇｅｏｍｅｔｒｙ，Ｔｈｅｏｒｙ  ａｎｄ  ａｐｐｌｉｃａｔｉｏｎｓ，ｖｏｌ．１４，１９９９に説明されている方法を実現することによって達成される。各３ＤモデルＭkは粗い基本モデルＭＢiの改良であると考えられる。
【０１３９】
従って、図６の係数
【数７】
2006527945.tif 000009
は以下のように得られる。同じＧＯＰからの基本メッシュは同一であり、再分割後これらは同一の半規則的メッシュを生成する。結果的に、係数
【数８】
2006527945.tif 000010
は、ｋが同一ＧＯＰにおいて変化する場合に同一の幾何学的頂点によってインデックス化される。従って、中間ｋごとに、係数
【数９】
2006527945.tif 000011
および
【数１０】
2006527945.tif 000012
間の差をこれらの頂点の各々に対応させる関数ｆkを画定することができる。次いで、この関数ｆkは前述のように、係数
【数１１】
2006527945.tif 000013
であるウェーブレット係数に分解される。
【０１４０】
従って、本発明は、一方では基本メッシュが、他方では異なるモデルと関連したウェーブレット係数が送信されるために、低コストで、オリジナルシーケンスと関連したモデルの幾何学の送信を可能にする。
【０１４１】
本発明の文脈において想定可能な用途は多数である。本発明はまた、特に（１セットの独立ピクチャかビデオシーケンスであってもよい）同一の固定シーンを表現するピクチャの符号化に適用可能である。このタイプの表現によって達成された圧縮レートは（通常２０ｋｂｉｔｓ／ｓの範囲で）低いかつ極めて低いビットレートにふさわしく、それゆえにポータブル用途を想定することが可能である。
【０１４２】
さらに、（復号化の際の）再投影によって得られた仮想シーケンスは、照明の変化、シーケンスの安定化、フリーナビゲーションおよびオブジェクトの追加などの、３Ｄによって可能にされた全ての機能を有する。
【図面の簡単な説明】
【０１４３】
【図１】すでに従来技術を参照して言及されている通り、３Ｄモデルのストリームによるビデオシーケンスの再構築の原理を示す。
【図２】（ａ）すでに従来技術を参照して言及されている通り、一方でＨ２６Ｌタイプの技術に従って、他方で図１の符号化技術に従って得られた視覚的結果の比較を示す。（ｂ）すでに従来技術を参照して言及されている通り、一方でＨ２６Ｌタイプの技術に従って、他方で図１の符号化技術に従って得られた視覚的結果の比較を示す。（ｃ）すでに従来技術を参照して言及されている通り、一方でＨ２６Ｌタイプの技術に従って、他方で図１の符号化技術に従って得られた視覚的結果の比較を示す。（ｄ）すでに従来技術を参照して言及されている通り、一方でＨ２６Ｌタイプの技術に従って、他方で図１の符号化技術に従って得られた視覚的結果の比較を示す。（ｅ）すでに従来技術を参照して言及されている通り、一方でＨ２６Ｌタイプの技術に従って、他方で図１の符号化技術に従って得られた視覚的結果の比較を示す。
【図３】（ａ）すでに従来技術を参照して言及されている通り、１６ｋｂ／ｓの低ビットレートについて、図１の技術に従って得られた結果を示す。（ｂ）すでに従来技術を参照して言及されている通り、１６ｋｂ／ｓの低ビットレートについて、図１の技術に従って得られた結果を示す。（ｃ）すでに従来技術を参照して言及されている通り、１６ｋｂ／ｓの低ビットレートについて、図１の技術に従って得られた結果を示す。
【図４】３Ｄモデルからのビデオシーケンスの再構築の一般原理を示す。
【図５】各々が１つ以上の３Ｄモデルに共通の基本モデルと関連した３Ｄモデルのストリームの抽出に応じた、本発明の一般原理を示す。
【図６】図４の３Ｄモデルの符号化に使用された異なるウェーブレット係数を示す。
【図７】シーケンスのピクチャを符号化するために、本発明に従って実現された異なるステップのブロック図である。
【図１】
2006527945.tif 000014
2006527945.tif 000015
2006527945.tif 000016
【図４】
2006527945.tif 000017
【図５】
2006527945.tif 000018
【図６】
2006527945.tif 000019
【図７】
2006527945.tif 000020
【国際調査報告】
2006527945.tif 000021
2006527945.tif 000022