(57)【要約】【課題】パフォーマンスが改良された、動き推定方法、動き推定器ユニット、奥行き推定方法、奥行き推定器ユニット  および画像処理装置を提供すること。【解決手段】動き推定の方法において画像（100）のセグメント（102-114）のツリー（120）は階層的なセグメンテーションを実行することによって生成される。セグメントのツリー（120）は、セグメント（104）の候補動きベクトルの集合（118）の生成を制御するために分析される。集合（118）の動きベクトルに対して、マッチ・ペナルティが、計算される。最後に、特定の動きベクトル（116）は、マッチ・ペナルティに基づいて候補動きベクトルの集合（118）から選択される。奥行き推定の方法において、奥行きデータは、動きベクトル及び視差の原則に基づいて計算される。【選択図】図１
2004534336.tif 000002
【特許請求の範囲】
【請求項１】
- 特定のセグメントの候補動きベクトルの集合を生成するステップと、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するステップと、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するステップと、
を含む、画像の各セグメントの動き推定方法において、
さらに、
- 階層的なセグメンテーションを実行することによって前記画像の前記各セグメントのツリーを生成するステップと、
- 前記特定のセグメントの候補動きベクトルの前記集合の前記生成を制御するために前記各セグメントの前記ツリーを分析するステップと、
を含むことを特徴とする動き推定方法。
【請求項２】
前記ツリーの前記各セグメントの動きベクトルは、前記各セグメントの前記ツリーを、トップダウン方向に再帰的に処理することによって推定されることを特徴とする請求項1に記載の動き推定方法。
【請求項３】
動きベクトルは、前記特定の動きベクトルのマッチ・ペナルティが満足されない場合に、前記特定のセグメントに対応している前記ツリーのノードの子に対応している各セグメントの中で推定されることを特徴とする請求項2に記載の動き推定方法。
【請求項４】
前記ツリーの前記各セグメントの前記動きベクトルは、前記各セグメントの前記ツリーを、ボトムアップ方向に処理することによって推定されることを特徴とする請求項1に記載の動き推定方法。
【請求項５】
前記特定のセグメントの候補動きベクトルの前記集合を生成する前記ステップは、
- 各隣接セグメントの動きベクトルを含んでいる候補動きベクトルの初期リストを生成するサブステップと、
- 前記ツリー内で前記対応している各ノードの位置に従って候補動きベクトルの前記初期リストを順序付けするサブステップと、
- 候補動きベクトルの前記初期リストを相対的に高い順序の候補動きベクトルに限定して、結果的に候補動きベクトルの前記集合を得るサブステップと、
を含むことを特徴とする請求項4に記載の動き推定方法。
【請求項６】
- 特定のセグメントの候補動きベクトルの集合を生成するための第1の生成手段と、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
を含む、画像の各セグメントの動き推定のための動き推定器ユニットにおいて、
さらに、
- 階層的なセグメンテーションを実行するために設計されている、前記画像の前記各セグメントのツリーを生成するためのセグメンテーション手段と、
- 前記第1の生成手段を制御するために前記各セグメントの前記ツリーを分析するための分析手段と、
を含むことを特徴とする動き推定器ユニット。
【請求項７】
前記各セグメントの前記ツリーを、トップダウン方向に再帰的に処理することによって、前記ツリーの前記各セグメントの動きベクトルを推定するように設計されていることを特徴とする請求項6に記載の動き推定器ユニット。
【請求項８】
前記特定の動きベクトルのマッチ・ペナルティが満足されない場合、前記特定のセグメントに対応している前記ツリーのノードの子に対応している各セグメントの動きベクトルを推定するために設計されていることを特徴とする請求項7に記載の動き推定器ユニット。
【請求項９】
前記各セグメントの前記ツリーを、ボトムアップ方向に処理することによって前記ツリーの前記各セグメントの動きベクトルを推定するように設計されていることを特徴とする請求項6に記載の動き推定器ユニット。
【請求項１０】
前記特定のセグメントの候補動きベクトルの前記集合を生成するための第1の生成手段は、
- 各隣接セグメントの動きベクトルを含んでいる候補動きベクトルの初期リストを生成するための第2の生成手段と、
- 前記ツリー内で前記対応している各ノードの位置に従う候補動きベクトルの前記初期リストをオーダーするためのオーダー手段と、
- 相対的に高いオーダーの候補動きベクトルに、候補動きベクトルの前記初期リストを限定するためのフィルタと、
を含むことを特徴とする請求項9に記載の動き推定器ユニット。
【請求項１１】
- 特定のセグメントの候補動きベクトルの集合を生成するステップと、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するステップと、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するステップと、
- 前記特定の動きベクトルに基づく前記特定のセグメントの奥行きデータを計算するステップと、
を含む、画像の各セグメントの奥行き推定方法において、
- 階層的なセグメンテーションを実行することによって前記画像の前記各セグメントのツリーを生成するステップと、
- 前記特定のセグメントの候補動きベクトルの前記集合の前記生成を制御するために前記各セグメントの前記ツリーを分析するステップと、
を含むことを特徴とする奥行き推定方法。
【請求項１２】
- 特定のセグメントの候補動きベクトルの集合を生成するための第1の生成手段と、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
- 前記特定の動きベクトルに基づいて前記特定のセグメントの奥行きデータを計算するための奥行き計算手段と、
を含む画像の各セグメントの奥行き推定のための奥行き推定器ユニットにおいて、
さらに、
- 階層的なセグメンテーションを実行することによって前記画像に対する前記各セグメントのツリーを生成するためのセグメンテーション手段と、
- 前記第1の生成手段を制御するために前記各セグメントの前記ツリーを分析するための分析手段と、
を含むことを特徴とする奥行き推定器ユニット。
【請求項１３】
− 特定のセグメントの候補動きベクトルの集合を生成するための生成器と、
− 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
− マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
を含んでいる、
- 画像の各セグメントの動き推定のための動き推定器ユニットと、
- 動き補償画像処理ユニットと、
を含む、画像処理装置において、
- 階層的なセグメンテーション方法を実行するために設計されている、前記画像の前記各セグメントのツリーを生成するためのセグメンテーション手段と、
- 前記生成器を制御するために前記各セグメントの前記ツリーを分析するための分析手段と、
を含むことを特徴とする動き推定ユニット。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、
- 特定のセグメントの候補動きベクトルの集合を生成するステップと、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するステップと、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するステップと、
を含む、画像の各セグメントの動き推定方法に関する。
【０００２】
さらに、本発明は、
- 特定のセグメントの候補動きベクトルの集合を生成するための生成器と、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
を含む、画像の各セグメントの動き推定のための動き推定器ユニットに関する。
【０００３】
さらに、本発明は、
- 特定のセグメントの候補動きベクトルの集合を生成するステップと、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するステップと、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するステップと、
- 前記特定の動きベクトルに基づく前記特定のセグメントの奥行きデータを計算するステップと、
を含む、画像の各セグメントの奥行き推定方法に関する。
【０００４】
さらに、本発明は、
- 特定のセグメントの候補動きベクトルの集合を生成するための生成器と、
- 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
- マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
- 前記特定の動きベクトルに基づいて前記特定のセグメントの奥行きデータを計算するための奥行き計算手段と、
を含む画像の各セグメントの奥行き推定のための奥行き推定器ユニットに関する。
【０００５】
さらに、本発明は、
− 特定のセグメントの候補動きベクトルの集合を生成するための生成器と、
− 各々の候補動きベクトルのマッチ・ペナルティを計算するための計算手段と、
− マッチ・ペナルティに基づいて候補動きベクトルの前記集合から特定の動きベクトルを選択するための選択手段と、
を含んでいる、
- 画像の各セグメントの動き推定のための動き推定器ユニットと、
- 動き補償画像処理ユニットと、
を含む、画像処理装置に関する。
【背景技術】
【０００６】
冒頭の段落に記載されている類の動き推定方法は、非特許文献1により知られている。
【０００７】
動き推定は、スキャンレートのアップコンバーション、非インターレース、及び時間的ノイズ低減のような、動き補償画像処理のための映像応用例において成功裡に使用されてきている。動き推定アルゴリズムのカテゴリは、「ブロック・マッチング」と称されている。ブロック・マッチングのアルゴリズムは、所定のブロック内の全ての画素が一様に移動すると仮定する反復最小化アルゴリズムである。そのブロックに対して、マッチ・ペナルティが、考えられる動きベクトル候補に対して最小にされる。マッチ・ペナルティは、例えば、絶対差分和（Sum of Absolute differences：SAD）又は平均二乗誤差（Mean Squared Error：MSE）としてもよい。通常、ブロックは、8x 8のピクセルである。
【０００８】
しかしながら、マッチ・ペナルティの最小化による動きベクトルの推定原理は、不規則な形状のセグメントに対しても作用する。その場合、動き推定／マッチ・ペナルティ計算は、セグメント・ベースで行われる。セグメントの境界が、明るさ又は色の不連続性となるかもしれない。このような場合には、セグメントを、シーンのオブジェクト、又はシーンのオブジェクトの一部とみなすことができる。
【０００９】
画像の各種のセグメントの最良の動きベクトルの検出方法では、検出速度は、セグメントの数、これらのセグメントの大きさ、及び各セグメントの考えられる候補動きベクトルの数に依存する。
【００１０】
検出精度は、2つのファクタに依存する。すなわち、
-  第1のファクタは、各セグメントの大きさである。その理由は、より大きいセグメントは、ノイズが発生しにくいからである。しかしながら、セグメントの大きさは、そのセグメントの動きが一定であるべきであるという事実によって限定される。それゆえに、各セグメントは、まだ同一の動きをしている最大領域と一致すべきであることが、好ましい。
【００１１】
-  第2のファクタは、候補動きベクトルの選択である。候補動きベクトルが限られた数しかテストされない場合、候補動きベクトルを正しく選択することは、極めて重要である。非特許文献1の場合、候補の集合には、いくつかのランダムな候補動きベクトルによって増補された、隣接ブロックの現在の動きベクトルが含まれる。隣接ブロックが、類似した動きをすることができるということは、前提条件として仮定されている。しかしながら、隣接ブロックは、それらが同一のオブジェクトに属している場合のみ、同一の動きをする可能性がある。それゆえに、同一のオブジェクトに属する可能性が無い候補動きベクトルを試みることは、計算作業を無駄にすることになる。時間及び計算作業が無駄になることが、公知の方法の問題点である。
【００１２】
動き推定方法のステップの後に、奥行き推定方法を得るための計算ステップを続けることができるということは公知である。静止シーンの一連の画像が、カメラによって既知の動きで撮影される際には、奥行き情報が、再現されるべきであると言う問題を、考察する。この一連の画像における全ての明らかな動きは、視差に起因する。一方のセグメントと他方のセグメントとの間の動きの違いは、奥行きの違いを示す。実際に、2つの連続する画像を分析することによって、時刻tでの所定の画像セグメントと時刻t+1でのその同一セグメントとの間の視差を、計算することができる。この視差は、シーンの異なった部分の動きに対応する。
【００１３】
カメラが移動する場合、フォアグラウンドのオブジェクトは、バックグラウンドのオブジェクトよりも大きく移動する。幾何学的な関係を適用することによって、奥行き情報を、動きから推論することができる。この概念は、非特許文献2によって説明されている。
【００１４】
本発明の第1の目的は、パフォーマンスが改良された冒頭の段落に記載されている類の動き推定方法を提供することである。
【００１５】
本発明の第2の目的は、パフォーマンスが改良された冒頭の段落に記載されている類の動き推定器ユニットを提供することである。
【００１６】
本発明の第3の目的は、パフォーマンスが改良された冒頭の段落に記載されている類の奥行き推定方法を提供することである。
【００１７】
本発明の第4の目的は、パフォーマンスが改良された冒頭の段落に記載されている類の奥行き推定器ユニットを提供することである。
【００１８】
本発明の第5の目的は、パフォーマンスが改良された冒頭の段落に記載されている類の画像処理装置を提供することである。
【００１９】
【特許文献１】
映像技術に対する回路とシステムのIEEE報告書のvol.3、no.5、1993年10月、ページ368-379の、G. de Haan et. al.による論文「三次元再帰的なサーチ・ブロック・マッチングの真の動き推定」
【特許文献２】
1998年、オーストリアのアルプバッハでの、映像及び多次元信号処理研究会の議事録の、159〜162ページのP. Wilinski及びK.van Overveldによる「ブロック・マッチングに基づく信任を用いた動きによる奥行き」
【発明の開示】
【課題を解決するための手段】
【００２０】
第1の本発明の目的は、動き推定方法が、さらに、
- 階層的なセグメンテーションを実行することによって画像の各セグメントのツリーを生成するステップと、
- 特定のセグメントの候補動きベクトルの集合の生成を制御するために各セグメントのツリーを分析するステップと、
を含むことにより、達成される。
【００２１】
階層的なセグメンテーションは、セグメンテーションのツリー構造により同一のオブジェクトに属しているセグメントの類似性に関する情報を提供する。ツリーは、最高レベルで、ルートと称される単一ノードを有する。ツリーの各々のノードは、次の高いレベルで一意の親を有する。各々のセグメントは、ツリーのノードに対応する。親セグメントは、子セグメントを有する。階層的にセグメンテーションを行う方法の例は、米国特許第5,867,605号から公知である。パフォーマンス、すなわち、動き推定方法の検出速度及び／又は検出精度は、2つの方法、すなわち、トップダウン及びボトムアップで、ツリーを用いることにより、改良することができる。いずれの場合においても、マッチ・ペナルティを、計算しなければならない候補ベクトルの数が、相対的に小さくなるという効果がある。
【００２２】
本発明の動き推定方法の一実施例では、ツリーのセグメントの動きベクトルは、セグメントのツリーを、トップダウン方向に再帰的に処理することによって推定される。これは、以下の手順によって行うことができる。すなわち、
- 適正な動きベクトルの推定を、セグメントがまだ大きいツリーの高いレベルから始める。
【００２３】
- セグメントに対して、満足な動きベクトルが見いだされない場合には、動きベクトルを、このノードの全ての子に対して、別々に推定する。
【００２４】
- 前のステップを、満足な動きベクトルが得られるまで、再帰的に繰り返す。
【００２５】
このようにして、検出精度を犠牲にすることなく、マッチすべきセグメントの数は、最小となる。満足な動きベクトルが得られるまで、動きベクトルの推定工程は続く。その結果、ツリーの相対的に高いレベルのセグメントに対して、動きベクトルのみが、推定されることになる。これの利点は、その工程が、最大で停止するので、ノイズの発生が最小となるセグメントが可能になることである。
【００２６】
本発明の動き推定方法の実施例の一変形例では、特定の動きベクトルのマッチ・ペナルティが満足されない場合、動きベクトルは、特定のセグメントに対応するツリーのノードの子に対応するセグメントについて、推定される。この停止判定基準の効果は、これが単純であることである。他の判定基準は、親セグメントの動きベクトルのマッチ・ペナルティと、子セグメントの動きベクトルのマッチ・ペナルティとの比較に基づくかもしれない。しかしながら、この後者の判定基準を適用することは、余分な計算を必要とする。
【００２７】
本発明の動き推定方法の一実施例では、ツリーのセグメントの動きベクトルは、セグメントのツリーを、ボトムアップ方向に処理することによって推定される。2つのセグメントの最小共通先祖は、ルートからこれらのセグメントの各々までの経路上にあるツリーの最低レベルノードとして、規定される。ツリーの低位置で最小共通先祖を有するセグメントは、ツリーの高位置で最小共通先祖を有するセグメントよりも、同一のオブジェクトに属する可能性がより高い。この情報は、関連する隣接値のみを考慮することによって、候補動きベクトル数を限定するために用いることができる。
【００２８】
本発明の動き推定方法の一実施例では、特定のセグメントの候補動きベクトルの集合を生成するステップは、
- 各隣接セグメントの動きベクトルを含んでいる候補動きベクトルの初期リストを生成するサブステップと、
- ツリー内で対応している各ノードの位置に従う候補動きベクトルの初期リストをオーダーするサブステップと、
- 相対的に高いオーダーの候補動きベクトルに、候補動きベクトルの初期リストを限定して、結果的に候補動きベクトルの集合となるサブステップとを含む。
【００２９】
隣接セグメントの動きベクトルは、重要度の順に置かれる。その重要度は、特定のセグメントと考察中の隣接セグメントとの最小共通先祖のツリーでの位置に関係する。ツリーの最小共通先祖の位置が低ければ低いほど、候補動きベクトルはより重要となる。
【００３０】
本発明の第2の目的は、動き推定器ユニットが、さらに、
- 階層的なセグメンテーションを実行するために設計されている、画像の各セグメントのツリーを生成するためのセグメンテーション手段と、
- 生成器を制御するために各セグメントのツリーを分析するための分析手段と、
を含むことにより、達成される。
【００３１】
動き推定器ユニットの変形例及びそのバリエーションは、説明する方法の変形例及びそのバリエーションに対応させても良い。
【００３２】
第3の本発明の目的は、奥行き推定方法が、さらに、
- 階層的なセグメンテーションを実行することによって画像の各セグメントのツリーを生成するステップと、
- 特定のセグメントの候補動きベクトルの集合の生成を制御するために各セグメントのツリーを分析するステップと、
を含むことにより、達成される。
【００３３】
本発明の第4の目的は、奥行き推定器ユニットが、さらに、
- 階層的なセグメンテーションを実行するために設計されている画像の各セグメントのツリーを生成するためのセグメンテーション手段と、
- 生成器を制御するために各セグメントのツリーを分析するための分析手段と、
を含むことにより、達成される。
【００３４】
本発明の第5の目的は、画像処理装置の動き推定器ユニットが、さらに、
- 階層的なセグメンテーションを実行するために設計されている画像の各セグメントのツリーを生成するためのセグメンテーション手段と、
- 生成器を制御するために各セグメントのツリーを分析するための分析手段と、
を含むことにより、達成される。
【発明を実施するための最良の形態】
【００３５】
本発明の動きまたは奥行き推定方法及び推定ユニット、並びにこのような動き推定ユニットを備える画像処理装置のこれら及び他の態様は、以下に記載される実施態様及び実施例により、かつ添付図面を参照して、明らかになり、かつ、説明されるであろう。
【００３６】
対応する参照番号は、全ての図で同一の意味を有する。
【００３７】
図1は、8つのセグメント102-114に階層的にセグメント化された画像100及びそれに対応するツリー120を示す。ツリー120は、13個のノード122-146を有する。ここで、ノード122は、ルートと称される。各々のノード122-146は、画像100のセグメント102-114に対応する。いくつかのノードに対して、それが、画像100のどのセグメントに対応するかが、示されている。例えば、ノード130は、セグメント102に対応する。参照符号として、便宜上A-Hが付されている。
【００３８】
次に、階層的なセグメンテーションの概念を、簡単に説明する。階層的なセグメンテーションとは、ある均等性判定基準を満足する画像100のセグメントを決定する、領域に基づくセグメンテーション技術である。その後、これらのセグメントは、セグメントの和集合が全画像を覆うように、例えば、均等性パラメータを連続的に変化させることによって増大させて、拡張される。そして、セグメンテーションが完了する。
【００３９】
基本的な手法は、以下のステップを含む。すなわち、
- 画素のまわりのセグメントの明るさの変動のような、均等性に対する判定基準が、選択される。これは、ある画素を、その画素のまわりの領域の明るさ変動に基づいて、初期のセグメントの一部とみなすことができるか否かが、決定されることを意味する。
【００４０】
- 均等性判定基準の各々の値に対して、最終セグメントを、計算することができる。しかしながら、これは、いくつかの既定の閾値に対して行うことが、好ましい。各々の閾値は、ツリーの階層のレベルに対応する。
【００４１】
- ツリー構造を、セグメントに対して構築する。閾値のある値に対して、セグメントが存在する場合、このセグメントは、閾値のより高い全ての値に対しても存在する点に留意されたい。閾値が、増加する場合、セグメントを、より大きく成長させることができ、かつ閾値に対する低い値に対して分離されているセグメントは、閾値のより高いレベルでマージされるかもしれない。しかしながら、このようにして、セグメントが作成されるので、閾値が増加しても、セグメントの大きさが減少し、又はセグメントが分割されるということは起こり得ない。
【００４２】
- オプションとして、このツリーを、分離されたセグメントを達成するために簡素化する。
【００４３】
- オプションとして、セグメントを、形態的演算によって成長させる。
【００４４】
自由パラメータは、均等性判定基準の閾値である。この判定基準は、非常に直感的な方法（例えば、特定の環境での明るさの変動、隣接画素の類似性等）で特定することができる。セグメントがマージされるべき場合、ツリー構造は、より大きいセグメントに到達するためにどのセグメントがマージされるべきかを、一意的に特定する。最後に、そのツリー自体が、セグメント間の構造関係を与える。
【００４５】
結果としてツリー120内で生じる、セグメントC 104の動きベクトル116の推定に対する階層的なセグメンテーションの利点を、以下に説明する。
【００４６】
ボトムアップ手法による動き推定方法は、以下のステップを含む。すなわち、
- セグメントC 104に対して、セグメントC 104の隣接セグメント（すなわち、セグメント102, 103, 106-114）の動きベクトルである、候補動きベクトルViの集合CSCを、生成する。
【００４７】
- 候補動きベクトルViを、ノードC 140と考察中の隣接セグメントとのツリー120での最小共通先祖位置に従って順序づける。例えば、ノード132は、ノードC140とノードD 142との最小共通先祖である。ツリーの最小共通先祖の位置が低ければ低いほど、候補動きベクトルViはより関連する。
【００４８】
- 候補動きベクトルの集合CSCを、最も関連するK動きベクトルViのみに限定する。
【００４９】
従来技術のシチュエーションでは、セグメントC 104の候補動きベクトルの集合は、CSC＝｛VA,VB,VD,VE,VF,VG,VH,VR｝（VRは、ランダムな動きベクトル）となるであろう。しかしながら、本発明によると、CSC＝｛VB,VD,VA,VR｝とすることが出来る。何故ならば、ツリー構造から、ノードC140と、例えば、ノードE 134との最小共通先祖122が、ツリー120内で高いレベルにあるので、セグメントC 104とセグメントE 108とが同一のオブジェクトに属しかつ同一の動きをする可能性が少なくなる状態を導出することが出来るからである。この場合、K=3が採用されている。このようにして、テストすべき候補動きベクトルの数を制限することが、可能となる。候補動きベクトルの選択が、セグメンテーションのツリー構造に基づくので、最も関連する隣接セグメントからの情報のみが用いられる。この結果、テストされない候補動きベクトルが、おそらく異なるオブジェクトの一部であるセグメントからのベクトルであり、したがって、類似の動きをする可能性が小さいので、効率が向上する。すなわち、正確さを失うことなく、テストすべき候補動きベクトルがより少なくなる。
【００５０】
図2Aは、動きベクトル208, 210及び212が推定されるセグメント202, 204及び206を線図的に示す。図2Aのツリー120は、トップダウン手法に従う方法での状態、すなわちツリーの階層の第2の最高レベルを示す。ノード124,126及び128は、動きベクトルが推定されるセグメントに対応する。トップダウン手法の原理は、図3Aと関連して説明される。
【００５１】
図2Bは、動きベクトル208, 222, 224, 226及び228が推定されるセグメント202, 216, 214, 218及び220を線図的に示す。図2Bのツリー120は、トップダウン手法に従う方法の状態、すなわちツリーの階層の第3の最高レベルを示す。ノード128,130, 132, 134及び135は、動きベクトルが推定されるセグメントに対応する。図2Aと図2Bとを比較することによって、動きベクトルが小さいセグメントへの分割セグメントの影響を、理解することができる。例えば、動きベクトル210は、セグメント204によって推定され、かつ、動きベクトル226及び228は、セグメント214,216のそれぞれによって推定される。例えば、動きベクトル212は、セグメント206によって推定され、かつ、動きベクトル222及び224は、セグメント220、218のそれぞれによって推定される。
【００５２】
図2Cは、動きベクトル208, 224, 228, 238, 240, 244及び242に対して推定されるセグメント202, 216, 218, 230, 232,234及び236を線図的に示す。図2Cのツリー120は、トップダウン手法に従う方法の状態、すなわちツリーの階層の最低レベルを示す。ノード128, 130, 134,138, 140, 142, 144及び146は、動きベクトルが推定されるセグメントに対応する。図2Bと図2Cとを比較することによって、動きベクトルのより小さいセグメントへの分割セグメントの影響を、理解することができる。例えば、動きベクトル226は、セグメント214によって推定され、かつ、動きベクトル238及び240は、セグメント230,232のそれぞれによって推定される。動きベクトル222は、セグメント220によって推定され、かつ、動きベクトル242及び244は、セグメント236, 234のそれぞれによって推定される。
【００５３】
図3Aは、トップダウン手法のために設計されている動き推定器ユニット300の素子を線図的に示す。
【００５４】
動き推定器ユニット300は、
- 特定のセグメントの候補動きベクトルの集合を生成するための生成器310と、
- 各々の候補動きベクトルのマッチ・ペナルティに対して計算するための計算手段306と、
- マッチ・ペナルティに基づいて候補動きベクトルの集合から特定の動きベクトルを選択するための選択手段308と、
- 階層的なセグメンテーションを実行するように設計されている画像の各セグメントのツリーを生成するためのセグメンテーション手段302と、
- 生成器310を制御するために各セグメントのツリーを分析するための分析手段304とを含む。
【００５５】
動き推定器ユニット300の入力は、画像を含み、かつ、入力コネクタ312を備える。動き推定器ユニット300の出力は、セグメントの動きベクトルである。動き推定器ユニット300の動作は、以下の通りである。最初に、セグメンテーション手段302は、階層的なセグメンテーションを実行する。このセグメンテーションは、米国特許第5,867,605号明細書で説明されているように実行される。セグメンテーションの結果、セグメントのツリーとなる。ツリーのセグメントの動きベクトルは、トップダウン方向に再帰的にセグメントのツリーを処理することによって推定される。
【００５６】
これは、以下の手順によって行われる。すなわち、
- 適正な動きベクトルの推定を、セグメントが、まだ大きい、ツリーの高いレベルで始める。
【００５７】
- 満足な動きベクトルが、セグメントに対して見いだされない場合、動きベクトルは、このノードの全ての子に対して別々に推定される。満足な動きベクトルに対する判定基準では、特定の動きベクトルのマッチ・ペナルティが、規定の閾値より少ない。
【００５８】
- 前のステップは、満足な動きベクトルが得られるまで、再帰的に繰り返される。
【００５９】
このように、精度を犠牲にすることなく、マッチされるべきセグメントの数は、最小となる。動きベクトルを推定する工程は、満足な動きベクトルが得られるまで続ける。その結果、動きベクトルのみが、ツリーの相対的に高いレベルでのセグメントに対して推定されることになる。利点は、その工程が、最大で停止するので、ノイズの発生が最小となるセグメントが得られる。
【００６０】
図3Bは、ボトムアップ手法のために設計されている動き推定器ユニット301の素子を線図的に示す。この動き推定器ユニット301の大部分の素子は、図3Aで説明したように、動き推定器ユニット300のそれらに等しい。
【００６１】
候補動きベクトルの集合を生成するための第1の生成手段310は、
- 隣接セグメントの動きベクトルを含んでいる候補動きベクトルの初期リストを生成するための第2の生成手段303と、
- ツリー内で対応するノードの位置に従う候補動きベクトルの初期リストを順序付けするためのオーダー手段305と、
- 相対的に高い順序の候補動きベクトルに、候補動きベクトルの初期リストを限定するためのフィルタ307とを含む。
【００６２】
このツリーは、ボトムアップ手法において処理される。これは、ツリーのリーフ、すなわち最小セグメントに対する、候補動きベクトルの集合が、図1で説明したように、決定されるということを意味する。動きベクトルの集合が、特定のセグメントに対して決定されるときに、マッチ・ペナルティは、計算手段306によって計算される。その時、選択手段308は、マッチ・ペナルティに基づいて、候補動きベクトルの集合から特定の動きベクトルを選択する。
【００６３】
図4は、奥行き推定器ユニット400の素子を線図的に示す。
【００６４】
奥行き推定器ユニット400は、
- 特定のセグメントの候補動きベクトルの集合を生成するための第1の生成手段310と、
- 各々の候補動きベクトルのマッチ・ペナルティに対して、計算するための計算手段306と、
- マッチ・ペナルティに基づいて、候補動きベクトルの集合から特定の動きベクトルを選択するための選択手段308と、
- 階層的なセグメンテーションを実行するように設計されている画像のセグメントのツリーを生成するためのセグメンテーション手段302と、
- 第1の生成手段を制御するためにセグメントのツリーを分析するための分析手段304と、
- 特定の動きベクトルに基づいて特定セグメントの奥行きデータを計算するための奥行き計算手段402とを含む。奥行きデータは、スカラー量の奥行き値、又はスカラー量の奥行き値及びオブジェクトの位置決めを含んでいるかもしれない。
【００６５】
奥行き推定器ユニット400の入力は、入力コネクタ312に提供される画像と、入力コネクタ416に提供されるカメラ校正データとを備える。奥行き推定器ユニット400の出力は、セグメントに対する奥行き値である。奥行き推定器ユニット400の動作について説明する。最初に、階層的なセグメンテーションが、セグメンテーション手段302によって実行される。このセグメンテーションは、米国特許第5,867,605号に説明されているように、実行される。
【００６６】
セグメンテーションの結果は、シーンのオブジェクト又はオブジェクトの一部に対応するセグメントのツリーなる。特定のオブジェクトに対して、それが、ある範囲の対象値内の値を有する既定の起点（例えば、カメラ）に対する奥行きを有するものと仮定されている。この奥行きは、画像のオブジェクトの動きに関係する。これは、カメラに対するオブジェクトの動きが既知の場合、奥行きを、視差の規制で推定することができることを意味する。これは、奥行きを推定するためには、動きベクトルを計算しなければならないことを意味する。
【００６７】
奥行き推定方法は、1998年、オーストリアのアルプバッハでの、映像及び多次元信号処理研究会の議事録の、159〜162ページの論文「ブロック・マッチングに基づく信頼を用いている動きからの奥行き」に記載されている方法による。図4には、選択手段308が、奥行き計算手段402にセグメントの特定の動きベクトルを提供することが、記載されている。動き推定は、図3Aで説明したように、又は図3Bで説明したようにすることが出来る。
【００６８】
図5は、画像処理装置500の素子を線図的に示す。この画像処理装置500は、
- いくつかの処理が実行された後に、表示される画像を示している信号を受けるための受信手段501を含む。その信号は、アンテナ又はケーブルを介して受信される放送信号であるが、VCR（ビデオカセット録音装置）又はDigitalVersatile Disk（DVD）の類の記憶装置からの信号でもよい。
【００６９】
その信号は、入力コネクタ506に提供される。
【００７０】
- 図3A、図3Bのそれぞれと関連して説明したような、動き推定器ユニット300又は301を含む。
【００７１】
- 動き補償画像処理ユニット502を含む。
【００７２】
- 処理された画像を表示するための表示装置を含む。
【００７３】
動き補償画像処理ユニット502は、
- 非インターレース工程をサポートする。インターレースは、奇数番号又は偶数番号が交互に付された画像ラインに伝送するための共通映像放送手順である。非インターレースは、完全な垂直解像度を復元しようとする、すなわち、奇数ライン及び偶数ラインを、各々の画像に対して同時に有効にさせようとする。
【００７４】
- アップコンバーション工程をサポートする。元の入力画像の連続から、出力画像のより大きい連続が、計算される。出力画像は、2つの元の入力画像の間に時間的に位置する。
【００７５】
- 時間的ノイズ低減工程をサポートする。
【００７６】
動き補償画像処理ユニット502は、画像及びその入力としての動きベクトルを必要とする。例えば、レンズ状のスクリーンを有する三次元ディスプレイ装置の場合、奥行き値を、3D画像とするために用いることができる。
【００７７】
上記の実施例は、本発明に限定されるというよりはむしろ本発明を例示し、かつ、当業者は、添付の特許請求の範囲の範囲内において、別の実施例を設計することができるということに、留意されたい。請求項では、括弧の間で配置されるいかなる参照符号も、請求項を制限するように、構成されない。『含む』という用語は、請求項に記載されていない素子又はステップの存在を除外しない。ある要素の前にある「一つの(「a」又は「an」)」という用語は、そのような素子が複数存在することを除外するものではない。本発明は、幾つかの個別素子を含むハードウェアと、適切にプログラミングされているコンピュータとによって、実施することができる。いくつかの手段を列挙しているユニットの請求項では、これらの手段のいくつかを、ハードウェアの全く同一の部材によって具現化することができる。
【図面の簡単な説明】
【００７８】
【図１】8つのセグメント及び対応するツリーにセグメント化される画像を示す図である。
【図２Ａ】ツリーの階層の第2の最高レベルで、動きベクトルがトップダウン手法の場合推定されるセグメントを示す概略図である。
【図２Ｂ】ツリーの階層の第3の最高レベルで、動きベクトルがトップダウン手法の場合推定されるセグメントを示す概略図である。
【図２Ｃ】ツリーの階層の最低レベルで、動きベクトルがトップダウン手法の場合推定されるセグメントを示す概略図である。
【図３Ａ】下降型法のために設計される動き推定装置の素子を示す概略図である。
【図３Ｂ】ボトムアップ法のために設計される動き推定器ユニットの素子を示す概略図である。
【図４】奥行き推定器ユニットの素子を示す概略図である。
【図５】画像処理装置の素子を示す概略図である。
【符号の説明】
【００７９】
100  画像
102-114, 202-220  セグメント
116  特定の動きベクトル
118  候補動きベクトルの集合
120  ツリー
122-146  ノード
208, 210,212, 222, 224, 226,228, 238, 240, 242,244  動きベクトル
300,301  動き推定器ユニット
302  セグメンテーション手段
303  第2の生成手段
304  分析手段
305  オーダー手段
306  計算手段
307  フィルタ
308  選択手段
310  生成器（第1の生成手段）
312  入力コネクタ
400  奥行き推定器ユニット
402  奥行き計算手段
416  入力コネクタ
500  画像処理装置
501  受信手段
502  動き補償画像処理ユニット
506  入力コネクタ
【図１】
2004534336.tif 000003
【図２Ａ】
2004534336.tif 000004
【図２Ｂ】
2004534336.tif 000005
【図２Ｃ】
2004534336.tif 000006
【図３Ａ】
2004534336.tif 000007
【図３Ｂ】
2004534336.tif 000008
【図４】
2004534336.tif 000009
【図５】
2004534336.tif 000010
【国際公開パンフレット】
2004534336.tif 000011
2004534336.tif 000012
2004534336.tif 000013
2004534336.tif 000014
2004534336.tif 000015
2004534336.tif 000016
2004534336.tif 000017
2004534336.tif 000018
2004534336.tif 000019
2004534336.tif 000020
2004534336.tif 000021
2004534336.tif 000022
2004534336.tif 000023
2004534336.tif 000024
2004534336.tif 000025
2004534336.tif 000026
2004534336.tif 000027
2004534336.tif 000028
2004534336.tif 000029
2004534336.tif 000030
2004534336.tif 000031
2004534336.tif 000032
2004534336.tif 000033
2004534336.tif 000034
【国際調査報告】
2004534336.tif 000035
2004534336.tif 000036
2004534336.tif 000037