(57)【要約】  ３次元運動評価装置１００は、２次元画像対応点探索部１０１と、３次元運動最適化部１０２とを備えている。２次元画像対応点探索部１０１は、後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する。３次元運動最適化部１０２は、正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する。
2019507934.tif 000002
【特許請求の範囲】
【請求項１】
単眼画像から対象物の高密度非剛体３次元運動を算出するための３次元運動評価装置であって、
後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、２次元画像対応点探索部と、
正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、３次元運動最適化部と、
を備えている、ことを特徴とする、３次元運動評価装置。
【請求項２】
前記３次元運動最適化部は、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、３次元の運動を２次元に投影し、
現フレームにおける画素単位での２次元の動きと、モデル化された絶対的な３次元から２次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な３次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する３次元の実世界の運動を算出する、
請求項１に記載の３次元運動評価装置。
【請求項３】
入力として、以前の非剛体３次元形状を受け取り、計算された現フレームの３次元運動を追加して、現在の非剛体３次元モデルを更新する、３次元運動ワーピング部を更に備えている、
請求項１または２に記載の３次元運動評価装置。
【請求項４】
単眼画像から対象物の高密度非剛体３次元運動を算出するための３次元運動評価方法であって、
（ａ）後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、ステップと、
（ｂ）正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、ステップと、
を有する、ことを特徴とする３次元運動評価方法。
【請求項５】
前記ステップ（ｂ）において、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、３次元の運動を２次元に投影し、
現フレームにおける画素単位での２次元の動きと、モデル化された絶対的な３次元から２次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な３次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する３次元の実世界の運動を算出する、
請求項４に記載の３次元運動評価方法。
【請求項６】
（ｃ）入力として、以前の非剛体３次元形状を受け取り、計算された現フレームの３次元運動を追加して、現在の非剛体３次元モデルを更新する、ステップを、
更に有する、
請求項５または６に記載の３次元運動評価方法。
【請求項７】
コンピュータによって、単眼画像から対象物の高密度非剛体３次元運動を算出するためのプログラムであって、
前記コンピュータに、
（ａ）後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、ステップと、
（ｂ）正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、ステップと、
を実行させることを特徴とするプログラム。
【請求項８】
前記ステップ（ｂ）において、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、３次元の運動を２次元に投影し、
現フレームにおける画素単位での２次元の動きと、モデル化された絶対的な３次元から２次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な３次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する３次元の実世界の運動を算出する、
請求項８に記載のプログラム。
【請求項９】
前記コンピュータに、
（ｃ）入力として、以前の非剛体３次元形状を受け取り、計算された現フレームの３次元運動を追加して、現在の非剛体３次元モデルを更新する、ステップを更に実行させる、
請求項７または８に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、３次元運動評価装置、３次元運動評価方法、及びこれらを実現するためのプログラムに関し、更には、ビデオによる３次元再構築の分野、より詳しくは、単眼画像シーケンスからの非剛性３次元運動評価に関する。
【背景技術】
【０００２】
単眼画像シーケンスからの３次元再構築の分野は、略２０年にわたり、コンピュータビジョン共同体において、アクティブな研究の分野である。画像からの３次元の再構築は、アニメーション、３次元印刷、ビデオおよび画像編集などの様々な分野において、種々の用途を見出している。この分野におけるほとんどの従来のシステムは、カメラが様々な視点から所望の物体の画像を撮影する、カメラベースの方式で動作する。また、このとき、画像は、物体の構造及びカメラの動きを同時に計算するために使用される。物体の構造は、カメラの動きに基づいて、この分野で広く普及している３次元再構築手法においては、クラスとされる。また、画像シーケンスが取得され、画像データ上のランク制約を用いて、構造とカメラの動きとが算出される。このステージの後には、通常、カメラのポーズと物体構造とを同時に最適化するバンドル調整ステージが続く。
【０００３】
この分野における挑戦は、効率的、且つ正確に、２次元における対応点のみから、非剛体物の構造を計算することである。高密度の非剛体の構造は、モーション手法に基づいて、アフィンカメラモデル（非特許文献１）を想定し、ランク制約を適用し、分解法を用いて解かれる。しかし、アファインカメラモデルは、画像形成がカメラの光学中心からの点の深さとは無関係であると仮定しているので、光軸に沿って、変換を回復できない。
【０００４】
この奥行のあいまいさの問題を解決するため、透視投影として、３次元から２次元への運動マッピングをモデル化する必要がある。Triggs等（非特許文献２）によって行われた研究は、透視投影下での剛体構造とカメラ姿勢推定とのための、因子分解による定式化を提供する。近年、動きによる剛体構造における密度は、Ondruska等（非特許文献３）によって、携帯電話、タブレットといったポータブルプラットフォーム上で、これらで利用可能な一般的なストックカメラを用いて、実装に成功している。
【０００５】
上記の研究は、動きによる剛体構造の例を扱うが、構造と姿勢の最終的な解は非常に複雑な多様体上にあり、解は初期の種に大きく依存しているため、透視投影法での動きからの非剛体構造の密度の問題は、非常に困難な問題である。このような最適化の問題は、しばしば厄介であり、リアルタイムで解くことが困難である。多くの場合、解決策が存在する空間を制約するために、事前知識が解決策に適用される。Vidal等（非特許文献４）による透視投影ベースの非剛性体の再構成の分野では、以前から研究がなされているが、これらの方法は、主に、まばらな点の再構築に基づくものであり、高密度の再構成に対してはうまく拡張できない。
【０００６】
Newcombe等（非特許文献５）による研究は、RGB-Dベースの入力データにおいて、対象物の標準的な剛体モデルの計算を試み、フレーム間の３次元運動を計算して、標準的な剛体モデルをアニメーション化し、更に、実際の非剛体の変形を生成する。この研究は、提案された発明に最も近いものであるが、固定されたパースペクティブカメラの下で３次元フローを計算するためにRGB情報のみを使用し、問題をはるかに難しくしている。
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】Garg, R.; Roussos, A.; Agapito, L., "Dense Variational Reconstruction of Non-rigid Surfaces from Monocular Video," in Computer Vision and Pattern Recognition (CVPR), 2013 IEEE Conference on , vol., no., pp.1272-1279, 23-28 June 2013
【非特許文献２】Triggs, B.,"Factorizationmethods for projective structure and motion," in Computer Vision and Pattern Recognition, 1996. Proceedings CVPR '96, 1996 IEEE Computer Society Conference on , vol., no., pp.845-851, 18-20 Jun 1996
【非特許文献３】Ondruska, P.; Kohli, P.; Izadi, S., "MobileFusion: Real-Time   Volumetric Surface Reconstruction and Dense Tracking on Mobile Phones," in Visualization and Computer Graphics, IEEE Transactions on , vol.21, no.11, pp.1251-1258, Nov. 15 2015
【非特許文献４】Ren´e  Vidal  and Daniel Abretske , “Nonrigid Shape and Motion from Multiple Perspective Views”, ECCV 2006-European Conference on Computer Vision, 2014
【非特許文献５】Newcombe, R.A.; Fox, D.; Seitz,S.M., "DynamicFusion: Reconstruction and tracking of non-rigid scenes inreal-time," in Computer Vision and Pattern Recognition (CVPR), 2015 IEEE Conference on , vol., no., pp.343-352, 7-12 June 2015
【発明の概要】
【発明が解決しようとする課題】
【０００８】
上述した進歩にもかかわらず、高密度非剛体の３次元再構築は、以前として困難な問題である。従って、本発明は、上述した問題を解決するためになされたものである。
【０００９】
本発明の目的の一例は、２次元の対応点から３次元の運動を解くことができ、非剛体の３次元再構築のために、初期モデルの３次元の動きをワープする、３次元運動評価装置、３次元運動評価方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【００１０】
上記目的を達成するため、本発明の一側面における３次元運動評価装置は、単眼画像から対象物の高密度非剛体３次元運動を算出するための３次元運動評価装置であって、
後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、２次元画像対応点探索部と、
正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、３次元運動最適化部と、
を備えている、ことを特徴とする。
【００１１】
また、上記目的を達成するため、本発明の一側面における３次元運動評価方法は、単眼画像から対象物の高密度非剛体３次元運動を算出するための３次元運動評価方法であって、
（ａ）後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、ステップと、
（ｂ）正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、ステップと、
を有する、ことを特徴とする。
【００１２】
更に、上記目的を達成するため、本発明の一側面におけるプログラムは、コンピュータによって、単眼画像から対象物の高密度非剛体３次元運動を算出するためのプログラムであって、
前記コンピュータに、
（ａ）後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する、ステップと、
（ｂ）正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する、ステップと、
を実行させることを特徴とする。
【発明の効果】
【００１３】
以上のように本発明によれば、２次元の対応点から３次元の運動を解くことができ、非剛体の３次元再構築のために、初期モデルの３次元の動きをワープすることができる。
【図面の簡単な説明】
【００１４】
詳細な説明と共に図面は、本発明の３次元運動評価方法の原理を説明するのに役立つ。図面は、図示のためのものであり、技術の適用を制限するものではない。
【図１】図１は、本発明の３次元運動評価装置の構成を示す概略ブロック図である。
【図２】図２は、本発明の実施の形態における３次元運動評価装置の具体的な構成を示すブロック図である。
【図３】図３は、２次元の対応点から高密度３次元運動野を算出する際の詳細なステップを示すワークフローである。
【図４】図４は、パースペクティブカメラモデルの下での２次元から３次元への運動のマッピングプロセスを示す図である。
【図５】図５は、本発明を用いた物体の推定形状と実際の物体の３次元形状との比較を示す図である。
【図６】図６は、３次元運動評価装置が実装されるコンピュータプラットフォームの一例を示すブロック図である。
【発明を実施するための形態】
【００１５】
（発明の概要）
［技術的な問題点］
２次元画像シーケンスからの非剛体表面の３次元再構成のプロセスは、非常に難しい問題であり、信頼できる３次元ポーズ及び構造の推定のための、カメラ及びオブジェクトの構造の様々な条件に依存する。運動のモデリングは、対象物及びカメラの構成が回復可能であるかを決定するために重要な役割を果たす。例えば、運動の問題（例えば、非特許文献４のような）に由来する多くの高密度構造において、アフィンカメラモデルは、光軸に沿った変換を回復することができない。従って、カメラが固定され、対象物が光軸に沿って移動している場合、アフィンモデルのみを使用して正確な解を得ることは不可能となる。この問題を解決するためには、本質的に深さにおいて曖昧さを持つ射影カメラモデルを想定しなければならず、この結果、故意の問題が生じ、高密度再構成のための計算上のスケールアップが困難となる。
【００１６】
この問題を解決しようとする既存のアプローチがあるが、これらには、以下のような欠点もある。射影非剛体構造を運動から処理する方法のほとんどは、低ランク制約を仮定し、分解法を用いて構造と形状との解法を試みる。このような方法は、疎な再構成には適しているが、オブジェクトの高密度再構成においては、構造及び姿勢の時間に伴う進展に対
してうまく調整できない。
【００１７】
上述したエンティティに加えて、本発明が克服することができる他の明白且つ明らかな欠点は、詳細な明細書および図面から明らかになるであろう。これらの問題を解決するための概要は、次の通りである。
【００１８】
［問題の解説策］
上述した技術的問題を解決するため、全体のアプローチを以下に概略的に説明する。３次元非剛体の再構成のプロセスは、増分プロセスとして扱われ、現在のフレームにおける形状は、以前のフレームの形状と現在のフレームにおける３次元の動きとの組合せで構成されている。３次元再構成プロセスのこのような処理は、上述の問題を下位の２つの問題に下げ、（i）対象物の信頼できる初期の剛体モデルを特定し、（ii）剛体モデルをアニメーション化するためにフレーム毎に３次元の動きを計算し、この結果、シーンにおける非剛体の３次元の再構成を実行する。対象物の信頼性のある初期のモデルの生成に利用可能な、多くの技術が、文献（例えば、非特許文献３）に存在している。
【００１９】
本発明の技術的な利点は、この方法によれば、時間的及び空間的にコヒーレントであり、且つ、画像及び動きのノイズにロバストな、パースペクティブカメラ投影モデルを仮定して、２次元の対応点から高密度な３次元の運動野を生成できる、ことである。提案された発明のフレームワークは、本質的にインクレメンタルである。即ち、３次元の運動野の解明は、フレーム毎に、以前のフレームに基づいて行われている。また、提案されたモデルは、既知の絶対深度を少なくとも１点で利用するため、カメラに対する任意の運動方向の絶対的なスケールで３次元の運動を計算することができる。
【００２０】
従って、本発明は、いくつかのステップと、これらのステップのうちの１つ以上の他のステップとの関係と、構成の特徴を具現化する装置と、要素の組合せと、このようなステップに影響を与えるように最適化されたパーツの配置と構成され、これら全ては、以下の詳細な開示、即ち、図面の説明及び詳細な説明において例示される。本発明の範囲は、特許請求の範囲に示される。
【００２１】
（実施の形態）
以下、本発明の実施の形態における、ネットワークシステム、３次元運動評価装置、３次元運動評価方法、及びプログラムについて、図１〜図５を参照しながら説明する。
【００２２】
以下に、本発明の実施の形態の一例を詳細に説明する。本発明の実装が、完全に詳細に述べられる。例示的な図面に沿って、ここで提供される説明は、本発明を実施する当業者に確かなガイドを提供する。
【００２３】
本発明は、パースペクティブカメラモデルを使用して、高密度の２次元画像の対応点から、高密度の３次元の非線形の運動を計算することに関する。本発明は、高密度の２次元対応点の計算と、これらの２次元の対応点からの３次元の運動の計算とに大別される。また、後者の計算は、時間的及び空間的に一貫する制約によって解決を制約する、透視投影モデルを用いて行われる。この３次元の運動は、以前の３次元形状と共にワープされて、現在の３次元形状を取得する。
【００２４】
［装置構成］
最初に、本発明の３次元運動評価装置の構成について図１を用いて説明する。図１は、本発明の３次元運動評価装置の構成を示す概略ブロック図である。
【００２５】
図１に示すように、３次元運動評価装置１００は、上述したタスクを実行する。３次元
運動評価装置は、更に、種々のユニットに分けることができる。ここで、各ユニットの機能を、図１を用いて説明する。
【００２６】
図１に示すように、３次元運動評価装置１００は、２次元画像対応点探索部１０１と、３次元運動最適化部１０２とを備えている。２次元画像対応点探索部１０１は、後続のフレーム間の密な２次元の対応点を探索し、フレーム画像間の画素単位での２次元の動きを出力する。３次元運動最適化部１０２は、正確な実世界の３次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での２次元の動きの誤差を最適化し、この画素単位での２次元の動きの誤差の最適化によって、対象物の３次元の実世界の動きを算出する。
【００２７】
このように、本実施の形態では、画素単位での２次元の動きの誤差が、単一点の深さを用いて最適化される。よって、２次元の対応点から３次元の運動を解くことが可能になり、非剛体の３次元再構築のために、初期モデルの３次元の運動がワープされる。
【００２８】
続いて、図２を用いて、本実施の形態における３次元運動評価装置１００について、より詳細に説明する。図２は、本発明の実施の形態における３次元運動評価装置の具体的な構成を示すブロック図である。
【００２９】
図２に示すように、３次元運動評価装置１００は、２次元画像対応点探索部１０１と、３次元運動最適化部１０２とに加えて、３次元運動ワーピング部１０３を備えている。
【００３０】
提案されている３次元運動評価装置１００において、第１のユニットは、２次元画像対応点探索部１０１である。３次元運動評価のプロセスは、まず、画像フレーム間の２次元対応点を評価することによって始められる。図１から分かるように、画像シーケンス２００が、２次元画像対応点探索部１０１に入力され、２次元画像対応点探索部１０１は、後続のフレーム間での画素単位で２次元運動を算出する。２次元画像対応点探索部１０１は、画像ペア毎に、画像強度が一致する連続フレームにおける画像パッチを比較することによって、高密度２次元対応点を算出する。画像間の２次元対応点を見つけるための方法の１つは、オプティカルフローである。オプティカルフローは、参照フレーム内の画素毎に、輝度定数仮定を使用して求められ、動きベクトルは局所最適化または大域最適化を使用して密に計算される。２次元画像対応点を見つけるもう１つの方法は、特徴追跡技術によるものである。特徴追跡技術では、ターゲットフレームにマッチする基準フレーム内の各画素の周りで特徴記述子が計算され、２次元運動ベクトルが算出される。２つの方法のうちの１つ、即ち、オプティカルフロー方法、及び特徴追跡ベース方法のうちの１つ、又は類似の方法が、２次元の動きの探索に用いられる。
【００３１】
次のユニットは、２次元の対応点から対応する３次元の動きを見つける、３次元最適化部１０２である。２次元画像探索点探索部１０１から得られた高密度２次元対応点は、パースペクティブカメラモデルを仮定することによって、３次元の運動の計算に用いられる。対象物における単一点での絶対深度２０１が利用できると、３次元運動最適化部１０２は、透視投影モデルを使用して、３次元の運動の現在の定値を画像平面に投影する。
【００３２】
単一点での絶対深度は、市販のレーザデプスセンサを用いて得ることができる。対象物上の既知のパターンを三角測量するといった、画像ベースの方法も、絶対深度を得るために使用することができる。この投影された２次元の運動は、観察された２次元の運動と比較され、最適化アルゴリズムによって、両者の間の誤差が最小化される。各ステップにおける運動の更新を解決するために、変分最適化技術が用いられる。これにより、投影された２次元の運動と観察された２次元の運動との間の誤差が最小化される。また、変分最適化で用いられるエネルギー関数は、３次元運動ソリューションにおいて、空間的及び時間
的な整合性が維持されることを保証する。これにより、異常値に対する、最終的なソリューションの堅牢性が保証される。最適化が収束すると、３次元運動最適化部１０２は、現在のフレームにおける最適な３次元の運動として、出力を提供する。
【００３３】
３次元運動ワーピング部１０３は、カメラと対象物との間の相対的な変換のみを想定する透視投影モデルを使用して、３次元の運動を２次元の運動に投影する。３次元運動ワーピング部１０３は、現フレームにおける画素単位での２次元の動きと、モデル化された絶対的な３次元から２次元への動きとの間の誤差を、カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算する。３次元運動ワーピング部１０３は、上述の誤差を最小化する。また、３次元運動ワーピング１０３は、最適な３次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、上述の誤差を最小化する３次元の実世界の運動を算出する。加えて、３次元運動ワーピング部１０３は、以前の非剛体３次元形状を入力として受け取り、計算された現フレームの３次元の運動を追加して、現在の非剛体３次元モデルを更新することができる。そして、３次元運動ワーピング部１０３は、現フレーム２０３における３次元形状を出力する。
【００３４】
次のステップでは、前のステップで得られた対象物の前の形状２０２と共に、３次元運動ワーピング部１０３によって現３次元運動がワープされ、現フレーム１０７における最終形状が得られる。このことは、３次元形状を２次元のメッシュとして表現することによって達成され、この場合、３次元の位置の各頂点には、幾つかのエッジの接続情報が含まれている。各フレームで最適な動きが見つかると、メッシュ内の各頂点の３次元の位置は、計算された現在の３次元運動と、前のフレームにおけるメッシュの頂点の位置とを使用して更新され、その際、頂点間のエッジの接続は変更されず、そのまま維持される。
これにより、対応する画像シーケンスから、対象物における、最終的な非剛体形状の再構成が達成される。
【００３５】
［装置動作］
次に、高密度の２次元の対応点からの高密度３次元運動の算出プロセスの全体と、その結果による３次元構造の検索と、について説明する。
【００３６】
図３を用いて、本発明の実施の形態における３次元運動評価装置１００の動作について説明する。図３は、本発明の実施の形態における３次元運動評価装置の動作を示すフロー図である。以下の説明においては、図１及び図２が適宜参照される。本実施の形態において、３次元運動評価方法は、３次元運動評価装置１００を動作させることによって実行される。従って、以下の３次元運動評価装置１００の動作の説明は、本実施の形態における３次元運動評価方法の説明に代える。
【００３７】
システムの２次元画像対応点探索部１０１は、前の画像フレームと現在の画像フレームとを入力として取得する（ステップ３０１）。次に、２次元画像対応点探索部１０１は、これらの画像から、２次元密度対応点を算出する（ステップ３０２）。
【００３８】
次に、２次元画像対応探索部１０１は、現在の入力である２次元運動フレームが、シークエンスにおける最初のフレームであるかどうかを判定する（ステップ３０３）。最初のフレームである場合は、２次元画像対応点探索部１０１は、対象物が、ブロック単位で剛体であると仮定して、３次元運動のための初期値を算出し、そして、ブロック毎の動きを計算する（ステップ３０４）。
【００３９】
最初のフレームでない場合は、２次元画像対応点探索部１０１は、前回の３次元運動野を用いて等速度モデルを仮定して、現フレームにおける３次元運動のための初期値を算出する（ステップ３０５）。
【００４０】
次に、反復プロセスがスタートする。２次元画像対応点探索部１０１は、既知の絶対深度を用いて、画像平面上に３次元の運動を投影する（ステップ３０６）。次に、２次元画像対応点探索部１０１は、投影された２次元の運動と観察された２次元の運動との間の誤差を計算する（ステップ３０７）。
【００４１】
次に、３次元運動最適化部１０２は、誤差が特定の閾値未満かどうかを判定する（ステップ３０８）。誤差が特定の閾値未満でない場合は、３次元運動最適化部１０２は、最適化ステップを実行し、これにより、投影された動きと観察された動きとの間の２次元の運動の誤差が小さくなるように、３次元の運動が更新される（ステップ３０９）。
【００４２】
誤差が特定の閾値未満である場合は、３次元運動ワーピング部１０３は、３次元運動最適化部１０２から得られた最適な３次元運動と共に、前のフレーム３１０における対象物の形状をワープする。その結果、アルゴリズムの最終的な出力は、現フレームにおける３次元の形状となる（ステップ３１１）。
【００４３】
ここで、図４を用いて、本発明の数学的詳細について説明する。パースペクティブカメラのモーションマッピングについては、図４を参照して説明する。
【００４４】
図４においては、非剛体の対象物は、タイムフレームｔ（４０１）と、タイムフレームｔ＋１（４０２）とに示されている。図４に示すように、対象物の形状は変形している。特定点Xt（４０３）は、点間の３次元運動であるT=(Tx,Ty,Tz)T （４０８）と共に、点Xt+1（４０４）に移動する。これらの点は、画像平面４０５上において、点mt（４０６）と点mt+1（４０７）とに配置される。３次元運動は、画像平面上では、２次元運動、ot = mt+1 - mt、として登録される。本発明の目的は、図４に示すように、それに示された透視投影モデルを用いて、対応する２次元の運動(ot)から、３次元の運動(T)を探索することにある。カメラは空間内に固定されていると想定される。また、フレーム間の３次元運動は、並進運動によってのみ正確にモデル化できるということも想定される。
【００４５】
上述の議論から、２つの成分をot=(mxt,myt)Tとし、画像における２次元の運動をot=mt+1-mtとして表すと、３次元運動T=(Tx,Ty,Tz)Tと任意の所与の画素における２次元の運動(mxt,myt)Tとは、数１として与えられる。
【００４６】
【数１】
2019507934.tif 000003
【００４７】
ここで、u、vはゼロ中心の画像座標系であり、fは焦点距離であり、Zはカメラ光学中心からの絶対距離である。ある点における絶対深度は、市販のレーザ深度センサを用いて得ることができる。対象物上の既知のパターンを三角測量するといった画像ベースの方法も、絶対深度を得るために使用することができる。本発明は、画素毎に、２次元運動から、３次元運動Tの算出を試みる。
【００４８】
カメラが固定され、物体が自由空間内で非線形の並進運動をしていると仮定して、密な2d動き対応からの後続のフレーム間の密な3d動作を見つけることを目指す。画像シーケンスが集合{It,t=1,2,...N}によって与えられていると想定すると、Nはシーケンス内の画像の枚数である。画像Itと画像It-1との間で、２次元運動野はmtで表される。画像Itと画像
It-1との間の３次元運動野をMtとし、現フレームMtにおける３次元運動の計算中に、以前の各フレームの３次元運動、Mt-1がバッファに格納されていると想定する。次に、現フレームにおける３次元運動を計算するため、数２がエネルギー関数としてフレーム化される。数２により、最適な３次元運動Mt*の値が最小化される。
【００４９】
【数２】
2019507934.tif 000004
【００５０】
上記の数２は、縮小すべきグローバルエネルギー関数を与える。データ項Edは、観察された２次元運動と３次元運動の推定値とに依存する。データ項は、観察された２次元を用いて、画像平面上に投影された２次元運動の誤差を測定し、誤差が大きい場合には解に不利益を与える。データ項は、一般に、数３によって与えられる。
【００５１】
【数３】
2019507934.tif 000005
【００５２】
Ψ(.)は、従来のL2ノルムよりも重大ではない異常値の誤差にペナルティを課すロバストな重み関数である。注目画素毎の誤差の総和が、画像全体にわたって得られる。
【００５３】
エネルギー関数の第２項は、解の空間的及び時間的な滑らかさを維持する役割を担う平滑項である。空間的な滑らかさとは、最終的な３次元運動ソリューションが、画像のＸＹ軸に沿って滑らかであり、急な不連続性を伴っていないことを指している。つまり、隣接する画素の３次元運動の間には強い相関があるはずである。これは、画像座標におけるX-Y軸における３次元の運動の空間勾配として表される。時間的コヒーレンスとは、与えられた画像毎に、速度は時間とともに急激に変化すべきではく、画素の３次元速度における時間的変化は滑らかであるべき、という事実を指している。このことは、時間軸に沿った勾配としてエネルギー項に現れる。従って、平滑項Es は、数４のように与えられる。
【００５４】
【数４】
2019507934.tif 000006
【００５５】
ここで、∇=(δ/δx, δ/δy, δ/δt)は、画像のX,Y軸に沿った３次元運動ベクトルを示している。重み関数φ(.)は、Ψ(.)に類似したロバストなカーネルである。画素毎の滑らかさの総和が、画像全体に渡って得られている。前フレームでの３次元運動は、時間の動きの勾配を計算するために必要であり、現フレームの３次元運動の計算の間にバッファに格納する必要がある。
【００５６】
上述の式から適切な３次元運動を得るため、全体的な最適化解を探索する様々な技術が採用される。エネルギー関数は、全ての項の誤差の合計であるため、得られた解は、異常
値と誤差とにロバストな、全体的な最適解である。最適化が全体的に収束することを保証する凸関数として、重み関数φ(.)及びΨ(.)が選択される。最適化は、３次元運動の初期化に依存し、全体的な最適化に近い初期化は、より速い収束をもたらすことができる。運動フレームがシーケンス内の最初のフレームである場合、運動に関する過去の情報はありません。この場合、運動がブロック単位の剛体であり、３次元運動が各ブロックであると仮定されて、初期化が行われ、計算される。他のフレームについては、連続するフレーム間の動きが非常にゆっくりと時間と共に変化すると仮定する、等速モデルを考える。この仮定により、３次元運動は、前のフレームにおける３次元運動として初期化される。
【００５７】
処理対象となっている対象物の３次元構造を表現するために、時間的に発展するグラフGt=(Vt,E)として表される２次元メッシュ構造が使用される。ここで、Vtは、時間的に発展する全頂点の集合であり、Eは、頂点がどのように接続されているかの情報を含む、変化しないエッジの集合である。頂点集合における各頂点は、各点の３次元の位置を含む。頂点だけでポイントクラウドデータが得られ、エッジ情報により３次元の面の構築が可能となる。変分最適化ステップからの３次元運動の出力は、以前の形状にワープされ、そして、対象物の現３次元形状を生成する。このことは、グラフのエッジ接続性を変更することなく、頂点の３次元の位置をVt+1=Vt + mtとして更新することによって達成される。このように、時間に伴って進展するメッシュが得られる。メッシュは、時間と共に発展する対象物の３次元構造を表現するために使用される。最初のフレームでは、対象物の形状の推定が必要となる。この目的のために使用できる文献には多くの方法が記載されている。対象物の初期形状を推定するために、最初の数フレームを使用して、運動から剛体構造を作成することが可能である。シェーディングからシェイプのような測光的アプローチを使用して、初期の対象物の形状を得ることもできる。
【００５８】
本発明の有効性を検証するために、実験が行われた。x軸に沿った正弦運動下での表面曲げの画像シーケンスがシミュレートされた。本発明は、上述の単眼画像シーケンスを使用して、運動下での表面の時間に伴う進展を推定するために使用された。実験結果は図５に示す通りである。図５には、対象物の推定された３次元運動６０２と対象物の実際の３次元運動６０１とが示されている。このプロットは、画像シーケンス内のすべてのフレームの中の特定のフレームを示す。この比較から分かるように、本発明は、地面の実データとよく一致する３次元形状の再構成を実行する。このように、提案された方式が検証される。
【００５９】
図５は、本発明の方法論の実施形態が実装される、コンピュータ及びネットワークシステムの実施の形態を示すブロック図を示している。システムは、入力装置及びネットワーク接続を伴うコンピュータ示している。コンピュータプラットフォーム５０２は、データ及び命令を格納するためのEEPROM（Electrically Erasable and Programmable Read Only
Memory）及びRAM（Random Access Memory）と、情報の処理及び命令の実行を行うためのCPU（Central Processing Unit）及びデータバスと、ローカルネットワーク又はインターネット５０４を用いて、ホスト又はクライアントシステムに接続するためのネットワークカードとを備えている。また、コンピュータプラットフォームは、ベーシック・入出力装置５０１に接続されていても良い。また、コンピュータプラットフォームは、例えば、キーボード、マウス、ディスプレイ、及び外部記憶装置を含んでいても良い。
【００６０】
最後の点として、本明細書で説明及び図示された、プロセス、技術、及び方法論は、特定の装置に限定されず、又は関連しておらず、このことは明白である。本発明の実装は、コンポーネントの組み合わせによって可能である。また、本明細書の指示に従って、様々な種類の汎用装置を使用することができる。更に、本発明は、特定のセットの例を用いて記載されている。しかし、これらは単なる例示であり、限定的なものではない。例えば、説明されたソフトウェアは、C ++、Java（登録商標）、Python、Perlなどの多種多様な言
語で実装されてもよい。更には、本発明の技術の他の実装形態は、当業者には明らかになるであろう。
【００６１】
１００  ３次元運動評価装置
１０１  ２次元対応点探索部
１０２  ３次元運動最適化部
１０３  ３次元運動ワーピング部
２００  画像シーケンス
２０１  単一点深度
２０２  前の形状
２０３  現フレームでの３次元形状
４０１  タイムフレームt
４０２  タイムフレームt+1
４０３  特定点Xt
４０４  点Xt+1
４０５  画像面
４０６  点mt
４０７  点mt+1
４０８  T=(Tx,Ty,Tz)T
５０１  対象物の実際の３次元形状
５０２  対象物の推定された３次元形状
６０１  ベーシック入出力装置
６０２  コンピュータプラットフォーム
６０３  クライアントシステム
６０４  ローカルネットワーク又はインターネット
６０５  ホストシステム
【図１】
2019507934.tif 000007
【図２】
2019507934.tif 000008
【図３】
2019507934.tif 000009
【図４】
2019507934.tif 000010
【図５】
2019507934.tif 000011
【図６】
2019507934.tif 000012
【国際調査報告】
2019507934.tif 000013