(57)【要約】  本技術は、より広範囲な条件において撮影位置および撮影姿勢を推定することができるようにする情報処理装置および方法、並びにプログラムに関する。位置姿勢算出部は、互いに対応する５点以上の特徴点を有する２つの撮影画像に基づいて、基準空間における一方の撮影画像の既知である撮影位置および撮影姿勢に対する、処理対象の撮影画像の相対的な撮影位置および撮影姿勢を算出する。また、位置姿勢算出部は、上記の２つの撮影画像と、撮影位置および撮影姿勢が既知である他の撮影画像とで共通する特徴点に対応する基準空間上の被写体の位置と、上記の一方の撮影画像の撮影位置および撮影姿勢に対する処理対象の撮影画像の相対的な撮影位置および撮影姿勢とに基づいて、処理対象の撮影画像の基準空間における撮影位置および撮影姿勢を算出する。本技術は、スマートフォンに適用することができる。
2016208404.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理方法であって、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
ステップを含む情報処理方法。
【請求項２】
前記第２の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有する
請求項１に記載の情報処理方法。
【請求項３】
前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の前記対応点に基づいて、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係をさらに推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
請求項１に記載の情報処理方法。
【請求項４】
前記第１の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有する
請求項３に記載の情報処理方法。
【請求項５】
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第２の撮影位置および前記第３の撮影位置を結ぶ第１の直線と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第１の撮影位置および前記第３の撮影位置を結ぶ第２の直線との交点位置、または前記第１の直線および前記第２の直線から最も近い位置を算出することで、前記基準空間における前記第３の撮影位置を推定する
請求項３に記載の情報処理方法。
【請求項６】
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果との少なくとも何れかに基づいて、前記基準空間における前記第３の撮影姿勢を推定する
請求項３に記載の情報処理方法。
【請求項７】
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第３の撮影位置を推定する
請求項１に記載の情報処理方法。
【請求項８】
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像は互いに異なる撮影部により撮影された画像である
請求項１に記載の情報処理方法。
【請求項９】
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像は同一の撮影部により撮影された画像である
請求項１に記載の情報処理方法。
【請求項１０】
前記基準空間における前記第３の撮影位置および前記第３の撮影姿勢と、前記第３の撮影画像とに基づいて所定の画像処理をさらに行う
請求項１に記載の情報処理方法。
【請求項１１】
前記第１の撮影位置、前記第２の撮影位置、および前記第３の撮影位置の間の位置関係に基づいて、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像を用いた再生処理をさらに行う
請求項１に記載の情報処理方法。
【請求項１２】
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理装置であって、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定する相対位置関係推定部と、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する位置姿勢推定部と
を備える情報処理装置。
【請求項１３】
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する画像処理装置を制御するコンピュータに、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
ステップを含む処理を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は情報処理装置および方法、並びにプログラムに関し、特に、より広範囲な条件において撮影画像の撮影位置および撮影姿勢を推定することができるようにした情報処理装置および方法、並びにプログラムに関する。
【背景技術】
【０００２】
従来、バレットタイムや自由視点などのアプリケーションが知られている。これらのアプリケーションでは、被写体を撮影して得られる撮影画像の撮影位置と撮影姿勢を推定することが必要となる。例えば自由視点では、被写体を撮影して得られた複数の撮影画像の各撮影位置および撮影姿勢が推定され、その推定結果と、撮影画像とから、任意の仮想的な視点位置から撮影された撮影画像が補間処理により生成される。【０００３】
このような撮影画像の撮影位置および撮影姿勢を推定する手法として、画像のみを用いた手法、つまり画像ベースの手法がある（例えば、非特許文献１参照）。この手法では、処理対象の撮影画像の３次元空間上における撮影位置および撮影姿勢を推定する場合には、処理対象の撮影画像と３次元空間上の撮影位置が異なる、撮影位置および撮影姿勢が既知である２つの撮影画像が必要となる。【０００４】
すなわち、３次元空間上の撮影位置および撮影姿勢が既知である２つの撮影画像を参照撮影画像と称することとすると、それらの参照撮影画像の撮影位置と撮影姿勢は既知であるので、２つの参照撮影画像から検出された互いに対応する特徴点に対応する被写体部位の３次元空間上の位置を算出することができる。そこで、算出された被写体部位の３次元空間上の位置と、その被写体部位に対応する、処理対象の撮影画像上の特徴点の位置とから、処理対象の撮影画像の３次元空間上の撮影位置および撮影姿勢が推定される。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Xiao-Shan Gao、外３名、“Complete solution classification for the Perspective-Three-Point Problem”［平成２７年４月８日検索］、インターネット〈http://www.mmrc.iss.ac.cn/~xgao/paper/ieee.pdf〉
【発明の概要】
【発明が解決しようとする課題】
【０００６】
複数の位置から撮影を行う条件は多岐に渡り、様々な撮影条件においても複数の撮影位置間の位置関係を推定することが望まれている。【０００７】
本技術は、このような状況に鑑みてなされたものであり、より広範囲な条件において撮影画像の撮影位置および撮影姿勢を推定することができるようにするものである。
【課題を解決するための手段】
【０００８】
本技術の一側面の情報処理方法またはプログラムは、少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理方法またはプログラムであって、基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定し、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定するステップを含む。【０００９】
前記第２の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有するようにすることができる。【００１０】
前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の前記対応点に基づいて、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係をさらに推定し、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定するようにすることができる。【００１１】
前記第１の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有するようにすることができる。【００１２】
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第２の撮影位置および前記第３の撮影位置を結ぶ第１の直線と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第１の撮影位置および前記第３の撮影位置を結ぶ第２の直線との交点位置、または前記第１の直線および前記第２の直線から最も近い位置を算出することで、前記基準空間における前記第３の撮影位置を推定するようにすることができる。【００１３】
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果との少なくとも何れかに基づいて、前記基準空間における前記第３の撮影姿勢を推定するようにすることができる。【００１４】
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第３の撮影位置を推定するようにすることができる。【００１５】
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像を互いに異なる撮影部により撮影された画像とすることができる。【００１６】
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像を同一の撮影部により撮影された画像とすることができる。【００１７】
前記基準空間における前記第３の撮影位置および前記第３の撮影姿勢と、前記第３の撮影画像とに基づいて所定の画像処理をさらに行うことができる。【００１８】
前記第１の撮影位置、前記第２の撮影位置、および前記第３の撮影位置の間の位置関係に基づいて、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像を用いた再生処理をさらに行うことができる。【００１９】
本技術の一側面の情報処理装置は、少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理装置であって、基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定する相対位置関係推定部と、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する位置姿勢推定部とを備える。【００２０】
本技術の一側面においては、少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する画像処理において、基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係が推定され、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢が推定される。
【発明の効果】
【００２１】
本技術の一側面によれば、より広範囲な条件において撮影画像の撮影位置および撮影姿勢を推定することができる。【００２２】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載された何れかの効果であってもよい。
【図面の簡単な説明】
【００２３】
【図１】画像ベースによる撮影位置および撮影姿勢の推定手法を説明する図である。
【図２】画像ベースによる撮影位置および撮影姿勢の推定手法を説明する図である。
【図３】画像ベースによる撮影位置および撮影姿勢の推定手法を説明する図である。
【図４】カメラ間の距離と撮影画像間の対応点について説明する図である。
【図５】１点共通推定手法について説明する図である。
【図６】零点共通推定手法について説明する図である。
【図７】各推定手法で必要な条件について説明する図である。
【図８】画像処理装置の構成例を示す図である。
【図９】再生処理を説明するフローチャートである。
【図１０】４点共通推定手法による位置姿勢推定処理を説明するフローチャートである。
【図１１】１点共通推定手法による位置姿勢推定処理を説明するフローチャートである。
【図１２】零点共通推定手法による位置姿勢推定処理を説明するフローチャートである。
【図１３】再生処理を説明するフローチャートである。
【図１４】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【００２４】
以下、図面を参照して、本技術を適用した実施の形態について説明する。
【００２５】
〈第１の実施の形態〉
〈本技術について〉
本技術は、空間上の異なる位置で撮影された撮影画像に基づいて、所定の撮影画像を撮影したときの撮影位置および撮影姿勢を推定することができるようにするものである。例えば本技術は、スマートフォンやデジタルカメラ、パーソナルコンピュータ、クラウドを利用して撮影画像の撮影位置および撮影姿勢を推定する画像処理システムなどに適用することができる。
【００２６】
カメラにより撮影された撮影画像の撮影位置および撮影姿勢を高精度に推定することができる手法として、撮影画像のみを用いる手法、つまり画像ベースの手法がある。
【００２７】
例えば図１に示すように、３次元空間上における３つの異なる位置V11乃至位置V13において、所定の基準空間上の位置および形状が既知である物体H11を撮影したとする。そして、その結果、各位置V11乃至位置V13のそれぞれを視点とした撮影画像PC11乃至撮影画像PC13のそれぞれが得られたとする。
【００２８】
この例では、各撮影画像PC11乃至撮影画像PC13を撮影した位置が互いに異なるので、それらの撮影画像上における被写体としての物体H11の見え方が異なっている。しかし、これらの撮影画像PC11乃至撮影画像PC13では、物体H11の同一部位から特徴点が検出されている。
【００２９】
すなわち、位置V11で撮影した撮影画像PC11からは、物体H11上の部位P1乃至部位P7のそれぞれに対応する特徴点FP11-1乃至特徴点FP17-1が検出される。ここで、各部位P1乃至部位P7の基準空間上の位置は既知である。
【００３０】
同様に、位置V12で撮影した撮影画像PC12からは、物体H11上の部位P1乃至部位P7のそれぞれに対応する特徴点FP11-2乃至特徴点FP17-2が検出される。また、位置V13で撮影した撮影画像PC13からは、物体H11上の部位P1乃至部位P7のそれぞれに対応する特徴点FP11-3乃至特徴点FP17-3が検出される。
【００３１】
このように、物体H11の位置および形状が既知である場合、撮影画像PC11乃至撮影画像PC13上に、物体H11の部位に対応する４点以上の特徴点があると、画像ベースの手法により、各撮影画像を撮影したときの撮影位置および撮影姿勢、すなわち撮影画像を撮影したときのカメラの撮影位置および撮影姿勢を一意に定めることができる。以下では、カメラにより所定の撮影位置および撮影姿勢で撮影された撮影画像について、その撮影画像を撮影したときのカメラの撮影位置および撮影姿勢を、撮影画像の撮影位置および撮影姿勢と称することとする。
【００３２】
ここで、撮影画像の撮影位置および撮影姿勢とは、所定の基準となる基準空間における撮影位置および撮影姿勢である。また、撮影画像の撮影姿勢とは、撮影画像を撮影したときのカメラの姿勢、すなわちカメラによる撮影方向である。
【００３３】
さらに、基準空間とは、例えば特定の２つの撮影画像のそれぞれを撮影したときの撮影位置間の距離を１とするなど、基準となる距離（スケール）が任意に設定された空間である。したがって、例えば上記の撮影位置間の距離を、現実の空間における距離と同じ値に設定すれば、基準空間のスケールは、実際の現実空間のスケールと同じとなる。
【００３４】
基準空間における撮影位置は、例えば基準空間の所定位置を原点とする３次元座標系における、撮影画像が撮影された座標位置などとされる。また、基準空間における撮影姿勢は、例えば撮影画像を撮影したときのカメラによる撮影方向を示す角度情報等などとされる。具体的には、例えば撮影姿勢は、基準空間の３次元座標系の各軸を基準となる回転軸（基準軸）としたときの所定の基準方向に対するカメラの撮影方向のロール角、ピッチ角、およびヨー角などとされる。
【００３５】
以下の説明において、撮影画像の撮影位置および撮影姿勢というときは、基準空間における撮影位置および撮影姿勢をいうこととする。また、相対的な撮影位置および撮影姿勢というときは、所定の撮影画像の撮影位置および撮影姿勢から見た撮影位置および撮影姿勢をいうこととする。したがって、例えば相対的な撮影位置は、基準空間におけるスケールが未知である状態、つまりその撮影位置が他の撮影位置等の所定位置に対して位置している方向は定まっているが、それらの位置間の基準空間における距離が定まっていない状態であるとする。
【００３６】
なお、実際に各撮影画像の撮影位置と撮影姿勢を推定する場合には、基準空間における物体H11の位置が未知であり、複数の撮影画像の撮影位置と撮影姿勢を順番に推定していくことが一般的に行われる。
【００３７】
そのような場合には、例えば図２の矢印Q11に示すように、まず位置V11で撮影された撮影画像PC11と、位置V12で撮影された撮影画像PC12とに基づいて、それらの撮影画像から検出された特徴点の位置関係から、撮影画像の相対的な撮影位置および撮影姿勢が推定される。
【００３８】
すなわち、撮影画像PC11を撮影したときの撮影位置および撮影姿勢と、撮影画像PC12を撮影したときの撮影位置および撮影姿勢との相対的な位置関係が推定される。なお、図２において図１における場合と対応する部分には同一の符号を付してあり、その説明は省略する。
【００３９】
この場合、基準空間における物体H11の位置が未知であるが、撮影画像PC11と撮影画像PC12とで、互いに対応する特徴点が５点以上検出されれば、撮影画像PC11と撮影画像PC12のそれぞれを撮影したときのカメラの位置関係、つまり２つの撮影画像の相対的な撮影位置および撮影姿勢を推定することができる。
【００４０】
そして、推定により得られた相対的な撮影位置および撮影姿勢と、各撮影画像上の特徴点の位置とから、互いに対応する特徴点が検出された被写体の部位の位置、より詳細には、各撮影位置に対する相対的な位置を推定することができる。そして、基準となるスケール、つまり基準空間のスケールが与えられれば、基準空間における各撮影画像の撮影位置および撮影姿勢と、被写体の部位の位置とが定まることになる。
【００４１】
このようにして基準空間における、物体H11の位置と、撮影画像PC11および撮影画像PC12の各撮影画像を撮影したときの撮影位置および撮影姿勢とが既知となると、以降においては矢印Q12に示すように、これまでに推定された被写体の部位の基準空間上の位置が用いられて、順次、未知である撮影画像の撮影位置と撮影姿勢が推定されていく。
【００４２】
例えば、撮影画像PC11や撮影画像PC12を撮影したときの撮影位置および撮影姿勢から算出される物体H11の部位の位置と、撮影画像PC13とに基づいて、撮影画像PC13を撮影したときの基準空間における撮影位置および撮影姿勢が推定される。
【００４３】
この場合、撮影画像PC11、撮影画像PC12、および撮影画像PC13の３つの撮影画像のそれぞれから、互いに対応する特徴点、つまり共通する特徴点が４点以上検出されれば、撮影画像PC13を撮影したときの基準空間における撮影位置および撮影姿勢が定まる。
【００４４】
ここで、このような画像ベースの撮影位置および撮影姿勢の推定手法について、より詳細に説明する。なお、以下では、以上において説明した画像ベースの撮影位置および撮影姿勢の推定手法を、４点共通推定手法とも称することとする。
【００４５】
また、以下では、複数の各撮影画像から検出された、同一被写体部位に対応する特徴点を、特に対応点とも称することとする。例えば図１に示した例では、撮影画像PC11乃至撮影画像PC13のそれぞれから、同一の部位P1に対応する特徴点FP11-1乃至特徴点FP11-3が検出されているから、これらの互いに対応する特徴点FP11-1乃至特徴点FP11-3が対応点となる。
【００４６】
４点共通推定手法では、例えば図３に示すように３以上の撮影画像で、共通する４つの対応点が検出できれば、未知の撮影画像の撮影位置および撮影姿勢を推定することができる。
【００４７】
この例では、３次元空間上にカメラCA11、カメラCA12、およびカメラCA13が配置されている。ここで、カメラCA11により撮影された撮影画像の基準空間上における撮影位置および撮影姿勢と、カメラCA12により撮影された撮影画像の基準空間上における撮影位置および撮影姿勢とが既知となっているとする。これに対して、カメラCA13により撮影された撮影画像の基準空間上における撮影位置および撮影姿勢は未知であるとする。
【００４８】
なお、以下では、カメラCA11により撮影された撮影画像を撮影画像CA11とも称することとする。同様に、カメラCA12により撮影された撮影画像を撮影画像CA12とも称することとし、カメラCA13により撮影された撮影画像を撮影画像CA13とも称することとする。
【００４９】
ここで、各カメラCA11乃至カメラCA13により、基準空間上の位置が既知である４つの被写体の部位P11乃至部位P14が観察されているので、各撮影画像で共通する４つの対応点が得られることになり、撮影画像CA13の撮影位置および撮影姿勢を推定することができる。
【００５０】
具体的には、基準空間における撮影画像CA11と撮影画像CA12の撮影位置および撮影姿勢が既知であるので、それらの撮影画像CA11と撮影画像CA12で観察されている被写体の部位P11乃至部位P14の基準空間上の位置も既知となる。
【００５１】
次に、部位P11乃至部位P14のうちの任意の３つの部位を選択し、選択した３つの部位の基準空間上の位置と、それらの３つの部位に対応する撮影画像CA13上の特徴点の位置との関係から、基準空間上の撮影画像CA13の撮影位置および撮影姿勢が推定される。このとき、基準空間上の撮影画像CA13の撮影位置および撮影姿勢として、４通りの位置および姿勢が候補として得られる。
【００５２】
さらに、それらの４つの候補ごとに、候補として得られた撮影画像CA13の撮影位置および撮影姿勢と、部位P11乃至部位P14のうちの残りの１つの部位の基準空間上の位置とから、その部位が撮影画像CA13上に再投影される。
【００５３】
そして、その再投影結果と、撮影画像CA13上における部位P11乃至部位P14のうちの残りの１つの部位に対応する特徴点の位置との誤差が算出され、誤差が最小となる候補が基準空間における最終的な撮影画像CA13の撮影位置および撮影姿勢とされる。
【００５４】
このような画像ベースの撮影位置および撮影姿勢の推定手法（４点共通推定手法）については、例えば“Complete solution classification for the Perspective-Three-Point Problem”等に詳細に記載されている。
【００５５】
また、被写体部位の再投影を行ってカメラの位置および姿勢を決定する技術については、例えばURL〈http://iplimage.com/blog/p3p-perspective-point-overview/〉のウェブページ等に詳細に記載されている。
【００５６】
なお、ここでは、３つの撮影画像を用いる場合について説明したが、互いに共通する対応点を有する、基準空間における撮影位置および撮影姿勢が既知である２以上の撮影画像と、撮影位置および撮影姿勢が未知である１つの撮影画像とから、未知である撮影画像の撮影位置および撮影姿勢を推定するようにしてもよい。
【００５７】
ところで、撮影画像間で互いに対応する特徴点、つまり対応点を検出する場合には、一般的に以下のような手順で対応点が検出される。ここでは、例えば撮影画像Aと撮影画像Bとの間で、対応点が検出される場合について説明する。
【００５８】
まず、撮影画像Aと撮影画像Bのそれぞれについて、撮影画像からハリスコーナーやSIFT（Scale Invariant Feature Transform）等のアルゴリズムに従って特徴点が検出され、各特徴点について、撮影画像上の特徴点周囲の領域から特徴量が抽出される。
【００５９】
そして撮影画像Aから検出された特徴点の特徴量と、撮影画像Bから検出された特徴点の特徴量との距離が算出され、特徴量の距離が閾値以下となる特徴点のペアが検出される。このような特徴点のペアは、互いに特徴点周囲の画像が類似するペアである。
【００６０】
次に、検出された特徴点のペアのなかから、特徴的である特徴点のペアが抽出される。ここで、特徴的である特徴点のペアとは、ペアを構成する特徴点の周囲の模様（テクスチャ）と、他の特徴点の周囲の模様との類似度が低い特徴点のペアである。つまり、この処理では、誤った特徴点の対応付けが行われないように、撮影画像上の繰り返しパタン部分から抽出された特徴点のペアが除去される。
【００６１】
最後に、これまでで残っている特徴点のペアのなかから、幾何学的および統計的に妥当であると思われる特徴点のペアが抽出されて、抽出された特徴点のペアを構成する各特徴点が、互いに対応する対応点、つまり同一部位から検出された特徴点とされる。
【００６２】
なお、上記の一連の妥当な特徴点のペアを抽出する方法については、例えば「Noah Snavely, Steven M. Seitz, Richard Szeliski, "Photo tourism: Exploring photo collections in 3D," ACM Transactions on Graphics (SIGGRAPH Proceedings), 25(3), 2006」などに具体的に記載されている。
【００６３】
このような手順に従って対応点を検出すると、撮影画像から多くの特徴点が検出された場合でも、対応点とされる特徴点は少ないこともある。
【００６４】
例えば図４の矢印Q21に示すように、３つのカメラCA21乃至カメラCA23で、主な注目する被写体H21と、その背景となる被写体H22を撮影することを考える。ここでは、各カメラを注目する被写体H21である人に向けて撮影を行い、被写体H21に対して、その背景にある被写体H22は遠い位置にあるとする。
【００６５】
このとき、カメラCA21乃至カメラCA23の互いに隣接するカメラ同士の間隔、つまりカメラ間の角度が狭い場合には、各カメラで撮影された撮影画像上において、被写体H22の見え方はあまり差がなく、共通して写っている被写体H22の部分の領域も多い。そのため、各カメラで得られた撮影画像に基づいて、確実に基準空間における各撮影画像の撮影位置および撮影姿勢を推定することが可能である。
【００６６】
これに対して、例えば矢印Q22に示すように、互いに隣接するカメラ同士の間隔が広い場合には、各カメラで撮影された撮影画像上において、被写体H22の見え方が変化し、共通して写っている被写体H22の部分の領域も少なくなる。
【００６７】
具体的には、矢印Q22に示す状態で撮影を行った結果、例えばカメラCA21乃至カメラCA23のそれぞれにより、撮影画像PC21乃至撮影画像PC23のそれぞれが得られたとする。この例では、各撮影画像には、被写体H21と、被写体H22に対応する建物である被写体H31乃至被写体H33の一部または全部とが被写体として写っている。
【００６８】
すなわち、カメラCA21により撮影された撮影画像PC21には、被写体H31乃至被写体H33が含まれている。また、そのカメラCA21に隣接するカメラCA22により撮影された撮影画像PC22にも、被写体H31乃至被写体H33が含まれている。
【００６９】
しかし、撮影画像PC22では、各被写体H31乃至被写体H33の見え方が、撮影画像PC21における場合と大きく異なり、例えば被写体H33は半分以上見えなくなってしまっている。
【００７０】
また、撮影画像PC21と撮影画像PC23とを比較すると、撮影画像PC23には被写体H33が含まれておらず、被写体H31および被写体H32も撮影画像上における見え方が大きく異なっている。さらに、撮影画像PC21と撮影画像PC23とでは、同じ被写体が写っている領域が少ないことも分かる。
【００７１】
このような場合、互いに隣接する位置で撮影された撮影画像PC21と撮影画像PC22や、撮影画像PC22と撮影画像PC23では、それらの撮影画像から、それなりに多くの対応点が検出される。しかし、撮影位置が大きく離れている撮影画像PC21と撮影画像PC23では、対応点が検出されにくく、場合によっては４点共通推定手法で必要となる条件、つまり３つの撮影画像PC21乃至撮影画像PC23で、共通する４点以上の対応点が検出されないこともある。
【００７２】
このように、３つの撮影画像で共通する４点以上の対応点が必要となる４点共通推定手法では、カメラの位置関係によっては基準空間における撮影位置および撮影姿勢を推定することができないこともあり、より必要条件が緩い撮影位置および撮影姿勢の推定手法が望まれている。すなわち、より広範囲な撮影条件で撮影位置および撮影姿勢を推定することができるようにすることが望まれている。
【００７３】
そこで、本技術では、より緩い条件でも基準空間における撮影画像の撮影位置および撮影姿勢を推定することができるようにした。つまり、より広範囲な撮影条件において撮影位置および撮影姿勢を推定することができるようにした。
【００７４】
具体的には本技術では、例えば図５に示すように２つのカメラのそれぞれで得られた撮影画像間の相対的な撮影位置および撮影姿勢が推定された後、基準空間上における撮影画像の撮影位置および撮影姿勢が推定される。
【００７５】
図５に示す例では、３次元空間上にカメラCA31乃至カメラCA33が配置されており、これらのカメラCA31乃至カメラCA33によって、３次元空間上の被写体の部位P21が観察されている。
【００７６】
また、カメラCA32で得られた撮影画像と、カメラCA33で得られた撮影画像とで共通する５点以上の対応点が検出されており、カメラCA31乃至カメラCA33の各カメラで得られた撮影画像で、共通する１点以上の対応点が検出されているとする。この例では、部位P21に対応する特徴点が、カメラCA31乃至カメラCA33の各カメラで得られた撮影画像で共通する対応点となっている。
【００７７】
さらに、以下では、カメラCA31で得られた撮影画像を撮影画像CA31とも称し、カメラCA32で得られた撮影画像を撮影画像CA32とも称し、カメラCA33で得られた撮影画像を撮影画像CA33とも称することとする。
【００７８】
いま、基準空間上における撮影画像CA31と撮影画像CA32の撮影位置および撮影姿勢は既知であり、未知である撮影画像CA33の撮影位置および撮影姿勢を推定するものとする。
【００７９】
この場合、まず撮影画像CA32上の対応点と、撮影画像CA33上の対応点との位置関係に基づいて、５点以上の共通する対応点を有する撮影画像CA32と撮影画像CA33について、それらの撮影画像を撮影したときの相対的な撮影位置および撮影姿勢が推定される。この時点では、撮影画像CA33の撮影位置は、あくまで撮影画像CA32の撮影位置に対する相対的なものであり、基準空間上における撮影位置ではない。
【００８０】
但し、基準空間上における撮影画像CA32の撮影位置および撮影姿勢は既知であるので、基準空間における撮影画像CA32の撮影姿勢と、撮影画像CA33の撮影画像CA32に対する相対的な撮影姿勢とから、基準空間における撮影画像CA33の撮影姿勢が定まる。
【００８１】
また、撮影画像CA32の撮影位置に対する相対的な撮影画像CA33の撮影位置、つまりカメラCA32から見たカメラCA33がある方向が推定により計算されているので、基準空間上におけるカメラCA32、カメラCA33、および対応点に対応する部位P21の相対的な位置関係が得られたことになる。
【００８２】
すなわち、カメラCA32、カメラCA33、および部位P21の各位置を結んで得られる三角形の形状は定まっているが、その三角形の大きさ（スケール）は定まっていない状態である。換言すれば、カメラCA32から見て、カメラCA33が直線L11上に位置することと、カメラCA32から見た部位P21が位置する方向とは分かっているが、カメラCA32からカメラCA33や部位P21までの距離は定まっていない状態である。
【００８３】
このような状態から、３つのカメラCA31乃至カメラCA33のそれぞれで撮影された撮影画像に基づいて、具体的には３つの撮影画像CA31乃至撮影画像CA33で共通する１点以上の対応点に基づいて、基準空間上における撮影画像CA33の撮影位置が推定される。
【００８４】
例えば、基準空間における撮影画像CA31の撮影位置および撮影姿勢と、撮影画像CA32の撮影位置および撮影姿勢は既知であるから、それらの撮影画像の間での対応点に対応する部位P21の基準空間上の位置も推定により定まる。すると、基準空間上における撮影位置が既知である撮影画像CA32および部位P21と、撮影画像CA32の撮影位置に対する相対的な撮影画像CA33の撮影位置とから、基準空間上における撮影画像CA33の撮影位置を推定することができる。
【００８５】
例えばカメラCA33、つまり撮影画像CA33の撮影位置が直線L11上の所定の位置にいるとして、基準空間上における位置が既知である部位P21を、撮影画像CA33上に投影したときの投影位置と、撮影画像CA33上に実際に写っている部位P21に対応する特徴点（対応点）の位置との誤差が算出される。そして、その誤差が最小となるときの撮影画像CA33の撮影位置が、基準空間上における撮影画像CA33の撮影位置となる。
【００８６】
なお、ここでは撮影画像CA31と撮影画像CA32の基準空間における撮影位置および撮影姿勢が既知である例について説明した。しかし、これらの撮影画像CA31と撮影画像CA32の撮影位置および撮影姿勢は、撮影画像CA33の相対的な撮影位置および撮影姿勢を算出する段階では既知でなくてもよく、撮影画像CA31と撮影画像CA32は、それらの撮影画像の基準空間における撮影位置および撮影姿勢が推定可能なものであればよい。すなわち、撮影画像CA31および撮影画像CA32は、最終的に撮影画像CA31乃至撮影画像CA33から、基準空間における撮影画像CA33の撮影位置および撮影姿勢を推定可能なものであればよい。具体的には、例えば撮影画像CA31乃至撮影画像CA33の撮影位置および撮影姿勢が未知である状態から、それらの各撮影画像の撮影位置および撮影姿勢が略同時に推定されるようにしてもよい。
【００８７】
以下では、図５を参照して説明した撮影画像の撮影位置および撮影姿勢の推定手法を、特に１点共通推定手法とも称することとする。
【００８８】
１点共通推定手法では、撮影位置および撮影姿勢を推定しようとする処理対象の撮影画像との間で、共通する５点以上の対応点を有する、基準空間における撮影位置および撮影姿勢が既知の撮影画像が少なくとも１つ以上あり、かつ処理対象の撮影画像と、基準空間における撮影位置および撮影姿勢が既知の２以上の撮影画像との間で共通する１点以上の対応点があれば、基準空間における処理対象の撮影画像の撮影位置と撮影姿勢を推定することができる。
【００８９】
このように１点共通推定手法で必要とされる条件は、上述した４点共通推定手法で必要とされる条件よりも、相対的に緩い条件であることが分かる。このことから、１点共通推定手法によれば、４点共通推定手法よりも、より広範囲な撮影条件において撮影画像の撮影位置および撮影姿勢を推定できることが分かる。
【００９０】
なお、ここでは、基準空間における撮影位置および撮影姿勢が既知である撮影画像が２つである例について説明したが、上述した条件を満たすことができれば、２以上の撮影画像の撮影位置および撮影姿勢等に基づいて撮影画像CA33の撮影位置および撮影姿勢を推定するようにしてもよい。
【００９１】
また、ここでは撮影画像CA32と撮影画像CA33との相対的な撮影位置および撮影姿勢を推定する例について説明したが、その他、例えば撮影画像CA31と撮影画像CA33との相対的な撮影位置および撮影姿勢が推定されるようにしてもよい。
【００９２】
さらに、カメラCA31乃至カメラCA33は、同一のカメラであってもよいし、それらのカメラの一部または全部が異なるカメラであってもよい。例えば１つのカメラが移動しながら、互いに異なる時刻において各位置で撮影画像を撮影するような場合には、カメラCA31乃至カメラCA33は同一のカメラとなる。
【００９３】
また、例えば図６に示すように処理対象の撮影画像について、２つの撮影画像の基準空間における既知である撮影位置および撮影姿勢のそれぞれに対する相対的な撮影位置および撮影姿勢が推定され、それらの相対的な撮影位置および撮影姿勢から、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢が推定されるようにしてもよい。なお、図６において、図５における場合と対応する部分には同一の符号を付してあり、その説明は適宜、省略する。
【００９４】
図６に示す例では、カメラCA31およびカメラCA32の基準空間上における撮影位置および撮影姿勢、つまり基準空間における撮影画像CA31および撮影画像CA32の撮影位置および撮影姿勢が既知である。また、基準空間におけるカメラCA33、つまり撮影画像CA33の撮影位置および撮影姿勢が未知である。
【００９５】
また、撮影画像CA31と、撮影画像CA33とで共通する５点以上の対応点が検出されており、同様に撮影画像CA32と、撮影画像CA33とで共通する５点以上の対応点が検出されている。
【００９６】
この場合、まず１点共通推定手法における場合と同様に、撮影画像CA32の撮影位置および撮影姿勢に対する撮影画像CA33の相対的な撮影位置および撮影姿勢が推定される。その結果、カメラCA32から見て、カメラCA33が直線L11上に位置していることが分かる。
【００９７】
また、撮影画像CA32における場合と同様に、撮影画像CA31上の対応点と、撮影画像CA33上の対応点との位置関係に基づいて、撮影画像CA31の撮影位置および撮影姿勢に対する撮影画像CA33の相対的な撮影位置および撮影姿勢が推定される。その結果、カメラCA31から見て、カメラCA33が直線L12上に位置していることが分かる。
【００９８】
このようにして、撮影画像CA32の撮影位置に対する相対的な撮影画像CA33の撮影位置と、撮影画像CA31の撮影位置に対する相対的な撮影画像CA33の撮影位置とが分かると、それらの相対的な位置関係から、カメラCA33は基準空間上における直線L11と直線L12の交点位置に存在していることが分かる。すなわち、基準空間における撮影画像CA33の撮影位置が分かる。
【００９９】
また、撮影画像CA32および撮影画像CA33から推定した撮影画像CA33の相対的な撮影姿勢と、撮影画像CA31および撮影画像CA33から推定した撮影画像CA33の相対的な撮影姿勢との少なくとも何れか一方を用いて、基準空間上における撮影画像CA33の撮影姿勢も定めることができる。
【０１００】
なお、ここでは撮影画像CA31と撮影画像CA32の基準空間における撮影位置および撮影姿勢が既知である例について説明した。しかし、これらの撮影画像CA31と撮影画像CA32の撮影位置および撮影姿勢は、撮影画像CA31や撮影画像CA32から、撮影画像CA33の相対的な撮影位置および撮影姿勢を算出する段階では既知でなくてもよく、撮影画像CA31と撮影画像CA32は、それらの撮影画像の撮影位置および撮影姿勢が推定可能なものであればよい。すなわち、撮影画像CA31および撮影画像CA32は、最終的に撮影画像CA31乃至撮影画像CA33から、基準空間における撮影画像CA33の撮影位置および撮影姿勢を推定可能なものであればよい。具体的には、例えば撮影画像CA31乃至撮影画像CA33の撮影位置および撮影姿勢が未知である状態から、それらの各撮影画像の撮影位置および撮影姿勢が略同時に推定されるようにしてもよい。
【０１０１】
以下では、図６を参照して説明した撮影画像の撮影位置および撮影姿勢の推定手法を、特に零点共通推定手法とも称することとする。
【０１０２】
零点共通推定手法では、撮影位置および撮影姿勢を推定しようとする処理対象の撮影画像との間で、共通する５点以上の対応点を有する、基準空間における撮影位置および撮影姿勢が既知の撮影画像が少なくとも２つ以上あれば、基準空間における処理対象の撮影画像の撮影位置と撮影姿勢を推定することができる。
【０１０３】
このように零点共通推定手法で必要とされる条件は、上述した４点共通推定手法で必要とされる条件よりも、相対的に緩い条件であることが分かる。このことから、零点共通推定手法によれば、４点共通推定手法よりも、より広範囲な撮影条件において撮影画像の撮影位置および撮影姿勢を推定できることが分かる。
【０１０４】
なお、ここでは、基準空間における撮影位置および撮影姿勢が既知である撮影画像が２つである例について説明したが、上述した条件を満たすことができれば、２以上の撮影画像の撮影位置および撮影姿勢等に基づいて、基準空間における撮影画像CA33の撮影位置および撮影姿勢を推定するようにしてもよい。
【０１０５】
また、この場合においてもカメラCA31乃至カメラCA33は、同一のカメラであってもよいし、それらのカメラの一部または全部が異なるカメラであってもよい。
【０１０６】
以上のことから、図７に示すように本技術を適用した位置および姿勢の推定手法である１点共通推定手法や零点共通推定手法によれば、４点共通推定手法よりも緩い条件、つまりより広範囲な撮影条件において撮影画像の撮影位置および撮影姿勢を推定することができる。
【０１０７】
図７では、基準空間における撮影位置および撮影姿勢が既知の２つの撮影画像を利用して、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢を推定しようとする場合に必要となる各推定手法の必要条件が示されている。
【０１０８】
すなわち、４点共通推定手法では、２つの撮影画像間で共通する対応点の数はいくつであってもよいが、３つの撮影画像で共通する４点以上の対応点が必要となる。
【０１０９】
これに対して、１点共通推定手法では、３つの撮影画像で共通する対応点の数は１点あればよく、その代わりに処理対象の撮影画像と、他の１つの撮影画像との間で共通する対応点が５点以上必要となる。
【０１１０】
一般的に３つの撮影画像で共通する対応点が存在する可能性よりも、２つの撮影画像で共通する対応点が存在する可能性の方が高いので、１点共通推定手法を行うために必要となる条件は、４点共通推定手法を行うために必要となる条件よりも緩いということができる。したがって、１点共通推定手法では、４点共通推定手法よりも、より広範囲な撮影条件で基準空間における撮影画像の撮影位置および撮影姿勢を推定することができる。
【０１１１】
また、零点共通推定手法では、３つの撮影画像で共通する対応点は必要なく、その代わりに処理対象の撮影画像と、他の２つの撮影画像のそれぞれとの間で共通する対応点が５点以上必要となる。この条件も４点共通推定手法で必要となる条件よりも緩いので、零点共通推定手法では、４点共通推定手法よりも、より広範囲な撮影条件で基準空間における撮影画像の撮影位置および撮影姿勢を推定することができる。
【０１１２】
〈画像処理装置の構成例〉
続いて、以上において説明した本技術を適用した、より具体的な実施の形態について説明する。図８は、本技術を適用した画像処理装置の構成例を示す図である。
【０１１３】
画像処理装置１１は、画像取得部２１、特徴点検出部２２、対応点検出部２３、記録部２４、位置姿勢算出部２５、ランドマーク位置算出部２６、非線形最適化部２７、入力部２８、制御部２９、画像処理部３０、再生制御部３１、および表示部３２を有する。
【０１１４】
画像取得部２１は、例えば１または複数のカメラ（撮影部）からなり、周囲の被写体を撮影することで撮影画像を撮影し、撮影画像を特徴点検出部２２および記録部２４に供給する。
【０１１５】
具体的には、画像取得部２１が１つのカメラから構成される場合には、カメラは、各時刻において互いに異なる位置で撮影画像を撮影する。例えば図５に示した例では、１つのカメラがカメラCA31として撮影を行った後、カメラCA32として撮影を行い、さらにカメラCA33として撮影を行い、それ以降においても各位置で順次、撮影を行っていく。
【０１１６】
また、画像取得部２１が複数のカメラから構成される場合には、複数の各カメラは互いに異なる位置に配置され、同時にまたは異なる時刻で各カメラが撮影を行う。例えば図５に示した例では、カメラCA31乃至カメラCA33を含む複数のカメラから画像取得部２１が構成されることになる。
【０１１７】
さらに、画像取得部２１が通信部から構成され、画像取得部２１が通信網等を介してサーバなどの他の装置から、撮影画像を取得するようにしてもよい。また、以下では、画像取得部２１が複数のカメラから構成されるものとし、撮影画像を撮影したときのカメラの撮影位置および撮影姿勢を、単に撮影画像の撮影位置および撮影姿勢と称することとする。
【０１１８】
特徴点検出部２２は、画像取得部２１から供給された撮影画像から特徴点を検出し、その検出結果を対応点検出部２３に供給する。対応点検出部２３は、特徴点検出部２２から供給された特徴点の検出結果に基づいて、任意の２つの撮影画像のペアについて、それらの撮影画像間の互いに対応する特徴点、つまり対応点を検出し、その検出結果を記録部２４に供給する。
【０１１９】
記録部２４は、例えば揮発性または不揮発性のメモリからなり、画像取得部２１から供給された撮影画像を記録するとともに、対応点検出部２３から供給された対応点の検出結果を対応点情報として記録する。
【０１２０】
また、記録部２４は、非線形最適化部２７から供給された、撮影画像上の対応点の位置と、その対応点に対応する実際の被写体の部位（以下、ランドマークとも称する）の基準空間上の位置とを示す情報をランドマーク情報として記録するとともに、非線形最適化部２７から供給された、基準空間における撮影画像の撮影位置および撮影姿勢を示す情報を位置姿勢情報として記録する。
【０１２１】
さらに、記録部２４は、記録している撮影画像、対応点情報、ランドマーク情報、位置姿勢情報等の各種の情報のうち、必要な情報を位置姿勢算出部２５、非線形最適化部２７、または画像処理部３０に供給する。
【０１２２】
位置姿勢算出部２５は、記録部２４に記録されている各撮影画像について、基準空間におけるそれらの撮影画像の撮影位置および撮影姿勢を算出し、その算出結果をランドマーク位置算出部２６に供給する。
【０１２３】
位置姿勢算出部２５は、対応画像選択部４１、位置姿勢算出部４２、対応画像選択部４３、位置姿勢算出部４４、再投影部４５、対応画像選択部４６、基礎行列算出部４７、相対位置姿勢算出部４８、位置算出部４９、対応画像選択部５０、基礎行列算出部５１、相対位置姿勢算出部５２、位置算出部５３、および姿勢算出部５４を有している。
【０１２４】
対応画像選択部４１は、記録部２４に記録されている対応点情報に基づいて、各撮影画像のペアのうち、最も信頼度の高いペアを選択し、そのペアの対応点情報を記録部２４から読み出して位置姿勢算出部４２に供給する。ここで撮影画像のペアの信頼度は、例えば対応点の数や、様々な距離の特徴点が含まれているか否か、つまり１つの射影変換で表現できない対応点の割り合い、それらの組み合わせ等により定められる。例えば対応点数が多いほど信頼度が高くなるようにされる。
【０１２５】
位置姿勢算出部４２は、対応画像選択部４１から供給された対応点情報に基づいて、基準空間における撮影画像の撮影位置および撮影姿勢を算出し、その算出結果と対応点情報とをランドマーク位置算出部２６に供給する。
【０１２６】
これらの対応画像選択部４１および位置姿勢算出部４２では、１つもランドマークの基準空間上の位置が算出されていない状態で、基準空間における最初の２つの撮影画像の撮影位置および撮影姿勢が算出される。
【０１２７】
対応画像選択部４３は、記録部２４に記録されているランドマーク情報等に基づいて、４点共通推定手法で必要となる条件を満たす撮影画像を選択する。また、対応画像選択部４３は、選択した撮影画像の撮影位置および撮影姿勢の算出に用いるランドマーク情報を記録部２４から読み出して位置姿勢算出部４４に供給する。
【０１２８】
位置姿勢算出部４４は、対応画像選択部４３から供給されたランドマーク情報に基づいて基準空間における撮影画像の撮影位置および撮影姿勢の候補を算出し、その算出結果とランドマーク情報とを再投影部４５に供給する。再投影部４５は、位置姿勢算出部４４から供給された算出結果、およびランドマーク情報に基づいて、基準空間における撮影画像の撮影位置および撮影姿勢を決定し、その決定結果をランドマーク位置算出部２６に供給する。
【０１２９】
これらの対応画像選択部４３乃至再投影部４５では、４点共通推定手法により、基準空間における撮影画像の撮影位置および撮影姿勢が算出される。
【０１３０】
対応画像選択部４６は、記録部２４に記録されている対応点情報に基づいて、基準空間における処理対象とした撮影画像の撮影位置および撮影姿勢を１点共通推定手法により算出するのに用いる撮影画像（カメラ）と位置が既知のランドマークを選択する。また、対応画像選択部４６は、その選択結果に応じて対応点情報、位置姿勢情報、およびランドマーク情報を記録部２４から読み出して基礎行列算出部４７に供給する。
【０１３１】
基礎行列算出部４７は、対応画像選択部４６から供給された対応点情報に基づいて基礎行列を算出し、その算出結果と、対応点情報、位置姿勢情報、およびランドマーク情報とを相対位置姿勢算出部４８に供給する。相対位置姿勢算出部４８は、基礎行列算出部４７から供給された基礎行列に基づいて処理対象の撮影画像の相対的な撮影位置および撮影姿勢を算出するとともに、その算出結果と、対応点情報、位置姿勢情報、およびランドマーク情報とを位置算出部４９に供給する。
【０１３２】
位置算出部４９は、相対位置姿勢算出部４８から供給された相対的な撮影位置および撮影姿勢の算出結果と、位置姿勢情報、およびランドマーク情報とに基づいて基準空間における撮影画像の撮影位置を算出し、その結果得られた基準空間における撮影画像の撮影位置および撮影姿勢の算出結果と対応点情報とをランドマーク位置算出部２６に供給する。
【０１３３】
これらの対応画像選択部４６乃至位置算出部４９では、１点共通推定手法により、基準空間における撮影画像の撮影位置および撮影姿勢が算出される。
【０１３４】
対応画像選択部５０は、記録部２４に記録されている対応点情報に基づいて、処理対象とした撮影画像の撮影位置および撮影姿勢を零点共通推定手法により算出するのに用いる撮影画像（カメラ）を選択する。そして対応画像選択部５０は、その選択結果に応じて対応点情報および位置姿勢情報を記録部２４から読み出して基礎行列算出部５１に供給する。
【０１３５】
基礎行列算出部５１は、対応画像選択部５０から供給された対応点情報に基づいて基礎行列を算出し、その算出結果と対応点情報および位置姿勢情報とを相対位置姿勢算出部５２に供給する。相対位置姿勢算出部５２は、基礎行列算出部５１から供給された基礎行列に基づいて処理対象の撮影画像の相対的な撮影位置および撮影姿勢を算出するとともに、その算出結果と対応点情報および位置姿勢情報とを位置算出部５３に供給する。
【０１３６】
位置算出部５３は、相対位置姿勢算出部５２から供給された相対的な撮影位置および撮影姿勢の算出結果と位置姿勢情報とに基づいて基準空間における撮影画像の撮影位置を算出し、その結果得られた基準空間における撮影画像の撮影位置および相対的な撮影姿勢と、対応点情報および位置姿勢情報とを姿勢算出部５４に供給する。
【０１３７】
姿勢算出部５４は、位置算出部５３から供給された撮影画像の相対的な撮影姿勢および位置姿勢情報に基づいて、基準空間における撮影画像の撮影姿勢を決定し、その結果得られた基準空間における撮影画像の撮影位置および撮影姿勢の算出結果と対応点情報とをランドマーク位置算出部２６に供給する。
【０１３８】
これらの対応画像選択部５０乃至姿勢算出部５４では、零点共通推定手法により、基準空間における撮影画像の撮影位置および撮影姿勢が算出される。
【０１３９】
また、ランドマーク位置算出部２６は、位置姿勢算出部４２、再投影部４５、位置算出部４９、または姿勢算出部５４から供給された、基準空間における撮影画像の撮影位置および撮影姿勢の算出結果等に基づいて、基準空間におけるランドマークの位置を算出する。このとき、ランドマーク位置算出部２６は、必要に応じて、非線形最適化部２７を介して記録部２４から、既知である撮影画像の撮影位置および撮影姿勢を示す位置姿勢情報等を取得して、ランドマーク位置の算出に用いる。また、ランドマーク位置算出部２６は、基準空間における撮影画像の撮影位置および撮影姿勢の算出結果と、対応点情報と、ランドマーク位置の算出結果とを非線形最適化部２７に供給する。
【０１４０】
非線形最適化部２７は、ランドマーク位置算出部２６から供給された基準空間における撮影画像の撮影位置および撮影姿勢の算出結果と、対応点情報と、ランドマーク位置の算出結果とに基づいて、非線形最適化を行い、基準空間における撮影画像の撮影位置および撮影姿勢とランドマーク位置を最適化する。非線形最適化部２７は、非線形最適化により得られた位置姿勢情報およびランドマーク情報を記録部２４に供給し、記録させる。
【０１４１】
入力部２８は、例えばマウスやボタン、タッチパネルなどからなり、ユーザ等の操作に応じた操作信号を制御部２９に供給する。
【０１４２】
制御部２９は、入力部２８から供給された操作信号に基づいて、画像処理装置１１全体の動作を制御する。例えば制御部２９は、位置姿勢算出部２５に基準空間における撮影画像の撮影位置および撮影姿勢を算出させたり、画像処理部３０に所定の画像処理を実行させたりする。
【０１４３】
画像処理部３０は、記録部２４に記録されている撮影画像と位置姿勢情報とに基づいて、所定の画像処理を行って、再生用の画像である再生画像を生成する。ここで、再生画像は、撮影画像から得られた動画像であってもよいし、静止画像であってもよい。
【０１４４】
画像処理部３０は、生成された再生画像を再生制御部３１に供給する。再生制御部３１は、画像処理部３０から供給された再生画像を表示部３２に供給し、再生画像を再生させる。表示部３２は、例えば液晶ディスプレイ等からなり、再生制御部３１の制御に従って再生画像を再生する。
【０１４５】
〈再生処理の説明〉
次に、画像処理装置１１の動作について説明する。
【０１４６】
例えばユーザ等が入力部２８を操作し、再生画像の再生を指示すると、画像処理装置１１は、ユーザ等の指示に応じて再生処理を開始して再生画像を生成し、再生する。以下、図９のフローチャートを参照して、画像処理装置１１による再生処理について説明する。
【０１４７】
ステップＳ１１において、画像取得部２１は複数の撮影画像を取得して、特徴点検出部２２および記録部２４に供給する。例えば画像取得部２１は、複数のカメラにより各位置で撮影画像を撮影することで、撮影画像を取得する。また、記録部２４は、画像取得部２１から供給された撮影画像を記録する。
【０１４８】
ステップＳ１２において、特徴点検出部２２は、画像取得部２１から供給された複数の各撮影画像から特徴点を検出し、その検出結果を対応点検出部２３に供給する。
【０１４９】
例えば特徴点検出部２２は、ハリスコーナーやSIFT等のアルゴリズムに従って撮影画像から特徴点を検出するとともに各特徴点について撮影画像から特徴量を抽出し、撮影画像上の特徴点の位置と、特徴点の特徴量とを特徴点の検出結果として出力する。
【０１５０】
ステップＳ１３において、対応点検出部２３は、特徴点検出部２２から供給された各撮影画像からの特徴点の検出結果に基づいて、撮影画像のペアごとに対応点を検出し、その検出結果を記録部２４に供給する。また、記録部２４は、対応点検出部２３から供給された対応点の検出結果を、対応点情報として記録する。
【０１５１】
例えば対応点検出部２３は、任意の２つの撮影画像のペアを選択し、ペアとされた撮影画像間で特徴量の距離が閾値以下となる特徴点のペアを選択する。また、対応点検出部２３は、検出された特徴点のペアのなかから、特徴的である特徴点のペアを抽出するとともに、抽出した特徴点のペアから、さらに幾何学的および統計的に妥当である特徴点のペアを抽出し、抽出された特徴点のペアを、対応点のペアとする。
【０１５２】
このようにして対応点検出部２３は、画像取得部２１で取得された全ての撮影画像を対象として、２つの撮影画像の全組み合わせについて対応点を検出する。
【０１５３】
ステップＳ１４において、対応画像選択部４１は、記録部２４に記録されている対応点情報に基づいて、撮影画像のペアのうち、最も信頼度の高いペアを選択し、そのペアの対応点情報を記録部２４から読み出して位置姿勢算出部４２に供給する。ここで撮影画像のペアの信頼度は、例えば対応点の数や、様々な距離の特徴点が含まれているか否か、つまり１つの射影変換で表現できない対応点の割り合い、それらの組み合わせ等により定められる。例えば対応点数が多いほど信頼度が高くなるようにされる。
【０１５４】
これにより、最も信頼度の高い２つの撮影画像が選択されたことになる。つまり、まだランドマークの基準空間上の位置が１つも算出されていない状態で、処理対象とする最初の２つの撮影画像が選択されたことになる。
【０１５５】
ステップＳ１５において、位置姿勢算出部４２は、対応画像選択部４１からの対応点情報に基づいて、ペアとされた撮影画像について、各撮影画像を撮影したときの基準空間における撮影位置および撮影姿勢を算出し、その算出結果と対応点情報とをランドマーク位置算出部２６に供給する。
【０１５６】
具体的には位置姿勢算出部４２は、ペアとされた２つの撮影画像についての対応点情報に基づいて基礎行列を算出し、基礎行列を分解することで、ペアとされた２つの撮影画像のそれぞれを撮影したときの相対的な撮影位置および撮影姿勢を算出する。そして、例えば位置姿勢算出部４２は、適切に基準空間のスケールを設定することで、算出された２つの撮影画像の相対的な撮影位置および撮影姿勢から、それらの２つの撮影画像の基準空間上の撮影位置および撮影姿勢を定める。
【０１５７】
なお、基礎行列を算出して撮影画像の撮影位置および撮影姿勢を推定する方法については、例えば「Richard Hartley and Andrew Zisserman,“Multiple View Geometry in Computer Vision”」などに詳細に記載されている。
【０１５８】
ステップＳ１６において、ランドマーク位置算出部２６は、位置姿勢算出部４２から供給された、２つの撮影画像の撮影置および撮影姿勢の算出結果と対応点情報とに基づいて、基準空間上のランドマークの位置を算出する。
【０１５９】
例えばランドマーク位置算出部２６は、ステレオ視等によりランドマークの位置を算出する。具体的には、例えば対応点ごとに、２つの撮影画像について基準空間上におけるカメラの視点と投影面上の対応点とを結ぶ光線ベクトルが算出され、それらの２つの撮影画像ごとに算出した光線ベクトルの交点が基準空間におけるランドマークの位置とされる。なお、２つの光線ベクトルが交点をもたない時には、それらの２つの光線ベクトルからの距離が最も近い位置が基準空間におけるランドマークの位置とされる。
【０１６０】
ランドマーク位置算出部２６は、ランドマーク位置の算出結果と、撮影画像の撮影位置および撮影姿勢の算出結果と、対応点情報とを非線形最適化部２７に供給する。
【０１６１】
ステップＳ１７において、非線形最適化部２７は、ランドマーク位置算出部２６からの撮影画像の撮影位置および撮影姿勢の算出結果と、対応点情報と、ランドマーク位置の算出結果とに基づいて、非線形最適化を行う。
【０１６２】
すなわち、非線形最適化部２７は、基準空間上のランドマークの位置と、基準空間における撮影画像の撮影位置および撮影姿勢に基づいて、ランドマークを撮影画像に対応する投影面上に投影する。そして非線形最適化部２７は、投影面上におけるランドマークの投影位置と、実際の撮影画像上のランドマークに対応する対応点の投影位置との誤差が小さくなるように基準空間における撮影画像の撮影位置および撮影姿勢と、ランドマークの基準空間上の位置とを調整する。このような撮影画像の撮影位置および撮影姿勢と、ランドマーク位置とを調整する処理は、バンドル調整とも呼ばれている。
【０１６３】
非線形最適化部２７は、非線形最適化により調整された撮影画像の撮影位置および撮影姿勢を、最終的な基準空間における撮影画像の撮影位置および撮影姿勢として位置姿勢情報を生成するとともに、非線形最適化により調整されたランドマーク位置と対応点情報とからランドマーク情報を生成する。
【０１６４】
このようなランドマーク情報を参照すれば、各ランドマークに対応する対応点（特徴点）がどの撮影画像のどの位置で検出されたかや、各ランドマークの基準空間上の位置を把握することができる。
【０１６５】
非線形最適化部２７は生成した位置姿勢情報とランドマーク情報を記録部２４に供給し、記録させる。
【０１６６】
ステップＳ１８において、制御部２９は、全ての撮影画像について、撮影画像を撮影したときの撮影位置および撮影姿勢を推定したか否かを判定する。
【０１６７】
ステップＳ１８において、まだ全ての撮影画像の撮影位置および撮影姿勢を推定していないと判定された場合、処理はステップＳ１９へと進む。
【０１６８】
ステップＳ１９において、制御部２９は、４点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定するか否かを判定する。例えば制御部２９は、ユーザ等が入力部２８を操作し、撮影画像の撮影位置および撮影姿勢の推定手法を指定したときに入力部２８から供給された操作信号に基づいて、４点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定するか否かを判定する。
【０１６９】
ステップＳ１９において、４点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定すると判定された場合、制御部２９は、位置姿勢算出部２５に対して４点共通推定手法での推定を指示し、処理はステップＳ２０へと進む。
【０１７０】
ステップＳ２０において、画像処理装置１１は４点共通推定手法による位置姿勢推定処理を行って、処理対象の撮影画像の撮影位置および撮影姿勢を算出する。これにより、新たに撮影位置および撮影姿勢が推定された撮影画像の姿勢位置情報とランドマーク情報が記録部２４に記録されることになる。
【０１７１】
４点共通推定手法による位置姿勢推定処理が行われると、その後、処理はステップＳ１８へと戻り、上述した処理が繰り返し行われる。なお、４点共通推定手法による位置姿勢推定処理の詳細は後述する。
【０１７２】
また、ステップＳ１９において、４点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定しないと判定された場合、ステップＳ２１において、制御部２９は、１点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定するか否かを判定する。
【０１７３】
ステップＳ２１において、１点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定すると判定された場合、制御部２９は、位置姿勢算出部２５に対して１点共通推定手法での推定を指示し、処理はステップＳ２２へと進む。
【０１７４】
ステップＳ２２において、画像処理装置１１は１点共通推定手法による位置姿勢推定処理を行って、処理対象の撮影画像の撮影位置および撮影姿勢を算出する。これにより、新たに撮影位置および撮影姿勢が推定された撮影画像の姿勢位置情報とランドマーク情報が記録部２４に記録されることになる。
【０１７５】
１点共通推定手法による位置姿勢推定処理が行われると、その後、処理はステップＳ１８へと戻り、上述した処理が繰り返し行われる。なお、１点共通推定手法による位置姿勢推定処理の詳細は後述する。
【０１７６】
また、ステップＳ２１において、１点共通推定手法で撮影画像の撮影位置および撮影姿勢を推定しないと判定された場合、制御部２９は、位置姿勢算出部２５に対して零点共通推定手法での推定を指示し、処理はステップＳ２３へと進む。そして、ステップＳ２３において、画像処理装置１１は零点共通推定手法による位置姿勢推定処理を行って、処理対象の撮影画像の撮影位置および撮影姿勢を算出する。これにより、新たに撮影位置および撮影姿勢が推定された撮影画像の姿勢位置情報とランドマーク情報が記録部２４に記録されることになる。
【０１７７】
零点共通推定手法による位置姿勢推定処理が行われると、その後、処理はステップＳ１８へと戻り、上述した処理が繰り返し行われる。なお、零点共通推定手法による位置姿勢推定処理の詳細は後述する。
【０１７８】
さらに、ステップＳ１８において、全ての撮影画像の撮影位置および撮影姿勢を推定したと判定された場合、ステップＳ２４において、画像処理部３０は、記録部２４から撮影画像および位置姿勢情報を読み出して再生画像を生成する。そして画像処理部３０は、生成した再生画像を再生制御部３１に供給する。
【０１７９】
例えば画像処理部３０は、制御部２９の制御に従って、基準空間上において互いに隣接して並ぶ２つのカメラの撮影画像と位置姿勢情報とに基づいて、それらのカメラの間の位置を視点位置とする撮影画像を補間処理等の画像処理により生成する。
【０１８０】
そして、画像処理部３０は、各位置のカメラの撮影画像や、新たに生成した各視点位置の撮影画像等が基準空間における位置の順に再生される再生画像を生成する。これにより、例えばあたかも被写体が静止した状態でカメラによりパンニングが行われているかのような再生画像を得ることができる。
【０１８１】
なお、再生画像は、複数の各撮影画像の基準空間における撮影位置間の位置関係に基づいて、それらの複数の撮影画像や補間処理等により生成された撮影画像を用いた再生処理を行うもための画像であれば、どのような画像であってもよい。
【０１８２】
ステップＳ２５において、再生制御部３１は、画像処理部３０から供給された再生画像を表示部３２に供給して再生させ、再生処理は終了する。
【０１８３】
以上のようにして、画像処理装置１１は、４点共通推定手法、１点共通推定手法、または零点共通推定手法の何れかの推定手法を選択し、選択した推定手法により各撮影画像の基準空間における撮影位置および撮影姿勢を算出する。
【０１８４】
このように４点共通推定手法、１点共通推定手法、または零点共通推定手法の何れかの推定手法を選択して撮影画像の撮影位置および撮影姿勢を推定することで、より堅強に、かつより広範囲な撮影条件で撮影画像の撮影位置および撮影姿勢を推定することができる。特に、１点共通推定手法や零点共通推定手法により撮影位置および撮影姿勢を推定することで、堅強に、かつより広範囲な撮影条件で撮影画像の撮影位置および撮影姿勢を推定することができる。
【０１８５】
なお、各撮影画像の撮影位置および撮影姿勢を推定するときに、全撮影画像で同じ推定手法が選択されるようにしてもよいし、撮影画像ごとに推定手法が選択されるようにしてもよい。また、ユーザ等の外部入力により推定手法を選択する他、各推定手法を行うための条件が満たされているか等に基づいて、推定手法が選択されるようにしてもよい。
【０１８６】
〈４点共通推定手法による位置姿勢推定処理の説明〉
続いて、図９のステップＳ２０、ステップＳ２２、およびステップＳ２３に対応する処理について説明する。
【０１８７】
まず、図１０のフローチャートを参照して、図９のステップＳ２０の処理に対応する、４点共通推定手法による位置姿勢推定処理について説明する。
【０１８８】
ステップＳ５１において、対応画像選択部４３は、基準空間における位置が既知であるランドマークに対応する対応点が４点以上ある、基準空間における撮影位置および撮影姿勢が未知である撮影画像を処理対象の撮影画像として選択する。
【０１８９】
すなわち、対応画像選択部４３は、記録部２４に記録されているランドマーク情報に基づいて、処理対象とする撮影画像を選択する。このとき、処理対象の候補となる撮影画像が複数ある場合には、対応画像選択部４３は、基準空間における撮影位置および撮影姿勢が未知であり、基準空間における位置が既知であるランドマークに対応する対応点の数が最も多い撮影画像を処理対象の撮影画像として選択する。これにより、基準空間上における撮影位置および撮影姿勢が未知であり、かつ４点共通推定手法で必要となる条件を満たす撮影画像が処理対象の撮影画像として選択される。
【０１９０】
対応画像選択部４３は、処理対象の撮影画像上の対応点に対応するランドマークの基準空間上の位置を示すランドマーク情報を記録部２４から読み出して、位置姿勢算出部４４に供給する。
【０１９１】
ステップＳ５２において、位置姿勢算出部４４は、対応画像選択部４３からのランドマーク情報に基づいて、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢の候補を算出し、その算出結果と、ランドマーク情報とを再投影部４５に供給する。
【０１９２】
例えば位置姿勢算出部４４は、処理対象の撮影画像における、基準空間における位置が既知であるランドマークに対応する対応点のなかから３つの対応点を選択する。そして位置姿勢算出部４４は、選択した３つの対応点の撮影画像上の位置と、それらの対応点に対応するランドマークの基準空間上の位置とから、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢の候補を算出する。これにより、処理対象の撮影画像の４つの撮影位置および撮影姿勢が候補として得られる。
【０１９３】
ステップＳ５３において、再投影部４５は、位置姿勢算出部４４から供給された算出結果と、ランドマーク情報とに基づいて、基準空間における撮影画像の撮影位置および撮影姿勢を決定し、その決定結果をランドマーク位置算出部２６に供給する。
【０１９４】
例えば再投影部４５は、処理対象の撮影画像における、基準空間における位置が既知であるランドマークに対応する対応点のなかから、ステップＳ５２の処理で用いられていない対応点を１つ選択する。そして、再投影部４５は、処理対象の撮影画像の撮影位置および撮影姿勢の候補ごとに、候補とされた撮影位置および撮影姿勢と、選択された１つの対応点に対応するランドマークの位置とから、そのランドマークを投影面（撮影画像）上に再投影する。
【０１９５】
さらに、再投影部４５は、ランドマークを再投影したときの投影位置と、実際の対応点の位置との誤差が最小となる候補を、最終的な処理対象の撮影画像の基準空間における撮影位置および撮影姿勢として決定する。
【０１９６】
このようにして処理対象の撮影画像の撮影位置および撮影姿勢が推定されると、その後、ステップＳ５４の処理およびステップＳ５５の処理が行われて４点共通推定手法による位置姿勢推定処理は終了し、処理は図９のステップＳ１８へと進む。
【０１９７】
なお、これらのステップＳ５４およびステップＳ５５の処理は図９のステップＳ１６およびステップＳ１７の処理と同様であるので、その説明は省略する。
【０１９８】
但し、ステップＳ５４およびステップＳ５５では、処理対象の撮影画像から検出された対応点のうち、基準空間における撮影位置および撮影姿勢が既知である他の撮影画像と共通する対応点がある場合には、そのような対応点全てについて、対応点に対応する基準空間上のランドマーク位置が算出される。なお、既にランドマーク位置が算出されている対応点については、ランドマーク位置の算出は行われない。
【０１９９】
また、このとき、ランドマーク位置算出部２６は、必要に応じて、非線形最適化部２７を介して記録部２４から、必要となる撮影画像の撮影位置および撮影姿勢を示す位置姿勢情報と、対応点情報とを取得して、ランドマーク位置を算出する。
【０２００】
以上のようにして、画像処理装置１１は、４点共通推定手法により処理対象の撮影画像の撮影位置および撮影姿勢を算出する。
【０２０１】
〈１点共通推定手法による位置姿勢推定処理の説明〉
次に、図１１のフローチャートを参照して、図９のステップＳ２２の処理に対応する、１点共通推定手法による位置姿勢推定処理について説明する。
【０２０２】
ステップＳ８１において、対応画像選択部４６は、記録部２４に記録されている対応点情報および位置姿勢情報に基づいて、撮影位置および撮影姿勢が未知である撮影画像を処理対象の撮影画像として選択するとともに、処理対象の撮影画像との間で最も信頼度の高い、撮影位置および撮影姿勢が既知である撮影画像を選択する。以下、処理対象の撮影画像と最も信頼度の高い、撮影位置および撮影姿勢が既知である撮影画像を参照撮影画像とも称する。例えば図５に示した例で、撮影画像CA33が処理対象の撮影画像とされた場合には、撮影画像CA32が参照撮影画像とされる。
【０２０３】
対応画像選択部４６は、処理対象の撮影画像と、参照撮影画像との間の対応点の関係を示す対応点情報、および参照撮影画像の位置姿勢情報を記録部２４から読み出して、基礎行列算出部４７に供給する。なお、処理対象の撮影画像と、参照撮影画像とは、少なくとも互いに対応する５点以上の対応点を有しているものとする。但し、これらの５点以上の各対応点については、それらの対応点に対応するランドマークの位置は既知である必要はない。
【０２０４】
さらに、対応画像選択部４６は、記録部２４に記録されている対応点情報およびランドマーク情報を参照して、処理対象の撮影画像から検出された対応点に対応するランドマークのなかから、基準空間における位置が既知であるランドマークを検索する。そして、対応画像選択部４６は、検索の結果得られた１以上のランドマークの基準空間における位置を示すランドマーク情報を記録部２４から読み出して基礎行列算出部４７に供給する。
【０２０５】
このような検索により得られるランドマークは位置が既知であるから、少なくとも基準空間における撮影位置および撮影姿勢が既知である２以上の撮影画像に、そのランドマークに対応する対応点があることになる。したがって、検索により得られるランドマークに対応する対応点が、撮影位置および撮影姿勢が既知である２以上の撮影画像と、処理対象の撮影画像とにあることになる。
【０２０６】
例えば図５に示した例では、基準空間における位置が既知であり、かつ対応する対応点が処理対象の撮影画像CA33にあるランドマークの検索結果として、部位P21が得られることになる。部位P21は、基準空間における撮影位置および撮影姿勢が既知である２つの撮影画像CA31および撮影画像CA32で観察されているので、基準空間における部位P21の位置は既知である。
【０２０７】
なお、検索結果として得られるランドマークは、処理対象の撮影画像に、そのランドマークに対応する対応点があればよく、必ずしもそのランドマークに対応する対応点が参照撮影画像にある必要はない。
【０２０８】
ステップＳ８２において、基礎行列算出部４７は、対応画像選択部４６から供給された対応点情報に基づいて、すなわち処理対象の撮影画像上の対応点と、参照撮影画像上の対応点との位置関係に基づいて基礎行列を算出する。
【０２０９】
基礎行列算出部４７は、算出された基礎行列、対応点情報、位置姿勢情報、およびランドマーク情報を相対位置姿勢算出部４８に供給する。
【０２１０】
ステップＳ８３において、相対位置姿勢算出部４８は、基礎行列算出部４７から供給された基礎行列に基づいて、参照撮影画像に対する処理対象の撮影画像の相対的な撮影位置および撮影姿勢を算出する。すなわち、参照撮影画像を撮影したときのカメラと、処理対象の撮影画像を撮影したときのカメラとの相対的な位置関係が算出される。例えばステップＳ８３では、図９のステップＳ１５と同様の処理が行われる。この処理により、例えば図５に示した例では、撮影画像CA32に対する撮影画像CA33の相対的な撮影位置および撮影姿勢が算出される。
【０２１１】
相対位置姿勢算出部４８は、算出された処理対象の撮影画像の相対的な撮影位置および撮影姿勢と、対応点情報、位置姿勢情報、およびランドマーク情報とを位置算出部４９に供給する。
【０２１２】
ステップＳ８４において、位置算出部４９は、相対位置姿勢算出部４８から供給された処理対象の撮影画像の相対的な撮影位置および撮影姿勢と、対応点情報、位置姿勢情報、およびランドマーク情報とに基づいて、撮影画像の基準空間における撮影位置を算出する。
【０２１３】
すなわち、位置算出部４９は、上述した検索の結果として得られた、ランドマーク情報により示される基準空間における位置が既知であるランドマークを、処理対象の撮影画像に対応する投影面上に投影する。そして位置算出部４９は、ランドマークの投影位置と、そのランドマークに対応する対応点の投影面上の位置とに基づいて、処理対象の撮影画像の基準空間における撮影位置を算出する。
【０２１４】
例えば、ランドマークの投影位置となり得る位置は、位置姿勢情報により示される参照撮影画像の基準空間上の撮影位置および撮影姿勢と、処理対象の撮影画像の相対的な撮影位置および撮影姿勢と、ランドマーク情報により示されるランドマークの位置とから定まる。位置算出部４９は、ランドマークの投影位置と、ランドマークに対応する実際の対応点の位置との誤差が最小となるように、基準空間における処理対象の撮影画像の撮影位置を定める。
【０２１５】
なお、３以上の撮影画像で共通する対応点が複数ある場合には、最小二乗法やRANSAC(Random Sample Consensus)法などにより、基準空間における処理対象の撮影画像の撮影位置を算出すればよい。
【０２１６】
また、基準空間における処理対象の撮影画像の撮影姿勢は、基準空間における参照撮影画像の撮影姿勢と、参照撮影画像に対する処理対象の撮影画像の相対的な撮影姿勢とから算出される。
【０２１７】
位置算出部４９は、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢の算出結果と対応点情報とをランドマーク位置算出部２６に供給する。
【０２１８】
処理対象の撮影画像の撮影位置および撮影姿勢が算出されると、その後、ステップＳ８５およびステップＳ８６の処理が行われて１点共通推定手法による位置姿勢推定処理は終了し、処理は図９のステップＳ１８へと進む。
【０２１９】
なお、これらのステップＳ８５およびステップＳ８６の処理は図１０のステップＳ５４およびステップＳ５５の処理と同様であるので、その説明は省略する。
【０２２０】
以上のようにして、画像処理装置１１は、１点共通推定手法により処理対象の撮影画像の撮影位置および撮影姿勢を算出する。このように、１点共通推定手法を用いれば、より堅強に、かつより広範囲な撮影条件で撮影画像の撮影位置および撮影姿勢を推定することができる。
【０２２１】
なお、以上において説明した１点共通推定手法による位置姿勢推定処理では、基準空間における撮影位置および撮影姿勢が既知である撮影画像が参照撮影画像とされると説明した。しかし、参照撮影画像の撮影位置は、参照撮影画像を選択する時点で既知である必要はなく、基準空間における撮影位置および撮影姿勢を算出することが可能な撮影画像を参照撮影画像とするようにしてもよい。すなわち、参照撮影画像とされる撮影画像は、最終的に、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢を推定することができる撮影画像であればよい。
【０２２２】
〈零点共通推定手法による位置姿勢推定処理の説明〉
次に、図１２のフローチャートを参照して、図９のステップＳ２３の処理に対応する、零点共通推定手法による位置姿勢推定処理について説明する。
【０２２３】
ステップＳ１１１において、対応画像選択部５０は、記録部２４に記録されている対応点情報および位置姿勢情報に基づいて、撮影位置および撮影姿勢が未知である撮影画像を処理対象の撮影画像として選択する。また、ステップＳ１１１において、対応画像選択部５０は、処理対象の撮影画像との間で最も信頼度の高い、基準空間における撮影位置および撮影姿勢が既知である撮影画像を２つ選択する。以下、処理対象の撮影画像と最も信頼度の高い、撮影位置および撮影姿勢が既知である撮影画像を参照撮影画像とも称する。
【０２２４】
例えば図６に示した例で、撮影画像CA33が処理対象の撮影画像とされる場合、撮影画像CA31および撮影画像CA32が参照撮影画像として選択される。
【０２２５】
対応画像選択部５０は、処理対象の撮影画像と、各参照撮影画像との間の対応点の関係を示す対応点情報、および各参照撮影画像の位置姿勢情報を記録部２４から読み出して、基礎行列算出部５１に供給する。なお、処理対象の撮影画像と、２つの参照撮影画像のそれぞれとは、少なくとも互いに対応する５点以上の対応点を有しているものとする。
【０２２６】
ステップＳ１１２において、基礎行列算出部５１は、対応画像選択部５０から供給された対応点情報に基づいて、１つ目の参照撮影画像と処理対象の撮影画像とについての基礎行列を算出する。
【０２２７】
基礎行列算出部５１は、算出された基礎行列、対応点情報、および位置姿勢情報を相対位置姿勢算出部５２に供給する。
【０２２８】
ステップＳ１１３において、相対位置姿勢算出部５２は、基礎行列算出部５１から供給された基礎行列に基づいて、１つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影位置および撮影姿勢を算出する。すなわち、１つ目の参照撮影画像を撮影したときのカメラと、処理対象の撮影画像を撮影したときのカメラとの相対的な位置関係が算出される。
【０２２９】
相対位置姿勢算出部５２は、算出された処理対象の撮影画像の相対的な撮影位置および撮影姿勢と、対応点情報および位置姿勢情報とを位置算出部５３に供給する。
【０２３０】
なお、これらのステップＳ１１２およびステップＳ１１３では、図１１のステップＳ８２およびステップＳ８３と同様の処理が行われる。
【０２３１】
また、１つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影位置および撮影姿勢が算出されると、その後、ステップＳ１１４およびステップＳ１１５の処理が行われるが、これらの処理はステップＳ１１２およびステップＳ１１３の処理と同様であるので、その説明は省略する。すなわち、ステップＳ１１４およびステップＳ１１５では、２つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影位置および撮影姿勢が算出される。
【０２３２】
ステップＳ１１６において、位置算出部５３は、相対位置姿勢算出部５２から供給された相対的な撮影位置および撮影姿勢の算出結果と、位置姿勢情報とに基づいて処理対象の撮影画像の基準空間における撮影位置を算出する。
【０２３３】
例えば位置算出部５３は、１つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影位置と、１つ目の参照撮影画像の位置姿勢情報とから、基準空間における１つ目の参照撮影画像の撮影位置と、処理対象の撮影画像の撮影位置とを結ぶ直線を１つ目の検出直線として算出する。同様にして、位置算出部５３は、２つ目の参照撮影画像についても基準空間における２つ目の参照撮影画像の撮影位置と、処理対象の撮影画像の撮影位置とを結ぶ直線を２つ目の検出直線として算出する。これらの２つの検出直線は、例えば図６に示した直線L11と直線L12に対応する。
【０２３４】
そして、位置算出部５３は、１つ目の検出直線と２つ目の検出直線との基準空間上における交点位置を算出し、その交点位置を基準空間における処理対象の撮影画像の撮影位置とする。なお、より詳細には実際に検出直線が算出される必要はなく、演算により基準空間における２つの検出直線の交点位置が算出されればよい。
【０２３５】
また、１つ目の検出直線と２つ目の検出直線とが交点をもたないときには、それらの検出直線に最も近い位置、つまりそれらの直線からの距離が最も短い位置を最小二乗法で算出し、その算出結果として得られた位置が、基準空間における処理対象の撮影画像の撮影位置とされる。
【０２３６】
さらに、ここでは参照撮影画像が２つである場合について説明したが、参照撮影画像は３以上であってもよい。そのような場合には、各参照撮影画像ごとに検出直線が算出され、それらの検出直線に基づいて、最小二乗法やRANSAC法などにより、処理対象の撮影画像の撮影位置を算出すればよい。
【０２３７】
位置算出部５３は、このようにして得られた処理対象の撮影画像の基準空間上の撮影位置、各参照撮影画像について算出された処理対象の撮影画像の相対的な撮影姿勢、対応点情報、および位置姿勢情報を姿勢算出部５４に供給する。
【０２３８】
ステップＳ１１７において、姿勢算出部５４は、位置算出部５３から供給された処理対象の撮影画像の相対的な撮影姿勢、および参照撮影画像の位置姿勢情報に基づいて、基準空間における処理対象の撮影画像の撮影姿勢を算出する。
【０２３９】
例えば姿勢算出部５４は、１つ目の参照撮影画像の位置姿勢情報と、１つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影姿勢とから、基準空間における処理対象の撮影画像の撮影姿勢を算出する。
【０２４０】
同様にして、姿勢算出部５４は、２つ目の参照撮影画像の位置姿勢情報と、２つ目の参照撮影画像に対する処理対象の撮影画像の相対的な撮影姿勢とから、基準空間における処理対象の撮影画像の撮影姿勢を算出する。
【０２４１】
そして、姿勢算出部５４は、処理対象の撮影画像について算出された、基準空間における２つの撮影姿勢の少なくとも何れか一方を用いて、処理対象の撮影画像の最終的な、基準空間における撮影姿勢を算出する。例えば２つの参照撮影画像のうち、より処理対象の撮影画像の撮影位置に近い位置に撮影位置がある参照撮影画像について算出した、処理対象の撮影画像の撮影姿勢が、最終的な撮影姿勢とされるようにしてもよい。これは、処理対象の撮影画像の撮影位置に撮影位置が近い撮影画像ほど、より多くの対応点があるはずであり、より高精度に撮影画像の撮影姿勢を算出することができるからである。
【０２４２】
また、例えば２つの参照撮影画像について算出した、基準空間における処理対象の撮影画像の撮影姿勢の平均値や重み付け加算値などが処理対象の撮影画像の最終的な、基準空間における撮影姿勢とされるようにしてもよい。
【０２４３】
このようにして処理対象の撮影画像の撮影位置および撮影姿勢が算出されると、姿勢算出部５４は、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢と、対応点情報とをランドマーク位置算出部２６に供給する。
【０２４４】
また、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢が算出されると、その後、ステップＳ１１８およびステップＳ１１９の処理が行われて零点共通推定手法による位置姿勢推定処理は終了し、処理は図９のステップＳ１８へと進む。
【０２４５】
なお、これらのステップＳ１１８およびステップＳ１１９の処理は図１０のステップＳ５４およびステップＳ５５の処理と同様であるので、その説明は省略する。
【０２４６】
以上のようにして、画像処理装置１１は、零点共通推定手法により処理対象の撮影画像の撮影位置および撮影姿勢を算出する。このように、零点共通推定手法を用いれば、より堅強に、かつより広範囲な撮影条件で撮影画像の撮影位置および撮影姿勢を推定することができる。
【０２４７】
なお、以上において説明した零点共通推定手法による位置姿勢推定処理では、基準空間における撮影位置および撮影姿勢が既知である２つの撮影画像が参照撮影画像とされると説明した。しかし、参照撮影画像の撮影位置は、参照撮影画像を選択する時点で既知である必要はなく、基準空間における撮影位置および撮影姿勢を算出することが可能な撮影画像を参照撮影画像とするようにしてもよい。すなわち、参照撮影画像とされる撮影画像は、最終的に、基準空間における処理対象の撮影画像の撮影位置および撮影姿勢を推定することができる撮影画像であればよい。
【０２４８】
〈第２の実施の形態〉
〈再生処理の説明〉
なお、以上においては、４点共通推定手法、１点共通推定手法、または零点共通推定手法の何れか１つの推定手法により処理対象の撮影画像の撮影位置および撮影姿勢が推定される例について説明した。しかし、例えばそれらの３つの推定手法で処理対象の撮影画像の撮影位置および撮影姿勢が算出され、それらの算出結果のなかから、最も確からしいものを最終的な算出結果として採用するようにしてもよい。
【０２４９】
そのような場合、例えば図１３に示す再生処理が行われる。以下、図１３のフローチャートを参照して、画像処理装置１１による再生処理について説明する。
【０２５０】
なお、ステップＳ１４１乃至ステップＳ１４８の処理は、図９におけるステップＳ１１乃至ステップＳ１８の処理と同様であるので、その説明は省略する。
【０２５１】
ステップＳ１４８において、まだ全ての撮影画像の撮影位置および撮影姿勢を推定していないと判定された場合、ステップＳ１４９において、画像処理装置１１は４点共通推定手法による位置姿勢推定処理を行う。なお、このステップＳ１４９の処理は、図９のステップＳ２０の処理、つまり図１０を参照して説明した処理と同様であるので、その説明は省略する。
【０２５２】
但し、ステップＳ１４９の時点では、非線形最適化部２７は、４点共通推定手法により推定された位置姿勢情報およびランドマーク情報を記録部２４に供給せずに保持している。
【０２５３】
また、ステップＳ１５０において、画像処理装置１１は１点共通推定手法による位置姿勢推定処理を行う。なお、このステップＳ１５０の処理は、図９のステップＳ２２の処理、つまり図１１を参照して説明した処理と同様であるので、その説明は省略する。
【０２５４】
但し、ステップＳ１５０の時点では、非線形最適化部２７は、１点共通推定手法により推定された位置姿勢情報およびランドマーク情報を記録部２４に供給せずに保持している。
【０２５５】
ステップＳ１５１において、画像処理装置１１は零点共通推定手法による位置姿勢推定処理を行う。なお、このステップＳ１５１の処理は、図９のステップＳ２３の処理、つまり図１２を参照して説明した処理と同様であるので、その説明は省略する。
【０２５６】
但し、ステップＳ１５１の時点では、非線形最適化部２７は、零点共通推定手法により推定された位置姿勢情報およびランドマーク情報を記録部２４に供給せずに保持している。
【０２５７】
また、ステップＳ１４９乃至ステップＳ１５１では、同一の撮影画像が処理対象の撮影画像として選択され、処理対象の撮影画像の撮影位置および撮影姿勢が算出される。
【０２５８】
ステップＳ１５２において、非線形最適化部２７はステップＳ１４９乃至ステップＳ１５１の各処理で得られた処理対象の撮影画像の撮影位置および撮影姿勢とランドマーク位置とに基づいて、再投影誤差が最小となる撮影位置および撮影姿勢を、基準空間における処理対象の撮影画像の最終的な撮影位置および撮影姿勢として採用する。
【０２５９】
すなわち、非線形最適化部２７は各推定手法で得られたランドマークの位置と、処理対象の撮影画像の撮影位置および撮影姿勢とに基づいて、ランドマークを投影面上に投影し、その投影位置と、ランドマークに対応する撮影画像の対応点の投影面における位置との誤差を算出する。
【０２６０】
非線形最適化部２７は、ランドマークごとに算出した誤差の平均値等を評価値として算出し、各推定手法のうちの最も評価値が小さいもの、つまり最も誤差が小さい推定手法を選択する。非線形最適化部２７は、このようにして選択した推定手法により得られた処理対象の撮影画像の撮影位置および撮影姿勢を、最終的な撮影位置および撮影姿勢として採用する。これにより、各推定手法のうち、最も高精度に撮影位置および撮影姿勢が推定されたものが採用されたことになる。
【０２６１】
また、非線形最適化部２７は、最終的に得られた基準空間における処理対象の撮影画像の撮影位置および撮影姿勢を示す位置姿勢情報と、その位置姿勢情報とともに算出されたランドマーク情報とを記録部２４に供給し、記録させる。
【０２６２】
非線形最適化部２７により処理対象の撮影画像の最終的な撮影位置および撮影姿勢が推定されると、その後、処理はステップＳ１４８に戻り、上述した処理が繰り返し行われる。
【０２６３】
また、ステップＳ１４８において、全ての撮影画像の撮影位置および撮影姿勢を推定したと判定されると、その後、ステップＳ１５３およびステップＳ１５４の処理が行われて再生処理は終了するが、これらの処理は図９のステップＳ２４およびステップＳ２５の処理と同様であるので、その説明は省略する。
【０２６４】
以上のようにして、画像処理装置１１は、各推定手法により処理対象の撮影画像の撮影位置および撮影姿勢を算出し、それらの算出結果から最も算出精度が高いものを最終的な撮影位置および撮影姿勢として採用する。これにより、より堅強かつ高精度に、またより広範囲な撮影条件で処理対象の撮影画像の撮影位置および撮影姿勢を推定することができるようになる。
【０２６５】
なお、ここでは３つの推定手法で撮影画像の撮影位置および撮影姿勢を算出し、最も算出精度の高いものを選択する例について説明したが、２以上の異なる推定手法で撮影画像の撮影位置および撮影姿勢を算出し、最も算出精度の高いものを選択するようにしてもよい。
【０２６６】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【０２６７】
図１４は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【０２６８】
コンピュータにおいて、CPU（Central Processing Unit）５０１，ROM（Read Only Memory）５０２，RAM（Random Access Memory）５０３は、バス５０４により相互に接続されている。
【０２６９】
バス５０４には、さらに、入出力インターフェース５０５が接続されている。入出力インターフェース５０５には、入力部５０６、出力部５０７、記録部５０８、通信部５０９、及びドライブ５１０が接続されている。
【０２７０】
入力部５０６は、キーボード、マウス、マイクロフォン、撮像素子などよりなる。出力部５０７は、ディスプレイ、スピーカなどよりなる。記録部５０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部５０９は、ネットワークインターフェースなどよりなる。ドライブ５１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブル記録媒体５１１を駆動する。
【０２７１】
以上のように構成されるコンピュータでは、CPU５０１が、例えば、記録部５０８に記録されているプログラムを、入出力インターフェース５０５及びバス５０４を介して、RAM５０３にロードして実行することにより、上述した一連の処理が行われる。
【０２７２】
コンピュータ（CPU５０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体５１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０２７３】
コンピュータでは、プログラムは、リムーバブル記録媒体５１１をドライブ５１０に装着することにより、入出力インターフェース５０５を介して、記録部５０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部５０９で受信し、記録部５０８にインストールすることができる。その他、プログラムは、ROM５０２や記録部５０８に、あらかじめインストールしておくことができる。
【０２７４】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０２７５】
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０２７６】
例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０２７７】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０２７８】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０２７９】
さらに、本技術は、以下の構成とすることも可能である。
【０２８０】
（１）
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理方法であって、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
ステップを含む情報処理方法。
（２）
前記第２の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有する
（１）に記載の情報処理方法。
（３）
前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の前記対応点に基づいて、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係をさらに推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
（１）または（２）に記載の情報処理方法。
（４）
前記第１の撮影画像と前記第３の撮影画像とは、少なくとも５以上の共通する前記対応点を有する
（３）に記載の情報処理方法。
（５）
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第２の撮影位置および前記第３の撮影位置を結ぶ第１の直線と、前記第１の撮影位置と前記第３の撮影位置との間の相対的な位置関係により定まる前記第１の撮影位置および前記第３の撮影位置を結ぶ第２の直線との交点位置、または前記第１の直線および前記第２の直線から最も近い位置を算出することで、前記基準空間における前記第３の撮影位置を推定する
（３）または（４）に記載の情報処理方法。
（６）
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれる共通する前記対応点に基づく前記第３の撮影姿勢の推定結果との少なくとも何れかに基づいて、前記基準空間における前記第３の撮影姿勢を推定する
（３）乃至（５）の何れか一項に記載の情報処理方法。
（７）
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第３の撮影位置を推定する
（１）または（２）に記載の情報処理方法。
（８）
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像は互いに異なる撮影部により撮影された画像である
（１）乃至（７）の何れか一項に記載の情報処理方法。
（９）
前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像は同一の撮影部により撮影された画像である
（１）乃至（７）の何れか一項に記載の情報処理方法。
（１０）
前記基準空間における前記第３の撮影位置および前記第３の撮影姿勢と、前記第３の撮影画像とに基づいて所定の画像処理をさらに行う
（１）乃至（９）の何れか一項に記載の情報処理方法。
（１１）
前記第１の撮影位置、前記第２の撮影位置、および前記第３の撮影位置の間の位置関係に基づいて、前記第１の撮影画像、前記第２の撮影画像、および前記第３の撮影画像を用いた再生処理をさらに行う
（１）乃至（９）の何れか一項に記載の情報処理方法。
（１２）
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する情報処理装置であって、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定する相対位置関係推定部と、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する位置姿勢推定部と
を備える情報処理装置。
（１３）
少なくとも第１の撮影位置および第１の撮影姿勢で撮影された第１の撮影画像と、第２の撮影位置および第２の撮影姿勢で撮影された第２の撮影画像と、第３の撮影位置および第３の撮影姿勢で撮影された第３の撮影画像とを含む複数の撮影画像について、撮影位置および撮影姿勢を推定する画像処理装置を制御するコンピュータに、
基準空間において前記第１の撮影位置および前記第１の撮影姿勢と、前記第２の撮影位置および前記第２の撮影姿勢とを推定可能な場合に、
前記第２の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点に基づいて、前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係を推定し、
前記第２の撮影位置と前記第３の撮影位置との間の相対的な位置関係と、前記第１の撮影画像および前記第３の撮影画像にそれぞれ含まれ、かつ共通する画像中の対応点とに基づいて、前記基準空間における前記第１の撮影位置および前記第１の撮影姿勢、前記第２の撮影位置および前記第２の撮影姿勢、並びに前記第３の撮影位置および前記第３の撮影姿勢を推定する
ステップを含む処理を実行させるプログラム。
【符号の説明】
【０２８１】
１１  画像処理装置，  ２１  画像取得部，  ２２  特徴点検出部，  ２３  対応点検出部，  ２４  記録部，  ２５  位置姿勢算出部，  ２６  ランドマーク位置算出部，  ２７  非線形最適化部，  ３０  画像処理部，  ４６  対応画像選択部，  ４７  基礎行列算出部，  ４８  相対位置姿勢算出部，  ４９  位置算出部，  ５０  対応画像選択部，  ５１  基礎行列算出部，  ５２  相対位置姿勢算出部，  ５３  位置算出部，  ５４  姿勢算出部
【図１】
2016208404.tif 000003
【図２】
2016208404.tif 000004
【図３】
2016208404.tif 000005
【図４】
2016208404.tif 000006
【図５】
2016208404.tif 000007
【図６】
2016208404.tif 000008
【図７】
2016208404.tif 000009
【図８】
2016208404.tif 000010
【図９】
2016208404.tif 000011
【図１０】
2016208404.tif 000012
【図１１】
2016208404.tif 000013
【図１２】
2016208404.tif 000014
【図１３】
2016208404.tif 000015
【図１４】
2016208404.tif 000016
【国際調査報告】
2016208404.tif 000017
2016208404.tif 000018