(57)【要約】【課題】任意視点画像を生成するのに有効な撮影アシスト機能を実現する。【解決手段】位置姿勢推定部１０５は、撮影画像の撮影時の撮像装置の位置姿勢を推定する。距離情報取得部１０６は、撮影の距離情報を取得する。仮想視点画像生成部１０７は、撮影画像と、撮像装置の位置姿勢情報と、距離情報とを用いて、仮想的に設定した位置姿勢から見た仮想視点画像を生成する。オクルージョン判定部１０８は、仮想視点画像生成部１０７により生成された仮想視点画像に生じる欠落領域であるオクルージョン領域の大きさを判定する。次撮影位置姿勢決定部１０９は、オクルージョン判定部１０８により判定されたオクルージョン領域の大きさに基づいて、次に撮影を行うべき位置姿勢を決定する。指示部１１０は、次撮影位置姿勢決定部１０９により決定された次撮影位置姿勢を、例えば撮像装置が備える液晶モニタに表示することでユーザに指示する。【選択図】図１
2019121945.tif 000002
【特許請求の範囲】
【請求項１】
撮影画像を取得する撮像装置であって、
前記撮像装置の位置情報を取得する位置情報取得手段と、
撮影の距離情報を取得する距離情報取得手段と、
前記撮影画像と、前記位置情報取得手段で取得した前記撮像装置の位置情報と、前記距離情報取得手段で取得した距離情報とを用いて、仮想的に設定した位置から見た仮想視点画像を生成する仮想視点画像生成手段と、
前記仮想視点画像生成手段で生成した前記仮想視点画像に生じる欠落領域に基づいて、次に撮影を行うべき位置を決定する次撮影位置決定手段と、
前記次撮影位置決定手段で決定した次に撮影を行うべき位置を提示する提示手段とを備えたことを特徴とする撮像装置。
【請求項２】
前記次撮影位置決定手段は、前記仮想視点画像に占める欠落領域の割合に基づいて、次に撮影を行うべき位置を決定することを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記次撮影位置決定手段は、前記仮想視点画像に占める、着目する被写体に対して生じる欠落領域の割合に基づいて、次に撮影を行うべき位置を決定することを特徴とする請求項１に記載の撮像装置。
【請求項４】
前記次撮影位置決定手段は、画像合成時の幾何変形量に基づいて、次に撮影を行うべき位置を決定することを特徴とする請求項１乃至３のいずれか１項に記載の撮像装置。
【請求項５】
撮影済みの位置の情報を記憶媒体に記憶するようにし、
前記次撮影位置決定手段は、前記記憶媒体に記憶された位置を参照して、次に撮影を行うべき位置を決定することを特徴とする請求項１乃至４のいずれか１項に記載の撮像装置。
【請求項６】
前記次撮影位置決定手段は、被写体の形状に基づいて、次に撮影を行うべき位置を決定することを特徴とする請求項１乃至５のいずれか１項に記載の撮像装置。
【請求項７】
前記次撮影位置決定手段は、前記距離情報取得手段で取得した距離情報を用いて被写体の形状の複雑度を判定し、その結果に基づいて、次に撮影を行うべき位置を決定することを特徴とする請求項６に記載の撮像装置。
【請求項８】
前記仮想視点画像生成手段は、前記位置情報取得手段で取得した前記撮像装置の位置を基準として、所定の格子状に定められた位置、又は所定の軌跡に沿う位置を前記仮想的に設定した位置とすることを特徴とする請求項１乃至７のいずれか１項に記載の撮像装置。
【請求項９】
前記位置情報取得手段は、前記撮像装置の姿勢情報も取得し、
前記仮想視点画像生成手段は、前記撮像装置の姿勢を一定に保って前記仮想視点画像を生成し、
前記次撮影位置決定手段は、次に撮影を行うべき位置姿勢を決定し、
前記提示手段は、前記次撮影位置決定手段で決定した次に撮影を行うべき位置姿勢を提示することを特徴とする請求項１乃至８のいずれか１項に記載の撮像装置。
【請求項１０】
前記位置情報取得手段は、前記撮像装置の姿勢情報も取得し、
前記仮想視点画像生成手段は、所定の被写体の方向を向くように前記撮像装置の姿勢を設定して前記仮想視点画像を生成し、
前記次撮影位置決定手段は、次に撮影を行うべき位置姿勢を決定し、
前記提示手段は、前記次撮影位置決定手段で決定した次に撮影を行うべき位置姿勢を提示することを特徴とする請求項１乃至８のいずれか１項に記載の撮像装置。
【請求項１１】
撮影画像を取得する撮像装置の制御方法であって、
前記撮像装置の位置情報を取得するステップと、
撮影の距離情報を取得するステップと、
前記撮影画像と、前記撮像装置の位置情報と、前記距離情報とを用いて、仮想的に設定した位置から見た仮想視点画像を生成するステップと、
前記仮想視点画像に生じる欠落領域に基づいて、次に撮影を行うべき位置を決定するステップと、
前記決定した次に撮影を行うべき位置を提示するステップとを有することを特徴とする撮像装置の制御方法。
【請求項１２】
撮影画像を取得する撮像装置を制御するためのプログラムであって、
前記撮像装置の位置情報を取得する位置情報取得手段と、
撮影の距離情報を取得する距離情報取得手段と、
前記撮影画像と、前記位置情報取得手段で取得した前記撮像装置の位置情報と、前記距離情報取得手段で取得した距離情報とを用いて、仮想的に設定した位置から見た仮想視点画像を生成する仮想視点画像生成手段と、
前記仮想視点画像生成手段で生成した前記仮想視点画像に生じる欠落領域に基づいて、次に撮影を行うべき位置を決定する次撮影位置決定手段と、
前記次撮影位置決定手段で決定した次に撮影を行うべき位置を提示する提示手段としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、視点位置の異なる画像を複数枚撮影するための撮影アシスト機能を持つ撮像装置、その制御方法及びプログラムに関する。
【背景技術】
【０００２】
視点位置の異なる画像を複数枚撮影しておき、それらを合成することにより、任意の視点位置から見た任意視点画像を生成する技術がある。撮影後に視点位置を変更できることにより、撮影の失敗を減らすとともに、ユーザが好みの画像を作り上げる機会を提供することができる。
任意視点画像の生成には、撮影シーンに対して処理に適した画像を複数枚撮影する必要があることから、例えばどのような視点位置からの画像を撮影すればよいかをユーザインタフェース上で指示するような撮影アシスト機能が存在する。
特許文献１には、３次元画像を構成する２つの撮影画像を得るために、カメラデバイスでの１回目の撮影の後に２回目の撮影位置への移動をディスプレイでガイドする表示制御を実行し、その際に、所定の視差量に基づいた移動をガイドする構成が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１２−１１４８０８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１では、２画像間で所定の視差量に基づいて一律に撮影位置を指示することが開示されている。しかしながら、特許文献１では、オクルージョンそのものを考慮して次の撮影位置をガイドするものではないため、任意視点画像の生成に必要な画像を効率良く撮影するように指示できるとは限らない。
【０００５】
本発明は上記のような点に鑑みてなされたものであり、任意視点画像を生成するのに有効な撮影アシスト機能を実現することを目的とする。
【課題を解決するための手段】
【０００６】
本発明の撮像装置は、撮影画像を取得する撮像装置であって、前記撮像装置の位置情報を取得する位置情報取得手段と、撮影の距離情報を取得する距離情報取得手段と、前記撮影画像と、前記位置情報取得手段で取得した前記撮像装置の位置情報と、前記距離情報取得手段で取得した距離情報とを用いて、仮想的に設定した位置から見た仮想視点画像を生成する仮想視点画像生成手段と、前記仮想視点画像生成手段で生成した前記仮想視点画像に生じる欠落領域に基づいて、次に撮影を行うべき位置を決定する次撮影位置決定手段と、前記次撮影位置決定手段で決定した次に撮影を行うべき位置を提示する提示手段とを備えたことを特徴とする。
【発明の効果】
【０００７】
本発明によれば、任意視点画像を生成するのに有効な撮影アシスト機能を実現することができる。
【図面の簡単な説明】
【０００８】
【図１】第１の実施形態に係る撮像装置の構成を示すブロック図である。
【図２】第１の実施形態に係る撮像装置の動作を示すフローチャートである。
【図３】仮想視点画像の生成の概要を説明するための図である。
【図４】仮想的に位置姿勢を設定することの概要を説明するための図である。
【図５】仮想的に位置姿勢を設定することの概要を説明するための図である。
【図６】オクルージョンの判定の概要を説明するための図である。
【図７】視点変更範囲とオクルージョン領域の割合に対する閾値との関係の例を示す特性図である。
【図８】オクルージョンの判定の概要を説明するための図である。
【図９】第２の実施形態に係る撮像装置の構成を示すブロック図である。
【図１０】第２の実施形態に係る撮像装置の動作を示すフローチャートである。
【図１１】幾何変形量の判定の概要を説明するための図である。
【図１２】視点変更範囲とオクルージョン領域の割合に対する閾値との関係の例を示す特性図である。
【発明を実施するための形態】
【０００９】
以下、添付図面を参照して、本発明の好適な実施形態について説明する。
（第１の実施形態）
図１に、第１の実施形態に係る撮像装置の構成を示す。
１０１は被写体像を形成する光学系である。１０２はＣＣＤセンサやＣＭＯＳセンサ等の撮像素子であり、光学系１０１により形成される被写体像を光電変換する。１０３は現像処理部であり、撮像素子１０２から出力される電気信号から映像信号を形成する。現像処理部１０３は、不図示のＡ／Ｄ変換部、オートゲイン制御部（ＡＧＣ）、オートホワイトバランス部を含み、デジタル信号を形成する。撮像素子１０２及び現像処理部１０３により、撮影画像の取得を行う撮像系が構成される。１０４は記憶媒体であるメモリであり、映像信号や撮像装置の位置姿勢情報等を一時的に記憶保持する。
【００１０】
１０５は位置姿勢推定部であり、現像処理部１０３から入力される撮影画像の撮影時の撮像装置の位置姿勢を推定する。本実施形態では、位置姿勢推定部１０５が本発明でいう位置情報取得手段として機能する。１０６は距離情報取得部であり、撮影の距離情報を取得する。本実施形態では、距離情報取得部１０６が本発明でいう距離情報取得手段として機能する。
【００１１】
１０７は仮想視点画像生成部であり、撮影画像と、位置姿勢推定部１０５により推定された撮像装置の位置姿勢情報と、距離情報取得部１０６により取得された距離情報とを用いて、仮想的に設定した位置姿勢から見た仮想視点画像を生成する。本実施形態では、仮想視点画像生成部１０７が本発明でいう仮想視点画像生成手段として機能する。１０８はオクルージョン判定部であり、仮想視点画像生成部１０７により生成された仮想視点画像に生じる欠落領域であるオクルージョン領域の大きさを判定する。
【００１２】
１０９は次撮影位置姿勢決定部であり、オクルージョン判定部１０８により判定されたオクルージョン領域の大きさに基づいて、次に撮影を行うべき位置姿勢（次撮影位置姿勢と称する。）を決定する。本実施形態では、次撮影位置姿勢決定部１０９が本発明でいう次撮影位置決定手段として機能する。１１０は指示部であり、次撮影位置姿勢決定部１０９により決定された次撮影位置姿勢を、例えば撮像装置が備える液晶モニタに表示することでユーザに指示する。本実施形態では、指示部１１０が本発明でいう提示手段として機能する。
【００１３】
図２は、第１の実施形態に係る撮像装置の動作を示すフローチャートである。
ステップＳ２０１で、撮像素子１０２は、光学系１０１により形成される被写体像を被写体輝度に応じたアナログ信号として出力する。現像処理部１０３は、撮像素子１０２から出力されたアナログ信号をデジタル信号に変換し、各種処理を施すことにより映像信号を生成する。現像処理部１０３内にあるＡＧＣ及びＡＷＢによって信号レベル補正や白レベル補正が行われたデジタル映像信号は、メモリ１０４に記憶保持される。本実施形態では、所定のフレームレートで順次フレーム画像が生成され、メモリ１０４に記憶保持されたフレーム画像は位置姿勢推定部１０５に入力される。また、メモリ１０４において記憶保持されるフレーム画像も順次更新される。
【００１４】
ステップＳ２０２で、位置姿勢推定部１０５は、現像処理部１０３から入力された２枚のフレーム画像を用いて、撮影時の撮像装置の位置姿勢を推定する。例えば２枚のフレーム画像間の対応点情報を入力として、Ｆ行列や５点法のような位置姿勢推定手法を用いて撮像装置の位置姿勢を推定する。ここでは、その一例として射影ホモグラフィを算出し、それを撮像装置の動き成分毎に分解する手法について説明する。対応点情報の取得については、Ｈａｒｒｉｓｓの手法によってフレーム画像中のコーナー点を検出し、テンプレートテンプレートマッチング法によってもう一方の画像のどの座標位置に同一のコーナー点が存在するかを探索する手法がある。その他にも、ＦＡＳＴやＳＩＦＴのような２フレームでそれぞれ検出した特徴点について特徴量を算出し、その一致度を計算することでフレーム画像間での特徴点の対応関係を算出する手法がある。
【００１５】
撮像装置の位置姿勢の変動量を推定する対象となる２枚のフレーム画像のうち、一方の画像の各画素の座標を（ｕi，ｖi）、他方の画像の各画素の座標値を（ｕi´，ｖi´）、ｉ=１，・・・，ｍ（ｍは対応点数）とする。この場合、式（１）のように射影ホモグラフィについての線形式を得ることができる。
【００１６】
【数１】
2019121945.tif 000003
【００１７】
式（１）に対して線形最小二乗法を適用することにより、射影ホモグラフィ行列Ｈの各成分ｈ＝｛ｈ11，・・・，ｈ33｝を求めることができる。そして、各成分ｈ＝｛ｈ11，・・・，ｈ33｝を３×３の行列式に整形することにより、式（２）のように射影ホモグラフィ行列Ｈ、つまりフレーム画像間における撮像装置の位置姿勢の変動量を求めることができる。
【００１８】
【数２】
2019121945.tif 000004
【００１９】
次に、射影ホモグラフィ行列Ｈを、撮像装置の変動量の回転成分Ｒ、並進成分ｔ→と基準面までの距離ｄの逆数との積ｔ→／ｄ、及び撮影シーンを１枚の平面と近似した場合の平面の法線ｎ→に分解する。なお、ｔ→やｎ→の表記はｔやｎの上に→が付されているものとする。射影ホモグラフィ行列Ｈの分解は、固有値分解や特異値分解を利用して不変量を算出することにより行われる。射影ホモグラフィ行列Ｈと撮像装置の位置姿勢の関係は、式（３）のように表される。ｎ→は外向き、つまり撮像装置から離れる方向の法線とする。また、λは予め定められた定数である。
【００２０】
【数３】
2019121945.tif 000005
【００２１】
２枚のフレーム画像間での位置姿勢の算出では、空間平面の距離ｄと並進のノルムｎｏｒｍ（ｔ→）の積を分けることはできない。ノルムとはベクトルの大きさを表す量である。つまり、ｔ→は並進方向を表す単位方向ベクトルｎｏｒｍ（ｔ→）＝１、ｄは空間平面までの距離と並進量の大きさの積として扱われる。
まず、射影ホモグラフィ行列Ｈの符号は、平面上の全ての対応点ｘ1→、ｘ2→に対してｘ2T→Ｈｘ1→＞０を満たすように選択されるとする。このときの射影ホモグラフィ行列Ｈの特異値分解をＨ＝ＵＳＶTとする。Ｕ及びＶは３×３の回転行列であり、Ｓ＝ｄｉａｇ（σ1，σ2，σ3）は正の降順対角要素σ1≧σ2≧σ3≧０であり、射影ホモグラフィ行列Ｈの特異値とする。直交行列Ｕ及びＶの列要素をそれぞれｕ1，ｕ2，ｕ3及びｖ1，ｖ2，ｖ3で表す。２枚のフレーム画像の一方の撮像装置の位置姿勢を第１の撮像装置の座標系とし、３次元平面をｎT→ｘ→＝ｄ＝１／ζと定める。ζ＝１／ｄ≧０は平面に対する距離の逆数である。この座標系においては、第１の撮像装置の座標系では３×４の射影行列Ｐ1＝［Ｉ3×3｜０→］を持ち、もう一方のフレーム画像の第２の撮像装置の座標系ではＰ2＝［Ｉ3×3｜ｔ］＝［Ｒ｜ｔ´］を持つ。ｔ´＝−Ｒｔであり、ｔ、ｔ´は撮像装置間の並進を表す。以上より、第１のフレーム画像から第２のフレーム画像へのホモグラフィはＨ＝ＲＨ1であり、Ｈ1＝Ｉ3×3−ζｔ→ｎT→となる。
【００２２】
平面上の３次元点ｘ→に対して、式（４）が成立する。なぜならば、ζｎT→ｘ→＝１であるからである。そして、ｘ→を第１のフレーム画像内の任意点として扱うと、その違いは全体のスケール因子のみとなる。積ζｔ→ｎT→のみが復元可能で、それゆえ||ｔ||＝||ｎ||＝１で正規化する。
【００２３】
【数４】
2019121945.tif 000006
【００２４】
特異値分解のＨ＝ＵＳＶTとＨ1＝Ｕ1ＳＶTは回転成分Ｒの要素まで同じである。つまり、Ｕ＝ＲＵ1である。Ｈ1において、外積ベクトルｔ→×ｎ→は不変である。もし特異値が明確であれば、ｔ→×ｎ→は特異ベクトルに対応しなければならない。これにより、これは常に２番目の特異ベクトルｖ2であると分かる。それゆえ射影ホモグラフィ行列Ｈの補正正規化はＨ→Ｈ／σ2、つまり（σ1，σ2，σ3）→（σ1／σ2，１，σ3／σ2）である。以下、σ2による正規化が済まされているものと想定する。
【００２５】
第１のフレーム画像においてｔ→×ｎ→がｖ2に対応することが与えられると、｛ｔ→，ｎ→｝部分空間は｛ｖ1，ｖ3｝により占められなければならない。つまり、任意のパラメータα、β（α2＋β2＝１）に対して、ｎ→＝βｖ1→−αｖ3→、ｎ→×（ｔ→×ｎ→）≒αｖ1→＋βｖ3→である。ｎ→に直交する任意方向、特にｎ→×（ｔ→×ｎ→）はＨ又はＨ1によって変化しないノルムを持つ。ここで、式（５）又は式（６）である。ｔ→×ｎ→をｖ1又はｖ3に対応させると、解がなくなってしまう。それゆえｖ2のみが可能となる。
【００２６】
【数５】
2019121945.tif 000007
【００２７】
厳密には、左辺の同じ引数がＲｔ→＝−（βｕ1＋αｕ3）を示す。ｔ→がＨ1の固有値１−ζｎ→ｔT→の固有ベクトルを満たすならば、式（７）を得る。ゆえに、式（８）のようになる。単純化後はζ＝σ1−σ3である。
【００２８】
【数６】
2019121945.tif 000008
【００２９】
Ｈ1の特異値分解の左辺（Ｕ1の列ｕ1→，ｕ2→，ｕ3→）は表記ｕ2→＝ｖ2→により復元可能であり、ｔ→がＨ1の固有ベクトルであることが必要である。そこでは、式（９）〜式（１２）として、回転成分Ｒが得られる。
【００３０】
【数７】
2019121945.tif 000009
【００３１】
このようにして撮像装置の位置姿勢を推定すればよいが、ここで推定できるのはあくまでも２枚のフレーム間の相対的な位置姿勢の変動量である。そこで、本実施形態では、例えば最初に撮影を行った位置を基準として、仮想的に設定した位置までの位置姿勢の変動量を、仮想的に設定した位置における撮像装置の位置姿勢とする。
以上のようにして取得された撮像装置の位置姿勢情報は、仮想視点画像生成部１０７に伝送される。
【００３２】
撮像装置の位置姿勢を推定する他の手法として、撮像装置に搭載されている位置姿勢検出センサを用いるようにしてもよい。２枚の画像の撮影期間において取得されるセンサ情報を積分し、そこからフィルタリング処理によってノイズやドリフト成分を除去したものが２枚のフレーム画像間での位置姿勢の変動量となる。位置姿勢検出センサとしては、撮像装置のロール、ピッチ、ヨーの動きを検出可能なジャイロセンサや、前後、左右、上下方向の並進移動量を加速度として検出可能な加速度センサ等がある。なお、撮像装置によっては、これらの位置姿勢検出センサの全てが搭載されておらず、全ての動きをセンサから取得することができない場合がある。この場合、検出できない動き成分については、前述の手法によって２枚のフレーム画像から当該動き成分の検出を行い、センサから取得された位置姿勢情報との統合を行う。例えば撮像装置にジャイロセンサは搭載されているが、加速度センサが搭載されていない場合、撮像装置の並進移動量をセンサから得ることはできない。そこで、並進移動量については２枚のフレーム画像間を用いて検出する。そして、式（３）のＲにはジャイロセンサから得られたロール、ピッチ、ヨーの値を代入し、ｔ→については画像から得られた並進移動量を代入すればよい。
【００３３】
ステップＳ２０３で、距離情報取得部１０６は、撮影の距離情報を取得する。例えば撮像装置に取り付け可能な外測の測距センサを用いて、撮影の距離情報を取得する。測距センサとしては、赤外レーザ光を照射して撮影シーン中の物体に反射して戻ってくるまでの時間に基づいて距離を算出するものや、既知のパターン光を投影してそのパターン形状の変化に基づいて距離を算出するものがある。また、測距センサを用いる以外にも、複数枚の入力フレーム画像の各画素の対応関係とそれぞれが撮影された撮像装置の位置姿勢情報に基づいて距離情報を算出する手法もある。距離情報の取得手法は限定されるものではなく、取得されるフレーム画像と時間的な同期が取れており、フレーム画像の各画素と距離情報の座標の対応関係が分かるものであれば、どのような手法を用いてもよい。
以上のようにして取得された撮影の距離情報は、仮想視点画像生成部１０７に伝送される。
【００３４】
ステップＳ２０４で、仮想視点画像生成部１０７は、仮想的に設定した位置姿勢から見た仮想視点画像を生成する。仮想視点画像の生成には、ステップＳ２０１において入力されたフレーム画像、ステップＳ２０２において推定された撮像装置の位置姿勢情報、及びステップＳ２０３において取得された撮影の距離情報を用いる。
図３を参照して、仮想視点画像の生成の概要を説明する。撮影シーンにおける実空間上の点Ａ（３０１）の座標をＡ［Ｘ，Ｙ，Ｚ］とする。視点変更前の撮像装置の位置、つまり実際に撮影が行われた撮像装置の位置を３０２としたとき、位置３０２で得られる画像上において実空間上の点Ａ（３０１）が座標位置Ｉ１［ｘ、ｙ］３０３に投影されるとする。この場合、点Ａ（３０１）と座標Ｉ１の関係は、式（１３）のように表すことができる。ｆ1は位置３０２での撮像装置の焦点距離を表し、Ｚは距離情報取得部１０６により取得された位置３０２から点Ａ（３０１）までの実空間上での距離を表す。
【００３５】
【数８】
2019121945.tif 000010
【００３６】
また、仮想的に設定した位置姿勢の位置（以下、仮想的な視点位置ともいう）を３０４とした場合、位置３０２から位置３０４への撮像装置の位置姿勢の変動量は、式（１４）のような射影ホモグラフィ行列Ｈaとして表される。
【００３７】
【数９】
2019121945.tif 000011
【００３８】
射影ホモグラフィ行列Ｈaは、前述の撮像装置の位置姿勢推定手法で述べた内容と同様の性質を持つ。このとき、実空間上の点Ａ（３０１）は、仮想的に設定した位置姿勢を基準にすると、射影ホモグラフィ行列Ｈaによって式（１５）の点Ａ´のように表すことができる。
【００３９】
【数１０】
2019121945.tif 000012
【００４０】
そして、仮想的な視点位置３０４で得られる画像上において点Ａ´は式（１６）により座標位置３０５に投影される。
【００４１】
【数１１】
2019121945.tif 000013
【００４２】
このような計算を画像上の全画素について行うことにより、仮想的に設定した位置姿勢で撮影した際に得られると予想される仮想視点画像を生成することができる。
以上のように、撮像装置の任意の位置姿勢を基準として、そこからの位置姿勢の変動量を射影ホモグラフィ行列として設定すれば、任意の位置姿勢において得られる画像を仮想的に生成することが可能となる。
ここで、射影ホモグラフィ行列Ｈaは、撮像装置の位置として現実的な値であればどのように設定してもよいが、以下のように一定の基準に基づいて設定することができる。例えば、図４（ａ）に示すように、基準となる位置姿勢４０１の位置を起点として、格子状に予め定められた距離で等間隔となるように射影ホモグラフィ行列Ｈaを設定して、仮想カメラ群４０２（仮想的に設定した位置姿勢）の位置を決定してもよい。また、図４（ｂ）に示すように、基準となる位置姿勢４０３の位置を起点として、予め定められた移動軌跡４０４を描くような射影ホモグラフィ行列Ｈaを設定して、仮想カメラ群４０５（仮想的に設定した位置姿勢）の位置を決定してもよい。
【００４３】
また、撮像装置の位置だけでなく、姿勢についても一定の基準を設けて設定すればよい。例えば遠方の風景のような撮影シーンに対して任意視点画像を生成することを目的とする場合、図４（ａ）、（ｂ）に示すように、基準となる位置姿勢４０１、４０３の姿勢を保って、仮想カメラ群４０２、４０５を設定する。遠方の風景のような撮影シーンでは、撮像装置の姿勢の違いによる被写体の見えの変化やオクルージョン領域は小さくなる。したがって、姿勢を変えて撮影することは必須ではなく、逆に全ての位置において姿勢を一定に保ったまま撮影を行うことにより、後段の処理を容易に行うことが可能となる。
それに対して、図５に示すように、近距離に被写体５０１が存在する撮影シーンに対して任意視点画像を生成することを目的とする場合、被写体５０１の方向を向くように仮想カメラ群５０２（仮想的に設定した位置姿勢）の姿勢を設定する。近距離の被写体が存在する撮影シーンでは、撮像装置の姿勢の違いによる被写体の見えの変化やオクルージョン領域が大きくなる。それらを漏れなく補間するように撮影を行うことにより、任意視点画像に破綻が生じないようにすることが可能となる。
このように姿勢の設定については、距離情報取得部１０６により取得された距離情報を用いてもよいし、ユーザが例えば液晶モニタで直接指示を行うようにしてもよい。
以上のようにして生成された仮想視点画像はオクルージョン判定部１０８に伝送される。
【００４４】
ステップＳ２０５で、オクルージョン判定部１０８は、ステップＳ２０４において生成された仮想視点画像に生じるオクルージョン領域の大きさを判定する。ステップＳ２０４において生成された仮想視点画像では、基準となる位置姿勢からの変更によってオクルージョン領域が生じる。本ステップでは、仮想視点画像に占めるオクルージョン領域の割合を判定する。
【００４５】
図６を参照して、オクルージョンの判定の概要を説明する。被写体６０１が存在する実空間上の撮影シーンに対して、基準となる位置姿勢６０２で実際に撮影された画像（撮影画像）を６０３とする。そして、ここでは撮像装置の姿勢を変えないものとして、仮想的な視点位置６０４から見た仮想視点画像を６０５とする。仮想的な視点位置６０４では、基準となる位置姿勢６０２で見えていなかった被写体６０１の背後の領域が見えることになる。しかしながら、仮想視点画像６０５は、撮影画像６０３、及びそのときの位置姿勢情報、距離情報を用いて生成されるので、撮影画像６０３で写っていない領域は、画像情報も距離情報も存在しておらず、欠落領域６０６となる。この欠落領域６０６が、基準となる位置姿勢６０２に対して仮想的な視点位置６０４で生じるオクルージョン領域となる。同様に、仮想的な視点位置６０７から見た仮想視点画像を６０８とすると、欠落領域（オクルージョン領域）６０９が生じる。なお、被写体６０１に対して生じるオクルージョンについて説明したが、その他にも、位置姿勢を変更することで生じる画像端の見切れもオクルージョンとして扱うようにする。
【００４６】
オクルージョン判定部１０８は、仮想視点画像に占めるオクルージョン領域の割合を計算する。例えば仮想視点画像を生成する際に、欠落領域に画素値を割り当てずに、オクルージョン領域であることを示すフラグを与えておく。そして、生成された仮想視点画像中にいくつのフラグが存在しているかをカウントすることにより、この仮想視点画像に占めるオクルージョン領域の割合を計算することができる。
以上のようにして仮想視点画像に占めるオクルージョン領域の割合が計算され、その結果は次撮影位置姿勢決定部１０９に伝送される。
【００４７】
ステップＳ２０６で、次撮影位置姿勢決定部１０９は、ステップＳ２０５において判定された仮想視点画像に占めるオクルージョン領域の割合に基づいて、次撮影位置姿勢を決定する。具体的には、オクルージョン領域の割合が予め定められた閾値以上となる仮想視点画像に対応する位置姿勢を次撮影位置姿勢とする。
本実施形態では、ステップＳ２０４において複数の仮想視点画像を生成して、ステップＳ２０５及びステップＳ２０６の処理を行い、オクルージョン領域の割合が閾値以上となる仮想視点画像を特定するものとする。なお、ステップＳ２０４において１枚の仮想視点画像を生成して、ステップＳ２０５及びステップＳ２０６の処理を行い、オクルージョン領域の割合が閾値以上でなかった場合、ステップＳ２０４に戻るようにし、オクルージョン領域の割合が閾値以上となる仮想視点画像が得られるまで、ステップＳ２０４からの処理を繰り返すようにしてもよい。
【００４８】
図６において、仮想視点画像６０５で生じるオクルージョン領域６０６は、仮想視点画像６０８で生じるオクルージョン領域６０９よりも画像中に占める割合は小さい。これは、仮想的な視点位置６０４が、仮想的な視点位置６０７よりも、基準となる位置姿勢６０２の位置に近いからである。位置が近いということは、画像間での視差量が小さく、見えの変化も小さいということであり、オクルージョン領域は小さくなる。
【００４９】
次撮影位置姿勢を決定するために、任意視点画像を構成する視点変更画像を合成する際における各画像の寄与度を考える。視点変更画像を合成する際には、まず任意の画像を基準として、その画像に対してステップＳ２０４で述べたのと同様にして視点変更画像を生成する。この段階では、視点変更によって生じるオクルージョン領域は欠落したままであるため、次に基準となる画像の周辺で撮影された画像群を用いてオクルージョン領域の補間を行う。これらの画像は、仮想視点画像６０５、６０８と異なり、位置６０４、６０７において実際に撮影を行っているので、オクルージョン領域は欠落とならず正しい絵柄で埋められる。したがって、基準の画像の周辺で撮影された画像に対しても同様に視点変更画像を生成して、それらを合成することでオクルージョン領域を埋めることが可能となる。このとき、基準となる画像に対するオクルージョン領域が大きいほど、基準となる画像を視点変更した際に生じるオクルージョンを多く埋めることが可能になるので、その画像は寄与度が高いと判定することができる。それに対して、基準となる画像に対するオクルージョン領域が小さいと、合成後の画像において生じるオクルージョン領域を埋められる量が少なくなるため、その画像は寄与度が低いと判定することができる。このように、寄与度の高い画像とは、基準となる位置姿勢で撮影した画像に対するオクルージョン領域が大きい画像のことである。そこで、オクルージョン領域の割合が予め定められた閾値以上となる仮想視点画像を特定し、それに対応する位置姿勢を次撮影位置姿勢とする。
【００５０】
オクルージョン領域の割合に対する閾値は、基準となる画像に対してどの程度の範囲の視点変更を行うかに応じて設定すればよい。図７に、視点変更範囲とオクルージョン領域の割合との関係の例を示す。図７において、横軸７０１は視点変更範囲であり、右方向に行くほどユーザが想定する視点変更範囲が広いことを示す。また、縦軸７０２はオクルージョン領域の割合であり、上に行くほど割合が大きいことを示す。そして、直線７０３はオクルージョン領域の割合に対する閾値を表し、直線７０３よりも上の割合を有する画像を寄与度の高い画像であると判定する。例えば直線７０３上の点７０４に示すようにユーザが想定する視点変更の範囲が小さい場合、視点変更画像の生成時に生じるオクルージョンの量が少ないので、補間に使用する画像に生じているオクルージョン領域の割合が小さくても、十分に寄与度の高い画像であるといえる。逆に、直線７０３上の点７０５に示すようにユーザが想定する視点変更の範囲が大きい場合、オクルージョン領域の割合が小さい画像では、オクルージョン領域を十分に補間することができないため寄与度の低い画像であるといえる。この場合、オクルージョン領域の割合が大きい画像ほど、より多くのオクルージョン領域を補間することが可能であるため寄与度が高いと判定することができる。なお、寄与度の低い画像でも多数枚を用いればオクルージョン領域を補間することが可能ではあるが、多数枚を合成することにより画像のボケやずれが生じる可能性がある。したがって、少数枚の寄与度の高い画像を用いてオクルージョン領域を補間した方が精度の高い合成を行うことが可能である。このように、任意視点画像の生成に対して寄与度が高いと判定された仮想視点画像に対応する位置姿勢を、次撮影位置姿勢とすることにより、冗長な撮影を抑制することが可能となる。なお、図７では閾値を直線７０３として示したが、これに限るものではなく、視点変更範囲に応じて曲線を描くようにしてもよいし、離散的な値を設定してもよい。
【００５１】
以上のようにして、寄与度の高い画像を撮影できる位置姿勢を、次撮影位置姿勢として決定するのであるが、寄与度の高い画像を撮影できる位置姿勢が複数存在する場合がある。この場合、基準となる位置姿勢の位置（基準となる位置と称する。）に最も近いものを次撮影位置姿勢として決定してもよいし、近いものから順に複数の位置姿勢を順番に次撮影位置姿勢として決定してもよい。
【００５２】
また、寄与度の高い画像を撮影できる複数の位置について、その位置が非常に近い場合、どちらの画像を使用しても任意視点画像の生成結果には大差が無く、結果として冗長な撮影を行ってしまう可能性がある。この状況を回避するために、撮影済みの位置の情報をメモリ１０４に記憶しておく。そして、次撮影位置姿勢を決定する際に、過去に撮影を行った位置と近い場合、例えば一定の距離だけ離れた位置を算出することによって冗長な撮影を抑制することが可能となる。このとき、どれだけの距離を離せばよいかの判定には、画像中に生じるオクルージョン領域の割合を比較すればよい。例えば画像に占めるオクルージョン領域の割合が５％以上の差が生じるような位置を次撮影位置姿勢の位置とすることで、撮影の重複を抑制することができる。この割合の値はユーザが任意に設定してもよいし、例えば基準となる画像に対するオクルージョン領域の割合と同じだけ、現在の位置での画像とのオクルージョン領域の割合の差が生じるような値に設定する等の他の方法を用いてもよい。また、オクルージョン領域の割合に関わらず、任意の距離だけ離れた位置に設定するようにしてもよい。
【００５３】
ここまでは、仮想視点画像に占める全オクルージョン領域の割合に基づいて、次撮影位置姿勢を決定する方法を述べたが、着目する被写体に対して生じるオクルージョン領域の割合に基づいて、次撮影位置姿勢を決定するようにしてもよい。図８を参照して、被写体に着目してのオクルージョンの判定の概要を説明する。主被写体８０１及び背景物体８０２が存在する実空間上の撮影シーンに対して、基準となる位置姿勢８０３で実際に撮影された画像（撮影画像）を８０４とする。そして、ここでは撮像装置の姿勢を変えないものとして、仮想的な視点位置８０５から見た仮想視点画像を８０６とする。仮想視点画像８０６では、主被写体８０１に対して生じるオクルージョン領域８０７と、背景物体８０２に対して生じるオクルージョン領域８０８とが存在する。撮影シーン全体ではなく、主被写体８０１に着目した任意視点画像の生成を行いたい場合、主被写体に対して効率良くオクルージョン領域を補間できるような画像を撮影するのが好ましい。この場合に、背景物体８０２に生じているオクルージョン領域８０８が割合の計算に含まれてしまうと、相対的に主被写体８０１のオクルージョン領域８０７が小さくなる位置姿勢を次撮影位置姿勢として決定してしまうおそれがある。そのため、主被写体に着目した任意視点画像の生成に対して寄与度の低い画像を冗長に撮影してしまうことになる。なお、画像中のどれが主被写体であるかを判定するためには、顔認識機能等の認識処理の結果を使用したり、ユーザが液晶モニタで任意の領域を指定したりするようにすればよい。このように主被写体に対して生じるオクルージョン領域の割合に着目して次撮影位置姿勢を決定することで、主被写体に着目した任意視点画像の生成に対して寄与度の高い画像を効率良く撮影することが可能となる。
【００５４】
また、被写体の形状に基づいて、どのオクルージョン領域に着目して割合を判定するかを決定するようにしてもよい。被写体の形状が複雑である場合、そこに生じるオクルージョン領域も複雑な形状になる。被写体の形状が単純である場合、位置が離れるに従ってオクルージョンの量が増えていくだけである。それに対して、被写体の形状が複雑である場合、単純に位置が離れるに従ってオクルージョンの量が増えることに限らず、近くでは生じていたオクルージョン領域が遠くに離れることで生じなくなるような場合がある。そこで、被写体の形状が複雑である場合、図７に示した特性線において、直線７０３を下げるように設定する。これにより、基準となる位置との距離が近く、そこに生じているオクルージョン領域の割合が小さい場合でも寄与度の高い画像であると判定して、次撮影位置姿勢として決定することができる。被写体の形状の複雑度の判定には、距離情報を用いればよい。撮影画像と対応の取れている距離情報を複数の領域に分割し、それぞれの領域について分散値のような距離値のばらつきを算出する。これにより、距離値の分散値が高いと判定された領域には様々な距離にある物体が存在している、つまり複雑な形状をしていると判定することができる。
【００５５】
以上のようにして決定された次撮影位置姿勢は、指示部１１０において、液晶モニタに表示することによって、ユーザに対する撮影アシストに用いられる。
以上説明したように、仮想的に設定した位置姿勢から見た仮想視点画像を生成し、仮想視点画像に生じるオクルージョン領域に基づいて、次撮影位置姿勢を決定する。これにより、任意視点画像の生成に対して寄与度の低い画像を冗長に撮影しないようにし、任意視点画像の生成に必要な画像を効率良く撮影するように指示することができ、任意視点画像を生成するのに有効な撮影アシスト機能を実現することができる。
【００５６】
（第２の実施形態）
第２の実施形態では、視点変更画像合成時の幾何変形量をさらに考慮して次撮影位置姿勢を決定する。
図９に、第２の実施形態に係る撮像装置の構成を示す。以下では、第１の実施形態と共通する構成要素には同一の符号を付し、その説明を省略する。図１に示した構成に加えて、幾何変形量判定部９０１を備える。
【００５７】
図１０は、第２の実施形態に係る撮像装置の動作を示すフローチャートである。ステップＳ２０１〜Ｓ２０５は、図２におけるＳ２０１〜Ｓ２０５と同じである。
ステップＳ１００１で、幾何変形量判定部９０１は、ステップＳ２０５において判定された各仮想視点画像に占めるオクルージョン領域の割合に基づいて、次撮影位置姿勢の候補を求め、これら候補となる次撮影位置姿勢で、任意視点画像の生成時にどの程度の幾何変形量となるのかを判定する。
【００５８】
基準となる位置から仮想的な視点位置への撮像装置の位置姿勢の変動量は、式（１４）のような射影ホモグラフィ行列Ｈaとして表される。また、視点変更後の視点位置をＨbとすると、Ｈbは式（１７）のような射影ホモグラフィ行列として表される。
【００５９】
【数１２】
2019121945.tif 000014
【００６０】
式（１４）及び式（１７）より、仮想的な視点位置Ｈaを視点変更後の視点位置Ｈbに幾何変形するための射影ホモグラフィ行列Ｈcは式（１８）のように表される。
【００６１】
【数１３】
2019121945.tif 000015
【００６２】
したがって、実際に撮影された画像群を用いて視点位置Ｈbにおける画像を生成するためには、射影ホモグラフィ行列Ｈcを用いて画像の各画素について幾何変形処理を施して合成を行えばよい。ここで、幾何変形処理後に生成される画像の画質は、射影ホモグラフィ行列によってどの程度の量だけ幾何変形がなされるかが影響する。幾何変形量が大きいということは、それによる各画素の移動量が大きいということであり、移動後の各画素について、隣接画素間に隙間が生じる可能性がある。この隙間を埋めるためには隙間の周辺に存在する画素を用いて補間処理を施す必要があるが、隙間が大きい場合、周辺画素の補間処理では精度良く埋めることができず、補間後の画像にボケが生じてしまう。
基準となる位置に対するオクルージョン領域の割合が大きい画像は、任意視点画像の生成に対して寄与度の高い画像ではあるが、その分だけ基準となる位置から離れた位置となる。そのため、視点変更画像合成時の幾何変形量が大きくなり、合成後の画像に画質の低下が生じる可能性がある。
【００６３】
そこで、本実施形態では、基準となる位置での画像に対するオクルージョン領域の割合に加えて、視点変更時の幾何変形量を考慮して、次撮影位置姿勢を決定する。例えば代表的な画素について仮に幾何変形処理を施して、それらの移動後の位置関係から、幾何変形量を判定する。代表的な画素の一例としては画像周縁部の画素が挙げられる。図１１を参照して、幾何変形量の判定の概要を説明する。図１１（ａ）において、１１０１は幾何変形処理前の画像である。そして、画像１１０１の周縁部の画素群に対して、射影ホモグラフィ行列を用いて幾何変形処理を施した結果である画像周縁部を１１０２とする。幾何変形処理において、回転、拡大縮小、あおりの動きによる各画素の変形量は、画像の周縁部に近い画素の方が大きくなる。そこで、画像周縁部１１０２を構成する画素群に対して幾何変形を行い、移動後の周縁部の画素間の座標値の差分を用いて幾何変形量を判定する。
【００６４】
１１０３及び１１０４は画像周縁部の画素の幾何変形の概要を表す。画像１１０１上の各画素について射影ホモグラフィ行列を用いて座標変換を行い、変換後の座標値に基づいて移動させて各画素の再配置を行う。これを画像周縁部の全ての画素について行うことで、射影変換後の画像周縁部１１０２を生成することができる。このとき、射影ホモグラフィ行列の幾何変形量に応じて、１１０３に示すように変換後でも各画素が隣接して配置される場合と、１１０４に示すように画素間に隙間が空いて配置される場合が生じる。図１１（ｂ）に、幾何変形処理後の画像の周縁部を構成する画素群の並びを模式的に示す。同図において、１１０５は幾何変形後の画像周縁部１１０２の右上の領域を拡大したものであり、１１０６は左下の領域を拡大したものである。グレーの四角は幾何変形処理によって移動させられた画素を表し、白の四角は幾何変形処理によってどの画素も移動してこなかった領域を表す。幾何変形後の画像周縁部の画素間の座標値の差分が、例えば１１０５に示すように１画素以下であれば、それらの画素は隣接又は重複しているため補間処理の必要が無いと判定できる。それに対して、１１０６に示すように幾何変形後の画像周縁部の画素間の座標値の差分が１画素より大きければ、画素間に隙間が生じているため、補間処理でそれらの隙間を埋める必要がある。この隙間の量が大きくなるほど補間処理で埋めなければならない画素数が多くなるため画質が低下する。そこで、次撮影位置姿勢を決定する際に、オクルージョン領域の割合だけではなく幾何変形量も考慮することで、視点変更画像の合成結果の画質の低下を抑制すると同時に効率的な撮影を行える位置姿勢を決定する。
【００６５】
表１に、オクルージョン領域の割合と画像合成時の幾何変形量に対する次撮影位置姿勢の調整方法の関係を示す。例えば図４（ａ）及び（ｂ）に示したような仮想的な視点位置のそれぞれに対して、オクルージョン領域の割合と共に幾何変形量を算出し、それらの大きさに基づいて撮影位置を調整することでより良好な撮影位置を求める。
【００６６】
【表１】
2019121945.tif 000016
【００６７】
表１より、オクルージョン領域の割合と幾何変形量が共に大きい場合、任意視点画像の生成に対する寄与度は高いが画質の低下が生じるため、画質の低下が予め定められた閾値以下となるように基準となる位置に近づけるように仮想的な視点位置を調整する。画質の閾値の決定方法としては、上述の幾何変形後の画像周縁部の画素間の隙間の量で決定する方法があり、例えば隙間が１画素以下であれば画質をほぼ低下させることなく合成が行えるとして閾値として設定すればよい。閾値決定の別の方法としては、前述の位置姿勢推定部１０５での処理と同様の方法で射影ホモグラフィ行列を動き成分に分解し、例えば撮像装置の回転の角度が予め定められた閾値以上とならないようにする方法もある。この場合の閾値は、予め幾何変形量と画素補間を行う量との関係を算出して決めておけばよい。また、オクルージョン領域の割合が小さく、幾何変形量が大きい場合、基準となる位置に近づけると寄与度がさらに小さくなり、逆に遠ざけると画質の低下がさらに大きくなってしまうため、調整は行わないようにする。また、オクルージョン領域の割合が大きく、幾何変形量が小さい場合、幾何変形による画質の低下が閾値を越えない範囲で基準となる位置から遠ざけることで寄与度をさらに向上させる。また、オクルージョン領域の割合と幾何変形量が共に小さい場合も同様に、幾何変形による画質の低下が閾値を越えない範囲で基準となる位置から遠ざけることで寄与度を少しでも向上させるようにする。
【００６８】
ステップＳ２０６で、オクルージョン領域の割合に加えて幾何変形による画質の低下を考慮して仮想的な視点位置を調整し、次撮影位置姿勢を決定する。これにより、任意視点画像の生成に対する寄与度が高く、画質の低下を抑えられる画像を効率良く撮影することが可能となる。
ここまで、第２の実施形態における動作を述べた。第１の実施形態では、次撮影位置姿勢を決定する際に、仮想視点画像に占めるオクルージョン領域の割合を使用した。それに対して、第２の実施形態では、オクルージョン領域の割合に加えて、幾何変形処理によってどれだけ画質の低下が生じるかも考慮に入れて次撮影位置姿勢を決定している。これにより、画質の低下を抑制しつつ、任意視点画像の生成において寄与度の高い画像を効率良く撮影できる撮影位置を決定することが可能となる。
【００６９】
（第３の実施形態）
第３の実施形態では、オクルージョン領域の割合とユーザが想定する視点変更範囲、そして視点変更画像合成時の幾何変形量を考慮して次撮影位置姿勢を決定する。
図１２に、視点変更範囲とオクルージョン領域の割合との関係の例を示す。図１２において、横軸１２０１は視点変更範囲であり、右方向に行くほどユーザが想定する視点変更範囲が広いことを示す。また、縦軸１２０２はオクルージョン領域の割合であり、上に行くほど割合が大きいことを示す。そして、直線１２０３はオクルージョン領域の割合に対する閾値を表し、直線１２０３よりも上の割合を有する画像を寄与度の高い画像であると判定する。また、直線１２０４は、第２の実施形態で述べた幾何変形処理による画質低下の閾値を表す。この直線１２０４よりも上の領域は、画像合成時の幾何変形量が大きく、それに伴う画質の低下が大きくなることを表す。
【００７０】
ここで、点１２０５に示すような、視点変更範囲をａとして、オクルージョン領域の割合がｄとなるような仮想的な視点位置で得られる画像について考える。点１２０５でのオクルージョン領域の割合は寄与度の閾値１２０３を超えているため、視点変更範囲ａの範囲内の任意視点画像の生成に対して十分な寄与度を有することが分かる。このとき、点１２０５は、表１より幾何変形量が画質低下の閾値１２０４を超えない範囲で基準となる位置から遠ざけることでオクルージョン領域の割合を多くし、さらに寄与度を向上させることができる。また逆に、寄与度の閾値１２０３を下回らない範囲で基準となる位置に近づけることで、任意視点画像の生成時の画質の低下を抑制することもできる。同様に、寄与度の閾値１２０３を越えない範囲であれば視点変更範囲を拡大することもできる。
【００７１】
それに対して、点１２０６に示すような、視点変更範囲ｂとオクルージョン領域の割合ｅの関係では、オクルージョン領域の割合ｅが寄与度の閾値１２０３を下回っているため、任意視点画像の生成時に使用される可能性の低い画像を撮影することになってしまう。この場合、表１に基づいて寄与度を向上させるために、仮想的な視点位置を基準となる位置からさらに遠ざかるように移動させるか、現状の仮想的な視点位置のままで視点変更範囲ｂを小さくすることで寄与度の閾値１２０３を超えるようにする必要がある。
【００７２】
また、点１２０７に示すような、視点変更範囲ｃとオクルージョン領域の割合ｆの関係では、基準となる位置から仮想的な視点位置までの距離が離れすぎている。そのため、オクルージョン領域の割合が大きく、視点変更画像合成時の幾何変形による画質の低下の閾値１２０４を超えており、合成時に使用すると任意視点画像の画質の低下の原因となってしまう。点１２０７では、どのような視点変更範囲であっても画質の低下を招くことになるため、画質低下の閾値１２０４を下回るように基準となる位置に近づけるしかない。
【００７３】
以上のように仮想的な視点位置の調整を行うことで、オクルージョン領域の割合とユーザが想定する視点変更範囲、そして視点変更画像合成時の幾何変形量を考慮した上で次撮影位置姿勢を決定することが可能となる。
仮想的な視点位置や視点変更範囲をどのように変更するかについては、液晶モニタに表示される設定可能範囲に従ってユーザが任意に指定したり、例えば画質重視モードのような設定をユーザが行うことで撮像装置が自動で決定したりするようにすればよい。
【００７４】
以上、本発明を実施形態と共に説明したが、上記実施形態は本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。つまり、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
（その他の実施形態）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００７５】
１０１：光学系、１０２：撮像素子、１０３：現像処理部、１０４：メモリ、１０５：位置姿勢推定部、１０６：距離情報取得部、１０７：仮想視点画像生成部、１０８：オクルージョン判定部、１０９：次撮影位置姿勢決定部、１１０：指示部、９０１：幾何変形量判定部
【図１】
2019121945.tif 000017
【図２】
2019121945.tif 000018
【図３】
2019121945.tif 000019
【図４】
2019121945.tif 000020
【図５】
2019121945.tif 000021
【図６】
2019121945.tif 000022
【図７】
2019121945.tif 000023
【図８】
2019121945.tif 000024
【図９】
2019121945.tif 000025
【図１０】
2019121945.tif 000026
【図１１】
2019121945.tif 000027
【図１２】
2019121945.tif 000028