(57)【要約】【課題】モデルに対する画像の投影に係る処理の負担をより軽減することを目的とする。ことを目的とする。【解決手段】複数の撮影部により撮影される複数の撮影画像に基づいて生成される仮想視点画像の背景のモデルである背景モデルの表面上に存在する領域である表面領域に投影する画像として、複数の撮影部により撮影される複数の撮影画像に含まれる何れの撮影画像における何れの領域の画像を投影するかを決定し、複数の撮影部により撮影される複数の撮影画像に含まれる決定された領域の画像を、表面領域に投影する。【選択図】図４
2019102056.tif 000002
【特許請求の範囲】
【請求項１】
複数の撮影部により撮影される複数の撮影画像に基づいて生成される仮想視点画像の背景のモデルである背景モデルの表面上に存在する領域である表面領域に投影する画像として、前記複数の撮影部により撮影される複数の撮影画像に含まれる何れの撮影画像における何れの領域の画像を投影するかを決定する決定手段と、
前記複数の撮影部により撮影される複数の撮影画像に含まれる前記決定手段により決定された領域の画像を、前記表面領域に投影する投影手段と、
を有する画像処理装置。
【請求項２】
前記決定手段は、前記複数の撮影部により撮影される複数の撮影画像内の領域のうち、前記表面領域に対応する複数の領域から、前記複数の領域それぞれの面積に基づいて、前記表面領域に投影される画像の領域を決定する請求項１記載の画像処理装置。
【請求項３】
前記決定手段は、前記複数の領域から、面積が最も大きい領域を、前記表面領域に投影される画像の領域として、決定する請求項２記載の画像処理装置。
【請求項４】
前記決定手段は、前記複数の領域から、面積が最も小さい領域を、前記表面領域に投影される画像の領域として、決定する請求項２記載の画像処理装置。
【請求項５】
前記決定手段は、前記複数の撮影部により撮影される複数の撮影画像内の領域のうち、前記表面領域に対応する複数の領域から、予め定められた基準撮影部と前記複数の撮影部それぞれとのパラメータに基づいて、前記表面領域に投影される画像の領域を決定する請求項１記載の画像処理装置。
【請求項６】
前記決定手段は、前記複数の撮影部により撮影される複数の撮影画像内の領域のうち、前記表面領域に対応する複数の領域から、前記複数の領域を撮影する撮影部それぞれと前記基準撮影部との座標に基づいて、前記表面領域に投影される画像の領域を決定する請求項５記載の画像処理装置。
【請求項７】
前記決定手段は、前記複数の撮影部により撮影される複数の撮影画像内の領域のうち、前記表面領域に対応する複数の領域から、前記複数の領域を撮影する撮影部それぞれの撮影方向と前記基準撮影部の撮影方向とに基づいて、前記表面領域に投影される画像の領域を決定する請求項５記載の画像処理装置。
【請求項８】
前記基準撮影部は、前記複数の撮影部のうち、最も視野が広角な撮影部である請求項５乃至７何れか１項記載の画像処理装置。
【請求項９】
前記基準撮影部は、指定された位置に仮想的に配置される撮影部である請求項５乃至７何れか１項記載の画像処理装置。
【請求項１０】
前記複数の撮影部から、前記複数の撮影部により撮影される複数の撮影画像に含まれる前記決定手段により決定された領域の画像を取得する取得手段を更に有し、
前記投影手段は、前記取得手段により取得された画像を、前記表面領域に投影する請求項１乃至９何れか１項記載の画像処理装置。
【請求項１１】
前記複数の撮影部により撮影される撮影画像から、前記仮想視点画像の生成に用いられる画像を選択する選択手段を更に有し、
前記決定手段は、前記選択手段により選択された画像内の領域のうち、前記表面領域に対応する領域から、前記表面領域に投影される画像の領域を決定する請求項１乃至１０何れか１項記載の画像処理装置。
【請求項１２】
前記決定手段は、前記複数の撮影部のうち予め定められた不具合が検出された撮影部以外の撮影部により撮影される撮影画像に含まれる領域から、前記表面領域に投影される画像の領域を決定する請求項１乃至１１何れか１項記載の画像処理装置。
【請求項１３】
画像処理装置が実行する情報処理方法であって、
複数の撮影部により撮影される複数の撮影画像に基づいて生成される仮想視点画像の背景のモデルである背景モデルの表面上に存在する領域である表面領域に投影する画像として、前記複数の撮影部により撮影される複数の撮影画像に含まれる何れの撮影画像における何れの領域の画像を投影するかを決定する決定ステップと、
前記複数の撮影部により撮影される複数の撮影画像に含まれる前記決定ステップで決定された領域の画像を、前記表面領域に投影する投影ステップと、
を含む情報処理方法。
【請求項１４】
コンピュータを、請求項１乃至１２何れか１項記載の画像処理装置の各手段として、機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【０００２】
昨今、複数のカメラ等の撮像装置を異なる位置に配置して多視点で同期的に撮影し、撮影により得られた複数の視点からの画像を用いて、仮想視点画像を生成する技術が注目されている。仮想視点画像とは、仮想的に設定された視点から見たように見える画像である。このような複数の視点からの画像から仮想視点画像を生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴することが可能となる。複数の視点からの画像に基づく仮想視点画像の生成は、例えば、複数のカメラが撮影した画像に基づいて、前景背景分離、三次元モデル生成、レンダリング等の処理を施すことで実現できる。
特許文献１には、同一の範囲を取り囲むように複数の撮像装置を配置して、その同一の範囲を撮影した画像を用いて、任意の指定に対応する仮想視点画像を生成、表示する技術が開示されている。
上述のような仮想視点画像を生成する技術では、背景となるフィールドを有するスタジアム等の三次元モデルを生成し、そのモデルに画像を投影することで仮想視点画像における背景を生成することができる。それぞれ視点が異なる複数の撮像装置により撮影された複数の画像から生成される仮想視点画像の背景のモデルへ画像を投影するためには、例えば、まず、各撮像装置により撮影された画像を射影変換し合成する。そして、射影変換後に合成された画像を背景のモデルに投影するという処理により行われ得る。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１４−２１５８２８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、モデルに対する画像の投影に係る処理（例えば、撮像装置により撮影された画像を射影変換する処理や、射影変換された各撮影装置の撮影画像を合成する処理）は、多くのメモリなどのハードウェア資源や多くの演算を必要とするため、これらの処理の負担を軽減するための技術が望まれる。
本発明は、モデルに対する画像の投影に係る処理の負担をより軽減することを目的とする。
【課題を解決するための手段】
【０００５】
本発明の画像処理装置は、複数の撮影部により撮影される複数の撮影画像に基づいて生成される仮想視点画像の背景のモデルである背景モデルの表面上に存在する領域である表面領域に投影する画像として、前記複数の撮影部により撮影される複数の撮影画像に含まれる何れの撮影画像における何れの領域の画像を投影するかを決定する決定手段と、前記複数の撮影部により撮影される複数の撮影画像に含まれる前記決定手段により決定された領域の画像を、前記表面領域に投影する投影手段と、を有する。
【発明の効果】
【０００６】
本発明によれば、モデルに対する画像の投影に係る処理の負担をより軽減することができる。
【図面の簡単な説明】
【０００７】
【図１】画像処理システムのシステム構成の一例を示す図である。
【図２】撮像装置のハードウェア構成等の一例を示す図である。
【図３】サーバ装置のハードウェア構成等の一例を示す図である。
【図４】事前処理の一例を示すフローチャートである。
【図５】背景モデルの一例を説明する図である。
【図６】撮像装置の配置状況の一例を説明する図である。
【図７】座標変換の一例を説明する図である。
【図８】仮想視点画像の背景生成処理の一例を示すフローチャートである。
【図９】撮像装置による撮影された状況等の一例を示す図である。
【図１０】画像の切り出しの一例を説明する図である。
【図１１】撮像装置の機能構成の一例を示す図である。
【図１２】サーバ装置の機能構成の一例を示す図である。
【図１３】事前処理の一例を示すフローチャートである。
【図１４】背景生成処理の一例を示すフローチャートである。
【図１５】領域決定処理の一例を示すフローチャートである。
【図１６】撮像装置の撮影範囲の一例を説明する図である。
【図１７】投影される画像が撮影されるメッシュの一例を説明する図である。
【図１８】基準撮像装置と他の撮像装置との位置関係の一例を説明する図である。
【図１９】基準撮像装置との距離に応じて並べた撮像装置の一例を示す図である。
【図２０】投影される画像が撮影されるメッシュの一例を説明する図である。
【図２１】事前処理の一例を示すフローチャートである。
【図２２】背景生成処理の一例を示すフローチャートである。
【図２３】仮想視点と各撮像装置との向きの一例を説明する図である。
【図２４】不具合を検出した際の処理の一例を示すフローチャートである。
【発明を実施するための形態】
【０００８】
以下に、本発明の実施の形態の一例を、図面に基づいて詳細に説明する。
【０００９】
＜実施形態１＞
図１は、仮想視点画像を生成する画像処理システム１００のシステム構成の一例を示す図である。画像処理システム１００は、仮想視点画像の生成に用いられる画像を撮影し、撮影した画像から仮想視点画像を生成するシステムである。画像処理システム１００は、撮像装置１０１ａ〜１０１ｎ、サーバ装置１０３を含む。撮像装置１０１ａ〜１０１ｎ、サーバ装置１０３は、通信回線１０２を介して、相互に通信可能に接続されている。
撮像装置１０１ａ〜１０１ｎは、ネットワークカメラ等の通信機能を有する撮像装置である。以下では、撮像装置１０１ａ〜１０１ｎを、撮像装置１０１と総称する。本実施形態では、撮像装置１０１は、１４個の撮像装置であるとするが、１３個以下の撮像装置であってもよいし、１５個以上の撮像装置であってもよい。本実施形態では、撮像装置１０１ａ〜１０１ｎは、スタジアムに配置されているとするが、コンサート会場等の他の場所に配置されていることとしてもよい。サーバ装置１０３は、パーソナルコンピュータ、サーバ装置、タブレット装置等の情報処理装置である。サーバ装置１０３は、撮像装置１０１ａ〜１０１ｎにより撮影された画像を集約し、集約した画像に基づいて、仮想視点画像を生成する。通信回線１０２は、Ｅｔｈｅｒｎｅｔ等の通信回線である。なお、サーバ装置１０３は、複数の装置により構成されてもよい。
【００１０】
図２（ａ）は、撮像装置１０１それぞれのハードウェア構成の一例である。
撮像装置１０１は、ＣＰＵ２０１、主記憶装置２０２、補助記憶装置２０３、ネットワークＩ／Ｆ２０４、撮影部２０５を含む。各要素は、システムバス２０６を介して、相互に通信可能に接続されている。
ＣＰＵ２０１は、撮像装置１０１を制御する中央演算装置である。主記憶装置２０２は、ＣＰＵ２０１のワークエリアやデータの一時的な記憶領域として機能する記憶装置である。主記憶装置２０２は、Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ（ＲＡＭ）等の記憶媒体を用いて実装される。補助記憶装置２０３は、各種プログラム、各種設定情報、各種画像データ、カメラパラメータの情報等を記憶する記憶装置である。補助記憶装置２０３は、Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ（ＲＯＭ）、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＳＤ）等の記憶媒体を用いて実装される。
ネットワークＩ／Ｆ２０４は、サーバ装置１０３等の外部の装置との間での通信回線１０２を介した通信に利用されるインターフェースである。撮影部２０５は、ＣＭＯＳセンサ、ＣＣＤセンサ等の撮像素子やレンズ等を含み、周囲を撮影する撮影部である。
ＣＰＵ２０１が、補助記憶装置２０３に記憶されたプログラムにしたがって処理を実行することで、図２（ｂ）、１１で後述する撮像装置１０１の機能、図８、１４で後述するフローチャートにおける撮像装置１０１の処理等が実現される。
【００１１】
図２（ｂ）は、撮像装置１０１それぞれの機能構成の一例を示す図である。
撮像装置１０１は、撮影制御部２１１、生成部２１２、送信部２１３を含む。
撮影制御部２１１は、撮影部２０５を制御し、撮影部２０５内のレンズや撮像素子等によって、光学的に撮像した画像をデジタルデータに変換する。生成部２１２は、撮影制御部２１１により撮影された画像から前景と背景とを分離し、前景画像を除いた背景画像を生成する。送信部２１３は、生成部２１２により生成された背景画像のデータを、通信回線１０２を介して、サーバ装置１０３に送信する。なお、図２（ｂ）に示す機能構成の一部又はすべてをハードウェアにより実現してもよい。このハードウェアの一例としては、ＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等がある。
【００１２】
図３（ａ）は、サーバ装置１０３のハードウェア構成の一例を示す図である。
サーバ装置１０３は、ＣＰＵ３０１、主記憶装置３０２、補助記憶装置３０３、ネットワークＩ／Ｆ３０４を含む。各要素は、システムバス３０５を介して、相互に通信可能に接続されている。
ＣＰＵ３０１は、サーバ装置１０３を制御する中央演算装置である。主記憶装置３０２は、ＣＰＵ３０１のワークエリアやデータの一時的な記憶領域として機能する記憶装置である。主記憶装置３０２は、ＲＡＭ等の記憶媒体を用いて実装される。補助記憶装置３０３は、各種プログラム、各種設定情報、各種画像データ等を記憶する記憶装置である。補助記憶装置３０３は、ＲＯＭ、ＨＤＤ、ＳＳＤ等の記憶媒体を用いて実装される。ネットワークＩ／Ｆ３０４は、撮像装置１０１等の外部の装置との間での通信回線１０２を介した通信に利用されるインターフェースである。
ＣＰＵ３０１が、補助記憶装置３０３に記憶されたプログラムにしたがって処理を実行することで、図３（ｂ）、１２で後述するサーバ装置１０３の機能、図８、１４で後述するフローチャートにおけるサーバ装置１０３の処理が実現される。また、ＣＰＵ３０１が、補助記憶装置３０３に記憶されたプログラムにしたがって処理を実行することで、図４、１３、１５、２１、２２、２４で後述するフローチャートの処理等が実現される。
【００１３】
図３（ｂ）は、サーバ装置１０３の機能構成の一例を示す図である。
サーバ装置１０３は、画像取得部３１１、キャリブレーション部３１２、背景モデル管理部３１３、座標変換部３１４、背景テクスチャ決定部３１５、仮想カメラ制御部３１６、レンダリング部３１７を含む。
画像取得部３１１は、撮像装置１０１それぞれから通信回線１０２を介して送信される撮像装置１０１それぞれにより撮影された画像を取得する。画像取得部３１１は、取得した画像を、背景テクスチャ決定部３１５に送信する。
キャリブレーション部３１２は、撮像装置１０１それぞれのカメラパラメータを制御する。カメラパラメータとは、撮像装置に関するパラメータであり、撮像装置の位置・姿勢に関するパラメータである外部パラメータと、焦点距離や画素間隔等に関する内部パラメータとを含んでもよい。また、カメラパラメータは、撮影領域を特定するための情報であってもよい。また、カメラパラメータは、外部パラメータと内部パラメータとうち何れか１つのみでもよいし、他のパラメータを含んでもよい。キャリブレーション部３１２は、例えば、通信回線１０２を介して、カメラパラメータの変更指示を撮像装置１０１に送信する。撮像装置１０１は、送信された指示に応じて自身のカメラパラメータを変更する。また、キャリブレーション部３１２は、例えば、通信回線１０２を介して、撮像装置１０１から、カメラパラメータの情報を受信することができる。キャリブレーション部３１２は、例えば、補助記憶装置３０３に、撮像装置１０１それぞれのカメラパラメータを記憶し管理する。キャリブレーション部３１２は、管理する撮像装置１０１のカメラパラメータを、座標変換部３１４に送信する。
【００１４】
背景モデル管理部３１３は、画像処理システム１００が生成する仮想視点画像における背景となるスタジアム等の構造物等の３次元のメッシュモデルに近似して定義された背景モデルのデータ（以下では、背景モデルデータとする）を管理する。なお、背景モデルデータのデータ構造は、どのようなものであってもよく、点、線分、面等により３次元形状を示すものであってもよい。背景モデルデータは、予め補助記憶装置３０３に記憶されている。背景モデル管理部３１３は、管理する背景モデルデータを、背景テクスチャ決定部３１５、座標変換部３１４、レンダリング部３１７に送信する。本実施形態では、背景モデル管理部３１３は、予め定められた世界座標系を用いて、背景モデルの座標を管理しているとする。
座標変換部３１４は、キャリブレーション部３１２から送信されたカメラパラメータに基づいて、世界座標系における背景モデル内の領域を、撮像装置１０１により撮影される画像内における領域（カメラ座標系における領域）に変換する。また、座標変換部３１４は、キャリブレーション部３１２から送信されたカメラパラメータに基づいて、撮像装置１０１により撮影された画像内におけるカメラ座標系の領域を、世界座標系における背景モデル内の領域に変換する。カメラ座標系とは、撮像装置を基準とした座標系である。また、座標変換部３１４は、世界座標系と撮像装置１０１それぞれにおけるカメラ座標系との対応関係（例えば、座標系間の変換パラメータ等）を特定してもよい。その場合、座標変換部３１４は、特定した対応関係の情報を、背景テクスチャ決定部３１５に送信する。そして、背景テクスチャ決定部３１５は、送信された対応情報に基づいて、世界座標系における背景モデル内の領域を、撮像装置１０１により撮影された画像内におけるカメラ座標系の領域に変換することとなる。また、背景テクスチャ決定部３１５は、送信された対応情報に基づいて、撮像装置１０１により撮影された画像内におけるカメラ座標系の領域を、世界座標系における背景モデル内の領域に変換することとなる。
【００１５】
背景テクスチャ決定部３１５は、画像取得部３１１により取得された画像に基づいて、背景モデルの各メッシュに投影される画像を決定する。
仮想カメラ制御部３１６は、仮想カメラの情報を管理し、サーバ装置１０３の操作部を介したユーザによる操作に基づいて、仮想カメラのカメラパラメータを制御する。仮想カメラとは、指定された位置に配置されたとみなされる仮想的な撮像装置である。仮想カメラの情報は、予め補助記憶装置３０３等に記憶されている。仮想カメラ制御部３１６は、仮想カメラの情報を、レンダリング部３１７に送信する。
レンダリング部３１７は、背景テクスチャ決定部３１５により決定された画像を背景モデル管理部３１３から送信された背景モデルの各メッシュに投影する。そして、レンダリング部３１７は、仮想カメラ制御部３１６から送信された仮想カメラのカメラパラメータに基づいて、２次元画像としてレンダリングする。これにより、レンダリング部３１７は、サーバ装置１０３の操作部を介したユーザの指示に基づいて、指定された任意の視点からの画像を生成することができる。
【００１６】
判断部３１８は、画像取得部３１１により取得された画像から、仮想視点画像の生成に用いられる画像を選択する。補助記憶装置３０３には、例えば、ピンボケしている画像、露出が適切ではない（例えば、予め定められた範囲内にない）画像、指定された撮像装置により撮影された画像等の特定の画像を、仮想視点画像の生成に用いないことを示す情報が予め記憶されている。判断部３１８は、例えば、この情報に基づいて、画像取得部３１１により取得された画像から、仮想視点画像の生成に用いられる画像を選択する。本実施形態では、補助記憶装置３０３には、撮像装置１０１のうち指定された撮像装置により撮影された画像を仮想視点画像の生成に用いないことを示す情報が記憶されているとする。また、画像処理システム１００は、判断部３１８により仮想視点画像の生成に用いないと判断された画像を撮影する撮像装置を、存在しないものとして扱うこととしてもよい。
領域決定部３１９は、判断部３１８により仮想視点画像の生成に用いられると判断された画像内の領域から、背景テクスチャ決定部３１５による背景モデルに投影される画像が撮影される領域を決定する。なお、図３（ｂ）に示す機能構成の一部又はすべてをハードウェアにより実現してもよい。このハードウェアの一例としては、ＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等がある。
【００１７】
図４は、仮想視点画像の生成の前に画像処理システム１００が実行する事前処理の一例を示すフローチャートである。図４の処理により、画像処理システム１００は、仮想視点画像の生成する際の背景モデルへの画像の投影処理に係る負担を軽減できる。
Ｓ４０１において、背景テクスチャ決定部３１５は、背景モデル管理部３１３から受信した背景モデルデータから背景モデルを構成するメッシュを１つ抽出する。背景モデルの各メッシュは、背景モデルの表面上に存在する領域である表面領域の一例である。図５は、背景モデルの一例を説明する図である。モデル５０１は、スタジアムの３次元モデルであり、複数のメッシュでフィールドであるグラウンドが表現されている。本実施形態では、背景モデルは、モデル５０１と同様のスタジアムのモデルとする。しかし、背景モデルは、コンサート会場や、観客席等のモデルであってもよい。背景モデルデータには、グラウンドを構成するメッシュそれぞれについて、頂点座標や面の法線等の情報等が含まれ得る。本実施形態では、背景テクスチャ決定部３１５は、図４の処理を開始して初めてＳ４０１の処理を行う際にメッシュ５０２を抽出するものとする。なお、Ｓ４０１では、メッシュと異なる単位で、背景モデルの表面の一部の領域を抽出してもよい。
【００１８】
Ｓ４０２において、背景テクスチャ決定部３１５は、撮像装置１０１から１つを選択する。本実施形態では、背景テクスチャ決定部３１５は、Ｓ４０１の処理の後に初めてＳ４０２の処理を行う際に撮像装置１０１ａを選択するとする。
図６は、撮像装置の配置状況の一例を説明する図である。図６の状況は、世界座標系において撮影対象であるスタジアムを示すモデル５０１と、世界座標系において実際の配置位置に対応する位置に配置された撮像装置１０１それぞれと、の位置関係を示す。撮像装置１０１ａは、キャリブレーション部３１２が管理する撮像装置１０１ａのカメラパラメータが示すように、図６に示される位置に配置され、領域６０１を撮影している。座標変換部３１４は、世界座標系におけるメッシュ５０２の座標を、撮像装置１０１ａのカメラ座標系における座標に変換する。
【００１９】
Ｓ４０３において、座標変換部３１４は、キャリブレーション部３１２から送信された撮像装置１０１ａのカメラパラメータに基づいて、以下の処理を行う。即ち、座標変換部３１４は、世界座標系におけるＳ４０１で抽出されたメッシュ５０２の領域を、撮像装置１０１ａのカメラ座標系における領域に変換する。変換された領域は、撮像装置１０１ａにより撮影される画像内におけるメッシュ５０２に対応する部分が撮影される領域となる。即ち、座標変換部３１４は、撮像装置１０１それぞれにより撮影される各画像内におけるメッシュ５０２に対応する部分が撮影される領域を特定することとなる。図７を用いて、世界座標系におけるメッシュ５０２の領域が撮像装置１０１ａのカメラ座標系へ変換された状況を説明する。領域７０１は、撮像装置１０１ａのカメラ座標系において、撮像装置１０１ａにより撮影される画像全体が占める領域である。図７には、座標変換部３１４によりメッシュ５０２の領域を、撮像装置１０１ａのカメラ座標系における領域７０２に変換された様子が示されている。
Ｓ４０４において、座標変換部３１４は、撮像装置１０１全てについて、Ｓ４０１で抽出されたメッシュに対するＳ４０３の処理が完了したか否かを判定する。座標変換部３１４は、撮像装置１０１全てについて、Ｓ４０１で抽出されたメッシュに対するＳ４０３の処理が完了したと判定した場合、Ｓ４０５の処理に進む。座標変換部３１４は、撮像装置１０１の中に、Ｓ４０１で抽出されたメッシュに対するＳ４０３の処理が完了していない撮像装置があると判定した場合、Ｓ４０２の処理に進む。
【００２０】
Ｓ４０５において、領域決定部３１９は、Ｓ４０３で撮像装置１０１それぞれのカメラ座標系に変換されたＳ４０１で抽出されたメッシュの領域に基づいて、以下の処理を行う。即ち、領域決定部３１９は、撮像装置１０１それぞれにより撮影される複数の画像内の領域から、背景モデルにおけるＳ４０１で抽出されたメッシュの部分に投影される画像が撮影される領域を決定する。
領域決定部３１９は、例えば、Ｓ４０３で撮像装置１０１それぞれのカメラ座標系に変換されたＳ４０１で抽出されたメッシュの領域のうち、撮像装置１０１それぞれにより撮影される画像内に全て収まっている（画像からはみ出ていない）領域を特定する。そして、領域決定部３１９は、特定した領域から１つを選択し、選択した領域を、背景モデルにおけるＳ４０１で抽出したメッシュの部分に投影される画像が撮影される領域として選択する。即ち、画像処理システム１００は、撮像装置１０１それぞれにより撮影される画像内における選択された領域の画像が、Ｓ４０１で抽出されたメッシュの部分に投影されることとなる。
また、領域決定部３１９は、例えば、Ｓ４０３で変換された領域のうち、撮像装置１０１それぞれにより撮影される画像内に全て収まっている領域として最初に特定された領域を特定し、以下の処理を行うこととしてもよい。即ち、領域決定部３１９は、特定した領域を、Ｓ４０１で抽出されたメッシュの部分に投影される画像が撮影される領域として選択することとしてもよい。
【００２１】
また、領域決定部３１９は、例えば、Ｓ４０３で変換された領域のうち、撮像装置１０１それぞれにより撮影される画像内に全て収まっている領域を特定し、以下の処理を行ってもよい。即ち、領域決定部３１９は、特定した領域から、領域それぞれの面積（画像内で占有するピクセル数）に基づいて、１つを選択し、選択した領域をＳ４０１で抽出したメッシュの部分に投影される画像が撮影される領域として選択してもよい。
例えば、領域決定部３１９は、Ｓ４０３で変換された領域のうち、撮像装置１０１それぞれにより撮影される画像内に全て収まっている領域を特定する。そして、領域決定部３１９は、特定した領域から、面積が最も大きい１つを選択し、選択した領域を、Ｓ４０１で抽出したメッシュの部分に投影される画像が撮影される領域として選択してもよい。この処理により、画像処理システム１００は、Ｓ４０１で抽出されたメッシュの部分を、最も大きい解像度で撮影する撮像装置を、その部分に投影される画像を撮影する撮像装置として選択できる。これにより、画像処理システム１００は、背景モデルの各メッシュにより精細な画像を投影できることとなる。
また、例えば、領域決定部３１９は、Ｓ４０３で変換された領域のうち、撮像装置１０１それぞれにより撮影される画像内に全て収まっている領域を特定する。そして、領域決定部３１９は、特定した領域から、面積が最も小さい１つを選択し、選択した領域を、Ｓ４０１で抽出したメッシュの部分に投影される画像が撮影される領域として選択してもよい。この処理により、画像処理システム１００は、背景モデルの各メッシュに投影される画像のサイズを最小にでき、投影処理に係る処理の負担を軽減できる。また、サーバ装置１０３が、撮像装置１０１から背景モデルのメッシュに投影される画像の部分のみを受信する場合、通信回線１０２の通信帯域を節約できる。また、例えば、領域決定部３１９は、撮像装置１０１それぞれにより撮影される画像内に全て収まっている領域のうち複数の領域を４０１で抽出したメッシュの部分に投影される画像が撮影される領域として特定してもよい。この場合、画像処理システム１００は、仮想視点画像を生成する際に、特定された複数の領域に対応する複数の画像を平均化した画像を対応するメッシュに投影してもよい。
以下では、Ｓ４０５で選択された領域の情報を、テクスチャ領域とする。
【００２２】
Ｓ４０６において、領域決定部３１９は、背景モデル内の全てのメッシュについて、Ｓ４０２〜Ｓ４０５の処理が完了したか否かを判定する。領域決定部３１９は、背景モデル内の全てのメッシュについて、Ｓ４０２〜Ｓ４０５の処理が完了したと判定した場合、Ｓ４０７の処理に進み、背景モデル内にＳ４０２〜Ｓ４０５の処理が完了していないメッシュがあると判定した場合、Ｓ４０１の処理に進む。
Ｓ４０７において、背景テクスチャ決定部３１５は、背景モデル内の各メッシュについてＳ４０５で選択されたテクスチャ領域の情報（以下では、領域情報とする）を、レンダリング部３１７に送信する。
図４の処理により、背景モデルに投影される画像を生成する準備が整うこととなる。
【００２３】
図８は、仮想視点画像の背景生成処理の一例を示すフローチャートである。
Ｓ８０１において、撮像装置１０１それぞれの撮影制御部２１１は、被写体を撮影する。
図９は、撮像装置１０１による撮影された状況等の一例を示す図である。画像９０１は、撮像装置１０１ａにより撮影された画像である。画像９０１には、前景として人物９０２、９０２、９０３が写っている。
Ｓ８０２において、撮像装置１０１それぞれの生成部２１２は、Ｓ８０１で撮影された画像について、前景と背景とを分離し、前景画像を取り除いた背景画像を生成する。図９の例では、生成部２１２は、画像９０１から前景である人物９０２、９０２、９０３を分離し、背景画像９０５を生成する。生成部２１２は、例えば、時間方向の動きが閾値以上あるものを前景とする方法等の方法を用いて、前景と背景とを分離する。
Ｓ８０３において、撮像装置１０１それぞれの送信部２１３は、Ｓ８０２で生成された背景画像を、通信回線１０２を介して、サーバ装置１０３に送信する。
【００２４】
Ｓ８０４において、背景テクスチャ決定部３１５は、Ｓ８０３で撮像装置１０１それぞれにより送信された背景画像に基づいて、仮想視点画像の背景モデルの各メッシュに投影される画像を決定する。本実施形態では、背景テクスチャ決定部３１５は、Ｓ８０３で送信された背景画像それぞれを、背景モデルの各メッシュに投影される画像を含む画像として決定して、レンダリング部３１７に送信する。
Ｓ８０５において、レンダリング部３１７は、Ｓ８０４で送信された背景画像から、図４の処理で生成された領域情報が示す領域の画像を抽出し、抽出した画像を、対応する背景モデルの各メッシュに投影する。レンダリング部３１７は、例えば、領域情報に基づいて、背景画像の中から、背景モデルの各メッシュに投影される領域を抽出する。そして、レンダリング部３１７は、抽出した領域の画像を、対応する背景モデルのメッシュに投影する。これにより、背景モデルの各メッシュには、対応する画像が投影されることとなる。
そして、レンダリング部３１７は、仮想カメラ制御部３１６から送信された仮想カメラのカメラパラメータに基づいて、背景モデルを仮想カメラの視点から見た画像を生成することで、仮想視点画像を生成する。
【００２５】
以上、本実施形態では、画像処理システム１００は、図４の処理で、撮像装置１０１それぞれにより撮影される画像内において、予め背景モデルの各メッシュに投影される画像が撮影される領域を決定した。そして、画像処理システム１００は、決定した領域で撮影された画像を背景モデルの各メッシュに投影することで、仮想視点画像を生成することとした。このように、画像処理システム１００は、背景モデルの各メッシュに、予め決定した領域で撮影された画像を投影することとした。これにより、画像処理システム１００は、撮像装置１０１それぞれにより撮影される複数の画像を射影変換後に合成する処理が低減される。また、画像処理システム１００は、撮像装置１０１それぞれにより撮影される複数の画像を射影変換後に合成し、合成した画像を、背景モデルに投影する場合に比べて、主記憶装置３０２等のメモリやＣＰＵ３０１の使用率等の処理の負担を軽減できる。
また、画像処理システム１００は、予め背景モデルの各メッシュに投影される画像が撮影される領域を決定し、時間経過にしたがって刻々と変化する撮像装置１０１により撮影される画像のうち、その領域の画像を、背景モデルの各メッシュに投影することとした。これにより、画像処理システム１００は、背景モデルの各メッシュへの投影対象の画像である撮像装置１０１により撮影される画像が時間経過にしたがって刻々と変化する場合でも、主記憶装置３０２等のメモリやＣＰＵ３０１の使用率等の処理の負担を軽減できることとなる。
【００２６】
＜実施形態２＞
本実施形態では、背景テクスチャ決定部３１５が背景画像から、背景モデルのメッシュに投影される画像を切り出して、レンダリング部３１７に送信する場合の画像処理システム１００の処理について、説明する。
本実施形態の画像処理システム１００のシステム構成は、実施形態１と同様である。また、撮像装置１０１それぞれのハードウェア構成、機能構成は、実施形態１と同様である。また、サーバ装置１０３のハードウェア構成、機能構成は、実施形態１と同様である。
【００２７】
図４、８を用いて、本実施形態の画像処理システム１００の処理のうち、実施形態１と異なる点について説明する。
本実施形態では、Ｓ８０４で、背景テクスチャ決定部３１５は、Ｓ８０３で撮像装置１０１それぞれにより送信された背景画像のうち、図４の処理で決定された領域を示す領域情報が示す領域の画像を切り出す。そして、背景テクスチャ決定部３１５は、切り出した画像を、仮想視点画像の背景モデルの各メッシュに投影される画像として決定する。背景テクスチャ決定部３１５は、決定した画像を、レンダリング部３１７に送信する。
【００２８】
図１０は、背景テクスチャ決定部３１５による画像の切り出しの一例を説明する図である。領域１０００は、Ｓ４０５までの処理において求められた、撮像装置１０１ａにより撮影された画像内における（撮像装置１０１ａのカメラ座標系における）メッシュ５０２の領域である領域７０２を含む矩形領域である。撮像装置１０１ａは、メッシュ５０２に投影される画像を撮影する撮像装置として判断部３１８により判断された撮像装置であるとする。背景テクスチャ決定部３１５は、領域７０１から領域７０２が内接する矩形の領域を特定し、特定した領域１００１を、切り出し対象の領域として決定する。図１０の例では、背景テクスチャ決定部３１５は、Ｓ８０４で、撮像装置１０１ａにより撮影された画像から生成された背景画像内における領域１００１の範囲を切り出し、切り出した画像１００２を取得する。
レンダリング部３１７は、Ｓ８１５で、Ｓ８０４で送信された画像に含まれるメッシュに投影される画像が撮影された領域の画像を、対応する背景モデルの各メッシュに投影する。そして、レンダリング部３１７は、仮想カメラ制御部３１６から指定された仮想カメラのカメラパラメータに基づいてレンダリングを行い、仮想視点画像を生成する。
【００２９】
以上、本実施形態では、背景テクスチャ決定部３１５は、背景画像から、メッシュに投影される画像を切り出し、切り出した画像をレンダリング部３１７に送信することとした。これにより、画像処理システム１００は、背景画像全体を送信する場合に比べて、背景テクスチャ決定部３１５からレンダリング部３１７へ送信されるデータのサイズを低減できる。
【００３０】
＜実施形態３＞
本実施形態では、撮像装置１０１それぞれが、撮像装置１０１それぞれにより撮影された画像の背景画像から背景モデルの各メッシュに対応する領域の画像を切り出して、サーバ装置１０３に送信する場合の画像処理システム１００の処理を説明する。
本実施形態の画像処理システム１００のシステム構成は、実施形態１と同様である。また、撮像装置１０１それぞれのハードウェア構成は、実施形態１と同様である。また、サーバ装置１０３のハードウェア構成は、実施形態１と同様である。
【００３１】
図１１は、本実施形態の撮像装置１０１それぞれの機能構成の一例を示す図である。
本実施形態の撮像装置１０１は、切り出し領域受信部１１０１、切り出し部１１０２を含む点で、図２（ｂ）と異なる。
切り出し領域受信部１１０１は、サーバ装置１０３から、撮像装置１０１により撮影される画像内の背景モデルの各メッシュに対応する領域の情報を受信する。本実施形態では、Ｓ４０７で、背景テクスチャ決定部３１５は、領域情報を、その領域情報が示す領域を撮影する撮像装置１０１に送信する。切り出し領域受信部１１０１は、この送信された領域情報を、受信する。
切り出し部１１０２は、切り出し領域受信部１１０１により受信された領域情報に基づいて、生成部２１２により生成された背景画像から画像を切り出して、切り出した画像を、送信部２１３を介して、サーバ装置１０３に送信する。
【００３２】
図１２は、本実施形態のサーバ装置１０３の機能構成の一例を示す図である。
本実施形態のサーバ装置１０３は、画像取得部３１１、キャリブレーション部３１２、背景モデル管理部３１３、座標変換部３１４、背景テクスチャ決定部３１５、仮想カメラ制御部３１６、レンダリング部３１７、判断部３１８、領域決定部３１９を含む。また、本実施形態のサーバ装置１０３は、切り出し領域送信部１２０１を含む。
キャリブレーション部３１２、背景モデル管理部３１３、座標変換部３１４、仮想カメラ制御部３１６、判断部３１８、領域決定部３１９は、図３（ｂ）と同様である。
背景テクスチャ決定部３１５は、実施形態１と同様の機能に加え、領域情報を、切り出し領域送信部１２０１を介して撮像装置１０１それぞれに送信する機能を有する。
切り出し領域送信部１２０１は、背景テクスチャ決定部３１５から受信した領域情報を、通信回線１０２を介して、撮像装置１０１それぞれに送信する。
画像取得部３１１は、撮像装置１０１それぞれから受信した背景画像から切り出された画像を、通信回線１０２を介して受信し、レンダリング部３１７に送信する。
レンダリング部３１７は、画像取得部３１１により受信された切り出された画像を、背景テクスチャ決定部３１５から受信した領域情報を用いて、背景モデルの各メッシュに投影し、仮想視点画像を生成する。
【００３３】
図１３は、本実施形態の画像処理システム１００が仮想視点画像の生成前に実行する事前処理の一例を示すフローチャートである。
図１３中のＳ４０１〜４０５の処理は、図４と同様である。図１３の処理のうち、図４と異なる点について説明する。
Ｓ１３０１において、切り出し領域送信部１２０１は、背景テクスチャ決定部３１５により生成された領域情報を受信し、受信した領域情報を、通信回線１０２を介して、対応する撮像装置１０１に送信する。図７の例のように、Ｓ４０５で領域決定部３１９により領域７０２が選択された場合、背景テクスチャ決定部３１５は、図１０の領域１００１を、切り出し対象の領域として決定し、決定した領域を示す領域情報を、切り出し領域送信部１２０１に送信する。そして、切り出し領域送信部１２０１は、領域１００１を示す領域情報を、領域１００１を撮影する撮像装置１０１ａに送信することとなる。
【００３４】
図１４は、本実施形態の画像処理システム１００が実行する仮想視点画像の背景生成処理の一例を示すフローチャートである。図１４中のＳ８０１、Ｓ８０２の処理は、図８と同様である。図１４の処理のうち、図８と異なる点について説明する。
Ｓ１４０１において、切り出し部１１０２は、Ｓ８０２で生成された背景画像から、切り出し領域受信部１１０１により受信された領域情報が示す領域を切り出す。領域情報が、領域１００１を示す場合、切り出し部１１０２は、背景画像から領域１００１の範囲を切り出し、画像１００２を生成する。
Ｓ１４０２において、送信部２１３は、Ｓ１４０１で背景画像切り出し部１１０２により切り出された画像を、サーバ装置１０３に送信する。
Ｓ１４０３において、レンダリング部３１７は、Ｓ１４０２で送信された画像を、対応する背景モデルの各メッシュに投影する。そして、レンダリング部３１７は、仮想カメラ制御部３１６から指定された仮想カメラのカメラパラメータに基づいてレンダリングを行い、仮想視点画像を生成する。
【００３５】
以上、本実施形態では、実施形態２においてサーバ装置１０３が行っていた背景画像から背景モデルのメッシュに投影される画像を切り出す処理を、撮像装置１０１それぞれが実行することとした。これにより、画像処理システム１００は、サーバ装置１０３の処理の負担を軽減させることができる。また、撮像装置１０１は、背景画像全体でなく、切り出した画像をサーバ装置１０３に送信することとなる。そのため、画像処理システム１００は、通信回線１０２の通信帯域を節約することができる。
【００３６】
＜実施形態４＞
本実施形態では、画像処理システム１００がＳ４０５で撮像装置１０１それぞれのカメラパラメータに基づいて、領域を決定する処理について、説明する。
本実施形態の画像処理システム１００のシステム構成は、実施形態１と同様である。また、撮像装置１０１それぞれのハードウェア構成、機能構成は、実施形態１と同様である。また、サーバ装置１０３のハードウェア構成、機能構成は、実施形態１と同様である。
本実施形態の処理は、画像処理システム１００が図４のＳ４０１〜Ｓ４０６の処理の代わりに図１５の処理を行う点で、実施形態１と異なる。実施形態１と異なる点について説明する。
【００３７】
図１５は、本実施形態の領域決定部３１９による領域決定処理の一例を示すフローチャートである。
Ｓ１５０１において、領域決定部３１９は、撮像装置１０１から、背景モデルのメッシュに投影される画像が撮影される領域の決定の基準となる撮像装置を決定する。以下では、背景モデルのメッシュに投影される画像が撮影される領域の決定の基準となる撮像装置を基準撮像装置とする。基準撮像装置は、基準撮影部の一例である。
図１６は、撮像装置の撮影範囲の一例を説明する図である。領域６０１は、図６と同様に、撮像装置１０１ａの背景モデルに対する撮影範囲を示す。領域１６０１は、撮像装置１０１の中で最も広角な視野を有する撮像装置１０１ｅの背景モデルに対する撮影範囲を示す。本実施形態では、領域決定部３１９は、Ｓ１５０１で、撮像装置１０１中で最も広角な視野を有する撮像装置１０１ｅを、基準撮像装置として決定する。しかし、領域決定部３１９は、Ｓ１５０１で、撮像装置１０１中で最も多くの背景モデルのメッシュに対応する領域を撮影可能な撮像装置を、基準撮像装置として決定することとしてもよい。また、領域決定部３１９は、Ｓ１５０１で、撮像装置１０１中で予め定められた撮像装置を、基準撮像装置として決定してもよい。また、領域決定部３１９は、Ｓ１５０１で、サーバ装置１０３の操作部を介したユーザの操作に基づいて、指定された撮像装置を、基準撮像装置として決定してもよい。
【００３８】
Ｓ１５０２において、領域決定部３１９は、背景モデルのメッシュのうち、基準撮像装置のカメラ座標系に変換されたメッシュ全体が、基準撮像装置により撮影される画像に含まれることとなるメッシュを特定する。そして、領域決定部３１９は、Ｓ１５０１で決定した基準撮像装置により撮影される画像中の特定したメッシュそれぞれに対応する領域（メッシュがカメラ座標系に変換された領域）を、そのメッシュそれぞれに投影される画像が撮影される領域として決定する。
図１７は、基準撮像装置により投影される画像が撮影されるメッシュの一例を説明する図である。斜線で示された領域１７０１は、基準撮像装置により投影される画像が撮影されるメッシュの領域である。その他の領域のメッシュは、投影される画像が撮影される領域が決定されていないメッシュである。
Ｓ１５０３において、領域決定部３１９は、背景モデル内の全てのメッシュについて、投影される画像が撮影される領域が決定されたか否かを判定する。領域決定部３１９は、背景モデル内の全てのメッシュについて、投影される画像が撮影される領域が決定されたと判定した場合、図１５の処理を終了し、Ｓ４０７の処理に進む。また、領域決定部３１９は、背景モデル内のメッシュの中に、投影される画像が撮影される領域が決定されていないメッシュがあると判定した場合、Ｓ１５０４の処理に進む。
基準撮像装置が撮像装置１０１ｅであり、Ｓ１５０２の処理の後、初めてＳ１５０３の処理を行う場合、領域決定部３１９は、図１７に示すようにまだ投影される画像が撮影される領域が決定されていないメッシュがあるので、Ｓ１５０３の処理に進むこととなる。
【００３９】
Ｓ１５０４において、領域決定部３１９は、基準撮像装置と撮像装置１０１中の他の撮像装置とのカメラパラメータに基づいて、背景モデルのメッシュに投影される画像が撮影される領域を撮影する撮像装置の候補を選択する。以下では、直近のＳ１５０４の処理で選択された撮像装置を、選択撮像装置とする。
図１８は、基準撮像装置と他の撮像装置との位置関係の一例を説明する図である。領域決定部３１９は、基準撮像装置である撮像装置１０１ｅの世界座標系における座標（カメラパラメータの１つ）と、他の撮像装置１０１それぞれの世界座標系における座標と、の距離を取得する。図１８の例では、基準撮像装置である撮像装置１０１ｅと撮像装置１０１ｆとは、距離１８０１だけ離れている。また、基準撮像装置である撮像装置１０１ｅと撮像装置１０１ｇとは、距離１８０２だけ離れている。また、基準撮像装置である撮像装置１０１ｅと撮像装置１０１ｈとは、距離１８０３だけ離れている。
図１９は、基準撮像装置を除く撮像装置１０１それぞれを、基準撮像装置との距離が小さい順に並べた表の一例である。図１９の例では、基準撮像装置に最も近いのは、撮像装置１０１ｆとなっている。そのため、領域決定部３１９は、図１５の処理を開始して、初めてＳ１５０４の処理を行う際に、カメラパラメータである世界座標系における座標について、基準撮像装置と最も近い値を有する撮像装置１０１ｆを選択する。また、領域決定部３１９は、以降のＳ１５０４の処理を行う際に、これまでＳ１５０４で選択していない撮像装置１０１の中から、カメラパラメータである世界座標系における座標について、基準撮像装置と最も近い値を有する撮像装置を選択することとなる。
【００４０】
Ｓ１５０５において、領域決定部３１９は、背景モデルのメッシュのうち、まだ投影される画像が撮影される領域が決定されていないメッシュのうち、選択撮像装置によりメッシュに対応する領域全体を撮影可能なメッシュを特定する。そして、領域決定部３１９は、特定したメッシュの領域が選択撮像装置のカメラ座標系に変換された領域を、そのメッシュに投影される画像が撮影される領域として決定する。そして、領域決定部３１９は、Ｓ１５０３の処理に進む。背景テクスチャ決定部３１５は、図１５の処理により、領域決定部３１９により決定された領域の情報を、領域情報として、レンダリング部３１７に送信することとなる。
図２０は、投影される画像が選択撮像装置により撮影されるメッシュの一例を説明する図である。図２０の例では、選択撮像装置が撮像装置１０１ｆである。領域２００１は、撮像装置１０１ｆの撮影範囲を示す。領域２００１に含まれるメッシュのうち、領域１７０１に含まれないメッシュが、投影される画像が撮像装置ｆにより撮影されるメッシュとなる。図２０の例では、領域２００２〜２００４それぞれに含まれるメッシュが、投影される画像が撮像装置ｆにより撮影されるメッシュとなる。
【００４１】
以上、本実施形態では、画像処理システム１００は、基準撮像装置を決定し、背景モデルのメッシュのうち、対応する領域全体が基準撮像装置により撮影されるメッシュを特定した。そして、画像処理システム１００は、特定したメッシュについて、基準撮像装置により撮影される画像内のそれらのメッシュに対応する領域を、それらのメッシュに投影される画像が撮影される領域として決定した。
そして、画像処理システム１００は、撮像装置１０１から１つの撮像装置を、カメラパラメータが基準撮像装置に近いものから順に選択撮像装置として選択していき、以下の処理を行った。即ち、画像処理システム１００は、選択撮像装置により撮影される画像内から、背景モデルのメッシュに投影される画像が撮影される領域を決定した。より具体的には、画像処理システム１００は、背景モデルのメッシュのうち、投影される画像が撮影される領域が未定であり、対応する領域全体が選択撮像装置により撮影されるメッシュを特定した。そして、画像処理システム１００は、特定したメッシュについて、選択撮像装置により撮影される画像内のそれらのメッシュに対応する領域を、それらのメッシュに投影される画像が撮影される領域として決定した。画像処理システム１００は、以上の処理を、背景モデル内のメッシュ全てについて、投影される画像が撮影される領域が決定されるまで行った。
これにより、画像処理システム１００は、基準撮像装置及び基準撮像装置とカメラパラメータがより近しい撮像装置により、背景モデルのメッシュに投影される画像が撮影されることとなる。そのため、画像処理システム１００は、最終的に各メッシュに、より撮影条件の近しい画像が投影されたより自然な背景モデルを生成できる。
【００４２】
また、画像処理システム１００は、Ｓ１５０２、Ｓ１５０５で１つの撮像装置が撮影できる全てのメッシュについて、その撮像装置により撮影される画像内から、その全てのメッシュに投影される画像が撮影される領域を決定した。これにより、隣接し合ったより多くのメッシュに、同一の撮像装置により撮影された画像に含まれる画像が投影されることとなる。これにより、画像処理システム１００は、メッシュ同士がより自然に連続するような、より自然な背景モデルを生成できる。
本実施形態では、画像処理システム１００は、基準撮像装置とその他の撮像装置１０１との世界座標系における座標に基づいて、背景モデルのメッシュに投影される画像が撮影される領域を決定した。しかし、画像処理システム１００は、基準撮像装置とその他の撮像装置１０１との世界座標系における座標以外のカメラパラメータに基づいて、背景モデルのメッシュに投影される画像が撮影される領域を決定してもよい。例えば、領域決定部３１９は、Ｓ１５０４で、カメラパラメータである露光値が、より基準撮像装置に近いものから順に選択撮像装置を選択してもよい。また、領域決定部３１９は、Ｓ１５０４で、カメラパラメータである撮影方向が、より基準撮像装置に近いものから順に選択撮像装置を選択してもよい。
【００４３】
＜実施形態５＞
本実施形態では、画像処理システム１００が、仮想カメラと撮像装置１０１それぞれとのカメラパラメータに基づいて、背景モデルの各メッシュについて、投影される画像が撮影される領域を決定する処理について述べる。
本実施形態の画像処理システム１００のシステム構成は、実施形態１と同様である。また、撮像装置１０１それぞれのハードウェア構成は、実施形態１と同様である。また、サーバ装置１０３のハードウェア構成は、実施形態１と同様である。
本実施形態のサーバ装置１０３の機能構成は、図３の通りである。本実施形態の画像取得部３１１、キャリブレーション部３１２、背景モデル管理部３１３、レンダリング部３１７は、実施形態１と同様である。
【００４４】
本実施形態の仮想カメラ制御部３１６は、実施形態１で説明した機能に加えて、仮想カメラのカメラパラメータを、背景テクスチャ決定部３１５に送信する機能を有する。
キャリブレーション部３１２は、実施形態１で説明した機能に加えて、背景テクスチャ決定部３１５に対して、撮像装置１０１それぞれのカメラパラメータを送信する機能を有する。
背景テクスチャ決定部３１５は、背景モデル管理部３１３から取得した背景モデルの各メッシュに対して、キャリブレーション部３１２から取得したカメラパラメータを使い、画像取得部３１１から取得した画像上の領域（カメラ座標上の領域）に変換する。そして、背景テクスチャ決定部３１５は、変換した領域の中から、対応するメッシュに投影さる画像が撮影される領域を決定する。この際、背景テクスチャ決定部３１５は、最も仮想視点に適切な領域を決定する機能を有する。
【００４５】
図２１は、本実施形態のサーバ装置１０３が仮想視点画像を生成する前に行う事前処理の一例を示すフローチャートである。
Ｓ２１０１において、背景テクスチャ決定部３１５は、撮像装置１０１の中から１つを選択する。
Ｓ２１０２において、領域決定部３１９は、Ｓ２１０１で選択された撮像装置を、仮に基準撮像装置として、Ｓ１５０２〜Ｓ１５０５の処理を行うことで、背景モデルの各メッシュについて、投影される画像が撮影される領域を決定する。そして、背景テクスチャ決定部３１５は、決定した領域の情報を、Ｓ２１０１で選択された撮像装置に対応する領域情報として補助記憶装置３０３等に記憶する。
Ｓ２１０３において、領域決定部３１９は、撮像装置１０１の全てについて、Ｓ２１０２の処理が完了したか否かを判定する。領域決定部３１９は、撮像装置１０１の全てについて、Ｓ２１０２の処理が完了したと判定した場合、図２１の処理を終了する。また、領域決定部３１９は、撮像装置１０１の中に、Ｓ２１０２の処理が完了していないものがあると判定した場合、Ｓ２１０１の処理に進む。
図２１の処理により、撮像装置１０１それぞれについて、対応する領域情報を用意しておくことができる。
【００４６】
図２２は、本実施形態の画像処理システムが行う仮想視点画像の生成処理の一例を示すフローチャートである。本実施形態では、背景モデルのメッシュに投影される画像が撮影される領域の決定の基準となる基準撮像装置を、仮想カメラとする。
Ｓ２２０１において、仮想カメラ制御部３１６は、サーバ装置１０３の操作部を介したユーザの操作に基づいて、仮想カメラのカメラパラメータの入力を受付ける。
Ｓ２２０２において、背景テクスチャ決定部３１５は、Ｓ２２０１で受付けられたカメラパラメータと、キャリブレーション部３１２から取得したカメラパラメータそれぞれと、に基づいて、以下の処理を行う。即ち、背景テクスチャ決定部３１５は、Ｓ２２０１で受付けられたカメラパラメータである撮影方向のベクトルと、キャリブレーション部３１２から取得したカメラパラメータである撮影方向のベクトルと、の内積を求める。図２３は、仮想カメラと撮像装置１０１それぞれの向きの一例を説明する図である。仮想カメラ２３０１は、ベクトル２３０２で示した方向を向いた仮想カメラである。ベクトル２３０２は、長さが１になるように正規化されたベクトルである。ベクトル２３０３ａ〜２３０３ｎは、撮像装置１０１それぞれの向きを示す長さ１になるよう正規化されたベクトルである。背景テクスチャ決定部３１５は、ベクトル２３０２とベクトル２３０３ａ〜２３０３ｎそれぞれとの内積を求める。ベクトル２３０２とベクトル２３０３ａ〜２３０３ｎそれぞれとは、カメラパラメータである撮影方向を示す情報の一例である。
【００４７】
Ｓ２２０３において、背景テクスチャ決定部３１５は、Ｓ２２０２で求めた内積のうち、もっとも大きな値に対応する撮像装置１０１を特定する。図２３の例では、背景テクスチャ決定部３１５は、ベクトル２３０３ａ〜２３０３ｎのうち、ベクトル２３０２に最も類似するベクトル２３０３ｋを向いている撮像装置１０１ｋを特定する。
Ｓ２２０４において、背景テクスチャ決定部３１５は、Ｓ２１０２で補助記憶装置３０３等に記憶されたＳ２２０３で特定した撮像装置に対応する領域情報を、レンダリング部３１７に送信する。
Ｓ２２０５において、レンダリング部３１７は、撮像装置１０１それぞれにより撮影された画像内のＳ２２０４で送信された領域情報が示す画像を、対応する背景モデルの各メッシュに投影する。そして、レンダリング部３１７は、仮想カメラ制御部３１６から指定された仮想カメラのカメラパラメータに基づいてレンダリングを行い、仮想視点画像を生成する。
本実施形態では、画像処理システムは、Ｓ２２０３で仮想カメラと撮像装置１０１それぞれとの向きのベクトルの内積を用いて、撮像装置を特定した。しかし、画像処理システムは、Ｓ２２０２で仮想カメラと撮像装置１０１それぞれとの座標に基づいて（例えば、仮想カメラと撮像装置１０１それぞれとの距離に基づいて）、撮像装置を特定してもよい。画像処理システムは、例えば、Ｓ２２０２〜Ｓ２２０３の処理の代わりに、仮想カメラに最も近い撮像装置を特定し、特定した撮像装置に対応する領域情報を用いることとしてもよい。その場合、図２３の例では、画像処理システムは、例えば、仮想カメラ２３０１に最も近い撮像装置１０１ｊを特定することとなる。
【００４８】
以上、本実施形態では、画像処理システムは、撮像装置１０１のうち、仮想カメラとカメラパラメータである撮影方向が最も近い撮像装置を特定し、特定した撮像装置に応じた領域情報に応じて、背景モデルの各メッシュへの画像の投影を行った。
これにより、画像処理システムは、仮想カメラにより特徴の近い撮像装置に応じた領域情報を用いることができ、仮想カメラにより撮影される仮想視点画像を、より適切な画像とすることができる。
【００４９】
＜実施形態６＞
本実施形態では、画像処理システム１００に含まれる撮像装置１０１から仮想視点画像の生成に適切な画像を取得することができなくなる不具合が発生した場合に対応するための処理について説明する。
本実施形態の画像処理システム１００のシステム構成は、実施形態１と同様である。また、撮像装置１０１それぞれのハードウェア構成、機能構成は、実施形態１と同様である。また、サーバ装置１０３のハードウェア構成、機能構成は、実施形態１と同様である。
以下では、本実施形態の処理のうち、実施形態１〜５と異なる点について説明する。
【００５０】
図２４は、画像処理システム１００が撮像装置１０１から仮想視点画像の生成に適切な画像を取得することができなくなる不具合を検出した際の処理の一例を示すフローチャートである。図２４を用いて、本実施形態の処理について説明する。以下では、撮像装置１０１から仮想視点画像の生成に適切な画像を取得することができなくなる不具合を、単に不具合とする。不具合には、例えば、撮像装置１０１の故障、強風による位置・姿勢の変化、鳥・飛来物等との衝突による位置・姿勢の変化、通信回線１０２の故障（例えば、切断等）、通信回線１０２の通信帯域の逼迫がある。また、不具合には、撮像装置１０１においてのピンボケの発生、撮像装置１０１における露出値の想定外の変動等がある。
画像処理システム１００は、図２４の処理を、任意のタイミングで実行することができる。画像処理システム１００は、例えば、予め定められた間隔で周期的に図２４の処理を実行することとしてもよい。
また、画像処理システム１００は、予め定められた条件が満たされたことに応じて、図２４の処理を実行することとしてもよい。画像処理システム１００は、予め定められた条件が満たされたことに応じて、１度だけ、図２４の処理を実行することとしてもよいし、条件が満たされる度に繰り返し、図２４の処理を実行することとしてもよい。
例えば、画像処理システム１００は、予め定められた個数（例えば、１個、１０個等）の仮想視点画像が生成されたことに応じて、図２４の処理を実行することとしてもよい。また、画像処理システム１００は、撮像装置１０１により背景画像が撮影される度に、図２４の処理を実行することとしてもよい。
また、画像処理システム１００は、撮像装置１０１それぞれにより撮影された背景画像の一部又は全部が仮想視点画像の生成に適していないと判断部３１８により判断された場合、図２４の処理を実行することとしてもよい。画像処理システム１００は、判断部３１８によりネットワークＩ／Ｆ３０４、通信回線１０２を介した撮像装置１０１との間の通信に通信トラブルが発生したことが検出されたことに応じて、図２４の処理を実行することとしてもよい。
また、画像処理システム１００は、サーバ装置１０３の操作部等を介して、ユーザから不具合の発生を示す情報が入力されたことに応じて、図２４の処理を実行することとしてもよい。
【００５１】
Ｓ２４０１において、判断部３１８は、撮像装置１０１から仮想視点画像の生成に適切な画像を取得することができなくなる不具合を検出する。
判断部３１８は、例えば、ネットワークＩ／Ｆ３０４を介して、撮像装置１０１から撮像装置１０１で不具合（例えば、故障、位置・姿勢の変化、ピンボケの発生、露出値の変動等）が生じたことを示す情報を受信することで、不具合を検出する。この場合、撮像装置１０１は、例えば、自身で生じた不具合（例えば、故障、ピンボケ、露出値の変動、位置・姿勢の変動等）を検知し、検知した故障の情報をサーバ装置１０３に送信する。
また、判断部３１８は、予め定められた閾値以上の期間、撮像装置１０１との通信が途絶えたことを検知することで、不具合を検出することとしてもよい。判断部３１８は、例えば、予め定められた閾値以上の期間、撮像装置１０１から通信が確立していることを示すパケットを受信していない場合、撮像装置１０１との通信が途絶えたことを検知し、不具合を検出することとしてもよい。
また、判断部３１８は、ユーザによりサーバ装置１０３の操作部等を介した操作に基づいて、撮像装置１０１の故障等の不具合が発生したことを示す情報が入力された場合、不具合を検出することとしてもよい。
本実施形態では、主記憶装置３０２に、現在発生している不具合と、その不具合により適切な背景画像を取得することができない撮像装置と、を示す不具合情報が記憶されている。不具合が発生していない場合、判断部３１８は、不具合情報として、不具合が発生していないことを示す情報を記憶してもよいし、空の情報を記憶してもよい。
【００５２】
Ｓ２４０２において、判断部３１８は、Ｓ２４０１で検出した不具合と、補助記憶装置３０３に記憶された不具合情報が示す不具合と、を比較して、不具合の発生状況に変化があるか否かを判定する。判断部３１８は、発生している不具合の発生状況に変化があると判定した場合、Ｓ２４０３の処理に進み、発生している不具合の発生状況に変化がないと判定した場合、Ｓ２４０５の処理に進む。
Ｓ２４０３において、判断部３１８は、主記憶装置３０２に記憶された不具合情報を、Ｓ２４０１で検出した不具合と、この不具合により適切な背景画像を取得できなくなった撮像装置１０１と、を示すように更新する。
【００５３】
Ｓ２４０４の処理は、主記憶装置３０２に記憶された不具合情報が示す適切な画像を取得できない撮像装置１０１を用いずに行われる図４の処理である。Ｓ２４０４の処理は、実施形態１の図４の処理と、Ｓ４０２とＳ４０４との処理の内容が異なる。Ｓ２４０４の処理におけるＳ４０２、Ｓ４０４について説明する。Ｓ４０２において、背景テクスチャ決定部３１５は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたものから１つを選択する処理を実行する。また、Ｓ２４０４では、Ｓ４０４において、座標変換部３１４は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたもの全てについて、以下の処理を行う。即ち、座標変換部３１４は、Ｓ４０１で抽出されたメッシュに対するＳ４０３の処理が完了したか否かを判定する処理を実行する処理を行う。座標変換部３１４は、完了したと判定した場合、Ｓ４０５の処理に進み、完了していないと判定した場合、Ｓ４０２の処理に進む。このようにして、サーバ装置１０３は、適切な画像を取得できない状態の撮像装置１０１により撮影される画像を、仮想視点画像の背景モデルのメッシュに投影される画像に用いないようにする。
また、サーバ装置１０３は、初めて図２４の処理を実行する際には、Ｓ２４０２における判定の処理の結果に関わらず、Ｓ２４０４の処理を実行することで、背景画像を生成することとしてもよい。
【００５４】
また、Ｓ２４０４の処理は、主記憶装置３０２に記憶された不具合情報が示す適切な画像を取得できない撮像装置１０１を用いずに行われる図１３、１５、２１の何れかの処理であるとしてもよい。
まず、Ｓ２４０４の処理が、不具合情報が示す適切な画像を取得できない撮像装置１０１を用いずに行われる図１３の処理である場合、Ｓ２４０４の処理は、実施形態３の図１３の処理と、Ｓ４０２とＳ４０４との処理の内容が異なる。この場合のＳ２４０４の処理におけるＳ４０２、Ｓ４０４の処理について説明する。Ｓ４０２において、背景テクスチャ決定部３１５は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたものから１つを選択する処理を実行する。また、Ｓ４０４において、座標変換部３１４は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたもの全てについて、Ｓ４０１で抽出されたメッシュに対するＳ４０３の処理が完了したか否かを判定する処理を実行する。座標変換部３１４は、完了したと判定した場合、Ｓ４０５の処理に進み、完了していないと判定した場合、Ｓ４０２の処理に進む。
【００５５】
次に、Ｓ２４０４の処理が、不具合情報が示す適切な画像を取得できない撮像装置１０１を用いずに行われる図１５の処理である場合、Ｓ２４０４の処理は、実施形態４の図１５の処理と、Ｓ１５０１とＳ１５０４との処理の内容が異なる。この場合のＳ２４０４の処理におけるＳ１５０１、Ｓ１５０４の処理について説明する。Ｓ１５０１において、領域決定部３１９は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたものから基準撮像装置を選択する処理を実行する。また、Ｓ１５０４において、領域決定部３１９は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたものから選択撮像装置とする撮像装置を選択する処理を実行する。
なお、Ｓ２４０４の処理におけるＳ１５０１において、領域決定部３１９は、不具合情報が示す適切な画像を取得できない撮像装置１０１を候補から除かずに基準撮像装置を選択してもよい。すなわち、Ｓ１５０１では不具合の生じた撮像装置１０１が基準撮像装置として選択されてもよい。この場合、Ｓ１５０４においては、不具合の生じた基準撮像装置との位置関係に基づいて、その基準撮像装置以外の撮像装置１０１の中から選択撮像装置とする撮像装置が選択される。このような撮像装置１０１の選択方法によれば、不具合の発生に応じて基準撮像装置を変更する場合と比較して、不具合発生の前後で選択撮像装置の変化が少ないため、背景の画像が大きく変化してユーザに違和感を与えてしまうことを抑制できる。
次に、Ｓ２４０４の処理が、不具合情報が示す適切な画像を取得できない撮像装置１０１を用いずに行われる図２１の処理である場合、Ｓ２４０４の処理は、実施形態５の図２１の処理と、Ｓ２１０１とＳ２１０３との処理の内容が異なる。この場合のＳ２４０４の処理におけるＳ２１０１、Ｓ２１０３の処理について説明する。Ｓ２１０１において、背景テクスチャ決定部３１５は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたものから撮像装置を選択する処理を実行する。また、Ｓ２１０３において、領域決定部３１９は、撮像装置１０１のうち、不具合情報が示す適切な画像を取得できない撮像装置１０１を除いたもの全てについて、Ｓ２１０２の処理が完了したか否かを判定する。領域決定部３１９は、完了したと判定した場合、図２１の処理を終了し、完了していないと判定した場合、Ｓ２１０１の処理に進む。
Ｓ２４０５の処理は、Ｓ２４０４の処理で求められた領域情報（背景モデルの各メッシュに投影される画像が撮影される領域（テクスチャ領域）の情報）に基づいて行われる図８の処理である。また、Ｓ２４０２において不具合の発生状況に変化がないと判定された場合、Ｓ２４０５の処理は、過去に実行された図２４の処理におけるＳ２４０４の処理で求められた領域情報に基づいて行われる。また、Ｓ２４０５の処理は、Ｓ２４０４の処理で求められた領域情報に基づいて行われる図１４の処理であるとしてもよい。また、Ｓ２４０５の処理は、Ｓ２４０４の処理で求められた領域情報に基づいて行われる図２２の処理であるとしてもよい。
【００５６】
以上、本実施形態では、画像処理システム１００は、撮像装置１０１から適切な画像を取得できない不具合を検出した。そして、画像処理システム１００は、適切な画像を取得できない撮像装置１０１により撮影される画像の領域を除いたうえで、背景モデルの各メッシュに投影される画像が撮影される領域を決定した。これにより、画像処理システム１００は、不具合が発生した場合でも、背景モデルの各メッシュに対して、適切な画像を取得できる撮像装置１０１により撮影された画像を投影することで、仮想視点画像の適切な背景画像を生成できる。
また、本実施形態では、不具合が生じた撮像装置１０１によって、生成可能な背景テクスチャの範囲が狭くなってしまう場合が想定される。例えば、実施形態１についてメッシュ５０２について、図６では、撮像装置１０１ａによって撮影されている様子が示されている。この場合、メッシュ５０２は、撮像装置１０１ａ以外の撮像装置１０１の何れにおいても撮影されていない領域に対応するメッシュであったとする。その場合、メッシュ５０２に投影される画像を撮影することができる撮像装置１０１が、存在しなくなる。
このような場合、画像処理システム１００は、以下のようにしてもよい。画像取得部３１１は、撮像装置１０１のそれぞれが正常に動作している際に撮影された最も新しい画像から少なくとも一つ以上の画像を主記憶装置３０２、補助記憶装置３０３等に記憶しておく。例えば、撮像装置１０１ａにおける故障等の不具合によって画像の撮影ができなくなり、他の全ての撮像装置１０１から撮影されなくなる領域が生じたとする。その場合、画像処理システム１００は、その領域の画像として、主記憶装置３０２、補助記憶装置３０３等に記憶された撮像装置１０１ａにより過去に撮影された画像を用いることとしてもよい。
【００５７】
また、あるメッシュに対応する領域を撮影する複数の撮像装置１０１が存在する場合、画像処理システムは、以下のようにしてもよい。即ち、画像取得部３１１は、この複数の撮像装置１０１それぞれが正常に動作している際に撮影された最も新しい画像から少なくとも一つ以上の画像を主記憶装置３０２、補助記憶装置３０３等に記憶しておくこととしてもよい。この場合、この複数の撮像装置１０１の一部において不具合が生じたとしても、画像処理システム１００は、残りの撮像装置１０１により撮影されたその領域の画像を取得できる。また、この複数の撮像装置１０１の全てにおいて不具合が生じたとしても、画像処理システム１００は、その領域の画像として、主記憶装置３０２、補助記憶装置３０３等に記憶された撮像装置１０１ａにより過去に撮影された画像を用いることができる。
このように、あるメッシュについて撮影している撮像装置１０１の全てについて不具合が生じた場合でも、画像処理システム１００は、過去に撮影された画像を用いて仮想視点画像の背景画像を生成できる。
このような処理により、画像処理システム１００は、どこからも映らなくなってしまった領域が生じた場合でも、背景画像が生成されないことを抑制することができる。
更に、画像処理システム１００は、仮想視点画像の生成の前に、撮像装置１０１それぞれによってあらかじめ撮影を行い、撮影された画像を、主記憶装置３０２、補助記憶装置３０３等に予め記憶しておいてもよい。
【００５８】
＜その他の実施形態＞
実施形態１〜６では、サーバ装置１０３は、単体の情報処理装置であるとした。しかし、サーバ装置１０３は、複数の情報処理装置により構成されてもよい。その場合、サーバ装置１０３を構成する情報処理装置それぞれのＣＰＵが、サーバ装置１０３を構成する情報処理装置それぞれの補助記憶装置等に記憶されたプログラムにしたがって連携して処理を実行することで、以下の機能、処理等が実現される。即ち、図３（ｂ）、１２の機能、図８、１４のフローチャートにおけるサーバ装置１０３の処理、図４、１３、１５、２１、２２、２４のフローチャートの処理等が実現される。
実施形態１〜６において撮像装置１０１により撮影された画像は、撮影画像の一例である。
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
例えば、上述した画像処理システム１００の機能構成の一部又は全てをハードウェアとして撮像装置１０１、サーバ装置１０３に実装してもよい。
以上、本発明の実施形態の例について詳述したが、本発明は係る特定の実施形態に限定されるものではない。上述した各実施形態を任意に組み合わせたり、適宜改良乃至は応用してもよい。
【符号の説明】
【００５９】
１００  画像処理システム
１０１  撮像装置
１０３  サーバ装置
【図１】
2019102056.tif 000003
【図２】
2019102056.tif 000004
【図３】
2019102056.tif 000005
【図４】
2019102056.tif 000006
【図５】
2019102056.tif 000007
【図６】
2019102056.tif 000008
【図７】
2019102056.tif 000009
【図８】
2019102056.tif 000010
【図９】
2019102056.tif 000011
【図１０】
2019102056.tif 000012
【図１１】
2019102056.tif 000013
【図１２】
2019102056.tif 000014
【図１３】
2019102056.tif 000015
【図１４】
2019102056.tif 000016
【図１５】
2019102056.tif 000017
【図１６】
2019102056.tif 000018
【図１７】
2019102056.tif 000019
【図１８】
2019102056.tif 000020
【図１９】
2019102056.tif 000021
【図２０】
2019102056.tif 000022
【図２１】
2019102056.tif 000023
【図２２】
2019102056.tif 000024
【図２３】
2019102056.tif 000025
【図２４】
2019102056.tif 000026