(57)【特許請求の範囲】
【請求項１】
同一の場面を撮影しているＮ（２以上の自然数）台のカメラから、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラを選択するカメラ選択方法であって、
回路が、前記Ｎ台のカメラの位置及び撮影方向を取得する取得ステップと、
前記回路が、取得された前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する選択ステップとを含み、
前記選択ステップでは、
条件ｉ）前記Ｎ台のカメラを鉛直方向に沿って視たときに、前記Ｍ台のカメラが所定位置を取り囲み、かつ
条件ｉｉ）前記Ｍ台のカメラの各々が、前記所定位置を撮影するための撮影方向を有し、かつ
条件ｉｉｉ）前記Ｎ台のカメラを前記鉛直方向に沿って視たときに、前記Ｍ台のカメラに含まれ且つ隣り合う２台のカメラの撮影方向のなす角が、前記Ｍ台のカメラに含まれ且つ他の隣り合う２台のカメラの撮影方向のなす角と大きさが等しくなる、
を満たす前記Ｍ台のカメラを選択する
カメラ選択方法。
【請求項２】
前記取得ステップでは、前記Ｎ台のカメラで撮影された画像を用いて三次元再構成を行うことで、前記Ｎ台のカメラの位置及び撮影方向を算出する
請求項１記載のカメラ選択方法。
【請求項３】
前記取得ステップでは、前記Ｎ台のカメラの各々から送信された、当該カメラが備えるセンサで得られた情報を用いて、前記Ｎ台のカメラの位置及び撮影方向を算出する
請求項１記載のカメラ選択方法。
【請求項４】
前記取得ステップでは、さらに、前記Ｎ台のカメラの焦点距離を取得し、
前記選択ステップでは、取得された前記Ｎ台のカメラの位置、撮影方向及び焦点距離に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する
請求項１〜３のいずれか１項に記載のカメラ選択方法。
【請求項５】
前記カメラ選択方法は、さらに、
前記回路が、前記選択ステップの後のフレームにおいて、選択されている前記Ｍ台のカメラのうちの一部のカメラを他のカメラに切り替えるか否かを判定する第１判定ステップと、
前記回路が、前記第１判定ステップにおいて、切り替えると判定された場合に、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記一部のカメラの代わりの新たなカメラを選択する切替ステップとを含む
請求項１〜４のいずれか１項に記載のカメラ選択方法。
【請求項６】
前記第１判定ステップでは、フレーム間で対象被写体を追跡し、前記対象被写体の追跡に失敗した場合に、前記選択するカメラを切り替えると判定する
請求項５記載のカメラ選択方法。
【請求項７】
前記第１判定ステップでは、フレーム間で前記対象被写体の三次元モデルを対応付け、対応付けた前記対象被写体の三次元モデルを現時刻のフレームに投影し、得られたフレーム内に対象被写体が存在しない場合に、前記追跡が失敗したと判定する
請求項６記載のカメラ選択方法。
【請求項８】
前記カメラ選択方法は、さらに、
前記回路が、前記選択ステップの後のフレームにおいて、前記選択ステップを再度行うか否かを判定する第２判定ステップと、
前記回路が、前記第２判定ステップにおいて、前記選択ステップを行うと判定された場合、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを再度選択する再選択ステップとを含む
請求項５〜７のいずれか１項に記載のカメラ選択方法。
【請求項９】
前記第１判定ステップでは、前回の切り替えからの経過時間が第１時間未満の場合には、切り替えを行わないと判断し、前記経過時間が前記第１時間以上かつ前記第１時間より長い第２時間未満の場合には前記一部のカメラを前記他のカメラに切り替えるか否かを第１基準で判定し、前記経過時間が前記第２時間以上の場合には前記一部のカメラを前記他のカメラに切り替えるか否かを前記第１基準よりも前記一部のカメラを前記他のカメラに切り替えると判定されやすい第２基準で判定する
請求項５〜８のいずれか１項に記載のカメラ選択方法。
【請求項１０】
前記選択ステップは、
前記回路が、前記Ｎ台のカメラで撮影された映像に基づき、前記Ｎ台のカメラの各々の第１評価値を算出するステップと、
前記回路が、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラに含まれるＭ台のカメラの組み合わせであるカメラ群の各々の第２評価値を算出するステップと、
前記回路が、前記カメラ群に含まれるＭ台のカメラの前記第１評価値と、当該カメラ群の前記第２評価値とに基づき、当該カメラ群の第３評価値を算出するステップと、
前記回路が、前記第３評価値が最も高いカメラ群に含まれる前記Ｍ台のカメラを選択するステップとを含む
請求項１〜９のいずれか１項に記載のカメラ選択方法。
【請求項１１】
前記Ｎ台のカメラは、前記所定位置を３６０°で取り囲むように配置されている
請求項１〜１０のいずれか１項に記載のカメラ選択方法。
【請求項１２】
前記所定位置は、イベント会場の中心位置である
請求項１〜１１のいずれか１項に記載のカメラ選択方法。
【請求項１３】
同一の場面を撮影しているＮ（２以上の自然数）台のカメラから、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラを選択する映像配信システムであって、
前記Ｎ台のカメラの位置及び撮影方向を取得する取得部と、
取得された前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する選択部と、
前記Ｍ台のカメラによって撮影された映像を配信する送信部と、を備え、
前記選択部は、
条件ｉ）前記Ｎ台のカメラを鉛直方向に沿って視たときに、前記Ｍ台のカメラが所定位置を取り囲み、かつ
条件ｉｉ）前記Ｍ台のカメラの各々が、前記所定位置を撮影するための撮影方向を有し、かつ
条件ｉｉｉ）前記Ｎ台のカメラを前記鉛直方向に沿って視たときに、前記Ｍ台のカメラに含まれ且つ隣り合う２台のカメラの撮影方向のなす角が、前記Ｍ台のカメラに含まれ且つ他の隣り合う２台のカメラの撮影方向のなす角と大きさが等しくなる、
を満たす前記Ｍ台のカメラを選択する
映像配信システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、同一の場面を撮影している複数台のカメラから、表示する映像の撮影元のカメラを選択するカメラ選択方法等に関する。
【背景技術】
【０００２】
映像配信方法として、特許文献１には、多視点映像配信システムにおいて、カメラの撮影条件を制御する技術が開示されている。また、特許文献２には、複数の視点から撮影された映像を視点移動に連動して配信する技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００２−１６５２００号公報
【特許文献２】特開２０１２−０９４９９０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記技術には、多くのカメラが存在する場合に、この多くのカメラからどのようにしてカメラを選択するかについては記載されていない。
【０００５】
そこで、本発明は、複数のカメラから適切にカメラを選択できるカメラ選択方法又は映像配信システムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するために、本発明の一態様に係るカメラ選択方法は、同一の場面を撮影しているＮ（２以上の自然数）台のカメラから、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラを選択するカメラ選択方法であって、回路が、前記Ｎ台のカメラの位置及び撮影方向を取得する取得ステップと、前記回路が、取得された前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する選択ステップとを含み、前記選択ステップでは、条件ｉ）前記Ｎ台のカメラを鉛直方向に沿って視たときに、前記Ｍ台のカメラが所定位置を取り囲み、かつ条件ｉｉ）前記Ｍ台のカメラの各々が、前記所定位置を撮影するための撮影方向を有し、かつ条件ｉｉｉ）前記Ｎ台のカメラを前記鉛直方向に沿って視たときに、前記Ｍ台のカメラに含まれ且つ隣り合う２台のカメラの撮影方向のなす角が、前記Ｍ台のカメラに含まれ且つ他の隣り合う２台のカメラの撮影方向のなす角と大きさが等しくなる、を満たす前記Ｍ台のカメラを選択する。
【０００７】
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００８】
本発明は、複数のカメラから適切にカメラを選択できるカメラ選択方法又は映像配信システムを提供できる。
【図面の簡単な説明】
【０００９】
【図１】実施の形態に係る映像配信システムの構成を示す図である。
【図２】実施の形態に係るサーバのブロック図である。
【図３】実施の形態に係るカメラ情報算出処理のフローチャートである。
【図４】実施の形態に係る三次元再構成を説明するための図である。
【図５】実施の形態に係る映像選択処理のフローチャートである。
【図６】実施の形態に係る初期カメラ選択処理のフローチャートである。
【図７】実施の形態に係るカメラ切替判定処理のフローチャートである。
【図８】実施の形態に係る追跡カメラ切替判定処理のフローチャートである。
【図９】実施の形態に係る切替カメラ選択処理のフローチャートである。
【図１０】実施の形態に係る二次元画像を用いて被写体を追跡する動作を説明するための図である。
【図１１】実施の形態に係る二次元画像を用いて被写体を追跡する動作を説明するための図である。
【図１２】実施の形態に係る三次元モデルを用いて被写体を追跡する動作を説明するための図である。
【図１３】実施の形態に係る二次元画像及び三次元モデルを用いて被写体を追跡する動作を説明するための図である。
【図１４】実施の形態に係るリセット判定処理のフローチャートである。
【図１５】実施の形態に係る、イベント会場における空間撮影モードでのカメラ選択を説明するための図である。
【図１６】実施の形態に係る、イベント会場における空間撮影モードでのカメラ選択を説明するための図である。
【図１７】実施の形態に係る、イベント会場における追跡撮影モードでのカメラ選択を説明するための図である。
【図１８】実施の形態に係る、イベント会場における追跡撮影モードでのカメラ選択を説明するための図である。
【図１９】実施の形態に係る、イベント会場における追跡撮影モードでのカメラ選択を説明するための図である。
【図２０】実施の形態に係る、監視環境における空間撮影モードでのカメラ選択を説明するための図である。
【図２１】実施の形態に係る、監視環境における追跡撮影モードでのカメラ選択を説明するための図である。
【図２２】実施の形態に係る初期カメラ選択処理のフローチャートである。
【図２３】実施の形態に係るカメラ単体の評価値算出処理のフローチャートである。
【図２４】実施の形態に係る対象領域の選択例を示す図である。
【図２５】実施の形態に係る対象被写体の選択例を示す図である。
【図２６】実施の形態に係るカメラ位置評価値算出処理のフローチャートである。
【図２７】実施の形態に係る俯瞰モードにおけるカメラ選択例を示す図である。
【図２８】実施の形態に係る集中モードにおけるカメラ選択例を示す図である。
【図２９】実施の形態に係るカメラ選択方法のフローチャートである。
【発明を実施するための形態】
【００１０】
（本発明の基礎となった知見）
映像配信システムとして、例えば、複数のユーザが所有する複数のカメラ（例えばスマートフォン等）で撮影された映像をサーバで保存し、視聴者に配信するシステムが想定される。このようなシステムでは、サーバで保有する映像の数が膨大になるが、視聴者が所有する端末装置が表示可能な映像の数には限りがある。
【００１１】
このような場合、全ての映像を視聴者が確認し、その中から所望の映像を選択することは難しい。また、複数のユーザが所有する複数のカメラの種類（機能）はそれぞれ異なることが想定されるので、これに対応する必要がある。
【００１２】
本発明の一態様に係るカメラ選択方法は、同一の場面を撮影しているＮ（２以上の自然数）台のカメラから、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラを選択するカメラ選択方法であって、前記Ｎ台のカメラの位置及び撮影方向を取得する取得ステップと、取得された前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する選択ステップとを含む。
【００１３】
これにより、当該カメラ選択方法は、カメラの位置及び撮影方向に基づき、複数のカメラから適切にカメラを選択できる。
【００１４】
例えば、前記選択ステップでは、前記Ｎ台のカメラの位置及び撮影方向に基づき、Ｍ台のカメラの撮影空間の重複がより少なく、かつ、Ｍ台のカメラの撮影空間が対象空間をカバーする割合がより大きくなるＭ台のカメラを優先して選択してもよい。
【００１５】
これにより、当該カメラ選択方法は、複数のカメラにより対象領域の全体をカバーできるように複数のカメラを選択できる。
【００１６】
例えば、前記選択ステップでは、前記Ｎ台のカメラの位置及び撮影方向に基づき、対象空間又は対象被写体を複数の方向から等間隔に撮影しているＭ台のカメラを優先して選択してもよい。
【００１７】
これにより、当該カメラ選択方法は、複数のカメラにより対象被写体の全方向の映像をカバーできるように複数のカメラを選択できる。
【００１８】
例えば、前記取得ステップでは、前記Ｎ台のカメラで撮影された画像を用いて三次元再構成を行うことで、前記Ｎ台のカメラの位置及び撮影方向を算出してもよい。
【００１９】
これにより、精度よく各カメラの撮影範囲を判定できる。
【００２０】
例えば、前記取得ステップでは、前記Ｎ台のカメラの各々から送信された、当該カメラが備えるセンサで得られた情報を用いて、前記Ｎ台のカメラの位置及び撮影方向を算出してもよい。
【００２１】
これにより、容易に各カメラの位置及び撮影方向を判定できる。
【００２２】
例えば、前記取得ステップでは、さらに、前記Ｎ台のカメラの焦点距離を取得し、前記選択ステップでは、取得された前記Ｎ台のカメラの位置、撮影方向及び焦点距離に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択してもよい。
【００２３】
これにより、精度よく各カメラの撮影範囲を判定できる。
【００２４】
例えば、前記カメラ選択方法は、さらに、前記選択ステップの後のフレームにおいて、選択されている前記Ｍ台のカメラのうちの一部のカメラを他のカメラに切り替えるか否かを判定する第１判定ステップと、前記第１判定ステップにおいて、切り替えると判定された場合に、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記一部のカメラの代わりの新たなカメラを選択する切替ステップとを含んでもよい。
【００２５】
これにより、全てのカメラを切り替える場合に比べ、処理量を低減できる。
【００２６】
例えば、前記第１判定ステップでは、フレーム間で対象被写体を追跡し、前記対象被写体の追跡に失敗した場合に、前記選択するカメラを切り替えると判定してもよい。
【００２７】
例えば、前記第１判定ステップでは、フレーム間で前記対象被写体の三次元モデルを対応付け、対応付けた前記対象被写体の三次元モデルを現時刻のフレームに投影し、得られたフレーム内に対象被写体が存在しない場合に、前記追跡が失敗したと判定してもよい。
【００２８】
これにより、精度よく被写体を追跡できる。
【００２９】
例えば、前記カメラ選択方法は、さらに、前記選択ステップの後のフレームにおいて、前記選択ステップを再度行うか否かを判定する第２判定ステップと、前記第２判定ステップにおいて、前記選択ステップを行うと判定された場合、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを再度選択する再選択ステップとを含んでもよい。
【００３０】
例えば、前記第１判定ステップでは、前回の切り替えからの経過時間が第１時間未満の場合には、切り替えを行わないと判断し、前記経過時間が前記第１時間以上かつ前記第１時間より長い第２時間未満の場合には前記一部のカメラを前記他のカメラに切り替えるか否かを第１基準で判定し、前記経過時間が前記第２時間以上の場合には前記一部のカメラを前記他のカメラに切り替えるか否かを前記第１基準より緩い第２基準で判定してもよい。
【００３１】
これにより、選択されるカメラが頻繁に切替ることを抑制できる。
【００３２】
例えば、前記選択ステップは、前記Ｎ台のカメラで撮影された映像に基づき、前記Ｎ台のカメラの各々の第１評価値を算出するステップと、前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラに含まれるＭ台のカメラの組み合わせであるカメラ群の各々の第２評価値を算出するステップと、前記カメラ群に含まれるＭ台のカメラの前記第１評価値と、当該カメラ群の前記第２評価値とに基づき、当該カメラ群の第３評価値を算出するステップと、前記第３評価値が最も高いカメラ群に含まれる前記Ｍ台のカメラを選択するステップとを含んでもよい。
【００３３】
これにより、各カメラで撮影された映像に基づく評価値と、カメラの位置及び撮影方向に基づく評価値とに基づき、適切にカメラを選択できる。
【００３４】
また、本発明の一態様に係る映像配信システムは、同一の場面を撮影しているＮ（２以上の自然数）台のカメラから、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラを選択する映像配信システムであって、前記Ｎ台のカメラの位置及び撮影方向を取得する取得部と、取得された前記Ｎ台のカメラの位置及び撮影方向に基づき、前記Ｎ台のカメラから前記Ｍ台のカメラを選択する選択部とを備える。
【００３５】
これにより、当該映像配信システムは、カメラの位置及び撮影方向に基づき、複数のカメラから適切にカメラを選択できる。
【００３６】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【００３７】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００３８】
（実施の形態）
（１）本実施の形態に係るカメラ選択方法では、多数のＮ台の母数カメラから、推定したカメラ位置及びカメラ姿勢（撮影方向）に基づき表示アプリケーションなどで表示可能なＭ本の映像を撮影しているカメラを初期選択する。また、当該カメラ選択方法では、初期選択したＭ台のカメラについて、カメラ切替が必要かを判定し、必要な場合は、Ｎ−Ｍ台のカメラから新たなカメラを選択する。
【００３９】
また、当該カメラ選択方法では、選択されているカメラ全体をリセットした場合は、新たに初期選択を行う。
【００４０】
また、母数カメラ台数Ｎ及び初期選択で選ばれたカメラ台数Ｍは随時増減してもよい。
【００４１】
（２）カメラ位置及びカメラ姿勢の推定は、Ｎ本以下の映像を使用する方法、或いはカメラのセンサ情報を使用する方法、又はこの両方を使用する方法がある。
【００４２】
（３）初期選択の方法は、撮影対象空間を死角なく撮影する方法、或いは特定の被写体を複数の方向から撮影する方法、又はこの両方を含む方法がある。
【００４３】
（４）Ｍ本の映像内のシーン、又はカメラの動きを任意の時間間隔毎に確認し、カメラを切替えるかどうか判定する。例えば、切替えるカメラ台数は１台以上Ｍ台以下である。また、１台のカメラを切替える場合、切替え前にカメラが撮影していたシーンに近いシーンを撮影しているカメラを選択する。また、切替え前のカメラ１台に対し、新たに２台以上を選択してもよい。
【００４４】
１より多くＭ台未満のカメラを切替える場合、１台のカメラを切替える場合と同様の選択処理を切替えるカメラそれぞれに対して行う。また、Ｍ台のカメラを切替える場合、初期選択と同じ処理を行う。この時、Ｍの値を増減させてもよい。
【００４５】
これにより、視聴可能な映像の母数が膨大な場合でも、視聴者、サーバ管理者、映像管理者、及び映像監視者に負担をかけることなく、視聴者にとって価値の高い多視点映像コンテンツの配信を実現できる。
【００４６】
まず、本実施の形態に係る映像配信システム１００の構成を説明する。図１は、本実施の形態に係る映像配信システム１００の全体構成を示すブロック図である。この映像配信システム１００は、各々がネットワーク１０４Ａ又は１０４Ｂを介して通信可能な、複数のカメラ１０１と、端末装置１０２と、サーバ１０３とを含む。
【００４７】
複数のカメラ１０１は、異なる視点から同一の場面を同一の時間帯に撮影することで複数の視点映像を生成する。各カメラ１０１は、複数のユーザの各々に携帯される。例えば、複数のカメラ１０１は、スポーツスタジアムのような場所にいる複数の観客に所有される。また、各カメラ１０１は、映像の撮影、及び音声の取得を行う。また、各カメラ１０１は、映像の撮影と同時に、カメラ１０１の位置情報及び姿勢情報（撮影方向）などを示す映像以外のセンサ情報をＧＰＳ、ＷｉＦｉ又はジャイロセンサなどを用いて取得する。カメラ１０１は、少なくとも撮影機能を有する機器であればよく、例えば、デジタルスチルカメラ、デジタルビデオカメラ、スマートフォン、又は携帯端末等である。なお、複数のカメラ１０１には、観客が所有するカメラだけでなく、固定カメラ又は放送用のカメラが含まれてもよい。また、各カメラ１０１は、撮影された視点映像、音声、及びセンサ情報を、ネットワーク１０４Ａを経由してサーバ１０３へ送信する。
【００４８】
また、本実施の形態では、複数のカメラ１０１は、例えば、ユーザに携帯されるデジタルカメラ又はスマートフォン等であり、各カメラ１０１の種類（機能）はそれぞれ異なる場合が想定される。
【００４９】
ネットワーク１０４Ａ及び１０４Ｂは、例えば、インターネットである。なお、図１では、ネットワーク１０４Ａ及び１０４Ｂを個別に記載しているが、単一のネットワークを介して、複数のカメラ１０１と、端末装置１０２と、サーバ１０３とが接続されてもよい。また、機器間の通信の一部又は全ては、ネットワーク１０４Ａ又は１０４Ｂを介さず、直接行われてもよい。また、機器間の接続は、有線接続及び無線接続のどちらであってもよい。
【００５０】
サーバ１０３は、複数のカメラ１０１で撮影された視点映像を一時的に保持する。また、サーバ１０３は、端末装置１０２を介したユーザ１０６からの指示に従って、保持する複数の視点映像の一部をネットワーク１０４Ｂ経由で端末装置１０２に配信する。その際、サーバ１０３は、膨大な数の視点映像の中から、カメラ情報を用いた選択方法により端末装置１０２で再生可能な数の映像を選択する。カメラ情報は、カメラの位置、方向、及び焦点距離を示す。カメラ情報は、予めサーバに登録されている情報、映像と同時に取得されたセンサ情報、映像を処理して算出した情報、又は、センサ情報と映像情報とを用いて算出した情報である。選択方法は、撮影対象空間を死角なく撮影する方法、或いは特定の被写体を複数の方向から撮影する方法、又はその両方である。なお、カメラ情報は、上記情報に加え、画角（ズーム倍率）の情報を含んでもよい。
【００５１】
また、サーバ１０３は、ユーザ１０６の指示、或いは撮影シーン又はカメラの動きの解析結果に従って視点映像の切替等の処理を行う。
【００５２】
端末装置１０２は、ユーザ１０６の指示に従ってサーバ１０３から視点映像を受信し、ユーザ１０６の指示に従った方法にて視点映像をモニタ１０５に出力する。なお、モニタ１０５は、ＰＣモニタ、又は、タブレット端末、スマートフォン、携帯電話或いはノートＰＣのモニタなど、どのような出力デバイスであってもよい。なお、ここでは端末装置１０２とモニタ１０５とを個別に記載しているが、モニタ１０５は端末装置１０２に含まれてもよい。
【００５３】
また、ユーザからの指示は、例えば、画面タッチ操作又はマウスなどにより行われるが、どのような入力デバイスが用いられてもよい。
【００５４】
ユーザの指示は、サーバ１０３へ送信される。ユーザの指示は、サーバ１０３での映像の配信開始、又は視点映像の切替のトリガとして用いられる。また、ユーザの指示に基づきサーバ１０３は映像選択方法を決定する。
【００５５】
なお、音声データは必ずしも全てのカメラ１０１で取得される必要はない。また、映像配信システム１００は、音声のみを取得するマイクを含んでもよい。サーバ１０３は、選択された映像に付加されている音声をそのまま一緒に端末装置１０２に配信してもよいし、対象領域又は対象被写体に最も近いカメラ１０１（又はマイク）で取得された音声を選択してもよいし、取得した中から音質の良い音声を選択してもよいし、複数の音声を音声合成することにより配信する音声を作成してもよい。
【００５６】
なお、複数の視点映像が複数のカメラ１０１からリアルタイムに送信され、当該視点映像を、ユーザ１０６が端末装置１０２を用いてリアルタイムに視聴してもよいし、映像の送信及び視聴の少なくとも一方がリアルタイムに行なわれなくてもよい。つまり、ユーザ１０６は過去に撮影された視点映像を任意のタイミングで視聴してもよい。また、以下で述べる、映像信号（映像）の送信及び受信とは、主に、映像信号が連続的に送信又は受信されるストリーム送信及び受信を意味する。
【００５７】
次に、サーバ１０３の構成を説明する。図２は、サーバ１０３の構成を示すブロック図である。このサーバ１０３は、受信部１１１と、蓄積部１１２と、制御部１１３と、カメラ情報算出部１１４と、初期カメラ選択部１１５と、カメラ切替判定部１１６と、切替カメラ選択部１１７と、リセット判定部１１８と、送信部１１９とを備える。
【００５８】
受信部１１１は、複数のカメラ１０１から送信された視点映像及びセンサ情報を受信する。蓄積部１１２は、受信部１１１で受信された視点映像及びセンサ情報に、送信元のカメラ１０１を識別するＩＤ情報を付与して格納する。センサ情報とは、ＷｉＦｉ、ＧＰＳ、又はジャイロセンサ等から出力される情報であり、カメラ位置及びカメラ姿勢を特定可能な情報である。また、蓄積部１１２は、視点映像及びセンサ情報を用いて、カメラ情報算出部１１４で算出されたカメラ位置及びカメラ姿勢を格納する。
【００５９】
なお、蓄積部１１２は、受信部１１１が受信した視点映像及びセンサ情報をそのまま格納してもよいし、例えば、カメラ情報算出部１１４で三次元再構成処理を行うために、複数の視点映像をそれぞれフレームに分割し、同じ時刻のフレームを１つのセットとして格納してもよい。
【００６０】
制御部１１３は、各処理部の制御を行う。
【００６１】
カメラ情報算出部１１４は、蓄積部１１２から複数の視点映像を取得し、三次元再構成方法により、カメラ位置及びカメラ姿勢を算出する。なお、カメラ情報算出部１１４は、蓄積部１１２からセンサ情報を取得し、当該センサ情報を用いてカメラ位置及びカメラ姿勢を算出してもよいし、視点映像及びセンサ情報の両方を用いてカメラ位置及びカメラ姿勢を算出してもよい。算出されたカメラ位置及びカメラ姿勢は蓄積部１１２に格納される。
【００６２】
初期カメラ選択部１１５は、被写体を撮影している膨大な数のカメラ１０１から、ユーザに提供する視点数の選択カメラを選択する。初期カメラ選択部１１５は、この選択に、カメラ情報算出部１１４で算出されたカメラ位置及びカメラ姿勢を使用する。
【００６３】
カメラ切替判定部１１６は、表示中の映像を撮影しているカメラで撮影対象の空間又は被写体を捉えられているか確認し、捉えられていない場合はカメラを切替えると判定する。
【００６４】
切替カメラ選択部１１７は、カメラ切替判定部１１６によりカメラを切替えると判定された場合、新たなカメラを選択する。切替カメラ選択部１１７は、この選択に、カメラ情報算出部１１４で算出されたカメラ位置及びカメラ姿勢を使用する。また、切替カメラ選択部１１７は、適切なカメラが存在しない場合には、選択カメラの台数を減らす。
【００６５】
リセット判定部１１８は、ユーザ１０６よりリセット指示が出た場合、又は、選択カメラの台数が０或いは閾値以下になった場合、初期カメラ選択を再度行う。
【００６６】
以下、サーバ１０３の動作を説明する。まず、カメラ情報算出部１１４の処理を説明する。図３は、カメラ情報算出部１１４によるカメラ情報算出処理のフローチャートである。
【００６７】
まず、カメラ情報算出部１１４は、入力処理として、複数のカメラ１０１により撮影された視点映像、センサ情報、又はその両方を蓄積部１１２から取得する（Ｓ１０１）。なお、いずれの情報を取得するかは、制御部１１３により指示される。また、カメラ情報算出部１１４は、三次元再構成処理を行うために、複数の視点映像をフレームに分割し、同時刻のフレーム同士の画像セットを作成してもよい。
【００６８】
入力処理により取得された情報が視点映像である場合（Ｓ１０２でＹｅｓ）、カメラ情報算出部１１４は、三次元再構成処理を行う（Ｓ１０３）。具体的には、カメラ情報算出部１１４は、複数の視点映像を用いて各カメラの三次元再構成を行うことで、カメラ位置及びカメラ姿勢を算出する。三次元再構成では、エピポーラ幾何を拘束条件とし、ｘ、ｙ、ｚの３軸からなる三次元座標空間における各カメラの並進ベクトル及び回転行列が算出される。エピポーラ幾何に基づく三次元再構成の具体例については、図４を用いて後ほど詳細に説明する。並進ベクトルＴ及び回転行列Ｒはそれぞれ下記（式１）及び（式２）で表現される。並進ベクトルＴは三次元空間におけるカメラ位置を示し、回転行列Ｒは三次元空間の各軸に対するカメラの傾き、つまりカメラ姿勢を示す。なお、α、β、γはそれぞれカメラをｘ、ｙ、ｚ軸周りに回転させた角度を示す。
【００６９】
【数１】
0006621063.tif 000002
【００７０】
入力処理により取得された情報がセンサ情報である場合（Ｓ１０２でＮｏかつＳ１０４でＹｅｓ）、カメラ情報算出部１１４は、ＷｉＦｉ、ＧＰＳ又はジャイロセンサ等のセンサ情報を用いてカメラ位置及びカメラ姿勢を算出する（Ｓ１０５）。例えば、カメラ情報算出部１１４は、三次元座標空間を設定し、三次元座標空間におけるカメラ位置の座標及び三次元座標空間の各軸に対するカメラの傾き、つまりカメラ姿勢を算出する。
【００７１】
次に、カメラ情報算出部１１４は、ステップＳ１０３又はＳ１０５で算出したカメラ位置及びカメラ姿勢は蓄積部１１２に格納する（Ｓ１０６）。
【００７２】
また、ステップＳ１０１〜Ｓ１０６の一連の処理が、所定の時間間隔で繰り返し実行される。
【００７３】
なお、映像入力の判定（Ｓ１０２）とセンサ情報入力の判定（Ｓ１０４）の処理順は、この順序に限定されず、逆の順序であってもよし、一部又は全てが並列に行われてもよい。
【００７４】
以下、図４を用いて三次元再構成の原理を説明する。
【００７５】
例えば、三次元再構成では、エピポーラ幾何を拘束条件として、世界座標系におけるカメラの座標及び姿勢が算出される。さらに、カメラにより撮影された画像上の点の世界座標系における三次元位置が算出される。
【００７６】
ここで、図４に示す０は、世界座標系の原点であり、Ｔ１、Ｔ２、Ｔ３は、世界座標系におけるカメラ１、カメラ２、カメラ３のカメラ座標であり、Ｒ１、Ｒ２、Ｒ３は、世界座標系に対するカメラ１、カメラ２、カメラ３のカメラ座標系の傾きであり、Ｍは被写体上の点であり、ｍ１、ｍ２、ｍ３は、カメラ１、カメラ２、カメラ３で撮影された画像１、画像２、画像３に写った被写体上の点Ｍの位置である。
【００７７】
各カメラの位置及び撮影方向を取得するには、世界座標系におけるカメラの回転行列及び並進ベクトルを算出する必要がある。まず、画像１と画像２との回転行列及び並進ベクトルを算出する方法を述べる。画像１上の点ｍ１＝（ｕ１、ｖ１、１）と画像２上の点ｍ２＝（ｕ２、ｖ２、１）とが対応している時、両者にはエピポーラ方程式ｍ１ＴＦｍ２＝０の関係が成り立つ。ここでＦをＦｕｎｄａｍｅｎｔａｌ  ｍａｔｒｉｘ（Ｆ行列）と呼ぶ。
【００７８】
各カメラの内部パラメータＫを用いた変換式である（式３）によりそれぞれの点を各カメラ座標系の点である（式４）及び（式５）として取得でき、エピポーラ方程式が（式６）のにように書き換えられる。
【００７９】
【数２】
0006621063.tif 000003
【００８０】
ここで、ＥをＥｓｓｅｎｔｉａｌ  ｍａｔｒｉｘ（Ｅ行列）と呼ぶ。また、複数の対応点を用いてＥ行列の各要素を算出できる。また、画像間の点ｍ１及びｍ２のような対応点を複数用いてＦ行列の各要素を算出した後、変換式ＥＫ−１ＦＫによりＥ行列を取得してもよい。このＥ行列を分解することにより、世界座標系において画像１から画像２への回転行列及び並進ベクトルを取得できる。
【００８１】
世界座標系におけるカメラ１の位置及び世界座標系の各軸に対するカメラ１の傾きが既知の場合は、上記相対関係を用いて、世界座標系におけるカメラ１及びカメラ２の位置及び姿勢を取得できる。世界座標系におけるカメラ１の位置及び姿勢は、映像以外のセンサ情報から算出してもよし、予め計測しておいてもよい。なお、カメラ１のカメラ座標系を世界座標系として、他のカメラの位置及び姿勢を算出してもよい。
【００８２】
また、画像１と画像２との回転行列及び並進ベクトルを用いて形成される三角形により世界座標系上の三次元点Ｍを取得できる。
【００８３】
また、本実施の形態では、上記の幾何学的関係を３視点以上に拡張する。画像１と画像２に対し画像３を追加する例として具体的には、画像２と画像３、及び画像１と画像３についてもそれぞれＥ行列を算出し、各カメラ間の相対的な回転行列及び並進ベクトルを取得し、これらを統合することにより、画像３のカメラの世界座標系における回転行列及び並進ベクトルを算出できる。また、画像３と画像１及び画像２とのそれぞれで対応点から画像３の回転行列及び並進ベクトルを算出してもよい。詳細には、画像１と画像３、及び画像２と画像３で対応点を求める。ここで、画像１上のｍ１及び画像２上のｍ２に対応する画像３上のｍ３が得られた場合、この対応点の三次元座標Ｍは取得できているため、画像３上の点と三次元空間内の座標との対応を取得できる。この時、下記（式７）の関係が成り立つ。
【００８４】
【数３】
0006621063.tif 000004
【００８５】
ここでＰをＰｅｒｓｐｅｃｔｉｖｅ  ｍａｔｒｉｘ（Ｐ行列）と呼ぶ。Ｐ行列、Ｅ行列及び内部行列には、Ｐ＝ＫＥという関係が成り立つため、画像３のＥ行列を取得できる。これにより回転行列及び並進ベクトルが求められる。
【００８６】
以下、サーバ１０３による映像選択処理について説明する。図５は、サーバ１０３による映像選択処理のフローチャートである。
【００８７】
まず、初期カメラ選択部１１５は、初期カメラ選択処理を行う（Ｓ１１１）。具体的には、初期カメラ選択部１１５は、被写体を撮影している膨大な数のカメラ１０１から、ユーザに提供する任意の数のカメラを選択する。初期カメラ選択部１１５は、この選択に、カメラ情報算出部１１４で算出されたカメラ位置及びカメラ姿勢を使用する。
【００８８】
次に、カメラ切替判定部１１６は、カメラ切替判定処理を行う（Ｓ１１２）。具体的には、カメラ切替判定部１１６は、表示中の映像を撮影しているカメラで撮影対象の空間又は被写体を捉えられているか確認し、捉えられていない場合、カメラを切替えると判定する。
【００８９】
ステップＳ１１２においてカメラを切替えると判定された場合（Ｓ１１３でＹｅｓ）、切替カメラ選択部１１７は、新たなカメラを選択する切替カメラ選択処理を行う（Ｓ１１４）。具体的には、カメラ切替判定部１１６は、この選択に、カメラ情報算出部１１４で算出されたカメラ位置及びカメラ姿勢を使用する。
【００９０】
なお、適切なカメラが存在しない場合、切替カメラ選択部１１７は、選択するカメラの台数を減らしてもよい。また、切替前のカメラ１台に対し、適切なカメラが複数存在する場合は、切替カメラ選択部１１７は、選択するカメラの台数を増やしてもよい。
【００９１】
次に、リセット判定部１１８は、リセット判定処理を行う（Ｓ１１５）。具体的には、リセット判定部１１８は、ユーザよりリセット指示が出た場合、又は、選択するカメラの台数が０或いは閾値以下になった場合、現在選択されている全てのカメラをリセットすると判定する。
【００９２】
ステップＳ１１５においてリセットすると判定された場合（Ｓ１１６でＹｅｓ）、新たに初期カメラ選択が行われる（Ｓ１１１）。なお、このとき、初期カメラ選択部１１５は、新たに初期選択するカメラの台数を現在の選択カメラの台数から増加又は減少させてもよい。
【００９３】
また、ステップＳ１１２〜Ｓ１１６の一連の処理が、所定の時間間隔で繰り返し実行される。
【００９４】
以下、初期カメラ選択部１１５による初期カメラ選択処理（図５のＳ１１１）について説明する。図６は、初期映像選択処理（Ｓ１１１）のフローチャートである。
【００９５】
本実施の形態では、撮影モードとして、空間撮影モード、追跡撮影モード、及びハイブリッド撮影モードの３つの撮影モードが存在する。なお、３つの撮影モードの全てが用いられる必要はなく、一つ又は二つの撮影モードのみが用いられてもよい。
【００９６】
これの撮影モードの選択は、制御部１１３によって制御される。具体的には、制御部１１３は、ユーザの指定、イベントの発生、追跡対象の自動検知、又は選択カメラ台数に基づき、撮影モードを選択する。
【００９７】
空間撮影モードとは、指定された実空間中の領域である対象領域を撮影するためにカメラを選択するモードである。追跡撮影モードとは、指定された実空間中の動いている人物又は物体などのオブジェクトである対象被写体を追跡撮影するためにカメラを選択するモードである。ハイブリッド撮影モードは、空間撮影モード及び追跡撮影モードの両方を組み合わせたモードである。
【００９８】
撮影モードが空間撮影モードである場合（Ｓ１２１でＹｅｓ）、初期カメラ選択部１１５は、ユーザの指定した映像上の領域に対応する三次元領域、又はシーン解析により重要と判定した三次元領域である対象領域を最も多く含んでいる映像を撮影している１台のカメラをメインカメラとして選択する（Ｓ１２２）。また、このカメラを空間メインカメラとも呼ぶ。
【００９９】
また、初期カメラ選択部１１５は、三次元再構成を行った場合、映像上の領域と三次元位置の対応付けに三次元モデルを使用する。また、初期カメラ選択部１１５は、シーン解析では、撮影対象空間の中心、又は撮影対象空間への出入口を重要と判定する。
【０１００】
次に、初期カメラ選択部１１５は、メインカメラを基準として撮影対象空間を均等な間隔、又は死角なく撮影するように複数のサブカメラを選択する（Ｓ１２３）。これらのカメラを空間サブカメラとも呼ぶ。
【０１０１】
一方、撮影モードが追跡撮影モードである場合（Ｓ１２４でＹｅｓ）、初期カメラ選択部１１５は、ユーザの指定した１つの被写体、又はシーン解析により重要と判定した１つの被写体である対象被写体を最も多く含んでいる映像を撮影している１台のカメラをメインカメラとして選択する（Ｓ１２５）。このカメラを追跡メインカメラとも呼ぶ。なお、初期カメラ選択部１１５は、対象被写体が複数ある場合は、１つの対象被写体に対し１台のメインカメラを選択する。
【０１０２】
また、初期カメラ選択部１１５は、シーン解析では、異常行動している人物、又は試合で最も注目されている人物等を重要と判定する。
【０１０３】
なお、初期カメラ選択部１１５は、対象被写体が最も多く含んでいることを基準とする代わりに、対象被写体を最も正面から撮影していることを基準としてもよい。
【０１０４】
次に、初期カメラ選択部１１５は、メインカメラを基準として被写体を均等な間隔で取り囲むように複数のサブカメラを選択する（Ｓ１２６）。これらのカメラを追跡サブカメラとも呼ぶ。
【０１０５】
一方、撮影モードがハイブリッド撮影モードである場合（Ｓ１２１でＮｏかつＳ１２４でＮｏ）、初期カメラ選択部１１５は、空間撮影モードのメインカメラの選択と同様の方法で空間メインカメラを１台選択し、対象撮影モードのメインカメラ選択と同様の方法で追跡メインカメラを１台選択する（Ｓ１２７）。
【０１０６】
次に、初期カメラ選択部１１５は、サブカメラの台数を任意の割合で空間撮影モードと対象撮影モードに割当てる。そして、初期カメラ選択部１１５は、空間撮影モードと同じ方法で空間サブカメラを選択し、追跡撮影モードと同じ方法で追跡サブカメラを選択する（Ｓ１２８）。
【０１０７】
なお、空間撮影モードの確認（Ｓ１２１）と追跡撮影モードの確認（Ｓ１２４）との順序は、この順序に限らず、逆の順序であってもよし、一部又は全てが並列に行われてもよい。
【０１０８】
以下、カメラ切替判定部１１６によるカメラ切替判定処理（図５のＳ１１２）について説明する。図７は、カメラ切替判定処理（Ｓ１１２）のフローチャートである。
【０１０９】
カメラ切替判定部１１６は、初期カメラ選択処理で選択された複数のカメラの各々に対してステップＳ１３１〜Ｓ１３３の処理を行う。
【０１１０】
まず、カメラ切替判定部１１６は、処理対象のカメラ（以下、対象カメラと記す）が空間カメラ（空間メインカメラ又は空間サブカメラ）であるかを判定する（Ｓ１３１）。
【０１１１】
対象カメラが空間カメラである場合（Ｓ１３１でＹｅｓ）、カメラ切替判定部１１６は、対象カメラが動くことにより指定された撮影領域がフレームアウトした場合、切替が必要と判定する（Ｓ１３２）。具体的には、カメラ切替判定部１１６は、カメラ位置の移動量及び撮影方向の回転量が、カメラの視野角に応じて事前に設定された、カメラ位置の移動量及び撮影方向の回転量の閾値を超えた場合、撮影領域がフレームアウトしたと判定する。
【０１１２】
一方、対象カメラが追跡カメラ（追跡メインカメラ又は追跡サブカメラ）である場合（Ｓ１３１でＮｏ）、カメラ切替判定部１１６は、追跡カメラ切替判定処理を行う（Ｓ１３３）。例えば、カメラ切替判定部１１６は、カメラ情報取得処理において三次元再構成を行った場合は三次元モデルを使用して追跡を行う。
【０１１３】
以下、追跡カメラ切替判定処理（図７のＳ１３３）について説明する。図８は、追跡カメラ切替判定処理（Ｓ１３３）のフローチャートである。
【０１１４】
まず、カメラ切替判定部１１６は、二次元画像上で追跡を行うか、三次元モデル内で追跡を行うかを判定する（Ｓ１４１）。具体的には、カメラ切替判定部１１６は、三次元再構成を行わない場合は、二次元画像上で追跡を行うと判定する。また、カメラ切替判定部１１６は、三次元再構成を行う場合は、サーバの許容負荷、要求追跡精度、又はユーザ指定に基づき、二次元画像上で追跡を行うか、三次元モデル内で追跡を行うかを選択する。
【０１１５】
なお、カメラ切替判定部１１６は、二次元画像上で追跡を行う処理と、三次元モデル内で追跡を行う処理とを選択的に行うのではなく、どちらか一方のみを行ってもよい。
【０１１６】
二次元画像上で追跡を行う場合（Ｓ１４１でＹｅｓ）、カメラ切替判定部１１６は、シーン解析により指定された又はユーザにより指定された、画像中の対象被写体を選択中の追跡カメラが撮影している時系列画像のみを使用した対象被写体の追跡を開始する（Ｓ１４２）。
【０１１７】
カメラ切替判定部１１６は、撮影フレームレート間隔で、現在のフレームと過去のフレームとの間で同一の被写体を対応付ける（Ｓ１４３）。
【０１１８】
追跡が成功した場合（Ｓ１４４でＹｅｓ）、つまり、被写体の対応付けが成功した場合、カメラ切替判定部１１６は、次のフレームに対してステップＳ１４３以降の処理を行う。一方、追跡が失敗した場合（Ｓ１４４でＮｏ）、つまり、被写体の対応付けが失敗した場合、カメラ切替判定部１１６は、選択中のカメラでは対象被写体を追跡できなくなったと判定し、カメラ切替が必要と判定する（Ｓ１４５）。
【０１１９】
一方、三次元モデル内で追跡を行う場合（Ｓ１４１でＮｏ）、カメラ切替判定部１１６は、対象被写体を三次元モデルに対応付け、三次元モデル内での対象被写体の追跡を開始する（Ｓ１４６）。
【０１２０】
カメラ切替判定部１１６は、撮影フレームレート間隔で、現在の三次元モデルと過去の三次元モデルとで同一の被写体を対応付ける。そして、カメラ切替判定部１１６は、対応付けられた被写体を選択中の追跡カメラの現時刻のフレームへ投影する（Ｓ１４７）。
【０１２１】
追跡が成功した場合、つまり、フレーム間での三次元モデルの対応付けが完了し、かつ、投影により得られた現時刻のフレーム内に対象被写体が含まれる場合（Ｓ１４８でＹｅｓ）、カメラ切替判定部１１６は、次のフレームに対してステップＳ１４７以降の処理を行う。一方、追跡が失敗した場合（Ｓ１４８でＮｏ）、つまり、フレーム間での三次元モデルの対応付けが失敗した場合、又は、投影により得られた現時刻のフレーム内に対象被写体が含まれない場合、カメラ切替判定部１１６は、選択中のカメラでは対象被写体を追跡できなくなったと判定し、カメラ切替が必要と判定する（Ｓ１４５）。
【０１２２】
また、追跡カメラ切替判定処理及び追跡カメラの切替カメラ選択処理は、二次元画像のみで被写体を追跡するケースと三次元モデルのみで被写体を追跡するケースとこれらの両方を用いるケースとの３つがある。各ケースの詳細は図１０〜図１２で説明する。
【０１２３】
以下、切替カメラ選択処理（図５のＳ１１４）について説明する。図９は、切替カメラ選択処理（Ｓ１１４）のフローチャートである。
【０１２４】
切替が必要と判定されたカメラの各々に対して、図９に示すステップＳ１５１〜Ｓ１５７の処理が行われる。
【０１２５】
対象カメラが空間カメラである場合（Ｓ１５１でＹｅｓ）、切替カメラ選択部１１７は、任意に設定された範囲にある複数台の候補カメラから、カメラ位置、カメラ姿勢、及び焦点距離が、切替前の空間カメラの初期映像選択時のカメラ位置、カメラ姿勢、及び焦点距離に最も近いカメラを新たな空間カメラとして選択する（Ｓ１５２）。
【０１２６】
具体的には、下記評価式（式８）が用いられる。
【０１２７】
ｓｃｏｒｅ＝ｗ１＊（ｐｏｓ（ｃＡ）−ｐｏｓ（ｃＢ））＾２
＋ｗ２＊（ｄｉｒ（ｃＡ）−ｄｉｒ（ｃＢ））＾２
＋ｗ３＊（ｆｏｒ（ｃＡ）−ｆｏｒ（ｃＢ））＾２    ・・・（式８）
【０１２８】
ここで、ｗ１、ｗ２及びｗ３は重み係数であり、ｐｏｓ（ｃｋ）はカメラｋのカメラ位置を示し、ｄｉｒ（ｃｋ）はカメラｋのカメラ姿勢を示し、ｆｏｒ（ｃｋ）はカメラｋの焦点距離を示し、ｃＡは切替前の空間カメラを示し、ｃＢは候補カメラを示す。
【０１２９】
上記の評価式を使用する場合、切替カメラ選択部１１７は、複数台の候補カメラの中で最もｓｃｏｒｅの小さな１台を新たな空間カメラとして選択する。
【０１３０】
一方、対象カメラが追跡カメラである場合（Ｓ１５１でＮｏ）、切替カメラ選択部１１７は、二次元画像のみを用いて切替カメラの選択を行うか、三次元モデルを用いて切替カメラの選択を行うかを判定する（Ｓ１５３）。なお、この判定の手法は、例えば、上述したステップＳ１４１と同様である。
【０１３１】
切替カメラ選択部１１７は、二次元画像のみを用いて切替カメラを選択する場合（Ｓ１５３でＹｅｓ）、カメラ切替判定部１１６で追跡した被写体がフレームから消失した時の位置を推定する。そして、切替カメラ選択部１１７は、その推定位置を撮影しているカメラのうち、被写体が最も中心に存在、又は被写体が最も大きく映っているカメラを選択する（Ｓ１５４）。
【０１３２】
一方、切替カメラ選択部１１７は、三次元モデルを用いて切替カメラを選択する場合（Ｓ１５３でＮｏ）、カメラ切替判定処理において、二次元画像上で被写体の追跡を行ったか、三次元モデル上で被写体の追跡を行ったかを判定する（Ｓ１５５）。
【０１３３】
二次元画像上で被写体の追跡を行った場合（Ｓ１５５でＹｅｓ）、切替カメラ選択部１１７は、カメラ切替判定部１１６で追跡した被写体が消失した１つ前のフレームの被写体の三次元モデルを算出する。そして、切替カメラ選択部１１７は、その三次元モデルを撮影しているカメラのうち、被写体が最も中心に存在、又は被写体が最も大きく映っているカメラを選択する（Ｓ１５６）。
【０１３４】
一方、三次元モデル上で被写体の追跡を行った場合（Ｓ１５５でＮｏ）、切替カメラ選択部１１７は、カメラ切替判定部１１６で追跡した被写体を撮影しているカメラのうち、被写体が最も中心に存在、又は被写体が最も大きく映っているカメラを選択する（Ｓ１５７）。
【０１３５】
なお、いずれの切替方法においても、切替カメラ選択部１１７は、切替に適したカメラが存在しない場合は、切替を行わず、選択するカメラ台数を減らしてもよいし、切替えに適したカメラが複数存在する場合は、１台のカメラを複数のカメラに増やしてもよい。
【０１３６】
なお、カメラの撮影モードの確認（Ｓ１５１）、切替方法の確認（Ｓ１５３）、及び追跡方法の確認（Ｓ１５５）の処理順は、この順序に限定されず、任意の順序であってよい。また、一部又は全てが並列に行われてもよい。
【０１３７】
以下、追跡カメラ切替判定処理及び切替カメラ選択処理において、二次元画像のみを用いて被写体を追跡する動作を詳細に説明する。図１０及び図１１は、この動作を説明するための図である。
【０１３８】
図１０は、追跡カメラで時刻ｔ、ｔ＋１及びｔ＋２に撮影されたフレーム２０１Ａ、２０１Ｂ及び２０１Ｃを示す図である。
【０１３９】
まず、カメラ切替判定部１１６は、時刻ｔ＋１において、時刻ｔ＋１のフレーム２０１Ｂと時刻ｔのフレーム２０１Ａとの間の対応付けにより被写体２０２を追跡する。なお、この対応付けは、連続するフレーム間で行う必要はなく、１以上のフレームを跨いだ２つのフレーム間で行われてもよいし、未来の例えば、時刻ｔ＋２のフレームも含めた３以上のフレーム間で行われてもよい。
【０１４０】
具体的には、カメラ切替判定部１１６は、この対応付けを、被写体を囲む矩形領域のテンプレートマッチングを用いて行う。なお、カメラ切替判定部１１６は、矩形領域を分割したサブ領域毎のテンプレートマッチングの結果を統合し、統合された結果を用いて対応付けを行ってもよいし、被写体上の複数の特徴点又は局所特徴量の対応付けにより、フレーム間の対応付けを行ってもよい。
【０１４１】
また、カメラ切替判定部１１６は、被写体領域を正解領域とし、その周辺領域を非正解領域としたオンライン学習を行うことによる追跡を行ってもよい。
【０１４２】
また、カメラ切替判定部１１６は、被写体の追跡を選択中のカメラ１台のみを用いて行うのではなく、選択中のカメラを含む複数のカメラを用いて行い、複数のカメラの追跡結果を統合し、統合結果を用いて追跡を行ってもよい。例えば、カメラ切替判定部１１６は、予め複数視点から撮影された被写体を学習したデータベースを用いて特定物体識別を行うことで、各カメラの映像における同一被写体を認識する。
【０１４３】
また、時刻ｔ＋２において、被写体２０２が追跡カメラからフレームアウトする。図１１は、時刻ｔ＋２における実空間の状況を示す図である。カメラ１０１Ａは、選択中の追跡カメラであり、領域２０３Ａを撮影している。
【０１４４】
時刻ｔ＋２で被写体２０２がフレームアウトしたため、カメラ切替判定部１１６はカメラの切替が必要であると判定する。
【０１４５】
また、切替カメラ選択部１１７は、カメラ情報算出部１１４で算出した選択中の追跡カメラの位置、姿勢及び焦点距離から画像の視野に映る領域２０３Ａを算出する。そして、切替カメラ選択部１１７は、フレームアウトした被写体２０２がこの領域２０３Ａの右側付近にいると推定する。
【０１４６】
切替カメラ選択部１１７は、領域２０３Ａの右側付近を撮影している複数のカメラのうち、被写体２０２を最も中心に撮影している、又は被写体の面積が最も大きい映像を撮影しているカメラ１０１Ｂを新たな追跡カメラとして選択する。この例では、カメラ１０１Ｂは、被写体２０２を含む領域２０３Ｂを撮影している。
【０１４７】
ここで、追跡を続行するためには、カメラ１０１Ｂで撮影された画像内で被写体２０２を特定する必要がある。例えば、切替カメラ選択部１１７は、カメラ１０１Ａの時刻ｔ＋１のフレームとカメラ１０１Ｂの時刻ｔ＋２のフレームとの間で対応付けを行う。例えば、この対応付けには、カメラ１０１Ａのフレーム間で実施した追跡方法と同様の方法を用いる。
【０１４８】
なお、２つのカメラ１０１Ａと１０１Ｂとの間の視野の違いを補正するために、切替カメラ選択部１１７は、さらにカメラ位置、姿勢及び焦点距離などのカメラ情報を用いて、射影変換したフレームを用いて追跡を行ってもよい。
【０１４９】
また、カメラ切替は、被写体がフレームアウトした場合に限らず、被写体が選択中の追跡カメラの撮影領域内に存在しているが、オクルージョンによりフレームから消失した場合にも行われる。
【０１５０】
また、切替カメラ選択部１１７は、必ずしも被写体がフレームから消失して即座にカメラを切替える必要はなく、消失中も被写体の動きを推定し続け、再びフレーム内に出現するのを待ってもよい。つまり、切替カメラ選択部１１７は、予め定められた期間（複数フレーム）の間、被写体がフレーム内に含まれない場合にカメラ切替を行ってもよい。
【０１５１】
以下、追跡カメラ切替判定処理及び切替カメラ選択処理において、三次元モデルのみを用いて被写体を追跡する動作を詳細に説明する。図１２は、この動作を説明するための図である。
【０１５２】
まず、時刻ｔにおいて、画像（フレーム２０１Ａ）上において追跡対象の被写体２０２が指定された場合、画像上の被写体２０２を三次元モデル内で特定する必要がある。
【０１５３】
カメラ切替判定部１１６は、カメラ情報算出部１１４において算出された、選択中の追跡カメラの位置、姿勢及び焦点距離を用いて、画像と三次元空間との透視投影行列を算出する。カメラ切替判定部１１６は、この透視投影行列を用いて、画像内の被写体２０２上の特徴点を三次元空間へ投影することにより、三次元モデル内での被写体２０２を特定する。
【０１５４】
時刻ｔ＋１においては、カメラ切替判定部１１６は、時刻ｔ＋１の三次元モデルと時刻ｔの三次元モデルとの間の対応付けにより被写体２０２を追跡する。なお、対応付けは連続する時刻の三次元モデル間で行う必要はなく、１以上の時刻（フレーム）を跨いだ２つの時刻の三次元モデル間で行われてもよいし、未来の例えば、時刻ｔ＋２の三次元モデルも含めた３以上の時刻の三次元モデル間で行われてもよい。
【０１５５】
具体的には、カメラ切替判定部１１６は、対応付けを、被写体を囲むボクセルのマッチングを用いて行う。なお、カメラ切替判定部１１６は、ボクセルを分割したサブボクセル毎のマッチング結果を統合し、統合された結果を用いて対応付けを行ってもよいし、被写体上の複数の三次元特徴点又は三次元局所特徴量の対応付けにより、被写体の対応付けを行ってもよい。
【０１５６】
また、カメラ切替判定部１１６は、被写体領域を正解領域とし、その周辺領域を非正解領域としたオンライン学習を行うことによる追跡を行ってもよい。
【０１５７】
また、カメラ切替判定部１１６は、追跡中において、各時刻の三次元モデル中の被写体２０２を各時刻の画像平面へ投影し、得られた画像を用いて被写体２０２がカメラの視野内に存在するか確認する。具体的には、カメラ切替判定部１１６は、この投影を、時刻ｔでの画像と三次元モデルとの対応付けと同様の方法で行う。
【０１５８】
時刻ｔ＋２において、被写体２０２が追跡カメラからフレームアウトする。切替カメラ選択部１１７は、新たな追跡カメラを選択するために、被写体２０２の三次元モデルを各カメラの画像平面へ投影する。切替カメラ選択部１１７は、この投影を、時刻ｔでの画像と三次元モデルとの対応付けと同様の方法で行う。
【０１５９】
そして、切替カメラ選択部１１７は、投影された被写体２０２が最も中心にある、又は被写体の面積が最も大きな画像を撮影したカメラ１０１を選択する。
【０１６０】
なお、図１０及び図１１で説明した二次元画像を用いる場合と同様に、カメラ切替は、被写体がフレームアウトした場合に限らず、被写体が選択中の追跡カメラの撮影領域内に存在しているが、オクルージョンによりフレームから消失した場合にも行われる。
【０１６１】
また、切替カメラ選択部１１７は、必ずしも被写体がフレームから消失して即座にカメラを切替えることはなく、消失中も被写体の動きを推定し続け、再びフレーム内に出現するのを待ってもよい。
【０１６２】
以下、追跡カメラ切替判定処理及び切替カメラ選択処理において、二次元画像及び三次元モデルの両方を用いて被写体を追跡する動作を詳細に説明する。図１３は、この場合の動作を説明するための図である。
【０１６３】
時刻ｔにおいては、カメラ切替判定部１１６は、図１０で説明した二次元画像を用いる場合と同様の方法により被写体２０２の追跡を行う。
【０１６４】
時刻ｔ＋２では追跡カメラが被写体２０２を見失っているため、切替カメラ選択部１１７は、被写体２０２の追跡に成功できている中で最新の時刻ｔ＋１のフレーム２０１Ｂと時刻ｔ＋１の三次元モデルとを用いて、新たな追跡カメラを選択する。
【０１６５】
カメラ切替判定部１１６は、時刻ｔ＋１のフレーム２０１Ｂ中の被写体２０２と時刻ｔ＋１の三次元モデル中の被写体２０２との対応付けを、図１０で説明した二次元画像を用いる場合と同様の方法により行う。また、切替カメラ選択部１１７は、三次元モデルを用いた新たな追跡カメラの選択を、図１２と同様の方法により行う。カメラ切替判定部１１６は、ここで選択された新たな追跡カメラの撮影する時系列画像を用いて、図１０及び図１１と同じ方法により被写体２０２の追跡を継続する。
【０１６６】
なお、図１０〜図１２と同様に、カメラ切替は、被写体がフレームアウトした場合に限らず、被写体が選択中の追跡カメラの撮影領域内に存在しているが、オクルージョンによりフレームから消失した場合にも行われる。
【０１６７】
また、切替カメラ選択部１１７は、必ずしも被写体がフレームから消失して即座にカメラを切替えることはなく、消失中も被写体の動きを推定し続け、再びフレーム内に出現するのを待ってもよい。
【０１６８】
なお、図１２及び図１３においては、カメラ情報算出部１１４は、カメラ位置、姿勢、及び焦点距離の算出のみを行い、カメラ切替判定部１１６により被写体２０２の三次元モデルの再構成が行われてもよい。その場合、カメラ切替判定部１１６は、母数となる全てのカメラ１０１の映像を使用してもよいし、被写体２０２を映している映像のみ使用してもよいし、選択中の追跡カメラ及びその近傍のカメラの映像のみを使用してもよい。
【０１６９】
なお、図８及び図１０〜図１３の追跡カメラ切替判定処理の被写体追跡においては、カメラ切替判定部１１６は、ユーザに表示する選択カメラとは独立して、母数カメラの中から追跡に適したものを選択し、それらを用いて追跡を行ってもよい。
【０１７０】
以下、リセット判定処理（図５のＳ１１５）について説明する。図１４は、リセット判定処理（Ｓ１１５）のフローチャートである。
【０１７１】
撮影モードが空間撮影モードである場合（Ｓ１６１でＹｅｓ）、リセット判定部１１８は、下記の４つの条件のうち１つでも満たされる場合にカメラ選択のリセットが必要と判定する（Ｓ１６２）。（１）ユーザにより別の撮影モードへの切替が指定された。（２）ユーザにより別の対象領域が指定された。（３）シーン解析により別の重要領域（対象領域）が指定された。（４）空間カメラの台数が０台或いは下限台数以下、又は上限台数以上である。
【０１７２】
撮影モードが追跡撮影モードである場合（Ｓ１６３でＹｅｓ）、リセット判定部１１８は、下記４つの条件のうち１つでも満たされる場合にカメラ選択のリセットが必要と判定する（Ｓ１６４）。（１）ユーザにより別の撮影モードへの切替が指定された。（２）ユーザにより別の対象被写体が指定された。（３）シーン解析により別の重要被写体（対象被写体）が指定された。（４）追跡カメラの台数が０台或いは下限台数以下、又は上限台数以上である。
【０１７３】
撮影モードがハイブリッド撮影モードである場合（Ｓ１６１でＮｏかつＳ１６３でＮｏ）、リセット判定部１１８は、空間撮影モードと同様の条件、及び追跡撮影モードと同様の条件のうち１つでも満たされる場合にカメラ選択のリセットが必要と判定する（Ｓ１６５）。
【０１７４】
以下、イベント会場（例えば、スポーツ競技場又はライブ会場等）における空間撮影モードでのカメラ選択の具体例を説明する。図１５及び図１６は、イベント会場における空間撮影モードでのカメラ選択の具体例を説明するための図である。
【０１７５】
まず、図１５を用いて、カメラ間隔が均等になるように複数の選択カメラを選択する例について説明する。
【０１７６】
初期カメラ選択部１１５は、ユーザの指定した映像上の領域に対応する三次元領域、又はシーン解析により重要と判定した三次元領域である対象領域を最も多く含んでいる映像を撮影しているカメラ１０１Ａをメインカメラとして選択する。また、初期カメラ選択部１１５は、メインカメラを基準として撮影方向が均等な間隔となるようにサブカメラを選択する。
【０１７７】
また、サーバ１０３は、カメラの選択結果と共に各選択カメラがメインカメラとサブカメラのどちらであるかという情報を出力してもよい。この情報は表示アプリで使用される。
【０１７８】
図１５のようにバスケットコートを３６０°囲むように観客席が設置されているイベント会場を例として説明する。
【０１７９】
初期カメラ選択部１１５は、色々な座席からの観戦風景をユーザが視聴できるようにメインカメラ１０１Ａの座席位置を基準として、均等な座席間隔となるようにサブカメラ１０１Ｂ〜１０１Ｅを選択する。メインカメラ１０１Ａは、ユーザが指定した位置に最も近いカメラであってもよいし、ユーザが指定した位置を最も中心又は大きく撮影しているカメラであってもよいし、最も会場が見やすい位置に最も近いカメラであってもよい。会場の見やすさは予め設定されている。
【０１８０】
サブカメラ１０１Ｂ〜１０１Ｅは、メインカメラ１０１Ａとイベント会場の中心位置を基に選択される。
【０１８１】
例えば、初期カメラ選択部１１５は、メインカメラ及びサブカメラであわせて５台のカメラを選択する場合、イベント会場の中心にあるセンターサークルの中心を原点として、メインカメラを０°の方位とすると、約７２°間隔となるようにサブカメラを選択する。原点に対する方位は、カメラ位置及びカメラ方向に基づき算出される。なお、原点は、必ずしもイベント会場の中心でなくてもよく、ゴール、電光掲示板又はベンチの位置などであってもよい。
【０１８２】
または、初期カメラ選択部１１５は、指定位置を映しているカメラから５台を選択する全ての組合せについてカメラ間隔を算出し、センターサークルの中心を原点として、５台のカメラが最も均等に配置されている組合せを選択してもよい。この時、各カメラをメイン及びサブに区別する必要はない。
【０１８３】
次に、図１６を用いて撮影位置を基にカメラを選択する例を説明する。図１６に示すようにバスケットコートを３６０°囲むように観客席が設置されているイベント会場を例として説明する。
【０１８４】
初期カメラ選択部１１５は、色々な座席からの観戦風景をユーザが視聴できるように、イベント会場であるバスケットコートを死角なく撮影するように空間カメラを選択する。
例えば、初期カメラ選択部１１５は、５台のカメラを選択する場合、予めカメラ５台分がそれぞれ撮影する視野である撮影視野を設定しておく。これらの撮影視野はユーザが選択してもよいし、初期カメラ選択部１１５がバスケットコートを５等分するように撮影視野を設定してもよい。
【０１８５】
初期カメラ選択部１１５は、各撮影視野に最も近い視野を撮影しているカメラを空間カメラとして選択する。なお、初期カメラ選択部１１５は、カメラの視野を、カメラ位置、カメラ姿勢及び焦点距離から算出する。
【０１８６】
なお、初期カメラ選択部１１５は、撮影視野を、選択したカメラ映像を切替えると、映像がシームレスに繋がって見えるように重複なく設定してもよい。また、選択映像を合成して広視野角の映像を生成し、当該映像を表示アプリで表示できる場合、初期カメラ選択部１１５は、合成に適するように撮影視野が互いに重複するように複数の撮影視野を設定してもよい。
【０１８７】
以下、イベント会場における追跡撮影モードでのカメラ選択の具体例を説明する。図１７、図１８及び図１９は、イベント会場における追跡撮影モードでのカメラ選択の具体例を説明するための図である。
【０１８８】
図１７は、対象被写体が１名の場合の初期カメラ選択処理を説明するための図である。図１７に示すように、バスケットの試合において、１人の対象被写体に注目する場合を説明する。
【０１８９】
例えば、初期カメラ選択部１１５は、ユーザによる被写体の指定、又はシーン解析によりボールを持っている人物を特定し、特定した人物である１名の注目プレイヤを被写体２０２（対象被写体）として選択する。
【０１９０】
初期カメラ選択部１１５は、注目プレイヤを正面又は最も大きく撮影しているカメラ１０１Ａをメインカメラとして選択し、メインカメラを基準として、均等な撮影方向となるようにサブカメラ１０１Ｂ〜１０１Ｅを選択する。例えば、初期カメラ選択部１１５は、５台のカメラを選択する場合、注目プレイヤの位置を原点として、メインカメラを０°の方位とすると、約７２°間隔となるようにサブカメラを選択する。初期カメラ選択部１１５は、原点に対する方位をカメラ位置及びカメラ方向に基づき算出する。なお、対象被写体は、人物に限らず、ゴール又は電光掲示板であってもよい。
【０１９１】
図１８は、イベント会場における追跡撮影モードにおける、被写体が１名の場合の切替カメラ選択処理を説明するための図である。図１８に示すように、バスケットの試合において、１人の対象被写体に注目する場合を説明する。
【０１９２】
追跡撮影モードでは、切替カメラ選択部１１７は、被写体を追跡し、現在の追跡カメラが被写体を捉えられなくなった場合にカメラの切替を行う。例えば、切替カメラ選択部１１７は、ある追跡カメラの視野から被写体が消失しそうになった場合、被写体の追跡結果に応じて被写体をより視野の中央に映しているカメラを探索し、探索により得られたカメラを、元の追跡カメラの代わりに新たな追跡カメラに設定する。
【０１９３】
多視点映像を用いた三次元再構成を行う場合は、被写体が三次元モデルとして再構成されているため、切替カメラ選択部１１７は、三次元空間内で被写体の追跡を行う。切替カメラ選択部１１７は、被写体上の三次元点を視野の最も中心又は最も大きく映しているカメラに追跡カメラを切り替えていく。
【０１９４】
多視点映像を用いた三次元再構成を行わない場合は、切替カメラ選択部１１７は、二次元映像による被写体の追跡を行う。この時の追跡において、切替カメラ選択部１１７は、過去のフレームと現在のフレームとを用いて、被写体の次の動きを予測し、被写体の行き先の空間を撮影しているカメラに追跡カメラを切り替える。
【０１９５】
例えば、図１８に示すように被写体２０２が動く場合、切替カメラ選択部１１７は、当該被写体２０２の追跡を行う。
【０１９６】
被写体２０２の三次元モデルを再構成する場合は、切替カメラ選択部１１７は、三次元空間で追跡を行い、再構成しない場合は、二次元映像で被写体２０２の動きを予測する。そして、切替カメラ選択部１１７は、被写体２０２を視野の最も中心又は最も大きく映しているカメラ１０１Ｆに選択カメラを切り替える。
【０１９７】
図１９は、イベント会場において被写体が複数名の場合の動作を説明するための図である。図１９に示すようにバスケットの試合において、複数の被写体２０２Ａ及び２０２Ｂに注目する場合を説明する。
【０１９８】
初期カメラ選択部１１５は、ユーザによる被写体の指定又はシーン解析により２名以上の注目プレイヤを被写体２０２Ａ及び２０２Ｂとして選択し、１名に少なくとも１つのカメラを割当てる。初期カメラ選択部１１５は、それぞれの注目プレイヤを正面又は最も大きく撮影しているカメラをメインカメラとして選択する。つまり、注目プレイヤの人数と同数のメインカメラが存在する。次に、初期カメラ選択部１１５は、それぞれのメインカメラを基準として、均等な撮影方向となるようにサブカメラを選択する。
【０１９９】
例えば、２名の注目プレイヤを５台のカメラで撮影する場合、初期カメラ選択部１１５は、注目プレイヤＡ（被写体２０２Ａ）に３台のカメラを割り当て、注目プレイヤＢ（被写体２０２Ｂ）に２台のカメラを割当てる。各注目プレイヤにメインカメラが１台ずつ割り当てられているので、初期カメラ選択部１１５は、注目プレイヤＡについては、注目プレイヤＡの位置を原点とし、メインカメラ１０１Ａを０°の方位とし、約１２０°間隔になるようにサブカメラ１０１Ｂ及び１０１Ｃを選択する。また、初期カメラ選択部１１５は、注目プレイヤＢについても同様に、注目プレイヤＢの位置を原点とし、メインカメラ１０１Ｄを０°の方位とし、約１８０°間隔になるようにサブカメラ１０１Ｅを選択する。
【０２００】
また、初期カメラ選択部１１５は、選択カメラの台数を、ユーザの指定による優先度の高いプレイヤ、又は、シーン解析によりボールを持っている、或いはボールにより近いプレイヤに多く割当てるようにする。また、初期カメラ選択部１１５は、注目プレイヤの数が選択カメラ台数を超える場合も同様に優先度をつけて、高い順に選択カメラを割当てる。
【０２０１】
また、カメラ切替判定部１１６は、図１８と同様の方法で注目プレイヤの追跡を行う。
なお、初期カメラ選択部１１５は、選択カメラの数の範囲内で、空間撮影モードと追跡撮影モードとの組合せであるハイブリッド撮影モードでカメラを選択してもよい。
【０２０２】
以下、図２０及び図２１を用いて、ショッピングセンターの監視環境における動作例を説明する。図２０は、ショッピングセンターの監視環境における空間撮影モードでのカメラ選択を説明するため図である。
【０２０３】
図２０に示すようにショッピングセンターにおいて、天井又は柱に設置された固定カメラと警備員が装着するモバイルカメラによる監視環境を例として説明する。
【０２０４】
初期カメラ選択部１１５は、ショッピングセンター全体を監視できるように死角なくカメラを選択する。また、初期カメラ選択部１１５は、ユーザがＵＩ上で指定した場所或いは人、又は、商材の出入口のように監視において重要と判断される場所を撮影しているカメラをメインカメラに設定する。そして、初期カメラ選択部１１５は、メインカメラが撮影していない場所を補うようにサブカメラを選択する。
【０２０５】
例えば、図２０の例では、出入口付近を撮影しているカメラ１０１Ａがメインカメラとして選択され、ショッピングセンター全体を監視できるようにサブカメラ１０１Ｂ〜１０１Ｅが選択される。
【０２０６】
また、初期カメラ選択部１１５は、ショッピングセンターにおける固定の監視カメラが撮影できる領域及び死角となる領域を事前情報として取得する。なお、死角となる領域は警備員がモバイルカメラで撮影することにより補ってもよい。
【０２０７】
図２１は、ショッピングセンターの監視環境における追跡撮影モードでのカメラ選択を説明するための図である。
【０２０８】
図２１に示すように、にショッピングセンターの監視において、１人の被写体２０２に注目する場合を説明する。
【０２０９】
初期カメラ選択部１１５は、ユーザがＵＩ上で指定した被写体、又はシーン解析により異常行動している人物を特定し、特定した少なくとも１名の注目人物を対象被写体として選択する。また、初期カメラ選択部１１５は、注目人物とカメラとの距離、注目人物の正面に対するカメラの角度、又は注目人物の画像上の面積（画素数）を基にショッピングセンター内のカメラの順位付けを行い、上位から選択するカメラ台数分のカメラを選択する。この時、初期カメラ選択部１１５は、最上位のカメラをメインカメラとして選択する。
【０２１０】
図２１に示す例では、カメラ１０１Ａがメインカメラとして選択され、カメラ１０１Ｂ〜１０１Ｄがサブカメラとして選択される。
【０２１１】
なお、対象被写体は人物に限らず、出火場所又は商品の転倒などのイベント発生場所が対象被写体として設定されてもよい。
【０２１２】
なお、図１５から図２１のいずれの場合においても、サーバ１０３が端末装置１０２に配信する音声は、メインカメラで取得した音声であってもよいし、メインカメラに最も近い端末で取得した音声であってもよいし、ユーザがＵＩ上で指定した場所に最も近い端末で取得した音声であってもよいし、被写体に最も近い端末で取得した音声であってもよいし、最も音質の良い音声であってもよいし、複数端末から取得した音声を合成することで得られた音声であってもよい。
【０２１３】
以下、図６で説明した初期カメラ選択処理の詳細及び別の例について説明する。図２２は、初期カメラ選択処理のフローチャートである。
【０２１４】
まず、初期カメラ選択部１１５は、カメラ単体の評価値を算出する（Ｓ２０１）。そして、初期カメラ選択部１１５は、算出した評価値に基づき、一台のメインカメラを選択する。具体的には、初期カメラ選択部１１５は、評価値が最も高いカメラをメインカメラとして選択する。
【０２１５】
次に、初期カメラ選択部１１５は、選択するカメラの台数を取得する（Ｓ２０２）。例えば、初期カメラ選択部１１５は、ユーザにより指定された、又は予め設定されているカメラの台数を取得する。
【０２１６】
次に、初期カメラ選択部１１５は、カメラ位置による組み合わせ評価値（カメラ位置評価値）を算出する（Ｓ２０３）。具体的には、初期カメラ選択部１１５は、メインカメラと、選択台数−１台のサブカメラとの組合せごとに、カメラ位置に基づき評価値を算出する。
【０２１７】
次に、初期カメラ選択部１１５は、ステップＳ２０１及びＳ２０３で算出されたカメラ単体の評価値及びカメラ位置評価値を用いてカメラ群を選択する（Ｓ２０４）。具体的には、初期カメラ選択部１１５は、２つの評価値から得られた総合評価値が最も高いカメラ群を選択する。
【０２１８】
例えば、初期カメラ選択部１１５は、カメラ群に含まれる複数のカメラ各々のカメラ単体の評価値の総和と、当該カメラ群のカメラ位置評価値との積を総合評価値として算出する。なお、総合評価値の算出方法はこれに限らず、重み付け加算等の任意の手法を用いてよい。
【０２１９】
最後に、初期カメラ選択部１１５は、選択したカメラ群を出力する（Ｓ２０５）。
【０２２０】
なお、ここでは、初期カメラ選択部１１５は、先にメインカメラを選択し、当該選択カメラを含むカメラ群に対して、総合評価値に基づく判定を行っているが、全ての組み合わせから最も総合評価値が最も高い組み合わせを先に求め、その組み合わせに含まれる複数のカメラの中でカメラ単体の評価値が最も高いカメラをメインカメラとして選択してもよい。
【０２２１】
以下、カメラ単体の評価値算出処理（図２２のＳ２０１）について説明する。図２３は、カメラ単体の評価値算出処理のフローチャートである。
【０２２２】
まず、初期カメラ選択部１１５は、ポイントクラウドを取得する（Ｓ２１１）。ここでポイントクラウドとは、再構成された三次元モデル及びカメラ位置情報を含む。
【０２２３】
次に、初期カメラ選択部１１５は、三次元モデル上の対象被写体（対象物体）又は対象領域の点群にフラグを付与する（Ｓ２１２）。
【０２２４】
図２４は対象領域２１１の選択例を示す図である。図２５は対象被写体２１２の選択例を示す図である。また、対象被写体又は対象領域の選択方法としては、ユーザが手動で対象被写体又は対象領域を選択する方法と、自動的に対象被写体又は対象領域を選択する方法とがある。
【０２２５】
ユーザが手動で対象被写体又は対象領域を選択する場合、ユーザはＵＩ上から対象被写体又は対象領域を選択する。そして、初期カメラ選択部１１５は、二次元平面上の選択領域を三次元モデル上に逆投影することで、三次元モデル上の対象被写体又は対象領域を選択する。
【０２２６】
自動的に対象被写体又は対象領域を選択する場合であって、サーバ１０３が予めマップ情報を取得している場合、初期カメラ選択部１１５は、出入り口などの重点監視領域を対象領域として選択する。または、初期カメラ選択部１１５は、姿勢認識等により不審者を自動検知し、当該不審者を対象被写体として選択する。
【０２２７】
また、サーバ１０３が予めマップ情報を取得していない場合、初期カメラ選択部１１５は、人間の流量の多い領域ほど重要度が高いと判定し、人間の流量の多い領域を対象領域として選択する。または、初期カメラ選択部１１５は、姿勢認識等により不審者を自動検知し、当該不審者を対象被写体として選択する。
【０２２８】
次に、初期カメラ選択部１１５は、カメラ位置情報を用いて点群を二次元平面に投影することで画像を作成する（Ｓ２１３）。
【０２２９】
次に、初期カメラ選択部１１５は、投影された各画像中のフラグが付与されている領域を抽出する（Ｓ２１４）。
【０２３０】
次に、初期カメラ選択部１１５は、各画像中の抽出された領域の評価値を算出することで、当該画像（カメラ）の評価値を算出する（Ｓ２１５）。
【０２３１】
例えば、初期カメラ選択部１１５は、抽出された領域の画像中の大きさが大きいほど評価値を上げる。また、初期カメラ選択部１１５は、可視化領域の割合が大きいほど評価値を上げてもよい。ここで可視化領域とは、抽出された領域を実際に画像中で確認できる面積の割合であり、対象領域又は対象被写体の手前に他の物体等が存在する場合には、この割合が小さくなる。また、初期カメラ選択部１１５は、対象領域又は対象被写体の各部分に優先度を付け、優先度が高い部分がより多く又は大きく写っているほど評価値を上げてもよい。例えば、初期カメラ選択部１１５は、被写体の顔が写っている場合に評価値を上げてもよい。また、初期カメラ選択部１１５は、画像の鮮明度等が高いほど、又は歪みが小さいほど評価値を上げてもよい。
【０２３２】
以下、カメラ位置評価値算出処理（図２２のＳ２０３）について説明する。図２６は、カメラ位置評価値算出処理のフローチャートである。
【０２３３】
まず、初期カメラ選択部１１５は、選択モードを取得する（Ｓ２３１）。ここで、選択モードとは、俯瞰モードと、集中モードとを含む。例えば、初期カメラ選択部１１５は、ユーザにより指定された、又は予め設定されている選択モードを取得する。
【０２３４】
俯瞰モードは、図２７に示すように、対象被写体２１２（又は対象領域）を全方向から等間隔で撮影しているカメラ１０１Ａ〜１０１Ｄを選択するモードである。集中モードは、図２８に示すように、対象被写体２１２（又は対象領域）を特定の方向から撮影しているカメラ１０１Ａ〜１０１Ｄを集中的に選択するモードである。例えば、スポーツ観戦等で、スタジアムの全方向に観客席が設けられている場合には、俯瞰モードが有効である。また、コンサートなど、ステージの一方の方向のみに観客席が設けられている場合、又は、ユーザが特定の視点方向からの映像を集中的に見たい場合に集中モードが有効である。
【０２３５】
次に、初期カメラ選択部１１５は、選択された台数分のカメラを含むカメラ群を複数抽出する（Ｓ２３２）。次に、初期カメラ選択部１１５は、選択モードに応じて各カメラ群のカメラ位置評価値を算出する（Ｓ２３３）。
【０２３６】
具体的には、俯瞰モードの場合には、初期カメラ選択部１１５は、複数のカメラが目標代表点より一定角度毎に存在しているかどうかに応じてカメラ位置評価値を決定する。具体的には、初期カメラ選択部１１５は、複数のカメラが等間隔であるほど評価値を上げる。また、初期カメラ選択部１１５は、カメラの撮像範囲に対する対象被写体の写っている面積の割外が、所定値よりも高い場合には、位置情報を優先してもよい。つまり、初期カメラ選択部１１５は、対象被写体がアップになりすぎている場合には評価値を下げてもよい。
【０２３７】
また、集中モードの場合には、初期カメラ選択部１１５は、複数のカメラがどれだけ指定方向に存在しているかに応じてカメラ位置評価値を決定する。具体的には、初期カメラ選択部１１５は、複数のカメラが指定方向に集中しているほど評価値を上げる。
【０２３８】
なお、初期カメラ選択部１１５は、被写体の向き（顔の方向など）を考慮し、被写体がカメラの方向を向いているほど評価値を上げてもよい。この場合、例えば、顔認識等により被写体の向きを検知できる。
【０２３９】
また、カメラ群の抽出（Ｓ２３２）及びカメラ位置評価値の算出（Ｓ２３３）の方法としては以下の方法を用いることができる。
【０２４０】
例えば、初期カメラ選択部１１５は、総当りであらゆるカメラの組み合わせをカメラ群として抽出する。または、初期カメラ選択部１１５は、複数のカメラを、類似する構成（位置が近い等）のカメラ群が同一のクラスになるように分類し、各クラスの代表カメラの全ての組み合わせをカメラ群として抽出してもよい。または、初期カメラ選択部１１５は、カメラ単体の評価値に基づきメインカメラを選択し、当該メインカメラを含むあらゆるカメラの組み合わせをカメラ群として抽出してもよい。
【０２４１】
また、時間方向でのカメラ切り替え判定として以下の手法を用いてもよい。例えば、カメラ切替判定部１１６は、以前に選択されたカメラ群の情報を保持しておく。カメラ切替判定部１１６は、各時間において、カメラ群評価値を保持し、切り替えるかどうかを選択する。この際、時間方向には切り替え頻度を制御するパラメータを用意し、カメラ切替判定部１１６は、当該パラメータを用いて切り替えを行うかどうかを判定する。具体的には、カメラ切替判定部１１６は、当該パラメータを用いることで、前回の切り替えから経過した時間が短いほど、切り替えを行わないように制御する。例えば、カメラ切替判定部１１６は、前回の切り替えからの経過時間が第１時間未満の場合には、切り替えを行わないと判断し、第１時間以上かつ第２時間未満の場合には第１基準で判定を行い、第２時間以上の場合には第１基準より緩い（第１基準よりも切り替えると判定されやすい）第２基準で判定を行ってもよい。
【０２４２】
また、上述した図５の説明では、サーバ１０３は、初期カメラ選択処理（Ｓ１１１）の後、カメラ切替又はリセットが必要な場合に、カメラ切替及びリセットを行っているが、所定の周期で初期カメラ選択処理のみを繰り返し行ってもよい。この場合にも、上記と同様のパラメータを用い、切り替えが頻繁に行われないように制御してもよい。
【０２４３】
以上のように、本実施の形態に係るカメラ選択方法は、同一の場面を撮影しているＮ（２以上の自然数）台のカメラ１０１から、表示する映像の撮影元のＭ（ＭはＮより小さい自然数）台のカメラ１０１（選択カメラ）を選択するカメラ選択方法であって、図２９に示す処理を行う。
【０２４４】
まず、サーバ１０３は、Ｎ台のカメラ１０１の位置及び撮影方向を取得する（Ｓ２４１）。具体的には、サーバ１０３は、Ｎ台のカメラ１０１で撮影された画像を用いて三次元再構成を行うことで、Ｎ台のカメラ１０１の位置及び撮影方向を算出する。または、サーバ１０３は、Ｎ台のカメラ１０１の各々から送信された、当該カメラ１０１が備えるセンサ（例えばＧＰＳ、ＷｉＦｉ又はジャイロセンサ等）で得られた情報を用いて、Ｎ台のカメラの位置及び撮影方向を算出する。
【０２４５】
次に、サーバ１０３は、取得されたＮ台のカメラ１０１の位置及び撮影方向に基づき、Ｎ台のカメラ１０１からＭ台のカメラ１０１を選択する（Ｓ２４２）。具体的には、サーバ１０３は、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、Ｍ台のカメラ１０１により対象空間を死角なく撮影できるようにＭ台のカメラ１０１を選択する。つまり、サーバ１０３は、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、Ｍ台のカメラ１０１の撮影空間の重複がより少なく、かつ、Ｍ台のカメラ１０１の撮影空間が対象空間をカバーする割合がより大きくなるＭ台のカメラ１０１を優先して選択する。または、サーバ１０３は、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、対象空間又は対象被写体を複数の方向から等間隔に撮影しているＭ台のカメラ１０１を優先して選択する。
【０２４６】
なお、サーバ１０３は、ステップＳ２４１において、さらに、Ｎ台のカメラ１０１の焦点距離を取得し、ステップＳ２４２において、取得されたＮ台のカメラ１０１の位置、撮影方向及び焦点距離に基づき、Ｎ台のカメラ１０１からＭ台のカメラ１０１を選択してもよい。
【０２４７】
これにより、当該カメラ選択方法は、カメラの位置及び撮影方向に基づき、複数のカメラから自動的に適切なカメラを選択できる。
【０２４８】
また、図５に示すように、サーバ１０３は、さらに、ステップＳ２４２（Ｓ１１１）の後のフレームにおいて、選択されているＭ台のカメラ１０１のうちの一部のカメラを他のカメラに切り替えるか否かを判定する（Ｓ１１２）。具体的には、図８に示すように、サーバ１０３は、フレーム間で対象被写体を追跡し、対象被写体の追跡に失敗した場合に、選択するカメラを切り替えると判定する。より具体的には、サーバ１０３は、フレーム間で対象被写体の三次元モデルを対応付け、対応付けた対象被写体の三次元モデルを現時刻のフレームに投影し、得られたフレーム内に対象被写体が存在しない場合に、追跡が失敗したと判定する（Ｓ１４７）。
【０２４９】
また、サーバ１０３は、ステップＳ１１２において、切り替えると判定された場合に（Ｓ１１２でＹｅｓ）、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、上記一部のカメラの代わりの新たなカメラを選択する（Ｓ１１４）。
【０２５０】
また、サーバ１０３は、さらに、ステップＳ２４２（Ｓ１１１）の後のフレームにおいて、ステップＳ２４２（Ｓ１１１）を再度行うか否かを判定する（Ｓ１１５）。サーバ１０３は、ステップＳ１１５において、ステップＳ２４２（Ｓ１１１）を行うと判定された場合（Ｓ１１６でＹｅｓ）、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、Ｎ台のカメラ１０１からＭ台のカメラ１０１を再度選択する（Ｓ１１１）。
【０２５１】
また、ステップＳ１１２では、前回の切り替えからの経過時間が第１時間未満の場合には、切り替えを行わないと判断し、経過時間が第１時間以上かつ前記第１時間より長い第２時間未満の場合には上記一部のカメラを他のカメラに切り替えるか否かを第１基準で判定し、経過時間が第２時間以上の場合には上記一部のカメラを他のカメラに切り替えるか否かを第１基準より緩い第２基準で判定してもよい。
【０２５２】
また、図２２に示すように、サーバ１０３は、ステップＳ２４２（Ｓ１１１）において、Ｎ台のカメラで撮影された映像に基づき、Ｎ台のカメラの各々の第１評価値（カメラ単体の評価値）を算出する（Ｓ２０１）。また、サーバ１０３は、Ｎ台のカメラ１０１の位置及び撮影方向に基づき、Ｎ台のカメラ１０１に含まれるＭ台のカメラ１０１の組み合わせであるカメラ群の各々の第２評価値（カメラ位置評価値）を算出する（Ｓ２０３）。そして、サーバ１０３は、カメラ群に含まれるＭ台のカメラの第１評価値と、当該カメラ群の第２評価値とに基づき、当該カメラ群の第３評価値を算出し、第３評価値が最も高いカメラ群に含まれるＭ台のカメラを選択する（Ｓ２０４）。
【０２５３】
以上、実施の形態に係るカメラ選択方法及び映像配信システムついて説明したが、本発明は、この実施の形態に限定されるものではない。
【０２５４】
また、上記実施の形態に係る映像配信システムに含まれる各装置に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
【０２５５】
また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２５６】
上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵ又はプロセッサなどのプログラム実行部が、ハードディスク又は半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【０２５７】
言い換えると、映像配信システムに含まれる各装置は、処理回路（ｐｒｏｃｅｓｓｉｎｇ  ｃｉｒｃｕｉｔｒｙ）と、当該処理回路に電気的に接続された（当該処理回路からアクセス可能な）記憶装置（ｓｔｏｒａｇｅ）とを備える。処理回路は、専用のハードウェア及びプログラム実行部の少なくとも一方を含む。また、記憶装置は、処理回路がプログラム実行部を含む場合には、当該プログラム実行部により実行されるソフトウェアプログラムを記憶する。処理回路は、記憶装置を用いて、上記実施の形態に係るカメラ選択方法を実行する。
【０２５８】
さらに、本発明は上記ソフトウェアプログラムであってもよいし、上記プログラムが記録された非一時的なコンピュータ読み取り可能な記録媒体であってもよい。また、上記プログラムは、インターネット等の伝送媒体を介して流通させることができるのは言うまでもない。
【０２５９】
また、上記で用いた数字は、全て本発明を具体的に説明するために例示するものであり、本発明は例示された数字に制限されない。
【０２６０】
また、上記のカメラ選択方法等に含まれるステップが実行される順序は、本発明を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
【０２６１】
以上、本発明の一つ又は複数の態様に係る映像配信システム、及びカメラ選択方法について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の一つ又は複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【０２６２】
本発明は、複数のカメラで撮影された映像を配信する映像配信システムに適用でききる。
【符号の説明】
【０２６３】
１００  映像配信システム
１０１、１０１Ａ、１０１Ｂ、１０１Ｃ、１０１Ｄ、１０１Ｅ、１０１Ｆ  カメラ
１０２  端末装置
１０３  サーバ
１０４Ａ、１０４Ｂ  ネットワーク
１０５  モニタ
１０６  ユーザ
１１１  受信部
１１２  蓄積部
１１３  制御部
１１４  カメラ情報算出部
１１５  初期カメラ選択部
１１６  カメラ切替判定部
１１７  切替カメラ選択部
１１８  リセット判定部
１１９  送信部
２０１Ａ、２０１Ｂ、２０１Ｃ  フレーム
２０２、２０２Ａ、２０２Ｂ  被写体
２０３Ａ、２０３Ｂ  領域
２１１  対象領域
２１２  対象被写体
【図１】
0006621063.tif 000005
【図２】
0006621063.tif 000006
【図３】
0006621063.tif 000007
【図４】
0006621063.tif 000008
【図５】
0006621063.tif 000009
【図６】
0006621063.tif 000010
【図７】
0006621063.tif 000011
【図８】
0006621063.tif 000012
【図９】
0006621063.tif 000013
【図１０】
0006621063.tif 000014
【図１１】
0006621063.tif 000015
【図１２】
0006621063.tif 000016
【図１３】
0006621063.tif 000017
【図１４】
0006621063.tif 000018
【図１５】
0006621063.tif 000019
【図１６】
0006621063.tif 000020
【図１７】
0006621063.tif 000021
【図１８】
0006621063.tif 000022
【図１９】
0006621063.tif 000023
【図２０】
0006621063.tif 000024
【図２１】
0006621063.tif 000025
【図２２】
0006621063.tif 000026
【図２３】
0006621063.tif 000027
【図２４】
0006621063.tif 000028
【図２５】
0006621063.tif 000029
【図２６】
0006621063.tif 000030
【図２７】
0006621063.tif 000031
【図２８】
0006621063.tif 000032
【図２９】
0006621063.tif 000033