(57)【要約】【課題】多視点画像を用いたサービスの利便性を向上させることができるようにする。【解決手段】視点が互いに異なる複数の画像からなる多視点画像のデータである多視点画像データを符号化する符号化部と、前記符号化部により前記多視点画像データが符号化された多視点画像符号化データに、前記多視点画像の各視点の相対位置関係を示す配列情報と、前記多視点画像の視点数を示す眼数情報とを関連付ける関連付け処理部とを備える。本開示は、例えば、画像処理装置に適用することができる。【選択図】図９
2020078079.tif 000002
【特許請求の範囲】
【請求項１】
視点が互いに異なる複数の撮像画像からなる多視点画像を取得する撮像制御部と、
サーバから互いに異なる複数の仮想レンズの、シミュレーションに関する情報を取得する伝送制御部と、
前記複数の仮想レンズの情報に対応する複数の仮想レンズ選択部を表示する表示制御を行う表示制御部と、
前記複数の仮想レンズ選択部に対するユーザからの仮想レンズの選択を受け付けるユーザ指示受付処理部と、
前記ユーザにより選択された前記仮想レンズの情報および前記多視点画像に基づいて、仮想撮像画像を生成する仮想撮像画像生成部と
を備える画像処理装置。
【請求項２】
視点が互いに異なる複数の撮像画像からなる多視点画像を取得し、
サーバから互いに異なる複数の仮想レンズの、シミュレーションに関する情報を取得し、
前記複数の仮想レンズの情報に対応する複数の仮想レンズ選択部を表示し、
前記複数の仮想レンズ選択部に対するユーザからの仮想レンズの選択を受け付け、
前記ユーザにより選択された前記仮想レンズの情報および前記多視点画像に基づいて、仮想撮像画像を生成する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は画像処理装置および方法に関し、特に、多視点画像を用いたサービスの利便性を向上させることができるようにした画像処理装置および方法に関する。
【背景技術】
【０００２】
視点の異なる複数の画像を用いて測定対象（被写体）までの距離を測定する技術が知られている。例えば、ステレオマッチングと呼ばれる手法を用いた距離算出方法が提案されている（例えば、特許文献１参照）。
【０００３】
そして、このようなステレオマッチングの手法を用いて、視点が互いに異なる複数の画像からなる多視点画像から、その多視点画像における被写体までの距離を示すデプスデータを求め、そのデプスデータを用いて多視点画像を重ね合わせて画像を生成し、その画像をユーザに提供することが考えられた。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１１−１７１８５８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、このような多視点画像を用いたサービスとして、さらなる利便性の向上が望まれた。
【０００６】
本開示は、このような状況に鑑みてなされたものであり、多視点画像を用いたサービスの利便性を向上させることができるようにするものである。
【課題を解決するための手段】
【０００７】
本技術の画像処理装置は、視点が互いに異なる複数の撮像画像からなる多視点画像を取得する撮像制御部と、サーバから互いに異なる複数の仮想レンズの、シミュレーションに関する情報を取得する伝送制御部と、前記複数の仮想レンズの情報に対応する複数の仮想レンズ選択部を表示する表示制御を行う表示制御部と、前記複数の仮想レンズ選択部に対するユーザからの仮想レンズの選択を受け付けるユーザ指示受付処理部と、前記ユーザにより選択された前記仮想レンズの情報および前記多視点画像に基づいて、仮想撮像画像を生成する仮想撮像画像生成部とを備える画像処理装置である。
【０００８】
本技術の画像処理方法は、視点が互いに異なる複数の撮像画像からなる多視点画像を取得し、サーバから互いに異なる複数の仮想レンズの、シミュレーションに関する情報を取得し、前記複数の仮想レンズの情報に対応する複数の仮想レンズ選択部を表示し、前記複数の仮想レンズ選択部に対するユーザからの仮想レンズの選択を受け付け、前記ユーザにより選択された前記仮想レンズの情報および前記多視点画像に基づいて、仮想撮像画像を生成する画像処理方法である。
【０００９】
本技術においては、視点が互いに異なる複数の撮像画像からなる多視点画像が取得され、サーバから互いに異なる複数の仮想レンズの、シミュレーションに関する情報が取得され、その複数の仮想レンズの情報に対応する複数の仮想レンズ選択部が表示され、その複数の仮想レンズ選択部に対するユーザからの仮想レンズの選択が受け付けられ、そのユーザにより選択された仮想レンズの情報および多視点画像に基づいて、仮想撮像画像が生成される。
【図面の簡単な説明】
【００１０】
【図１】多視点画像利用サービスプラットフォームの例を説明する図である。
【図２】多視点画像を利用するアプリケーションの例を説明する図である。
【図３】多視点画像利用サービス提供システムの主な構成例を示す図である。
【図４】端末装置の主な構成例を示す図である。
【図５】撮像部の概要を説明する図である。
【図６】サーバの主な構成例を示す図である。
【図７】端末装置およびサーバが有する機能を説明する機能ブロック図である。
【図８】サーバで管理される情報の例を示す図である。
【図９】多視点画像利用サービス提供処理の流れの例を示すフローチャートである。
【図１０】多視点画像およびデプスデータの例を示す図である。
【図１１】多視点画像ファイルの主な構成例を示す図である。
【図１２】カメラ配列の例を説明する図である。
【図１３】メタデータの例を説明する図である。
【図１４】デプス検出処理の流れの例を説明するフローチャートである。
【図１５】多視点画像利用サービス提供システムの他の構成例を示す図である。
【図１６】アプリケーション提供サーバの主な構成例を示す図である。
【図１７】端末装置、サーバ、アプリケーション提供サーバが有する機能を説明する機能ブロック図である。
【図１８】多視点画像利用サービス提供処理の流れの、他の例を示すフローチャートである。
【図１９】情報表示例を示す図である。
【図２０】多視点画像利用サービス提供システムの、さらに他の構成例を示す図である。
【図２１】仮想レンズ処理の流れの様子の例を説明する図である。
【図２２】端末装置およびサーバが有する機能を説明する機能ブロック図である。
【図２３】多視点画像利用サービス提供処理の流れの、さらに他の例を示すフローチャートである。
【図２４】仮想レンズ選択の様子の例を説明する図である。
【図２５】仮想レンズ処理の流れの例を説明するフローチャートである。
【図２６】レンズプロファイルの例を説明する図である。
【図２７】多視点画像利用サービス提供システムの、さらに他の構成例を示す図である。
【図２８】家具のレイアウトの様子の例を説明する図である。
【図２９】レイアウトの他の例を説明する図である。
【図３０】端末装置、サーバ、家具販売サーバが有する機能を説明する機能ブロック図である。
【図３１】多視点画像利用サービス提供処理の流れの、さらに他の例を示すフローチャートである。
【図３２】多視点画像利用サービス提供処理の流れのさらに他の例を示す、図３１に続くフローチャートである。
【図３３】多視点画像利用サービス提供処理の流れのさらに他の例を示す、図３２に続くフローチャートである。
【図３４】家具画像配置処理の流れの例を説明するフローチャートである。
【図３５】家具配置更新の様子の例を説明する図である。
【図３６】家具配置更新処理の流れの例を説明するフローチャートである。
【図３７】接地判定の様子の例を説明する図である。
【図３８】接地判定処理の流れの例を説明するフローチャートである。
【図３９】計測の様子の例を説明する図である。
【図４０】計測処理の流れの例を説明するフローチャートである。
【図４１】照明のシミュレーションの様子の例を説明する図である。
【図４２】照明処理の流れの例を説明するフローチャートである。
【図４３】動線案内の様子の例を説明する図である。
【図４４】動線案内処理の流れの例を説明するフローチャートである。
【図４５】人物画像配置の例を説明する図である。
【図４６】人物画像配置処理の流れの例を説明するフローチャートである。
【図４７】家具リスト制限処理の流れの例を説明するフローチャートである。
【発明を実施するための形態】
【００１１】
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（多視点画像利用サービスプラットフォーム）
２．第２の実施の形態（多視点画像の管理）
３．第３の実施の形態（アプリケーション販売）
４．第４の実施の形態（仮想レンズ処理）
５．第５の実施の形態（物販支援）
６．その他
【００１２】
＜１．第１の実施の形態＞
＜多視点画像利用サービスプラットフォーム＞
図１は、多視点画像利用サービスプラットフォームの例を説明する図である。図１に示される多視点画像利用サービスプラットフォーム１００は、視点が互いに異なる複数の画像からなる多視点画像を用いたサービスをユーザに提供する基礎的な構造・環境である。多視点画像利用サービスプラットフォーム１００は、例えば、クラウドストレージ１０１、アプリケーションマーケット１０２等の機能を有する。
【００１３】
クラウドストレージ１０１は、多視点画像のデータである多視点画像データ１１１を記憶し、管理するサービスである。例えば、多視点画像利用サービスプラットフォームに登録済みのユーザが多視点撮像装置１２１を操作して、被写体を撮像し、視点が互いに異なる複数の撮像画像を多視点画像として得る。そして、そのユーザが多視点撮像装置１２１を操作して、その多視点画像データを多視点画像利用サービスプラットフォーム１００に供給する。クラウドストレージ１０１は、供給されたその多視点画像データを記憶し、ユーザ毎に管理する。
【００１４】
また、クラウドストレージ１０１は、必要に応じて、多視点画像データ等に基づいて、その多視点画像データに関連するデータを生成することもできる。さらに、クラウドストレージ１０１は、ユーザ等からの要求に応じて、その管理している多視点画像データを、ユーザが操作する端末装置や、後述するアプリケーションに提供することもできる。
【００１５】
アプリケーションマーケット１０２は、多視点画像データを利用して何らかの処理を行い、多視点画像を用いたサービスをユーザに提供するアプリケーション１１２を、ユーザに提供したり販売したり実行したりするサービスである。つまり、このアプリケーション１１２は、多視点画像利用サービスプラットフォーム１００により実行されてもよいし、端末装置において実行されてもよい。
【００１６】
このようなアプリケーション１１２が実行されることにより、ユーザには、多視点画像を用いたゲーム、空間合成、レンズシミュレーション、空間認識、物販支援等の、利便性の高い様々なサービスが提供される。
【００１７】
アプリケーション１１２が提供するサービスは、多視点画像を用いるものであればどのようなものであってもよい。例えば、レンズシミュレーションは、仮想の光学系をシミュレーション（模擬的に現出）し、多視点画像を用いて、その仮想の光学系を用いて被写体を撮像した仮想の撮像画像を生成するサービスである。その場合、アプリケーション１１２は、例えば、図２のＡに示されるような、仮想のレンズ１５０を設定し、その仮想のレンズ１５０に入射する被写体からの入射光である光線ベクトル１５１、仮想のレンズ１５０を透過した後の入射光である光線ベクトル１５２、および、光線ベクトル１５２から仮想の撮像画像を得る仮想のイメージセンサ１５３等をシミュレーションする（模擬的に現出する）。そして、アプリケーション１１２は、以上のようなシミュレーションに基づいて、多視点画像から仮想の撮像画像を生成し、ユーザに提供する。また、アプリケーション１１２は、設定する仮想のレンズ１５０の選択や販売等を行うこともできる。
【００１８】
レンズシミュレーションは、仮想のレンズを設定することができるので、任意の仕様の光学系をシミュレーションすることができる。すなわち、レンズシミュレーションは、実在する光学系であっても非現実的な光学系であってもシミュレーションすることができる。したがって、このようなサービスが提供されることにより、ユーザは、多様な光学系により得られる撮像画像を再現することができる。例えば、ユーザは、このようなレンズシミュレーションにより、多視点画像を構成する各撮像画像を得た光学系よりも大口径の光学系を用いた撮像画像を容易に得ることができる。例えば、ユーザは、このようなレンズシミュレーションにより、多視点画像の各画像よりも高解像度な画像、広角な画像、画角が狭く焦点距離が遠い画像等をより容易に得ることができる。さらに、例えば、ユーザは、このようなレンズシミュレーションにより、高級なレンズを用いた撮像画像や、非現実的な光学系を用いた撮像画像を容易に得ることもできる。すなわち、ユーザは、安価に多様な撮像画像を得ることができる。
【００１９】
また、例えば、物販支援は、多視点画像を用いて、物品の販売を支援するサービスである。販売する物品や支援の仕方はどのようなものであってもよい。例えば、販売する物品が家具であるとし、図２のＢに示されるように、撮像画像に家具の画像を仮想的に配置するサービスであってもよい。その場合、アプリケーション１１２は、多視点画像の各撮像画像を重ね合わせて撮像画像を生成し、その撮像画像上に家具の画像を、その３次元モデリングデータ（3Dモデリングデータとも称する）と、多視点画像における被写体までの距離を示すデプスデータとを用いて配置し、その合成画像をユーザに提供する。また、アプリケーション１１２は、配置する家具やその位置を、ユーザの操作に基づいて設定する。
【００２０】
このようなサービスにより、ユーザは、例えば、自身の部屋を撮像し、その撮像画像（すなわち自分の部屋の画像）上の所望の位置に、家具の画像を配置することができる。したがって、ユーザは、購入前にレイアウトをより正確に想定することができる。つまり、このようなサービスにより、「購入した家具が自分の部屋に設置できないのではないか」、「購入した家具が自分の部屋に合わないのではないか」等といった、ユーザの購入前の不安を低減させることができ、ユーザの購買意欲を向上させることができる。すなわち、アプリケーション１１２は、家具の販売を支援することができる。
【００２１】
以上のように、多視点画像利用サービスプラットフォーム１００は、単に多視点画像から１枚の画像を生成して提供するだけでなく、ユーザや多視点画像に関するデータを管理するとともに、アプリケーションの販売やアプリケーションを用いたサービスの提供を行うことができるので、ユーザにとってより利便性の高い、多様なサービスを提供することができる。つまり、多視点画像利用サービスプラットフォーム１００は、多視点画像を用いたサービスの利便性を向上させることができる。
【００２２】
以上において、多視点画像は、複数の撮像画像よりなるように説明したが、多視点画像を構成する画像数は任意である。また、多視点画像を構成する画像の一部若しくは全部、または、各画像の一部若しくは全部が、人工的に描かれたコンピュータグラフィック画像のような非現実の画像であってもよい（つまり、多視点画像が撮像画像以外の画像を含むようにしてもよい）。
【００２３】
また、多視点画像利用サービスプラットフォーム１００がサービスを提供する端末装置は、多視点画像の所有者であるユーザが操作する多視点撮像装置１２１であってもよいし、そのユーザが操作する多視点撮像装置１２１以外の端末装置であってもよいし、そのユーザが多視点画像の使用を許可した他のユーザが操作する端末装置であってもよい。
【００２４】
さらに、多視点画像利用サービスプラットフォーム１００の物理的構成は任意である。例えば、１台のサーバにより構成されても良いし、複数のサーバにより構成されても良い。また、例えば、多視点画像利用サービスプラットフォーム１００の機能の一部または全部を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとるようにしてもよい。さらに、多視点画像利用サービスプラットフォーム１００の機能の一部または全部を、端末装置において実行するようにしてもよい。
【００２５】
以下に、多視点画像利用サービスプラットフォーム１００が提供するサービスの例の詳細について説明する。
【００２６】
＜２．第２の実施の形態＞
＜多視点画像の管理＞
第１の実施の形態において説明したように、多視点画像利用サービスプラットフォーム１００は、例えば、クラウドストレージ１０１の機能を有し、多視点画像データを記憶し、管理するサービスを提供することができる。本実施の形態において、この多視点画像の管理について説明する。
【００２７】
＜多視点画像利用サービス提供システム＞
図３は、多視点画像利用サービス提供システムの主な構成例を示す図である。図３に示される多視点画像利用サービス提供システム２００は、本技術を適用したシステムの一例であり、サーバ２０２が、ネットワーク２１０を介して接続される端末装置２０１に対して、多視点画像を利用したサービスを提供するシステムである。つまり、多視点画像利用サービス提供システム２００は、多視点画像利用サービスプラットフォーム１００を実現する構成の一例である。
【００２８】
図３には、多視点画像利用サービスプラットフォーム１００が提供するサービスの内、多視点画像の管理に関するサービスの提供に関する構成の例を示している。図３において、多視点画像利用サービス提供システム２００は、ネットワーク２１０に接続される端末装置２０１およびサーバ２０２を有する。
【００２９】
ネットワーク２１０は、例えば、インターネットやローカルエリアネットワーク等の任意のネットワークである。ネットワーク２１０は、有線若しくは無線またはその両方により構成される１つ若しくは複数のネットワークよりなる。端末装置２０１およびサーバ２０２は、それぞれ、有線若しくは無線によりそのネットワーク２１０に接続される。
【００３０】
端末装置２０１は、被写体を撮像することにより視点が互いに異なる複数の撮像画像からなる多視点画像を得る多視点撮像を行う。そして、端末装置２０１は、その多視点画像データを符号化し、多視点符号化データを生成する。端末装置２０１は、生成した多視点符号化データをサーバ２０２に伝送する。
【００３１】
サーバ２０２は、予め登録されたユーザを管理する。また、サーバ２０２は、伝送された多視点画像符号化データを取得し、その多視点画像のデプスを検出し、デプスデータを生成する。さらに、サーバ２０２は、それらの多視点画像に関するデータをファイル化し、多視点画像ファイルを生成する。そして、サーバ２０２は、生成した多視点画像ファイルを記憶（保存）し、管理する。このサーバ２０２により管理される多視点画像ファイルは、必要に応じて、端末装置２０１や実行されるアプリケーションに提供される。
【００３２】
＜端末装置＞
図４は、端末装置２０１の主な構成例を示すブロック図である。図４に示されるように、端末装置２０１において、CPU（Central Processing Unit）２２１、ROM（Read Only Memory）２２２、RAM（Random Access Memory）２２３は、バス２２４を介して相互に接続されている。
【００３３】
バス２２４にはまた、入出力インタフェース２３０も接続されている。入出力インタフェース２３０には、入力部２３１、出力部２３２、記憶部２３３、通信部２３４、およびドライブ２３５が接続されている。
【００３４】
入力部２３１は、ユーザ入力等の外部の情報を受け付ける入力デバイスよりなる。例えば、入力部２３１には、操作ボタン、タッチパネル、マイクロホン、入力端子等が含まれる。また、加速度センサ、光センサ、温度センサ等の各種センサが入力部２３１に含まれるようにしてもよい。出力部２３２は、画像や音声等の情報を出力する出力デバイスよりなる。例えば、出力部２３２には、ディスプレイ、スピーカ、出力端子等が含まれる。
【００３５】
記憶部２３３は、例えば、ハードディスク、RAMディスク、不揮発性メモリなどよりなる。通信部２３４は、例えば、ネットワークインタフェースよりなる。ドライブ２３５は、例えば磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア２４１を駆動する。
【００３６】
CPU２２１は、例えば、記憶部２３３に記憶されているプログラムを、入出力インタフェース２３０およびバス２２４を介して、RAM２２３にロードして実行することにより、各種処理を行う。RAM２２３にはまた、CPU２２１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【００３７】
CPU２２１が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア２４１に記録して端末装置２０１に提供することができる。その場合、プログラムは、リムーバブルメディア２４１をドライブ２３５に装着することにより、入出力インタフェース２３０を介して、記憶部２３３にインストールすることができる。
【００３８】
また、このプログラムは、LAN、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して端末装置２０１に提供することもできる。その場合、プログラムは、有線または無線の伝送媒体を介して、通信部２３４で受信し、記憶部２３３にインストールすることができる。
【００３９】
その他、このプログラムは、ROM２２２や記憶部２３３に、あらかじめインストールしておくこともできる。
【００４０】
入出力インタフェース２３０には、さらに、撮像部２３６が接続される。撮像部２３６は、例えばCPU２２１に制御されて、被写体を撮像して視点が互いに異なる複数の撮像画像からなる多視点画像を得る多視点撮像を行う。撮像部２３６は、カメラモジュール２４２−１乃至カメラモジュール２４２−Ｎを有する。Ｎは２以上の任意の整数である。カメラモジュール２４２−１乃至カメラモジュール２４２−Ｎは、互いに同様の構成を有し、同様の処理を行うモジュールである。以下において、カメラモジュール２４２−１乃至カメラモジュール２４２−Ｎを互いに区別して説明する必要が無い場合、単に、カメラモジュール２４２と称する。
【００４１】
カメラモジュール２４２は、イメージセンサ（撮像素子）を含む光学系を有し、被写体を撮像することにより撮像画像を得るモジュールである。各カメラモジュール２４２は、図５に示されるC11，C12，C13，C21，C22，C23，C31，C32，C33のように、平面若しくは曲面上の互いに異なる位置に配置されており、互いに異なる視点を有する。つまり、カメラモジュール２４２−１乃至カメラモジュール２４２−Ｎは、被写体を撮像し、互いに異なる視点の撮像画像を得る。
【００４２】
撮像部２３６は、CPU２２１に制御される等して、このようなカメラモジュール２４２−１乃至カメラモジュール２４２−Ｎを用いて被写体を撮像し、互いに異なる視点のＮ枚の（複数の）撮像画像を得る。撮像部２３６は、その複数の撮像画像を多視点画像（多視点画像データ）として得る。すなわち、撮像部２３６は、各カメラモジュール２４２を用いて、多視点撮像を行う。
【００４３】
撮像部２３６は、CPU２２１に制御される等して、得られた多視点画像データを、入出力インタフェース２６０やバス２２４等を介してCPU２２１やRAM２２３に供給したり、入出力インタフェース２６０を介して記憶部２３３に供給して記憶させたり、出力部２３２に供給して出力させたり、通信部２３４に供給して外部に供給させたりする。
【００４４】
各カメラモジュール２４２の画角や撮像方向は、互いに同一であってもよいし、同一でなくてもよい。例えば、一部のカメラモジュール２４２において、画角若しくは撮像方向またはその両方が、他のカメラモジュール２４２のそれと異なるようにしてもよい。また、例えば、全てのカメラモジュール２４２の画角や撮像方向が互いに異なるようにしてもよい。ただし、後述するように多視点撮像画像は、互いに重ね合わせて画像を生成するのに用いられたりするので、各カメラモジュール２４２の撮像の範囲（すなわち、各カメラモジュール２４２の被写体）は、少なくともその一部が互いに重複するようにするのが望ましい。
【００４５】
なお、多視点撮像において、各カメラモジュール２４２の撮像タイミング、露光、絞り等の撮像条件は、互いに同一であってもよいし、同一でなくてもよい。また、多視点撮像により得られる多視点画像（多視点画像を構成する各撮像画像）は、静止画像であってもよいし、動画像であってもよい。
【００４６】
また、撮像部２３６は、端末装置２０１の筐体に、その構成の１つとして製造時に設けられるものであってもよいし、端末装置２０１とは別体の、端末装置２０１に接続可能なモジュールとして構成されるようにしてもよい。例えば、撮像部２３６が、端末装置２０１の外部端子等に接続し、端末装置２０１の制御により動作する外付け付属部品であってもよい。さらに、撮像部２３６は、端末装置２０１とは別体の独立した装置としてもよい。例えば、撮像部２３６が、カメラ等の端末装置２０１とは別の撮像装置であり、有線若しくは無線の通信により端末装置２０１に接続され、多視点撮像により得られた多視点画像を端末装置２０１に供給するようにしてもよい。
【００４７】
＜サーバ＞
図６は、サーバ２０２の主な構成例を示すブロック図である。図６に示されるように、サーバ２０２において、CPU２５１、ROM２５２、RAM２５３は、バス２５４を介して相互に接続されている。
【００４８】
バス２５４にはまた、入出力インタフェース２６０も接続されている。入出力インタフェース２６０には、入力部２６１、出力部２６２、記憶部２６３、通信部２６４、およびドライブ２６５が接続されている。
【００４９】
入力部２６１は、ユーザ入力等の外部の情報を受け付ける入力デバイスよりなる。例えば、入力部２６１には、操作ボタン、タッチパネル、マイクロホン、カメラ、入力端子等が含まれる。また、加速度センサ、光センサ、温度センサ等の各種センサが入力部２６１に含まれるようにしてもよい。出力部２６２は、画像や音声等の情報を出力する出力デバイスよりなる。例えば、出力部２６２には、ディスプレイ、スピーカ、出力端子等が含まれる。
【００５０】
記憶部２６３は、例えば、ハードディスク、RAMディスク、不揮発性メモリなどよりなる。通信部２６４は、例えば、ネットワークインタフェースよりなる。ドライブ２６５は、例えば磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア２７１を駆動する。
【００５１】
CPU２５１は、例えば、記憶部２６３に記憶されているプログラムを、入出力インタフェース２６０およびバス２５４を介して、RAM２５３にロードして実行することにより、各種処理を行う。RAM２５３にはまた、CPU２５１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【００５２】
CPU２５１が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア２７１に記録してサーバ２０２に提供することができる。その場合、プログラムは、リムーバブルメディア２７１をドライブ２６５に装着することにより、入出力インタフェース２６０を介して、記憶部２６３にインストールすることができる。
【００５３】
また、このプログラムは、LAN、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介してサーバ２０２に提供することもできる。その場合、プログラムは、有線または無線の伝送媒体を介して、通信部２６４で受信し、記憶部２６３にインストールすることができる。
【００５４】
その他、このプログラムは、ROM２５２や記憶部２６３に、あらかじめインストールしておくこともできる。
【００５５】
＜機能ブロック＞
端末装置２０１は、CPU２２１が所定のプログラムを実行することにより、図７のＡに機能ブロックとして示される機能を有する。図７のＡに示されるように、CPU２２１は、撮像制御部２８１、メタデータ生成部２８２、符号化部２８３、および伝送制御部２８４等の機能ブロックを有する。
【００５６】
撮像制御部２８１は、多視点撮像の制御に関する処理を行う。メタデータ生成部２８２は、多視点撮像により得られた多視点画像のメタデータの生成に関する処理を行う。符号化部２８３は、多視点画像の符号化に関する処理を行う。伝送制御部２８４は、多視点画像データ等の伝送制御に関する処理を行う。
【００５７】
また、サーバ２０２は、CPU２５１が所定のプログラムを実行することにより、図７のＢに機能ブロックとして示される機能を有する。図７のＢに示されるように、CPU２５１は、ユーザ管理部２９１、取得制御部２９２、デプス検出部２９３、ファイル生成部２９４、およびデータ管理部２９５等の機能ブロックを有する。
【００５８】
ユーザ管理部２９１は、多視点画像利用サービスを提供するユーザの管理に関する処理を行う。例えば、ユーザ管理部２９１は、各ユーザについて、図８のＡに示されるようなユーザ管理情報３０１を記憶部２６３に記憶し、管理する。図８のＡに示されるように、このユーザ管理情報３０１には、例えば、ユーザの識別情報であるユーザID、ユーザの購入履歴、ユーザに関連付けられた（ユーザに登録された）ファイル管理情報の識別情報であるファイル管理情報識別情報、例えば統計分析等によりユーザが嗜好するセッティングを予想した情報であるお好みセッティング予想、ユーザが有するポイント（若しくはお金）、並びに、他のユーザに対して送った、若しくは、他のユーザから送られたコメント等が含まれる。もちろん、ユーザ管理情報３０１の内容は任意であり、上述した情報の一部が省略されても良いし、上述した以外の情報が含まれていても良い。
【００５９】
取得制御部２９２は、端末装置２０１から伝送される多視点画像データ等の情報の取得制御に関する処理を行う。デプス検出部２９３は、多視点画像のデプス値の検出に関する処理を行う。ファイル生成部２９４は、多視点画像データを含む各種データをファイル化した多視点画像ファイルの生成に関する処理を行う。
【００６０】
データ管理部２９５は、多視点画像ファイル等のデータの管理に関する処理を行う。例えば、データ管理部２９５は、各多視点画像ファイルについて、図８のＢに示されるようなファイル管理情報３０２を記憶部２６３に記憶し、管理する。図８のＢに示されるように、このファイル管理情報３０２には、例えば、多視点画像ファイルの識別情報である多視点画像ファイル識別情報、多視点画像ファイルに関連付けられた、多視点画像の編集結果である編集結果画像の識別情報である編集結果画像識別情報、並びに、多視点画像ファイルに関連付けられた、多視点画像を用いたアプリケーションの動作等の履歴であるアプリパラメータの識別情報であるアプリパラメータ識別情報等が含まれる。もちろん、ファイル管理情報３０２の内容は任意であり、上述した情報の一部が省略されても良いし、上述した以外の情報が含まれていても良い。
【００６１】
＜多視点画像利用サービス提供処理の流れ＞
以上のような構成の多視点画像利用サービス提供システムの端末装置２０１およびサーバ２０２は、多視点画像利用サービス提供処理を実行することにより、多視点画像を利用するサービスの提供、本実施の形態の場合、多視点画像の管理等のサービスの提供を行う。図９のフローチャートを参照して、これらの装置が実行する多視点画像利用サービス提供処理の流れの例を説明する。
【００６２】
ステップＳ１０１において、端末装置２０１の撮像制御部２８１は、撮像部２３６を制御して、被写体を多視点撮像し、多視点画像を得る。例えば、撮像制御部２８１は、多視点撮像により、図１０のＡに示されるような、視点が互いに異なる複数の撮像画像からなる多視点画像３１１を得る。
【００６３】
図９に戻り、多視点撮像により多視点画像データが得られると、ステップＳ１０２において、メタデータ生成部２８２は、多視点画像データのメタデータを生成する。メタデータの詳細については、後述するが、メタデータには、例えば、多視点画像の各視点の相対位置関係を示す配列情報と、多視点画像の視点数を示す眼数情報とが含まれる。つまり、メタデータ生成部２８２は、これらの配列情報や眼数情報を含むメタデータを生成し、それを多視点画像データに関連付ける。
【００６４】
ステップＳ１０３において、符号化部２８３は、多視点画像データを所定の符号化方法で符号化し、多視点画像符号化データを生成する。この符号化方法は、画像データを符号化する方法であればどのような方法であってもよい。例えば、JPEG（Joint Photographic Experts Group）やMPEG（Moving Picture Experts Group）等のような既存の符号化方法であってもよいし、新たな多視点画像専用の符号化方法であってもよい。なお、上述した多視点画像データのメタデータ（例えば、配列情報や眼数情報等）は、多視点画像データの符号化後、メタデータ生成部２８２によって、この多視点画像符号化データに関連付けられる（多視点画像符号化データのメタデータとなる）。
【００６５】
ステップＳ１０４において、伝送制御部２８４は、通信部２３４を制御して、ステップＳ１０３において生成された多視点画像符号化データを、ステップＳ１０２において生成されたメタデータとともにサーバ２０２に伝送させる。例えば、伝送制御部２８４は、多視点画像符号化データやメタデータをビットストリーム、または、ビットストリームの補助情報として伝送する。
【００６６】
ステップＳ１１１において、サーバ２０２の取得制御部２９２は、通信部２６４を制御して、ステップＳ１０４において端末装置２０１から伝送された多視点画像符号化データおよびそのメタデータを取得する。
【００６７】
ステップＳ１１２において、デプス検出部２９３は、ステップＳ１１１において取得された多視点画像符号化データを、ステップＳ１０３の符号化方法に対応する復号方法で復号する。
【００６８】
ステップＳ１１３において、デプス検出部２９３は、ステップＳ１１２において多視点画像符号化データが復号されて得られた多視点画像データを用いて、その多視点画像のデプスを検出し、デプスデータを生成する。例えば、デプス検出部２９３は、デプスデータとして、図１０のＢに示されるような、被写体までの距離を画素毎に輝度や色で表したデプスマップ３１２を生成する。なお、デプスの検出の詳細については、後述する。
【００６９】
図９に戻り、デプスデータが生成されると、デプス検出部２９３は、ステップＳ１１４において、デプスが検出された多視点画像データを符号化し、多視点画像符号化データを生成する。この符号化方法は、画像データを符号化する方法であればどのような方法であってもよい。例えば、JPEGやMPEG等のような既存の符号化方法であってもよいし、新たな多視点画像専用の符号化方法であってもよい。ステップＳ１０３の符号化方法と同一であってもよいし、同一でなくてもよい。デプス検出部２９３は、生成したデプスデータを、この多視点画像符号化データに関連付ける。
【００７０】
なお、このデプス検出（デプスデータの生成）は、サーバ２０２以外の任意の装置において行われるようにしてもよい。例えば、端末装置２０１において行われるようにしてもよい。その場合、端末装置２０１のCPU２２１が、デプス検出部２９３等の必要な機能ブロックを適宜有するようにすればよい。その場合、デプス検出部２９３は、符号化部２８３により多視点画像データが符号化される前（ステップＳ１０３の処理が実行される前）に、デプスを検出するようにすればよい。そして、ステップＳ１０３において、上述したように、符号化部２８３が多視点画像データを符号化し、デプス検出部２９３が多視点画像符号化データにデプスデータを関連付け、メタデータ生成部２８２が多視点画像符号化データにメタデータ（例えば、配列情報や眼数情報等）を関連付けるようにすればよい。
【００７１】
ステップＳ１１５において、ファイル生成部２９４は、ステップＳ１１４において生成された多視点画像符号化データ、そのメタデータ、およびステップＳ１１３において生成されたデプスデータを含む多視点画像ファイルを生成する。なお、この多視点画像ファイルのフォーマット形式は任意である。例えば、多視点画像が静止画像の場合、EXIF（Exchangeable Image File Format）ファイルフォーマットでファイル化されるようにしてもよい。また、例えば、多視点画像が動画像の場合、MP4（MPEG-4 Part 14）ファイルフォーマットでファイル化されるようにしてもよい。もちろん、これら以外のフォーマット形式でファイル化されるようにしてもよい。
【００７２】
例えば、ファイル生成部２９４は、図１１に示されるような構成の多視点画像ファイル３２１を生成する。図１１の例の場合、多視点画像ファイル３２１には、多視点画像符号化データ３３１、デプスデータ３３２、およびメタデータ３３３が含まれる。
【００７３】
多視点画像符号化データ３３１は、ステップＳ１１４において生成された多視点画像符号化データである。デプスデータ３３２は、ステップＳ１１３において生成されたデプスデータであり、多視点画像符号化データ３３１の多視点画像のデプスデータである。メタデータ３３３は、ステップＳ１０２において生成されたメタデータであり、多視点画像符号化データ３３１のメタデータである。
【００７４】
メタデータ３３３には、例えば、図１１に示されるように、カメラモジュール情報３４１、カメラ配列情報３４２、眼数情報３４３、キャリブレーション情報３４４、および基線長情報３４５が含まれる。
【００７５】
カメラモジュール情報３４１は、多視点画像を得る撮像に関する情報、すなわち、撮像部２３６の各カメラモジュール２４２に関する情報である。例えば、撮像部２３６にカメラモジュール２４２がＮ個設けられている場合、メタデータ３３３には、Ｎ個のカメラモジュール情報３４１が含まれる。カメラモジュール情報３４１には、例えば、図１１に示されるように、解像度、焦点距離、ISO感度、撮像方向、シャッタスピード、Ｆ値、および画角等の情報が含まれる。もちろん、カメラモジュール情報３４１の構成は任意であり、これらの情報の内、一部が省略されるようにしてもよいし、これら以外の情報が含まれるようにしてもよい。
【００７６】
カメラ配列情報３４２は、各カメラモジュール２４２の相対位置関係を示す情報である。すなわち、カメラ配列情報３４２は、多視点画像の各視点の相対位置関係を示す情報である。例えば、カメラ配列情報３４２は、図１２に示されるように、基準とするカメラモジュールC0からその他のカメラモジュールCx（図１２の例の場合、x=1乃至8）までの距離Lx（基準となる視点から各視点までの距離Lx）と、基準とするカメラモジュールC0からその他のカメラモジュールCxの向きRx（基準となる視点から各視点の向きRx）とを含む。
【００７７】
眼数情報３４３は、各カメラモジュール２４２の数（視点数）を示す情報である。キャリブレーション情報３４４は、各カメラモジュール２４２のばらつきを示す情報である。基線長情報３４５は、多視点画像における長さの基準となる情報である。
【００７８】
なお、メタデータ３３３の構成は任意であり、これらの情報の内、一部が省略されるようにしてもよいし、これら以外の情報が含まれるようにしてもよい。
【００７９】
図１３は、このようなメタデータの各データの構成例を示す図である。図１３のＡに示されるように、カメラモジュール情報３４１は、解像度、焦点距離、ISO感度、撮像方向、シャッタスピード、F値、および画角等の情報が、カメラモジュール２４２毎に示されるようにしてもよい。
【００８０】
各カメラモジュール２４２のこれらのパラメータを互いに異なる値とすると、例えば、多視点画像の各撮像画像を重ね合わせる際に、パラメータの値に応じて、重ね合わせる撮像画像の選択やその混合比等を制御することにより、より高画質な画像を得ることができる。例えば、これらのパラメータが所望の値に近い撮像画像のみを重ね合わせる、若しくは、そのパラメータがその所望の値に近い撮像画像をより強く重ね合わせる（その撮像画像の混合比を高くする）ことにより、そのパラメータがその所望の値に近い画像が得られやすくなる。そのため、パラメータを変更するための不要な画像処理を低減させることができるので、画像処理による画質の低減を抑制することができる（より高画質な画像を得ることができる）。
【００８１】
また、各撮像画像が、これらのパラメータについて多様な値をとることになるから、重ね合わせの結果得られる画像のパラメータをどのような値にするとしても、その所望の値に近い撮像画像が得られる。すなわち、パラメータの値に関わらず、より高画質な画像を得ることができる。
【００８２】
カメラ配列情報３４２は、上述したように各カメラモジュール２４２の配列を、図１１の例のように、相対位置関係（CN. LN. RN）で表すようにしてもよいし、図１３のＡの例のように、「Ｘ型」といった、予め定められた配列の型で表すようにしてもよい。図１１の例のようにすることにより、配列の自由度を向上させることができ、図１３の例のようにすることにより、メタデータの情報量の増大を抑制することができる。
【００８３】
また、眼数情報３４３は、図１３のＡに示される例のように、数字で示される。
【００８４】
キャリブレーション情報３４４は、例えば、多視点画像の各視点の位置を示す情報により構成されるようにしてもよい。図１３のＡの例の場合、キャリブレーション情報３４４は、各カメラモジュール２４２の座標情報（各カメラモジュールの中心座標を示す情報）により構成される。また、キャリブレーション情報３４４は、例えば、多視点画像の各画像の輝度を補正する情報により構成されるようにしてもよい。図１３のＢの例の場合、キャリブレーション情報３４４は、各カメラモジュール２４２の輝度補正データ情報により構成される。
【００８５】
基線長情報３４５は、例えば、多視点画像の基準となる視点から各視点までの距離を示す情報を含むようにしてもよい。図１３のＣの例の場合、基線長情報３４５は、基準となるカメラモジュール２４２から他のカメラモジュール２４２までの距離を示す情報を含む。
【００８６】
図９に戻り、ステップＳ１１６において、データ管理部２９５は、ステップＳ１１５において生成された多視点画像ファイルを、記憶部２６３に供給して記憶させ、その多視点画像ファイルのファイル管理情報３０２を生成して管理する。また、ユーザ管理部２９１は、記憶部２６３に記憶されている、当該ユーザのユーザ管理情報３０１を更新し、その多視点画像ファイルをユーザに登録する。
【００８７】
ステップＳ１１６の処理が終了すると、多視点画像利用サービス提供処理が終了する。
【００８８】
このような多視点画像利用サービス提供処理を実行することにより、ユーザは、多視点撮像により得られた多視点画像データのサーバ２０２への登録をより容易に行うことができる。また、多視点画像データが、その多視点画像に関する関連データ（デプスデータやメタデータ等）とともにファイル化されて管理されるので、ユーザは、自身が登録した多視点画像データをより容易に利用することができる。つまり、多視点画像利用サービス提供システム２００（多視点画像利用サービスプラットフォーム１００）は、多視点画像を用いたサービスの利便性を向上させることができる。
【００８９】
なお、以上においては、複数のカメラモジュール２４２を有する撮像部２３６を用いて多視点撮像を行い、多視点画像（多視点画像データ）を生成するように説明したが、多視点画像（多視点画像データ）の生成方法は任意である。例えば、単一の撮像素子と光学系を有する撮像部（すなわち、単一のカメラモジュール２４２を有する撮像部）を用いて撮像位置や撮像方向（すなわち視点）を移動させながら撮像（動画像撮像でもよいし、複数の静止画像撮像でもよい）を行うことにより、多視点画像を生成するようにしてもよい。その場合、撮像位置や撮像方向（視点）の変位に関する情報を、メタデータとして、多視点画像データ（多視点画像符号化データ）に関連付けるのが望ましい。
【００９０】
また、以上においては、ファイル生成部２９４が生成した多視点画像ファイルが、サーバ２０２の記憶部２６３に記憶されて管理されるように説明したが、多視点画像ファイルが管理される場所は任意である。例えば、多視点画像ファイルがサーバ２０２以外の装置（例えば、図示せぬファイル管理サーバ等）において記憶され、管理されるようにしてもよい。その場合、ファイル生成部２９４は、生成した多視点画像ファイルを、通信部２６４を介して、例えば、ビットストリーム、または、ビットストリームの補助情報として、その装置に伝送する。その場合、その装置が、サーバ２０２と通信して多視点画像ファイルを取得する通信部と、取得した多視点画像ファイルを記憶する記憶部と、その記憶部に記憶された多視点画像ファイルを管理し、必要に応じてその多視点画像ファイルを更新したり、端末装置２０１やサーバ２０２等の他の装置に供給したりする機能ブロックであるデータ管理部を有するようにすればよい。
【００９１】
さらに、以上においては、サーバ２０２において多視点画像ファイルが生成されるように説明したが、多視点画像ファイルの生成は、任意の装置において行われるようにしてもよい。例えば、端末装置２０１において行われるようにしてもよい。その場合、端末装置２０１のCPU２２１が、ファイル生成部２９４等の必要な機能ブロックを適宜有するようにすればよい。その場合、ファイル生成部２９４は、符号化部２８３により多視点画像データが符号化された後（ステップＳ１０３の処理後）に、多視点画像ファイルを生成するようにすればよい。そして、ステップＳ１０４において、伝送制御部２８４が多視点画像ファイルを、例えば、ビットストリーム、または、ビットストリームの補助情報として、サーバ２０２に伝送し、ステップＳ１１１において、取得制御部２９２が、通信部２６４を制御して、その多視点画像ファイルを取得するようにすればよい。
【００９２】
＜デプス検出処理の流れ＞
次に、図１４のフローチャートを参照して、図９のステップＳ１１３において実行されるデプス検出処理の流れの例を説明する。
【００９３】
デプス検出処理が開始されると、デプス検出部２９３は、ステップＳ１３１において、メタデータ３３３を取得する。ステップＳ１３２において、デプス検出部２９３は、各カメラモジュール２４２の解像度等に応じて、各撮像画像の解像度を補正する。
【００９４】
ステップＳ１３３において、デプス検出部２９３は、各カメラモジュールのシャッタスピード等に応じて、各撮像画像の輝度を補正する。ステップＳ１３４において、デプス検出部２９３は、各カメラモジュールの画角等に応じて、デプス演算に用いる領域を設定する。
【００９５】
ステップＳ１３５において、デプス検出部２９３は、基線長情報３４５等に基づいて、ディスパリティ評価時のズレ量を補正する。ステップＳ１３６において、デプス検出部２９３は、カメラ配列や眼数等に基づいて、基準カメラ、マッチング軸、および画像補間方法などを決定する。
【００９６】
ステップＳ１３７において、デプス検出部２９３は、キャリブレーション情報３４４に基づいて、各撮像画像を校正する。ステップＳ１３８において、デプス検出部２９３は、ステレオマッチングの繰り返し等によりデプス推定を行い、デプスデータを検出する。
【００９７】
デプスデータが検出されると、処理は図９に戻る。
【００９８】
以上のように、デプス検出処理が行われることにより、ユーザは、より容易にデプスデータを生成し、利用することができる。
【００９９】
＜３．第３の実施の形態＞
＜アプリケーション販売＞
第１の実施の形態において説明したように、多視点画像利用サービスプラットフォーム１００は、例えば、アプリケーションマーケット１０２において、アプリケーション１１２を販売するサービスを提供することができる。本実施の形態において、このアプリケーションの販売について説明する。
【０１００】
＜多視点画像利用サービス提供システム＞
図１５は、多視点画像利用サービス提供システムの主な構成例を示す図である。図１５に示される多視点画像利用サービス提供システム２００は、本技術を適用したシステムの一例であり、サーバ２０２が、ネットワーク２１０を介して接続される端末装置４０１に対して、多視点画像を利用したサービスを提供するシステムである。つまり、多視点画像利用サービス提供システム２００は、多視点画像利用サービスプラットフォーム１００を実現する構成の一例である。
【０１０１】
図１５には、多視点画像利用サービスプラットフォーム１００が提供するサービスの内、アプリケーション１１２の販売若しくは提供に関するサービスの提供に関する構成の例を示している。図１５において、多視点画像利用サービス提供システム２００は、ネットワーク２１０に接続される端末装置４０１、サーバ２０２、およびアプリケーション提供サーバ４０２を有する。
【０１０２】
ネットワーク２１０に有線若しくは無線により接続される端末装置４０１は、サーバ２０２と通信を行うことにより、アプリケーション１１２の購入に関する手続きを行う。端末装置４０１は、端末装置２０１であってもよいし、端末装置２０１と異なる端末装置であってもよい。端末装置４０１は、基本的に端末装置２０１と同様の構成を有する。したがって、図４に示される構成は、端末装置４０１にも適用することができる。ただし、端末装置４０１の場合、撮像に関する機能は不要であるので、撮像部２３６は省略することができる。
【０１０３】
アプリケーション提供サーバ４０２は、アプリケーション１１２を多視点画像利用サービスプラットフォーム１００（アプリケーションマーケット１０２）に提供するサーバである。サーバ２０２は、アプリケーション提供サーバ４０２が提供するアプリケーションを、端末装置４０１（のユーザ）に向けて販売若しくは提供する。
【０１０４】
＜サーバ＞
図１６は、アプリケーション提供サーバ４０２の主な構成例を示すブロック図である。図１６に示されるように、アプリケーション提供サーバ４０２において、CPU４１１、ROM４１２、RAM４１３は、バス４１４を介して相互に接続されている。
【０１０５】
バス４１４にはまた、入出力インタフェース４２０も接続されている。入出力インタフェース４２０には、入力部４２１、出力部４２２、記憶部４２３、通信部４２４、およびドライブ４２５が接続されている。
【０１０６】
入力部４２１は、ユーザ入力等の外部の情報を受け付ける入力デバイスよりなる。例えば、入力部４２１には、操作ボタン、タッチパネル、マイクロホン、カメラ、入力端子等が含まれる。また、加速度センサ、光センサ、温度センサ等の各種センサが入力部４２１に含まれるようにしてもよい。出力部４２２は、画像や音声等の情報を出力する出力デバイスよりなる。例えば、出力部４２２には、ディスプレイ、スピーカ、出力端子等が含まれる。
【０１０７】
記憶部４２３は、例えば、ハードディスク、RAMディスク、不揮発性メモリなどよりなる。通信部４２４は、例えば、ネットワークインタフェースよりなる。ドライブ４２５は、例えば磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア４３１を駆動する。
【０１０８】
CPU４１１は、例えば、記憶部４２３に記憶されているプログラムを、入出力インタフェース４２０およびバス４１４を介して、RAM４１３にロードして実行することにより、各種処理を行う。RAM４１３にはまた、CPU４１１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【０１０９】
CPU４１１が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア４３１に記録してアプリケーション提供サーバ４０２に提供することができる。その場合、プログラムは、リムーバブルメディア４３１をドライブ４２５に装着することにより、入出力インタフェース４２０を介して、記憶部４２３にインストールすることができる。
【０１１０】
また、このプログラムは、LAN、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介してアプリケーション提供サーバ４０２に提供することもできる。その場合、プログラムは、有線または無線の伝送媒体を介して、通信部４２４で受信し、記憶部４２３にインストールすることができる。
【０１１１】
その他、このプログラムは、ROM４１２や記憶部４２３に、あらかじめインストールしておくこともできる。
【０１１２】
＜機能ブロック＞
端末装置４０１は、CPU２２１が所定のプログラムを実行することにより、図１７のＡに機能ブロックとして示される機能を有する。図１７のＡに示されるように、CPU２２１は、アプリケーション購入処理部４４１等の機能ブロックを有する。
【０１１３】
アプリケーション購入処理部４４１は、入力部２３１、出力部２３２、記憶部２３３、および通信部２３４等の各部を制御し、サーバ２０２と通信を行い、画像を表示したり、ユーザの指示を受け付けたりして、アプリケーションの購入に関する処理を行う。
【０１１４】
また、サーバ２０２は、CPU２５１が所定のプログラムを実行することにより、図１７のＢに機能ブロックとして示される機能を有する。図１７のＢに示されるように、CPU２５１は、ユーザ管理部４５１、アプリケーション販売処理部４５２、およびデータ管理部４５３等の機能ブロックを有する。
【０１１５】
ユーザ管理部４５１は、ユーザ管理部２９１と同様に、多視点画像利用サービスを提供するユーザの管理に関する処理を行う。アプリケーション販売処理部４５２は、通信部２６４を制御して端末装置４０１と通信を行う等して、アプリケーションの販売に関する処理を行う。データ管理部４５３は、データ管理部２９５と同様に、多視点画像ファイル等のデータの管理に関する処理を行う。また、例えば、データ管理部４５３は、アプリケーション提供サーバ４０２から供給されるアプリケーションの管理に関する処理を行う。
【０１１６】
さらに、アプリケーション提供サーバ４０２は、CPU４１１が所定のプログラムを実行することにより、図１７のＣに機能ブロックとして示される機能を有する。図１７のＣに示されるように、CPU４１１は、アプリケーション提供処理部４６１等の機能ブロックを有する。
【０１１７】
アプリケーション提供処理部４６１は、通信部４２４を制御してサーバ２０２と通信を行う等して、アプリケーションのサーバ２０２への提供に関する処理を行う。
【０１１８】
＜多視点画像利用サービス提供処理の流れ＞
以上のような構成の多視点画像利用サービス提供システムの端末装置４０１、サーバ２０２、およびアプリケーション提供サーバ４０２は、多視点画像利用サービス提供処理を実行することにより、多視点画像を利用するサービスの提供、本実施の形態の場合、アプリケーションの販売等のサービスの提供を行う。図１８のフローチャートを参照して、これらの装置が実行する多視点画像利用サービス提供処理の流れの例を説明する。
【０１１９】
ステップＳ１７１において、アプリケーション提供サーバ４０２のアプリケーション提供処理部４６１は、通信部４２４を制御する等して提供するアプリケーションをサーバ２０２に供給し、登録する。
【０１２０】
ステップＳ１６１において、サーバ２０２のデータ管理部４５３は、通信部２６４等を制御して、アプリケーション提供サーバ４０２から供給されるアプリケーションを取得し、それを記憶部２６３に記憶させ、そのアプリケーションを端末装置４０１に対して販売することができるように管理する。
【０１２１】
ステップＳ１５１において、端末装置４０１のアプリケーション購入処理部４４１は、通信部２３４を制御し、サーバ２０２に対してアプリケーションの購入を要求する。
【０１２２】
ステップＳ１６２において、サーバ２０２のアプリケーション販売処理部４５２は、通信部２６４を制御する等して、その要求を取得する。
【０１２３】
ステップＳ１６３において、アプリケーション販売処理部４５２は、ユーザ管理部４５１やデータ管理部４５３と連携し、そのユーザに販売することができるアプリケーションのリストを作成する。そして、アプリケーション販売処理部４５２は、通信部２６４を制御する等して、そのアプリケーションのリストを端末装置４０１に提供する。
【０１２４】
端末装置４０１のアプリケーション購入処理部４４１は、ステップＳ１５２において、そのアプリケーションのリストを取得する。アプリケーション購入処理部４４１は、出力部２３２を制御する等して、そのアプリケーションのリストをモニタに表示する等して、ユーザに提示し、ユーザからの指示を受け付ける。
【０１２５】
例えば、端末装置４０１のモニタには、図１９のＡに示されるGUI（Graphical User Interface）４７１が表示される。ユーザは、このようなGUIに基づいて、所望のアプリケーションを多数の中から絞り込む。例えば、レンズシミュレーションのアプリケーションが選択された場合、さらに、図１９のＢに示されるようなGUI４７２が表示され、仮想レンズの選択が行われる。また、例えば、画像を編集するアプリケーションが選択された場合、さらに、図１９のＣに示されるようなGUI４７３が表示され、デコレーションスタンプ等のような、その編集機能の選択が行われる。
【０１２６】
図１８に戻り、ステップＳ１５３において、ユーザが、そのリストの中から購入するアプリケーションを選択すると、アプリケーション購入処理部４４１は、その選択指示を受け付け、通信部２３４を制御する等して、購入するアプリケーションを選択する制御情報をサーバ２０２に供給する。
【０１２７】
サーバ２０２のアプリケーション販売処理部４５２は、ステップＳ１６４において、通信部２６４を制御する等してその制御情報を取得する。ステップＳ１６５において、アプリケーション販売処理部４５２は、ユーザ管理部４５１やデータ管理部４５３と連携し、選択されたアプリケーション（ユーザにより購入が指示されたアプリケーション）を、そのユーザのユーザ管理情報３０１に関連付けるなどして、そのユーザに登録する。
【０１２８】
ステップＳ１６６において、アプリケーション販売処理部４５２は、アプリケーションの販売に関する決済処理を行う。ユーザ管理部４５１は、その決済情報をそのユーザのユーザ管理情報３０１に反映させる（例えば、そのユーザが所有するポイントやお金から代金若しくは代金に相当するポイントを減算する。また、アプリケーションの購入履歴に今回の販売を追記する）。
【０１２９】
ステップＳ１６６の処理が終了すると、多視点画像利用サービス提供処理が終了する。
【０１３０】
このような多視点画像利用サービス提供処理を実行することにより、ユーザは、多視点画像を利用して処理を行うアプリケーションの購入をより容易に行うことができる。また、購入したアプリケーションがサーバ２０２においてユーザに登録されて管理されるので、ユーザは、自身が購入したアプリケーションをより容易に利用することができる。つまり、多視点画像利用サービス提供システム２００（多視点画像利用サービスプラットフォーム１００）は、多視点画像を用いたサービスの利便性を向上させることができる。
【０１３１】
なお、アプリケーションは、販売でなくても良く、無料で提供されるようにしても良い。その場合、決済処理は省略することができる。
【０１３２】
＜４．第４の実施の形態＞
＜仮想レンズ処理＞
以上のようにユーザに提供されるアプリケーションを実行することにより、多視点画像利用サービスプラットフォーム１００は、様々な多視点画像を利用するサービスをユーザに提供することができる。
【０１３３】
本実施の形態においては、そのアプリケーションの一例として、第１の実施の形態において説明したレンズシミュレーション（仮想レンズ処理）を行うアプリケーションの実行の様子について説明する。
【０１３４】
＜多視点画像利用サービス提供システム＞
図２０は、多視点画像利用サービス提供システムの主な構成例を示す図である。図２０に示される多視点画像利用サービス提供システム２００は、本技術を適用したシステムの一例であり、サーバ２０２が、ネットワーク２１０を介して接続される端末装置４０１に対して、多視点画像を利用したサービスを提供するシステムである。つまり、多視点画像利用サービス提供システム２００は、多視点画像利用サービスプラットフォーム１００を実現する構成の一例である。
【０１３５】
図２０には、多視点画像利用サービスプラットフォーム１００が提供するサービスの内、レンズシミュレーション（仮想レンズ処理）に関するサービスの提供に関する構成の例を示している。図２０において、多視点画像利用サービス提供システム２００は、ネットワーク２１０に接続される端末装置４０１およびサーバ２０２を有する。
【０１３６】
ネットワーク２１０に有線若しくは無線により接続される端末装置４０１は、サーバ２０２と通信を行い、レンズシミュレーションに用いる多視点画像の選択、シミュレーションする仮想のレンズの選択、合焦位置や被写界深度等のユーザが値を指定する撮像に関するパラメータであるユーザ指定パラメータの設定等を行う。
【０１３７】
サーバ２０２は、それらの処理に基づいて、仮想のレンズをシミュレーションする仮想レンズ処理を実行し、仮想レンズを用いた撮像により得られる仮想の撮像画像データである仮想撮像画像データを生成する。また、サーバ２０２は、その仮想撮像画像データを保存する（記憶し、管理する）。さらに、サーバ２０２は、以上のレンズシミュレーションにおいて、どのようなパラメータについてどのような値が設定され、ユーザによりどのような操作（指示）が行われ、どのような処理が行われたか等を示す履歴情報を、このレンズシミュレーションを行うアプリケーションのアプリケーションパラメータとして生成し、保存する（記憶し、管理する）。
【０１３８】
＜仮想レンズ処理の概要＞
次に、仮想レンズ処理の概要について説明する。仮想レンズ処理においては、図２のＡに示されるような、ユーザにより指定された仮想のレンズ１５０が設定され、その仮想のレンズ１５０に入射する被写体からの入射光である光線ベクトル１５１、仮想のレンズ１５０を透過した後の入射光である光線ベクトル１５２、および、光線ベクトル１５２から仮想の撮像画像を得る仮想のイメージセンサ１５３等がシミュレーション（模擬的に現出）され、そのシミュレーションに基づいて、多視点画像から仮想の撮像画像が生成される。
【０１３９】
例えば、図２１のＡに示されるような多視点画像５０１から、図２１のＢに示されるような補間画像５０２やデプスデータ５０３が生成され、それらを用いて、図２１のＣに示されるような、仮想のレンズ１５０（図２のＡに示される仮想の光学系）を用いた撮像により得られる仮想の撮像画像５０４が生成される。
【０１４０】
このようにすることにより、多視点画像５０１の各撮像画像よりも大きな、仮想のレンズ１５０が付与する光学的効果を反映させた仮想の撮像画像５０４が得られる。仮想のレンズ１５０等の光学系は、その仮想の光学系による光学的効果を再現するパラメータよりなる、その仮想の光学系固有のプロファイル情報を用いてシミュレーションされる。したがって、サーバ２０２は、実在するものから非現実的なものまで、多様な光学系を容易に再現することができる。つまり、ユーザは、このサービスにより、より安価により多様な撮像画像を得ることができる。すなわち、多視点画像利用サービス提供システム２００（多視点画像利用サービスプラットフォーム１００）は、多視点画像を用いたサービスの利便性を向上させることができる。
【０１４１】
＜機能ブロック＞
端末装置４０１は、CPU２２１が所定のプログラムを実行することにより、図２２のＡに機能ブロックとして示される機能を有する。図２２のＡに示されるように、CPU２２１は、ユーザ指示受付処理部５１１、表示制御部５１２、および伝送制御部５１３等の機能ブロックを有する。
【０１４２】
ユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザ指示の受け付けに関する処理を行う。表示制御部５１２は、出力部２３２等を制御して、GUIや案内等の画像をモニタに表示させる等の表示制御に関する処理を行う。伝送制御部５１３は、通信部２３４等を制御して、ユーザ指示受付処理部５１１において受け付けられたユーザ指示等の各種情報の伝送に関する処理を行う。
【０１４３】
また、サーバ２０２は、CPU２５１が所定のプログラムを実行することにより、図２２のＢに機能ブロックとして示される機能を有する。図２２のＢに示されるように、CPU２５１は、ユーザ管理部５２１、アプリケーション選択処理部５２２、画像選択処理部５２３、レンズ選択処理部５２４、ユーザ指定パラメータ設定処理部５２５、仮想レンズ処理部５２６、およびデータ管理部５２７等の機能ブロックを有する。
【０１４４】
ユーザ管理部５２１は、ユーザ管理部２９１と同様に、多視点画像利用サービスを提供するユーザの管理に関する処理を行う。アプリケーション選択処理部５２２は、通信部２６４を制御して端末装置４０１と通信を行う等して、実行するアプリケーションの選択に関する処理を行う。画像選択処理部５２３は、通信部２６４を制御して端末装置４０１と通信を行う等して、レンズシミュレーション（仮想レンズ処理）の処理対象とする多視点画像の選択に関する処理を行う。レンズ選択処理部５２４は、通信部２６４を制御して端末装置４０１と通信を行う等して、シミュレーションする仮想のレンズのプロファイル情報の選択に関する処理を行う。ユーザ指定パラメータ設定処理部５２５は、通信部２６４を制御して端末装置４０１と通信を行う等して、端末装置４０１から伝送されるユーザ指定パラメータの設定に関する処理を行う。仮想レンズ処理部５２６は、仮想の光学系のシミュレーション（模擬的な現出）に関する処理を行う。データ管理部５２７は、データ管理部２９５と同様に、多視点画像ファイル等のデータの管理や、アプリケーションおよびそのアプリケーションに関するデータ等の管理に関する処理を行う。
【０１４５】
＜多視点画像利用サービス提供処理の流れ＞
以上のような構成の多視点画像利用サービス提供システムの端末装置４０１およびサーバ２０２、多視点画像利用サービス提供処理を実行することにより、多視点画像を利用するサービスの提供、本実施の形態の場合、レンズシミュレーションのサービスの提供を行う。図２３のフローチャートを参照して、これらの装置が実行する多視点画像利用サービス提供処理の流れの例を説明する。
【０１４６】
ステップＳ２０１において、端末装置４０１のユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザからアプリケーションの起動を要求する指示を受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられたアプリケーションの起動要求をサーバ２０２に供給する。
【０１４７】
サーバ２０２のアプリケーション選択処理部５２２は、ステップＳ２２１において、通信部２６４等を制御して、その要求を取得する。その要求に応じて、アプリケーション選択処理部５２２は、ステップＳ２２２において、ユーザ管理部５２１が管理するユーザ管理情報に基づいて、そのユーザが使用可能なアプリケーションのリストを生成し、通信部２６４等を制御して、そのリストを端末装置４０１に供給する。
【０１４８】
端末装置４０１の伝送制御部５１３は、ステップＳ２０２において、通信部２３４等を制御して、そのリストを取得する。表示制御部５１２は、出力部２３２を制御し、取得されたそのリストを画像としてモニタに表示する。ユーザは、そのリストに基づいて起動するアプリケーションを選択する。
【０１４９】
ステップＳ２０３において、ユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザから起動するアプリケーションの選択指示を受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられた、起動するアプリケーションの選択指示をサーバ２０２に供給する。
【０１５０】
サーバ２０２のアプリケーション選択処理部５２２は、ステップＳ２２３において、通信部２６４等を制御して、その選択指示を取得する。次に、画像選択処理部５２３は、ステップＳ２２４において、ユーザ管理部５２１が管理するユーザ管理情報に基づいて、そのユーザの多視点画像のリストを生成し、通信部２６４等を制御して、そのリストを端末装置４０１に供給する。
【０１５１】
端末装置４０１の伝送制御部５１３は、ステップＳ２０４において、通信部２３４等を制御して、そのリストを取得する。表示制御部５１２は、出力部２３２を制御し、取得されたそのリストを画像としてモニタに表示する。ユーザは、そのリストに基づいて処理対象とする多視点画像を選択する。
【０１５２】
ステップＳ２０５において、ユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザから処理対象画像の選択指示を受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられた処理対象画像の選択指示を、サーバ２０２に供給する。
【０１５３】
サーバ２０２の画像選択処理部５２３は、ステップＳ２２５において、通信部２６４等を制御して、その選択指示を取得する。次に、レンズ選択処理部５２４は、ステップＳ２２６において、ユーザ管理部５２１が管理するユーザ管理情報に基づいて、そのユーザに登録されたレンズのリストを生成し、通信部２６４等を制御して、そのリストを端末装置４０１に供給する。
【０１５４】
端末装置４０１の伝送制御部５１３は、ステップＳ２０６において、通信部２３４等を制御して、そのリストを取得する。表示制御部５１２は、出力部２３２を制御し、取得されたそのリストを画像としてモニタに表示する。ユーザは、そのリストに基づいてシミュレーションする仮想のレンズを選択する。
【０１５５】
ステップＳ２０７において、ユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザからレンズの選択指示を受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられたレンズの選択指示を、サーバ２０２に供給する。
【０１５６】
サーバ２０２のレンズ選択処理部５２４は、ステップＳ２２７において、通信部２６４等を制御して、その選択指示を取得する。
【０１５７】
また、ステップＳ２０８において、端末装置４０１のユーザ指示受付処理部５１１は、入力部２３１等を制御して、例えば撮像条件等の、ユーザが値を指定する撮像に関するパラメータであるユーザ指定パラメータを受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられたユーザ指定パラメータを、サーバ２０２に供給する。
【０１５８】
サーバ２０２のユーザ指定パラメータ設定処理部５２５は、ステップＳ２２８において、通信部２６４等を制御して、そのユーザ指定パラメータを取得する。
【０１５９】
ステップＳ２２９において、仮想レンズ処理部５２６は、仮想レンズ処理を実行し、多視点画像データと、仮想の光学系による光学的効果を再現するパラメータを含むプロファイル情報とを用いて、ステップＳ２２７において選択された仮想のレンズを用いてステップＳ２２５において選択された多視点画像の被写体を撮像して得られる仮想の撮像画像を生成する。その際、仮想レンズ処理部５２６は、ステップＳ２２８において取得されたユーザ指定パラメータを用いて、仮想のレンズによる光学的影響をより正確に再現する。また、その際、仮想レンズ処理部５２６は、ステップＳ２２５において選択された多視点画像の多視点画像ファイルに含まれるカメラ配列情報３４２と、眼数情報３４３と、デプスデータ３３２とに従って、多視点画像の補間画像を生成する。仮想レンズ処理の詳細については、後述する。
【０１６０】
ステップＳ２３０において、仮想レンズ処理部５２６は、通信部２６４等を制御して、ステップＳ２２９の処理により生成された仮想の撮像画像（仮想撮像画像）のデータを端末装置４０１に供給する。
【０１６１】
端末装置４０１の伝送制御部５１３は、ステップＳ２０９において、その仮想撮像画像のデータを取得する。表示制御部５１２は、出力部２３２を制御し、取得されたその仮想撮像画像をモニタに表示する。ユーザは、その仮想撮像画像に基づいて、その仮想撮像画像を保存するか否かを選択する。
【０１６２】
ステップＳ２１０において、ユーザ指示受付処理部５１１は、入力部２３１等を制御して、ユーザから仮想撮像画像のデータの保存指示を受け付ける。伝送制御部５１３は、通信部２３４等を制御して、そのユーザ指示受付処理部５１１により受け付けられた仮想撮像画像のデータの保存指示を、サーバ２０２に供給する。
【０１６３】
サーバ２０２のデータ管理部５２７は、ステップＳ２３１において、通信部２６４等を制御して、その仮想撮像画像のデータの保存指示を取得する。ステップＳ２３２において、データ管理部５２７は、このレンズシミュレーションについてのアプリケーションパラメータを生成する。データ管理部５２７は、ステップＳ２２９の処理により生成された仮想撮像画像のデータと、そのアプリケーションパラメータとを記憶して管理し、さらに、当該ユーザに登録する（当該ユーザのユーザ管理情報を更新する）。
【０１６４】
ステップＳ２３２の処理が終了すると、多視点画像利用サービス提供処理が終了する。
【０１６５】
このような多視点画像利用サービス提供処理を実行することにより、ユーザは、多視点画像を利用して仮想のレンズのシミュレーション（すなわち、仮想のレンズを用いた撮像により得られる仮想の撮像画像の生成）をより容易に行うことができる。また、生成された仮想撮像画像データがサーバ２０２においてユーザに登録されて管理されるので、ユーザは、その仮想撮像画像データをより容易に利用することができる。また、その仮想撮像画像データが、その仮想撮像画像の生成に用いられた多視点画像やアプリケーションパラメータ等と関連付けられて管理されるので、ユーザは、より容易に、その仮想撮像画像データを、関連する他のデータとともに利用することができる。つまり、多視点画像利用サービス提供システム２００（多視点画像利用サービスプラットフォーム１００）は、多視点画像を用いたサービスの利便性を向上させることができる。
【０１６６】
＜画面の例＞
図２４は、表示部５３１に表示される設定GUIの例を示す模式図である。
【０１６７】
図２４の画面では、プレビュー画像Pvとともに、設定GUIが表示されている。図２４の例では、現像パラメータは、レンズの設計情報、絞り形状、およびフォーカス位置により構成される。
【０１６８】
この場合、表示部５３１には、プレビュー画像Pvに重畳して、設定GUIとして、レンズユニット選択部DL、絞り形状選択部DA、およびフォーカス位置選択部DFが表示される。
【０１６９】
レンズユニット選択部DLには、現像パラメータのレンズの設計情報の選択候補に基づくレンズユニットを表す図形が表示される。絞り形状選択部DAには、現像パラメータの絞り形状の選択候補を表す図形が表示される。フォーカス位置選択部DFには、フォーカス位置の選択候補を位置で表す設定バーFbが表示される。
【０１７０】
ユーザは、レンズユニット選択部DLに表示される所望のレンズユニットを表す図形を指Uでタッチ操作することにより、そのレンズユニットに対応するレンズの設計情報の選択候補を選択する。また、ユーザは、絞り形状選択部DAに表示される所望の絞り形状を表す図形を指Uでタッチ操作することにより、その絞り形状の選択候補を選択する。
【０１７１】
また、ユーザは、フォーカス位置選択部DFの設定バーFbを指Uでタッチ操作し、指Uを上下方向に移動させることにより、設定バーFbを所望のフォーカス位置に対応する位置に移動させる。これにより、ユーザは、所望のフォーカス位置の選択候補を選択することができる。
【０１７２】
なお、設定バーFbは、ユーザが設定バーFbを指Uでタッチ操作した後指Uを移動させることにより移動するのではなく、ユーザがフォーカス位置選択部DF上の所望の位置をタッチ操作することにより、その位置に移動するようにしてもよい。また、フォーカス位置の選択候補は表示されず、画面内における指Uのタッチ位置の被写体に最も近いフォーカス位置の選択候補が選択されるようにしてもよい。
【０１７３】
また、図２４の例では、プレビュー画像Pvの左上にレンズユニット選択部DLが配置され、左下に絞り形状選択部DAが配置され、右側にフォーカス位置選択部DFが配置されているが、配置位置は、これに限定されない。
【０１７４】
図示は省略するが、ホワイトバランスや露出補正値等の他の現像パラメータの選択候補も、レンズユニット選択部DL、絞り形状選択部DA、フォーカス位置選択部DF等と同様に表示することができる。
【０１７５】
また、第２実施の形態では、表示部５３１がタッチパネルと一体化されているが、タッチパネルと一体化されていない場合、ユーザは、図示せぬマウス等の操作により画面内に表示されるポインタを移動させ、タッチ操作に相当する選択操作を行う。
【０１７６】
＜仮想レンズ処理の流れ＞
次に、図２５のフローチャートを参照して、図２３のステップＳ２２９において実行される仮想レンズ処理の詳細な流れの例について説明する。
【０１７７】
仮想レンズ処理が開始されると、仮想レンズ処理部５２６は、ステップＳ２５１において、選択された多視点画像ファイルを記憶部２６３から取得する。ステップＳ２５２において、仮想レンズ処理部５２６は、選択されたレンズのプロファイル情報を記憶部２６３から取得する。
【０１７８】
なお、多視点画像ファイルやプロファイル情報が記憶され、管理される場所は、任意であり、記憶部２６３以外であっても良い。例えば、多視点画像ファイルやプロファイル情報が、端末装置４０１等のようにサーバ２０２以外の装置に記憶され、管理されるようにしてもよい。その場合、仮想レンズ処理部５２６は、例えば、通信部２６４を制御して、多視点画像ファイルやプロファイル情報を、それらが記憶される装置から取得する。なお、多視点画像ファイルが記憶される場所と、プロファイル情報が記憶される場所とが互いに異なっていてもよい。
【０１７９】
プロファイル情報は、仮想の光学系による光学的効果を再現するパラメータよりなる、その仮想の光学系固有の情報である。プロファイル情報には、例えば、RGB毎のPSF（Point spread function）データ、絞り形状、および補間枚数指定情報等が含まれる。
【０１８０】
PSFデータは、点拡がり関数または点像分布関数とも称し、仮想の光学系に含まれる仮想のレンズの点光源に対する応答を表す関数である。つまり、PSFデータは、RGB毎に、仮想のレンズを透過する光線に対する仮想のレンズの影響を表すデータである。図２６のＡにそのPSFデータの例を示す。この例の場合、合焦部（すなわち点光源）までの距離に応じたPSFデータが、色毎（各行）に示されている。
【０１８１】
絞り形状は、仮想の光学系に含まれる仮想の絞りの形状を示す情報である。この絞り形状は、実際に存在する絞りの形状であってもよいし、例えば、図２６のＢの左に示される丸型、星型、Ｘ型等のように、実際には存在しない任意の形状であってもよい。なお、この絞り形状は、任意の方法により指定することができる。例えば、予め定められた形状を識別情報（ID）等により指定するようにしてもよい。また、例えば、図２６のＢの右に示されるように、強度分布５４２により表現されるようにしてもよい。この強度分布の大きさ（強度の数）は、補間枚数指定情報により指定される補間画像の枚数（補間枚数）に依存する。例えば、補間枚数がＮ枚だとすると、絞り形状は、NxNの強度分布５４２により表現される。
【０１８２】
補間枚数指定情報は、仮想の撮像画像を作成する際に生成する補間画像の枚数を指定する情報である。つまり、仮想レンズ処理部５２６は、仮想レンズ処理において、この補間枚数指定情報により指定される枚数の補間画像を生成する。補間画像の枚数が多いほど、より高精細な仮想の撮像画像を得ることができる。一般的には、仮想のレンズが高級な（高性能な）レンズであるほど、補間画像の枚数は多くなる。
【０１８３】
以上のように、レンズプロファイル情報は、仮想のレンズの特徴を示す情報により構成される。なお、レンズプロファイル情報の内容は任意であり、上述した各情報の内、一部が省略されるようにしてもよいし、上述した情報以外の情報が含まれるようにしてもよい。例えば、仮想のレンズをエミュレーションするために用いられるレンズの物理的な設計情報がレンズプロファイル情報に含まれるようにしてもよい。
【０１８４】
図２５に戻り、ステップＳ２５３において、仮想レンズ処理部５２６は、図２３のステップＳ２２８において取得されたユーザ指定パラメータを設定する。
【０１８５】
ユーザ指定パラメータは、ユーザが値を指定する撮像に関するパラメータである。仮想レンズ処理部５２６は、このユーザ指定パラメータに応じて、仮想の撮像画像を生成する。例えば、ユーザ指定パラメータには、合焦位置指定情報、被写界深度指定情報、超解像処理実行指示情報等が含まれる。
【０１８６】
合焦位置指定情報（フォーカス位置指定情報）は、撮像画像内において合焦させる被写体が位置する領域（若しくは点）を指定する情報である。つまり、ユーザが撮像画像の任意の位置を合焦位置として指定すると、その合焦位置の被写体（の距離）に焦点が合焦されるように仮想の撮像画像が生成される。
【０１８７】
また、被写界深度指定情報は、被写界深度（絞りの大きさ）を指定する情報である。さらに、超解像処理実行指示情報は、仮想の撮像画像を生成するために多視点画像の各撮像画像を重ね合わせる際に、超解像処理を行うか否か、行う場合、どの範囲にどの程度の処理を行うか等の超解像処理に関する指示を含む情報である。多視点画像の各撮像画像の重ね合わせの際の超解像処理は、この超解像処理実行指示情報に基づいて行われる。
【０１８８】
もちろん、ユーザ指定パラメータの内容は任意であり、上述した各情報の内、一部が省略されるようにしてもよいし、上述した情報以外の情報が含まれるようにしてもよい。
【０１８９】
ステップＳ２５４において、仮想レンズ処理部５２６は、処理対象の多視点画像データに関連付けられたメタデータに含まれるカメラ配列情報や眼数情報等に基づいて、基準カメラ（基準とする視点の画像）、マッチング軸、画像補間方法等を決定する。
【０１９０】
ステップＳ２５５において、仮想レンズ処理部５２６は、生成する補間画像の位置に応じて、画像の補間に用いる各画像（すなわち、重ね合わせる各画像）の混合比率を決定する。
【０１９１】
ステップＳ２５６において、仮想レンズ処理部５２６は、デプスデータや以上のように設定した各種パラメータに従って、補間画像を生成する。例えば、仮想レンズ処理部５２６は、ステップＳ２５４において決定された基準とする視点の画像と、ステップＳ２５４において決定されたマッチング軸とを用いて、ステップＳ２５４において決定された補間方法により指定される画像を、デプスデータに従って重ね合わせることにより、補間画像を生成する。仮想レンズ処理部５２６は、プロファイル情報の補間枚数指定情報により指定される枚数分の補間画像を生成する。
【０１９２】
ステップＳ２５７において、仮想レンズ処理部５２６は、各補間画像に対して、プロファイル情報の絞り形状データを反映する。
【０１９３】
ステップＳ２５８において、仮想レンズ処理部５２６は、デプスデータに基づいて、ユーザにより指定された合焦位置（フォーカス位置）のデプス値を求める。つまり、仮想レンズ処理部５２６は、生成される仮想撮像画像の、例えばステップＳ２２８において取得されたユーザ指定パラメータに含まれる合焦位置指定情報（フォーカス位置指定情報）において指定される位置（座標）の被写体のデプス値（被写体までの距離）を求める。
【０１９４】
ステップＳ２５９において、仮想レンズ処理部５２６は、ユーザ指定パラメータの被写界深度指定情報により指定される被写界深度を設定する。
【０１９５】
ステップＳ２６０において、仮想レンズ処理部５２６は、ステレオマッチングの繰り返し等により多視点画像や補間画像を重ね合わせて仮想撮像画像を生成する。その際、仮想レンズ処理部５２６は、仮想のレンズの、デプスデータ（被写体のデプス値）に応じたPSFデータを反映させる。また、仮想レンズ処理部５２６は、ステップＳ２５８において求めたデプス値（距離）に合焦させるように、仮想撮像画像を生成する。さらに、仮想レンズ処理部５２６は、ステップＳ２５７において各補間画像に対して絞り形状データを反映させることにより、仮想撮像画像に、仮想の絞りの形状を反映させることができる。また、仮想レンズ処理部５２６は、ステップＳ２５９において設定した被写界深度になるように、仮想撮像画像を生成する。
【０１９６】
ステップＳ２６１において、仮想レンズ処理部５２６は、ユーザ指定パラメータの超解像処理実行指示情報に従って、仮想撮像画像に超解像処理を行う。例えば、超解像処理実行指示情報により超解像処理を行わないように指示されている場合、仮想レンズ処理部５２６は、超解像処理を行わない。また、例えば、超解像処理実行指示情報により超解像処理を行うように指示されている場合、仮想レンズ処理部５２６は、超解像処理を行う。
【０１９７】
なお、超解像処理は、仮想撮像画像全体に対して行うようにしてもよいし、合焦位置のデプス値を含む所定の範囲のデプス値の部分のみ行うようにしてもよい。合焦していない被写体の部分に対して超解像処理を行っても、得られる効果（画質の向上）は少ない。したがって、このように合焦位置とデプス値が一致若しくは近似する部分のみに対して超解像処理を行うことにより、画質の低減を抑制しながら、処理の負荷を低減させることができる。なお、このように超解像処理を行う部分を超解像処理実行指示情報により指示することができるようにしても良い。
【０１９８】
ステップＳ２６１の処理が終了すると、仮想レンズ処理が終了し、処理は図２３に戻る。
【０１９９】
以上のように仮想レンズ処理を行うことにより、ユーザは、より容易に仮想撮像画像を得ることができる。
【０２００】
なお、以上に説明した仮想レンズ処理は、サーバ２０２に限らず、任意の装置において実行されるようにしてもよい。例えば、端末装置４０１のCPU２２１が仮想レンズ処理部５２６等を有し、端末装置４０１において、仮想レンズ処理が行われるようにしてもよい。その場合も、仮想レンズ処理は、上述した例と基本的に同様に実行することができる。なお、多視点画像ファイルや仮想のレンズのプロファイル情報等、仮想レンズ処理に用いられる情報であって、サーバ２０２において記憶（管理）される情報は、必要に応じて適宜端末装置４０１に伝送されるようにすればよい。
【０２０１】
＜５．第５の実施の形態＞
＜物販支援＞
本実施の形態においては、そのアプリケーションの他の例として、第１の実施の形態において説明した物販支援を行うアプリケーションの実行の様子について説明する。なお、本実施の形態においては、物販支援の一例として、第１の実施の形態において説明したような、家具の販売を支援するアプリケーションについて説明する。
【０２０２】
＜多視点画像利用サービス提供システム＞
図２７は、多視点画像利用サービス提供システムの主な構成例を示す図である。図２７に示される多視点画像利用サービス提供システム２００は、本技術を適用したシステムの一例であり、サーバ２０２が、ネットワーク２１０を介して接続される端末装置２０１に対して、多視点画像を利用したサービスを提供するシステムである。つまり、多視点画像利用サービス提供システム２００は、多視点画像利用サービスプラットフォーム１００を実現する構成の一例である。
【０２０３】
図２７には、多視点画像利用サービスプラットフォーム１００が提供するサービスの内、物販支援（家具販売支援）に関するサービスの提供に関する構成の例を示している。図２７において、多視点画像利用サービス提供システム２００は、ネットワーク２１０に接続される端末装置２０１、サーバ２０２、および家具販売サーバ６０１を有する。
【０２０４】
端末装置２０１は、被写体を撮像して多視点画像を得る多視点撮像を行う。また、端末装置２０１は、多視点撮像により得られた多視点画像のデプスを検出する。さらに、端末装置２０１は、多視点撮像を用いて、１枚の仮想撮像画像を生成する。また、端末装置２０１は、仮想撮像画像への家具画像の配置に関する処理を行う。さらに、端末装置２０１は、多視点画像データ等をファイル化し、多視点画像ファイルを生成する。
【０２０５】
また、ネットワーク２１０に有線若しくは無線により接続される端末装置２０１とサーバ２０２は、互いに通信を行うことにより、家具データの選択、３次元モデリングデータ（3Dモデリングデータ）の伝送、家具購入手続き、および各種データの伝送等の処理を行う。
【０２０６】
サーバ２０２は、端末装置２０１から供給される各種データの保存等の処理を行う。
【０２０７】
ネットワーク２１０に有線若しくは無線により接続されるサーバ２０２と家具販売サーバ６０１は、互いに通信を行うことにより、３次元モデリングデータ（3Dモデリングデータ）の提供や家具購入手続き等の処理を行う。
【０２０８】
家具販売サーバ６０１は、家具の販売若しくは販売の支援に関する処理を行うサーバである。具体的には、家具販売サーバ６０１は、上述したように、家具販売の決済や、販売支援に用いられる家具画像やその3Dモデリングデータの提供等を行う。家具販売サーバ６０１は、基本的にアプリケーション提供サーバ４０２と同様の構成を有する。したがって、図１５に示される構成は、家具販売サーバ６０１にも適用することができる。
【０２０９】
＜家具販売支援＞
次に、以上のような多視点画像利用サービス提供システム２００により提供される家具販売支援サービスにおける販売の支援方法について、より具体的に説明する。本技術を適用した多視点画像利用サービスプラットフォーム１００により提供される物販支援サービスは、販売支援対象の物品の画像であるオブジェクトを、所望の背景画像に仮想的に配置させることにより、ユーザに、その物品を使用した時の状態を想定させるサービスである。図２７の多視点画像利用サービス提供システム２００により提供される家具販売支援サービスは、販売支援対象の家具の画像（家具画像）をオブジェクトの一例として採用し、仮想撮像画像を背景画像の一例として採用する。すなわち、この家具販売支援サービスは、仮想撮像画像に家具画像を配置することにより、ユーザに、その家具を部屋等に配置した時の状態を想定させるサービスである。なお、その際、家具販売支援サービスは、単に仮想撮像画像に家具画像を合成するだけでなく、仮想撮像画像のデプスデータを用いて、家具画像の大きさや向きを、その家具画像の配置位置に応じて設定する。これにより、ユーザにより正確な状態を想定させることができる。
【０２１０】
より具体的には、端末装置２０１が、多視点撮像により得られた多視点画像から、図２８のＡに示されるような仮想撮像画像６１１を生成する。例えば、ユーザは、購入する家具を設置したい部屋を多視点撮像し、その部屋の仮想撮像画像６１１を生成する。また、端末装置２０１は、多視点撮像により得られた多視点画像から、図２８のＢに示されるような仮想撮像画像６１１のデプスデータ（デプスマップ）６１２を生成する。
【０２１１】
そして、端末装置２０１は、家具販売サーバ６０１が販売する家具の画像（家具画像）とその3Dモデリングデータをサーバ２０２から取得し、図２８のＣに示される合成画像６１３のように、その家具画像を仮想撮像画像６１１（部屋の画像）に配置する。家具画像の配置はデプスデータ６１２を用いて行われ、その配置位置の奥行き方向の距離等に応じて、家具画像の大きさや向きが適宜設定される。
【０２１２】
また、図２９のＡ示される画像の人物の後ろに、図２９のＢに示される画像のようにクリスマスツリーを配置する等、配置位置の奥行き方向の距離に応じて、画像内の他の被写体との前後関係（重なり具合）が正確に再現される。
【０２１３】
さらに、配置位置はユーザが指定することができ、ユーザは、その仮想撮像画像６１１として表示される部屋内で家具画像を自由に移動させることができる。また、配置する家具画像は、家具販売サーバ６０１（サーバ２０２）がユーザに提供する家具画像の中からユーザが任意に選択することができる。例えば、ユーザは、家具の色や大きさを変更することができる。また、例えば椅子からソファに変更する等、家具の種類を変更することもできる。
【０２１４】
合成する家具の数は任意であり、単数であっても良いし、複数であってもよい。また、端末装置２０１は、家具画像の配置結果を示す合成画像の画像データをサーバ２０２等に記録させることもできる。したがって、ユーザは、容易に、後で家具画像の配置結果を再度確認することができる。
【０２１５】
例えば端末装置２０１において、家具販売支援のアプリケーションを実行することにより、ユーザは、このような家具販売支援サービスを受けることができる。すなわち、ユーザは、家具を購入する前に、家具を配置する予定の場所（部屋等）に仮想の家具（家具画像）を仮想的に配置することができる（家具配置のシミュレーションを行うことができる）。したがって、ユーザは、家具購入前に、家具購入に関する不安を解消することができ、購買意欲を増大させることができる。すなわち、多視点画像利用サービス提供システム２００は、以上のような家具販売支援サービスを提供することにより、家具の販売を支援することができる。
【０２１６】
＜機能ブロック＞
端末装置２０１は、CPU２２１が所定のプログラムを実行することにより、図３０のＡに機能ブロックとして示される機能を有する。図３０のＡに示されるように、CPU２２１は、ユーザ指示受付処理部６５１、表示制御部６５２、撮像制御部６５３、メタデータ生成部６５４、デプス検出部６５５、仮想撮像画像生成部６５６、家具画像配置処理部６５７、購入処理部６５８、ファイル生成部６５９、合成画像データ生成部６６０、アプリケーションパラメータ生成部６６１、および伝送制御部６６２等の機能ブロックを有する。
【０２１７】
ユーザ指示受付処理部６５１は、入力部２３１等を制御して、ユーザ指示の受け付けに関する処理を行う。表示制御部６５２は、出力部２３２等を制御して、GUIや案内等の画像をモニタに表示させる等の表示制御に関する処理を行う。撮像制御部６５３は、多視点撮像の制御に関する処理を行う。メタデータ生成部６５４は、多視点撮像により得られた多視点画像のメタデータの生成に関する処理を行う。デプス検出部６５５は、多視点画像のデプスの検出に関する処理を行う。仮想撮像画像生成部６５６は、仮想撮像画像の生成に関する処理を行う。家具画像配置処理部６５７は、仮想撮像画像への家具画像の配置に関する処理を行う。購入処理部６５８は、家具の購入に関する処理を行う。ファイル生成部６５９は、多視点画像ファイルの生成に関する処理を行う。合成画像データ生成部６６０は、仮想撮像画像に家具画像が合成された合成画像データの生成に関する処理を行う。アプリケーションパラメータ生成部６６１は、当該アプリケーションについてのアプリケーションパラメータの生成に関する処理を行う。伝送制御部６６２は、通信部２３４等を制御して、各種情報の伝送に関する処理を行う。
【０２１８】
また、サーバ２０２は、CPU２５１が所定のプログラムを実行することにより、図３０のＢに機能ブロックとして示される機能を有する。図３０のＢに示されるように、CPU２５１は、ユーザ管理部６７１、アプリケーション選択部６７２、家具データ選択部６７３、購入処理部６７４、取得制御部６７５、およびデータ管理部６７６等の機能ブロックを有する。
【０２１９】
ユーザ管理部５２１は、ユーザ管理部２９１と同様に、多視点画像利用サービスを提供するユーザの管理に関する処理を行う。アプリケーション選択部６７２は、通信部２６４を制御して端末装置２０１と通信を行う等して、実行するアプリケーションの選択に関する処理を行う。家具データ選択部６７３は、通信部２６４等を制御して端末装置２０１と通信を行い、仮想撮像画像に配置する家具（家具画像）の選択に関する処理を行う。購入処理部６７４は、通信部２６４等を制御して、端末装置２０１や家具販売サーバ６０１と通信を行い、家具の購入に関する処理を行う。取得制御部６７５は、通信部２６４等を制御して、端末装置２０１等から伝送される各種データの取得に関する処理を行う。データ管理部６７６は、データ管理部２９５と同様に、多視点画像ファイル等のデータの管理や、アプリケーションおよびそのアプリケーションに関するデータ等の管理に関する処理を行う。
【０２２０】
さらに、家具販売サーバ６０１は、CPU４１１が所定のプログラムを実行することにより、図３０のＣに機能ブロックとして示される機能を有する。図３０のＣに示されるように、CPU４１１は、家具データ提供部６８１および購入処理部６８２等の機能ブロックを有する。
【０２２１】
家具データ提供部６８１は、例えば家具画像やその3Dモデリングデータ等の、家具の販売支援に用いるデータの提供に関する処理を行う。購入処理部６８２は、通信部４２４等を制御して、サーバ２０２と通信を行い、家具購入の手続きに関する処理を行う。
【０２２２】
＜多視点画像利用サービス提供処理の流れ＞
以上のような構成の多視点画像利用サービス提供システムの端末装置２０１、サーバ２０２、および家具販売サーバ６０１は、多視点画像利用サービス提供処理を実行することにより、多視点画像を利用するサービスの提供、本実施の形態の場合、物販支援のサービスの提供を行う。図３１乃至図３３のフローチャートを参照して、これらの装置が実行する多視点画像利用サービス提供処理の流れの例を説明する。
【０２２３】
ステップＳ３２１において、家具販売サーバ６０１の家具データ提供部６８１は、家具画像の画像データやその3Dモデリングデータをサーバ２０２に供給し、登録させる。サーバ２０２のデータ管理部６７６は、ステップＳ３１１において、それらのデータを取得し、販売を支援する家具として登録し、管理する。
【０２２４】
ステップＳ３０１において、端末装置２０１のユーザ指示受付処理部６５１は、入力部２３１等を制御して、ユーザからアプリケーションの起動を要求する指示を受け付ける。伝送制御部６６２は、通信部２３４等を制御して、そのユーザ指示受付処理部６５１により受け付けられたアプリケーションの起動要求をサーバ２０２に供給する。
【０２２５】
サーバ２０２のアプリケーション選択部６７２は、ステップＳ３１２において、通信部２６４等を制御して、その要求を取得する。その要求に応じて、アプリケーション選択部６７２は、ステップＳ３１３において、ユーザ管理部６７１が管理するユーザ管理情報に基づいて、そのユーザが使用可能なアプリケーションのリストを生成し、通信部２６４等を制御して、そのリストを端末装置２０１に供給する。
【０２２６】
端末装置２０１の伝送制御部６６２は、ステップＳ３０２において、通信部２３４等を制御して、そのリストを取得する。表示制御部６５２は、出力部２３２を制御し、取得されたそのリストを画像としてモニタに表示する。ユーザは、そのリストに基づいて起動するアプリケーションを選択する。
【０２２７】
ステップＳ３０３において、ユーザ指示受付処理部６５１は、入力部２３１等を制御して、ユーザから起動するアプリケーションの選択指示を受け付ける。伝送制御部６６２は、通信部２３４等を制御して、そのユーザ指示受付処理部６５１により受け付けられた、起動するアプリケーションの選択指示をサーバ２０２に供給する。
【０２２８】
サーバ２０２のアプリケーション選択部６７２は、ステップＳ３１４において、通信部２６４等を制御して、その選択指示を取得する。次に、家具データ選択部６７３は、ステップＳ３１５において、ユーザ管理部５２１が管理するユーザ管理情報に基づいて、そのユーザに販売可能な家具のリストである物販リストを生成し、通信部２６４等を制御して、そのリストを端末装置４０１に供給する。
【０２２９】
端末装置４０１の伝送制御部６６２は、ステップＳ３０４において、通信部２３４等を制御して、そのリストを取得する。表示制御部６５２は、出力部２３２を制御し、取得されたそのリストを画像としてモニタに表示する。ユーザは、そのリストに基づいて処理対象とする家具（家具データ）を選択する。
【０２３０】
ステップＳ３０５において、ユーザ指示受付処理部６５１は、入力部２３１等を制御して、ユーザから家具データの選択指示を受け付ける。伝送制御部６６２は、通信部２３４等を制御して、そのユーザ指示受付処理部６５１により受け付けられた家具データの選択指示を、サーバ２０２に供給する。
【０２３１】
サーバ２０２の家具データ選択部６７３は、ステップＳ３１６において、通信部２６４等を制御して、その選択指示を取得する。
【０２３２】
ところで、家具データの選択指示を供給した端末装置２０１の撮像制御部６５３は、ステップＳ３０６において、撮像部２３６を制御して多視点撮像を行う。ステップＳ３０７において、メタデータ生成部６５４は、ステップＳ３０６において生成された多視点画像に関連付けられるメタデータを生成する。メタデータの内容は任意であるが、例えば、図１１を参照して説明したようなカメラ配列情報３４２や眼数情報３４３等の情報を含むようにしてもよい。
【０２３３】
ステップＳ３０８において、デプス検出部６５５は、多視点画像についてデプス値を検出し、デプスデータ（デプスマップ）を生成する。例えば、デプス検出部６５５は、図１４を参照して説明したデプス検出処理を行う等してデプスデータを生成する。ステップＳ３０９において、仮想撮像画像生成部６５６は、多視点画像を用いて仮想撮像画像を生成する。
【０２３４】
図３２に進み、家具販売サーバ６０１の家具データ提供部６８１は、ステップＳ３５１において、家具画像の画像データやその3Dモデリングデータが更新された場合、通信部４２４等を制御し、それらのデータをサーバ２０２に、バックグラウンド転送により適宜供給する。サーバ２０２のデータ管理部６７６は、ステップＳ３４１において、それらのデータを取得し、登録情報を更新する。
【０２３５】
ステップＳ３４２において、サーバ２０２の家具データ選択部６７３は、ステップＳ３１６において取得した家具データの選択指示に基づいて、通信部２６４等を制御して、選択された家具の画像データと3Dモデリングデータとを端末装置２０１に提供する。端末装置２０１の伝送制御部６６２は、ステップＳ３３１において、通信部２３４を制御して、その家具の画像データおよび3Dモデリングデータを取得する。
【０２３６】
また、サーバ２０２の家具データ選択部６７３は、ステップＳ３４３において、ステップＳ３４２において提供した家具データの家具と関連性の高い家具（例えば、色違いの家具やサイズ違いの家具等）を選択し、通信部２６４等を制御して、その家具画像や3Dモデリングデータ等を、端末装置２０１に、バックグラウンド転送により適宜供給する。端末装置２０１の伝送制御部６６２は、ステップＳ３３２において、通信部２３４を制御して、その家具の画像データおよび3Dモデリングデータを取得する。
【０２３７】
このように関連家具のデータを、端末装置２０１からの要求無しにバックグラウンド処理で端末装置２０１に伝送させることにより、端末装置２０１のユーザは、データ取得に関する通信のタイムラグ無しに、仮想撮像画像に配置する家具画像を、関連性の高い他の家具の画像に置き換えることができる。
【０２３８】
ステップＳ３３３において、端末装置２０１の家具画像配置処理部６５７は、家具画像配置処理を実行し、背景画像の一例である仮想撮像画像に、オブジェクトの一例である家具画像を配置する。その際、家具画像配置処理部６５７は、家具画像の配置位置に応じて、家具画像の大きさや向きを適宜設定して配置する。家具画像配置処理の結果、家具画像や3Dモデリングデータの変更や追加が必要になった場合、家具画像配置処理部６５７は、ステップＳ３３４において、通信部２３４等を制御して、家具画像や3Dモデリングデータの変更・追加をサーバ２０２に要求する。
【０２３９】
サーバ２０２の家具データ選択部６７３は、ステップＳ３４４において、通信部２６４等を制御して、その要求を取得すると、その要求に応じて、ステップＳ３４５において、通信部２６４等を制御して、選択された家具の画像データと3Dモデリングデータとを端末装置２０１に提供する。端末装置２０１の伝送制御部６６２は、ステップＳ３３５において、通信部２３４を制御して、その家具の画像データおよび3Dモデリングデータを取得する。
【０２４０】
また、サーバ２０２の家具データ選択部６７３は、ステップＳ３４５において、ステップＳ３４４において提供した家具データの家具と関連性の高い家具（例えば、色違いの家具やサイズ違いの家具等）を選択し、通信部２６４等を制御して、その家具画像や3Dモデリングデータ等を、端末装置２０１に、バックグラウンド転送により適宜供給する。端末装置２０１の伝送制御部６６２は、ステップＳ３３６において、通信部２３４を制御して、その家具の画像データおよび3Dモデリングデータを取得する。
【０２４１】
このように関連家具のデータを、端末装置２０１からの要求無しにバックグラウンド処理で端末装置２０１に伝送させることにより、端末装置２０１のユーザは、データ取得に関する通信のタイムラグ無しに、仮想撮像画像に配置する家具画像を、関連性の高い他の家具の画像に置き換えることができる。
【０２４２】
図３３に進み、端末装置２０１のユーザは、以上のような家具配置のシミュレーションにより、家具を購入するか否かを決定する。ユーザ指示受付処理部６５１は、ステップＳ３６１において、入力部２３１等を制御して、ユーザ指示を受け付け、その指示にしたがって購入する家具を決定する。
【０２４３】
ステップＳ３６２において、端末装置２０１の購入処理部６５８は、通信部２３４等を制御して、サーバ２０２と通信を行い、決済処理等の、購入に関する処理を行う。サーバ２０２の購入処理部６７４は、ステップＳ３７１において、通信部２６４等を制御して、端末装置２０１や家具販売サーバ６０１と通信を行い、決済処理等の、購入に関する処理を行う。家具販売サーバ６０１の購入処理部６８２は、ステップＳ３８１において、通信部４２４等を制御して、端末装置２０１やサーバ２０２と通信を行い、決済処理等の、購入に関する処理を行う。
【０２４４】
ステップＳ３６３において、端末装置２０１のファイル生成部６５９は、多視点画像ファイルを生成する。なお、この多視点画像ファイルのフォーマット形式は任意である。例えば、多視点画像が静止画像の場合、EXIFファイルフォーマットでファイル化されるようにしてもよい。また、例えば、多視点画像が動画像の場合、MP4ファイルフォーマットでファイル化されるようにしてもよい。もちろん、これら以外のフォーマット形式でファイル化されるようにしてもよい。
【０２４５】
ステップＳ３６４において、合成画像データ生成部６６０は、仮想撮像画像に家具画像をユーザの指示通りに配置して合成した合成画像のデータ（合成画像データ）を生成する。
【０２４６】
ステップＳ３６５において、アプリケーションパラメータ生成部６６１は、この家具販売支援において、どのようなパラメータについてどのような値が設定され、ユーザによりどのような操作（指示）が行われ、どのような処理が行われたか等を示す履歴情報を、この物販支援を行うアプリケーションのアプリケーションパラメータとして生成する。
【０２４７】
ステップＳ３６６において、伝送制御部６６２は、通信部２３４を制御して、以上のように生成された、各種データ（多視点画像ファイル（多視点画像データ、デプスデータ、メタデータ等）、合成画像データ、アプリケーションパラメータ等）をサーバ２０２に供給する。
【０２４８】
サーバ２０２の取得制御部６７５は、ステップＳ３７２において、通信部２６４を制御し、その各種データを取得する。
【０２４９】
ステップＳ３７３において、データ管理部６７６は、ステップＳ３７２において取得された各種データを、記憶し、ユーザに登録する（ユーザ管理情報に反映させる）。
【０２５０】
ステップＳ３７３の処理が終了すると、多視点画像利用サービス提供処理が終了する。
【０２５１】
このような多視点画像利用サービス提供処理を実行することにより、ユーザは、多視点画像を利用して家具配置のレンズのシミュレーションをより容易に行うことができる。また、生成された合成画像データがサーバ２０２においてユーザに登録されて管理されるので、ユーザは、家具の配置結果を容易に再確認することができる。つまり、多視点画像利用サービス提供システム２００（多視点画像利用サービスプラットフォーム１００）は、多視点画像を用いたサービスの利便性を向上させることができる。
【０２５２】
＜家具画像配置処理の流れ＞
次に、図３４のフローチャートを参照して、図３２のステップＳ３３３において実行される家具画像配置処理の詳細な流れの例について説明する。
【０２５３】
家具画像配置処理が開始されると、家具画像配置処理部６５７は、ステップＳ３９１において、例えば入力部２３１等を制御して、ユーザ等から配置位置指定を受け付ける。
【０２５４】
ステップＳ３９２において、家具画像配置処理部６５７は、背景画像の一例である仮想撮像画像（多視点画像）のデプスデータおよび基線長情報、並びに、オブジェクトの一例である家具画像の3Dモデリングデータに基づいて、仮想撮像画像に家具画像を配置する位置における家具画像の向きや大きさを設定する。
【０２５５】
ステップＳ３９３において、家具画像配置処理部６５７は、仮想撮像画像に対して、（例えば、ステップＳ３９１において受け付けられた配置位置指定により）指定される位置に、ステップＳ３９２において設定した向きや大きさで、家具画像を配置して合成する。
【０２５６】
ステップＳ３９３の処理が終了すると、家具画像配置処理が終了し、処理は、図３２に戻る。
【０２５７】
以上のように家具画像配置処理を行うことにより、ユーザは、より容易に家具配置のシミュレーションを行うことができる。
【０２５８】
なお、以上に説明した家具画像配置処理は、端末装置２０１に限らず、任意の装置において実行されるようにしてもよい。例えば、サーバ２０２において、家具画像配置処理が行われるようにしてもよい。その場合、サーバ２０２のCPU２５１が家具画像配置処理部６５７等、必要な機能ブロックを適宜有するようにすればよい。その場合も、家具画像配置処理は、上述した例と基本的に同様に実行することができる。なお、多視点画像ファイル等の家具画像配置処理に用いられる情報であって、端末装置２０１において得られる情報は、伝送制御部６６２の制御の下、必要に応じて適宜サーバ２０２に伝送されるようにすればよい。
【０２５９】
同様に、この家具画像配置処理は、例えば、多視点撮像を行う端末装置２０１やサーバ２０２以外の装置（例えば、端末装置４０１）等において行われるようにしてももちろんよい。その場合、その装置のCPUが家具画像配置処理部６５７等の必要な機能ブロックを適宜有するようにすればよい。その場合も、家具画像配置処理は、上述した例と基本的に同様に実行することができる。なお、多視点画像ファイルや家具データ等の家具画像配置処理に用いられる情報であって、端末装置２０１やサーバ２０２において得られる情報は、伝送制御部６６２や家具データ選択部６７３等の制御の下、必要に応じて適宜その装置に伝送されるようにすればよい。
【０２６０】
＜家具配置更新処理＞
以上のような物販支援のアプリケーションにおいて、配置位置指定が更新されたら、その更新に応じて、家具画像の合成位置を変更するようにしてもよい。例えば、図３５のＡに示されるように、仮想撮像画像７０１に配置された家具画像７０２Ａの配置位置指定を点線矢印７０３のように更新した場合、家具画像７０２Ａは、その更新後の配置位置に応じて大きさや向きが再設定される（家具画像７０２Ｂ）。
【０２６１】
また、仮想撮像画像の視点を更新した場合、配置された家具画像の位置は更新しないようにし、新たな視点の仮想撮像画像において、その家具画像を元の位置に適切な大きさと向きで再配置するようにしてもよい。例えば、図３５のＢに示されるように、部屋７０４を視点７０５Ａから撮像した仮想撮像画像において、ソファ７０６を図３５のＢのように配置したとする。その後、仮想撮像画像の視点を視点７０５Ｂに移動した場合、その視点更新後の仮想撮像画像にもソファ７０６は写り込む筈である。したがって、視点更新後の仮想撮像画像において、ソファ７０６を、その位置に配置するようにする。その際、ソファ７０６の向きと大きさを、視点更新後の仮想撮像画像に対して適切に調整するようにする。
【０２６２】
このような機能を実現するために、家具画像配置処理部６５７は、家具配置更新処理を実行する。この家具配置更新処理の流れの例を、図３６のフローチャートを参照して説明する。家具配置更新処理が開始されると、家具画像配置処理部６５７は、ステップＳ４０１において、配置指定位置が変更されたか否かを判定する。例えば、入力部２３１を介してユーザからの新たな配置位置指定が受け付けられ、配置位置指定が変更されたと判定された場合、処理はステップＳ４０２に進む。
【０２６３】
ステップＳ４０２において、家具画像配置処理部６５７は、デプスデータおよび基線長情報、並びに、3Dモデリングデータに基づいて、家具画像の向きや大きさを設定する。ステップＳ４０３において、家具画像配置処理部６５７は、家具画像を仮想撮像画像の更新後の指定位置に合成する。
【０２６４】
ステップＳ４０３の処理が終了すると、処理はステップＳ４０４に進む。また、ステップＳ４０１において、配置指定位置が変更されていないと判定された場合、処理はステップＳ４０４に進む。
【０２６５】
ステップＳ４０４において、家具画像配置処理部６５７は、撮像の位置や向きが変更されたか否かを判定する。例えば、新たな多視点撮像が行われて新たな仮想撮像画像が生成される場合や、動画像の多視点撮像を移動しながら行う場合等のように、撮像の位置や向きが変更されたと判定された場合、処理はステップＳ４０５に進む。
【０２６６】
ステップＳ４０５において、家具画像配置処理部６５７は、新たな多視点画像により仮想が撮像画像を作成し直すことにより、仮想撮像画像を更新する。ステップＳ４０６において、家具画像配置処理部６５７は、その更新された仮想撮像画像において、仮想撮像画像更新前に配置された家具画像の位置を特定する。ステップＳ４０７において、家具画像配置処理部６５７は、更新された仮想撮像画像の、ステップＳ４０６において特定された位置における家具画像の大きさや向きを設定する。ステップＳ４０８において、家具画像配置処理部６５７は、更新された仮想撮像画像の、ステップＳ４０６において特定された位置に、ステップＳ４０７において設定された大きさや向きで、家具画像を再配置する。
【０２６７】
ステップＳ４０８の処理が終了すると、家具配置更新処理が終了される。また、ステップＳ４０４において、撮像の位置や向きが変更されていないと判定された場合、家具配置更新処理が終了される。
【０２６８】
家具画像が仮想撮像画像に配置された後、家具配置のシミュレーションが終了されるまで、この家具配置更新処理が繰り返し実行される。これにより、家具画像が常に適切な位置に適切な大きさと向きで仮想撮像画像に合成されるようにすることができる。
【０２６９】
＜接地判定＞
また、家具画像の配置において、家具画像が仮想撮像画像の床等に接地しているか否かを判定するようにしてもよい。例えば、図３７のＡに示される仮想撮像画像７１１において、ライトスタンド７１２が、図３７のＡに示されるような位置に配置指定されたとする。この場合、ライトスタンド７１２は、点線両矢印７１３に示されるように、床７１４から離れており、空中に浮いた状態で配置されることになり、現実的な配置位置ではなく、家具配置のシミュレーションとしては不適切であり、望ましくない。
【０２７０】
そこで、このような場合、図３７のＢに示されるように、ライトスタンド７１２が仮想撮像画像７１１の床７１４に接地するように、ライトスタンド７１２の配置位置を変更するようにしてもよい。また、位置は変更せずに、ユーザ等に対して警告を行うようにしてもよい。
【０２７１】
このような機能を実現するために、家具画像配置処理部６５７は、接地判定処理を実行する。図３８のフローチャートを参照して、この接地判定処理の流れの例を説明する。
【０２７２】
接地判定処理が開始されると、家具画像配置処理部６５７は、ステップＳ４２１において、家具の配置指定位置の、床等の家具の配置が可能な場所からの高さを特定する。ステップＳ４２２において、家具画像配置処理部６５７は、配置される家具画像の3Dモデリングデータから、その家具画像が床等の家具の配置が可能な場所に接地しているか否かを判定する。接地していないと判定された場合、処理は、ステップＳ４２３に進む。
【０２７３】
ステップＳ４２３において、家具画像配置処理部６５７は、エラー処理を行う。このエラー処理の内容は任意であり、どのような処理が行われるようにしてもよい。例えば、上述したように、家具画像が接地するように家具画像を移動させても良いし、家具画像の配置位置は更新せずにユーザ等に対して警告を行うようにしてもよい。
【０２７４】
ステップＳ４２３の処理が終了すると、接地判定処理が終了される。また、ステップＳ４２２において、家具画像が床等の家具の配置が可能な場所に接地していると判定された場合、接地判定処理が終了される。
【０２７５】
家具の配置が行われる度に、この接地判定処理が実行される。これにより、ユーザは、より現実味のある家具配置のシミュレーションを行うことができる。
【０２７６】
また、上述したようにオブジェクトの配置位置の高さ方向の調整だけでなく、背景画像の内容（背景画像に含まれる物体の位置等）に基づいて、オブジェクトの水平方向（左右方向や前後（奥行き）方向）の配置位置を適宜調整するようにしてもよい。
【０２７７】
例えば、背景画像（仮想撮像画像）が、大きな柱が一番手前にあり、その柱の後ろに空間があり、その空間の後ろに壁があるような部屋の画像であるとする。この壁の手前（部屋内）において、柱の部分をオブジェクト（家具画像）の配置不可能領域とし、柱の後ろと壁の間の空間をオブジェクト（家具画像）の配置可能領域とするようにする。そして、家具画像がその配置不可能領域に配置されるように指示された場合、その家具画像が、配置可能領域である柱の後ろと壁の間の空間に移動されて配置されるようにする。その際、家具画像が、その移動後の配置位置に応じて大きさや向きが設定されるだけでなく、必要に応じて家具画像の一部または全部が柱の後ろに隠れるように加工されて、仮想撮像画像に合成されるようにする。
【０２７８】
このようにすることにより、ユーザは、より現実味のある家具配置のシミュレーションを行うことができる。
【０２７９】
＜長さ計測＞
また、仮想撮像画像上で長さを計測することができるようにしてもよい。例えば、図３９に示されるように、仮想撮像画像７２１において、点線両矢印７２２のように窓の横幅を計測するとする。仮想撮像画像７２１内において、窓の大きさは、その窓の奥行き方向の距離等によって変化する。そこで、多視点画像のデプスデータや基線長情報等を用いて、計測された長さを、その奥行き方向の距離に応じて補正するようにしてもよい。
【０２８０】
このような機能を実現するために、家具画像配置処理部６５７は、計測処理を実行する。図４０のフローチャートを参照して、この計測処理の流れの例を説明する。
【０２８１】
計測処理が開始されると、家具画像配置処理部６５７は、ステップＳ４４１において、仮想撮像画像上で範囲指定を受け付ける。範囲指定がされると、家具画像配置処理部６５７は、ステップＳ４４２において、仮想撮像画像の生成に用いられた多視点画像のデプスデータや基線長情報に基づいて、指定された範囲の長さを計測する。ステップＳ４４２の処理が終了すると、計測処理が終了する。
【０２８２】
これにより、例えば、図３９の仮想撮像画像７２１において、窓の横幅の長さ（点線両矢印７２２）をより正確に計測することができる。したがって、例えば、この窓にかけるカーテンの購入等の際に、カーテンの寸法の測り間違い等のミスの発生を抑制することができ、ユーザの購買意欲の低減を抑制することができる。すなわち、このようなサービスによって販売を支援することができる。
【０２８３】
＜照明処理＞
また、仮想撮像画像上で照明（光線）の当たり方を再現するようにしてもよい。例えば、図４１にしめされるように、仮想撮像画像７３１にライトスタンド７３２を配置したとき、このライトスタンド７３２の照明を点灯させた状態を再現するようにしてもよい。
【０２８４】
このような機能を実現するために、家具画像配置処理部６５７は、照明処理を実行する。図４２のフローチャートを参照して、この照明処理の流れの例を説明する。
【０２８５】
照明処理が開始されると、家具画像配置処理部６５７は、ステップＳ４６１において、色、明るさ、向き等の光源に関するパラメータを含む光源パラメータの指定を受け付ける。この光源パラメータに含まれる各パラメータの値は、ユーザにより指定されるようにしてもよいし、家具（照明器具）画像に関連付けられた家具データとして提供されるようにしてもよい。ステップＳ４６２において、家具画像配置処理部６５７は、その指定される光源パラメータに基づいて、仮想撮像画像における照明（光源からの光）の当たり方をシミュレーションする（模擬的に現出する）。ステップＳ４６３において、家具画像配置処理部６５７は、そのシミュレーション結果を仮想撮像画像に反映させる。例えば、照明が当たる部分は明るくしたり、当たらない部分は暗くしたり、影をつけたりする。
【０２８６】
このようにすることにより、ユーザは、より現実味のある照明器具の配置のシミュレーションを行うことができる。したがって、照明器具購入の際に、実際に購入した照明器具の照明の色や明るさが店頭やカタログ等を見てした推定と大幅に異なる等の不都合の発生を抑制することができ、ユーザの購買意欲の低減を抑制することができる。すなわち、このようなサービスによって販売を支援することができる。
【０２８７】
＜動線案内処理＞
また、仮想撮像画像上において、動線となる部分を強調表示するようにしてもよい。例えば、図４３にしめされるように、仮想撮像画像７４１上にテーブル７４２を配置した状態において、動線としての条件を満たす部分７４３を特定し、その部分を案内するようにしてもよい。図４３の例の場合、その動線としての条件を満たす部分７４３が斜線模様等で強調されるように表示されている。動線としての条件は、任意であるが、例えば、床等の人が立つことができること、人が通れる程度の幅が確保されていること等が考えられる。
【０２８８】
動線としての条件を満たす部分７４３を示す表示方法は、色や輝度によるものであってもよいし、矢印や星印等の記号や図形を用いたものであっても良い。
【０２８９】
このような機能を実現するために、家具画像配置処理部６５７は、動線案内処理を実行する。図４４のフローチャートを参照して、この動線案内処理の流れの例を説明する。
【０２９０】
動線案内処理が開始されると、家具画像配置処理部６５７は、ステップＳ４８１において、基線長情報に基づいて、仮想撮像画像における所定の幅以上の床の部分、すなわち、動線としての条件を満たす部分を特定する。ステップＳ４８２において、家具画像配置処理部６５７は、その特定された部分を、模様、色、または輝度等により強調表示する。ステップＳ４８２の処理が終了すると、動線案内処理が終了する。
【０２９１】
このようにすることにより、ユーザは、家具配置の際に、動線を確保するように家具の配置をシミュレーションすることができる。したがって、例えば、家具が大きすぎて人が通れない隙間しか設けられない等の不都合の発生を抑制することができる。また、例えば、車椅子が通れる動線を確保できるか否か等の確認を家具購入前に行うことができる。したがって、このようなサービスによってユーザの購買意欲を向上させ、販売を支援することができる。
【０２９２】
＜人物画像配置＞
また、家具を配置する際に、仮想撮像画像上に人物画像を配置するようにしてもよい。例えば、図４５に示されるように、仮想撮像画像７５１に椅子７５２を配置し、その近傍に、人物画像７５３を配置することができるようにしてもよい。この人物画像は、実際の人物の撮像画像であってもよいし、架空の人物の画像であってもよい。いずれにしても、この人物画像には、家具画像と同様の3Dモデリングデータが関連付けられている。
【０２９３】
このような機能を実現するために、家具画像配置処理部６５７は、人物画像配置処理を実行する。図４６のフローチャートを参照して、この人物画像配置処理の流れの例を説明する。
【０２９４】
人物画像配置処理が開始されると、家具画像配置処理部６５７は、ステップＳ５０１において、入力部２３１等を介して、ユーザ等からの人物画像の配置位置の位置指定を受け付ける。ステップＳ５０２において、家具画像配置処理部６５７は、家具画像の場合と同様に、仮想撮像画像を生成するために用いられる撮像画像の基線長情報やデプスデータ等に基づいて、指定された位置における人物画像の大きさや向きを設定する。ステップＳ５０３において、家具画像配置処理部６５７は、（例えば、ステップＳ５０１において）指定された位置に、ステップＳ５０２において設定された大きさや向きで人物画像を配置する。ステップＳ５０３の処理が終了すると、人物画像配置処理が終了する。
【０２９５】
このようにすることにより、ユーザは、家具画像だけでなく、人物画像も仮想撮像画像に配置することができる。したがって、配置した家具と人物画像とを比較することができ、配置した家具の大きさや雰囲気をより正確に表現することができる。したがって、例えば、購入した家具が思っていたより大きかった、思っていた印象と異なる等の不都合の発生を抑制することができる。したがって、このようなサービスによってユーザの購買意欲を向上させ、販売を支援することができる。
【０２９６】
なお、人物画像の位置の設定方法は、任意である。例えば、配置された家具画像上や近傍等、家具画像の位置に応じて人物画像の配置位置が決定されるようにしてもよい。また、例えば、ユーザが家具画像を指定するようにし、その指定された家具画像に応じた位置に人物画像が配置されるようにしてもよい。なお、配置する人物画像は、１名の画像であってもよいし、複数人の画像であってもよい。
【０２９７】
なお、ここで人物画像とは、販売を支援する対象であるオブジェクト（例えば、家具画像）ではない、背景画像（例えば、仮想撮像画像）に合成（配置）する画像の一例である。つまり、上述した人物画像の場合と同様の方法で、人物画像以外の任意の画像を配置するようにしてもよい。例えば、犬や猫等の動物の画像（動物画像）であってもよいし、販売（支援）対象でない物品の画像（物品画像）であってもよいし、人物と動物の両方を含む画像のように、それらを組み合わせた画像（混在画像）であってもよい。
【０２９８】
さらに、以上のように画像を配置する際に、配置する画像をユーザ等が選択することができるようにしてもよい。例えば、人物画像を配置するか、動物画像を配置するか、物品画像を配置するか、混在画像を配置するか等を選択することができるようにしてもよい。さらに詳細な選択を行うことができるようにしてもよい。例えば、人物画像の場合、男性、女性、大人、子供、姿勢（立っているか座っているか等）、服装、人数等を選択することができるようにしてもよい。動物画像、物品画像、混在画像の場合も同様に、種類、性別、年齢、大きさ、色等、任意のパラメータについて、選択することができるようにしてもよい。なお、このような画像の選択方法は任意である。例えば、予め用意された複数の候補の中からユーザ等が所望の画像を選択するようにしてもよい。また、ユーザ等が、画像を作成したり加工したり合成したりして、この人物画像のように合成する画像を作成するようにしてもよい。
【０２９９】
＜家具リスト制限＞
また、上述したように、ユーザが配置する家具を選択する際に、家具のリストが提示されるが、その際、仮想撮像画像内に配置可能な家具のみをリストにしてユーザに提示するようにしてもよい。つまり、配置不可能な家具をリストから省略するようにし、ユーザ等が、配置可能な家具画像（オブジェクト）の中から仮想撮像画像（背景画像）に配置する家具画像を選択するようにしてもよい。
【０３００】
このような機能を実現するために、家具画像配置処理部６５７は、家具リスト制限処理を実行する。図４７のフローチャートを参照して、この家具リスト制限処理の流れの例を説明する。
【０３０１】
家具リスト制限処理が開始されると、家具画像配置処理部６５７は、ステップＳ５２１において、仮想撮像空間の生成に用いられる多視点画像の基線長情報から、仮想撮像画像内に配置可能な家具の大きさを判定する。ステップＳ５２２において、家具画像配置処理部６５７は、サーバ２０２から供給されたリストの家具画像の3Dモデリングデータから、仮想撮像画像内に配置可能な家具を特定する。ステップＳ５２３において、家具画像配置処理部６５７は、ステップＳ５２２において特定された家具のみのリストを作成する。表示制御部６５２は、出力部２３２を制御し、家具画像配置処理部６５７により作成されたそのリストを画像としてモニタに表示する。ステップＳ５２３の処理が終了すると、家具リスト制限処理が終了する。
【０３０２】
このようにすることにより、ユーザに提示されるリストから不要な家具を除去することができる。したがって、ユーザはより有用なリストを参照し、家具を選択することができる。特に販売する家具の数や種類が多数存在する場合、ユーザによるリストからの家具の選択が困難になるおそれがあるので、できるだけ不要な情報はリストから除くのが望ましい。したがって、このようなサービスによってユーザの家具選択を容易にし、購買意欲の低減を抑制することができ、販売を支援することができる。
【０３０３】
なお、以上において、画像合成の例として、多視点撮像により得られた仮想撮像画像と家具画像を合成する例を説明したが、合成する画像はどのようなものであってもよい。例えば、撮像画像同士を合成するようにしてもよいし、コンピュータグラフィック画像のような人工的な画像同士を合成するようにしてもよいし、撮像画像と人工的な画像とを合成するようにしてもよい。また、撮像画像の一部が人工的な画像となっている画像を合成するようにしてもよい。さらに、動画像同士を合成するようにしてもよいし、静止画像同士を合成するようにしてもよいし、動画像と静止画像とを合成するようにしてもよい。
【０３０４】
また、以上において、物販支援サービスとして、背景画像にオブジェクトを合成するように説明したが、このオブジェクトは、販売支援の対象となる物品の画像であればどのようなものであってもよく、3Dモデリングデータを有していなくてもよい。例えば、3Dモデリングデータは、オブジェクトとは別の場所から提供されるようにしてもよい。また、例えば、3Dモデリングデータではなく、大きさ等を示す簡易的な情報であってもよい。
【０３０５】
また、背景画像は、オブジェクトが配置される画像であることを示すものであり、オブジェクトとの重畳の関係（位置関係）を示すものではない。例えば、背景画像には、オブジェクトの前に重畳される前景が含まれていてもよい。また、背景画像が、その前景のみにより構成される（すなわち、全ての背景画像がオブジェクトの前に位置するように重畳される）ようにしてもよい。さらに、オブジェクトを配置する位置に応じて、背景画像が、オブジェクトの前景になったり背景になったりするようにしてもよい。すなわち、背景画像が、複数の画像により構成されるようにしてもよい（複数の画像が重畳されたものであってもよい）。また、上述したように、背景画像が１枚の撮像画像（仮想撮像画像）よりなるものの、オブジェクト（家具画像）の配置位置（特に奥行き方向の位置）に応じて、その背景画像の一部がオブジェクトの前に位置するように、オブジェクトと背景画像が適宜加工されて合成されるようにしてもよい。
【０３０６】
＜６．その他＞
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
【０３０７】
この記録媒体は、例えば、図４、図６、および図１６に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されているリムーバブルメディア（例えば、リムーバブルメディア２４１、リムーバブルメディア２７１、リムーバブルメディア４３１）により構成される。このリムーバブルメディアには、磁気ディスク（フレキシブルディスクを含む）や光ディスク（CD-ROMやDVDを含む）が含まれる。さらに、光磁気ディスク（MD（Mini Disc）を含む）や半導体メモリ等も含まれる。
【０３０８】
その場合、プログラムは、それらのリムーバブルメディアをドライブに装着することにより、入出力インタフェースを介して、記憶部にインストールすることができる。
【０３０９】
また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、各装置の通信部（例えば、通信部２３４、通信部２６４、通信部４２４）で受信し、記憶部（例えば、記憶部２３３、記憶部２６３、記憶部４２３）にインストールすることができる。
【０３１０】
その他、このプログラムは、各装置のROM（例えば、ROM２２２、ROM２５２、ROM４１２）や記憶部（例えば、記憶部２３３、記憶部２６３、記憶部４２３）に、あらかじめインストールしておくこともできる。
【０３１１】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０３１２】
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０３１３】
また、上述した各ステップの処理は、上述した各装置、若しくは、上述した各装置以外の任意の装置において、実行することができる。その場合、その処理を実行する装置が、上述した、その処理を実行するのに必要な機能（機能ブロック等）を有するようにすればよい。また、処理に必要な情報を、適宜、その装置に伝送するようにすればよい。
【０３１４】
また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０３１５】
また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。
【０３１６】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０３１７】
例えば、本技術は、１つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０３１８】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０３１９】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０３２０】
上述した実施形態に係る画像処理装置は、例えば、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。
【０３２１】
また、本技術は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI（Large Scale Integration）等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等（すなわち、装置の一部の構成）として実施することもできる。
【０３２２】
なお、本技術は以下のような構成も取ることができる。
（１）  視点が互いに異なる複数の画像からなる多視点画像のデータである多視点画像データを符号化する符号化部と、
前記符号化部により前記多視点画像データが符号化された多視点画像符号化データに、前記多視点画像の各視点の相対位置関係を示す配列情報と、前記多視点画像の視点数を示す眼数情報とを関連付ける関連付け処理部と
を備える画像処理装置。
（２）  前記関連付け処理部は、さらに、前記多視点画像における被写体までの距離を示すデプスデータを前記多視点画像符号化データに関連付ける
（１）、（３）乃至（１９）のいずれかに記載の画像処理装置。
（３）  前記関連付け処理部は、さらに、前記多視点画像の各視点のばらつきを表すキャリブレーション情報を前記多視点画像符号化データに関連付ける
（１）、（２）、（４）乃至（１９）のいずれかに記載の画像処理装置。
（４）  前記キャリブレーション情報は、前記多視点画像の各視点の位置を示す情報を含む
（１）乃至（３）、（５）乃至（１９）のいずれかに記載の画像処理装置。
（５）  前記キャリブレーション情報は、前記多視点画像の各画像の輝度を補正する情報を含む
（１）乃至（４）、（６）乃至（１９）のいずれかに記載の画像処理装置。
（６）  前記関連付け処理部は、さらに、前記多視点画像における長さの基準となる情報である基線長情報を前記多視点画像符号化データに関連付ける
（１）乃至（５）、（７）乃至（１９）のいずれかに記載の画像処理装置。
（７）  前記基線長情報は、前記多視点画像の基準となる視点から各視点までの距離を示す情報を含む
（１）乃至（６）、（８）乃至（１９）のいずれかに記載の画像処理装置。
（８）  前記関連付け処理部は、さらに、前記多視点画像を得る撮像に関する情報を前記多視点画像符号化データに関連付ける
（１）乃至（７）、（９）乃至（１９）のいずれかに記載の画像処理装置。
（９）  前記撮像に関する情報は、解像度、焦点距離、ISO感度、撮像方向、シャッタスピード、F値、および画角のうち、少なくともいずれか１つを含む
（１）乃至（８）、（１０）乃至（１９）のいずれかに記載の画像処理装置。
（１０）  前記関連付け処理部は、さらに、前記多視点画像を得る撮像において撮像方向の変位に関する情報を前記多視点画像符号化データに関連付ける
（１）乃至（９）、（１１）乃至（１９）のいずれかに記載の画像処理装置。
（１１）  前記配列情報は、基準となる視点から各視点までの距離を示す情報と、前記基準となる視点から各視点の向きを示す情報とを含む
（１）乃至（１０）、（１２）乃至（１９）のいずれかに記載の画像処理装置。
（１２）  前記関連付け処理部により互いに関連付けられた前記多視点画像符号化データ、前記配列情報、および前記眼数情報を含むファイルを生成するファイル生成部をさらに備える
（１）乃至（１１）、（１３）乃至（１９）のいずれかに記載の画像処理装置。
（１３）  前記ファイル生成部は、EXIFファイルフォーマットで前記ファイルを生成する
（１）乃至（１２）、（１４）乃至（１９）のいずれかに記載の画像処理装置。
（１４）  前記ファイル生成部は、MP4ファイルフォーマットで前記ファイルを生成する
（１）乃至（１３）、（１５）乃至（１９）のいずれかに記載の画像処理装置。
（１５）  前記ファイル生成部により生成された前記ファイルを記憶する記憶部をさらに備える
（１）乃至（１４）、（１６）乃至（１９）のいずれかに記載の画像処理装置。
（１６）  前記ファイル生成部により生成された前記ファイルを伝送する伝送部をさらに備える
（１）乃至（１５）、（１７）乃至（１９）のいずれかに記載の画像処理装置。
（１７）  前記伝送部は、前記ファイルをビットストリーム、または、前記ビットストリームの補助情報として伝送する
（１）乃至（１６）、（１８）、（１９）のいずれかに記載の画像処理装置。
（１８）  被写体を撮像し、視点が互いに異なる複数の撮像画像を得る撮像部をさらに備え、
前記符号化部は、前記撮像部により得られた複数の前記撮像画像からなる多視点画像のデータである多視点画像データを符号化する
（１）乃至（１７）、（１９）のいずれかに記載の画像処理装置。
（１９）  前記多視点画像のデプスデータを生成するデプスデータ生成部をさらに備え、
前記関連付け処理部は、さらに、前記デプスデータ生成部により生成された前記デプスデータを前記多視点画像符号化データに関連付ける
（１）乃至（１８）のいずれかに記載の画像処理装置。
（２０）  視点が互いに異なる複数の画像からなる多視点画像のデータである多視点画像データを符号化し、
前記多視点画像データが符号化された多視点画像符号化データに、前記多視点画像の各視点の相対位置関係を示す配列情報と、前記多視点画像の視点数を示す眼数情報とを関連付ける
画像処理方法。
【符号の説明】
【０３２３】
１００  多視点画像利用サービスプラットフォーム，  ２００  多視点画像利用サービス提供システム，  ２０１  端末装置，  ２０２  サーバ，  ２２１  CPU，  ２３６  撮像部，  ２５１  CPU，  ２８１  撮像制御部，  ２８２  メタデータ生成部，  ２８３  符号化部，  ２８４  伝送制御部，  ２９１  ユーザ管理部，  ２９２  取得制御部，  ２９３  デプス検出部，  ２９４  ファイル生成部，  ２９５  データ管理部，  ３２１  多視点画像ファイル，  ３３１  多視点画像符号化データ，  ３３２  デプスデータ，  ３３３  メタデータ，  ４０１  端末装置，  ４０２  アプリケーション提供サーバ，  ４１１  CPU，  ４４１  アプリケーション購入処理部，  ４５１  ユーザ管理部，  ４５２  アプリケーション販売処理部，  ４５３  データ管理部，  ４６１  アプリケーション提供処理部，  ５１１  ユーザ指示受付処理部，  ５１２  表示制御部，  ５１３  伝送制御部，  ５２１  ユーザ管理部，  ５２２  アプリケーション選択処理部，  ５２３  画像選択処理部，  ５２４  レンズ選択処理部，  ５２５  ユーザ指定パラメータ設定処理部，  ５２６  仮想レンズ処理部，  ５２７  データ管理部，  ６０１  家具販売サーバ，  ６５１  ユーザ指示受付処理部，  ６５２  表示制御部，  ６５３  撮像制御部，  ６５４  メタデータ生成部，  ６５５  デプス検出部，  ６５６  仮想撮像画像生成部，  ６５７  家具画像配置処理部，  ６５８  購入処理部，  ６５９  ファイル生成部，  ６６０  合成画像データ生成部，  ６６１  アプリケーションパラメータ生成部，  ６６２  伝送制御部，  ６７１  ユーザ管理部，  ６７２  アプリケーション選択部，  ６７３  家具データ選択部，  ６７４  購入処理部，  ６７５  取得制御部，  ６７６  データ管理部，  ６８１  家具データ提供部，  ６８２  購入処理部
【図１】
2020078079.tif 000003
【図２】
2020078079.tif 000004
【図３】
2020078079.tif 000005
【図４】
2020078079.tif 000006
【図５】
2020078079.tif 000007
【図６】
2020078079.tif 000008
【図７】
2020078079.tif 000009
【図８】
2020078079.tif 000010
【図９】
2020078079.tif 000011
【図１０】
2020078079.tif 000012
【図１１】
2020078079.tif 000013
【図１２】
2020078079.tif 000014
【図１３】
2020078079.tif 000015
【図１４】
2020078079.tif 000016
【図１５】
2020078079.tif 000017
【図１６】
2020078079.tif 000018
【図１７】
2020078079.tif 000019
【図１８】
2020078079.tif 000020
【図１９】
2020078079.tif 000021
【図２０】
2020078079.tif 000022
【図２１】
2020078079.tif 000023
【図２２】
2020078079.tif 000024
【図２３】
2020078079.tif 000025
【図２４】
2020078079.tif 000026
【図２５】
2020078079.tif 000027
【図２６】
2020078079.tif 000028
【図２７】
2020078079.tif 000029
【図２８】
2020078079.tif 000030
【図２９】
2020078079.tif 000031
【図３０】
2020078079.tif 000032
【図３１】
2020078079.tif 000033
【図３２】
2020078079.tif 000034
【図３３】
2020078079.tif 000035
【図３４】
2020078079.tif 000036
【図３５】
2020078079.tif 000037
【図３６】
2020078079.tif 000038
【図３７】
2020078079.tif 000039
【図３８】
2020078079.tif 000040
【図３９】
2020078079.tif 000041
【図４０】
2020078079.tif 000042
【図４１】
2020078079.tif 000043
【図４２】
2020078079.tif 000044
【図４３】
2020078079.tif 000045
【図４４】
2020078079.tif 000046
【図４５】
2020078079.tif 000047
【図４６】
2020078079.tif 000048
【図４７】
2020078079.tif 000049
【手続補正書】
【提出日】令和2年2月12日(2020.2.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
互いに異なる複数の仮想レンズにそれぞれ対応する複数の仮想レンズ選択部に対するユーザの選択操作および視点が互いに異なる複数の撮像画像からなる多視点画像に基づいて、選択された仮想レンズに対応する仮想撮像画像を生成する仮想撮像画像生成部
を備える画像処理装置。
【請求項２】
前記生成された仮想撮像画像のデータの保存指示を行うとき、前記選択された仮想レンズのシミュレーションについてのアプリケーションパラメータを生成するアプリケーションパラメータ生成部をさらに備える
請求項１に記載の画像処理装置。
【請求項３】
前記仮想レンズ選択部は、それぞれ異なるレンズユニットに応じた図形を表す
請求項１または請求項２に記載の画像処理装置。
【請求項４】
前記仮想レンズは、被写体からの入射光である光線ベクトルから仮想の撮像画像を得る仮想のイメージセンサをシミュレーションするよう設定される
請求項１乃至請求項３のいずれかに記載の画像処理装置。
【請求項５】
前記仮想レンズは、実在する光学系をシミュレーションするよう設定される
請求項４に記載の画像処理装置。
【請求項６】
前記仮想レンズは、仮想の光学系による光学的効果を再現するパラメータよりなる固有のプロファイル情報を用いてシミュレーションされる
請求項１乃至請求項５のいずれかに記載の画像処理装置。
【請求項７】
前記プロファイル情報は、PSF（Pont spread function）データ、絞り形状、または補間枚数指定情報のうちの少なくともいずれか１つを含む
請求項６に記載の画像処理装置。
【請求項８】
前記プロファイル情報は、仮想のレンズをエミュレーションするために用いられるレンズの物理的な設計情報を含む
請求項６に記載の画像処理装置。
【請求項９】
互いに異なる複数の仮想レンズにそれぞれ対応する複数の仮想レンズ選択部に対するユーザの選択操作および視点が互いに異なる複数の撮像画像からなる多視点画像に基づいて、選択された仮想レンズに対応する仮想撮像画像を生成する
画像処理方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
本技術の画像処理装置は、互いに異なる複数の仮想レンズにそれぞれ対応する複数の仮想レンズ選択部に対するユーザの選択操作および視点が互いに異なる複数の撮像画像からなる多視点画像に基づいて、選択された仮想レンズに対応する仮想撮像画像を生成する仮想撮像画像生成部を備える画像処理装置である。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
本技術の画像処理方法は、互いに異なる複数の仮想レンズにそれぞれ対応する複数の仮想レンズ選択部に対するユーザの選択操作および視点が互いに異なる複数の撮像画像からなる多視点画像に基づいて、選択された仮想レンズに対応する仮想撮像画像を生成する画像処理方法である。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】変更
【補正の内容】
【０００９】
本技術においては、互いに異なる複数の仮想レンズにそれぞれ対応する複数の仮想レンズ選択部に対するユーザの選択操作および視点が互いに異なる複数の撮像画像からなる多視点画像に基づいて、選択された仮想レンズに対応する仮想撮像画像が生成される。