(57)【要約】【課題】仮想空間におけるユーザの体験をより豊かにする技術を提供すること。【解決手段】仮想空間を提供するためにコンピュータで実行されるプログラムは、仮想空間の一部を含む視界画像を生成する場合に、オブジェクトの輝度を、仮想空間に展開されるパノラマ画像の輝度情報に基づいて制御するステップと、オブジェクトの輝度に基づいて視界画像をヘッドマウントデバイスのモニタに表示するステップとを実行させる。【選択図】図１５
2019114194.tif 000002
【特許請求の範囲】
【請求項１】
ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記ヘッドマウントデバイスのモニタに表示するステップとを実行させる、プログラム。
【請求項２】
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップと、
各前記領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップとを含む、請求項１に記載のプログラム。
【請求項３】
前記制御するステップは、
各前記領域の色を取得するステップと、
各前記領域の色および前記仮想空間における位置に基づいて前記オブジェクトの色を制御するステップとをさらに含む、請求項２に記載のプログラム。
【請求項４】
前記制御するステップは、前記複数の領域のうち、予め定められた値以上の輝度を有する高輝度領域を特定するステップをさらに含み、
前記制御するステップは、前記高輝度領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップを含む、請求項２に記載のプログラム。
【請求項５】
前記制御するステップは、前記複数の領域のうち、輝度が高い順に予め定められた個数の高輝度領域を特定するステップをさらに含み、
前記制御するステップは、前記高輝度領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップとを含む、請求項２に記載のプログラム。
【請求項６】
前記制御するステップは、各前記領域の輝度、前記仮想空間における位置、および前記オブジェクトとの間隔とに基づいて、前記オブジェクトの輝度を制御するステップを含む、請求項２〜５のいずれか１項に記載のプログラム。
【請求項７】
前記制御するステップは、前記パノラマ画像の輝度情報に基づく予め定められた条件が満たされた場合に、前記オブジェクトに関連付けられる輝度を制御することを含む、請求項１に記載のプログラム。
【請求項８】
前記制御するステップは、前記条件が満たされなかった場合に、前記オブジェクトの輝度を制御するために、前記仮想空間に前記オブジェクトを照らすための仮想的な光源を配置するステップとを含む、請求項７に記載のプログラム。
【請求項９】
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップとを含み、
前記予め定められた条件は、前記複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む、請求項７または８に記載のプログラム。
【請求項１０】
請求項１〜９のいずれか１項に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
【請求項１１】
ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行される方法であって、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記ヘッドマウントデバイスのモニタに表示するステップとを備える、方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この開示は、仮想空間を提供する技術に関し、より特定的には、仮想空間の一部である視界画像を生成する技術に関する。
【背景技術】
【０００２】
ヘッドマウントデバイス（ＨＭＤ：Head-Mounted  Device）を用いて仮想空間を提供する技術が知られている。たとえば、特開２０１６−１４００７８号公報（特許文献１）は、ヘッドマウントディスプレイにパノラマ画像を表示する技術を開示している。
【０００３】
また、近年、仮想空間におけるユーザの体験を豊かにする様々な技術が提案されている。たとえば、非特許文献１は、仮想空間上に複数のユーザの各々のアバターを配置し、これらアバターを通じてユーザ間でのコミュニケーションを図る開示を提案している。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１６−１４００７８号公報
【非特許文献】
【０００５】
【非特許文献１】“Ｆａｃｅｂｏｏｋ、ＶＲの世界で友達と会えるアプリ「Ｓｐａｃｅｓ」を発表”、［online］、［平成２９年８月２５日検索］、インターネット〈URL：http://itpro.nikkeibp.co.jp/atcl/idg/14/481709/042000319/〉
【発明の概要】
【発明が解決しようとする課題】
【０００６】
パノラマ画像が展開された仮想空間にオブジェクトを配置することは一般的に知られている。しかしながら、パノラマ画像の特性によっては、オブジェクトとパノラマ画像とが調和しないことがある。この場合、ヘッドマウントデバイスを装着するユーザは、仮想空間に対して違和感を覚える結果、仮想空間に十分に没入できなくなる可能性がある。したがって、ユーザの没入感を損なわないための技術が必要とされている。
【０００７】
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、仮想空間におけるユーザの体験をより豊かにする技術を提供することである。
【課題を解決するための手段】
【０００８】
ある実施形態に従うと、ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムが提供される。このプログラムはコンピュータに、仮想空間にパノラマ画像を展開するステップと、仮想空間にオブジェクトを配置するステップと、仮想空間の一部を含む視界画像を生成する場合に、オブジェクトの輝度を、パノラマ画像の輝度情報に基づいて制御するステップと、オブジェクトの輝度に基づいて視界画像を生成するステップと、生成された視界画像をヘッドマウントデバイスのモニタに表示するステップとを実行させる。
【発明の効果】
【０００９】
ある実施形態に従う仮想空間を提供するためにコンピュータで実行されるプログラムは、仮想空間におけるユーザの体験をより豊かにし得る。
【００１０】
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
【図面の簡単な説明】
【００１１】
【図１】ある実施の形態に従うＨＭＤシステムの構成の概略を表す図である。
【図２】一局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。
【図３】ある実施の形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す図である。
【図４】ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。
【図５】ある実施の形態に従うＨＭＤを装着するユーザの頭部を上から表した図である。
【図６】仮想空間において視界領域をＸ方向から見たＹＺ断面を表す図である。
【図７】仮想空間において視界領域をＹ方向から見たＸＺ断面を表す図である。
【図８】ある実施の形態に従うコントローラの概略構成を表す図である。
【図９】ある実施の形態に従うコンピュータをモジュール構成として表すブロック図である。
【図１０】ある実施の形態に従うＨＭＤシステムにおいて実行される処理の一部を表すシーケンスチャートである。
【図１１】ある実施形態に従う視界画像を生成する処理を説明する図である。
【図１２】図１１に示される仮想カメラ１の撮影範囲に対応する視界画像である。
【図１３】仮想空間２に展開されるパノラマ画像を表す図である。
【図１４】図１３に示されるパノラマ画像が展開された仮想空間を表す図である。
【図１５】パノラマ画像に基づいてオブジェクトの輝度および色を制御して視界画像を生成するための処理を表すフローチャートである。
【図１６】全体的に輝度の高いパノラマ画像を表す。
【図１７】アバターオブジェクトを発光させるか否かを判断する処理を表すフローチャートである。
【発明を実施するための形態】
【００１２】
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。
【００１３】
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤシステム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
【００１４】
ＨＭＤシステム１００は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、注視センサ１４０と、スピーカ１１５と、マイク１１９とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。
【００１５】
ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。他の局面において、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。
【００１６】
ＨＭＤ１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間２をユーザ１９０に提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザ１９０の各目がそれぞれの画像を視認すると、ユーザ１９０は、両目の視差に基づき当該画像を３次元の画像として認識し得る。
【００１７】
モニタ１１２は、たとえば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザ１９０の両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザ１９０は、モニタ１１２に表示される３次元画像を視認すると、仮想空間２に没入することができる。ある実施の形態において、仮想空間２は、たとえば、背景、ユーザ１９０が操作可能なオブジェクト、ユーザ１９０が選択可能なメニューの画像を含む。複数のコンピュータ２００が各ユーザの動作に基づく信号を受け渡しすることで、複数のユーザが一の仮想空間２で仮想体験できる構成であれば、各ユーザに対応するアバターオブジェクトが、仮想空間２に提示される。
【００１８】
なお、オブジェクトとは、仮想空間２に存在する仮想の物体である。ある局面において、オブジェクトは、ユーザに対応するアバターオブジェクト、アバターオブジェクトが身に着ける仮想アクセサリおよび仮想衣服、ユーザに関する情報が示されたパネルを模した仮想パネル、手紙を模した仮想手紙、およびポストを模した仮想ポストなどを含む。さらに、アバターオブジェクトは、仮想空間２においてユーザ１９０を象徴するキャラクタであり、たとえば人型、動物型、ロボット型などを含む。オブジェクトの形は様々である。ユーザ１９０は、予め決められたオブジェクトの中から好みのオブジェクトを仮想空間２に提示するようにしてもよいし、自分が作成したオブジェクトを仮想空間２に提示するようにしてもよい。
【００１９】
ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro  Luminescence）モニタとして実現され得る。
【００２０】
ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。他の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
【００２１】
注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、たとえば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。
【００２２】
スピーカ１１５は、コンピュータ２００から受信した音声データに対応する音声（発話）を外部に出力する。マイク１１９は、ユーザ１９０の発話に対応する音声データをコンピュータ２００に出力する。ユーザ１９０は、マイク１１９を用いて他のユーザに向けて発話する一方で、スピーカ１１５を用いて他のユーザの音声（発話）を聞くことができる。
【００２３】
より具体的には、ユーザ１９０がマイク１１９に向かって発話すると、当該ユーザ１９０の発話に対応する音声データがコンピュータ２００に入力される。コンピュータ２００は、その音声データを、ネットワーク１９を介してサーバ１５０に出力する。サーバ１５０は、コンピュータ２００から受信した音声データを、ネットワーク１９を介して他のコンピュータ２００に出力する。他のコンピュータ２００は、サーバ１５０から受信した音声データを、他のユーザが装着するＨＭＤ１１０のスピーカ１１５に出力する。これにより、他のユーザは、ＨＭＤ１１０のスピーカ１１５を介してユーザ１９０の音声を聞くことができる。同様に、他のユーザからの発話は、ユーザ１９０が装着するＨＭＤ１１０のスピーカ１１５から出力される。
【００２４】
コンピュータ２００は、他のユーザのコンピュータ２００から受信した音声データに応じて、当該他のユーザに対応する他アバターオブジェクトを動かすような画像をモニタ１１２に表示する。たとえば、ある局面において、コンピュータ２００は、他アバターオブジェクトの口を動かすような画像をモニタ１１２に表示することで、あたかも仮想空間２内でアバターオブジェクト同士が会話しているかのように仮想空間２を表現する。このように、複数のコンピュータ２００間で音声データの送受信が行なわれることで、一の仮想空間２内で複数のユーザ間での会話（チャット）が実現される。
【００２５】
ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は、たとえば、赤外線を発するＬＥＤ（Light  Emitting  Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。
【００２６】
なお、他の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。
【００２７】
他の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１０自身の位置および傾きを検出し得る。たとえば、センサ１１４が、角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサなどである場合、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。
【００２８】
また、ＨＭＤ１１０は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間２を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。たとえば、ＨＭＤ１１０に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。
【００２９】
サーバ１５０は、コンピュータ２００にプログラムを送信し得る。他の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ１１０に仮想現実を提供するための他のコンピュータ２００と通信し得る。たとえば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間２において複数のユーザが共通のゲームを楽しむことを可能にする。また、上述したように、複数のコンピュータ２００が各ユーザの動作に基づく信号を送受信することで、一の仮想空間２内で複数のユーザが会話を楽しむことができる。
【００３０】
コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。他の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。他の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。他の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ１９０によって与えられる操作を受け付ける。
【００３１】
モーションセンサ１３０は、ある局面において、ユーザ１９０の手に取り付けられて、ユーザ１９０の手の動きを検出する。たとえば、モーションセンサ１３０は、手の回転速度、回転数などを検出する。モーションセンサ１３０によって得られたユーザ１９０の手の動きの検出結果を表すデータ（以下、検出データともいう）は、コンピュータ２００に送られる。モーションセンサ１３０は、たとえば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。他の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。たとえば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、たとえば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
【００３２】
他の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。
【００３３】
さらに他の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
【００３４】
［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。
【００３５】
プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processor  Unit）、ＦＰＧＡ（Field-Programmable  Gate  Array）その他のデバイスとして実現される。
【００３６】
メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random  Access  Memory）その他の揮発メモリとして実現される。
【００３７】
ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、たとえば、ＲＯＭ（Read-Only  Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間２を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間２を規定するためのデータおよびオブジェクトなどを含む。
【００３８】
なお、他の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに他の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
【００３９】
ある実施の形態において、入出力インターフェース１３は、ＨＭＤ１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal  Serial  Bus）インターフェース、ＤＶＩ（Digital  Visual  Interface）、ＨＤＭＩ（登録商標）（High-Definition  Multimedia  Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。
【００４０】
ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。たとえば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。他の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光などをコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
【００４１】
通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（たとえば、サーバ１５０、他のユーザのコンピュータ２００など）と通信する。ある局面において、通信インターフェース１４は、たとえば、ＬＡＮ（Local  Area  Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless  Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。
【００４２】
ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間２を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間２で実行可能なゲームソフトウェアなどを含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間２を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。
【００４３】
なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、他の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（たとえば、スマートフォン）がコンピュータ２００として機能してもよい。
【００４４】
また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間２を提供することもできるので、各ユーザは同一の仮想空間２で他のユーザと同一のアプリケーションを楽しむことができる。
【００４５】
ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
【００４６】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。
【００４７】
グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間２において物体を見る際の視点座標系に対応する。
【００４８】
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。
【００４９】
図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザ１９０の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。
【００５０】
ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。
【００５１】
ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。
【００５２】
ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。
【００５３】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（たとえば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。
【００５４】
［仮想空間］
図４を参照して、仮想空間２についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画など）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザ１９０によって視認可能な仮想空間画像２２が展開される仮想空間２をユーザ１９０に提供する。
【００５５】
ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、たとえば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。
【００５６】
ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現される。
【００５７】
仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において移動することもできる。
【００５８】
仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザ１９０が仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザ１９０の視界に対応する。
【００５９】
注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザ１９０の視線方向とみなすことができる。
【００６０】
［ユーザの視線］
図５を参照して、ユーザ１９０の視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。
【００６１】
ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。他の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
【００６２】
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、たとえば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。
【００６３】
［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
【００６４】
図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２おける基準視線５を中心として極角αを含む範囲を、領域２４として規定する。
【００６５】
図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。
【００６６】
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間２を提供する。視界画像は、仮想空間画像２２のうちの視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザ１９０が向いた方向の視界領域２３に重畳する画像に更新される。ユーザ１９０は、仮想空間２における所望の方向を視認することができる。
【００６７】
ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザ１９０に与えることができる。
【００６８】
ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。
【００６９】
ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
【００７０】
［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
【００７１】
図８の分図（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ８００と左コントローラ（図示しない）とを含み得る。右コントローラ８００は、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ８００と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ８００を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。他の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ８００について説明する。
【００７２】
右コントローラ８００は、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。たとえば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
【００７３】
グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。
【００７４】
フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ８００と左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
【００７５】
天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間２に配置されるオブジェクトを移動するための操作を含む。
【００７６】
ある局面において、右コントローラ８００および左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。他の局面において、右コントローラ８００と左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ８００および左コントローラは、電池を必要としない。
【００７７】
図８の分図（Ｂ）は、右コントローラ８００を把持するユーザ１９０の右手に対応して仮想空間２に配置されるハンドオブジェクト８１０の一例を示す。たとえば、ユーザ１９０の右手に対応するハンドオブジェクト８１０に対して、ヨー、ロール、ピッチの各方向が規定される。たとえば、入力操作が、右コントローラ８００のボタン３４に対して行なわれると、ハンドオブジェクト８１０の人差し指を握りこんだ状態とし、入力操作がボタン３４に対して行なわれていない場合には、分図（Ｂ）に示すように、ハンドオブジェクト８１０の人差し指を伸ばした状態とすることもできる。たとえば、ハンドオブジェクト８１０において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト８１０に規定される。
【００７８】
［ＨＭＤの制御装置］
図９を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
【００７９】
図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、音声制御モジュール２２５と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。
【００８０】
表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。
【００８１】
仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、手オブジェクト制御モジュール２３３と、光源制御モジュール２３４とを含む。
【００８２】
ある実施の形態において、表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５は、プロセッサ１０によって実現される。他の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。
【００８３】
ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向きなどを制御する。視界領域決定モジュール２２２は、ＨＭＤ１１０を装着したユーザ１９０の頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像のデータ（視界画像データともいう）を生成する。さらに、視界画像生成モジュール２２３は、仮想空間制御モジュール２３０から受信したデータに基づいて、視界画像データを生成する。視界画像生成モジュール２２３によって生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。
【００８４】
仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。
【００８５】
仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトのデータを生成する。オブジェクトは、たとえば、他アバターオブジェクト、仮想パネル、仮想手紙、および仮想ポストなどを含み得る。仮想オブジェクト生成モジュール２３２によって生成されたデータは、視界画像生成モジュール２２３に出力される。
【００８６】
手オブジェクト制御モジュール２３３は、手オブジェクトを仮想空間２に配置する。手オブジェクトは、たとえば、コントローラ１６０を保持したユーザ１９０の右手あるいは左手に対応する。ある局面において、手オブジェクト制御モジュール２３３は、右手あるいは左手に対応する手オブジェクトを仮想空間２に配置するためのデータを生成する。また、手オブジェクト制御モジュール２３３は、ユーザ１９０によるコントローラ１６０の操作に応じて、手オブジェクトを動かすためのデータを生成する。手オブジェクト制御モジュール２３３によって生成されたデータは、視界画像生成モジュール２２３に出力される。
【００８７】
光源制御モジュール２３４は、仮想空間２に展開されるパノラマ画像に基づいて、仮想空間２に配置されるオブジェクトを照らすための光源オブジェクトを配置する。光源制御モジュール２３４により実行される処理の詳細は後述される。上述の視界画像生成モジュール２２３は、光源オブジェクトの設定（たとえば、輝度，色）と、光源オブジェクトとオブジェクトとの位置関係（たとえば、距離，方向）に基づいて当該オブジェクトをレンダリングする。
【００８８】
他の局面において、ユーザ１９０の体の一部の動き（たとえば、左手、右手、左足、右足、頭などの動き）がコントローラ１６０に関連付けられている場合、仮想空間制御モジュール２３０は、ユーザ１９０の体の一部に対応する部分オブジェクトを仮想空間２に配置するためのデータを生成する。仮想空間制御モジュール２３０は、ユーザ１９０が体の一部を用いてコントローラ１６０を操作すると、部分オブジェクトを動かすためのデータを生成する。これらのデータは、視界画像生成モジュール２２３に出力される。
【００８９】
音声制御モジュール２２５は、ＨＭＤ１１０から、ユーザ１９０のマイク１１９を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、音声制御モジュール２２５によって特定されたコンピュータ２００に送信される。音声制御モジュール２２５は、ネットワーク１９を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１１５から出力する。
【００９０】
メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。
【００９１】
空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。
【００９２】
オブジェクト情報２４２は、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。さらに、オブジェクト情報２４２は、コントローラ１６０を操作するユーザ１９０の手に相当する手オブジェクトを仮想空間２に配置するためのデータと、各ユーザのアバターオブジェクトを仮想空間２に配置するためのデータと、仮想パネルなどのその他のオブジェクトを仮想空間２に配置するためのデータとを含む。
【００９３】
ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラムなどを保持している。メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ１１０のユーザ１９０によって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（たとえば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。
【００９４】
通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。
【００９５】
ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、たとえば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。他の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
【００９６】
コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。
【００９７】
コンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【００９８】
なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible  Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic  Optical  Disc）／ＭＤ（Mini  Disc）／ＤＶＤ（Digital  Versatile  Disc））、ＩＣ（Integrated  Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Electronically  Programmable  Read-Only  Memory）、ＥＥＰＲＯＭ（Electronically  Erasable  Programmable  Read-Only  Memory）、フラッシュＲＯＭなどの半導体メモリなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
【００９９】
ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラムなどを含み得る。
【０１００】
［ＨＭＤシステムの制御構造］
図１０を参照して、ＨＭＤシステム１００の制御構造について説明する。図１０は、ある実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。
【０１０１】
図１０に示されるように、ステップＳ１０１０にて、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間２を定義する。
【０１０２】
ステップＳ１０２０にて、プロセッサ１０は、仮想カメラ１を初期化する。たとえば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。
【０１０３】
ステップＳ１０３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
【０１０４】
ステップＳ１０３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。
【０１０５】
ステップＳ１０３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０から発信される複数の赤外線光に基づいて、ＨＭＤ１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。
【０１０６】
ステップＳ１０４０にて、プロセッサ１０は、ＨＭＤ１１０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１１０を装着したユーザ１９０の視界方向を特定する。
【０１０７】
ステップＳ１０５０にて、プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを提示する。このとき提示されるオブジェクトは、他アバターオブジェクトを含む。
【０１０８】
ステップＳ１０６０にて、コントローラ１６０は、モーションセンサ１３０から出力される信号に基づいて、ユーザ１９０の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。なお、他の局面において、ユーザ１９０によるコントローラ１６０の操作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
【０１０９】
ステップＳ１０６５にて、プロセッサ１０は、コントローラ１６０から取得した検出データに基づいて、ユーザ１９０によるコントローラ１６０の操作を検出する。
【０１１０】
ステップＳ１０７０にて、プロセッサ１０は、手オブジェクトを仮想空間２に提示するための視界画像データを生成する。
【０１１１】
ステップＳ１０８０にて、プロセッサ１０は、ユーザ１９０によるコントローラ１６０の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
【０１１２】
ステップＳ１０９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１１２に表示する。
【０１１３】
［技術思想］
次に、図１１および図１２を用いて本開示に従う技術思想を説明する。図１１は、ある実施形態に従う視界画像を生成する処理を説明する図である。図１２は、図１１に示される仮想カメラ１の撮影範囲に対応する視界画像１２００である。
【０１１４】
図１１を参照して、仮想空間２には、仮想空間画像２２（以下、「パノラマ画像２２」とも言う）が展開されている。図１１に示されるパノラマ画像２２は、街灯１１１０と、月１１２０と、ビル１１３０とを含む動画像であるとする。仮想カメラ１と、アバターオブジェクト１１００とが仮想空間２にさらに配置されている。より具体的には、アバターオブジェクト１１００は、仮想カメラ１の撮影範囲である視界領域２３に配置されている。
【０１１５】
プロセッサ１０は、視界領域２３に対応する視界画像２６をモニタ１１２に出力する。これにより、ユーザ１９０は、仮想空間２の一部を視認できる。
【０１１６】
図１１に示される例において、パノラマ画像２２は、夜の風景を表す動画像である。そのため、アバターオブジェクト１１００の輝度が明るいと、ユーザ１９０はアバターオブジェクト１１００に対して違和感を覚え得る。その理由は、現実空間において周囲の環境が暗いと他人も暗く見える、という物理法則がアバターオブジェクト１１００に適用されていないためである。
【０１１７】
そこで、実施形態に従うプロセッサ１０は、仮想空間２の一部を含む視界画像２６を生成する場合に、仮想空間２に展開されているパノラマ画像２２の輝度情報に基づいて、仮想空間２に配置されるオブジェクト（図１１の例ではアバターオブジェクト１１００）の輝度を制御して視界画像を生成する。たとえば、プロセッサ１０は、パノラマ画像の輝度が低い場合、低輝度に制御されたアバターオブジェクト１１００を含む視界画像を生成する。
【０１１８】
また、図１１に示されるパノラマ画像２２は、輝度が高い街灯１１１０および月１１２０を含む。これらの高輝度物体は、アバターオブジェクト１１００の正面から左側に位置する。現実空間において、これらの高輝度物体は他の物体を照らす光源として機能する。そこで、実施形態に従うプロセッサ１０は、街灯１１１０の位置に光源１１４０を、月１１２０の位置に光源１１５０をそれぞれ配置する。アバターオブジェクト１１００は、光源１１４０，１１５０が照射する光１１６０，１１７０を受ける。
【０１１９】
プロセッサ１０は、これらの光源１１４０，１１５０の位置および輝度（明るさ）に基づいて、視界領域２３に含まれるアバターオブジェクト１１００をレンダリングする。その結果、図１２に示されるように、アバターオブジェクト１１００の右半身１２１０の輝度よりも左半身１２２０の輝度が高い視界画像１２００が生成される。
【０１２０】
上記の構成によれば、ユーザ１９０は、仮想空間２に展開されるパノラマ画像２２の輝度（明るさ）に基づいて輝度が制御されたアバターオブジェクト１１００を視認できる。そのため、ユーザ１９０は、アバターオブジェクト１１００に対して違和感を覚えにくい。そのため、ユーザ１９０は、仮想空間２により没入できる結果、従来よりも豊かな仮想体験を得ることができる。
【０１２１】
ある局面において、コンピュータ２００は、ネットワーク１９を介して他のコンピュータと通信する。アバターオブジェクト１１００は、当該他のコンピュータのユーザ（以下、「他ユーザ」とも言う）に対応する。ユーザ１９０は、仮想空間２上においてアバターオブジェクト１１００を他ユーザとして認識しながら、他ユーザとコミュニケーションする。係る場合、ユーザ１９０は、アバターオブジェクト１１００に対して違和感を覚えにくいため、他ユーザとのコミュニケーションに集中できる。以下、パノラマ画像２２の輝度情報に基づいて仮想空間２に配置されるオブジェクトの輝度を制御する具体的な処理について説明する。
【０１２２】
［視界画像を生成する処理］
以下、図１３および図１４を用いて、仮想空間２に配置されるアバターオブジェクト１１００の輝度を、仮想空間２に展開されるパノラマ画像に基づいて制御する処理を説明する。
【０１２３】
図１３は、仮想空間２に展開されるパノラマ画像１３００を表す。図１４は、図１３に示されるパノラマ画像１３００が展開された仮想空間２を表す。パノラマ画像１３００は、３６０°カメラにより生成された画像、または複数のカメラにより生成された画像を合成して作成された画像である。
【０１２４】
ある局面において、プロセッサ１０は、パノラマ画像１３００を複数の領域に分割する。一例として、図１３に示される例において、プロセッサ１０は、パノラマ画像１３００を領域１３０１〜１３１６の１６領域に分割する。各領域は、複数の画素を含む。他の局面において、プロセッサ１０は、１つの画素を１つの領域として設定してもよい。
【０１２５】
プロセッサ１０は、各領域ごとの輝度を取得する。一例として、パノラマ画像１３００は、ＹＵＶ形式により圧縮された画像であって、各画素ごとに輝度信号Ｙと、青色成分の色差信号Ｕと、赤色成分の色差信号Ｖとが設定されている。プロセッサ１０は、領域を構成する複数の画素の輝度信号Ｙの平均値を、領域の輝度とする。
【０１２６】
プロセッサ１０は、領域１３０１〜１３１６のうち、予め定められた値以上の輝度を有する領域（以下、「高輝度領域」とも言う）を特定する。
【０１２７】
プロセッサ１０は、各高輝度領域の平均色を取得する。たとえば、プロセッサ１０は、領域を構成する複数の画素の色差信号Ｕの平均値と、色差信号Ｖの平均値とを算出することにより、領域の平均色を取得する。
【０１２８】
一例として、プロセッサ１０は、領域１３０１を高輝度領域として特定する。図１３に示される例において、領域１３０１の輝度はＹ１、平均色は（Ｕ１，Ｖ１）であると算出される。
【０１２９】
なお、他の局面において、プロセッサ１０は、高輝度領域を構成する各画素のＹＵＶ値を、公知の手法を用いてＨＳＶ形式に変換する。プロセッサ１０は、各画素の色相Ｈ値の平均値を高輝度領域の平均色として算出してもよい。
【０１３０】
また、さらに他の局面において、パノラマ画像は、ＹＵＶ形式に限られず、たとえば、ＲＧＢ、ＣＭＹ、ＹＩＱなどの他の形式であってもよい。
【０１３１】
次に、プロセッサ１０は仮想空間２に、高輝度領域に対応する位置に光源を配置する。領域１３０１を用いて具体例を説明する。プロセッサ１０は、パノラマ画像１３００における領域１３０１の位置（ｘ１、ｙ１）を特定する。たとえば、領域１３０１の位置は、領域１３０１の中央に設定される。
【０１３２】
プロセッサ１０は、予め定められた対応関係に従い、位置（ｘ１、ｙ１）を仮想空間２における位置（Ｘ１、Ｙ１、Ｚ１）に変換する。この対応関係は、パノラマ画像を仮想空間２（を構成する天球）に投影する方法（投映法）によって異なる。たとえば、プロセッサ１０は、正距円筒図法によりパノラマ画像を天球に投影する場合、正距円筒図法から定まる対応関係に基づいて、パノラマ画像における位置を仮想空間における位置に変換する。
【０１３３】
図１４を参照して、プロセッサ１０は、領域１３０１の仮想空間２における位置（Ｘ１、Ｙ１、Ｚ１）に、光源１４０１を配置する。この光源１４０１の明るさ（輝度）は、領域１３０１の輝度Ｙ１に基づいて設定される。より具体的には、輝度Ｙ１が大きいほど、光源１４０１の輝度は大きく設定される。また、この光源１４０１の色は、領域１３０１の平均色（Ｕ１，Ｖ１）に設定される。これにより、光源１４０１から照射される光１４５０は、領域１３０１の輝度および色を反映する。
【０１３４】
仮想空間２に配置される光源の種類は限定されない。たとえば、Ｕｎｉｔｙ（登録商標）に規定されるポイントライト（Point Light）、スポットライト（Spot Light）のいずれかが配置され得る。ポイントライトは、全方向に同等に光を放つ。ポイントライトから照射される光の強度は距離とともに減衰し、予め定められた距離で０になる。スポットライトは、予め定められた照射角の範囲内で光を照射する。そのため、スポットライトの照射領域は円錐形となる。スポットライトから照射される光の強度は、距離とともに減衰し、予め定められた距離で０になる。さらに他の例として、天球を構成する面のうち、領域１３０１に対応する面全体が光源として設定されてもよい。
【０１３５】
なお、光源から照射される光の強度は距離とともに減衰しないように構成されてもよい。また、これらの光源は、仮想空間２に配置されるオブジェクトの陰影（輝度および色を含む）を計算するために配置されるものであるため、ユーザ１９０はこれらの光源を視認できない。
【０１３６】
プロセッサ１０は、光源１４０１の位置、輝度、色と、アバターオブジェクト１１００の位置とに基づいて、アバターオブジェクト１１００をレンダリングする。たとえば、プロセッサ１０は、光源１４０１とアバターオブジェクト１１００との間隔に応じて、光源１４０１から照射される光がアバターオブジェクト１１００に与える影響を計算する。より具体的には、プロセッサ１０は、上記間隔が狭いほど、光源１４０１から照射される光がアバターオブジェクト１１００に与える影響を大きくする。
【０１３７】
一例として、プロセッサ１０は、Ｕｎｉｔｙ（登録商標）に規定されるシェーダプログラム（シェーディング（陰影処理）を行なうプログラム）を実行し、上記の情報に基づいてアバターオブジェクト１１００をレンダリングする。
【０１３８】
上記によれば、プロセッサ１０は、仮想空間２に展開されるパノラマ画像１３００の輝度に基づいて、輝度が制御されたアバターオブジェクト１１００を含む視界画像を生成できる。たとえば、パノラマ画像１３００の領域１３０１が明るい場合、アバターオブジェクト１１００のうち領域１３０１に面する領域が明るくなる。その結果、ユーザ１９０は、アバターオブジェクト１１００に対して違和感を覚えることなく、仮想空間２に没入できる。
【０１３９】
なお、ある実施形態において、アバターオブジェクト１１００は仮想空間２の天球に対して十分小さい領域である中央領域に配置される。係る場合、アバターオブジェクト１１００の仮想空間２における位置は一定であるとみなすことができる。そのため、プロセッサ１０は、光源１４０１の位置、輝度、色とに基づいて（つまり、アバターオブジェクト１１００の位置を考慮せずに）、アバターオブジェクト１１００をレンダリングしてもよい。当該構成によれば、プロセッサ１０は、アバターオブジェクト１１００のレンダリングに要する処理負担を軽減できる。
【０１４０】
（制御構造）
次に、図１５を用いて視界画像を生成する処理について説明する。図１５は、パノラマ画像に基づいてオブジェクトの輝度および色を制御して視界画像を生成するための処理を表すフローチャートである。図１５に示される処理は、プロセッサ１０がメモリ１１またはストレージ１２に格納される各種のプログラムを実行することにより実現される。
【０１４１】
ステップＳ１５０５にて、プロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２を定義する。より具体的には、プロセッサ１０は、仮想空間２を構成する天球の大きさ、形状を定義する。
【０１４２】
ステップＳ１５１０にて、プロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２を構成する天球にパノラマ画像を展開する。一例として、このパノラマ画像は、ユーザ１９０によって指定されたものとする。
【０１４３】
ステップＳ１５１５にて、プロセッサ１０は、仮想オブジェクト生成モジュール２３２として、仮想空間２にオブジェクト（たとえば、アバターオブジェクト１１００）を配置する。上述の通り、このアバターオブジェクト１１００は、他ユーザに対応する。
【０１４４】
ステップＳ１５２０にて、プロセッサ１０は、仮想空間２に展開されているパノラマ画像を複数の領域に分割する。一例として、プロセッサ１０は、１６画素四方（２５６画素）を一つの領域として設定する。なお、領域の形状は正方形に限られず、長方形や曲線を含む形状であってもよい。
【０１４５】
ステップＳ１５２５にて、プロセッサ１０は、各領域の輝度を取得する。たとえば、プロセッサ１０は、領域を構成する複数の画素の輝度信号Ｙの平均値を、領域の輝度とする。
【０１４６】
ステップＳ１５３０にて、プロセッサ１０は、複数の領域のうち、輝度が高い順に予め定められた個数の高輝度領域を特定する。たとえば、プロセッサ１０は、複数の領域のうち、最も輝度が高い４つの領域を高輝度領域として特定する。
【０１４７】
ステップＳ１５３５にて、プロセッサ１０は、高輝度領域の平均色を算出する。たとえば、プロセッサ１０は、高輝度領域を構成する各画素のＹＵＶ値をＨＳＶ形式に変換し、色相Ｈ値の平均値を高輝度領域の平均色として算出する。
【０１４８】
ステップＳ１５４０にて、プロセッサ１０は、パノラマ画像における高輝度領域の位置（ｘｙ座標系）を、仮想空間２における位置（ＸＹＺ座標系）に変換する。たとえば、プロセッサ１０は、正距円筒図法から定まる、パノラマ画像と仮想空間２を構成する天球との対応関係に基づいて、パノラマ画像における位置を仮想空間２における位置に変換する。
【０１４９】
ステップＳ１５４５にて、プロセッサ１０は、変換後の仮想空間２における位置に光源を配置する。このとき、プロセッサ１０は、高輝度領域の輝度と平均色とに基づいて、光源の明るさ（輝度）と色とを設定する。なお、ステップＳ１５２０〜Ｓ１５４５の処理は、プロセッサ１０が光源制御モジュール２３４として機能することにより実現される。
【０１５０】
ステップＳ１５５０にて、プロセッサ１０は、仮想カメラ１の視界領域２３（つまり、仮想空間２の一部）に対応する視界画像を生成する。このとき、プロセッサ１０は、視界領域２３にオブジェクト（たとえば、アバターオブジェクト１１００）が含まれている場合、パノラマ画像に基づいて仮想空間２に配置された光源を用いて、当該オブジェクトをレンダリングする。なお、視界領域２３にオブジェクトが含まれない場合、プロセッサ１０は、視界領域２３に含まれるパノラマ画像の一部をレンダリングする。なお、プロセッサ１０は、視界領域２３に特定のオブジェクト（たとえば、アバターオブジェクト１１００）が含まれる場合にのみ、パノラマ画像に基づく光源を用いるように構成されてもよい。
【０１５１】
ステップＳ１５６０にて、プロセッサ１０は、生成された視界画像をモニタ１１２に出力する。その後、プロセッサ１０はステップＳ１５２０の処理を再び実行する。一例として、プロセッサ１０は、ステップＳ１５２０〜Ｓ１５４５の処理（パノラマ画像に基づいて配置される光源を更新する処理）を１００ミリ秒ごとに実行する。
【０１５２】
上記によれば、ユーザ１９０は、現実空間と同様に、周囲の環境（パノラマ画像）に併せて表現されたオブジェクトを認識できる。その結果、ユーザ１９０は、オブジェクトに対して違和感を覚えることなく、より仮想空間２に没入し得る。
【０１５３】
また、プロセッサ１０は、パノラマ画像の全領域ではなく、高輝度領域にのみ光源を配置する。これにより、プロセッサ１０は、光源を配置する処理、および光源に基づいてアバターオブジェクト１１００をレンダリングする処理の負担を軽減できる。
【０１５４】
また、仮にパノラマ画像の全領域に光源を配置した場合、ユーザ１９０は、アバターオブジェクト１１００の微妙な陰影を不自然に感じ得る。実施形態に従うプロセッサ１０は、高輝度領域にのみ光源を配置することで、当該課題を解決する。
【０１５５】
［オブジェクトを発光させる処理］
上記の例では、プロセッサ１０は、仮想空間２に光源を配置することにより、パノラマ画像に適合したオブジェクトを含む視界画像を生成する処理を実行する。しかし、この処理が採用された場合、ユーザ１９０は、特定の条件下で仮想空間２に配置されるオブジェクトに対する違和感を覚え得る。以下、図１６を用いてこの違和感が生じる原因について説明する。
【０１５６】
図１６は、全体的に輝度の高いパノラマ画像１６００を表す。パノラマ画像１６００は、快晴時の風景を表す動画像である。ある局面において、プロセッサ１０は、上述の処理に従いパノラマ画像１６００を領域１６０１〜１６１６に分割する。ある局面において、各領域の輝度は２５６階調で表現される。図１６において各領域に記された数値は、当該領域の輝度を表す。たとえば、領域１６０１の輝度は「１５０」である。図１６から、パノラマ画像１６００の輝度は全体的に高いことが読み取れる。
【０１５７】
領域１６０９は、移動体１６５０（実線）を含む。移動体１６５０は、太陽の光を受けているため輝度が高い。そのため、領域１６０９の輝度は周辺の領域の輝度に比べて高い。この場合、プロセッサ１０は、領域１６０９を高輝度領域として特定し、領域１６０９の位置に対応する仮想空間２の位置に光源を配置する。
【０１５８】
パノラマ画像１６００（動画像）が図１６に示される状態から少し時間が経過すると、移動体１６５０（破線）は領域１６１０に移動する。この場合、領域１６１０の輝度が高くなるため、プロセッサ１０は、領域１６１０の位置に対応する仮想空間２の位置に光源を配置する。
【０１５９】
このように、図１５に示される処理が採用された場合、パノラマ画像（動画像）の特性によっては、光源の位置が頻繁に変更される場合がある。係る場合、仮想空間２に配置されるオブジェクトの輝度も頻繁に変更される。その結果、ユーザ１９０は、オブジェクトがチラついていると感じ、オブジェクトに対して違和感を覚え得る。
【０１６０】
そこで、ある局面において、プロセッサ１０は、仮想空間２に展開されるパノラマ画像（動画像）の輝度が全体的に高いと判断した場合に、仮想空間２に配置されるオブジェクトそのものを発光させる。より具体的には、プロセッサ１０は、オブジェクトに関連付けられた輝度を変更する。たとえば、プロセッサ１０は、Ｕｎｉｔｙ（登録商標）に規定されるＥｍｉｓｓｉｏｎをデフォルトの「０」から予め定められた値に変更する。これにより、プロセッサ１０は、仮想空間２にパノラマ画像に基づく光源を配置することなく、視界画像に含まれるオブジェクトの輝度を調整できる。
【０１６１】
上記によれば、プロセッサ１０は、パノラマ画像の輝度が全体的に高い場合に、輝度が高いオブジェクトを含む視界画像をユーザ１９０に提供できる。その結果、ユーザ１９０は、オブジェクトに対して違和感を覚えることなく、仮想空間２により没入し得る。また、上記によれば、オブジェクトの輝度は頻繁に変更されない。そのため、ユーザ１９０は、オブジェクトがチラついているような違和感を覚えることなく、仮想空間２に没入できる。
【０１６２】
（制御構造）
次に、図１７を用いて、仮想空間２に光源を配置することによってオブジェクトの輝度を変更するのか、オブジェクトに関連付けられた輝度を変更することによりオブジェクトの輝度を変更するのかを判断する処理について説明する。図１７は、アバターオブジェクトを発光させるか否かを判断する処理を表すフローチャートである。なお、図１７に示される処理のうち図１５の処理と同じ処理については同じ符号を付している。したがって、その処理についての説明は繰り返さない。
【０１６３】
ステップＳ１７１０にて、プロセッサ１０は、仮想空間２に展開されるパノラマ画像の輝度情報に基づく予め定められた条件が満たされたか否かを判断する。たとえば、プロセッサ１０は、仮想空間２に展開されるパノラマ画像を構成する複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が、所定割合（例えば、５割）以上であるか否かを判断する。
【０１６４】
なお、ステップＳ１７１０の処理は、パノラマ動画像を構成する１枚の静止画像に基づいてではなく、複数枚の静止画像に基づいて行なわれても良い。たとえば、プロセッサ１０は、パノラマ動画像から１０秒間隔で取得される５枚の静止画像を構成する複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が所定割合以上であるか否かを判断する。当該構成によれば、プロセッサ１０の処理を大幅に削減し得る。
【０１６５】
プロセッサ１０は、上記領域の割合が所定割合以上であると判断された場合（ステップＳ１７１０でＹＥＳ）、仮想空間２に配置されるオブジェクト（たとえば、アバターオブジェクト１１００）に関連付けられる輝度を予め定められた値に設定する（ステップＳ１７２０）。なお、他の局面において、プロセッサ１０は、パノラマ画像全体の平均輝度値、または上記領域の割合に応じて、オブジェクトに関連付けられる輝度値を変更するように構成されてもよい。
【０１６６】
一方、プロセッサ１０は、上記領域の割合が所定割合未満であると判断された場合（ステップＳ１７１０でＮＯ）、仮想空間２に光源を配置する処理を実行する（ステップＳ１７３０）。この処理は、図１５に示されるステップＳ１５２０〜Ｓ１５４５の処理に対応する。プロセッサ１０は、ステップＳ１７２０またはＳ１７３０の処理を実行した後に、視界画像を生成してモニタ１１２に出力する。
【０１６７】
上記によれば、プロセッサ１０は、仮想空間２に光源を配置することで却ってユーザ１９０がオブジェクトに対して違和感を覚え得る場合に、仮想空間２に光源を配置する代わりにオブジェクトに関連付けられた輝度を変更する。これにより、ユーザ１９０は、オブジェクトに対して違和感を覚えることなく、仮想空間２に没入できる。
【０１６８】
ある局面において、プロセッサ１０は、パノラマ画像を仮想空間２に展開する前に（仮想空間２に展開されるパノラマ画像を変更する時も含む）、図１７に示される一連の処理を実行する。
【０１６９】
他の局面において、プロセッサ１０は、パノラマ画像を仮想空間２に展開している場合に、周期的（例えば５秒間隔）に図１７に示されるステップＳ１５２０〜Ｓ１７３０の処理を実行するように構成されてもよい。当該構成によれば、プロセッサ１０は、パノラマ動画像が表す場面が切り替わった場合などにおいても、ユーザ１９０がオブジェクトに対して違和感をより覚えにくい処理を適切に選択して実行できる。
【０１７０】
［構成］
以上に開示された技術的特徴は、以下のように要約され得る。
【０１７１】
（構成１）  ある実施形態に従うと、ＨＭＤ１１０によって仮想空間２を提供するためにコンピュータ２００で実行されるプログラムが提供される。このプログラムはコンピュータ２００に、仮想空間２にパノラマ画像２２を展開するステップ（ステップＳ１５１０）と、仮想空間２にオブジェクト（たとえばアバターオブジェクト１１００）を配置するステップ（ステップＳ１５１５）と、仮想空間２の一部を含む視界画像２６を生成する場合に、オブジェクトの輝度をパノラマ画像２２の輝度情報に基づいて制御するステップ（Ｓ１５４５）と、オブジェクトの輝度に基づいて視界画像２６を生成するステップ（ステップＳ１５５０）と、生成された視界画像２６をＨＭＤ１１０のモニタ１１２に表示するステップ（ステップＳ１５６０）とを実行させる。
【０１７２】
（構成２）  （構成１）において、制御するステップは、パノラマ画像２２を複数の領域に分割するステップ（ステップＳ１５２０）と、各領域の輝度を取得するステップ（ステップＳ１５２５）と、各領域の輝度および仮想空間２における位置に基づいてオブジェクトの輝度を制御するステップ（ステップＳ１５４５）とを含む。
【０１７３】
（構成３）  （構成２）において、制御するステップは、各領域の色を取得するステップ（ステップＳ１５３５）と、各領域の色および仮想空間２における位置に基づいてオブジェクトの色を制御するステップ（ステップＳ１５４５）とをさらに含む。
【０１７４】
（構成４）  （構成２）において、制御するステップは、複数の領域のうち、予め定められた値以上の輝度を有する高輝度領域を特定するステップ（ステップＳ１５３０）をさらに含む。オブジェクトの輝度を制御するステップは、高輝度領域の輝度および仮想空間２における位置に基づいてオブジェクトの輝度を制御するステップ（ステップＳ１５４５）を含む。
【０１７５】
（構成５）  （構成２）において、制御するステップは、複数の領域のうち、輝度が高い順に予め定められた個数の高輝度領域を特定するステップをさらに含む。オブジェクトの輝度を制御するステップは、高輝度領域の輝度および仮想空間２における位置に基づいてオブジェクトの輝度を制御するステップ。
【０１７６】
（構成６）  （構成２）〜（構成５）のいずれかにおいて、制御するステップは、各領域の輝度、仮想空間２における位置、およびオブジェクトとの間隔とに基づいて、オブジェクトの輝度を制御するステップを含む。
【０１７７】
（構成７）  （構成１）において、制御するステップは、パノラマ画像２２の輝度情報に基づく予め定められた条件が満たされた場合（ステップＳ１７１０でＹＥＳ）に、オブジェクトに関連付けられる輝度を制御することを含む。
【０１７８】
（構成８）  （構成７）において、制御するステップは、条件が満たされなかった場合（ステップＳ１７１０でＮＯ）に、オブジェクトの輝度を制御するために、パノラマ画像に基づいてオブジェクトを照らすための仮想的な光源を仮想空間２に配置するステップ（ステップＳ１７３０）とを含む。
【０１７９】
（構成９）  （構成７）または（構成８）において、制御するステップは、パノラマ画像２２を複数の領域に分割するステップ（ステップＳ１５２０）と、各領域の輝度を取得するステップ（ステップＳ１５２５）とを含む。予め定められた条件は、複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む（ステップＳ１７１０）。
【０１８０】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【０１８１】
１  仮想カメラ、２  仮想空間、５  基準視線、１０  プロセッサ、１１  メモリ、１２  ストレージ、１９  ネットワーク、２１  中心、２２，１３００，１６００  パノラマ画像、２３  視界領域、２６，１２００  視界画像、１００  ＨＭＤシステム、１１２  モニタ、１５０  サーバ、１９０  ユーザ、２００  コンピュータ、２２０  表示制御モジュール、２２１  仮想カメラ制御モジュール、２２２  視界領域決定モジュール、２２３  視界画像生成モジュール、２２４  基準視線特定モジュール、２２５  音声制御モジュール、２３０  仮想空間制御モジュール、２３１  仮想空間定義モジュール、２３２  仮想オブジェクト生成モジュール、２３３  手オブジェクト制御モジュール、２３４  光源制御モジュール、２４０  メモリモジュール、２４１  空間情報、２４２  オブジェクト情報、２４３  ユーザ情報、２５０  通信制御モジュール、１１００  アバターオブジェクト、１１１０  街灯、１１２０  月、１１３０  ビル、１１４０，１１５０，１４０１  光源、１１６０，１１７０，１４５０  光。
【図１】
2019114194.tif 000003
【図２】
2019114194.tif 000004
【図３】
2019114194.tif 000005
【図４】
2019114194.tif 000006
【図５】
2019114194.tif 000007
【図６】
2019114194.tif 000008
【図７】
2019114194.tif 000009
【図８】
2019114194.tif 000010
【図９】
2019114194.tif 000011
【図１０】
2019114194.tif 000012
【図１１】
2019114194.tif 000013
【図１２】
2019114194.tif 000014
【図１３】
2019114194.tif 000015
【図１４】
2019114194.tif 000016
【図１５】
2019114194.tif 000017
【図１６】
2019114194.tif 000018
【図１７】
2019114194.tif 000019
【手続補正書】
【提出日】平成30年11月27日(2018.11.27)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
デバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を実行させ、
前記制御するステップは、前記パノラマ画像の輝度情報に基づく予め定められた条件が満たされた場合に、前記オブジェクトを発光させることを含む、プログラム。
【請求項２】
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップと、
を含み、
前記予め定められた条件は、前記複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む、請求項１に記載のプログラム。
【請求項３】
前記制御するステップは、各前記領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップを含む、請求項２に記載のプログラム。
【請求項４】
前記制御するステップは、
各前記領域の色を取得するステップと、
各前記領域の色および前記仮想空間における位置に基づいて前記オブジェクトの色を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項５】
前記制御するステップは、
前記複数の領域のうち、予め定められた値以上の輝度を有する高輝度領域を特定するステップと、
前記高輝度領域の輝度および前記  仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項６】
前記制御するステップは、
前記複数の領域のうち、輝度が高い順に予め定められた個数の高輝度領域を特定するステップと、
前記高輝度領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項７】
前記制御するステップは、各前記領域の輝度、前記仮想空間における位置、および前記オブジェクトとの間隔とに基づいて、前記オブジェクトの輝度を制御するステップを含む、請求項２〜６のいずれか１項に記載のプログラム。
【請求項８】
前記制御するステップは、前記条件が満たされなかった場合に、前記オブジェクトの輝度を制御するために、前記仮想空間に前記オブジェクトを照らすための仮想的な光源を配置するステップを含む、請求項２〜７のいずれか１項に記載のプログラム。
【請求項９】
デバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を実行させ、
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップとを含み、
前記制御するステップは、前記複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む条件が満たされた場合に、前記オブジェクトに関連付けられる輝度を制御することを含む、プログラム。
【請求項１０】
請求項１〜９のいずれか１項に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
【請求項１１】
デバイスによって仮想空間を提供するためにコンピュータで実行される方法であって、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を備え、
前記制御するステップは、前記パノラマ画像の輝度情報に基づく予め定められた条件が満たされた場合に、前記オブジェクトを発光させることを含む、方法。
【手続補正書】
【提出日】平成31年2月13日(2019.2.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
デバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を実行させ、
前記制御するステップは、前記パノラマ画像の輝度情報に基づく予め定められた条件が満たされない場合、前記オブジェクトの輝度を予め定められた第１の値に制御して前記オブジェクトを発光させず、前記予め定められた条件が満たされた場合、前記オブジェクトの輝度を予め定められた第２の値に制御して前記オブジェクトを発光させることを含む、プログラム。
【請求項２】
デバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を実行させ、
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップと、
前記複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む条件が満たされた場合に、前記オブジェクトを発光させるステップと、を含む、プログラム。
【請求項３】
前記制御するステップは、各前記領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップを含む、請求項２に記載のプログラム。
【請求項４】
前記制御するステップは、
各前記領域の色を取得するステップと、
各前記領域の色および前記仮想空間における位置に基づいて前記オブジェクトの色を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項５】
前記制御するステップは、
前記複数の領域のうち、予め定められた値以上の輝度を有する高輝度領域を特定するステップと、
前記高輝度領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項６】
前記制御するステップは、
前記複数の領域のうち、輝度が高い順に予め定められた個数の高輝度領域を特定するステップと、
前記高輝度領域の輝度および前記仮想空間における位置に基づいて前記オブジェクトの輝度を制御するステップと、
をさらに含む、請求項２に記載のプログラム。
【請求項７】
前記制御するステップは、各前記領域の輝度、前記仮想空間における位置、および前記オブジェクトとの間隔とに基づいて、前記オブジェクトの輝度を制御するステップを含む、請求項２〜６のいずれか１項に記載のプログラム。
【請求項８】
前記制御するステップは、前記条件が満たされなかった場合に、前記オブジェクトの輝度を制御するために、前記仮想空間に前記オブジェクトを照らすための仮想的な光源を配置するステップを含む、請求項２〜７のいずれか１項に記載のプログラム。
【請求項９】
デバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を実行させ、
前記制御するステップは、
前記パノラマ画像を複数の領域に分割するステップと、
各前記領域の輝度を取得するステップとを含み、
前記制御するステップは、前記複数の領域のうち、予め定められた値以上の輝度を有する領域の割合が予め定められた割合以上であることを含む条件が満たされた場合に、前記オブジェクトに関連付けられる輝度を制御することを含む、プログラム。
【請求項１０】
請求項１〜９のいずれか１項に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
【請求項１１】
デバイスによって仮想空間を提供するためにコンピュータで実行される方法であって、
仮想空間にパノラマ画像を展開するステップと、
前記仮想空間にオブジェクトを配置するステップと、
前記仮想空間の一部を含む視界画像を生成する場合に、前記オブジェクトの輝度を、前記パノラマ画像の輝度情報に基づいて制御するステップと、
前記オブジェクトの輝度に基づいて前記視界画像を生成するステップと、
前記生成された視界画像を前記デバイスのモニタに表示するステップと、
を備え、
前記制御するステップは、前記パノラマ画像の輝度情報に基づく予め定められた条件が満たされない場合、前記オブジェクトの輝度を予め定められた第１の値に制御して前記オブジェクトを発光させず、前記予め定められた条件が満たされた場合、前記オブジェクトの輝度を予め定められた第２の値に制御して前記オブジェクトを発光させることを含む、方法。