(57)【要約】【課題】仮想体験のエンタテイメント性を向上させ得る。【解決手段】ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法は、仮想空間を定義するための第１コンテンツデータを取得するステップと、第１コンテンツデータに基づいて仮想空間を生成するステップと、仮想空間の一部に相当する画像データを生成するステップと、画像データと第１コンテンツデータとを関連付けるステップと、第１コンテンツデータから第２コンテンツデータへの差替えを検知するステップと、差替えが検知された場合に、画像データを第２コンテンツデータに応じて更新するステップと、を含む。【選択図】図１４
2018192107.tif 000002
【特許請求の範囲】
【請求項１】
ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間を定義するための第１コンテンツデータを取得するステップと、
前記第１コンテンツデータに基づいて前記仮想空間を生成するステップと、
前記仮想空間の一部に相当する画像データを生成するステップと、
前記画像データと前記第１コンテンツデータとを関連付けるステップと、
前記第１コンテンツデータから第２コンテンツデータへの差替えを検知するステップと、
前記差替えが検知された場合に、前記画像データを前記第２コンテンツデータに応じて更新するステップと、
を含む、情報処理方法。
【請求項２】
前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイスを少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部に前記視界画像を表示させるステップをさらに含み、
前記画像データは、前記ユーザに前記仮想体験が提供されている間に前記ユーザによって指定された前記仮想空間の前記一部に基づいて、生成される、
請求項１に記載の情報処理方法。
【請求項３】
前記画像データは、前記視界画像を定義する視点情報に基づいて、生成される、
請求項２に記載の情報処理方法。
【請求項４】
前記仮想空間は、前記ユーザに関連付けられたキャラクタオブジェクトによって操作される撮影オブジェクトをさらに含み、
前記画像データは、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
請求項２に記載の情報処理方法。
【請求項５】
前記仮想空間は、前記ユーザの身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データは、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
請求項４に記載の情報処理方法。
【請求項６】
前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データは、前記端末装置が備える表示部に表示される、
請求項２〜５のいずれか一項に記載の情報処理方法。
【請求項７】
前記画像データは、前記ユーザに関連付けられたキャラクタオブジェクトに相当する第１部分と、適用されるコンテンツデータに依存する第２部分とを含み、
前記更新するステップにおいて、前記画像データの前記第２部分を、前記第２コンテンツデータに応じて更新する、
請求項１〜６のいずれか一項に記載の情報処理方法。
【請求項８】
前記更新するステップにおいて、前記画像データの前記第１部分の表示態様を、前記第２コンテンツデータに基づいて変更する、
請求項７に記載の情報処理方法。
【請求項９】
予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
請求項１〜８のいずれか一項に記載の情報処理方法。
【請求項１０】
請求項１〜９のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
【請求項１１】
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項１〜９のいずれか一項に記載の情報処理方法を実行する、装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【０００２】
非特許文献１は、仮想空間において、ユーザに関連付けられたアバターオブジェクトをユーザの操作に基づいて動作させる技術を開示している。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】“Facebook  Mark  Zuckerberg  Social  VR  Demo  OC3  Oculus  Connect  3  Keynote”、［online］、平成２８年１０月６日、VRvibe、［平成２８年１２月５日検索］、インターネット＜https://www.youtube.com/watch?v=NCpNKLXovtE＞
【発明の概要】
【発明が解決しようとする課題】
【０００４】
仮想空間における仮想体験のエンタテイメント性を向上させる方法の１つとして、現実空間と同じように仮想空間の一部を切り取った２次元画像（例えば記念写真等）を撮影および保存できる仕組みを提供することが考えられる。しかし、このような仕組みを提供するだけでは、現実空間と同じ仕組みを提供するに留まり、仮想空間ならではの体験を提供するまでには至らない。
【０００５】
そこで、本開示は、仮想空間における仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
本開示が示す一態様によれば、ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、仮想体験を提供するための仮想空間を定義するための第１コンテンツデータを取得するステップと、第１コンテンツデータに基づいて仮想空間を生成するステップと、仮想空間の一部に相当する画像データを生成するステップと、画像データと第１コンテンツデータとを関連付けるステップと、第１コンテンツデータから第２コンテンツデータへの差替えを検知するステップと、差替えが検知された場合に、画像データを第２コンテンツデータに応じて更新するステップと、を含む。
【発明の効果】
【０００７】
本開示によれば、仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。
【図面の簡単な説明】
【０００８】
【図１】ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。
【図２】一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。
【図３】ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。
【図４】ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。
【図５】ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。
【図６】仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。
【図７】仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
【図８】ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
【図９】ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
【図１０】ＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【図１１】複数ユーザに共有される仮想空間２を模式的に表す図である。
【図１２】ユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。
【図１３】ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を示すシーケンス図である。
【図１４】画像データの生成および更新に関する処理を表すフローチャートである。
【図１５】画像データＰ１の生成について説明するための図である。
【図１６】画像データＰ１のレイヤ画像Ｐ２（第１部分）およびレイヤ画像Ｐ３（第２部分）を表す図である。
【図１７】画像データの更新について説明するための図である。
【図１８】更新後の画像データＰ５を表す図である。
【図１９】鑑賞モード時の処理手順を表すフローチャートである。
【発明を実施するための形態】
【０００９】
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
【００１０】
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head  Mount  Device）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
【００１１】
ＨＭＤシステム１００は、ＨＭＤ装置１１０（ユーザ端末）と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ装置１１０は、ディスプレイ１１２（表示部）と、カメラ１１６と、マイク１１８と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。
【００１２】
ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。別の局面において、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。
【００１３】
ＨＭＤ装置１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ装置１１０は、右目用の画像および左目用の画像をディスプレイ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。
【００１４】
ディスプレイ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ１１２は、ユーザの両目の前方に位置するようにＨＭＤ装置１１０の本体に配置されている。したがって、ユーザは、ディスプレイ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機ＥＬ（Electro  Luminescence）ディスプレイとして実現され得る。ディスプレイ１１２は、ＨＭＤ装置１１０の本体と一体に構成されてもよいし、別体として構成されてもよい。
【００１５】
ある局面において、ディスプレイ１１２は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
【００１６】
カメラ１１６は、ＨＭＤ装置１１０を装着するユーザの顔画像を取得する。カメラ１１６によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ１１６は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、ＨＭＤ装置１１０本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ１１６は、ユーザの口、頬、および顎等の動きを検知するために、図１に示されるようにＨＭＤ装置１１０の外側に配置された外付けカメラであってもよい。また、カメラ１１６は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。
【００１７】
マイク１１８は、ユーザが発した音声を取得する。マイク１１８によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間２に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク１９およびサーバ１５０等を介して、他のユーザが使用するＨＭＤシステムに送られ、当該ＨＭＤシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話（チャット）が実現される。
【００１８】
ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light  Emitting  Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。
【００１９】
なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ装置１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ装置１１０の位置および傾きを検出することができる。
【００２０】
別の局面において、ＨＭＤ装置１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ装置１１０は、センサ１１４を用いて、ＨＭＤ装置１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ装置１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ装置１１０は、各角速度に基づいて、ＨＭＤ装置１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ装置１１０の傾きを算出する。また、ＨＭＤ装置１１０は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ装置１１０に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
【００２１】
注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。
【００２２】
サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ装置に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ１５０は、一または複数のコンピュータ装置により構成され得る。サーバ１５０は、後述するコンピュータ２００のハードウェア構成と同様のハードウェア構成（プロセッサ、メモリ、ストレージ等）を備え得る。
【００２３】
コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ１９０によって与えられる操作を受け付ける。
【００２４】
モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
【００２５】
［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。
【００２６】
プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processor  Unit）、ＦＰＧＡ（Field-Programmable  Gate  Array）その他のデバイスとして実現される。
【００２７】
メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。メモリ１１に保存されるデータは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random  Access  Memory）その他の揮発性メモリとして実現される。
【００２８】
ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only  Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ２００との通信を実現するためのプログラム等を含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
【００２９】
なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
【００３０】
ある実施の形態において、入出力インターフェース１３は、ＨＭＤ装置１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal  Serial  Bus）インターフェース、ＤＶＩ（Digital  Visual  Interface）、ＨＤＭＩ（登録商標）（High-Definition  Multimedia  Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。例えば、入出力インターフェース１３は、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の無線通信インターフェースを含み得る。
【００３１】
ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
【００３２】
通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェース１４は、例えば、ＬＡＮ（Local  Area  Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless  Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。
【００３３】
ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間を提供するための信号をＨＭＤ装置１１０に送る。ＨＭＤ装置１１０は、その信号に基づいてディスプレイ１１２に映像を表示する。
【００３４】
サーバ１５０は、ネットワーク１９を介して複数のＨＭＤシステム１００の各々の制御装置と接続される。図２に示される例では、サーバ１５０は、ＨＭＤ装置１１０Ａを有するＨＭＤシステム１００Ａと、ＨＭＤ装置１１０Ｂを有するＨＭＤシステム１００Ｂと、ＨＭＤ装置１１０Ｃを有するＨＭＤシステム１００Ｃとを含む複数のＨＭＤシステム１００を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各ＨＭＤシステムを使用するユーザに提供される。なお、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびその他のＨＭＤシステム１００は、いずれも同様の構成を備える。ただし、各ＨＭＤシステム１００は、互いに異なる機種であってもよいし、互いに異なる性能（処理性能、およびユーザ動作の検知に関する検知性能等）を有してもよい。
【００３５】
なお、図２に示される例では、コンピュータ２００がＨＭＤ装置１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ装置１１０に内蔵されてもよい。一例として、ディスプレイ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。
【００３６】
また、コンピュータ２００は、複数のＨＭＤ装置１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のＨＭＤシステム１００は、入出力インターフェース１３により、コンピュータ２００に直接接続されてもよい。また、本実施形態におけるサーバ１５０の各機能（例えば後述する同期処理等）は、コンピュータ２００に実装されてもよい。
【００３７】
ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
【００３８】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ装置１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ装置１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ装置１１０の位置および傾きの時間的変化を検出できる。
【００３９】
グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ装置１１０の各傾きは、グローバル座標系におけるＨＭＤ装置１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ装置１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ装置１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。
【００４０】
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の起動時に、グローバル座標系におけるＨＭＤ装置１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。
【００４１】
図３に示されるように、ＨＭＤ装置１１０は、ＨＭＤ装置１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ装置１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ装置１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。
【００４２】
ある局面において、ＨＭＤ装置１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。
【００４３】
ｕｖｗ視野座標系がＨＭＤ装置１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ装置１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ装置１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ装置１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ装置１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ装置１１０の傾き角度を表す。
【００４４】
ＨＭＤセンサ１２０は、検出されたＨＭＤ装置１１０の傾き角度に基づいて、ＨＭＤ装置１１０が動いた後のＨＭＤ装置１１０におけるｕｖｗ視野座標系を、ＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０と、ＨＭＤ装置１１０のｕｖｗ視野座標系との関係は、ＨＭＤ装置１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ装置１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ装置１１０のｕｖｗ視野座標系の位置および傾きが変化する。
【００４５】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ装置１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系の原点を決定してもよい。
【００４６】
［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。
【００４７】
ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。仮想空間２内の各位置は、ＸＹＺ座標系における座標値によって一意に特定される。
【００４８】
ＨＭＤ装置１１０の起動時、すなわちＨＭＤ装置１１０の初期状態において、仮想カメラ１は、例えば仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ装置１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ装置１１０の位置および傾きの変化が、仮想空間２において同様に再現される。
【００４９】
仮想カメラ１には、ＨＭＤ装置１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ装置１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ装置１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。
【００５０】
仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ装置１１０を装着したユーザの視界に対応する。
【００５１】
注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ装置１１０のｕｖｗ視野座標系は、ユーザ１９０がディスプレイ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ装置１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。
【００５２】
［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。
【００５３】
ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
【００５４】
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。
【００５５】
また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。
【００５６】
さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
【００５７】
［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
【００５８】
図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。
【００５９】
図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。
【００６０】
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をディスプレイ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。視界領域２３内において仮想カメラ１と仮想空間画像２２との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像２２よりも手前側にある仮想オブジェクトが仮想空間画像２２に重畳して表示される。ユーザ１９０が、頭に装着したＨＭＤ装置１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、ディスプレイ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。
【００６１】
ユーザ１９０は、ＨＭＤ装置１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。
【００６２】
ある局面において、プロセッサ１０は、ＨＭＤ装置１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および傾きに基づいて、ＨＭＤ装置１１０のディスプレイ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。すなわち、仮想カメラ１によって、仮想空間２におけるユーザ１９０の視野（視界）が定義される。
【００６３】
ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ装置１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
【００６４】
［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
【００６５】
図８の状態（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ１６０Ｒと左コントローラ（図示しない）とを含み得る。右コントローラ１６０Ｒは、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ１６０Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ１６０Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ１６０Ｒについて説明する。
【００６６】
右コントローラ１６０Ｒは、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
【００６７】
グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。
【００６８】
フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ１６０Ｒと左コントローラとの各位置および姿勢（傾き、向き）等を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
【００６９】
天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動させるための操作を含む。
【００７０】
ある局面において、右コントローラ１６０Ｒおよび左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ１６０Ｒおよび左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ１６０Ｒおよび左コントローラは、電池を必要としない。
【００７１】
図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ１９０の右手８１０に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ１９０が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
【００７２】
［ＨＭＤ装置の制御装置］
図９を参照して、ＨＭＤ装置１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
【００７３】
図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト制御モジュール２３２と、チャット制御モジュール２３３と、コンテンツデータ制御モジュール２３４とを含む。
【００７４】
ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。
【００７５】
ある局面において、表示制御モジュール２２０は、ＨＭＤ装置１１０のディスプレイ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ装置１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、ディスプレイ１１２に表示される視界画像を生成する。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。
【００７６】
仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。
【００７７】
仮想オブジェクト制御モジュール２３２は、後述するオブジェクト情報２４２に基づいて、仮想空間２に配置される仮想的なオブジェクトである仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール２３２は、仮想空間２における仮想オブジェクトの動作（移動および状態変化等）も制御する。
【００７８】
仮想オブジェクトは、仮想空間２に配置されるオブジェクト全般である。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。また、仮想オブジェクトは、仮想空間におけるユーザの分身であるアバターおよびユーザにより操作されるゲームのキャラクタ（プレイヤキャラクタ）等のキャラクタオブジェクトを含み得る。さらに、仮想オブジェクトは、ユーザ１９０の身体の一部（例えば手）の動きに応じて動くオブジェクトである操作オブジェクトを含み得る。操作オブジェクトは、例えば、ＨＭＤ装置１１０を装着したユーザ１９０の手に相当する手オブジェクト、ユーザ１９０の指に相当する指オブジェクト等を含み得る。また、手オブジェクトに関連付けられて操作されるオブジェクトも、ユーザ１９０の手の動きに応じて動く操作オブジェクトとして機能し得る。例えば、手オブジェクトにより把持されるタッチペン等のスティック状のオブジェクト等が、操作オブジェクトとして機能し得る。なお、以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。
【００７９】
チャット制御モジュール２３３は、同じ仮想空間２に滞在する他のユーザのアバターとチャットをするための制御を行う。例えば、チャット制御モジュール２３３は、仮想空間２を介したチャットを行うために必要なデータ（例えば、マイク１１８に入力された音声データ等）をサーバ１５０に送信する。また、チャット制御モジュール２３３は、サーバ１５０から受信した他のユーザの音声データを図示しないスピーカに出力する。これにより、音声によるチャットが実現される。また、チャット制御モジュール２３３は、その他のユーザ間で共有すべきデータについても、サーバ１５０を介して他のユーザのＨＭＤシステム１００との間で送受信する。共有すべきデータとしては、アバターの身体の一部の動作を制御するための動き検知データ等がある。
【００８０】
動き検知データは、例えば、向きデータ、アイトラッキングデータ、フェイストラッキングデータ、およびハンドトラッキングデータ等である。向きデータは、ＨＭＤセンサ１２０等により検出されたＨＭＤ装置１１０の位置および傾きを示す情報である。アイトラッキングデータは、注視センサ１４０等により検出された視線方向を示す情報である。フェイストラッキングデータは、例えばＨＭＤ装置１１０Ａのカメラ１１６により取得された画像情報に対する画像解析処理によって生成されるデータである。フェイストラッキングデータは、ユーザ１９０Ａの顔の各パーツの位置および大きさの経時変化を示す情報である。ハンドトラッキングデータは、例えばモーションセンサ１３０等により検出されたユーザ１９０Ａの手の動きを示す情報である。
【００８１】
本実施形態では、チャット制御モジュール２３３は、音声データと動き検知データとを含む情報（以下「プレイヤ情報」という。）を、ユーザ間で共有すべき情報として、サーバ１５０を介して他のユーザのＨＭＤシステム１００との間で送受信する。プレイヤ情報の送受信は、通信制御モジュール２５０の機能を利用することにより実現される。
【００８２】
コンテンツデータ制御モジュール２３４は、仮想空間２を定義するためのコンテンツデータに関連付けられた画像データを生成し、仮想空間２に適用されるコンテンツデータが差し替えられた際に、当該画像データを更新する。画像データは、２次元画像であってもよいし、３次元画像であってもよい。コンテンツデータは、上述した仮想空間データの一部を構成するデータである。コンテンツデータおよびコンテンツデータ制御モジュール２３４による処理の詳細については後述する。
【００８３】
仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、例えばオブジェクト毎に設定されたコリジョンエリアに基づく公知の当たり判定を実行することにより、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。
【００８４】
メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、コンテンツ情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。
【００８５】
コンテンツ情報２４１には、例えば、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。具体的には、コンテンツ情報２４１は、仮想空間２の背景を規定する仮想空間画像データ（仮想空間画像２２）と、仮想空間２に配置されるオブジェクトの定義情報とを含み得る。オブジェクトの定義情報は、オブジェクトを描画するための描画情報（例えば、オブジェクトの形状および色等のデザインを表す情報）、およびオブジェクトの初期配置を示す情報等を含み得る。また、予め設定された動作パターンに基づいて自律的に動作するオブジェクトの定義情報は、当該動作パターンを示す情報（プログラム等）を含み得る。予め定められた動作パターンに基づく動作の例としては、草を模したオブジェクトが一定のパターンで揺れる動作のような単純な繰り返し動作が挙げられる。
【００８６】
オブジェクト情報２４２には、仮想空間２に配置される各オブジェクトの状態（ゲームの進行およびユーザ１９０の操作等に応じて変化し得る状態）を示す情報が含まれている。具体的には、オブジェクト情報２４２は、各オブジェクトの位置（例えばオブジェクトに設定された重心の位置）を示す位置情報を含み得る。また、オブジェクト情報２４２は、変形可能なオブジェクトの動作を示す動き情報（すなわち、オブジェクトの形状を特定するための情報）をさらに含み得る。変形可能なオブジェクトの例としては、上述したアバターのように、頭部、胴体、および手等のパーツを有し、ユーザ１９０の動きに応じて各パーツを独立して動かすことが可能なオブジェクト等が挙げられる。
【００８７】
ユーザ情報２４３には、例えば、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、コンテンツ情報２４１に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
【００８８】
メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ装置１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。
【００８９】
通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。
【００９０】
ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
【００９１】
コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、メモリモジュール２４０に一旦格納される。そのソフトウェアは、プロセッサ１０によってメモリモジュール２４０から読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。
【００９２】
図９に示されるコンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【００９３】
なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible  Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic  Optical  Disc）／ＭＤ（Mini  Disc）／ＤＶＤ（Digital  Versatile  Disc））、ＩＣ（Integrated  Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Erasable  Programmable  Read-Only  Memory）、ＥＥＰＲＯＭ（Electrically  Erasable  Programmable  Read-Only  Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
【００９４】
ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
【００９５】
［制御構造］
図１０を参照して、本実施の形態に係るコンピュータ２００の制御構造について説明する。図１０は、ユーザ１９０Ａによって使用されるＨＭＤシステム１００Ａがユーザ１９０Ａに仮想空間２を提供するために実行する処理を表すフローチャートである。他のＨＭＤシステム１００Ｂ，１００Ｃにおいても、同様の処理が実行される。
【００９６】
ステップＳ１において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２の背景を構成する仮想空間画像データ（仮想空間画像２２）を特定し、仮想空間２を定義する。
【００９７】
ステップＳ２において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。
【００９８】
ステップＳ３において、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ装置１１０に送られる。
【００９９】
ステップＳ４において、ＨＭＤ装置１１０のディスプレイ１１２は、コンピュータ２００から受信した信号に基づいて、視界画像を表示する。ＨＭＤ装置１１０Ａを装着したユーザ１９０Ａは、視界画像を視認すると仮想空間２を認識し得る。
【０１００】
ステップＳ５において、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０から発信される複数の赤外線光に基づいて、ＨＭＤ装置１１０の位置および傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に送られる。
【０１０１】
ステップＳ６において、プロセッサ１０は、視界領域決定モジュール２２２として、ＨＭＤ装置１１０Ａの位置と傾きとに基づいて、ＨＭＤ装置１１０Ａを装着したユーザ１９０Ａの視界方向（すなわち、仮想カメラ１の位置および傾き）を特定する。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。
【０１０２】
ステップＳ７において、コントローラ１６０は、現実空間におけるユーザ１９０Ａの操作を検出する。例えば、ある局面において、コントローラ１６０は、ユーザ１９０Ａによってボタンが押下されたことを検出する。別の局面において、コントローラ１６０は、ユーザ１９０Ａの両手の動作（たとえば、両手を振る等）を検出する。検出内容を示す信号は、コンピュータ２００に送られる。
【０１０３】
ステップＳ８において、プロセッサ１０は、チャット制御モジュール２３３として、他のＨＭＤシステム１００（ここではＨＭＤシステム１００Ｂ，１００Ｃ）との間で、サーバ１５０を介してプレイヤ情報を送受信する。
【０１０４】
ステップＳ９において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２として、各ユーザ１９０のプレイヤ情報に基づいて、各ユーザに関連付けられたアバターの動作を制御する。
【０１０５】
ステップＳ１０において、プロセッサ１０は、視界画像生成モジュール２２３として、ステップＳ９の処理結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ装置１１０に出力する。
【０１０６】
ステップＳ１１において、ＨＭＤ装置１１０のディスプレイ１１２は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
【０１０７】
ステップＳ５〜Ｓ１１の処理は、定期的に繰り返し実行される。
【０１０８】
図１１は、複数ユーザに共有される仮想空間２を模式的に表す図である。図１１に示される例では、ＨＭＤ装置１１０Ａを装着するユーザ１９０Ａに関連付けられたアバターＡ１と、ＨＭＤ装置１１０Ｂを装着するユーザ１９０Ｂに関連付けられたアバターＡ２と、ＨＭＤ装置１１０Ｃを装着するユーザ１９０Ｃに関連付けられたアバターＡ３とが、同一の仮想空間２に配置されている。このような複数ユーザに共通の仮想空間２によれば、各ユーザに対して、アバターＡ１〜Ａ３を介した他のユーザとのチャット等のコミュニケーション体験を提供することができる。
【０１０９】
この例では、各アバターＡ１〜Ａ３は、動物（猫、熊、うさぎ）を模したキャラクタオブジェクトとして定義されている。アバターＡ１〜Ａ３は、ユーザの動きに連動して動作可能な部分として、頭部（顔の向き）、目（視線および瞬き等）、顔（表情）、および手を含んでいる。頭部は、ＨＭＤセンサ１２０等によって検出されたＨＭＤ装置１１０の動きに連動して動く部分である。目は、カメラ１１６および注視センサ１４０等によって検出されたユーザの目の動きおよび視線の変化に連動して動く部分である。顔は、後述するフェイストラッキングデータに基づいて決定される表情が反映される部分である。手は、モーションセンサ１３０等により検出されたユーザの手の動きに連動して動く部分である。また、アバターＡ１〜Ａ３は、頭部および手に付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、アバターＡ１〜Ａ３は脚部を含んでいない。
【０１１０】
アバターＡ１の視野は、ＨＭＤシステム１００Ａにおける仮想カメラ１の視野と一致している。これにより、ユーザ１９０Ａに対して、アバターＡ１の１人称視点における視界画像Ｍが提供される。すなわち、ユーザ１９０Ａに対して、あたかも自分がアバターＡ１として仮想空間２に存在しているかのような仮想体験が提供される。図１２は、ＨＭＤ装置１１０Ａを介してユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。ユーザ１９０Ｂ，１９０Ｃに対しても同様に、アバターＡ２，Ａ３の１人称視点における視界画像が提供される。
【０１１１】
図１３は、仮想空間２におけるチャットを実現するためにＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を表すシーケンス図である。
【０１１２】
ステップＳ２１Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、チャット制御モジュール２３３として、アバターＡ１の動作を決定するためのプレイヤ情報を取得する。プレイヤ情報には、アバターＡ１（あるいはアバターＡ１に関連付けられるユーザ１９０Ａ）を特定する情報（ユーザＩＤ等）、およびアバターＡ１が存在する仮想空間２を特定する情報（ルームＩＤ等）等が含まれてもよい。プロセッサ１０は、チャット制御モジュール２３３として、上述のように取得されたプレイヤ情報を、ネットワーク１９を介してサーバ１５０に送信する。
【０１１３】
ステップＳ２１Ｂにおいて、ＨＭＤシステム１００Ｂにおけるプロセッサ１０は、ステップＳ２１Ａにおける処理と同様に、アバターＡ２の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。同様に、ステップＳ２１Ｃにおいて、ＨＭＤシステム１００Ｃにおけるプロセッサ１０は、アバターＡ３の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。
【０１１４】
ステップＳ２２において、サーバ１５０は、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ１５０は、各プレイヤ情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間２に関連付けられた全ユーザ（この例では、ユーザ１９０Ａ〜１９０Ｃ）のプレイヤ情報を統合する。そして、サーバ１５０は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間２に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。
【０１１５】
続いて、サーバ１５０から各ＨＭＤシステム１００Ａ〜１００Ｃに送信されたプレイヤ情報に基づいて、各ＨＭＤシステム１００Ａ〜１００Ｃは、ステップＳ２３Ａ〜Ｓ２３Ｃの処理を実行する。なお、ステップＳ２３Ａの処理は、図１０におけるステップＳ９の処理に相当する。
【０１１６】
ステップＳ２３Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、仮想オブジェクト制御モジュール２３２として、仮想空間２におけるユーザ１９０Ａ〜１９０ＣのアバターＡ１〜Ａ３の動作を制御する。具体的には、プロセッサ１０は、ＨＭＤシステム１００Ｂから送信されたプレイヤ情報に含まれるユーザ１９０Ａ〜１９０Ｃの動き検知データに基づいて、アバターＡ１〜Ａ３の動作を制御する。ステップＳ２３ＢおよびＳ２３Ｃの処理は、ステップＳ２３Ａの処理と同様である。
【０１１７】
［画像データの生成および更新］
図１４を参照して、画像データの生成および更新に関する処理手順を説明する。画像データは、仮想空間２の一部に相当する画像データである。画像データは、２次元画像であってもよいし、３次元画像であってもよい。画像データは、ユーザ１９０に提供される視界画像データと同様に、仮想空間２内に設定された視点情報に基づく視界領域によって規定される。視点情報は、仮想空間２内における視界領域を特定するための情報であり、例えば仮想空間２内における位置および傾きを示す情報である。仮想カメラ１の位置および傾きを示す情報は、視点情報の一種である。画像データは、例えば、所定時点（例えばユーザ１９０Ａにより指定された時点）における仮想空間２の状態を捉えた静止画である。ステップＳ３１およびＳ３２の処理は、図１０のステップＳ１の処理に相当し、仮想空間定義モジュール２３１により実行される。ステップＳ３３〜Ｓ３６の処理は、コンテンツデータ制御モジュール２３４により実行される。
【０１１８】
ステップＳ３１において、ＨＭＤシステム１００Ａのプロセッサ１０（以下単に「プロセッサ１０」）は、仮想空間２を定義するためのコンテンツデータを取得する。
【０１１９】
コンテンツデータは、仮想空間データの一部を構成するデータである。本実施形態では一例として、コンテンツデータは、上述したコンテンツ情報２４１に含まれる。より具体的には、コンテンツデータは、例えば、仮想空間画像２２として展開されるコンテンツ（背景データ）を記録したデータである。コンテンツデータは、例えば上述したコンテンツ（例えば現実世界の風景を表したコンテンツ等）を提供（配信）する事業者が運営するコンピュータ（以下「コンテンツ配信プラットフォーム」）から、ＨＭＤシステム１００Ａに配信される。例えば、上述したサーバ１５０がコンテンツ配信プラットフォームを構成し得る。本実施形態では一例として、ステップＳ３１において取得されたコンテンツデータ（第１コンテンツデータ）は、景観の良い場所に設置された定点カメラ（例えば３６０度カメラ）により撮影された四季の風景を記録した映像コンテンツ（例えば春の風景の映像コンテンツ）である。
【０１２０】
ステップＳ３２において、プロセッサ１０は、第１コンテンツデータに基づいて仮想空間２を生成する。すなわち、プロセッサ１０は、第１コンテンツデータが仮想空間画像２２として展開された仮想空間２を生成する。
【０１２１】
ステップＳ３３において、プロセッサ１０は、予め定められた条件が成立した場合に、仮想空間２の一部に相当する画像データを生成する。画像データは、ユーザ１９０Ａに仮想体験が提供されている間（すなわち、アバターＡ１を介して仮想空間２内を鑑賞している間）にユーザ１９０Ａによって指定された仮想空間２の一部に基づいて、生成され得る。例えば、プロセッサ１０は、コントローラ１６０に対する予め定められた入力操作、および視界画像に表示されるメニュー画面に対するユーザ操作等を受け付けた場合に、画像データを生成する。
【０１２２】
例えば、プロセッサ１０は、ユーザ１９０Ａから仮想空間２内における撮影領域を示す情報を受け付ける。撮影領域を示す情報は、例えば図６および図７に示される視界領域２３と同様の領域を特定するための情報であり、仮想空間２内における位置、方向、極角、および方位角等の情報である。なお、視界領域２３の極角αおよび方位角βと同じ極角および方位角を用いる場合には、プロセッサ１０は、ユーザ１９０Ａから、仮想空間２内における位置および方向（傾き）を示す視点情報のみを受け付ければよい。続いて、プロセッサ１０は、撮影領域と仮想空間２とが重なる部分に相当する画像データを生成する。当該画像データは、視界領域２３に基づいてユーザ１９０Ａに提供される視界画像データを決定する処理と同様の処理により生成される。
【０１２３】
画像データは、視界画像を定義する視点情報に基づいて生成され得る。すなわち、プロセッサ１０は、仮想カメラ１の位置および傾きに基づく視界領域２３を、上記撮影領域として設定し、当該撮影領域に基づいて画像データを生成し得る。この場合、ユーザ１９０Ａに提供される視界画像と同一の画像が、画像データとして生成される。より具体的には、仮想空間２内のコンテンツ（仮想空間画像２２）を鑑賞中のユーザ１９０Ａ（アバターＡ１）が予め定められた撮影操作を実行した場合に、当該ユーザ１９０Ａ１から見た視界画像が、画像データとして生成される。予め定められた撮影操作は、例えば、コントローラ１６０に対する入力操作、および視界画像に含まれるアイコンオブジェクト等を手オブジェクトによりタッチする操作等である。
【０１２４】
また、仮想空間２は、ユーザ１９０Ａに関連付けられた操作オブジェクトと、操作オブジェクトによって操作される撮影オブジェクトと、を含んでもよい。操作オブジェクトは、例えば上述した手オブジェクト等である。撮影オブジェクトは、例えばカメラ等を模したオブジェクトであり、仮想空間２内を撮影する機能を有するオブジェクトである。この場合、画像データは、撮影オブジェクトに関連付けられた視点情報に基づいて生成され得る。すなわち、プロセッサ１０は、撮影オブジェクトの位置および傾きに基づいて撮影領域を設定し、当該撮影領域に基づいて画像データを生成し得る。この場合、ユーザ１９０Ａに対して、仮想空間２内でカメラ撮影しているような体験を提供することが可能となる。ここで、画像データが生成されるタイミング（撮影タイミング）は、撮影オブジェクトが操作オブジェクトによる入力操作を受け付けたタイミングに設定されてもよい。入力操作は、例えば、撮影オブジェクトに設けられた撮影ボタンを操作オブジェクトによりタッチする操作等である。この場合、画像データは、撮影オブジェクトが入力操作を受け付けたタイミングにおける視点情報（撮影オブジェクトの位置および傾き）に基づいて生成される。
【０１２５】
ステップＳ３３において生成される画像データは、ユーザに関連付けられたアバター（キャラクタオブジェクト）に相当する第１部分と、適用されるコンテンツデータに依存する第２部分とを含んでいる。例えば、画像データは、仮想空間２と撮影領域とが重なる部分（３次元領域）に含まれる仮想空間２の構成要素（例えば、オブジェクトおよび仮想空間画像２２）を、互いに異なるレイヤ画像として含んでいる。つまり、画像データには、最背面に相当する仮想空間画像２２から最前面に配置されたオブジェクトまでの重なり順に応じたレイヤが定義されており、各レイヤに対応する画像（レイヤ画像）が含まれている。また、画像データには、各レイヤ画像が上述の第１部分および第２部分のいずれに対応するかを示す定義情報が関連付けられている。本実施形態では、適用されるコンテンツデータの種類に応じて変化する背面画像（仮想空間画像２２）が第２部分として定義され、アバターに相当する部分が第１部分として定義される。
【０１２６】
図１５および図１６を参照して、上述したステップＳ３２およびＳ３３の処理の一例について説明する。図１５の状態（Ａ）は、ステップＳ３２において生成された仮想空間２を表している。第１コンテンツデータとして記録された春の風景の映像コンテンツが、仮想空間画像２２として表示されている。図１５の状態（Ｂ）は、ステップＳ３３において生成された画像データＰ１を表している。図１６の状態（Ａ）および状態（Ｂ）に示されるように、画像データＰ１は、第１部分として、アバターＡ２に相当する部分を含むレイヤ画像Ｐ２を含み、第２部分として、仮想空間画像２２に対応するレイヤ画像Ｐ３を含んでいる。
【０１２７】
画像データＰ１は、仮想空間２内の所定の位置に固定オブジェクトとして生成されてもよいし、仮想空間２内で移動させることが可能な可動オブジェクトとして生成されてもよい。例えば、画像データＰ１は、現実世界における写真を模した持ち運び可能なオブジェクトとして生成されてもよい。この場合、例えば複数のユーザ間で画像データＰ１を見せ合ったりすることが可能となる。また、画像データＰ１は、ＨＭＤ装置１１０とは異なる端末装置が備える表示部に表示出力されてもよい。画像データＰ１は、例えばインターネット等を介して当該端末装置に転送され得る。端末装置は、例えばユーザ１９０Ａが保有するデスクトップＰＣ、ノートＰＣ、および携帯端末（スマートフォン、タブレット端末等）等である。この場合、仮想空間２内で撮影された画像データを現実空間で鑑賞することが可能となる。また、画像データＰ１は、インターネット等を介して他のシステム（例えばＳＮＳ（Social  Networking  Service）サイト等）にアップロード可能とされてもよい。この場合、仮想空間２内で撮影された画像データＰ１をＳＮＳサイト等に投稿すること等が可能となり、仮想空間２における過去の体験を現実空間で他のユーザと共有するといった楽しみ方が可能となる。
【０１２８】
ステップＳ３４において、プロセッサ１０は、画像データＰ１と第１コンテンツデータとを関連付ける。関連付けは、データ同士の関連付けに関する公知の処理により行われ得る。
【０１２９】
ステップＳ３５において、プロセッサ１０は、第１コンテンツデータから第２コンテンツデータへの差替えを検知する。例えば、コンテンツ配信プラットフォームからＨＭＤシステム１００Ａに新たなコンテンツデータ（第２コンテンツデータ）が配信された場合に、プロセッサ１０は、当該新たなコンテンツデータを仮想空間２に適用する（上述したステップＳ３１およびＳ３２の処理を実行する）と共に、コンテンツデータの差替えを検知する。
【０１３０】
コンテンツ配信プラットフォームは、例えば現実世界の時間と連動する映像コンテンツを、予め定められたタイミングでＨＭＤシステム１００Ａに配信するように設定され得る。例えば、季節の変わり目として予め定められた時期に、次の季節に対応するコンテンツデータが新たなコンテンツデータとして配信されてもよい。また、コンテンツ配信プラットフォームは、定点カメラによって朝、昼、夜のそれぞれの時間帯に撮影された風景を記録した各コンテンツデータを、それぞれ対応する時間帯に配信してもよい。
【０１３１】
なお、複数のコンテンツデータは、予めメモリモジュール２４０に格納されていてもよい。この場合、プロセッサ１０は、コンテンツ配信プラットフォームから新たなコンテンツデータが配信されるタイミングではなく、予め定められた時期または時刻となったことを契機として、仮想空間２に適用されるコンテンツデータを差し替えてもよい。
【０１３２】
ステップＳ３６において、プロセッサ１０は、第１コンテンツデータから第２コンテンツデータ（本実施形態では冬の風景の映像コンテンツ）への差替えが検知された場合に、第１コンテンツデータに関連付けられた画像データＰ１の内容を第２コンテンツデータに応じた内容に更新する。例えば、プロセッサ１０は、ステップＳ３３において画像データＰ１を生成する際に用いられた撮影領域と第２コンテンツデータが適用された仮想空間２（アバターＡ２が存在しない仮想空間２）とが重なる部分に相当する更新用画像データを生成する。更新用画像データは、画像データＰ１の第２部分であるレイヤ画像Ｐ３に対応するレイヤ画像（第２コンテンツデータに応じた仮想空間画像２２）である。続いて、プロセッサ１０は、レイヤ画像Ｐ３を、第２コンテンツデータに応じた更新用画像データに更新する。
【０１３３】
また、プロセッサ１０は、画像データＰ１の第１部分であるアバターＡ２の表示態様を、第２コンテンツデータに基づいて変更してもよい。例えば、プロセッサ１０は、第２コンテンツデータに予め関連付けられている属性（例えば、季節の情報）に基づいて、アバターＡ２の表示態様（例えば明るさ（輝度）および色合い等の色）を調整してもよい。例えば、プロセッサ１０は、日差しの強い夏の風景の場合にはアバターＡ２の色合いを明るめに設定し、日差しの弱い冬の風景の場合にはアバターＡ２の色合いを暗めに設定するといった調整を行ってもよい。また、プロセッサ１０は、夏の風景の場合には、アバターＡ２の顔部分に汗を表現するエフェクト画像を重畳させるといった処理を行ってもよい。このように第２部分だけでなく第１部分の表示態様についてもコンテンツデータの内容に応じて変更することにより、第１部分と差替え後の第２部分との調和の取れた画像データを得ることが可能となる。
【０１３４】
図１７および図１８を参照して、上述したステップＳ３６の処理の一例について説明する。図１７の状態（Ａ）は、更新用画像データを取得する処理を概念的に説明する図である。すなわち、図１７の状態（Ａ）は、第２コンテンツデータが適用された仮想空間２内を、画像データＰ１を生成する際に用いられた撮影領域が関連付けられた撮影用仮想カメラＶＣにより撮影することで、更新用画像データが得られることを示している。図１７の状態（Ｂ）は、このようにして得られた更新用画像データＰ４を表している。図１８は、画像データＰ１のレイヤ画像Ｐ３を更新用画像データＰ４に差し替えることにより得られる更新後の画像データＰ５を表している。
【０１３５】
［鑑賞モード］
続いて、上述した画像データにより実現される鑑賞モードについて説明する。鑑賞モードは、複数のコンテンツデータのうちから仮想空間２に適用されるコンテンツデータを順次切り替えることで、画像データの背景を順次切り替えるモードである。例えば、定点観測された所定の場所の風景（コンテンツデータ）が関連付けられた画像データの風景を、時系列に沿って実際の時間の流れよりも速い速度で切り替えることで、ユーザ１９０に所定の場所の経年変化（例えば１０年間の変化）を鑑賞させることができる。これにより、画像データを用いたユーザ１９０の仮想体験をよりリッチにし得る。鑑賞モードは、例えば以下のようにして実現される。すなわち、プロセッサ１０は、ユーザ１９０からの要求に応じて、複数のコンテンツデータのうちから仮想空間２に適用されるコンテンツデータを、予め定められた順番で切り替えながら、画像データの内容を適用されるコンテンツデータに応じた内容に順次更新する。
【０１３６】
図１９を参照して、鑑賞モードを実行するための処理手順について説明する。
【０１３７】
ステップＳ４１において、プロセッサ１０は、予め定められた条件の成立を検知する。例えば、プロセッサ１０は、ユーザ１９０から鑑賞モードの実行指示を受け付けた場合に、上記条件が成立したと判定する。実行指示は、例えばコントローラ１６０に対する予め定められた操作が入力された場合に、当該コントローラ１６０からプロセッサ１０へと出力される。
【０１３８】
ステップＳ４２において、プロセッサ１０は、複数のコンテンツデータのうちから仮想空間２に適用されるコンテンツデータを選択する。ここでは一例として、複数のコンテンツデータには、風景が観測された時点（例えば日時）が関連付けられている。そして、プロセッサ１０は、複数のコンテンツデータのうちから最も古い時点に観測された風景に対応するコンテンツデータを、仮想空間２に適用されるコンテンツデータとして選択する。
【０１３９】
ステップＳ４３において、プロセッサ１０は、選択されたコンテンツデータに応じて画像データの内容を更新する。当該更新は、上述したステップＳ３６と同様の処理により実現される。
【０１４０】
ステップＳ４４において、プロセッサ１０は、コンテンツデータを切り替える時間間隔として予め定められた所定時間が経過したか否かを監視する。プロセッサ１０は、所定時間が経過したことを検知すると、ステップＳ４５において鑑賞モードを終了するか否かを判定する。鑑賞モードを終了するか否かは、例えば、次のコンテンツデータ（すなわち、現在適用されているコンテンツモードよりも時間順で後のコンテンツデータ）が存在するか否かに基づいて判定される。次のコンテンツデータが存在しない場合には、プロセッサ１０は、鑑賞モードを終了すると判定し（ステップＳ４５：ＹＥＳ）、処理を終了する。
【０１４１】
一方、次のコンテンツデータが存在する場合には、プロセッサ１０は、鑑賞モードを継続すると判定し（ステップＳ４５：ＮＯ）、ステップＳ４６において、時間順で次のコンテンツデータを、次に適用されるコンテンツデータとして選択し、ステップＳ４３に戻る。
【０１４２】
以上説明した画像データの生成および更新によれば、ある時点において生成された画像データのコンテンツデータに対応する部分（本実施形態では背景部分）を、コンテンツデータの差替えに応じて変化させることができる。例えば仮想空間２内で生成された画像データが、上述したようにＳＮＳ等にアップロード可能とされている場合、ユーザは、自身のアバターを含んだ画像データをＳＮＳサイトにおける自身のプロフィール画像に設定することができる。その後、仮想空間２に適用されるコンテンツデータが変更されると、プロフィール画像の背景も自動的に更新される。例えば仮想空間２に適用されるコンテンツデータが現実世界の季節と連動して変更される場合、プロフィール画像の背景も同様に季節と連動して変更されることになるため、プロフィール画像に季節感を出すことができる。このように、上記実施形態によれば、仮想空間２の一部を単に切り取った画像を撮影および保存できる仕組みをユーザに提供することに留まらず、仮想空間２であるからこそ実現できる楽しみ方をユーザに提供することができる。その結果、ユーザ１９０の仮想体験のエンタテイメント性を向上し得る。
【０１４３】
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
【０１４４】
例えば、本実施形態においてＨＭＤシステム１００のプロセッサ１０が実行するものとして説明した各処理は、サーバ１５０が備えるプロセッサによって実行されてもよいし、プロセッサ１０とサーバ１５０とによって分散して実行されてもよい。
【０１４５】
また、本実施形態においては、ＨＭＤ装置１１０によってユーザ１９０が没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤ装置１１０として、透過型のＨＭＤ装置を採用してもよい。この場合、透過型のＨＭＤ装置を介してユーザ１９０が視認する現実空間に、仮想空間を構成する画像の一部が視界画像として重畳されるように視界画像を出力することにより、拡張現実（ＡＲ：Augumented  Reality）空間または複合現実（ＭＲ：Mixed  Reality）空間における仮想体験をユーザ１９０に提供してもよい。この場合、仮想空間２内における操作オブジェクト（例えば手オブジェクト）に代えて、現実空間におけるユーザ１９０の手の動きに基づいて、仮想空間２内における対象オブジェクト（例えば撮影オブジェクト）への作用を生じさせてもよい。具体的には、プロセッサ１０は、現実空間におけるユーザ１９０の手の位置の座標情報を特定するとともに、仮想空間２内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ１０は、現実空間におけるユーザ１９０の手と仮想空間２における対象オブジェクトとの位置関係を把握し、ユーザ１９０の手と対象オブジェクトとの間で上述した当たり判定等に対応する処理を実行可能となる。その結果、ユーザ１９０の手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。
【０１４６】
本明細書に開示された主題は、例えば、以下のような項目として示される。
（項目１）
ユーザ端末（ＨＭＤ装置１１０）を介してユーザ１９０に仮想体験を提供するためにコンピュータ（コンピュータ２００またはサーバ１５０が備えるコンピュータ）によって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間２を定義するための第１コンテンツデータを取得するステップ（図１４のＳ３１）と、
前記第１コンテンツデータに基づいて前記仮想空間２を生成するステップ（図１４のＳ３２）と、
前記仮想空間２の一部に相当する画像データＰ１を生成するステップ（図１４のＳ３３）と、
前記画像データＰ１と前記第１コンテンツデータとを関連付けるステップ（図１４のＳ３４）と、
前記第１コンテンツデータから第２コンテンツデータへの差替えを検知するステップ（図１４のＳ３５）と、
前記差替えが検知された場合に、前記画像データＰ１を前記第２コンテンツデータに応じて更新するステップ（図１４のＳ３６）と、
を含む、情報処理方法。
本項目の情報処理方法によれば、ある時点において生成された画像データＰ１を、コンテンツデータの差替えに応じて変化させることができる。これにより、ユーザ１９０の仮想体験のエンタテイメント性を向上させることができる。
（項目２）
前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイス（ＨＭＤ装置１１０）を少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間２と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部（ディスプレイ１１２）に前記視界画像を表示させるステップ（図１０のＳ１０）をさらに含み、
前記画像データＰ１は、前記ユーザ１９０に前記仮想体験が提供されている間に前記ユーザ１９０によって指定された前記仮想空間２の前記一部に基づいて、生成される、
項目１の情報処理方法。
本項目の情報処理方法によれば、仮想体験中のユーザに画像データを生成（撮影）する体験を提供することができるため、ユーザの仮想体験をよりリッチにし得る。
（項目３）
前記画像データＰ１は、前記視界画像を定義する視点情報に基づいて、生成される、
項目２の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像と同一の画像を表す画像データを生成することができる。
（項目４）
前記仮想空間２は、前記ユーザ１９０に関連付けられたアバター（キャラクタオブジェクト）によって操作される撮影オブジェクトをさらに含み、
前記画像データＰ１は、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
項目２の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像とは異なる画像を表す画像データを生成することができる。
（項目５）
前記仮想空間２は、前記ユーザ１９０の身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データＰ１は、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
項目４の情報処理方法。
本項目の情報処理方法によれば、仮想空間２内において、撮影オブジェクトによる撮影操作を行う体験（すなわち、現実空間においてカメラ撮影するような体験）をユーザに提供できるため、ユーザの仮想体験をよりリッチにし得る。
（項目６）
前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データＰ１は、前記端末装置が備える表示部に表示される、
項目２〜５のいずれかの情報処理方法。
本項目の情報処理方法によれば、仮想空間２内で撮影された画像データを現実空間で鑑賞することが可能となり、ユーザのエンタテイメント性を向上させ得る。
（項目７）
前記画像データＰ１は、前記ユーザに関連付けられたキャラクタオブジェクト（アバターＡ１）に相当する第１部分（レイヤ画像Ｐ２）と、適用されるコンテンツデータに依存する第２部分（レイヤ画像Ｐ３）とを含み、
前記更新するステップにおいて、前記画像データの前記第２部分を、前記第２コンテンツデータに応じて更新する、
項目１〜６のいずれかの情報処理方法。
本項目の情報処理方法によれば、コンテンツデータの影響を受ける部分のみをコンテンツデータの差替えに応じて変更することにより、画像データの更新を容易に行うことができる。
（項目８）
前記更新するステップにおいて、前記画像データの前記第１部分の表示態様を、前記第２コンテンツデータに基づいて変更する、
項目７の情報処理方法。
本項目の情報処理方法によれば、第２部分だけでなく第１部分の表示態様についてもコンテンツデータの内容に応じて変更することにより、第１部分と差替え後の第２部分との調和の取れた画像データを得ることが可能となる。
（項目９）
予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
項目１〜８のいずれかの情報処理方法。
本項目の情報処理方法によれば、例えばユーザ１９０に所定の場所の経年変化を鑑賞させること等が可能となり、画像データを用いたユーザ１９０の仮想体験をよりリッチにし得る。
（項目１０）
項目１〜９のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
（項目１１）
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により項目１〜９のいずれかの情報処理方法を実行する、装置。
【符号の説明】
【０１４７】
１…仮想カメラ、２…仮想空間、５…基準視線、１０…プロセッサ、１１…メモリ、１２…ストレージ、１３…入出力インターフェース、１４…通信インターフェース、１５…バス、１９…ネットワーク、２１…中心、２２…仮想空間画像、２３…視界領域、２４，２５…領域、３１…フレーム、３２…天面、３３，３４，３６，３７…ボタン、３５…赤外線ＬＥＤ、３８…アナログスティック、１００，１００Ａ，１００Ｂ，１００Ｃ…ＨＭＤシステム、１１０，１１０Ａ，１１０Ｂ，１１０Ｃ…ＨＭＤ装置、１１２…ディスプレイ、１１４…センサ、１１６…カメラ、１１８…マイク、１２０…ＨＭＤセンサ、１３０…モーションセンサ、１４０…注視センサ、１５０…サーバ、１６０…コントローラ、１６０Ｒ…右コントローラ、１９０，１９０Ａ，１９０Ｂ，１９０Ｃ…ユーザ、２００…コンピュータ、２２０…表示制御モジュール、２２１…仮想カメラ制御モジュール、２２２…視界領域決定モジュール、２２３…視界画像生成モジュール、２２４…基準視線特定モジュール、２３０…仮想空間制御モジュール、２３１…仮想空間定義モジュール、２３２…仮想オブジェクト制御モジュール、２３３…チャット制御モジュール、２３４…コンテンツデータ制御モジュール、２４０…メモリモジュール、２４１…コンテンツ情報、２４２…オブジェクト情報、２４３…ユーザ情報、２５０…通信制御モジュール、８１０…右手、Ａ１，Ａ２，Ａ３…アバター、Ｐ１，Ｐ５…画像データ、Ｐ２…レイヤ画像（第１部分）、Ｐ３…レイヤ画像（第２部分）、Ｐ４…更新用画像データ、Ｍ…視界画像。
【図１】
2018192107.tif 000003
【図２】
2018192107.tif 000004
【図３】
2018192107.tif 000005
【図４】
2018192107.tif 000006
【図５】
2018192107.tif 000007
【図６】
2018192107.tif 000008
【図７】
2018192107.tif 000009
【図８】
2018192107.tif 000010
【図９】
2018192107.tif 000011
【図１０】
2018192107.tif 000012
【図１１】
2018192107.tif 000013
【図１２】
2018192107.tif 000014
【図１３】
2018192107.tif 000015
【図１４】
2018192107.tif 000016
【図１５】
2018192107.tif 000017
【図１６】
2018192107.tif 000018
【図１７】
2018192107.tif 000019
【図１８】
2018192107.tif 000020
【図１９】
2018192107.tif 000021
【手続補正書】
【提出日】平成30年1月10日(2018.1.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間を定義するための第１コンテンツデータを取得するステップと、
前記第１コンテンツデータに基づいて前記仮想空間を生成するステップと、
前記仮想空間の一部に相当する静止画の画像データを生成するステップと、
前記画像データと前記第１コンテンツデータとを関連付けるステップと、
前記第１コンテンツデータから第２コンテンツデータへの差替えを検知するステップと、
前記差替えが検知された場合に、前記画像データを前記第２コンテンツデータに応じて更新するステップと、
を含む、情報処理方法。
【請求項２】
前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイスを少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部に前記視界画像を表示させるステップをさらに含み、
前記画像データは、前記ユーザに前記仮想体験が提供されている間に前記ユーザによって指定された前記仮想空間の前記一部に基づいて、生成される、
請求項１に記載の情報処理方法。
【請求項３】
前記画像データは、前記視界画像を定義する視点情報に基づいて、生成される、請求項２に記載の情報処理方法。
【請求項４】
前記仮想空間は、前記ユーザに関連付けられたキャラクタオブジェクトによって操作される撮影オブジェクトをさらに含み、
前記画像データは、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
請求項２に記載の情報処理方法。
【請求項５】
前記仮想空間は、前記ユーザの身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データは、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
請求項４に記載の情報処理方法。
【請求項６】
前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データは、前記端末装置が備える表示部に表示される、
請求項２〜５のいずれか一項に記載の情報処理方法。
【請求項７】
前記画像データは、前記ユーザに関連付けられたキャラクタオブジェクトに相当する第１部分と、適用されるコンテンツデータに依存する第２部分とを含み、
前記更新するステップにおいて、前記画像データの前記第２部分を、前記第２コンテンツデータに応じて更新する、
請求項１〜６のいずれか一項に記載の情報処理方法。
【請求項８】
前記更新するステップにおいて、前記画像データの前記第１部分の表示態様を、前記第２コンテンツデータに基づいて変更する、
請求項７に記載の情報処理方法。
【請求項９】
予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
請求項１〜８のいずれか一項に記載の情報処理方法。
【請求項１０】
請求項１〜９のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
【請求項１１】
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項１〜９のいずれか一項に記載の情報処理方法を実行する、装置。