(57)【要約】【課題】複数ユーザで仮想空間を共有する仮想体験におけるユーザ間の感情理解をより促進し得る。【解決手段】第１ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するための情報処理方法は、第１ユーザに関連付けられた第１プレイヤキャラクタと、第２ユーザに関連付けられた第２プレイヤキャラクタと、第１ヘッドマウントディスプレイに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、第２ユーザの感情を特定するステップと、第２ユーザの感情に基づいて、視界画像において第２プレイヤキャラクタに関連付けて表示するためのエフェクト画像を決定するステップと、視界画像において、エフェクト画像を配置するステップと、を含む。【選択図】図１５
2018089227.tif 000002
【特許請求の範囲】
【請求項１】
第１ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
前記第１ユーザに関連付けられた第１プレイヤキャラクタと、第２ユーザに関連付けられた第２プレイヤキャラクタと、前記第１ヘッドマウントディスプレイに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、
前記第２ユーザの感情を特定するステップと、
前記第２ユーザの感情に基づいて、前記視界画像において前記第２プレイヤキャラクタに関連付けて表示するためのエフェクト画像を決定するステップと、
前記視界画像において、前記エフェクト画像を配置するステップと、
を含む、情報処理方法。
【請求項２】
前記特定するステップにおいて、前記第２ユーザの表情および音声の少なくとも一方に基づいて、前記第２ユーザの感情を特定する、
請求項１に記載の情報処理方法。
【請求項３】
前記特定するステップにおいて、前記第２ユーザの感情の度合いを特定し、
前記決定するステップにおいて、前記第２ユーザの感情の度合いに基づいて、前記エフェクト画像の表示態様を決定する、
請求項１または２に記載の情報処理方法。
【請求項４】
前記仮想空間は、複数の前記第２ユーザのそれぞれに関連付けられた複数の前記第２プレイヤキャラクタを含み、
前記決定するステップにおいて、複数の前記第２プレイヤキャラクタの間に所定の関係が成立する場合に、複数の前記第２ユーザの感情の組み合わせに基づいて、前記エフェクト画像を決定する、
請求項１〜３のいずれか一項に記載の情報処理方法。
【請求項５】
前記視界画像における前記第２プレイヤキャラクタの顔部分の動作を規定する動作データを生成するステップをさらに含み、
前記配置するステップにおいて、前記動作データに基づく前記第２プレイヤキャラクタの顔部分の動作に合わせて、前記エフェクト画像を配置するステップと、をさらに含む、
請求項１〜４のいずれか一項に記載の情報処理方法。
【請求項６】
前記生成するステップにおいて、前記第２ユーザの顔画像に対する画像認識結果を取得し、当該画像認識結果に基づいて前記動作データを生成する、
請求項５に記載の情報処理方法。
【請求項７】
前記生成するステップにおいて、予め用意された前記第２プレイヤキャラクタの表情画像のうちから、前回特定された前記第２ユーザの感情に対応する第１表情画像と今回特定された前記第２ユーザの感情に対応する第２表情画像とを取得し、前記第１表情画像および前記第２表情画像に基づいて、前記第１表情画像から前記第２表情画像への変化を示す映像を前記動作データとして生成する、
請求項５に記載の情報処理方法。
【請求項８】
請求項１〜７のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
【請求項９】
請求項８に記載のプログラムを格納したメモリと、
前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【０００２】
非特許文献１は、複数ユーザによって共有される仮想空間において、各ユーザに関連付けられたアバター（プレイヤキャラクタ）を各ユーザの操作に基づいて動作させる技術を開示している。このような技術によれば、共通の仮想空間内におけるチャット（以下「ＶＲチャット」）機能を複数ユーザに提供することが可能になる。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】“Facebook  Mark  Zuckerberg  Social  VR  Demo  OC3  Oculus  Connect  3  Keynote”、［online］、平成２８年１０月６日、VRvibe、［平成２８年１２月５日検索］、インターネット＜https://www.youtube.com/watch?v=NCpNKLXovtE＞
【発明の概要】
【発明が解決しようとする課題】
【０００４】
非特許文献１に開示されたシステムでは、仮想空間における各アバターの表情を変化させることを可能にすることで、他ユーザの感情理解が容易になるように工夫がされている。しかしながら、上記システムには、仮想空間におけるユーザ間の感情理解をより促進するために、仮想空間ならではの工夫を盛り込む余地がある。
【０００５】
本開示は、上述のような問題点を解決するためになされたものであり、複数ユーザで仮想空間を共有する仮想体験におけるユーザ間の感情理解をより促進し得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
本開示が示す一態様によれば、第１ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、第１ユーザに関連付けられた第１プレイヤキャラクタと、第２ユーザに関連付けられた第２プレイヤキャラクタと、第１ヘッドマウントディスプレイに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、第２ユーザの感情を特定するステップと、特定された第２ユーザの感情に基づいて、視界画像において第２プレイヤキャラクタに関連付けて表示するためのエフェクト画像を決定するステップと、を含む。
【発明の効果】
【０００７】
本開示によれば、複数ユーザで仮想空間を共有する仮想体験におけるユーザ間の感情理解をより促進し得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。
【図面の簡単な説明】
【０００８】
【図１】ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。
【図２】一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。
【図３】ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。
【図４】ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。
【図５】ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。
【図６】仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。
【図７】仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
【図８】ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
【図９】ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
【図１０】ＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【図１１】複数ユーザに共有される仮想空間２を模式的に表す図である。
【図１２】ユーザ１９０Ａに提供される視界画像Ｍを表す図である。
【図１３】ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を示すシーケンス図である。
【図１４】エフェクト制御の第１の例においてＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【図１５】エフェクト制御の第１の例により生成される視界画像の一例（視界画像Ｍ１）を表す図である。
【図１６】エフェクト制御の第２の例においてＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【図１７】エフェクト制御の第２の例により生成される視界画像の一例（視界画像Ｍ２）を表す図である。
【図１８】エフェクト制御の第２の例により生成される視界画像の他例（視界画像Ｍ３）を表す図である。
【発明を実施するための形態】
【０００９】
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
【００１０】
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head  Mount  Display）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
【００１１】
ＨＭＤシステム１００は、ＨＭＤ装置１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ装置１１０は、モニタ１１２と、カメラ１１６と、マイク１１８と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。
【００１２】
ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。別の局面において、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。
【００１３】
ＨＭＤ装置１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ装置１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。
【００１４】
モニタ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザの両目の前方に位置するようにＨＭＤ装置１１０の本体に配置されている。したがって、ユーザは、モニタ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro  Luminescence）モニタとして実現され得る。
【００１５】
ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
【００１６】
カメラ１１６は、ＨＭＤ装置１１０を装着するユーザの顔画像を取得する。カメラ１１６によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ１１６は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、ＨＭＤ装置１１０本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ１１６は、ユーザの口、頬、および顎等の動きを検知するために、図１に示されるようにＨＭＤ装置１１０の外側に配置された外付けカメラであってもよい。また、カメラ１１６は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。
【００１７】
マイク１１８は、ユーザが発した音声を取得する。マイク１１８によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間２に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク１９およびサーバ１５０等を介して、他のユーザが使用するＨＭＤシステムに送られ、当該ＨＭＤシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話（チャット）が実現される。
【００１８】
ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light  Emitting  Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。
【００１９】
なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ装置１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ装置１１０の位置および傾きを検出することができる。
【００２０】
別の局面において、ＨＭＤ装置１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ装置１１０は、センサ１１４を用いて、ＨＭＤ装置１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ装置１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ装置１１０は、各角速度に基づいて、ＨＭＤ装置１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ装置１１０の傾きを算出する。また、ＨＭＤ装置１１０は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ装置１１０に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
【００２１】
注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。
【００２２】
サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ装置に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
【００２３】
コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ１９０によって与えられる操作を受け付ける。
【００２４】
モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
【００２５】
［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。
【００２６】
プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processor  Unit）、ＦＰＧＡ（Field-Programmable  Gate  Array）その他のデバイスとして実現される。
【００２７】
メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。メモリ１１に保存されるデータは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random  Access  Memory）その他の揮発性メモリとして実現される。
【００２８】
ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only  Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ２００との通信を実現するためのプログラム等を含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
【００２９】
なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
【００３０】
ある実施の形態において、入出力インターフェース１３は、ＨＭＤ装置１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal  Serial  Bus）インターフェース、ＤＶＩ（Digital  Visual  Interface）、ＨＤＭＩ（登録商標）（High-Definition  Multimedia  Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。
【００３１】
ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
【００３２】
通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェース１４は、例えば、ＬＡＮ（Local  Area  Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless  Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。
【００３３】
ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間を提供するための信号をＨＭＤ装置１１０に送る。ＨＭＤ装置１１０は、その信号に基づいてモニタ１１２に映像を表示する。
【００３４】
サーバ１５０は、ネットワーク１９を介して複数のＨＭＤシステム１００の各々の制御装置と接続される。図２に示される例では、サーバ１５０は、ＨＭＤ装置１１０Ａ（第１ヘッドマウントディスプレイ）を有するＨＭＤシステム１００Ａと、ＨＭＤ装置１１０Ｂを有するＨＭＤシステム１００Ｂと、ＨＭＤ装置１１０Ｃを有するＨＭＤシステム１００Ｃとを含む複数のＨＭＤシステム１００を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各ＨＭＤシステムを使用するユーザに提供される。なお、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびその他のＨＭＤシステム１００は、いずれも同様の構成を備える。
【００３５】
なお、図２に示される例では、コンピュータ２００がＨＭＤ装置１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ装置１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。
【００３６】
また、コンピュータ２００は、複数のＨＭＤ装置１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のＨＭＤシステム１００は、入出力インターフェース１３により、コンピュータ２００に直接接続されてもよい。また、本実施形態におけるサーバ１５０の各機能（例えば後述する同期処理等）は、コンピュータ２００に実装されてもよい。
【００３７】
ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
【００３８】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ装置１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ装置１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ装置１１０の位置および傾きの時間的変化を検出できる。
【００３９】
グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ装置１１０の各傾きは、グローバル座標系におけるＨＭＤ装置１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ装置１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ装置１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。
【００４０】
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の起動時に、グローバル座標系におけるＨＭＤ装置１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。
【００４１】
図３に示されるように、ＨＭＤ装置１１０は、ＨＭＤ装置１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ装置１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ装置１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。
【００４２】
ある局面において、ＨＭＤ装置１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。
【００４３】
ｕｖｗ視野座標系がＨＭＤ装置１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ装置１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ装置１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ装置１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ装置１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ装置１１０の傾き角度を表す。
【００４４】
ＨＭＤセンサ１２０は、検出されたＨＭＤ装置１１０の傾き角度に基づいて、ＨＭＤ装置１１０が動いた後のＨＭＤ装置１１０におけるｕｖｗ視野座標系を、ＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０と、ＨＭＤ装置１１０のｕｖｗ視野座標系との関係は、ＨＭＤ装置１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ装置１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ装置１１０のｕｖｗ視野座標系の位置および傾きが変化する。
【００４５】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ装置１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系の原点を決定してもよい。
【００４６】
［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。
【００４７】
ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。
【００４８】
ＨＭＤ装置１１０の起動時、すなわちＨＭＤ装置１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ装置１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ装置１１０の位置および向きの変化が、仮想空間２において同様に再現される。
【００４９】
仮想カメラ１には、ＨＭＤ装置１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ装置１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ装置１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。
【００５０】
仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ装置１１０を装着したユーザの視界に対応する。
【００５１】
注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ装置１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ装置１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。
【００５２】
［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。
【００５３】
ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
【００５４】
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。
【００５５】
また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。
【００５６】
さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
【００５７】
［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
【００５８】
図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。
【００５９】
図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。
【００６０】
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ装置１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。
【００６１】
ユーザ１９０は、ＨＭＤ装置１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。
【００６２】
ある局面において、プロセッサ１０は、ＨＭＤ装置１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ装置１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。すなわち、仮想カメラ１によって、仮想空間２におけるユーザ１９０の視野が定義される。
【００６３】
ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ装置１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
【００６４】
［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
【００６５】
図８の状態（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ１６０Ｒと左コントローラとを含み得る。右コントローラ１６０Ｒは、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ１６０Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ１６０Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ１６０Ｒについて説明する。
【００６６】
右コントローラ１６０Ｒは、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
【００６７】
グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。
【００６８】
フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ１６０Ｒと左コントローラとの各位置および姿勢（傾き、向き）等を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
【００６９】
天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動させるための操作を含む。
【００７０】
ある局面において、右コントローラ１６０Ｒおよび左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ１６０Ｒおよび左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ１６０Ｒおよび左コントローラは、電池を必要としない。
【００７１】
図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ１９０の右手８１０に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ１９０が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
【００７２】
［ＨＭＤ装置の制御装置］
図９を参照して、ＨＭＤ装置１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
【００７３】
図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト制御モジュール２３２と、操作オブジェクト制御モジュール２３３とを含む。
【００７４】
ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。
【００７５】
ある局面において、表示制御モジュール２２０は、ＨＭＤ装置１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ装置１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像を生成する。また、視界画像生成モジュール２２３は、視界画像に含まれるプレイヤキャラクタ（詳しくは後述）の表示態様を決定する。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。
【００７６】
仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。
【００７７】
仮想オブジェクト制御モジュール２３２は、仮想空間２に配置される対象オブジェクトを生成する。また、仮想オブジェクト制御モジュール２３２は、仮想空間２における対象オブジェクトおよびプレイヤキャラクタの動作（移動および状態変化等）を制御する。対象オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。プレイヤキャラクタは、仮想空間２においてＨＭＤ装置１１０を装着したユーザに関連付けられたオブジェクト（いわゆるアバター）である。
【００７８】
操作オブジェクト制御モジュール２３３は、仮想空間２に配置されるオブジェクトを操作するための操作オブジェクトを仮想空間２に配置する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ装置１１０を装着したユーザの手に相当する手オブジェクト、ユーザの指に相当する指オブジェクト、ユーザが使用するスティックに相当するスティックオブジェクト等を含み得る。操作オブジェクトが指オブジェクトの場合、特に、操作オブジェクトは、当該指が指し示す方向（軸方向）の軸の部分に対応している。
【００７９】
チャット制御モジュール２３４は、同じ仮想空間２に滞在する他のユーザのアバターとチャットをするための制御を行う。例えば、チャット制御モジュール２３４は、ユーザのアバターの位置および向き等の情報、ならびにマイク１１８に入力された音声データをサーバ１５０に送信する。また、チャット制御モジュール２３４は、サーバ１５０から受信した他のユーザの音声データを図示しないスピーカに出力する。これにより、音声によるチャットが実現される。なお、チャットは、音声データに基づくものに限られず、テキストデータに基づくものであってもよい。この場合、チャット制御モジュール２３４は、テキストデータの送受信を制御する。
【００８０】
仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール２３３は、操作オブジェクトと、他のオブジェクト（例えば、仮想オブジェクト制御モジュール２３２によって配置される対象オブジェクト）とが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。
【００８１】
メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。空間情報２４１には、例えば、仮想空間２を提供するために規定された１つ以上のテンプレートが含まれている。オブジェクト情報２４２には、例えば、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。ユーザ情報２４３には、例えば、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
【００８２】
メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ装置１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。
【００８３】
通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。
【００８４】
ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
【００８５】
コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、メモリモジュール２４０に一旦格納される。そのソフトウェアは、プロセッサ１０によってメモリモジュール２４０から読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。
【００８６】
図９に示されるコンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【００８７】
なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible  Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic  Optical  Disc）／ＭＤ（Mini  Disc）／ＤＶＤ（Digital  Versatile  Disc））、ＩＣ（Integrated  Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Erasable  Programmable  Read-Only  Memory）、ＥＥＰＲＯＭ（Electrically  Erasable  Programmable  Read-Only  Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
【００８８】
ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
【００８９】
［制御構造］
図１０を参照して、本実施の形態に係るコンピュータ２００の制御構造について説明する。図１０は、ユーザ１９０Ａ（第１ユーザ）によって使用されるＨＭＤシステム１００Ａがユーザ１９０Ａに仮想空間２を提供するために実行する処理を表すフローチャートである。
【００９０】
ステップＳ１において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間２を定義する。
【００９１】
ステップＳ２において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。
【００９２】
ステップＳ３において、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ装置１１０に送られる。
【００９３】
ステップＳ４において、ＨＭＤ装置１１０のモニタ１１２は、コンピュータ２００から受信した信号に基づいて、視界画像を表示する。ＨＭＤ装置１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。
【００９４】
ステップＳ５において、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０から発信される複数の赤外線光に基づいて、ＨＭＤ装置１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に送られる。
【００９５】
ステップＳ６において、プロセッサ１０は、視界領域決定モジュール２２２として、ＨＭＤ装置１１０の位置と傾きとに基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の視界方向を特定する。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。
【００９６】
ステップＳ７において、コントローラ１６０は、現実空間におけるユーザ１９０の操作を検出する。例えば、ある局面において、コントローラ１６０は、ユーザ１９０によってボタンが押下されたことを検出する。別の局面において、コントローラ１６０は、ユーザ１９０の両手の動作（たとえば、両手を振る等）を検出する。検出内容を示す信号は、コンピュータ２００に送られる。
【００９７】
ステップＳ８において、プロセッサ１０は、操作オブジェクト制御モジュール２３３として、コントローラ１６０から送られた検出内容を仮想空間２に反映する。具体的には、プロセッサ１０は、検出内容を示す信号に基づいて、仮想空間２における操作オブジェクト（例えば、プレイヤキャラクタの手を表す手オブジェクト等）を動かす。また、プロセッサ１０は、操作オブジェクト制御モジュール２３３として、操作オブジェクトによる対象オブジェクトに対する予め定められた操作（例えば掴み操作等）を検知する。
【００９８】
ステップＳ９において、プロセッサ１０は、他のユーザ１９０Ｂ，１９０Ｃ（第２ユーザ）によって使用されるＨＭＤシステム１００Ｂ，１００Ｃから送られる情報（後述するプレイヤ情報）に基づいて、他のユーザに関連付けられたプレイヤキャラクタの情報を更新する。具体的には、プロセッサ１０は、仮想オブジェクト制御モジュール２３２として、他のユーザに関連付けられたプレイヤキャラクタの仮想空間２における位置および向き等の情報を更新する。
【００９９】
ステップＳ１０において、プロセッサ１０は、視界画像生成モジュール２２３として、ステップＳ８およびステップＳ９における処理の結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ装置１１０に出力する。プロセッサ１０は、視界画像データを生成する際、視界画像に含まれるプレイヤキャラクタの表示態様を決定する。視界画像にプレイヤキャラクタが含まれるか否かは、例えば、ステップＳ６において特定される視界方向に基づいて定められる視界領域２３にプレイヤキャラクタが含まれるか否かによって判定される。
【０１００】
ステップＳ１１において、ＨＭＤ装置１１０のモニタ１１２は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
【０１０１】
図１１は、複数ユーザに共有される仮想空間２を模式的に表す図である。図１１に示される例では、ＨＭＤ装置１１０Ａを装着するユーザ１９０Ａに関連付けられたプレイヤキャラクタＰＣ１（第１プレイヤキャラクタ）と、ＨＭＤ装置１１０Ｂを装着するユーザ１９０Ｂに関連付けられたプレイヤキャラクタＰＣ２（第２プレイヤキャラクタ）と、ＨＭＤ装置１１０Ｃを装着するユーザ１９０Ｃに関連付けられたプレイヤキャラクタＰＣ３（第２プレイヤキャラクタ）とが、同一の仮想空間２に配置されている。このような複数ユーザに共通の仮想空間２によれば、各ユーザに対して、プレイヤキャラクタＰＣを介した他のユーザとのチャット（ＶＲチャット）等のコミュニケーション体験を提供することができる。
【０１０２】
この例では、各プレイヤキャラクタＰＣは、動物（猫、うさぎ、熊）を模したオブジェクトとして定義されている。また、プレイヤキャラクタＰＣは、ＨＭＤセンサ１２０等によって検出されたＨＭＤ装置１１０の動きに連動して動く頭部と、モーションセンサ１３０等により検出されたユーザの手の動きに連動して動く手と、頭部および手に付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、プレイヤキャラクタＰＣは脚部を含んでいない。
【０１０３】
プレイヤキャラクタＰＣ１の視野は、ＨＭＤシステム１００Ａにおける仮想カメラ１の視野と一致している。これにより、ユーザ１９０Ａに対して、プレイヤキャラクタＰＣ１の１人称視点における視界画像Ｍが提供される。すなわち、ユーザ１９０Ａに対して、あたかも自分がプレイヤキャラクタＰＣ１として仮想空間２に存在しているかのような仮想体験が提供される。図１２は、ＨＭＤ装置１１０Ａを介してユーザ１９０Ａに提供される視界画像Ｍを表す図である。ユーザ１９０Ｂ，１９０Ｃに対しても同様に、プレイヤキャラクタＰＣ２，ＰＣ３の１人称視点における視界画像が提供される。
【０１０４】
図１３は、上述したＶＲチャットを実現するためにＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を表すシーケンス図である。
【０１０５】
ステップＳ２１Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、チャット制御モジュール２３４として、仮想空間２におけるプレイヤキャラクタＰＣ１の動作を決定するためのプレイヤ情報を取得する。このプレイヤ情報は、例えば、動き情報、フェイストラッキングデータ、音声データ、および感情データを含む。動き情報は、例えば、ＨＭＤセンサ１２０等により検出されたＨＭＤ装置１１０Ａの位置および傾きの時間的変化を示す情報と、モーションセンサ１３０等により検出されたユーザ１９０Ａの手の動きを示す情報とを含む。フェイストラッキングデータは、ユーザ１９０Ａの顔の各パーツの位置および大きさを特定するデータである。フェイストラッキングデータは、例えばＨＭＤ装置１１０Ａのカメラ１１６により取得された画像情報に対する画像解析処理によって生成される。音声データは、ＨＭＤ装置１１０Ａのマイク１１８によって取得されたユーザ１９０Ａの音声を示すデータである。感情データは、ユーザ１９０Ａの感情を示す情報であり、例えば感情の種別（喜び、怒り、悲しみ等）と感情の度合い（例えば１０段階で表現されるレベル等）とを含む情報である。例えば、プロセッサ１０は、フェイストラッキングデータまたは音声データを用いた任意の感情認識処理によって感情データを生成する。また、プレイヤ情報には、プレイヤキャラクタＰＣ１（あるいはプレイヤキャラクタＰＣ１に関連付けられるユーザ１９０Ａ）を特定する情報（ユーザＩＤ等）、およびプレイヤキャラクタＰＣ１が存在する仮想空間２を特定する情報（ルームＩＤ等）等が含まれてもよい。プロセッサ１０は、上述のように取得されたプレイヤ情報を、ネットワーク１９を介してサーバ１５０に送信する。
【０１０６】
ステップＳ２１Ｂにおいて、ＨＭＤシステム１００Ｂにおけるプロセッサ１０は、ステップＳ２１Ａにおける処理と同様に、仮想空間２におけるプレイヤキャラクタＰＣ２の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。同様に、ステップＳ２１Ｃにおいて、ＨＭＤシステム１００Ｃにおけるプロセッサ１０は、仮想空間２におけるプレイヤキャラクタＰＣ３の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。
【０１０７】
ステップＳ２２において、サーバ１５０は、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ１５０は、各プレイヤ情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間２に関連付けられた全ユーザ（この例では、ユーザ１９０Ａ〜１９０Ｃ）のプレイヤ情報を統合する。そして、サーバ１５０は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間２に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。
【０１０８】
続いて、サーバ１５０から各ＨＭＤシステム１００Ａ〜１００Ｃに送信されたプレイヤ情報に基づいて、各ＨＭＤシステム１００Ａ〜１００Ｃは、ステップＳ２３Ａ〜Ｓ２３Ｃの処理を実行する。なお、ステップＳ２３Ａの処理は、図１０におけるステップＳ９の処理に相当する。
【０１０９】
ステップＳ２３Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、仮想オブジェクト制御モジュール２３２として、仮想空間２における他ユーザ１９０Ｂ，１９０ＣのプレイヤキャラクタＰＣ２，ＰＣ３の情報を更新する。具体的には、プロセッサ１０は、ＨＭＤシステム１００Ｂから送信されたプレイヤ情報に含まれる動き情報に基づいて、仮想空間２におけるプレイヤキャラクタＰＣ２の位置および向き等を更新する。例えば、プロセッサ１０は、メモリモジュール２４０に格納されたオブジェクト情報２４２に含まれるプレイヤキャラクタＰＣ２の情報（位置および向き等）を更新する。同様に、プロセッサ１０は、ＨＭＤシステム１００Ｃから送信されたプレイヤ情報に含まれる動き情報に基づいて、仮想空間２におけるプレイヤキャラクタＰＣ３の情報（位置および向き等）を更新する。
【０１１０】
ステップＳ２３Ｂにおいて、ＨＭＤシステム１００Ｂにおけるプロセッサ１０は、ステップＳ２３Ａにおける処理と同様に、仮想空間２におけるユーザ１９０Ａ，１９０ＣのプレイヤキャラクタＰＣ１，ＰＣ３の情報を更新する。同様に、ステップＳ２３Ｃにおいて、ＨＭＤシステム１００Ｃにおけるプロセッサ１０は、仮想空間２におけるユーザ１９０Ａ，１９０ＢのプレイヤキャラクタＰＣ１，ＰＣ２の情報を更新する。
【０１１１】
続いて、各ＨＭＤシステム１００Ａ〜１００Ｃは、ステップＳ２４Ａ〜Ｓ２４Ｃの処理を実行する。ステップＳ２４Ａの処理は、図１０におけるステップＳ１０の処理の一部に相当する。
【０１１２】
ステップＳ２４Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、視界画像生成モジュール２２３として、視界画像Ｍに含まれるプレイヤキャラクタＰＣの表示態様を決定する。具体的には、プロセッサ１０は、仮想カメラ１（プレイヤキャラクタＰＣ１）の視界方向に基づいて定められた視界領域２３に含まれるプレイヤキャラクタＰＣを抽出する。図１１および図１２に示される例では、ＨＭＤシステム１００Ａにおける仮想カメラ１の視界領域には、プレイヤキャラクタＰＣ２，ＰＣ３が含まれる。このため、プロセッサ１０は、視界画像Ｍに含まれるプレイヤキャラクタＰＣとしてプレイヤキャラクタＰＣ２，ＰＣ３を抽出し、これらの表示態様を決定する。
【０１１３】
ここで、ＨＭＤシステム１００Ｂ，１００ＣにおけるステップＳ２４Ｂ，Ｓ２４Ｃの処理は、ＨＭＤシステム１００ＡにおけるステップＳ２４Ａの処理と同様である。また、ステップＳ２４ＡにおけるプレイヤキャラクタＰＣ３の表示態様の決定に関する処理は、プレイヤキャラクタＰＣ２の表示態様の決定に関する処理と同様である。したがって、以下では、ステップＳ２４ＡにおけるプレイヤキャラクタＰＣ２の表示態様の決定に関する処理についてのみ詳細に説明する。
【０１１４】
例えば、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、プレイヤ情報として受信されたユーザ１９０Ｂのフェイストラッキングデータに基づいて、プレイヤキャラクタＰＣ２の顔部分の動作を規定する動作データを生成してもよい。この動作データによれば、視界画像Ｍに含まれるプレイヤキャラクタＰＣ２の表情を変化させることができる。例えば、プロセッサ１０は、フェイストラッキングデータが示すユーザ１９０Ｂの顔の各パーツの位置形状に基づいて、プレイヤキャラクタＰＣ２の顔の各パーツの位置形状を示す画像を生成してもよい。そして、プロセッサ１０は、当該画像をプレイヤキャラクタＰＣ２の顔画像として決定してもよい。これにより、ＶＲチャットに参加するユーザ１９０Ｂの表情の変化を、仮想空間２におけるプレイヤキャラクタＰＣ２の表情として反映させることができる。その結果、仮想空間２におけるユーザ間の感情理解を向上し得る。
【０１１５】
ここで、ＨＭＤシステム１００Ａのメモリモジュール２４０は、オブジェクト情報２４２として、プレイヤキャラクタＰＣ２の複数の表情に対応する複数の表情画像（例えば驚きに対応する画像および悲しみに対応する画像等）を予め保持していてもよい。この場合、プロセッサ１０は、プレイヤ情報として受信されたユーザ１９０Ｂの感情データが示す感情の種別および度合いに対応する表情画像を、プレイヤキャラクタＰＣ２の顔画像として決定してもよい。これによれば、視界画像ＭにおいてプレイヤキャラクタＰＣ２の表情を表現するためにフェイストラッキングデータを用いる必要がなくなるため、フェイストラッキングデータの通信を省略することでデータ通信量を削減し得る。また、プレイヤキャラクタＰＣ２の表情を表現するために必要な処理が、予め用意された複数の表情画像から感情データに対応する画像を抽出するだけの処理になるため、処理量を低減すると共に処理の高速化を実現し得る。
【０１１６】
さらに、上記のように予め用意された複数の表情画像間でプレイヤキャラクタＰＣ２の表情を切り替える際には、プロセッサ１０は、所謂モーフィングと呼ばれる処理を実行してもよい。モーフィングとは、２つの異なる状態（ここでは表情）の中間状態の映像をコンピュータにより補完する処理である。例えば、プロセッサ１０は、前回の同期処理により受信されたユーザ１９０Ｂの感情データに対応するプレイヤキャラクタＰＣ２の表情画像（第１表情画像。例えば驚きを示す表情画像）と今回の同期処理により受信されたユーザ１９０Ｂの感情データに対応するプレイヤキャラクタＰＣ２の表情画像（第２表情画像。例えば喜びを示す表情画像）との中間状態の映像（動作データ）を、モーフィングにより生成してもよい。このように生成された中間状態の映像により、ユーザ１９０Ａに提供される視界画像Ｍにおいて、プレイヤキャラクタＰＣ２の自然な表情変化を表現することが可能となる。具体的には、プロセッサ１０は、視界画像データの一部として、今回の同期処理により受信されたユーザ１９０Ｂの感情データに対応するプレイヤキャラクタＰＣ２の表情画像と共に、上述のように生成された中間状態の映像をＨＭＤ装置１１０Ａに出力すればよい。これにより、ユーザ１９０Ａに提供される視界画像Ｍにおいて、プレイヤキャラクタＰＣ２の自然な表情変化を表現することができる。その結果、仮想空間２への高い没入感覚をユーザ１９０Ａに提供し得る。
【０１１７】
なお、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、チャット制御モジュール２３４として、ステップＳ２４Ａにおける処理と並行して、プレイヤ情報に含まれる音声データをスピーカ等に出力してもよい。すなわち、プロセッサ１０は、プレイヤキャラクタＰＣ２の動作に合わせて音声データを出力してもよい。この場合、ユーザ１９０Ａに、ユーザ１９０Ｂの発話内容をプレイヤキャラクタＰＣ２の発話内容として感じさせることができる。これにより、仮想空間２への高い没入感覚をユーザ１９０Ａに提供し得る。
【０１１８】
以上説明したようなステップＳ２４Ａの処理によれば、他のユーザ１９０Ｂ，１９０Ｃの動作および表情等がプレイヤキャラクタＰＣ２，ＰＣ３に反映された視界画像Ｍを、ユーザ１９０Ａに提供することができる。同様に、ステップＳ２４Ｂ，Ｓ２４Ｃの処理により、ユーザ１９０Ｂ，１９０Ｃに対して、上述同様の視界画像を提供することができる。
【０１１９】
［エフェクト表示］
本実施形態では、ＶＲチャットにおけるユーザ間の感情理解を促進するために、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、視界画像Ｍに含まれるプレイヤキャラクタＰＣの表示態様を決定する処理（図１０におけるステップＳ１０および図１３におけるステップＳ２４Ａに相当する処理）の一部として、以下の処理を実行する。すなわち、プロセッサ１０は、ユーザ１９０Ａ（第１ユーザ）に提供される視界画像Ｍにおいて、他ユーザ１９０Ｂ，１９０Ｃ（第２ユーザ）の感情に応じたエフェクト画像を当該他ユーザのプレイヤキャラクタＰＣ２，ＰＣ３（第２プレイヤキャラクタ）に関連付けて配置（重畳表示）する処理（エフェクト制御）を実行する。以下、エフェクト制御の第１および第２の例について説明する。
【０１２０】
（第１の例）
図１４および図１５を参照して、エフェクト制御の第１の例について説明する。図１４は、エフェクト制御の第１の例においてＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【０１２１】
ステップＳ３１において、プロセッサ１０は、視界画像Ｍに含まれるプレイヤキャラクタＰＣに関連付けられた第２ユーザの感情データを取得する。例えば、プロセッサ１０は、サーバ１５０から受信した第２ユーザのプレイヤ情報から、当該感情データを取得することができる。これにより、プロセッサ１０は、第２ユーザの感情を特定する。
【０１２２】
ステップＳ３２において、プロセッサ１０は、第２ユーザの感情の種別に対応するエフェクト画像を決定する。ここで、感情の種別毎のエフェクト画像は、例えばオブジェクト情報２４２として、予めメモリモジュール２４０に格納されている。エフェクト画像の例としては、例えば感情「嬉しい」に対応するハートマーク等の画像が挙げられる。プロセッサ１０は、このように感情の種別毎に予め用意されたエフェクト画像の中から、感情データに含まれる第２ユーザの感情の種別に対応するエフェクト画像を抽出する。
【０１２３】
ステップＳ３３において、プロセッサ１０は、第２ユーザの感情の度合いに基づいてエフェクト画像の表示態様を決定する。具体的には、プロセッサ１０は、感情データに含まれる第２ユーザの感情の度合いに応じて、視界画像Ｍにおいてエフェクト画像を表現する度合いを決定する。例えば、プロセッサ１０は、第２ユーザの感情（例えば「嬉しい」）の度合いに応じて、エフェクト画像（例えば「ハートマーク」）の数およびサイズ等を決定してもよい。例えば、プロセッサ１０は、第２ユーザの感情の度合いが大きいほど数が多くなる（あるいはサイズが大きくなる）ように、エフェクト画像の表示態様を決定してもよい。これにより、第２ユーザの感情の度合いをエフェクト画像の表現の度合いによって、第１ユーザに視覚的に把握させることが可能となる。
【０１２４】
ステップＳ３４において、プロセッサ１０は、上述のようにして、第２ユーザのフェイストラッキングデータ（顔画像に対する画像認識結果）または感情データに基づいて、第２プレイヤキャラクタの顔部分の動作（表情の変化）を示す第２プレイヤキャラクタの動作データを生成する。なお、ステップＳ３４は、ステップＳ３１〜Ｓ３３よりも前に、あるいはステップＳ３１〜Ｓ３３と並行して実行されてもよい。
【０１２５】
ステップＳ３５において、プロセッサ１０は、視界画像Ｍにおいて、動作データに基づく第２プレイヤキャラクタの顔部分の動作に合わせてエフェクト画像を配置する。例えば、プロセッサ１０は、視界画像Ｍにおいて、例えば第２プレイヤキャラクタの位置を基準として予め定められた位置に、エフェクト画像を重畳表示させる。また、プロセッサ１０は、ＨＭＤ装置１１０Ａのモニタ１１２に動作データに基づく顔部分の動作が表示（再生）されるタイミングとエフェクト画像が表示されるタイミングとが一致するように、動作データとエフェクト画像とを互いに関連付ける。そして、プロセッサ１０は、このように関連付けたデータをＨＭＤ装置１１０Ａに出力する。これにより、第２プレイヤキャラクタの顔部分の動作に合わせてエフェクト画像が表示される視界画像Ｍが、ＨＭＤ装置１１０Ａを装着した第１ユーザに提供される。その結果、第２プレイヤキャラクタの表情の変化およびエフェクト画像の両方によって、第２ユーザの感情を効果的に第１ユーザに把握させることができる。一例として、プロセッサ１０は、第２プレイヤキャラクタのウィンク動作に合わせて、第２プレイヤキャラクタの目からハートマークのエフェクト画像が飛び出るような視界画像Ｍを生成してもよい。
【０１２６】
図１５は、エフェクト制御の第１の例により生成される視界画像の一例（視界画像Ｍ１）を表す図である。図１５に示される例は、プレイヤキャラクタＰＣ２に関連付けられたユーザ１９０Ｂの感情の種別が「嬉しい」であり、感情の度合いが「中」であると判定された場合の例である。図１５に示される例では、上述のステップＳ３２において、プロセッサ１０は、ユーザ１９０Ｂの感情の種別「嬉しい」に対応するハートマークの画像をプレイヤキャラクタＰＣ２に関連付けられるエフェクト画像Ｅとして決定している。また、上述のステップＳ３３において、プロセッサ１０は、ユーザ１９０Ｂの感情の度合い「中」に対応する表示態様として、２つのハートマークを表示する表示態様を決定している。なお、視界画像Ｍ１に示されるように、対応するエフェクト画像を有する感情が特定されなかったユーザ１９０ＣのプレイヤキャラクタＰＣ３については、エフェクト画像は表示されない。
【０１２７】
このように視界画像Ｍ１にエフェクト画像Ｅを配置することにより、ユーザ１９０Ａに第２ユーザ（図１５に示される例ではユーザ１９０Ｂ）の感情を容易に把握させることができる。これにより、仮想空間２におけるユーザ間の感情理解をより促進し得る。
【０１２８】
（第２の例）
図１６〜図１８を参照して、エフェクト制御の第２の例について説明する。第２の例においては、プロセッサ１０は、ユーザ１９０Ｂ，１９０Ｃ（第２ユーザ）に関連付けられたプレイヤキャラクタＰＣ２，ＰＣ３（第２プレイヤキャラクタ）の間に所定の関係が成立する場合に、ユーザ１９０Ｂの感情とユーザ１９０Ｃの感情の組み合わせに基づいて、エフェクト画像Ｅを決定および配置する。具体的には、プロセッサ１０は、上述した表示態様を決定する処理（図１０におけるステップＳ１０および図１３におけるステップＳ２４Ａに相当する処理）において、視界画像生成モジュール２２３として、以下の処理を実行する。図１６は、エフェクト制御の第２の例においてＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。
【０１２９】
ステップＳ４１において、プロセッサ１０は、複数（ここでは２つ）の第２プレイヤキャラクタの間に所定の関係が成立するか否かを判定する。ここで、所定の関係とは、例えば、複数の第２プレイヤキャラクタ同士が互いに認識している関係である。ここでは一例として、所定の関係は、複数の第２プレイヤキャラクタが対面している関係（互いに視線を送り合っている関係）である。例えば、プロセッサ１０は、複数の第２プレイヤキャラクタのそれぞれの位置および向き等の情報に基づいて、当該複数の第２プレイヤキャラクタが対面しているか否かを判定することができる。このような情報は、上述したプレイヤ情報として受信される。当該複数の第２プレイヤキャラクタが対面していると判定された場合には、プロセッサ１０は、引き続きステップＳ４２〜Ｓ４５の処理を実行する。
【０１３０】
ステップＳ４２において、プロセッサ１０は、ステップＳ３１と同様の処理により、視界画像Ｍに含まれるプレイヤキャラクタＰＣに関連付けられた第２ユーザの感情データを取得する。
【０１３１】
ステップＳ４３において、プロセッサ１０は、複数（ここでは２人）の第２ユーザの感情との組み合わせに対応するエフェクト画像を決定する。ここで、感情の組み合わせ毎のエフェクト画像は、例えばオブジェクト情報２４２として、予めメモリモジュール２４０に格納されている。
【０１３２】
例えば、感情「嬉しい」と感情「嬉しい」との組み合わせに対応するエフェクト画像の例としては、互いに好意を抱いていること（両想い）を表現する画像（例えばハートマークを表す画像等）が挙げられる。また、感情「怒り」と感情「怒り」との組み合わせに対応するエフェクト画像の例としては、互いに反発し合っていることを表現する画像（例えば火花を表す画像等）が挙げられる。また、例えば、感情「嬉しい」と感情「嬉しくない」との組み合わせに対応するエフェクト画像の例としては、片想いを表現する画像（例えば割れたハートマークを表す画像等）が挙げられる。
【０１３３】
プロセッサ１０は、このように感情の組み合わせ毎に予め用意されたエフェクト画像の中から、複数の第２ユーザの感情の組み合わせに対応するエフェクト画像を抽出する。
【０１３４】
ステップＳ４４およびＳ４５において、プロセッサ１０は、上述したステップＳ３４およびＳ３５と同様の処理を実行する。
【０１３５】
図１７は、エフェクト制御の第２の例により生成される視界画像の一例（視界画像Ｍ２）を表す図である。図１７に示される視界画像Ｍ２は、以下のようにして生成された視界画像である。すなわち、ステップＳ４１において、プロセッサ１０は、プレイヤキャラクタＰＣ２とプレイヤキャラクタＰＣ３との間に所定の関係（対面している関係）が成立すると判定する。したがって、プロセッサ１０は、ステップＳ４２〜Ｓ４５の処理を実行する。ステップＳ４２において、プロセッサ１０は、プレイヤキャラクタＰＣ２に関連付けられたユーザ１９０Ｂの感情データと、プレイヤキャラクタＰＣ３に関連付けられたユーザ１９０Ｃの感情データとを取得する。ここで、ユーザ１９０Ｂの感情データに含まれる感情の種別およびユーザ１９０Ｃの感情データに含まれる感情の種別は、いずれも「嬉しい」である。このため、ステップＳ４３において、プロセッサ１０は、感情「嬉しい」と感情「嬉しい」との組み合わせに基づいて、当該組み合わせに対応するエフェクト画像Ｅ（ここでは一例としてハートマークを表す画像）を決定する。そして、プロセッサ１０は、ステップＳ４４およびＳ４５の処理を実行することにより、エフェクト画像ＥがプレイヤキャラクタＰＣ２，ＰＣ３に関連付けて配置される視界画像Ｍ２を生成する。
【０１３６】
図１８は、エフェクト制御の第２の例により生成される視界画像の他例（視界画像Ｍ３）を表す図である。図１８に示される例は、プレイヤキャラクタＰＣ３に関連付けられたユーザ１９０Ｃの感情の種別が「嬉しくない」である点で、図１７に示される例と相違する。このため、図１８に示される視界画像Ｍ３においては、感情「嬉しい」と感情「嬉しくない」との組み合わせに基づいて、当該組み合わせに対応するエフェクト画像Ｅ（ここでは一例として割れたハートマークを表す画像）を決定する。
【０１３７】
第２の例によれば、視界画像Ｍにおいて、複数の第２ユーザ（図１７および図１８に示される例では、ユーザ１９０Ｂ，１９０Ｃ）が互いに抱いている感情に応じたエフェクト画像Ｅを表示することができる。これにより、ユーザ１９０Ａに複数の第２ユーザ同士の関係性を容易に把握させることができる。
【０１３８】
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
【０１３９】
例えば、エフェクト制御の第２の例において、プロセッサ１０は、３つ以上の第２プレイヤキャラクタ間で所定の関係（例えば所定の範囲内に密集している状態等）が成立する場合に、３人以上の第２ユーザの感情の組み合わせに基づいて、当該３つ以上の第２プレイヤキャラクタに関連付けられるエフェクト画像が決定されてもよい。例えば、プロセッサ１０は、所定の関係を成立させる複数の第２プレイヤキャラクタに関連付けられる複数の第２ユーザの感情の種別が一致する場合、当該種別に対応するエフェクト画像を当該第２ユーザの人数に応じた度合いで視界画像Ｍに配置してもよい。例えば、仮想空間２において開催される歌手のコンサート会場に集まった複数の第２プレイヤキャラクタに関連付けられた複数の第２ユーザの間で感情の種別（例えば「興奮」）が一致する場合、「興奮」に対応するエフェクト画像が、当該第２ユーザの人数に応じた度合いで表示されてもよい。このように、複数の第２ユーザの興奮の度合いをエフェクト画像として表現することで、仮想空間２における盛り上がりの度合いを視界画像Ｍにおいて効果的に演出することができる。
【０１４０】
また、ＶＲチャットを実現するために各ＨＭＤシステム１００とサーバ１５０との間で実行される機能の分担は、上記例に限られず、様々な分散構成を採用し得る。例えば、上記例では、プレイヤ情報を送信する側のＨＭＤシステム１００が自システムを利用するユーザの感情を示す感情データを生成する構成について説明したが、各ユーザの感情データを複数のＨＭＤシステム１００間で共有するための処理構成は上記構成に限られない。例えば、プレイヤ情報を受信する側のＨＭＤシステム１００が、受信されたプレイヤ情報に含まれるフェイストラッキングデータまたは音声データに基づいて感情データを生成してもよい。この場合、プレイヤ情報に感情データを含める必要がなくなるため、プレイヤ情報の送受信に係るデータ通信量を削減し得る。
【０１４１】
また、上述した各ＨＭＤシステム１００のコンピュータ２００によって実行される機能の一部または全部は、サーバ１５０に集約されてもよい。例えば、以下のように、サーバ１５０が視界画像の生成および出力までの処理を実行し、各ＨＭＤ装置１１０はサーバ１５０から受信した視界画像を表示する構成が採用されてもよい。すなわち、サーバ１５０が、複数のＨＭＤ装置１１０によって共有される仮想空間２を定義するデータ（例えば、空間情報２４１、オブジェクト情報２４２等）を保持する。各ＨＭＤ装置１１０のＨＭＤセンサ１２０が、当該ＨＭＤ装置１１０の位置および傾きの情報をサーバ１５０に送信する。サーバ１５０が、各ＨＭＤ装置１１０の位置および傾きに応じた視界画像を生成し、当該視界画像を表示するための視界画像データを各ＨＭＤ装置１１０に送信する。この場合、例えば上述した図１０のステップＳ１、Ｓ９、およびＳ１０等の処理を実行する主体は、サーバ１５０となる。
【０１４２】
本明細書に開示された主題は、例えば、以下のような項目として示される。
（項目１）
第１ヘッドマウントディスプレイ（ＨＭＤ装置１１０Ａ）を介して第１ユーザ（ユーザ１９０Ａ）に仮想空間２を提供するためにコンピュータ２００によって実行される情報処理方法であって、
前記第１ユーザに関連付けられた第１プレイヤキャラクタ（プレイヤキャラクタＰＣ１）と、第２ユーザ（ユーザ１９０Ｂ，１９０Ｃ）に関連付けられた第２プレイヤキャラクタ（プレイヤキャラクタＰＣ２，ＰＣ３）と、前記第１ヘッドマウントディスプレイに提供される視界画像Ｍを定義する仮想カメラ１とを含む仮想空間２を定義する仮想空間データを生成するステップ（図１０のＳ１）と、
前記第２ユーザの感情を特定するステップ（例えば図１４のＳ３１）と、
前記第２ユーザの感情に基づいて、前記視界画像において前記第２プレイヤキャラクタに関連付けて表示するためのエフェクト画像を決定するステップ（例えば図１４のＳ３２）と、
前記視界画像において、前記エフェクト画像を配置するステップ（例えば図１４のＳ３５）と、
を含む、情報処理方法。
本項目の情報処理方法によれば、視界画像Ｍにエフェクト画像Ｅを配置することにより、第１ユーザに第２ユーザの感情を容易に把握させることができる。これにより、仮想空間２におけるユーザ間の感情理解をより促進し得る。
（項目２）
前記特定するステップにおいて、前記第２ユーザの表情および音声の少なくとも一方に基づいて、前記第２ユーザの感情を特定する、
項目１の情報処理方法。
本項目の情報処理方法によれば、第２ユーザ自身の表情および音声に基づいて、第２ユーザの感情を適切に特定し得る。
（項目３）
前記特定するステップにおいて、前記第２ユーザの感情の度合いを特定し、
前記決定するステップにおいて、前記第２ユーザの感情の度合いに基づいて、前記エフェクト画像の表示態様を決定する、
項目１または２の情報処理方法。
本項目の情報処理方法によれば、第２ユーザの感情の度合いをエフェクト画像の表示態様によって、第１ユーザに視覚的に把握させることが可能となる。
（項目４）
前記仮想空間は、複数の前記第２ユーザのそれぞれに関連付けられた複数の前記第２プレイヤキャラクタを含み、
前記決定するステップにおいて、複数の前記第２プレイヤキャラクタの間に所定の関係が成立する場合に、複数の前記第２ユーザの感情の組み合わせに基づいて、前記エフェクト画像を決定する、
項目１〜３のいずれかの情報処理方法。
本項目の情報処理方法によれば、複数の第２ユーザが互いに抱いている感情に応じたエフェクト画像を視界画像に配置することができる。これにより、第１ユーザに複数の第２ユーザ同士の関係性を容易に把握させることができる。
（項目５）
前記視界画像における前記第２プレイヤキャラクタの顔部分の動作を規定する動作データを生成するステップをさらに含み、
前記配置するステップにおいて、前記動作データに基づく前記第２プレイヤキャラクタの顔部分の動作に合わせて、前記エフェクト画像を配置するステップと、をさらに含む、
項目１〜４のいずれかの情報処理方法。
本項目の情報処理方法によれば、第２プレイヤキャラクタの表情の変化およびエフェクト画像の両方によって、第２ユーザの感情をより効果的に第１ユーザに把握させることができる。
（項目６）
前記生成するステップにおいて、前記第２ユーザの顔画像に対する画像認識結果を取得し、当該画像認識結果に基づいて前記動作データを生成する、
項目５の情報処理方法。
本項目の情報処理方法によれば、顔画像の画像認識結果に基づいて、第２ユーザの表情を表現するための動作データを精度良く生成することができる。
（項目７）
前記生成するステップにおいて、予め用意された前記第２プレイヤキャラクタの表情画像のうちから、前回特定された前記第２ユーザの感情に対応する第１表情画像と今回特定された前記第２ユーザの感情に対応する第２表情画像とを取得し、前記第１表情画像および前記第２表情画像に基づいて、前記第１表情画像から前記第２表情画像への変化を示す映像を前記動作データとして生成する、
項目５の情報処理方法。
本項目の情報処理方法によれば、第２プレイヤキャラクタの変化の前後における２つの表情画像に基づいて、第２プレイヤキャラクタの自然な表情変化を表現することができる。その結果、仮想空間２への高い没入感覚を第１ユーザに提供し得る。また、第２プレイヤキャラクタの表情変化を表現するために必要なデータの通信量を低減することもできる。
（項目８）
項目１〜７のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
（項目９）
項目８のプログラムを格納したメモリと、
前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。
【符号の説明】
【０１４３】
１…仮想カメラ、２…仮想空間、５…基準視線、１０…プロセッサ、１１…メモリ、１２…ストレージ、１３…入出力インターフェース、１４…通信インターフェース、１５…バス、１９…ネットワーク、２１…中心、２２…仮想空間画像、２３…視界領域、２４，２５…領域、３１…フレーム、３２…天面、３３，３４，３６，３７…ボタン、３５…赤外線ＬＥＤ、３８…アナログスティック、１００，１００Ａ，１００Ｂ，１００Ｃ…ＨＭＤシステム、１１０，１１０Ａ，１１０Ｂ，１１０Ｃ…ＨＭＤ装置、１１２…モニタ、１１４…センサ、１１６…カメラ、１１８…マイク、１２０…ＨＭＤセンサ、１３０…モーションセンサ、１４０…注視センサ、１５０…サーバ、１６０…コントローラ、１６０Ｒ…右コントローラ、１９０，１９０Ａ，１９０Ｂ，１９０Ｃ…ユーザ、２００…コンピュータ、２２０…表示制御モジュール、２２１…仮想カメラ制御モジュール、２２２…視界領域決定モジュール、２２３…視界画像生成モジュール、２２４…基準視線特定モジュール、２３０…仮想空間制御モジュール、２３１…仮想空間定義モジュール、２３２…仮想オブジェクト制御モジュール、２３３…操作オブジェクト制御モジュール、２４０…メモリモジュール、２４１…空間情報、２４２…オブジェクト情報、２４３…ユーザ情報、２５０…通信制御モジュール、８１０…右手、Ｍ，Ｍ１，Ｍ２，Ｍ３…視界画像、ＰＣ，ＰＣ１，ＰＣ２，ＰＣ３…プレイヤキャラクタ。
【図１】
2018089227.tif 000003
【図２】
2018089227.tif 000004
【図３】
2018089227.tif 000005
【図４】
2018089227.tif 000006
【図５】
2018089227.tif 000007
【図６】
2018089227.tif 000008
【図７】
2018089227.tif 000009
【図８】
2018089227.tif 000010
【図９】
2018089227.tif 000011
【図１０】
2018089227.tif 000012
【図１１】
2018089227.tif 000013
【図１２】
2018089227.tif 000014
【図１３】
2018089227.tif 000015
【図１４】
2018089227.tif 000016
【図１５】
2018089227.tif 000017
【図１６】
2018089227.tif 000018
【図１７】
2018089227.tif 000019
【図１８】
2018089227.tif 000020
【手続補正書】
【提出日】平成29年8月10日(2017.8.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
前記第１ユーザに関連付けられた第１プレイヤキャラクタと、複数の第２ユーザのそれぞれに関連付けられた複数の第２プレイヤキャラクタと、前記第１ヘッドマウントディスプレイに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、
前記第２ユーザの感情を特定するステップと、
複数の前記第２プレイヤキャラクタの間に所定の関係が成立する場合に、複数の前記第２ユーザの感情の組み合わせに基づいて、前記視界画像において前記第２プレイヤキャラクタに関連付けて表示するためのエフェクト画像を決定するステップと、
前記視界画像において、前記エフェクト画像を配置するステップと、
を含む、情報処理方法。
【請求項２】
前記特定するステップにおいて、前記第２ユーザの表情および音声の少なくとも一方に基づいて、前記第２ユーザの感情を特定する、
請求項１に記載の情報処理方法。
【請求項３】
前記特定するステップにおいて、前記第２ユーザの感情の度合いを特定し、
前記決定するステップにおいて、前記第２ユーザの感情の度合いに基づいて、前記エフェクト画像の表示態様を決定する、
請求項１または２に記載の情報処理方法。
【請求項４】
前記視界画像における前記第２プレイヤキャラクタの顔部分の動作を規定する動作データを生成するステップをさらに含み、
前記配置するステップにおいて、前記動作データに基づく前記第２プレイヤキャラクタの顔部分の動作に合わせて、前記エフェクト画像を配置するステップと、をさらに含む、
請求項１〜３のいずれか一項に記載の情報処理方法。
【請求項５】
前記生成するステップにおいて、前記第２ユーザの顔画像に対する画像認識結果を取得し、当該画像認識結果に基づいて前記動作データを生成する、
請求項４に記載の情報処理方法。
【請求項６】
前記生成するステップにおいて、予め用意された前記第２プレイヤキャラクタの表情画像のうちから、前回特定された前記第２ユーザの感情に対応する第１表情画像と今回特定された前記第２ユーザの感情に対応する第２表情画像とを取得し、前記第１表情画像および前記第２表情画像に基づいて、前記第１表情画像から前記第２表情画像への変化を示す映像を前記動作データとして生成する、
請求項４に記載の情報処理方法。
【請求項７】
請求項１〜６のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
【請求項８】
請求項７に記載のプログラムを格納したメモリと、
前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。