(57)【要約】【課題】仮想空間においてユーザが快適に操作可能なユーザインターフェイスを提供する。【解決手段】ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法は、仮想空間を定義するステップ（Ｓ１８１０）と、ヘッドマウントデバイスのディスプレイに視界画像を表示してヘッドマウントデバイスのユーザに仮想空間を提供するステップと、ヘッドマウントデバイスの動きを検出するステップと、検出された動きに連動して視界画像を更新するステップと、仮想空間におけるユーザの視座にユーザに対応するアバターオブジェクトを配置するステップ（Ｓ１８１５）と、アバターオブジェクトにユーザからの操作を受け付けるためのユーザインターフェイスを表示するステップ（Ｓ１８４０）とを備える。【選択図】図１８
2018190335.tif 000002
【特許請求の範囲】
【請求項１】
ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法であって、
仮想空間を定義するステップと、
前記ヘッドマウントデバイスのディスプレイに視界画像を表示して前記ヘッドマウントデバイスのユーザに仮想空間を提供するステップと、
前記ヘッドマウントデバイスの動きを検出するステップと、
前記検出された動きに連動して前記視界画像を更新するステップと、
前記仮想空間におけるユーザの視座に前記ユーザに対応するアバターオブジェクトを配置するステップと、
前記アバターオブジェクトに前記ユーザからの操作を受け付けるためのユーザインターフェイスを表示するステップとを備える、方法。
【請求項２】
前記ユーザの第１部分の動作を検出するステップと、
前記検出された第１部分の動作に連動するように操作オブジェクトを動かすステップと、
前記ユーザの第２部分の動作を検出するステップと、
前記検出された第２部分の動作に連動するように前記アバターオブジェクトの前記第２部分に対応する箇所を動かすステップとをさらに備え、
前記ユーザインターフェイスを表示するステップは、前記アバターオブジェクトの前記第２部分に対応する箇所に前記操作オブジェクトによる操作を受付可能な前記ユーザインターフェイスを表示することを含む、請求項１に記載の方法。
【請求項３】
前記第１部分は、右手および左手のうち一方を含み、
前記第２部分は、右手および左手のうち前記一方とは異なる他方と、前記他方側の腕とのうち少なくとも一方を含む、請求項２に記載の方法。
【請求項４】
撮影機能を有し、プレビュー画像を表示可能なスクリーンオブジェクトを前記仮想空間に配置するステップと、
前記スクリーンオブジェクトにより撮影された画像をメモリに保存するステップとをさらに備え、
前記ユーザインターフェイスは、前記スクリーンオブジェクトによる撮影に関する、請求項１〜３のいずれか１項に記載の方法。
【請求項５】
前記ユーザの第１部分の動作を検出するステップと、
前記検出された第１部分の動作に連動するように操作オブジェクトを動かすステップとをさらに備え、
前記ユーザインターフェイスを表示するステップは、前記操作オブジェクトが前記スクリーンオブジェクトを保持したことに応じて、前記アバターオブジェクトに前記ユーザインターフェイスを表示することを含む、請求項４に記載の方法。
【請求項６】
前記仮想空間にスクリーンオブジェクトを配置するステップは、前記ユーザの指定する位置に前記スクリーンオブジェクトを配置することを含む、請求項４または５に記載の方法。
【請求項７】
前記ユーザインターフェイスは、撮影ボタンを含み、
前記スクリーンオブジェクトによる撮影を実行するステップは、前記撮影ボタンが選択されてから所定時間経過後に撮影を実行することを含む、請求項６に記載の方法。
【請求項８】
前記スクリーンオブジェクトを支持し、前記アバターオブジェクトによって保持可能な支持部材を前記仮想空間に配置するステップをさらに備え、
前記ユーザインターフェイスは、前記支持部材の長さを調整可能に構成される、請求項４または５に記載の方法。
【請求項９】
前記スクリーンオブジェクトによる撮影を実行するステップは、前記ヘッドマウントデバイスの動きが所定時間にわたり停止していることを検知した場合に前記撮影を実行することを含む、請求項４〜８のいずれか１項に記載の方法。
【請求項１０】
前記ユーザが目を閉じているか否かを検出するステップと、
前記ユーザが目を閉じている時間が予め定められた時間を超えたことに応じて、前記ユーザによる否定的な操作の入力を受け付けるステップとをさらに備える、請求項１〜９のいずれか１項に記載の方法。
【請求項１１】
撮影機能を有し、プレビュー画像を表示可能なスクリーンオブジェクトを前記仮想空間に配置するステップと、
前記コンピュータと通信可能な他のコンピュータのユーザにより操作される、前記スクリーンオブジェクトとは異なる他のスクリーンオブジェクトを前記仮想空間に表示するステップと、
前記他のコンピュータから前記他のスクリーンオブジェクトがインカメラモードであるかアウトカメラモードであるかを表すモード信号を受信するステップとをさらに備え、
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、
前記モード信号がインカメラモードを表す場合に、前記他のスクリーンオブジェクトを第１態様で表示することと、
前記モード信号がアウトカメラモードを表す場合に、前記他のスクリーンオブジェクトを前記第１態様とは異なる第２態様で表示することとを含む、請求項４〜１０のいずれか１項に記載の方法。
【請求項１２】
前記第１態様は、前記他のスクリーンオブジェクトが支持部材によって支持された態様を含み、
前記第２態様は、前記他のスクリーンオブジェクトが前記支持部材によって支持されていない態様を含む、請求項１１に記載の方法。
【請求項１３】
前記コンピュータと通信可能な他のコンピュータのユーザにより操作され、プレビュー画像を表示可能な他のスクリーンオブジェクトを前記仮想空間に表示するステップをさらに備え、
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、前記他のスクリーンオブジェクトの位置と、前記アバターオブジェクトの位置との相対関係に基づいて前記スクリーンオブジェクトの表示態様を制御することを含む、請求項４〜１２のいずれか１項に記載の方法。
【請求項１４】
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、前記アバターオブジェクトが前記他のスクリーンオブジェクトの後方に位置する場合に、前記スクリーンオブジェクトの枠のみを表示することを含む、請求項１３に記載の方法。
【請求項１５】
請求項１〜１４のいずれか１項に記載の方法をコンピュータに実現させるためのプログラム。
【請求項１６】
請求項１５に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この開示は、仮想空間を提供するための技術に関し、より特定的には、ユーザインターフェイスを表示する技術に関する。
【背景技術】
【０００２】
ヘッドマウントデバイス（ＨＭＤ：Head-Mounted  Device）装置を用いて仮想空間（仮想現実空間）を提供する技術が知られている。例えば、仮想空間上にユーザの動きに連動して動作するアバターを配置し、ユーザの仮想空間への没入感を高める技術が知られている。
【０００３】
また、近年、仮想空間におけるユーザの操作を快適にするための技術開発が活発に行なわれている。例えば、特開２０１５−０３２０８５号公報（特許文献１）は、「各アプリケーションを呼び出すための複数のアイコン（メニュー）を表示画面上に表示させる表示制御部と、複数のアイコンを表示する表示部と、を備え、表示制御部は、表示画面における視界確保領域を避けた退避領域に、複数のアイコンを表示させる」構成を開示している（「要約」参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１５−０３２０８５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特許文献１に記載される手法は、表示部端部の退避領域に複数のアイコン（メニュー）を表示する構成を採用するため、ユーザの仮想空間における実質的な視界が視界確保領域（表示部の中央部）のみとなってしまう。この場合、ユーザの仮想空間における視界が狭いため、ユーザはストレスを感じ得る。
【０００６】
また、特許文献１に記載される手法は、表示部端部に定常的にアイコンを表示する構成を採用するため、ユーザの仮想空間への没入感を損なう可能性がある。したがって、ユーザが仮想空間において快適にメニューを操作できる技術が必要とされている。
【０００７】
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、ユーザの仮想空間への没入感が損なわれることを抑制しつつ、快適に操作可能なユーザインターフェイスを提供することである。
【課題を解決するための手段】
【０００８】
ある実施形態において、ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法が提供される。この方法は、仮想空間を定義するステップと、ヘッドマウントデバイスのディスプレイに視界画像を表示してヘッドマウントデバイスのユーザに仮想空間を提供するステップと、ヘッドマウントデバイスの動きを検出するステップと、検出された動きに連動して視界画像を更新するステップと、仮想空間におけるユーザの視座にユーザに対応するアバターオブジェクトを配置するステップと、アバターオブジェクトにユーザからの操作を受け付けるためのユーザインターフェイスを表示するステップとを備える。
【０００９】
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
【図面の簡単な説明】
【００１０】
【図１】ＨＭＤシステムの構成の概略を表す図である。
【図２】ある局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。
【図３】ある実施形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す模式図である。
【図４】ある実施形態に従う仮想空間を表現する一態様を概念的に表す模式図である。
【図５】ある実施形態に従うＨＭＤを装着するユーザの頭部を上から表した模式図である。
【図６】仮想空間において視認領域をＸ方向から見たＹＺ断面を表す図である。
【図７】仮想空間において視認領域をＹ方向から見たＸＺ断面を表す図である。
【図８】ある実施形態に従うコンピュータをモジュール構成として表わすブロック図である。
【図９】サーバのハードウェア構成およびモジュール構成を説明するための図である。
【図１０】ＨＭＤシステムにおける処理を表すフローチャートである。
【図１１】手をトラッキングする処理について説明するための図である。
【図１２】トラッキングモジュールの動作を説明するための図である。
【図１３】トラッキングデータのデータ構造の一例を表す図である。
【図１４】ユーザが視認する視界画像を表す図である。
【図１５】ユーザインターフェイスの表示方法を説明するための図である。
【図１６】ユーザがＵＩを操作しているときの視界画像を表す図である。
【図１７】図１６に対応する現実空間におけるユーザの動作を説明するための図である。
【図１８】アバターオブジェクトにユーザインターフェイスを表示する処理を表すフローチャートである。
【図１９】スクリーンオブジェクトの他の表示態様を表す図である。
【図２０】ＵＩを表示しない処理を説明するための図である。
【図２１】ユーザの視線に基づく操作を説明するための図である。
【図２２】ネットワークにおいて、複数のＨＭＤのそれぞれが、複数のユーザのそれぞれに仮想空間を提供する状況を模式的に表す図である。
【図２３】アウトカメラモード時の他のユーザのスクリーンオブジェクトを表す図である。
【図２４】インカメラモード時の他のユーザのスクリーンオブジェクトを表す図である。
【図２５】スクリーンオブジェクトの表示態様をモードに応じて変更する処理を表すフローチャートである。
【図２６】仮想空間におけるアバターオブジェクトとスクリーンオブジェクトとの配置関係を説明するための図である。
【図２７】図２６の状態においてユーザが視認する視界画像を表す図である。
【図２８】他の局面におけるアバターオブジェクトとスクリーンオブジェクトとの配置関係を説明するための図である。
【図２９】他のスクリーンオブジェクトの表示態様をアバターオブジェクトの位置に応じて変更する処理を表すフローチャートである。
【図３０】ある実施形態に従う撮影画像ＤＢのデータ構造の一例を表す図である。
【発明を実施するための形態】
【００１１】
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施形態は、適宜選択的に組み合わされてもよい。
【００１２】
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head-Mounted  Device）システム１００の構成について説明する。図１は、ＨＭＤシステム１００の構成の概略を表す。ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
【００１３】
ＨＭＤシステム１００は、ＨＭＤ（Head-Mounted  Device）セット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄと、ネットワーク１９とサーバ１５０とを含む。ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄの各々は、ネットワーク１９を介してサーバ１５０と通信可能に構成される。以下、ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄを総称して、ＨＭＤセット１０５とも言う。なお、ＨＭＤシステム１００を構成するＨＭＤセット１０５の数は、４つに限られず、３つ以下でも、５つ以上でもよい。
【００１４】
ＨＭＤセット１０５は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、カメラ１１６と、スピーカ１１８と、マイク１１９と、注視センサ１４０とを含む。他の局面において、ＨＭＤ１１０は、センサ１１４をさらに備える。
【００１５】
ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータ（例えば、他のＨＭＤセット１０５のコンピュータ）と通信可能である。
【００１６】
ＨＭＤ１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間をユーザ１９０に提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザ１９０の各目がそれぞれの画像を視認すると、ユーザ１９０は、両目の視差に基づき当該画像を３次元の画像として認識し得る。ＨＭＤ１１０は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
【００１７】
モニタ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザ１９０の両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザ１９０は、モニタ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施形態において、仮想空間は、例えば、背景、ユーザ１９０が操作可能なオブジェクト、ユーザ１９０が選択可能なメニューの画像を含む。ある実施形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro  Luminescence）モニタとして実現され得る。
【００１８】
他の局面において、モニタ１１２は、透過型の表示装置として実現され得る。この場合、ＨＭＤ１１０は、図１に示されるようにユーザ１９０の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ１１２は、その透過率を調整することにより、一時的に非透過型の表示装置として機能し得る。また、モニタ１１２は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ１１２は、ＨＭＤ１１０に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
【００１９】
ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
【００２０】
カメラ１１６は、対象物の深度情報を取得可能に構成される。一例として、カメラ１１６は、ＴＯＦ（Time  Of  Flight）方式に従い、対象物の深度情報を取得する。他の例として、カメラ１１６は、パターン照射方式に従い、対象物の深度情報を取得する。ある実施形態において、カメラ１１６は、対象物を２つ以上の異なる方向から撮影できるステレオカメラであり得る。また、カメラ１１６は、人間が不可視な赤外線カメラであり得る。カメラ１１６は、ＨＭＤ１１０に装着され、ユーザ１９０の身体の一部を撮影する。以下、一例として、カメラ１１６は、ユーザ１９０の手を撮影する。カメラ１１６は取得したユーザ１９０の手の深度情報をコンピュータ２００に出力する。
【００２１】
スピーカ１１８は、音声信号を音声に変換してユーザ１９０に出力する。マイク１１９は、ユーザ１９０の発話を電気信号である音声信号に変換してコンピュータ２００に出力する。なお、他の局面において、ＨＭＤ１１０は、スピーカ１１８に替えてイヤホンを備えるように構成されてもよい。
【００２２】
ＨＭＤセンサ１２０は、ＨＭＤ１１０の位置および傾きを検出する。この場合、ＨＭＤ１１０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light  Emitting  Diode）により実現される。ＨＭＤセンサ１２０は、各光源が発する光を検出して、ＨＭＤ１１０の位置および姿勢を検出するためのポジショントラッキング機能を有する。
【００２３】
なお、他の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。
【００２４】
さらに他の局面において、コンピュータ２００は、ＨＭＤセンサ１２０の出力に替えてセンサ１１４の出力に基づいてＨＭＤ１１０の傾きを検出するように構成されてもよい。センサ１１４は、例えば、角速度センサ、加速度センサ、ジャイロセンサ、地磁気センサにより、またはこれらのセンサの組み合わせにより実現される。コンピュータ２００は、センサ１１４の出力に基づいて、ＨＭＤ１１０の傾きを検出する。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。コンピュータ２００は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の各々の時間的変化を算出してＨＭＤ１１０の傾きを算出する。
【００２５】
注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線を検知することができる。
【００２６】
サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤに仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
【００２７】
［ハードウェア構成］
図２を参照して、本実施形態に係るコンピュータ２００について説明する。図２は、ある局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェイス１３と、通信インターフェイス１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。
【００２８】
プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processor  Unit）、ＦＰＧＡ（Field-Programmable  Gate  Array）その他のデバイスとして実現される。
【００２９】
メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random  Access  Memory）その他の揮発メモリとして実現される。
【００３０】
ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only  Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されているプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されているデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
【００３１】
なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
【００３２】
ある実施形態において、入出力インターフェイス１３は、ＨＭＤ１１０、およびＨＭＤセンサ１２０との間で信号を通信する。ある局面において、ＨＭＤ１１０に含まれるセンサ１１４、カメラ１１６、スピーカ１１８、およびマイク１１９は、ＨＭＤ１１０の入出力インターフェイス１３を介してコンピュータ２００との通信を行ない得る。ある局面において、入出力インターフェイス１３は、ＵＳＢ（Universal  Serial  Bus）、ＤＶＩ（Digital  Visual  Interface）、ＨＤＭＩ（登録商標）（High-Definition  Multimedia  Interface）その他の端子を用いて実現される。なお、入出力インターフェイス１３は上述のものに限られない。
【００３３】
通信インターフェイス１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェイス１４は、例えば、ＬＡＮ（Local  Area  Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless  Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス１４は上述のものに限られない。
【００３４】
ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェイス１３を介して、仮想空間を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。
【００３５】
なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。
【００３６】
また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
【００３７】
ある実施形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
【００３８】
ある局面において、センサ１１４は、３軸角速度センサと、３軸加速度センサとの組み合わせにより構成される。コンピュータ２００は、これらのセンサの出力に基づいて、ＨＭＤ１１０の基準方向（例えば、重力（鉛直）方向）に対する角度を算出する。これにより、コンピュータ２００は、グローバル座標系におけるＨＭＤ１１０の傾きを取得できる。
【００３９】
他の局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各光源の位置（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。
【００４０】
ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定し得る。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定し得る。
【００４１】
グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。コンピュータ２００は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。
【００４２】
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す模式図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。
【００４３】
図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザ１９０の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）として設定する。
【００４４】
ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）に一致する。
【００４５】
ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ軸周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー軸周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール軸周りのＨＭＤ１１０の傾き角度を表す。
【００４６】
コンピュータ２００は、ＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。
【００４７】
［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施形態に従う仮想空間２を表現する一態様を概念的に表す模式図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、パノラマ画像２２を構成する各部分画像を対応する各メッシュに展開する。これにより、ユーザ１９０は仮想空間２を視認する。
【００４８】
ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。
【００４９】
ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。ある局面において、プロセッサ１０は、仮想カメラ１が撮影する画像をＨＭＤ１１０のモニタ１１２に表示する。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現され得る。
【００５０】
仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において移動することもできる。
【００５１】
コンピュータ２００のプロセッサ１０は、仮想カメラ１の位置と、仮想カメラ１の傾き方向、換言すれば、仮想カメラ１の撮影方向を示す基準視線５とに基づいて、仮想空間２における視認領域２３を規定する。視認領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザ１９０が視認する領域に対応する。上記のように、仮想カメラ１のｕｖｗ視野座標系はＨＭＤ１１０のｕｖｗ視野座標系に連動している。そのため、基準視線５は、ＨＭＤ１１０の傾きによって定まる。
【００５２】
注視センサ１４０によって検出されるユーザ１９０の視線は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線を、仮想カメラ１のｕｖｗ視野座標系におけるユーザ１９０の視線とみなすことができる。
【００５３】
［ユーザの視線］
図５を参照して、ユーザ１９０の視線の決定について説明する。図５は、ある実施形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した模式図である。
【００５４】
ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール軸ｗに対して視線Ｒ２およびＬ２が成す角度は、ロール軸ｗに対して視線Ｒ１およびＬ１が成す角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
【００５５】
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線Ｎ０として検出する。視線Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線Ｎ０は、視認領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。
【００５６】
また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。
【００５７】
さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
【００５８】
［視界領域］
図６および図７を参照して、視認領域２３について説明する。図６は、仮想空間２において視認領域２３をＸ方向から見たＹＺ断面を表す。図７は、仮想空間２において視認領域２３をＹ方向から見たＸＺ断面を表す。
【００５９】
図６に示されるように、ＹＺ断面における視認領域２３は、領域２４を含む。領域２４は、仮想カメラ１の配置位置と基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。
【００６０】
図７に示されるように、ＸＺ断面における視認領域２３は、領域２５を含む。領域２５は、仮想カメラ１の配置位置と基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。極角αおよびβは、仮想カメラ１の配置位置と仮想カメラ１の向きとに応じて定まる。
【００６１】
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像２６をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間における視界を提供する。視界画像２６は、パノラマ画像２２のうち視認領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視認領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像２６は、パノラマ画像２２のうち、仮想空間２においてユーザ１９０が向いた方向の視認領域２３に重畳する画像に更新される。ユーザ１９０は、仮想空間２における所望の方向を視認することができる。
【００６２】
このように、仮想カメラ１の向き（傾き）は仮想空間２におけるユーザ１９０の視線（基準視線５）に相当し、仮想カメラ１が配置される位置は、仮想空間２におけるユーザ１９０の視点に相当する。したがって、仮想カメラ１を移動（配置位置を変える動作、向きを変える動作を含む）させることにより、モニタ１１２に表示される画像が更新され、ユーザ１９０の視界が移動される。
【００６３】
ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開されるパノラマ画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザ１９０に与えることができる。
【００６４】
ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動させ得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視認領域２３）を特定する。
【００６５】
ある実施形態に従うと、仮想カメラ１は、２つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、２つの仮想カメラに設定される。本実施形態においては、仮想カメラ１が２つの仮想カメラを含み、２つの仮想カメラのロール軸が合成されることによって生成されるロール軸（ｗ）がＨＭＤ１１０のロール軸（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
【００６６】
［ＨＭＤの制御装置］
図８を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図８は、ある実施形態に従うコンピュータ２００をモジュール構成として表わすブロック図である。
【００６７】
図８に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４と、動き検出モジュール２２５と、トラッキングモジュール２２６とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、操作オブジェクト制御モジュール２３３と、アバター制御モジュール２３４と、撮影モジュール２３５とを含む。
【００６８】
ある実施形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェイス１４によって実現される。
【００６９】
ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。
【００７０】
仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置する。また、仮想カメラ制御モジュール２２１は、仮想空間２における仮想カメラ１の位置と、仮想カメラ１の傾き（撮影方向）を制御する。視界領域決定モジュール２２２は、仮想カメラ１の位置と傾きとに応じて、視認領域２３を規定する。視界画像生成モジュール２２３は、決定された視認領域２３に基づいて、モニタ１１２に表示される視界画像２６を生成する。つまり、仮想カメラ１の位置は、仮想空間２におけるユーザ１９０の視座に対応する。
【００７１】
基準視線特定モジュール２２４は、センサ１１４またはＨＭＤセンサ１２０の出力に基づいて、ＨＭＤ１１０の傾き（ユーザ１９０の頭が向いている方向）を特定する。他の局面において、基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定し得る。
【００７２】
動き検出モジュール２２５は、ＨＭＤセンサ１２０の出力に基づいて、ＨＭＤ１１０の基準状態（例えば、仮想空間２を定義したときの状態（初期状態））に対する変位量を算出し得る。仮想カメラ制御モジュール２２１は、算出された変位量に基づいて、仮想カメラ１の位置および傾きを制御し得る。
【００７３】
トラッキングモジュール２２６は、ユーザ１９０の身体の一部の位置を検出（トラッキング）する。ある実施形態において、トラッキングモジュール２２６は、カメラ１１６から入力される深度情報に基づいて、ＨＭＤ１１０に設定されるｕｖｗ視野座標系におけるユーザ１９０の手の位置を検出する。トラッキングモジュール２２６の動作は後述される。
【００７４】
仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表わす仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。
【００７５】
仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
【００７６】
操作オブジェクト制御モジュール２３３は、仮想空間２においてユーザ１９０の操作を受け付けるための操作オブジェクトを仮想空間２に配置する。ユーザ１９０は、操作オブジェクトを操作することにより、例えば、仮想空間２に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ１１０を装着したユーザ１９０の手に相当する手オブジェクトを含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。他の局面において、操作オブジェクトは、アバターオブジェクトによって保持されるオブジェクト（例えば、ステッキ）を含む。
【００７７】
アバター制御モジュール２３４は、ネットワークを介して接続される他のコンピュータ２００のユーザに対応するアバターオブジェクトを仮想空間２に配置するためのデータを生成する。ある局面において、アバター制御モジュール２３４は、ユーザ１９０に対応するアバターオブジェクトを仮想空間２に配置するためのデータを生成する。ある局面において、アバター制御モジュール２３４は、ユーザ１９０の画像に基づいて、ユーザ１９０を模したアバターオブジェクトを生成する。他の局面において、アバター制御モジュール２３４は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ１９０による選択を受け付けたアバターオブジェクトを仮想空間２に配置するためのデータを生成する。
【００７８】
アバター制御モジュール２３４は、ＨＭＤセンサ１２０（またはセンサ１１４）の出力に基づいて、ＨＭＤ１１０の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール２３４は、ＨＭＤ１１０の位置が動いたことを検知して、アバターオブジェクトを移動するためのデータを生成する。また、アバター制御モジュール２３４は、トラッキングモジュール２２６の出力に基づいて、現実空間のユーザ１９０の手の動きを、アバターオブジェクトの手に反映する。また、アバター制御モジュール２３４は、他のコンピュータ２００から入力されるデータに基づいて、他のコンピュータのユーザに対応するアバターオブジェクトの動きを制御する。
【００７９】
撮影モジュール２３５は、仮想空間２を撮影する。より具体的には、撮影モジュール２３５は、仮想空間２に撮影機能を有するオブジェクトを配置し、当該オブジェクトにより撮影を行なう。撮影により生成された画像は、ストレージ１２に保存される。
【００８０】
仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、操作オブジェクト制御モジュール２３３は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
【００８１】
メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３と、撮影画像ＤＢ２４４とを保持している。
【００８２】
空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。
【００８３】
オブジェクト情報２４２は、複数種類のパノラマ画像２２、仮想空間２に配置されるオブジェクトを構成するためのモデリングデータ、およびオブジェクトの位置情報を保持している。パノラマ画像２２は、非現実空間の画像と現実空間の画像とを含み得る。
【００８４】
オブジェクト情報２４２はさらに、動き検知データとトラッキングデータを記憶し得る。動き検知データは、ＨＭＤ１１０の位置および傾きを表すデータ（ＨＭＤセンサ１２０の出力）である。トラッキングデータは、カメラ１１６およびトラッキングモジュール２２６により取得された、ユーザ１９０の手の位置を示すデータである。これらの情報はＨＭＤセンサ１２０の出力周期またはカメラ１１６の撮影周期で随時更新され得る。
【００８５】
ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。ユーザ情報２４３は、ユーザ１９０を識別するためのユーザＩＤ（例えば、コンピュータ２００に設定されるＩＰアドレス、ＭＡＣアドレス）などを含み得る。
【００８６】
撮影画像ＤＢ２４４は、撮影モジュール２３５によって生成された画像（撮影画像）を管理する。
【００８７】
メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ１１０のユーザ１９０によって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。
【００８８】
通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。
【００８９】
ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０の一部は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
【００９０】
コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。
【００９１】
［サーバ１５０の構造］
図９は、サーバ１５０のハードウェア構成およびモジュール構成を説明するための図である。ある実施形態において、サーバ１５０は、主たる構成要素として通信インターフェイス９１０と、プロセッサ９２０と、ストレージ９３０とを備える。
【００９２】
通信インターフェイス９１０は、コンピュータ２００など外部の通信機器と信号を送受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通信インターフェイス９１０は、チューナ、高周波回路等により実現される。
【００９３】
プロセッサ９２０は、サーバ１５０の動作を制御する。プロセッサ９２０は、ストレージ９３０に格納されている各種の制御プログラムを実行することにより、送受信部９２２、サーバ処理部９２４、およびマッチング部９２６として機能する。
【００９４】
送受信部９２２は、各コンピュータ２００との間で各種情報を送受信する。例えば、送受信部９２２は、仮想空間２にオブジェクトを配置する要求、オブジェクトを仮想空間２から削除する要求、オブジェクトを移動する要求、ユーザの音声などを各コンピュータ２００に送信する。
【００９５】
サーバ処理部９２４は、複数のユーザが仮想空間２を共有するために必要な処理を行なう。例えば、サーバ処理部９２４は、コンピュータ２００から受信した情報に基づいて、後述する位置情報９３６を更新する。
【００９６】
マッチング部９２６は、複数のユーザを関連付けるための一連の処理を行なう。マッチング部９２６は、例えば、複数のユーザが同じ仮想空間２を共有するための入力操作を行った場合に、これらのユーザのユーザＩＤを互いに関連付ける処理などを行なう。
【００９７】
ストレージ９３０は、仮想空間指定情報９３２と、オブジェクト指定情報９３４と、アバターオブジェクト情報９３５と、ユーザ情報９３８と、撮影画像ＤＢ９３９とを保持する。
【００９８】
仮想空間指定情報９３２は、コンピュータ２００の仮想空間定義モジュール２３１が仮想空間２を定義するために用いられる情報である。ある局面において、仮想空間指定情報９３２は、コンピュータ２００が空間情報２４１として保持する１つ以上のテンプレートの識別情報を含み得る。他の局面において、仮想空間指定情報９３２は、仮想空間２の大きさを指定する情報や、仮想空間２を構成する各メッシュに展開されるパノラマ画像２２を含み得る。
【００９９】
オブジェクト指定情報９３４は、コンピュータ２００の仮想オブジェクト生成モジュール２３２が仮想空間２に配置（生成）するオブジェクトを指定するための情報である。他の局面において、オブジェクト指定情報９３４は、仮想オブジェクト生成モジュール２３２がオブジェクトを生成するためのモデリングデータなどを含み得る。
【０１００】
アバターオブジェクト情報９３５は、位置情報９３６と傾き情報９３７とを含む。位置情報９３６は、仮想空間２における各アバターオブジェクトの位置（座標）を表す。傾き情報９３７は、仮想空間２における各アバターオブジェクトの頭部の傾きを表す。アバターオブジェクトの頭部の傾きは、仮想カメラ１の傾き（基準視線５）である。アバターオブジェクト情報９３５は、コンピュータ２００から入力される情報に基づいて随時更新され得る。
【０１０１】
ユーザ情報９３８は、コンピュータ２００のユーザ１９０についての情報である。ユーザ情報９３８は、例えば、複数のユーザ１９０を互いに識別するユーザＩＤを含む。撮影画像ＤＢ９３９は、各コンピュータ２００の撮影画像ＤＢ２４４に保持される情報を含む。
【０１０２】
［コンピュータ２００の制御構造］
図１０を参照して、コンピュータ２００における視界画像の更新方法について説明する。図１０は、ＨＭＤシステム１００における処理を表すフローチャートである。
【０１０３】
ステップＳ１０１０において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２を定義する。例えば、仮想空間定義モジュール２３１は、サーバ１５０から受信した仮想空間指定情報９３２に基づいて、空間情報２４１を参照して仮想空間２を定義する。
【０１０４】
ステップＳ１０２０において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を仮想空間２に配置する。このとき、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心２１に配置し得る。
【０１０５】
ステップＳ１０３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像２６を表示するための視界画像データを生成する。プロセッサ１０は、生成した視界画像データをＨＭＤ１１０に出力する。
【０１０６】
ステップＳ１０３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から入力された信号に基づいて、視界画像２６を表示する。これにより、ＨＭＤ１１０を装着したユーザ１９０は、仮想空間２を認識する。
【０１０７】
ステップＳ１０３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０の位置および傾きを検知する。ＨＭＤセンサ１２０は、検知結果を動き検知データとして、コンピュータ２００に出力する。
【０１０８】
ステップＳ１０４０にて、プロセッサ１０は、ＨＭＤセンサ１２０から入力された動き検知データに基づいて、ＨＭＤ１１０の位置および傾きを検知する。プロセッサ１０は、入力された動き検知データをオブジェクト情報２４２に記憶し得る。プロセッサ１０はさらに、仮想カメラ制御モジュール２２１として、検知した位置および傾きに連動するように仮想空間２における仮想カメラ１の位置および傾きを変更する。視界領域決定モジュール２２２は、変更後の仮想カメラ１の位置および傾きに応じて視認領域２３を規定する。これにより、仮想カメラ１が撮影する視界画像２６が更新される。
【０１０９】
ステップＳ１０５０において、プロセッサ１０は、視界画像生成モジュール２２３として、傾きを変更された仮想カメラ１が撮影する視界画像２６を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ１１０に出力する。
【０１１０】
ステップＳ１０５２において、ＨＭＤ１１０のモニタ１１２は、受信した視界画像データに基づいて、更新後の視界画像を表示する。これにより、仮想空間２におけるユーザ１９０の視界が更新される。
【０１１１】
［手のトラッキング］
以下、図１１〜図１４を参照して、手の動きをトラッキングする処理について説明する。図１１は、手をトラッキングする処理について説明するための図である。
【０１１２】
以下、ＨＭＤセット１０５Ａのユーザをユーザ１９０Ａと表す。また、ＨＭＤセット１０５Ａに関する各構成要素の参照符号にＡが付される。例えば、ＨＭＤ１１０Ａは、ＨＭＤセット１０５Ａに含まれる。
【０１１３】
図１１を参照して、ユーザ１９０Ａは、現実空間においてＨＭＤ１１０Ａを装着している。ＨＭＤ１１０Ａには、カメラ１１６Ａが搭載されている。カメラ１１６Ａは、ＨＭＤ１１０Ａの前方の空間１１００に含まれる物体の深度情報を取得する。図１１に示される例において、カメラ１１６Ａは、空間１１００に含まれるユーザ１９０Ａの手の深度情報を取得する。
【０１１４】
トラッキングモジュール２２６Ａは、この深度情報に基づき、手の位置情報（以下、「トラッキングデータ」とも称する）を生成する。カメラ１１６ＡはＨＭＤ１１０Ａに搭載される。そのため、トラッキングデータはＨＭＤ１１０Ａに設定されるｕｖｗ視野座標系における位置を示す。
【０１１５】
図１２は、トラッキングモジュール２２６Ａの動作を説明するための図である。ある局面において、トラッキングモジュール２２６Ａは、カメラ１１６Ａから入力される深度情報に基づいて、ユーザ１９０Ａの手の骨の動きをトラッキングする。図１２に示される例において、トラッキングモジュール２２６Ａは、ユーザ１９０Ａの手の関節ａ、ｂ、ｃ・・・、ｘの各位置と、腕を構成する骨の特徴点ｙの位置とをそれぞれ検知する。一例として、特徴点ｙは、手に近い側の橈骨の先端であり得る。他の例として、特徴点ｙは、肘であり得る。
【０１１６】
トラッキングモジュール２２６Ａは、関節ａ〜ｘの位置関係に基づいて、ユーザ１９０Ａの手の形状（指の動き）を認識可能に構成される。トラッキングモジュール２２６は、例えば、ユーザ１９０Ａの手が指を指していること、手が開いていること、手が閉じていること、手が何かをつまむ動作をしていること、手がひねられていること、手が握手の形状をしていることなどを認識できる。トラッキングモジュール２２６Ａはさらに、関節ａ〜ｄと、その他の関節との位置関係により、認識している手が左手であるか右手であるかを判断できる。トラッキングモジュール２２６Ａはさらに、関節ｊから特徴点ｙに伸びる直線方向を特定することにより、ユーザ１９０Ａの腕が伸びる方向を正確にトラッキングし得る。このようなカメラ１１６Ａおよびトラッキングモジュール２２６Ａは、例えば、ＬｅａｐＭｏｔｉｏｎ社によって提供されるＬｅａｐＭｏｔｉｏｎ（登録商標）によって実現され得る。
【０１１７】
図１３は、トラッキングデータのデータ構造の一例を表す。トラッキングモジュール２２６Ａは、関節ａ〜ｘおよび特徴点ｙそれぞれについてのトラッキングデータを取得する。これらトラッキングデータは、ＨＭＤ１１０Ａに設定されるｕｖｗ視野座標系における位置情報を表す。コンピュータ２００Ａは、取得したトラッキングデータをオブジェクト情報２４２に保存する。
【０１１８】
図１４は、ユーザ１９０Ａが視認する視界画像１４００を表す。視界画像１４００は、仮想空間２Ａの一部に対応する。仮想空間２Ａには、ユーザ１９０Ａに対応するアバターオブジェクトが配置されている。ユーザ１９０Ａの視界画像を撮影する仮想カメラ１Ａは、このアバターオブジェクトの位置（例えば、目の位置）に配置される。換言すれば、仮想空間２Ａにおけるユーザ１９０Ａの視座（仮想カメラ１Ａの位置）に、アバターオブジェクトが配置される。これにより、仮想カメラ１Ａとアバターオブジェクトとは原則として同じ位置に配置される。そのため、カメラ１１６Ａがユーザ１９０Ａの手と腕を撮影する場合、図１４に示される視界画像１４００は、アバターオブジェクトの手と腕とを含む。より具体的には、視界画像１４００は、右手１４１０と、右腕１４２０と、左手１４３０と、左腕１４４０とを含む。
【０１１９】
トラッキングモジュール２２６Ａは、ユーザ１９０Ａの現実空間の手および腕の動きを表すトラッキングデータを所定間隔（例えば、１秒間に６０回）で生成している。アバター制御モジュール２３４Ａは、このトラッキングデータに基づいてアバターオブジェクトの手および腕を動かす。そのため、例えば、ユーザ１９０Ａが現実空間で右手および右腕を鉛直方向に動かすと、仮想空間２Ａに配置される右手１４１０および右腕１４２０も鉛直方向（Ｙ方向）に動く。
【０１２０】
［ＵＩの表示］
図１５は、ユーザインターフェイスの表示方法を説明するための図である。図１５に示される視界画像１５００は、仮想空間２Ａの一部に対応する。視界画像１５００は、スクリーンオブジェクト１５１０と、ＵＩ（ユーザインターフェイス）１５２０とをさらに含む点において、図１４に示される視界画像１４００と相違する。
【０１２１】
スクリーンオブジェクト１５１０は、撮影モジュール２３５Ａによって仮想空間２Ａに配置される。スクリーンオブジェクト１５１０は、一例として、矩形のオブジェクトであって、おもて面と裏面とを有する。スクリーンオブジェクト１５１０は、撮影機能を有し、おもて面がプレビュー画面として機能する。ある局面において、おもて面の法線方向がスクリーンオブジェクト１５１０の撮影方向として設定される。他の局面において、スクリーンオブジェクト１５１０は、両面にプレビュー画面を表示されるように構成されてもよい。
【０１２２】
なお、スクリーンオブジェクト１５１０は、撮影機能とプレビュー画面とを有していればよく、図１５に示される形状でなくともよい。例えば、スクリーンオブジェクト１５１０は、カメラの形状（レンズ、シャッターボタン、等を含む形状）、携帯情報処理端末（スマートフォン、タブレット）の形状であってもよい。
【０１２３】
撮影モジュール２３５Ａは、スクリーンオブジェクト１５１０をインカメラモードまたはアウトカメラモードに設定する。インカメラモードのスクリーンオブジェクト１５１０は、自身のおもて面方向を撮影する。一方、アウトカメラモードのスクリーンオブジェクト１５１０は、自身の裏面方向を撮影する。
【０１２４】
図１５に示される例において、スクリーンオブジェクト１５１０はインカメラモードに設定されており、ユーザ１９０Ａに対応するアバターオブジェクト１０００Ａがプレビュー画面に表示されている。なお、図１５に示される例においてアバターオブジェクトは、身体の全体を含むが、他の局面において、アバターオブジェクトは身体の一部のみにより構成されてもよい。例えば、プロセッサ１０Ａは、アバターオブジェクトとして腕オブジェクト（操作オブジェクトとしても機能する）を仮想空間２Ａに配置するように構成されても良い。
【０１２５】
ある局面において、ＵＩ１５２０は、スクリーンオブジェクト１５１０による撮影に関する。ユーザ１９０Ａは、スクリーンオブジェクト１５１０による撮影をＵＩ１５２０によって操作する。例えば、ユーザ１９０Ａは、ＵＩ１５２０を操作することにより、スクリーンオブジェクト１５１０の移動、ズーム倍率、フィルタ（例えば、偏光フィルタ、ＮＤフィルタ）、撮影タイミング、撮影モード（静止画撮影／動画撮影）などの設定を行なう。
【０１２６】
ユーザ１９０Ａは、アバターオブジェクト１０００Ａの右手１４１０または左手１４３０を操作オブジェクトとしてＵＩ１５２０を操作する。
【０１２７】
ある局面において、仮想空間制御モジュール２３０Ａは、アバターオブジェクト１０００Ａの右腕１４２０または左腕１４４０のいずれか一方の腕にＵＩ１５２０を表示する。一例として、ユーザ１９０Ａは、予め自身の利き手をコンピュータ２００Ａに登録しておく。仮想空間制御モジュール２３０Ａは、利き手ではない側の腕にＵＩ１５２０を表示する。これにより、ユーザ１９０Ａは、利き手に対応する操作オブジェクトを操作してＵＩ１５２０を快適に操作できる。
【０１２８】
他の局面において、カメラ１１６Ａのセンシング範囲（図１１の空間１１００）にユーザ１９０Ａの両腕の一方しか存在しない場合もあり得る。係る場合、仮想空間制御モジュール２３０Ａは、この一方の腕に対応するアバターオブジェクト１０００Ａの腕にＵＩ１５２０を表示する。ユーザ１９０Ａは、ＵＩ１５２０を見て、ＵＩ１５２０を操作するために他方の腕をカメラ１１６Ａのセンシング範囲に移動させる。
【０１２９】
ところで、図２１で後述されるＵＩ２１１０のようにユーザインターフェイスが仮想空間２Ａのいずれかに配置されることも考えられる。しかし仮想カメラ１がＵＩ２１１０から離れている場合、ユーザ１９０Ａは、ＵＩ２１１０をはっきりと視認できない場合がある。また、ユーザ１９０Ａは、仮想カメラ１をＵＩ２１１０に近づけた上でこれを操作する必要がある。これらの理由により、ユーザ１９０Ａは、ＵＩ２１１０を快適に操作できない場合がある。
【０１３０】
ある実施形態に従うＵＩ１５２０はこれらの課題を解決し得る。アバターオブジェクト１０００Ａは、仮想カメラ１Ａ（仮想空間２Ａにおけるユーザ１９０Ａの視座）に配置される。したがって、ユーザ１９０Ａは、仮想カメラ１Ａが仮想空間２Ａのどこに配置された場合であっても、腕を見る（カメラ１１６Ａで腕をセンシングする）だけで容易にＵＩ１５２０を視認して操作できる。そのため、ユーザ１９０Ａは、ＵＩ１５２０を快適に操作できる。
【０１３１】
加えて、ＵＩ１５２０は、モニタ１１２Ａに定常的に表示されるものでなく、ユーザ１９０Ａの所望のタイミング（カメラ１１６でユーザ１９０Ａの腕を撮影したタイミング）で表示される。そのため、コンピュータ２００Ａは、ＵＩ１５２０により仮想空間２Ａにおけるユーザ１９０Ａの視界が塞がれることを抑制し得る。
【０１３２】
［触感によるフィードバック］
次に、図１６および図１７を用いて、ユーザ１９０Ａが、ＵＩ１５２０を操作したことのフィードバックを触感として得られることを説明する。
【０１３３】
図１６は、ユーザ１９０ＡがＵＩ１５２０を操作しているときの視界画像１６００を表す。図１７は、図１６に対応する現実空間におけるユーザ１９０Ａの動作を説明するための図である。
【０１３４】
図１６を参照して、アバターオブジェクト１０００Ａの右手１４１０が左腕１４４０に表示されるＵＩ１５２０を操作している。図１１〜図１４で説明したように、仮想空間２Ａにおけるアバターオブジェクト１０００Ａの手および腕の動作は、現実空間における１９０Ａの手および腕の動作を反映したものである。そのため、図１７に示されるように、ユーザ１９０Ａは、図１６の操作を行なっているときに、右手１０１０で左腕１０４０を触っている。
【０１３５】
つまり、ユーザ１９０Ａは、ＵＩ１５２０を操作したことのフィードバックを右手１０１０および左腕１０４０の触感により得ることができる。これにより、ユーザ１９０Ａは、ＵＩ１５２０が確実に操作されたことを把握できる。
【０１３６】
上記処理の対比として図２１に示されるＵＩ２１１０について説明する。ＵＩ２１１０は、仮想空間２Ａの中空に配置されている。ユーザ１９０Ａは、ＵＩ２１１０を操作するにあたり、右手１０１０または左手１０３０を中空で動かす。そのため、ユーザ１９０Ａは、ＵＩ２１１０を操作したときに、触感のフィードバックを得ることができない。係る場合、ユーザ１９０Ａは、コンピュータ２００Ａに自分の操作が入力されたことの確証を持てず、不安を覚え得る。実施形態に従うコンピュータ２００Ａは、アバターオブジェクト１０００Ａの腕にＵＩ１５２０を表示することにより、このような事態を防ぎ得る。
【０１３７】
なお、コンピュータ２００Ａは、ＵＩ１５２０が操作されたときに、ＵＩ１５２０の色を一時的に変更したり、スピーカ１１８Ａから報知音を出力してもよい。これにより、ユーザ１９０Ａは、ＵＩ１５２０を操作したときに、視覚または聴覚によるフィードバックを得ることができる。
【０１３８】
なお、上記の例において、ＵＩ１５２０は、アバターオブジェクト１０００Ａの腕に表示されるが、アバターオブジェクト１０００Ａの身体の一部に表示されればよい。例えば、ＵＩ１５２０は、アバターオブジェクトの手の平、手の甲、または足に表示され得る。
【０１３９】
［ユーザインターフェイスを表示する処理］
図１８は、アバターオブジェクトにユーザインターフェイスを表示する処理を表すフローチャートである。図１８に示される処理は、プロセッサ１０Ａがストレージ１２に格納される制御プログラムを実行することにより実現される。
【０１４０】
ステップＳ１８１０において、プロセッサ１０Ａは、仮想空間２Ａを定義する。ステップＳ１８１５において、プロセッサ１０Ａは、ユーザ１９０Ａに対応するアバターオブジェクト１０００Ａを仮想空間２Ａに配置する。より具体的には、プロセッサ１０Ａは、ユーザ１９０Ａの仮想空間２Ａにおける視座（仮想カメラ１Ａの位置）に、アバターオブジェクト１０００Ａを配置する。アバターオブジェクト１０００Ａの手は、操作オブジェクトとして機能する。
【０１４１】
ステップＳ１８２０において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０を仮想空間２Ａに配置する。ある局面において、プロセッサ１０Ａは、ユーザ１９０Ａの操作に応じて、スクリーンオブジェクト１５１０を仮想空間２Ａに配置する処理、および仮想空間２Ａから削除する処理を実行する。
【０１４２】
ステップＳ１８２５において、プロセッサ１０Ａは、トラッキングモジュール２２６Ａとして、カメラ１１６Ａの出力に基づいてユーザ１９０Ａの手および腕の動作を検出する。
【０１４３】
ステップＳ１８３０において、プロセッサ１０Ａは、当該検出結果に基づいて、アバターオブジェクト１０００Ａの手および腕を動かす。これにより、アバターオブジェクト１０００Ａの手および腕が、現実空間におけるユーザ１９０Ａの手および腕に連動する。
【０１４４】
ステップＳ１８３５において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａの手がスクリーンオブジェクト１５１０を保持したか否かを判断する。ある局面において、プロセッサ１０Ａは、右手１４１０または左手１４３０がスクリーンオブジェクト１５１０に接触した場合に、接触した手が当該オブジェクトを保持したと判断する。他の局面において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０に接触した手が閉じた形状になったことに応じて、この手が当該オブジェクトを保持したと判断する。
【０１４５】
プロセッサ１０Ａは、手がスクリーンオブジェクト１５１０を保持したと判断した場合（ステップＳ１８３５でＹＥＳ）、処理をステップＳ１８４０に進める。そうでない場合（ステップＳ１８３５でＮＯ）、プロセッサ１０Ａは処理をステップＳ１８３５に戻す。
【０１４６】
ステップＳ１８４０において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａの腕にＵＩ１５２０を表示する。一例として、プロセッサ１０Ａは、スクリーンオブジェクト１５１０を保持している側の腕にＵＩ１５２０を表示する。
【０１４７】
ステップＳ１８４２において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０を、保持された手に連動させる。ユーザ１９０Ａは、このステップにおいて、カメラとして機能するスクリーンオブジェクト１５１０を仮想空間２Ａの任意の位置および傾きに設定する。これにより、ユーザ１９０Ａは、撮影の構図を決定する。
【０１４８】
ステップＳ１８４３において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａの手がＵＩ１５２０に接触したか否かを判断する。より具体的には、プロセッサ１０Ａは、手がＵＩ１５２０に含まれる撮影ボタンに接触したか否かを判断する。
【０１４９】
プロセッサ１０Ａは、手がＵＩ１５２０に接触したと判断した場合（ステップＳ１８４３でＹＥＳ）、処理をステップＳ１８６０に進める。そうでない場合（ステップＳ１８４３でＮＯ）、プロセッサ１０Ａは処理をステップＳ１８４５に進める。
【０１５０】
ステップＳ１８４５において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０の保持状態が解除されたか否かを判断する。ある局面において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０に接触している手が開いた形状になったことに応じて、スクリーンオブジェクト１５１０の保持状態が解除されたと判断する。他の局面において、プロセッサ１０Ａは、ＵＩ１５２０に含まれる解除ボタンにアバターオブジェクト１０００Ａの手が接触したことに応じて、スクリーンオブジェクト１５１０の保持状態が解除されたと判断する。
【０１５１】
プロセッサ１０Ａは、スクリーンオブジェクト１５１０の保持状態が解除されたと判断した場合（ステップＳ１８４５でＹＥＳ）、処理をステップＳ１８５０に進める。そうでない場合（ステップＳ１８４５でＮＯ）、プロセッサ１０Ａは処理をステップＳ１８４２に戻す。
【０１５２】
なお、他の局面において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０の保持状態が解除されたことに応じて、腕に表示されているＵＩ１５２０を削除した上で、処理をＳ１８３５に戻してもよい。当該構成によれば、ユーザ１９０Ａは、スクリーンオブジェクト１５１０を仮想空間２Ａ上で保持している間だけ、ＵＩ１５２０を視認できる。
【０１５３】
ステップＳ１８５０において、プロセッサ１０Ａは、保持状態を解除された位置にスクリーンオブジェクト１５１０を固定する。仮に、仮想空間２Ａの中空でスクリーンオブジェクト１５１０の保持状態が解除された場合、スクリーンオブジェクト１５１０は重力の影響を受けることなく中空で固定される。当該構成によれば、コンピュータ２００Ａは、撮影の構図の自由度を高めることができる。また、アバターオブジェクト１０００Ａがスクリーンオブジェクト１５１０を保持していないため、ユーザ１９０Ａは所望の姿勢をとることができる。
【０１５４】
コンピュータ２００Ａは、ステップＳ１８４２，Ｓ１８４５，Ｓ１８５０の処理を実行することにより、ユーザ１９０Ａが指定する位置にスクリーンオブジェクト１５１０を配置する。
【０１５５】
ステップＳ１８５５において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａの手がＵＩ１５２０に接触したか否かを判断する。より具体的には、プロセッサ１０Ａは、手がＵＩ１５２０のうちの撮影ボタンに接触したか否かを判断する。
【０１５６】
プロセッサ１０Ａは、手がＵＩ１５２０に接触したと判断した場合（ステップＳ１８５５でＹＥＳ）、処理をステップＳ１８６０に進める。そうでない場合（ステップＳ１８５５でＮＯ）、プロセッサ１０Ａは処理をステップＳ１８５５に戻す。
【０１５７】
ステップＳ１８６０において、プロセッサ１０Ａは、手がＵＩ１５２０（の撮影ボタン）に接触してから所定時間（例えば、３秒間）経過後に、スクリーンオブジェクト１５１０による撮影を実行する。プロセッサ１０Ａはさらに、撮影により生成された画像をストレージ１２Ａに保存する。
【０１５８】
プロセッサ１０Ａは、撮影モジュール２３５Ａによって生成された撮影画像を撮影画像ＤＢ２４４Ａに保存する。その際、プロセッサ１０Ａは、撮影画像と所定情報とを関連付けて保存する。所定情報は、撮影時に仮想空間２Ａに展開されているパノラマ画像２２を識別するパノラマ画像ＩＤ、スクリーンオブジェクト１５１０の撮影方向と仮想空間２Ａの天球とが交わる撮影画像位置を含む。
【０１５９】
また、パノラマ画像２２が動画像である場合、所定情報は、パノラマ画像２２の再生中に撮影がなされた撮影タイミングを含む。ある局面において、プロセッサ１０Ａは、撮影画像ＤＢ２４４に保存する情報をユーザ１９０ＡのユーザＩＤとともにサーバ１５０に送信する。サーバ１５０は、受信した情報を撮影画像ＤＢ９３９に保存する。
【０１６０】
［ユーザが静止していることに応じて撮影］
上記の例において、プロセッサ１０Ａは、ＵＩ１５２０（の撮影ボタン）とアバターオブジェクト１０００Ａの手とが接触したことに応じて撮影するが（ステップＳ１８４３，Ｓ１８５５）、撮影のトリガはこれに限られない。例えば、プロセッサ１０Ａは、ユーザ１９０Ａの動きが所定時間にわたり止まっていることを検知した場合に、撮影するように構成される。
【０１６１】
ある局面において、プロセッサ１０Ａは、ユーザ１９０Ａの手および／または頭の動きが止まっている場合に、ユーザ１９０Ａの動きが止まっていると判断する。プロセッサ１０Ａは、トラッキングデータの単位時間当たりの変位量が予め定められた変位量未満であるときにユーザ１９０Ａの手が止まっていると判断する。また、プロセッサ１０Ａは、ＨＭＤ１１０Ａ（に設けられた複数光源のうち１つの光源の位置）の単位時間当たりの変位量が予め定められた変位量未満であるときにユーザ１９０Ａの頭が止まっていると判断する。
【０１６２】
上記によれば、ユーザ１９０Ａは、わざわざＵＩ１５２０を操作せずとも、所望の姿勢で撮影を行なうことができる。
【０１６３】
［自撮り棒］
図１９は、スクリーンオブジェクト１５１０の他の表示態様を表す。図１９に示される視界画像１９００は、仮想空間２Ａの一部に対応する。ある局面において、プロセッサ１０Ａは、スクリーンオブジェクト１５１０とともに当該オブジェクトを支持する支持部材１９１０を仮想空間２Ａに配置する。
【０１６４】
スクリーンオブジェクト１５１０が単体で仮想空間２Ａに配置される場合、ユーザ１９０Ａは、一見して当該オブジェクトがカメラとして機能することを理解できない可能性がある。そこで、ある実施形態に従うコンピュータ２００Ａは、スクリーンオブジェクト１５１０を支持部材１９１０とともに配置（表示）することで、ユーザ１９０Ａがスクリーンオブジェクト１５１０の撮影機能を認知する可能性を高める。
【０１６５】
スマートフォン（あるいは撮影機能を有するデバイス）を支持する自撮り棒（セルフィースティック、セルカ棒とも称される）は、広く世間に認知されている。そのため、スクリーン（プレビュー画面）を有するスクリーンオブジェクト１５１０と、棒状の支持部材１９１０とを併せて提示することで、ユーザが撮影機能を認知する可能性が高まる。
【０１６６】
支持部材１９１０は、アバターオブジェクト１０００Ａによって保持可能に構成される。図１９に示される例において、アバターオブジェクト１０００Ａの右手１４１０が支持部材１９１０を保持している。プロセッサ１０Ａは、スクリーンオブジェクト１５１０および支持部材１９１０を、支持部材１９１０を保持している右手１４１０に連動して動かす。
【０１６７】
ある局面において、プロセッサ１０Ａは、支持部材１９１０を保持している側のアバターオブジェクト１０００Ａの腕に、ＵＩ１５２０を表示する。そのため、図１９では右腕１４２０にＵＩ１５２０が表示されている。アバターオブジェクト１０００Ａの手が支持部材１９１０を保持しているか否かの判断は、ステップＳ１８３５と同様の処理によって実行される。
【０１６８】
図１９の状態において、ユーザ１９０Ａは、アバターオブジェクト１０００Ａの左手１４３０を操作してＵＩ１５２０を操作する。ある局面において、ＵＩ１５２０には、支持部材１９１０の長さを調整可能なボタンが含まれる。ユーザ１９０Ａは、支持部材１９１０を保持している手を任意の位置および角度に動かし、さらに、支持部材１９１０の長さを調整することにより、撮影の構図を決定する。当該構成によれば、コンピュータ２００Ａは、撮影の構図の自由度を高めることができる。
【０１６９】
ある局面において、プロセッサ１０Ａは、支持部材１９１０がアバターオブジェクト１０００Ａの手によって保持されている期間だけ、ＵＩ１５２０を腕に表示するように構成されてもよい。
【０１７０】
図２０は、ＵＩ１５２０を表示しない処理を説明するための図である。図２０を参照して、ユーザ１９０Ａの視界画像２０００は、スクリーンオブジェクト１５１０を含まない。このような場合、プロセッサ１０Ａは、ＵＩ１５２０をアバターオブジェクト１０００Ａの腕に表示する処理を実行しないように構成される。より具体的には、プロセッサ１０Ａは、仮想カメラ１Ａの位置および傾きから定まる視認領域２３にスクリーンオブジェクト１５１０が配置されていない場合に、ＵＩ１５２０を表示する処理を実行しない。
【０１７１】
他の局面において、プロセッサ１０Ａは、仮想空間２Ａにスクリーンオブジェクト１５１０が配置されていない場合に、ＵＩ１５２０を表示する処理を実行しないように構成される。図１８のステップＳ１８２０で説明したように、スクリーンオブジェクト１５１０は、仮想空間２Ａに配置されている場合と、配置されていない場合とがある。スクリーンオブジェクト１５１０が仮想空間２Ａに配置されている場合にのみ、プロセッサ１０Ａは、スクリーンオブジェクト１５１０を制御するためのＵＩ１５２０を表示する処理を実行する。
【０１７２】
なお、アバターオブジェクト１０００Ａに表示されるユーザインターフェイスは、スクリーンオブジェクト１５１０の制御用に限られない。例えば、図２１に示されるＵＩ２１１０（メニュー）の内容がアバターオブジェクト１０００Ａの身体の一部に表示されても良い。
【０１７３】
［目を閉じることによる操作］
図２１は、ユーザ１９０Ａの視線に基づく操作を説明するための図である。ある局面において、ユーザ１９０Ａが視認する視界画像２１００は、ＵＩ２１１０を含む。ＵＩ２１１０は、チュートリアルボタン２１２０と、セッティングボタン２１３０と、戻るボタン２１４０と、終了ボタン２１５０とを含む。
【０１７４】
ＵＩ２１１０は、複数階層のコンテンツを含むユーザインターフェイスである。プロセッサ１０Ａは、戻るボタン２１４０の選択を受け付けると、一つ前の階層のコンテンツを表示する。また、プロセッサ１０Ａは、終了ボタン２１５０の選択を受け付けると、ＵＩ２１１０を仮想空間２Ａから削除する。
【０１７５】
ユーザ１９０Ａは、アバターオブジェクト１０００Ａの手によって、または視線によってこれらのボタンを選択する。より具体的には、注視センサ１４０Ａによって検出されるユーザ１９０Ａの注視点が予め定められた時間、これらのボタンのいずれかに向けられている場合、プロセッサ１０Ａは、そのボタンが選択されたと判断する。
【０１７６】
しかしながら、ユーザ１９０Ａはこれらの操作に不快感を覚え得る。具体的には、ユーザ１９０Ａは、自身の腕を中空で操作することに対して疲労感を覚え得る。また、ユーザ１９０Ａは、注視点による操作を面倒だと感じる場合がある。
【０１７７】
そこで、ある実施形態に従うプロセッサ１０Ａは、ユーザ１９０Ａの目が閉じている時間が予め定められた時間を超えたことに応じて、ユーザ１９０Ａによる否定的な操作の入力を受け付ける。
【０１７８】
プロセッサ１０Ａは、注視センサ１４０Ａの出力に基づいて、ユーザ１９０Ａの目が閉じていることを検出する。一例として、注視センサ１４０Ａは、ユーザ１９０Ａの目に照射された近赤外光の反射光を検出し、プロセッサ１０Ａは当該検出結果に基づいてユーザ１９０Ａの目が閉じていることを検出する。
【０１７９】
否定的な操作とは、一例として、戻るボタン２１４０または終了ボタン２１５０の選択を含む。他の例として、否定的な操作は、仮想空間２Ａに配置されるオブジェクトを削除する操作、仮想空間２Ａに展開されるパノラマ画像２２を変更する操作などを含む。さらに他の例として、否定的な操作は、スクリーンオブジェクト１５１０を操作するためのＵＩ１５２０をアバターオブジェクト１０００Ａの腕から削除する操作を含む。一般的に、人は嫌なことから目を背ける（閉じる）傾向がある。そのため、ユーザは、目を閉じることによりコンピュータ２００Ａに否定的な操作の入力がなされることを直感的に理解できる。上記によれば、ユーザ１９０Ａは、ＵＩ２１１０を容易に操作できる。
【０１８０】
［他のユーザのスクリーンオブジェクトの表示態様］
上記一連の処理は、コンピュータ２００Ａが単独で実行可能な処理である。ある局面において、仮想空間上で複数のユーザが各々のアバターオブジェクトを用いて互いにコミュニケーションする。その際、ユーザは、自分のアバターオブジェクトと他のユーザのアバターオブジェクトとを含む画像を撮影したいと思う。しかし、他のユーザは、ユーザのカメラ（スクリーンオブジェクト）がインカメラモード（自撮りモード）であることを認識しづらい場合がある。また、他のユーザは、ユーザのカメラにより自身の視界が塞がることに不快感を覚え得る。そこで、以下に、複数のユーザが仮想空間上で通信する際の、カメラ（スクリーンオブジェクト）の表示態様について説明する。
【０１８１】
図２２は、ネットワーク１９において、複数のＨＭＤ１１０のそれぞれが、複数のユーザ１９０のそれぞれに仮想空間を提供する状況を模式的に表す。以下、ＨＭＤセット１０５Ｂのユーザをユーザ１９０Ｂ、ＨＭＤセット１０５Ｃのユーザをユーザ１９０Ｃ、ＨＭＤセット１０５Ｄのユーザをユーザ１９０Ｄと表す。また、ＨＭＤセット１０５Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１０５Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１０５Ｄに関する各構成要素の参照符号にＤが付される。
【０１８２】
図２２を参照して、コンピュータ２００Ａ〜２００Ｄのそれぞれは、ＨＭＤ１１０Ａ〜１１０Ｄのそれぞれを介して、ユーザ１９０Ａ〜１９０Ｄのそれぞれに、仮想空間２Ａ〜２Ｄのそれぞれを提供する。図２２に示される例において、コンピュータ２００Ａ（ユーザ１９０Ａ）とコンピュータ２００Ｂ（ユーザ１９０Ｂ）とは同じ仮想空間を共有している。そのため、仮想空間２Ａに展開されているコンテンツと、仮想空間２Ｂに展開されているコンテンツとは同じである。例えば、仮想空間２Ａに展開されるパノラマ画像２２Ａと、仮想空間２Ｂに展開されるパノラマ画像２２Ｂとは同じ画像である。仮想空間２Ａおよび仮想空間２Ｂには、ユーザ１９０Ａのアバターオブジェクト１０００Ａと、ユーザ１９０Ｂのアバターオブジェクト１０００Ｂとが存在する。なお、仮想空間２Ａにおけるアバターオブジェクト１０００Ａおよび仮想空間２Ｂにおけるアバターオブジェクト１０００ＢがそれぞれＨＭＤを装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤを装着していない。
【０１８３】
ある局面において、コンピュータ２００Ａおよび２００Ｂは、動き検知データおよびトラッキングデータを互いに送受信する。これにより、コンピュータ２００Ａは、仮想空間２Ａに配置されるアバターオブジェクト１０００Ｂの動作を、ユーザ１９０Ｂの動作に連動できる。つまり、ユーザ１９０Ａは、アバターオブジェクト１０００Ｂを介してユーザ１９０Ｂの動作を認識できる。また、コンピュータ２００Ｂは、仮想空間２Ｂに配置されるアバターオブジェクト１０００Ａの動作を、ユーザ１９０Ａの動作に連動できる。
【０１８４】
（モードに応じたスクリーンオブジェクトの表示態様）
図２３は、アウトカメラモード時の他のユーザのスクリーンオブジェクトを表す。図２４は、インカメラモード時の他のユーザのスクリーンオブジェクトを表す。
【０１８５】
図２３を参照して視界画像２３００は、仮想空間２Ａの一部に対応する。視界画像２３００は、ユーザ１９０Ｂに対応するアバターオブジェクト１０００Ｂと、スクリーンオブジェクト２３１０と、木オブジェクト２３２０とを含む。スクリーンオブジェクト２３１０は、ユーザ１９０Ｂにより操作される。このように仮想空間には、複数のユーザの各々に対応するカメラ（スクリーンオブジェクト）を配置され得る。
【０１８６】
図２３の例において、スクリーンオブジェクト２３１０はアウトカメラモードに設定されている。そのため、スクリーンオブジェクト２３１０のプレビュー画面には、スクリーンオブジェクト２３１０の裏面方向の空間に存在する木オブジェクト２３２０が表示されている。
【０１８７】
ユーザ１９０Ｂは、自身でスクリーンオブジェクト２３１０のモードを設定するため、スクリーンオブジェクト２３１０がインカメラモードであるかアウトカメラモードであるかを理解できる。一方、ユーザ１９０Ａは、スクリーンオブジェクト２３１０がアウトカメラモードであるかインカメラモードであるかを一見して判断しづらい。ユーザ１９０Ａは、スクリーンオブジェクト２３１０のプレビュー画面と、スクリーンオブジェクト２３１０の前後に配置されるものとを見比べて、スクリーンオブジェクト２３１０がいずれのモードに設定されているのかを判断するためである。さらに他の局面において、アバターオブジェクトは、対応するユーザの外見を模したものではなく、予め定められた種類のいずれかから選択される。そのため、アバターオブジェクト１０００Ａの種類とアバターオブジェクト１０００Ｂの種類とが同じである場合、ユーザ１９０Ａは、プレビュー画面に表示されるアバターオブジェクトが自身の操作するアバターオブジェクトであるか否かを判断しにくい。
【０１８８】
そこで、ある実施形態に従うコンピュータ２００Ａは、他のユーザにより操作されるスクリーンオブジェクト２３１０の表示態様を、モードに応じて変更する。
【０１８９】
図２４を参照して、視界画像２４００に含まれるスクリーンオブジェクト２３１０はインカメラモードに設定されている。そのため、スクリーンオブジェクト２３１０のプレビュー画面には、スクリーンオブジェクト２３１０のおもて面方向の空間に存在するアバターオブジェクト１０００Ａおよび１０００Ｂが表示されている。
【０１９０】
ある局面において、プロセッサ１０Ａは、スクリーンオブジェクト２３１０がインカメラモードに設定されている場合、スクリーンオブジェクト２３１０を支持部材２４１５によって支持されている態様で表示する。プロセッサ１０Ａはさらに、アバターオブジェクト１０００Ｂの手が支持部材２４１５を握っている態様でこれらのオブジェクトを表示する。
【０１９１】
上記によれば、ユーザ１９０Ａは、スクリーンオブジェクト２３１０が支持部材２４１５によって支持されていることを視認して、スクリーンオブジェクト２３１０がインカメラモードに設定されていることを一見して理解できる。上述のように、インカメラモードに設定されたカメラによる自撮りを補助する自撮り棒が世間に広く認知されている。そのため、ユーザ１９０Ａは、支持部材２４１５を自撮り棒として認識し、スクリーンオブジェクト２３１０がインカメラモードに設定されていることを容易に理解できる。
【０１９２】
さらに、図２３に示されるように、アウトカメラモードに設定されるスクリーンオブジェクト２３１０は、支持部材２４１５によって支持されていない態様で表示される。そのため、ユーザ１９０Ａは、スクリーンオブジェクト２３１０が単独で表示されていることを視認して、スクリーンオブジェクト２３１０がアウトカメラモードに設定されていることを容易に理解できる。
【０１９３】
図２５は、スクリーンオブジェクトの表示態様をモードに応じて変更する処理を表すフローチャートである。なお、図２５に示される処理は、プロセッサ１０Ａおよびプロセッサ１０Ｂによって実行される。また、これらの処理は、コンピュータ２００Ａとコンピュータ２００Ｂとがサーバ１５０を介して通信していることを前提としている。
【０１９４】
ステップＳ２５１０において、プロセッサ１０Ａは、仮想空間２Ａを定義する。ステップＳ２５１５において、プロセッサ１０Ｂは、仮想空間２Ｂを定義する。
【０１９５】
ステップＳ２５２０において、プロセッサ１０Ｂは、ユーザ１９０Ｂにより操作されるスクリーンオブジェクト２３１０（図２５では「他スクリーンオブジェクト」と表記）を仮想空間２Ｂに配置する。一例として、スクリーンオブジェクト２３１０はアウトカメラモードに設定されている。プロセッサ１０Ｂはさらに、スクリーンオブジェクト２３１０の情報をコンピュータ２００Ａに送信する。スクリーンオブジェクト２３１０の情報は、例えば、モデリングデータ、位置情報、傾き情報、モード信号を含む。モード信号とは、スクリーンオブジェクト２３１０がインカメラモードであるかアウトカメラモードであるかを表す。
【０１９６】
ステップＳ２５２５において、プロセッサ１０Ａは、コンピュータ２００Ｂから受信した情報に基づいて、スクリーンオブジェクト２３１０を仮想空間２Ａに配置する。このとき、プロセッサ１０Ａは、モード信号を参照して、スクリーンオブジェクト２３１０を支持部材２４１５によって支持されない態様（つまり、スクリーンオブジェクト２３１０単体）で表示する。
【０１９７】
ステップＳ２５３０において、プロセッサ１０Ｂは、ユーザ１９０Ｂからスクリーンオブジェクト２３１０のモードを切り替える指示の入力を受け付けたか否かを判断する。ある局面において、プロセッサ１０Ｂは、アバターオブジェクト１０００Ｂの身体の一部に表示されるユーザインターフェイスの操作に基づいてこの判断を行なう。
【０１９８】
プロセッサ１０Ｂは、指示の入力を受けたと判断した場合（ステップＳ２５３０でＹＥＳ）、モード信号をコンピュータ２００Ａに送信する。そうでない場合（ステップＳ２５３０でＮＯ）、プロセッサ１０Ｂは処理をステップＳ２５４５に進める。
【０１９９】
ステップＳ２５３２において、プロセッサ１０Ａは、コンピュータ２００Ｂからモード信号を受信したか否かを判断する。プロセッサ１０Ａは、モード信号を受信したと判断した場合（ステップＳ２５３２でＹＥＳ）、処理をステップＳ２５３５に進める。そうでない場合（ステップＳ２５３２でＮＯ）、プロセッサ１０Ａは処理をステップＳ２５４０に進める。
【０２００】
ステップＳ２５３５において、プロセッサ１０Ａは、受信したモード信号に応じた態様で、スクリーンオブジェクト２３１０を表示する。ある局面において、モード信号がインカメラモードを表す場合、プロセッサ１０Ａは、スクリーンオブジェクト２３１０を支持部材２４１５によって支持された態様で表示する。また、モード信号がアウトカメラモードを表す場合、プロセッサ１０Ａは、スクリーンオブジェクト２３１０を支持部材２４１５によって支持されていない態様で表示する。
【０２０１】
なお、他の局面において、プロセッサ１０Ａは、モード信号に応じてスクリーンオブジェクト２３１０の色または透明度を変更するように構成されてもよい。さらに他の局面において、プロセッサ１０Ａは、モード信号に応じてスクリーンオブジェクト２３１０の形状を変更するように構成されてもよい。
【０２０２】
ステップＳ２５４０において、プロセッサ１０Ａは、視界画像を更新して、更新後の視界画像をＨＭＤ１１０Ａに出力する。ステップＳ２５４５において、プロセッサ１０Ｂは、視界画像を更新して、更新後の視界画像をＨＭＤ１１０Ｂに出力する。
【０２０３】
上記によれば、ユーザ１９０Ａは、他のユーザにより操作されるスクリーンオブジェクト２３１０のモードを、一見して判断できる。
【０２０４】
例えば、ユーザ１９０Ａは、インカメラモードに設定されているスクリーンオブジェクト２３１０を見て、ユーザ１９０Ｂが仮想空間２Ｂ上で自撮り（アバターオブジェクト１０００Ｂの撮影）をしようとしていることを認識する。これにより、ユーザ１９０Ａは、アバターオブジェクト１０００Ａをアバターオブジェクト１０００Ｂに近づける操作を行なう。その結果、ユーザ１９０Ｂは、アバターオブジェクト１０００Ａおよび１０００Ｂを含む画像を取得できる。コンピュータ２００Ｂは、生成した画像をコンピュータ２００Ａに送信する。ユーザ１９０Ａおよび１９０Ｂは、得られた画像を話題として、仮想空間上でのコミュニケーションを促進し得る。
【０２０５】
（位置に応じたスクリーンオブジェクトの表示態様）
図２３および図２４に示されるように、ある局面において、プロセッサ１０Ａは、他のユーザにより操作される他のスクリーンオブジェクトを仮想空間２Ａに配置するように構成されている。係る場合、ユーザ１９０Ａは、他のスクリーンオブジェクトによってパノラマ画像２２Ａの視認を妨げられる可能性がある。以下、このような課題を解決し得る処理を説明する。
【０２０６】
図２６は、仮想空間２Ａにおけるアバターオブジェクトとスクリーンオブジェクトとの配置関係を説明するための図である。図２６を参照して、アバターオブジェクト１０００Ｂがスクリーンオブジェクト２３１０の支持部材２４１５を保持している。
【０２０７】
ある実施形態に従うコンピュータ２００Ａは、スクリーンオブジェクト２３１０の位置と、アバターオブジェクト１０００Ａの位置との相対関係に基づいて、スクリーンオブジェクト２３１０の表示態様を制御する。
【０２０８】
仮想空間２Ａは、スクリーンオブジェクト２３１０の面（例えば、おもて面）が存在する平面２６００によって空間２６１０と、空間２６２０とに２分される。ある局面において、空間２６１０を、スクリーンオブジェクト２３１０の後方、空間２６２０をスクリーンオブジェクト２３１０の前方と定義する。
【０２０９】
図２６に示される例において、アバターオブジェクト１０００Ａは、スクリーンオブジェクト２３１０の後方（空間２６１０）に配置される。
【０２１０】
図２７は、図２６の状態においてユーザ１９０Ａが視認する視界画像２７００を表す。図２７を参照して、ある実施形態に従うプロセッサ１０Ａは、アバターオブジェクト１０００Ａがスクリーンオブジェクト２３１０の後方に配置されている場合、スクリーンオブジェクト２３１０の枠（例えば、４隅の枠）だけを表示する。そのため、ユーザ１９０Ａは、スクリーンオブジェクト２３１０の奥側に配置されるパノラマ画像２２Ａおよびアバターオブジェクト１０００Ｂを視認できる。
【０２１１】
当該構成によれば、コンピュータ２００Ａは、スクリーンオブジェクト２３１０によってユーザ１９０Ａの視界が塞がれることを抑制し得る。
【０２１２】
なお、図２７に示される例において支持部材２４１５が表示されているが、他の局面において、支持部材２４１５は表示されなくともよい。
【０２１３】
図２８は、他の局面におけるアバターオブジェクトとスクリーンオブジェクトとの配置関係を説明するための図である。図２８を参照して、アバターオブジェクト１０００Ａは、スクリーンオブジェクト２３１０の前方（空間２６２０）に配置されている。係る場合、プロセッサ１０Ａは、図２４に示されるように、スクリーンオブジェクト２３１０のプレビュー画面を表示する。そのため、ユーザ１９０Ａは、スクリーンオブジェクト２３１０のプレビュー画面を確認しながら、画角におけるアバターオブジェクト１０００Ａの位置を調整できる。
【０２１４】
上記によれば、コンピュータ２００Ａは、スクリーンオブジェクト２３１０の位置とアバターオブジェクト１０００Ａの位置との相対関係に基づいて、ユーザ１９０Ａに適切な視界画像を提供できる。そのため、ユーザ１９０Ａは、スクリーンオブジェクト２３１０に対する不快感を覚えにくい。
【０２１５】
図２９は、他のスクリーンオブジェクトの表示態様をアバターオブジェクトの位置に応じて変更する処理を表すフローチャートである。なお、図２９に示される処理のうち前述の処理と同じ処理については同じ符号を付している。そのため、その処理についての説明は繰り返さない。
【０２１６】
ステップＳ２９１０において、プロセッサ１０Ａは、ユーザ１９０Ａに対応するアバターオブジェクト１０００Ａ（図２９では「自アバターオブジェクト」と表記）を仮想空間２Ａに配置する。プロセッサ１０Ａはさらに、アバターオブジェクト１０００Ａの情報（例えば、モデリングのためのデータ、位置情報など）をコンピュータ２００Ｂに送信する。
【０２１７】
ステップＳ２９１５において、プロセッサ１０Ｂは、受信したアバターオブジェクト１０００Ａの情報に基づいて、仮想空間２Ｂにアバターオブジェクト１０００Ａを配置する。
【０２１８】
ステップＳ２９２０およびＳ２９２５において、ステップＳ２９１０およびＳ２９１５と同様に、仮想空間２Ａおよび２Ｂにアバターオブジェクト１０００Ｂ（図２９では「他アバターオブジェクト」と表記）が生成される。
【０２１９】
ステップＳ２９３０において、プロセッサ１０Ｂは、ＨＭＤセンサ１２０Ｂが検出する動き検知データまたはトラッキングモジュール２２６Ｂが生成するトラッキングデータに基づいて、スクリーンオブジェクト２３１０の位置情報を更新する。プロセッサ１０Ｂはさらに、更新後のスクリーンオブジェクト２３１０の位置情報をコンピュータ２００Ａに送信する。
【０２２０】
ステップＳ２９３５において、プロセッサ１０Ａは、コンピュータ２００Ｂから受信した情報に基づいて、仮想空間２Ａに配置されるスクリーンオブジェクト２３１０の位置情報を更新する。
【０２２１】
ステップＳ２９４０において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａの位置情報を更新する。一例として、プロセッサ１０Ａは、ＨＭＤセンサ１２０が検出する動き検知データに基づいて、この情報を更新する。
【０２２２】
ステップＳ２９４５において、プロセッサ１０Ａは、スクリーンオブジェクト２３１０の位置とアバターオブジェクト１０００Ａの位置との相対関係に基づいて、スクリーンオブジェクト２３１０の表示態様を制御する。一例として、アバターオブジェクト１０００Ａがスクリーンオブジェクト２３１０の前方に位置する場合、プロセッサ１０Ａは、スクリーンオブジェクト２３１０をプレビュー画面を含む態様で表示する。一方、アバターオブジェクト１０００Ａがスクリーンオブジェクト２３１０の後方に位置する場合、プロセッサ１０Ａは、スクリーンオブジェクト２３１０の枠のみを表示し得る。
【０２２３】
ある局面において、プロセッサ１０Ａは、アバターオブジェクト１０００Ａがスクリーンオブジェクト２３１０の前方にいるときと後方にいるときとで、スクリーンオブジェクト２３１０の枠の表示態様（色、透明度）を変更するように構成されてもよい。
【０２２４】
［撮影画像の管理］
図３０は、ある実施形態に従う撮影画像ＤＢ９３９のデータ構造の一例を表す。図３０に示される例において、撮影画像ＤＢ９３９は、撮影画像と、ユーザＩＤと、パノラマ画像ＩＤと、撮影画像位置と、撮影タイミングとを互いに関連付けて保持する。これらのデータは各コンピュータ２００から受信した情報である。
【０２２５】
ユーザＩＤは、撮影画像を生成したコンピュータ２００のユーザ１９０を識別する。パノラマ画像ＩＤは、撮影時に仮想空間２に展開されているパノラマ画像２２を識別する。撮影画像位置は、自動カメラの撮影方向と仮想空間２の天球とが交わる位置を表す。換言すれば、撮影画像位置は、撮影画像に含まれるパノラマ画像２２の中央位置を表す。撮影タイミングは、仮想空間２に展開されているパノラマ画像２２が動画像である場合に、パノラマ画像２２における撮影が行なわれたタイミングを特定する。
【０２２６】
撮影画像ＤＢ９３９は、撮影画像が複数のアバターオブジェクトを含む場合に、これらのアバターオブジェクトの各々に対応するユーザＩＤを併せて保持する。
【０２２７】
ユーザ１９０は、関心を示した対象（例えば、自分または他人のアバターオブジェクト、パノラマ画像２２など）を撮影する。そのため、サーバ１５０の管理者は、撮影画像ＤＢ９３９に基づいて、ユーザ１９０の関心の対象を把握できる。
【０２２８】
ある局面において、サーバ１５０のプロセッサ９２０は、撮影画像に含まれる物体（コンテンツ）を公知の機械学習法により特定し、特定結果を撮影画像ＤＢ９３９に保存する。一例として、プロセッサ９２０は、Ｓｅｌｅｃｔｉｖｅ  Ｓｅａｒｃｈ法を用いて撮影画像に含まれる物体を囲むバウンディングボックスを特定する。プロセッサ９２０は、バウンディングボックスにより切り取られた画像からＣＮＮ（Convolutional  Neural  Network）により導出される特徴量を算出する。プロセッサ９２０は、算出した特徴量と、複数のＳＶＭ（Support  Vector  Machine）に従う識別器とを用いて、バウンディングボックスに含まれる物体を特定する。
【０２２９】
上記によれば、サーバ１５０の管理者は、ユーザ１９０の関心の対象（物体）を容易に理解できる。また、サーバ１５０のプロセッサ９２０は、特定した物体に基づいて、ユーザ１９０が関心を示すであろう広告を配信する処理、およびユーザ１９０が関心を示すであろうパノラマ画像２２を推奨する処理を行なうように構成されてもよい。
【０２３０】
［構成］
以上に開示された技術的特徴は、以下のように要約され得る。
【０２３１】
（構成１）  ある実施形態に従うと、ＨＭＤ１１０に仮想空間２を提供するためにコンピュータ２００によって実行される方法が提供される。この方法は、仮想空間２を定義するステップ（Ｓ１０１０）と、ＨＭＤ１１０のモニタ１１２に視界画像を表示してＨＭＤ１１０のユーザ１９０に仮想空間２を提供するステップ（Ｓ１０３２）と、ＨＭＤ１１０の動きを検出するステップ（Ｓ１０３４）と、検出された動きに連動して視界画像を更新するステップ（Ｓ１０４０）と、仮想空間２におけるユーザ１９０の視座にユーザ１９０に対応するアバターオブジェクト１０００を配置するステップ（Ｓ１８１５）と、アバターオブジェクト１０００にユーザ１９０からの操作を受け付けるためのＵＩ１５２０を表示するステップ（Ｓ１８４０）とを備える。このアバターオブジェクト１０００は、身体の一部のみにより構成され得る。
【０２３２】
（構成２）  （構成１）に従う方法は、ユーザ１９０の第１部分（例えば、右手）の動作を検出するステップ（Ｓ１８２５）と、検出された第１部分の動作に連動するように操作オブジェクト（例えば、アバターオブジェクトの右手の部分）を動かすステップ（Ｓ１８３０）と、ユーザ１９０の第２部分（例えば、左腕）の動作を検出するステップ（Ｓ１８２５）と、検出された第２部分の動作に連動するようにアバターオブジェクト１０００の第２部分に対応する箇所を動かすステップ（Ｓ１８３０）とをさらに備える。ＵＩ１５２０を表示するステップは、アバターオブジェクト１０００の第２部分に対応する箇所に操作オブジェクトによる操作を受付可能なＵＩ１５２０を表示することを含む。
【０２３３】
（構成３）  （構成２）において、第１部分は、右手および左手のうち一方を含む。第２部分は、右手および左手のうち一方とは異なる他方と、他方側の腕とのうち少なくとも一方を含む。
【０２３４】
（構成４）  （構成１）〜（構成３）のいずれかに従う方法は、撮影機能を有し、プレビュー画像を表示可能なスクリーンオブジェクトを仮想空間２に配置するステップ（Ｓ１８２０）と、スクリーンオブジェクトにより撮影された画像をメモリに保存するステップ（Ｓ１８６０）とをさらに備える。ＵＩ１５２０は、スクリーンオブジェクトによる撮影に関する。
【０２３５】
（構成５）  （構成４）に従う方法は、ユーザ１９０の第１部分の動作を検出するステップ（Ｓ１８２５）と、検出された第１部分の動作に連動するように操作オブジェクトを動かすステップ（Ｓ１８３０）とをさらに備える。ＵＩ１５２０を表示するステップは、操作オブジェクトがスクリーンオブジェクトを保持したことに応じて（Ｓ１８３５でＹＥＳ）、アバターオブジェクト１０００にＵＩ１５２０を表示すること（Ｓ１８４０）を含む。
【０２３６】
（構成６）  （構成４）または（構成５）おいて、仮想空間２にスクリーンオブジェクトを配置するステップは、ユーザ１９０の指定する位置にスクリーンオブジェクトを配置すること（Ｓ１８４５，Ｓ１８５０）を含む。
【０２３７】
（構成７）  （構成６）において、ＵＩ１５２０は、撮影ボタンを含む。スクリーンオブジェクトによる撮影を実行するステップは、撮影ボタンが選択されてから所定時間経過後に撮影を実行すること（Ｓ１８５５，１８６０）を含む。
【０２３８】
（構成８）  （構成４）または（構成５）に従う方法は、スクリーンオブジェクトを支持し、アバターオブジェクト１０００によって保持可能な支持部材１９１０を仮想空間２に配置するステップをさらに備える。ＵＩ１５２０は、支持部材の長さを調整可能に構成される（図１９）。
【０２３９】
（構成９）  （構成４）〜（構成８）のいずれかにおいて、スクリーンオブジェクトによる撮影を実行するステップは、ＨＭＤ１１０の動きが所定時間にわたり停止していることを検知した場合に撮影を実行することを含む。
【０２４０】
（構成１０）  （構成１）〜（構成９）のいずれかに従う方法は、ユーザ１９０が目を閉じているか否かを検出するステップと、ユーザ１９０が目を閉じている時間が予め定められた時間を超えたことに応じて、ユーザ１９０による否定的な操作の入力を受け付けるステップとをさらに備える。
【０２４１】
（構成１１）  （構成４）〜（構成１０）のいずれかに従う方法は、コンピュータ２００Ａによって実行される。コンピュータ２００Ａは、コンピュータ２００Ａと通信可能な他のコンピュータ２００Ｂのユーザ１９０Ｂにより操作される、スクリーンオブジェクト１５１０とは異なる他のスクリーンオブジェクト２３１０を仮想空間２Ａに表示するステップ（Ｓ２５１０）と、他のコンピュータ２００Ｂから他のスクリーンオブジェクト２３１０がインカメラモードであるかアウトカメラモードであるかを表すモード信号を受信するステップ（２５３０）とをさらに備える。他のスクリーンオブジェクト２３１０を仮想空間２Ａに表示するステップは、モード信号がインカメラモードを表す場合に、他のスクリーンオブジェクト２３１０を第１態様で表示することと、モード信号がアウトカメラモードを表す場合に、他のスクリーンオブジェクト２３１０を第１態様とは異なる第２態様で表示すること（Ｓ２５３５）とを含む。
【０２４２】
（構成１２）  （構成１１）において、第１態様は、他のスクリーンオブジェクト２３１０が支持部材２４１５によって支持された態様を含む（図２４）。第２態様は、他のスクリーンオブジェクト２３１０が支持部材２４１５によって支持されていない態様を含む。
【０２４３】
（構成１３）  （構成４）〜（構成１２）のいずれかに従う方法は、コンピュータ２００Ａによって実行される。コンピュータ２００Ａは、当該コンピュータと通信可能な他のコンピュータ２００Ｂのユーザ１９０Ｂにより操作され、プレビュー画像を表示可能な他のスクリーンオブジェクト２３１０を仮想空間２Ａに表示するステップをさらに備える。他のスクリーンオブジェクトを仮想空間２に表示するステップは、他のスクリーンオブジェクト２３１０の位置と、アバターオブジェクト１０００Ａの位置との相対関係に基づいてスクリーンオブジェクト２３１０の表示態様を制御する（Ｓ２９４５）ことを含む。
【０２４４】
（構成１４）  （構成１３）において、他のスクリーンオブジェクト２３１０を仮想空間２Ａに表示するステップは、アバターオブジェクト１０００Ａが他のスクリーンオブジェクト２３１０の後方に位置する場合に、スクリーンオブジェクト２３１０の枠のみを表示すること（図２７）を含む。
【０２４５】
今回開示された実施形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
【符号の説明】
【０２４６】
１  仮想カメラ、２  仮想空間、５  基準視線、１０，９２０  プロセッサ、１１  メモリ、１２，９３０  ストレージ、１３  入出力インターフェイス、１４，９１０  通信インターフェイス、２２  パノラマ画像、２３  視認領域、２６，１４００，１５００，１６００，１９００，２０００，２１００，２３００，２４００，２７００  視界画像、１００  ＨＭＤシステム、１０５  ＨＭＤセット、１１２  モニタ、１１４  センサ、１１６  カメラ、１１８  スピーカ、１１９  マイク、１２０  ＨＭＤセンサ、１４０  注視センサ、１５０  サーバ、１９０  ユーザ、２００  コンピュータ、２２０  表示制御モジュール、２２１  仮想カメラ制御モジュール、２２２  視界領域決定モジュール、２２３  視界画像生成モジュール、２２４  基準視線特定モジュール、２２５  動き検出モジュール、２２６  トラッキングモジュール、２３０  仮想空間制御モジュール、２３１  仮想空間定義モジュール、２３２  仮想オブジェクト生成モジュール、２３３  操作オブジェクト制御モジュール、２３４  アバター制御モジュール、２３５  撮影モジュール、２４０  メモリモジュール、２４１  空間情報、２４２  オブジェクト情報、２４３，９３８  ユーザ情報、２５０  通信制御モジュール、９２２  送受信部、９２４  サーバ処理部、９２６  マッチング部、９３２  仮想空間指定情報、９３４  オブジェクト指定情報、９３５  アバターオブジェクト情報、９３６  位置情報、９３７  傾き情報、１０００  アバターオブジェクト、１０１０，１４１０  右手、１０３０，１４３０  左手、１０４０，１４４０  左腕、１１００，２６１０，２６２０  空間、１４２０  右腕、１５１０，２３１０  スクリーンオブジェクト、１９１０，２４１５  支持部材、２１２０  チュートリアルボタン、２１３０  セッティングボタン、２１４０  ボタン、２１５０  終了ボタン。
【図１】
2018190335.tif 000003
【図２】
2018190335.tif 000004
【図３】
2018190335.tif 000005
【図４】
2018190335.tif 000006
【図５】
2018190335.tif 000007
【図６】
2018190335.tif 000008
【図７】
2018190335.tif 000009
【図８】
2018190335.tif 000010
【図９】
2018190335.tif 000011
【図１０】
2018190335.tif 000012
【図１１】
2018190335.tif 000013
【図１２】
2018190335.tif 000014
【図１３】
2018190335.tif 000015
【図１４】
2018190335.tif 000016
【図１５】
2018190335.tif 000017
【図１６】
2018190335.tif 000018
【図１７】
2018190335.tif 000019
【図１８】
2018190335.tif 000020
【図１９】
2018190335.tif 000021
【図２０】
2018190335.tif 000022
【図２１】
2018190335.tif 000023
【図２２】
2018190335.tif 000024
【図２３】
2018190335.tif 000025
【図２４】
2018190335.tif 000026
【図２５】
2018190335.tif 000027
【図２６】
2018190335.tif 000028
【図２７】
2018190335.tif 000029
【図２８】
2018190335.tif 000030
【図２９】
2018190335.tif 000031
【図３０】
2018190335.tif 000032
【手続補正書】
【提出日】平成29年11月16日(2017.11.16)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法であって、
仮想空間を定義するステップと、
前記ヘッドマウントデバイスの非透過型のディスプレイに視界画像を表示して前記ヘッドマウントデバイスのユーザに仮想空間を提供するステップと、
前記ヘッドマウントデバイスの動きを検出するステップと、
前記検出された動きに連動して前記視界画像を更新するステップと、
前記仮想空間におけるユーザの視座に前記ユーザに対応するアバターオブジェクトを配置するステップと、
前記アバターオブジェクトに前記ユーザからの操作を受け付けるためのユーザインターフェイスを表示するステップとを備える、方法。
【請求項２】
前記ユーザの第１部分の動作を検出するステップと、
前記検出された第１部分の動作に連動するように操作オブジェクトを動かすステップと、
前記ユーザの第２部分の動作を検出するステップと、
前記検出された第２部分の動作に連動するように前記アバターオブジェクトの前記第２部分に対応する箇所を動かすステップとをさらに備え、
前記ユーザインターフェイスを表示するステップは、前記アバターオブジェクトの前記第２部分に対応する箇所に前記操作オブジェクトによる操作を受付可能な前記ユーザインターフェイスを表示することを含む、請求項１に記載の方法。
【請求項３】
前記第１部分は、右手および左手のうち一方を含み、
前記第２部分は、右手および左手のうち前記一方とは異なる他方と、前記他方側の腕とのうち少なくとも一方を含む、請求項２に記載の方法。
【請求項４】
前記ユーザが目を閉じているか否かを検出するステップと、
前記ユーザが目を閉じている時間が予め定められた時間を超えたことに応じて、前記ユーザによる否定的な操作の入力を受け付けるステップとをさらに備える、請求項１〜３のいずれか１項に記載の方法。
【請求項５】
撮影機能を有し、プレビュー画像を表示可能なスクリーンオブジェクトを前記仮想空間に配置するステップと、
前記スクリーンオブジェクトにより撮影された画像をメモリに保存するステップとをさらに備え、
前記ユーザインターフェイスは、前記スクリーンオブジェクトによる撮影に関する、請求項１〜４のいずれか１項に記載の方法。
【請求項６】
前記ユーザの第１部分の動作を検出するステップと、
前記検出された第１部分の動作に連動するように操作オブジェクトを動かすステップとをさらに備え、
前記ユーザインターフェイスを表示するステップは、前記操作オブジェクトが前記スクリーンオブジェクトを保持したことに応じて、前記アバターオブジェクトに前記ユーザインターフェイスを表示することを含む、請求項５に記載の方法。
【請求項７】
前記仮想空間にスクリーンオブジェクトを配置するステップは、前記ユーザの指定する位置に前記スクリーンオブジェクトを配置することを含む、請求項５または６に記載の方法。
【請求項８】
前記ユーザインターフェイスは、撮影ボタンを含み、
前記スクリーンオブジェクトによる撮影を実行するステップは、前記撮影ボタンが選択されてから所定時間経過後に撮影を実行することを含む、請求項７に記載の方法。
【請求項９】
前記スクリーンオブジェクトを支持し、前記アバターオブジェクトによって保持可能な支持部材を前記仮想空間に配置するステップをさらに備え、
前記ユーザインターフェイスは、前記支持部材の長さを調整可能に構成される、請求項５または６に記載の方法。
【請求項１０】
前記スクリーンオブジェクトによる撮影を実行するステップは、前記ヘッドマウントデバイスの動きが所定時間にわたり停止していることを検知した場合に前記撮影を実行することを含む、請求項５〜９のいずれか１項に記載の方法。
【請求項１１】
撮影機能を有し、プレビュー画像を表示可能なスクリーンオブジェクトを前記仮想空間に配置するステップと、
前記コンピュータと通信可能な他のコンピュータのユーザにより操作される、前記スクリーンオブジェクトとは異なる他のスクリーンオブジェクトを前記仮想空間に表示するステップと、
前記他のコンピュータから前記他のスクリーンオブジェクトがインカメラモードであるかアウトカメラモードであるかを表すモード信号を受信するステップとをさらに備え、
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、
前記モード信号がインカメラモードを表す場合に、前記他のスクリーンオブジェクトを第１態様で表示することと、
前記モード信号がアウトカメラモードを表す場合に、前記他のスクリーンオブジェクトを前記第１態様とは異なる第２態様で表示することとを含む、請求項５〜１０のいずれか１項に記載の方法。
【請求項１２】
前記第１態様は、前記他のスクリーンオブジェクトが支持部材によって支持された態様を含み、
前記第２態様は、前記他のスクリーンオブジェクトが前記支持部材によって支持されていない態様を含む、請求項１１に記載の方法。
【請求項１３】
前記コンピュータと通信可能な他のコンピュータのユーザにより操作され、プレビュー画像を表示可能な他のスクリーンオブジェクトを前記仮想空間に表示するステップをさらに備え、
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、前記他のスクリーンオブジェクトの位置と、前記アバターオブジェクトの位置との相対関係に基づいて前記スクリーンオブジェクトの表示態様を制御することを含む、請求項５〜１２のいずれか１項に記載の方法。
【請求項１４】
前記他のスクリーンオブジェクトを前記仮想空間に表示するステップは、前記アバターオブジェクトが前記他のスクリーンオブジェクトの後方に位置する場合に、前記スクリーンオブジェクトの枠のみを表示することを含む、請求項１３に記載の方法。
【請求項１５】
請求項１〜１４のいずれか１項に記載の方法をコンピュータに実現させるためのプログラム。
【請求項１６】
請求項１５に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
【手続補正書】
【提出日】平成30年4月16日(2018.4.16)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
ＨＭＤシステム１００は、ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄと、ネットワーク１９とサーバ１５０とを含む。ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄの各々は、ネットワーク１９を介してサーバ１５０と通信可能に構成される。以下、ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄを総称して、ＨＭＤセット１０５とも言う。なお、ＨＭＤシステム１００を構成するＨＭＤセット１０５の数は、４つに限られず、３つ以下でも、５つ以上でもよい。