(57)【要約】      （修正有）【課題】仮想空間においてキャラクタ間のコミュニケーションを円滑にすることができる制御方法を提供する。【解決手段】仮想空間における複数のパフォーマユーザが演じる複数のキャラクタ間のコミュニケーション制御方法であって、仮想空間内に複数のキャラクタを配置するステップと、パフォーマユーザが装着するヘッドマウントディスプレイ及びコントローラのいずれかを介した入力に基づいて、キャラクタを制御するステップと、パフォーマユーザが仮想空間内において所定の作業を行うためのユーザインターフェースを表示するための指示を受信するステップと、を有する。仮想空間には、複数の仮想カメラが配置される。ユーザインターフェースは、複数の仮想カメラの各々により撮像される画像を表示する領域を含む。【選択図】図７
2020149397.tif 000002
【特許請求の範囲】
【請求項１】
仮想空間における複数のパフォーマユーザが演じる複数のキャラクタ間のコミュニケーション制御方法であって、
仮想空間内に複数のキャラクタを配置するステップと、
パフォーマユーザが装着するヘッドマウントディスプレイ及びコントローラのいずれかを介した入力に基づいて、前記キャラクタを制御するステップと、
パフォーマユーザが仮想空間内において所定の作業を行うためのユーザインターフェースを表示するための指示を受信するステップと、を有し、
前記仮想空間に複数の仮想カメラが配置され、
前記ユーザインターフェースは、当該複数の仮想カメラの各々により撮像される画像を表示する領域を含む、
制御方法。
【請求項２】
請求項１に記載の制御方法であって、
前記ユーザインターフェースは、ユーザが所定の作業を行うアプリケーションを表示する領域を含むことを特徴とする制御方法。
【請求項３】
請求項２に記載の制御方法であって、
前記ユーザインターフェースの所定領域に対するユーザ入力を検出することに応じて、前記キャラクタの制御を停止すること、を特徴とする制御方法。
【請求項４】
請求項３に記載の制御方法であって、
前記所定の領域は、前記ユーザが所定の作業を行うアプリケーションを表示する領域であること、を特徴とする制御方法。
【請求項５】
請求項２に記載の制御方法であって、
前記ユーザインターフェースの所定領域に対するユーザ入力を検出することに応じて、前記キャラクタの制御を自動的に制御することに切り替えること、を特徴とする制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、仮想空間におけるキャラクタ同士のコミュニケーションの制御方法に関する。
【背景技術】
【０００２】
仮想空間にアバター等のキャラクタを配置して仮想的に会議を行うシステムとして、例えば特許文献１のように、情報処理端末から伝達される会議参加者の向きを示す動作データや音声データに基づいて、仮想空間においてオブジェクトを出力表示するシステムが開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１８−１７３８２９
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１は、会議参加者の姿勢や動作をオブジェクトの表示出力に再現しつつ、参加者の外見といった、会議の集中に妨げとなる不必要な情報を排除するシステムを提供する。しかしながら、ユーザが仮想空間上において会議に集中しつつ、参加しながら他のタスクを並行して実行する等のニーズもあり、こうしたニーズを満たしながら、会議運営を効率的に遂行可能な仮想空間における会議システムを実現することが望まれる。
【０００５】
本発明は、このような背景を鑑みてなされたものであり、仮想空間におけるキャラクタ同士コミュニケーションを円滑に遂行することが可能な方法を提供することを目的とする。
【課題を解決するための手段】
【０００６】
仮想空間における複数のパフォーマユーザが演じる複数のキャラクタ間のコミュニケーション制御方法であって、仮想空間内に複数のキャラクタを配置するステップと、パフォーマユーザが装着するヘッドマウントディスプレイ及びコントローラのいずれかを介した入力に基づいて、前記キャラクタを制御するステップと、パフォーマユーザが仮想空間内において所定の作業を行うためのユーザインターフェースを表示するための指示を受信するステップと、を有し、前記仮想空間に複数の仮想カメラが配置され、前記ユーザインターフェースは、当該複数の仮想カメラの各々により撮像される画像を表示する領域を含む。
【０００７】
その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。
【発明の効果】
【０００８】
本発明によれば、仮想空間におけるキャラクタ同士コミュニケーションを円滑に遂行することが可能な方法を提供することができる。
【図面の簡単な説明】
【０００９】
【図１】第１の実施形態にかかるＨＭＤシステム３００の全体構成例を示す図である。
【図２】第１の実施形態に係るＨＭＤ１１０の外観の模式図である。
【図３】第１の実施形態に係るＨＭＤ１１０の機能構成図である。
【図４】第１の実施形態に係るコントローラ２１０の外観の模式図である。
【図５】第１の実施形態に係るコントローラ２１０の機能構成図である。
【図６】第１の実施形態に係る画像生成装置３１０の機能構成図である。
【図７】第１の実施形態に係るＨＭＤシステムにおける処理の流れを示す図である。
【図８】第１の実施形態に係るＨＭＤ１１０に表示される仮想空間の一例である。
【図９】第１の実施形態に係るＨＭＤ１１０に表示される仮想空間の他の一例である。
【発明を実施するための形態】
【００１０】
本発明の実施形態の内容を列記して説明する。本発明の実施の形態による仮想空間におけるキャラクタの制御方法は、以下のような構成を備える。
［項目１］
仮想空間における複数のパフォーマユーザが演じる複数のキャラクタ間のコミュニケーション制御方法であって、
仮想空間内に複数のキャラクタを配置するステップと、
パフォーマユーザが装着するヘッドマウントディスプレイ及びコントローラのいずれかを介した入力に基づいて、前記キャラクタを制御するステップと、
パフォーマユーザが仮想空間内において所定の作業を行うためのユーザインターフェースを表示するための指示を受信するステップと、を有し、
前記仮想空間に複数の仮想カメラが配置され、
前記ユーザインターフェースは、当該複数の仮想カメラの各々により撮像される画像を表示する領域を含む、
制御方法。
［項目２］
項目１に記載の制御方法であって、
前記ユーザインターフェースは、ユーザが所定の作業を行うアプリケーションを表示する領域を含むことを特徴とする制御方法。
［項目３］
項目２に記載の制御方法であって、
前記ユーザインターフェースの所定領域に対するユーザ入力を検出することに応じて、前記キャラクタの制御を停止すること、を特徴とする制御方法。
［項目４］
項目３に記載の制御方法であって、
前記所定の領域は、前記ユーザが所定の作業を行うアプリケーションを表示する領域であること、を特徴とする制御方法。
［項目５］
項目２に記載の制御方法であって、
前記ユーザインターフェースの所定領域に対するユーザ入力を検出することに応じて、前記キャラクタの制御を自動的に制御することに切り替えること、を特徴とする制御方法。
【００１１】
（第１の実施形態）
本発明の第１の実施形態に係るヘッドマウントディスプレイ（ＨＭＤ）システム３００の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。以下の説明では、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【００１２】
図１は、本実施形態にかかるＨＭＤシステム３００の全体構成例を示す図である。ＨＭＤシステム３００は、たとえば、ユーザが装着するＨＭＤ１１０およびコントローラ２１０、ならびにホストコンピュータとして機能する画像生成装置３１０で構成することができる。図１には、一例として、ユーザＡおよびユーザＢが装着するＨＭＤ１１０およびコントローラ２１０が表示されている。また、ＨＭＤシステム３００は、ＨＭＤ１１０やコントローラ２１０の位置、向き及び傾き等を検出するための赤外線カメラ（図示せず）等を追加することもできる。これらの装置は、相互に、有線又は無線手段により接続することができる。たとえば、各々の装置にＵＳＢポートを備え、ケーブルで接続することで通信を確立することもできるし、他に、ＨＤＭＩ、有線ＬＡＮ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＷｉＦｉ（登録商標）等の有線又は無線により通信を確立することもできる。画像生成装置３１０は、ＰＣ、ゲーム機、携帯通信端末等計算処理機能を有する装置であればよい。また、画像生成装置３１０は、生成した画像をストリーミングまたはダウンロードの形態でＨＭＤ１１０に送信することができる。ＨＭＤ１１０は、画像生成装置３１０から送信された画像を再生することができる。画像生成装置３１０は、複数のＨＭＤ１１０に対し、直接画像を送信することもできるし、他のコンテンツサーバを介して画像を送信することもできる。また、一例として、個々の画像生成装置を、各々のユーザが有するＨＭＤ、コントローラと直接またはローカルネットワークを介して接続し、生成した画像を、インターネット等のネットワークを介してサーバに送信し、サーバが他のユーザのＨＭＤに画像を送信することもできる。
【００１３】
図２は、本実施形態に係るヘッドマウントディスプレイ（以下：ＨＭＤ）１１０の外観の模式図である。ＨＭＤ１１０はユーザの頭部に装着され、ユーザの左右の眼前に配置されるよう表示パネル１２０を備える。表示パネルとしては、光学透過型と非透過型のディスプレイが考えられるが、本実施形態では、より没入感を提供可能な非透過型の表示パネルを例示する。表示パネル１２０には、左目用画像と右目用画像とが表示され、両目の視差を利用することにより立体感のある画像をユーザに提供することができる。左目用画像と右目用画像とを表示することができれば、左目用ディスプレイと右目用ディスプレイとを個別に備えることも可能であるし、左目用及び右目用の一体型のディスプレイを備えることも可能である。
【００１４】
さらに、ＨＭＤ１１０の筐体部１３０は、センサ１４０を備える。センサは、ユーザの頭部の向きや傾きといった動きを検出するために、図示しないが、たとえば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。ユーザの頭部の垂直方向をＹ軸とし、Ｙ軸と直交する軸のうち、表示パネル１２０の中心とユーザとを結ぶ、ユーザの前後方向に相当する軸をＺ軸とし、Ｙ軸及びＺ軸と直交し、ユーザの左右方向に相当する軸をＸ軸とするとき、センサ１４０は、Ｘ軸まわりの回転角（いわゆる、ピッチ角）、Ｙ軸まわりの回転角（いわゆる、ヨー角）、Ｚ軸まわりの回転角（いわゆる、ロール角）を検出することができる。
【００１５】
さらに、センサ１４０に加えて、またはセンサ１４０に代えて、ＨＭＤ１１０の筐体部１３０は、複数の光源１５０（たとえば、赤外光ＬＥＤ、可視光ＬＥＤ）を備えることもでき、ＨＭＤ１１０の外部（たとえば、室内等）に設置されたカメラ（たとえば、赤外光カメラ、可視光カメラ）がこれらの光源を検出することで、特定の空間におけるＨＭＤ１１０の位置、向き、傾きを検出することができる。または、同じ目的で、ＨＭＤ１１０に、ＨＭＤ１１０の筐体部１３０に設置された光源を検出するためのカメラを備えることもできる。
【００１６】
また、ＨＭＤ１１０には光源１５０を設けずに、ＨＭＤ１１０の外部に設置されたカメラによりＨＭＤ１１０の外観を撮影し、その撮影画像を画像解析することにより、ＨＭＤ１１０の位置、向き、傾きを検出することもできる。この場合、ＨＭＤ１１０が外部のカメラからの画像を取得して画像解析を行うようにしてもよいし、ＨＭＤ１１０とは異なるコンピュータが画像解析を行い、解析結果をＨＭＤ１１０に送信するようにしてもよい。
【００１７】
また、ＨＭＤ１１０は、本例のように、サーバや画像処理装置等の外部処理装置とネットワーク連携しながら、アプリケーションを実行し、データを送受信することもできるし、外部処理装置に依存せずに、ＨＭＤ単体として、内蔵されたプログラムを実行する、スタンドアローン型の装置として機能することもできる。
【００１８】
図３は、本実施形態に係るＨＭＤ１１０の機能構成図である。図２において述べたように、ＨＭＤ１１０は、センサ１４０を備えることができる。センサ１４０としては、ユーザの頭部の向きや傾きといった動きを検出するために、図示しないが、たとえば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。さらに精度よく、ユーザの頭部の向きや傾きといった動きを検出したり、ユーザの頭部の位置を検出したりするために、赤外光や紫外光といったＬＥＤ１５０を備えることもできる。また、ＨＭＤの外景を撮影するためのカメラ１６０を備えることができる。また、ユーザの発話を集音するためのマイク１７０、音声を出力するためのヘッドフォン１８０を備えることもできる。なお、マイクやヘッドフォンはＨＭＤ１１０とは別個独立した装置として有することもできる。
【００１９】
さらに、ＨＭＤ１１０は、たとえば、コントローラ２１０や画像生成装置３１０等の周辺装置との有線による接続を確立するための入出力部１９０を備えることができ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＷｉＦｉ（登録商標）等無線による接続を確立するための通信部１１５を備えることができる。センサ１４０により取得されたユーザの頭部の向きや傾きといった動きに関する情報は、制御部１２５によって、入出力部１９０および／または通信部１１５を介して画像生成装置３１０に送信される。画像生成装置３１０において、ユーザの頭部の動きに基づいて生成された画像は、入出力部１９０および／または通信部１１５を介して受信され、制御部１２５によって表示部１２０に出力される。
【００２０】
図４は、本実施形態に係るコントローラ２１０の外観の模式図である。ユーザはコントローラ２１０を把持して所定の指示を行う。コントローラ２１０により、仮想空間内において、ユーザが所定の入力を行うことをサポートすることができる。例えば、ユーザは、コントローラを傾けることで、仮想空間内に表示される入力キーボードの所望のキーにカーソルを当て、ボタンを押下することで、テキスト入力を行うことができる。コントローラ２１０は、左手用２２０及び右手用２３０のコントローラのセットとして構成することができる。左手用コントローラ２２０及び右手用コントローラ２３０は、各々操作用トリガーボタン２４０、赤外線ＬＥＤ２５０、センサ２６０、ジョイスティック２７０、メニューボタン２８０を有することができる。
【００２１】
操作用トリガーボタン２４０は、コントローラ２１０のグリップ２３５を把持したときに、中指及び人差し指でトリガーを引くような操作を行うことを想定した位置に２４０ａ、２４０ｂとして配置される。コントローラ２１０の両側面から下方にリング状に形成されるフレーム２４５には、複数の赤外線ＬＥＤ２５０が備えられ、コントローラ２１０の外部に備えられるカメラ（図示せず）により、これらの赤外線ＬＥＤ２５０の位置を検出することで、特定の空間におけるコントローラ２１０の位置、向き及び傾きを検出することができる。
【００２２】
なお、赤外線ＬＥＤ２５０を省略し、コントローラ２１０の外部に配されるカメラによりコントローラ２１０の外観を撮影し、撮影画像を解析することにより、コントローラ２１０の位置、向き、傾きを検出することもできる。この場合、カメラからの画像をＨＭＤ１１０に送信してＨＭＤ１１０が画像解析を行うようにしてもよいし、ＨＭＤ１１０およびコントローラ２１０とは異なるコンピュータが画像解析を行い、解析結果をＨＭＤ１１０に送信するようにしてもよい。
【００２３】
また、コントローラ２１０は、コントローラ２１０の向きや傾きといった動きを検出するために、センサ２６０を内蔵することができる。センサ２６０として、図示しないが、たとえば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。さらに、コントローラ２１０の上面には、ジョイスティック２７０及びメニューボタン２８０を備えることができる。ジョイスティック２７０は、基準点を中心に３６０度方向に動かすことができ、コントローラ２１０のグリップ２３５を把持したときに、親指で操作されることが想定される。メニューボタン２８０もまた同様に、親指で操作されることが想定される。さらに、コントローラ２１０は、コントローラ２１０を操作するユーザの手に振動を与えるためのバイブレータ（図示せず）を内蔵することもできる。ボタンやジョイスティックを介したユーザの入力内容やセンサ等を介したコントローラ２１０の位置、向き及び傾きといった情報を出力するため、また、ホストコンピュータからの情報を受信するために、コントローラ２１０は、入出力部及び通信部を有する。
【００２４】
ユーザがコントローラ２１０を把持し、各種ボタンやジョイスティックを操作することの有無、及び赤外線ＬＥＤやセンサにより検出される情報によって、システムはユーザの手の動きや姿勢を決定し、仮想空間内において擬似的にユーザの手を表示させ、動作させることができる。
【００２５】
図５は、本実施形態に係るコントローラ２１０の機能構成図である。図４において述べたように、コントローラ２１０は、左手用２２０及び右手用２３０のコントローラのセットとして構成することができるが、いずれのコントローラにおいても、操作用トリガーボタン２４０、ジョイスティック２７０、メニューボタン２８０といった操作部２４５を備えることができる。
【００２６】
また、コントローラ２１０は、コントローラ２１０の向きや傾きといった動きを検出するために、センサ２６０を内蔵することができる。センサ２６０として、図示しないが、たとえば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。
【００２７】
さらに、複数の赤外線ＬＥＤ２５０が備えられ、コントローラ外部に備えられるカメラ（図示せず）により、これらの赤外線ＬＥＤの位置を検出することで、特定の空間におけるコントローラ２１０の位置、向き及び傾きを検出するようにしてもよい。
【００２８】
コントローラ２１０は、たとえば、ＨＭＤ１１０や画像生成装置３１０等の周辺装置との有線による接続を確立するための入出力部２５５を備えることができ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＷｉＦｉ（登録商標）等無線による接続を確立するための通信部２６５を備えることができる。ユーザにより操作部２４５を介して入力された、例えば、テキスト入力情報及びセンサ２６０によって取得されたコントローラ２１０の向きや傾きといった情報は、入出力部２５５および／または通信部２６５を介して画像生成装置３１０に送信される。
【００２９】
図６は、本実施形態に係る画像生成装置３１０の機能構成図である。画像生成装置３１０としては、ＨＭＤ１１０やコントローラ２１０から送信された、ユーザ入力情報やセンサ等により取得されたユーザの頭部動きやコントローラの動きや操作に関する情報を記憶し、所定の計算処理を行い、画像を生成するための機能を有する、ＰＣ、ゲーム機及び携帯通信端末等といった装置を使用することができる。画像生成装置３１０は、たとえば、ＨＭＤ１１０やコントローラ２１０等の周辺装置との有線による接続を確立するための入出力部３２０を備えることができ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＷｉＦｉ（登録商標）等無線による接続を確立するための通信部３３０を備えることができる。入出力部３２０および／または通信部３３０を介して、ＨＭＤ１１０および／またはコントローラ２１０から受信された、ユーザの頭部の動きやコントローラの動きや操作に関する情報は、制御部３４０において、ユーザの位置、視線、姿勢等の動作、発話、操作等を含めた入力内容として検出され、ユーザの入力内容に応じて、記憶部３５０に格納された制御プログラムを実行することで、キャラクタの制御を行い、画像を生成するといった処理がなされる。制御部３４０は、ＣＰＵで構成することもできるが、画像処理に特化したＧＰＵをさらに設けることで、情報処理と画像処理を分散化し、全体の処理の効率化を図ることもできる。画像生成装置３１０はまた、他の計算処理装置と通信を行い、他の計算処理装置に情報処理や画像処理を分担させることもできる。
【００３０】
さらに、画像生成装置３１０の制御部３４０は、ＨＭＤ１１０および／またはコントローラ２１０から受信された、ユーザの頭部の動きやユーザの発話、また、コントローラ操作によるテキスト入力情報、及びコントローラの動きや操作に関する情報を検出する入力検出部６１０と、予め記憶部３５０のキャラクタデータ格納部６５０に格納されたキャラクタに対して、制御プログラム格納部に格納された制御プログラムを実行するキャラクタ制御部６２０と、キャラクタ制御に基づいて画像を生成する画像生成部６３０を有する。ここでキャラクタの動きの制御については、ＨＭＤ１１０やコントローラ２１０を介して検出されたユーザ頭部の向きや傾き、手の動きといった情報を、人間の身体の関節の動きや制約に則って作成されたボーン構造の各部の動きに変換し、予め格納されたキャラクタデータに対して、ボーン構造を関連付けることで、ボーン構造の動きを適用させることで実現される。また、制御部３４０は、仮想空間内のキャラクタや背景を撮像する仮想カメラを制御するカメラ制御部６４０を有する。
【００３１】
記憶部３５０は、上述のキャラクタデータ格納部６５０に、キャラクタのイメージデータのほか、キャラクタの属性等キャラクタに関連する情報を格納する。また、制御プログラム格納部６７０は、仮想空間におけるキャラクタの動作や表情を制御するためのプログラムを格納する。ストリーミングデータ格納部６６０は、画像生成部６３０で生成された画像を格納する。また、記憶部３５０は、ユーザが仮想空間内において所定の作業を行うためのユーザインターフェースを構成する部品等を格納するユーザインターフェース（ＵＩ）格納部６９０を有する。
【００３２】
図７は、第１の実施形態に係るＨＭＤシステムにおける処理の流れを示す図である。
画像生成装置３１０の制御部３４０の入力検出部６１０は、ＨＭＤ１１０からの入力データ、例えば、ＨＭＤ１１０を装着するユーザが所定の作業を行うためのユーザインターフェース画面を表示する要求を受信したかを確認する（Ｓ１０１）。
【００３３】
ここで、ＨＭＤ１１０またはコントローラ２１０から表示要求を受付けた場合（ＹＥＳ）、画像生成部６３０は、記憶部３５０のＵＩ格納部６９０に格納されたユーザインターフェースを構成する部品を基にユーザインターフェース画面を生成し、仮想空間内に配置されるキャラクタに対向する所定の位置にユーザインターフェース画面を配置する処理を行う（Ｓ１０２）。
【００３４】
図８に、本実施形態に係るＨＭＤ１１０に表示される仮想空間の一例を示す。図８（ａ）は、仮想空間において、複数のキャラクタが会議を行っている様子である。仮想空間８００において、各々遠隔のユーザに紐づけられるキャラクタ８０２、８０３が配置されており、各々のキャラクタを撮像する仮想カメラ８０１が配置されている。
【００３５】
Ｓ１０１において、画像生成装置３１０がキャラクタ８０２を操作するＨＭＤ１１０またはコントローラ２１０からのユーザインターフェースの表示要求を受信すると、図８（ｂ）に示すように、画像生成部６３０は、ユーザインターフェース画面８０４を生成し、仮想空間８００内のキャラクタ８０２に対向する位置に表示する処理を行う。ユーザインターフェース画面８０４は、ユーザが、メール、チャット、ドキュメント作成、及びグラフ作成等を行うためのアプリケーションを表示する領域８０５、仮想カメラ８０１が撮像する画像を表示する領域８０６、８０７を含み、領域８０６には、仮想カメラ８０１が撮像する仮想空間８００内のキャラクタ８０２の画像、領域８０７には、仮想カメラ８０１が撮像する仮想空間８００内のキャラクタ８０７が各々表示される。仮想空間８００内において他のキャラクタが配置される場合が、領域８０６、８０７をさらに分割し、他のキャラクタの画像が表示されるようにしてもよい。
【００３６】
次に、図７に戻り、画像生成装置３１０の入力検出部６１０は、ユーザインターフェースの所定の領域に対してＨＭＤ１１０またはコントローラ２１０から所定の操作を受信したかを確認する（Ｓ１０３）。
【００３７】
ＨＭＤ１１０またはコントローラ２１０から所定の操作を受信した場合（ＹＥＳ）、キャラクタ制御部６２０は、仮想空間内におけるキャラクタ動作のミュート（無効化）処理を行う（Ｓ１０４）。ここで、ミュート処理とは、例えば、音声チャット時の消音処理のように、本実施形態においては、ＨＭＤ１１０またはコントローラ２１０を介したユーザの入力内容（すなわち、動作）が仮想空間内のキャラクタの動作として表示させない処理を行うことをいい、具体的に、キャラクタ制御部６２０は、入力検出部６１０においてユーザがユーザインターフェース８０４において所定の領域に対して所定の操作を行ったことを検出すると、キャラクタ制御部６２０は、キャラクタ制御を停止させる処理を行うか、または、キャラクタの制御をＨＭＤ１１０またはコントローラ２１０から検出された入力内容によらない自動制御に切り替える処理を行う。自動制御としては、キャラクタが、事前に記憶された動作（例えば、所定時間置きに相槌を打つ等）をランダムに実行するよう制御させる等の方法が考えられる。また、ここで、ユーザインターフェースにおける所定の領域とは、例えば、図８（ｂ）に示すアプリケーションを表示する領域をさし、ユーザが仮想空間における会議中に、ドキュメント作成やメール作成のために領域８０５に対する操作を行うことが考えられる。
【００３８】
図９に、第１の実施形態に係るＨＭＤ１１０に表示される仮想空間の他の一例である。図９（ａ）は、上述の通り、ユーザが、ユーザインターフェース画面８０４の領域８０４において、メールアプリケーションを表示させ、メール作成の作業を実施する様子を示している。
【００３９】
入力検出部６１０が、ユーザが、ＨＭＤ１１０またはコントローラ２１０（またはその他ジェスチャ認識等）を介してユーザインターフェース画面８０４における領域８０５に対する操作を行ったことを検出すると、キャラクタ制御部６２０は、入力内容（例えば、ユーザが両手で仮想空間内のキーボードを使ってタイピングしているかのような動作）を基にキャラクタを制御することを停止するか、または、所定の制御に切り替えるよう処理を行う。図９（ｂ）において、キャラクタ８０２が仮想空間内において作業している動作は反映されずに、キャラクタ８０３から見ると、キャラクタ８０２はキャラクタ８０３との会話に集中しているように見える。
【００４０】
図７に戻り、ＨＭＤ１１０またはコントローラ２１０から所定の操作を受信しない場合（ＮＯ）、処理は、Ｓ１０５に進み、キャラクタ制御部６２０は、入力検出部６１０において検出されたＨＭＤ１１０またはコントローラ２１０から受信された入力内容をキャラクタの動作に反映させるよう制御を行う（Ｓ１０５）。
【００４１】
以上説明したように、本実施形態に係るＨＭＤシステム３００によれば、仮想空間において、ユーザが会議と並行的に作業を進めつつ、ユーザ同士が円滑にコミュニケーションを取ることができるような仕組みを提供することができる。
【００４２】
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。
【符号の説明】
【００４３】
１１０  ＨＭＤ
１２０  表示パネル
１３０  筐体部
１４０  センサ
１５０  光源
１６０  カメラ
１７０  マイク
１８０  ヘッドフォン
２１０  コントローラ
２２０  左手用コントローラ
２３０  右手用コントローラ
２３５  グリップ
２４０  操作用トリガーボタン
２５０  赤外線ＬＥＤ
２６０  センサ
２７０  ジョイスティック
２８０  メニューボタン
３００  ＨＭＤシステム
３１０  画像生成装置
【図１】
2020149397.tif 000003
【図２】
2020149397.tif 000004
【図３】
2020149397.tif 000005
【図４】
2020149397.tif 000006
【図５】
2020149397.tif 000007
【図６】
2020149397.tif 000008
【図７】
2020149397.tif 000009
【図８】
2020149397.tif 000010
【図９】
2020149397.tif 000011