(57)【要約】【課題】操作性を向上させ、頭部装着型表示装置の使い勝手を向上させる。【解決手段】外景とともに視認できるように表示画像を表示領域に表示する画像表示部２０と、指示位置を示すポインター３０１を画像表示部２０により表示領域３１０に表示させる表示制御部１５３と、操作を検出する６軸センサー２３５及び検出制御部１５１と、を備え、表示制御部１５３は、６軸センサー２３５及び検出制御部１５１により検出される操作により、ポインター３０１の位置を外景に対応して移動させる第１操作モードと、６軸センサー２３５及び検出制御部１５１により検出される操作により、ポインター３０１の位置を外景に対応する移動とは異なる態様で移動さる第２操作モードと、を切り替えるＨＭＤ１００。【選択図】図５
2018200415.tif 000002
【特許請求の範囲】
【請求項１】
使用者の頭部に装着される頭部装着型表示装置であって、
外景とともに視認できるように表示画像を表示領域に表示する表示部と、
指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、
操作を検出する検出部と、を備え、
前記表示制御部は、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させる第１操作モードと、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動さる第２操作モードと、を切り替える頭部装着型表示装置。
【請求項２】
前記検出部は、前記操作として第１操作と第２操作とを検出し、
前記表示制御部は、前記検出部が検出する前記第１操作に応じて前記マーカーの位置を移動させ、前記第１操作に応じた前記マーカーの移動後に、前記検出部が検出する前記第２操作に応じて、前記マーカーの位置を、前記第１操作に応じた前記マーカーの移動とは異なる態様で移動させる請求項１記載の頭部装着型表示装置。
【請求項３】
前記表示制御部は、前記第１操作により移動させた前記マーカーの位置を起点として、前記第２操作に応じて前記マーカーの位置を前記第１操作とは異なる態様で移動させる請求項２記載の頭部装着型表示装置。
【請求項４】
前記検出部は、前記使用者の動作を前記第１操作及び前記第２操作の少なくともいずれかとして検出する請求項２又は３記載の頭部装着型表示装置。
【請求項５】
前記検出部は、前記使用者の動作として、前記使用者の体軸に対する前記頭部の傾きと、前記頭部の前記体軸まわりの回転との少なくとも一方を検出し、
前記表示制御部は、前記検出部により検出される前記頭部の傾き、及び前記体軸まわりの回転の少なくとも一方に基づき、前記表示領域の鉛直方向及び水平方向のいずれか一方向における前記マーカーの移動量を決定し、決定した移動量に基づいて前記マーカーの位置を移動させる請求項４記載の頭部装着型表示装置。
【請求項６】
前記検出部は、前記頭部装着型表示装置の備える操作部が受け付ける操作を前記第１操作として検出し、前記頭部の動きを前記第２操作として検出する請求項２から５のいずれか一項記載の頭部装着型表示装置。
【請求項７】
前記外景を撮像する撮像部を備え、
前記表示制御部は、前記第１操作モードの実行中に、前記撮像部の撮像画像に基づき、前記マーカーに重なって視認される対象物体を特定し、前記第２操作モードの実行中に、前記表示領域に表示される複数の前記表示画像から前記マーカーの位置に対応する前記表示画像を特定する請求項１から６のいずれか一項記載の頭部装着型表示装置。
【請求項８】
前記表示制御部は、前記第１操作モードの実行中に、前記検出部により前記第１操作又は前記第２操作が検出された場合に、前記第１操作又は前記第２操作に応じて前記マーカーを前記使用者が視認する前記外景を基準として移動させ、
前記第２操作モードの実行中に、前記検出部により前記第１操作又は前記第２操作が検出された場合に、前記第１操作又は前記第２操作に応じて前記マーカーを前記使用者が視認する前記表示画像を基準として移動させる請求項２から７のいずれか一項記載の頭部装着型表示装置。
【請求項９】
前記表示制御部は、前記第２操作に応じて前記マーカーを移動させる場合、前記第２操作に応じて前記マーカーを移動させる移動量を、前記第１操作に応じて前記マーカーを移動させる場合の移動量より小さくすることで、前記第１操作に応じた前記マーカーの移動と、前記第２操作に応じた前記マーカーの移動とを異なる態様で移動させる請求項２記載の頭部装着型表示装置。
【請求項１０】
前記使用者が前記表示部を透過して視認する対象物体までの距離を検出する距離検出部を備え、
前記表示制御部は、前記距離検出部が検出する前記対象物体までの距離に応じて、前記マーカーを異なる態様で移動させる請求項１から５のいずれか一項記載の頭部装着型表示装置。
【請求項１１】
前記表示制御部は、前記距離検出部が検出する前記対象物体までの距離がしきい値よりも大きい場合に、前記検出部が検出する操作を前記第１操作とし、前記距離検出部が検出する前記対象物体までの距離がしきい値以下である場合に、前記検出部が検出する操作を前記第２操作とし、
前記第１操作により前記マーカーを移動させる移動量を、前記第２操作により前記マーカーを移動させる移動量よりも小さくする請求項１０記載の頭部装着型表示装置。
【請求項１２】
使用者の頭部に装着される頭部装着型表示装置であって、
外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、
前記外景を撮像する撮像部と、
指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、を備え、
前記表示制御部は、前記撮像部の撮像画像に基づき、前記マーカーに重なって視認される対象物体を特定する第１操作モードと、前記表示領域に表示される複数の前記表示画像から前記マーカーの位置に対応する前記表示画像を特定する第２操作モードとを切り替えて実行する頭部装着型表示装置。
【請求項１３】
操作を検出する検出部を備え、
前記表示制御部は、前記第１操作モードの実行中に、前記検出部により操作が検出された場合に、検出された前記操作に応じて前記マーカーを前記使用者が視認する前記外景を基準として移動させ、
前記第２操作モードの実行中に、前記検出部により操作が検出された場合に、検出された前記操作に応じて前記マーカーを前記使用者が視認する前記表示画像を基準として移動させる請求項１２記載の頭部装着型表示装置。
【請求項１４】
前記検出部は、頭部装着型表示装置の備える操作部が受け付ける操作を第１操作として検出し、前記使用者の頭部の動きを第２操作として検出し、
前記表示制御部は、前記検出部が検出する前記第１操作に応じて前記マーカーの位置を移動させ、前記第１操作に応じた前記マーカーの位置の移動後に、前記検出部が検出する前記第２操作に応じて前記マーカーの位置を移動させ、
前記第２操作に応じて前記マーカーを移動させる場合の移動量を、前記第１操作に応じて前記マーカーを移動させる場合の移動量よりも小さくする請求項１２又は１３記載の頭部装着型表示装置。
【請求項１５】
前記表示制御部は、前記第１操作モードの実行中に、前記外景を基準した前記マーカーの移動方向を示す表示を表示させ、前記第２操作モードの実行中に、前記表示画像を基準とした前記マーカーの移動方向を示す表示を表示させる請求項１３又は１４記載の頭部装着型表示装置。
【請求項１６】
前記表示制御部は、前記マーカーの表示位置を、前記表示領域での座標により管理し、前記検出部が検出する操作が無効に設定されると、前記マーカーの表示位置を、実空間に対応した３次元空間の座標に対応付けて管理する請求項１２又は１３記載の頭部装着型表示装置。
【請求項１７】
操作を受け付ける操作部を備え、
前記表示制御部は、前記撮像部の撮像画像に基づいて移動する移動物体を検出し、検出した前記移動物体に対応する前記表示領域の位置に前記マーカーを表示させる請求項１２から１６のいずれか一項記載の頭部装着型表示装置。
【請求項１８】
前記対象物体に配置された識別マークを検出するマーク検出部を備え、
前記表示制御部は、前記マーク検出部により検出された前記識別マークが配置された前記対象物体の位置に前記マーカーを表示させ、前記検出部により検出される操作に応じて前記マーカーの位置を移動させる請求項１２から１７のいずれか一項記載の頭部装着型表示装置。
【請求項１９】
前記対象物体に配置されたビーコン送信機から送信されるビーコン信号を受信する受信部を備え、
前記表示制御部は、前記受信部により受信したビーコン信号に基づき前記ビーコン送信機に接続し、前記送信機から送信される付加情報を受信して前記表示領域に表示させる請求項１２から１８のいずれか一項記載の頭部装着型表示装置。
【請求項２０】
外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、操作を検出する検出部と、を備え、使用者の頭部に装着される頭部装着型表示装置に実装されるコンピューターに実行させるプログラムであって、
コンピューターに、
前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させる手順と、
前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動させる手順と、
を実行させるためのプログラム。
【請求項２１】
外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、操作を検出する検出部と、を備え、使用者の頭部に装着される頭部装着型表示装置の制御方法であって、
前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させるステップと、
前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動させるステップと、
を有する頭部装着型表示装置の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法に関する。
【背景技術】
【０００２】
従来、マーカーを移動操作して、例えば、表示されたメニューを選択したり、表示されたオブジェクトを指定したりするポインティングデバイスが知られている。ポインティングデバイスとして、使用者の頭部の動きを検出し、検出した頭部の動きに応じてマーカーを移動操作することも行われている（例えば、特許文献１参照）。
特許文献１は、頭部に装着された複数個の発信装置から発信される超音波や、電磁波等に基づいて頭部の位置や向きの変化を検出し、検出した頭部の位置や向きの変化に対応してディスプレイ上の特定の位置を指示する頭部駆動型ポインティング装置を開示する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平６−１８７０９２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、頭部装着型表示装置において頭部の動きによりマーカーを操作する場合、使用者はマーカーを移動させる間、頭部を傾け続けなければならず、無理な体勢を維持し続けなければならない場合があった。また、トラックパッド等の操作部を操作して、マーカーを目的の位置に移動させる場合、操作部が固定されていないと、使用者がイメージした通りにマーカーを動かすことは容易ではなく、操作性を欠くという課題がある。このため、頭部装着型表示装置の操作性の向上が望まれていた。
本発明は、操作性を向上させて、頭部装着型表示装置の使い勝手を向上させることを目的とする。
【課題を解決するための手段】
【０００５】
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置であって、外景とともに視認できるように表示画像を表示領域に表示する表示部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、操作を検出する検出部と、を備え、前記表示制御部は、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させる第１操作モードと、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動さる第２操作モードと、を切り替える。
本発明によれば、マーカーの位置を外景に対応して移動させる第１操作モードと、外景に対応する移動とは異なる態様で移動させる第２操作モードとを切り替えて実行することができる。このため、マーカーを複数の態様で移動させることができ、マーカーの操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【０００６】
また、本発明は、前記検出部は、前記操作として第１操作と第２操作とを検出し、前記表示制御部は、前記検出部が検出する前記第１操作に応じて前記マーカーの位置を移動させ、前記第１操作に応じた前記マーカーの移動後に、前記検出部が検出する前記第２操作に応じて、前記マーカーの位置を、前記第１操作に応じた前記マーカーの移動とは異なる態様で移動させる。
本発明によれば、第１操作及び第２操作の複数の操作によりマーカーの位置を移動させることができ、また、第１操作と第２操作とで異なる態様でマーカーを移動させることができる。このため、マーカーの操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【０００７】
また、本発明は、前記表示制御部は、前記第１操作により移動させた前記マーカーの位置を起点として、前記第２操作に応じて前記マーカーの位置を前記第１操作とは異なる態様で移動させる。
本発明によれば、第１操作により移動させたマーカーの位置を起点として、第２操作によりポインターの位置を移動させることができる。
【０００８】
また、本発明は、前記検出部は、前記使用者の動作を前記第１操作及び前記第２操作の少なくともいずれかとして検出する。
本発明によれば、使用者の動作が第１操作及び第２操作の少なくともいずれかとして検出されるので、動作によってマーカーの位置を移動させることができる。
【０００９】
また、本発明は、前記検出部は、前記使用者の動作として、前記使用者の体軸に対する前記頭部の傾きと、前記頭部の前記体軸まわりの回転との少なくとも一方を検出し、前記表示制御部は、前記検出部により検出される前記頭部の傾き、及び前記体軸まわりの回転の少なくとも一方に基づき、前記表示領域の鉛直方向及び水平方向のいずれか一方向における前記マーカーの移動量を決定し、決定した移動量に基づいて前記マーカーの位置を移動させる請求項４記載の頭部装着型表示装置。
本発明によれば、使用者の頭部の傾き、又は頭部の体軸まわりの回転により、表示領域の鉛直方向及び水平方向のいずれか一方向におけるマーカーの移動量が決定される。このため、使用者の頭部の傾き、又は頭部の体軸まわりの回転によりマーカーを移動させることができる。
【００１０】
また、本発明は、前記検出部は、前記頭部装着型表示装置の備える操作部が受け付ける操作を前記第１操作として検出し、前記頭部の動きを前記第２操作として検出する。
本発明によれば、操作部の操作を第１操作として検出し、頭部の動きを第２操作として検出するため、操作部の操作及び頭部の動きによりマーカーの位置を移動させることができる。
【００１１】
また、本発明は、前記外景を撮像する撮像部を備え、前記表示制御部は、前記第１操作モードの実行中に、前記撮像部の撮像画像に基づき、前記マーカーに重なって視認される対象物体を特定し、前記第２操作モードの実行中に、前記表示領域に表示される複数の前記表示画像から前記マーカーの位置に対応する前記表示画像を特定する。
本発明によれば、第１操作モードの実行中に、マーカーに重なって視認される対象物体を特定し、第２操作モードの実行中に、マーカーの位置に対応する表示画像を特定する。このため、操作モードを変更することで、特定する対象を対象物体又は表示画像に変更することができる。
【００１２】
また、本発明は、前記表示制御部は、前記第１操作モードの実行中に、前記検出部により前記第１操作又は前記第２操作が検出された場合に、前記第１操作又は前記第２操作に応じて前記マーカーを前記使用者が視認する前記外景を基準として移動させ、前記第２操作モードの実行中に、前記検出部により前記第１操作又は前記第２操作が検出された場合に、前記第１操作又は前記第２操作に応じて前記マーカーを前記使用者が視認する前記表示画像を基準として移動させる。
本発明によれば、第１操作モードの実行中に検出された第１操作又は第２操作に応じてマーカーを使用者が視認する外景を基準として移動させ、第２操作モードの実行中に検出された第１操作又は第２操作に応じてマーカーを使用者が視認する表示画像を基準として移動させる。このため、操作モードを切り替えることで、対象物体又は表示画像に対するマーカーの位置合わせが容易になる。
【００１３】
また、本発明は、前記表示制御部は、前記第２操作に応じて前記マーカーを移動させる場合、前記第２操作に応じて前記マーカーを移動させる移動量を、前記第１操作に応じて前記マーカーを移動させる場合の移動量より小さくすることで、前記第１操作に応じた前記マーカーの移動と、前記第２操作に応じた前記マーカーの移動とを異なる態様で移動させる。
本発明によれば、第２操作に応じて移動させるポインターの移動量が、第１操作に応じて移動させるポインターの移動量よりも小さい。このため、第２操作よりも移動量が大きい第１操作によりポインターを移動させた後に、第１操作よりも移動量が小さい第２操作によりポインターを移動させることで、ポインターを対象物体又は表示画像の位置に移動させるための操作回数を低減することができる。
【００１４】
また、本発明は、前記使用者が前記表示部を透過して視認する対象物体までの距離を検出する距離検出部を備え、前記表示制御部は、前記距離検出部が検出する前記対象物体までの距離に応じて、前記マーカーを異なる態様で移動させる。
本発明によれば、対象物体までの距離に応じて、ポインターを異なる態様で移動させることができる。このため、ポインターの操作の操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【００１５】
また、本発明は、前記表示制御部は、前記距離検出部が検出する前記対象物体までの距離がしきい値よりも大きい場合に、前記検出部が検出する操作を前記第１操作とし、前記距離検出部が検出する前記対象物体までの距離がしきい値以下である場合に、前記検出部が検出する操作を前記第２操作とし、前記第１操作により前記マーカーを移動させる移動量を、前記第２操作により前記マーカーを移動させる移動量よりも小さくする。
本発明によれば、対象物体までの距離がしきい値より大きい場合には、移動量が第２操作より大きい第１操作が検出され、対象物体までの距離がしきい値以下の場合には、移動量が第１操作より小さい第２操作が検出される。このため、対象物体までの距離に応じてマーカーの移動に使用される操作を変更することができ、マーカーの移動量を変更することができる。従って、マーカーの操作の操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【００１６】
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置であって、外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、前記外景を撮像する撮像部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、を備え、前記表示制御部は、前記撮像部の撮像画像に基づき、前記マーカーに重なって視認される対象物体を特定する第１操作モードと、前記表示領域に表示される複数の前記表示画像から前記マーカーの位置に対応する前記表示画像を特定する第２操作モードとを切り替えて実行する。
本発明によれば、第１操作モードにより、マーカーに重なって視認される対象物体が特定され、第２操作モードにより、マーカーの位置に対応する表示画像が特定される。このため、操作モードを第１操作モード又は第２操作モードに変更することで、特定可能な対象を切り替えることができる。
【００１７】
また、本発明は、操作を検出する検出部を備え、前記表示制御部は、前記第１操作モードの実行中に、前記検出部により操作が検出された場合に、検出された前記操作に応じて前記マーカーを前記使用者が視認する前記外景を基準として移動させ、前記第２操作モードの実行中に、前記検出部により操作が検出された場合に、検出された前記操作に応じて前記マーカーを前記使用者が視認する前記表示画像を基準として移動させる。
本発明によれば、第１操作モードの実行中に検出された操作に応じてマーカーを使用者が視認する外景を基準として移動させ、第２操作モードの実行中に検出された操作に応じてマーカーを使用者が視認する表示画像を基準として移動させる。このため、操作モードを第１操作モード又は第２操作モードに変更することで、マーカーを移動させるときの基準を変更することができ、マーカーを対象物体又は表示画像に位置合わせしやすくなる。
【００１８】
また、本発明は、前記検出部は、頭部装着型表示装置の備える操作部が受け付ける操作を第１操作として検出し、前記使用者の頭部の動きを第２操作として検出し、前記表示制御部は、前記検出部が検出する前記第１操作に応じて前記マーカーの位置を移動させ、前記第１操作に応じた前記マーカーの位置の移動後に、前記検出部が検出する前記第２操作に応じて前記マーカーの位置を移動させ、前記第２操作に応じて前記マーカーを移動させる場合の移動量を、前記第１操作に応じて前記マーカーを移動させる場合の移動量よりも小さくする。
本発明によれば、第２操作に応じて移動させるマーカーの移動量が、第１操作に応じて移動させるマーカーの移動量よりも小さい。このため第２操作よりも移動量が大きい第１操作によりマーカーを移動させた後に、第１操作よりも移動量が小さい第２操作によりマーカーを移動させることで、マーカーを対象物体又は表示画像の位置に移動させるための操作回数を低減することができる。
【００１９】
また、本発明は、前記表示制御部は、前記第１操作モードの実行中に、前記外景を基準した前記マーカーの移動方向を示す表示を表示させ、前記第２操作モードの実行中に、前記表示画像を基準とした前記マーカーの移動方向を示す表示を表示させる。
本発明によれば、第１操作モードの実行中には、外景を基準したマーカーの移動方向が表示され、第２操作モードの実行中には、表示画像を基準としたマーカーの移動方向が表示される。従って、第１操作モード及び第２操作モードでのマーカーの移動方向を使用者に認識させることができる。
【００２０】
また、本発明は、前記表示制御部は、前記マーカーの表示位置を、前記表示領域での座標により管理し、前記検出部が検出する操作が無効に設定されると、前記マーカーの表示位置を、実空間に対応した３次元空間の座標に対応付けて管理する。
本発明によれば、マーカーの表示位置を、表示領域での座標により管理し、検出部が検出する操作が無効に設定されると、マーカーの表示位置を、実空間に対応した３次元空間の座標に対応付けて管理する。従って、第２操作が無効にされた場合に、マーカーの表示位置が、実空間に対応した３次元空間の座標に対応付けて管理されるので、頭部の動きが検出されても、マーカーの表示位置が変更されることがない。
【００２１】
また、本発明は、操作を受け付ける操作部を備え、前記表示制御部は、前記撮像部の撮像画像に基づいて移動する移動物体を検出し、検出した前記移動物体に対応する前記表示領域の位置に前記マーカーを表示させる。
本発明によれば、撮像部の撮像画像から移動物体を検出して、移動物体に対応する表示領域の位置にマーカーを表示させることができる。
【００２２】
また、本発明は、前記対象物体に配置された識別マークを検出するマーク検出部を備え、前記表示制御部は、前記マーク検出部により検出された前記識別マークが配置された前記対象物体の位置に前記マーカーを表示させ、前記検出部により検出される操作に応じて前記マーカーの位置を移動させる。
本発明によれば、識別マークが配置された対象物体の位置にマーカーを表示させ、表示させたマーカーの位置を操作により移動させることができる。このため、マーカーの位置合わせを簡易に行うことができる。
【００２３】
また、本発明は、前記対象物体に配置されたビーコン送信機から送信されるビーコン信号を受信する受信部を備え、前記表示制御部は、前記受信部により受信したビーコン信号に基づき前記ビーコン送信機に接続し、前記送信機から送信される付加情報を受信して前記表示領域に表示させる。
本発明によれば、ビーコン送信機から送信されるビーコン信号に基づいてビーコン送信機に接続し、ビーコン送信機から付加情報を取得して表示させることができる。
【００２４】
上記課題を解決するため、本発明は、外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、操作を検出する検出部と、を備え、使用者の頭部に装着される頭部装着型表示装置に実装されるコンピューターに実行させるプログラムであって、コンピューターに、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させる手順と、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動させる手順と、を実行させる。
本発明によれば、検出部により検出される操作によりマーカーの位置を外景に対応して移動させる手順と、検出部により検出される操作によりマーカーの位置を外景に対応する移動とは異なる態様で移動させる手順とを切り替えることができる。従って、マーカーの位置を複数の態様で移動させることができ、マーカーの操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【００２５】
上記課題を解決するため、本発明は、外景を透過し、前記外景とともに視認できるように表示画像を表示領域に表示する表示部と、指示位置を示すマーカーを前記表示部により前記表示領域に表示させる表示制御部と、操作を検出する検出部と、を備え、使用者の頭部に装着される頭部装着型表示装置の制御方法であって、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応して移動させるステップと、前記検出部が検出する前記操作により、前記マーカーの位置を前記外景に対応する移動とは異なる態様で移動させるステップと、を有する。
本発明によれば、検出部により検出される操作によりマーカーの位置を外景に対応して移動させるステップと、検出部により検出される操作によりマーカーの位置を外景に対応する移動とは異なる態様で移動させるステップとを切り替えることができる。従って、マーカーの位置を複数の態様で移動させることができ、マーカーの操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【図面の簡単な説明】
【００２６】
【図１】ＨＭＤの外観図。
【図２】ＨＭＤの光学系の構成を示す要部平面図。
【図３】画像表示部の構成を示す斜視図。
【図４】ＨＭＤのブロック図。
【図５】制御装置の機能ブロック図。
【図６】使用者の頭部のＺ軸まわりの回転を説明するための説明図。
【図７】使用者の頭部のＹ軸まわりの回転を説明するための説明図。
【図８】使用者の頭部のＸ軸まわりの回転を説明するための説明図。
【図９】画像表示部を装着した使用者の視界を示す図。
【図１０】画像表示部を装着した使用者の視界を説明するための説明図。
【図１１】画像表示部を装着した使用者の視界を説明するための説明図。
【図１２】画像表示部を装着した使用者の視界を説明するための説明図。
【図１３】画像表示部を装着した使用者の視界を説明するための説明図。
【図１４】画像表示部を装着した使用者の視界を説明するための説明図。
【図１５】画像表示部を装着した使用者の視界を説明するための説明図。
【図１６】画像表示部を装着した使用者の視界を説明するための説明図。
【図１７】画像表示部を装着した使用者の視界を説明するための説明図。
【図１８】画像表示部を装着した使用者の視界を説明するための説明図。
【図１９】画像表示部を装着した使用者の視界を説明するための説明図。
【図２０】ターゲットまでの距離と、ポインターの移動距離との関係を説明するための説明図。
【図２１】ＨＭＤの動作を示すフローチャート。
【図２２】使用者の靴底又は靴内部に装着した検知装置の配置を説明するための説明図。
【図２３】使用者の靴底又は靴内部に装着した検知装置の配置を説明するための説明図。
【図２４】使用者の靴底又は靴内部に装着した検知装置の配置を説明するための説明図。
【発明を実施するための形態】
【００２７】
［第１実施形態］
図１は、本発明を適用したＨＭＤ（Ｈｅａｄ  Ｍｏｕｎｔｅｄ  Ｄｉｓｐｌａｙ：頭部装着型表示装置）１００の外観構成を示す外観図である。
ＨＭＤ１００は、使用者（ユーザー）の頭部に装着された状態で使用者に虚像を視認させる画像表示部２０（表示部）と、画像表示部２０を制御する制御装置１０と、を備える表示装置である。
【００２８】
制御装置１０は、図１に示すように平たい箱形のケース１０Ａ（筐体又は本体ともいえる）を備える。ケース１０Ａは、ボタン１１、ＬＥＤインジケーター１２、トラックパッド１４、上下キー１５、切替スイッチ１６及び電源スイッチ１８の各部を備える。ボタン１１、トラックパッド１４、上下キー１５、切替スイッチ１６及び電源スイッチ１８は、使用者により操作される被操作部である。また、ＬＥＤインジケーター１２は、例えばＨＭＤ１００の動作状態を示す副表示部として機能する。使用者は、被操作部を操作することにより、ＨＭＤ１００を操作できる。制御装置１０は、ＨＭＤ１００のコントローラーとして機能する。
【００２９】
画像表示部２０は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部２０は、右保持部２１と、左保持部２３と、前部フレーム２７とを有する本体に、右表示ユニット２２、左表示ユニット２４、右導光板２６及び左導光板２８を備える。
右保持部２１及び左保持部２３は、それぞれ、前部フレーム２７の両端部から後方に延び、眼鏡のテンプル（つる）のように、使用者の頭部に画像表示部２０を保持する。ここで、前部フレーム２７の両端部のうち、画像表示部２０の装着状態において使用者の右側に位置する端部を端部ＥＲとし、使用者の左側に位置する端部を端部ＥＬとする。右保持部２１は、前部フレーム２７の端部ＥＲから、画像表示部２０の装着状態において使用者の右側頭部に対応する位置まで延伸して設けられる。左保持部２３は、端部ＥＬから、画像表示部２０の装着状態において使用者の左側頭部に対応する位置まで延伸して設けられる。
【００３０】
右導光板２６及び左導光板２８は、前部フレーム２７に設けられる。右導光板２６は、画像表示部２０の装着状態において使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板２８は、画像表示部２０の装着状態において使用者の左眼の眼前に位置し、左眼に画像を視認させる。
【００３１】
前部フレーム２７は、右導光板２６の一端と左導光板２８の一端とを互いに連結した形状を有し、この連結位置は、使用者が画像表示部２０を装着する装着状態で、使用者の眉間に対応する。前部フレーム２７は、右導光板２６と左導光板２８との連結位置において、画像表示部２０の装着状態で使用者の鼻に当接する鼻当て部を設けてもよい。この場合、鼻当て部と、右保持部２１及び左保持部２３により画像表示部２０を使用者の頭部に保持できる。また、右保持部２１及び左保持部２３に、画像表示部２０の装着状態において使用者の後頭部に接するベルト（図示略）を連結してもよく、この場合、ベルトによって画像表示部２０を使用者の頭部に保持できる。
【００３２】
右表示ユニット２２は、右導光板２６による画像の表示を実現する。右表示ユニット２２は、右保持部２１に設けられ、装着状態において使用者の右側頭部の近傍に位置する。左表示ユニット２４は、左導光板２８による画像の表示を実現する。左表示ユニット２４は、左保持部２３に設けられ、装着状態において使用者の左側頭部の近傍に位置する。
【００３３】
本実施形態の右導光板２６及び左導光板２８は、光透過性の樹脂等によって形成される光学部であり、例えばプリズムであり、右表示ユニット２２及び左表示ユニット２４が出力する画像光を、使用者の眼に導く。
右導光板２６及び左導光板２８の表面に、調光板（図示略）を設けてもよい。調光板は、光の波長域により透過率が異なる薄板上の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、使用者の眼の側と反対の側である前部フレーム２７の表側を覆うように配置される。この調光板の光学特性を適宜選択することにより、可視光、赤外光及び紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板２６及び左導光板２８に入射し、右導光板２６及び左導光板２８を透過する外光の光量を調整できる。
【００３４】
画像表示部２０は、右表示ユニット２２及び左表示ユニット２４がそれぞれ生成する画像光を、右導光板２６及び左導光板２８に導く光学系を備える（図２参照）。右導光板２６及び左導光板２８に導かれた画像光は使用者の右眼と左眼に入射して、使用者に虚像を視認させる。これにより、画像表示部２０は画像を表示する。
【００３５】
使用者の前方から、右導光板２６及び左導光板２８を透過して外光が使用者の眼に入射する場合、使用者の眼には、虚像を構成する画像光及び外光が入射することとなり、虚像の視認性が外光の強さに影響される。このため、例えば前部フレーム２７に調光板を装着し、調光板の光学特性を適宜選択又は調整することによって、虚像の視認のしやすさを調整できる。典型的な例では、ＨＭＤ１００を装着した使用者が少なくとも外の景色を視認できる程度の光透過性を有する調光板を用いることができる。また、調光板を用いると、右導光板２６及び左導光板２８を保護し、右導光板２６及び左導光板２８の損傷や汚れの付着等を抑制する効果が期待できる。調光板は、前部フレーム２７、又は、右導光板２６及び左導光板２８のそれぞれに対し着脱可能としてもよく、複数種類の調光板を交換して装着可能としてもよく、調光板を省略してもよい。
【００３６】
カメラ６１は、画像表示部２０の前部フレーム２７に配設される。カメラ６１の構成及び配置は、使用者が画像表示部２０を装着した状態で視認する外景方向を撮像するように決められる。例えば、カメラ６１は、前部フレーム２７の前面において、右導光板２６及び左導光板２８を透過する外光を遮らない位置に設けられる。図１の例で、カメラ６１は、前部フレーム２７の端部ＥＲ側に配置されるが、カメラ６１を端部ＥＬ側に配置してもよく、また、右導光板２６と左導光板２８との連結部に配置してもよい。
カメラ６１は、本発明の「撮像部」に相当する。
【００３７】
カメラ６１は、ＣＣＤやＣＭＯＳ等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。本実施形態のカメラ６１は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ６１は、ＨＭＤ１００の表側方向、換言すれば、ＨＭＤ１００を装着した状態における使用者の視界方向の少なくとも一部の外景（実空間）を撮像する。別の表現では、カメラ６１は、使用者の視界と重なる範囲又は方向を撮像し、使用者が注視する方向を撮像する。カメラ６１の画角の方向及び広さは適宜設定可能である。本実施形態では、後述するように、カメラ６１の画角が、使用者が右導光板２６及び左導光板２８を通して視認する外界を含む。より好ましくは、カメラ６１の画角は、右導光板２６及び左導光板２８を透過して視認可能な使用者の視界の全体を撮像できるように設定される。
カメラ６１は、制御部１５０（図５）が備える撮像制御部１４７の制御に従って撮像を実行する。カメラ６１は、撮像画像データを、後述するインターフェイス２１１を介して制御部１５０に出力する。
【００３８】
ＨＭＤ１００は、予め設定された測定方向に位置する測定対象物までの距離を検出する距離センサー（図示略）を備えてもよい。距離センサーは、例えば、前部フレーム２７において右導光板２６と左導光板２８との連結部分に配置できる。この場合、画像表示部２０の装着状態において、距離センサーの位置は、水平方向では使用者の両眼のほぼ中間であり、鉛直方向では使用者の両眼より上である。距離センサーの測定方向は、例えば、前部フレーム２７の表側方向とすることができ、言い換えればカメラ６１の撮像方向と重複する方向である。距離センサーは、例えば、ＬＥＤやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する構成とすることができる。距離センサーは、制御部１５０の制御に従い、三角測距処理や時間差に基づく測距処理を実行すればよい。また、距離センサーは、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える構成としてもよい。この場合、距離センサーは、制御部１５０の制御に従い、超音波の反射までの時間差に基づき測距処理を実行すればよい。
【００３９】
図２は、画像表示部２０が備える光学系の構成を示す要部平面図である。図２には説明のため使用者の左眼ＬＥ及び右眼ＲＥを図示する。
図２に示すように、右表示ユニット２２及び左表示ユニット２４は、左右対称に構成される。右表示ユニット２２は、使用者の右眼ＲＥに画像を視認させる構成として、画像光を発するＯＬＥＤ（Ｏｒｇａｎｉｃ  Ｌｉｇｈｔ  Ｅｍｉｔｔｉｎｇ  Ｄｉｏｄｅ）ユニット２２１と、ＯＬＥＤユニット２２１が発する画像光Ｌを導くレンズ群等を備えた右光学系２５１とを備える。画像光Ｌは、右光学系２５１により右導光板２６に導かれる。
【００４０】
ＯＬＥＤユニット２２１は、ＯＬＥＤパネル２２３と、ＯＬＥＤパネル２２３を駆動するＯＬＥＤ駆動回路２２５とを有する。ＯＬＥＤパネル２２３は、有機エレクトロルミネッセンスにより発光してＲ（赤）、Ｇ（緑）、Ｂ（青）の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される自発光型の表示パネルである。ＯＬＥＤパネル２２３は、Ｒ、Ｇ、Ｂの素子を１個ずつ含む単位を１画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。ＯＬＥＤ駆動回路２２５は、制御部１５０（図５）の制御に従って、ＯＬＥＤパネル２２３が備える発光素子の選択及び発光素子への通電を実行して、ＯＬＥＤパネル２２３の発光素子を発光させる。ＯＬＥＤ駆動回路２２５は、ＯＬＥＤパネル２２３の裏面すなわち発光面の裏側に、ボンディング等により固定される。ＯＬＥＤ駆動回路２２５は、例えばＯＬＥＤパネル２２３を駆動する半導体デバイスで構成され、ＯＬＥＤパネル２２３の裏面に固定される基板（図示略）に実装されてもよい。この基板には温度センサー２１７が実装される。
なお、ＯＬＥＤパネル２２３は、白色に発光する発光素子をマトリクス状に配置し、Ｒ、Ｇ、Ｂの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、Ｒ、Ｇ、Ｂの色光をそれぞれ放射する発光素子に加え、Ｗ（白）の光を発する発光素子を備えるＷＲＧＢ構成のＯＬＥＤパネル２２３を用いてもよい。
【００４１】
右光学系２５１は、ＯＬＥＤパネル２２３から射出された画像光Ｌを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Ｌは、右導光板２６に入射される。右導光板２６の内部において光を導く光路には、画像光Ｌを反射する複数の反射面が形成される。画像光Ｌは、右導光板２６の内部で複数回の反射を経て右眼ＲＥ側に導かれる。右導光板２６には、右眼ＲＥの眼前に位置するハーフミラー２６１（反射面）が形成される。画像光Ｌは、ハーフミラー２６１で反射して右眼ＲＥに向けて右導光板２６から射出され、この画像光Ｌが右眼ＲＥの網膜に像を結び、使用者に画像を視認させる。
【００４２】
また、左表示ユニット２４は、使用者の左眼ＬＥに画像を視認させる構成として、画像光を発するＯＬＥＤユニット２４１と、ＯＬＥＤユニット２４１が発する画像光Ｌを導くレンズ群等を備えた左光学系２５２とを備える。画像光Ｌは、左光学系２５２により左導光板２８に導かれる。
【００４３】
ＯＬＥＤユニット２４１は、ＯＬＥＤパネル２４３と、ＯＬＥＤパネル２４３を駆動するＯＬＥＤ駆動回路２４５とを有する。ＯＬＥＤパネル２４３は、ＯＬＥＤパネル２２３と同様に構成される自発光型の表示パネルである。ＯＬＥＤ駆動回路２４５は、制御部１５０（図５）の制御に従って、ＯＬＥＤパネル２４３が備える発光素子の選択及び発光素子への通電を実行して、ＯＬＥＤパネル２４３の発光素子を発光させる。ＯＬＥＤ駆動回路２４５は、ＯＬＥＤパネル２４３の裏面すなわち発光面の裏側に、ボンディング等により固定される。ＯＬＥＤ駆動回路２４５は、例えばＯＬＥＤパネル２４３を駆動する半導体デバイスで構成され、ＯＬＥＤパネル２４３の裏面に固定される基板（図示略）に実装されてもよい。この基板には、温度センサー２３９が実装される。
【００４４】
左光学系２５２は、ＯＬＥＤパネル２４３から射出された画像光Ｌを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Ｌは、左導光板２８に入射する。左導光板２８は、画像光Ｌを反射する複数の反射面が形成された光学素子であり、例えばプリズムである。画像光Ｌは、左導光板２８の内部で複数回の反射を経て左眼ＬＥ側に導かれる。左導光板２８には、左眼ＬＥの眼前に位置するハーフミラー２８１（反射面）が形成される。画像光Ｌは、ハーフミラー２８１で反射して左眼ＬＥに向けて左導光板２８から射出され、この画像光Ｌが左眼ＬＥの網膜に像を結び、使用者に画像を視認させる。
【００４５】
この構成によれば、ＨＭＤ１００は、シースルー型の表示装置として機能する。すなわち、使用者の右眼ＲＥには、ハーフミラー２６１で反射した画像光Ｌと、右導光板２６を透過した外光ＯＬとが入射する。また、左眼ＬＥには、ハーフミラー２８１で反射した画像光Ｌと、ハーフミラー２８１を透過した外光ＯＬとが入射する。このように、ＨＭＤ１００は、内部で処理した画像の画像光Ｌと外光ＯＬとを重ねて使用者の眼に入射させ、使用者にとっては、右導光板２６及び左導光板２８を透かして外景が見え、この外景に重ねて、画像光Ｌによる画像が視認される。
ハーフミラー２６１、２８１は、右表示ユニット２２及び左表示ユニット２４がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
【００４６】
なお、左光学系２５２と左導光板２８とを総称して「左導光部」とも呼び、右光学系２５１と右導光板２６とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
【００４７】
図１に戻り、制御装置１０及び画像表示部２０は、接続ケーブル４０により接続される。接続ケーブル４０は、ケース１０Ａの下部に設けられるコネクター（図示略）に着脱可能に接続され、左保持部２３の先端から、画像表示部２０の内部に設けられる各種回路に接続する。接続ケーブル４０は、デジタルデータを伝送するメタルケーブル又は光ファイバーケーブルを有し、アナログ信号を伝送するメタルケーブルを有していてもよい。接続ケーブル４０の途中には、コネクター４６が設けられる。コネクター４６は、ステレオミニプラグを接続するジャックであり、コネクター４６及び制御装置１０は、例えばアナログ音声信号を伝送するラインで接続される。図１に示す構成例では、ステレオヘッドホンを構成する右イヤホン３２と左イヤホン３４、及びマイク６３を有するヘッドセット３０が、コネクター４６に接続される。
制御装置１０と画像表示部２０とを無線接続してもよい。例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）、無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）を含む）等の規格に準拠した無線通信により、制御装置１０と画像表示部２０とが制御信号やデータを相互に送受信する構成としてもよい。
【００４８】
マイク６３は、例えば図１に示すように、マイク６３の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を音声インターフェイス１８２（図４）に出力する。マイク６３は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
【００４９】
制御装置１０は、使用者により操作される被操作部として、ボタン１１、ＬＥＤインジケーター１２、トラックパッド１４、上下キー１５、切替スイッチ１６、及び電源スイッチ１８を備える。これらの被操作部はケース１０Ａの表面に配置される。
【００５０】
ボタン１１は、制御装置１０を操作するためのキーやスイッチを備え、これらのキーやスイッチは押圧操作により変位する。例えば、ボタン１１は、制御装置１０が実行するオペレーティングシステム１４３（図５参照）等に関する操作を行うためのメニューキー、ホームキー、「戻る」キーを含む。
ＬＥＤインジケーター１２は、ＨＭＤ１００の動作状態に対応して点灯し、又は点滅する。上下キー１５は、右イヤホン３２及び左イヤホン３４から出力する音量の増減の指示入力や、画像表示部２０の表示の明るさの増減の指示入力に利用される。切替スイッチ１６は、上下キー１５の操作に対応する入力を切り替えるスイッチである。電源スイッチ１８は、ＨＭＤ１００の電源のオン／オフを切り替えるスイッチであり、例えばスライドスイッチである。
【００５１】
トラックパッド１４は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式或いは他の方式を採用できる。トラックパッド１４への接触（タッチ操作）は、タッチセンサー（図示略）により検出される。トラックパッド１４にはＬＥＤ表示部１７が設置される。ＬＥＤ表示部１７は複数のＬＥＤを備え、それぞれのＬＥＤの光はトラックパッド１４を透過して、操作用のアイコン等を表示する。このアイコン等はソフトウェアボタンとして機能する。トラックパッド１４は、本発明の「検出部」に相当する。
【００５２】
図３は、画像表示部２０の構成を示す斜視図であり、画像表示部２０を使用者の頭部側から見た要部構成を示す。この図３は、画像表示部２０の使用者の頭部に接する側、言い換えれば使用者の右眼ＲＥ及び左眼ＬＥに見える側である。別の言い方をすれば、右導光板２６及び左導光板２８の裏側が見えている。
図３では、使用者の右眼ＲＥに画像光を照射するハーフミラー２６１、及び左眼ＬＥに画像光を照射するハーフミラー２８１が、略四角形の領域として見える。また、ハーフミラー２６１、２８１を含む右導光板２６及び左導光板２８の全体が、上述したように外光を透過する。このため、使用者には、右導光板２６及び左導光板２８の全体を透過して外景が視認され、ハーフミラー２６１、２８１の位置に矩形の表示画像が視認される。
【００５３】
カメラ６１は、画像表示部２０において右側の端部に配置され、使用者の両眼が向く方向、すなわち使用者にとって前方を撮像する。カメラ６１の光軸は、右眼ＲＥ及び左眼ＬＥの視線方向を含む方向とされる。使用者がＨＭＤ１００を装着した状態で視認できる外景は、無限遠とは限らない。例えば、使用者が両眼で、使用者の前方に位置する物体を注視する場合、使用者から物体までの距離は、３０ｃｍ〜１０ｍ程度であることが多く、１ｍ〜４ｍ程度であることが、より多い。そこで、ＨＭＤ１００について、通常使用時における使用者から物体までの距離の上限、及び下限の目安を定めてもよい。この目安は調査や実験により求めてもよいし使用者が設定してもよい。カメラ６１の光軸、及び画角は、通常使用時における物体までの距離が、設定された上限の目安に相当する場合、及び下限の目安に相当する場合に、この物体が画角に含まれるように設定されることが好ましい。
【００５４】
一般に、人間の視野角は水平方向におよそ２００度、垂直方向におよそ１２５度とされ、そのうち情報受容能力に優れる有効視野は水平方向に３０度、垂直方向に２０度程度である。さらに、人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に６０〜９０度、垂直方向に４５度〜７０度程度とされている。注視点が使用者の前方に位置する物体であるとき、使用者の視野において、右眼ＲＥ及び左眼ＬＥのそれぞれの視線を中心として水平方向に３０度、垂直方向に２０度程度が有効視野である。また、水平方向に６０〜９０度、垂直方向に４５度〜７０度程度が安定注視野であり、水平方向に約２００度、垂直方向に約１２５度が視野角となる。さらに、使用者が右導光板２６及び左導光板２８を透過して視認する実際の視野を、実視野（ＦＯＶ：Ｆｉｅｌｄ  Ｏｆ  Ｖｉｅｗ）と呼ぶことができる。図１及び図２に示す本実施形態の構成で、実視野は、右導光板２６及び左導光板２８を透過して使用者が視認する実際の視野に相当する。実視野は、視野角及び安定注視野より狭いが、有効視野より広い。
【００５５】
カメラ６１の画角は、使用者の視野よりも広い範囲を撮像可能であることが好ましく、具体的には、画角が、少なくとも使用者の有効視野よりも広いことが好ましい。また、画角が、使用者の実視野よりも広いことがより好ましい。さらに好ましくは、画角が、使用者の安定注視野よりも広く、最も好ましくは、画角が使用者の両眼の視野角よりも広いことがより好ましい。
【００５６】
カメラ６１が、撮像レンズとして、いわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよいし、単焦点レンズであってもズームレンズであってもよく、複数のレンズからなるレンズ群をカメラ６１が備える構成であってもよい。
【００５７】
図４は、ＨＭＤ１００を構成する各部の構成を示すブロック図である。
制御装置１０は、プログラムを実行してＨＭＤ１００を制御するメインプロセッサー１４０を備える。メインプロセッサー１４０には、不揮発性記憶部１２１及びメモリー１２３及びが接続される。また、メインプロセッサー１４０には、入力装置としてトラックパッド１４及び操作部１１０が接続される。また、メインプロセッサー１４０には、センサー類として、６軸センサー１１１、磁気センサー１１３が接続される。また、メインプロセッサー１４０には、ＧＰＳ受信部１１５、通信部１１７、ビーコン受信部１１９、音声コーデック１８０、外部コネクター１８４、外部メモリーインターフェイス１８６、ＵＳＢコネクター１８８、センサーハブ１９２及びＦＰＧＡ１９４が接続される。これらは外部とのインターフェイスとして機能する。ビーコン受信部１１９は、本発明の「受信部」に相当する。
【００５８】
メインプロセッサー１４０は、制御装置１０が内蔵するコントローラー基板１２０に実装される。コントローラー基板１２０には、メインプロセッサー１４０に加えて、メモリー１２３、ビーコン受信部１１９、不揮発性記憶部１２１等が実装されてもよい。本実施形態では、６軸センサー１１１、磁気センサー１１３、ＧＰＳ受信部１１５、通信部１１７、メモリー１２３、不揮発性記憶部１２１、音声コーデック１８０等がコントローラー基板１２０に実装される。また、外部コネクター１８４、外部メモリーインターフェイス１８６、ＵＳＢコネクター１８８、センサーハブ１９２、ＦＰＧＡ１９４、及びインターフェイス１９６をコントローラー基板１２０に実装した構成であってもよい。
【００５９】
メモリー１２３は、メインプロセッサー１４０がプログラムを実行する場合に、実行されるプログラム、及び処理されるデータを一時的に記憶するワークエリアを構成する。不揮発性記憶部１２１は、フラッシュメモリーやｅＭＭＣ（ｅｍｂｅｄｄｅｄ  Ｍｕｌｔｉ  Ｍｅｄｉａ  Ｃａｒｄ）で構成される。不揮発性記憶部１２１は、メインプロセッサー１４０が実行するプログラムや、メインプロセッサー１４０がプログラムを実行して処理する各種データを記憶する。
【００６０】
メインプロセッサー１４０は、トラックパッド１４から入力される操作信号に基づいて、トラックパッド１４の操作面に対する接触操作を検出し、操作位置を取得する。
操作部１１０は、ボタン１１及びＬＥＤ表示部１７を含む。操作部１１０は、ボタン１１が有するボタンやスイッチ等の操作子が操作された場合に、操作された操作子に対応する操作信号をメインプロセッサー１４０に出力する。
【００６１】
ＬＥＤ表示部１７は、メインプロセッサー１４０の制御に従って、ＬＥＤインジケーター１２の点灯、及び消灯を制御する。また、ＬＥＤ表示部１７は、トラックパッド１４（図１）の直下に配置されるＬＥＤ（図示略）、及びこのＬＥＤを点灯させる駆動回路を含む構成であってもよい。この場合、ＬＥＤ表示部１７は、メインプロセッサー１４０の制御に従って、ＬＥＤを点灯、点滅、消灯させる。
【００６２】
６軸センサー１１１は、３軸加速度センサー及び３軸ジャイロ（角速度）センサーを備えるモーションセンサー（慣性センサー）であり、使用者の動作を操作として検出する。６軸センサー１１１は、上記のセンサーがモジュール化されたＩＭＵ（Ｉｎｅｒｔｉａｌ  Ｍｅａｓｕｒｅｍｅｎｔ  Ｕｎｉｔ）を採用してもよい。
磁気センサー１１３は、例えば、３軸の地磁気センサーである。
６軸センサー１１１及び磁気センサー１１３は、検出値を、予め指定されたサンプリング周期に従ってメインプロセッサー１４０に出力する。また、６軸センサー１１１及び磁気センサー１１３は、メインプロセッサー１４０の要求に応じて、メインプロセッサー１４０により指定されたタイミングで、検出値をメインプロセッサー１４０に出力する。
【００６３】
ＧＰＳ受信部１１５は、図示しないＧＰＳアンテナを備え、ＧＰＳ衛星から送信されるＧＰＳ信号を受信する。ＧＰＳ受信部１１５は、受信したＧＰＳ信号をメインプロセッサー１４０に出力する。また、ＧＰＳ受信部１１５は、受信したＧＰＳ信号の信号強度を計測し、メインプロセッサー１４０に出力する。信号強度には、例えば、受信信号強度（ＲＳＳＩ：Ｒｅｃｅｉｖｅｄ  Ｓｉｇｎａｌ  Ｓｔｒｅｎｇｔｈ  Ｉｎｄｉｃａｔｉｏｎ）、電界強度、磁界強度、信号雑音比（ＳＮＲ：  Ｓｉｇｎａｌ  ｔｏ  Ｎｏｉｓｅ  ｒａｔｉｏ）等の情報を用いることができる。
【００６４】
通信部１１７は、外部の機器との間で無線通信を実行する。通信部１１７は、アンテナ、ＲＦ回路、ベースバンド回路、通信制御回路等を備えて構成され、又はこれらが統合されたデバイスで構成される。通信部１１７は、例えば、Ｂｌｕｅｔｏｏｔｈ、無線ＬＡＮ（Ｗｉ−Ｆｉを含む）等の規格に準拠した無線通信を行う。
【００６５】
ビーコン受信部１１９は、ビーコン信号の送信装置（図示略）から送信されるビーコン信号を受信する。ビーコン受信部１１９は、受信したビーコン信号に含まれるビーコンＩＤを検出する。ビーコンＩＤは、送信装置の識別情報である。また、ビーコン受信部１１９は、受信したビーコン信号の電波強度（ＲＳＳＩ：Received Signal Strength Indication）を検出し、検出した電波強度により送信装置との間の距離を推定する。ビーコン信号は、例えば、ＮＦＣ（Ｎｅａｒ  Ｆｉｅｌｄ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）、Ｂｌｕｅｔｏｏｔｈ、或いはＢｌｕｅｔｏｏｔｈ  Ｌｏｗ  Ｅｎｅｒｇｙ、Ｂｌｕｅｔｏｏｔｈ  Ｓｍａｒｔ、ｉＢｅａｃｏｎ（登録商標）等の近距離無線通信の規格に準拠した信号が使用される。ビーコン受信部１１９は、本発明の「距離検出部」に相当する。
【００６６】
音声インターフェイス１８２は、音声信号を入出力するインターフェイスである。本実施形態では、音声インターフェイス１８２は、接続ケーブル４０に設けられたコネクター４６（図１）を含む。コネクター４６はヘッドセット３０に接続される。音声インターフェイス１８２が出力する音声信号は右イヤホン３２、及び左イヤホン３４に入力され、これにより右イヤホン３２及び左イヤホン３４が音声を出力する。また、ヘッドセット３０が備えるマイク６３は、音声を集音して、音声信号を音声インターフェイス１８２に出力する。マイク６３から音声インターフェイス１８２に入力される音声信号は、外部コネクター１８４に入力される。
【００６７】
音声コーデック１８０は、音声インターフェイス１８２に接続され、音声インターフェイス１８２を介して入出力される音声信号のエンコード及びデコードを行う。音声コーデック１８０はアナログ音声信号からデジタル音声データへの変換を行うＡ／Ｄコンバーター、及びその逆の変換を行うＤ／Ａコンバーターを備えてもよい。例えば、本実施形態のＨＭＤ１００は、音声を右イヤホン３２及び左イヤホン３４により出力し、マイク６３で集音する。音声コーデック１８０は、メインプロセッサー１４０が出力するデジタル音声データをアナログ音声信号に変換して、音声インターフェイス１８２を介して出力する。また、音声コーデック１８０は、音声インターフェイス１８２に入力されるアナログ音声信号をデジタル音声データに変換してメインプロセッサー１４０に出力する。
【００６８】
外部コネクター１８４は、メインプロセッサー１４０と通信する外部の装置を接続するコネクターである。外部コネクター１８４は、例えば、外部の装置をメインプロセッサー１４０に接続して、メインプロセッサー１４０が実行するプログラムのデバッグや、ＨＭＤ１００の動作のログの収集を行う場合に、この外部の装置を接続するインターフェイスである。
【００６９】
外部メモリーインターフェイス１８６は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。この場合のカード型記録媒体のサイズ、形状、規格は制限されず、適宜に変更可能である。
【００７０】
ＵＳＢ（Ｕｎｉｖｅｒｓａｌ  Ｓｅｒｉａｌ  Ｂｕｓ）コネクター１８８は、ＵＳＢ規格に準拠したコネクターとインターフェイス回路とを備える。ＵＳＢコネクター１８８は、ＵＳＢメモリーデバイス、スマートフォン、コンピューター等を接続できる。ＵＳＢコネクター１８８のサイズや形状、適合するＵＳＢ規格のバージョンは適宜に選択、変更可能である。
【００７１】
センサーハブ１９２及びＦＰＧＡ１９４は、インターフェイス（Ｉ／Ｆ）１９６を介して、画像表示部２０に接続される。センサーハブ１９２は、画像表示部２０が備える各種センサーの検出値を取得してメインプロセッサー１４０に出力する。また、ＦＰＧＡ１９４は、メインプロセッサー１４０と画像表示部２０の各部との間で送受信するデータの処理、及びインターフェイス１９６を介した伝送を実行する。
【００７２】
ＨＭＤ１００は、バイブレーター１９を備える。バイブレーター１９は、モーター、偏心した回転子（いずれも図示略）を備え、その他の必要な構成を備えてもよい。バイブレーター１９は、メインプロセッサー１４０の制御に従って上記モーターを回転させることにより、振動を発生する。ＨＭＤ１００は、例えば、操作部１１０に対する操作を検出した場合、ＨＭＤ１００の電源がオン／オフされる場合、或いはその他の場合に、所定の振動パターンでバイブレーター１９により振動を発生する。
【００７３】
画像表示部２０の右表示ユニット２２及び左表示ユニット２４は、それぞれ、制御装置１０に接続される。図１に示すように、ＨＭＤ１００では左保持部２３に接続ケーブル４０が接続され、この接続ケーブル４０に繋がる配線が画像表示部２０の内部に敷設され、右表示ユニット２２と左表示ユニット２４のそれぞれが制御装置１０に接続される。
【００７４】
右表示ユニット２２は、表示ユニット基板２１０を有する。表示ユニット基板２１０には、インターフェイス１９６に接続されるインターフェイス（Ｉ／Ｆ）２１１、インターフェイス２１１を介して制御装置１０から入力されるデータを受信する受信部（Ｒｘ）２１３、及びＥＥＰＲＯＭ２１５が実装される。
インターフェイス２１１は、受信部２１３、ＥＥＰＲＯＭ２１５、温度センサー２１７、カメラ６１、照度センサー６５、及びＬＥＤインジケーター６７を、制御装置１０に接続する。
【００７５】
ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ  Ｅｒａｓａｂｌｅ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ−Ｏｎｌｙ  Ｍｅｍｏｒｙ）２１５は、各種のデータをメインプロセッサー１４０が読み取り可能に記憶する。ＥＥＰＲＯＭ２１５は、例えば、画像表示部２０が備えるＯＬＥＤユニット２２１、２４１の発光特性や表示特性に関するデータ、右表示ユニット２２又は左表示ユニット２４が備えるセンサーの特性に関するデータなどを記憶する。具体的には、ＯＬＥＤユニット２２１、２４１のガンマ補正に係るパラメーター、温度センサー２１７、２３９の検出値を補償するデータ等を記憶する。これらのデータは、ＨＭＤ１００の工場出荷時の検査によって生成され、ＥＥＰＲＯＭ２１５に書き込まれ、出荷後はメインプロセッサー１４０がＥＥＰＲＯＭ２１５のデータを利用して処理を行える。
【００７６】
カメラ６１は、インターフェイス２１１を介して入力される信号に従って撮像を実行し、撮像画像データ、又は撮像結果を示す信号を制御装置１０に出力する。
照度センサー６５は、図１に示すように、前部フレーム２７の端部ＥＲに設けられ、画像表示部２０を装着する使用者の前方からの外光を受光するよう配置される。照度センサー６５は、受光量（受光強度）に対応する検出値を出力する。
ＬＥＤインジケーター６７は、図１に示すように、前部フレーム２７の端部ＥＲにおいてカメラ６１の近傍に配置される。ＬＥＤインジケーター６７は、カメラ６１による撮像を実行中に点灯して、撮像中であることを報知する。
【００７７】
温度センサー２１７は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー２１７は、ＯＬＥＤパネル２２３（図２）の裏面側に実装される。温度センサー２１７は、例えばＯＬＥＤ駆動回路２２５と同一の基板に実装されてもよい。この構成により、温度センサー２１７は、主としてＯＬＥＤパネル２２３の温度を検出する。
【００７８】
受信部２１３は、インターフェイス２１１を介してメインプロセッサー１４０が送信するデータを受信する。受信部２１３は、ＯＬＥＤユニット２２１により表示する画像のデータ（画像データという）を受信した場合に、受信した画像データを、ＯＬＥＤ駆動回路２２５（図２）に出力する。
【００７９】
左表示ユニット２４は、表示ユニット基板２１０を有する。表示ユニット基板２１０には、インターフェイス１９６に接続されるインターフェイス（Ｉ／Ｆ）２３１、インターフェイス２３１を介して制御装置１０から入力されるデータを受信する受信部（Ｒｘ）２３３が実装される。また、表示ユニット基板２１０には、６軸センサー２３５及び磁気センサー２３７が実装される。
インターフェイス２３１は、受信部２３３、６軸センサー２３５、磁気センサー２３７、及び温度センサー２３９を、制御装置１０に接続する。
【００８０】
６軸センサー２３５は、３軸加速度センサー及び３軸ジャイロ（角速度）センサーを備えるモーションセンサー（慣性センサー）である。６軸センサー２３５は、上記のセンサーがモジュール化されたＩＭＵを採用してもよい。６軸センサー２３５は、本発明の「検出部」に相当する。
磁気センサー２３７は、例えば、３軸の地磁気センサーである。
【００８１】
温度センサー２３９は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー２３９は、ＯＬＥＤパネル２４３（図２）の裏面側に実装される。温度センサー２３９は、例えばＯＬＥＤ駆動回路２４５と同一の基板に実装されてもよい。この構成により、温度センサー２３９は、主としてＯＬＥＤパネル２４３の温度を検出する。
また、温度センサー２３９が、ＯＬＥＤパネル２４３又はＯＬＥＤ駆動回路２４５に内蔵されてもよい。また、上記基板は半導体基板であってもよい。具体的には、ＯＬＥＤパネル２４３が、Ｓｉ−ＯＬＥＤとして、ＯＬＥＤ駆動回路２４５等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー２３９を実装してもよい。
【００８２】
右表示ユニット２２が備えるカメラ６１、照度センサー６５、温度センサー２１７、及び左表示ユニット２４が備える６軸センサー２３５、磁気センサー２３７、温度センサー２３９は、センサーハブ１９２に接続される。センサーハブ１９２は、メインプロセッサー１４０の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ１９２は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ１９２は、予め設定されたタイミングで、右表示ユニット２２及び左表示ユニット２４が備える各センサーの検出値を、メインプロセッサー１４０に出力する。センサーハブ１９２は、各センサーの検出値を、メインプロセッサー１４０に対する出力のタイミングに合わせて一時的に保持する機能を備えてもよい。また、センサーハブ１９２は、各センサーの出力値の信号形式、又はデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー１４０に出力する機能を備えてもよい。
また、センサーハブ１９２は、メインプロセッサー１４０の制御に従ってＬＥＤインジケーター６７への通電を開始及び停止させ、カメラ６１が撮像を開始及び終了するタイミングに合わせて、ＬＥＤインジケーター６７を点灯又は点滅させる。
【００８３】
制御装置１０は、電源部１３０を備え、電源部１３０から供給される電力により動作する。電源部１３０は、充電可能なバッテリー１３２、及びバッテリー１３２の残容量の検出及びバッテリー１３２への充電の制御を行う電源制御回路１３４を備える。電源制御回路１３４はメインプロセッサー１４０に接続され、バッテリー１３２の残容量の検出値、又は電圧の検出値をメインプロセッサー１４０に出力する。また、電源部１３０が供給する電力に基づき、制御装置１０から画像表示部２０に電力を供給してもよい。また、電源部１３０から制御装置１０の各部及び画像表示部２０への電力の供給状態を、メインプロセッサー１４０が制御可能な構成としてもよい。
【００８４】
図５は、制御装置１０の制御系を構成する記憶部１２５及び制御部１５０の機能ブロック図である。図５に示す記憶部１２５は、不揮発性記憶部１２１（図４）により構成される論理的な記憶部であり、ＥＥＰＲＯＭ２１５を含んでもよい。また、制御部１５０及び制御部１５０が有する各種の機能部は、メインプロセッサー１４０がプログラムを実行することによって、ソフトウェアとハードウェアとの協働により形成される。制御部１５０及び制御部１５０を構成する各機能部は、例えば、メインプロセッサー１４０、不揮発性記憶部１２１及びメモリー１２３により構成される。
【００８５】
制御部１５０は、記憶部１２５が記憶するデータを利用して各種処理を実行し、ＨＭＤ１００を制御する。
記憶部１２５は、制御部１５０が処理する各種のデータを記憶する。記憶部１２５は、設定データ１２７及びコンテンツデータ１２８を記憶する。
設定データ１２７は、ＨＭＤ１００の動作を設定する各種の設定値を含む。また、制御部１５０がＨＭＤ１００を制御する際にパラメーター、行列式、演算式、ＬＵＴ（ＬｏｏｋＵｐ  Ｔａｂｌｅ）等を用いる場合、これらを設定データ１２７に含めてもよい。
【００８６】
コンテンツデータ１２８は、制御部１５０の制御により画像表示部２０が表示するコンテンツのデータであり、例えば、静止画像や動画像のデータを含む。また、コンテンツデータ１２８には、音声データが含まれてもよい。さらに、コンテンツデータ１２８は、複数の画像のデータを含んでもよく、この場合、これら複数の画像は同時に画像表示部２０に表示される画像に限定されない。
【００８７】
また、コンテンツデータ１２８は、コンテンツを画像表示部２０により表示する際に、制御装置１０によって使用者の操作を受け付け、受け付けた操作に応じた処理を制御部１５０が実行する、双方向型のコンテンツであってもよい。この場合、コンテンツデータ１２８は、操作を受け付ける場合に表示するメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理等を定めるデータ等を含んでもよい。
【００８８】
制御部１５０は、オペレーティングシステム（ＯＳ）１４３、画像処理部１４５、撮像制御部１４７、操作制御部１４９、検出制御部１５１及び表示制御部１５３の機能を有する。操作制御部１４９及び検出制御部１５１は、本発明の「検出部」に相当する。
オペレーティングシステム１４３の機能は、記憶部１２５が記憶する制御プログラムの機能であり、その他の各部は、オペレーティングシステム１４３上で実行されるアプリケーションプログラムの機能である。
【００８９】
画像処理部１４５は、画像表示部２０により表示する画像データに基づいて、右表示ユニット２２及び左表示ユニット２４に送信する信号を生成する。画像処理部１４５が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。
【００９０】
また、画像処理部１４５は、必要に応じて、画像データの解像度を右表示ユニット２２及び左表示ユニット２４に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部１４５は、画像データの輝度や彩度を調整する画像調整処理、３Ｄ画像データから２Ｄ画像データを作成し、又は２Ｄ画像データから３Ｄ画像データを生成する２Ｄ／３Ｄ変換処理等を実行してもよい。画像処理部１４５は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して画像表示部２０に送信する。
画像処理部１４５は、メインプロセッサー１４０がプログラムを実行して実現される構成のほか、メインプロセッサー１４０と別のハードウェア（例えば、ＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ））で構成してもよい。
【００９１】
撮像制御部１４７は、カメラ６１を制御して撮像を実行させ、撮像画像データを生成し、記憶部１２５に一時的に記憶する。また、カメラ６１が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部１４７は撮像画像データをカメラ６１から取得して、記憶部１２５に一時的に記憶する。
【００９２】
操作制御部１４９は、トラックパッド１４及び操作部１１０における操作を検出し、操作に対応する操作データを出力する。操作制御部１４９は、例えば、操作部１１０のボタン等が操作された場合、操作内容を示す操作データを生成して、表示制御部１５３に出力する。表示制御部１５３は、操作制御部１４９から入力される操作データに従って表示状態を変更する。
【００９３】
また、操作制御部１４９は、トラックパッド１４における操作を検出した場合に、トラックパッド１４における操作位置の座標を取得する。操作制御部１４９は、操作位置の軌跡を生成する。操作位置の軌跡は、トラックパッド１４のタッチ操作が解除されない間、すなわち使用者の手や指操作体がトラックパッド１４に接触した状態が継続する間の操作位置の軌跡である。操作制御部１４９は、検出した操作位置の軌跡を示す操作データを表示制御部１５３に出力する。操作制御部１４９は、本発明の「検出部」に相当する。
【００９４】
検出制御部１５１は、６軸センサー２３５の検出値に基づいて操作を検出する。具体的には、検出制御部１５１は、使用者の頭部の動きを操作として検出する。６軸センサー２３５は、所定の周期（例えば、５０ｍｓｅｃ）毎にサンプリング（測定）を実行して、測定された加速度や角速度の値を示すアナログの電圧値を出力する。
【００９５】
６軸センサー２３５は、図１に示すＸ軸方向の加速度、Ｙ軸方向の加速度、及びＺ軸方向の加速度を測定する。また、６軸センサー２３５は、内蔵する測定機構（図示略）の測定基準点において、図１に示すＸ軸まわりの回転の角速度、Ｙ軸まわりの回転の角速度、Ｚ軸まわりの回転の角速度を測定する。Ｘ軸、Ｙ軸及びＺ軸は、図１に示すように相互に直交する３軸の方向であり、Ｚ軸方向が鉛直方向に対応し、Ｘ軸方向が使用者の頭部の左右方向に対応し、Ｙ軸方向が使用者の頭部の前後方向に対応する。鉛直方向に対応するＺ軸方向は、使用者の体軸の方向に相当する。
６軸センサー２３５から出力されたアナログの電圧値は、Ａ／Ｄ変換器（図示略）によりデジタルの電圧値に変換されて制御部１５０に入力される。
【００９６】
図６は、使用者の頭部の体軸であるＺ軸まわりの回転を示す図であり、図７は、使用者の頭部のＹ軸まわりの回転を示す図であり、図８は、使用者の頭部のＸ軸まわりの回転を示す図である。
検出制御部１５１は、６軸センサー２３５の検出値に基づいてＺ軸（体軸）まわりの回転であるロール角、すなわち、使用者が頭部（顔）を左側又は右側に回転させる動きを検出する。また、検出制御部１５１は、６軸センサー２３５の検出値によりＹ軸まわりの回転であるヨー角、すなわち、使用者が頭部を左方向（左肩方向）又は右方向（右肩方向）に傾ける動き（体軸に対する頭部の傾き）を検出する。また、検出制御部１５１は、６軸センサー２３５の検出値によりＸ軸まわりの回転であるピッチ角、すなわち、使用者が頭部を前方向（視線方向）又は後ろ方向に傾ける動き（体軸に対する頭部の傾き）を検出する。以下では、使用者が頭部を左方向又は右方向に回す動きや、頭部を左方向、右方向、上方向又は下方向に傾ける動きを総称して「頭部の動き」という。
検出制御部１５１は、６軸センサー２３５の検出値に基づき、頭部の動きが検出された方向と、動いた頭部の角度とを示す動きデータを生成し、表示制御部１５３に出力する。
【００９７】
表示制御部１５３は、右表示ユニット２２及び左表示ユニット２４を制御する制御信号を生成して右表示ユニット２２及び左表示ユニット２４に出力する。具体的には、表示制御部１５３は、画像処理部１４５が出力する信号に基づきＯＬＥＤ駆動回路２２５、２４５がＯＬＥＤパネル２２３、２４３に画像を描画するタイミングの制御や、ＯＬＥＤパネル２２３、２４３の輝度を制御する制御信号を生成する。
【００９８】
また、表示制御部１５３は、操作制御部１４９から入力される操作データに従って表示領域３１０に表示させるポインター３０１（図９）の位置を移動させる。ポインター３０１は、表示領域３１０における指示位置を示す。また、ポインター３０１に変えて、カーソルや、目印、文字、記号、標識、矢印、ゲームのキャラクターをマーカーとして用いることもできる。ポインター３０１は、本発明の「マーカー」に相当する。
表示制御部１５３には、操作制御部１４９から操作データとして、操作面上の移動距離と、移動方向とを示すデータが入力される。表示制御部１５３は、入力された操作データに基づき、ポインター３０１を移動させる移動方向と、移動距離とを示す制御信号を生成し、生成した制御信号を右表示ユニット２２及び左表示ユニット２４に出力する。
【００９９】
また、表示制御部１５３は、検出制御部１５１から入力される動きデータに基づき、表示領域３１０に表示されたポインター３０１の位置を移動させる制御信号を生成する。表示制御部１５３には、検出制御部１５１から動きデータとして、頭部の動きを検出した方向と、頭部の角度とを示すデータが入力される。表示制御部１５３は、入力された動きデータに基づき、表示領域３１０においてポインター３０１を移動させる移動方向及び移動距離を決定する。表示制御部１５３は、決定した移動方向及び移動距離を示す制御信号を生成し、右表示ユニット２２及び左表示ユニット２４に出力する。
【０１００】
また、表示制御部１５３は、キャリブレーションを実行して、表示領域３１０の座標と、カメラ６１の撮像画像とを対応付けるパラメーターを生成する。
表示制御部１５３は、画像表示部２０にキャリブレーション用画像を表示させながら、キャリブレーション用画像に対応した参照実物体を、カメラ６１の撮像画像データから認識し、追跡する。この状態で、使用者が、トラックパッド１４等のユーザーインターフェイスを介してキャリブレーション用画像の位置を画像表示部２０上で移動させる。そして、使用者が、キャリブレーション用画像と参照実物体とが重なる（位置、大きさ、向きの少なくとも１つがほぼ一致する）ように知覚したタイミングにて、ユーザーインターフェイスを介して表示制御部１５３に通知する。表示制御部１５３は、取得した通知に応じて、当該タイミングでの参照実物体の検出結果（撮像画像データ上の位置）と、表示領域３１０でのキャリブレーション用画像の表示位置とを対応付けるパラメーターを生成する。表示制御部１５３は、生成されたパラメーターを記憶部１２５に記憶させる。
このパラメーターは、ポインター３０１により選択される対象物体３０５を特定する際に使用される。制御部１５０は、カメラ６１の撮像画像データを取得し、ポインター３０１が表示された表示領域３１０の座標を、撮像画像データ上の座標に変換して、対象物体３０５を特定する。
【０１０１】
ＨＭＤ１００は、コンテンツの供給元となる種々の外部機器を接続するインターフェイス（図示略）を備えてもよい。例えば、ＵＳＢインターフェイス、マイクロＵＳＢインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスであってもよく、無線通信インターフェイスで構成してもよい。この場合の外部機器は、ＨＭＤ１００に画像を供給する画像供給装置であり、パーソナルコンピューター（ＰＣ）、携帯電話端末、携帯型ゲーム機等が用いられる。この場合、ＨＭＤ１００は、これらの外部機器から入力されるコンテンツデータ１２８に基づく画像や音声を出力できる。
【０１０２】
図９は、画像表示部２０を装着した使用者の視界３００を示す図である。
使用者は、現実世界（以下、外景という）に存在する人や、建物、道路、その他の物体（以下、これらを総称して対象物体３０５という）と、画像表示部２０により表示される画像（以下、表示画像という）とを画像表示部２０越しに視認する。表示画像には、例えば、ポインター３０１や、コンテンツデータ１２８を再生することで表示される静止画像や動画像が含まれる。表示領域３１０は、画像表示部２０が表示画像を表示可能な領域を示す。
【０１０３】
使用者は、ＨＭＤ１００に対して第１操作及び第２操作を行って、ポインター３０１を目的の位置に移動させる。例えば、使用者が、対象物体３０５としての自動販売機３０５Ａが販売する飲料を購入しようとする場合、目的の位置は、自動販売機３０５Ａの商品の商品ボタンに重なる位置となる。目的の位置を以下ではターゲットという。
【０１０４】
本実施形態のＨＭＤ１００は、第１操作に応じてポインター３０１の位置を移動させる場合と、第２操作に応じてポインター３０１の位置を移動させる場合とで異なる態様で移動させる。例えば、第１操作に応じてポインター３０１を移動させる場合と、第２操作に応じてポインター３０１を移動させる場合とで、ポインター３０１の移動量（例えば、移動距離や、移動速度、加速度等）を変更する。
【０１０５】
１回の操作によりポインター３０１を移動させる距離が小さく設定された、又は移動速度が遅く設定されたと仮定する。この場合、ポインター３０１の位置とターゲットとの距離が離れていると、ポインター３０１をターゲットの近くまで移動させるのに時間がかかる。また、１回の操作によってポインター３０１を移動させる距離が大きく設定された、又は移動速度が速く設定されたと仮定する。この場合、ポインター３０１をターゲットの位置に位置合わせする微調整が難しくなる場合がある。なお、ターゲットは、画像表示部２０が表示させる表示画像であってもよいし、外景として視認する対象物体３０５であってもよい。
このため、本実施形態のＨＭＤ１００は、ポインター３０１の移動距離、移動速度又は加速度の少なくともいずれかが異なる第１操作及び第２操作の２つの操作により、ポインター３０１をターゲットに移動させる。
【０１０６】
第１操作は、第２操作よりも先に行われる。第１操作は、ポインター３０１をターゲットの近傍に短時間で移動させるための操作である。また、第２操作は、ポインター３０１の位置を微調整して、ポインター３０１をターゲットの位置に移動させる操作である。
例えば、第１操作及び第２操作が、スイッチやボタンの押下操作であると仮定する。この場合、第１操作による押下操作を１回受け付けた場合に、ポインター３０１を移動させる移動距離、移動速度又は加速度を、第２操作による押下操作を１回受け付けた場合にポインター３０１を移動させる移動距離、移動速度又は加速度よりも大きく設定する。移動距離、移動速度又は加速度は、本発明の「移動量」に相当する。
【０１０７】
また、第１操作及び第２操作が、操作面に対する使用者の指の接触操作であり、検出した操作面上の接触距離に応じてポインター３０１を移動させる操作であると仮定する。この場合、第１操作としての接触距離に対応したポインター３０１の移動距離、移動速度又は加速度を、第２操作としての接触距離に対応したポインター３０１の移動距離、移動速度又は加速度よりも大きく又は速く設定する。
【０１０８】
また、第１操作及び第２操作が、操作面に対する接触操作や、使用者の頭部の動きを検出してポインター３０１を移動させる操作であり、接触操作や頭部の動きが検出された検出時間に対応した距離だけポインター３０１を移動させる操作であると仮定する。この場合、第１操作の検出時間に対応してポインター３０１を移動させる移動距離、移動速度又は加速度を、第２操作の検出時間に対応してポインター３０１を移動させる移動距離、移動速度又は加速度よりも大きく又は速く設定する。
【０１０９】
本実施形態では、トラックパッド１４の操作に応じてポインター３０１を移動させる操作を第１操作とする。トラックパッド１４を操作して、ポインター３０１をターゲットの位置に移動させる場合、トラックパッド１４が固定されていないと、使用者がイメージした通りにポインター３０１を動かすことは容易ではなかった。このため、本実施形態では、トラックパッド１４の操作を、ターゲットの近傍にポインター３０１を移動させる操作として用いる。
【０１１０】
また、本実施形態では、使用者の頭部の動きを操作として検出し、検出した動きに対応してポインター３０１を移動させる操作を第２操作とする。第２操作は、第１操作により移動させたポインター３０１の位置を起点として、ポインター３０１の位置を移動させる操作である。使用者が頭部を動かして行うポインター３０１の操作は、本発明の「使用者の動作」に相当する。例えば、頭部の動きとして使用者が頭部を傾ける動作を行った場合、使用者は、操作が完了するまで頭部を傾け続けなければならず、無理な体勢を維持し続けなければならない場合があった。しかし、本実施形態では、第２操作の前に行われる第１操作によって、ポインター３０１が既にターゲットの近傍に移動しているので、第２操作を行う時間を短縮することができる。
【０１１１】
図９に示すｘ軸は表示領域３１０の水平方向に対応し、ｙ軸は表示領域３１０の奥行き方向に対応し、ｚ軸は表示領域３１０の鉛直方向に対応する。
制御部１５０は、図１に示す使用者の頭部のＸ軸まわりの回転、すなわち、体軸に対して頭部を前後に傾ける動きが検出された場合、例えば、ポインター３０１を図９に示すｚ軸方向、すなわち表示領域３１０の鉛直方向に移動させる。
また、制御部１５０は、図１に示す使用者の頭部のＹ軸まわりの回転、すなわち、体軸に対して頭部を左右に傾ける動きが検出された場合、ポインター３０１を、例えば図９に示すｙ軸方向、すなわち表示領域３１０の奥行き方向に移動させる。
また、制御部１５０は、図１に示す使用者の頭部のＺ軸まわりの回転、すなわち、体軸に対して頭部を回転させる動きが検出された場合、例えば、ポインター３０１を図９に示すｘ軸方向、すなわち表示領域３１０の水平方向に移動させる。
【０１１２】
使用者が頭部を傾ける方向と、ポインター３０１を移動させる移動方向との対応付けは、上述したものに限定されるものではなく、任意に設定することができる。例えば、制御部１５０は、図７に示す使用者の頭部のＹ軸まわりの回転、すなわち、体軸に対して頭部を左右に傾ける動きが検出された場合に、ポインター３０１を図９に示すｘ軸方向、すなわち表示領域３１０の水平方向に移動させるようにしてもよい。また、制御部１５０は、図８に示す使用者の頭部のＸ軸まわりの回転、すなわち、体軸に対して頭部を前後に傾ける動きが検出された場合に、ポインター３０１を図９に示すｙ軸方向、すなわち表示領域３１０の奥行き方向に移動させるようにしてもよい。
【０１１３】
また、本実施形態は、ポインター３０１を移動させる操作を第１操作から第２操作に切り替えるタイミングを、使用者の手や指（以下、手指という）がトラックパッド１４から離れたか否かを検出することで行う。制御部１５０は、トラックパッド１４の操作面への接触が検出される間は、使用者がトラックパッド１４を操作する意志があると判断し、トラックパッド１４の操作によりポインター３０１を移動させる。また、制御部１５０は、操作面への接触が検出できなくなり、手指が操作面から離れた場合、トラックパッド１４を操作する意志がなくなったと判定し、ポインター３０１を移動させる操作を、第２操作に切り替える。
また、第１操作から第２操作への切り替えは、操作面への接触が検出されるか否かに限定されない。例えば、予め設定されたボタン１１や、上下キー１５、切替スイッチ１６が操作された場合や、トラックパッド１４を予め設定された回数叩く操作を受け付けた場合に、第１操作から第２操作へ切り替えてもよい。また、マイク６３から入力される音声により第１操作から第２操作に切り替えてもよい。例えば、フィンガースナップの音や、使用者が発した言葉をマイク６３から入力し、入力した音声データが予め設定された音声データに一致した場合に、第１操作から第２操作に切り替えてもよい。
【０１１４】
本実施形態では、トラックパッド１４によるポインター３０１の操作を第１操作とし、使用者の頭部の動きに基づくポインター３０１の操作を第２操作としたが、第１操作及び第２操作は、これらの操作に限定されるものではない。例えば、使用者の頭部の動きを検出してポインター３０１を移動させる操作を第１操作とし、トラックパッド１４によるポインター３０１の操作を第２操作としてもよい。また、第１操作及び第２操作のいずれか一方に、ハンドサインやジェスチャーを用いてもよい。ハンドサインやジェスチャーは、本発明の「使用者の動作」に相当する。ハンドサインやジェスチャーにより第１又は第２操作を行う場合、記憶部１２５に、ハンドサインやジェスチャーの特定に用いる辞書を事前に記憶させておく。例えば、辞書には、指の位置や形状を示すデータがハンドサインごとに登録される。また、ジェスチャーが予め設定された手の形状（形態）を予め設定された順番に行うものである場合、各形状（形態）における指の位置や形状等を示すデータがジェスチャーごとに辞書に登録される。制御部１５０は、カメラ６１の撮像画像から使用者の手や指が撮像された領域（以下、手指領域という）を検出し、検出した手指領域から手指の形状や位置を検出して、辞書に登録されたデータとのマッチングによりハンドサインやジェスチャーを認識する。
また、制御部１５０は、使用者の手の爪や、使用者が手指に嵌めた指輪、腕に嵌めた腕輪や、時計、バンドの動きを第１操作及び第２操作のいずれか一方として検出してもよい。制御部１５０は、カメラ６１の撮像画像から使用者の手の爪や、使用者が手指に嵌めた指輪、腕に嵌めた腕輪や、時計、バンドの動きを検出し、検出した動きに応じてポインター３０１を移動させる。
【０１１５】
また、制御部１５０は、操作モードとして第１操作モードと第２操作モードとを備え、これらの操作モードを切り替えて実行する。
第１操作モードは、ポインター３０１を、画像表示部２０越しに見える外景に対応して移動させるモードである。より具体的には、第１操作モードでは、制御部１５０は、画像表示部２０越しに見える外景に存在する対象物体３０５を基準としてポインター３０１を移動させる。例えば、第２操作により使用者が頭部を傾けた場合、表示領域３１０は頭部の傾きに対応して傾くが、外景に存在する対象物体３０５は傾かない。制御部１５０は、操作モードが第１操作モードの場合、ポインター３０１を左又は右に移動させる操作が入力されると、ポインター３０１を、地面に対して水平な水平方向（以下、簡単に水平方向という）の左方向又は右方向に移動させる。また、制御部１５０は、操作モードが第１操作モードの場合に、ポインター３０１を上又は下に移動させる操作が入力された場合、ポインター３０１を、鉛直方向の上方向又は下方向に移動させる。
【０１１６】
また、第２操作モードでは、外景に対応した移動とは異なる態様でポインター３０１を移動させる。
より具体的には、制御部１５０は、第２操作モードでは、表示領域３１０に表示される表示画像を基準としてポインター３０１を移動させる。第２操作により使用者が頭部を傾けた場合、表示領域３１０も頭部の傾きに対応して傾く。このため、制御部１５０は、操作モードが第２操作モードの場合に、ポインター３０１を左又は右に移動させる操作が入力されると、ポインター３０１を、傾いた表示領域３１０の水平方向であるｘ軸に平行な方向に移動させる。また、制御部１５０は、操作モードが第２操作モードの場合に、ポインター３０１を上又は下に移動させる操作が入力された場合、ポインター３０１を、傾いた表示領域３１０の鉛直方向であるｚ軸に平行な方向に移動させる。
【０１１７】
また、制御部１５０は、操作モードが第１操作モードの場合、ポインター３０１を対象物体３０５に位置合わせしやすいようにポインター３０１の動きを制御する。また、制御部１５０は、操作モードが第２操作モードの場合、ポインター３０１を表示画像に位置合わせしやすいようにポインター３０１の動きを制御する。
例えば、制御部１５０は、操作モードが第１操作モードの場合、カメラ６１の撮像画像データから対象物体３０５を検出して、ポインター３０１の表示位置に重なる対象物体３０５を特定する。例えば、ポインター３０１の表示位置に、対象物体３０５と、この対象物体３０５に重畳して表示された表示画像とが重なる場合、制御部１５０は、ポインター３０１の表示位置に重なる対象物体３０５を特定する。
また、制御部１５０は、操作モードが第２操作モードの場合、表示領域３１０に複数表示される表示画像や、表示領域３１０に視認される対象物体３０５の中からポインター３０１の位置に重なる表示画像を特定する。例えば、ポインター３０１の表示位置に、対象物体３０５と、この対象物体３０５に重畳して表示された表示画像とが重なる場合、制御部１５０は、ポインター３０１の表示位置に重なる表示画像を特定する。
【０１１８】
図１０及び図１１は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１０及び図１１は、外景に含まれる対象物体３０５として自動販売機３０５Ａが見える状態を示す。
使用者は、第２操作によりポインター３０１を操作する場合、頭部を左肩側又は右肩側に傾ける動作を行う場合がある（図７参照）。使用者が頭部をＹ軸まわりに回転させ、頭部を左肩側に傾けた場合、この頭部の傾きに応じて使用者が視認する表示領域３１０も傾き、この表示領域３１０に表示される表示画像も傾いて表示される。この場合、画像表示部２０の表示領域３１０も頭部の傾きに応じて傾くが、画像表示部２０越しに見る対象物体３０５は傾かない。
【０１１９】
例えば、使用者が頭部を左肩側に傾けた場合、表示領域３１０は、使用者から見て左側が下がって右側が上がるように傾く。このとき、制御部１５０は、操作モードが第１操作モードの場合、傾いた表示領域３１０の横方向にポインター３０１を移動させるのではなく、水平方向にポインター３０１を移動させる。制御部１５０は、６軸センサー２３５の検出値に基づき頭部の傾きを検出し、検出した頭部の傾きに基づいてポインター３０１の移動方向を補正する。図１０には、対象物体３０５としての自動販売機３０５Ａに対してポインター３０１を水平方向に移動させる様子を示す。
【０１２０】
また、使用者は、傾いた頭部の傾きを元に戻した後に、頭部を体軸に対して前後に傾ける動きを行うことで、ポインター３０１を表示領域３１０の鉛直方向であって上方向に移動させることができる。
また、使用者が頭部を左肩側又は右肩側に傾け、表示領域３１０が傾いた状態で視認される状態で、ポインター３０１を表示領域３１０のｚ軸方向に移動させたい場合には、頭部による操作と共に、トラックパッド１４による操作を同時に行ってもよい。制御部１５０は、頭部を左肩側又は右肩側に傾ける動作が検出されている状態で、例えば、トラックパッド１４の操作によりポインター３０１を鉛直方向に移動させる操作を受け付けた場合、両方の操作に応じてポインター３０１を移動させる。すなわち、制御部１５０は、ポインター３０１を水平方向及び鉛直方向に同時に移動させ、図１１に示すようにポインター３０１を斜め上方向に移動させる。
【０１２１】
図１２は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１２は、表示領域３１０にワープロソフトウェアの表示画面３０２が表示された状態を示す。
使用者の頭部が傾くと、使用者の頭部に装着された画像表示部２０も傾く。このため、画像表示部２０が表示する表示画像も傾いて表示される。制御部１５０は、操作モードが第２操作モードである場合、表示領域３１０の横方向であるｘ軸に平行な方向に移動させる。図１２には、ポインター３０１をワープロソフトウェアの表示画面３０２の傾きに合わせて移動させる様子を示す。
【０１２２】
また、ＨＭＤ１００の操作モードが第１操作モードであるのか、第２操作モードであるのかを示す表示を表示領域３１０に表示させてもよい。
例えば、ＨＭＤ１００の操作モードが第１操作モードである場合は、表示領域３１０に「第１操作モード」と表示させ、操作モードが第２操作モードである場合は、表示領域２３１０に「第２操作モード」と表示させてもよい。
また、操作モードが第１操作モードであるのか第２操作モードであるのかに応じて、表示画像の色を変更してもよい。
【０１２３】
図１３及び図１４は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１３は、操作モードが第１操作モードの場合のポインター３０１の移動方向を示す図である。図１４は、操作モードが第２操作モードである場合のポインター３０１の移動方向を示す図である。
ポインター３０１が静止状態にある場合に、ポインター３０１として、ポインター３０１が移動可能な方向を示す矢印を表示させてもよい。例えば、ＨＭＤ１００の操作モードが第１操作モードである場合、制御部１５０は、図１３に示すように鉛直上方向、鉛直下方向、水平左方向、水平右方向の４つの方向を示す矢印が表示されたポインター３０１を表示させる。また、ＨＭＤ１００の操作モードが第２操作モードである場合、制御部１５０は、図１４に示すように表示領域３１０の鉛直方向上向き及び鉛直方向下向きを示す矢印と、表示領域３１０の水平方向左向き及び水平方向右向を示す矢印とが表示されたポインター３０１を表示させる。
また、動く方向を示す矢印の表示に変えて、動く方向を示す補助記号、補助線を表示させてもよい。
【０１２４】
図１５及び図１６は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１５及び図１６は、第１操作によりポインター３０１をターゲットの近傍に移動させた場合に表示される表示画像を示す図である。
第１操作によりポインター３０１を操作し、ポインター３０１をターゲットの近くに移動させると、図１５に示すようにポインター３０１の近くに存在するターゲットが拡大表示される。
【０１２５】
制御部１５０は、カメラ６１が撮像する撮像画像データを取得し、取得した撮像画像データから対象物体３０５を検出する。制御部１５０は、ポインター３０１の表示位置から予め設定された範囲内に対象物体３０５を検出すると、この対象物体３０５の画像を撮像画像データから抽出し、抽出した対象物体３０５の画像を拡大して表示領域３１０に表示させる。
また、制御部１５０は、ポインター３０１の表示位置から予め設定された範囲内に対象物体３０５を検出された場合に、対象物体３０５の画像を拡大表示させるか否かを問い合わせる表示を表示領域３１０に表示させてもよい。制御部１５０は、例えば、対象物体３０５の画像を拡大表示させる旨の指示をボタン１１やトラックパッド１４により受け付けた場合に、対象物体３０５の画像を拡大して表示領域３１０に表示させる。拡大して表示された対象物体３０５の画像を拡大画像３０３という。
【０１２６】
使用者は、拡大画像３０３が表示された状態で、ポインター３０１がターゲットに重なるように、第２操作によりポインター３０１の位置を微調整する。使用者は、ポインター３０１がターゲットに重なると、確定操作を行う。制御部１５０は、確定操作を受け付けると、ポインター３０１の表示位置に重なるターゲットが選択されたと判定する。確定操作には、第２操作である使用者の頭部の動きを検出してポインター３０１を移動させる操作以外の操作が用いられる。確定操作は、例えば、トラックパッド１４の操作面を叩く操作であってもよいし、ボタン１１、上下キー１５、切替スイッチ１６等の操作であってもよい。
【０１２７】
また、図１６に示すように使用者を示す画像３０７を表示領域３１０に表示させてもよい。使用者画像３０７には、例えば、事前に撮像した使用者の画像や、使用者を示すアイコン、アバター等を用いることができる。
使用者は、表示領域３１０に拡大画像３０３が表示されると、拡大画像３０３として表示された対象物体３０５がターゲットであるか否かを示す情報を、所定の操作を行ってＨＭＤ１００に入力する。この所定の操作には、肯定を示す操作として、例えば、手の指で行うＯＫサインや、頭部をＸ軸に対して回転させ、頭部を前後方向に動かす動き、すなわち「うなずき」動作が含まれる。また、所定の操作には、否定を示す操作として、例えば、両手の人先指を使用者の顔の前でクロスさせるサインや、頭部をＺ軸に対して回転させ、頭部を左右方向に動かす動き、すなわち「首振り」動作が含まれる。
制御部１５０は、使用者が行った所定の操作の検出結果を、使用者画像３０７の近傍に表示させてもよい。図１６には、所定の操作として肯定を示す操作が検出された場合に、使用者画像３０７に対応付けてポップ表示３０８を表示させた例を示す。
【０１２８】
また、ＨＭＤ１００は、無線接続された外部の装置から送信される信号を受信した場合に、確定操作を受け付けたと判定してもよい。外部の装置には、例えば、使用者の腕等の装着されるウェアラブル端末等を用いることができる。使用者は、ポインター３０１がターゲットに重なると、ウェアラブル端末により予め設定された操作を入力する。ウェアラブル端末は、予め設定された操作を受け付けると、ＨＭＤ１００に所定の信号を送信する。ＨＭＤ１００の制御部１５０は、ウェアラブル端末から所定の信号を受信した場合、確定操作を受け付けたと判定する。
【０１２９】
図１７は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１７は、対象物体３０５として、商店に設置された冷蔵ショーケース３０５Ｂを視認できる状態を示す図である。
冷蔵ショーケース３０５Ｂには、識別マークとしてのＱＲコード（登録商標）３４０が、冷蔵ショーケース３０５Ｂの各棚に対応して設けられている。また、冷蔵ショーケース３０５Ｂには、ビーコン信号を送信するビーコン送信機３４５が設置されている。制御部１５０は、商品が陳列された棚に設置されたＱＲコード３４０をカメラ６１により撮像する。なお、本実施形態では、識別マークがＱＲコード３４０である場合について説明するが、識別マークは、バーコードやＡＲマーカー等であってもよい。
【０１３０】
制御部１５０は、カメラ６１の撮像画像データからＱＲコード３４０を検出し、各棚のＱＲコード３４０に対応する位置に所定形状の画像（以下、ターゲット画像という）を表示させる。カメラ６１は、本発明の「マーク検出部」に相当する。ターゲット画像は、使用者が認識しやすい画像であればどのような色、形状の画像であってもよい。使用者は、ターゲット画像が棚に対応して表示されると、購入したい商品が陳列された棚のターゲット画像に指先を重ねる。制御部１５０は、カメラ６１の撮像画像データから使用者の指先を検出し、検出した指先に対応するターゲット画像の位置にポインター３０１を移動させる。
【０１３１】
使用者は、購入したい商品が陳列された棚のターゲット画像にポインター３０１が表示されると、トラックパッド１４の操作、又は頭部による操作により、ポインター３０１を購入したい商品の位置に移動させる。この後、制御部１５０は、例えば、トラックパッド１４の操作面を叩く操作、使用者がうなずく等の確定操作として予め設定された操作を受け付けると、店舗に設置されたサーバー装置と通信を行って、ポインター３０１に重なって視認される商品の購入処理を行う。
【０１３２】
上述の説明では、カメラ６１の撮像画像データに複数のＱＲコード３４０が撮像される場合について説明したが、使用者は、操作部１１０を操作して購入したい商品が陳列された棚のＱＲコード３４０だけを撮像するようにしてもよい。この場合、制御部１５０は、撮像されたＱＲコード３４０の棚にポインター３０１を移動させる。この後、使用者は、トラックパッド１４の操作、又は頭部による操作により、ポインター３０１を購入したい商品の位置に移動させる。
また、制御部１５０は、カメラ６１の撮像画像データに複数のＱＲコード３４０が撮像された場合、撮像画像データを表示領域３１０に表示させて、使用者に複数のＱＲコード３４０のいずれか１つを選択させる操作を行わせる。例えば、使用者は、表示領域３１０に撮像画像データが表示されると、操作部１１０の操作又は頭部の操作によりいずれか１つのＱＲコード３４０を選択する。制御部１５０は、ＱＲコード３４０を選択する操作を受け付けると、選択されたＱＲコード３４０が貼付された冷蔵ショーケース３０５Ｂの位置にポインター３０１を移動させる。この後、使用者は、トラックパッド１４の操作、又は頭部による操作により、ポインター３０１を購入したい商品の位置に移動させる。
【０１３３】
また、制御部１５０は、冷蔵ショーケース３０５Ｂの棚に設置されたビーコン送信機３４５から受信したビーコン信号に含まれる情報に基づいてビーコン送信機３４５や、店舗に設置されたサーバー装置（図示略）に接続する。制御部１５０は、接続したビーコン送信機３４５やサーバー装置から送信される付加情報を受信する。制御部１５０は、受信した付加情報を表示領域３１０に表示させる。付加情報には、例えば、飲み物と一緒にサンドイッチを購入すると、料金の割引サービスを受けられるといった割引情報が含まれる。
【０１３４】
図１８は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１８は、使用者の視界３００に、ワープロソフトウェアの表示画面３０２と、ソフトウェアキーボード３０４とが表示された状態を示す。
使用者は、第１操作としてのトラックパッド１４の操作により、ソフトウェアキーボード３０４のキー上にポインター３０１を移動させる。制御部１５０は、トラックパッド１４の操作を受け付けると、受け付けた操作に対応して表示領域３１０上でポインター３０１の表示位置を移動させる。
【０１３５】
ソフトウェアキーボード３０４は、第１キー画面３０４Ａと、第２キー画面３０４Ｂとを有している。第２キー画面３０４Ｂは、第１キー画面３０４Ａに表示されるキーに対応付けられた複数のキーが表示される。第１キー画面３０４Ａには、「Ａ」、「Ｆ」、「Ｋ」、「Ｐ」、「Ｕ」、「Ｚ」の各キーが表示される。例えば、第１キー画面３０４Ａのキー「Ａ」が選択された場合、制御部１５０は、第２キー画面３０４Ｂとして、「Ａ」、「Ｂ」、「Ｃ」、「Ｄ」、「Ｅ」の各文字を表示させる。また、第１キー画面３０４Ａのキー「Ｆ」が選択された場合、制御部１５０は、第２キー画面３０４Ｂとして、「Ｆ」、「Ｇ」、「Ｈ」、「Ｉ」、「Ｊ」の各文字を表示させる。
【０１３６】
制御部１５０は、第１キー画面３０４Ａのキー上にポインター３０１が一定時間以上位置している場合に、ポインター３０１が位置するキーに対応付けられた第２キー画面３０４Ｂを表示させる。使用者は、表示領域３１０に第２キー画面３０４Ｂが表示されると、入力したいキーの方向に頭部を動かす。例えば、図１８に示す例では、頭部を上方向に動かすことで「Ｂ」の文字が選択され、頭部を下方向に動かすことで「Ｄ」の文字が選択され、頭部を左方向に向けることで「Ｃ」の文字が選択され、頭部を右方向に向けることで「Ｅ」の文字が選択される。また、頭部を左肩側又は右肩側に傾けることで「Ａ」の文字が選択される。
【０１３７】
図１９は、画像表示部２０を装着した使用者の視界を説明するための説明図である。特に、図１９は、ＨＭＤ１００を装着した状態で車（移動物体）を運転する運転者の視界３００を示す図である。
制御部１５０は、カメラ６１の撮像画像データにより検出される指が、一定時間以上、同一の位置を指示している場合に、この指の指先に対応する位置にポインター３０１を表示させる。図１９には、前方を走行する車両に対応する位置にポインター３０１が表示された状態を示す。このポインター３０１の表示位置は、使用者の頭部の動きや、マイク６３による音声入力により微調整することができる。制御部１５０は、使用者の声をマイク６３により入力し、入力された音声を解析して使用者からの指示を解析する。例えば、制御部１５０は、音声の解析結果が「右方向」である場合、ポインター３０１の表示位置を右に移動させる。
また、制御部１５０は、カメラ６１の撮像画像データから移動物体としての車両を検出し、検出した車両に対応する表示領域３１０の位置にポインター３０１を表示させてもよい。
【０１３８】
また、制御部１５０は、前方を走行する車両に対応する位置にポインター３０１が表示された状態で、音声入力により「追尾」の指示を受け付けると、ポインター３０１を前方を走行する車両に追従させる。
【０１３９】
また、ＨＭＤ１００に視線センサー（図示略）を搭載し、この視線センサーが検出する視線方向に対象物体３０５が存在する場合に、制御部１５０は、ポインター３０１を表示させてもよい。ここで、視線センサーについて説明する。
視線センサーは、使用者の右眼ＲＥ、及び、左眼ＬＥのそれぞれに対応するように、右導光板２６と左導光板２８との中央位置に一対設けられる。視線センサーは、例えば、使用者の右眼ＲＥと左眼ＬＥとをそれぞれ撮像する一対のカメラで構成される。視線センサーは、制御部１５０の制御に従って撮像を行い、制御部１５０が、撮像画像データから右眼ＲＥ及び左眼ＬＥの眼球表面における反射光や瞳孔の画像を検出し、視線方向を特定する。
【０１４０】
第１操作モード及び第２操作モードの操作モードの切替えは、例えば、ボタン１１や、上下キー１５、切替スイッチ１６等の操作を受け付けた場合に行ってもよい。また、トラックパッド１４を予め設定された回数叩く操作を受け付けた場合に、操作モードの切替えを行ってもよい。
【０１４１】
また、ＨＭＤ１００に搭載した視線センサーが検出する視線方向に対象物体３０５が存在するか、表示画像が存在するかによって第１操作モードと第２操作モードとを切り替えてもよい。
制御部１５０は、視線センサーにより検出される視線方向に対象物体３０５が存在する場合、ＨＭＤ１００の操作モードを第１操作モードに設定する。また、制御部１５０は、視線センサーにより検出される視線方向に表示画像が存在する場合、ＨＭＤ１００の操作モードを第２操作モードに設定する。
【０１４２】
図２０は、ターゲットまでの距離と、ポインター３０１の移動距離との関係を示す図である。
上述した説明では、第１操作によりポインター３０１を操作する場合と、第２操作によりポインター３０１を操作する場合とで、ポインター３０１の移動距離や、移動速度、加速度を変更した。
これ以外の動作として、ＨＭＤ１００とターゲットとの距離に応じて、ポインター３０１の移動の態様である移動距離や、移動速度、加速度を変更してもよい。例えば、図２０に示すようにターゲットがビーコン信号を送信するビーコン送信部３２１を備える場合、ＨＭＤ１００は、ターゲットから送信されるビーコン信号をビーコン受信部１１９で受信する。制御部１５０は、受信したビーコン信号の電波強度に基づき、ターゲットまでの距離を推定する。制御部１５０は、推定したターゲットまでの距離に応じて、第１又は第２操作により移動させるポインター３０１の移動距離や、移動速度、加速度を変更する。
【０１４３】
本実施形態は、図２０に示すように、ＨＭＤ１００とターゲットとの距離が距離Ａである場合のポインター３０１の移動距離を、ターゲットとの距離が距離Ｂである場合のポインター３０１の移動距離よりも小さく設定する。距離Ａはしきい値よりも大きく、距離Ｂはしきい値よりも小さいと仮定する。
例えば、制御部１５０は、ビーコン信号の電波強度に基づいて推定した距離と、予め設定されたしきい値とを比較して、ＨＭＤ１００とターゲットとの距離がしきい値として設定された距離よりも大きいか否かを判定する。
制御部１５０は、ＨＭＤ１００とターゲットとの距離がしきい値よりも大きい（離れている）場合、第１操作であるトラックパッド１４の操作を検出し、検出した第１操作に応じてポインター３０１の位置を移動させる。また、制御部１５０は、ターゲットとの距離がしきい値よりも大きい（離れている）場合に、第１操作により移動させるポインター３０１の移動距離を第１距離とする。
また、制御部１５０は、ターゲットとの距離がしきい値以下（近い）である場合、第２操作である頭部の動きを検出し、検出した傾きに応じてポインター３０１の位置を移動させる。また、制御部１５０は、ターゲットとの距離がしきい値以下の場合、第２操作により移動させるポインター３０１の距離を第２距離とする。
第２距離は、第１距離よりも大きい値に設定される。すなわち、ＨＭＤ１００とターゲットとの距離が近くなるほど、ポインター３０１の移動距離が大きくなるように設定する。
【０１４４】
ＨＭＤ１００とターゲットとの間が離れている場合、使用者の視界３００内でのターゲット（自動販売機３０５Ａや商品ボタン）のサイズは小さい。第１操作によるポインター３０１の移動距離を大きく設定すると、ポインター３０１がターゲットから大きく外れてしまう場合がある。このため、ＨＭＤ１００とターゲットとの間の距離がしきい値よりも離れている場合、ポインター３０１の移動距離を小さく設定する。また、ＨＭＤ１００とターゲットとの間が近い場合、使用者の視界３００内でのターゲットのサイズは大きい。このため、ポインター３０１の移動距離を大きく設定しても、ポインター３０１がターゲットから大きく外れる場合は少ない。このため、ＨＭＤ１００とターゲットとの間の距離がしきい値よりも近い場合、ポインター３０１の移動距離を大きく設定する。
【０１４５】
また、ポインター３０１の移動距離を、ターゲットとＨＭＤ１００との距離に応じて連続的に変更してもよい。制御部１５０は、ビーコン信号の電波強度に基づいてターゲットまでの距離を推定し、推定した距離に応じて第１又は第２操作によりポインター３０１を移動させる移動距離を変更する。制御部１５０は、ターゲットとの距離が近くなるほど、第１又は第２操作によりポインター３０１を移動させる距離が大きくなるように設定する。
また、上述した説明とは逆に、ＨＭＤ１００とターゲットとの距離が近くなるほど、第１又は第２操作によりポインター３０１を移動させる距離を小さくなるように設定してもよい。
また、上述した説明では、ターゲットとの距離がしきい値よりも大きい場合には第１操作を選択し、ターゲットとの距離がしきい値以下の場合には第２操作を選択した。これ以外に、第１操作と第２操作とのいずれか一方の操作によりポインター３０１の位置を移動させてもよい。すなわち、ターゲットとの距離がしきい値よりも大きい場合と、しきい値以下の場合との両方において、第１操作又は第２操作のいずれか一方によりポインター３０１を操作してもよい。
また、図２０の説明では、ターゲットから送信されるビーコン信号の電波強度に基づきＨＭＤ１００との距離を推定したが、ＨＭＤ１００がカメラ６１としてステレオカメラを備える場合、このカメラ６１の撮像画像によりターゲットまでの距離を求めてもよい。
【０１４６】
図２１は、ＨＭＤ１００の動作を示すフローチャートである。
制御部１５０は、トラックパッド１４の操作面に対する接触操作を検出したか否かを判定する（ステップＳ１）。制御部１５０は、トラックパッド１４から入力される操作信号に基づき、接触操作を検出したか否かを判定する（ステップＳ１）。制御部１５０は、接触操作を検出していない場合（ステップＳ１／ＮＯ）、接触操作を検出するまで待機し、他に実行可能な処理があればこの処理を実行する。また、制御部１５０は、接触操作を検出した場合（ステップＳ１／ＹＥＳ）、ポインター３０１を移動させる（ステップＳ２）。制御部１５０がポインター３０１を移動させる移動距離は、操作面上での使用者の手指の移動距離に対応する距離であり、移動方向は、操作面上での使用者の手指の移動方向に対応する方向である。
【０１４７】
次に、制御部１５０は、使用者の手指等が操作面に接触しているか否かを判定する（ステップＳ３）。本実施形態は、手指等の操作面への接触が継続している間は、第１操作である操作面に対する接触操作によりポインター３０１を移動させる。また、手指等の操作面への接触が検出されなくなると、制御部１５０は、ポインター３０１の操作を、第１操作から第２操作に切り替える。制御部１５０は、第２操作では、使用者の頭部の動きを検出し、検出した頭部の動きに応じてポインター３０１を移動させる。
制御部１５０は、操作面への接触を検出した場合（ステップＳ３／ＹＥＳ）、ステップＳ１に戻り接触操作を検出したか否かを判定し（ステップＳ１）、検出した接触操作に応じてポインター３０１を移動させる（ステップＳ２）。
【０１４８】
また、制御部１５０は、操作面への接触が検出できない場合（ステップＳ３／ＮＯ）、ポインター３０１の操作を第２操作に切り替える。制御部１５０は、まず、６軸センサー２３５の検出値を取得する（ステップＳ４）。
制御部１５０は、取得した６軸センサー２３５の検出値に基づき使用者の頭部の動きが検出されたか否かを判定する（ステップＳ５）。制御部１５０は、使用者の頭部に傾きがないと判定した場合（ステップＳ５／ＮＯ）、ポインター３０１の操作を終了させる終了操作を受け付けたか否かを判定する（ステップＳ６）。制御部１５０は、終了操作を受け付けていない場合（ステップＳ６／ＮＯ）、ステップＳ４の判定に戻り、引き続き６軸センサー２３５の検出値に基づき使用者の頭部の動きを検出する（ステップＳ５）。また、制御部１５０は、終了操作を受け付けた場合（ステップＳ６／ＹＥＳ）、この処理フローを終了する。
【０１４９】
また、制御部１５０は、使用者の頭部に傾きがあると判定した場合（ステップＳ５／ＹＥＳ）、画像表示部２０が左又は右に傾いた状態であるか否かを判定する（ステップＳ７）。この判定では、使用者が頭部を左又は右に傾ける動きを行ったか否かが判定される。使用者の頭部が左又は右に傾くと、使用者が画像表示部２０越しに視認する外景内の対象物体３０５が左又は右に傾いた状態で視認される。そこで、制御部１５０は、画像表示部２０が左右に傾いた状態であると判定される場合に、この画像表示部２０の傾きに対応するようにポインター３０１の移動を制御する。
【０１５０】
制御部１５０は、画像表示部２０が左又は右に傾いた状態ではないと判定した場合（ステップＳ７／ＮＯ）、６軸センサー２３５の検出値に基づき使用者の頭部の動きを検出し、検出した傾きに対応する方向にポインター３０１を移動させる（ステップＳ８）。
例えば、使用者の顔を上に向ける動作が検出された場合、制御部１５０は、ポインター３０１を図９に示すｚ軸の正方向である上方に移動させる。また、使用者の顔を下に向ける動作が検出された場合、制御部１５０は、ポインター３０１をｚ軸の負方向である下方に移動させる。
また、使用者の顔を左に向ける、すなわち、Ｚ軸まわりの左回転が検出された場合、制御部１５０は、ポインター３０１を図９に示すｘ軸の正方向である左方向に移動させる。また、使用者の顔を右に向ける、すなわち、Ｚ軸まわりの右回転が検出された場合、制御部１５０は、ポインター３０１を図９に示すｘ軸の負方向である右方向に移動させる。
また、制御部１５０は、対象物体３０５を基準としてポインター３０１を移動させる場合に、磁気センサー２３７の検出値に基づき、ポインター３０１を水平に移動させてもよい。
【０１５１】
また、制御部１５０は、画像表示部２０が左又は右に傾いた状態であると判定した場合（ステップＳ７／ＹＥＳ）、制御部１５０の操作モードが第１操作モードであるか否かを判定する（ステップＳ９）。第１操作モードでは、ポインター３０１を水平方向に移動させる場合に、外景に対して水平になるようにポインター３０１を移動させる。使用者の頭部が左又は右に傾いた状態では、使用者には、画像表示部２０越しに見える外景内の対象物体３０５も傾いて見える。このため、制御部１５０は、操作モードが第１操作モードの場合（ステップＳ９／ＹＥＳ）、ポインター３０１を、対象物体３０５を基準にして移動させる（ステップＳ１０）。すなわち、制御部１５０は、ポインター３０１が外景内の対象物体３０５に対して水平に移動するように表示を調整する（ステップＳ１０）。制御部１５０は、６軸センサー２３５の検出値に基づき、Ｙ軸まわりの回転角を検出して、画像表示部２０の傾きを判定する。制御部１５０は、判定した画像表示部２０の傾きに基づき、ポインター３０１が対象物体３０５に対して水平に移動するように表示を調整する（ステップＳ１０）。
【０１５２】
また、制御部１５０は、操作モードが第１操作モードではなく（ステップＳ９／ＮＯ）、第２操作モードであると判定した場合、ポインター３０１を、表示画像を基準にして移動させる（ステップＳ１１）。すなわち、制御部１５０は、ポインター３０１を、表示画像に対して水平になるように表示を調整する。制御部１５０は、ポインター３０１を移動させると、ステップＳ４に戻り６軸センサー２３５の検出値を新たに取得して、頭部の動きを検出する（ステップＳ５）。
【０１５３】
制御部１５０は、ステップＳ５の判定において、頭部の動きが検出されない場合（ステップＳ５／ＮＯ）、確定操作を受け付けたか否かを判定する（ステップＳ６）。制御部１５０は、例えば、トラックパッド１４の操作面を叩く操作を受け付けた場合に、確定操作を受け付けたと判定する。制御部１５０は、確定操作を受け付けた場合、ポインター３０１と重なる位置のターゲットが選択されたと判定し、選択されたターゲットに応じた処理を実行する。制御部１５０は、ターゲットが対象物体３０５である場合、キャリブレーションにより生成したパラメーターを取得し、取得したパラメーターに基づいて、ポインター３０１が表示された表示領域３１０の座標を、撮像画像データ上の座標に変換する。そして、制御部１５０は、変換した撮像画像データ上の座標に写った対象物体３０５を特定し、特定した対象物体３０５に応じた処理を実行する。例えば、ターゲットとして、自動販売機３０５Ａの商品ボタンが選択された場合、制御部１５０は、この自動販売機３０５Ａと無線通信を行って、選択された商品ボタンの商品を購入する処理を実行する。また、制御部１５０は、ターゲットとして表示画像が選択された場合、この表示画像に対応付けられた処理を実行する。例えば、表示画像がメニュー画面であり、ポインター３０１によりメニュー画面の項目が選択された場合、制御部１５０は、選択された項目に対応する処理を実行する。
【０１５４】
図２２は、使用者の靴底又は靴内部に装着した検知装置の配置を示す配置図である。
上述した実施形態は、ＨＭＤ１００により第１操作及び第２操作を検出する構成であったが、外部の装置により第１操作又は第２操作を検出する構成であってもよい。図２２には、使用者の靴底又は靴内部に検知装置３３０を配置し、この検知装置３３０により第１操作又は第２操作を検出する構成を示す。検知装置３３０は、例えば、足裏に生じる圧力を検出する圧力センサーと、近距離無線通信によりＨＭＤ１００と無線通信を行って、圧力センサーが検出した検出値をＨＭＤ１００に送信する通信装置（ともに不図示）とを備える。
【０１５５】
図２２には、右足の靴底又は靴内部であって、靴の中央部に検知装置３３０を配置した例を示す。使用者は、ポインター３０１を移動させる方向に応じて、爪先側（前側）、踵側（後側）、左側、右側のいずれかの方向に体重をかける。検知装置３３０は、前後左右の４方向のうち、圧力が最も高い方向を検出し、検出した方向を示す信号をＨＭＤ１００に送信する。ＨＭＤ１００は、検知装置３３０から送信される信号に基づいて、前後左右の４方向のうちのいずれの方向が選択されたのかを判定する。ＨＭＤ１００は、判定した方向に対応する方向にポインター３０１を移動させる。
例えば、使用者が体重を爪先側にかけた場合、制御部１５０は、ポインター３０１を図９に示すｚ軸の正方向である上方に移動させる。また、使用者が体重を踵側にかけた場合、制御部１５０は、ポインター３０１をｚ軸の負方向である下方に移動させる。また、使用者が体重を左側にかけた場合、制御部１５０は、ポインター３０１を図９に示すｘ軸の正方向である左方向に移動させる。また、使用者が体重を右側にかけた場合、制御部１５０は、ポインター３０１を図９に示すｘ軸の負方向である右方向に移動させる。また、例えば、ポインター３０１を表示領域の奥行方向（Ｙ軸方向）に移動させたい場合、前後左右の４方向に順番に体重がかかるように円運動を行う。制御部１５０は、例えば、前、右、後、左の右回転が検出された場合、ポインター３０１を図９に示すｙ軸の正方向である手前側に移動させる。また、制御部１５０は、例えば、前、左、後、右の左回転が検出された場合、ポインター３０１を図９に示すｙ軸の負方向である奥側に移動させる。
【０１５６】
図２３は、検知装置の他の配置例を示す図である。
図２２には、靴底又は靴内部に１つの検知装置３３０を設けた例を示したが、図２３に示すように靴底又は靴内部の中央に１つの検知装置３３１を配置し、爪先側に２つの検知装置３３２、３３３を配置してもよい。検知装置３３１、３３２、３３３の構成は、図２２に示す検知装置３３０と同一であるが、検知装置３３１、３３２及び３３３は、各検知装置３３１、３３２及び３３３がそれぞれに備える圧力センサーが検出する圧力の検出値をＨＭＤ１００に送信する。
使用者が前方（爪先側）に体重をかけると、検知装置３３２及び３３３の検出値は上昇し、検知装置３３１の検出値は下降する。また、使用者が後方（踵側）に体重をかけると、検知装置３３１の検出値は上昇し、検知装置３３２及び３３３の検出値は下降する。
また、使用者が体重を左側又は右側にかけた場合、検知装置３３２の検出値と、検知装置３３３の検出値とが大きく異なる値になる。使用者が体重を左側にかけた場合、検知装置３３２の検出値が上昇し、検知装置３３３の検出値が下降する。また、使用者が体重を右側にかけた場合、検知装置３３２の検出値が下降し、検知装置３３３の検出値が上昇する。
【０１５７】
図２４は、検知装置の他の例を示す図である。
図２４に示す検知装置の配置例は、左右の両足の靴底又は靴内部に、検知装置３３４、３３５をそれぞれ配置した例を示す。検知装置３３４、３３５の構成は、図２２に示す検知装置３３０と同一であり、前後左右の４方向のうち、圧力が最も高い方向を検出し、検出した方向を示す信号をＨＭＤ１００に送信する。
使用者は、例えば、ポインター３０１の表示位置に表示された表示画像を拡大表示させる操作を入力すると仮定する。この場合、使用者は、両足の爪先の内側に体重をかけ、両足の爪先を広げる動作、すなわち両足の爪先を離す動作を行う。この場合、左足の検知装置３３４は、左足の内側（右側）の圧力が高いと判定し、右側の圧力が高いことを示す信号をＨＭＤ１００に送信する。また、右足の検知装置３３５は、右足の内側（左側）の圧力が高いと判定し、左側の圧力が高いことを示す信号をＨＭＤ１００に送信する。
ＨＭＤ１００は、左足の検知装置３３４から受信した信号により、左足の右側の圧力が高いと判定し、右足の検知装置３３５から受信した信号により、右足の左側の圧力が高いと判定した場合、ピンチアウトの操作が入力されたと判定する。この場合、ＨＭＤ１００の制御部１５０は、例えば、ポインター３０１と重なる位置に表示された表示画像を拡大表示させる。本実施形態では、ピンチアウトの操作を表示画像の拡大に対応付けた例を説明したが、ポインター３０１と重なる位置に表示された表示画像を選択する選択操作や、操作を確定させる確定操作に対応付けてもよい。
【０１５８】
使用者は、例えば、ポインター３０１の表示位置に表示された表示画像を縮小表示させる操作を入力すると仮定する。この場合、使用者は、両足の爪先の内側に体重をかけ、広げた両足の爪先を閉じる動作を行う。この場合、左足の検知装置３３４は、左足の外側（左側）の圧力が高いと判定し、左側の圧力が高いことを示す信号をＨＭＤ１００に送信する。また、右足の検知装置３３５は、右足の外側（右側）の圧力が高いと判定し、右側の圧力が高いことを示す信号をＨＭＤ１００に送信する。
ＨＭＤ１００は、左足の検知装置３３４から受信した信号により、左足の左側の圧力が高いと判定し、右足の検知装置３３５から受信した信号により、右足の右側の圧力が高いと判定した場合、ピンチインの操作が入力されたと判定する。この場合、ＨＭＤ１００の制御部１５０は、例えば、ポインター３０１と重なる位置に表示された表示画像を縮小表示させる。本実施形態では、ピンチインの操作を表示画像の拡大に対応付けた例を説明したが、ポインター３０１と重なる位置に表示された表示画像を選択する選択操作や、操作を確定させる確定操作に対応付けてもよい。
【０１５９】
以上、詳細に説明したように第１実施形態のＨＭＤ１００は、画像表示部２０、表示制御部１５３及び検出部を備える。
画像表示部２０は、外景とともに視認できるように表示画像を表示領域３１０に表示する。表示制御部１５３は、指示位置を示すポインター３０１を画像表示部２０により表示領域３１０に表示させる。検出部は、６軸センサー２３５及び検出制御部１５１を備え、操作を検出する。
表示制御部１５３は、検出部が検出する操作により、ポインター３０１の位置を外景に対応して移動させる第１操作モードと、検出部が検出する操作により、ポインター３０１の位置を外景に対応する移動とは異なる態様で移動さる第２操作モードとを切り替える。
従って、ポインター３０１の位置を外景に対応して移動させる第１操作モードと、外景に対応する移動とは異なる態様で移動させる第２操作モードとを切り替えることができる。このため、ポインター３０１を複数の態様で移動させることができ、ポインター３０１の操作性を向上させ、ＨＭＤ１００の使い勝手を向上させることができる。
【０１６０】
また、検出部としての６軸センサー２３５及び検出制御部１５１は、操作として第１操作と第２操作とを検出する。表示制御部１５３は、検出部が検出する第１操作に応じてポインター３０１の位置を移動させる。表示制御部１５３は、第１操作に応じたポインター３０１の移動後に、検出部が検出する第２操作に応じて、ポインター３０１の位置を、第１操作に応じたポインター３０１の移動とは異なる態様で移動させる。
従って、第１操作及び第２操作の複数の操作によりポインター３０１の位置を移動させることができ、また、第１操作と第２操作とで異なる態様でポインター３０１を移動させることができる。このため、ポインター３０１の操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【０１６１】
また、表示制御部１５３は、第１操作により移動させたポインター３０１の位置を起点として、第２操作に応じてポインター３０１の位置を第１操作とは異なる態様で移動させる。
従って、第１操作により移動させたポインター３０１の位置を起点として、第２操作によりポインター３０１の位置を移動させることができる。
【０１６２】
また、検出部としての６軸センサー２３５及び検出制御部１５１は、使用者の動作を第１操作及び第２操作の少なくともいずれかとして検出する。
従って、使用者の動作が第１操作及び第２操作の少なくともいずれかとして検出されるので、動作によってポインター３０１の位置を移動させることができる。
【０１６３】
また、検出部としての６軸センサー２３５及び検出制御部１５１は、使用者の動作として、使用者の体軸に対する頭部の傾きと、頭部の体軸まわりの回転との少なくとも一方を検出する。
表示制御部１５３は、検出部により検出される頭部の傾き、及び体軸まわりの回転の少なくとも一方に基づき、表示領域３１０の鉛直方向及び水平方向のいずれか一方向におけるポインター３０１の移動量を決定する。表示制御部１５３は、決定した移動量に基づいてポインター３０１の位置を移動させる。
従って、使用者の頭部の傾き、又は頭部の体軸まわりの回転によりポインター３０１を移動させることができる。
【０１６４】
また、ＨＭＤ１００は、検出部として、操作部１１０及び操作制御部１４９と、６軸センサー２３５及び検出制御部１５１とを備える。
ＨＭＤ１００は、操作部１１０及び操作制御部１４９が受け付ける操作を第１操作として検出し、６軸センサー２３５及び検出制御部１５１が検出する頭部の動きを第２操作として検出する。
従って、操作部の操作及び頭部の動きによりポインター３０１の位置を移動させることができる。
【０１６５】
また、ＨＭＤ１００は、外景を撮像する撮像部としてのカメラ６１を備える。
表示制御部１５３は、第１操作モードの実行中に、カメラ６１の撮像画像に基づき、ポインター３０１に重なって視認される対象物体を特定する。また、表示制御部１５３は、第２操作モードの実行中に、表示領域３１０に表示される複数の表示画像からポインター３０１の位置に対応する表示画像を特定する。
従って、操作モードを第１操作モード又は第２操作モードに変更することで、特定する対象を切り替えることができる。
【０１６６】
また、表示制御部１５３は、第１操作モードの実行中に、検出部により第１操作又は第２操作が検出された場合に、第１操作又は第２操作に応じてポインター３０１を使用者が視認する外景を基準として移動させる。また、表示制御部１５３は、第２操作モードの実行中に、検出部により第１操作又は第２操作が検出された場合に、第１操作又は第２操作に応じてポインター３０１を使用者が視認する表示画像を基準として移動させる。
従って、操作モードを切り替えることで、対象物体又は表示画像の位置にポインター３０１を位置合わせしやすくなる。
【０１６７】
また、表示制御部１５３は、第２操作に応じてポインター３０１を移動させる場合、第２操作に応じてポインター３０１を移動させる移動量を、第１操作に応じてポインター３０１を移動させる場合の移動量より小さくする。これにより、第１操作に応じたポインター３０１の移動と、第２操作に応じたポインター３０１の移動とを異なる態様で移動させる。
従って、対象物体３０５又は表示画像へのポインター３０１の位置合わせを容易とし、ポインター３０１を対象物体又は表示画像の位置に移動させるための操作回数を低減することができる。
【０１６８】
また、ＨＭＤ１００は、使用者が画像表示部２０を透過して視認する対象物体までの距離を検出する距離検出部としてのビーコン受信部１１９を備える。表示制御部１５３は、ビーコン受信部１１９により検出される対象物体までの距離に応じて、ポインター３０１を異なる態様で移動させる。
従って、対象物体までの距離に応じて、ポインター３０１を異なる態様で移動させることができるので、ポインター３０１の操作の操作性を向上させ、頭部装着型表示装置の使い勝手を向上させることができる。
【０１６９】
また、表示制御部１５３は、ビーコン受信部１１９により検出される対象物体３０５までの距離がしきい値よりも大きい場合に、検出部が検出する操作を第１操作とする。また、表示制御部１５３は、ビーコン受信部１１９により検出される対象物体３０５までの距離がしきい値以下である場合に、検出部が検出する操作を第２操作とする。また、表示制御部１５３は、第１操作によりポインター３０１を移動させる移動量を、第２操作によりポインター３０１を移動させる移動量よりも小さくする。
従って、対象物体３０５までの距離に応じてポインター３０１の移動に使用される操作を変更することができ、ポインター３０１の移動量を変更することができる。このため、ポインター３０１の操作の操作性を向上させ、ＨＭＤ１００の使い勝手を向上させることができる。
【０１７０】
また、ＨＭＤ１００は、操作を受け付ける操作部１１０を備える。
表示制御部１５３は、カメラ６１の撮像画像に基づいて移動する移動物体を検出し、検出した移動物体に対応する表示領域３１０の位置にポインター３０１を表示させる。
従って、移動物体に対応する表示領域３１０の位置にポインター３０１を表示させることができる。
【０１７１】
また、対象物体３０５上に配置されたＱＲコード３４０を撮像して、ＱＲコード３４０を検出するカメラ６１及び撮像制御部１４７を備える。
表示制御部１５３は、カメラ６１及び撮像制御部１４７により検出されたＱＲコード３４０が配置された対象物体３０５上の位置にポインター３０１を表示させる。表示制御部１５３は、操作部１１０や、６軸センサー２３５及び検出制御部１５１により検出される操作に応じてポインター３０１の位置を移動させる。
従って、ポインター３０１の位置合わせを簡易に行うことができる。
【０１７２】
また、ビーコン受信部１１９は、対象物体３０５上に配置されたビーコン送信機３４５から送信されるビーコン信号を受信する。表示制御部１５３は、ビーコン受信部１１９により受信したビーコン信号に基づきビーコン送信機３４５に接続し、ビーコン送信機３４５から送信される付加情報を受信して表示領域３１０に表示させる。
従って、ビーコン送信機３４５から付加情報を取得して表示させることができる。
【０１７３】
［第２実施形態］
本発明の第２実施形態について説明する。
本実施形態の構成は、上述した第１実施形態と同一である。このため、第２実施形態のＨＭＤ１００の構成についての説明は省略する。
【０１７４】
本実施形態の制御部１５０は、例えば、操作部１１０によりポインター３０１の操作を無効にする操作を受け付けた場合、ポインター３０１の表示位置を示す表示位置情報を記憶部１２５に記憶させる。このとき、表示位置情報として表示領域３１０の座標を記憶部１２５に記憶させたと仮定する。この場合、例えば、ポインター３０１を、外景内に存在する対象物体３０５の位置やその近傍に表示させていた場合、使用者が頭部を動かした場合、ポインター３０１の位置も移動してしまうことになる。このため、無効にしたポインター３０１の操作を有効にし、ポインター３０１を操作しようとしたときに、ポインター３０１が無効にする前の表示位置から移動してしまう場合があった。
【０１７５】
このため本実施形態では、制御部１５０は、ポインター３０１の操作を無効にする操作を受けた場合、ポインター３０１の表示位置を３次元空間の座標に対応付け、この３次元空間の座標を記憶部１２５に記憶させる。
制御部１５０は、ポインター３０１の操作を無効にする操作を受け付けると、磁気センサー２３７（又は１１３）の検出値に基づきＨＭＤ１００（使用者の頭部）の方位角を検出する。また、制御部１５０は、６軸センサー２３５の検出値に基づきＨＭＤ１００（使用者の頭部）の仰角を検出する。制御部１５０は、検出した方位角及び仰角に基づいて、ポインター３０１の表示位置を対応付ける３次元空間の座標（方位角及び仰角）を求める。制御部１５０は、求めた方位角及び仰角を表示位置情報として記憶部１２５に記憶させる。
【０１７６】
制御部１５０は、ポインター３０１の操作が無効に設定された時点で、ポインター３０１の表示を表示領域３１０から消去してもよい。また、制御部１５０は、ポインター３０１の表示を消去せずに、操作が無効にされた時点で表示していた位置にポインター３０１を表示し続けてもよい。この場合、使用者が頭部や体を動かし、ポインター３０１の表示位置が表示領域３１０から外れると、表示領域３１０にはポインター３０１は表示されない。しかし、表示領域３１０内に、表示位置情報が示すポインター３０１の座標が位置するように使用者が頭部や体を動かすことで、表示領域３１０にはポインター３０１が再度表示される。
【０１７７】
また、使用者は、ポインター３０１を再度操作する場合、例えば、操作部１１０を操作してポインター３０１の操作を有効に設定する。使用者は、表示領域３１０内に、表示位置情報として記憶部１２５に記憶させた３次元空間の座標が位置するように頭部や体を動かす。制御部１５０は、磁気センサー２３７（又は１１３）や６軸センサー２３５の検出値に基づいて方位角や仰角を求め、表示位置情報が示すポインター３０１の座標が表示領域３１０内に位置するか否かを判定する。制御部１５０は、表示位置情報が示すポインター３０１の座標が表示領域３１０内に位置すると判定する場合に、表示領域３１０にポインター３０１を表示させる。また、制御部１５０は、第１操作又は第２操作を受け付けて、受け付けた操作に対応してポインター３０１の表示位置を移動させる。
【０１７８】
このように本実施形態は、ポインター３０１の操作が無効に設定された場合、ポインター３０１の表示位置を３次元空間の座標に対応付けて記憶部１２５に記憶させる。このため、操作が無効にされている間に、使用者が頭部や体を動かしても、ポインター３０１の表示位置は動かない。また、ポインター３０１の操作が有効に設定された場合に、操作が無効に設定されたときの表示位置にポインター３０１を表示することができる。
【０１７９】
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上述した実施形態では、トラックパッド１４を操作して、ポインター３０１の表示位置を移動させる操作を第１操作とし、使用者の頭部を動かしてポインター３０１の表示位置を移動させる操作を第２操作として説明した。この説明とは逆に、使用者の頭部を動かしてポインター３０１の表示位置を移動させる操作を第１操作とし、トラックパッド１４を操作して、ポインター３０１の表示位置を移動させる操作を第２操作としてもよい。
【０１８０】
また、上述した実施形態では、制御装置１０が画像表示部２０と有線接続される構成を例示したが、本発明はこれに限定されず、制御装置１０に対して画像表示部２０が無線接続される構成であってもよい。この場合の無線通信方式は通信部１１７が対応する通信方式として例示した方式を採用してもよいし、その他の通信方式であってもよい。
【０１８１】
また、制御部１５０は、ＨＭＤ１００が第１操作を検出する状態にある場合には、第１操作を検出する状態であることを示す画像やメッセージを生成し、生成した画像やメッセージを画像表示部２０により表示させる。また、制御部１５０は、ＨＭＤ１００が第２操作を検出する状態にある場合には、第２操作を検出する状態であることを示す画像やメッセージを生成し、生成した画像やメッセージを画像表示部２０により表示させる。
また、制御部１５０は、ＨＭＤ１００の操作モードが第１操作モードである場合に、操作モードが第１操作モードであることを示す画像やメッセージを生成し、生成した画像やメッセージを画像表示部２０により表示させる。また、制御部１５０は、ＨＭＤ１００の操作モードが第２操作モードである場合に、操作モードが第２操作モードであることを示す画像やメッセージを生成し、生成した画像やメッセージを画像表示部２０により表示させる。
【０１８２】
また、制御装置１０が備える一部の機能を画像表示部２０に設けてもよく、制御装置１０を複数の装置により実現してもよい。すなわち、制御装置１０は、箱形のケース１０Ａを備える構成に限定されない。例えば、制御装置１０に代えて、使用者の身体、着衣又は、使用者が身につける装身具に取り付け可能なウェアラブルデバイスを用いてもよい。この場合のウェアラブルデバイスは、例えば、時計型の装置、指輪型の装置、レーザーポインター、マウス、エアーマウス、ゲームコントローラー、ペン型のデバイス等であってもよい。
【０１８３】
さらに、上記各実施形態では、画像表示部２０と制御装置１０とが分離され、接続ケーブル４０を介して接続された構成を例に挙げて説明した。本発明はこれに限定されず、制御装置１０と画像表示部２０とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
【０１８４】
また、制御装置１０として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置１０として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
【０１８５】
また、上記各実施形態において、使用者が表示部を透過して外景を視認する構成は、右導光板２６及び左導光板２８が外光を透過する構成に限定されない。例えば外景を視認できない状態で画像を表示する表示装置にも適用可能である。具体的には、カメラ６１の撮像画像、この撮像画像に基づき生成される画像やＣＧ、予め記憶された映像データや外部から入力される映像データに基づく映像等を表示する表示装置に、本発明を適用できる。この種の表示装置としては、外景を視認できない、いわゆるクローズ型の表示装置を含むことができる。また、上記実施形態で説明したように実空間に重ねて画像を表示するＡＲ表示や、撮像した実空間の画像と仮想画像とを組み合わせるＭＲ（Ｍｉｘｅｄ  Ｒｅａｌｉｔｙ）表示といった処理を行わない表示装置に本発明を適用できる。また、仮想画像を表示するＶＲ（Ｖｉｒｔｕａｌ  Ｒｅａｌｉｔｙ）表示といった処理を行わない表示装置にも本発明を適用できる。例えば、外部から入力される映像データ又はアナログ映像信号を表示する表示装置も、本発明の適用対象として勿論含まれる。
【０１８６】
また、例えば、画像表示部２０に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼ＬＥに対応して画像を表示する表示部と、使用者の右眼ＲＥに対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び当該部分に対し位置決めされる部分を装着部とすることができる。
【０１８７】
また、画像光を使用者の眼に導く光学系として、右導光板２６及び左導光板２８の一部に、ハーフミラー２６１、２８１により虚像が形成される構成を例示した。本発明はこれに限定されず、右導光板２６及び左導光板２８の全面又は大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
さらに、本発明の光学素子は、ハーフミラー２６１、２８１を有する右導光板２６、左導光板２８に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
【０１８８】
また、図４、図５等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部１５０が実行するプログラムは、不揮発性記憶部１２１又は制御装置１０内の他の記憶装置（図示略）に記憶されてもよい。また、外部の装置に記憶されたプログラムを通信部１１７や外部コネクター１８４を介して取得して実行する構成としてもよい。また、制御装置１０に形成された構成のうち、操作部１１０が使用者インターフェイス（ＵＩ）として形成されてもよい。
【０１８９】
また、図２１に示すフローチャートの処理単位は、ＨＭＤ１００の制御部１５０の処理を理解容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって本発明が制限されることはない。また、制御部１５０の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、１つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
【符号の説明】
【０１９０】
１…システム、１０…制御装置、１０Ａ…ケース、１１…ボタン、１２、６７…ＬＥＤインジケーター、１４…トラックパッド、１５…上下キー、１６…切替スイッチ、１７…ＬＥＤ表示部、１８…電源スイッチ、１９…バイブレーター、２０…画像表示部(表示部)、２１…右保持部、２２…右表示ユニット、２３…左保持部、２４…左表示ユニット、２６…右導光板、２７…前部フレーム、２８…左導光板、３０…ヘッドセット、３２…右イヤホン、３４…左イヤホン、４０…接続ケーブル、４６…コネクター、６１…カメラ（撮像部）、６３…マイク、６５…照度センサー、１００…ＨＭＤ（受信装置、表示装置）、１１０…操作部、１１１…６軸センサー、１１３…磁気センサー、１１５…ＧＰＳ受信部、１１７…通信部、１１９…ビーコン受信部（距離検出部）、１２０…コントローラー基板、１２１…不揮発性記憶部、１２３…メモリー、１２５…記憶部、１２７…設定データ、１２８…コンテンツデータ、１３０…電源部、１３２…バッテリー、１３４…電源制御回路、１４０…メインプロセッサー、１４３…オペレーティングシステム、１４５…画像処理部、１４７…撮像制御部、１４９…操作制御部（検出部）、１５０…制御部、１５１…検出制御部（検出部）、１５３…表示制御部、１８０…音声コーデック、１８２…音声インターフェイス、１８４…外部コネクター、１８６…外部メモリーインターフェイス、１８８…ＵＳＢコネクター、１９２…センサーハブ、１９４…ＦＰＧＡ、１９６…インターフェイス、２００…ビーコン装置、２１１…インターフェイス、２１３…受信部、２１５…ＥＥＰＲＯＭ、２１７…温度センサー、２２１…ＯＬＥＤユニット、２２３…ＯＬＥＤパネル、２２５…ＯＬＥＤ駆動回路、２３１…インターフェイス、２３３…受信部、２３５…６軸センサー（検出部）、２３７…磁気センサー、２３９…温度センサー、２４１…ＯＬＥＤユニット、２４３…ＯＬＥＤパネル、２４５…ＯＬＥＤ駆動回路、２５１…右光学系、２５２…左光学系、２６１、２８１…ハーフミラー、３００…視界、３０１…ポインター、３０２…ワープロソフトウェアの表示画面、３０３…拡大画像、３０４…ソフトウェアキーボード、３０４Ａ…第１キー画面、３０４Ｂ…第２キー画面、３０５…対象物体、３０５Ａ…自動販売機、３０５Ｂ…冷蔵ショーケース、３０７…使用者画像、３０８…ポップ表示、３１０…表示領域、３３０〜３３５…検知装置、３４０…ＱＲコード。
【図１】
2018200415.tif 000003
【図２】
2018200415.tif 000004
【図３】
2018200415.tif 000005
【図４】
2018200415.tif 000006
【図５】
2018200415.tif 000007
【図６】
2018200415.tif 000008
【図７】
2018200415.tif 000009
【図８】
2018200415.tif 000010
【図９】
2018200415.tif 000011
【図１０】
2018200415.tif 000012
【図１１】
2018200415.tif 000013
【図１２】
2018200415.tif 000014
【図１３】
2018200415.tif 000015
【図１４】
2018200415.tif 000016
【図１５】
2018200415.tif 000017
【図１６】
2018200415.tif 000018
【図１７】
2018200415.tif 000019
【図１８】
2018200415.tif 000020
【図１９】
2018200415.tif 000021
【図２０】
2018200415.tif 000022
【図２１】
2018200415.tif 000023
【図２２】
2018200415.tif 000024
【図２３】
2018200415.tif 000025
【図２４】
2018200415.tif 000026