(57)【特許請求の範囲】
【請求項１】
コンピューティングデバイス上で、定期的に更新される位置信号を提供するユーザ入力機構を介して、グラフィカルユーザインターフェイスに表示された第１の選択可能なユーザインターフェイスエレメントの選択を受信する方法であって、
前記第１の選択可能なユーザインターフェイスエレメントを前記グラフィカルユーザインターフェイス上の第１の位置に表示し、また、前記第１の選択可能なユーザインターフェイスエレメントの少なくとも部分的に外側で、かつ、前記第１の選択可能なユーザインターフェイスエレメントに隣接して、前記第１の選択可能なユーザインターフェイスエレメントに関連付けられた第１の移動可能なインタラクティブターゲットを表示することであって、前記第１の選択可能なユーザインターフェイスエレメントは、視線と前記第１の移動可能なインタラクティブターゲットとの相互作用を介して選択可能であることと、
第２の選択可能なユーザインターフェイスエレメントを前記グラフィカルユーザインターフェイス上の第２の位置に表示し、また、前記第２の選択可能なユーザインターフェイスエレメントの少なくとも部分的に外側で、かつ、前記第２の選択可能なユーザインターフェイスエレメントに隣接して、前記第２の選択可能なユーザインターフェイスエレメントに関連付けられた第２の移動可能なインタラクティブターゲットを表示することであって、前記第２の選択可能なユーザインターフェイスエレメントは、視線と前記第２の移動可能なインタラクティブターゲットとの相互作用を介して選択可能であることと、
視線追跡システムから、前記定期的に更新される位置信号の座標の入力を受信することと、
前記定期的に更新される位置信号が、まず、前記第１の選択可能なユーザインターフェイスエレメントと相互作用し、次に、前記第１の選択可能なユーザインターフェイスエレメントを選択するための既定の動作条件を満たすために、表示された目的位置に向かう前記第１の移動可能なインタラクティブターゲットの動作を含む追跡視線ジェスチャを介して、前記第１の移動可能なインタラクティブターゲットと相互作用する、モーションインタラクションに応答して、前記第１の選択可能なユーザインターフェイスエレメントの選択を決定することとを備える方法。
【請求項２】
前記追跡視線ジェスチャが、前記第１の移動可能なインタラクティブターゲットを初期位置から目的位置に動かす視線移動ジェスチャを含む、請求項１に記載の方法。
【請求項３】
前記既定の動作条件が、前記第１の選択可能なユーザインターフェイスエレメントの選択に使用することができる２つ以上の異なる動作条件のうちの１つである、請求項１に記載の方法。
【請求項４】
前記第１の移動可能なインタラクティブターゲットが前記グラフィカルユーザインターフェイス上に持続的に表示される、請求項１に記載の方法。
【請求項５】
１つまたは複数の移動可能なインタラクティブターゲットが、ユーザと１つまたは複数の選択可能なユーザインターフェイスエレメントとの間のインタラクションに応答して表示される、請求項１に記載の方法。
【請求項６】
コンピューティングデバイス上で、グラフィカルユーザインターフェイスに表示されたコンテンツの視線ジェスチャを介して、第１の選択可能なユーザインターフェイスエレメントの選択を受信する方法であって、
前記第１の選択可能なユーザインターフェイスエレメントの表現を前記グラフィカルユーザインターフェイス上の第１の位置に表示し、また、前記第１の選択可能なユーザインターフェイスエレメントの少なくとも部分的に外側で、かつ、前記第１の選択可能なユーザインターフェイスエレメントに隣接して、前記第１の選択可能なユーザインターフェイスエレメントに関連付けられた第１のインタラクティブターゲットを表示することであって、前記第１の選択可能なユーザインターフェイスエレメントは、視線と前記第１のインタラクティブターゲットとの相互作用を介して選択可能であることと、
第２の選択可能なユーザインターフェイスエレメントの表現を前記グラフィカルユーザインターフェイス上の第２の位置に表示し、また、前記第２の選択可能なユーザインターフェイスエレメントの少なくとも部分的に外側で、かつ、前記第２の選択可能なユーザインターフェイスエレメントに隣接して、前記第２の選択可能なユーザインターフェイスエレメントに関連付けられた第２のインタラクティブターゲットを表示することであって、前記第２の選択可能なユーザインターフェイスエレメントは、視線と前記第２のインタラクティブターゲットとの相互作用を介して選択可能であることと、
前記第１の選択可能なユーザインターフェイスに関連付けられた異なるインタラクティブターゲットの表現を前記グラフィカルユーザインターフェイスに表示することと、
視線追跡システムから、視線ジェスチャに対応する座標の入力を受信することと、
前記視線ジェスチャが、まず、前記第１の選択可能なユーザインターフェイスエレメントと相互作用し、次に、前記第１の選択可能なユーザインターフェイスエレメントから前記第１のインタラクティブターゲットに移動し、次に、前記第１の選択可能なユーザインターフェイスを選択する意図を確認するために前記第１のインタラクティブターゲットから前記異なるインタラクティブターゲットに移動する、モーションインタラクションを含む場合に、前記第１の選択可能なユーザインターフェイスエレメントの選択を決定することとを備える方法。
【請求項７】
前記第１の選択可能なユーザインターフェイスエレメントの選択を決定することが、前記モーションインタラクションが既定の動作条件を満たすことを決定することを含み、前記既定の動作条件が、連続するサッケードジェスチャを含む、請求項６に記載の方法。
【請求項８】
前記連続するサッケードジェスチャが、特定の一連のモーションインタラクションを含み、前記特定の一覧のモーションインタラクションが、前記第１の選択可能なユーザインターフェイスエレメントと、その後前記第１のインタラクティブターゲットとのモーションインタラクションと、これに続く前記異なるインタラクティブターゲットとのモーションインタラクションとを含む、請求項７に記載の方法。
【請求項９】
視線ジェスチャを介して、表示されたコンテンツの選択を受信するように構成されたヘッドマウントディスプレイシステムであって、
ニアアイディスプレイデバイスと、
視線追跡入力システムと、
ロジックサブシステムと、
命令を保持するストレージサブシステムと、
を備え、前記命令は、前記ロジックサブシステムに、
前記ニアアイディスプレイデバイスを介して、第１の位置に第１の選択可能なユーザインターフェイスエレメントの表現を表示することであって、前記第１の選択可能なユーザインターフェイスエレメントが、第１のインタラクティブターゲットとの相互作用により選択可能であることと、
前記ニアアイディスプレイデバイスを介して、第２の位置に第２の選択可能なユーザインターフェイスエレメントの表現を表示することであって、前記第２の選択可能なユーザインターフェイスエレメントが、第２のインタラクティブターゲットとの相互作用により選択可能であることと、
視線追跡システムから、座標の入力を受信することと、
前記座標の入力から、視線ジェスチャの前記第１の選択可能なユーザインターフェイスエレメントとの相互作用を検出することと、
前記視線ジェスチャの前記第１の選択可能なユーザインターフェイスエレメントとの相互作用の検出に応答して、前記第１の選択可能なユーザインターフェイスエレメントの少なくとも部分的に外側で、かつ、前記第１の選択可能なユーザインターフェイスエレメントに隣接して、前記第１のインタラクティブターゲットの表現を前記ニアアイディスプレイデバイスを介して表示することであって、前記第１のインタラクティブターゲットが、前記第１の選択可能なユーザインターフェイスエレメントと関連付けられていることと、
前記視線追跡システムからの前記座標の入力から、前記第１の選択可能なユーザインターフェイスエレメントから前記第１のインタラクティブターゲットへの前記視線の動きを検出することと、
前記視線ジェスチャの前記第１のインタラクティブターゲットとの相互作用の検出に応答して、前記第１の選択可能なユーザインターフェイスに関連付けられた異なるインタラクティブターゲットの表現を前記ニアアイディスプレイデバイスを介して表示することと、
前記座標の入力から前記異なるインタラクティブターゲットとの相互作用が検出されるとき、前記第１の選択可能なユーザインターフェイスエレメントを選択する意図を確認することと、
前記座標の入力から前記異なるインタラクティブターゲットとの前記相互作用が検出されないとき、前記第１の選択可能なユーザインターフェイスエレメントを選択しないことと、
を実行させることが可能である、ヘッドマウントディスプレイシステム。
【発明の詳細な説明】
【背景技術】
【０００１】
[0001]  さまざまな種類のユーザ入力デバイスが、位置信号をコンピューティングデバイスに提供することができる。例えば、視線追跡システムを使用して、表示されたユーザインターフェイスとユーザの視線が交差する位置を追跡することができる。さまざまな機構を使用して目の動きを追跡することができる。例えば、一部の視線追跡システムは、光（赤外線など）をユーザの目に向けるように構成された１つまたは複数の光源、およびユーザの目の画像を取り込むように構成された１つまたは複数の画像センサを含む場合がある。光源が光を放射する間に取得された目の画像は、ユーザの瞳孔の位置、および光源から生じる角膜（またはその他の）反射の位置の検出に使用することができる。その後、この情報は、ユーザの目の位置の決定に使用することができる。ユーザの目の位置に関する情報は、その後、ユーザインターフェイスに対するユーザの目の相対的位置に関する情報と組み合わせて使用して、ユーザの視線がユーザインターフェイスと交差する位置を決定することができ、そのため位置信号を決定することができる。
【発明の概要】
【０００２】
[0002]  本明細書では、定期的に更新される位置信号を介したユーザインターフェイスエレメントの選択に関連する実施形態が開示される。例えば、開示された一実施形態は、ユーザインターフェイスエレメントの表現およびインタラクティブターゲットの表現をグラフィカルユーザインターフェイス上に表示する工程を備える方法を提供する。この方法は、定期的に更新される位置信号の座標の入力を受信する工程と、定期的に更新される位置信号とインタラクティブターゲットとの間のモーションインタラクションが既定の動作条件を満たす場合にユーザインターフェイスエレメントの選択を決定する工程とをさらに備える。
【０００３】
[0003]  この概要は、概念の一部を簡略された形態で説明するために提供されており、下の発明を実施するための形態で詳細に説明される。この概要は、特許請求される主題の重要な特徴または不可欠な特徴を識別することは意図されておらず、特許請求される主題の範囲の制限に使用されることも意図されていない。さらに、特許請求される主題は、本開示のいずれかの部分に記載されたいくつか、またはすべての欠点を解決する実装に限定されない。
【図面の簡単な説明】
【０００４】
【図１Ａ】[0004]定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの例を表す図である。
【図１Ｂ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの例を表す図である。
【図１Ｃ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの例を表す図である。
【図２】[0005]定期的に更新される位置信号を介してグラフィカルユーザインターフェイスエレメントの選択を受信するように構成されたコンピューティングシステムの一実施形態例のブロック図である。
【図３】[0006]定期的に更新される位置信号を介してユーザインターフェイスエレメントを選択するための方法の一実施形態例を表すフロー図である。
【図４Ａ】[0007]定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図４Ｂ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図４Ｃ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図５Ａ】[0008]定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図５Ｂ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図５Ｃ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図５Ｄ】定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図６】[0009]定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの別の例を表す図である。
【図７】[0010]コンピューティングシステムの一実施形態例を示す図である。
【発明を実施するための形態】
【０００５】
[0011]  前述したように、視線追跡は、コンピューティングデバイスに入力を提供するために使用することができる。しかし、視線追跡システムを介して、グラフィカルユーザインターフェイスエレメントを選択しようとするユーザの意図を決定することは、困難である場合がある。例えば、コンピュータマウス、タッチパッド、またはトラックボールなどのユーザ入力デバイスの場合、ユーザは、ユーザインターフェイスエレメント上でカーソルを動かし、ユーザ入力デバイスでボタンなどを押してエレメントを選択することによって、ユーザインターフェイスオブジェクトを選択しようとする意図を明白に示すことができる。同様に、タッチセンサー式ディスプレイの場合、ユーザは、ユーザインターフェイスアイテムを表す領域で選択的にディスプレイに触ることによって、ユーザインターフェイスアイテムを選択できる。
【０００６】
[0012]  これらの各例において、ユーザの意図は、ある程度の確実性で意図を推測可能にする機構（例えば、マウスボタンまたはタッチスクリーン）の起動を通じて行われたユーザ入力（例えば、マウスボタンの押下またはスクリーンタッチ）によって、明確に推測することができる。しかし、位置信号をコンピューティングデバイスに提供するように構成された視線追跡システムの場合、ユーザが現在凝視しているユーザインターフェイスオブジェクトの選択を引き起こすための別の種類の入力（例えば、音声コマンド、体／頭のジェスチャなど）がなければ、ユーザインターフェイスエレメントを選択しようとするユーザの意図を、ある程度の確実性で推測することは困難な場合がある。
【０００７】
[0013]  ユーザインターフェイスエレメントを選択しようとするユーザの意図を推測できる可能性のある１つの方法は、ユーザの視線があるしきい値期間の間、ユーザインターフェイスエレメント上に留まっていると判定された場合に、そのような意図を推測することである。しかし、このような凝視に基づく選択機構は、ユーザには遅く感じられるか、ぎこちなく感じられる可能性がある。
【０００８】
[0014]  したがって、本明細書では、定期的に更新される位置信号と、ユーザインターフェイスエレメントに関連付けられたインタラクティブターゲットとの間のインタラクションを通じてユーザインターフェイスエレメントを選択することに関連する実施形態が開示される。「定期的に更新される位置信号」という用語は、ユーザ入力機構を指し、この機構において、表示されたユーザインターフェイスとの相対的な位置信号が提供され、定期的な更新を引き起こすためのどのようなユーザ入力も使用されずに、定期的に更新される。定期的に更新される位置信号を介したユーザインターフェイスアイテムの選択は、コンピュータマウスやトラックパッドを介したアイテムの通常の選択とは区別される。コンピュータマウスやトラックパッドは、定期的な頻度で位置信号を提供できるが、ボタンの押下またはその他の信号を使用してユーザインターフェイスアイテムを選択する。本明細書では、ニアアイディスプレイシステムの視線追跡システムに関連して記載されているが、開示された実施形態は、画像データおよび／またはモーションセンサデータから生成された体のジェスチャの信号を含むがこれに限定されない、その他の任意の適切な定期的に更新される位置信号とともに使用することができるということが理解されるであろう。
【０００９】
[0015]  図１Ａ〜１Ｃは、定期的に更新される位置信号を介したユーザとグラフィカルユーザインターフェイスとの間のインタラクションの一実施形態例を示している。さらに具体的には、図１Ａ〜１Ｃは、高度な現実感のある画像を表示するように構成されたヘッドマウントディスプレイ１０２の形態のニアアイディスプレイデバイスのユーザ１００を表す。これらの図は、ニアアイディスプレイデバイスに内蔵された視線追跡システムを介して仮想テレビオブジェクト１０４の形態のグラフィカルユーザインターフェイスエレメントとインタラクションするユーザ１００も示す。ニアアイディスプレイデバイスにおいて、視線追跡システムは定期的に更新される位置信号を提供する。この実施形態は、例として提示されており、限定することは意図されておらず、定期的に更新される位置信号を提供するように構成された任意の適切な入力デバイスからの入力を、任意の適切なコンピューティングデバイスが受信できるということが理解されるであろう。
【００１０】
[0016]  ユーザ１００が仮想テレビオブジェクト１０４を凝視したときに、ユーザが仮想テレビオブジェクト１０４を通じてビデオコンテンツを再生することを選択しようとしているのか、それとも単に仮想テレビオブジェクト１０４を詳細に調べているのかを決定することは困難である場合がある。そのため、図１Ａは、仮想テレビオブジェクト１０４に関連付けられたインタラクティブターゲット１０６の形態でのユーザインターフェイスエレメントも表す。図１Ｂに示されるように、ユーザ１００は、視線１０８の位置を対話型テレビオブジェクト１０４からインタラクティブターゲット１０６に移動することによって、仮想テレビオブジェクト１０４を起動しようとする意図を示すことができる。定期的に更新される位置信号とインタラクティブターゲットとの間のモーションインタラクションが既定の動作条件を満たしている（例えば、いずれかの位置を一定期間凝視して、または凝視しないで、仮想テレビオブジェクトからインタラクティブターゲットに視線を移動する）ことが検出されたときに、仮想テレビオブジェクト１０４でのビデオコンテンツ１１０の再生を、ユーザ１００に対して開始できる（図１Ｃを参照）。
【００１１】
[0017]  対応する選択可能なユーザインターフェイスエレメントとは別に表示されるインタラクティブターゲットを使用することで、ユーザインターフェイスエレメントとインタラクションしようとするユーザの意図を、凝視に基づく位置信号入力を使用してユーザインターフェイスエレメントを選択するよりも素早く決定することができ、より自然なユーザ操作を提供することもできる。例えば、グラフィカルユーザインターフェイスエレメントを選択しようとするユーザの意図を示すのに適した凝視の期間は、ユーザにとって不自然に長く、かつ遅いと感じられる可能性がある。一方、本明細書で開示されたインタラクティブターゲットは、この意図を示すために、より自然な目の動きを使用することができるようにする。以下では、インタラクティブターゲットのさまざまな例について詳細に説明する。
【００１２】
[0018]  図２は、定期的に更新される位置信号を介してユーザインターフェイスエレメントを選択できるように構成されたコンピューティングシステム２００の実施形態のブロック図を示している。コンピューティングシステム２００は、図１のヘッドマウントディスプレイ１０２および／または定期的に更新される位置信号を入力として使用するように構成されたその他の任意の適切なコンピューティングシステムを表すことができる。コンピューティングシステム２００は、グラフィカルユーザインターフェイスを表示できるディスプレイ２０２を含む。ディスプレイ２０２は任意の適切な形態を取ることができる。例えば、一部の実施形態では、コンピューティングシステムは、ニアアイディスプレイ２０４を含むことができる。ニアアイディスプレイシステムの例は、ヘッドマウントディスプレイおよび携帯用デバイス（例えば、ニアアイディスプレイモードを備えるスマートフォン）を含むことができるが、これらに限定されない。そのようなデバイスでは、ニアアイディスプレイは、透視ディスプレイ２０６または不透明なディスプレイを備えることができる。その他の実施形態では、ディスプレイは、従来型のモニタ、テレビなどの場合のように、コンピューティングデバイスの外部２０８に存在できる。
【００１３】
[0019]  コンピューティングシステム２００は、定期的に更新される位置信号の入力を適切な入力デバイスから受信するように構成された入力サブシステム２１０をさらに備える。例えば、一部の実施形態では、入力サブシステム２１０は、グラフィカルユーザインターフェイス上で決定されたユーザの視線の位置に基づいて、定期的に更新される位置信号を生成するように構成された、視線追跡システム２１２を備えることができる。一部の実施形態では、視線追跡システム２１２は、ヘッドマウント２１４にする（例えば、ヘッドマウントニアアイディスプレイシステムに組み込む）か、コンピューティングデバイスに組み込むことができる。その他の実施形態では、視線追跡システムは、コンピューティングデバイスの外部２１６に存在できる。例えば、グラフィカルユーザインターフェイスの表示に使用される従来型のモニタまたはテレビの外部で１つまたは複数のカメラを使用する視線追跡システムの場合である。視線追跡システムは、任意の適切なコンポーネントを使用することができる。例えば、一部の実施形態では、視線追跡システムは、眼の角膜からの光の反射を生成するように構成された１つまたは複数の光源、および目の画像を取得するように構成された１つまたは複数の画像センサを使用することができる。
【００１４】
[0020]  さらに、入力サブシステム２１０は、定期的に更新される位置信号のその他のソースを含むことができる。例えば、入力サブシステム２１０は、（例えば、ヘッドマウントディスプレイまたはその他の携帯機器に組み込まれた）１つまたは複数のモーションセンサ２１８および／または１つまたは複数の画像センサ２２０（例えば、ユーザが行ったジェスチャのビデオ画像を取り込むように構成された１つまたは複数の外向き画像センサ、および視線を追跡するための内向き画像センサ）を含むことができる。定期的に更新される位置信号を提供するユーザ入力デバイスのこれらの実施形態は、例として提示されており、決して限定することは意図されていないことが理解されるであろう。
【００１５】
[0021]  コンピューティングシステム２００は、ロジックサブシステム２２２およびストレージサブシステム２２４も含む。ストレージサブシステム２２４は、ロジックサブシステム２２２によって実行可能な格納済み命令を含むことができる。ロジックサブシステム２２２は、この格納済み命令によって、グラフィカルユーザインターフェイスの表示、および定期的に更新される位置信号の受信と処理に関連したさまざまなタスクを実行できる。以下では、コンピューティングデバイスの例について詳細に説明する。
【００１６】
[0022]  図３は、定期的に更新される位置信号を介してグラフィカルユーザインターフェイスエレメントを選択するための方法３００の一実施形態例を表すフロー図を示している。方法３００は、３０２でユーザインターフェイスエレメントをグラフィカルユーザインターフェイスに表示する工程を備える。ユーザインターフェイスエレメントは、任意の適切な形態を取ることができ、任意の適切な選択可能アイテムを表すことができる。
【００１７】
[0023]  方法３００は、３０４でユーザインターフェイスエレメントに関連付けられたインタラクティブターゲットをグラフィカルユーザインターフェイスに表示する工程をさらに備える。前述したように、インタラクティブターゲットは、インタラクティブターゲットと相対的な既定の動作条件を満たす視線の位置の移動（または、定期的に更新される位置信号の制御を含むその他のユーザ入力）を介して、ユーザインターフェイスエレメントを選択しようとするユーザの意図を決定するために使用することができる。例えば、一部の実施形態では、インタラクティブターゲットは、ユーザがユーザインターフェイスエレメントを最初に凝視した後のユーザの視線の移動先になる位置を表すことができる。さらに、一部の実施形態では、インタラクティブターゲットはユーザインターフェイスエレメントの移動先の位置を表し、ユーザは視線ジェスチャまたはその他の適切な種類のジェスチャを通じて、ユーザインターフェイスエレメントをその移動先に移動できる。さらに、一部の実施形態では、１つのユーザインターフェイスエレメントに対して複数のインタラクティブターゲットを表示することができ、その場合ユーザは、複数のインタラクティブターゲットとインタラクションしてそのユーザインターフェイスエレメントを選択する。
【００１８】
[0024]  インタラクティブターゲットは、関連するユーザインターフェイスエレメントとともに持続的に表示するか、ユーザがユーザインターフェイスエレメントとインタラクションするまで非表示にすることができる。さらに、１つのユーザインターフェイスエレメントに対して複数のインタラクティブターゲットが使用される場合、一部の例では、ユーザが順序内の直前のインタラクティブターゲットとインタラクションするまで、各インタラクティブターゲットを非表示のままにすることができる。インタラクティブターゲットのこれらの実施形態は、例として説明されており、決して限定することは意図されていないことが理解されるであろう。以下では、インタラクティブターゲットの限定されないその他の例について詳細に説明する。
【００１９】
[0025]  さらに、方法３００は、３０６で定期的に更新される位置信号の座標の入力を受信する工程を備える。これらの座標は、例えば、視線追跡システムによって決定されたグラフィカルユーザインターフェイス上のユーザが凝視している位置、ジェスチャ追跡システムから決定されたユーザが指している位置、ユーザがジェスチャを介してカーソルまたはその他の位置信号の表現を移動した移動先の位置、および／またはその他の任意の適切な情報を表すことができる。
【００２０】
[0026]  さらに、時間の関数として座標で表された位置の変化は、入力されたジェスチャを表すことができる。前述したように、ユーザインターフェイスエレメントおよび関連するインタラクティブターゲットとインタラクションする、定期的に更新される位置信号の移動は、ユーザインターフェイスエレメントを選択しようとするユーザの意図の決定に使用することができる。そのため、方法３００は、３０８でインタラクティブターゲットに対する定期的に更新される位置信号の動作が既定の動作条件を満たすかどうかを決定する工程を備える。既定の動作条件は、定期的に更新される位置信号の動作とインタラクティブターゲットとの間の任意の適切な条件を表すことができる。例えば、一部の実施形態では、既定の動作条件は、ユーザインターフェイスエレメントおよび／または１つまたは複数のインタラクティブターゲット間で移動する、１つまたは複数の連続する視線ジェスチャ（３１０に示される）に対応することができる。前述の図１Ａ〜１Ｃは、連続する視線ジェスチャの一例を示している。本明細書で使用される「連続する視線ジェスチャ」という用語は、視線の位置が、１つまたは複数の連続する移動区分内で、ユーザインターフェイス上の開始位置から終了位置まで移動することを意味している。そのようなジェスチャでは、サッケードなどの自然な視線の移動を使用してジェスチャを実行できる。
【００２１】
[0027]  連続する視線ジェスチャは、任意の適切な既定の動作条件と比較することができる。例えば、一部の実施形態では、動作条件は期待される順序に対応することができ、その順序で、定期的に更新される位置信号は、ユーザインターフェイスエレメントおよび各インタラクティブターゲットと交差する。その他の実施形態では、動作条件は、動作信号が辿る経路と、既定の経路がどの程度一致するかに対応することができる。これらの既定の動作条件の例は、説明の目的で提示されており、決して制限することは意図されていないことが理解されるであろう。
【００２２】
[0028]  図１Ａ〜１Ｃの例では、連続する視線ジェスチャは、ユーザインターフェイスエレメントと、１つの描画されたインタラクティブターゲットとの間で実行される。しかし、前述したように、一部の実施形態では、複数のインタラクティブターゲットを使用することができる。図４Ａ〜４Ｃは、複数のインタラクティブエレメント間の連続する視線ジェスチャが使用されて、関連するユーザインターフェイスエレメントを選択しようとするユーザの意図を決定する、一実施形態例を示す。
【００２３】
[0029]  まず、図４Ａは、仮想テレビ上の視線１０８の位置を示しており、仮想テレビオブジェクト１０４の右に表示された第１インタラクティブターゲット４００も示している。次に、図４Ｂは、第１の連続する視線ジェスチャ４０２の実行後の視線の位置を示し、その視線ジェスチャにおいて、視線は仮想テレビから第１インタラクティブターゲット４００に移動する。図に示されているように、ユーザの視線によって制御される定期的に更新される位置信号と、第１インタラクティブターゲットとの間のインタラクションが、第２インタラクティブターゲット４０４の表示を引き起こす。次に図４Ｃを参照すると、視線の位置が第２インタラクティブターゲットに移動したときに、ユーザの視線の移動が既定の動作条件（例えば、既定の順序でインタラクティブターゲットを凝視する）を満たしているため、仮想テレビオブジェクト１０４を通じたビデオコンテンツ４０６の再生が選択される。
【００２４】
[0030]  図に示されている実施形態は２つのインタラクティブターゲットを使用しているが、適切な任意の数のターゲットを使用することができることが理解されるであろう。さらに多くの数のターゲットを使用すると、ユーザとインタラクティブターゲットとの間で肯定的なインタラクションが誤って発生する可能性を減らすことができる。さらに、図に示されている実施形態では、第１インタラクティブターゲットが選択されることで、第２インタラクティブターゲットの表示が引き起こされるが、その他の実施形態では、ユーザインターフェイスアイテムの複数のインタラクティブターゲットを持続的に表示することができる。さらに、一部の実施形態では、複数のインタラクティブターゲットを、関連するユーザインターフェイスエレメントをまたぐように表示することができ、ユーザの視線の位置は、関連するユーザインターフェイスエレメントの中心上で近似的に平均化される。そのような配置によって、ユーザが隣接するユーザインターフェイスエレメントを誤って起動してしまうのを防ぐことができる。そのような構成の例を図６に示す。この図では、第１インタラクティブターゲット６００をすでに凝視した後に、仮想テレビ６０４の反対側にある第２インタラクティブターゲット６０２を凝視しているユーザが示されている。第１インタラクティブターゲット６００と第２インタラクティブターゲット６０２の間で視線が移動する方向は、点線６０５で示される。さらに、追加ユーザインターフェイスエレメントが、三目並べゲームを表すアイコン６０６として示されている。仮想テレビ６０４の各インタラクティブターゲットを仮想テレビ６０４の両側に配置することで、点線６０５で示された視線ジェスチャを形成する視線の各位置を平均して、仮想テレビ６０４上の位置を求めることができ、したがって、目的のユーザインターフェイスエレメントに関する情報を提供できる。さらに、図に示された、仮想テレビ６０４のインタラクティブターゲット６００、６０２の配置によって、ユーザがアイコン６０６に関連付けられたインタラクティブターゲット６０８を誤って凝視するのを防ぐことができる。
【００２５】
[0031]  一部の実施形態では、既定の動作条件は、１つまたは複数のインタラクティブターゲットに対する短時間の凝視を含むことができる。したがって、特定の一連のモーションインタラクションは、視線が移動する間に、１回または複数回の凝視を含むことができる。そのような凝視は、ユーザには感知できない（すなわち、ユーザは、不自然な時間の間、特定のオブジェクトを凝視しているとは感じない）が、ユーザがインタラクティブターゲットと確実にインタラクションしたことを示すだけの十分な長さにすることが可能である。限定されない１つの例として、凝視の継続時間は、１００〜１５０ｍｓの範囲内とすることができる。ただし、任意の適切な長さの凝視を、既定の動作条件に使用することができる。
【００２６】
[0032]  複数のターゲットが持続的に表示される実施形態では、ターゲットは、コンテンツアイテムの起動をもたらす正しい順序を示すために、任意の適切なシステムを使用することができる。例えば、インタラクティブターゲットは、順序を示す数値（１、２、３など）、単語、またはアニメーション（矢印、適切な順序での各ターゲットの連続するハイライト表示、各ターゲットの連続する出現など）を含むことができ、ユーザは、コンテンツアイテムを起動するために、その順序で各インタラクティブターゲットとインタラクションする必要がある。上記の例は、説明を目的としており、決して制限することは意図されていない。
【００２７】
[0033]  さらに、複数のインタラクティブターゲットがユーザインターフェイスエレメントの選択に使用された場合、図４Ｃに示すように、複数のインタラクティブターゲットのインタラクションの順序内の、後のインタラクティブターゲットとのユーザのインタラクションは、順序内の先のインタラクティブターゲットの消失または外観の変化を引き起こすことができる。そのような外観の変化は、色、形状、サイズ、透明度、および／または位置の変化を含むことができるが、これらに限定されない。ユーザはインタラクティブターゲットに関連付けられたコンテンツアイテムを起動したくない場合、サッケードジェスチャが完了する前に（すなわち、既定の動作条件が満たされる前に）、そのサッケードジェスチャを取り消すことができるということが理解されるであろう。
【００２８】
[0034]  再び図３を参照すると、その他の実施形態では、既定の動作条件は、あるユーザインターフェイスエレメントが、定期的に更新される位置信号を介して別のユーザインターフェイスエレメントとの交差（または、その他の空間的配置）へ移動する動作に対応することができる。この動作条件は、ユーザインターフェイスエレメントが他のユーザインターフェイスエレメントとの交差に移動するに従って、ユーザの視線がそのユーザインターフェイスエレメントを追跡する、または追いかけるため、３１２に示されるように「追跡」ジェスチャと呼ぶことができる。本明細書で使用される「追跡ジェスチャ」という用語は、目的のユーザインターフェイスエレメントに向かって移動可能なインタラクティブターゲットの動作を、ユーザの視線が追跡する、または追いかけるジェスチャを指していると理解されるであろう。
【００２９】
[0035]  図５Ａ〜５Ｄは、ユーザインターフェイスエレメントを、関連付けられたインタラクティブターゲットと相対的な目的位置に移動するために視線ジェスチャが使用される、追跡モーションインタラクションの実施形態を示している。まず、図５Ａは、視線１０８を仮想テレビオブジェクト１０４に向けたユーザ１００を示しており、インタラクティブターゲット５００およびインタラクティブターゲット５００のレセプタクル５０４の形態での目的位置５０４も示しており、ここでレセプタクル５０４は、インタラクティブターゲットが移動する間、固定された位置に留まることができる。図５Ａでは、インタラクティブターゲット５００は、初期位置５０２に示されている。ユーザは、ユーザインターフェイスエレメントを選択しようとした場合、図５Ｂに示すように、最初に視線の位置をインタラクティブターゲット５００に向けることができる。視線の位置とインタラクティブターゲットが（おそらくは、あるしきい値時間の間）交差することによって、その視線の位置から目的位置５０４に向かうインタラクティブターゲットの動作をスムーズに開始できる。ユーザは、図５Ｃおよび５Ｄに示すように、初期位置から目的位置へのインタラクティブターゲットの動作を目で追って、ユーザインターフェイスエレメントを選択することができる。目的位置インジケータは、持続的に表示されるか、視線が対応するユーザインターフェイスエレメントとインタラクションしたときに現れることが可能であると理解されるであろう。
【００３０】
[0036]  前述したように、ユーザは、ジェスチャを取り消すことによって、コンテンツアイテムを起動しないことを選択できる。追跡に基づくジェスチャの場合、ユーザは、インタラクティブターゲットが目的位置に達する前にインタラクティブターゲットから目をそらすことで、コンテンツアイテムが起動しないようにするか、その他の任意の適切な方法（例えば、音声コマンド、体のジェスチャコマンドなど）で取り消すことができる。視線とユーザインターフェイスエレメントの相互作用は、追跡ジェスチャ、連続ジェスチャ、またはその他のいずれジェスチャにおいても、視線の位置のある程度の誤差を許容できるということに注意する必要がある。例えば、一部の実施形態では、インタラクティブターゲットの表示領域の外側からしきい値距離の範囲内にある視線の位置も、視線とターゲットの相互作用と見なすことができ、それによって、ユーザの視線はジェスチャの実行を中断することなく、ある程度外れることができる。この許容誤差はヒステリシスの特徴を持つことができ、その場合、許容誤差はジェスチャの実行中に適用されるが、インタラクティブターゲットとのインタラクションの開始時には適用されないようにすることができる。
【００３１】
[0037]  ここで、再び簡単に図３に戻ると、インタラクティブターゲットに対する、定期的に更新される位置信号の動作が、既定の条件（または、一連の条件のうちの１つまたは複数の既定の条件）を満たす場合、方法３００は、３１４でユーザがユーザインターフェイスエレメントを選択したことを決定する工程を備える。「選択」および、これに類似する用語は、ユーザインターフェイスエレメントおよび／またはユーザインターフェイスエレメントによって表現されたプログラムとの任意のインタラクションを指すことができる。選択の例には、エレメントによって表現されたプログラムの起動、オペレーティングシステムのフォーカスをエレメントによって表現されたプログラムまたはデータに向けること、エレメントによって表現されたプログラムまたはデータに関する情報の表示、エレメントによって表現されたプログラムまたはデータの状態の変更（例えば、ビデオ再生の制御、音声のボリュームレベルの調整、ユーザインターフェイスメニューからのアイテムの選択など）、（エレメントによって表現されたプログラムまたはデータに関する情報とは対照的に）ユーザインターフェイスエレメント自体に関する情報の表示、ならびに／あるいはユーザインターフェイスエレメントおよび／またはユーザインターフェイスエレメントによって表現されたプログラムまたはデータとのその他の任意の適切なインタラクションが含まれるが、これらに限定されない。一方、インタラクティブターゲットに対する、定期的に更新される位置信号の動作が、既定の条件を満たさない場合、方法３００は、３１６でユーザがユーザインターフェイスエレメントを選択したことを決定しない工程を備える。
【００３２】
[0038]  一部の実施形態では、複数の種類のモーションインタラクションを、同じインタラクティブターゲットで使用して、関連付けられたユーザインターフェイスエレメントを選択できる。例えば、初心者のユーザは、ゆっくりとした追跡ジェスチャを好む場合があるが、より高度なユーザは、例えばサッケードジェスチャを使用した、速い連続するインタラクションを望む場合がある。したがって、一部の実施形態では、２つ以上の異なる既定の動作条件を介したインタラクティブターゲットとのインタラクションを使用して、対応するユーザインターフェイスエレメントを選択できる。それによって、グラフィカルユーザインターフェイスとさまざまな方法でインタラクションする場合のスキルおよび／または好みが異なっているユーザを許容することができる。例えば、形状が四角形のインタラクティブターゲットを、追跡ジェスチャおよびサッケードジェスチャに関連付けることができる。追跡ジェスチャは、ユーザの視線がターゲットの一方の側から他方に移動したときに（インタラクティブエレメントの動作を追うか追わないかに関わらず）、関連付けられたコンテンツアイテムを起動でき、一方、サッケードジェスチャは、ターゲット上の事前に選択された位置間の視線の経路を追うことができる。
【００３３】
[0039]  したがって、本明細書で開示された実施形態では、ユーザインターフェイスエレメントは、エレメントを選択しようとする意図を明白に示すための追加入力機構（例えば、ボタン、音声など）を使用することなく、かつ凝視ジェスチャを使用することなく、定期的に更新される位置信号を介して選択できるが、一部の例では、開示された視線ジェスチャと組み合わせて凝視を使用することができる。
【００３４】
[0040]  一部の実施形態では、本明細書に記載された方法および処理は、１つまたは複数のコンピューティングデバイスのコンピューティングシステムに関連付けることができる。具体的には、そのような方法および処理は、コンピュータアプリケーションプログラムまたはコンピュータアプリケーションサービス、アプリケーションプログラミングインターフェイス（application-programming interface：API）、ライブラリ、および／または他のコンピュータプログラム製品として実装できる。
【００３５】
[0041]  図７は、前述の１つまたは複数の方法および処理を実現できるコンピューティングシステム７００の限定されない実施形態の概略図を示す。コンピューティングシステム７００は、簡略化された形態で示されている。コンピューティングシステム７００は、１つまたは複数のパーソナルコンピュータ、サーバコンピュータ、タブレットコンピュータ、ホームエンターテイメントコンピュータ、ネットワークコンピューティングデバイス、ゲーミングデバイス、モバイルコンピューティングデバイス、モバイル通信デバイス（例えば、スマートフォン）、ウェアラブルデバイス（例えば、前述したようなヘッドマウントディスプレイ）、および／またはその他のコンピューティングデバイスの形態を取ることができる。
【００３６】
[0042]  コンピューティングシステム７００は、ロジックサブシステム７０２およびストレージサブシステム７０４を含む。コンピューティングシステム７００は、ディスプレイサブシステム７０６、入力サブシステム７０８、通信サブシステム７１０、および／または図７に示されていないその他のコンポーネントをさらに含む。
【００３７】
[0043]  ロジックサブシステム７０２は、命令を実行するように構成された１つまたは複数の物理デバイスを含む。例えば、ロジックサブシステムは、１つまたは複数のアプリケーション、サービス、プログラム、ルーチン、ライブラリ、オブジェクト、コンポーネント、データ構造、またはその他の論理構造の一部である命令を実行するように構成することができる。そのような命令は、タスクを実行する、データタイプを実装する、１つまたは複数のコンポーネントの状態を変換する、技術的効果を実現する、または所望の結果に達するように実装できる。
【００３８】
[0044]  ロジックサブシステムは、ソフトウェア命令を実行するように構成された１つまたは複数のプロセッサを含むことができる。追加または代替として、ロジックサブシステムは、ハードウェア命令またはファームウェア命令を実行するように構成された１つまたは複数のハードウェアロジックサブシステムまたはファームウェアロジックサブシステムを含むことができる。ロジックサブシステムのプロセッサは、シングルコアまたはマルチコアとすることができ、それらのプロセッサ上で実行される命令は、逐次処理、並列処理、および／または分散処理を行うように構成できる。ロジックサブシステムの個々のコンポーネントは、任意選択により２つ以上の別々のデバイス間で分散することができ、これらのデバイスは、離れた場所に配置すること、および／または連携して処理するように構成することができる。ロジックサブシステムの各態様は、クラウドコンピューティング構成内で構成された、遠隔からアクセスできるネットワークコンピューティングデバイスによって仮想化および実行することができる。
【００３９】
[0045]  ストレージサブシステム７０４は、本明細書に記載された方法および処理を実装するためのロジックサブシステムによって実行可能な命令を保持するように構成された１つまたは複数の物理デバイスを含む。そのような方法および処理が実装された場合、ストレージサブシステム７０４の状態を、例えば異なるデータを保持するように変えることができる。
【００４０】
[0046]  ストレージサブシステム７０４は、取り外し可能かつ／または組み込みのコンピュータ可読ストレージ媒体を含むことができる。ストレージサブシステム７０４は、特に、光メモリ（例えば、CD、DVD、HD-DVD、ブルーレイディスクなど）、半導体メモリ（例えば、RAM、EPROM、EEPROMなど）、および／または磁気メモリ（例えば、ハードディスクドライブ、フロッピーディスクドライブ、テーブドライブ、MRAMなど）を含むことができる。ストレージサブシステム７０４は、揮発性デバイス、不揮発性デバイス、動的デバイス、静的デバイス、読み取り／書き込みデバイス、読み取り専用デバイス、ランダムアクセスデバイス、シーケンシャルアクセスデバイス、位置アドレス可能デバイス、ファイルアドレス可能デバイス、および／またはコンテンツアドレス可能デバイスを含むことができる。
【００４１】
[0047]  ストレージサブシステム７０４が１つまたは複数の物理デバイスを含み、信号自体を含まないということが理解されるであろう。ただし、本明細書に記載された命令の各態様は、物理ストレージデバイスに保存されるのとは対照的に、代替として、通信媒体（例えば、電磁信号、光信号など）によって伝搬することができる。
【００４２】
[0048]  ロジックサブシステム７０２およびストレージサブシステム７０４の各態様は、１つまたは複数のハードウェアロジックコンポーネントに一緒に統合できる。そのようなハードウェアロジックコンポーネントは、例えば、フィールドプログラマブルゲートアレイ（FPGA）、特定プログラム向け集積回路および特定用途向け集積回路（PASIC/ASIC）、特定プログラム向け標準品および特定用途向け標準品（PSSP/ASSP）、システムオンチップ（SOC）、および複合プログラム可能論理デバイス（CPLD）を含むことができる。
【００４３】
[0049]  「モジュール」、「プログラム」、および「エンジン」という用語は、特定の機能を実行するように実装されたコンピューティングシステム７００の態様を表すために使用することができる。場合によっては、モジュール、プログラム、またはエンジンは、ストレージサブシステム７０４によって保持された命令を実行するロジックサブシステム７０２を介してインスタンス化できる。同じアプリケーション、サービス、コードブロック、オブジェクト、ライブラリ、ルーチン、ＡＰＩ、関数などから、さまざまなモジュール、プログラム、および／またはエンジンをインスタンス化できるということが理解されるであろう。同様に、さまざまなアプリケーション、サービス、コードブロック、オブジェクト、ルーチン、ＡＰＩ、関数などによって、同じモジュール、プログラム、および／またはエンジンをインスタンス化できる。「モジュール」、「プログラム」、および「エンジン」という用語は、実行可能ファイル、データファイル、ライブラリ、ドライバ、スクリプト、データベースレコードなどのそれぞれ、またはグループを表すことができる。さらに、各実施形態は、１つまたは複数のプログラムおよび／またはデータがエンドユーザから遠隔で格納され、ネットワークを介してエンドユーザによってアクセスされる、サービス型ソフトウェア（SaaS）として実装できるということが理解されるであろう。
【００４４】
[0050]  ディスプレイサブシステム７０６が含まれる場合、ディスプレイサブシステム７０６は、ストレージサブシステム７０４に保持されたデータの視覚的表現を表示するために使用することができる。この視覚的表現は、グラフィカルユーザインターフェイス（GUI）の形態を取ることができる。本明細書に記載された方法および処理が、ストレージサブシステムに保持されたデータを変更し、それによってストレージサブシステムの状態が変わると、同様にディスプレイサブシステムの状態も、内在するデータの変化を視覚的に表現するように変わることができる。ディスプレイサブシステム７０６は、任意の種類の技術を仮想的に使用する１つまたは複数のディスプレイデバイスを含むことができる。そのようなディスプレイデバイスは、共有された筐体内でロジックサブシステム７０２および／またはストレージサブシステム７０４と組み合わせるか、周辺ディスプレイデバイスとすることができる。
【００４５】
[0051]  入力サブシステム７０８が含まれる場合、入力サブシステム７０８は、キーボード、マウス、タッチスクリーン、またはゲームコントローラなどの１つまたは複数のユーザ入力デバイスを備えるか、これらのユーザ入力デバイスとインターフェイスを取ることができる。一部の実施形態では、入力サブシステムは、選択された自然なユーザ入力（natural user input：NUI）コンポーネントを備えるか、自然なユーザ入力（NUI）コンポーネントとインターフェイスを取ることができる。そのようなコンポーネントは、統合されるか、または周辺デバイスとすることができ、入力操作の変換および／または処理は、オンボードまたはオフボードで実行することができる。ＮＵＩコンポーネントの例は、会話および／または音声認識用のマイクロホン、マシンビジョンおよび／またはジェスチャ認識用の赤外線カメラ、カラーカメラ、立体カメラ、および／または深度カメラ、動作検出および／または意図認識用の頭部追跡装置、視線追跡装置、加速度計、および／またはジャイロスコープ、ならびに脳活動の評価用の電場検出コンポーネントを含むことができる。
【００４６】
[0052]  通信サブシステム７１０が含まれる場合、通信サブシステム７１０は、コンピューティングシステム７００を１つまたは複数の他のコンピューティングデバイスに通信によって結合するように構成できる。通信サブシステム７１０は、１つまたは複数の異なる通信プロトコルと互換性のある有線通信デバイスおよび／または無線通信デバイスを含むことができる。限定されない例として、通信サブシステムは、無線電話ネットワーク、あるいは有線または無線のローカルエリアネットワークまたは広域ネットワークを介して通信するように構成できる。一部の実施形態では、通信サブシステムは、コンピューティングシステム７００が、インターネットなどのネットワークを介して、メッセージを他のデバイスに対して送信および／または受信できるようにすることが可能である。
【００４７】
[0053]  本明細書に記載された構成および／または方法が、実際は例であり、多くの変形が可能であるため、これらの特定の実施形態または例が限定を意味しているとは見なされないということが理解されるであろう。本明細書に記載された特定のルーチンまたは方法は、１つまたは複数の任意の数の処理方式を表すことができる。そのため、図に示された、かつ／または説明されたさまざまな動作は、図に示された順序および／または説明された順序、その他の順序、または並列で実行されるか、あるいは省略できる。同様に、前述の処理の順序は、変更可能である。
【００４８】
[0054]  本明細書に記載された構成および／または方法が、実際は例であり、多くの変形が可能であるため、これらの特定の実施形態または例が限定を意味しているとは見なされないということが理解されるであろう。本明細書に記載された特定のルーチンまたは方法は、１つまたは複数の任意の数の処理方式を表すことができる。そのため、図に示された、かつ／または説明されたさまざまな動作は、図に示された順序および／または説明された順序、その他の順序、または並列で実行されるか、あるいは省略できる。同様に、前述の処理の順序は、変更可能である。
【００４９】
[0055]  本開示の対象には、本明細書で開示されたさまざまな処理、システム、および構成、ならびにその他の特徴、機能、動作、および／または特性の新しい自明でないすべての組み合わせおよび部分的組み合わせに加えて、これらと同等のあらゆるものが含まれる。
【図１Ａ】
0006387404.tif 000002
【図１Ｂ】
0006387404.tif 000003
【図１Ｃ】
0006387404.tif 000004
【図２】
0006387404.tif 000005
【図３】
0006387404.tif 000006
【図４Ａ】
0006387404.tif 000007
【図４Ｂ】
0006387404.tif 000008
【図４Ｃ】
0006387404.tif 000009
【図５Ａ】
0006387404.tif 000010
【図５Ｂ】
0006387404.tif 000011
【図５Ｃ】
0006387404.tif 000012
【図５Ｄ】
0006387404.tif 000013
【図６】
0006387404.tif 000014
【図７】
0006387404.tif 000015