(57)【特許請求の範囲】
【請求項１】
ユーザの左目及び右目の何れかが利き目であるか否かを決定する目追跡システム（１０）の操作方法であって、
ａ）前記ユーザの前記左目及び前記右目の少なくとも１つの画像を捕捉する（Ｓ３０）ステップと、
ｂ）前記少なくとも１つの画像に基づいて、かつ所定の精度関数に従って、前記左目のための左精度スコアを決定し（Ｓ３４ａ）、右目のための右精度スコアを決定する（Ｓ３４ｃ）ステップと、
ｃ）少なくとも前記左精度スコア及び前記右精度スコアに依拠して、前記ユーザの前記左目及び前記右目の何れかが利き目であるか否かを決定する（Ｓ３６）ステップと、
ｄ）前記少なくとも１つの画像に基づいて、前記左目の注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）））及び前記右目の注視点（Ｐ（ＭＲ（ｇｉＲ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））を決定するステップと
を含む目追跡システムの操作方法において、
ｅ）少なくとも１つの左の注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記左目の前記決定された注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）））のずれに依拠して前記左精度スコアを決定し、さらに少なくとも１つの右の注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記右目の前記決定された注視点（Ｐ（ＭＲ（ｇｉＲ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））のずれに依拠して前記右精度スコアを決定するステップを含み、
前記ステップｂ）において、前記少なくとも１つの画像に基づいて、かつ前記所定の精度関数に従って、前記左目及び前記右目のための両眼精度スコアが決定され（Ｓ３４ｂ）、前記ステップｃ）において、前記左精度スコア、前記右精度スコア及び前記両眼精度スコアに依拠して、前記ユーザの前記左目及び前記右目の何れかが利き目であるか否かが決定され（Ｓ３６）、
前記両眼精度スコアは、両眼注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記左目及び前記右目の両眼の注視点のずれの尺度である
ことを特徴とする目追跡システムの操作方法。
【請求項２】
請求項１に記載の目追跡システムの操作方法において、
前記左注視点セット及び前記右注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）は、前記ユーザが凝視する必要がある前記目追跡システム（１０）の表示装置（１４）上に、有限の連続するポイントを表示することによって、及び／又は、前記ユーザが両目で追従する必要がある前記表示装置（１４）上に、スムース及び／又は継続的なポイント又は他のスティミュラス画像の動きを表示することによって、提供されることを特徴とする目追跡システムの操作方法。
【請求項３】
請求項１又は２に記載の目追跡システムの操作方法において、
前記左注視点セット、前記右注視点セット及び前記両眼注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）は、同一であることを特徴とする目追跡システムの操作方法。
【請求項４】
請求項１から３の何れか一項に記載の目追跡システムの操作方法において、
前記左精度スコア、前記右精度スコア及び前記両眼精度スコアに依拠して、前記利き目の識別を示す信号が、生成され及び／又は出力される（Ｓ２４；Ｓ３８ａ，Ｓ３８ｂ，Ｓ３８ｃ）ことを特徴とする目追跡システムの操作方法。
【請求項５】
請求項１から４の何れか一項に記載の目追跡システムの操作方法において、
前記ユーザの前記左目及び前記右目の何れかが利き目であるか否かの前記決定は、前記目追跡システム（１０）のキャリブレーション処置（Ｓ１２ａ，Ｓ１２ｂ）の間及び／又は前記キャリブレーション処置の結果を検証するための検証処置（Ｓ１８）の間に実行されることを特徴とする目追跡システムの操作方法。
【請求項６】
請求項５に記載の目追跡システムの操作方法において、
前記目追跡システム（１０）のキャリブレーション処置（Ｓ１２ａ，Ｓ１２ｂ）の間、前記ユーザの幾つかの第１注視点が計算され、かつ対応する第１注視点セット（ｐｉＧ，Ｃ）と比較され、ここで、当該比較に基づき、前記計算された第１注視点が対応するキャリブレーションされた第１注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｃ）））にマッピングされるようにして、前記目追跡システムのキャリブレーションパラメータが設定されることを特徴とする目追跡システムの操作方法。
【請求項７】
請求項６に記載の目追跡システムの操作方法において、
前記検証処置の間（Ｓ１８）、前記ユーザの幾つかの第２注視点（Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））が、計算され、かつ対応する第２注視点セット（ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）と比較されることを特徴とする目追跡システムの操作方法。
【請求項８】
請求項７に記載の目追跡システムの操作方法において、
前記第１注視点セットからの前記キャリブレーションされた第１注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ），Ｐ（ＭＲ（ｇｉＲ，Ｃ））の前記ずれに基づいて、前記左目、前記右目及び前記両目の前記キャリブレーション処置の誤差（ｒＬ，ｒＲ，ｒＢ）が計算され、及び／又は、前記第２注視点セット（ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記第２注視点（Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））の前記ずれに基づいて、前記左目、前記右目及び前記両目の前記検証処置の誤差（ｒＬ，ｒＲ，ｒＢ）が計算されることを特徴とする目追跡システムの操作方法。
【請求項９】
請求項５から８の何れか一項に記載の目追跡システムの操作方法において、
前記キャリブレーション処置（Ｓ１２ｂ）の間、所定の基準に従い、外れ値を除くことによって、好適にはキャリブレーションポイントの全てのサブセットを評価することによって又はランダム化されたコンセンサスを見つけることによって、キャリブレーションポイントの最適サブセットが自動的に検出されることを特徴とする目追跡システムの操作方法。
【請求項１０】
請求項８に記載の目追跡システムの操作方法において、
前記左精度スコア、前記右精度スコア及び前記両眼精度スコアは、それぞれ、
・前記左の注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ），Ｐ（ＭＬ（ｇｉＬ，Ｖ１），Ｐ（ＭＬ（ｇｉＬ，Ｖ２））、前記右の注視点（Ｐ（ＭＲ（ｇｉＲ，Ｃ），Ｐ（ＭＲ（ｇｉＲ，Ｖ１），Ｐ（ＭＲ（ｇｉＲ，Ｖ２））及び前記両眼の注視点が、それぞれ、前記少なくとも１つの画像に基づいて計算され得るか否か、及び／又は、
・前記キャリブレーション処置（Ｓ１２ａ，Ｓ１２ｂ）、及び／又は、前記左目、前記右目及び前記両目のそれぞれの前記検証処置（Ｓ１８）の前記誤差（ｒＬ，ｒＲ，ｒＢ）、
に依拠して決定されることを特徴とする目追跡システムの操作方法。
【請求項１１】
請求項４から１０の何れか一項に記載の目追跡システムの操作方法において、
目追跡が実行され、ここで、前記信号に依拠して、現在の注視点が計算されることを特徴とする目追跡システムの操作方法。
【請求項１２】
請求項１１に記載の目追跡システムの操作方法において、
前記現在の注視点は、前記左目が利き目であると決定された場合、前記左目に関連して計算され、前記現在の注視点は、前記右目が利き目であると決定された場合、前記右目に関連して計算され、前記現在の注視点は、前記左目及び前記右目の何れもが利き目ではないと決定された場合、両目に関連して計算されることを特徴とする目追跡システムの操作方法。
【請求項１３】
請求項１１又は１２の何れか一項に記載の目追跡システムの操作方法において、
前記現在の注視点は、前記左目のデータと前記右目のデータとの間の加重平均として計算され、ここで、前記加重平均の重みは、前記決定された左精度スコア及び右精度スコアの関数であり、そのため、前記右精度スコアが前記左精度スコアよりも高い場合、前記右目のデータが前記左目のデータよりも前記加重平均により大きく影響し、前記左精度スコアが前記右精度スコアよりも高い場合、前記左目のデータが前記右目のデータよりも前記加重平均により大きく影響することを特徴とする目追跡システムの操作方法。
【請求項１４】
ユーザの左目及び右目の何れかが利き目であるか否かを決定するための目追跡システム（１０）であって、
ａ）前記ユーザの前記左目及び前記右目の少なくとも１つの画像を捕捉し、
ｂ）前記少なくとも１つの画像に基づき、かつ所定の精度関数に従って、前記左目の左精度スコア及び前記右目の右精度スコアを決定し、
ｃ）少なくとも前記左精度スコア及び前記右精度スコアに依拠して、前記ユーザの前記左目及び前記右目の何れかが利き目であるか否かを決定し、及び、
ｄ）前記少なくとも１つの画像に基づいて、前記左目の注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）））及び前記右目の注視点（Ｐ（ＭＲ（ｇｉＲ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））を決定する
ように構成される前記目追跡システムにおいて、
前記目追跡システムは、
ｅ）少なくとも１つの左の注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記左目の前記決定された注視点（Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＬ（ｇｉＬ，Ｖ１）），Ｐ（ＭＬ（ｇｉＬ，Ｖ２）））のずれに依拠して前記左精度スコアを決定し、さらに少なくとも１つの右の注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記右目の前記決定された注視点（Ｐ（ＭＲ（ｇｉＲ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｖ１）），Ｐ（ＭＲ（ｇｉＲ，Ｖ２）））のずれに依拠して前記右精度スコアを決定し、
ｆ）前記少なくとも１つの画像に基づいて、かつ前記所定の精度関数に従って、前記左目及び前記右目のための両眼精度スコアを決定し（Ｓ３４ｂ）、さらに、前記左精度スコア、前記右精度スコア及び前記両眼精度スコアに依拠して、前記ユーザの前記左目及び前記右目の何れかが利き目であるか否かを決定し（Ｓ３６）、ここで、前記両眼精度スコアは、両眼注視点セット（ｐｉＧ，Ｃ，ｐｉＧ，Ｖ１，ｐｉＧ，Ｖ２）からの前記左目及び前記右目の両眼の注視点のずれの尺度である
ように構成されることを特徴とする目追跡システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、目追跡システム及び目追跡システムの操作方法に関する。
【背景技術】
【０００２】
従来の目追跡システム及び目追跡装置は、通常、ユーザの目の画像を捕捉し、そこから視線方向、注視点又は他の目の特徴を決定している。このような用途では、ユーザの目の位置、目の向き又は他の特性が、決定されることがある。例えば光軸と目の視軸とのずれといった、ユーザ固有の特性を考慮できるように、キャリブレーション処置が、目追跡システムをキャリブレーションするために行われることがある。このようなキャリブレーション処置中、通常、キャリブレーションポイント（「スティミュラスポイント」とも呼ばれる）が、ディスプレイにタイムリーに表示される。ユーザは、これらのキャリブレーションポイントを、自身の目で凝視しなければならない。そうしている間に、目追跡システムは、ユーザの目の画像を捕捉し、視線又は注視点を計算し、計算された注視点と図示のキャリブレーションポイントの位置とを比較し、計算された注視点と図示のキャリブレーションポイントとの差分を最小化するマップを決定する。このように、ユーザ固有の目の特性を考慮することによって、目追跡品質は、向上し得る。
【０００３】
本発明の目的は、自身の目に関するより多くのユーザ固有の特性を提供し得る、特にロバスト性又は目追跡の正確性を向上させ得る、目追跡システムの操作方法及び目追跡システムを提供することである。
【０００４】
この目的は、ユーザの左目及び右目の何れかが利き目であるか否かを決定する目追跡装置の操作方法及び独立請求項に係る目追跡システムによって、達成される。本発明の有利な実施形態が、独立請求項に提供される。
【発明の概要】
【０００５】
本発明に係る、ユーザの左目及び右目の何れかが利き目であるか否かを決定する目追跡システムの操作方法によれば、ユーザの左目及び右目の少なくとも１つの画像が捕捉される。また、少なくとも１つの画像に基づいて、かつ所定の精度関数に従って、左目の左精度スコア及び右目の右精度スコアが決定される。さらに、少なくとも左精度スコア及び右精度スコアに依拠して、ユーザの左目及び右目の何れかが利き目であるか否かが決定される。
【０００６】
左精度スコア及び右精度スコアを決定することによって、特にこれらの精度スコアが左目及び右目に関連する追跡精度についての情報をそれぞれ別個に与える場合、利き目が存在するか否かを容易に決定することができる。利き目を知ることによって、追跡品質を劇的に向上させることができる。この理由は、通常、両目に関連するデータが、目追跡において使用され、それゆえ等しく重み付けされるためである。これは、利き目が存在する場合又は弱い目が存在する場合、例えば計算された注視点に関連する、目追跡の結果を、ひどく歪めてしまう可能性がある。有利には、本発明によれば、利き目が存在するか否かを決定することができ、さらに、この結果を、例えば目追跡目的であるが診断目的でもある場合に、使用することができる。人間の利き目の検出は、視神経麻痺及び弱視のような、両眼離反運動の目診断に使用することができる。さらに、目追跡システムの注視点精度は、強固な利き目又は両眼離反運動の存在が、目で物体を正確に凝視できなくさせているかどうかを自動的に検出することによって、改善され得る。ここで、例えば、非利き目に関連する目追跡データは、破棄されてもよいし、又は、利き目に関連する目追跡データよりも、弱く重み付けされてもよい。
【０００７】
各精度スコアは、少なくとも１つの画像の画像データに基づいて決定される。ここで、左目の画像及び右目の画像は、別個に捕捉されて処理されてもよく、例えば、左目及び右目の画像は、２つの分離されたカメラ又はイメージセンサによって捕捉されてもよい。一方で、左目及び右目の１つの共有画像を捕捉することも可能である。この場合、１つの共有画像は、左精度スコアを決定するための左目に関連する画像データの導出のために処理され、さらに右精度スコアを決定するための右目に関連する画像データの導出のために処理される。一以上の単一の画像、特に左及び右精度スコアの決定には多くの画像（例えば何百もの画像）を捕捉することが望ましい。なぜなら、利き目の決定の結果の精度及び信頼性は、より重要性が高いためである。
【０００８】
各精度スコアの計算に係る精度関数は、所定の数式、アルゴリズム、ルックアップテーブル等であってよい。精度関数は、各目の画像データ又は画像データに基づいて計算された各目のデータを入力として有し、かつ各精度スコアを出力として与える。さらに、本発明に係る方法は、特に自動的に、キャリブレーション処置の間及び／又はキャリブレーション結果を検証する検証処置の間に、実行されてもよい。さらに、方法の少なくとも一部は、このような処置後、キャリブレーション処置及び／又は検証処置の結果を用いて、実行されてもよい。例えば、キャリブレーション処置及び／又は検証処置の間に計算される、左目の残差、右目の残差及び両眼の残差といった誤差が、各精度スコア及び計算用の関数及び／又はアルゴリズムとして機能してもよく、続いて、これらの誤差は、精度関数を構成してもよい。
【０００９】
本発明の有利な実施形態では、左精度スコア及び右精度スコアに依拠して、信号が特に利き目の識別を示す信号が、生成及び／又は出力される。この信号は、例えば、利き目についての情報を、診断目的のために、ユーザ又は別の人間に示すために、例えばスクリーン上に出力するように使用してもよい。また、信号は、両目に関連して捕捉されたデータ、又は、左目又は右目に関連して捕捉されたデータの何れが、目追跡に使用されるべきかを示すように、利用されてもよい。このように、有利には、利き目が存在するか否かの決定の結果は、診断装置の機能性、及び、目追跡装置の機能及び精度を向上させることができる。
【００１０】
さらに、少なくとも１つの画像に基づいて、かつ所定の精度関数に従って、左目及び右目の両眼精度スコアが決定されてもよい。左精度スコア、右精度スコア及び両眼精度スコアに依拠して、ユーザの左目及び右目の何れかが利き目であるか否かが、決定される。両眼精度スコアは、例えば、左目及び右目に関連する、両眼の視線又は両眼の注視点の精度スコアを規定するため、両眼精度スコアを考慮することによって、利き目が存在するか否かの決定をより確実に行うことができる。さらに、上述の信号は、左精度スコア、右精度スコア及び両眼精度スコアに依拠して、生成されて出力されてもよい。信号に基づいて、チャネル、すなわち、左チャネル、右チャネル又は両眼チャネルが、目追跡において選択されてもよい。特に、左チャネルが左目に関連する目のデータ（例えば左目の視線方向又は左目の注視点）を生成し、同様に、右チャネルが右目に関連する目のデータを生成し、さらに、両眼チャネルが、両目に関するデータ（例えば、両眼の視線方向又は両眼の注視点）を生成する。有利には、最も良い精度スコアに基づいて、これら３つのチャネルのうち、最も良いものが、目追跡用に選択されてもよい。このように、目追跡の精度及びロバスト性を最適化することができる。
【００１１】
概して、左の視線方向は、左目に関連する少なくとも１つの画像の画像データに基づいて、計算されてもよい。左の注視点は、左目の決定された視線ベクトルと所定の平面の交点として決定される。この平面は、例えばモニタ、特にリモートモニタのディスプレイ又はスクリーンであってもよいし、又は、ヘッドマウントディスプレイ装置のディスプレイ又はスクリーンであってもよい。３Ｄ対応デバイスの場合、又は、ディスプレイ装置とユーザの目との間にレンズ又は他の光学的システムが存在する場合、平面は、仮想画像の平面であってもよい。この平面の座標は、目追跡システムに既知であり、従って、視線ベクトルと平面の交点を注視点として計算することができる。同様のことが、右の視線方向及び右の注視点にも適用される。両眼の視線方向は、左目及び右目の視線方向の平均である。両眼の視線方向は、幾つかの方法で計算できる。例えば、両眼の注視点は、両眼の視線ベクトルと所定の平面の交点として計算されてもよいし、所定の平面上の右の注視点と左の注視点の中間としてもよいし、左の視線ベクトルと右の視線ベクトルの交点の（例えば、両眼の視線方向における）所定の平面への投影としてもよい。
【００１２】
さらに、左精度スコアは、左注視点セットからの左目の注視点のずれの尺度であり、右精度スコアは、右注視点セットからの右目の注視点のずれの尺度である。特に選択的に、両眼精度スコアは、両眼注視点セットからの左目及び右目の両眼の注視点のずれの尺度となる。つまり、言い換えれば、これらのずれを計算することができ、さらに左精度スコア、右精度スコア及び必要に応じて両眼精度スコアを、各ずれに依拠して、決定又は計算することができる。特に、他の影響するパラメータを、各精度スコアを決定するときも、考慮することができる。これらのずれを決定するために、キャリブレーション処置と同様の処置が実行されてもよい。従って、キャリブレーションポイント（「スティミュラスポイント」とも呼ばれる）は、注視点セットに対応するため、ディスプレイに表示させてもよい。さらに、左の注視点、右の注視点及び両眼の注視点、及び、これらそれぞれのずれ又は注視点セットへの差分が決定されてもよい。その後、これらのずれは、左目のための及び右目のための精度スコアと両目のための両眼精度スコアを計算するために使用されてもよい。注視点セットからの注視点のこれらのずれの他、さらに影響を与える変数（例えば、有効に追跡された注視点の数）が、各精度スコアを決定するときも、考慮されてもよい。これらの影響を与える変数又は他の変数に依拠した、各精度スコアの計算は、所定の精度関数によって規定されてもよい。各精度関数を決定するこの処置は、キャリブレーション処置及び／又は検証処置と同様であるため、有利には、キャリブレーション処置及び／又は検証処置に組込むことができる。これにより、特に時間効率が良くなり、計算資源及び計算時間が最小化される。
【００１３】
さらに、概して、左注視線セット、右注視線セット及び両眼注視線セットは、例えばディスプレイに表示させることができ、それらの位置は、異なっていても構わない。例えば、最初に、多数の左注視点セットをディスプレイに次々と表示させてもよく、各表示の注視点セットにおいて、対応するユーザの左の注視点（特にディスプレイ上のユーザの左の注視点の位置）を決定してもよく、さらに、そこから、各左の注視点の位置からの決定された左の注視点のずれを計算してもよい。その後、同様に、多数の右注視点セットを表示してもよく、ユーザの右の注視点及び各ずれが計算されてもよい。その後、同様に、多数の両眼注視点セットを次々と表示してもよく、各両眼注視点セットにおいてユーザの両眼の注視点及び各ずれが計算されてもよい。だが、この処置を短くするために、左目のための、右目のための及び両目のための別個のポイントセット又は異なるポイントセットの代わりに、共有のポイントセットが、左目のために、右目のために及び両目のために使用されることが好適である。つまり、例えば、左注視点セット、右注視点セット及び必要に応じて両眼注視線セットを同時に構成する１つのポイントセットが表示されてもよい。つまり、ユーザが単一のポイントセットを見ている間に、ユーザの右の注視点、ユーザの左の注視点及び必要に応じてユーザの両眼の注視点が決定され、図示のポイントセットからの左の注視点のずれが決定され、図示のポイントセットからの右の注視点のずれが決定され、必要に応じて図示のポイントセットからの両眼の注視点のずれが決定される。これは、多数のポイントセットが次々と表示される度に繰り返される。結果的に、左、右及び必要に応じて両眼の注視点及び各ずれを決定するために共通の注視点セットを使用すると、多くの時間を節約することができる。ここで、この時間節約の効果は、多くのポイントセットが表示されるほど有益であり、これにより、さらなる快適さが、ユーザのために達成され得る。
【００１４】
従って、本発明の好適かつ有利な実施形態では、左注視点セット、右注視線セット及び両眼注視点セットが同一であり、好適には、ユーザが凝視する必要がある目追跡システムのディスプレイ装置上に、有限の連続するポイント（すなわち、スティミュラスポイント）を表示することによって、及び／又は、ユーザが両目で追従する必要がある表示装置上に、スムース及び／又は継続的なポイント又は他のスティミュラス画像の動きを表示することによって、提供される。例えば、単一の注視点セットが、左注視線セット、右注視点セット及び両眼注視線セットとして、ディスプレイ又はスクリーンに表示されてもよい。その後、左の注視点、右の注視点及び両眼の注視点が、ユーザが表示された注視点を凝視している間に捕捉した少なくとも１つの画像によって、決定されてもよい。各精度スコアは、注視点セットからの決定された注視点の各ずれから、決定されてもよい。これは、時系列で表示される多くの注視点セットにおいて実行されてもよいし、又は、各精度スコアがより正確に決定され得るようスムースな動きで表示される多くの注視点セットにおいて実行されてもよい。
【００１５】
本発明の好適な実施形態によれば、ユーザの左目及び右目の何れかが利き目であるか否かの決定は、目追跡システムのキャリブレーション処置の間に実行されるか、及び／又は、キャリブレーション処置の結果を検証する検証処置の間に実行される。キャリブレーション処置は、通常、どのみち実行されるため、この処置の結果を、各精度スコア及び利き目を決定するために有利に利用することができる。加えて、検証処置の結果をも、この目的のために利用することができ、結果をより信頼性の高いものにする。例えば、まず、キャリブレーション処置が、一部のキャリブレーションポイントが注視点セットとしてディスプレイにタイムリーに表示されている間に、実行されてもよい。これらのポイントが表示されている間、目追跡システムは、ユーザの両目の幾つかの画像を捕捉し、表示のキャリブレーションポイントからのずれを最小化するようにして、決定された注視点をキャリブレーションされた注視点にマッピングするキャリブレーションマップのパラメータを定義する。その後、ユーザが見なければならないスクリーン又はディスプレイに第２注視点セットが表示されている間に、検証処置が実行されてもよい。さらに、これらのポイントが表示されている間、画像が捕捉される。捕捉されたさらなる画像に基づいて、さらにキャリブレーションマップに基づいて、キャリブレーション処置で決定されたパラメータと、再度の左目の注視点、右目の注視点及び両眼の注視点とが、第２ポイントセットと、各第２ポイントセットに関して計算され得る、左の注視点、右の注視点及び両眼の注視点の誤差とに関して、決定される。その後、これらの誤差は、すなわち、左目のための誤差、右目のための誤差及び両眼の誤差は、各精度スコアを決定するために使用されてもよい。
【００１６】
つまり概して、目追跡システムのキャリブレーション処置の間、ユーザの幾つかの第１注視点が、計算されて対応する第１注視点セットと比較される。ここで、この比較に基づいて、目追跡システムのキャリブレーションパラメータが、計算された第１注視点が対応するキャリブレーションされた第１注視点にマッピングされるようにして、設定される。これは、特に左目及び右目に関して実行される。すなわち、キャリブレーションマップは、左目のために及び右目のために別個に定義され、そのため、左目の特性と右目の特性の差分についての情報が失われない。
【００１７】
さらに、検証処置の間、ユーザの幾つかの第２注視点が、計算されて対応する第２注視点セットと比較される。検証処置によって、キャリブレーション処置の結果を検証することができる。言い換えれば、検証処置を実行することによって、キャリブレーショが成功したか否かを決定することができる。つまり、有利には、この検証処置は、２つの目的のために、使用されてもよい。すなわち、キャリブレーション処置の結果を検証するために、使用されてもよい。また、検証処置中の実行結果又は実行測定値は、各精度スコアを計算するために及び利き目を決定するために、使用されてもよい。
【００１８】
つまり好適には、第１注視点セットからのキャリブレーションされた第１注視点のずれに基づいて、左目、右目及び両目のキャリブレーション処置の誤差が計算され、及び／又は、第２注視点セットからの第２注視点のずれに基づいて、左目の、右目の及び両目の検証処置の誤差が計算される。有利には、検証処置の結果が、非常に高速なパフォーマンスを可能にするために、利き目の決定に使用され得るか、又は、検証処置の結果がはるかに高い精度及びロバスト性を可能にするために、使用され得るかの何れかのみである。
【００１９】
本発明のさらなる実施形態では、キャリブレーション処置の間、所定の基準に従い、外れ値を除くことによって、好適にはキャリブレーションポイントの全てのサブセットを評価することによって又はランダム化されたコンセンサスを見つけることによって、キャリブレーションポイントの最適サブセットが自動的に検出される。度々、表示されたポイントセットを見る必要があるユーザが、注意散漫になったり又は言い換えればポイントセットを見落としてしまったりすることがある。そのため、結果を改ざんしてしまう可能性がある外れ値を除くことは、非常に有利である。例えば、５つのポイントセットが表示される場合、３ポイントサブセット、４ポイントサブセット及び５ポイントサブセットの全てが、リスト化されてよく、さらにユーザの決定された各注視点に関して解析されてもよく、その後、最も良いサブセットが選ばれてもよい。同様のことを、可能な全てのサブセットを考慮する代わりに、サブセットのランダムなサンプルによって実行してもよく、これは、多くのポイントセットが表示される場合に有利である。
【００２０】
加えて、左の注視点、右の注視点及び両眼の注視点のそれぞれが、少なくとも１つの画像、及び／又は、左目、右目及び両目のそれぞれにおける、キャリブレーション処置の誤差、及び／又は、検証処置の誤差に基づいて、計算され得るか否かに依拠して、左精度スコア、右精度スコア及び両眼精度スコアが、それぞれ決定されてもよい。度々、左の注視点、右の注視点及び両眼の注視点を決定することが可能ではないことがある。なぜなら、例えば、片目又は両目が、捕捉された画像で検出され得ないためである。片目又は両面を検出できないことは、目追跡品質の尺度となる。例えば、５つの表示されたセットポイントにおいて、左の注視点が２回だけ決定することができ、一方で、右の注視点が５回決定することができた場合、右目の追跡品質は、左目の追跡品質よりも、はるかに良いと仮定され得る。つまり、好適には、キャリブレーションマップを定義するためのモデルのフィッティングにて使用される有効なキャリブレーションポイントの数に関する情報、又は、十分に追跡された検証ポイントの数に関する情報が、各精度スコアを計算するときに考慮されてもよい。既に述べたように、左目の、右目の及び両目のキャリブレーション処置及び／又は検証処置の上記の全ての誤差は、追跡品質の非常に良い尺度となる。従って、各精度スコアを計算するときと同様に、この情報を考慮することは非常に有利である。
【００２１】
本発明のさらなる実施形態では、目追跡が実行され、ここで、信号に依拠して、特に利き目を示す信号に依拠して、現在の注視点が計算される。つまり、目追跡の間、すなわち、キャリブレーション処置及び／又は検証処置が完了した後、ユーザの現在の注視点が繰り返し決定される。この現在の注視点は、利き目についての情報に依拠して、有利に決定されてもよい。例えば、左目が利き目であると信号が示す場合、ユーザの現在の注視点は、より良い結果を得るために左目を考慮したデータのみに基づいて、計算されてもよい。言い換えれば、現在の注視点は、例えば決定された左目の視線ベクトルのみを使用して、上述の左の注視点と同様に計算してもよい。両目が同等に利き目であると信号が示す場合、そのとき、現在の注視点は、左目及び右目を考慮した情報に基づいて、両眼の現在の注視点として計算されてもよい。従って、目追跡を、より正確かつロバストに実行することができ、これにより、目追跡によって制御される全てのアプリケーション（例えば、決定された注視点によってマウスを制御するために又はグラフィカルユーザインターフェース内の要素を起動するために又はユーザの焦点に対応する焦点を選択するため等に、目追跡システムが使用されるとき）をさらに向上させる。
【００２２】
つまり好適には、現在の注視点は、左目が利き目であると決定された場合、左目に関して計算される。現在の注視点は、右目が利き目であると決定された場合、右目に関して計算される。さらに、現在の注視点は、左目及び右目の何れもが利き目ではないと決定された場合、両目に関して計算される。
【００２３】
本発明のさらなる有利な実施形態では、現在の注視点は、左目のデータと右目のデータの加重平均として計算される。ここで、加重平均の重みは、決定された左精度スコア及び右精度スコアの関数である。そのため、右精度スコアが左精度スコアよりも高い場合、右目のデータが左目のデータよりも加重平均により大きく影響し、左精度スコアが右精度スコアよりも高い場合、左目のデータが右目のデータよりも加重平均により大きく影響する。加重平均として現在の注視点を計算すると、精度の最適化に関してより柔軟性を与え、より良い結果も得ることができる。特に、なぜなら、両眼の注視点は、左目のデータのみに基づいて又は右目のデータのみに基づいて注視点を計算するよりも、はるかにロバスト性があるためである。これにより、各目の精度に関する差分を考慮した上で、両目を考慮したデータが使用され得るようになる。
【００２４】
本発明は、ユーザの左目及び右目の何れかが利き目であるか否かを決定する、目追跡システムに関するものである。ここで、目追跡システムは、ユーザの左目及び右目の少なくとも１つの画像を捕捉し、少なくとも１つの画像に基づき、かつ所定の精度関数に従って、左目の左精度スコア及び右目の右精度スコアを決定し、及び、少なくとも左精度スコア及び右精度スコアに依拠して、ユーザの左目及び右目の何れかが利き目であるか否かを決定するように構成される。
【００２５】
本発明に係る目追跡システムの操作方法に関して記載される好適な実施形態及びそれらの利点は、本発明に係る目追跡システムに対応して適用される。特に、目追跡システムの操作方法を説明するステップ及び本発明に係るその実施形態は、本発明に係る目追跡システムのさらなる実施形態を構成する。例えば、目追跡システムは、少なくとも１つの画像を捕捉する、捕捉部、一以上のカメラ及び／又はイメージセンサと、処理部とを備えていてもよい。処理部は、捕捉された画像を処理し、所定の精度関数に従って各精度スコアを決定し、さらに、ユーザの左目及び右目の何れかが利き目であるか否かを決定する。さらに、目追跡システムは、注視線セットを表示する表示装置を備えていてもよい。さらに、目追跡装置は、目を照らす、一以上の光源を備えていてもよく、これは、目に反射を生じさせ、視線方向及び／又は注視点及び／又は各目の位置及び／又は各目の向きといった、目の特徴を決定するために使用される。
【００２６】
続いて、添付の図面を参照しつつ、本発明の有利な実施形態を詳細に説明する。
【図面の簡単な説明】
【００２７】
【図１】本発明の一実施形態に係る目追跡システムの操作方法の概略図である。
【図２】左目及び右目のそれぞれにおいて決定された注視点とともに、目追跡システムのディスプレイに表示された５つのキャリブレーションポイントの概略図である。
【図３ａ】本発明の一実施形態に係る、左目及び右目のそれぞれにおいて決定された注視点とともに、検証処置の間に目追跡システムのディスプレイに表示された４つの検証ポイントの概略図である。
【図３ｂ】本発明の一実施形態に係る、左目及び右目のそれぞれにおいて決定された注視点とともに、検証処置の間に目追跡システムのディスプレイに表示された４つの検証ポイントの概略図である。
【図４】本発明の一実施形態に係る目追跡システムの操作方法の概略図であり、ここでは、各チャネルの精度スコアに依拠して、目追跡システムのチャネルが選択される。
【図５】本発明の一実施形態に係るユーザの利き目を決定するための目追跡システムの概略図である。
【発明を実施するための形態】
【００２８】
以下の好適な実施形態の説明では、左注視点セット、右注視点セット及び両眼注視点セットとの上記で使用した用語において、スティミュラスポイントとの用語が、同義語として使用される。さらに、これらのスティミュラスポイントが、キャリブレーション処置中に示されているか又は検証処置中に示されているかに依拠して、これらのスティミュラスポイントは、キャリブレーションポイント又は検証ポイントと呼ばれる。
【００２９】
図１は、本発明の一実施形態に係るユーザの利き目を決定する目追跡システム１０（図５参照）の操作方法の概略図である。ステップＳ１０で方法は開始し、ここでは、目追跡システム１０のキャリブレーション処置を開始するための入力が受信される。この入力は、ユーザ入力であってもよいが、一般的な開始信号のような別のものであってもよい。この入力が受信されると、目追跡システム１０は、キャリブレーション処置を開始する。このキャリブレーション処置は、ステップＳ１２ａでスタンダートキャリブレーションとして実行されてもよいし、又は、ステップＳ１２ｂでスマートキャリブレーションとして必要に応じて実行されてもよい。ステップＳ１２ａのスタンダートキャリブレーション又はステップＳ１２ｂのスマートキャリブレーションのどちらを実行するかは、ステップＳ１０の入力信号によって指示されてもよい。
【００３０】
ユーザがスタンダートキャリブレーション処置を開始する場合、ステップＳ１２ａでは、スティミュラスポイントがスティミュラス平面上のｎ箇所の所定の静的位置に表示され、ユーザは、これらのポイントを見ることになる。スティミュラス平面は、スクリーンであってもよいし、又は、目追跡システムのディスプレイ装置の画像面であってもよい。ここで、目追跡システムは、リモート目追跡器として実装されてもよいし、又は、ヘッドマウントディスプレイを備えるヘッドマウント目追跡装置として実装されてもよい。このようにして、目追跡システムは、スティミュラス平面が、ディスプレイの物理的面と必ずしも一致しないが、３Ｄディスプレイ又は立体的なディスプレイによって生成される仮想の画像平面となり得るような、三次元画像を提供するように構成してもよい。このスティミュラス平面の位置及び向きは、目追跡システム１０において既知である。
【００３１】
ユーザがこれらのスティミュラスポイントを見るとき、目追跡システムは、ユーザの両目の画像を捕捉し、これにより、例えば、各目の３Ｄ位置及び／又は各目の向き、及び、各目の視線ベクトルを計算することができる。ここで、左目の注視点は、左目の視線ベクトルとスティミュラス平面の交点として定義される。右目の注視点は、右目の視線ベクトルとスティミュラス平面の交点として定義される。また、両目の注視点は、両目の視線ベクトルとスティミュラス平面の交点として定義されてもよいし、又は、スティミュラス平面上の左目の注視点及び右目の注視点の位置平均として単に定義されてもよい。さらに、スティミュラスポイントは、それぞれ一度に示される。これらｎ個のスティミュラスポイントにおいて、グランドトルース（ground truth）注視点は、注視点セットとして表示されてもよい。グランドトルース注視点は、通常、２Ｄベクトルで表され、ｐＧｉ＝１~ｎとして事前に既知である。目追跡ソフトウェアによれば、左の視線チャネルからｎ個の視線サンプルｇＬｉ＝１~ｎが取得され、右の視線チャネルからｎ個の視線サンプルｇＲｉ＝１~ｎが取得される。各視線サンプルｇｉは、ｉｔｈキャリブレーションポイントに関連する全ての目情報及び／又は視線情報を含む。
【００３２】
キャリブレーションは、視線補正モデルＭ：ｇ→Ｍ（ｇ）（これは、生の視線サンプルをキャリブレーションされたものにマッピングする）を生成しなければならない。特に、生成される視線補正モデルには、それぞれ、左目のモデルＭＬ及び右目のモデルＭＲがある。理想的には、視線補正モデルは、このユーザ及び次の視線追跡からの全ての視線サンプルを補正することができる。
【００３３】
（事前に既知の）関数に、視線サンプルｇから注視点Ｐ：ｇ→ｐ＝Ｐ（ｇ）を計算又は抽出させる。その後、左目の視線補正ＭＬは、式（１）のように、キャリブレーションされた注視点ｐＬ＝Ｐ（ＭＬ（ｇＬ））とグランドトルースｐＧとの差分を最小化するようにして調整される。
【数１】
0006340503.tif 000002
式(１）  
【００３４】
ｉｔｈキャリブレーションポイントの左チャネルの残差は、式（２）によって計算される。
【数２】
0006340503.tif 000003
式（２）  
【００３５】
キャリブレーションは、常に、２つの単眼チャネルにおいて別個に行われる。特に、同様のものが、同様の方法で右目にも適用される。式（１）及び式（２）は、右チャネルに適用される場合、指数「Ｌ」が「Ｒ」に置き換えられる。通常、両眼の視線チャネルの注視点は、式（３）のように、左チャネル及び右チャネルを平均することによって、与えられる。
【数３】
0006340503.tif 000004
式（３）
【００３６】
よって、両眼チャネルの残差は、式（４）によって計算され得る。
【数４】
0006340503.tif 000005
式（４）
【００３７】
静的なスティミュラスポイントの代わりに、継続的に動くスティミュラスポイントを示すことによって、キャリブレーションが実行されてもよい。動くポイントの経路は、経路モデルｐＧによって完全に指定され、これは、キャリブレーションのグランドトルースの注視点である。左目の視線補正ＭＬは、式（５）のように、動的時間伸縮法（Dynamic Time Warping）の実行によって、キャリブレーションされた注視点の経路とグラントツルース経路との差分を最小化するようにして調整される。
【数５】
0006340503.tif 000006
式（５）          
ここで、Ｔは、マッチングのための最大時間ウインドウを制御する。
【００３８】
左チャネルの全体の残差は、式（６）のように、まさに上記で最小化したものである。
【数６】
0006340503.tif 000007
式（６）      
【００３９】
改めて同様のものが、右チャネルに適用される。両眼チャネルの残差は、式（７）のように、同様の方法で、計算され得る。
【数７】
0006340503.tif 000008
式（７）  
と
0006340503.tif 000009
【００４０】
このように、ステップＳ１２ａのキャリブレーション処理の間に、左目の補正モデルＭＬと右目の補正モデルＭＲが計算され、同様に、左チャネルの誤差ｒＬ、右チャネルの誤差ｒＲ及び両目チャネルのｒＢがそれぞれ計算される。キャリブレーション処理のこれらの結果は、その後、出力されてもよいし、目追跡システムによるさらなる利用のために（例えば、その後の目追跡のために及び／又はその後の検証処置のために）ステップＳ１４に提供されてもよい。
【００４１】
これらの結果は、後述の自己検証方式で、ステップＳ２２において利き目を決定するために使用されてもよい。
【００４２】
ステップＳ１２ａのキャリブレーション処置が完了した後、ユーザは、ステップＳ１６において、検証処置を有効化する入力をすることができる。検証処置は、その後、ステップＳ１４で得られるキャリブレーションの結果を使用して、ステップＳ１８で実行される。ステップＳ１６におけるユーザ入力の代わりに、任意の他の有効化信号が、検証処置を有効化するために提供されてもよい。検証処置は、キャリブレーション処理の完了後、自動的に開始されてもよく、ステップＳ１６は排除されてもよい。
【００４３】
検証処置の間、スティミュラスポイントがスティミュラス平面に改めて表示されるが、好適には、キャリブレーションポイントの位置とは異なる位置である。
【００４４】
これらのスティミュラスポイントが表示されている間、ユーザの目の画像が目追跡システムによって捕捉され、視線ベクトルのような各目の特性が決定される。そのために、スティミュラスポイントの位置である、グランドトルース注視点ｐＧｊ＝１~ｍのそれぞれにおいて、左目の生視線サンプルｇＬｊ＝１~ｍ及び右目の生視線サンプルｇＲｊ＝１~ｍがもう一度得られる。このとき、各チャネルの検証誤差、すなわち、右チャネル用の誤差ｒＲ、左チャネル用の誤差ｒＬ及び両目チャネル用の誤差ｒＢが、式（９）、式（１０）及び式（１１）のように、キャルブレーションされた視線補正モデルＭ特にＭＬ及びＭＲを適用することによって、計算される。
【数８】
0006340503.tif 000010
式（９）                                          
【数９】
0006340503.tif 000011
式（１０）
【数１０】
0006340503.tif 000012
式（１１）  
【００４５】
単一のスティミュラス検証ポイントを示す代わりに、キャリブレーション処置に関して説明したように、継続的に動くような、検証スティミュラスポイントを示してもよい。
【００４６】
さらに、ステップＳ１２ａで説明したスタンダートキャリブレーションの代わりに、スマートキャリブレーションがステップＳ１２ｂで実行されてもよい。この理由は、ユーザの注意散漫又は他の問題に起因して、キャリブレーション処置において検出された注視の全てが、キャリブレーション目的に適しているわけではないためである。従って、スマートキャリブレーションでは、「悪い」キャリブレーションポイントを検出して除去するために、スクリーニング処置が実行され得る。この機能は、より高いキャリブレーションロバスト性を提供するものであり、キャリブレーション品質に関連するものである。
【００４７】
スマートキャリブレーションは、最初に複数のキャリブレーションスティミュラスポイントが次々にスティミュラス平面に表示され、各スティミュラスポイントにおいて、左目の視線及び／又は注視点、右目の視線及び／又は注視点、及び／又は、両目の視線及び／又は注視点が決定されるという点では、スタンダートキャリブレーションに類似する。スタンダートキャリブレーションとの相違点は、スティミュラスポイント及び（視線及び決定される注視点のような）対応する目の特性の全てを、補正モデルＭを算出するために使用する必要がないことである。
【００４８】
ｎ個のキャリブレーションポイントセットを考慮すると、スマートキャリブレーションは次のようになる。
【００４９】
最初に、全ての可能で関係性のあるサブセットが列挙される。例えば、５つのポイントを有するとき、３ポイントサブセット、４ポイントサブセット及び５ポイントサブセットの全てが列挙され、次のステップで評価される。
【００５０】
次のステップでは、各キャリブレーションセットにおいて、３つの測定が検討される：キャリブレーションの数、キャリブレーションの品質（残差）、及び、変換及びスケーリングからの視線補正のずれ（偏差）である。より多くのポイントからなるサブセットの選択に基づく、事前知識も存在する。試験中のサブセットにおいて、キャリブレーションは、セットの中のポイントのみを使用して行われ、次に、キャリブレーションセット上の対応する残差が計算される。経験的に、悪いキャリブレーションポイントは、残差を最小化するために、大きな「視線補正」をよく必要とする。従って、変換及びスケーリングのみに適用したモデルからのずれが大きいということは、悪いキャリブレーションポイントであるというサインになる。これら３つの測定の全てを、加重和によってスコアに組み入れてもよい。次のステップでは、全てのサブセットにおいて、それらのスコアに基づき、最も良いものが選択される。全てのポイントからなるサブセットが他の全てのサブセットに勝る場合、キャリブレーションは、ｎポイントの全てで継続される。そうでない場合、最も良いサブセットからの視線補正モデルが使用される。選択されたサブセットに含まれないキャリブレーションポイントは、「悪い品質のため使用しない」としてラベル付けされる。
【００５１】
この提案されたアプローチは、例えば５ポイントのような、キャリブレーションポイントの小さなセットであっても信頼できるものである。例えば８ポイントより多い、キャリブレーションポイントの大きなセットを伴うキャリブレーションでは、より一般的なサンプルコンセンサスアプローチ（例えば、ＲＡＮＳＡＣ（Random Sample Consensus））が、最も良いサブセットを検出するために使用されてもよい。
【００５２】
最終的に最も良いサブセットが決定されれば、ステップＳ１２ａのスタンダートキャリブレーション処置で説明したように、補正モデルＭ及び残差を、特に選出されたサブセットに関して、計算することができ、ステップＳ１４に提供することができる。その後、スタンダートな検証処置がステップＳ１８で実行される場合、スマートキャリブレーション処置の結果が、スタンダートキャリブレーションに関連して上述したのと同様に、使用される。
【００５３】
ステップＳ１８のこの検証処置後、検証結果は、ステップＳ２２でユーザの利き目を決定するために、ステップＳ２０に提供される。特に、これらの検証結果は、式（９）、（１０）及び（１１）によって、又は、スムースな続行の場合のそれぞれの全体残差によって提供される残差である。さらに、各目に関する有効な追跡ポイントの数が、検証結果として提供されてもよい。
【００５４】
利き目の決定に関して、基本的な考えは、キャリブレーション及び／又は検証品質に基づく各視線チャネルの品質を評価することであり、最も良い（両目、左、右）チャネルが目追跡のために選択されてもよい。検証処置がステップＳ１８で実行される場合、単眼検証誤差は、各単眼チャネルの最も自然な品質尺度となる。検証品質は、十分に追跡された検証ポイントの数についての情報を含んでいてもよい。つまり、式（９）、（１０）及び（１１）に従って計算された各チャネルの検証誤差に基づいて、かつ各チャネルの十分に追跡された検証ポイントの数をさらに考慮して、精度スコアが各チャネルにおいて決定されてもよい。この精度スコアが高いほど、各検証誤差が小さくなり、かつ十分に追跡された検証ポイントの数は多くなる。必要に応じて、「ボーナス」が、例えば所定の数値の形式で、両眼チャネルの精度スコアに加えられてもよい。なぜなら、両眼視線が、通常、単眼視線よりも、よりロバストであるということは、確かではないためである。加えて、十分に追跡された検証ポイントの数についての情報を、各精度スコアを計算するために使用するようにして、検証処置の有効視線サンプズの数が、左チャネルと右チャネルとの間で非常にアンバランスであるか否かを考慮してもよい。例えば、１つのチャネルが、他のチャネルと比較して、２倍以上の数の追跡ポイントを有するか否かをチェックしてもよい。検証において左チャネルが２つの追跡ポイントのみを取得し、かつ右チャネルが５つのポイントを取得した場合、システムは、より良いロバスト性のために、右チャネルを使用するように切り替わる。つまり、利き目を決定するために、システムは、対応する精度スコアに基づいて３つのチャネルの品質を比較し、最も良いものを選び出すことができる。検証品質が最も自然で信頼性の高い品質基準である一方で、一般的なルールは、最も良いチャネルを使用することである。
【００５５】
つまり、左チャネルが最も良いチャネルとして決定された場合、左目は、利き目として決定される。左チャネル及び右チャネルが同等又は類似の精度スコアを有するか、又は、両眼チャネルの精度スコアが最も良い場合、そのときは、両方の目が等しく利き目であると決定され、言い換えれば、利き目は存在しない。ステップＳ２２のこられの結果に基づいて、ステップＳ２４では、利き目を示す出力信号が生成されてもよい。その後、信号は、スクリーンに、この決定結果を出力するために使用されてもよいし、最も良いチャネルを使用したその後の目追跡のために使用されてもよい。
【００５６】
別の実施形態では、検証処置は、必ずしも実行される必要はない。必要に応じて、ステップＳ１４のキャリブレーション結果は、自己検証の一種として、ステップＳ２２の利き目を決定するために直接使用されてもよい。つまり、この自己検証によって、検証を追加することなく、視線チャネルを選択することができる。これにより、左及び／又は右及び／又は両眼の視線チャネル品質が、キャリブレーション品質に基づいて決定される。従って、キャリブレーション結果は、特に左目の式（２）に係る残差、右目の対応する残差、及び、式（４）に係る両眼の残差又は式（６）及び（７）に係るそれぞれの全体残差は、各チャネルのキャリブレーション品質を定義する対応する精度スコアを計算するために使用されてもよい。さらに、各精度スコアを計算するとき、有用なキャリブレーションポイントの数が考慮されてもよい。つまり、追加的に、２つのチャネルがそれぞれ異なる数の有用なキャリブレーションポイントを有するとき（この場合の理由は、スマートキャリブレーション、目追跡の損失等である）、より少ないキャリブレーションポイントを含むチャネルには、その残差がより小さいときであっても、そのキャリブレーションの信頼性が低いため、非常に低い品質又は精度スコアが与えられる。
【００５７】
まとめると、自己検証は、キャリブレーションセットで行われ、ここで、好適な手段は、キャリブレーション品質、すなわち、検証品質として残差手段を使用することである。別の選択肢は、「一個抜き交差検証（leave-one-out cross validation）」である。また、キャリブレーション品質は、一般的にキャリブレーションポイントが多いほど結果としての視線補正の精度が高くなるため、モデルフィッテイングに使用される有効なキャリブレーションポイントの数に関する情報を含んでもよい。上述の品質が影響するパラメータの全て又は一部を考慮する各チャネル用の精度スコアを提供するために、精度関数が提供されてもよく、この場合、これら全てのパラメータは、対応する重み付けによって加算されてもよい。つまり、各チャネル用に計算された精度スコアに基づいて、検証処置の結果に関して説明したのと同様に、利き目を決定してもよい。さらに、利き目を示す信号が、ステップＳ２４において出力されてもよい。
【００５８】
図２は、キャリブレーション処置の間にスティミュラス平面に表示される５つのスティミュラスポイントの概略図を示す。５つのスティミュラスポイントは、キャリブレーションされた左目の注視点及び右目の注視点のそれぞれとともに、表示される。図２では、キャリブレーションポイント又はスティミュラスポイントは、ｉ＝１，２，３，４，５において、ｐｉＧ，Ｃとして表示される。さらに、ｉ＝１，２，３，４，５において、決定されかつキャリブレーションされた左目の注視点は、Ｐ（ＭＬ（ｇｉＬ，Ｃ））で表示され、決定されかつキャリブレーションされた右目の注視点は、Ｐ（ＭＲ（ｇｉＲ，Ｃ））で表示される。図２では、５つのスティミュラスポイントｐｉＧ，Ｃが、説明目的で１つの画像に全て表示されているが、キャリブレーション処置の間に、これらのスティミュラスポイントｐｉＧ，Ｃが、一度に、一つずつ表示されてもよい。また、キャリブレーションされた注視点Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｃ））は、説明目的であり、キャリブレーションの間は表示されない。実際は、図２は、キャリブレーション処置の結果を、図示のスティミュラスポイントｐｉＧ，Ｃ、及び、対応する決定され、かつキャリブレーションされた注視点Ｐ（ＭＬ（ｇｉＬ，Ｃ）），Ｐ（ＭＲ（ｇｉＲ，Ｃ））とともに見たものである。
【００５９】
以上から分かるように、各スティミュラスポイントｐｉＧ，Ｃにおいて、左目の注視点Ｐ（ＭＬ（ｇｉＬ，Ｃ））及び右目の注視点Ｐ（ＭＲ（ｇｉＲ，Ｃ））が決定され得る。この場合、有効に追跡される左目の注視点Ｐ（ＭＬ（ｇｉＬ，Ｃ））及び右目の注視点Ｐ（ＭＲ（ｇｉＲ，Ｃ））の数は、それぞれ５つである。左チャネルの残差ｒＬは、ｘ方向では０．５°と決定され得、ｙ方向では０．７°と決定され得る。ここで、右目又は右チャネルの残差ｒＲは、ｘ方向では０．１°と決定され得、ｙ方向では０．５°と決定され得る。これらの結果は、利き目を決定する自己検証として直接使用してもよく、この場合、この例では、左チャネル及び右チャネルの精度がかなり近いため、利き目は検出されない。
【００６０】
必要に応じて、このキャリブレーション処置の後、検証処置が、キャリブレーション処置に基づき決定されたキャリブレーションモデルＭを使用して実行されてもよい。検証処置の２つの例を、特にその結果を、図３ａ及び図３ｂに示す。
【００６１】
図３ａには、ｉ＝１，２，３，４を用いてｐｉＧ，Ｖ１で示される、４つの検証ポイントが示されている。これらは、キャリブレーションポイントｐｉＧ，Ｃの位置とは異なる。さらに、検証処置の間に決定される、右目及び左目のそれぞれに関する各検証ポイントに関連する注視点も、示されている。左目の注視点は、ｉ＝１，２，３，４を用いてＰ（ＭＬ（ｇｉＬ，Ｖ１））で示される。右目の注視点は、ｉ＝１，２，３，４を用いてＰ（ＭＲ（ｇｉＲ，Ｖ１））で示される。この場合、左チャネルの平均残差ｒＬは、ｘ方向で０．３°であり、ｙ方向で０．６°である。また、右チャネルの平均残差ｒＲは、ｘ方向で０．２°であり、ｙ方向で０．３°である。この例では、これら左目の注視点Ｐ（ＭＬ（ｇｉＬ，Ｖ１））及び右目の注視点Ｐ（ＭＲ（ｇｉＲ，Ｖ１））は、同等の検証品質を有するため、両眼チャネルが、目追跡のために又は他の用途のために、選択される。これらの検証結果に基づいて、左目及び右目の何れもが利き目ではないと決定することができる。
【００６２】
これとは対照的に、図３ｂは、検証処置の異なる結果を伴う別の例を示す。改めて、ｉ＝１，２，３，４を用いてｐｉＧ，Ｖ２で示される、４つの検証ポイントが示されている。これらは、キャリブレーションポイントｐｉＧ，Ｃの位置とは改めて異なる。また、左目に関する注視点及び右目に関する注視点が示され、これらは、ｉ＝１，２，３，４を用いて、左目の注視点はＰ（ＭＬ（ｇｉＬ，Ｖ２））で示され、右目の注視点はＰ（ＭＲ（ｇｉＲ，Ｖ２））で示される。右チャネルの平均残差ｒＲは、ｘ方向では０．７°であり、ｙ方向では０．６°である。一方、左目では、有用なポイントを決定することができなかった。この場合、右目の検証品質の方が、左目の検証品質よりも、はるかに良いことが分かる。追跡は、より良い目による単眼追跡に切り替えてもよい。この場合、右チャネルを用いた、右目に切り替えられる。
【００６３】
従って、一般的に、特にそれぞれの誤差に基づいて、対応する精度スコアの計算によって与えられ得る、検証品質間の差分が上述の所定の閾値である場合、良い方のチャネルが、より良いロバスト性のために選択され得る。
【００６４】
図４は、本発明の別の実施形態に係る目追跡システムの操作方法の概略図を示す。ステップＳ３０で、目追跡システムは、ユーザの両方の目の画像を捕捉する。これは、一以上のカメラを用いることによって、成され得る。捕捉された画像に基づいて、ステップＳ３２ａで左目に関連するデータが導出され、ステップＳ３２ｂで右目に関連するデータが導出され、ステップ３２ｃで両目に関するデータが導出される。これらのデータは、例えば、眼球の位置、瞳孔の位置、最終的に決定されたグリントの位置、視線方向及び／注視点といった、目の特性であってもよい。各チャネル（すなわち、左目、右目及び両目）のこれらのデータに基づいて、ステップＳ３４ａでは左目のための、ステップＳ３４ｂでは右目のための、ステップＳ３４ｃでは両目のための、精度スコアがそれぞれ計算される。この精度スコアは、各チャネルにおける追跡品質の尺度である。これらの精度スコアに基づいて、ステップＳ３６では、左目又は右目の何れかが利き目であるか否かが決定される。例えば、左精度スコア及び右精度スコアが同等であるか又はそれらの差分が所定の閾値を下回る場合、左目及び右目の何れも利き目ではないと決定される。左精度スコアが右精度スコアよりも高い場合、場合によってはさらに、左精度スコアと右精度スコアの差分が所定の閾値を超える場合、特に両眼精度スコアが左及び右精度スコアよりも依然として高い場合を除き、左目が利き目であると決定される。同様のことが右目にも適用され、すなわち、右精度スコアが左精度スコアよりも高く、場合によってはさらに、左精度スコアと右精度スコアの差分が所定の閾値を超える場合、特に両眼精度スコアが左及び右精度スコアよりも依然として高い場合を除き、右目が利き目であると決定される。他の全ての場合、利き目は存在しないと決定される。
【００６５】
このように、例えば、ステップＳ３６で左目が利き目であると決定されれば、ステップＳ３８ａで左目が利き目であることを示す信号が生成され、目追跡は、左チャネルを用いて実行される。そうでなく、右目が利き目であると決定された場合、ステップＳ３８ｂで右目が利き目であることを示す信号が出力され、目追跡は、右チャネルを用いて実行される。ステップＳ３６で利き目が存在しないと決定された場合、ステップＳ３８ｃで利き目が存在しないことを示す信号が出力され、目追跡には、両目又はむしろ両眼チャネルが使用される。
【００６６】
代替的に、信号によって何れかの目が利き目であると決定される場合、目追跡において、両眼視線を使用することも可能であるが（なお、両眼視線は左目のデータ及び右目のデータに基づいて計算される）、その場合、利き目の目のデータには、より重い重み付けがされる。例えば、重み付けの比率は、精度スコアの比率であってもよいし、例えば、精度スコアの比率に対応するものであってもよい。
【００６７】
図５は、本発明の一実施形態に係る目追跡システム１０の概略図を示す。目追跡システム１０は、プロセッサ又は制御部１２と、表示部１４と、捕捉部１６とを備える。必要に応じて、目追跡システム１０は、照明部１８を備えていてもよい。表示部１４は、例えばコンピュータモニタのようなディスプレイを有するモニタであってよく、又は、目追跡システム１０は、目追跡器を有するヘッドマウントディスプレイとして実装されてもよい。捕捉部１６は、ユーザの目を撮影する、一以上のカメラを備えていてもよい。目追跡システム１０のキャリブレーション処置及び／又は検証処置の間、キャリブレーションポイント及び／又は検証ポイントは、表示部１４によって表示され得る。キャリブレーション及び／又は検証の間、さらに例えばその後の目追跡の間、捕捉部１６は、ユーザの目の画像を捕捉する。これらの画像は、その後、処理部１２によって処理され、所定の精度関数に従って、左目のための左精度スコア、右目のための右精度スコア、及び、必要に応じて両目のための両眼精度スコアが決定される。これらの精度スコアに基づいて、処理部１２は、ユーザの左目及び右目の何れかが利き目であるか否かを決定する。この結果は、表示部１４のディスプレイに出力されてもよいし、その後の目追跡に使用されてもよい。照明部１８は、一以上の光源を含んでもよい。この光源は、例えば、グリント又は他のプルキン画像を生成する目的でユーザの目を照らすための、赤外線ＬＥＤである。これによって、目の位置及び向き並びに視線等のような目の特性を決定することが容易になる。
【００６８】
総括すると、ユーザの利き目を簡単に決定することができる、目追跡システムの操作方法及び目追跡システムが提供される。これらは、診断目的で、特に目追跡にて精度をより向上させるために、使用されてもよい。
【図１】
0006340503.tif 000013
【図２】
0006340503.tif 000014
【図３ａ】
0006340503.tif 000015
【図３ｂ】
0006340503.tif 000016
【図４】
0006340503.tif 000017
【図５】
0006340503.tif 000018