(57)【要約】【課題】利用者が集中している場合にも、利用者が操作指示として意図した動作を操作指示と判断する。【解決手段】利用者が集中しているか否かを推定可能な利用者の視線位置((Ａ)参照)を取得し、取得した利用者の視線位置に基づく利用者の集中度合いが高くなるに従って、利用者の動作が操作指示か否かを判断するための閾値ＴＨ((Ｂ)の破線参照)が低くなるように、閾値ＴＨを変更設定する。そして、利用者の動作を表す動作情報を変更設定した閾値と比較することで、利用者の動作が利用者の意図した操作指示か否かを判断する。【選択図】図５
2014182452.tif 000002
【特許請求の範囲】
【請求項１】
利用者の装置への集中度合いに関する集中度情報を取得する集中度情報取得部と、
前記利用者の動作を直接又は間接的に表す動作情報を取得する動作情報取得部と、
前記集中度情報取得部が取得した集中度情報に応じて、前記動作情報取得部が取得した動作情報が操作指示か否かを判断するための第１閾値を決定する閾値決定指示部と、
前記閾値決定指示部によって決定された前記第１閾値を用いて、前記動作情報取得部によって取得された前記動作情報が表す前記利用者の動作が、前記利用者が意図した操作指示か否かを判断する操作指示判断部と、
を含む情報処理装置。
【請求項２】
前記集中度情報取得部は、前記集中度情報として前記利用者の視線位置を表す視線位置情報を取得する請求項１記載の情報処理装置。
【請求項３】
前記集中度情報取得部は、前記視線位置情報が表す視線位置が特定の範囲内に位置している場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする請求項２記載の情報処理装置。
【請求項４】
前記集中度情報取得部は、前記表示部に表示されているアクティブウィンドウを表す情報を取得し、前記特定の範囲がアクティブウィンドである場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする請求項３記載の情報処理装置。
【請求項５】
前記集中度情報取得部は、前記集中度情報として前記利用者の体動を表す体動情報を取得する請求項１記載の情報処理装置。
【請求項６】
前記集中度情報取得部は、前記利用者の体動として前記利用者の頭部の動きを表す体動情報を取得する請求項５記載の情報処理装置。
【請求項７】
前記集中度情報が前記利用者が集中していない状態を示す場合に、前記動作情報の取得を中断する請求項１記載の情報処理装置。
【請求項８】
前記閾値変更指示部は、前記利用者が集中している度合いに応じて、前記第１閾値を連続的又は段階的に変更する請求項１〜請求項７の何れか１項記載の情報処理装置。
【請求項９】
前記利用者との距離を推定する距離推定部と、
前記距離推定部によって推定された前記利用者との距離に応じて、前記動作情報が表す前記利用者の動作の大きさ又は前記第１閾値を規格化する規格化部と、
を更に含む請求項１〜請求項８の何れか１項記載の情報処理装置。
【請求項１０】
コンピュータに、
利用者の装置への集中度合いに関する集中度情報を取得し、
前記利用者の動作を直接又は間接的に表す動作情報を取得し、
取得した前記集中度情報に応じて、取得した前記動作情報が操作指示か否かを判断するための第１閾値を決定し、
決定した前記第１閾値を用いて、取得した前記動作情報が表す前記利用者の動作が、前記利用者が意図した操作指示か否かを判断する
ことを含む処理を行わせるための情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
開示の技術は情報処理装置及び情報処理プログラムに関する。
【背景技術】
【０００２】
ＰＣ(Personal Computer)やタブレット端末等の情報処理装置において、利用者が行ったジェスチャや発声等の動作を情報処理装置への操作指示として受け付ける技術が提案されている。例えば、利用者がカメラを注視した状態で行ったジェスチャを、利用者が意図したジェスチャとして受理する一方、利用者がカメラと異なる方向を向いた状態で行ったジェスチャを、利用者が意図したジェスチャではないと判断する技術が提案されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平１１−２４９７７３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
人の微細な動きなどを操作指示と誤認識しないように、一定の閾値を超えない動きは、操作指示として判断をしないようにしている。操作指示を意図した動きが、その閾値の範囲に入らずに、操作指示として認識されないことがある、という課題があった。
【０００５】
開示の技術は、一つの側面として、利用者が集中している場合にも、利用者が操作指示として意図した動作を操作指示と判断することが目的である。
【課題を解決するための手段】
【０００６】
開示の技術は、集中度情報取得部により、利用者の装置への集中度合いに関する集中度情報を取得する。動作情報取得部は、前記利用者の動作を直接又は間接的に表す動作情報を取得する。閾値決定指示部は、前記集中度情報取得部が取得した集中度情報に応じて、前記動作情報取得部が取得した動作情報が操作指示か否かを判断するための第１閾値を決定する。そして操作指示判断部は、前記閾値決定指示部によって決定された前記第１閾値を用いて、前記動作情報取得部によって取得された前記動作情報が表す前記利用者の動作が、前記利用者が意図した操作指示か否かを判断する。
【発明の効果】
【０００７】
開示の技術は、一つの側面として、利用者が集中している場合にも、利用者が操作指示として意図した動作を操作指示と判断することができる、という効果を有する。
【図面の簡単な説明】
【０００８】
【図１】第１実施形態に係る情報処理装置の機能ブロック図である。
【図２】情報処理装置として機能するコンピュータの概略ブロック図である。
【図３】第１実施形態に係る指示認識処理を示すフローチャートである。
【図４】視線位置情報からの閾値の演算を説明するための説明図である。
【図５】(Ａ)は視線位置の推移、(Ｂ)は利用者のジェスチャ(移動量の微分値)及び連続的に変更される閾値の推移の一例を示す線図である。
【図６】利用者のジェスチャ(移動量の微分値)及び段階的に変更される閾値の推移の一例を各々示す線図である。
【図７】第２実施形態に係る指示認識処理を示すフローチャートである。
【図８】利用者のジェスチャ(移動量の微分値)、連続的に変更される閾値の推移及び動作検出区間の一例を示す線図である。
【図９】第３実施形態に係る指示認識処理を示すフローチャートである。
【図１０】(Ａ)は視線位置の軌跡がアクティブウインドウ内に収まっている場合、(Ｂ)は視線位置の軌跡がアクティブウインドウから逸脱している場合を各々示すイメージ図である。
【図１１】第４実施形態に係る情報処理装置の機能ブロック図である。
【図１２】第４実施形態に係る指示認識処理を示すフローチャートである。
【図１３】(Ａ)は手が遠い場合、(Ｂ)は手が近い場合における、利用者のジェスチャ(移動量の微分値)及び閾値の推移の一例を各々示す線図である。
【発明を実施するための形態】
【０００９】
発明者は、操作指示として行う動作の大きさ(例えばジェスチャの大きさや、発声した音声の音量)が、人が集中をしている場合には、集中をしていないときと比べて、小さくなる傾向があることを見出した。人の集中する度合いに応じて、操作指示を示す動作の大きさか否かを判断する閾値を変更することで、操作指示か否かの判断の誤りを減らす。以下、図面を参照して開示の技術の実施形態の一例を詳細に説明する。
【００１０】
〔第１実施形態〕
図１には、本第１実施形態に係る情報処理装置１０が示されている。情報処理装置１０は、利用者が所定の動作(例えば手により所定のジェスチャを行う動作や所定の音声を発する発声動作等)を行うことで為された操作指示を認識し、認識した操作指示に応じた処理を行う装置である。情報処理装置１０は、集中度情報取得部１２、動作情報取得部１４、集中度判断部１６、閾値変更指示部１８及び操作指示判断部２０を備えている。
【００１１】
集中度情報取得部１２は、利用者が集中しているか否かに関連する物理量を表す集中度情報を取得する。利用者が集中しているか否かに関連する物理量の一例としては、利用者の視線位置が挙げられる。この場合、集中度情報取得部１２は、集中度情報として利用者の視線位置を表す視線位置情報を取得する。また、利用者が集中しているか否かに関連する物理量の他の例としては、利用者の体動(例えば利用者の頭部の動き)が挙げられる。この場合、集中度情報取得部１２は、集中度情報として利用者の体動を表す体動情報を取得する。視線位置情報や体動情報は、動画像を撮影する機能を備えた撮影部によって利用者が撮影されることで得られた動画像を取得し、取得した動画像を解析することで得ることができる。なお、以下では、集中度情報として視線位置情報を取得する態様を主に説明する。
【００１２】
動作情報取得部１４は、操作指示のために行われた利用者の動作を直接又は間接的に表す動作情報を取得する。例えば、利用者が手を動かして所定のジェスチャを行うことで操作指示が行われる場合、動作情報取得部１４は、利用者の動作を直接に表す動作情報として、撮影部によって利用者が撮影されることで得られた動画像を取得する。なお、動作情報取得部１４は、前記動画像に代えて、前記動画像に対して利用者の手を画像認識によって抽出した結果を取得するようにしてもよい。また、例えば利用者が所定の音声を発する発声動作を行うことで操作指示が行われる場合、動作情報取得部１４は、利用者の動作を間接的に表す動作情報として、音声検出部によって音声が検出されることで得られた音声情報を取得する。なお、動作情報取得部１４は、前記音声情報に代えて、前記音声情報に対して音声認識を行った結果を取得するようにしてもよい。以下では、利用者が手を動かして所定のジェスチャを行うことで操作指示が行われる態様を主に説明する。
【００１３】
集中度判断部１６は、集中度情報取得部１２によって取得された集中度情報に基づき、利用者が集中しているか否かを判断する。
【００１４】
前述のように、人は、情報処理装置へ操作指示を与えることに集中している場合、操作指示として行う動作の大きさ(例えばジェスチャの大きさや、発声した音声の音量)が小さくなる傾向がある。このため、閾値変更指示部１８は、集中度判断部１６による判断結果を取得し、集中度判断部１６によって利用者が集中している状態と判断されたか否かに応じて、利用者が行った動作が操作指示を意図しているか否かを判断するための第１閾値を変更する。そして操作指示判断部２０は、閾値変更指示部１８によって変更された第１閾値を用いて、動作情報取得部１４によって取得された動作情報が表す利用者の動作が、利用者が意図した操作指示か否かを判断する。
【００１５】
情報処理装置１０は、例えば図２に示すコンピュータ３０で実現することができる。コンピュータ３０はＣＰＵ３２、メモリ３４、入力部３８、表示部４０、インタフェース(Ｉ／Ｆ)部４２を備えている。ＣＰＵ３２、メモリ３４、記憶部３６、入力部３８、表示部４０、Ｉ／Ｆ部４２はバス４４を介して互いに接続されている。Ｉ／Ｆ部４２には、利用者を撮影する撮影部４６及び利用者が発した音声を検出する音声検出部４８が接続されている。
【００１６】
また、記憶部３６はＨＤＤ(Hard Disk Drive)やフラッシュメモリ等によって実現できる。記録媒体としての記憶部３６には、コンピュータ３０を情報処理装置１０として機能させるための指示認識プログラム５０が記憶されている。ＣＰＵ３２は、指示認識プログラム５０を記憶部３６から読み出してメモリ３４に展開し、指示認識プログラム５０が有するプロセスを順次実行する。
【００１７】
指示認識プログラム５０は、集中度情報取得プロセス５２、集中度判断プロセス５４、動作情報取得プロセス５６、閾値変更指示プロセス５８及び操作指示判断プロセス６０を有する。ＣＰＵ３２は、集中度情報取得プロセス５２を実行することで、図１に示す集中度情報取得部１２として動作する。またＣＰＵ３２は、集中度判断プロセス５４を実行することで、図１に示す集中度判断部１６として動作する。またＣＰＵ３２は、動作情報取得プロセス５６を実行することで、図１に示す動作情報取得部１４として動作する。またＣＰＵ３２は、閾値変更指示プロセス５８を実行することで、図１に示す閾値変更指示部１８として動作する。またＣＰＵ３２は、操作指示判断プロセス６０を実行することで、図１に示す操作指示判断部２０として動作する。
【００１８】
これにより、指示認識プログラム５０を実行したコンピュータ３０が、情報処理装置１０として機能することになる。なお、指示認識プログラム５０は開示の技術における情報処理プログラムの一例である。また、コンピュータ３０はパーソナル・コンピュータ(ＰＣ：Personal Computer)や、携帯情報端末(ＰＤＡ：Personal Digital Assistants)の機能を搭載した携帯型の情報処理装置であるスマート端末であってもよい。
【００１９】
なお、情報処理装置１０は、例えば半導体集積回路、より詳しくはＡＳＩＣ(Application Specific Integrated Circuit)等で実現することも可能である。
【００２０】
利用者が手で所定のジェスチャを行ったり所定の音声を発声することで操作指示を行う際には、操作指示を意図しない、無意識の手の動きや音声が生ずることがある。このため、無意識の手の動きや音声を誤って操作指示と認識することがないように、予め定められた範囲外の大きな動きや微細な動き、或いは、所定値以下の音量の音声は、操作指示として認識しないことが一般的である。
【００２１】
しかしながら、前述のように、人は、情報処理装置へ操作指示を与えることに集中している場合、操作指示として行うジェスチャの大きさや、発声した音声の音量が小さくなる傾向が見られる。このため、利用者が情報処理装置への操作指示の入力に集中している場合、利用者が行ったジェスチャを利用者が意図したジェスチャではないと判断されることがあった。
【００２２】
上記を考慮し、本第１実施形態に係る情報処理装置１０は、図３に示す指示認識処理を行う。指示認識処理のステップ１００において、集中度情報取得部１２は、集中度情報として視線位置情報を取得する。すなわち、集中度情報取得部１２は、撮影部４６が利用者を撮影することで得られた動画像を取得し、取得した動画像を解析することで利用者の視線位置を認識し、視線位置情報を取得する。なお、視線位置の認識には、例えば特開２００４−２１８７０号公報に記載された技術を適用することができる。
【００２３】
次のステップ１０２において、集中度判断部１６は、集中度情報取得部１２によって取得された集中度情報に基づき、利用者が集中している度合いを表す集中度Ｆを判断する。集中度Ｆは、利用者の視線位置が図４に示すように推移し、現時点をｍ、動画像の１フレーム前のタイミングをｎとすると、タイミングｎからタイミングｍに至る期間における視線位置の最大値Ａと最小値Ｂの差を関数ｆに代入して求めることができる((１)式参照)。
Ｆ＝ｆ(Ａ−Ｂ)  …(１)
【００２４】
なお、関数ｆは、以下の(２)式に示すように入力値の逆数を出力する関数でもよいし、以下の(３)式に示すように指数関数であってもよい。また、関数ｆは、入力値が増加するに従って出力値が減少するものであればよく、テーブルを用いて、入力値(Ａ−Ｂ)の増加に対して出力値が離散的に減少するように変化させてもよい。
Ｆ＝ｆ(Ａ−Ｂ)＝１／(Ａ−Ｂ)  …(２)
Ｆ＝ｆ(Ａ−Ｂ)＝ａ・ｅｘｐ(−(Ａ−Ｂ)２)  …(３)
【００２５】
次のステップ１０４において、閾値変更指示部１８は、集中度判断部１６によって判断された集中度Ｆに応じて、利用者の動作を直接又は間接的に表す動作情報に対する閾値ＴＨを変更設定する。閾値ＴＨは開示の技術における第１閾値の一例である。閾値ＴＨは、例えば次の(４)式に示すように、集中度Ｆの逆数とすることができる。
ＴＨ＝１／Ｆ  …(４)
これにより、利用者の視線位置が例えば図５(Ａ)に示すように推移した場合、図５(Ｂ)に破線で示すように、閾値ＴＨは、利用者の視線位置の変化が小さくなるに従って値が小さくなる変化を示す。
【００２６】
なお、図５(Ｂ)は、関数ｆとして連続関数を適用した場合であるが、入力値(Ａ−Ｂ)の増加に対して出力値が離散的に減少する関数ｆを用いた場合は、図５(Ａ)に示すような利用者の視線位置の推移に対し、閾値ＴＨが図６に示すように離散的に変化する。なお、図６の場合にも、閾値ＴＨは、利用者の視線位置の変化が小さくなるに従って値が小さくなる変化を示す。
【００２７】
次のステップ１０６において、動作情報取得部１４は、利用者の動作を直接に表す動作情報として、撮影部４６によって利用者が撮影されることで得られた動画像を取得する。そして、取得した動画像を解析することで、利用者が利用者が手を動かして行ったジェスチャを認識する。なお、ジェスチャの認識には、例えば特開２０１１−７６２５５号公報に記載された技術を適用することができる。
【００２８】
次のステップ１０８において、操作指示判断部２０は、動作情報取得部１４によって取得された動作情報が表す利用者の動作(ジェスチャ)の大きさを、閾値変更指示部１８によって変更設定された閾値ＴＨと比較する。そして次のステップ１１０において、操作指示判断部２０は、利用者の動作(ジェスチャ)の大きさを閾値ＴＨと比較した結果に基づき、利用者によって操作指示が行われたか否か判断する。
【００２９】
例えば利用者の視線位置の変化が比較的大きい期間には、閾値ＴＨが比較的大きい値となる。このため、図５(Ｂ)及び図６に「動きは大きいが、視線位置から求まる閾値未満」として示すように、利用者に無意識の手の動きが生じたとしても、当該動きを操作指示が行われたと誤認識することが防止される。また、例えば利用者の視線位置の変化が比較的小さい期間には、閾値ＴＨが比較的小さい値となる。このため、図５(Ｂ)及び図６に「動きは小さいが、視線位置から求まる閾値超」として示すように、操作指示として意図した比較的小さな手の動きであっても、操作指示が行われたと認識することができる。
【００３０】
ステップ１１０の判定が否定された場合は指示認識処理を終了する。一方、ステップ１１０の判定が肯定された場合はステップ１１２へ移行する。ステップ１１２において、操作指示判断部２０は、利用者による操作指示に応じた処理を実行する。利用者の操作指示に応じた処理としては、例えば任意のファイルやリンクを開く処理、開いていた任意のファイルやリンクを閉じる処理、カーソルの位置を移動させる処理などが挙げられる。
【００３１】
これにより、利用者が手を動かして行ったジェスチャを行うことで、情報処理装置１０に操作指示を与えることが可能になる。また、利用者が集中していることで利用者の動作(ジェスチャ)の大きさが小さくなった場合にも、利用者が操作指示として意図した動作(ジェスチャ)を、操作指示として認識することができる。
【００３２】
〔第２実施形態〕
次に開示の技術の第２実施形態について説明する。なお、第２実施形態は第１実施形態と同一の構成であるので、各部分に同一の符号を付して構成の説明を省略し、以下、図７を参照して本第２実施形態の作用を説明する。
【００３３】
本第２実施形態に係る指示認識処理は、ステップ１０２で集中度判断部１６が集中度Ｆを判断した後、ステップ１１４へ移行する。ステップ１１４において、集中度判断部１６は、集中度Ｆを予め定められた集中度に関する閾値ＴＨFと比較し、集中度Ｆが閾値ＴＨF以上か否か判定する。閾値ＴＨFは開示の技術における第２閾値の一例である。集中度Ｆが閾値ＴＨF以上の場合はステップ１１４の判定が肯定され、ステップ１０４以降の処理(閾値変更指示部１８による閾値ＴＨの変更設定、動作情報取得部１４による動作情報の取得及び操作指示判断部２０による操作指示の判断)が行われる。
【００３４】
一方、集中度Ｆが閾値ＴＨF未満の場合はステップ１１４の判定が否定されて指示認識処理を終了する。この場合、ステップ１０４以降の処理(閾値変更指示部１８による閾値ＴＨの変更設定、動作情報取得部１４による動作情報の取得及び操作指示判断部２０による操作指示の判断)が省略される。従って、図８に示す動作検出区間よりも以前の期間には、集中度Ｆが閾値ＴＨF未満であることにより動作情報の取得等の処理が停止され、図８に示す動作検出区間には、集中度Ｆが閾値ＴＨF以上となることで動作情報の取得等の処理が開始されることになる。
【００３５】
このように、本第２実施形態は、第１実施形態と同様に、利用者が集中していることで利用者の動作(ジェスチャ)の大きさが小さくなった場合に、利用者が操作指示として意図した動作(ジェスチャ)を操作指示として認識することができる。また、本第２実施形態では、集中度Ｆが閾値ＴＨF未満の期間には動作情報が取得されず、操作指示の判断が行われない。このため、集中していない状態の利用者が無意識に手を大きく動かしたとしても、当該動作が操作指示として誤認識されることを防止することができる。また、集中をしておらず、操作指示が出されない状況であろうときに、動作情報の取得を停止することで、コンピュータの処理の負荷を軽減することができる。
【００３６】
〔第３実施形態〕
次に開示の技術の第３実施形態について説明する。なお、第３実施形態も第１実施形態と同一の構成であるので、各部分に同一の符号を付して構成の説明を省略し、以下、図９を参照して本第３実施形態の作用を説明する。
【００３７】
本第３実施形態に係る指示認識処理は、第２実施形態と同様に、ステップ１０２で集中度判断部１６によって集中度Ｆが判断され、次のステップ１１４で集中度判断部１６によって集中度Ｆが閾値ＴＨF以上か否か判定される。また、集中度Ｆが閾値ＴＨF以上の場合はステップ１１４の判定が肯定されてステップ１１６へ移行する。
【００３８】
ステップ１１６において、集中度判断部１６は、集中度情報取得部１２によって取得された視線位置情報が表す視線位置が、表示部４０に表示されているウインドウのうち、アクティブなウインドウ内に位置しているか否かを判定する。ステップ１１６の判定は、表示部４０に表示されているアクティブなウインドウの表示範囲を取得し、視線位置がアクティブなウインドウの表示範囲内に含まれるか否かを判定することで行うことができる。
【００３９】
例として図１０(Ａ)に示すように、利用者の視線位置の軌跡がアクティブなウインドウ内に収まっている場合、利用者はアクティブなウインドウ内を注視しているので、利用者が集中していると判断できる。この場合はステップ１１６の判定が肯定されてステップ１０４へ移行し、ステップ１０４以降の処理(閾値変更指示部１８による閾値ＴＨの変更設定、動作情報取得部１４による動作情報の取得及び操作指示判断部２０による操作指示の判断)が行われる。
【００４０】
一方、例として図１０(Ｂ)に示すように、利用者の視線位置の軌跡がアクティブなウインドウから逸脱している場合、利用者はアクティブなウインドウ内を注視しておらず、利用者が集中していないと判断できる。この場合はステップ１１６の判定が否定されて指示認識処理が終了することで、ステップ１０４以降の処理が省略される。
【００４１】
このように、本第３実施形態は、利用者の視線位置がアクティブなウインドウ内に位置しているか否かを判定することで、利用者が集中しているか否かを判断しているので、利用者が集中しているか否かをより高精度に判断することができる。また、本第３実施形態においても、利用者が集中しているときに利用者が操作指示として意図した動作(ジェスチャ)を、操作指示として認識することができる。また、本第３実施形態においても、集中していない状態の利用者が無意識に手を大きく動かした場合に、当該動作が操作指示として誤認識されることを防止することができる。
【００４２】
〔第４実施形態〕
次に開示の技術の第４実施形態について説明する。なお、第１実施形態〜第３実施形態と同一の部分には同一の符号を付し、説明を省略する。
【００４３】
図１１には本第４実施形態に係る情報処理装置２２が示されている。情報処理装置２２は、第１実施形態で説明した情報処理装置１０と比較して、距離推定部２４及び規格化部２６が設けられている点で相違している。
【００４４】
距離推定部２４は、例えば撮影部４６によって利用者が撮影されることで得られた画像中の利用者の手に相当する画像領域の大きさに基づいて利用者との距離を推定する。なお、利用者との距離の推定は、利用者の手に相当する画像領域の大きさに代えて、利用者の顔等に相当する画像領域の大きさに基づいて行ってもよい。また、例えば撮影部４６が複数の撮像素子を備えた構成の場合には、画像領域の大きさに基づいて利用者との距離を推定することに代えて、複数の撮像素子によって各々撮影された複数の画像における画像領域の位置の差に基づいて利用者との距離を推定してもよい。また、画像に基づいて利用者との距離を推定することに代えて、例えば赤外線等を利用して利用者との距離を測定してもよい。
【００４５】
規格化部２６は、距離推定部２４によって推定された利用者との距離に応じて、動作情報取得部１４によって取得された動作情報が表す利用者の動作の大きさ、又は閾値変更指示部１８によって変更された閾値ＴＨを規格化(補正)する。例えば、利用者が手を動かして所定のジェスチャを行った場合の動画像上での利用者の手に相当する画像領域の位置の変化の大きさは、利用者との距離が大きくなるに従って小さくなる。このため、規格化部２６は、利用者の動作の大きさを規格化する場合、利用者との距離が大きくなるに従って利用者の動作の大きさが大きくなるように、利用者の動作の大きさを規格化(補正)する。また、規格化部２６は、閾値ＴＨを規格化する場合、利用者との距離が大きくなるに従って閾値ＴＨが小さくなるように、閾値ＴＨを規格化(補正)する。
【００４６】
本第４実施形態に係る指示認識プログラム５０は、図２に破線で示すように、距離推定プロセス６２及び規格化プロセス６４を更に有している。本第４実施形態に係るコンピュータ３０のＣＰＵ３２は、距離推定プロセス６２を実行することで、図１に示す距離推定部２４として動作する。また、本第４実施形態に係るコンピュータ３０のＣＰＵ３２は、規格化プロセス６４を実行することで、図１に示す規格化部２６として動作する。これにより、指示認識プログラム５０を実行したコンピュータ３０が、情報処理装置２２として機能することになる。
【００４７】
次に本第４実施形態の作用として、図１２を参照し、本第４実施形態に係る指示認識処理について、第１実施形態で説明した指示認識処理(図３)と異なる部分を説明する。本第４実施形態に係る指示認識処理は、ステップ１０６で動作情報取得部１４が動作情報を取得した後、ステップ１１８へ移行する。ステップ１１８において、距離推定部２４は、撮影部４６によって利用者が撮影されることで得られた画像中の利用者の手に相当する画像領域の大きさに基づいて利用者との距離を推定する。
【００４８】
利用者の手に相当する画像領域の大きさに基づく利用者との距離の推定としては２つの手法が考えられる。第１の手法は、例えば互いに大きさの異なる手の画像の複数のテンプレートを、個々のテンプレートにおける手の大きさに対応する利用者との距離と対応付けて登録しておく。次に、複数のテンプレートの中から、利用者の手に相当する画像領域の大きさと最も近いテンプレートをテンプレートマッチングによって選択する。そして、選択したテンプレートと対応付けされた利用者との距離を、利用者との距離の推定結果として抽出する。これにより、利用者の手に相当する画像領域の大きさから利用者との距離を推定することができる。
【００４９】
また第２の手法は、撮影部４６によって利用者が撮影されることで得られた画像上での利用者の手に相当する画像領域の面積を評価することで、利用者との距離を推定する。具体的には、利用者との距離が互いに異なる複数の値の場合について、利用者の手に相当する画像領域の面積(画素数)を各々計数し、各場合毎に計数した画像領域の面積(画素数)を利用者との距離と対応付けて登録しておく。次に、画像中に存在する利用者の肌の色の領域を抽出することで、利用者の手に相当する画像領域を抽出し、抽出した画像領域の画素数を計数する。次に、登録されている複数の面積(画素数)の中から、計数した画像領域の画素数に最も近い面積(画素数)を選択し、選択した面積(画素数)と対応付けられた利用者との距離を、利用者との距離の推定結果として抽出する。これにより、利用者の手に相当する画像領域の大きさから利用者との距離を推定することができる。
【００５０】
なお、第２の手法において、撮影部４６の光学系の焦点距離をｆ、面積がｘｃｍ2、の利用者の手を撮影したときの画像領域の画素数をｙとすると、利用者との距離ｚは、次の(５)式の演算を行うことで求めることも可能である。
ｚ＝ｆ×√(ｘ／ｙ)  …(５)
【００５１】
次のステップ１２０において、規格化部２６は、ステップ１１８で推定された利用者との距離に応じて、閾値変更指示部１８によって変更された閾値ＴＨを規格化(補正)する。すなわち、規格化部２６は、利用者との距離が大きくなるに従って閾値ＴＨが小さくなり、利用者との距離が小さくなるに従って閾値ＴＨが大きくなるように、閾値変更指示部１８によって変更された後の閾値ＴＨを規格化(補正)する。この規格化(補正)は、例えば、利用者との距離が大きくなるに従って値が減少する係数を閾値ＴＨに乗ずることによって実現できる。なお、ステップ１２０の処理を行うとステップ１０８へ移行し、ステップ１０８以降の処理が行われる
【００５２】
例として図１３(Ａ)は利用者との距離が比較的大きい(手が遠い)場合の一例を示す。図１３(Ａ)に示す例は、利用者が集中していることで利用者の動作(ジェスチャ)の大きさが小さくなったときに、閾値ＴＨ(図１３では「操作指示判定の閾値」と表記)が比較的小さくなるように規格化されている。これにより、図１３(Ａ)に示す例では、利用者によって操作指示を意図したジェスチャが行われると、利用者との距離が比較的大きいことで動作情報が表す利用者の動作の大きさが比較的小さくても、操作指示が行われたと認識することができる。
【００５３】
一方、図１３(Ｂ)は利用者との距離が比較的小さい(手が近い)場合の一例を示す。図１３(Ｂ)に示す例は、利用者が集中していることで利用者の動作(ジェスチャ)の大きさが小さくなったときに、閾値ＴＨが図１３(Ａ)に示す例よりも比較的大きな値に規格化されている。図１３(Ｂ)に示す例は、動作情報が表す利用者の動作の大きさは図１３(Ａ)に示す例と同程度であるものの、利用者との距離が比較的小さいので、利用者の実際の動作の大きさは図１３(Ａ)に示す例よりも小さい。このため、図１３(Ｂ)に示す例では、利用者が操作指示を意図せず手を動かした場合に、操作指示が行われたと誤認識することが防止される。
【００５４】
このように、本第４実施形態では、利用者との距離が大きくなるに従って閾値ＴＨが小さくなり、利用者との距離が小さくなるに従って閾値ＴＨが大きくなるように、閾値ＴＨを規格化(補正)している。これにより、利用者の距離に応じて変動する、動作情報が表す利用者の動作の大きさの影響を受けることなく、利用者が操作指示として意図した動作を正確に操作指示と判断することができる。
【００５５】
なお、第４実施形態では、利用者との距離に応じて閾値ＴＨを規格化(補正)する態様を説明したが、開示の技術はこれに限定されるものではない。規格化部２６は、利用者との距離に応じて、動作情報取得部１４によって取得された動作情報が表す利用者の動作の大きさを規格化(補正)するようにしてもよい。動作情報が表す利用者の動作の大きさの規格は、利用者との距離が大きくなるに従って動作情報が表す利用者の動作の大きさが大きくなり、利用者との距離が小さくなるに従って動作情報が表す利用者の動作の大きさが小さくなるように行うことができる。これは、例えば、利用者との距離が大きくなるに従って値が増加する係数を動作情報が表す利用者の動作の大きさに乗ずることによって実現できる。この場合も、利用者の距離に応じて変動する、動作情報が表す利用者の動作の大きさの影響を受けることなく、利用者が操作指示として意図した動作を正確に操作指示と判断することができる。
【００５６】
また、上記では利用者の集中度Ｆに応じて閾値ＴＨを変更設定する態様を説明したが、これに限定されるものではなく、利用者の視線位置が何れの位置に位置しているかも考慮して閾値ＴＨを変更するようにしてもよい。例えば、表示部４０にアイコンが表示されている状態で、利用者の視線位置が表示されているアイコン内に滞留している場合は、上記で説明した閾値ＴＨをそのまま用いる。一方、利用者の視線位置が表示されているアイコンから外れている場合は、集中度判断部１６によって判断された集中度Ｆに係数１／ｘを乗じ、係数１／ｘを乗じた集中度Ｆに基づいて閾値ＴＨを求めるようにしてもよい。この場合、利用者がアイコンを注視していれば利用者の集中度が高く、利用者がアイコンを注視していなければ利用者の集中度が低いと判断して、利用者が操作指示として行うジェスチャを判断することになる。従って、利用者の集中度合いをより反映した、より正確な操作指示の判断を行うことができる。
【００５７】
また、上記の利用者がアイコンを注視しているか否かを判断する態様において、利用者の視線位置がアイコン内に滞留している場合に、滞留しているアイコンの大きさも勘案して閾値ＴＨを決定するようにしてもよい。具体的には、利用者の視線位置が滞留しているアイコンの大きさをｍとしたときに、集中度Ｆを次の(６)式によって求める。
Ｆ＝ｆ((Ａ−Ｂ)／ｍ)  …(６)
そして、(６)式によって求めた集中度Ｆに基づいて閾値ＴＨを決定する。この態様では、利用者が注視しているアイコンの大きさが小さくなるに従って集中度Ｆの値が高くなり、集中度Ｆの値が高くなるに従って閾値ＴＨの値が小さくなることで、利用者の動作が操作指示と認識され易くなる。従って、この態様も、利用者の集中度合いをより反映した、より正確な操作指示の判断を行うことができる。
【００５８】
更に、上記では利用者の動作の一例として利用者が操作指示として行うジェスチャを主に説明したが、開示の技術はこれに限定されるものではなく、利用者の動作は、例えば所定の音声を発する発声動作であってもよい。この場合、動作情報取得部１４は、利用者の動作を間接的に表す動作情報として利用者が発した音声を表す音声情報を取得する。また操作指示判断部２０は、動作情報取得部１４によって取得された音声情報が間接的に表す利用者の発声動作による音声の大きさを閾値ＴＨと比較することで、利用者の発声動作が利用者の意図した操作指示か否かを判断する。
【００５９】
また、上記では利用者が集中しているか否かに関連する物理量の一例として利用者の視線位置を説明したが、開示の技術はこれに限定されるものではなく、上記の物理量は、例えば利用者の体動であってもよい。体動の一例としては利用者の頭部の動きを適用することができる。また、例えば「P.Viola and M.Jones,"Robust real-time face detection",Int.J.of Computer Vision.Vol.57,no.2,pp.137-154,2004」に記載の技術を適用できる。この場合、集中度情報取得部１２は、集中度情報の一例として、利用者の頭部の動きを表す体動情報を取得する。また、集中度判断部１６は、集中度情報取得部１２によって取得された体動情報が表す体動が予め定められた閾値よりも小さい場合に、利用者が集中していると判断する。
【００６０】
また、上記では開示の技術に係る情報処理プログラムの一例である指示認識プログラム５０が記憶部３６に予め記憶（インストール）されている態様を説明したが、これに限定されるものではない。開示の技術に係る情報処理プログラムは、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ等の記録媒体に記録されている形態で提供することも可能である。
【００６１】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【００６２】
以上の実施形態に関し、更に以下の付記を開示する。
【００６３】
（付記１）
利用者の装置への集中度合いに関する集中度情報を取得する集中度情報取得部と、
前記利用者の動作を直接又は間接的に表す動作情報を取得する動作情報取得部と、
前記集中度情報取得部が取得した集中度情報に応じて、前記動作情報取得部が取得した動作情報が操作指示か否かを判断するための第１閾値を決定する閾値決定指示部と、
前記閾値決定指示部によって決定された前記第１閾値を用いて、前記動作情報取得部によって取得された前記動作情報が表す前記利用者の動作が、前記利用者が意図した操作指示か否かを判断する操作指示判断部と、
を含む情報処理装置。
【００６４】
（付記２）
前記集中度情報取得部は、前記集中度情報として前記利用者の視線位置を表す視線位置情報を取得する付記１記載の情報処理装置。
【００６５】
（付記３）
前記集中度情報取得部は、前記視線位置情報が表す視線位置が特定の範囲内に位置している場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする付記２記載の情報処理装置。
【００６６】
（付記４）
前記集中度情報取得部は、前記表示部に表示されているアクティブウィンドウを表す情報を取得し、前記特定の範囲がアクティブウィンドである場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする付記３記載の情報処理装置。
【００６７】
（付記５）
前記集中度情報取得部は、前記集中度情報として前記利用者の体動を表す体動情報を取得する付記１記載の情報処理装置。
【００６８】
（付記６）
前記集中度情報取得部は、前記利用者の体動として前記利用者の頭部の動きを表す体動情報を取得する付記５記載の情報処理装置。
【００６９】
（付記７）
前記集中度情報が前記利用者が集中していない状態を示す場合に、前記動作情報の取得を中断する付記１記載の情報処理装置。
【００７０】
（付記８）
前記閾値変更指示部は、前記利用者が集中している度合いに応じて、前記第１閾値を連続的又は段階的に変更する付記１〜付記７の何れか１項記載の情報処理装置。
【００７１】
（付記９）
前記利用者との距離を推定する距離推定部と、
前記距離推定部によって推定された前記利用者との距離に応じて、前記動作情報が表す前記利用者の動作の大きさ又は前記第１閾値を規格化する規格化部と、
を更に含む付記１〜付記８の何れか１項記載の情報処理装置。
【００７２】
（付記１０）
コンピュータに、
利用者の装置への集中度合いに関する集中度情報を取得し、
前記利用者の動作を直接又は間接的に表す動作情報を取得し、
取得した前記集中度情報に応じて、取得した前記動作情報が操作指示か否かを判断するための第１閾値を決定し、
決定した前記第１閾値を用いて、取得した前記動作情報が表す前記利用者の動作が、前記利用者が意図した操作指示か否かを判断する
ことを含む処理を行わせるための情報処理プログラム。
【００７３】
（付記１１）
前記集中度情報として前記利用者の視線位置を表す視線位置情報を取得する付記１記載の情報処理プログラム。
【００７４】
（付記１２）
前記視線位置情報が表す視線位置が特定の範囲内に位置している場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする付記１１記載の情報処理プログラム。
【００７５】
（付記１３）
前記表示部に表示されているアクティブウィンドウを表す情報を取得し、前記特定の範囲がアクティブウィンドである場合に、前記集中度情報が示す利用者の装置への集中度合をより高くする付記１２記載の情報処理プログラム。
【００７６】
（付記１４）
前記集中度情報として前記利用者の体動を表す体動情報を取得する付記１０記載の情報処理プログラム。
【００７７】
（付記１５）
前記利用者の体動として、前記利用者の頭部の動きを表す体動情報を取得する付記１４記載の情報処理プログラム。
【００７８】
（付記１６）
前記集中度情報が前記利用者が集中していない状態を示す場合に、前記動作情報の取得を中断する付記１０記載の情報処理プログラム。
【００７９】
（付記１７）
前記利用者が集中している度合いに応じて、前記第１閾値を連続的又は段階的に変更する付記１０〜付記１６の何れか１項記載の情報処理プログラム。
【００８０】
（付記１８）
前記利用者との距離を推定し、
推定した前記利用者との距離に応じて、前記動作情報が表す前記利用者の動作の大きさ又は前記第１閾値を規格化する付記１０〜付記１７の何れか１項記載の情報処理プログラム。
【符号の説明】
【００８１】
１０  情報処理装置
１２  集中度情報取得部
１４  動作情報取得部
１８  閾値変更指示部
２０  操作指示判断部
２２  情報処理装置
２４  距離推定部
２６  規格化部
３０  コンピュータ
３２  ＣＰＵ
３４  メモリ
３６  記憶部
５０  指示認識プログラム
【図１】
2014182452.tif 000003
【図２】
2014182452.tif 000004
【図３】
2014182452.tif 000005
【図４】
2014182452.tif 000006
【図５】
2014182452.tif 000007
【図６】
2014182452.tif 000008
【図７】
2014182452.tif 000009
【図８】
2014182452.tif 000010
【図９】
2014182452.tif 000011
【図１０】
2014182452.tif 000012
【図１１】
2014182452.tif 000013
【図１２】
2014182452.tif 000014
【図１３】
2014182452.tif 000015