(57)【要約】【課題】ユーザへの肉体的負担の少ない肘より先の手先部分の動きを認識でき、実用に耐える文字入力機能を持ちかつ素早いジェスチャーに対応できるジェスチャーシステムを提供する。【解決手段】ユーザ１の主に手２の動作を画像センサ３で撮像し、その撮像された映像に対し、リアルタイムに画像処理、認識を行い、その結果をテレビ、スマートフォン等のスクリーン４に表示することによって、ユーザ１が手２のジェスチャー動作によってテレビ等のデバイスを負荷なく簡単に操作できることを実現する。【選択図】図１
2013114647.tif 000002
【特許請求の範囲】
【請求項１】
操作者の手及び指の動きを動画撮影する撮影手段と、
操作対象機器の画面に操作パネルを表示する操作パネル表示手段と、
撮影した手の動きに連動してポインターを動画表示するポインター表示手段と、
を備え、
操作者の手及び指の動作を高速度・高解像度の画像センサで撮像し、その撮像された映像に対し、リアルタイムに画像処理、認識を行い、その結果と操作パネルを操作対象機器の画面に表示することによって、操作者が手及び指のジェスチャー動作によって操作対象機器を負荷なく簡単に操作できることを特徴とするジェスチャー入力システム。
【請求項２】
前記ポインターが操作者の手及び指の動きを適切に連想させる形状であることを特徴とする請求項１記載のジェスチャー入力システム。
【請求項３】
前記ジェスチャー動作が両手操作を含むことを特徴とする請求項１記載のジェスチャー入力システム。
【請求項４】
前記画面制御がテレビのチャネル切替え、音量調整、番組検索及び番組選択、テレビ画面に表示された複数のウィンドウの移動、リサイジング等の基本動作及びテレビ上のオンラインショッピングのための動画に含まれる静止あるいは動いている物品の選択操作、ソーシャルネットワークアプリケーション等のテレビを介したコミュニケーションに使われる文字入力、番組検索等のための文字入力、視聴者の意見を収集するための投票のための操作、を含むことを特徴とする請求項１記載のジェスチャー入力システム。
【請求項５】
前記ジェスチャーの動作によって画面表示する操作パネルが選択されることを特徴とする請求項１記載のジェスチャー入力システム。
【請求項６】
前記ジェスチャー動作が
画面や、スクロールバーを慣性を持たせスクロールさせるフリック操作、
画面の表示ウィンドウを移動させるドラッグ操作、
画面表示を拡大・縮小させるピンチ操作、
画面上のボタンを押してキー入力するタップ操作、
画面上のレバーを移動させるスライド操作、
画面上のボリュームを回転させる回転操作、
画面上のメニューを検索する検索操作、
画面上に表示された、静止及び動いているオブジェクトを選択する操作
文字入力のための画面上のキーボードの両手・両指での操作
のいずれかを含むことを特徴とする請求項１記載のジェスチャー入力システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ジェスチャーによりテレビ、ゲーム、スマートフォンなどの機器を操作するユーザインタフェース技術に関する。
【背景技術】
【０００２】
従来のジェスチャーシステムは、認識のための解像度があまり高くなく、手や指の動きを認識することが困難であった。そのため特許文献１に示すように、大きな動作即ち手全体（腕）や体全体の動き（ボディアクション）を基本にしている。そのため、１）ユーザへの肉体的負担が大きい。２）画面上の小さなオブジェクト（機械制御アイコン）を操作するのが困難である。などの問題があった。またフレームレートも低く（３０〜６０ＦＰＳ）このために、ユーザの素早いジェスチャーに対応することが困難になり、これも使い勝手を悪くしている。
【０００３】
リモコンシステムは、リモコンに装備されたボタンの操作によって命令を実行するために、多くのボタンが装備されているが、それら一つ一つの機能を十分理解し、正確に操作するのに時間がかかる。また、紛失した時や、汚れた手では使えないという問題もある。文字入力はさらに困難で、リモコンに小型のキーボードが付いたものもあるが、遠くにあるモニターを見ながら文字をスムーズに入力するためには、ブラインドタッチができることが求められる。
【０００４】
スマートフォンのユーザインタフェースは、多くはタッチパネルベースとなっている。タッチパネルベースのユーザインタフェースの問題点は、指等でパネルに触れる際に、パネルに描かれたボタン、キー等のオブジェクトを指等が覆い隠すので、ユーザがオブジェクトの位置を正確に認識できないという問題がある。特に指の大きい大人或いは欧米人にとってはこれが問題になる場合が多い（いわゆるFat Finger Problem）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開平１０−３１５５１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
解決しようとする問題点は以上のような点であり、本発明は、ユーザへの肉体的負担の少ない肘より先の手先部分の動きを認識でき、実用に耐える文字入力機能を持ちかつ素早いジェスチャーに対応できるジェスチャーシステムを提供することを目的になされたものである。
【課題を解決するための手段】
【０００７】
そのため本発明は、操作者の手及び指の動きを動画撮影する撮影手段と、操作対象機器の画面に操作パネルを表示する操作パネル表示手段と、撮影した手の動きに連動してポインターを動画表示するポインター表示手段とを備え、操作者の手及び指の動作を高速度・高解像度の画像センサで撮像し、その撮像された映像に対し、リアルタイムに画像処理、認識を行い、その結果と操作パネルを操作対象機器の画面に表示することによって、操作者が手及び指のジェスチャー動作によって操作対象機器を負荷なく簡単に操作できることを最も主要な特徴とする。
【発明の効果】
【０００８】
本発明は、操作者の手及び指の動作を高速度・高解像度の画像センサで撮像するので、画面上の小さなオブジェクトも手、指の素早い動作に対応して正確にかつ素早く操作でき、ユーザに快適な使用感を提供する。素早い動作に対応することによって、他のジェスチャー、例えば動画中の移動しているオブジェクトを選択しそのオブジェクトに対して命令を実行できる。また肘から上の主に手、指のジェスチャー動作なのでユーザに負担がかからない。文字入力も両手で素早く快適に行える。
【図面の簡単な説明】
【０００９】
【図１】本発明を実施したジェスチャー入力システムの構成図である。
【図２】高速画像演算処理のフローチャートである。
【発明を実施するための形態】
【００１０】
以下、本発明の実施の形態について説明する。
【００１１】
図１に、本発明を実施したジェスチャー入力システムの構成図を示す。
ジェスチャー入力システムは、ユーザ１の主に手２の動作を画像センサ３で撮像し、その撮像された映像に対し、リアルタイムに画像処理、認識を行い、その結果をテレビ、スマートフォン等のスクリーン４に表示することによって、ユーザ１が手２のジェスチャー動作によってテレビ等のデバイスを負荷なく簡単に操作できることを実現する。画像センサ３は、その中に高速画像演算プロセッサーが一体に組み込まれ、コンパクトにテレビ等の筐体に装着される。ジェスチャーは、手首より上の動作（指先及び指一本の動作を含む）でも可能で、高速画像演算プロセッサーはジェスチャー動作の手及び指等の形状を認識する。
【００１２】
本ジェスチャーシステムでは、ジェスチャーの際の人間の手２、指の素早い動きを十分正確にとらえるため従来この分野で使われていない１００ＦＰＳ以上の高速かつ、６４０×４８０以上の高解像度の画像センサ３を採用し手２、及び指のジェスチャー動作を、素早く、正確に認識し、従来にない快適なユーザインタフェースを、ＴＶ、ゲーム機器等に提供するものである。
【００１３】
ユーザ１に快適なユーザインタフェースを実現するため、従来のシステムに見られる、片手での操作だけではなく、両手を使ったジェスチャーも提供する。
【００１４】
本ジェスチャーシステムでは、画面上に１〜２のポインター(ハンドアイコン)を表示し、そのポインターを両手の指を使った簡単なジェスチャー操作を実行することにより、様々な操作、例えば視聴したいプログラムの検索及び選択（テレビのチャネル切り替え、番組表から視聴したい番組の選択等に相当）、スクリーンに複数のウィンドウの表示、移動、そのウィンドウを両手或いは片手を使って大きさの変更、画面上に表示された仮想キーボードに対して２つのポインターを指で操作することにより文字入力する、コマンドを指定する、などを実現できるように設計されている。
【００１５】
ユーザ１は、両腕の肘より先の手２指の操作だけでジェスチャーを実現するので、テレビのような日常頻繁に行う操作でも疲労なく継続的に操作をすることができる。
【００１６】
テレビ等の大きなスクリーン５を持った、両手２の指の全部又は一部を使ったジェスチャー操作が適した場合に、その文字入力の際に使われるキーボードは、その手２の自然な動きに対応したキー配列とデザインを持つ。
【００１７】
ジェスチャーのタップ操作（キーボードのキーが押されたり、メニュー上のボタンが押された状況を実現する動作）を高速にかつ安定して実現するために、手２操作の位置、移動情報に加え、その速度、加速度を認識に利用する。
【００１８】
画像センサから得られる手指に関する複数の適切な特徴量を使って手２、指の認識を行う。
【００１９】
スマートフォンの場合、機器背面の振動素子による触覚フィードバックを行う。
【００２０】
指、手２の対象機器との前後の動きによってズーミングを実現、３次元映像の作画を行えるようにする。
【００２１】
図２に、高速画像演算処理のフローチャートを示す。
高速画像演算処理は、まず、センサーの環境パラメータの設定（パラメータは環境の変化によって随時調整）を行い（ステップ１）、次に、画像の取り込みを行い（ステップ２）、次に、ジェスチャー動作をする手、指の位置、形状等を複数フレームに亘ってその形状、動作速度、色情報を総合的に判断し、同定する（ステップ３）。次に、同定した手、指の属性・特徴量（特徴的な手、指の部位の位置、大きさ、形状、動作速度等）の抽出と計算を行い(ステップ４)、次に、同定した手の属性・特徴量から、ジェスチャー操作を認識し、システム（ＯＳ）に提供し(ステップ５)、次に、システムプログラム、アプリケーションプログラムがジェスチャー操作情報を、システム（ＯＳ）から入手し、ジェスチャーＵＩ（ユーザインタフェース）を実現する(ステップ６)。
【００２２】
すなわち、ジェスチャーサブシステムで、ユーザのジェスチャー動作を動画として取り込み、そこでの画像処理、ジェスチャー認識処理を経て、手、指の形状、相対的移動量、速度加速度等を計測し、それらのデータからジェスチャー動作の意味を認識する処理を行いそれから、画像上のポインターの位置、移動量、ポインターその時点でのステート（状態とその意味、状態の変化を指し示すデータ等）を作成し、データセットとして、ＴＶ側システムに提供し、ジェスチャーによるユーザインタフェースシステムを実現する。
【００２３】
以上のような構成で、ユーザが手を任意に素早く振るとジェスチャーシステムはその画像中の手とその動きを認識して、ジェスチャー認識をスタートする。この際に肘より先の手先部分を動かす操作で、スクリーン上のすべてのポイントを操作できるように、図１の点線で示す腕の捜査範囲とスクリーン画面をマッチングさせるためのキャリブレーションを行う。
【００２４】
文字入力は、両手の指の操作によって実現し、画面上にジェスチャー文字入力に最適化された仮想キーボードを表示し、そこに描かれたキーを両手の指で２つのポインターを操作することによって実現する。キーを選択押すジェスチャーは、指の姿勢、動き、速度、加速度を素早く正確に認識することによって実現する。
【００２５】
また、手、指の姿勢、その指の手全体の動きに対する相対的な動き、速度、加速度を測定、認識して、タップ、ドラッグ、フリック等を認識する。
【００２６】
本ジェスチャーシステムは、例えばスマートフォンにおいて、指の3次元位置を使って画面上の3次元映像の描画機能を提供する。さらに指やこの場合は目の3次元位置を視点と定義して、画面上に3次元映像を表現しその指、目が3次元で定義する視点に応じて3次元映像を提供する機能を提供する。例えばこれはマップ等のストリートビューのコントロールする機能の提供をする。
【００２７】
また、ジェスチャーシステムの動作環境（リビングルーム等）で、誤動作が発生する可能性がある環境状態になった場合その誤動作の原因（以降障害物と呼ぶ。例えば非常に強い光源の存在、部屋全体の不適切な照度等）となるものをユーザに示唆し、それを取り除く、問題を解消してもらうために、映像情報をスクリーン上の一つのウィンドウに表示し、その障害物の存在をユーザに認識させ、取り除くことを可能にするための機能を提供する。
【００２８】
なお、手、指の位置、動き、加速度、形状の認識は、手の色情報、色の勾配情報等から使った輪郭データとそのフレーム毎の変化を計算し、さらに手の形状のモデルとの比較をすることにより、手、指の位置、動き、加速度、形状の認識をする。
【符号の説明】
【００２９】
１        ユーザ
２        手
３        画像センサ
４        スクリーン
【図１】
2013114647.tif 000003
【図２】
2013114647.tif 000004