(57)【要約】【課題】ユーザの手形状を手形状モデルとして忠実に再現できる入力装置を提供する。【解決手段】操作面と手との接触領域を検知する接触領域検知部と、接触領域に基づいて、操作面に現在接触している手の指先位置を示す複数の指先位置点を所定時間毎に作成する位置座標データ作成部と、操作面に現在接触していない指先位置を示す擬似指先位置点を作成する擬似指先位置作成部と、指先位置点と擬似指先位置点とに基づいて、手の形状を反映したＣＧモデルを作成するモデル形状作成部と、機器に与える指示を割当てたＧＵＩパーツを保持するＧＵＩパーツ保持部と、モデル形状作成部で作成されたＣＧモデルとＧＵＩパーツ保持部に保持されたＧＵＩパーツとを重畳した画像を作成して表示部に表示させる重畳画像作成部と、ＧＵＩパーツとＣＧモデルとの位置関係に基づいて、機器に与えるユーザの指示を決定する操作内容決定部とを備える。【選択図】図２
2010049642.tif 000002
【特許請求の範囲】
【請求項１】
操作面に置かれたユーザの手のＣＧモデルを表示部に表示させ、当該表示を利用して入力されるユーザの指示を機器に与える入力装置であって、
前記操作面を有し、当該操作面と前記手との接触領域を検知する接触領域検知部と、
前記接触領域に基づいて、前記操作面に現在接触している前記手の指先位置を示す複数の指先位置点を所定時間毎に作成する位置座標データ作成部と、
前記操作面に現在接触していない指先位置を示す擬似指先位置点を作成する擬似指先位置作成部と、
前記指先位置点と前記擬似指先位置点とに基づいて、前記手の形状を反映したＣＧモデルを作成するモデル形状作成部と、
前記機器に与える指示を割当てたＧＵＩパーツを保持するＧＵＩパーツ保持部と、
前記モデル形状作成部で作成された前記ＣＧモデルと前記ＧＵＩパーツ保持部に保持されたＧＵＩパーツとを重畳した画像を作成して前記表示部に表示させる重畳画像作成部と、
前記ＧＵＩパーツと前記ＣＧモデルとの位置関係に基づいて、前記機器に与えるユーザの指示を決定する操作内容決定部とを備える、入力装置。
【請求項２】
前記位置座標データ作成部は、前記接触領域検知部が検知した接触領域に基づいて、更に、前記操作面に現在接触している前記手の掌位置を示す掌位置点を所定時間毎に作成し、
前記モデル形状作成部は、更に前記掌位置点に基づいて、前記手の形状を反映したＣＧモデルを作成することを特徴とする、請求項１に記載の入力装置。
【請求項３】
前記擬似指先位置作成部は、前記操作面に接触していた時点の指先位置を示す過去の指先位置点のうち直近の指先位置点を、前記擬似指先位置点とすることを特徴とする、請求項１に記載の入力装置。
【請求項４】
前記モデル形状作成部は、各前記指先位置点の動きベクトルを算出し、算出した動きベクトルを平均した平均動きベクトルに基づいて前記擬似指先位置点を移動させて、前記手の形状を反映した前記ＣＧモデルを作成することを特徴とする、請求項３に記載の入力装置。
【請求項５】
前記擬似指先位置作成部は、前記擬似指先位置点を、互いの間隔が所定値を超える隣合う前記指先位置点の間に作成することを特徴とする、請求項１に記載の入力装置。
【請求項６】
前記モデル形状作成部は、前記擬似指先位置点の両隣に位置する指先位置点の中間に位置するように当該擬似指先位置点を移動させて、前記手の形状を反映した前記ＣＧモデルを作成することを特徴とする、請求項５に記載の入力装置。
【請求項７】
操作面に置かれたユーザの手のＣＧモデルを表示部に表示させ、当該表示を利用して入力されるユーザの指示を機器に与える入力方法であって、
前記操作面と前記手との接触領域を検知する接触領域検知ステップと、
前記接触領域に基づいて、前記操作面に現在接触している前記手の指先位置を示す複数の指先位置点を所定時間毎に作成する位置座標データ作成ステップと、
前記操作面に現在接触していない指先位置を示す擬似指先位置点を作成する擬似指先位置作成ステップと、
前記指先位置点と前記擬似指先位置点とに基づいて、前記手の形状を反映したＣＧモデルを作成するモデル形状作成ステップと、
前記モデル形状作成ステップで作成された前記ＣＧモデルと前記機器に与える指示を割当てたＧＵＩパーツとを重畳した画像を作成して前記表示部に表示させる重畳画像作成ステップと、
前記ＧＵＩパーツと前記ＣＧモデルとの位置関係に基づいて、前記機器に与えるユーザの指示を決定する操作内容決定ステップとを備える、入力方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザが機器に対して命令等を入力するための入力装置及び入力方法に関し、より特定的には、ユーザがディスプレイ等に表示された情報に基づいて手等の身体部分を用いて、命令等を入力できる入力装置及び入力方法に関する。
【背景技術】
【０００２】
近年の情報機器端末の多機能化に伴って、ユーザがより使い易いユーザインターフェイスが求められている。使い易いユーザインターフェイスの一例として、タッチパネルディスプレイがある。タッチパネルディスプレイは、ディスプレイに表示されるＧＵＩ（Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ）パーツを手で押す操作をすることによって、ユーザが命令等を情報機器端末等に入力する装置である。このことから、タッチパネルディスプレイは、初心者でも直感的に操作できるインターフェイスと言える。
【０００３】
しかし、タッチパネルディスプレイにおいては、タッチを検知するデバイス（以下、入力部という）と表示部とが一体であるので、タッチパネルディスプレイがユーザの手元にないと操作できないという課題があった。
【０００４】
この課題を解決するために、特許文献１の技術は、入力部と表示部とを分離し、入力部に置かれたユーザの手を検知し、コンピュータグラフィック（以下、ＣＧという）の手形状モデルを、表示部に表示されるＧＵＩに重畳して表示する。このことによって、ユーザは、表示部から離れている場合でも、タッチパネルディスプレイの直感的な操作感を維持した操作を行うことができる。
【特許文献１】特開２００６−７２８５４号公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
上記した従来の技術は、ユーザの手と入力部の操作面との複数の接触位置を同時に取得できる入力部（タッチパネル）を用いて、検知したユーザの手の指先位置や掌位置に基づいてＣＧによって手形状を復元している。そして、上記した従来の技術では、入力部の操作面にユーザの指先が接触していない場合は、指先位置は検知されず、ユーザの手形状を忠実に再現することができない。この結果として、上記した従来の技術には、ＣＧによって復元された手形状モデルの形状とユーザの手の形状とが異なり、直感的な操作が困難になるという課題があった。
【０００６】
それ故に、本発明の目的は、入力部の操作面に接触していないユーザの指先が存在する場合であっても、ユーザの手形状を手形状モデルとして忠実に再現できる入力装置及び入力方法を提供することである。
【課題を解決するための手段】
【０００７】
本発明は、操作面に置かれたユーザの手のＣＧモデルを表示部に表示させ、この表示を利用して入力されるユーザの指示を機器に与える入力装置に向けられている。そして上記目的を達成させるために、本発明の入力装置は、操作面を有し、この操作面と手との接触領域を検知する接触領域検知部と、接触領域に基づいて、操作面に現在接触している手の指先位置を示す複数の指先位置点を所定時間毎に作成する位置座標データ作成部と、操作面に現在接触していない指先位置を示す擬似指先位置点を作成する擬似指先位置作成部と、指先位置点と擬似指先位置点とに基づいて、手の形状を反映したＣＧモデルを作成するモデル形状作成部と、機器に与える指示を割当てたＧＵＩパーツを保持するＧＵＩパーツ保持部と、モデル形状作成部で作成されたＣＧモデルとＧＵＩパーツ保持部に保持されたＧＵＩパーツとを重畳した画像を作成して表示部に表示させる重畳画像作成部と、ＧＵＩパーツとＣＧモデルとの位置関係に基づいて、機器に与えるユーザの指示を決定する操作内容決定部とを備える。
【０００８】
これにより、本発明の入力装置は、操作面に接触していないユーザの指先の位置を推定できるので、ユーザの手形状とＣＧで描画される手形状モデルの形状とを一致させることができる。
【０００９】
また、好ましくは、位置座標データ作成部は、接触領域検知部が検知した接触領域に基づいて、更に、操作面に現在接触している手の掌位置を示す掌位置点を所定時間毎に作成し、モデル形状作成部は、更に掌位置点に基づいて、手の形状を反映したＣＧモデルを作成する。
【００１０】
これにより、本発明の入力装置は、ユーザの手の掌位置を検出してＣＧモデルの形状に反映できるので、より正確なユーザの手のＣＧモデルを作成できる。
【００１１】
また、擬似指先位置作成部は、操作面に接触していた時点の指先位置を示す過去の指先位置点のうち直近の指先位置点を擬似指先位置点とすることによって、擬似指先位置点を作成してもよい。
【００１２】
これにより、本発明の入力装置は、操作面に当初接触していた指先であって現在接触していない指先に対応する擬似指先位置点を作成できる。
【００１３】
また、好ましくは、モデル形状作成部は、各指先位置点の動きベクトルを算出し、算出した動きベクトルを平均した平均動きベクトルに基づいて擬似指先位置点を移動させて、手の形状を反映したＣＧモデルを作成する。
【００１４】
これにより、本発明の入力装置は、操作面に接触していない指先が移動した場合であっても、この移動した指先の位置を推定できるので、正確なユーザの手のＣＧモデルを作成できる。
【００１５】
また、擬似指先位置作成部は、擬似指先位置点を、互いの間隔が所定値を超える隣合う指先位置点の間に作成してもよい。
【００１６】
これにより、本発明の入力装置は、操作面に当初から接触していない指先に対応する擬似指先位置点を作成できる。
【００１７】
また、モデル形状作成部は、擬似指先位置点の両隣に位置する指先位置点の中間に位置するように擬似指先位置点を移動させて、手の形状を反映したＣＧモデルを作成してもよい。
【００１８】
これにより、本発明の入力装置は、操作面に接触していない指先が移動した場合であっても、この移動した指先の位置を推定できるので、正確なユーザの手のＣＧモデルを作成できる。
【００１９】
また、本発明は、操作面に置かれたユーザの手のＣＧモデルを表示部に表示させ、この表示を利用して入力されるユーザの指示を機器に与える入力方法にも向けられている。そして上記目的を達成させるために、本発明の入力方法は、操作面と手との接触領域を検知する接触領域検知ステップと、接触領域に基づいて、操作面に現在接触している手の指先位置を示す複数の指先位置点を所定時間毎に作成する位置座標データ作成ステップと、操作面に現在接触していない指先位置を示す擬似指先位置点を作成する擬似指先位置作成ステップと、指先位置点と擬似指先位置点とに基づいて、手の形状を反映したＣＧモデルを作成するモデル形状作成ステップと、モデル形状作成ステップで作成されたＣＧモデルと機器に与える指示を割当てたＧＵＩパーツとを重畳した画像を作成して表示部に表示させる重畳画像作成ステップと、ＧＵＩパーツとＣＧモデルとの位置関係に基づいて、機器に与えるユーザの指示を決定する操作内容決定ステップとを備える。
【００２０】
これにより、本発明の入力方法は、操作面に接触していないユーザの指先の位置を推定できるので、ユーザの手形状とＣＧで描画される手形状モデルの形状とを一致させることができる。
【発明の効果】
【００２１】
本発明の入力装置及び入力方法によれば、操作面に接触していないユーザの指先の位置を推定できるのでユーザの手の形状とＣＧで描画される手形状モデルの形状とを一致させることができる。この結果として、ユーザは違和感無く操作を行うことが可能となる。
【発明を実施するための最良の形態】
【００２２】
（一実施形態）
以下、本発明の一実施形態に係る入力装置について図面を用いて説明する。なお、各図面において、視認性を考慮し、本発明の実施について特に重要ではない要素は省略している。
【００２３】
図１は、本発明の一実施形態に係る入力装置１００のハードウエア構成例を示す図である。図１に示すように、入力装置１００は、接触領域検知部１と演算部２とを備える。演算部２は、データの入出力を行うＩ／Ｏ１１と、データやプログラム等を記憶するＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）１２と、ＢＩＯＳ等の基本プログラムを格納するＲＯＭ１３と、ＨＤＤ１２に記憶されたプログラム及びＲＯＭ１３に格納されたプログラムを実行するＣＰＵ１４と、データを保持するＲＡＭ１５と、画像データを処理する画像プロセッサ１７と、画像データを保持するＶＲＡＭ１８と、以上の構成要素を接続するバス線１６とを備える。
【００２４】
接触領域検知部１は、Ｉ／Ｏ１１の入力側に接続され、操作面に接触したユーザの手１９の接触領域を多点で検知し、検知した接触領域の位置データ（以下、接触位置データという）を出力するタッチパネルである。接触領域検知部１からＩ／Ｏ１１の入力側に入力される接触位置データは、ＲＡＭ１５に保持される。
【００２５】
Ｉ／Ｏ１１の出力側には、表示部３が接続される。表示部３は、画像データに対応する画像を表示するディスプレイである。また、Ｉ／Ｏ１１の出力側には、入力装置１００によって操作されるカーナビゲーション装置、オーディオ装置、エアコン等の操作対象機器４が接続される。演算部２は、接触領域検知部１で検知されたユーザの指示に基づいて、操作対象機器４に指示を出力する。
【００２６】
ＨＤＤ１２は、ＲＡＭ１５に保持された接触位置データに基づいてＲＡＭ１５に予め保持されている標準の手形状モデル（以下、標準手モデルという）を変形させ、変形させた手形状モデルの画像データをＧＵＩと共に表示部３に表示させるようにＣＰＵ１４を機能させる制御プログラムを記憶している。
【００２７】
なお、入力装置１００における制御は、ハードウエア、又は、ハードウエア及びソフトウエアの協働によって実行される。
【００２８】
以下では、入力装置１００の構成及び動作について、より詳しく説明する。図２は、入力装置１００の機能ブロックの一例を示す図である。図２に示すように、入力装置１００は、接触領域検知部１と演算部２とを備える。演算部２は、位置座標データ作成部２１と、擬似指先位置作成部２２と、モデル形状作成部２３と、手形状モデル保持部２４と、ＧＵＩパーツ保持部２５と、重畳画像作成部２６と、操作内容決定部２７と、コマンド送信部２８とを含む。
【００２９】
位置座標データ作成部２１は、接触領域検知部１から入力される接触位置データから指先位置点及び掌位置点を生成する。
【００３０】
擬似指先位置作成部２２は、位置座標データ作成部２１によって生成された指先位置点に基づいて、擬似指先位置点を生成する。
【００３１】
手形状モデル保持部２４は、標準手モデルを予め保持している。
【００３２】
モデル形状作成部２３は、手形状モデル保持部２４から標準手モデルを読み出す。そして、モデル形状作成部２３は、位置座標データ作成部２１が生成した指先位置点と擬似指先位置作成部２２が生成した擬似指先位置点とに基づいて標準手モデルを変形させることによって、接触領域検知部１の操作面に載せられているユーザの手の形状を反映した手形状モデルの画像を作成する。
【００３３】
ＧＵＩパーツ保持部２５は、表示部３に表示される操作画像に含まれるＧＵＩパーツを保持する。ＧＵＩパーツ保持部２５に保持されるＧＵＩパーツは、例えば、操作対象機器４を操作する操作ボタンである。
【００３４】
重畳画像作成部２６は、ＧＵＩパーツ保持部２５から読み出したＧＵＩパーツの画像を作成し、作成した画像にモデル形状作成部２３が作成した手形状モデルの画像を重畳させて、操作画像として表示部３に表示させる。
【００３５】
操作内容決定部２７は、表示部３に表示された操作画像を用いてユーザが行った操作（指示）を検出する。
【００３６】
コマンド送信部２８は、操作内容決定部２７によって検出されたユーザの指示を、操作対象機器４に送信する。
【００３７】
図３は、入力装置１００の制御処理の一例を示すフローチャートである。以下、入力装置１００の制御処理について、図３を用いて説明する。なお、以下の処理は、図１に示すＣＰＵ１４がＨＤＤ１２に記憶された制御プログラムをＲＡＭ１５において展開して実行する。
【００３８】
まず、ステップＳ３０１において、位置座標データ作成部２１は、接触領域検知部１から接触位置データを取得する。接触位置データは、接触領域検知部１の操作面にユーザの手が接触した領域を、点郡（以下、接触点郡という）によって表すデータである。
【００３９】
次に、ステップＳ３０２において、位置座標データ作成部２１は、取得した接触点群を用いて指先位置点及び掌位置点を求める。図４は、ステップＳ３０２で求められる指先位置点及び掌位置点を説明するための図である。図４（ａ）に示すように、位置座標データ作成部２１は、接触領域検知部１から取得した接触点群をそれぞれ楕円で囲んで複数の領域を指定する。そして、位置座標データ作成部２１は、例えば、最も下に位置する楕円Ｂで示す接触点群を掌の接触点群と判断し、掌の接触点群よりも上側にある接触点群を指の接触点群と判断する。その後、位置座標データ作成部２１は、例えば、楕円Ａの上方向の先端を指先位置点とし（図４（ｂ）を参照）、楕円Ｂの重心を掌位置点とする（図４（ｃ）を参照）。なお、指先位置点及び掌位置点は、他の方法を用い、また、他の位置に決定してもよい。図４（ｄ）には、上記した方法によって求められた指先位置点４１〜４５、及び掌位置点４６を示す。
【００４０】
次に、ステップＳ３０３において、位置座標データ作成部２１は、手の指の並び方（手の構造）に基づいて、取得した指先位置点及び掌位置点にそれぞれＩＤを付与する。例えば、図４（ｄ）に示すように、ステップＳ３０２で５つの指先位置点が得られた場合には、指先位置点４１〜４５に、それぞれ、親指、人差し指、中指、薬指、小指を示すＩＤを付与し、掌位置点４６に掌を示すＩＤを付与する。ここで、上記した処理は、ユーザが接触領域検知部１を右手で操作していると仮定している。従って、例えば、ユーザに対して、接触領域検知部１の操作面に右手を置く旨の通知を音声や表示等を用いて行うことが好ましい。
【００４１】
次に、ステップＳ３０４において、位置座標データ作成部２１は、所定時間毎に接触領域検知部１から接触位置データを取得し、所定時間毎にステップＳ３０２と同様に指先位置点及び掌位置点を取得する。そして、位置座標データ作成部２１は、所定時間毎に取得した指先位置点及び掌位置点を、ステップＳ３０３で付与した親指、人差し指、中指、薬指、小指及び掌のＩＤのそれぞれに対応させてＲＡＭ１５に蓄積する。より具体的には、位置座標データ作成部２１は、所定時間毎に、過去の指先位置点及び掌位置点のそれぞれについて全ての現在の指先位置点及び掌位置点との間の距離を計算し、最も近い距離の現在の指先位置点（又は掌位置点）を同じＩＤの指先位置点（又は掌位置点）として認識してペアリングする。このことによって、位置座標データ作成部２１は、所定時間毎に取得する指先位置点及び掌位置点にＩＤを対応付けることができる。
【００４２】
次に、ステップＳ３０５において、擬似指先位置作成部２２は、擬似指先位置点を作成する。ここで、擬似指先位置点とは、接触領域検知部１の操作面に接触していない指先の位置（操作面から浮いている指先の位置）を表す指先位置点である。
【００４３】
図５は、ステップＳ３０５の処理を説明するためのフローチャートである。以下、図５を用いて、ステップＳ３０５の処理について詳しく説明する。
【００４４】
まず、ステップＳ５０１において、擬似指先位置作成部２２は、ステップＳ３０４でＲＡＭ１５に蓄積された所定時間毎の指先位置点の情報を用いて、浮いた指先を認識し、浮いた指先があるか否かを判定する。具体的には、擬似指先位置作成部２２は、ステップＳ３０４でＲＡＭ１５に蓄積された過去の指先位置点のうち、ペアリングすべき現在の指先位置点が存在しないものについては、指先が浮いたと認識し、浮いた指先があると判定する。浮いた指先があると判定された場合は、ステップＳ５０２に移る。浮いた指先がないと判定された場合は、ステップＳ５０４に移る。
【００４５】
ステップＳ５０２において、擬似指先位置作成部２２は、浮いた指先に対応する直近の過去の指先位置点を、この浮いた指先の擬似指先位置点として設定する。図６は、ステップＳ５０２の処理を説明するための図である。図６には、一例として、接触領域検知部１の操作面に接触していた中指が浮いた場合を示す。図６（ａ）において、５つの破線はそれぞれ過去の指先位置点の軌跡６０２を示し、４つの黒丸はそれぞれ現在の指先位置点６０１を示し、１つの白丸は中指が浮いたために検出されなくなる直前の指先位置点６０３を示す。なお、掌位置点は省略している。ステップＳ５０２において、擬似指先位置作成部２２は、検出されなくなる直前の指先位置点６０３を、図６（ｂ）に示すように、擬似指先位置点６０４として設定する。
【００４６】
次に、ステップＳ５０３において、擬似指先位置作成部２２は、ステップＳ５０２で設定した擬似指先位置点を、ＲＡＭ１５に蓄積する。
【００４７】
次に、ステップＳ５０４において、擬似指先位置作成部２２は、ＲＡＭ１５に蓄積された指先位置点（擬似指先位置点を含む場合もある）の合計が、５点存在するか否かを判断する。つまり、ステップＳ５０４において、擬似指先位置作成部２２は、５本の指の指先が、指先位置点又は擬似指先位置点として全て検出されているか否かを判断する。５点存在する場合は、図３に示すステップＳ３０６に移る。５点存在しない場合は、ステップＳ５０５に移る。
【００４８】
ステップＳ５０５において、擬似指先位置作成部２２は、隣り合う指先位置点の距離を算出する。ここで、指先位置点の一部が、ステップＳ５０２で設定された擬似指先位置点である場合もある。
【００４９】
次に、ステップＳ５０６において、擬似指先位置作成部２２は、ステップＳ５０５で算出した距離のそれぞれに対して、所定の閾値以上か否かを判断する。所定の閾値以上の距離が存在する場合は、ステップＳ５０７に移る。所定の閾値以上の距離が存在しない場合は、図３に示すステップＳ３０６に移る。
【００５０】
ステップＳ５０７において、擬似指先位置作成部２２は、所定の閾値以上の距離と判断された隣り合う２つの指先位置点の間に、擬似指先位置点を設定する。その後、図３に示すステップＳ３０６に移る。
【００５１】
図７は、図５に示すステップＳ５０５〜Ｓ５０７の処理を説明するための図である。以下、図７を用いて、中指が当初から浮いている場合を一例に挙げて、ステップＳ５０５〜Ｓ５０７の処理について具体的に説明する。
【００５２】
まず、ステップＳ５０５において、図７（ａ）に示すように、指先位置点７０１〜７０４（一部がステップＳ５０２で設定された擬似指先位置点であってもよい）について、隣り合う指先位置点間の距離７１１〜７１３がそれぞれ算出される。より具体的には、親指に対応する指先位置点７０１と人差し指に対応する指先位置点７０２との間の距離７１１が算出され、人差し指に対応する指先位置点７０２と薬指に対応する指先位置点７０３との間の距離７１２が算出され、薬指に対応する指先位置点７０３と小指に対応する指先位置点７０４との間の距離７１３が算出される。
【００５３】
次に、ステップＳ５０６において、算出された距離７１１〜７１３のそれぞれと、予めＲＡＭ１５に保持されている所定の閾値とが比較される。ここで、予めＲＡＭ１５に保持されている所定の閾値とは、ａ１〜ａ４である。閾値ａ１は、親指と人差し指との間の距離として通常有り得る値の最大値である。同様に、閾値ａ２は人差し指と中指との間の距離、閾値ａ３は中指と薬指との間の距離、閾値ａ４は薬指と小指との間の距離として、それぞれ通常有り得る値の最大値である。なお、手の構造を考慮して、各閾値の大小関係は、ａ１＞ａ４＞ａ２〜ａ３となるように設定されるのが好ましい。具体的には、親指に対応する指先位置点７０１と人差し指に対応する指先位置点７０２との間の距離７１１と、閾値ａ１とが比較される。同様に、人差し指に対応する指先位置点７０２と薬指に対応する指先位置点７０３との間の距離７１２と、閾値ａ２とが比較される。ここで、閾値ａ２は人差し指と中指との間の距離として通常有り得る値の最大値であるので、距離７１２が閾値ａ２以上であると判断される可能性は高い。距離７１２が閾値ａ２以上であると判断された場合には、中指が浮いていることが検知され、ステップＳ５０７に移る。
【００５４】
次に、ステップＳ５０７において、図７（ｂ）に示すように、人差し指に対応する指先位置点７０２と薬指に対応する指先位置点７０３との間に、浮いている中指に対応する擬似指先位置点７３０が作成され、ＲＡＭ１５に蓄積される。
【００５５】
なお、ステップＳ５０６において、距離７１２が閾値ａ２以上であると判断されない場合には、中指が浮いていることは検知されない。この場合には、浮いている中指に対応する擬似指先位置点は作成されない。
【００５６】
以上に説明したように、ステップＳ５０１及びＳ５０２の処理によって、当初は浮いていなかったが途中から浮いた指先について、擬似指先位置点が設定される。また、ステップＳ５０５〜Ｓ５０７の処理によって、当初から浮いていた指先について、擬似指先位置点が設定される。
【００５７】
以下では、図３のフローチャートに戻り、説明を続ける。ステップＳ３０６において、モデル形状作成部２３は、ステップＳ３０４でＲＡＭ１５に蓄積された所定時間毎に取得された指先位置点及び掌位置点と、ステップＳ３０５で擬似指先位置作成部２２が作成してＲＡＭ１５に蓄積された擬似指先位置点とを用いて、手形状モデル保持部２４が当初から保持しているひな形である標準手モデルの対応する指先位置点（一部が擬似指先位置点であってもよい）及び掌位置点とが重なるように、この標準手モデルを変形して手形状モデルを作成する。
【００５８】
図８は、擬似指先位置点が存在する場合に、モデル形状作成部２３が標準手モデルを変形する方法の一例について説明するための図である。以下では、図８を参照して、ステップＳ３０６において、擬似指先位置点が存在する場合に、モデル形状作成部２３が標準手モデルを変形して手形状モデルを作成する方法について詳しく説明する。
【００５９】
図８（ｃ）に示すように、４つの指先位置点６０１が移動した場合について説明する。ここで、既に説明した通り、指先位置点６０１は、浮いていない指先（検知されている指先）に対応し、擬似指先位置点６０４は、浮いている指先（検知されていない指先）に対応する。モデル形状作成部２３は、図８（ｃ）に示すように、各指先位置点６０１の動きベクトルを算出し、算出した動きベクトルを平均して平均動きベクトルを算出する。その後、モデル形状作成部２３は、図８（ｄ）に示すように、算出した平均動きベクトルを用いて擬似指先位置点６０４を移動させる。この方法によって、浮いている指先の動きについても手形状モデルに反映させることができるので、実際の手の形状に近い形状をＣＧによって再現することができる。
【００６０】
図９は、擬似指先位置点が存在する場合に、モデル形状作成部２３が標準手モデルを変形する方法の別の一例について説明するための図である。図９（ａ）には、一例として、浮いている中指に対応する擬似指先位置点１０１０と、指先位置点１００１〜１００４とを示す。図９（ａ）に示す状態から、ユーザが人差し指を折り曲げることによって、図９（ｂ）に示すように、指先位置点１００２が下方向に移動した場合を考える。この場合、モデル形状作成部２３は、図９（ｂ）に示すように、移動後の指先位置点１００２と指先位置点１００３との中心位置に擬似指先位置点１０１０を移動させる。つまり、モデル形状作成部２３は、擬似指先位置点を、この擬似指先位置点の両側に位置する２つの指先位置点の中心に位置するように移動させる。この方法によって、浮いている指先の動きについても手形状モデルに反映させることができるので、実際の手の形状に近い形状をＣＧによって再現することができる。ここで、上記した方法は、親指を除く他の４本の指が互いに連動して動く手の構造を利用したものである。従って、上記した方法は、中指又は薬指が浮いている場合に適用することが好ましい。
【００６１】
次に、ステップＳ３０７において、重畳画像作成部２６は、ＧＵＩパーツ保持部２５から読み出したＧＵＩパーツによって構成される画像に、ステップＳ３０６でモデル形状作成部２３が作成した手形状モデルを重畳し、ユーザの操作に用いる操作画像として表示部３に表示させる。
【００６２】
次に、図３のフローチャートでは省略しているが、操作内容決定部２７は、ステップＳ３０７で表示部３に表示された操作画像を目視してユーザが行った操作を、検出する。具体的には、操作内容決定部２７は、例えば、操作画像におけるＧＵＩパーツと手形状モデルの指先との衝突を、ユーザの操作として検出する。その後、コマンド送信部２８は、操作内容決定部２７によって検出されたユーザの操作を、操作対象機器４に送信する。以上の動作によって、ユーザは入力装置１００を用いて操作対象機器４を操作することができる。
【００６３】
以下では、図３のステップＳ３０６で作成される手形状モデルにおいて、指関節の曲がり角度を求める方法について説明する。ステップ３０６で作成される手形状モデルは、指先位置点（一部が擬似指先位置点であってもよい）及び掌位置点の位置変化に応じて、適宜変形が行われる。ここで、指先位置点の変位量から指関節の曲がり角度を求める方法として、ロボット工学分野等で周知であるインバースキネマティクス（以下、ＩＫという）技術がある。ＩＫ技術は、複数の可動部を持つアームの先端を目的位置に移動させるために用いられる。そして、アームが複数の可動部を持つ場合、ＩＫ技術を用いて目的位置にアームの先端を移動させるためには、可動部の曲り角度には複数の解が存在する。
【００６４】
本発明においても、指には複数の関節があるので、指関節の曲り角度には複数の解が存在する。このため、本発明では、一例として、ユーザの掌及び指先は操作面上（同一平面上）に存在するという拘束条件と、各指関節の曲り角度は等しいという拘束条件とを用いて、解を一意に求める。図１０は、指先位置点（一部が擬似指先位置点であってもよい）及び掌位置点が同一平面上に存在するという拘束条件及び各指関節の曲り角度は等しいという拘束条件を用いて変形した手形状モデルの一例を示す図である。図１０（ａ）は、一例として、人指し指を曲げた場合の指先位置点の変位を示している。図１０（ｂ）は、図１０（ａ）に示す曲げた状態の人指し指の手形状モデルを側面から視た図である。図１０から解るように、通常、指を曲げると３つの指関節は同時に曲がるので、この様な拘束条件を用いて標準手モデルを変形して手形状モデルを作成すると、ユーザは違和感無く操作を行うことができる。また、この様な拘束条件を用いて標準手モデルを変形すると、演算量が大幅に低減できるので、ユーザの手の動きに瞬時に応答する変形が可能である。図１１は、標準手モデル及び作成された手形状モデルを側面から視た図である。各指について位置の変位量から取得した各関節の角度に基づいて、図１１（ａ）に示す標準手モデルを図１１（ｂ）に示すように変形させることができる。
【００６５】
以上に説明したように、本発明の入力装置１００は、接触領域検知部１の操作面に当初接触していたユーザの指先が浮いた場合には、浮いた指先の位置を推定して擬似指先位置点を設定する。また、本発明の入力装置１００は、接触領域検知部１の操作面に当初から接触していないユーザの指先の位置を推定して擬似指先位置点を設定する。そして、本発明の入力装置１００は、設定した擬似指先位置点の移動を推定して、操作画面に表示するユーザの手形状を再現した手形状モデル（ＣＧモデル）に、浮いている指の形状を反映する。この結果として、本発明の入力装置１００によれば、ユーザの手形状とＣＧモデルの形状とを一致させることができ、ユーザは違和感無く操作を行うことが可能となる。
【００６６】
なお、以上では、図５のステップＳ５０５〜Ｓ５０７の処理によって、当初から浮いていた指先について、擬似指先位置点を設定した（図７を参照）。しかし、この処理では、端の指（親指又は小指）が当初から浮いていた場合には、この端の指に対応する擬似指先位置点を設定することは困難となる。従って、例えば、図１２を用いて以下に説明する処理によって、親指又は小指が当初から浮いていた場合の擬似指先位置点を設定してもよい。
【００６７】
図１２（ａ）は、当初から浮いていた親指に対応する擬似指先位置点９０３が設定される場合を示す図である。擬似指先位置作成部２２は、図１２（ａ）の楕円に示すように、指先位置点９０１の集団を認定する。これは、例えば、隣の指先位置点９０１との間隔が所定間隔以下である指先位置点９０１を１つの集団と認定ことで可能となる。ここで、手の構造上、通常、親指の指先は他の指の指先の集団から離れて位置する。このことから、親指が浮いていた場合には、図１２（ａ）のように、４つの指先位置点９０１から成る１つの集団が認定される可能性が高い。このことを利用して、４つの指先位置点９０１から成る１つの集団が認定される場合、擬似指先位置作成部２２は、人差し指に対応する指先位置点９０１の左下方向に、親指に対応する擬似指先位置点９０３を設定する。このことによって、擬似指先位置作成部２２は、当初から浮いていた親指に対応する擬似指先位置点９０３を設定できる。ここで、親指に対応する擬似指先位置点９０３と人差し指に対応する指先位置点９０１との距離は、例えば、人差し指に対応する指先位置点９０１と中指に対応する指先位置点９０１との距離の２倍にするとよい。
【００６８】
図１２（ｂ）は、当初から浮いていた小指に対応する擬似指先位置点９０３が設定される場合を示す図である。擬似指先位置作成部２２は、図１２（ｂ）の楕円に示すように、指先位置点９０１の集団を認定する。ここで、親指に対応する指先位置点９０１は、通常、人指し指に対応する指先位置点９０１から所定距離以上離れている。このことから、図１２（ｂ）に示すように、親指に対応する指先位置点９０１は、通常、指先位置点９０１の集団として認定されない。このことを利用して、３つの指先位置点９０１から成る１つの集団と１つの指先位置点とが認定される場合、擬似指先位置作成部２２は、薬指に対応する指先位置点９０１の右下方向に、小指に対応する擬似指先位置点９０３を設定する。このことによって、擬似指先位置作成部２２は、当初から浮いていた小指に対応する擬似指先位置点９０３を設定できる。ここで、小指に対応する擬似指先位置点９０３と薬指に対応する指先位置点９０１との距離は、例えば、薬指に対応する指先位置点９０１と中指に対応する指先位置点９０１との距離と等しくするとよい。
【産業上の利用可能性】
【００６９】
本発明の入力装置は、ユーザが機器に対して命令を入力するための入力装置等に利用可能であり、特に、タッチパネルディスプレイの直感的な操作感を維持した操作感を実現したい場合等に有用である。
【図面の簡単な説明】
【００７０】
【図１】本発明の一実施形態に係る入力装置１００のハードウエア構成例を示す図
【図２】本発明の一実施形態に係る入力装置１００の機能ブロックの一例を示す図
【図３】本発明の一実施形態に係る入力装置１００の制御処理の一例を示すフローチャート
【図４】図３に示すフローチャートのステップＳ３０２で求められる指先位置点及び掌位置点を説明するための図
【図５】図３に示すフローチャートのステップＳ３０５の処理を説明するためのフローチャート
【図６】図３に示すフローチャートのステップＳ５０２の処理を説明するための図
【図７】図５に示すフローチャートのステップＳ５０５〜Ｓ５０７の処理を説明するための図
【図８】擬似指先位置点が存在する場合に、モデル形状作成部２３が標準手モデルを変形する方法の一例について説明するための図
【図９】擬似指先位置点が存在する場合に、モデル形状作成部２３が標準手モデルを変形する方法の別の一例について説明するための図
【図１０】指先位置点（一部が擬似指先位置点であってもよい）及び掌位置点が同一平面上に存在するという拘束条件及び各指関節の曲り角度は等しいという拘束条件を用いて変形した手形状モデルの一例を示す図
【図１１】標準手モデル及び作成された手形状モデルを側面から視た図
【図１２】当初から浮いていた親指又は小指に対応する擬似指先位置点９０３が設定される場合を示す図
【符号の説明】
【００７１】
１    接触領域検知部
２    演算部
１１    Ｉ／Ｏ
１２    ＨＤＤ
１３    ＲＯＭ
１４    ＣＰＵ
１５    ＲＡＭ
１６    バス線
１７    画像プロセッサ
１８    ＶＲＡＭ
２１    位置座標データ作成部
２２    擬似指先位置作成部
２３    モデル形状作成部
２４    手形状モデル保持部
２５    ＧＵＩパーツ保持部
２６    重畳画像作成部
２７    操作内容決定部
２８    コマンド送信部
４１〜４５、６０１、６０３、７０１〜７０４、７２０、９０１、１００１〜１００４    指先位置点
４６、６０４、７３０、９０３、１０１０    掌位置点
１００    入力装置
【図１】
2010049642.tif 000003
【図２】
2010049642.tif 000004
【図３】
2010049642.tif 000005
【図４】
2010049642.tif 000006
【図５】
2010049642.tif 000007
【図６】
2010049642.tif 000008
【図７】
2010049642.tif 000009
【図８】
2010049642.tif 000010
【図９】
2010049642.tif 000011
【図１０】
2010049642.tif 000012
【図１１】
2010049642.tif 000013
【図１２】
2010049642.tif 000014