(57)【要約】【課題】  複雑なジェスチャや多くの予約語を覚えることなく、複数の車載機器を非接触にて確実に操作することが可能な車載機器用インターフェースを提供する。【解決手段】  操作者の発話に基づく入力音声と、音声辞書に登録された指示代名詞とで特徴データが一致し、且つ、予め設定された許容時間Ｔ１内に、操作者のジェスチャ（手の形状）が、手辞書に登録された登録パターンと一致したことが確認されると（Ｓ１１０〜Ｓ１４０）、一致した登録パターンに対応づけられた車載機器を対象機器として特定すると共に、その対象機器の動作状態を取得する（Ｓ１５０）。そして、取得した動作状態を、他の動作状態に切り替えるための制御コマンドを作成し（Ｓ１６０）、その制御コマンドを対象機器に送信する（Ｓ１７０）。つまり、動作状態を切り替えるべき対象機器を、音声（指示代名詞）とジェスチャ（指差し）との組み合わせによって特定する。【選択図】  図４
2005178473.tif 000002
【特許請求の範囲】
【請求項１】
操作者の手の状態を表す手情報を検出する手情報検出手段と、
前記操作者の発話を認識する音声認識手段と、
前記手情報検出手段での検出結果と前記音声認識手段での認識結果との組み合わせに基づいて、操作対象となる車載機器である対象機器を特定し、該対象機器に対する制御信号を生成する制御信号生成手段と、
を備えることを特徴とする車載機器用インターフェース。
【請求項２】
前記手情報が表す手の状態とは、手の形状，手の動き，手の位置のうち少なくとも一つを含むことを特徴とする請求項１に記載の車載機器用インターフェース。
【請求項３】
前記制御信号生成手段は、
前記音声認識手段にて予め設定された指示代名詞が認識されると、前記手情報検出手段が検出する手情報に基づいて前記対象機器を特定し、該対象機器の動作状態を切り替えるための制御信号を生成することを特徴とする請求項１又は２に記載の車載機器用インターフェース。
【請求項４】
前記制御信号生成手段は、
前記手情報検出手段が検出する手情報に基づいて前記対象機器を特定し、該対象機器に対する操作に対応づけられた予約語が前記音声認識手段にて認識されると、該予約語に対応した操作を前記対象機器に行わせるための制御信号を生成することを特徴とする請求項１又は２に記載の車載機器用インターフェース。
【請求項５】
前記制御信号生成手段は、
前記音声認識手段にて予め設定された指示代名詞が認識されると、前記手情報検出手段が検出する手情報に基づいて前記対象機器を特定し、該対象機器が特定されてから予め設定された許容時間の間に、該対象機器に対する操作に対応づけられた予約語が前記音声認識手段にて認識されると、該予約語に対応した操作を前記対象機器に行わせるための制御信号を生成することを特徴とする請求項１又は２に記載の車載機器用インターフェース。
【請求項６】
前記制御信号生成手段は、
前記音声認識手段にて予め設定された指示代名詞が認識されると、前記手情報検出手段が検出する手情報に基づいて前記対象機器を特定し、該対象機器が特定されてから予め設定された許容時間の間に、前記音声認識手段にて予め設定された指示代名詞が再び認識されると、前記手情報検出手段が検出する手情報に基づいて前記対象機器に対する操作を特定し、該操作を前記対象機器に行わせるための制御信号を生成することを特徴とする請求項１又は２に記載の車載機器用インターフェース。
【請求項７】
前記操作者の手の位置を検出し、該手の位置が予め設定された指定領域内に存在する場合に、前記手情報検出手段又は前記制御信号生成手段の動作を許可する動作許可手段を備えることを特徴とする請求項１〜６のいずれかに記載の車載機器用インターフェース。
【請求項８】
前記動作許可手段は、前記指定領域を撮像するように配置されたカメラからの入力画像に基づいて前記操作者の手の位置を検出することを特徴とする請求項７に記載の車載機器用インターフェース。
【請求項９】
前記手情報検出手段は、
前記操作者の手を撮像するカメラからの入力画像に基づき、該入力画像において手が撮像された領域である手部分を抽出する抽出手段と、
該抽出手段が抽出した手部分の形状と予め用意されたテンプレートの形状とを比較し、最も類似したテンプレートの形状を手の形状として特定する形状特定手段と、
を備え、該形状特定手段が特定した手の形状を前記手情報とすることを特徴とする請求項１〜８のいずれかに記載の車載機器用インターフェース。
【請求項１０】
前記手情報検出手段は、
前記操作者の手を撮像するカメラからの入力画像に基づき、該入力画像において手が撮像された領域である手部分を抽出する抽出手段と、
該抽出手段が抽出した手部分の重心を手の位置として特定する位置特定手段と、
を備え、該位置特定手段が特定した手の位置を前記手情報とすることを特徴とする請求項１〜８のいずれかに記載の車載機器用インターフェース。
【請求項１１】
前記手情報検出手段は、
前記操作者の手を撮像するカメラからの入力画像に基づき、該入力画像において手が撮像された領域である手部分を抽出する抽出手段と、
該抽出手段が抽出した手部分の重心を手の位置として特定する位置特定手段と、
前記位置特定手段が特定した手の位置の時系列的な変化を、手の動きとして特定する動き特定手段と、
を備え、該動き特定手段が特定した手の動きを前記手情報とすることを特徴とする請求項１〜８のいずれかに記載の車載機器用インターフェース。
【請求項１２】
前記抽出手段は、前記入力画像を構成する各画素の輝度及び色情報のうち少なくとも一方を抽出用情報とし、前記入力画像において該抽出用情報が予め設定された許容範囲内にある領域を前記手部分とすることを特徴とする請求項９〜１１のいずれかに記載の車載機器用インターフェース。
【請求項１３】
前記手情報抽出手段は、
前記入力画像の時系列的なフレーム間差分を求めることにより、前記入力画像において動きのある領域を抽出し、該抽出された領域における前記抽出用情報の平均値に基づいて、前記抽出用情報の許容範囲を設定することを特徴とする請求項１２に記載の車載機器用インターフェース。
【請求項１４】
前記手情報検出手段は、前記手情報を、互いに異なる位置に配置された複数のカメラからの入力画像に基づいて３次元的に検出することを特徴とする請求項１〜１３のいずれかに記載の車載機器用インターフェース。
【請求項１５】
前記制御信号生成手段が生成する制御信号は、車載機器を相互に接続する通信ネットワークを介して、前記対象機器に送信されることを特徴とする請求項１〜１４のいずれかに記載の車載機器用インターフェース。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、空間に離散的に配置された複数の車載機器を非接触にて操作するための車載機器用インターフェースに関する。
【背景技術】
【０００２】
従来より、自動車運転の安全性向上のため、ナビゲーション装置やオーディオ機器、エアコン等といった各種車載機器を、ドライバが、視線をそらしたり腕を伸ばすなどして大きく姿勢を変えることなく操作可能とするための技術が提案されている。その例として、画像認識を利用し、ジェスチャ（身振り，手振り）によって、指令や情報を入力する装置（例えば、特許文献１，特許文献２参照。）や、音声認識を利用して、予め設定された予約語の発話によって、指令や情報を入力する装置が知られている。
【特許文献１】特開２０００−  ７５９９１号公報
【特許文献２】特開２００２−１４９３０４号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
このうち、画像認識を利用した装置では、使用するジェスチャを、操作者の意識が運転からそがれることのない程度に簡単なものとしなければならない。しかし、簡単なジェスチャを用いた場合、操作者の意図しない動きを、意味のあるジェスチャとして誤認識してしまい、車載装置を誤作動させてしまうおそれがあるという問題があった。
【０００４】
一方、音声認識を利用した装置では、使用する予約語を、操作者が予め覚えておく必要があり、操作が複雑だったり、操作対象となる車載機器が複数存在する場合に、多くの予約語を覚えるのが難しいという問題があった。
【０００５】
これに対して、近年では、自然言語での音声認識の研究も行われているが、実用化はまだ程遠く、仮に実現できたとしても、車両に搭載可能なＣＰＵの処理能力では、リアルタイム性を確保できないという問題が残される。
【０００６】
更に、指令や情報の中に空間的な位置が含まれる場合、これを自然言語で表現するのは非常に難しく、自然言語での音声認識が可能であったとしても、的確な指令や情報を与えることが困難であるという問題もあった。
【０００７】
本発明は、上記問題点を解決するために、複雑なジェスチャや多くの予約語を覚えることなく、複数の車載機器を非接触にて確実に操作することが可能な車載機器用インターフェースを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記目的を達成するためになされた本発明の車載機器用インターフェースでは、操作者の手の状態を表す手情報を検出する手情報検出手段での検出結果と、操作者の発話を認識する音声認識手段での認識結果との組み合わせに基づいて、制御信号生成手段が、操作対象となる車載機器である対象機器を特定し、その対象機器に対する制御信号を生成する。
【０００９】
つまり、対象機器の特定等を、ジェスチャだけ又は音声だけで行うのではなく、両者を組み合わせて行うため、簡単な手振りと簡単な単語とを用いても、操作者の意図しない動きや発話が、意味のあるものと誤認識される可能性を大幅に低減することができる。
【００１０】
しかも、手の状態からは、空間の位置などといった言葉では表現し難い事柄を明確に示すことができるため、音声認識だけを用いる場合と比較して、操作者の意図を少ない処理量にて確実に特定することができる。
【００１１】
なお、手情報が表す手の状態としては、手の形状，手の動き，手の位置のうち少なくとも一つを含むことが望ましい。更に手の形状としては、特に、手の向き（指差し方向）を表すものが考えられる。
【００１２】
そして、手の向きや手の方向は、対象機器とすべき機器の位置する方向などを指定する際に、好適に用いることができる。また、手の位置は、対象機器がエアコンである場合、風の当たる位置を具体的に指定する場合等に有効である。
【００１３】
ところで、制御信号生成手段は、例えば、音声認識手段にて予め設定された指示代名詞が認識されると、手情報検出手段が検出する手情報に基づいて対象機器を特定し、この特定された対象機器の動作状態を切り替えるための制御信号を生成するように構成すればよい。
【００１４】
この場合、例えば、手情報として手の形状や手の動きを用いた場合、手の形状から特定される手の向き、或いは手の動きから特定される方向と、車載機器とを予め対応づけておけば、操作を希望する車載機器に手を向けるか、その車載機器に向けて手を動かして、「これ」「それ」等の指示代名詞を発話するだけで、所望の車載機器を選択することができる。
【００１５】
このように本発明によれば、操作者は、対象機器の名称を忘れたり、その名称を正確に発話できない場合でも、簡単な手振りと指示代名詞の発話だけで、きわめて容易に且つ確実に対象機器を選択することができる。
【００１６】
また、指示代名詞の発話がなければ、対象機器が選択されることがないため、簡単な手振りであっても、操作者が操作を意図しない動作によって、対象機器が選択されてしまうことも防止できる。
【００１７】
また、制御信号生成手段は、例えば、手情報検出手段が検出する手情報に基づいて対象機器を特定し、この対象機器に対する操作に対応づけられた予約語が音声認識手段にて認識されると、該予約語に対応した操作を前記対象機器に行わせるための制御信号を生成するように構成してもよい。
【００１８】
つまり、対象機器の操作が、直感的に理解できるような言葉で表すことができる場合（例えば「オン（点灯）」「オフ（消灯）」など）には、これを予約語としても、予約語の記憶に要する負担は小さいため、上述の指示代名詞を用いる場合と同様の効果を得ることができる。
【００１９】
しかも、上述の指示代名詞を用いた場合、対象機器の状態が複数存在すると、対象機器を所望の状態にするために、複数回の操作を行わなければならない可能性があるが、予約語を用いれば、一度の操作で、対象機器を所望の状態に切り替えること等が可能となる。
【００２０】
また、制御信号生成手段は、例えば、音声認識手段にて予め設定された指示代名詞が認識されると、手情報検出手段が検出する手情報に基づいて対象機器を特定し、対象機器が特定されてから予め設定された許容時間の間に、対象機器に対する操作に対応づけられた予約語が音声認識手段にて認識されると、この予約語に対応した操作を対象機器に行わせるための制御信号を生成するように構成してもよい。
【００２１】
また、制御信号生成手段は、例えば、音声認識手段にて予め設定された指示代名詞が認識されると、手情報検出手段が検出する手情報に基づいて対象機器を特定し、対象機器が特定されてから予め設定された許容時間の間に、音声認識手段にて予め設定された指示代名詞が再び認識されると、手情報検出手段が検出する手情報に基づいて対象機器に対する操作を特定し、この操作を対象機器に行わせるための制御信号を生成するように構成してもよい。
【００２２】
つまり、対象機器の特定と、対象機器に対する操作の特定とを、一度に行うのではなく、２段階に分けて行うように構成してもよい。
これらの場合、２段階の操作がいずれも適合しなければ、機器の操作が行われないため、操作者の意図しない動作による機器の誤作動を、より確実に防止することができる。
【００２３】
特に後者の場合、対象機器に対する操作を、音声（予約語）ではなく、手の情報（手の状態）に対応させ、音声はトリガとしてのみ用いることにより、対象機器の選択とその機器に対する操作の選択とを、指示代名詞とジェスチャ（手振り）のみで、きわめて容易に且つ確実に行うことができる。
【００２４】
例えば、操作を特定する際の手情報として手の位置を用いた場合には、エアコンの吹き出し口から出る風の向きが手の位置する方向に向けるように制御すれば、アナログ的（無段階）に制御量を指示することが可能となる。
【００２５】
ところで、本発明の車載機器用インターフェースは、操作者の手の位置を検出し、その手の位置が予め設定された指定領域内に存在する場合に、手情報検出手段又は制御信号生成手段の動作を許可する動作許可手段を備えていてもよい。
【００２６】
この場合、操作者は、指定領域内に手が位置するようにして、手情報の入力を行わない限り、対象機器が選択されたり、その対象機器に対する操作が実行されたりすることがないため、操作者の意図しない動作による誤作動を、より確実に防止することができる。
【００２７】
なお、動作許可手段は、例えば、指定領域を撮像するように配置されたカメラからの入力画像に基づいて前記操作者の手の位置を検出するように構成すればよい。
この場合、カメラは、乗員や外部の風景（即ち動きのあるもの）が可能な限り背景に含まれないような角度で指定領域を撮像するように配置することが望ましい。このようにすることによって、撮像された手を抽出する際の処理量を大幅に削減することができると共に、抽出の精度を向上させることができる。
【００２８】
ところで、手情報として手の形状を用いる場合、手情報検出手段は、例えば、抽出手段が、操作者の手を撮像するカメラからの入力画像に基づき、この入力画像において手が撮像された領域である手部分を抽出し、形状特定手段が、抽出手段にて抽出された手部分の形状と予め用意されたテンプレートの形状とを比較し、最も類似したテンプレートの形状を手の形状として特定し、この形状特定手段が特定した手の形状を手情報とするように構成することができる。
【００２９】
また、手情報として手の位置を用いる場合、手情報検出手段は、例えば、抽出手段が、操作者の手を撮像するカメラからの入力画像に基づき、この入力画像において手が撮像された領域である手部分を抽出し、位置特定手段が、抽出手段にて抽出された手部分の重心を手の位置として特定し、この位置特定手段が特定した手の位置を前記手情報とするように構成することができる。
【００３０】
更に、手情報として手の動きを用いる場合、手情報検出手段は、例えば、抽出手段が、操作者の手を撮像するカメラからの入力画像に基づき、この入力画像において手が撮像された領域である手部分を抽出し、位置特定手段が、抽出手段にて抽出された手部分の重心を手の位置として特定し、動き特定手段が、位置特定手段にて特定された手の位置の時系列的な変化を、手の動きとして特定し、この動き特定手段が特定した手の動きを手情報とするように構成することができる。
【００３１】
そして、抽出手段は、例えば、入力画像を構成する各画素の輝度及び色情報のうち少なくとも一方を抽出用情報とし、入力画像において抽出用情報が予め設定された許容範囲内にある領域を手部分とするように構成すればよい。
【００３２】
但し、輝度や色情報は、周囲の状況（天気，太陽光の入射方向など）に応じて、様々に変化するため、抽出用情報の許容範囲が固定されていると、周囲の状況に応じて検出精度が変化してしまうという問題がある。
【００３３】
そこで、手情報検出手段は、入力画像の時系列的なフレーム間差分を求めることにより、入力画像において動きのある領域を抽出し、抽出された領域における抽出用情報の平均値に基づいて、抽出用情報の許容範囲を設定することが望ましい。
【００３４】
また、手情報検出手段は、互いに異なる位置に配置された複数のカメラからの入力画像に基づいて、手情報を３次元的に検出するように構成してもよい。
この場合、単純な動きであっても、動作方向の自由度が増大するため、その単純な動き一つにしても、その動作方向によって、より多くの機器や操作の特定のために用いることが可能となる。
【００３５】
なお、制御信号生成手段が生成する制御信号は、例えば、車載機器を相互に接続する通信ネットワークを介して、対象機器に送信されること、即ち当該車載機器用インターフェースは、通信ネットワークを介して車載機器と接続されるように構成することが望ましい。
【発明を実施するための最良の形態】
【００３６】
以下に本発明の実施形態を図面と共に説明する。
［第１実施形態］
図１は、本発明を適用した車載機器用インターフェース１、及び車載機器用インターフェースを用いたシステムの概略構成を示すブロック図、図２は、車載機器用インターフェース１を構成する機器や、車載機器用インターフェース１を介して操作される車載機器の配置を示す説明図である。
【００３７】
図１に示すように、本実施形態の車載機器用インターフェース１は、車載機器を操作する操作者を撮像する画像入力部１１と、操作者の音声を集音する音声入力部１２と、画像入力部１１にて撮像された画像（以下では「入力画像」と称する。）から操作者の手の状態を示す手情報を検出する手情報検出部１３（手情報検出手段に相当）と、音声入力部１２が集音した音声（以下では「入力音声」と称する。）について音声認識を行う音声認識部１４（音声認識手段に相当）と、手情報検出部１３及び音声認識部１４からの入力に基づき、車載機器に対する制御コマンドを生成する統合制御部１５（制御信号生成手段に相当）とを備えている。
【００３８】
また、車載機器用インターフェース１は、車内に設置されたローカルエリアネットワーク（以下「車内ＬＡＮ」と称する）３を介して、ナビゲーション２１、エアコン２２、マップランプ２３等といった車載機器群２と接続されている。そして、図２に示すように、ナビゲーション２１の表示画面２１ａはインパネ中央部に、エアコン２２の吹き出し口２２ａ，２２ｂはインパネの左右両端部に、マップランプ２３は天井のフロントガラスとの境界付近に配置されている。なお、これら車載機器群２を構成する各車載機器は、いずれも周知のものであるため、その詳細についての説明は省略する。
【００３９】
また、画像入力部１１はＣＣＤカメラＣ１からなり、このＣＣＤカメラＣ１は、ナビゲーション２１の表示画面の下部に配置され、運転者の左肩付近を運転者の前方から撮像するように設定され（図５（ａ）参照）、音声入力部１２はマイクＭからなり、このマイクＭは、天井の車幅方向中央に配置されたマップランプ２３より運転席側に配置されている。つまり、ＣＣＤカメラＣ１やマイクＭは、運転席の乗員（即ち運転者）を操作者として、その状態（動き）や音声を、撮像，集音するように配置されている。
【００４０】
次に、図３は、手情報検出部１３および音声認識部１４の詳細を示すブロック図、図４は、統合制御部１５の詳細を示すフローチャートである。なお、手情報検出部１３，音声認識部１４，統合制御部１５は、いずれも、ＣＰＵ，ＲＯＭ，ＲＡＭ，ＤＳＰ（デジタルシグナルプロセッサ）等を備えた周知のマイクロコンピュータ上で実行される処理として実現される。
【００４１】
図３に示すように、手情報検出部１３は、入力画像から、手が撮像された領域（以下では「手部分」と称する。）を抽出する手抽出部１３１（抽出手段に相当）と、手抽出部１３１にて抽出された手部分の形状を特定する形状特定部１３２（形状特定手段に相当）とからなる。
【００４２】
このうち、手抽出部１３１では、まず、入力画像から、操作者が操作時に手を差し出す領域以外の画像を除去するマスキング処理３１を実行する。これにより、図５（ａ）に示す入力画像から、図５（ｂ）に示すマスキング後の画像（以下では「マスキング画像」と称する。）が得られる。但し、マスキングにより除去する領域は、学習などの手法を用いて、操作者毎に予め設定されているものとする。
【００４３】
また、手抽出部１３１では、マスキング画像を、予め設定されたタイミング（例えば、ドアの開閉時、エンジン起動時など、入力画像に操作者の手が写っていないことが明らかなタイミング）で取り込み、この取り込んだマスキング画像を背景画像として登録すると共に、登録された背景画像と、順次生成されるマスキング画像とを比較することにより、マスキング画像に背景以外の物体が撮像されているか否かを判定する背景差分抽出処理３２（動作許可手段に相当する。）を実行する。
【００４４】
これと共に、順次生成されるマスキング画像について、フレーム間差分を求めることにより、フレーム間で動きがあった領域（以下では「動き領域」と称する。）を抽出し（図６参照）、その動き領域の輝度及び色差（以下では「抽出用情報」と称する。）の平均値を求める動き抽出処理３３を実行する。なお、動き領域の大部分は手が撮像された領域（即ち、手部分）であり、背景で動く景色、後部座席の乗員の写り込みはわずかであるため、動き抽出処理３３にて求められる抽出用情報の平均値は、手部分の特徴を良く表したものとなる。
【００４５】
更に、手抽出部１３１では、順次生成されるマスキング画像について、動き抽出処理３３にて求めた抽出用情報との差分を求め、その結果を、予め設定された判定しきい値を用いて２値化することにより、輝度および色差が、平均輝度および平均色差に近い領域を手部分として抽出する手部分抽出処理３４を実行する。これにより、図５（ｃ）に示すような手部分抽出画像が得られる。但し、手部分抽出処理３４では、背景差分抽出処理３２にて、マスキング画像に背景以外の物体が撮像されていると判定された場合にのみ、得られた手部分抽出画像を有効であるとして、これを形状特定部１３２に供給する。
【００４６】
なお、背景差分抽出処理３２の判定結果に基づいて、手部分抽出画像の有効，無効を決定する代わりに、動き抽出処理３３や手部分抽出処理３４の実行、或いは形状特定部１３２の動作を許可，禁止するように構成してもよい。
【００４７】
一方、形状特定部１３２は、手部分の形状を表す登録パターンとパターン番号とを対応づけて記憶した手辞書３５を備えている。図７（ａ）は、手辞書３５の一例を示すものであり、本実施形態では、左方向を指さした形状、上方向を指さした形状、右方向を指差した形状を、それぞれパターン番号１〜３に対応づけている。
【００４８】
そして、形状特定部１３２は、この手辞書３５に記憶された各登録パターンについて、手抽出部１３１から供給される手部分抽出画像との一致度を、パターンマッチングにより求め、一致度が最も高い登録パターンを特定し、その登録パターンの一致度が予め設定された下限値以上であれば、手情報として、その登録パターンに対応したパターン番号を統合制御部１５に通知する画像マッチング処理３６を実行する。
【００４９】
但し、特定された登録パターンの一致度が下限値に達していない場合は、手部分抽出画像の大きさを、拡大または縮小するリサイジング処理３７を実行後、再度、画像マッチング処理３６を実行する。なお、リサイジング処理３７では、予め複数種類の倍率（例えば、０．８倍、０．９倍、１．１倍、１．２倍）が設定されており、その全ての倍率にて画像マッチング処理３６を実行しても、一致度が下限値に達する登録パターンが存在しない場合は、その手部分抽出画像を該当パターンなしとして破棄する。
【００５０】
次に、音声認識部１４は、図３に示すように、音声認識の認識対象となる各単語について、その単語を発話した時の音声の周波数スペクトルに現れる特徴を抽出してなる特徴データを登録した音声辞書４２を備えている。なお、本実施形態では、「あれ」，「それ」，「これ」，「ここ」といった指示代名詞についての特徴データが登録されている。
【００５１】
そして、音声認識部１４では、まず、入力音声の波形をＦＦＴ（高速フーリエ変換）することにより周波数スペクトルを求め、入力音声の特徴を抽出するスペクトル分析処理４１を実行する。
【００５２】
このスペクトル分析処理４１により入力音声の特徴データが抽出されると、この抽出された音声の特徴データと、音声辞書４２に登録された各指示代名詞の特徴データとを比較し、比較結果（マッチングの有無）を統合制御部１５に通知する音声マッチング処理４３を実行する。この音声マッチング処理４３は、周知の技法を用いればよく、例えば、ニューラルネット、ＤＰ（Dynamic Programming ）マッチング、ＨＭＮ（hidden Markov Model）等を用いることができる。
【００５３】
次に、統合制御部１５は、手情報検出部１３から通知されるパターン番号と車載機器との対応関係を示すと共に、車載機器の現在の動作（操作）状態を記憶させた機器情報テーブルを備えている（図７（ｂ）参照）。ここでは、パターン番号１（即ち、手部分が左方向（運転者側から見れば右方向）を指差した形状の場合）が、インパネの右端に位置するエアコン吹き出し口２２ａ、パターン番号２（即ち、手部分が上方向を指指した形状の場合）がマップランプ２３、パターン番号３（即ち、手部分が右方向（運転者側から見れば左方向）を指差した形状の場合）が、インパネの左端に位置するエアコン吹き出し口２２ｂに対応づけられている。また、エアコン吹き出し口２２ａ，２２ｂは、吹き出し口を開いた状態「ＯＰＥＮ」、吹き出し口を閉じた状態「ＣＬＯＳＥ」という二つの状態を有し、また、マップランプ２３は、点灯した状態「ＯＮ」、消灯した状態「ＯＦＦ」という二つの状態を有するものとする。
【００５４】
以下では、統合制御部１５が実行する処理を、図４に示すフローチャートに沿って説明する。
本処理が起動すると、まず、音声認識部１４から音声がマッチング（入力音声と指示代名詞とで特徴データが一致）したとの比較結果が入力されたか否かを判断し（Ｓ１１０）、そのような比較結果が入力されるまで、同ステップを繰り返し実行することで待機する。
【００５５】
一方、操作者が指示代名詞を発話することにより、音声認識部１４から音声がマッチングしたとの比較結果が入力されると、待ち時間を計時するタイマーの計時値をリセットし（Ｓ１２０）、手情報検出部１３から手情報（パターン番号）の入力があったか否か、即ち、手部分抽出画像が登録パターンと一致したか否かを判断する（Ｓ１３０）。そして、手情報の入力がなければ、音声マッチングを確認後の待ち時間（タイマーの計時値）が予め設定された許容時間Ｔ１（例えば、３秒）以上であるか否かを判断し（Ｓ１４０）、待ち時間が許容時間Ｔ１未満であればＳ１３０に戻り、許容時間Ｔ１以上であれば、操作者に車載機器を操作する意図はないものとして、Ｓ１１０に戻る。
【００５６】
Ｓ１３０にて、手情報検出部１３から手情報（パターン番号）の入力があったと判定された場合には、入力された手情報（パターン番号）に基づいて、機器情報テーブルを参照することで、制御対象となるべき車載機器（対象機器）を特定すると共に、その対象機器の動作状態を取得する（Ｓ１５０）。
【００５７】
そして、取得した動作状態を、他の動作状態に切り替えるための制御コマンドを作成すると共に、機器情報テーブルに記憶されている動作状態を、制御コマンドの内容と一致するように更新し（Ｓ１６０）、その作成した制御コマンドを、車内ＬＡＮ３を介して対象機器に送信して（Ｓ１７０）、Ｓ１１０に戻る。
【００５８】
このように構成された車載機器用インターフェース１では、操作者による指示代名詞の発話が確認されてから、許容時間Ｔ１が経過する以前に、操作者のジェスチャが確認された場合に限り、そのジェスチャ（ここでは手の形状）に対応づけられた車載機器が対象機器として特定され、その対象機器の動作状態を切り替えるための制御コマンドが生成，送信される。
【００５９】
例えば、機器情報テーブルに記憶されたマップランプ２３の動作状態が「ＯＦＦ」である場合、操作者が、マップランプ２３（即ち上方向）を指差すジェスチャをしながら、指示代名詞を発話すると、車載機器用インターフェース１にて、マップランプ２３の動作状態を「ＯＮ」に切り替えるための制御コマンドが生成され、この制御コマンドがマップランプ２３に対して送信されることになる。
【００６０】
このように、本実施形態の車載機器用インターフェース１によれば、動作状態を切り替えるべき対象機器を、音声とジェスチャとの組み合わせによって特定するため、簡単なジェスチャである指差しと、簡単な単語である指示代名詞とを用いても、操作者の意図しない動きや発話が、意味のあるものと誤認識される可能性を大幅に低減することができる。
【００６１】
その結果、複雑なジェスチャや多くの予約語を覚えることなく、複数の車載機器を非接触にて確実に操作することができる。
また、本実施形態では、マスキング画像から手部分を抽出する際に使用する抽出用情報として、動き抽出処理にて抽出した動き領域の平均輝度や平均色差を用いている。つまり、抽出用情報を固定値とするのではなく、時々刻々と変化する周囲の状況（天気や太陽光の入射方向など）に応じて、抽出用情報の値を変化させているため、手部分の抽出を常に安定した精度にて行うことができる。
【００６２】
更に、本実施形態では、背景差分抽出処理３２にて、背景以外の物体が撮像されたときのみ、手部分抽出画像を有効とするようにされているため、入力画像に操作者の手が撮像されていないにも関わらず、形状特定部１３２にて画像マッチング処理が無駄に実行されてしまうことを防止できる。
［第２実施形態］
次に第２実施形態について説明する。
【００６３】
本実施形態では、第１実施形態の車載機器用インターフェース１と同様に構成され、統合制御部１５が備える機器情報テーブル、音声辞書４２の内容、および統合制御部１５での処理が一部異なるだけであるため、これらの部分を中心に説明する。
【００６４】
本実施形態において、機器情報テーブルには、パターン番号と車載機器との対応関係が示されていると共に、車載機器毎に、その車載機器の操作や動作状態に対応させた予約語が記憶されている（図８（ａ）参照）。ここでは、パターン番号１〜３と車載機器との対応関係は、第１実施形態と同様であり、各エアコン吹き出し口２２ａ，２２ｂには、それぞれ、吹き出し口を開状態にする際に用いる「ＯＰＥＮ」又は「開」、吹き出し口を閉状態にする際に用いる「ＣＬＯＳＥ」又は「閉」という二種類の予約語が対応づけられている。また、マップランプ２３には、点灯する際に用いる「ＯＮ」又は「点灯」、消灯する際に用いる「ＯＦＦ」又は「消灯」という二種類の予約語が対応づけられている。
【００６５】
一方、音声辞書４２には、上述した各予約語の特徴データが登録されており、スペクトル分析処理４１にて抽出された入力音声の特徴データと、音声辞書４２に登録された各予約語の特徴データとを比較し、特徴データが入力音声と一致した予約語を、統合制御部１５に通知するように構成されている。
【００６６】
そして、統合制御部１５が実行する処理は、Ｓ１１０〜Ｓ１４０は、第１実施形態の場合と全く同様であり、続くＳ１５０では、手情報検出部１３および音声認識部１４から通知されたパターン番号および予約語に基づき、機器情報テーブルを参照して、パターン番号から対象機器を特定し、予約語からその対象機器に対する操作を特定する。このとき、図４のフローチャートには図示されていないが、予約語が、特定された対象機器には未対応のものである場合には、制御コマンドの作成，送信を行うことなく、Ｓ１１０に戻る。
【００６７】
そして、Ｓ１６０，Ｓ１７０では、Ｓ１５０にて特定された対象機器に対して、特定された操作を行わせるための制御コマンドを作成し、これを車内ＬＡＮ３を介して対象機器に送信する。
【００６８】
このように構成された本実施形態の車載機器用インターフェース１では、操作者による予約語の発話が確認されてから、許容時間Ｔ１が経過する以前に、操作者のジェスチャが確認された場合に限り、そのジェスチャ（ここでは手の形状）に対応づけられた車載機器が対象機器として特定され、その予約語に対応づけられた操作を対象機器に行わせるための制御コマンドが生成，送信される。
【００６９】
例えば、操作者が左手でマップランプ２３（即ち上方向）を指差すジェスチャをしながら「ＯＮ」（又は「点灯」）と発話すれば、車載機器用インターフェース１にて、マップランプ２３を点灯するための制御コマンドが生成され、この制御コマンドがマップランプ２３に対して送信されることになる。
【００７０】
以上説明したように、本実施形態の車載機器用インターフェース１によれば、制御対象となる対象機器と、その対象機器に対する操作とを、音声とジェスチャとの組み合わせによって特定するため、操作者の意図しない動きや発話が、意味のあるものと誤認識される可能性を大幅に低減することができる。
【００７１】
そして、特に予約語として直感的に操作を理解できるような簡単な単語を用いることにより、予約語を覚える負担も十分に軽減することができるため、第１実施形態の場合と同様の効果を得ることができる。
【００７２】
なお、第１および第２実施形態において、マッチング判定結果および手情報の入力を確認する順番は、マッチング判定結果（音声マッチング），手情報の順になっているが、この順番は逆になってもよいし、両者の順番が固定されていなくてもよい。
［第３実施形態］
次に第３実施形態について説明する。
【００７３】
図９は、本実施形態の車載機器用インターフェース１ａの全体構成を示すブロック図である。なお、本実施形態の車載機器用インターフェース１ａは、手情報検出部１３および統合制御部１５での処理が、第１実施形態のものとは一部異なるだけであるため、これら相違する部分を中心に説明する。
【００７４】
即ち、本実施形態の車載機器用インターフェース１ａにおいて、手情報検出部１３は、第１実施形態のものと同様に構成された手抽出部１３１および形状特定部１３２に加えて、位置特定部１３３（位置特定手段に相当）を備えている。
【００７５】
この位置特定部１３３では、手抽出部１３１からの手部分抽出画像に基づいて、手部分の重心を求め、その重心の座標（以下では「手座標」と称する。）を、操作者の手の位置を表す手情報として統合制御部１５に通知する処理を実行する。
【００７６】
次に、統合制御部１５が備える機器制御テーブルは、パターン番号と車載機器との対応関係が示されていると共に、車載機器毎に、指令の入力方法を識別する識別情報が記憶されている（図８（ｂ）参照）。この識別情報は、指令入力の際に、第１実施形態で示したように、ジェスチャと単語の発話の組み合わせを１回だけ実行する（以下では「単一指令」と称する。）か、対象機器の特定とその対象機器に対する操作とでそれぞれ１回ずつ計２回実行する（以下では「複合指令」と称する。）かを示すものである。
【００７７】
そして、機器制御テーブルには、識別情報の設定に従って、単一指令に設定されている車載機器については、第１実施形態の場合と同様に機器の動作状態が記憶され、複合指令に設定されている車載機器については、操作の特定のために必要な操作特定情報が記載されている。ここでは、パターン番号１〜３と車載機器との対応関係は、第１実施形態と同様であり、各エアコン吹き出し口２２ａ，２２ｂについては、識別情報が複合指令に設定され、その操作特定情報として手座標の位置に風向きの関係を示した手座標／風向き変換情報が記憶されている。また、マップランプ２３については、識別情報が単一指令に設定され、その動作状態が記憶されている。
【００７８】
以下では、統合制御部１５が実行する処理を、図１０に示すフローチャートに沿って説明する。
本処理が起動すると、まず、予め設定された許容時間Ｔ１以内の間隔で、音声認識部１４から音声がマッチングしたとの判定結果、及び手情報検出部１３から手情報（パターン番号）の入力がいずれも確認されたか否かを判断する（Ｓ２１０）。そして、否定判定された場合には、同ステップを繰り返し実行することで待機し、肯定判定された場合には、手入力された手情報（パターン番号）に基づいて、機器情報テーブルを参照することで、制御対象となるべき車載機器（対象機器）を特定する（Ｓ２２０）。なお、Ｓ２１０での判定は、具体的には、例えば、第１実施形態にて説明したＳ１１０〜Ｓ１４０により実現することができる。
【００７９】
続けて、機器情報テーブルを参照し、Ｓ２２０にて特定された対象機器の識別情報が、単一指令または複合指令のいずれに設定されているかを判別する（Ｓ２３０）。そして、識別情報が複合指令に設定されていれば、予め設定された許容時間Ｔ２（例えば、５秒）
以内に、音声認識部１４から音声がマッチングしたとの判定結果、及び手情報検出部１３から手情報（手座標又はパターン番号）の入力がいずれも確認されたか否かを判断し（Ｓ２４０）、否定判定された場合には、操作者に車載機器を操作する意図はないものとしてＳ２１０に戻る。
【００８０】
一方、Ｓ２４０にて肯定判定された場合には、入力された手情報（手座標又はパターン番号）に基づいて、機器情報テーブルの操作特定情報を参照することで、対象機器に対する操作を特定する（Ｓ２５０）。そして、Ｓ２２０にて特定された対象機器に、Ｓ２５０にて特定された操作を行わせるための制御コマンドを作成し（Ｓ２７０）、その作成した制御コマンドを車内ＬＡＮ３を介して対象機器に送信して（Ｓ２８０）、Ｓ２１０に戻る。
【００８１】
また、先のＳ２３０にて、識別情報が単一指令に設定されていると判別された場合は、Ｓ２２０にて特定された対象機器の動作状態を、対象機器テーブルから取得して（Ｓ２６０）、Ｓ２７０に移行し、取得した動作状態を、他の動作状態に切り替えるための制御コマンドを作成すると共に、機器情報テーブルに記憶されている動作状態を、制御コマンドの内容と一致するように更新し（Ｓ２７０）、その作成した制御コマンドを、車内ＬＡＮ３を介して対象機器に送信して（Ｓ２８０）、Ｓ２１０に戻る。
【００８２】
このように構成された車載機器用インターフェース１ａでは、操作者による指示代名詞の発話と、操作者のジェスチャとがいずれも確認されると、そのジェスチャ（ここでは手の形状）に対応づけられた車載機器が対象機器として特定され、その特定された対象機器の識別情報が単一指令に設定されている場合は、直ちに、その対象機器の動作状態を切り替えるための制御コマンドが生成，送信される。
【００８３】
また、特定された対象機器の識別情報が複合指令に設定されている場合は、許容時間Ｔ２以内に、再度、操作者による指示代名詞の発話と、操作者のジェスチャとがいずれお確認されると、そのジェスチャ（ここでは手の位置）に対応づけられた操作が特定され、その特定された操作を対象機器に行わせるための制御コマンドが生成，送信される。
【００８４】
例えば、マップランプ２３（識別情報が単一指令に設定された車載機器）を指差すジェスチャをしながら、指示代名詞を発話すれば、第１実施形態の場合と同様に、マップランプ２３の動作状態を切り替えるための制御コマンドが、車載機器用インターフェース１ａからマップランプ２３に対して送信されることになる。
【００８５】
また、エアコン吹き出し口２２ａ（識別情報が複合指令に設定された車載機器）を指差すジェスチャをしながら、指示代名詞を発話し、続けて、エアコン吹き出し口２２ａから吹き出す風が当たるようにすべき位置に手を移動させ、再度、指示代名詞を発話すれば、エアコン吹き出し口２２ａの吹き出し方向を手で示した方向に変更するための制御コマンドが、車載機器用インターフェース１ａからエアコン２２に対して送信されることになる。
【００８６】
このように、本実施形態の車載機器用インターフェース１ａによれば、制御対象となるべき対象機器、及びその対象機器に対する操作を、音声とジェスチャとの組み合わせによって特定するため、第１実施形態の場合と、同様の効果を得ることができる。
【００８７】
特に、識別情報が複合指令に設定された車載機器については、機器選択時とは異なるジェスチャにて、実行すべき操作を指定できるため、例えば、操作の中に空間的な位置を含む等して、言葉で表現するのが難しい操作であっても、簡単に指定することができる。
【００８８】
なお、本実施形態では、識別情報が単一指令に設定された車載機器に対する指令の入力を、ジェスチャと指示代名詞とによって行うように構成されているが、第２実施形態の場合と同様に、ジェスチャと予約語とによって行うように構成してもよい。
【００８９】
また、本実施形態では、手の位置（手座標）によって、エアコンの吹き出し方向を制御するようにされているが、例えば、カーオーディオの音像定位を制御するように構成してもよい。
［第４実施形態］
次に、第４実施形態について説明する。
【００９０】
図１１は、本実施形態の車載機器用インターフェース１ｂの全体構成を示すブロック図である。なお、本実施形態の車載機器用インターフェース１ｂは、手情報検出部１３および統合制御部１５での処理が、第１実施形態のものとは一部異なるだけであるため、これら相違する部分を中心に説明する。
【００９１】
即ち、本実施形態の車載機器用インターフェース１ｂにおいて、手情報検出部１３は、第１実施形態のものと同様に構成された手抽出部１３１と、第３実施形態のものと同様に構成された位置特定部１３３とを備え、更に、形状特定部１３２に代えて、動き特定部１３４（動き特定手段に相当）を備えている。
【００９２】
この動き特定部１３４は、動きベクトルの時系列的な変化を表したベクトル系列と、パターン番号とを対応づけて記憶した動き辞書５２を備えている。図１２（ｂ）は、動き辞書５２の一例を示すものであり、本実施形態では、上方向への手の動きに対応するベクトル系列、手を左右に振る動き（ＳＨＡＫＥ）に対応するベクトル系列、手で円を描く動き（ＣＩＲＣＬＥ）に対応するベクトル系列を、それぞれパターン番号１〜３に対応づけている。但し、動きベクトルは、図１２（ａ）に示すように、円周を８等分してなる８つの方位にて表され、各ベクトルには記号ａ〜ｈが割り振られている。つまり、ベクトル系列は記号列として表されるようにされている。
【００９３】
そして、動き特定部１３４は、まず、位置特定部１３３から時系列的に入力される手座標に基づき、連続する二つの手座標の差分から動きベクトルを求めるベクトル算出処理５１を実行する。
【００９４】
そして、ベクトル算出処理５１にて順次算出される動きベクトルにより表されるベクトル系列（以下では「入力ベクトル系列」と称する。）と、動き辞書５２に登録された各ベクトル系列（以下では「登録ベクトル系列」と称する。）との一致度を、パターンマッチングにより求め、一致度が最も高い登録ベクトル系列を特定し、その一致度が予め設定された下限値以上であれば、手情報として、その登録ベクトル系列に対応したパターン番号を統合制御部１５に通知する動きマッチング処理５３を実行する。但し、特定された登録ベクトル系列の一致度が下限値に達していない場合は、該当パターンなしを通知する。
【００９５】
なお、パターンマッチングの手法としては、音声マッチング処理４３の場合と同様の手法を用いることができ、特に、時間軸に柔軟性を持たせてマッチングを行うＤＰマッチングが好適である。
【００９６】
次に、統合制御部１５が備える機器制御テーブルは、図１２（ｃ）に示すように、第１実施形態の場合と同様、パターン番号と車載機器との対応関係が示されていると共に、車載機器の現在の動作（操作）状態が記憶されている。ここでは、パターン番号１（即ち、手を上方向に移動する動き）がマップランプ２３、パターン番号２（即ち、手を左右に振る動き）がドアミラー（図示せず）、パターン番号３（即ち、手で円を描く動き）がエアコン吹き出し口２２ａ，２２ｂに対応づけられている。また、エアコン吹き出し口２２ａ，２２ｂは、吹き出し口を開いた状態「ＯＰＥＮ」、吹き出し口を閉じた状態「ＣＬＯＳＥ」という二つの状態を有し、また、マップランプ２３は、点灯した状態「ＯＮ」、消灯した状態「ＯＦＦ」という二つの状態を有し、更に、ドアミラーは、自身を開いた状態「ＯＰＥＮ」、自身を折り畳んだ状態「ＣＬＯＳＥ」という二つの状態を有するものとする。
【００９７】
そして、統合制御部１５は、第１実施形態の場合と同様の処理を実行する（図４参照）。
このように構成された車載機器用インターフェース１ｂでは、操作者による指示代名詞の発話が確認されてから、許容時間Ｔ１が経過する以前に、操作者のジェスチャが確認された場合に限り、そのジェスチャ（ここでは手の動き）に対応づけられた車載機器が対象機器として特定され、その対象機器の動作状態を切り替えるための制御コマンドが生成，送信される。
【００９８】
例えば、機器情報テーブルに記憶されたドアミラーの動作状態が「ＣＬＯＳＥ」である場合、操作者が、指示代名詞を発話して、ドアミラーに対応させたジェスチャ（即ち手を左右に振る動き）をすると、車載機器用インターフェース１ｂにて、ドアミラーの動作状態を「ＯＰＥＮ」に切り替えるための制御コマンドが生成され、この制御コマンドがドアミラーに対して送信されることになる。
【００９９】
このように、本実施形態の車載機器用インターフェース１ｂによれば、車載機器に対応づけるジェスチャが手の形状ではなく手の動きである以外は、第１実施形態の場合と全く同様であり、これと同様の効果を得ることができる。
［第５実施形態］
次に、第５実施形態について説明する。
【０１００】
図１３は、本実施形態の車載機器用インターフェース１ｃの構成を示すブロック図、図１４は、車載機器用インターフェース１ｃを構成する機器や、車載機器用インターフェース１ｃを介して操作される機器の配置を示す説明図である。
【０１０１】
なお、本実施形態の車載機器用インターフェース１ｃは、画像入力部１１の構成および手情報検出部１３での処理が、第１実施形態のものとは一部異なるだけであるため、これら相違する部分を中心に説明する。
【０１０２】
即ち、図１３に示すように、本実施形態の車載機器用インターフェース１ｃにおいて、画像入力部１１は、車載機器を操作する操作者を撮像する一対のＣＣＤカメラＣ１，Ｃ２からなる。そして、図１４に示すように、一方のＣＣＤカメラＣ１は、第１実施形態のものと同様、ナビゲーション２１の表示画面の下部に配置され、運転者の左肩付近を運転者の前方から撮像するように設定されている。他方のＣＣＤカメラＣ２は、天井に設置されたマップランプ２３とマイクＭとの間に配置され、運転者の左肩付近を運転者の上方から撮像するように設定されている。
【０１０３】
また、手情報検出部１３は、図１３に示すように、第１実施形態のものと同様に構成された手抽出部１３１および形状特定部１３２に加えて、トリガー部１３６（動作許可手段に相当する。）を備えている。
【０１０４】
このトリガー部１３６では、ＣＣＤカメラＣ２からの入力画像を、予め設定されたタイミング（例えば、ドアの開閉時、エンジン起動時など、入力画像に操作者の手が写っていないことが明らかなタイミング）で取り込み、この取り込んだ入力画像を背景画像として登録すると共に、登録された背景画像と、ＣＣＤカメラＣ２から順次入力される入力画像とを比較することにより、入力画像に背景以外の物体が撮像されているか否かを判定する処理、即ち手抽出部１３１における背景差分抽出処理３２と同様の処理を実行する。
【０１０５】
以下、手情報検出部１３を構成する手抽出部１３１及び形状特定部１３２、音声認識部１４、統合制御部１５での処理は、第１実施形態の場合と同様である。
但し、手抽出部１３１は、トリガー部１３６にて入力画像に背景以外の物体が撮像されていると判定された場合に限り、処理結果（手部分抽出画像）を有効として、これを形状特定部１３２に供給するように構成されている。なお、トリガー部１３６での判定結果に従って、処理結果を有効，無効とする代わりに、手抽出部１３１の動作自体を起動，停止するように構成してもよい。
【０１０６】
このように構成された本実施形態の車載機器用インターフェース１ｃによれば、第１実施形態の場合と同様の効果を得ることができるだけでなく、ジェスチャを行う際の手の位置を、互いに異なる角度で撮像する二つのカメラＣ１，Ｃ２からの入力画像により、三次元的に確認するようにされているため、手以外の物体に反応する誤作動を確実に抑制することができる。
［第６実施形態］
次に、第６実施形態について説明する。
【０１０７】
図１５は、本実施形態の車載機器用インターフェース１ｄの全体構成を示すブロック図である。なお、本実施形態の車載機器用インターフェース１ｄは、画像入力部１１の構成および手情報検出部１３での処理が、第４実施形態のもの（図１１参照）とは一部異なるだけであるため、これら相違する部分を中心に説明する。
【０１０８】
即ち、図１５に示すように、本実施形態の車載機器用インターフェース１ｄにおいて、画像入力部１１は、車載機器を操作する操作者を撮像する一対のＣＣＤカメラＣ１，Ｃ２からなり、その配置は、第５実施形態の場合と同様である（図１４参照）。
【０１０９】
また、手情報検出部１３は、ＣＣＤカメラＣ１，Ｃ２からの入力画像を処理するために、第１実施形態のものと同様に構成された一対の手抽出部１３１ａ，１３１ｂと、手抽出部１３１ａ，１３１ｂからの手部分抽出画像に基づき、それぞれについて手座標（（ｘ，ｙ）座標、（ｘ，ｚ）座標）を求め、両座標を統合することにより三次元的な手座標を求める位置特定部１３３と、動きベクトルとして３次元で表されたものを用いる点以外は、第４実施形態のものと同様に構成された動き特定部１３４とからなる。
【０１１０】
このように構成された本実施形態の車載機器用インターフェース１ｄによれば、第３実施形態の場合と同様の効果を得ることができるだけでなく、３次元的な手の動きに対応するものであり、認識可能な手の動き（ジェスチャ）の自由度が増すため、より他種類の指令を入力することが可能となる。
【０１１１】
なお、本実施形態において、手情報検出部１３は、手の位置や動きを３次元的に検出しているが、手の形状を３次元的に検出するように構成してもよい。
以上本発明のいくつかの実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、様々な態様にて実施することが可能である。
【０１１２】
例えば、上記実施形態では、画像入力部１１は、運転席の乗員を撮像するカメラだけで構成されているが、シート毎にカメラを設け、運転席以外の乗員も音声とジェスチャとによって指令を入力できるように構成してもよい。
【０１１３】
また、上記実施形態では、画像入力部１１を構成するカメラとしてＣＣＤカメラを用いたが、例えば赤外線カメラを用いてもよい。この場合、車内の明るさによらず、操作者を確実に撮像することができる。
【０１１４】
また、上記各実施形態において、対象機器の特定や対象機器に対する操作の特定に用いるジェスチャは、実施形態の中で説明されたものに限らず、手の位置，手の動き，手の形状のいずれを用いてもよく、更には、これらを組み合わせたものを用いてもよい。
【０１１５】
また、上記第２実施形態以外の各実施形態でも、音声認識部１４にて、指示代名詞以外の予約語を認識するように構成してもよい。
【図面の簡単な説明】
【０１１６】
【図１】第１実施形態の車載機器用インターフェース、及びこれを用いたシステムの概略構成を示すブロック図である。
【図２】第１実施形態において、車載機器用インターフェースを構成する機器や車載機器用インターフェースを介して操作される車載機器の配置を示す説明図である。
【図３】第１実施形態の車載機器用インターフェースの構成を示すブロック図である。
【図４】第１実施形態において、統合制御部が実行する処理の内容を示すフローチャートである。
【図５】入力画像，マスキング画像，手部分抽出画像を例示する説明図である。
【図６】動き抽出処理の内容を示す説明図である。
【図７】第１実施形態における手辞書および機器情報テーブルの例を示す説明図である。
【図８】第２及び第３実施形態における機器情報テーブルの例を示す説明図である。
【図９】第３実施形態の車載機器用インターフェースの構成を示すブロック図である。
【図１０】第３実施形態において、統合制御部が実行する処理の内容を示すフローチャートである。
【図１１】第４実施形態の車載機器用インターフェースの構成を示すブロック図である。
【図１２】第４実施形態における動き辞書および機器情報テーブルの例を示す説明図である。
【図１３】第５実施形態の車載機器用インターフェースの構成を示すブロック図である。
【図１４】第５実施形態において、車載機器用インターフェースを構成する機器や車載機器用インターフェースを介して操作される車載機器の配置を示す説明図である。
【図１５】第６実施形態の車載機器用インターフェースの構成を示すブロック図である。
【符号の説明】
【０１１７】
１，１ａ〜１ｄ…車載機器用インターフェース、２…車載機器群、３…車内ＬＡＮ、１１…画像入力部、１２…音声入力部、１３…手情報検出部、１４…音声認識部、１５…統合制御部、２１…ナビゲーション、２１ａ…表示画面、２２…エアコン、２２ａ，２２ｂ…吹き出し口、２３…マップランプ、３１…マスキング処理、３２…背景差分抽出処理、３３…動き抽出処理、３４…手部分抽出処理、３５…手辞書、３６…画像マッチング処理、３７…リサイジング処理、４１…スペクトル分析処理、４２…音声辞書、４３…音声マッチング処理、５１…ベクトル算出処理、５２…動き辞書、５３…動きマッチング処理、１３１，１３１ａ，１３１ｂ…手抽出部、１３２…形状特定部、１３３…位置特定部、１３４…動き特定部、１３６…トリガー部、Ｃ１，Ｃ２…ＣＣＤカメラ、Ｍ…マイク。
【図１】
2005178473.tif 000003
【図３】
2005178473.tif 000004
【図４】
2005178473.tif 000005
【図６】
2005178473.tif 000006
【図７】
2005178473.tif 000007
【図８】
2005178473.tif 000008
【図９】
2005178473.tif 000009
【図１０】
2005178473.tif 000010
【図１１】
2005178473.tif 000011
【図１２】
2005178473.tif 000012
【図１３】
2005178473.tif 000013
【図１５】
2005178473.tif 000014
【図２】
2005178473.tif 000015
【図５】
2005178473.tif 000016
【図１４】
2005178473.tif 000017