(57)【特許請求の範囲】
【請求項１】
検出対象の範囲と検出精度を決定し、当該検出精度により当該検出対象から特定の検出信号を獲得するセンサとして、検出信号が異なる少なくとも２種類以上のセンサと、
前記各センサにより検出された検出対象物の位置、方向または認識結果を含む検出結果を前記各センサから取得して解析し、当該解析結果に基づいて、前記各センサが獲得すべき検出対象の位置、方向または認識精度を決定するための制御情報を生成する総合解析部と、
前記各センサによる検出結果を利用するアプリケーションと、
前記各センサ相互間、前記各センサと前記総合解析部間、前記総合解析部と前記アプリケーション間においてデータと制御情報を通信し合う通信手段を備え、
前記各センサが、他のセンサから得た前記検出結果及び前記総合解析部の前記解析結果の少なくとも一つ、または、前記他のセンサから得た制御情報及び前記総合解析部から得た前記制御情報の少なくとも一つを利用して前記検出対象の範囲と検出精度を決定し、前記検出対象から検出信号を獲得することによって前記検出結果を生成して他のセンサに対して出力し、
前記各センサが、前記検出結果を得るための情報が不足している場合に、前記通信手段を介して、他のセンサに対して、他のセンサが次回の信号獲得時において獲得すべき検出対象の位置、方向または認識精度を決定するための制御情報を出力し、
前記総合解析部が、前記通信手段を介して、前記各センサが次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する前記制御情報を生成して各センサに対して出力し、前記各センサから取得した前記検出結果に基づく前記解析結果を前記アプリケーションへ出力することを特徴とする複数のセンサによるヒューマンインタフェースシステム。
【請求項２】
前記検出対象が人であり、前記センサが少なくとも画像センサと音声センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備えた請求項１に記載の複数のセンサによるヒューマンインタフェースシステム。
【請求項３】
前記検出対象が人であり、前記センサが少なくとも画像センサと補助センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である請求項１に記載の複数のセンサによるヒューマンインタフェースシステム。
【請求項４】
前記検出対象が人であり、前記センサが少なくとも音声センサと補助センサを含み、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である請求項１に記載の複数のセンサによるヒューマンインタフェースシステム。
【請求項５】
前記検出対象が人であり、前記センサが少なくとも画像センサと音声センサと補助センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である請求項１に記載の複数のセンサによるヒューマンインタフェースシステム。
【請求項６】
前記補助センサとして、超音波センサ、赤外センサ、レンジセンサのいずれかまたはそれらの組み合わせを用いた請求項３〜５のいずれか１項に記載の複数のセンサによるヒューマンインタフェースシステム。
【請求項７】
前記総合解析部は、前記各センサの検出結果から得られる検出対象物の位置、方向または認識結果がセンサ間で一致しているか否かを解析し、当該解析結果に基づいて、前記各センサが獲得するべき検出対象の位置、方向または認識精度を決定するための制御情報を生成し、前記各センサに対して出力する、請求項１〜６のいずれか１項に記載の複数のセンサによるヒューマンインタフェースシステム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、マンマシンインタフェースの技術分野に関し、特にテレビジョンやビデオをはじめとした家電製品、コンピュータなどの操作を、リモートコントローラ、マウス、キーボードなどのボタン操作による入力装置を使わず、声や身振り、手振りで行う装置に関する。
【０００２】
【従来の技術】
現在、テレビジョンやビデオをはじめとした家電製品、コンピュータなどの操作は、リモートコントローラ、マウス、キーボードなどのボタン操作による入力装置が広く用いられている。ボタン操作による入力装置を使わず、声や身振り、手振りで行う装置も開発されつつある。マンマシンインタフェースにおける人物識別やコマンド入力を、利用者の声や身振り、手振りで行う技術として特開2000-326274号公報に記載の技術が知られている。
【０００３】
特開2000-326274号公報に記載の技術では、人物を識別するための視覚情報を複数のカメラの撮影による得るが、被写体位置の探索制御などの撮影制御は、もっぱら当該カメラから得られる情報のみを用いてその制御を行っていた。また、音声認識に用いる音声情報も複数のマイクロフォンから得るが、音声方向の探索制御など音声入力制御は、もっぱらロボットの前後左右に設置された複数のマイクから得られる情報のみを用いてその制御を行っていた。
【０００４】
音声入力制御については、特開平1-195499号公報に記載の技術も知られている。特開平1-195499号公報記載の技術は、セキュリティドアのように、超音波センサによる物体検出結果とカメラから取り込んだ画像データに基づいて入室者の口の位置を見つけ、その口の方向にマイクロフォンの指向性を合わせる技術である。
【０００５】
【発明が解決しようとする課題】
しかし、上記従来技術には以下の問題があった。
【０００６】
従来の特開2000-32674号公報に記載の技術においては、装置またはロボットの目にあたるカメラからの撮影情報、耳にあたるマイクロフォンから得られる音声情報は利用されるものの、両者は独立して扱われている。図１０に示した特開2000-32674号公報において開示されているブロック図においても、画像情報処理、音声情報処理相互に情報がやりとりされることは何ら示されていない。そのため、特開2000-32674号公報に記載の技術では、人間ではない人の顔を映した写真やマネキン人形を人間として認識してしまったり、人間ではない音響機器のスピーカーから流れ出た音声情報を認識してしまうという問題が起こる。このようなことはマンマシンインタフェースの意図としないどころか、人の写真、マネキン人形、人間の声以外の雑音は画像認識、音声認識にとってはノイズとなり、認識率の低下を招いたり、また、不要な対象物から得られる画像情報や音声情報を入力するため余計な情報処理が行われ、処理速度の低下を引き起こす。
【０００７】
次に、特開平1-195499号公報に記載の技術においては、図１１のように、マイクロフォンの指向性制御において超音波センサとカメラによる被探索物の位置情報が利用されるが、音声情報の処理結果を利用することはない。また、超音波センサとカメラによる被探索物の位置検出制御においてマイクロフォンの音声情報の処理結果が利用されることもない。特開平1-195499号公報に記載の技術では、超音波センサやカメラが物体検出のためにセンスや撮影を行っているエリア（例えば、入退室のドア位置）に人物が入った場合には、マイクロフォンの指向性を合わせて音声を効率よく得ることができるが、入退室管理のドア位置のようにあらかじめ狭い探索エリアが設定されている場合のみに有効な技術であって、一般にそのような限定された探索エリアがない場合では、人物が超音波センサやカメラから外れたところに立ち、音声によるコマンド入力を行う場合も多く想定され、特開平1-195499号公報に記載の技術では柔軟に対処できない。
【０００８】
本発明は、以上の状況を考慮し、マンマシンインタフェースの入力情報として適切な情報を取捨選択し、マンマシンインタフェースの誤動作を防止したり、認識率、処理速度の向上を図ることを目的とする。
【０００９】
【課題を解決するための手段】
上記課題を解決するために、本発明の複数のセンサによるヒューマンマシンインタフェースシステムは、検出対象の範囲と検出精度を決定し、当該検出精度により当該検出対象から特定の検出信号を獲得するセンサとして、検出信号が異なる少なくとも２種類以上のセンサと、前記各センサで検出された結果間に相互に矛盾がないか否かを調べ、各センサに対する制御情報を生成する総合解析部と、前記各センサによる検出結果を利用するアプリケーションと、前記各センサ相互間、前記各センサと前記総合解析部間、前記総合解析部と前記アプリケーション間においてデータと制御情報を通信し合う通信手段を備え、前記各センサが、他のセンサから得た前記信号検出結果または制御情報、前記総合解析部から得た前記制御情報のいずれかまたはその組み合わせを利用して、次回の信号獲得時における検出対象の範囲と検出精度を決定し、前記各センサが、前記通信手段を介して、他のセンサに対して、自身の信号検出結果と、他のセンサが次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力し、前記総合解析部が、前記通信手段を介して、前記各センサが次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力することを特徴とする。
【００１０】
上記構成により、複数異種のセンサの認識結果を相互参照し合い、相互に矛盾の生じないような信号獲得制御を行うことができ、より正確な利用者のコマンド入力の認識が可能であり、優れたヒューマンインタフェースシステムを提供することができる。
【００１１】
また、上記構成において、前記検出対象が人であり、前記センサが少なくとも画像センサと音声センサと補助センサを含み、前記画像センサの検出信号が人の画像認識情報であり、前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、前記音声センサの検出信号が人の音声認識情報であり、前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備え、前記補助センサの検出信号が人の位置情報を検出するに有効な情報であることが好ましい。
【００１２】
上記構成により、画像センサによる動作認識結果と、音声センサによる音声認識結果と、他のセンサ（補助センサ）により検出した人物位置情報の結果とを参考にし、相互に矛盾のない、より正確な利用者のコマンド入力の認識が可能であり、優れたヒューマンインタフェースシステムを提供することができる。
【００１３】
なお、上記のように、画像センサを用いた動作認識、音声センサを用いた音声認識、他のセンサを用いた人物位置情報のすべてを組み合わせた構成のみならず、
センサおよび認識結果の組み合わせとして、画像センサを用いた動作認識結果と音声センサを用いた音声認識結果の組み合わせ、画像センサを用いた動作認識結果と他のセンサを用いた人物位置検出結果の組み合わせ、音声センサを用いた音声認識結果と他のセンサを用いた人物位置検出結果の組み合わせなど多様な組み合わせが可能である。
【００１４】
【発明の実施の形態】
（実施形態１）
本発明の実施形態１にかかる複数のセンサによるヒューマンインタフェースシステムを述べる。
【００１５】
本発明の実施形態１の複数のセンサによるヒューマンインタフェースシステムは、カメラによる画像の撮影過程およびその認識過程、また、マイクによる音声情報の録音過程およびその認識過程において、それぞれ、それぞれが処理した過去の結果を参考するほか、互いの結果を参考する。さらに、必要に応じて、超音波センサ、赤外センサ、レンジセンサなどの補助センサを用いて得られた情報とその処理結果、また、アプリケーションの実行結果も参考する。各センサは、相互に解析結果や信号獲得制御に関する指示のやり取りを行い、さらに、総合解析部による解析結果や、各センサにおける信号獲得の制御に関する指示のやり取りを行い、センサ間の矛盾を調べつつフィードバック処理を実行し、信号を獲得する範囲および精度を確実に決定し、複数のセンサ全体で整合性のとれた出力を生成するものである。
【００１６】
例えば、認識処理開始当初は、各センサが環境全体から信号を獲得し、各センサにおける獲得信号を解析し、その結果を他のセンサに渡し、次の信号獲得ステップでは、前ステップにおける自らの獲得信号の解析結果、他のセンサからの解析結果、総合解析部による各センサ間で矛盾が生じないように処理した解析結果を考慮し、環境中において、信号を獲得すべき対象の範囲と精度を決定し、信号を獲得するものである。
【００１７】
まず、実施形態１にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示す。
【００１８】
図１は、本発明の実施形態１にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示す図である。１０はセンサ部で画像センサ２０、音声センサ３０を備えている。４０は補助センサ部、５０は総合解析部、６０はアプリケーションである。ここで、補助センサ部４０は、本発明のヒューマンインタフェースシステムが用いられる対象に応じて、画像センサ２０、音声センサ３０以外に有用な信号を得ることができる一又は複数のセンサを備えたものである。
【００１９】
図１に示すように、本発明の実施形態１にかかる複数のセンサによるヒューマンインタフェースシステムでは、センサ部１０の画像センサ２０、音声センサ３０、補助センサ部４０は、各センサの信号処理において他のセンサで得られた信号処理結果を相互に利用し合い、かつ、他のセンサの制御を指示するものとなっている。図１に示すように、センサ部１０の画像センサ２０と音声センサ３０間には、双方向に信号処理結果や制御データをやりとりするデータ／制御信号通信手段７１が設けられている。また、センサ部１０と補助センサ部４０間にも双方向に信号処理結果や制御データをやりとりするデータ／制御信号通信手段７２が設けられている。さらに、センサ部１０と補助センサ部４０と総合解析部５０の間にも双方向に信号処理結果や制御データをやりとりするデータ／制御信号通信手段７３、７４が設けられている。総合解析部５０とアプリケーション６０の間にも双方向に信号処理結果や制御データをやりとりするデータ／制御信号通信手段７５が設けられている構成となっている。
【００２０】
従来技術で説明した図１０の構成では、各センサにおける信号処理は個別に実行され、それぞれ独立した情報としてアプリケーションに至るものであり、図１１の構成では、音声センサの処理において超音波センサと画像センサの処理結果を利用するものの、情報や制御の流れが一方的であった。それに対し、本発明の構成は、センサ部１０や補助センサ部４０の各センサが、データ／制御信号通信手段７１および７２を通じて、互いに他のセンサの処理結果を利用し、また、他のセンサに対する制御を指示する。さらに、データ／制御信号通信手段７３および７４を通じて、総合解析部５０の処理結果をフィードバックして利用したり、総合解析部５０から各センサに対する制御の指示を受ける構成となっている。総合解析部５０はセンサ部１０、補助センサ部４０にあるすべてのセンサの処理結果を入力とし、各センサ間の矛盾を調べつつフィードバック処理を実行し、装置のセンサ全体で整合性のとれた出力を生成するものとなっている。さらに、総合解析部５０は状況に応じて、データ／制御信号通信手段７５を通じて、アプリケーション６０の実行結果を参考したり、アプリケーション６０から信号処理に関する指示を受け、それをもとに各センサを制御する構成となっている。
【００２１】
図１の基本構成を適用し、図１の画像センサ２０、音声センサ３０、補助センサ４０構成例を詳しく示した図を図２に示す。
【００２２】
センサ部１０は、画像センサ２０、音声センサ３０を備え、画像センサ２０、音声センサ３０は、以下のように、それぞれ、センサ制御部、センサ装置、センサ信号解析部、通信部の４つの部分を備えている。
【００２３】
画像センサ２０は、撮影装置２１、撮影装置制御部２２、画像解析部２３、通信部２４の４つの部分から成る。
【００２４】
音声センサ３０は、録音装置３１、録音装置制御部３２、音声解析部３３、通信部３４の４つの部分を備えている。
【００２５】
補助センサ部４０は、本発明のヒューマンインタフェースシステムが用いられる対象に応じて、画像センサ、音声センサ以外に有用な信号を得ることができる一又は異種複数の各種センサを備えたものである。例えば、超音波センサ、赤外線センサ、レンジセンサなどが挙げられる。補助センサ部４０に含まれる各補助センサは、それぞれ、補助センサ装置４１、補助センサ装置制御部４２、信号解析部４３、通信部４４の４つの部分を備えている。
【００２６】
撮影装置２１、録音装置３１、補助センサ装置４１は、環境中から信号を獲得する装置である。撮影装置２１は、環境を撮影し、画像情報を生成する部分である。録音装置３１は、録音装置環境の音響を録音し、音声情報を生成する部分である。補助センサ装置４１は、環境の状態を表す信号を獲得する部分である。
【００２７】
通信部２４、３４、４４は、データ／制御信号通信手段７１〜７４を通じて、他のセンサまたは総合解析部５０との通信インタフェースを制御する部分である。相互に解析結果や信号獲得制御に関する指示のやり取りを制御する。
【００２８】
撮影制御部２２および画像解析部２３、録音装置制御部３２、音声解析部３３、補助センサ装置制御部４２および信号解析部４３は、それぞれ連動してセンサ信号獲得制御および信号解析を行う。センサ信号獲得制御および信号解析には、以下の、第１のセンサ信号獲得制御および信号解析、第２のセンサ信号獲得制御および信号解析、第３のセンサ信号獲得制御および信号解析がある。
【００２９】
第１のセンサ信号獲得制御および信号解析は、センサ信号獲得制御として、環境中において、信号を獲得する対象の範囲および獲得する精度を決定し、センサ装置（画像センサ装置２１、音声センサ装置３１、補助センサ装置４１）を制御する。その際、必要に応じて、データ／制御信号通信手段７１〜７４を通じて、他のセンサ（画像センサ２０、音声センサ３０、補助センサ部４０に含まれる他のセンサ）の解析結果、総合解析部５０の結果、当該センサ自身のそれまでの解析結果を得て、それらを参考にしてセンサ装置を制御する。信号解析として、獲得した信号の処理にあたり、必要に応じて、他のセンサの解析結果、総合解析部５０の結果、当該センサ自身のそれまでの解析結果を得て、それらを参考して信号を解析する。
【００３０】
第２のセンサ信号獲得制御および信号解析は、第１のセンサ信号獲得制御および信号解析よりさらに、他のセンサや総合解析部５０との間の解析結果や制御指示のフィードバックを重視するものである。まず、センサ信号獲得制御として、データ／制御信号通信手段７１〜７４を通じて、他のセンサまたは総合解析部５０から受けた、環境中において、信号を獲得する対象の範囲および獲得する精度に関する指示を得て、その指示にしたがってセンサ装置を制御する。制御開始当初においてかかる指示が得られていない場合、環境中、信号を獲得する対象の範囲および獲得する精度の決定にあたり、必要に応じて、データ／制御信号通信手段７１〜７４を通じて、他のセンサの解析結果、総合解析部５０の結果、当該センサ装置自身のそれまでの解析結果を得て、それらを参考にして決定し、センサ装置を制御する。信号解析として、獲得した信号の処理にあたり、必要があれば、データ／制御信号通信手段７１〜７４を通じて、他のセンサの解析結果、総合解析部５０の結果、当該センサ自身のそれまでの解析結果を得て、それらを参考にして信号を解析する。また、解析結果に基づき、必要に応じて、データ／制御信号通信手段７１〜７４を通じて、他のセンサに対して、環境中において、信号を獲得する対象の範囲および獲得する精度に関して指示データを与える。
【００３１】
第３のセンサ信号獲得制御および信号解析は、第２のセンサ信号獲得制御および信号解析と同様、他のセンサや総合解析部５０との間の解析結果や制御指示のフィードバックを重視しつつ、かつ、フィードバックを受動的に受けるのみでなく、フィードバック情報を採用するか否かを自律的に判断するものである。まず、センサ信号獲得制御として、データ／制御信号通信手段７１〜７４を通じて、他のセンサまたは総合解析部５０から受けた、環境中、信号を獲得する範囲および精度に関するフィードバックされた指示を得て、その指示に従うか否かを他のセンサの解析結果、総合解析部５０の結果、センサ自身のそれまでの解析結果を参考にして判断し、従う場合は、同指示に従ってセンサ装置を制御する。従わないと判断した場合、または、他のセンサ、総合解析部５０から信号を獲得する範囲および精度に関する指示のフィードバックがない場合は、それまでに得られている他のセンサの解析結果、総合解析部５０の結果、センサ自身の解析結果を参考にして信号を獲得する範囲および精度を判断し、センサ装置を制御する。なお、信号解析については第２のセンサ信号獲得制御および信号解析で述べた信号解析と同様で良い。
【００３２】
次に、総合解析部５０を説明する。
【００３３】
総合解析部５０は、センサ部１０、補助センサ部４０の解析結果、アプリケーションの実行結果を参考して、複数のセンサ間で最も矛盾の少ない結果を解析して求め、当該解析結果に基づき、必要に応じて各センサ部１０、補助センサ部４０に環境中、信号を獲得する対象の範囲および獲得する精度に関して指示する部分である。
【００３４】
総合解析部５０は、データ／制御信号通信手段７３、７４を通じて、センサ部１０、補助センサ部４０の解析結果を獲得し、さらに、データ／制御信号通信手段７５を通じて、アプリケーション６０からセンサ制御に関する指示を得る。信号処理結果を、データ／制御信号通信手段７５を通じて、アプリケーション６０に提供する。さらに、必要に応じてアプリケーション６０から実行結果のフィードバックを獲得する。それら得た情報をもとに、複数のセンサ間で最も矛盾の少ない結果を求める。当該解析結果に基づき、必要があれば、データ／制御信号通信手段７３、７４を通じて、センサ部１０、補助センサ部４０に対して、環境中、信号を獲得する対象の範囲および獲得する精度に関する指示を与える。
【００３５】
次に、本発明の実施形態１の複数のセンサによるヒューマンインタフェースシステムの信号処理の流れを図３のフローチャートを参照しつつ説明する。
【００３６】
まず、センサ部１０、補助センサ部４０の各センサと、総合解析部５０を並行して起動する（ステップＳ３０１）。
【００３７】
センサ部１０、補助センサ部４０の各センサは、撮影装置２１、録音装置３１、補助センサ装置４１を用いて、まず、環境全体から信号を獲得する（ステップＳ３０２）。
【００３８】
センサ部１０、補助センサ部４０の各センサは、画像解析部２３、音声解析部３３、信号解析部４３を用いて、ステップＳ３０２で得た信号を解析する（ステップＳ３０３）。
【００３９】
データ／制御信号通信手段７１〜７４を通じて、解析結果を出力し（ステップＳ３０４）、さらに、解析結果に応じて、他のセンサに対し、信号の獲得の制御に関する指示を出す（ステップＳ３０５）。
【００４０】
センサ部１０、補助センサ部４０の各センサは、データ／制御信号通信手段７１〜７４を通じて、センサ部１０、補助センサ部４０のうちの他のセンサと、総合解析部５０の解析結果、および他のセンサから受けた信号の獲得制御に関する指示を獲得する（ステップＳ３０６）。
【００４１】
次に、データ／制御信号通信手段７１〜７４を通じて、他のセンサ、総合解析部５０から信号の獲得の制御に関する指示の有無を調べる（ステップＳ３０７）。
【００４２】
信号の獲得の制御に関する指示があれば（ステップＳ３０７：Ｙ）、他のセンサ、総合解析部５０および過去の解析結果を参考した場合、当該指示に従って良いかを判断し（ステップＳ３０８）、当該指示に従って良いと判断した場合は（ステップＳ３０８：Ｙ）、各センサにおいて撮影装置２１、録音装置３１、補助センサ装置４１を用いて、当該指示に従って環境の信号を獲得する（ステップＳ３０９）。
【００４３】
ステップＳ３０８において当該指示に従って良いと判断しなかった場合は（ステップＳ３０８：Ｎ）、または、ステップＳ３０７において信号の獲得の制御に関する指示がない場合（ステップＳ３０７：Ｎ）、他のセンサの解析結果、総合解析部５０の結果、自分のこれまでの解析結果をもとに、環境中において、次に信号を獲得する対象の範囲および獲得する精度を決定し、その決定に従って環境の信号を獲得する（ステップＳ３１０）。
【００４４】
次に、獲得した信号を、他のセンサ、総合解析部５０の解析結果、過去の解析結果を参考に解析する（ステップＳ３１１）。
【００４５】
データ／制御信号通信手段７１〜７４を通じて、解析結果を出力し（ステップＳ３１２）、さらに、解析結果に応じて、他のセンサに対し、信号の獲得の制御に関する指示を出す（ステップＳ３１３）。
【００４６】
ステップＳ３０５からステップＳ３１３を繰り返す。
【００４７】
総合解析部５０は、次の図４のフローチャートに示した流れにより処理を実行する。
【００４８】
総合解析部５０は、データ／制御信号通信手段７５を通じて、アプリケーション６０からセンサ部１０、補助センサ部４０の各センサにおける、信号の獲得の制御に関する指示の有無を調べ（ステップＳ４０１）、指示があれば（ステップＳ４０１：Ｙ）、その指示を各センサに与える（ステップＳ４０２）。指示がない場合は、Ｓ４０３にすすむ。
【００４９】
総合解析部５０は、データ／制御信号通信手段７１〜７４を通じて、各センサから信号処理結果を得て、さらに、データ／制御信号通信手段７５を通じて、アプリケーション６０から実行結果を獲得する（ステップＳ４０３）。
【００５０】
総合解析部５０は、すべての結果のうち、複数の間で最も矛盾の少ない結果を求める（ステップＳ４０４）。
【００５１】
総合解析部５０は、データ／制御信号通信手段７５を通じて、解析結果をアプリケーション６０に提供する（ステップＳ４０５）。また、解析結果に応じて、データ／制御信号通信手段７１〜７４を通じて、各センサに信号の獲得制御に関する指示を出す（ステップＳ４０６）。
【００５２】
ステップＳ４０１からステップＳ４０６を繰り返す。
【００５３】
以上、本発明の複数のセンサによるヒューマンインタフェースシステムによれば、センサ部１０、補助センサ部４０の各センサは、相互に解析結果や信号獲得制御に関する指示のやり取りを行い、さらに、総合解析部５０による解析結果や信号獲得制御に関する指示のやり取りを行い、センサ間の矛盾を調べつつフィードバック処理を実行し、信号を得る範囲および精度を確実に決定し、複数のセンサ全体で整合性のとれた出力を生成することができる。
【００５４】
（実施形態２）
本発明の実施形態２の複数のセンサによるヒューマンインタフェースシステムは、実施形態１に示した構成を変形した構成としたものである。実施形態１で示した図１の構成は、センサとして、センサ部１０の画像センサ２０、音声センサ３０、補助センサ部４０を備えた構成であったが、そのバリエーションとして、図５（ａ）〜（ｃ）の構成がある。図５（ａ）は、図１の構成から補助センサ部４０を省略したもの、図５（ｂ）は、図１の構成から音声センサ３０を省略したもの、図５（ｃ）は、図１の構成から画像センサ２０を省略したものとなっている。
【００５５】
図５（ａ）は、補助センサ部４０を必要としない場合、画像センサ２０と音声センサ３０の間で、データ／制御信号通信手段７１を通じて、相互に信号処理結果を得て、さらに、データ／制御信号通信手段７３を通じて、総合解析部５０から解析結果を獲得し、また、データ／制御信号通信手段７５を通じてアプリケーション５０から得た制御指示内容を総合解析部５０を介して得て、すべての結果のうち、複数の間で最も矛盾の少ない結果を求めるものである。
【００５６】
図５（ｂ）は、画像情報だけでアプリケーションを操作する場合、音声センサ３０を省略した構成とし、画像センサ２０と補助センサ部４０の間で、データ／制御信号通信手段７２を通じて、相互に信号処理結果を得て、さらに、データ／制御信号通信手段７３、７４を通じて、総合解析部５０から実行結果を獲得し、また、データ／制御信号通信手段７５を通じてアプリケーション６０から得た制御指示内容を総合解析部５０を介して得て、すべての結果のうち、複数の間で最も矛盾の少ない結果を求めるものである。
【００５７】
図５（ｃ）は、音声情報だけでアプリケーションを操作する場合、画像センサ２０を省略した構成とし、音声センサ３０と補助センサ部４０の間で、データ／制御信号通信手段７２を通じて、相互に信号処理結果を得て、さらに、データ／制御信号通信手段７３、７４を通じて、総合解析部５０から実行結果を獲得し、また、データ／制御信号通信手段７５を通じてアプリケーション６０から得た制御指示内容を総合解析部５０を介して得て、すべての結果のうち、複数の間で最も矛盾の少ない結果を求めるものである。
【００５８】
何れの場合でも、実施形態１と同じく、センサ間で処理結果と制御が行き交い、それらの結果を総合して解析することにより、出力を生成し、次のステップで環境中から獲得する信号の範囲と精度を決定する。
【００５９】
（実施形態３）
本発明の実施形態３の複数のセンサによるヒューマンインタフェースシステムは、実施形態１に示した基本構成を、人の音声入力による操作指示、身振りによる操作指示を受け付けるヒューマンインタフェースシステムに適用したものであって、解析結果や信号獲得制御に関する指示のやり取りを行い、センサ間の矛盾を調べつつ複数のセンサ全体で整合性のとれた出力を生成するとともに、検出対象である人の音声入力による操作指示内容、身振りによる操作指示内容を解析して受け付けるシステムである。
【００６０】
図６は、本発明の実施形態３にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示すブロック図である。図６に示すように、本発明の実施形態３の構成は、センサ部１０ａ、補助センサ部４０ａ、総合解析部５０ａ、アプリケーション６０を備えている。センサ部１０ａは、画像センサ２０ａ、音声センサ３０ａを備えている。なお、検出対象は人、人の声、人の身振りである。
【００６１】
ここで、画像センサ２０ａは、人の画像データを得る機能に加え、人の動きから身振りによる操作指示内容を解析するジェスチャ解析機能を備えている。また、音声センサ３０ａは、人の音声データを得る機能に加え、人の音声による操作指示内容を解析する音声解析機能を備えている。また、補助センサ部４０ａは、画像センサ２０ａ、音声センサ３０ａの処理に対する有用な信号を得るものであり、例えば、人の位置および人がマネキンやラジオなどの静止物でなく、動いているかものであるかを検出するために有用なセンサとして、超音波センサが挙げられ、人がマネキンやラジオなどの無生物ではなく、生物であることを検出するために有用なセンサとして、赤外線センサ（サーモグラフィを生成するセンサ）などが挙げられる。
【００６２】
また、この構成例では、各データ／制御信号通信手段７１〜７４、７５は、１つの通信路７６を共用する形で形成されている。
【００６３】
各センサの構成と処理内容をさらに詳しく説明する。
【００６４】
画像センサ２０ａは、撮影装置２１、撮影装置制御部２２、画像解析部２３ａ、通信部２４を備えている。画像解析部２３ａは、人物検出部２３１、人物映像記憶部２３２、動作認識部２３３、動作パターン記憶部２３４を備えている。
【００６５】
撮影装置２１は、カメラ等、映像を獲得する一又は複数の装置であって、撮影範囲の情景を画像として獲得する。動的に撮影方向を変えられるものとする。
【００６６】
撮影制御部２２は、画像解析部２３ａの画像解析による人物検出結果、音声センサ３０ａの音声による音源検出結果、補助センサ４０ａによる人物位置検出結果に基づき、画像情報の獲得を指向する方向、位置、光学パラメータを決定した上で、撮影装置２１を制御する。なお、総合解析部５０ａやアプリケーション６０によって撮影制御の指示を受ける場合もある。
【００６７】
画像解析部２３ａは、画像を解析する部分であるが、本実施形態３では、画像解析により人物検出とジェスチャ入力によるコマンド認識を行う。
【００６８】
人物検出部２３１は、画像情報から人物に相当する映像パターンを探索する部分である。撮影装置２１により獲得された画像情報から、人物映像記憶部２３２に蓄積された画像パターンを参考にして人物画像パターンを探索し、当該人物画像パターンの画像上での位置と撮影装置２１の位置から人物位置を決定し、画像上での見え方に応じて人物の向きを決定する。
【００６９】
人物映像記憶部２３２は、探索対象となる画像パターンを蓄積する部分であり、ここでは人間だと認識できる映像パターンを記憶している。
【００７０】
動作認識部２３３は、人物検出部２３１で検出された人物画像データの動き（ジェスチャ）を解析して、身振り（ジェスチャ）によるコマンドを認識する部分である。動作認識にあたり、動作パターン記憶部２３４のデータとのマッチングを行って、その人物がジェスチャにより入力したコマンドを認識する。
【００７１】
動作パターン記憶部２３４は、コマンドとそのときの人間の動作パターンの映像を対応づけて記憶する部分である。
【００７２】
次に、画像センサ２０ａにおける、音声センサ３０ａ、補助センサ４０ａ、総合解析部５０ａからのデータ、制御指示のフィードバックを受けた動作認識処理について説明する。
【００７３】
画像情報と音声情報に基づく動作認識は、音声センサ３０ａにより検出された人物音声を発する音源位置情報をもとに、当該人物の所定時間の画像情報の変化に基づき人間の動作を認識する。その際、動作パターン記憶部２３４の情報を参考する。
【００７４】
次に、画像情報と音声情報と補助センサ４０ａによる人物検出情報に基づく動作認識は、音声センサ３０ａにより検出された人物音声を発する音源位置情報と、補助センサ４０ａにより検出された人物位置情報をもとに、当該人物の所定時間の画像情報の変化に基づき人間の動作を認識する。その際、動作パターン記憶部２３４の情報を参考する。
【００７５】
画像情報と音声情報と補助センサ４０ａによる人物検出情報と総合解析部５０ａの解析結果とアプリケーション６０の制御指示に基づく動作認識は、音声センサ３０ａにより検出された人物音声を発する音源位置情報と、補助センサ４０ａにより検出された人物位置情報と、総合解析部５０ａによる各センサ間で最も矛盾の少ない解析情報と、アプリケーション６０からの制御指示内容をもとに、当該人物の所定時間の画像情報の変化に基づき人間の動作を認識する。その際、動作パターン記憶部２３４の情報を参考する。
【００７６】
次に、音声センサ３０ａは、録音装置３１、録音装置制御部３２、音声解析部３３ａ、通信部２４を備えている。音声解析部３３ａは、音源検出部３３１、人物音声記憶部３３２、音声認識部３３３、音声パターン記憶部３３４を備えている。
【００７７】
録音装置３１は、マイク等、音声を獲得する一又は複数の装置であり、音声を音声情報として獲得する。動的に指向性を設定できるものとする。
【００７８】
録音装置制御部３２は、画像センサ２０ａによる人物検出結果、音声解析部３３ａによる音源検出結果、補助センサ４０ａによる人物位置検出結果に基づき、音声情報を獲得する方向、位置、音響パラメータを決定した上で、録音装置３１を制御する。なお、総合解析部５０ａやアプリケーション６０によって撮影制御の指示を受ける場合もある。
【００７９】
音声解析部３３ａは、音声を解析する部分であるが、本実施形態３では、音声解析により人物検出と音声入力によるコマンド認識を行う。
【００８０】
音源検出部３３１は、音声情報から人物に相当する音声パターンを探索する部分である。音声情報と人物音声記憶部３３２に記憶された人物に相当する音響パターンとを比較して人物音声パターンを持つ音源を探し出し、録音装置３１の位置と人物に相当する音響パターンの強度に基づき、人間の発声に相当する音源方向を決定する。
【００８１】
人物音声記憶部３３２は、探索対象となる音声パターンを蓄積する部分であり、ここでは人間が発声する音響パターンを記憶している。
【００８２】
音声認識部３３３は、音源検出部３３１で検出された音声入力を解析して、音声入力によるコマンドを認識する部分である。音声認識にあたり、音声パターン記憶部３３４のデータとのマッチングを行って、その人物が音声により入力したコマンドを認識する。
【００８３】
音声パターン記憶部３３４は、コマンドとそのときの人間の動作パターンの音声データを対応づけて記憶する部分である。
【００８４】
次に、音声センサ３０ａにおける、画像センサ２０ａ、補助センサ４０ａ、総合解析部５０ａからのデータ、制御指示のフィードバックを受けた音声認識処理について説明する。
【００８５】
画像情報と音声情報に基づく音声認識は、画像センサ２０ａにより検出された人物の映像を有する物体位置情報をもとに、当該人物の所定時間の音声情報に基づき人間の音声を認識する。その際、音声パターン記憶部３３４の情報を参考する。
【００８６】
次に、画像情報と音声情報と補助センサ４０ａによる人物検出情報に基づく音声認識は、画像センサ２０ａにより検出された人物映像を有する物体位置情報と、補助センサ４０ａにより検出された人物位置情報をもとに、当該人物の所定時間の音声情報に基づき人間の音声を認識する。その際、音声パターン記憶部３３４の情報を参考する。
【００８７】
画像情報と音声情報と補助センサ４０ａによる人物検出情報と総合解析部５０ａの解析結果とアプリケーション６０の制御指示に基づく音声認識は、画像センサ２０ａにより検出された人物映像を有する物体位置情報と、補助センサ４０ａにより検出された人物位置情報と、総合解析部５０ａによる各センサ間で最も矛盾の少ない解析情報と、アプリケーション６０からの制御指示内容をもとに、当該人物の所定時間の音声情報に基づき人間の音声を認識する。その際、音声パターン記憶部３３４の情報を参考する。
【００８８】
次に、補助センサ４０ａは、補助センサ装置４１、補助センサ装置制御部４２、人物位置検出部４３ａ、通信部４４を備えている。
【００８９】
補助センサ装置４１は、超音波センサ、赤外センサ、レンジセンサなど、画像、音声以外の情報のセンサであり、環境の動きの変化を観測する一又は複数のセンサを備え、人物位置を検出するに有効な情報を獲得する。動的にその探索範囲・精度を設定できるものとする。
【００９０】
補助センサ装置制御部４２は、画像センサ２０ａによる人物検出結果、音声解析部３３ａによる音源検出結果、補助センサ部４０ａによる人物位置検出結果に基づき、補助センサ部により信号を獲得する方向、位置、特徴パラメータを決定した上で、補助センサ装置４１を制御する。なお、総合解析部５０ａやアプリケーション６０によって撮影制御の指示を受ける場合もある。
【００９１】
人物位置検出部４３ａは、信号解析部４３の一形態であり、補助センサ部４０ａの出力に基づき、人物の位置を検出する部分である。例えば、補助センサ装置４１が超音波センサであれば、反射波の解析により、物体位置を検出し、赤外線センサであれば、人の体温程度の熱放射を持つ物体位置を検出する。
【００９２】
次に、補助センサ部４０ａにおける、画像センサ２０ａ、音声センサ３０ａ、総合解析部５０ａからのデータ、制御指示のフィードバックを受けた人物位置検出処理について説明する。
【００９３】
画像情報と音声情報に基づく人物位置検出は、画像センサ２０ａにより検出された人物の映像を有する物体位置情報と音声センサ３０ａにより検出された音源位置情報をもとに、当該人物の所定時間の補助センサ部４０ａ自身により検出された信号に基づき人間の位置を検出する。
【００９４】
画像情報と音声情報と補助センサ部４０ａによる人物検出情報と総合解析部５０ａの解析結果とアプリケーション６０の制御指示に基づく音声認識は、画像センサ２０ａにより検出された人物映像を有する物体位置情報と、音声センサ３０ａにより検出された音源位置情報と、補助センサ部４０ａ自身により検出された人物位置情報と、総合解析部５０ａによる各センサ間で矛盾のない解析情報と、アプリケーション６０からの制御指示内容をもとに、当該人物の所定時間の補助センサ部４０ａ自身により検出された信号に基づき人間の位置を検出する。
【００９５】
総合解析部５０ａは、人物情報記憶部５１、人物識別部５２、人物状態認識部５３、コマンド辞書記憶部５４、コマンド理解部５５、出力部５６、通信部５７を備えている。
【００９６】
人物情報記憶部５１は、検出対象となる特定の人物の映像パターンと音声パターンを含む各種情報を記憶する部分である。
【００９７】
人物識別部５２は、画像センサ２０ａ、音声センサ３０ａ、補助センサ部４０ａが検出した人物が誰であるかを識別する部分である。この人物識別部５２の識別処理において、画像センサ２０ａの識別結果、音声センサ３０ａの識別結果、補助センサ部４０ａの識別結果と、人物情報記憶部５１の情報を総合的に判断して、相互に矛盾した結果が得られている場合は、各センサにおける識別結果の何れかまたは全てが正しくないと判断できる。
【００９８】
人物状態認識部５３は、補助センサ部４０ａの情報を用いて算出した人物位置と、画像情報に基づく人物検出結果と、音声情報に基づく音源検出結果に基づき、人物の位置、向き、姿勢を決定する。
【００９９】
コマンド辞書記憶部５４は、このコマンド辞書記憶部５４は２種類の情報を記憶する。一つは、アプリケーションが受け付ける各コマンドと、動作パターン記憶部２３４および音声パターン記憶部３３４中のコマンドの関連を表すリンクであり、もう一つは、アプリケーションがそのときどきで受理可能なコマンドのリスト（一覧）である。後者は、アプリケーション６０の実行中、アプリケーション６０によって刻々と書き換えられる。
【０１００】
コマンド理解部５５は、人物識別部５２で人物を識別できた場合、画像センサの動作認識部２３３の動作認識結果と音声認識部３３３の音声認識結果に基づき、その人物が発信したコマンドを理解する。その際、アプリケーションから提供されるコマンド辞書記憶部５４の情報を参考にする。
【０１０１】
出力部５６は、人物識別結果と人物状態認識結果とコマンド理解の結果をアプリケーション６０に提供する。
【０１０２】
次に、処理の流れを示す。
【０１０３】
図７は、本実施形態３のヒューマンインタフェースシステム全体の処理の流れを示すフローチャートである。なお、各ステップの詳細は追って説明する。
【０１０４】
まず、画像センサ２０ａ、音声センサ３０ａ、補助センサ部４０ａの各センサと、総合解析部５０を並行して起動する（ステップＳ７０１）。
【０１０５】
各センサは、撮影装置２１、録音装置３１、補助センサ装置４１を用いて、まず、環境全体から信号を獲得する（ステップＳ７０２）。
【０１０６】
画像センサ２０ａ、音声センサ３０ａ、補助センサ部４０ａの各センサは、画像解析部２３ａ、音声解析部３３ａ、信号解析部４３を用いて、ステップＳ７０２で得た信号を解析し、解析結果を出力する（ステップＳ７０３）。
【０１０７】
画像センサ２０ａ、音声センサ３０ａ、補助センサ部４０ａの各センサは、データ／制御信号通信手段７１〜７４を通じて、画像センサ２０ａ、音声センサ３０ａ、補助センサ部４０ａのうちの他のセンサと、総合解析部５０の解析結果を獲得する（ステップＳ７０４）。
【０１０８】
次に、得られた解析結果を参考に、補助センサ部４０ａを制御して情報を獲得し、補助センサ部４０ａにおいてその情報に基づき人物位置検出処理を実行する。まず、現在得られている信号で人物位置検出処理を実行できるかを調べ（ステップＳ７０５）、実行できる場合（ステップＳ７０５：Ｙ）、現在得られている信号を用いて、人物位置検出処理を実行し、当該結果を出力する（ステップＳ７０６）。
【０１０９】
ステップＳ７０５で現在得られている信号で人物位置検出処理を実行できないと判断した場合（ステップＳ７０６：Ｎ）、および、実行できると判断してステップＳ７０６で人物位置検出処理を実行した場合ともに、現在得られている信号に人物位置検出処理に必要な情報が十分にあったか否かを調べ（ステップＳ７０７）、不足している場合（ステップＳ７０７：Ｎ）、不足している情報を獲得できるように、補助センサ装置４１、撮影装置２１、録音装置３１の次回の信号獲得の制御を、補助センサ装置制御部４２、撮影装置制御部２２、録音装置制御部３２に与える（ステップＳ７０８）。
【０１１０】
次に、補助センサ部４０ａの出力結果と、音声センサ３０ａの音声処理結果と、それまでの画像処理結果を参考に、画像センサ２０ａは、撮影装置２１を制御して画像を獲得し、その色情報を調べ人物位置の決定、および、人間の動作の認識を行う。まず、現在得られている信号で人物動作認識処理を実行できるかを調べ（ステップＳ７０９）、実行できる場合（ステップＳ７０９：Ｙ）、現在得られている信号を用いて、人物動作認識処理を実行し、当該結果を出力する（ステップＳ７１０）。その際、あらかじめ登録しておいた人物映像記憶部２３２の映像データや動作パターン記憶部２３４の動作パターンの情報を参考する。
【０１１１】
ステップＳ７０９で現在得られている信号で人物動作認識処理を実行できないと判断した場合（ステップＳ７０９：Ｎ）、および、実行できると判断してステップＳ７１０で人物動作認識処理を実行した場合ともに、現在得られている信号に人物動作認識処理に必要な情報が十分にあったか否かを調べ（ステップＳ７１１）、不足している場合（ステップＳ７１１：Ｎ）、不足している情報を獲得できるように、補助センサ装置４１、撮影装置２１、録音装置３１の次回の信号獲得の制御を、補助センサ装置制御部４２、撮影装置制御部２２、録音装置制御部３２に与える（ステップＳ７１２）。
【０１１２】
次に、補助センサ部４０ａの出力結果と、画像センサ２０ａの画像処理結果と、それまでの音声処理結果を参考に、音声センサ３０ａは、録音装置３１を制御して音声を獲得し、その波長情報を調べ音源方向の決定、および、人間の音声の認識を行う。まず、現在得られている信号で人物音声認識処理を実行できるかを調べ（ステップＳ７１３）、実行できる場合（ステップＳ７１３：Ｙ）、現在得られている信号を用いて、人物音声認識処理を実行し、当該結果を出力する（ステップＳ７１４）。その際、あらかじめ登録しておいた人物音声記憶部３３２の音声データや音声パターン記憶部３３４の音声パターンの情報を参考する。
【０１１３】
ステップＳ７１３で現在得られている信号で人物動作認識処理を実行できないと判断した場合（ステップＳ７１３：Ｎ）、および、実行できると判断してステップＳ７１４で人物音声認識処理を実行した場合ともに、現在得られている信号に人物音声認識処理に必要な情報が十分にあったか否かを調べ（ステップＳ７１５）、不足している場合（ステップＳ７１５：Ｎ）、不足している情報を獲得できるように、補助センサ装置４１、撮影装置２１、録音装置３１の次回の信号獲得の制御を、補助センサ装置制御部４２、撮影装置制御部２２、録音装置制御部３２に与える（ステップＳ７１６）。
【０１１４】
次に、総合解析部５０ａにおいて、画像情報、音声情報、補助センサの情報に基づき、人物の状態認識、人物識別、コマンド理解を行う（ステップＳ７１７）。人物識別においては人物識別部５２は、あらかじめ人物情報記憶部５１に登録しておいた特定の人物の映像情報や音声情報を参考にして人物を識別し、コマンド理解においてはコマンド理解部５５は、コマンド辞書記憶部５４の情報を参考する。
【０１１５】
ステップＳ７１７で得たコマンド理解の結果は、出力部５６を通してアプリケーション６０に出力される（ステップＳ７１８）。なお、アプリケーション６０に対して、画像情報、音声情報、補助センサの解析結果も併せて出力しても良い。
【０１１６】
信号処理を続行する場合（ステップＳ７１９：Ｙ）、ステップＳ７０５へ戻り、信号処理を繰り返す。
【０１１７】
以上が、本実施形態３による処理全体の流れである。
【０１１８】
次に、各センサにおける処理や、各センサが相互に連動し合い、結果を参照し合う処理についてさらに詳しく説明する。
【０１１９】
まず、補助センサ部４０ａにおける処理を詳しく述べる。
【０１２０】
補助センサ装置４１として、超音波センサを用いる場合は、少なくとも１つ以上の超音波発信素子と受信素子を用意し、人間からの反射波を受信した際の受信信号の振幅情報や位相情報に基づき３次元空間内の物体配置情報を計算する。
【０１２１】
超音波センサの振幅情報と位相情報を用いると静止物体以外の動物体を感知することができる。したがって、環境空間中の動物体を検出することにより人間の位置を検出する。
【０１２２】
補助センサ装置４１として赤外センサを用いる場合は、環境の温度分布を画像の形態にて獲得する。人間の体温の部分に相当し、かつ、人間の大きさに相当する領域を見つけることにより、人間がいる場所を特定する。
【０１２３】
補助センサ装置４１としてレンジセンサを用いた場合、ある時点とその次の時点の３次元情報の差を求めることにより動く物体がわかり、その大きさが通常の人間に相当するものを見つけることで人間がいる場所を特定する。
【０１２４】
補助センサ部４０ａの情報を、撮影装置、録音装置が利用する一例を挙げる。
超音波センサを用いた場合、空間内の動きのある物体の位置情報を撮影装置および録音装置に提供することができる。位置情報が既知となることで、撮影装置は広い空間内のごく限られた領域のみで人物検出を行えば良く、かかる処理時間を大幅に減らすことが可能となる。また、位置情報が既知となることで、録音装置自身が音源位置を検出しなくとも良くなる。
【０１２５】
次に、補助センサ部４０ａが、撮影装置、録音装置からの情報を利用する一例を挙げる。撮影装置２１および録音装置３１は、超音波センサからの位置情報に関わらず、各装置の機能によって人物位置や音源位置を検出した場合、超音波センサはその位置情報をもとに位置近傍に走査し、実際に動きのある物体（人物）の有無を検知する。画像装置は人物以外の部分を人物位置と認識したり、録音装置はＴＶやオーディオといった人物でない音源からの音を検出する可能性があり、こうした誤検出を防止する効果がある。
【０１２６】
また、補助センサ部４０ａが、自身で検出する空間内の動きのある物体の位置情報を利用する一例を挙げる。補助センサ部４０ａは、既知となった動きのある物体の位置情報を利用することで、その物体近傍のみに限定して走査することで高速化し、物体の移動に追従するように走査位置をダイナミックに変更することが可能で、リアルタイム性の高いアクティブな物体追跡センサとしての効果がある。
【０１２７】
次に、画像センサ２０ａを中心とした処理について詳しく述べる。
【０１２８】
画像センサ２０ａは、２台以上の複数の撮影装置、または、１台の撮影装置であっても撮影方向および撮影位置およびピント、ズーム、絞りを始めとした光学パラメータの制御のすべてまたは一部を変更できるものまたはどれも変更できないものを用いる。
【０１２９】
画像情報に基づく人物検出をする際、撮影装置２１から人間がいる場所への方向のほか、距離も求めたい場合は、２台以上の複数の撮影装置を用いるか、１台の撮影装置であっても撮影位置を変更できるか、撮影位置を変更できなかったとしてもピント、ズーム、絞りを始めとした光学パラメータを変更できるものを使用する。その場合、何れの装置設定であってもアプリケーションがコマンドを受けつけたい範囲の人間に対しては、異なる撮影位置、または、異なる光学パラメータによって２枚以上の画像を獲得できるように配置する。以上の条件が満たされれば、魚眼レンズを用いた撮影装置、CMOS形式によって画像の任意の画素を取り出せる撮影装置、可視光以外の色を獲得できる撮影装置を用いることもできる。
【０１３０】
撮影する方向は、補助センサ部４０ａを用いて人物を検出した結果と、音声センサ３０ａの音声情報を用いて音源方向を検出した結果と、画像情報に基づき人物位置を検出したそれまでの結果を参考する。すなわち、ある時点の前で人物位置を検出できていて、かつ、それが音源方向と一致し、実際に人間であったと判断した場合は、その付近を観察できるように撮影方向を定める。しかし、直前に人間の存在を判断した方向と、補助センサ部４０ａが示した人間が存在する方向が異なっていた場合、また、直前に人間の確認ができなかった場合は、補助センサ部４０ａによる人物検出結果の付近を観察できように撮影方向を定める。
【０１３１】
ただし、人間が移動できる速さを越えて、撮影方向を変更することはしない。
例えば、０．１秒後に５ｍ離れた地点に撮影の向きを変更することはしない。直前の結果と補助センサ部４０ａの結果が異なる場合は、直前の結果に従った方向を再度、撮影する。また、人間の存在を確認できなかった場合も、人間の存在を確認できた最後の撮影方向と補助センサ部４０ａが指し示す方向を比較し、人間の移動速度を超えて撮影方向が変化しているならば、最後に撮影した方向を維持する。
【０１３２】
撮影におけるピント、ズーム、絞りを始めとした光学パラメータは、直前に検出した人間の位置の近辺を撮影するように調整する。補助センサ部４０ａが人物までの距離などを出力できる場合は、方向の制御と同様の仕組みで参考にする。
【０１３３】
画像による人物検出、音声による音源検出、補助センサ４０ａによる人物位置検出で、遮断物などの影響により人物や音源の検出をするに至らなかった場合は、各検出過程から撮影すべき方向や位置が指定されるので、指定された方向や位置を観察できるように撮影装置２１を制御する。
【０１３４】
次に、人物映像記憶部２３２における人物映像パターン情報の登録と、動作パターン記憶部２３４における動作パターンの登録について説明する。
【０１３５】
人物検出部２３１の人物検出処理や動作認識部２３３の動作認識処理に先立ち、人物映像記憶部２３２に対する人物映像パターン情報の登録と、動作パターン記憶部２３４に対する動作パターン登録を行う。
【０１３６】
人物映像記憶部２３２には、人間と認識でき、さらに、その人間の位置、向きを特定できる人物映像パターン情報を記憶する。人間を撮影する方向は、人間の向きの特定に必要な画像を獲得できる方向とする。これは、あらかじめ配置する撮影装置２１の位置、アプリケーション６０の出力を表示する表示装置およびアプリケーションが操作を許可する表示装置に対する人間の向きの範囲に基づく。人間を撮影する際の画像の解像度（「大きさ」と読み替えてもよい。画素数で換算する面積に相当する。）は、人間の向きを特定するのに必要な解像度とする。人間の向きを顔の向きによって定める場合は、顔の輪郭、目、鼻、口などの位置を判別できる解像度の画像を記憶する。人間の向きを目の向きによって定める場合は、目を判別でき、かつ、視線を判別できるように白目、黒目の位置を判別できるように撮影する。
【０１３７】
以上のように、事前に人間を撮影しておく画像は、撮影装置と人間の向き、距離に応じて複数の画像を撮影する場合がある。また、アプリケーションの要求項目に応じて、表情（笑い、泣きなど）の異なる画像、化粧、ヒゲ、メガネの有無の画像などを撮影する場合もありうる。
【０１３８】
以上の情報を復元できるのであれば、記憶する画像のデータ量を圧縮しておいてもよい。また、人間の向き、位置を特定できるのであれば、人間の姿全体ではなく、顔、目等の部分のみを記憶しておいてもよい。人間の姿全体を圧縮した情報と、特徴のある部分の圧縮していない情報を合わせるなど、以上の情報を組み合わせて記憶することもできる。
【０１３９】
動作パターン記憶部２３４には、アプリケーション６０がコマンドと認知するのに必要な人間の動作を記憶する。また、手、足、頭、ひじなど、人間の主要な関節部分の肌の座標変化を動作パターンとして記憶することもできる。
【０１４０】
次に、画像センサ２０ａにおける画像情報に基づく人物検出処理について述べる。人物検出処理は以下のように行う。
【０１４１】
人物検出で用いる画像センサ２０ａで取り込まれる画像情報は、補助センサ部４０ａの出力、音声センサ３０ａによる音源検出結果、および、直前の画像センサ２０ａによる人物検出結果を参考にして撮影されたものとする。入力された画像中、顔に相当する部分領域の探索には画素の色情報と位置情報を用いる。そして、ピンホールカメラなどのカメラモデルにしたがって撮影装置の位置と画像上の検出位置から人間が存在する方向を計算する。撮影装置が複数あり、複数の画像上で検出できた場合は、三角測量の原理に基づき、人間が存在する方向のみならず位置も計算する。
【０１４２】
人間の顔をあらわす画像情報は、人物映像記憶部２３２に登録されたものを用いる。後述するように人間の顔は、アプリケーションの仕様にしたがって正面から撮影した映像のほか、横から撮影した画像を含む。その場合は、登録されているすべての向きから撮影した見え方の顔を検出する。
【０１４３】
なお、直前まで人間の存在を確認できていたにも関わらずできなくなった場合は、各センサに感度や精度を上げて情報の確認を行うように指示する。すなわち、録音装置にはボリュームやサンプリング間隔を上げるように、補助センサ部４０ａには環境のスキャンニングの間隔を狭めるように、撮影装置にはズームなどにより解像度を上げて撮影するように指示する。それでも、人物を検出できないと判断した場合は、撮影した方向に人間がいなかったと判断する。
【０１４４】
次に、画像センサ２０ａにおける画像情報と音声情報に基づく動作認識は以下のように行われる。動作認識で用いる画像情報は、補助センサ部４０ａの出力、音声センサ２０ａによる音源検出結果、および、画像センサ２０ａの直前の人物検出結果を参考にして撮影されたものとする。前述の動作パターン記憶部２３４に記憶された情報と同様に、入力画像から情報を抽出し、その変化を、動作パターン記憶部２３４に記憶されている動作パターンと照合する。入力画像中における動作と動作パターン中の動作の一致は、動画像の連続する各画像における情報を記憶した動作パターンにおけるそれらとの差をとり、動画像全体を通した累積値により判断する。もしくは、入力画像における変化を、離散コサイン変換、フーリエ変換などによって近似し、同じく近似した動作パターン中の動作と、変換された係数の比較によって一致を判断する。
【０１４５】
なお、人間の存在を確認できたにも関わらず動作によるコマンド理解ができなかった場合は、各センサに感度や精度を上げて情報の確認を行うように指示する。すなわち、録音装置にはボリュームやサンプリング間隔を上げるように、補助センサ４０ａには環境のスキャンニングの間隔を狭めるように、撮影装置にはズームなどにより解像度を上げて撮影するように指示する。
【０１４６】
次に、音声センサ３０ａを中心とした処理について詳しく説明する。
【０１４７】
音声センサ３０ａは、２台以上の複数の録音装置、または、１台の録音装置をアプリケーションがコマンドを受け付けようとする範囲の人間の音声を獲得できるように配置する。
【０１４８】
録音装置の出力は、補助センサ部４０ａを用いて人物を検出した結果と、画像情報を用いて人物位置を検出した結果と、音声情報に基づき音源方向を検出したそれまでの結果を参考にした、特定の方向の音声に関する信号とする。すなわち、ある時点の前で人物の発声に相当する音声を検出できていて、かつ、それが画像から判断した人間が存在する方向と一致し、実際に人間であったと判断した場合は、その付近を指向した音声信号に関する情報を出力する。しかし、直前に人間の存在を判断した方向と、補助センサ４０ａが示した人間が存在する方向が異なっていた場合、また、直前に人間の確認ができなかった場合は、補助センサ部４０ａによる人物検出結果の付近を指向した音声信号に関する情報を出力する。
【０１４９】
なお、画像による人物検出、音声による音源検出、補助センサ４０ａによる人物位置検出で、遮断物などの影響により人物や音源の検出をするに至らなかった場合は、各検出過程から録音装置３１が録音すべき指向方向が指定されるので、その方向を指向した音声情報を出力する。
【０１５０】
次に、音源検出処理を述べる。音源検出で用いる音声情報は、補助センサ部４０ａの出力、画像センサ２０ａによる人物検出結果、および、直前の音源検出結果を参考にして特定の方向を指向して出力された音声情報とする。音声情報の周波数特性を調べ、後述する人物音声として記憶された情報の特徴との一致を判断することにより人物音声の有無を判断する。人物音声がないと判断した場合は、音声情報の獲得を指向した方向に人間がいなかったと判断する。
【０１５１】
複数の録音装置３１をある程度離して配置した場合は、音声が録音された時間の差に基づき、音源位置を特定する。また、複数箇所にそれぞれ複数の録音装置を配置した場合は、それぞれの箇所において音源方向を特定し、それぞれの箇所の録音装置群から計算された音源方向の重なるところを求めることにより、音源位置を求める。直前まで人間の音声を確認できていたにも関わらず音源を検出できなくなった場合は、各センサに感度や精度を上げて情報の確認を行うように指示する。すなわち、録音装置にはボリュームやサンプリング間隔を上げるように、補助センサ４０ａには環境のスキャンニングの間隔を狭めるように、撮影装置にはズームなどにより解像度を上げて撮影するように指示する
音声情報と画像情報に基づく音声認識において、当該音声認識で用いる画像情報は、補助センサ部４０ａの出力、音源検出結果、および、直前の人物検出結果を参考にして撮影されたものとする。なお、人間の音声を検出できたにも関わらず音声によるコマンド理解ができなかった場合は、各センサに感度や精度を上げて情報の確認を行うように指示する。すなわち、録音装置にはボリュームやサンプリング間隔を上げるように、補助センサ４０ａには環境のスキャンニングの間隔を狭めるように、撮影装置にはズームなどにより解像度を上げて撮影するように指示する。
【０１５２】
次に、総合解析部５０ａを中心にした処理について詳しく説明する。
【０１５３】
人物識別部５２による人物識別処理や、人物状態認識部５３における人物状態認識処理に先立ち、人物情報記憶部５１の登録情報やコマンド辞書記憶部５４の登録情報を更新する。
【０１５４】
人物情報記憶部５１には、映像情報、音声情報とも、アプリケーションが操作を許可する特定の個人名または複数名を識別するのに必要な情報を記憶する。映像情報は、人物を特定するのに必要な、各人を撮影した映像を記憶する。事前に人間を撮影しておく画像は、撮影装置と人間の向き、距離に応じて複数の画像を撮影する場合がある。また、アプリケーションの要求項目に応じて、表情（笑い、泣きなど）の異なる画像、化粧、ヒゲ、メガネの有無の画像などを撮影する場合もありうる。人物の特定に必要な画像を復元できるのであれば、記憶する画像のデータ量を圧縮しておいてもよい。また、個人差を確認できるのに必要な、顔のみ、または、さらに分解して目、口、鼻などの部分だけを記憶してもよい。また、以上の情報を組み合わせたり、または、復元可能であれば圧縮の上、組み合わせて記憶することもできる。
【０１５５】
音声情報は、人物を特定するのに必要な、各人が発生した音響を記憶する。各人の発声は個別に記憶する。アプリケーションが受け付けるコマンドを記憶するか、または、アプリケーションが受け付けるコマンドを復元するのに必要な発声を記憶する。後者の場合は、コマンドを分解した音素や単語を録音することになる。記憶の際、録音された音声をそのまま記憶するのではなくコマンドまたは音素または単語ごとの周波数特性または周波数特性の変化を記憶することもできる。以上の情報を組み合わせたり、または、復元可能であれば圧縮の上、組み合わせて記憶することもできる。
【０１５６】
コマンド辞書記憶部５４には２種類の情報を記憶する。一つは、アプリケーションが受け付ける各コマンドと、動作パターン記憶部２３４および音声パターン記憶部３３４中のコマンドの関連を表すリンクであり、もう一つは、アプリケーションがそのときどきで受理可能なコマンドのリスト（一覧）である。後者のコマンド辞書は、アプリケーションの進行にしたがって逐次、アプリケーションが書き換える、したがって、動作認識結果と音声認識結果に基づくコマンド理解処理は、そのときどきの処理において、絶えずコマンド辞書を参照する。
【０１５７】
次に、総合解析部５０ａの人物識別部５２による人物識別について述べる。人物識別部５２は、画像センサ２０ａの人物検出と音声センサ３０ａの音源検出において、それぞれ、人物映像の確認、人物音声の検出ができ、かつ、人物検出結果と音源検出結果でそれぞれ検出した位置が重なる場合のみ、人物を観察できたと判断する。後述の人物識別、コマンド理解においては、人物を確認できた場合の画像情報、音声情報のみ有効とする。人物識別部５２が人物を観察できたと判断した場合、人間の位置、方向を、補助センサ４０ａによる人物位置検出結果、画像情報による人物検出結果、および、音声情報による音源検出結果の重なる位置、方向として出力する。姿勢は、画像情報による人物検出結果に従う。
【０１５８】
人物識別部５２は、画像情報および音声情報を、人物情報記憶部５１にあらかじめ登録された特定の人物の画像情報および音声情報と照合することにより判断する。照合に先立ち、撮影装置２１で獲得した画像情報や録音装置３１で獲得した音声情報は、特定の人物を撮影した映像情報や特定の人物の発声を録音した音声情報を、人物情報記憶部５１に格納する際に行う方法と同じ方法で加工する。
【０１５９】
例えば、画像情報と音声情報が有効で、かつ、画像情報から判断した人物と音声情報から判断した人物が一致していた場合は、その人物を人物識別結果とし、そうでない場合は、画像情報から判断した結果に付けた得点と、音声情報から判断した結果に付けた得点の大きい方の結果を人物識別結果とする。両者の得点を比較する際、画像情報と音声情報間のバランスを定める重み係数を用意し、その重みを加味した上で判断してもよい。
【０１６０】
さらに、画像情報から判断した人物と音声情報から判断した人物の履歴を参考にしてもよい。画像情報および音声情報から人物を判断した際、それぞれ得点を付けて複数の候補を選出する。それを先の方法にしたがい組合せ、画像情報および音声情報の両方を参考した得点付きの複数の候補を求める。これらの得点を人物候補ごとに累積し、累積値があらかじめ定めたある値を超えた時点で、その人物を認識したと判断する。いったん人物が確定すると、人物検出、音声検出が一定時間途絶えるまではこれを保持する。人物検出、音声検出が一定時間途絶えた場合は、この履歴を抹消し、再度、特定の累積を開始する。人物の履歴を参考する場合で、人物状態認識部５３では人間の存在が確認できなかったが画像情報もしくは音声情報のどちらか一方が得られた場合、その画像もしくは音声情報に対して人物の識別を行い、得られた得点を低めた上でその得点を累積する。ただし、人物の特定の判断、すなわち、累積値があらかじめ定めたある値を超えたかの判断は、人物状態認識部５３で人物の存在が確認された場合のみ行う。
【０１６１】
次に、人物状態認識部５３における人物状態認識処理を説明する。ここで、人物の状態とは、人物の位置、方向、姿勢のことである。補助センサ部４０ａからは人間がいる方向と補助センサ４０ａの機能により距離がわかる。画像センサ２０ａの画像情報からは、人間の存在を確認できた場合に限り方向と距離もわかり、さらに顔の向きに関する情報が登録されている場合は姿勢（顔の向き）もわかる。音声センサ３０ａの音声情報からは、人間の音声を確認できた場合に限り人間の音声が聞こえてくる方向がわかり、環境の複数箇所にそれぞれ複数の録音装置を配置した場合は、環境内での人間の位置がわかる。
【０１６２】
次に、動作認識結果と音声認識結果に基づくコマンド理解について説明する。
【０１６３】
人物識別で人物を識別できていると判断されている間の動作認識結果と音声認識結果のそれぞれに対し、それぞれの結果から得られたコマンドについて、コマンド辞書記億部５４に格納されたアプリケーション６０のコマンドとの対応を調べ、動作から判断したコマンドと音声から判断したコマンドが同じアプリケーションのコマンドに対応していて、かつ、そのコマンドが現在のアプリケーション６０が受け付けることのできるコマンドのリストに入っていた場合は、同コマンドを理解したと判断する。なお、人物識別で人物を識別できていると判断されている状態で、動作認識による結果と音声認識による結果のどちらか一方しか得られていない場合であれば、その結果から得られたコマンドが現在のアプリケーション６０が受け付けることのできるコマンドのリストに入っている場合は、同コマンドを理解したと判断する。
【０１６４】
以上のように理解したコマンド内容をアプリケーションヘ提供する。人物状態認識部５３によって認識した人物の位置、方向、姿勢に関する情報と、人物識別部５２で特定した人物を指し示す情報と、コマンド理解部５５にて理解したコマンドに関する情報を、アプリケーション６０から問い合わせがあった場合に返答する。他の扱いとしては、アプリケーション６０からの問い合わせを待たず、これらの情報が得られたら即座にアプリケーション６０に通信部５７などを用いてアプリケーション６０に通知する処理でも良く、必要な情報が揃った時点でアプリケーション６０に通知するものでも良い。
【０１６５】
次に、総合解析部５０ａにおけるコマンド辞書の生成処理について説明する。
アプリケーション６０の開始に先立ち、コマンド辞書記憶部５４中、アプリケーション６０が受け付ける各コマンドと、動作パターン記憶部２３４および音声パターン記憶部３３４中のコマンドの関連を表すリンクをコマンド辞書記憶部５４に格納する。また、コマンド辞書記憶部５４のアプリケーション６０が受理可能なコマンドのリストは、アプリケーション６０が開始した後、アプリケーション６０が状況に応じて設定する。このリストを空にすることにより、コマンドを受け付けないようにすることもできる。
【０１６６】
（実施形態４）
実施形態４の構成例を図８に示す。
【０１６７】
実施形態４にかかる図８の構成例では、不特定人物の動作コマンド、音声コマンドおよび人物の状態を理解する。実施形態３で説明した図６の構成例に比べて総合解析部５０ｂの構成が異なるものとなっている。この構成は総合解析部５０ｂが、人物情報記憶部５１、人物識別部５２を持っていない。また、コマンド理解部５５は、人物状態認識部５３の結果を、人物識別部５２を介さず直接受け取る構成となっている。
【０１６８】
この構成によれば、人物の識別処理を特に行わず、入力されたすべての人物に関する情報を処理し、不特定人物の動作コマンド、音声コマンドおよび人物の状態を理解する。
【０１６９】
（実施形態５）
本発明の複数のセンサによるヒューマンインタフェースシステムは、上記に説明した構成を実現する処理ステップを記述したプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することにより、各種コンピュータを用いて構築することができる。本発明の複数のセンサによるヒューマンインタフェースシステムを実現する処理ステップを備えたプログラムを記録した記録媒体は、図９に図示した記録媒体の例に示すように、ＣＤ−ＲＯＭ１００２やフレキシブルディスク１００３等の可搬型記録媒体１００１だけでなく、ネットワーク上にある記録装置内の記録媒体１０００や、コンピュータのハードディスクやＲＡＭ等の記録媒体１００５のいずれであっても良く、プログラム実行時には、プログラムはコンピュータ１００４上にローディングされ、主メモリ上で実行される。
【０１７０】
本発明の複数のセンサによるヒューマンインタフェースシステムについてさらに以下の項を開示する。
【０１７１】
（付記１）  検出対象の範囲と検出精度を決定し、当該検出精度により当該検出対象から特定の検出信号を獲得するセンサとして、検出信号が異なる少なくとも２種類以上のセンサと、
前記各センサで検出された結果間に相互に矛盾がないか否かを調べ、各センサに対する制御情報を生成する総合解析部と、
前記各センサによる検出結果を利用するアプリケーションと、
前記各センサ相互間、前記各センサと前記総合解析部間、前記総合解析部と前記アプリケーション間においてデータと制御情報を通信し合う通信手段を備え、
前記各センサが、他のセンサから得た前記信号検出結果または制御情報、前記総合解析部から得た前記制御情報のいずれかまたはその組み合わせを利用して、次回の信号獲得時における検出対象の範囲と検出精度を決定し、
前記各センサが、前記通信手段を介して、他のセンサに対して、自身の信号検出結果と、他のセンサが次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力し、
前記総合解析部が、前記通信手段を介して、前記各センサが次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力することを特徴とする複数のセンサによるヒューマンインタフェースシステム（１）。
【０１７２】
（付記２）  前記検出対象が人であり、前記センサが少なくとも画像センサと音声センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備えた付記１に記載の複数のセンサによるヒューマンインタフェースシステム（２）。
【０１７３】
（付記３）  前記検出対象が人であり、前記センサが少なくとも画像センサと補助センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である付記１に記載の複数のセンサによるヒューマンインタフェースシステム（３）。
【０１７４】
（付記４）  前記検出対象が人であり、前記センサが少なくとも音声センサと補助センサを含み、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である付記１に記載の複数のセンサによるヒューマンインタフェースシステム（４）。
【０１７５】
（付記５）  前記検出対象が人であり、前記センサが少なくとも画像センサと音声センサと補助センサを含み、
前記画像センサの検出信号が人の画像認識情報であり、
前記画像センサが、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識部を備え、
前記音声センサの検出信号が人の音声認識情報であり、
前記音声センサが、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識部を備え、
前記補助センサの検出信号が人の位置情報を検出するために有効な情報である付記１に記載の複数のセンサによるヒューマンインタフェースシステム（５）。
【０１７６】
（付記６）  前記補助センサとして、超音波センサ、赤外センサ、レンジセンサのいずれかまたはそれらの組み合わせを用いた付記３〜５のいずれかに記載の複数のセンサによるヒューマンインタフェースシステム。
【０１７７】
（付記７）  検出対象の範囲と検出精度を決定し、当該検出精度により当該検出対象から特定の検出信号を獲得するセンサの処理として、検出信号が異なる少なくとも２種類以上のセンサの処理と、
前記各センサで検出された結果間に相互に矛盾がないか否かを調べ、各センサの処理に対する制御情報を生成する総合解析処理と、
前記各センサ処理による検出結果を利用するアプリケーション処理と、
前記各センサ処理相互間、前記各センサ処理と前記総合解析処理間、前記総合解析処理と前記アプリケーション処理間においてデータと制御情報を通信し合う通信処理を備え、
前記各センサ処理が、他のセンサ処理から得た前記信号検出結果または制御情報、前記総合解析処理から得た前記制御情報のいずれかまたはその組み合わせを利用して、次回の信号獲得時における検出対象の範囲と検出精度を決定し、
前記各センサ処理が、前記通信手段を介して、他のセンサ処理に対して、自身の信号検出結果と、他のセンサ処理が次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力し、
前記総合解析処理が、前記通信手段を介して、前記各センサ処理が次回の信号獲得時における検出対象の範囲と検出精度の決定に利用する制御情報を出力することを特徴とする複数のセンサによるヒューマンインタフェース方法。
【０１７８】
（付記８）  前記検出対象が人であり、前記センサ処理が少なくとも画像センサ処理と音声センサ処理を含み、
前記画像センサ処理の検出信号が人の画像認識情報であり、
前記画像センサ処理が、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識処理を備え、
前記音声センサ処理の検出信号が人の音声認識情報であり、
前記音声センサ処理が、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識処理を備えた付記７に記載の複数のセンサによるヒューマンインタフェース処理方法。
【０１７９】
（付記９）  前記検出対象が人であり、前記センサ処理が少なくとも画像センサ処理と補助センサ処理を含み、
前記画像センサ処理の検出信号が人の画像認識情報であり、
前記画像センサ処理が、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識処理を備え、
前記補助センサ処理の検出信号が人の位置情報を検出するために有効な情報である付記７に記載の複数のセンサによるヒューマンインタフェース処理方法。
【０１８０】
（付記１０）  前記検出対象が人であり、前記センサ処理が少なくとも音声センサ処理と補助センサ処理を含み、
前記音声センサ処理の検出信号が人の音声認識情報であり、
前記音声センサ処理が、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識処理を備え、
前記補助センサ処理の検出信号が人の位置情報を検出するために有効な情報である付記７に記載の複数のセンサによるヒューマンインタフェース処理方法。
【０１８１】
（付記１１）  前記検出対象が人であり、前記センサ処理が少なくとも画像センサ処理と音声センサ処理と補助センサ処理を含み、
前記画像センサ処理の検出信号が人の画像認識情報であり、
前記画像センサ処理が、画像認識結果に基づいて検出対象の動作を解釈し、ジェスチャ入力によるコマンド入力を認識する動作認識処理を備え、
前記音声センサ処理の検出信号が人の音声認識情報であり、
前記音声センサ処理が、音声認識結果に基づいて検出対象の音声を解釈し、音声入力によるコマンド入力を認識する音声認識処理を備え、
前記補助センサ処理の検出信号が人の位置情報を検出するために有効な情報である付記７に記載の複数のセンサによるヒューマンインタフェース処理方法。
【０１８２】
（付記１２）  前記補助センサ処理として、超音波センサ処理、赤外センサ処理、レンジセンサ処理のいずれかまたはそれらの組み合わせを用いた付記９〜１１のいずれかに記載の複数のセンサによるヒューマンインタフェース処理方法。
【０１８３】
【発明の効果】
本発明の複数のセンサによるヒューマンインタフェースシステムによれば、画像情報と音声情報を同時に扱うことによって、実際には声がしない人の顔を映した写真やマネキン人形を人間として認識してしまうことや、人間ではない音響機器のスピーカーから流れ出た音声情報を認識してしまうことがなくなり、マンマシンインタフェースの誤動作が減る。同様に、画像情報と音声情報が処理結果を互いに利用することで、声がしないところの映像を処理対象にしたり、人間がいないところの音声を処理対象することがなくなり、処理を誤る確率が減る。また、処理対象データが減ることから、処理速度が向上する。
【０１８４】
本発明の複数のセンサによるヒューマンインタフェースシステムによれば、補助センサを用いて、画像情報と音声情報では扱えない情報を獲得することにより、画像や音声を処理における探索範囲を狭め、処理速度を向上できる。また、補助センサの情報を利用することにより、撮影装置や録音装置の配置数を減らすことができる。
【図面の簡単な説明】
【図１】  本発明の実施形態１にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示す図
【図２】  図１の基本構成を適用し、図１の画像センサ２０、音声センサ３０、補助センサ４０構成例を詳しく示した図
【図３】  本発明の実施形態１の複数のセンサによるヒューマンインタフェースシステムの信号処理の流れを示したフローチャート
【図４】  本発明の実施形態１にかかる総合解析部５０の信号処理の流れを示したフローチャート
【図５】  本発明の実施形態２にかかる、実施形態１に示した構成を変形した構成例を示す図
【図６】  本発明の実施形態３にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示すブロック図
【図７】  本発明の実施形態３のヒューマンインタフェースシステム全体の処理の流れを示すフローチャート
【図８】  本発明の実施形態４にかかる複数のセンサによるヒューマンインタフェースシステムの装置構成概略を示すブロック図
【図９】  本発明の実施形態５にかかる複数のセンサによるヒューマンインタフェースシステムを実現する処理プログラムを記録した記録媒体を示した図
【図１０】  従来におけるセンサを用いたインタフェースの例を示す図
【図１１】  従来におけるセンサを用いたインタフェースの他の例を示す図
【符号の説明】
１０  センサ部
２０，２０ａ  画像センサ
２１  撮影装置
２２  撮影装置制御部
２３，２３ａ  画像解析部
２４  通信部
３０，３０ａ  音声センサ
３１  録音装置
３２  録音装置制御部
３３，３３ａ  音声解析部
３４  通信部
４０，４０ａ  補助センサ部
４１  補助センサ装置
４２  補助センサ装置制御部
４３  信号解析部
４３ａ  人物位置検出部
４４  通信部
５０，５０ａ，５０ｂ  総合解析部
５１  人物情報記憶部
５２  人物識別部
５３  人物状態認識部
５４  コマンド辞書記憶部
５５  コマンド理解部
５６  出力部
５７  通信部
６０，６０ａ  アプリケーション
６１  通信部
７１，７２，７３，７４，７５  データ／制御信号通信手段
７６  通信路
２３１  人物検出部
２３２  人物映像記憶部
２３３  動作認識部
２３４  動作パターン記憶部
３３１  音源検出部
３３２  人物音声記憶部
３３３  音声認識部
３３４  音声パターン記憶部
【図１】
0004624577.tif 000002
【図２】
0004624577.tif 000003
【図３】
0004624577.tif 000004
【図４】
0004624577.tif 000005
【図５】
0004624577.tif 000006
【図６】
0004624577.tif 000007
【図７】
0004624577.tif 000008
【図８】
0004624577.tif 000009
【図９】
0004624577.tif 000010
【図１０】
0004624577.tif 000011
【図１１】
0004624577.tif 000012