(57)【要約】  コミュニケーションは、人間−ロボット相互作用における重要な問題である。サインは、ユーザの命令又はコマンドを提供することにより機械との相互作用に用いられる。本発明の一実施形態は、人間の検出、人間のボディパーツ検出、手形状分析、軌道分析、向き決定、ジェスチャマッチング等を含む。形状及びジェスチャの多くの型が、コンピュータビジョンに基づく煩わしくない様式で認識される。多くのアプリケーションが、家電の遠隔制御、コンピュータ制御装置のマウスレス（及びタッチレス）操作、ゲーミング及び他方に命令を与えるための人間−ロボットコミュニケーションを含むこのサイン理解技術により実現可能となる。動的な検出ハードウェアが、ビデオレートでの深度画像のストリームを取得するために用いられ、深度画像のストリームは、情報抽出のために順次分析される。
2007538318.tif 000002
【特許請求の範囲】
【請求項１】
画像ピクセルに関連し、カメラへの距離に対応する深度データを含む対象のデジタル画像を受信するステップと、
前記画像ピクセルに関連する前記深度データに基づいて前記画像ピクセル内の対象の手の位置を決定するステップと、
記憶された複数の形状画像の一以上と候補画像とを比較することにより、前記デジタル画像で取得された前記対象の前記手の候補画像と前記複数の形状画像からの記憶された形状画像とをマッチングするステップと、
を含むことを特徴とする人間−機械相互作用のためのコンピュータに基づく方法。
【請求項２】
前記手の候補画像をマッチングするステップは、
前記手の位置の画像ピクセルデータから前記手の骨格表現を生成するステップと、
少なくとも指の数を含む前記骨格表現から一以上の手の特性を決定するステップと、
をさらに含み、
前記候補画像と比較するための記憶された複数の形状画像の一以上は、少なくとも指の数に基づいてフィルタリングされる
ことを特徴とする請求項１に記載の方法。
【請求項３】
前記手の候補画像をマッチングするステップは、
前記画像ピクセルの決定された位置における前記手のエッジを決定するステップと、
前記手のエッジに関する前記画像ピクセルにピクセル距離変換を適用して候補エッジ画像を作成するステップと、
をさらに含み、
前記候補エッジ画像と記憶された画像の距離変換との間の相関関係に基づいて類似度値を決定するために、記憶された複数の形状画像の一以上は、記憶された形状画像への前記候補画像の射影に基づいて前記候補画像と比較するための画像のエッジピクセル変換を含む
ことを特徴とする請求項１に記載の方法。
【請求項４】
前記対象の手の位置を決定するステップは、
前記デジタル画像を複数の所定の領域に分割するステップと、
所定の領域と前記手の位置とを関連付けるステップと、
対象の頭の位置及び対象の胴体の位置の少なくとも一つと関連する一以上の領域を決定するステップと、
をさらに含むことを特徴とする請求項１に記載の方法。
【請求項５】
対象のデジタル画像を受信するステップと、
前記デジタル画像を前処理して、少なくとも手の位置と、前記対象の頭及び胴体の少なくとも一つの位置と、を決定するステップと、
前記手の形状と記憶された複数の手の形状画像の一つとをマッチングして、前記デジタル画像に関連するマッチングされた形状を提供するステップと、
前記対象の頭及び胴体の一つに対する前記手の位置に関連する情報と、前記デジタル画像に関連するマッチングされた形状を示す情報と、を含む候補画像データオブジェクトを生成するステップと、
前記候補画像データオブジェクトとテンプレートジェスチャに関して記憶された一以上のジェスチャプロファイルとを比較することにより、一以上のデジタル画像により取得されたジェスチャとテンプレートジェスチャとをマッチングするステップと、
を含み、
前記ジェスチャプロファイルは、ボディパーツに対する手の位置情報と、前記候補画像データオブジェクトと比較するための手の形状情報と、を含む
ことを特徴とする人間−機械相互作用のためのコンピュータに基づく方法。
【請求項６】
トレーニング処理を含む前処理が、
前記対象の既知のポーズを有する画像のトレーニングセットの主成分分析を実行して射影行列を得るステップと、
前記射影行列に基づく前記対象の候補ポーズに対応するベクトルを射影することにより前記デジタル画像内の前記対象のポーズを決定し、既知のポーズを有する前記トレーニングセット内の最近傍のポーズを得るステップと、
を含むことを特徴とする請求項５に記載の方法。
【請求項７】
前記候補画像データオブジェクトは、形状情報、向き情報及び軌道情報を含む掌情報セクションと、前記指の数及び前記指の方向を含む指情報セクションと、を含むことを特徴とする請求項５に記載の方法。
【請求項８】
前記対象の前記デジタル画像は、ハイブリッドな深度−画像情報を含むことを特徴とする請求項５に記載の方法。
【請求項９】
前処理が、前記ハイブリッドな深度−画像情報を分析して、前記対象の画像取得システムまでの距離に基づいて位置を決定するステップを含むことを特徴とする請求項８に帰しの方法。
【請求項１０】
一以上のデジタル画像により取得されたジェスチャとテンプレートジェスチャとをマッチングするステップは、
用いられる手の数、用いられる指の数、指間の距離、手の位置、手の位置の変化、手の形状の情報及び指情報からなるグループのうちの一以上の特性に関連する値を比較するステップ
をさらに含むことを特徴とする請求項５に記載の方法。
【請求項１１】
前記手の形状の情報は、指の数、指の識別番号、指の形状及び指の向きからなるグループのうちの一以上の特性をさらに含むことを特徴とする請求項１０の記載の方法。
【請求項１２】
一以上のデジタル画像で取得された手の形状と複数の手の形状パターンとをマッチングして候補ジェスチャ手形状を決定するステップと、
一以上のデジタル画像から前記手の軌道曲線を決定するステップと、
前記手の軌道曲線と複数の軌道曲線テンプレートとをマッチングして候補ジェスチャ動きを決定するステップと、
前記候補ジェスチャ手形状及び前記候補ジェスチャ動きとジェスチャ手形状及びジェスチャ動きに関連する複数のジェスチャプロファイルとを比較することにより、前記候補ジェスチャ手形状及び前記候補ジェスチャ動きに対応するジェスチャを決定するステップと、
を含むことを特徴とする人間−機械相互作用のためのコンピュータに基づく方法。
【請求項１３】
一以上のデジタル画像で取得された前記手の形状が静止しているか否かを判定するステップと、
前記手の形状が静止していると判定された場合に、前記手の形状と静止したジェスチャに対応する複数の手の形状パターンとを比較してジェスチャを決定するステップと、
をさらに含むことを特徴とする請求項１２に記載の方法。
【請求項１４】
人間画像情報を含む画像データのフレームを受信し、前記フレーム内の人間の一以上のボディパーツの位置を決定するように構成された画像データ前処理モジュールと、
決定された前記位置を受信できるように前記画像データ前処理モジュールに接続され、前記画像データに関連する情報と形状データベースに記憶された形状プロファイルとを比較することにより前記一以上のボディパーツの形状をマッチングするように構成された形状マッチングモジュールと、
形状及び位置情報を受信できるように前記画像データ前処理モジュール及び前記形状マッチングモジュールに接続され、前記一以上のボディパーツのジェスチャ特性とジェスチャデータベースに記憶されたジェスチャプロファイルとを比較することにより前記一以上のボディパーツのジェスチャをマッチングするジェスチャマッチングモジュールと、
を備え、
前記ジェスチャ特性は、ボディパーツの位置に関連する値と形状情報とを含む
ことを特徴とする人間−機械相互作用のためのコンピュータに基づくシステム。
【請求項１５】
画像データ取得システムをさらに備え、
前記画像データ取得システムは、当該画像データ取得システムからの深度の範囲内のシーンのハイブリッドな画像−深度情報を取得するように構成されている
ことを特徴とする請求項１４に記載のコンピュータに基づくシステム。
【請求項１６】
前記画像データ取得システムは、単一の光軸に沿って前記ハイブリッドな画像−深度情報を取得するように構成された飛行時間カメラを備えていることを特徴とする請求項１５に記載のコンピュータに基づくシステム。
【請求項１７】
前記形状マッチングモジュール及び前記ジェスチャマッチングモジュールに接続され、前記形状データベース及び前記ジェスチャデータベースを備えたデータ記憶システムをさらに備えることを特徴とする請求項１４に記載のコンピュータに基づくシステム。
【請求項１８】
前記画像データ前処理モジュール、前記形状マッチングモジュール及び前記ジェスチャマッチングモジュール間の接続は、ＲＡＭ装置を備えていることを特徴とする請求項１４に記載のコンピュータに基づくシステム。
【請求項１９】
対象のデジタル画像を受信するためのプログラム命令と、
前記デジタル画像に前処理を施して少なくとも手の位置と前記対象の頭及び胴体の少なくとも一つの位置とを決定するためのプログラム命令と、
前記手の形状と記憶された複数の手の形状画像の一つとをマッチングして、前記デジタル画像に関連するマッチングされた形状を提供するためのプログラム命令と、
前記対象の頭及び胴体の一つに対する前記手の位置に関連する情報と、前記デジタル画像に関連するマッチングされた形状を示す情報と、を含む候補画像データオブジェクトを生成するためのプログラム命令と、
前記候補画像データオブジェクトとテンプレートジェスチャに関して記憶された一以上のジェスチャプロファイルとを比較することにより、一以上のデジタル画像により取得されたジェスチャとテンプレートジェスチャとをマッチングするためのプログラム命令と、
を含み、
前記ジェスチャプロファイルは、ボディパーツに対する手の位置情報と、前記候補画像データオブジェクトと比較するための手の形状情報と、を含む
ことを特徴とする人間−機械相互作用のためのコンピュータ読取可能な媒体。
【請求項２０】
対象のデジタル画像を受信するための手段と、
前記デジタル画像に前処理を施して少なくとも手の位置と前記対象の頭及び胴体の少なくとも一つの位置とを決定するための手段と、
前記手の形状と記憶された複数の手の形状画像の一つとをマッチングして、前記デジタル画像に関連するマッチングされた形状を提供するための手段と、
前記対象の頭及び胴体の一つに対する前記手の位置に関連する情報と、前記デジタル画像に関連するマッチングされた形状を示す情報と、を含む候補画像データオブジェクトを生成するための手段と、
前記候補画像データオブジェクトとテンプレートジェスチャに関して記憶された一以上のジェスチャプロファイルとを比較することにより、一以上のデジタル画像により取得されたジェスチャとテンプレートジェスチャとをマッチングするための手段と、
を備え、
前記ジェスチャプロファイルは、ボディパーツに対する手の位置情報と、前記候補画像データオブジェクトと比較するための手の形状情報と、を含む
ことを特徴とする人間−機械相互作用のためのコンピュータに基づくシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、Liuらにより２００４年５月１４日に出願された米国仮特許出願第６０／５７１，３１９号「深度データを用いた手のジェスチャ認識」に基づいて優先権を主張するものであり、参照により本明細書中に組み込むものとするとともに、フジムラらにより２００４年１２月１０日に出願された米国仮特許出願第６０／６３５，１４６号「サインに基づく人間−機械相互作用」に基づいて優先権を主張するものであり、参照により本明細書中に組み込むものとする。
【０００２】
本発明は、一般的に人間−機械相互作用に関し、より詳細には、人間のサイン及びジェスチャのコンピュータ視覚認識に基づく人間−コンピュータ相互作用（ＨＣＩ）に関する。
【背景技術】
【０００３】
超高速計算システム及び高効率デジタル撮像システムの出現により、人間−機械相互作用に基づくコンピュータビジョンの分野は有意な技術的進歩の時代を経験している。動きが機械からの応答を誘導する単純な動き検出システム（例えば、監視システム）から高度に複雑な３次元（「３Ｄ」）撮像サイン認識システムまで、最近数年で急激に発展したテーマである。例えば、人間−機械コミュニケーションに基づくサインの領域において、人間の手話の認識は、人間−機械コミュニケーションの前途有望な技術として最近最も研究されたテーマである。他のサイン認識システム及びより複雑なジェスチャ認識システムは、手及び手の他のボディパーツ（例えば、腕、胴体、頭等）に対する動きを位置決めし追跡するための様々な手法に基づいて開発されてきた。
【０００４】
これらのサイン及びジェスチャのための従来の技術は、一般的に、サイン又はジェスチャのソースを見つけ出すときに機械ビジョンシステムを助けるために、マーカ、特定の色、背景又はグローブを必要としている。例えば、手検出に関するいくつかの従来のアプローチは、手又はシステムへの手のジェスチャに対応する画像領域を決定するために色又は動き情報を用いている。これらのアプローチにおいて、手の動きを追跡することは、様々な照明条件下では非常に信頼できない。いくつかのシステムは、グローブのような特別な装置を用いており、他のいくつかは、タスクが実現可能なように特定の色を有する背景を用いている。
【０００５】
これらの従来のシステムにおいて、手の位置が画像フレームを横切るように決定されて追跡された場合には、提供されたサインを決定するための手の形状の分析は、非常に困難なタスクである。画像データのリアルタイム処理に基づく形状を分析しようとする場合には、形状認識タスクは、さらに困難になる。手形状分析処理の効率を改善するために、手領域の拡大された視野が、画像取得装置をシーンの好適な領域にフォーカシングすることにより用いられる。しかし、ボディ、腕、頭又は他のポスチャ情報が、撮像フレームから外れることにより失われてしまうおそれがある。
【０００６】
画像データにおける全体的なボディのポスチャ情報を取得するために、いくつかの深度取得システムが複数のカメラを深度情報を決定するための手段として用いている。異なる角度から取得された画像は、サブジェクトの３Ｄ情報を抽出するために有効なデータを提供する。得られた３Ｄボリュームを理解するために、３Ｄモデル適合が提案されているが、複雑かつ集中的な計算を要する処理であり、しばしば不安定であり一般的にはリアルタイムアプリケーションに適合しない。深度取得システムに一般的に選択されるステレオビジョンは、大抵の場合サブジェクトのテクスチャの欠乏により手形状分析のために有効な画像解像度を提供することができない。このように、深度は、第一に、大きな指示の動きのような単純なジェスチャの制限されたセットを検出するために用いられる。いくつかのアプローチは、静的な手ポスチャ分析のためにコード化された照明を用いることにより得られた高解像度３Ｄデータを用いる。しかし、これらの高解像度システムは、一般的に入手不可能又はリアルタイム実行が不能な、大規模な計算及び記憶リソースを必要とする。
【発明の開示】
【発明が解決しようとする課題】
【０００７】
したがって、（１）手の位置、手の形状、動き、向き、速さ等を同時に含む複数の特徴を分析することができ、（２）特別な背景、マーク又はグローブを用いることなくジェスチャを認識することができ、（３）計算的に安価な計算モジュールに基づいてリアルタイムジェスチャ認識を達成することができ、（４）明るさの変化にほとんど影響を受けない、人間−機械相互作用のためのジェスチャ及びサイン認識に基づくコンピュータへのアプローチが必要とされている。
【課題を解決するための手段】
【０００８】
本発明によると、人間−機械相互作用のためのシステム、方法、装置及びコンピュータ読取可能な媒体が提供される。一実施形態において、システムは、人間−機械相互作用のためのコマンド及び他のコミュニケーションとしてのジェスチャ及びサインの認識及び解釈に基づくコンピュータビジョンを提供する。
【０００９】
一実施形態によると、人間−機械相互作用のためのシステム及び方法は、対象のデジタル画像における深度及び画像情報に基づき動作する。対象のデジタル画像が受信される。デジタル画像は、対象（又は他の背景）からカメラまでの距離に対応する画像ピクセルに関連する深度データを含む。画像のピクセル内の対象の手の位置は、ピクセルに関連する深度データに基づいて決定される。デジタル画像内で取得された対象の手の候補形状は、記憶された形状画像と候補形状とを比較することにより、形状画像のセットからの記憶された形状画像とマッチングされる。
【００１０】
他の実施形態によると、人間−機械相互作用のための方法及びシステムは、受信した対象のデジタル画像に頼っている。デジタル画像は、対象の少なくとも手及び頭又は胴体の位置を決定するために前処理を施される。手の形状は、記憶された手の形状とマッチングされて、デジタル画像に関連するマッチングされた形状を提供する。候補画像データオブジェクトは、対象の頭又は胴体に対する手の位置に関連する情報を含んで生成される。候補画像データオブジェクトは、デジタル画像に関連してマッチングされた形状を示す情報も含む。デジタル画像により取得されたジェスチャは、候補画像データオブジェクトと記憶されたジェスチャプロファイルとを比較することにより記憶されたジェスチャとマッチングされる。記憶されたジェスチャプロファイルは、同様に、ボディパーツに対する手の位置情報と、候補画像データオブジェクトと比較するための手の形状情報と、を含む。
【００１１】
さらに他の実施形態によると、人間−機械相互作用のためのコンピュータに基づくシステムは、画像データ前処理モジュールと、形状マッチングモジュールと、ジェスチャマッチングモジュールと、を備えている。画像データ前処理モジュールは、人間画像情報を含む画像データのフレームを受信するためのものである。さらに、画像データ前処理モジュールは、フレームにおいて人間の一以上のボディパーツの位置を決定することができるように構成されている。この及び他の情報が、形状マッチングモジュールにより用いられ、画像データに関連する情報と形状データベース内に記憶された形状プロファイルとを比較することによりボディパーツの形状をマッチングする。この目的のために、形状マッチングモジュールは、画像データ前処理モジュールに接続されており、決定された位置を受信することができる。さらに、ジェスチャマッチングモジュールも、画像データ前処理モジュール及び形状マッチングモジュールに接続されており、形状及び位置情報を受信することができる。ジェスチャマッチングモジュールは、ボディパーツのジェスチャ特性とジェスチャデータベースに記憶されたジェスチャプロファイルとを比較することによりボディパーツのジェスチャをマッチングすることができる。ジェスチャ特性は、ボディパーツの位置に関連する値と形状情報とを含む。
【００１２】
本明細書に記載された特徴及び利点は、全てを包含しているものではなく、特に、当業者にとっては、図面、明細書及び特許請求の範囲を参照することにより、多くの追加的な特徴及び利点が明らかとなるであろう。さらに、明細書で用いられる言語は、原則として読みやすさと説明の目的のために選択されたものであり、発明の主題を線引き又は制限するために選択されたものではないことに留意されたい。
【発明を実施するための最良の形態】
【００１３】
符号及び以下の説明は、説明のみによって本発明の好適な実施形態に関連している。以下の説明から、本明細書に開示された構造及び方法の他の実施形態が特許請求の範囲に記載された本発明の原則を逸脱しない範囲で用いられる実行可能な代替案として容易に認識されることに留意されたい。
【００１４】
図１（Ａ）を参照すると、パーソナルコンピューティング人間−機械相互作用システムの一実施形態が示されている。この実施形態において、システム１００ａは、例えば、一以上のデジタルビデオカメラ、デジタル静止画カメラ、飛行時間カメラ、赤外線カメラ等の撮像装置１０２を備えている。撮像装置１０２は、パーソナルコンピューティング装置１０３に接続されている。パーソナルコンピューティング装置１０３は、ディスプレイ１０８に接続されている。
【００１５】
パーソナルコンピューティング装置１０３は、有線又は無線接続を介して撮像装置１０２に接続されている。パーソナルコンピューティング装置１０３は、コンピュータプロセッサ及びＲＡＭ、ＲＯＭ、フラッシュメモリ、ディスクドライブ等を含むコンピュータ読取可能な記録媒体のような従来のデータ処理及び記憶装置を備えている。コンピュータ読取可能な媒体は、以下に説明するように、コンピュータシステムで実効される場合に、ある機能を実行するためのステップを実行するコンピュータプログラム命令を記憶することができる。好ましくは、コンピュータプロセッサは、実行可能なソフトウェアプログラムから得られるプログラム命令を実行するときに画像処理機能を実行可能な従来の多目的プロセッサである。一実施形態において、パーソナルコンピューティング装置１０３は、命令をパーソナルコンピューティング装置１０３に提供するためのジェスチャ認識特徴を含み、コンピュータディスプレイ１０８において関連する変化を達成する一以上のコンピュータプログラムにアクセスするコンピュータ読取可能な媒体を備えている。例えば、コンピュータゲーミングアプリケーションは、コンピュータシステム１０３にユーザのジェスチャに基づくコマンドの入力を受け、スクリーン１０８に表示されるようにゲームを制御させることができる。他の実施形態において、手話認識アプリケーションは、ヒトに従来の手話を用いてパーソナルコンピュータ１０３とコミュニケーションをとらせることができる。パーソナルコンピューティング装置１０３は、限定されることなく、デスクトップコンピュータ、ポータブル又はラップトップコンピュータ、携帯情報端末（ＰＤＡ）、携帯電話、ウェアラブルコンピュータシステム等を含んでもよいことに留意されたい。例えば、一実施形態において、パーソナルコンピューティング装置１０３は、例えば、カリフォルニア州サンタクララのインテル株式会社製のインテル画像処理ライブラリのような画像処理ライブラリを備えており、インテル株式会社製の１．２ＧＨｚペンティアムIIIプロセッサ上で一秒につき１４フレーム（３２０×２４０ピクセル）で動作する。
【００１６】
図１（Ｂ）を参照すると、ロボットの人間−機械相互作用システムが示されている。一実施形態において、人型ロボットシステム１００ｂは、撮像装置１０２と、バックパック１０１内に設けられた一以上のデータ処理ユニット及びデータ記憶装置と、を備えている。このようなシステムの一例が、日本国東京都の本田技研工業株式会社製の先進的人型ロボットＡＳＩＭＯ（登録商標）である。この実施形態において、撮像装置１０２は、人間を識別してジェスチャを制御するための画像データを取得することができるように構成されている。一実施形態において、深度検出カメラは、ロボットの視覚ユニット及びロボットの制御ロジック内のモジュールを含むデータ処理ユニットの一部である。処理ユニットは、以下に説明する技術を実行して人間のジェスチャを分離して動作用のコマンドを認識する。
【００１７】
この説明から分かるように、他の多くのアプリケーションが、多くの人間−コンピュータジェスチャに基づく相互作用システム、例えば、ドライバ又は同乗者が車両に命令を提供する車両アプリケーション、手話翻訳システム等を作成可能である。例えば、さらに他の実施形態において、深度検出カメラは、例えば、運転者アシスタント特徴又は他の車両安全特徴を制御するために、車両内のデータ処理制御ユニット内の計算モジュールに接続された車両のキャビンに設置される。このように、一般的に、データ処理システムは、マイクロチップコントローラ、搭載型プロセッサ等からワークステーション、パーソナルコンピュータ型システム又はネットワーク分散型処理システムまでを含むあらゆる処理システムであってもよい。
【００１８】
図２を参照すると、人間−機械相互作用システムの一実施形態の機能ブロック図が示されている。この実施形態において、画像データ取得システム１０２は、データ処理システム１０４に接続されている。データ処理システムは、データ記憶装置１４７を備えていることが望ましい。しかし、データ記憶装置１４７は、処理システム１０４に対して外付け又はリモートであってもよい。処理システム１０４は、出力装置１０６にも接続されている。一実施形態において、出力装置１０６は、データ処理システム１０４に外付け又は内装された、追加的なデータ処理モジュールである。例えば、出力装置１０６は、グラフィカルユーザインターフェイス、ディスプレイ、ジェスチャ−コマンド変換モジュール等であってもよい。
【００１９】
一実施形態において、画像データ取得装置１０２は、深度検出技術に基づいている。深度検出技術は、飛行時間原則に基づいている。この技術を用いたカメラは、飛行時間カメラとして知られている。本実施形態において、カメラ１０２の画像取得方法は、飛行時間カメラを用いた動的検出に基づいている。動的な深度検出は、赤外線照明のパルスを用いて実行される。パルスがターゲットに照射され、センサがターゲットから反射したエコー信号を読み取る。さらに、カメラ１０２は、信号がセンサに入るターゲットに対する検出領域を制御するための高速シャッタを有する。遠いオブジェクトに関して、エコーは、シャッタが閉じた後にのみカメラ１０２内のセンサに到達する。したがって、対応するオブジェクトに関しては信号が記録されない（したがって、ほとんどの背景のオブジェクトは記録されたシーンから消える）。深度検出カメラ１０２のこの特徴は、深度ウィンドウとして呼ばれる動作の幅（例えば、Ｄｍｉｎ−Ｄｍａｘ）を提供する。一実施形態において、深度情報は、この動作の幅すなわち深度ウィンドウ内のオブジェクト（例えば、人間）に関してのみ記録される。深度ウィンドウを超えた他のオブジェクトは、深度データを生成しない。すなわち、シャッタが閉じた後に反射した信号がカメラに到達する。他の実施形態は、Ｄｍａｘ距離を超えたオブジェクトに関する深度値がゼロ深度から始まる周期的な深度値を用いる。この実施形態において、深度値の繰り返しに基づく画像データの前処理は、不要な背景関連データが消えることを保証する。この幅の特徴は、Ｄｍａｘを撮像された対象のすぐ後ろに設定することにより、背景雑音を消している（すなわち、Ｄｍａｘ深度を超えたオブジェクトの存在が効果的に消されている）。
【００２０】
深度カメラ１０２は、一般的に深度画像データとして呼ばれるハイブリッドな画像データを提供する。このハイブリッドな深度画像データすなわち深度映像は、リアルタイムの同一の光軸を用いて深度及びカラー／グレースケール情報を同時に取得することにより生成される。画像レートは変化するが、システム１００の一実施形態は、１秒につき１４フレームでビデオストリームを作動させる。この考察の文脈において、カラー情報は、「黒及び白」（グレースケール）データと、一般的にカラーデータとして呼ばれるもの（例えば、ＲＢＧ／カラー）と、を含むものとする。例えば、図４を参照すると、一実施形態に係るハイブリッドな深度−カラーシーン画像が示されている。画像４００は、カラー情報サブフレーム４００ａと、深度情報サブフレーム４００ｂと、を含んでいる。ハイブリッドな画像４００は、従来のデジタル画像、すなわち、「カラー」（又はグレースケール／黒及び白）と同様であり、関連情報が全てのピクセルに関して提供される。ハイブリッドな画像４００の深度情報パート（サブフレーム４００ｂとして図示）は、各ピクセルに関する深度値を含んでいる。深度データを視覚的に表すために、画像のネガバージョンは、深度の各値（例えば、カメラまでの距離）に対応する明るさの各レベルを用いて生成され、深度サブフレーム４００ｂにより示されるように、近いオブジェクトほど明るく表され、背景のオブジェクトは暗くなる。
【００２１】
立体システムと比較して、深度カメラシステム１０２は、いくつかの改善された特性を備えており、例えば、環境がセンサのパルスを用いて同一波長の光を得られない限り、画像が室内環境で明るさ不変であり、深度のエラーは、深度ウィンドウ０．５〜３ｍに関してはほぼ５〜１５ｎｍであり、深度情報は、分けられた深度画像パート４００ｂ（１ピクセルにつき８ビット）に記録される。このことが、ジェスチャ認識に用いられる手とボディとの間の有意な分離を提供し、ハイブリッドな検出、すなわち、深度及び色画像の両方がリアルタイムスピード（例えば、３０フレーム／秒）で取得され、（壁のような）テクスチャを有しないオブジェクトの深度が得られる。一実施形態において、これらの改善された特徴及び他の特徴の全ては、複数のカメラのステレオ視システムに反して単一カメラシステム１０２に提供される。単一カメラシステム１０２は、従来のステレオ視複数カメラシステムの二以上のカメラ間の較正を不要にするという追加的な利点も提供する。
【００２２】
一実施形態において、画像データ取得システム１０２は、例えば、イスラエルのYokneam又はカリフォルニア州サンホセのCanesta,Inc.の３ＤＶシステムにより製造されたカメラのような飛行時間カメラを備えていることが望ましい。飛行時間カメラは、追跡される人間が動き回る範囲内のエリアを含む深度ウィンドウに設定されている。非対象オブジェクト、例えば、背景オブジェクトは、深度画像情報を構成しない。
【００２３】
図２に戻って参照すると、一実施形態において、データ処理システム１０４は、画像データ取得システム１０２から画像データの入力を受けるように構成された入力バッファ１４１を備えている。例えば、入力バッファ１４１は、周辺インターフェースハードウェア、ネットワークインターフェースハードウェア（有線又は無線）等に備えられていてもよい。好ましくは、画像データは、入力バッファ１４１を介して入力を受け、内部データ記憶装置１４２、例えば、フラッシュ、ＲＡＭ等に記憶される。
【００２４】
さらに、データ処理システム１０４は、いくつかのコンピューティングモジュールを備えている。例えば、一実施形態において、コンピュータプロセッサは、一以上のソフトウェアプログラムからの命令の実行を通じていくつかの機能モジュールを実行することができる。一実施形態において、画像データ前処理モジュール１４３は、内部データ記憶装置１４２の画像データにアクセスする。画像データ前処理モジュール１４３は、画像処理アルゴリズムを画像データに適用し、結果的に得られた候補画像データオブジェクトを内部データ記憶装置１４２に記憶させる。画像処理アルゴリズムは、形状決定、動き決定等を含んでいてもよい。例えば、画像データ前処理モジュール１４３は、未加工の画像データを処理してデータ処理システム１０４内の他のモジュールが関心を持つ画像の領域を決定する。一実施形態において、画像データ前処理モジュール１４３は、取得された画像内において、人間の形状、例えば、ボディ、頭、腕、手等に対応するピクセル領域を決定し、他のモジュールが処理することができるように標識決定領域を提供する。
【００２５】
データ処理システム１０４内の形状マッチングモジュール１４４は、画像データ及び候補データオブジェクトにアクセス可能となるように、内部データ記憶装置１４２に接続されている。形状マッチングモジュール１４４は、形状データベース１４８にも接続されている。形状データベース１４８は、データ記憶システム１４７内に記憶されている。例えば、一実施形態において、データ記憶システム１４７は、一以上のディスクドライブ内に実装されていてもよい。
【００２６】
形状マッチングモジュール１４４は、ユーザにより与えられたジェスチャを決定するために画像データ内の形状を識別することができるように構成されている。例えば、画像前処理モジュール１４３を欠く実施形態において、形状マッチングモジュール１４４は、人間のボディ、頭、腕、手及び他の形状を検出するアルゴリズムを備えていてもよい。他の実施形態において、形状マッチングモジュール１４４は、特定の形状を検出し、検出された形状と、形状データベース１４８の形状又は形状プロファイルと、をマッチングすることができるように構成されていてもよい。例えば、一実施形態において、形状マッチングモジュール１４４は、画像内の人間の手を検出し、人間の手の形状と、手の形状のデータベースとを比較し、標準的な手話、手のコマンドサインデータベース等と関連する手のサインに対応する所定の形状を見つけ出す。形状マッチングモジュール１４４は、追加的な入力データを記憶された候補画像データオブジェクトに提供し、追加された一つを生成し、又は、そうでなければ、他の処理システムモジュールにより用いられた出力を提供する。
【００２７】
好ましくは、データ処理ユニット１０４は、ジェスチャマッチングモジュール１４５も備えている。ジェスチャマッチングモジュール１４５は、入力を受けた画像データ及び候補画像データオブジェクトを求めて内部データ記憶装置１４２にアクセスする。また、ジェスチャマッチングモジュール１４５は、記憶されたジェスチャ情報プロファイルと候補画像データオブジェクトとを比較するためにジェスチャデータベース１４９にアクセスする。ジェスチャマッチングモジュール１４５は、出力されるジェスチャ認識結果を出力バッファ１４６に提供してもよい。一実施形態において、ジェスチャマッチングモジュール１４５は、データ処理システム１０４の他のモジュールによってアクセス可能となるように、出力を内部データ記憶装置１４２に記憶させる。例えば、一実施形態において、ジェスチャ−コマンドマッチングモジュールは、ジェスチャ認識出力にアクセスし、それを対応する機械コマンド、例えば、ゲーミングアプリケーションのゲーム制御コマンド、人型ロボットシステムに対する動きコマンド、サウンドシステム（例えば、車両内）に対するボリューム制御コマンド等にマッチングする。
【００２８】
図３を参照すると、ジェスチャ認識方法の一実施形態のフローチャートが示されている。この実施形態において、シーンのスナップショットを表す画像データが入力される（３０２）。好ましくは、シーンは、ジェスチャコマンドを提供する人間のサブジェクトを含んでいる。ジェスチャは、いくつかの関連する形状と、シーン内における位置と、動きと、を含んでいる。例えば、手のサインは、最終的な手のサインまでの変化の動きに関連する初期の手のサインを含む。さらに、手のサインは、サインに独特の意味を与える他のボディパーツ（例えば、頭又は胴体）に対する相対位置を含む。
【００２９】
１．画像前処理
この実施形態において、入力された画像データは、前処理されてシーン内の関心のある対象、例えば、人間を検出する（３０４）。一実施形態において、人間の胴体及び人間の頭の位置が識別される。いくつかの人間検出技術が用いられてもよい。例えば、一実施形態において、テンプレートを用いたグレー画像に基づく人間検出が用いられてもよい。テンプレートは、人間の形状に対応する、与えられたシーン画像のサブセット又は領域を抽出するために用いられる。
【００３０】
他の実施形態において、人間検出技術は、人間の上半身の３次元特徴を用い、Karhunen-Loeve（「Ｋ−Ｌ」）分解を用いてそれらを表す。例えば、この実施形態において、ハイブリッドな深度画像ビデオにおける深度情報は、対象である人間の位置を決定するために用いられる。前記したＤｍｉｎ／Ｄｍａｘ技術がシーンの範囲を制限するので、特別なカラー、グローブ等が対象を識別するために必要とされない。
【００３１】
一実施形態において、Ｋ−Ｌ分解を実行するために、入力された画像データは、マルチトレースの入力データセットとして表される。Ｋ−Ｌ分解技術は、マルチトレースの入力データセットの遅延ゼロの相互共分散の行列の固有値分解をトレースする非相関の（直交する）主成分のセットを算出する。入力データにおける最もコヒーレントなイベントは、いくつかの最も強い成分に対応する、（主成分分析すなわち「ＰＣＡ」に基づく）主成分トレースを合計することにより較正される。Ｋ−Ｌ分解は、コンパクトな形態で複数のデータ点を表すことができる。
【００３２】
以下のＰＣＡ手順は、本発明の一実施形態に係る見かけ上の固有空間を算出する一例である。ｍ次元の列ベクトルｘを定義する。ここで、ｍ＝ｐ×ｑであり、ｐ，ｑは、上半身の画像サイズである。サンプル画像のシーケンスから観測ベクトル｛ｘ１，ｘ２，…，ｘｎ｝を形成する。
【数１】
2007538318.tif 000003
に基づいて、平均ｕ及び共分散行列Σを算出する。共分散行列Σの最大のＫ、固有値λｊ及び対応する固有ベクトルφｊ（ｊ＝１，２，…，Ｋ）を計算する。
Σφｊ＝λｊφｊ
画像ベクトルｘに関して、Ｋ次元射影計数ベクトルが、ωｊ＝φｊＴ（ｘ−ｕ）により計算される。
【００３３】
異なる説明によると、このＰＣＡ手順は、トレーニングセットを抽出して射影行列を得るための一実施形態において用いられる。図５は、一実施形態に係る横から前までの視覚の全範囲にわたる対象のトレーニング画像のサンプルセットを示す。例えば、トレーニングセットは、ユーザに命令を提供して様々なポーズ角度でポーズをとらせるトレーニング期間において取得される。このように、ジェスチャ認識システムは、ユーザに対してカスタマイズされており、例えば、画像認識は認証目的のために用いられる。一実施形態において、グレースケール及び深度データ画像は、Ｋ−Ｌ分解が実行されるトレーニングセットとして用いられる。トレーニングアルゴリズムは、（図５に示される角度の任意の範囲内に割り当てられる）既知のポーズ角度を有するＭ個のトレーニング観測結果｛ｘ１，ｘ２，…、ｘＭ｝に基づいており、各観測結果画像ｘｉは、Ｎ＝Ｋ×Ｌの長さの列ベクトルとして表される。トレーニングアルゴリズムは、以下のステップを含む。
１．トレーニングフェーズ
入力：Ｍ次元画像空間における画像データ点｛ｘ１，ｘ２，…、ｘＭ｝
出力：
【数２】
2007538318.tif 000004
（推定フェーズで用いられる射影行列）
ステップ１：平均ベクトル
【数３】
2007538318.tif 000005
及び共分散行列（Ｃ）を構成する。
【数４】
2007538318.tif 000006
ステップ２：ＰＣＡ分析を実行する。
【数５】
2007538318.tif 000007
ここで、Ｃの最大のＰ固有値に対応する第一のＰ固有ベクトルは、固有空間の最適な線形近似として選択される。
ステップ３：推定
各観測結果ｘｉに関し、Ｐ次元固有空間に射影することができ、すなわち、
【数６】
2007538318.tif 000008
２．推定フェーズ
入力：ωｉ，
【数７】
2007538318.tif 000009
及び新規の観測結果ｙ
出力：ｙのポーズ
ステップ４：新規の観測結果ｙに関するポーズ推定
同様に、新規の観測結果は、Ｐ次元固有空間に射影される。
【数８】
2007538318.tif 000010
最近傍のポーズ
【数９】
2007538318.tif 000011
を得ることにより決定する。
【００３４】
前記した処理は、シーン内の人間のボディの位置を決定するためのポーズ推定における次に利用されるデータベースに記録される対象特異性の画像のセットを生成する。この処理は、既知のポーズ又は向きを用いた対象特異性の画像の取得を必要とする。例えば、トレーニング期間中に、図５に例示するように、対象である人間は、周期一杯である極端な向き（例えば、左向き）から他（例えば、右向き）まで回転する。一実施形態において、このことは、人間に対して、画像データ取得システム１０２が既知の向きを用いてサンプルトレーニング画像を取得しているシステムの初期化中に、カメラの前で左から右を向くように命令することにより達成される。
【００３５】
このアプローチを用いて、Ｋ−Ｌ分解に基づき、一実施形態において、９６の深度画像（大きさ５０×５０、１６視野、６スケールにわたって撮影）は、深度テンプレートとして用いられる１０の固有ベクトルにより表される。様々な人間の深度画像は、これらの深度テンプレートの線形結合により表される。与えられた画像に関して、システムは、まず、ｙ方向において全てのピクセル値を射影し、人間のボディの検出のための前記したＫ−Ｌ分解のステップを予め設定された閾値を超える位置に適用する。
【００３６】
一実施形態において、与えられたシーン４００において一旦人間が検出されると、画像データに関するさらなる分析が実行される。次のステップは、主なボディパーツの検出を含む。人間が立っており画像データ取得装置１０２に向いていると仮定すると、このように立っているポスチャの人間の頭（すなわち顔）は、例えば、図６に示されるような射影手法を適用することにより識別される。サインコマンドがボディ及び頭に対してどこに与えられているかによっていくつかのサインは異なる意味を有するので、ユーザの頭の検出は重要である。
【００３７】
図７は、一実施形態に係る領域のセットにおける画像シーン分割の一例を示す。画像シーン４００は、８つの領域７０２に分割される。各領域７０２は、ジェスチャ又はサインに関するいくつかの特定の意味を有している。例えば、手話に関し、「考える」ジェスチャに関する始めと終わりの位置は、領域２  ７０２ｂの範囲内に収まり、「空腹」に関するジェスチャは、領域４  ７０２ｄに制限される。さらに、頭のボックス７０４及び胴体のボックス７０６は、フレーム４００に関して定義され、胴体及び頭のゾーンを決定するのをアシストする。すなわち、システムは、与えられたアプリケーションによって、頭及び胴体が定義されたボックス内に収まると予測する。
【００３８】
したがって、一実施形態において、頭、胴体、腕及び手の一以上の位置は、次の処理に関する画像シーン内で見つけられる。一実施形態において、候補画像データオブジェクトは、位置フィールドのセットを用いて生成される。例えば、データオブジェクトは、頭及び／又は胴体に対する左右の手の位置を含んでいる。一実施形態において、手が位置する領域の番号すなわち識別子は、候補画像データオブジェクト内のフィールドに入れられる。
【００３９】
領域７０２は、ジェスチャに関連する一般化された動きを定義するために用いられる。例えば、一実施形態において、フレーム４００のセットにわたって取得されたジェスチャは、特定の手の始めの領域と終わりの領域とを用いて候補画像データオブジェクト内に表される。例えば、右手は、領域２  ７０２ｂで始まり領域５  ７０２ｅで終わり、右上部から左下部への移行すなわち動きを表す。さらに、ジェスチャに関して、この一般的な動きすなわち移行は、ジェスチャ検出システムが識別可能な特別な意味を有する。
【００４０】
Ａ．手の位置の検出
手検出手法の一実施形態は、前記した人間検出の結果を利用する。他の実施形態は、カメラまでの距離に関連するヒューリスティックに基づいてシーンの各フレーム内の手の位置を決定するために深度画像処理モジュールに依存しており、例えば、サインを行う手は、カメラに向かう人間のパーツに最接近する。
【００４１】
一実施形態において、画像データの前処理中に得られた候補画像データオブジェクト内に記憶されたデータは、例えば、前処理モジュール１４３が手が存在すると決定した領域７０２を分析することにより、手を検出するのに用いられる。他の実施形態において、前処理は、ボディ及び頭を含む画像内の領域を簡単に決定する。与えられた画像から、ボディに対応する位置が手検出ステップ中に引かれる。この実施形態において、サインを行う手は、大抵の場合ボディの前又は横に位置するので、有意なサイズの残余の塊を分析することにより検出される。残余画像の平均ピクセル強度は、手の部分を選択するためのカットオフ点として用いられる。このヒューリスティックにより生成された画像が手と同様に腕部分を有する場合がある。このような場合には、腕に対応する部分は、領域占有に基づいてピクセルを選択することによりさらに消される。
【００４２】
図８を参照すると、一実施形態に係る手のジェスチャを与えるユーザの深度画像が示されている。フレーム８０２は、システム画像データ取得システム１０２の深度画像データにより取得された全体的なシーンを示す。Ｄｍａｘ領域を超えた背景は、画像データ、すなわち、近似的にＤｍａｘの深度値を有するピクセルの部分とならない。ユーザにより提供されたサインを認識するための第一のステップは、画像８０４により示されるように腕を分離することである。ジェスチャ認識システムの一実施形態において、腕画像抽出は、以下を含む。
【００４３】
ステップ１：腕抽出
粗抽出
手が胴体よりもカメラに近い距離ある場合には、腕が深度差により抽出される。手が伸びている場合には、手は、顔及び胴体領域を消去した後に抽出される。このステップの結果が腕画像８０４である。同時に、顔及び胴体領域ボックスと当該領域情報とが、図７で前記したように識別されて記録される。例えば、図８に示されるシーンにおいて、候補画像データオブジェクトは、右手が図７の領域４  ７０２ｄに位置することを示す。
【００４４】
正確な腕抽出
続いて、粗抽出ステップで得られた腕画像から指先が検出される。そして、腕の不要なパーツは、アスペクト比により削除される。例えば、腕画像の幅又は高さが顔幅の１．５倍よりも大きい場合には、画像はこの点でトリミングされる。このステップの結果が掌画像８０６である。二つの手のジェスチャ画像に関して、二つの掌画像が同様に得られる。
【００４５】
２．手形状分析
一実施形態によると、本システムは、記憶された形状データに未知の対象候補形状にマッチングさせる方法を適用して、対象候補形状を識別する。考察の明確性のために、人間の手の形状は好ましい実施形態に関して考察されるが、同様の技術は、ＨＣＩ、例えば、握手サイン又はオブジェクト、全体的なボディの位置、キック、パンチ等に関して用いられるあらゆる形状に適用可能である。
【００４６】
手形状分析の複雑さのレベルは、アプリケーションによって異なる。いくつかのアプリケーション、例えば、マウス操作の物真似は、いくつかの手の形状、例えば、右／左クリックのみを必要とする。他方、他のアプリケーションは、もっと複雑な形状及び動きの分析及び認識、例えば、手話を必要とする。一例によると、本発明の実施形態の記述のいくつかは、日本手話（「ＪＳＬ」）で用いられる基本的な手のパターンに関して記載されている。ＪＳＬは、繰り返し用いられる基本的な手の形状を多く有している。一実施形態に係る日本手話の手のサインのいくつかの例に関し、図９を参照する。形状９０１，９０２は、基本的に異なる向きの同一形状であることに留意されたい。
【００４７】
手の形状は、ボディに対してどこに見えるか、向き及び軌道に応じて異なる意味を有する。さらに、他の手と結合されている場合には、さらに他の異なる意味を有する。このように、言葉の組み合わせの数は、様々な要因に基づいて生成される。例えば、図９における形状９０３は、ＪＳＬではそれだけで「私」「あなた」「来る」「行く」「明日」「昨日」「どちらの」「何の」「分」「これ」「考える」「時々」「次」を含む多くの意味を有する。
【００４８】
意味の多様性に対応するために、一実施形態において、要因は、位置、向き、手の形状のタイプ（指を数える）及び軌道（初期及び最終位置）を含んで分析される。位置に関して、一実施形態において、本システムは、図７に示すように空間のラフな区切りを用いる。さらに、一実施形態において、例えば、後記する骨格マッチング技術を用いて、取得された手の様々な特性が分析される。例えば、図１１（Ｃ）に示すように、指の分析は、幅、向き及び長さを含む。このような分析で収集される指情報プロファイルは、以下のサンプルを含んでいてもよい。
始点のｘ／ｙ座標：（７，１９）
終点のｘ／ｙ座標：（４４，１８）
全体の幅        ：９．７６４２
スリムな幅      ：７．８００２
指の幅          ：３０
【００４９】
さらに、一実施形態において、サイン認識に関して記憶された形状同士を区別するために、指の角度のような追加的な要因が測定される。指の骨格の二つの枝間の角度が決定される。例えば、図９のサイン９０５，９０８に関する枝の角度は、サイン「Ｖ」「Ｌ」であると簡単に区別することができる。同様に、９０４，９１１は、骨格の二つの枝間の距離を測定することにより区別される。さらに、他のサインは、分類に関するさらに詳細な分析を必要とする。詳細な分析が増加するのと同様に、認識セットの手の形状の数も増加する。
【００５０】
本明細書に記載された様々な実施形態に応じて用いられる形状マッチングのためのいくつかの方法が存在する。一般的に、候補形状及びその関連情報は、候補形状データオブジェクトに構成されていて、形状データベース内に記憶された形状プロファイルのセットと比較されてもよい。好ましくは、記憶された形状プロファイルは、候補形状画像に対する比較、マッチング及びフィルタリングに関連する記憶された形状についての情報を含んでいる。
【００５１】
一実施形態において、二つの画像間のChamfer距離（「ＣＤ」）が用いられ、これは形状の類似度を測定するためにも用いられる。ＣＤは、形状比較のための距離変換を用いて定義される。距離変換の結果が、エッジに対応する各ピクセルがゼロ（０）を含み、一方で、他のピクセルが最近傍のエッジ点までのＣＤ距離値を含む勾配画像である。
【００５２】
他の実施形態によると、Ｋ−Ｌ分解が形状マッチングのために用いられる。Ｋ−Ｌ分解アルゴリズムは、ＣＤ法よりも優れたいくつかの利点を有している。両手法は、画像プロファイル内のテンプレートとしての多くの画像を含む。ボディパーツ検出アルゴリズムに関する前記した一つと同様のアプローチに基づく同様のテンプレートは、形状画像テンプレートを生成するために用いられてもよい。前記したように、Ｋ−Ｌアルゴリズムは、必要な固有ベクトルの種類を記録するために用いられる。逆に、ＣＤ法は、Ｋ−Ｌアルゴリズムで用いられるベクトル形式と反対に画像フォーマットで各テンプレート画像を記録する。両技術は、一実施形態において適用されているが、Ｋ−Ｌアプローチは比較データに関して必要とされる記憶容量を効果的に低減することができる。形状データベース１４８内のトレーニングシーケンスは、Ｋ−Ｌに基づく実施形態においてより小さくすることができる。
【００５３】
候補形状画像のトレーニングシーケンスプロファイルとの比較のための類似度測定に関して、Ｋ−Ｌ法は、入力された画像を固有ベクトルに射影するのに対し、ＣＤ法は、テンプレート画像が好適に整理されない場合に、入力された画像と全てのテンプレート画像とを比較する。このように、どの方法が用いられても、ＣＤ法の計算負荷は一般的に重い。
【００５４】
Ａ．距離マッチング技術
一実施形態において、手の形状は、異なるジェスチャに関する様々な手の形状を含む記憶されたデータセットを基準として分析される。例えば、図１０は、一実施形態に係るサインの記録すなわちプロファイルのセットと対応する画像の手のパターンとを示す。サインプロファイルは、サインの定義と追加的なサイン識別データ、例えば、開始及び終了領域、動き等とを有するデータレコード１００２を含んでいる。さらに、サインレコード１００２は、手話に関連する一以上の手の形状の画像を含む画像ファイル１００４を含む又は提示する。例えば、サインレコード１００２ａ〜１００２ｅは、対応する画像１００４ａ〜１００４ｅを提示する。しかし、数字の２を表すサインに関して、サインレコード１００２ｂは、二つの画像パターン１００４ｂ（１），１００４ｂ（２）を提示しており、これらは、同等なものとして許容可能なマッチング画像パターンを提供する。さらに、動き及び形状変化を必要とする他のもっと複雑なサインは、サインに関連して初期、中間及び最終画像パターンに関連する画像のセットを提示し、例えば、「ついてこい」サイン１００２ｆは画像レコード１００４ｆにおいて３つの画像を提示し、画像レコード１００４ｆは、１００４ｆ（１），１００４ｆ（２），１００４ｆ（３）を含んでいる。
【００５５】
記憶された手の形状データに対して未知の手の形状をマッチングするために、二つの画像間のChamfer距離（「ＣＤ」）が形状の類似度を測定するために用いられる。ＣＤは、形状比較のための距離変換を用いて定義される。距離変換の結果は、エッジのパーツに対応する各ピクセルが０を得、他のピクセルが最も近いエッジ点までの距離を得る勾配画像である。未知の画像ＸとテンプレートＹとの間のＣＤを算出するために、我々は、Ｘのエッジ画像とＹのＤＴとの間の相関関係を得る。
【００５６】
その値が小さいほど、類似度は高まる。我々は、このような類似度測定値Ｓを
【数１０】
2007538318.tif 000012
として定義する。ここで、ＥはＸのエッジ画像を表し、ＤＴはテンプレートＹの勾配画像を表す。我々は、テンプレートデータセット内の全ての形状に関する距離変換された画像を記憶する。未知の手の形状に関しては、前記した類似度計算が行われ、最も小さい値を有するパターンがこの手に関するパターンとして選択される。一時的な投票が、シーケンスの特定の画像により生成されるバイアスを低減させるための決定に用いられる。他の実施形態において、ＣＤ手形状マッチング技術は、マッチングを迅速に処理して簡略化するために、指計数アルゴリズムを候補画像の前フィルタリングとして用いて補強される。
例えば、サインレコード１１０２は、指の数と関連している。指計数アルゴリズムが候補画像における指の数を決定した後、指の数に関連したレコードとのみ比較される。
【００５７】
Ｂ．骨格マッチング技術
図１１（Ａ）〜図１１（Ｃ）に参照すると、一実施形態に係る画像と手形状マッチング技術に基づいて骨格を表す、対応する処理された画像データとが示されている。一実施形態において、前処理が対象の手に対応する画像データを提供した後、人間−機械ジェスチャ認識システムは、手の画像データを分析する。この実施形態において、骨格マッチング技術に基づく手形状分析は、以下のステップを含んでいる。
【００５８】
骨格生成
図１１（Ａ）に示す掌画像は、バイナリ画像を得るための閾値であり、バイナリ画像のエッジは、従来の骨格生成技術により平滑化されて小さい枝に低減される。このステップの結果が、図１１（Ｂ）に示される骨格である。
【００５９】
骨格が得られた後、骨格画像の終点及び交点が骨格の指の全ての線セグメントに関して識別され、終点及び交点によって定義される。終点／交点対が画像内で決定される。各点対の点間のユークリッド距離が記録される。ユークリッド距離が非常に小さい場合には（例えば、１〜２ピクセル、画像サイズに応じた閾値）終点及び交点対間の線セグメントは消去される（すなわち、小さすぎて手の実際のエレメントとしては扱われない）。全ての消去動作の後、終点及び交点を再び識別する。このステップの結果が、図１１（Ｂ）に示される指骨格を生成する閾値よりも長いユークリッド距離を有する終点及び交点対である。
【００６０】
全ての終点及び交点対に関して、それらの間の骨格画像における経路を得る。そして、図１１（Ｃ）に示されるバイナリ画像におけるこの経路の幅、長さ及び向きの角度を計算する。各経路の二つの幅パラメータが存在し、一つは、経路の平均幅（width-1）であり、他は、幅が（掌の幅により決定された）幅閾値よりも小さい副経路の平均（width-2）である。一実施形態において、このステップの結果が、例えば、終点座標、交点座標、向き、幅、長さ等のような各経路についての特性を記録するデータ構造である。
【００６１】
指認識
一実施形態によると、骨格における全ての経路に関して、経路の長さ、width-1、width-2が決定され、widh-1及びwidth-2は、例えば、指候補のそれぞれの全体の幅及び細い幅である。さらに、一実施形態において、測定された特性に基づいて、経路が指に相当するか以下かについて判定される。このステップの結果が、指の数を含み、データ構造が各指についての有意なデータを記録するために用いられる。例えば、候補指又はジェスチャに関する候補画像データ構造における指情報セクションは、指情報を記録するために用いられる。
【００６２】
骨格マッチング技術は、回転不変である。したがって、異なる角度の二つの手は、指計数及び手の相対角度に基づいて同様に認識可能である。一方、ＣＤ法を用いると、異なる角度の手は同様には決定されない。しかし、骨格に基づく方法は、計算負荷のコスト面でＣＤ法よりも優れている。一実施形態において、手形状分析に関して、複数の指先の実時間追跡も、従来の骨格アルゴリズムの指計数パートを補強するために用いられる。
【００６３】
Ｃ．形状情報統合
一実施形態において、初期に取得されたシーンからの候補対象手の画像を用いて。本システムは、手すなわち掌に関する基本情報を抽出する。この情報は、他のモノ、領域、領域ボックス、向きの角度、顔ボックス、胴体ボックス、掌中心、平均深度値、掌から胴体中心までの距離、掌から顔中心までの距離を含む。この情報は、画像処理技術を通じて決定され、候補画像データオブジェクトに収集される。候補画像データオブジェクトは、前ステップで収集された追加的な情報、例えば、ボディ、頭、手の前処理の位置等を含む。一実施形態において、候補画像データオブジェクトは、サイン又はジェスチャマッチングのために続いて用いられる、決定された掌データを記録するための掌情報セクションを含む。
【００６４】
この実施形態によると、骨格処理から認識された指を用いて、本システムは、指構造を掌の特性として記録する。したがって、表１に示されるマルチレベル構造が、候補画像データオブジェクトに対して定義される。
【００６５】
さらに、一実施形態において、いくつかの形状を含む、より複雑なジェスチャをマッチングするために、前記ステップが、ジェスチャに関する全ての画像を通じて繰り返される。この実施形態において、全ての画像における手すなわち掌についての全ての情報は、公報ジェスチャデータオブジェクトに関連する掌の構造に記録される。
【表１】
2007538318.tif 000013
【００６６】
Ｄ．軌道決定
一実施形態において、一以上の形状が、ジェスチャを定義するための軌道に関連している。例えば、一実施形態において、手は、手に関連する時間情報を有する３Ｄ空間における曲線すなわち軌道を生成するように空間内で動く。図１２は、一実施形態に係る手の３次元画像の線チャートのサンプルを示す。一実施形態において、ジェスチャマッチング処理は、軌道情報を含む。しかし、マッチングを簡略化するために、軌道情報は、Ｘ方向の動き、Ｙ方向の動き及びＺ方向の動きの三つのパーツに分割される。Ｘ及びＹは、画像平面における手の水平及び鉛直座標であり、Ｚはカメラシステムまでの距離を示す手の平均深度値により表される。
【００６７】
一実施形態において、軌道情報を記憶されたジェスチャ軌道情報にマッチングするために、以下の３ステップが実行される。
【００６８】
１．各手の動きのＸ，Ｙ及びＺ成分が、（均一のタイムインターバル［０，Ｎ］、ここでＮはサンプル点、に正規化された）テンプレート曲線にマッチングされる。図１３は、一実施形態に係るＸ，Ｙ及びＺ曲線のテンプレートパターンのいくつかの例を示す。曲線パターン１３０１は、「押して戻るパターン」１３０１ａ、「押して止まって戻るパターン」１３０１ｂ、「押して戻って押して戻るパターン」１３０１ｃのようなパターンに対応している。曲線１３０１は、ＦＦＴを用いて円滑化され、円滑化前よりも局所的なノイズを低減されている。
【００６９】
２．曲線マッチングのために、各次元における有意な動きのみが考慮され、小さい方向変化によるエラーを回避する。例えば、「後退する」ジェスチャに関して、手は、主に胴体から前にカメラ方向に向けて動く。しかし、画像平面における手の水平及び鉛直のずれも存在し、このようなずれはごくわずかであるので、無視されて考慮から除外される。
【００７０】
３．無視できない動きに関して、本システムにより取得された候補曲線は、曲線データセット内の全てのテンプレートと比較される。一実施形態において、最小二乗エラー計算が、候補及びテンプレート曲線間の類似性を算出するために用いられる。例えば、未知の候補曲線Ｙ（ｔ），ｔ＝０，１，…，Ｎ及びテンプレート曲線１３０１  Ｓ（ｔ），ｔ＝０，１，…，Ｎに関して、最小二乗エラー（「ＭＳＥ」）は、以下のように計算される。
【数１１】
2007538318.tif 000014
計算されたＭＳＥが小さいほど、候補及びテンプレート曲線間の類似性の度合いは高くなる。一旦全てのテンプレートが候補と比較されると、最小のＭＳＥに対応するテンプレートが対応するジェスチャの識別のための候補に選択されて指定される。
【００７１】
例えば、静的ではない手話の画像の一連のフレームを示す図１４（Ａ）を参照すると、一実施形態において、静的ではないサイン又はジェスチャに関して、本システムは、一連のフレームにおける特定の指の始点及び終点（例えば、ストロークの極点）を記録する。手の軌道は、図１４（Ｂ）に示すように、一連のフレームの始点から終点までがＸ，Ｙ及びＺ方向において記録される。
【００７２】
Ｅ．手の向きの決定
一実施形態において、手の向きも取得される。例えば、図１４（Ｃ）に示すように、指の向きは、いくつかのジェスチャ又はサイン、例えば、サムアップとサムダウンのジェスチャ、に関して関連性を有している。したがって、一実施形態において、一旦関連性を有する手の形状、例えば、スタートの手の形状とサムアップジェスチャ、が決定されると、対象候補画像形状に対する手の向きが取得される。図１５は、一実施形態に係る「サムアップ」の手のパターンに関する手の向きの分析結果の曲線／画像図を示す。手の向きの情報は、手の形状に関する領域の主軸を分析することにより取得される。例えば、前記した骨格分析に基づいて、腕及び手の主軸が用いられ、頭、胴体又は初期位置に関して測定された角度変化が画像データから得られる。
【００７３】
ジェスチャマッチング
候補画像すなわち対象のフレームの一連の情報が一以上のデータオブジェクト内に収集された後、ジェスチャマッチング処理が認識システムに提供されたサイン又はジェスチャを決定するために適用される。一実施形態において、手の形状の情報及び軌道情報は、画像データにより表されるサイン又はジェスチャを分類するために用いられる候補画像データオブジェクト内に記録される。候補データオブジェクト内に収集された特徴情報は、分析され、記憶されたパターンに関連する情報を含む記憶されたジェスチャ／サインと比較される。ジェスチャ又はサインプロファイル内の情報は、候補データオブジェクト内の情報に対して比較、マッチング又はフィルタリングするために用いられる。例えば、一実施形態において、ジェスチャプロファイルは、データオブジェクト内のｎ個の特性のセットとして表され、例えば、５個の特性値のペアは、Ｇ＝＜形状、位置、軌道、向き、速さ＞の形態を有するジェスチャ「Ｇ」を表すために用いられ、各ジェスチャに関して、これらの特性に関する値のユニークな組み合わせがジェスチャを定義する。
【００７４】
各特性がいくつかの記憶されたトレーニングパターンを区別するので、ｎ次元空間Ｇ（例えば、ｎ＝５）は、数ダースのジェスチャパターンを容易に含むことができる。
【００７５】
一実施形態において、機械との相互作用を意図するジェスチャの認識を容易にするため、ジェスチャ区切りサインがジェスチャの始めと終わりに用いられ、機械に対して、提供されたジェスチャがジェスチャ認識システムとのコミュニケーションを意図していることを示す。他の実施形態において、ジェスチャを行う手は、ジェスチャ終了後に機械の視野領域から外れる。このアプローチは、ジェスチャの区切りとしても用いられる。例えば、画像データ取得システム１０２により取得された一連の３００フレーム（１０秒）において、フレームの最初のセット、例えば１〜１３０の間、手は、Ｚ軸において前向き及び後ろ向きに動く。続いて、フレームの次のセット、１３０〜１８０の間、手は検出されない。フレーム１８０の後、手は、再び前向きに動き、フレーム２００〜２６０で固定された深度値で静止する。このように、フレーム１３０〜１８０は二つのジェスチャ間の区切りとして解釈され、画像データはそれに応じて処理される。
【００７６】
自然で連続的な人間のジェスチャを理解するために、隠れマルコフモデル（「ＨＭＭ」）のような手法が考慮されるべきである。図１６は、一実施形態に係るジェスチャ認識のためのステップを説明するためのフロー図である。画像データが深度ビデオ源から入力を受ける間、手の位置がチェックされ、手が静止しているか動いているかが判定される（１６０２）。動いている手に関して、動きを含むジェスチャに関する形状が、候補ビデオフレーム内の形状とマッチングするために用いられる（１６０４）。例えば、手ジェスチャデータベース内の手形状テンプレートが、手の形状をマッチングする（１６０４）ときに用いられる。手の軌道が、動きの方向（Ｘ，Ｙ及びＺ）を検証することにより取得される（１６０８）。一旦候補ジェスチャフレームの軌道が決定されると、前記したように記憶された軌道パターンとマッチングされる（１６１０）。一旦形状、位置及び軌道が決定されると、ジェスチャマッチング処理が、さらに以下に説明されるように、候補画像データオブジェクトに基づいて行われる（１６１２）。出力されるジェスチャが、ジェスチャデータベースから決定される（１６１４）。
【００７７】
手が動いていない場合には、動きを含まないジェスチャ又はサインが用いられ、前記したように、例えばＣＤ、Ｋ−Ｌ、骨格または類似した手法で、静止した手の形状の候補画像とマッチングする（１６０６）。形状マッチング処理（１６０６）から、サインが記憶されたサインから選択されて決定される（１６１６）。
【００７８】
一実施形態において、ジェスチャの軌道は、例えばジェスチャプロファイル内の多くの予め決定されたパターンに分類される。様々な特徴が収集された後、例えば以下に示す表２のような認識テーブルが、対応するジェスチャ又はサインを識別するために用いられる。
【表２】
2007538318.tif 000015
【００７９】
一実施形態によると、本システムは、前記したように掌の構造内の情報をチェックして、このジェスチャが片手のジェスチャであるか両手のジェスチャであるかを判定し、この特性を二つの掌コード変数（０−片手のジェスチャ、１−両手のジェスチャ）として記録する。同時に、掌の構造における重要な指の数を判定し、例えば各掌の指の数が一である場合には、一本指のジェスチャグループに分類する。指の数に関する変数がここでは用いられる。
【００８０】
この実施形態において、ジェスチャがどの指のグループに入るかに関係なく、本システムは、以下の掌についての特性をチェックする。画像の掌における掌のＸ，Ｙ，Ｚ（深度）、向きの角度を記録する。動きの型をチェックする。
０−静止；１−減少；２−増加
１＊−まず減少し、周期的に増加／減少の動き
２＊−まず増加し、周期的に減少／増加の動き
掌の位置の軌道、始めの位置、終わりの位置及び最もよくある位置をチェックする。位置の定義を見るために図１を参照されたい。いくつかのジェスチャは指の長さの変化、例えば４０のみを有するので、平均指長さの変化をチェックする。
【００８１】
一実施形態において、これらの特性は、座標、座標の変化、位置、指の長さ等のいくつかに分けられた構造に記録される。
【００８２】
この実施形態によると、ジェスチャ認識システムは、始めの手の形状、終わりの手の形状、最もよくある手の形状、手の形状の変化コード等を含む手の形状特性を得る。これらの特性は、他のデータ構造である手の形状に記録される。表３は、手の形状の認識のために用いられる特性を示す。
【表３】
2007538318.tif 000016
【００８３】
二本指グループの特別な特性は、二本指間の距離が変化するか否かを含む。これは、例えば、０−静止；１−減少；３−増加として指間距離構造に記録される。
【００８４】
一実施形態において、結合されたジェスチャ情報は、例えば表４に示すようなジェスチャデータ構造に記録される。ジェスチャデータ構造は、ジェスチャデータベースに記憶されたジェスチャに関連するジェスチャプロファイルの一部である。
【表４】
2007538318.tif 000017
【００８５】
ロボットへの命令
発話の使用は、ロボットへ命令を与える良い手法である。実際にはしかし、現在の発話認識は、ロボットとのコミュニケーションをとるための手法としては望ましくない制限を有している。環境及びロボット由来のノイズにより、（ユーザがロボットから数メートルだけ離れている場合であっても、）人間であるユーザにより生成された音声信号がロボット認識のために有効な程度にクリアではないことがある。
【００８６】
一方、サインは多くの場合で有効である。オフィス環境で従事するロボットに関して、「３歩下がる」のような単純な動きの命令に加えて、我々は以下のフレーズを手で示すことができる。「ミーティングはいつ？」「彼をスミス氏のオフィスに連れて行きなさい」「私の命令を繰り返しなさい」「私のスーツケースを持って私についてきなさい」「ボスの伝言は何？」「お客様にあいさつしなさい」「２階に行きなさい」。一実施形態によると、ＪＳＬに基づくサインの語彙は、この種の命令に用いられる基本的な言語をロボットに解釈されることが可能なように提供される。さらに、「もし」「それから」「間」のような任意の記憶された言語を追加することにより、「もしスミス氏が来たら、それから私を呼びなさい」のような文を作ることができる。
【００８７】
例えば、経験的な一実施形態において、動きジェスチャのコマンドセットのセットが、人型ロボットであるＡＳＩＭＯのために開発されている。これらを含むジェスチャが、表５に列記されている。
【表５】
2007538318.tif 000018
【００８８】
この実験的な実施形態において、（動きのないタイムインターバルのような）区切りで始まるサインコマンドを用いて、表５のジェスチャコマンドが、たったのエラー率５％以下である実験に基づくソフトウェアにより正確に解釈される。
【００８９】
本明細書では本発明の特定の実施形態及びアプリケーションが説明されたが、本発明が本明細書に開示された厳格な構造及び要素に限定されず、特許請求の範囲で定義される本発明の精神及び要旨を逸脱しない範囲で、本発明の方法及び装置の配置、動作及び詳細において様々な修正、変化及び改変が可能であることが理解されるべきである。
【図面の簡単な説明】
【００９０】
【図１】（Ａ）は、パーソナルコンピューティング人間−機械相互作用システムの一実施形態を示す図であり、（Ｂ）は、ロボットの人間−機械相互作用システムの一実施形態を示す図である。
【図２】人間−機械相互作用システムの一実施形態を示す機能ブロック図である。
【図３】ジェスチャ認識方法の一実施形態を示すフローチャートである。
【図４】一実施形態に係るハイブリッドな深度−色シーン画像を示す図である。
【図５】一実施形態に係る、横から前までの視野の範囲をフルに通るトレーニング画像のセットのサンプルを示す図である。
【図６】一実施形態に係る、前向きの頭位置を決定するために適用される射影方法からの深度成分フレーム及び対応する閾値画像を示す図である。
【図７】一実施形態に係る領域のセット内の画像シーン分割の一例を示す図である。
【図８】一実施形態に係る手のジェスチャを与えるユーザの深度画像を示す図である。
【図９】一実施形態に係る日本手話の手のサインの例を示す図である。
【図１０】一実施形態に係るサインレコード又はプロファイルのセットと対応する画像の手のパターンとを示す図である。
【図１１】（Ａ）〜（Ｃ）は、一実施形態に係る手形状マッチング技術に基づく骨格を説明するための、画像のセットと対応する処理された画像データとを示す図である。
【図１２】一実施形態に係る手の３次元軌道のラインチャートの一サンプルを示す図である。
【図１３】一実施形態に係るＸ，Ｙ及びＺ曲線のためのテンプレートパターンの例を示す図である。
【図１４】（Ａ）は、一実施形態に係る静的ではない手のサインの画像の一連のフレームを示す図であり、（Ｂ）は、（Ａ）の一連のフレームに関する始点から終点までのＸ，Ｙ及びＺ方向において記録された手の軌道を説明するピクセルチャートを示す図であり、（Ｃ）は、（Ａ）の一連のフレームで追跡する指の向きの角度を説明するための、フレームにわたる向きの角度変化のチャートを示す図である。
【図１５】一実施形態に係る「サムアップ」の手の形状に関する手のむきの分析結果を示す曲線／画像図である。
【図１６】一実施形態に係るジェスチャ認識のためのステップを説明するためのフロー図である。
【図１】
2007538318.tif 000019
【図２】
2007538318.tif 000020
【図３】
2007538318.tif 000021
【図４】
2007538318.tif 000022
【図５】
2007538318.tif 000023
【図６】
2007538318.tif 000024
【図７】
2007538318.tif 000025
【図８】
2007538318.tif 000026
【図９】
2007538318.tif 000027
【図１０】
2007538318.tif 000028
【図１１】
2007538318.tif 000029
【図１２】
2007538318.tif 000030
【図１３】
2007538318.tif 000031
【図１４】
2007538318.tif 000032
【図１５】
2007538318.tif 000033
【図１６】
2007538318.tif 000034
【国際調査報告】
2007538318.tif 000035
2007538318.tif 000036
2007538318.tif 000037