(57)【特許請求の範囲】
【請求項１】
コンピュータ・デバイスと通信するディスプレイ・スクリーン上に表示されるオブジェクトを制御する方法であって、
深度カメラによるリアルタイムのモーション・キャプチャを通じてトラッキングされる、ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与えるステップと、
ディスプレイ・スクリーン上に表示されるオブジェクトとトラッキングされる前記オブジェクトとの双方にスケルトンイメージを与えるステップと、
トラッキングされる前記オブジェクトに関連付けられた動作をキャプチャするために、前記スケルトンイメージに前記深度イメージを与えるステップと、
前記スケルトンイメージによって、リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップと、を有し、
ユーザにより選択されるキャラクタについての複数のキャプチャされた動作が前記コンピュータ・デバイスに関連づけられたデータベースに記録されており、
前記リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップには、前記ユーザによって選択された前記キャラクタに対応するキャプチャされた動作を前記コンピュータ・デバイスに関連づけられたデータベース内の前記複数のキャプチャされた動作から参照して、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作を、前記ユーザにより選択されたキャラクタにおける対応する動作とするステップが含まれ、
前記トラッキングされる前記オブジェクトに関連づけられたキャプチャされた動作を、前記ユーザにより選択されたキャラクタにおける、対応する前記データベース内のキャプチャされた動作と関連づけることで、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作が、前記ユーザにより選択されたキャラクタの動作と同様のものとされる、方法。
【請求項２】
前記モデルは前記人間のスケルトン・イメージである、請求項１記載の方法。
【請求項３】
前記コンピュータ・デバイスはビデオゲーム機器である、請求項１記載の方法。
【請求項４】
ディスプレイ・スクリーン上に表示される前記オブジェクトは、ビデオゲームのキャラクタである、請求項１記載の方法。
【請求項５】
ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与える前記ステップには、
前記オブジェクトとしてマーカを用いて前記オブジェクトの動作をトラッキングするステップが含まれる、請求項１記載の方法。
【請求項６】
前記マーカを用いて前記オブジェクトの動作をトラッキングする前記ステップには、前記マーカによって生じる輝点領域を識別するステップが含まれる、請求項５記載の方法。
【請求項７】
リアルタイムのモーション・キャプチャを通じてコンピュータ・デバイスと通信するディスプレイ・スクリーン上に表示されるオブジェクトを制御するプログラム命令が記録されたコンピュータ可読媒体であって、前記プログラム命令には、
深度カメラによるリアルタイムのモーション・キャプチャを通じてトラッキングされる、ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与えるプログラム命令と、
ディスプレイ・スクリーン上に表示されるオブジェクトとトラッキングされる前記オブジェクトとの双方にスケルトンイメージを与えるプログラム命令と、
トラッキングされる前記オブジェクトに関連付けられた動作をキャプチャするために、前記スケルトンイメージに前記深度イメージを与えるプログラム命令と、
前記スケルトンイメージによって、リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するためのプログラム命令とが含まれ、
ユーザにより選択されるキャラクタについての複数のキャプチャされた動作が前記コンピュータ・デバイスに関連づけられたデータベースに記録されており、
前記リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップには、前記ユーザによって選択された前記キャラクタに対応するキャプチャされた動作を前記コンピュータ・デバイスに関連づけられたデータベース内の前記複数のキャプチャされた動作から参照して、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作を、前記ユーザにより選択されたキャラクタにおける対応する動作とするステップが含まれ、
前記トラッキングされる前記オブジェクトに関連づけられたキャプチャされた動作を、前記ユーザにより選択されたキャラクタにおける、対応する前記データベース内のキャプチャされた動作と関連づけることで、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作が、前記ユーザにより選択されたキャラクタの動作と同様のものとされるものである、コンピュータ可読媒体。
【請求項８】
前記ディスプレイ・スクリーンに表示される前記オブジェクトはビデオゲームのキャラクタである、請求項７記載のコンピュータ可読媒体。
【請求項９】
ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与える前記プログラム命令には、
前記オブジェクトとしてマーカを用いて前記オブジェクトの動作をトラッキングするためのプログラム命令が更に記録された、請求項７記載のコンピュータ可読媒体。
【請求項１０】
前記マーカを用いて前記オブジェクトの動作をトラッキングするための前記プログラム命令には、
前記マーカによって生じる輝点領域を識別するプログラム命令が含まれる、請求項９記載のコンピュータ可読媒体。
【請求項１１】
制御イメージに関連付けられたリアルタイムのモーション・キャプチャによって、オブジェクトの制御が可能なシステムであって、
コンピュータ・デバイスと、
前記コンピュータ・デバイスによって提供される前記オブジェクトの前記イメージと対応するデータやオブジェクトのイメージを表示するように構成された、前記コンピュータ・デバイスと通信するディスプレイ・スクリーンと、
オブジェクトのトラッキングが可能で、前記コンピュータ・デバイスと通信するビデオ・キャプチャ・デバイス、とを含み、
前記ビデオ・キャプチャ・デバイスは、
深度カメラによるリアルタイムのモーション・キャプチャを通じてトラッキングされる、ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与えるステップと、
前記ビデオ・キャプチャ・デバイスが、ディスプレイ・スクリーン上に表示されるオブジェクトとトラッキングされる前記オブジェクトとの双方にスケルトンイメージを与えるステップと、
前記コンピュータ・デバイスが、トラッキングされる前記オブジェクトに関連付けられた動作をキャプチャするために、前記スケルトンイメージに前記深度イメージを与えるステップと、
前記コンピュータ・デバイスが、前記スケルトンイメージによって、リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップと、を実行するものであり、
ユーザにより選択されるキャラクタについての複数のキャプチャされた動作が前記コンピュータ・デバイスに関連づけられたデータベースに記録されており、
前記リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップには、前記ユーザによって選択された前記キャラクタに対応するキャプチャされた動作を前記コンピュータ・デバイスに関連づけられたデータベース内の前記複数のキャプチャされた動作から参照して、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作を、前記ユーザにより選択されたキャラクタにおける対応する動作とするステップが含まれ、
前記トラッキングされる前記オブジェクトに関連づけられたキャプチャされた動作を、前記ユーザにより選択されたキャラクタにおける、対応する前記データベース内のキャプチャされた動作と関連づけることで、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作が、前記ユーザにより選択されたキャラクタの動作と同様のものとされる、システム。
【請求項１２】
前記コンピュータ・デバイスはビデオゲーム機器である、請求項１１記載のシステム。
【請求項１３】
ユーザが身に付けた前記オブジェクトはマーカである、請求項１１記載のシステム。
【請求項１４】
前記マーカは、色、パターン、逆反射材、及び、発光デバイスからなるグループより選択される、請求項１３記載のシステム。
【請求項１５】
ビデオゲームのキャラクタを制御するための、リアルタイムのモーション・キャプチャ方法であって、
ユーザが身に付けたマーカの位置を識別するステップと、
一台のビデオ・キャプチャ・デバイスで前記マーカに関連付けられた動作をキャプチャするステップと、
前記ディスプレイ・スクリーン上に表示される前記キャラクタの動作を制御するステップと、を含み、
前記一台のビデオ・キャプチャ・デバイスで前記マーカに関連付けられた動作をキャプチャするステップには、深度カメラによるリアルタイムのモーション・キャプチャを通じてトラッキングされる、ユーザが身に付けたマーカと関連付けられた深度イメージを与えるステップと、ディスプレイ・スクリーン上に表示されるオブジェクトとトラッキングされる前記オブジェクトとの双方にスケルトンイメージを与えるステップと、が含まれ、
前記スケルトンイメージには、トラッキングされる前記オブジェクトに関連付けられた動作をキャプチャするために、前記深度イメージが与えられ、
前記ディスプレイ・スクリーン上に表示される前記キャラクタの動作を制御するステップには、前記スケルトンイメージによって、リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップが含まれ、
ユーザにより選択されるキャラクタについての複数のキャプチャされた動作が前記コンピュータ・デバイスに関連づけられたデータベースに記録されており、
前記リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップには、前記ユーザによって選択された前記キャラクタに対応するキャプチャされた動作を前記コンピュータ・デバイスに関連づけられたデータベース内の前記複数のキャプチャされた動作から参照して、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作を、前記ユーザにより選択されたキャラクタにおける対応する動作とするステップが含まれ、
前記トラッキングされる前記オブジェクトに関連づけられたキャプチャされた動作を、前記ユーザにより選択されたキャラクタにおける、対応する前記データベース内のキャプチャされた動作と関連づけることで、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作が、前記ユーザにより選択されたキャラクタの動作と同様のものとされる、方法。
【請求項１６】
前記制御オブジェクトに関連付けられた動作をキャプチャするステップと、前記ディスプレイ・スクリーン上に表示される前記キャラクタの動作を制御するステップと、を継続的に行う、
請求項１５記載の方法。
【請求項１７】
リアルタイムのモーション・キャプチャを通じてコンピュータ・デバイスと通信するディスプレイ・スクリーン上に表示されるオブジェクトを制御する方法であって、
一台のビデオ・キャプチャ・デバイスを通じてトラッキングされる、ユーザが身に付けたオブジェクトと関連付けられた深度イメージを与えるステップと、
ディスプレイ・スクリーン上に表示されるオブジェクトとトラッキングされる前記オブジェクトとの双方にスケルトンイメージを与えるステップと、
トラッキングされる前記オブジェクトに関連付けられた動作をキャプチャするために、前記スケルトンイメージに前記深度イメージを与えるステップと、
前記スケルトンイメージによって、リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップと、を有し、
ユーザにより選択されるキャラクタについての複数のキャプチャされた動作が前記コンピュータ・デバイスに関連づけられたデータベースに記録されており、
前記リアルタイムで前記ディスプレイ・スクリーン上に表示される前記オブジェクトを制御するステップには、前記ユーザによって選択された前記キャラクタに対応するキャプチャされた動作を前記コンピュータ・デバイスに関連づけられたデータベース内の前記複数のキャプチャされた動作から参照して、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作を、前記ユーザにより選択されたキャラクタにおける対応する動作とするステップが含まれ、
前記トラッキングされる前記オブジェクトに関連づけられたキャプチャされた動作を、前記ユーザにより選択されたキャラクタにおける、対応する前記データベース内のキャプチャされた動作と関連づけることで、前記ディスプレイ・スクリーン上に表示される前記オブジェクトの動作が、前記ユーザにより選択されたキャラクタの動作と同様のものとされる、方法。
【請求項１８】
前記コンピュータ・デバイスは、ビデオゲーム機器である、
請求項１７記載の方法。
【請求項１９】
ディスプレイ・スクリーン上に表示される前記オブジェクトは、ビデオゲームのキャラクタである、
請求項１７記載の方法。
【請求項２０】
トラッキングされる前記オブジェクトには、マーカが含まれない、
請求項１７記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、概して、ビデオプロセッシングに関し、より詳細には、イメージの深度、及び／又は、イメージに関連づけられたマーカのトラッキングに関し、ビデオゲームのアプリケーションに対して、リアルタイムのモーション・キャプチャを提供する。
【背景技術】
【０００２】
映画やビデオゲームや、その他の関連のビデオ製作では、距離や次元についての情報が捕獲、つまりキャプチャされる。映画に関しては、役者やスポーツ選手の動作は別々にキャプチャされてよい。例えば、スポーツ選手は活動中に、複数のカメラによって撮影されてよい。スポーツ選手に取り付けられたボールによって、動作のトラッキングあるいは追跡ができる。トラッキングされた動作は、後で映画やビデオゲームで使うために、データベースに記録される。データベースに記録された動作フレームを通じて、これらの動作を再生することができる。
【０００３】
図１に人間の動きを記録するために人物に複数のボールを配置した状態の概略図を示す。人物１００には、体全体に複数のボール１０２が配置されている。次いで、人物１００は、いくつかの活動を行い、複数のカメラ１０４によってそれらの活動がキャプチャされる。キャプチャされたビデオ・データは所望に応じて編集され、ビデオ・データ１０６が定義される。次いで、ビデオ・データ１０６は、後で映画に挿入するための検索用に、データベース１０８に記録される。
【発明の開示】
【発明が解決しようとする課題】
【０００４】
図１に関連して説明されている手法は、映像編集など、リアルタイムのモーション・キャプチャが不要な、制御された環境で有効である。更に、人物の動作がキャプチャされ、かつ、記録されるので、人物がボールを身に付けるのは１度だけでよい。しかし、図１に関連して説明されているように、モーション・キャプチャは受動的なものとして用いられる。つまり、編集者たちは映画を編集しながら、記録された動作を映画に挿入する。したがって、キャプチャされた動作は、映像内容の制御には用いられずに、事後的に映像の中に挿入される。ビデオゲームについても同様のことが当てはまる。つまり、キャプチャされた動作は、ビデオゲームのアスペクト制御には何ら用いられない。複雑な計算、及び、１つ１つのスキャニングを必要とすることからも、リアルタイムでコントロールするようにモーション・キャプチャを使用することはできなくなっている。
【０００５】
その結果、オブジェクトやキャラクタの動作などの、ビデオゲームのアスペクトの制御が可能な、リアルタイムのモーション・キャプチャを提供するための方法と装置を提供して、従来技術の問題点を解決することが求められている。
【課題を解決するための手段】
【０００６】
概して、本発明により、ビデオゲームをしている人物のリアルタイムのモーション・キャプチャを通じて、ビデオゲームのキャラクタやオブジェクトの制御が可能な方法と装置を提供することによって、これらの必要性を満たすことができる。本発明は、方法、システム、コンピュータ可読媒体、又はデバイスを含む、様々な方法で実装されうることが理解されよう。本発明のいくつかの発明の実施形態を以下に説明する。
【０００７】
一実施形態では、ビデオゲームのキャラクタを制御する、リアルタイムのモーション・キャプチャの方法が提供される。方法は、制御オブジェクトのモデルを定義することから開始する。次に、モデル上のマーカの位置が識別される。次に、制御オブジェクトに関連づけられた動作がキャプチャされる。その後、制御オブジェクトに関連付けられた動作によって、モデルの位置を変更するように解釈される。次に、ディスプレイ・スクリーン上に表示されるキャラクタの動作が、モデル位置の変更にしたがい、制御される。
【０００８】
別の実施形態では、リアルタイムのモーション・キャプチャを通じて、コンピュータ・デバイスと通信するディスプレイ・スクリーン上に表示されるオブジェクトを制御する方法が提供される。この方法は、トラッキングされるオブジェクトに関連する深度イメージを認識することから開始する。次に、ディスプレイ・スクリーン上に表示されるオブジェクトと、トラッキングされるオブジェクトの双方に関連付けられるモデルが識別される。次に、モデルは、トラッキングされるオブジェクトに関連づけられる動作をキャプチャするために、深度イメージへにはめ込まれる。その後、ディスプレイ・スクリーン上に表示されるオブジェクトは、深度イメージへのモデルのはめ込みに従って、リアルタイムで制御される。
【０００９】
更に別の実施形態では、リアルタイムのモーション・キャプチャを通じてディスプレイ・スクリーン上に表示されるイメージの動作を制御するための方法が提供される。方法は人物のモデルを定義することがら開始する。次に、人物のモデル上のマーカの位置が識別される。その後、人物のモデルの一部に対応する深度イメージが提供される。モデルの一部にはマーカが含まれる。マーカの位置は、深度イメージ上のポイントに関連する。モデルの位置は深度イメージの形状に基づいて位置が定められる。したがって、ディスプレイ・スクリーン上に表示されるビデオキャラクタは、モデルの位置を定めることにより制御される。
【００１０】
リアルタイムのモーション・キャプチャを通じてコンピュータ・デバイスを通信する、ディスプレイ・スクリーン上に表示されるオブジェクトを制御するプログラム命令を有すコンピュータ可読媒体が提供される。コンピュータ可読媒体には、トラッキングされるオブジェクトの深度イメージを識別するプログラム命令や、ディスプレイ・スクリーン上に表示されるオブジェクトと、トラッキングされるオブジェクトの双方に関連づけられるモデルが識別される。トラッキングされるオブジェクトに関連づけられる動作をキャプチャするために、モデルを深度イメージにはめ込むあるいはフィッティングさせるプログラム命令が含まれる。深度イメージへのモデルのはめ込みによって、リアルタイムでディスプレイ・スクリーン上に表示されるオブジェクトを制御するプログラム命令が提供される。
【００１１】
別の実施形態では、制御イメージに関連づけられたリアルタイムのモーション・キャプチャを通じて、オブジェクトの制御が可能なシステムが提供される。システムには、コンピュータ・デバイスが含まれる。コンピュータ・デバイスと通信するディスプレイ・スクリーンが提供される。ディスプレイ・スクリーンは、オブジェクトのイメージを表示するように形成されており、オブジェクトのイメージに対応するデータは、コンピュータ・デバイスによってディスプレイ・スクリーンへ与えられる。コンピュータ・デバイスと通信するビデオ・キャプチャ・デバイスが含まれる。ビデオ・キャプチャ・デバイスによって、制御オブジェクトのトラッキングが可能である。ビデオ・キャプチャ・デバイスは、制御オブジェクトに関連する動作を翻訳する（あるいは動作を解釈してとりこむ）ように形成されており、制御オブジェクトが移動するにしたがい、ディスプレイ・スクリーン上に表示されるオブジェクトの動作が制御される。
【００１２】
更に別の実施形態では、制御イメージに関連づけられたリアルタイムのモーション・キャプチャを通じて、ビデオゲームのキャラクタの制御が可能なシステムが提供される。システムにはコンピュータ・デバイスが含まれる。コンピュータ・デバイスによって受信されるデータから、ビデオゲームのキャラクタのイメージを表示する手段と、制御オブジェクトに関連づけられた深度イメージをキャプチャする手段が提供される。モデルを深度イメージにはめ込み、制御オブジェクトの動作を定義する手段が含まれる。制御オブジェクトの動作を翻訳し、制御オブジェクトが移動するにしたがい、ディスプレイ・スクリーン上のビデオゲームのキャラクタに関連づけられる動作を制御する手段もまた含まれる。
【００１３】
本発明のその他の態様や利点は、本発明の原理を一例として例示している、添付の図面を参照しながら、以下の詳細な説明によって明らかになるであろう。
【００１４】
本発明は添付の図面と併せて、以下の詳細な説明によって容易に理解されるものであり、同一の参照符号は同一の構造上の要素を示す。
【発明を実施するための最良の形態】
【００１５】
本発明を、ビデオゲームのキャラクタやオブジェクトを制御するために用いることができる、リアルタイムのモーション・キャプチャが可能なシステム、装置、および、方法に関して説明する。しかし、これらの具体的な説明の一部、もしくは全てがなくても、本発明が実施されうることは当業者にとっては明らかであろう。その他の例では、周知のプロセス工程は、本発明を必要以上に明瞭にしないために、詳細は説明されていない。図１は“発明の背景”セクションに説明されている。
【００１６】
本発明の実施形態によって、ビデオゲームのキャラクタ、あるいはオブジェクトを制御するために、リアルタイムのモーション・キャプチャを可能にするシステム及び方法が提供される。ビデオゲームに関連付けられる、ディスプレイ・スクリーン上のキャラクタを制御するために、ビデオゲームをプレイしている人物の動きが利用される。したがって、ディスプレイ・スクリーン上のキャラクタを制御するために、ビデオゲームをしている人物の、リアルタイムのモーション・キャプチャが利用される。ここで、ビデオゲームをしている人物の生の動作データは、リアルタイムでキャプチャされ、制御のために利用される。これは、オフライン編集され、その後、任意の時点で映像に挿入されるムーブメント・キャプチャとは対照的である。
【００１７】
一実施形態では、ディスプレイ・スクリーン上に表示される人物のキャラクタの動作は、ユーザ、または制御オブジェクトとして動作している人物の動作によって制御される。ユーザの動作はビデオ・キャプチャ・デバイス（イメージ・キャプチャ・デバイスとも呼ばれ、ウェブカメラ、またはその他の適切な種類のカメラなど）を通じてキャプチャされうる。一実施形態では、ビデオ・キャプチャ・デバイスは、制御オブジェクトの深度イメージをキャプチャするように形成される。制御オブジェクトの深度イメージによって、ビデオ・キャプチャ・デバイスに関連する各画素に関連付けられた距離や深度と関連するデータが提供される。したがって、制御オブジェクトに関連付けられ、関節角度の位置を定めているスケルトンが、ヒューマン・キャラクタへ、または、非ヒューマン・キャラクタへもマッピングされる。別の実施形態では、制御オブジェクトが身に着けるマーカは、関節角度の位置を示すために用いられてよい。マーカによって定められた位置を利用して、深度イメージとスケルトンとが組み合わせられ、制御オブジェクトが生成される。その後、ディスプレイ・スクリーン上のキャラクタ・イメージを制御するために、制御オブジェクトの動作が利用される。例えば、キャラクタ・イメージはビデオゲームからのイメージであってよい。したがって、ビデオゲームをしている人物は、ディスプレイ・スクリーン上に表示されるキャラクタ・イメージの制御ができる。以下に更に詳細を説明しているように、本明細書に説明されている発明の実施形態には、マーカによってビデオゲームのキャラクタの制御を行うための、リアルタイムのモーション・キャプチャが含まれる。以下に説明しているように、マーカとしては、色や模様、逆反射材（レトロリフレクティブ材料）、発光デバイス、光などが挙げられる。
【００１８】
図２は、本発明の実施形態により、ビデオゲームのキャラクタを制御するために用いられる、リアルタイムのモーション・キャプチャを例示した、略式概略図である。モーション・キャプチャ・インプット１２０は、モーション・キャプチャ・データベース１２４に記録される。制御オブジェクト・モーション１２２は、ウェブカメラなどのキャプチャ・デバイスを通じてキャプチャされ、データベース１２４に記録された対応のモーション・キャプチャ・インプット１２０と関連付けられる。次に、関連付けられたモーション・キャプチャ・インプットは、データベースからのアウトプット・モーション１２６として表わされるように、ディスプレイ・スクリーン上に示される。例えば、制御オブジェクト・モーション１２２は、ビデオゲームをしている人物の動作や行動の一部をキャプチャすることができる。一実施形態では、モーション・キャプチャ・データベース１２４には、プロのスポーツ選手の動作をキャプチャする、複数のモーション・キャプチャ・インプットファイル１２０が記録される。したがって、制御オブジェクト・モーション１２２は、制御オブジェクト・モーションに対応する、同様のモーション・キャプチャ・インプット１２０と関連付けられ、また、同様のモーション・キャプチャ・インプットがリアルタイムでディスプレイ・スクリーン上に表示される。
したがって、制御オブジェクト（ビデオゲームをしている人物など）が、リアルタイムでプロのスポーツ選手の動作や行動を制御する効果が得られる。モーション・キャプチャ・インプットは、アーティストのアニメデータ（人物以外のゲームキャラクタ、アニメーションのキャラクタ・イメージなど）であってよいことは理解されよう。別の実施形態では、制御オブジェクト・モーション１２２は、拘束情報として用いられる。ここでは、拘束情報により、キャラクタ・イメージのアニメーションが動かされる。したがって、制御オブジェクト・モーション１２２によってゲームキャラクタの動作が直接、制御される。物理的なシミュレーションシステムにより、この特性が実現されることは理解されよう。一実施形態では、ゲームキャラクタは制御オブジェクトの動作をミラーリング、あるいはそのまま反映させるする。別の実施形態では、制御オブジェクトのある種の動作が描かれ、ゲームキャラクタに様々な動作をさせることができる。例えば、制御オブジェクトが手足を動かすと、その手足の動きが、ビデオゲームキャラクタの眉を動かすようにマッピングすることもできる。制御オブジェクトの任意のタイプの動作が、キャラクタ・イメージ（ビデオゲームキャラクタなど）の任意のタイプの動作をマッピングしえることが理解されよう。
【００１９】
引き続き図２を参照する。より具体的な例では、制御オブジェクト・モーション１２２は、バスケットボールのビデオゲームをしている人物を描くことができる。この人物はブロック１２２ａに描いているように、シュート動作をしている。ブロック１２２ａのシュート動作はデータベース１２４に記録された、プロのバスケットボール選手のシュート動作と関連付けられる。プロのバスケットボール選手のシュート動作は、ブロック１２６ａに描かれているように、可視スクリーン上に表示される。したがって、ビデオゲームをしている人物のモーション・キャプチャは、同様の動作をしているプロのバスケットボール選手のキャラクタをリアルタイムで制御するために利用される。バスケットボールの例は、例示を目的として示されており、これに限定されることを意味するものではないことは理解されよう。すなわち、ビデオゲームをしている人物の動作は、任意のスポーツの動作に対応することができる。また、ビデオゲームをしている人物の動作は、非スポーツ活動とも関連付けられることができる。例えば、キャプチャされた、ビデオゲームをしている人物の動作は、ビデオゲームによって表示される、動物、あるいはその他の、人間ではない生命体の動作、あるいは、無生物オブジェクトの動作を制御するために用いられてもよい。
【００２０】
図３は、人物のモデルの概略図であり、モデルは本発明の一実施形態による関節角度が描かれたマーカを有す。一実施形態では、モデルはスケルトン・イメージである。本明細書で使用されているように、スケルトン・イメージは、トラッキングされる構造を持つ任意のモデルであり、また、モデルは、剛体ではあるが関節を有するというような、関節を有するモデルにのみ限定されるわけではない。更に、スケルトン・イメージは、様々な関節に関する拘束などのように、各々で精度が変わるように定義してもよい。言うまでもなく、スケルトン・イメージやモデルに関連付けられた、より多くの関節や手足は、別のデータとも相互に関連付けられており、トラッキングされる必要がある。ここでは、マーカ１４０ａから１４０ｉは、スケルトン・イメージ１４２上に配置されている。マーカ１４０ａと１４０ｄとは手首の位置に対応し、マーカ１４０ｂと１４０ｃとは肘の位置に対応する。また、マーカ１４０ｅは胴と対応する。マーカ１４０ｇと１４０ｆとは膝と対応し、マーカ１４０ｈと１４０ｉとは足首と対応する。言うまでもなく、本明細書に説明されている実施形態によって、図３に描かれているマーカの位置やマーカ数が限定されるものではなく、それ以上の、あるいはそれ以下の数のマーカを用いてもよい。例えば、制御オブジェクトの頭の位置を示すマーカとして、ヘッドフォン１４１を用いてもよい。マーカとしてヘッドバンドを使用してもよいことは、当業者には理解されよう。ここでは、耳に挿入可能なデバイスが与えられてもよい。この、耳に挿入可能なデバイスはマーカとして動作し、また、制御オブジェクトに音を提供する。したがって、カメラなどのビデオ・キャプチャ・デバイスによって、マーカを身に付けた、ビデオゲームをしている人物のイメージが与えられる。例えば、マーカは人物が身に付けることができる、ひも状のようなもの、つまりストラップとすることができる。あるいは、マーカを人物、つまり制御オブジェクト、が装着している（衣服の）布地に組み入れてもよい。ソフトウエアによって、マーカを身に付けた人物のキャプチャ・イメージを解析し、スケルトン・イメージ１４２を生成することができる。スケルトン・イメージ１４２には、マーカ１４０ａから１４０ｉにより提供されているように、既知の位置の関節角度を有す。
【００２１】
一実施形態では、ビデオ・キャプチャ・デバイスは、スケルトン・イメージの一部を入れ込むために、また、三次元空間でスケルトン・イメージの位置を定めるために利用されることができる、深度イメージを得るように構成される。したがって、マーカ１４０ａから１４０ｉによって、骨格、あるいは、手足の開始位置に関するデータが提供され、また、ビデオ・キャプチャ・デバイスからの深度イメージによって、三次元空間における骨格や手足を入れ込むことができる。人物、つまり制御オブジェクトは、深度イメージによってもキャプチャされるオブジェクトを制御できることから、本明細書において使用されているように、骨格や手足という用語は、限定を意図としたのものではない。 したがって、骨格や手足には、制御オブジェクトとして動作している人物によって制御されているオブジェクトを含むことができる。別の実施形態では、ビデオ・キャプチャ・デバイスには、深度をキャプチャする能力が備わっておらず、また、骨格や手足の開始地点の、空間における既知の位置がマーカで示される。ここでは、腕、手、脚、足、あるいはその他の骨格が、関連する骨格の典型的な構造を記録しているデータベースを通じて入れ込まれうる。例えば、制御オブジェクトの深度イメージはゲームを開始する前に求められることができ、また、リアルタイムでビデオゲームのキャラクタを制御するために必要とされることから、利用されるモデルとしてデータベースに記録されることができる。更に別の実施形態では、ビデオゲームをしている人物の動作を、マーカを使わずにキャプチャするために、ビデオ・キャプチャ・デバイスを用いてよい。ここでは、ビデオゲームのキャラクタを制御するため、キャプチャされた動作を翻訳するために、オブジェクトの位置（例えば、どちらの手や足などが、右側にあるか、または左側にあるか）に関して、ある種の推測がされる。したがって、上述の各実施形態では、キャプチャされた動作は、ビデオゲームのキャラクタと関連付けられた動作をリアルタイムで制御するために用いられる。
【００２２】
マーカは様々な形状を取ることができることは理解されよう。例えば、特定の形、色、模様、反射性、あるいは、ビデオ・キャプチャ・デバイスが、空間における点をマーカによって識別することができるように、その他の際立つ特性を備えた材料を用いることができる。際立った反射性を得るために、逆反射材を使うことができることは、当業者には理解されよう。更に、ビデオ・キャプチャ・デバイスに関連付けられる光は、逆反射テープと組み合わせて使われてもよく、制御オブジェクトの特定の骨格に対し、空間における開始地点の位置を定めることができる。一実施形態では、マーカは点滅光の形状であってよい。ここでは、光は赤外光などの、目に見えない光である。光は特定の人物やチームに対応する、所定の周波数で点滅する。
【００２３】
図４Ａから図４Ｃに、本発明の一実施形態により、制御オブジェクトがマーカとして身に付けることができる、典型的な模様を示す。この例示的な模様には、図４Ａのストライプ模様、図４Ｂのブロック模様、図４Ｃのクロスハッチング模様、が含まれる。ビデオ・キャプチャ・デバイスが認識できる任意の種類の模様が使用されてよいことから、図４Ａから４Ｃに例示された模様は、限定を意図としたものではないことは、当業者には理解されよう。一実施形態では、左右の手足を区別するために様々な模様が使用されてよいことは理解されよう。例えば、図３のマーカ１４０ｄには、図４Ａの模様が、一方で、図３のマーカ１４０ａには、図４Ｂの模様が含まれてよく、その結果、左右の手首が区別される。したがって、マーカを定めるために、形や色などを模様と併せて用いることができる。したがって、動作を通じて模様が変形する場合には、バックアップ・インジケータをマーカに使用することができる。
【００２４】
図５は、本発明の一実施形態により、ディスプレイ・スクリーン上に表示されたキャラクタと関連する動作を制御するために用いられる制御オブジェクトの、リアルタイムのモーション・キャプチャの概略図である。ビデオゲームをしている人物に対応するスケルトン・イメージ１４２は、ビデオ・キャプチャ・デバイス１４８によってトラッキングされる。一実施形態では、ビデオ・キャプチャ・デバイス１４８は、各画素に対する深度イメージをキャプチャするように形成される。例えば、３ＤＶ  ＳＴＳＴＥＭＳあるいはＣＡＮＥＳＴＡが提案する深度カメラを、本明細書に説明されている深度データをキャプチャする実施形態に対して、ビデオ・キャプチャ・デバイス１４８として導入してもよい。ビデオゲームをしている人物がマーカとして逆反射テープを身に付けている場合は、カメラ１４８には光１５０が含まれる。一実施形態では、光１５０は赤外光であることができる。別の実施形態では、光１５０は、シーンの連続照射光と、トラッキングされるマーカ、つまり、逆反射テープからの点滅光の反射、とが区別されるように、点滅光であってよい。逆反射テープは光１５０からの全ての光を反射する。その結果、逆反射テープはビデオ・キャプチャ・デバイス１４８により与えられるイメージデータの輝点となる。この輝点、つまりボイドによって、マーカに関連付けられる骨格に対し、開始地点が示されることになる。例えば、マーカ１４０ｄは、右手首に関連付けられ、右手首を含む深度イメージに対する開始地点が示され、これには手や前腕が含まれてよい。言うまでもなく、上述の通り、手によって、オブジェクトの制御が行われうる。カメラ１４８には、様々な色の、いくつかの点滅光が含まれることは理解されよう。ここでは、逆反射テープ、あるいは、任意の適切な反射マーカは、様々な色を反射することを目的としてよく、その結果、多くの反射材料を区別することができる。
【００２５】
図５のマーカ１４０ｃは、胴体の位置を示す。上述しているように、任意の数のマーカが、所定の位置で、制御オブジェクトによって身に付けられてよい。キャプチャ・デバイスが特定の骨格、つまり、図５に関連する手首または胴体、に関連するものとして、特定のマーカを識別できることは、当業者には理解されよう。ビデオ・キャプチャ・デバイス１４８が深度イメージを与えるように形成されている場合、ビデオ・キャプチャ・デバイスは、図８に関連して説明しているように、深度情報を持つスケルトン・イメージ１４０に対し、人体の残りの部分を入れ込むためのデータを提供する。カメラ１４８には、深度情報を、マーカの位置とを組み合わせるように形成され、制御オブジェクト、つまりビデオゲームをしている人物、のイメージを生成し、トラッキングできるマイクロプロセッサ１５２が含まれる。マイクロプロセッサ１５２は、図９に関連して説明されているように、プロセッシング機能を実行することができる。カメラ１４８はコンピュータ・デバイスと通信しており、同様にディスプレイ・デバイス１５６とも通信している。一実施形態では、コンピュータ・デバイス１５４は、Ｓｏｎｙ  Ｃｏｍｐｕｔｅｒ  Ｅｎｔｅｒｔａｉｎｍｅｎｔ  Ｉｎｃ．によって製造される、“ＰＬＡＹＳＴＡＴＩＯＮ  ２”Ｒなどの、ビデオゲーム機器である。別の実施形態では、光１５０は、制御オブジェクトに対する可視光線を最小にするために、赤外線スペクトルで光を放出するように形成されてもよい。
【００２６】
図６Ａは、マーカが本発明の一実施形態によるボディスーツに含まれている、ボディスーツの概略図である。マーカ１６２ａから１６２ｉまでは、図３に関して説明している位置に対応する関節の位置で、ボディスーツ１６０と一体化されてよい。一実施形態では、胴体のマーカ１６２ｅは、ボディスーツを着用している人物を、特定のスポーツ選手、著名人、チームIDなどと識別するデータを使って暗号化してよい。更に、マーカを暗号化し、ビデオゲーム中に、ボディスーツを着用している人物に特典を与えることもできる。例えば、ボディスーツによって、ユーザのゲーム内でのボディアーマーを強化するという特典や、あるいは、ボディスーツをビデオゲームと一緒に使いたいというボディスーツの購買意欲をそそる特典を与えるようにしてもよい。
【００２７】
図６Bは、図６Aのボディスーツの他の実施形態である。ここでは、逆反射材であるマイクロファイバ即ち超極細繊維がボディスーツの中に織り込まれている。つまり、超極細繊維がボディスーツ１６０の布全体に組み込まれており、その結果、逆反射材がボディスーツ全体に配置される。ここでは、ボディスーツは深度カメラに最適である。しかし、ボディスーツは、カメラが深度データをキャプチャできない実施形態においても好ましい。すなわち、ビデオ・キャプチャ・デバイスが２次元のイメージデータを与えるように形成されている場合は、リアルタイムでビデオゲームのキャラクタを制御する目的で、制御オブジェクトをより簡単にトラッキングするために、なるべく多くの制御オブジェクトをできるだけ反射性にすることが望ましい。上述の通り、戦略的に配置されたストラップがあれば十分であるので、制御オブジェクトを反射材で覆う必要はない。
【００２８】
図７は本発明の一実施形態により、マーカのイメージ・フレームの監視に最適な技術を例示している。ここでは、領域１７０はスケルトン・イメージ１４２の周辺領域を定めている。したがって、マーカに対し、データのフレーム全体を検索するのではなく、連続するフレームに対しては、スケルトン・イメージ１４２周辺に定められたフレームの一部分を検索するだけでよい。ここでは、性能を高めるために、フレームの一部分、１７４−２から１７４−ｎが検索される。スケルトン・イメージ１４２は制御オブジェクトを示し、オブジェクト１７２は刀である。制御オブジェクトは主に人物とされてきているが、人物が刀やボール、バットなどのオブジェクトを制御することもできる。したがって、制御されるオブジェクトと関連する動作もまた、リアルタイムでディスプレイ・スクリーン上に同様のオブジェクトを制御するためにキャプチャされてもよく、例えば、ビデオキャラクタは刀を制御する。
【００２９】
図８は本発明の一実施形態により、深度イメージによって入れ込まれた領域を描いたモデルの概略図である。図３に関連して説明しているように、カメラなどのビデオ・キャプチャ・デバイスは、マーカを身に付けた、ビデオゲームをしている人物のイメージを与える。マーカを使って、キャプチャされた人物のイメージが解析され、モデルとも呼ばれるスケルトン・イメージ１４２が生成される。このスケルトン・イメージは、マーカ１４０ａから１４０ｉによって与えられている、位置が既知の関節角度を有す。一実施形態では、マーカを身に付けた人物は、ビデオ・キャプチャ・デバイスの前に立ち、モデル、つまり、上述のように記録される制御オブジェクトのボディ・メッシュを定義する。つまり、最初にキャリブレーション・ステップが行われ、制御オブジェクトに対するモデルの深度イメージが定められる。次に、深度イメージ、あるいは一部の深度イメージが、３次元イメージを生成するために、スケルトン１４２に入れ込むために使われる。対応するマーカによって、配置されるべき、対応の深度イメージ部の位置が定められる。例えば、左右の前腕はそれぞれ、領域１８０ｃと１８０ｅに定められる。胴体の上部と胴体の下部はそれぞれ、領域１８０ｄと１８０ｂに定められ、左右のすねはそれぞれ、領域１８０ａと１８０ｆに定められる。更に、左右の手足はそれぞれ、マーカ１４０ａと１４０ｄ、及び１４０ｉと１４０ｈに定められる。したがって、マーカによって開始位置が定められ、また、深度イメージは残りの部分を入れ込むために使用され、リアルタイムでビデオゲームのキャラクタの動作を制御するために３次元の制御オブジェクトが与えられる。
【００３０】
図９は、本発明の実施形態を実装するために用いることができる、グラフィック表示上に、オブジェクトとの、インタラクティブな状態にある例示的ユーザ入力システムのブロック図である。図９に示しているように、ユーザ入力システムには、ビデオ・キャプチャ・デバイス２００と、入力イメージ・プロセッサ２０２と、出力イメージ・プロセッサ２０４と、ビデオ・ディスプレイ・デバイス２０６とが含まれる。ビデオ・キャプチャ・デバイス２００は、ビデオ・イメージのシーケンスをキャプチャできる、任意のデバイスであってよい。また、一実施形態では、ビデオ・キャプチャ・デバイス２００は、デジタル・ビデオ・カメラ（“ウェブカメラ”など）、または同様のイメージ・キャプチャ・デバイスであってよい。上述しているように、ビデオ・キャプチャ・デバイスは深度イメージを与えるように形成されうる。入力イメージ・プロセッサ２０２によって、キャプチャされた制御オブジェクトのビデオ・イメージが、出力イメージ・プロセッサへ送信される信号に変換される。一実施形態では、入力イメージ・プロセッサ２０２は深度情報を通じて、キャプチャされたビデオ・イメージの背景から、制御オブジェクトを切り離し、また、制御オブジェクトの位置、及び／または動作に応答して、出力信号を生成するようにプログラムされている。出力イメージ・プロセッサ１０６は、入力イメージ・プロセッサから受信した信号に応答して、ビデオ・ディスプレイ・デバイス１０８上のオブジェクトの並進運動、及び／または回転運動をもたらすようにプログラムされている。
【００３１】
前述の、及び、付加的な本発明の態様は、ソフトウエア命令を実行する１つ以上のプロセッサによって実装されてもよい。本発明の一実施形態によれば、単一のプロセッサによって、図５に例示しているように、入力イメージ・プロセッシングと、出力イメージ・プロセッシングの両方が実行される。しかし、図面において示しているように、また、説明を簡略化するために、プロセッシング工程は入力イメージ・プロセッサ２０２と、出力イメージ・プロセッサ２０４との間に分割されているものとして示される。本発明は１つ以上のプロセッサなどの、いずれの特定のプロセッサのコンフィグレーションに限定されるものではないことは理解されよう。図９に示す複数のプロセッシング・ブロックは、説明の便宜上のためだけに示されている。
【００３２】
図１０に、本発明の実施形態による、グラフィック表示上のオブジェクトとユーザとの、インタラクティブな入力システムを例示する。入力システム環境には、制御オブジェクト２１２と、ビデオ・キャプチャ・デバイス２１４と、ビデオ・ディスプレイ・デバイス２１６と、ビデオゲーム機などの、プロセッサの機能を持つ機器２０８とが含まれる。入力システム環境の制御オブジェクト２１２は、ビデオ・キャプチャ・デバイス２１４の視界２１０内に配置される必要がある。プロセッシング・システム２０８は、プロセッシング・システムやエンターテインメント・システムタイプの、ＳｏｎｙＲ  ＰｌａｙｓｔａｔｉｏｎＴＭIIや、ＳｏｎｙR  ＰｌａｙｓｔａｔｉｏｎＴＭ  Ｉ、などのエンターテインメントシステムやゲーム機器によって実装されてよい。しかし、プロセッシング・システム２０８は、パーソナル・コンピュータやワークステーション、ラップトップコンピュータ、無線コンピュータ・デバイス、あるいは、グラフィックイメージデータを受信し、処理できる任意のその他のタイプのコンピュータシステムに実装されてもよい。言うまでもなく、制御オブジェクト２１２は、上述のマーカを組み込むことができ、及び／または、ビデオ・キャプチャ・デバイス２１４は深度キャプチャ能力を備えることができる。
【００３３】
図１１は、本明細書に説明している発明の実施形態を実装するように構成された、コンピュータ・プロセッシング・システムの略式ブロック図である。このプロセッシング・システムによって、メイン・メモリ２２０と、グラフィック処理装置（“ＧＰＵ”）２２６に結合されている、中央処理装置（“ＣＰＵ”）２２４を含むコンピュータベースのエンターテインメントシステムの実施形態が説明されうる。ＣＰＵ２２４は、入力／出力プロセッサ（“ＩＯＰ”）バス２２８にも結合されている。一実施形態では、ＧＰＵ２２６には、グラフィックデータをベースとした画素を高速処理するために、内部バッファが含まれる。更に、ＧＰＵ２２６には、出力処理部、つまり、処理されたイメージデータを、ＮＴＳＣあるいはＰＡＬなどの標準のテレビ信号に変換し、エンターテインメントシステム、または、そのエレメントの外部に接続されている、ディスプレイ・デバイス２２７へその信号を送信する機能が備えられている。別の態様では、データ出力信号は、コンピュータ・モニタ、ＬＣＤ（液晶ディスプレイ）、または、その他のタイプのディスプレイ・デバイスといった、テレビモニタ以外のディスプレイ・デバイスへ送信される。
【００３４】
ＩＯＰバス２２８はＣＰＵ２２４を、様々な入力／出力デバイス、及びその他のバスまたはデバイスへ結合する。ＩＯＰバス２２８は入力／出力プロセッサメモリ２３０、コントローラ２３２、メモリ・カード２３４、ユニバーサル・シリアル・バス（ＵＳＢ）ポート２３６、（ファイアーワイヤーインターフェースとしても周知の）ＩＥＥＥ１３９４ポート２３８、及び、バス２５０へ接続されている。バス２５０は、オペレーション・システム（“ＯＳ”）ＲＯＭ２４０と、フラッシュ・メモリ２４２と、サウンド・プロセッシング・ユニット（“ＳＰＵ”）２４４と光ディスク制御ユニット２４６と、ハード・ディスク・ドライブ（“ＨＤＤ”）２４８とを含む、いくつかのその他のシステム・コンポーネントを、ＣＰＵ２２４へ結合する。本実施形態の１つの態様では、ビデオ・キャプチャ・デバイスはＩＯＰバス２２８と直接に接続し、ＩＯＰバス２２８からＣＰＵ２２４への送信を行うことができ、また、ビデオ・キャプチャ・デバイスからのデータは、ＧＰＵ２２６のグラフィック・イメージを生成するために用いられる値の変更、あるいは更新のために用いられてよい。更に、本発明の実施形態は、従来周知の任意の適切なイメージ・プロセッシングコンフィグレーションと技術とを用いることができる。
【００３５】
本発明の態様を具体化するプログラムやコンピュータ命令は、いくつかの様々な方法によって与えられることができる。例えば、グラフィック・イメージとインタラクティブなユーザの入力法は、ＨＤＤ２４８、フラッシュ・メモリ２４２、ＯＳ  ＲＯＭ２４０に、あるいはメモリ・カード２３２上に記録されたプログラム形式で提供されうる。別の態様では、プログラムを、ＣＰＵ２２４へ結合されている、１つ以上の入力ポートを通じて、プロセッシング・ユニットへダウンロードすることができる。入力法を定義しているプログラム・モジュールは、ＣＰＵ２２４によって実行され、ディスプレイ・デバイス２２７上に表示されるか、アプリケーション・プログラムとは別に提供されて、例えば、ローカルのメイン・メモリ２２０から実行されてよい。
【００３６】
本発明の実施形態はまた、分散型のイメージ・プロセッシング構造についても検討する。例えば本発明は、１つの、または２つの場所（ＣＰＵにおいて、またはＣＰＵとその他のエレメントにおいて、など）で行われている、キャプチャされたイメージと、ディスプレイ・イメージのプロセッシングに限定されるものではない。例えば、入力イメージの処理は、処理を行うことができる、関連のＣＰＵ、プロセッサ、またはデバイス、で行うことができ、原則的には、全てのイメージ・プロセッシングは、相互接続されたシステム全体に分散されてよい。したがって、本発明は任意の特定のイメージ・プロセッシング・ハードウエア回路、及び／またはソフトウエアに限定されるものではない。本明細書に説明されている実施形態もまた、通常のハードウエア回路、及び／またはソフトウエアの、任意の特定の組合せにも、プロセッシング・コンポーネントによって実行される命令に対する、任意の特定のソースにも限定されるものではない。
【００３７】
図１２は本発明の一実施形態により、ディスプレイ・スクリーンに表示されたキャラクタを制御するための、リアルタイムのモーション・キャプチャの方法の工程を示すフローチャート図である。方法は、工程２６０から開始し、工程２６０では、スケルトン・イメージ、つまり、制御オブジェクトのモデルが定義される。制御オブジェクトは、ディスプレイ・スクリーン上に表示されるキャラクタと関連付けられる、ビデオゲームをしている人物であってよい。上述のように人物のモデルを定義するために、ビデオ・キャプチャ・デバイスの視界内の、ビデオ・キャプチャ・デバイスの前に人物が立ちうることは理解されよう。したがって、スケルトン・イメージ、つまりモデルは、人物がビデオ・キャプチャ・デバイスの前に立つ、セルフ・カリブレーション・プロセスを通じて定義される。次に、方法は工程２６２へと進み、工程２６２では、スケルトン・イメージ、つまりモデル上のマーカ位置が識別される。例えば、図３、５、及び８に関して説明しているように、マーカによってスケルトン・イメージ、つまりモデル上の関節角度の位置が示されうる。本明細書に説明しているように、マーカは様々な形状を取ることができることは理解されよう。
【００３８】
次に、図１２の方法は工程２６４へと進み、工程２６４では、制御オブジェクトに関連付けられる動作がキャプチャされる。一実施形態では、深度イメージ、つまり、ｚ軸と同様に、ｘ軸、ｙ軸にも関連付けられたイメージデータを与えるように形成されたカメラを通じて、動作がキャプチャされる。別の実施形態では、動作はウェブカメラなどのデジタル・ビデオ・カメラによって、二次元でキャプチャされる。その後、方法は工程２６６へと進み、工程２６６では、制御オブジェクトの動作に応答して、スケルトン・イメージ、つまりモデルの位置が変更される。すなわち、スケルトン・イメージは、制御オブジェクトの動作と対応するように移動される。ビデオ・キャプチャ・デバイスとして深度カメラが使われる場合、スケルトン・イメージに対応する深度イメージがここに与えられうる。スケルトン・イメージは深度イメージの位置に対応するように位置が定められる。
【００３９】
例示的に、また、説明を目的として、スケルトン・イメージは、深度イメージの位置と対応するように位置が定められた、ぬいぐるみとして考えることができる。制御オブジェクトが移動すると、深度イメージは制御オブジェクトの動作をトラッキングし、スケルトン・イメージもまた、深度イメージをトラッキングするために、同様に移動する。したがって、制御オブジェクトの動作は、スケルトン・イメージによって繰り返される。上述しているように、マーカは深度カメラがなくても利用することができる。同様に、深度カメラもマーカなしに利用することができる。深度カメラは３次元データをキャプチャするが、しかし、深度カメラには３次元データをスケルトンへ描く知識は備わっていないことは理解されよう。マーカによって空間の、既知の点が与えられる。その結果、マーカは深度データをスケルトンに描くことができる。言うまでもなく、深度データをスケルトンに描くことができるように、マーカを使わずに、ある種の推測がされてよい。すなわち、関節角度などの実際の点がマーカによって付けられるために、マーカがその推測の必要性をなくす。また、対応の深度データは、マーカによって識別された点から入れ込まれることができる。次に方法は工程２６８へと進み、工程２６８では、ディスプレイ・スクリーン上に表示されているキャラクタの動作は、スケルトン位置の変更によって制御される。ここでは、キャラクタの動作はリアルタイムで制御されている。すなわち、制御オブジェクトが移動すると、スケルトンは、深度情報、及び／またはマーカを有するイメージデータを利用することによって、適宜、位置が定められる。
【００４０】
一実施形態では、制御イメージと関連付けられるリアルタイムのモーション・キャプチャを通じて、オブジェクトの制御が可能なシステムには、各コンポーネントの機能に関して定義された、様々なコンポーネントが含まれる。システムには、ゲーム機器などのコンピュータ・デバイスが含まれる。システムには、コンピュータ・デバイスによって受信されるデータからのディスプレイ・オブジェクトのイメージを表示する手段も含まれうる。ここでは、イメージを表示する手段は、テレビモニタを含む、任意の適切なディスプレイ・スクリーンであってよい。また、制御オブジェクトに関連する深度イメージをキャプチャする手段も含まれる。一実施形態では、深度イメージをキャプチャする手段は、深度データの提供が可能なカメラ（上述の、３ＤＶ  ＳＹＳＴＥＭＳ、又はＣＡＮＥＳＴＡから入手できるカメラなど）により得ることができる。スケルトン・イメージ、つまりモデルを、深度イメージへはめ込み、制御オブジェクトの動作を定義する手段が得られる。例えば、マイクロプロセッサは、スケルトン・イメージを深度イメージへはめ込み、制御オブジェクトの動作を定義する手段を与えることができる。上述しているように、プロセッシングは、１つ以上のマイクロプロセッサによって与えられうる。ディスプレイ・スクリーン上のディスプレイ・オブジェクトに関連する動作を制御オブジェクトが移動する際に制御するするために、制御オブジェクトの動作を解釈あるいは翻訳するための手段が与えられる。グラフィック処理ユニットのようなマイクロプロセッサを、制御オブジェクトの動作を解釈あるいは翻訳するための手段としてもよい。言うまでもなく、上述の機能を実行するマイクロプロセッサには、チップセットが含まれてよい。
【００４１】
要約すれば、上述の発明は、ビデオゲームのキャラクタを制御するために、リアルタイムでモーション・キャプチャを提供する方法とシステムが説明されている。上記に説明した実施形態によって、ビデオゲームのキャラクタやオブジェクトを制御するために用いられうる、リアルタイムのモーション・キャプチャが可能になる。マーカと組み合わせて深度をトラッキングする能力によって、トラッキングされる人物（制御オブジェクト）の手足／体を識別するための、開始地点が与えられる。次に、人物は、本物のキャラクタ、又は人物に似せるために、入れ込みされてよい。したがって、一旦深度イメージが識別されると、深度イメージと関連づけられているスケルトン・イメージは、深度イメージを有するデータベースから、あるいは、ビデオ・キャプチャ・デバイスによってキャプチャされる深度イメージから入れ込みされることができる。様々な形状のマーカが、深度イメージをキャプチャできる、または、キャプチャできない、ビデオ・キャプチャ・デバイスと合わせて用いられてよい。例えば、身に付けることが可能な逆反射テープを、例えば、手首、ひざ、頭、などに局所的に配置することができる。別の態様では、様々な種類のマーカ（パッチや識別可能な糸など）が組み込まれているボディスーツ、あるいは衣服が与えられる。一実施形態では、一旦動作が識別されると（又は、検出されると）、データベース内の、対応する動作が参照される。例えば、ゲームのユーザが、有名な野球選手など、特定のキャラクタを選択する場合、その動作は、実際の有名野球選手が行う動作と同様であってよい。これらの動作はデータベースに記録される。取得したデータベースの動作は、ゲームの一部であるキャラクタ（人物／スケルトン）を制御するために用いられる。一実施形態では、深度をトラッキングするように形成されたカメラ、又はハードウエアには、プロセッサ、特定の回路、あるいは、入れ込みを行うように形成されているＤＳＰが含まれてよく、データベースはユーザの動作を参照し、“スクリーン上の”動作へと置き換える。上述の通り、スケルトン・イメージという用語は、オブジェクトが人物のオブジェクト、アニメーションのオブジェクト、あるいは無生物のオブジェクトであっても、トラッキングされる任意のオブジェクトの任意のモデルを幅広く含むように定義されうる。
【００４２】
上述の実施形態を念頭において、本発明はコンピュータシステムに記録されるデータを含む、様々な、コンピュータ実装型のオペレーションを導入することができることが理解されよう。これらのオペレーションには、物理的な量を物理的に扱うことが要求される。必要ではないが、通常は、これらの量は、記録、伝送、組合せ、比較、及びその他の操作が可能な、電気的、又は磁気的信号の形状を取る。更に、実行される操作は多くの場合、生産する、識別する、決定する、あるいは比較するなどの用語で、はっきりと言及される。
【００４３】
上述の発明は、ハンドヘルド・デバイス、マイクロプロセッサ・システム、マイクロプロセッサベースの、又はプログラム可能な家庭用電化製品、ミニコンピュータ、メインフレーム・コンピュータなどを含む、その他のコンピュータシステム・コンフィギュレーションで実行されうる。本発明はまた、コンピューティング環境を分散する際にも実行され、タスクは、通信ネットワークを通じて連結されている、遠隔処理デバイスによって実行される。
【００４４】
本発明はまた、コンピュータ可読媒体上にコンピュータ可読コードとして実現されることもできる。コンピュータ可読媒体は、コンピュータシステムによって、その後読み込まれることが可能なデータの記録ができる、任意のデータ記録デバイスである。コンピュータ可読媒体には、ハード・ドライブ、ネットワーク接続ストレージ（ＮＡＳ）、ＲＯＭ、ランダムアクセスメモリ、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、磁気テープ、その他の、光学的、及び非光学的なデータ記録デバイスなどが挙げられる。コンピュータ可読媒体は、コンピュータ可読コードが分散式で記録され、実行されるように、ネットワークに接続されたコンピュータシステム上に分散されることもできる。
【００４５】
本発明を要約すると、ビデオゲームのキャラクタを制御するための、リアルタイムのモーション・キャプチャの方法が提供されている。一実施形態では、方法は、制御オブジェクトのモデルを定義することがら開始する。次に、モデル上のマーカの位置が識別される。次に、制御オブジェクトに関連づけられる動作がキャプチャされる。その後、制御オブジェクトに関連づけられた動作は、モデルの位置を変更するように翻訳される。次に、ディスプレイ・スクリーン上に表示されているキャラクタの動作は、モデルの位置の変更に応じて、制御される。コンピュータ可読媒体と、リアルタイムのモーション・キャプチャを通じてビデオキャラクタの制御ができるプロセッシング・システムもまた提供される。
前述の発明を明確に理解するために、少し詳しく説明してきたが、ある種の変更や修正は添付の請求の範囲内で行われて良いことは明らかである。したがって、本発明の実施形態は、制限的なものではなく、例示的なものとして考慮され、また、本発明はここに記載されているものに限定されずに、添付の請求の範囲と等価の範囲内で修正されることができる。請求の範囲、要素、及び／又は、ステップは、請求の範囲に明示されていない限りは、工程の順番は特に定められていない。
【図面の簡単な説明】
【００４６】
【図１】動作を記録するために、体に複数のボールが配置されている、人物の概略図。
【図２】本発明の一実施形態によるビデオゲームのキャラクタを制御するために使われるリアルタイムのモーション・キャプチャを例示した略式説明図。
【図３】本発明の一実施形態により、関節角度が描かれたマーカを備えた人物のモデルの概略図。
【図４Ａ】本発明の一実施形態による、マーカとして制御オブジェクトによって装着されうる例示的模様の説明図。
【図４Ｂ】本発明の一実施形態による、マーカとして制御オブジェクトによって装着されうる例示的模様の説明図。
【図４Ｃ】本発明の一実施形態による、マーカとして制御オブジェクトによって装着されうる例示的模様の説明図。
【図５】本発明の一実施形態による、ディスプレイ・スクリーン上に表示されるキャラクタに関連付けられた動作を制御するために用いられる制御オブジェクトの、リアルタイムのモーション・キャプチャの概略図。
【図６Ａ】本発明の一実施形態による、ボディスーツに含まれるマーカを備えたボディスーツの概略図。
【図６Ｂ】図６Ａのボディスーツの別の実施形態の説明図。
【図７】本発明の一実施形態による、マーカに対するイメージ・フレームを監視するための最適な技術を例示した概略図。
【図８】本発明の一実施形態により、深度イメージによって入れ込みされている領域を描いたモデルの概略図。
【図９】本発明の実施形態を実装するために用いられうる、グラフィック表示上のオブジェクトとインタラクティブな、例示的ユーザ入力システムのブロック図。
【図１０】本発明の実施形態による、グラフィック表示上のオブジェクトと、ユーザとのインタラクティブな入力システムの説明図。
【図１１】本明細書に説明されている本発明の実施形態を実装するように構成されている、コンピュータ・プロセッシング・システムの略式ブロック図。
【図１２】本発明の実施形態による、ディスプレイ・スクリーン上に表示されるキャラクタを制御するための、リアルタイムのモーション・キャプチャのための方法の工程のフローチャート。
【図１】
0004723863.tif 000002
【図２】
0004723863.tif 000003
【図３】
0004723863.tif 000004
【図４Ａ】
0004723863.tif 000005
【図４Ｂ】
0004723863.tif 000006
【図４Ｃ】
0004723863.tif 000007
【図５】
0004723863.tif 000008
【図６Ａ】
0004723863.tif 000009
【図６Ｂ】
0004723863.tif 000010
【図７】
0004723863.tif 000011
【図８】
0004723863.tif 000012
【図９】
0004723863.tif 000013
【図１０】
0004723863.tif 000014
【図１１】
0004723863.tif 000015
【図１２】
0004723863.tif 000016