(57)【特許請求の範囲】
【請求項１】
インタラクティブアプリケーションに対して入力を提供するための画像捕捉デバイスであって、
筐体と、
前記筐体の前面に沿って画定される第１のカメラと、
第１の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、前記第１のカメラを制御するように構成される、第１のカメラコントローラであって、前記第１のカメラからの前記捕捉された画像は、インタラクティブ環境のダイナミックレンジを検出し、かつユーザを追跡するように分析されるものである、第１のカメラコントローラと、
前記筐体の前記前面に沿って画定される第２のカメラと、
前記第１の露出設定よりも低い第２の露出設定で、前記ユーザとのインタラクションの間に、前記インタラクティブ環境の画像を捕捉するように、前記第２のカメラを制御するように構成される、第２のカメラコントローラと、を備え、前記第２のカメラからの前記捕捉された画像は、前記インタラクティブ環境において照射された物体を識別および追跡するように分析され、かつ、
照射された物体の光強度は、前記インタラクティブ環境の検出されたダイナミックレンジを用いて、前記インタラクティブ環境内のより明るい物体の中にあるように調整される、画像捕捉デバイス。
【請求項２】
前記第１のカメラからの前記捕捉された画像は、ユーザを識別および追跡するように分析される、請求項１に記載の画像捕捉デバイス。
【請求項３】
前記ユーザを識別および追跡することは、前記ユーザの顔を識別および追跡することを含む、請求項２に記載の画像捕捉デバイス。
【請求項４】
前記第１のカメラおよび前記第２のカメラは、前記筐体の前記前面に沿って水平に整合される、請求項１に記載の画像捕捉デバイス。
【請求項５】
前記インタラクティブ環境からの音声を捕捉するためのマイクロホンアレイをさらに備える、請求項１に記載の画像捕捉デバイス。
【請求項６】
前記第１のカメラコントローラは、前記ユーザとのインタラクションの前に、前記インタラクティブ環境の画像を捕捉するように、前記第１のカメラを制御するように構成され、前記ユーザとのインタラクションの前に捕捉される前記画像は、前記第１の露出設定を判定するように分析される、請求項１に記載の画像捕捉デバイス。
【請求項７】
前記第２のカメラコントローラは、前記ユーザとのインタラクションの前に、前記インタラクティブ環境の画像を捕捉するように、前記第２のカメラを制御するように構成され、前記ユーザとのインタラクションの前に捕捉される前記画像は、前記第２の露出設定を判定するように分析される、請求項１に記載の画像捕捉デバイス。
【請求項８】
インタラクティブアプリケーションとのインタラクションを容易にするためのシステムであって、
照射される物体を備えたコントローラデバイスと、
画像捕捉デバイスであって、第１のカメラと、第２のカメラと、第１の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、前記第１のカメラを制御するように構成される、第１のカメラコントローラと、前記第１の露出設定よりも低い第２の露出設定で、前記ユーザとのインタラクションの間に、前記インタラクティブ環境の画像を捕捉するように、前記第２のカメラを制御するように構成される、第２のカメラコントローラとを含む、画像捕捉デバイスと、
前記画像捕捉デバイスに接続されるコンピューティングデバイスであって、前記コンピューティングデバイスは、前記インタラクティブアプリケーションを実行するように構成され、前記コンピューティングデバイスは、前記インタラクティブ環境において照射された物体を識別および追跡するように、前記第２のカメラからの前記捕捉された画像を分析するように構成されるコンピューティングデバイスと、を備え、
前記コンピューティングデバイスは、前記第１のカメラからの補足された画像を分析して前記インタラクティブ環境のダイナミックレンジを検出し、かつ、前記インタラクティブ環境内のユーザを追跡し、前記ダイナミックレンジは、前記第２の露出設定の決定に用いられる、システム。
【請求項９】
前記コンピューティングデバイスは、ユーザを識別および追跡するように、前記第１のカメラからの前記捕捉された画像を分析するように構成される、請求項８に記載のシステム。
【請求項１０】
前記ユーザを識別および追跡することは、前記ユーザの顔を識別および追跡することを含む、請求項９に記載のシステム。
【請求項１１】
前記画像補足デバイスは、筐体を有し、
前記第１のカメラおよび前記第２のカメラは、前記筐体の前面に沿って水平に整合される、請求項８に記載のシステム。
【請求項１２】
前記インタラクティブ環境からの音声を捕捉するためのマイクロホンアレイをさらに備える、請求項８に記載のシステム。
【請求項１３】
前記第１のカメラコントローラは、前記ユーザとのインタラクションの前に、前記インタラクティブ環境の画像を捕捉するように、前記第１のカメラを制御するように構成され、前記ユーザとのインタラクションの前に捕捉される前記画像は、前記第１の露出設定を判定するように分析される、請求項８に記載のシステム。
【請求項１４】
前記第２のカメラコントローラは、前記ユーザとのインタラクションの前に、前記インタラクティブ環境の画像を捕捉するように、前記第２のカメラを制御するように構成され、前記ユーザとのインタラクションの前に捕捉される前記画像は、前記第２の露出設定を判定するように分析される、請求項８に記載のシステム。
【請求項１５】
インタラクティブアプリケーションとのインタラクションのための方法であって、
第１の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境からの画像を捕捉することと、
前記第１の露出設定で補足された画像を分析して前記インタラクティブ環境のダイナミックレンジを検出し、かつ、ユーザを追跡し、
画像の補足と同時的に、前記第１の露出設定よりも低い第２の露出設定で、前記ユーザとのインタラクションの間に、前記インタラクティブ環境からの画像を捕捉することと、
前記インタラクティブ環境において照射された物体を識別および追跡するように、前記第２の露出設定において捕捉される前記画像を分析し、前記ダイナミックレンジは、前記第２の露出設定の決定に用いられることと、を含む、方法。
【請求項１６】
ユーザを識別および追跡するように、前記第１の露出設定において捕捉される前記画像を分析することをさらに含む、請求項１５に記載の方法。
【請求項１７】
前記ユーザを識別および追跡することは、前記ユーザの顔を識別および追跡することを含む、請求項１６に記載の方法。
【請求項１８】
ＡＲタグを識別および追跡するように、前記第１の露出設定において捕捉される前記画像を分析することをさらに含む、請求項１５に記載の方法。
【請求項１９】
前記インタラクティブ環境からの音声を捕捉することをさらに含む、請求項１５に記載の方法。
【請求項２０】
前記ユーザとのインタラクションの前に、前記インタラクティブ環境の画像を捕捉することと、
前記第１の露出設定または前記第２の露出設定のうちの１つ以上を判定するように、前記ユーザとのインタラクションの前に捕捉される前記画像を分析することと、をさらに含む、請求項１５に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
優先権の主張
本出願は、２０１２年６月４日に出願された米国仮出願第６１／６５５，４５９号、名称「Multi-Image Interactive Gaming Device」、２０１３年３月１５日に出願された米国特許出願第１３／８４２，５７３号、名称「Multi-Image Interactive Gaming Device」、２０１３年３月１５日に出願された米国特許出願第１３／８４２，８７２号、名称「MANAGING CONTROLLER PAIRING IN A MULTIPLAYER GAME」への優先権を主張し、これらの各々の開示は、本明細書において参照することにより組み込まれる。
【０００２】
関連出願
本出願は、２０１２年６月３０日に出願された米国出願第１３／５３９，３１１号、名称「Gaming Controller」に関連する。
【０００３】
本出願は、２０１０年７月２０日に発行された米国特許第７，７６０，２４８号、名称「Selective Sound Source Listening in Conjunction with Computer Interactive Processing」に関連する。
【０００４】
本出願は、２０１２年１２月２１日に出願された米国仮出願第６１／７４５，２８１号、名称「Automatic Generation of Suggested Mini-Games for Cloud-Gaming Based on Recorded Gameplay」に関連する。
【０００５】
これらの出願の開示は、全ての目的のために、それらの全体として参照することにより本明細書に組み込まれる。
【０００６】
本発明は、インタラクティブプログラムとインターフェース接続するためのコントローラに関する。
【背景技術】
【０００７】
ビデオゲーム産業は、長年にわたって多くの変化を見てきた。演算能力が拡大するにつれて、ビデオゲームの開発者は、演算能力のこれらの増大を利用したゲームソフトウエアを同じように作成してきた。この目的のため、ビデオゲーム開発者は、非常に現実的なゲーム経験を生成するために、洗練された動作および数学を組み込んだゲームをコーディングしてきた。
【０００８】
例となるゲーム用のプラットフォームには、Ｓｏｎｙ  Ｐｌａｙｓｔａｔｉｏｎ（登録商標）、Ｓｏｎｙ  Ｐｌａｙｓｔａｔｉｏｎ２（登録商標）（ＰＳ２）、およびＳｏｎｙ  Ｐｌａｙｓｔａｔｉｏｎ３（登録商標）（ＰＳ３）があり得るが、これらの各々は、ゲーム機という形で売られている。公知のとおり、ゲーム機は、モニタ（通常はテレビ）に接続して、手持ち式コントローラを介してユーザとの対話あるいはインタラクションを可能とするように設計される。手持ち式コントローラの一例は、（株）ソニー・コンピュータエンタテインメントによって製造されるＤＵＡＬＳＨＯＣＫ（登録商標）３ワイヤレスコントローラである。
【０００９】
本発明の実施形態は、上記背景のもとになされたものである。
【発明の概要】
【００１０】
本発明の実施形態は、ビデオゲームといったインタラクティブアプリケーションとインターフェース接続するためのシステムおよび方法を提供する。本発明のいくつかの独創的な実施形態を、以下に説明する。
【００１１】
一実施形態において、インタラクティブアプリケーションに対して入力を提供するための画像捕捉デバイスが提供される。画像捕捉デバイスは、筐体と、筐体の前面に沿って画定される第１のカメラと、第１の露出設定で、ユーザのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、第１のカメラを制御するように構成される、第１のカメラコントローラと、筐体の前面に沿って画定される第２のカメラと、第１の露出設定よりも低い第２の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、第２のカメラを制御するように構成される、第２のカメラコントローラとを含み、第２のカメラからの捕捉された画像は、インタラクティブ環境において照射された物体を識別および追跡するように分析される。
【００１２】
一実施形態において、第１のカメラからの捕捉された画像は、ユーザを識別および追跡するように分析される。
【００１３】
一実施形態において、ユーザを識別および追跡することは、ユーザの顔を識別および追跡することを含む。
【００１４】
一実施形態において、第１のカメラおよび第２のカメラは、筐体の前面に沿って水平に整合される。
【００１５】
一実施形態において、画像捕捉デバイスは、インタラクティブ環境からの音声を捕捉するためのマイクロホンアレイをさらに含む。
【００１６】
一実施形態において、第１のカメラコントローラは、ユーザとのインタラクションの前に、インタラクティブ環境の画像を捕捉するように、第１のカメラを制御するように構成され、ユーザとのインタラクションの前に捕捉される画像は、第１の露出設定を判定するように分析される。
【００１７】
一実施形態において、第２のカメラコントローラは、ユーザとのインタラクションの前に、インタラクティブ環境の画像を捕捉するように、第２のカメラを制御するように構成され、ユーザとのインタラクションの前に捕捉される画像は、第２の露出設定を判定するように分析される。
【００１８】
別の実施形態において、インタラクティブアプリケーションとのインタラクションを容易にするためのシステムが提供され、該システムは、画像捕捉デバイスであって、第１のカメラと、第２のカメラと、第１の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、第１のカメラを制御するように構成される、第１のカメラコントローラと、第１の露出設定よりも低い第２の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境の画像を捕捉するように、第２のカメラを制御するように構成される、第２のカメラコントローラとを含む、画像捕捉デバイスと、画像捕捉デバイスに接続されるコンピューティングデバイスであって、該コンピューティングデバイスは、インタラクティブアプリケーションを実行するように構成され、該コンピューティングデバイスは、インタラクティブ環境において照射された物体を識別および追跡するように、第２のカメラからの捕捉された画像を分析するように構成される、コンピューティングデバイスと、を含む。
【００１９】
一実施形態において、コンピューティングデバイスは、ユーザを識別および追跡するように、第１のカメラからの捕捉された画像を分析するように構成される。
【００２０】
一実施形態において、ユーザを識別および追跡することは、ユーザの顔を識別および追跡することを含む。
【００２１】
一実施形態において、第１のカメラおよび第２のカメラは、筐体の前面に沿って水平に整合される。
【００２２】
一実施形態において、システムは、インタラクティブ環境からの音声を捕捉するためのマイクロホンアレイをさらに含む。
【００２３】
一実施形態において、第１のカメラコントローラは、ユーザとのインタラクションの前に、インタラクティブ環境の画像を捕捉するように、第１のカメラを制御するように構成され、ユーザとのインタラクションの前に捕捉される画像は、第１の露出設定を判定するように分析される。
【００２４】
一実施形態において、第２のカメラコントローラは、ユーザとのインタラクションの前に、インタラクティブ環境の画像を捕捉するように、第２のカメラを制御するように構成され、ユーザとのインタラクションの前に捕捉される画像は、第２の露出設定を判定するように分析される。
【００２５】
別の実施形態において、インタラクティブアプリケーションとのインタラクションのための方法が提供され、以下の方法動作：第１の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境からの画像を捕捉すること、第１の露出設定よりも低い第２の露出設定で、ユーザとのインタラクションの間に、インタラクティブ環境からの画像を捕捉すること、インタラクティブ環境において照射された物体を識別および追跡するように、第２の露出設定において捕捉される画像を分析することを含む。
【００２６】
一実施形態において、該方法は、ユーザを識別および追跡するように、第１の露出設定において捕捉される画像を分析することをさらに含む。
【００２７】
一実施形態において、ユーザを識別および追跡することは、ユーザの顔を識別および追跡することを含む。
【００２８】
一実施形態において、該方法は、ＡＲタグを識別および追跡するように、第１の露出設定において捕捉される画像を分析することをさらに含む。
【００２９】
一実施形態において、該方法は、インタラクティブ環境からの音声を捕捉することをさらに含む。
【００３０】
一実施形態において、該方法は、ユーザとのインタラクションの前に、インタラクティブ環境の画像を捕捉することと、第１の露出設定または第２の露出設定のうちの１つ以上を判定するように、ユーザとのインタラクションの前に捕捉される画像を分析することと、をさらに含む。
【００３１】
別の実施形態において、インタラクティブアプリケーションとのマルチプレイヤインタラクションを管理するための方法が提供され、以下の方法動作：第１のコントローラの位置を判定すること、第２のコントローラの位置を判定すること、第１のユーザのバイオメトリック識別子の位置を判定すること、第２のユーザのバイオメトリック識別子の位置を判定すること、第１のコントローラの位置および第１のユーザのバイオメトリック識別子の位置に基づいて、第１のコントローラを第１のユーザと対にすること、第２のコントローラの位置および第２のユーザのバイオメトリック識別子の位置に基づいて、第２のコントローラを第２のユーザと対にすることを含み、該方法は、プロセッサによって実行される。
【００３２】
一実施形態において、第１のコントローラの位置を判定することは、第１のコントローラの照射された部分を識別することを含み、第２のコントローラの位置を判定することは、第２のコントローラの照射された部分を識別することを含む。
【００３３】
一実施形態において、第１のコントローラの照射された部分を識別することは、第１のコントローラの照射された部分によって定義される第１の色を識別することを含み、第２のコントローラの照射された部分を識別することは、第２のコントローラの照射された部分によって定義される第２の色を識別することを含み、第２の色は、第１の色とは異なる色である。
【００３４】
一実施形態において、該方法は、第１のコントローラの第２のユーザとの以前の対を判定することと、第２のコントローラの第１のユーザとの以前の対を判定することと、第１のコントローラの照射された部分を第１の色から第２の色に変更することと、第２のコントローラの照射された部分を第２の色から第１の色に変更することと、をさらに含む。
【００３５】
一実施形態において、第１のユーザのバイオメトリック識別子は、第１のユーザの顔、声、サイズ、または指紋のうちの１つ以上によって定義され、第１のユーザのバイオメトリック識別子は、第２のユーザの顔、声、サイズ、または指紋のうちの１つ以上によって定義される。
【００３６】
一実施形態において、第１のユーザのバイオメトリック識別子の位置を判定することは、第１のコントローラの近傍性を判定することと、第１のユーザのバイオメトリック識別子を識別するように、第１のコントローラの近傍性を検索することと、を含み、第２のユーザのバイオメトリック識別子の位置を判定することは、第２のコントローラの近傍性を判定することと、第２のユーザのバイオメトリック識別子を識別するように、第２のコントローラの近傍性を検索することと、を含む。
【００３７】
一実施形態において、該方法は、インタラクティブアプリケーションの分割画面表示を提示することをさらに含み、分割画面表示は、第１のユーザに対して定義される第１の表示、および第２のユーザに対して定義される第２の表示を含み、分割画面表示における第１の表示および第２の表示の位置は、第１のコントローラの位置、第２のコントローラの位置、第１のユーザのバイオメトリック識別子の位置、および第２のユーザのバイオメトリック識別子のうちの１つ以上に基づいて判定される。
【００３８】
一実施形態において、本開示の方法のうちのいずれかは、コンピュータで読み取り可能な媒体上で具現化されるプログラム命令の形態で定義される。
【００３９】
別の実施形態において、インタラクティブアプリケーションとのマルチプレイヤインタラクションを管理するための方法が提供され、以下の方法動作：インタラクティブ環境の画像を捕捉すること、第１のコントローラの位置を判定するように、捕捉された画像を分析すること、第２のコントローラの位置を判定するように、捕捉された画像を分析すること、第１のユーザのバイオメトリック識別子の位置を判定するように、捕捉された画像を分析すること、第２のユーザのバイオメトリック識別子の位置を判定するように、捕捉された画像を分析すること、第１のコントローラの位置および第１のユーザのバイオメトリック識別子の位置に基づいて、第１のコントローラを第１のユーザと対にすること、第２のコントローラの位置および第２のユーザのバイオメトリック識別子の位置に基づいて、第２のコントローラを第２のユーザと対にすることを含み、該方法は、プロセッサによって実行される。
【００４０】
一実施形態において、第１のコントローラの位置を判定するように、捕捉された画像を分析することは、第１のコントローラの照射された部分を識別することを含み、第２のコントローラの位置を判定するように、捕捉された画像を分析することは、第２のコントローラの照射された部分を識別することを含む。
【００４１】
一実施形態において、第１のコントローラの照射された部分を識別することは、第１のコントローラの照射された部分によって定義される第１の色を識別することを含み、第２のコントローラの照射された部分を識別することは、第２のコントローラの照射された部分によって定義される第２の色を識別することを含み、第２の色は、第１の色とは異なる色である。
【００４２】
一実施形態において、該方法は、第１のコントローラの第２のユーザとの以前の対を判定することと、第２のコントローラの第１のユーザとの以前の対を判定することと、第１のコントローラの照射された部分を第１の色から第２の色に変更することと、第２のコントローラの照射された部分を第２の色から第１の色に変更することと、をさらに含む。
【００４３】
一実施形態において、第１のユーザのバイオメトリック識別子は、第１のユーザの顔によって定義され、第１のユーザのバイオメトリック識別子は、第２のユーザの顔によって定義される。
【００４４】
一実施形態において、第１のユーザのバイオメトリック識別子の位置を判定するように、捕捉された画像を分析することは、第１のコントローラの近傍性を判定することと、第１のユーザのバイオメトリック識別子を識別するように、第１のコントローラの近傍性を検索することと、を含み、第２のユーザのバイオメトリック識別子の位置を判定するように、捕捉された画像を分析することは、第２のコントローラの近傍性を判定することと、第２のユーザのバイオメトリック識別子を識別するように、第２のコントローラの近傍性を検索することと、を含む。
【００４５】
一実施形態において、該方法は、インタラクティブアプリケーションの分割画面表示を提示することをさらに含み、分割画面表示は、第１のユーザに対して定義される第１の表示、および第２のユーザに対して定義される第２の表示を含み、分割画面表示における第１の表示および第２の表示の位置は、第１のコントローラの位置、第２のコントローラの位置、第１のユーザのバイオメトリック識別子の位置、および第２のユーザのバイオメトリック識別子のうちの１つ以上に基づいて判定される。
【００４６】
別の実施形態において、クラウド処理サーバ上で実行するインタラクティブアプリケーションとのマルチプレイヤインタラクションを管理するための方法が提供され、以下の方法動作：インタラクティブ環境から捕捉される画像データを受信すること、第１のコントローラの位置、第２のコントローラの位置、第１のユーザのバイオメトリック識別子の位置、および第２のユーザのバイオメトリック識別子の位置を判定するように、捕捉された画像データを処理すること、第１のコントローラの位置および第１のユーザのバイオメトリック識別子の位置に基づいて、第１のコントローラを第１のユーザと対にすること、第２のコントローラの位置および第２のユーザのバイオメトリック識別子の位置に基づいて、第２のコントローラを第２のユーザと対にすることを含み、該方法は、プロセッサによって実行される。
【００４７】
一実施形態において、第１のコントローラの位置を判定することは、第１のコントローラの照射された部分を識別するように、捕捉された画像データを分析することを含み、第２のコントローラの位置を判定することは、第２のコントローラの照射された部分を識別するように、捕捉された画像データを分析することを含む。
【００４８】
一実施形態において、第１のコントローラの照射された部分を識別することは、第１のコントローラの照射された部分によって定義される第１の色を識別することを含み、第２のコントローラの照射された部分を識別することは、第２のコントローラの照射された部分によって定義される第２の色を識別することを含み、第２の色は、第１の色とは異なる色である。
【００４９】
一実施形態において、該方法は、第１のコントローラの第２のユーザとの以前の対を判定することと、第２のコントローラの第１のユーザとの以前の対を判定することと、第１のコントローラの照射された部分を第１の色から第２の色に変更するように、命令を送信することと、第２のコントローラの照射された部分を第２の色から第１の色に変更するように、命令を送信することと、をさらに含む。
【００５０】
本発明の他の態様は、本発明の原理を例として示す添付図面と併せて、以下の発明を実施するための形態を読めば明らかであろう。
【図面の簡単な説明】
【００５１】
本発明は、以下の添付図面と併せて、以下の説明を参照することによって、最良に理解され得る。
【図１Ａ】本発明の実施形態に従う、複数のプレイヤがビデオゲームとインタラクションを行っている、インタラクティブ環境を例解する。
【図１Ｂ】本発明の実施形態に従う、画像捕捉デバイスを例解する。
【図１Ｃ】本発明の実施形態に従う、画像捕捉デバイスの概略図である。
【図２】本発明の実施形態に従う、高露出カメラによって捕捉されるインタラクティブ環境の画像を例解する。
【図３】本発明の実施形態に従う、低露出カメラによって捕捉されるインタラクティブ環境の画像を例解する。
【図４】本発明の実施形態に従う、インタラクティブ環境におけるアプリケーションとインタラクションするためのコントローラを動作させる複数のユーザを例解する。
【図５】本発明の実施形態に従う、ビデオゲームとインタラクションを行う２人のプレイヤを例解する。
【図６】本発明の実施形態に従う、インタラクティブ環境において、モーションコントローラ２１２を動作させるユーザを例解する。
【図７】本発明の実施形態に従う、ディスプレイ上でレンダリングされるインタラクティブアプリケーションとインタラクションを行うユーザを例解する。
【図８】本発明の一実施形態に従う、ビデオゲームとのインタラクションを提供するために使用され得る、ハードウェアおよびユーザインターフェースを例解する。
【図９】本発明の一実施形態に従う、命令を処理するために使用され得る、追加のハードウェアを例解する。
【図１０】本発明の一実施形態に従う、それぞれのユーザＡ〜ユーザＥが、インターネットを介してサーバ処理に接続されるゲームクライアント１１０２とインタラクションを行う、場面Ａ〜場面Ｅの例示的な例解図である。
【図１１】情報サービスプロバイダアーキテクチャの実施形態を例解する。
【発明を実施するための形態】
【００５２】
以下の実施形態は、インタラクティブプログラムとインターフェース接続するための方法および装置を説明する。
【００５３】
しかしながら、本発明は、これらの具体的な詳細のうちの一部または全部なしでも実践され得ることが当業者には明らかであろう。本発明を不必要に分かりにくくすることがないように、公知の処理動作を詳細に説明していない例もある。
【００５４】
図１Ａは、本発明の実施形態に従う、複数のプレイヤがビデオゲームとインタラクションを行っている、インタラクティブ環境を例解する。コンピューティングデバイス１００は、ディスプレイ１０２上でビデオゲームをレンダリングするための画像データおよびオーディオデータを提供する。コンピューティングデバイス１００は、汎用コンピュータ、ゲーミングコンソール、またはビデオゲームの画像データおよびオーディオデータをディスプレイ１０２に提供するように構成される任意の他のタイプのデバイスであり得る。ビデオゲームは、コンピューティングデバイス１００上で実行させることができるか、または遠隔で実行されてもよく、コンピューティングデバイス１００が、レンダリングのための画像データおよびオーディオデータを提供するため、ならびにユーザからの入力を受信および伝送するための端末として作用する。画像捕捉デバイス１０４は、２つのカメラ：高露出カメラ１０６および低露出カメラ１０８を含む。高露出カメラ１０６は、高量のインタラクティブ環境の詳細の捕捉を可能にするように設定される露出レベルにおいて、インタラクティブ環境の画像を捕捉するように構成される。概略的には、高露出カメラ１０６の露出レベルは、インタラクティブ環境からの光強度の全体的なダイナミックレンジに基づいて判定し、詳細の最大の捕捉を可能にするように最適化することができる。対照的に、低露出カメラ１０８は、比較的低量のインタラクティブ環境の詳細を捕捉するように設定されるより低い露出レベルにおいて、インタラクティブ環境の画像を捕捉するように構成される。大まかに言えば、低露出カメラ１０８の露出レベルは、インタラクティブ環境からの光強度の全体的なダイナミックレンジに基づいて判定することができるが、より少ない詳細を伴う画像の捕捉を可能にする、より低いレベルに設定される。低露出カメラ１０８の露出レベルは、高露出カメラ１０６のそれよりも低いレベルに設定されるため、低露出カメラ１０８からの捕捉された画像は、より低い光強度を有するインタラクティブ環境の領域から、より少ない詳細を提供するか、または詳細を全く提供しないであろう。
【００５５】
図１Ｂは、高露出カメラ１０６および低露出カメラ１０８を含む、画像捕捉デバイス１０４を例解する。一部の実施形態において、高露出カメラ１０６はまた、低露出カメラ１０８よりも高い解像度のカメラである。高露出カメラ１０６および低露出カメラ１０８の両方の解像度はまた、画像捕捉デバイス１０４の動作中に設定されてもよい。このため、高露出カメラはまた、より低い解像度を有する低露出カメラ１０８と比較して、より高い解像度を有する結果として、より多くの詳細を捕捉し、より多量のデータを生成し得る。高露出カメラ１０６および低露出カメラ１０８は、既知の距離分、互いから離すことができ、かつ提携して立体画像捕捉を可能にするように、動作させてもよい。カメラ間の距離は既知であるため、立体画像捕捉に基づいて、３次元効果を提供することができる。一実施形態において、高露出カメラ１０６および低露出カメラ１０８は、約６〜１０センチメートルの距離分、互いから離される。他の実施形態において、カメラは、１０センチメートル超、互いから離される。
【００５６】
一部の実施形態において、高低露出カメラは各々、同じハードウェア能力を有するが、一方が、他方よりも高い露出または解像度を達成するように、異なる様態で動作するように制御される。
【００５７】
加えて、画像捕捉デバイス１０４は、マイクロホン１０９Ａ、１０９Ｂ、１０９Ｃ、および１０９Ｄを含む、マイクロホンアレイを含んでもよい。マイクロホンアレイは、インタラクティブ環境からの音声を捕捉するために利用することができる。加えて、マイクロホンアレイのマイクロホンの各々からの音声は、インタラクティブ環境における音声の位置を判定するように分析することができる。特定の音声ゾーンは、音声が捕捉されるインタラクティブ環境内で画定することができる。音声ゾーンは、本明細書の他の場所で説明されるように、インタラクションのゾーンに従って判定されてもよい。例として、所与のインタラクティブゾーンから捕捉される音声は、特定のユーザと関連付けられ、インタラクティブゾーンの外側から生じる音声を除外して、そのユーザのゲームプレイのために処理され得る。
【００５８】
図１Ｃは、本発明の実施形態に従う、画像捕捉デバイス１０４の概略図を例解する。画像捕捉デバイス１０４は、カメラコントローラ１２１によって制御される、高および低露出カメラ１０６および１０８をそれぞれ含む。カメラコントローラ１２１は、画像捕捉のフレームレート、各捕捉のシャッタースピードまたは時間、解像度、アパーチャ、および種々の他の画像捕捉特性といった、カメラの種々の設定を制御することができる。画像プロセッサ１２２は、オンボード画像処理、例えば、生データ変換、画像データ圧縮または変換を実施する。マイクロホンコントローラ１２３は、マイクロホン１０９Ａ〜Ｄの感度を制御する。一実施形態において、マイクロホンコントローラ１２３はまた、各マイクロホンの方向を制御する。オーディオプロセッサ１２４は、オーディオデータのオンボード処理、例えば、アナログ〜デジタル変換、オーディオデータ圧縮を実施する。一部の実施形態において、オーディオプロセッサ１２４は、インタラクティブ環境における音声源の識別を実施するように構成することができるか、またはインタラクティブ環境における１つ以上の指定されたゾーンからではない音声を低減もしくは排除するように、マイクロホンアレイからの着信オーディオ信号を処理するように構成されてもよい。
【００５９】
画像捕捉デバイスは、ＣＰＵ１２４に動作的に接続され、これは、ゲームコンソールもしくはローカルコンピューティングデバイスのプロセッサであり得るか、またはクラウドコンピューティングデバイスといったリモートコンピューティングデバイスのプロセッサであり得る。ＣＰＵ１２４は、本明細書で説明される原理および方法に従って、処理および分析のために、高および低露出カメラの画像ストリーム、ならびにマイクロホンアレイからのオーディオストリームを受信することができる。
【００６０】
図２は、高露出カメラ１０６によって捕捉されるインタラクティブ環境の画像１３０を例解する。インタラクティブ環境において、ランプ１３２、写真１３４、窓１３６、カウチ１３８、および植物１４０を含む、複数の物体が存在し、これらは全て、画像１３０において可視的である。ユーザ１４２は、照射された追跡特性１４６を含む、コントローラ１４４を動作させる。ユーザ１４２およびコントローラ１４４もまた、捕捉された画像１３０において可視的である。
【００６１】
図３は、低露出カメラ１０８によって捕捉される同じインタラクティブ環境の画像１５０を例解する。画像１５０において、低露出カメラ１０８の露出レベルは、高露出カメラ１０６のそれよりも低いため、インタラクティブ環境において高い光強度を生成する最も明るい物体のみが、可視的である。示されるように、ランプ１３２の点灯された部分、窓１３６、およびコントローラ１４４の照射された追跡特性１４６のみが、これらの物体がインタラクティブ環境において最も高い光強度を生成するため、画像１５０において可視的である。
【００６２】
本発明の実施形態に従って、低露出カメラ１０８からの捕捉された画像は、コントローラ１４４の照射された追跡特性１４６の検出および追跡のために利用することができる。低露出カメラ１０８からの画像は、高露出カメラ１０６からのものよりも低い露出設定において捕捉されるため、それらは、ほとんどの状況で、同じインタラクティブ環境の高露出カメラによって捕捉される画像よりも少ないデータを有する。このため、照射された追跡特性１４６が、低露出カメラ１０８からの捕捉された画像において検出されるのに十分に明るい（十分に高い光強度を生成する）と仮定すると、これらの画像の分析に基づく、照射された追跡特性の検出および追跡は、より高い露出画像の分析に基づいて必要とされるであろうものよりも少ない処理を必要とする。
【００６３】
また、本発明の実施形態に従って、低露出カメラ１０８は、高露出カメラ１０６のものよりも小さいアパーチャを利用し得、それによって、高露出カメラ１０６のより大きいアパーチャで可能なものよりもより広い深度範囲にわたってより鋭い被写界深度を提供する。これは、コントローラ１４４の追跡特性１４６の正確な検出および追跡をさらに強化し、より大きいアパーチャを利用して捕捉されるより高い露出画像の分析から得られるであろうものに勝る、深度検出の特に改善された正確性を提供する。
【００６４】
低露出カメラ１０８からの捕捉された画像の分析に基づく、照射された追跡特性１４６の検出および追跡のためには、照射された追跡特性１４６が、インタラクティブ環境において最も明るい物体のうちのより明るいものの中にあることが望ましいことが理解されよう。確実にこの状況にするために、一実施形態において、インタラクティブ環境の全体的なダイナミックレンジが判定され、次いで、照射された追跡特性１４６の光強度が、インタラクティブ環境においてより明るい又は最も明るい物体の中にあるように、調節される。照射された追跡特性１４６の光強度が、インタラクティブ環境において最も明るい物体になるように調節される場合、低露出カメラ１０８の露出設定は、低露出カメラ１０８によって捕捉される画像からのインタラクティブ環境の残りを排除する値に設定することができ、それによって、照射された追跡特性１４６が、本質的に、かかる画像における唯一の検出可能な物体であるため、かかる画像に基づく、照射された追跡特性１４６の検出および追跡の処理を簡略化する。
【００６５】
しかしながら、例えば、インタラクティブ環境におけるユーザもしくは他者にとって、気をそらすものとならないように、または視覚的に場違いに見えないように、照射された追跡特性１４６をインタラクティブ環境における最も明るい物体になるように設定しないこともまた望ましい場合がある。このため、種々の実施形態において、照射された追跡特性１４６の光強度レベルは、インタラクティブ環境の全体的なダイナミックレンジの最も高い値に等しく（即ち、インタラクティブ環境における最も明るい物体（複数を含む）に等しく）定義することができる。別の実施形態において、照射された追跡特性１４６の光強度レベルは、ダイナミックレンジの上限のある割合内、例えば、インタラクティブ環境のダイナミックレンジの上位ｎ％内になるように設定することができる。一部の実施形態において、照射された追跡特性１０８の光強度レベルは、照射された追跡特性が、インタラクティブ環境の最も高い光強度値中の光強度を有するように、インタラクティブ環境に対する中央光強度値に基づいて設定することができる。
【００６６】
一部の実施形態において、インタラクティブ環境の全体的なダイナミックレンジに対する照射された追跡特性１０８の光強度値は、インタラクティブ環境の光強度特性に基づいて設定することができる。例えば、一実施形態において、インタラクティブ環境の全体的な周囲照明条件が低いと判定される場合、照射された追跡特性１０８の光強度は、インタラクティブ環境から検出される最大光強度よりも低いように設定される。一方、インタラクティブ環境の全体的な周囲照明条件が高いと判定される場合、照射された追跡特性１０８の光強度は、インタラクティブ環境からの最大の検出された光強度以上であるように設定される。これが可能でない場合、照射された追跡特性の光強度は、その最大の可能な値に設定される。このように、低い周囲照明条件が検出される時、照射された追跡特性１０８の光強度は、低い周囲光環境において視覚上目立ちすぎないように調節される。一方、高い周囲照明条件が検出される時、高い周囲照明条件下では、明るい物体は、知覚においてそれほど目立たないため、照射された追跡特性１０８の光強度は、全体的なインタラクティブ環境に対してより明るいように調節される。
【００６７】
図４は、本発明の実施形態に従う、インタラクティブ環境において、アプリケーションとインタラクションを行うためのコントローラを動作させる複数のユーザを例解する。例解される場面において、ユーザ１１０は、照射された追跡特性１６４を有するコントローラ１１６を動作させ、ユーザ１１２は、照射された追跡特性１７４を有するコントローラ１１８を動作させ、ユーザ１１４は、照射された追跡特性１８４を有するコントローラ１２０を動作させる。本明細書で説明される原理に従って、インタラクティブ環境の画像は、高露出カメラ１０６および低露出カメラ１０８によって捕捉される。コントローラの例としては、（株）ソニー・コンピュータエンタテインメントによって製造される、ＰｌａｙＳｔａｔｉｏｎ  Ｍｏｖｅモーションコントローラといったモーションコントローラが挙げられる。
【００６８】
一実施形態において、高露出カメラ１０６からのインタラクティブ環境の捕捉された画像は、プレイヤの位置を判定するように分析される。より具体的には、捕捉された画像は、ユーザの顔を含む顔領域を判定するように分析することができる。例解される実施形態において、顔領域１６６は、ユーザ１１０の顔を含み、顔領域１７６は、ユーザ１１２の顔を含み、顔領域１８６は、ユーザ１１４の顔を含む。識別された顔領域は、高露出カメラ１０６からの捕捉された画像の分析に基づいて、追跡することができる。例解される顔領域は、例として示されているに過ぎず、採用される顔認識方法の仕様に従って、種々の形状およびサイズを有し得ることが理解されよう。顔領域は、ユーザの頭部全体を含んでもよく、または、ユーザの頭部の選択された特性、例えば、目、鼻、および口を含むが、ユーザの顔および頭部の他の特性を除く領域のみを含んでもよい。
【００６９】
低露出カメラ１０８からのインタラクティブ環境の捕捉された画像は、コントローラの照射された追跡特性の配向および３次元位置、ならびにその結果として、コントローラ自体の位置を検出するように分析される。大まかに言えば、捕捉された画像における照射された追跡特性の配向およびサイズは、インタラクティブ環境内のその配向および位置、ならびにその結果として、照射された追跡特性が関連付けられるコントローラの配向および位置を判定するように分析することができる。照射された追跡特性１６４、１７４、および１８４は、異なる色、パターン、または他の差別特性を表示して、低露出カメラ１０８を介したそれらの識別および追跡を容易にするように構成されてもよい。
【００７０】
一部の実施形態において、各コントローラは、的確なインタラクティブ入力をアプリケーションに提供する目的のために、特定のユーザと関連付けられるか、対にされる。例えば、マルチプレイヤビデオゲームにおいて、何人かのユーザが存在し得、そのユーザの各々は、関連付けられたキャラクタ、アバタ、物体、またはビデオゲームにおける他の代表的なエンティティによって、ビデオゲーム内で表される。多くのかかるビデオゲームにおいて、各ユーザは、彼らの代表的なエンティティの制御を担い、そのため各コントローラは、特定のユーザと関連付けられる。コントローラをユーザと関連付ける従来の方法は、概して、面倒なメニューおよび手順を通じた選択を慎重に示すことをユーザに要求し、しばしば、実際のゲームプレイを遅延させる、厳密な手順への順守を要求してきた。しかしながら、本明細書で説明される原理に従って、コントローラをユーザと関連付けるために、著しく煩わしさがより低い方法を採用することができる。
【００７１】
一実施形態において、各コントローラは、その照射された追跡特性に、固有の色といった固有の特性を表示させるように構成される。これに基づき、各コントローラは、低露出カメラによる捕捉された画像の分析に基づいて識別される。例として図４を参照すると、コントローラ１１６が、照射された追跡特性１６４の検出に基づいて識別される時、コントローラに近接する顔検索領域１６８が定義され、その中で顔認識プロセスが適用される。顔検索領域１６８は、ユーザの顔が、コントローラがインタラクションのためにユーザによって動作させられている場合に存在すると合理的に予測され得るインタラクティブ環境の領域として定義される。顔検索領域は、例として、コントローラからの規定の距離、またはコントローラの周囲で配向される規定の領域形状に基づいて判定することができる。例解される実施形態において、顔検索領域１６８への顔認識プロセスの適用は、ユーザ１１０の顔を含む顔領域１６６の識別をもたらす。したがって、ユーザ１１０の識別された顔は、コントローラ１１６と関連付けられる。同様に、コントローラ１１８および１２０は、それぞれ、それらの照射された追跡特性１７４および１８４に基づいて識別することができる。次いで、顔検索領域１７８および１８８は、それぞれ、コントローラ１１８および１２０に対して定義される。これらの顔検索領域に顔認識プロセスを適用することにより、ユーザ１１２の顔領域１７６、およびユーザ１１４の顔領域１８６を識別する。したがって、ユーザ１１２の顔領域１７６は、コントローラ１１８と関連付けられ、顔領域１８６は、ユーザ１１４と関連付けられる。本開示の方法の適用は、暗い環境におけるコントローラおよびユーザの識別および関連付けを改善することができる。ユーザの顔に対して、捕捉された領域全体を検索する代わりに、限られた検索領域、および最初に、コントローラ位置の識別に基づいて検索するために識別される。また、ユーザが経時的に移動するにつれて、彼らの顔領域および彼らの関連付けられたコントローラを追跡することができる。
【００７２】
別の実施形態において、ユーザの顔およびコントローラは、インタラクティブ環境において各々識別され、顔は、高露出カメラからの捕捉された画像への顔認識プロセスの適用に基づいて識別され、コントローラは、低露出カメラからの捕捉された画像の分析に基づいて識別される。各コントローラまたは識別された顔に対して、対応する最も近い識別された顔またはコントローラがそれらと関連付けられる。一実施形態において、コントローラの識別された顔との関連付けは、コントローラおよび顔が、既定の距離よりも離れていない場合に行われ得る。他の実施形態において、２つの顔が所与のコントローラから等距離にある時、所与のコントローラに対して縦方向により近い顔が選好されてもよい。または、他の顔が考慮から排除され得るように、所与のコントローラを関連付ける前に、他のコントローラおよび顔が、最初に関連付けられてもよい。
【００７３】
本開示の方法に従って、コントローラの近傍内に見出されない顔は、コントローラと関連付けられないことが理解されよう。かつ、それに近接して識別される顔が無いコントローラは、いずれのユーザの顔とも関連付けられない。このため、ビデオゲームに参加していないユーザ、または使用されていないコントローラは、ビデオゲームとのインタラクションの目的のために、関連付けられないか、または不適切に起動されない。
【００７４】
一実施形態において、各ユーザの顔のプロフィール写真が保存される。所与のユーザのプロフィール写真は、高露出カメラ１０８によって撮影されるその後の捕捉された画像において、ユーザを認識するために利用される。上で示されるように、各コントローラは、その照射された追跡特性を介して、異なる色といった異なる特性を表示するように構成される。インタラクティブ環境において顔が検出される各ユーザに対して、最も近い識別されたコントローラがそのユーザに割り当てられる。このため、続けて図４を参照すると、ユーザ１１０は、顔領域１６６の顔認識に基づいて識別され、コントローラ１１６は、例えば、照射された追跡特性１６４によって表示される固有の色に基づいて識別される。次いで、ユーザ１１０に対して最も近い識別されたコントローラである、コントローラ１１６は、インタラクティブアプリケーションとのインタラクションの目的のために、ユーザ１１０と関連付けられる。同様に、コントローラ１１８および１２０の各々は、それぞれ、それらの照射された追跡特性１７４および１８４に固有の色を表示されるように構成される。次いで、顔領域１７６および１８６の顔認識に基づいて、ユーザ１１２および１１４が識別される。次いで、識別されたコントローラ１１８は、それが、ユーザ１１２に対して最も近いコントローラであると判定されるため、ユーザ１１２と関連付けられ、一方で、コントローラ１２０は、それが、ユーザ１１４に対して最も近いコントローラであると判定されるため、ユーザ１１４と関連付けられる。
【００７５】
種々の実施形態において、どのコントローラをどのユーザと関連付けるかを識別する方法は、種々の技術を採用することができることが理解されよう。例えば、「最も近い」コントローラは、ユーザに対するコントローラの予想される位置を判定または推定するように、顔認識と関連して体認識に部分的に基づいて判定することができる。予想される位置は、例えば、ユーザの中央部の近傍内のユーザのほぼ前の領域である可能性がある。ユーザの腕または他の体の特性の認識は、コントローラ関連付けプロセスの正確性を強化し得る。
【００７６】
特定のコントローラを特定のユーザと適切に関連付ける／割り当てるように、顔認識およびコントローラ認識を利用することによって、面倒な初期化手順を回避する。さらに、ユーザがコントローラを何らかの理由で切り替える（例えば、ユーザがゲームから休憩し、後にプレイを再開するが、プロセス中のコントローラを切り替える）場合、さらなるユーザ入力を必要とすることなく、正しいコントローラを、適切なユーザに迅速に割り当てることができる。したがって、一実施形態において、コントローラ割当プロセスは、インタラクティブビデオゲームの開始中だけでなく、インタラクションにおける休憩または一時停止後にも実行される。これは、例えば、ユーザがゲームプレイを一時停止または再開する時、セクションもしくはレベル間でビデオゲームが遷移する時、またはユーザがコントローラを切り替え得る任意の他の休憩もしくは期間に行われ得る。
【００７７】
別の実施形態に従って、あるインタラクティブビデオゲームにおいて、プレイヤは、ゲームプレイの特定のインタラクティブゾーンに割り当てられてもよい。例として、各インタラクティブゾーンは、インタラクティブゾーンにおいて検出されるユーザとのインタラクションを通じて制御される特定のキャラクタまたはエンティティに対応してもよい。しかしながら、ユーザがゾーンを切り替える場合、特定のユーザとユーザのエンティティとの間の対応は、破棄される。したがって、本明細書で説明される原理に従って、ユーザの顔およびコントローラが特定のインタラクティブゾーンにおいて認識される時、そのインタラクティブゾーンを、ユーザおよびコントローラと関連付けることができる。ユーザがゾーンまたはコントローラを切り替える場合、インタラクティブゾーンおよびコントローラのユーザへの割り当ては、ユーザの顔およびコントローラの更新された検出に基づいて切り替えることができる。
【００７８】
本明細書で説明されるようなコントローラ追跡と組み合わせて顔認識を利用することは、追加の機能性および利益を提供することができる。例えば、続けて図４を参照すると、コントローラインタラクティブゾーン１６８を、ユーザ１１０に対して判定することができる。コントローラインタラクティブゾーン１６８は、ユーザ１１０に割り当てられるコントローラ１１６が位置すると予想され得る、インタラクティブ環境の領域である。コントローラインタラクティブゾーン１６８は、例として、ユーザ１１０の手が届く推定または他の因子に基づいて、判定することができる。例解される実施形態において、コントローラインタラクティブゾーン１７８および１８８は、それぞれ、ユーザ１１２および１１４に対して判定される。
【００７９】
本発明の実施形態は、このように、特定のユーザとコントローラを対にすることの基礎として、顔認識を参照して説明されているが、他の実施形態において、他の形態のバイオメトリック識別を代用することができるか、または顔認識と組み合わせて利用することができることが、当業者によって理解されよう。他のバイオメトリック識別子は、人物の声、人物のサイズもしくは体重、指紋等の識別を含んでもよい。一実施形態において、ユーザの声は、ユーザの名前といった何かを言うことをユーザに要求すること、ならびにユーザを識別するように、記憶されたユーザの発話プロフィールに対して記録された発話を記録および分析することによって、識別されてもよい。この点において、ユーザの発話プロフィールは、ユーザにテキストの規定の部分を読ませることによって生成されてもよい。別の実施形態において、ユーザの指紋は、ユーザに、ユーザのコントローラデバイスのタッチセンサー式の部分上にユーザの指を置かせ、得られた指紋をユーザに対してすでに記憶されたものと照合することによって、得ることができる。
【００８０】
本明細書で論じられるように、種々のコントローラの照射された部分は、インタラクティブ環境からの捕捉された画像の分析に基づくそれらの識別を容易にする、異なる色を有するように構成することができる。ゲームプレイの経過中に、ユーザのグループは、ユーザのゲームプレイを一時停止し、ユーザのコントローラを下に置く場合があり、ユーザが戻ってくる時、ユーザのうちのいくらかまたは全てが、ユーザのゲームプレイを一時停止する前に、ユーザが使用していたものとは異なるコントローラを手に取る場合がある。しかしながら、異なるコントローラを手に取るにもかかわらず、ユーザの各々が、ユーザのコントローラと関連付けられる同じ色（この色がまた、ユーザのゲームプレイと関連付けられ得るため）を有することが依然として望ましくあり得る。したがって、一実施形態において、コントローラがユーザと対にされる時、ゲームプレイセッション中の以前の対が存在したかどうか、およびそれが現在判定された対と一致したかどうかが判定される。ユーザの以前のコントローラの対とユーザの現在のコントローラの対との間に不一致が検出される場合、一実施形態において、一度、全ての残りのコントローラが、それらのそれぞれのユーザと対にされる時、ユーザのコントローラ色は、ゲームプレイを一時停止する前にユーザが動作させていたコントローラによって呈される以前の色に変更される。
【００８１】
単純な２プレイヤの実施例が、上で説明される概念を例解する役割を果たすであろう。例えば、第１のプレイヤが、赤色を有するように照射される部分を伴う第１のコントローラを動作させ、第２のプレイヤが、青色を有するように照射される部分を伴う第２のコントローラを動作させると仮定する。すでに説明されるように、バイオメトリック識別と組み合わせたコントローラ識別に基づいて、第１のコントローラは、第１のプレイヤと対にされ、第２のコントローラは、第２のプレイヤと対にされる。加えて、プレイされているビデオゲームにおいて、赤色は、第１のプレイヤと関連付けられ、青色は、第２のプレイヤと関連付けられる。この色関連付けは、プレイヤが、ユーザのコントローラとそれらが制御するビデオゲームの要素との間の関係を理解するための直観的な機構を提供する。例として、第１のユーザによって制御されるアバタまたはキャラクタは、それが第１のコントローラ（赤に照射される）によって制御されることを示す赤色のマーカを特徴とする場合があり、一方、第２のユーザによって制御されるアバタまたはキャラクタは、それが第２のコントローラ（青に照射される）によって制御されることを示す青色のマーカを特徴とする場合がある。
【００８２】
しかしながら、第１のプレイヤおよび第２のプレイヤが、何らかの形でコントローラを切り替える（例えば、ゲームプレイから休憩を取り、後に戻ってくる）場合、対にするプロセスは、どのコントローラをどのユーザと対にするかを判定するように繰り返すことができる。この場合、青のコントローラは、ここで、第１のユーザと対にされ、赤のコントローラは、第２のユーザと対にされない。ユーザへの色のこの関連付けは、以前の関連付けと一致しないため、一度、どのコントローラがどのユーザによって動作させられているかを識別する意味で、コントローラがユーザと対にされると、コントローラによって呈される色は、ユーザへの色の以前の関連付けに一致するように変更することができる。この場合、第２のコントローラ（ここでは第１のユーザによって動作させられる）の色は、青から赤に変更され、第１のユーザを赤色のコントローラに復元し、第１のコントローラ（ここでは第２のユーザによって動作させられる）の色は、赤から青に変更され、第２のユーザを青色のコントローラに復元する。
【００８３】
図５は、本発明の実施形態に従う、ビデオゲームとインタラクションを行う２人のプレイヤを例解する。例解される実施形態において、プレイヤ１９０および１９２は、それぞれ、コントローラ１９４および１９６を動作させる。ビデオゲームは、分割画面モードでディスプレイ１０２上にレンダリングされる。表示を容易にするために、ユーザ１９０がインタラクティブ環境内の左に位置付けられ、ユーザ１９２が右に位置付けられる際、ビデオゲーム表示は、ユーザ１９０に対するビデオゲームが、ディスプレイ１０２の左部分１９８にレンダリングされ、ユーザ１９２のビデオゲーム表示が、ディスプレイ１０２の右部分２００にレンダリングされるように、分割画面モード内で割り当てられる。しかしながら、ユーザ１９０および１９２が場所を切り替える場合、コントローラ認識または顔認識に基づいて、ユーザが場所を切り替えたことを判定することができ、ビデオゲーム表示を分割画面の反対側に再割り当てすることができる。このため、ユーザ１９０および１９２が場所を切り替えた場合、ユーザの顔またはコントローラが検出および認識され、ユーザ１９２に対するビデオゲーム表示は、ここで、左部分１９８に示され、一方で、ユーザ１９０に対するビデオゲーム表示は、右部分２００に示される。前述の実施形態は、対応する左および右の分割画面部分とともに２人のユーザに関して説明されているが、任意の数のユーザ、および本発明の実施形態に従って、互いに割り当てられ得る、対応する分割画面部分が存在することが当業者によって理解されよう。
【００８４】
図６は、本発明の実施形態に従う、インタラクティブ環境において、モーションコントローラ２１２を動作させるユーザ２１０を例解する。モーションコントローラ２１２は、画像捕捉デバイス１０４の低露出カメラ１０８によって捕捉される画像の分析に基づいて追跡される、照射された追跡特性２１４を含む。加えて、ユーザ２１０は、拡張現実（ＡＲ）タグ２１６を保持している。ＡＲタグは、画像捕捉デバイス１０４の高露出カメラ１０６からの捕捉された画像の分析に基づいて、識別および追跡される。一実施形態において、ＡＲタグは、ディスプレイ１０２上に表示されるユーザのビデオにおいて、物体２１８と置き換えられる。コントローラ２１２は、表示されたビデオにおいて、物体２２０と置き換えられる。異なる露出レベルおよび／または解像度で動作するように構成される２つのカメラの適用は、照射された追跡特性およびＡＲタグの同時識別および追跡を可能にする。ＡＲタグに加えて、種々の他の拡張現実方法を、画像捕捉デバイス１０４の高露出カメラ１０６からの捕捉された画像の分析に基づいて適用することができることが理解されよう。これは、照射された追跡特性の同時追跡と組み合わせて、強化されたユーザとのインタラクション的経験を提供することができる。
【００８５】
図７は、本発明の実施形態に従う、ディスプレイ１０２上にレンダリングされるインタラクティブアプリケーションとインタラクションを行うユーザ２１０を例解する。コントローラ２１２は、他の場所で説明される方法および原理に従って、ユーザ２１０と関連付けられ、本開示である。一実施形態において、ジェスチャ領域２３０は、ユーザ２１０に対して識別される。ジェスチャ領域２３０は、インタラクティブアプリケーションとのインタラクションのために、ユーザ２１０によるジェスチャを検出するように分析される。一実施形態において、ジェスチャ検出は、高露出カメラからの捕捉された画像の分析に基づき、一方で、コントローラ２１２の追跡は、説明されるように、低露出カメラからの捕捉された画像の分析に基づく。ジェスチャ領域は、コントローラの位置に近接した領域であると判定され得る。一実施形態において、ジェスチャ領域は、コントローラを保持しているユーザの手を識別すること、およびコントローラに近接した領域を識別することによって判定されるが、コントローラを保持していないユーザの手が位置するコントローラの側部上の点の周囲で中心化される。なお別の実施形態において、ジェスチャ領域は、ユーザが、ユーザの両手によって保持されるように設計されるコントローラを動作させている時、ユーザは、かかる領域においてジェスチャし得るため、コントローラの側部の上またはそこまでの領域として定義される。
【００８６】
一部の実施形態において、注記されたように、画像捕捉デバイス１０４は、照射された物体の高品質の画像捕捉および高忠実度追跡を達成するように、異なる様態で動作させられる、２つのカメラを含むことができる。２つのカメラは、一方が、より高い解像度および露出で高品質画像を生成しつつ、他方が、より低い解像度および露出で低品質画像を生成するように、動作させられてもよい。さらに、カメラの各々の個々のフレームレートは、異なってもよい。例として、高品質カメラは、より高い露出を達成するために、より長い露出時間を必要とし得、したがって、より低いフレームレートを必要とする。一方で、低品質カメラは、比較的より低い露出を達成するために、より短い露出時間を必要とし得、したがって、追跡目的にとって有益であるより速いフレームレートを提供する。
【００８７】
図８は、本発明の一実施形態に従う、ビデオゲームとのインタラクションを提供するために使用され得るハードウェアおよびユーザインターフェースを例解する。図８は、本発明の実施形態に従う、基本コンピューティングデバイスで実行されるコンピュータプログラムと制御デバイスをインターフェース接続させるために互換性があり得るコンソールである、Ｓｏｎｙ（登録商標）Ｐｌａｙｓｔａｔｉｏｎ３（登録商標）娯楽デバイスの全体的なシステムアーキテクチャを概略的に例解する。システムユニット７００には、システムユニット７００に接続可能な種々の周辺デバイスが提供される。システムユニット７００は、Ｃｅｌｌプロセッサ７２８、Ｒａｍｂｕｓ（登録商標）ダイナミックランダムアクセスメモリ（ＸＤＲＡＭ）ユニット７２６、専用のビデオランダムアクセスメモリ（ＶＲＡＭ）ユニット７３２を持つＲｅａｌｉｔｙ  Ｓｙｎｔｈｅｓｉｚｅｒグラフィックスユニット７３０、およびＩ／Ｏブリッジ７３４を備える。システムユニット７００はまた、Ｉ／Ｏブリッジ７３４を介してアクセス可能な、ディスク７４０ａから読み取るＢｌｕ  Ｒａｙ（登録商標）Ｄｉｓｋ  ＢＤ−ＲＯＭ（登録商標）光ディスク読み取り装置７４０および取り外し可能なスロットインハードディスクドライブ（ＨＤＤ）７３６を備える。任意に、システムユニット７００はまた、同様にＩ／Ｏブリッジ７３４を介してアクセス可能な、コンパクトフラッシュ（登録商標）メモリカード、Ｍｅｍｏｒｙ  Ｓｔｉｃｋ（登録商標）メモリカード、および類似物から読み取るメモリカード読み取り装置７３８を備える。
【００８８】
Ｉ／Ｏブリッジ７３４はさらに、６つのユニバーサルシリアルバス（ＵＳＢ）２．０ポート７２４、ギガビットイーサネット（登録商標）ポート７２２、ＩＥＥＥ８０２．１１ｂ／ｇ無線ネットワーク（Ｗｉ−Ｆｉ）ポート７２０、および最大で７つのＢｌｕｅｔｏｏｔｈ（登録商標）接続部をサポート可能なＢｌｕｅｔｏｏｔｈ（登録商標）無線リンクポート７１８に接続する。
【００８９】
動作に際して、Ｉ／Ｏブリッジ７３４は、１つ以上のゲームコントローラ７０２〜７０３からのデータを含む、全ての無線データならびにＵＳＢおよびイーサネット（登録商標）のデータを取り扱う。例えば、ユーザがゲームをプレイしているとき、Ｉ／Ｏブリッジ７３４は、Ｂｌｕｅｔｏｏｔｈ（登録商標）リンクを介してゲームコントローラ７０２〜７０３からデータを受信して、これをＣｅｌｌプロセッサ７２８に出力するが、このプロセッサはこれに応じてゲームの現在の状態を更新する。
【００９０】
無線のＵＳＢポートおよびイーサネット（登録商標）ポートはさらに、遠隔制御機器７０４、キーボード７０６、マウス７０８、Ｓｏｎｙ  Ｐｌａｙｓｔａｔｉｏｎ  Ｐｏｒｔａｂｌｅ（登録商標）娯楽デバイスなどの携帯式娯楽デバイス７１０、ＥｙｅＴｏｙ（登録商標）ビデオカメラ７１２などのビデオカメラ、マイクロホンヘッドセット７１４、およびマイクロホン７１５などの、ゲームコントローラ７０２〜７０３以外の他の周辺デバイスに対する接続性を提供する。したがって、このような周辺デバイスは、原則として、無線でシステムユニット７００に接続され得るが、例えば、携帯式娯楽デバイス７１０は、Ｗｉ−Ｆｉアドホック接続部を介して通信し得るが、一方、マイクロホンヘッドセット７１４は、Ｂｌｕｅｔｏｏｔｈ（登録商標）リンクを介して通信し得る。
【００９１】
これらのインターフェースをこのように提供することは、Ｐｌａｙｓｔａｔｉｏｎ３もまた、デジタルビデオ記録装置（ＤＶＲ）、セットトップボックス、デジタルカメラ、携帯式メディアプレイヤ、ボイスオーバーアイピー電話、モバイル電話、印刷機、およびスキャナなどの他の周辺デバイスと潜在的に互換性があることを意味する。
【００９２】
加えて、レガシーメモリカード読み取り装置７１６は、ＵＳＢポート７２４を介してシステムユニットに接続されて、Ｐｌａｙｓｔａｔｉｏｎ（登録商標）またはＰｌａｙｓｔａｔｉｏｎ２（登録商標）デバイスによって使用される種類のメモリカード７４８の読み取りを可能とし得る。
【００９３】
ゲームコントローラ７０２〜７０３は、Ｂｌｕｅｔｏｏｔｈ（登録商標）リンクを介してシステムユニット７００と無線で通信するように、またはＵＳＢポートに接続され、これによりゲームコントローラ７０２〜７０３のバッテリを充電するための電力を提供するようにも動作可能である。ゲームコントローラ７０２〜７０３はまた、メモリ、プロセッサ、メモリカード読み取り装置、フラッシュメモリなどの永久メモリ、照射される球形セクションなどの発光体、ＬＥＤ、または赤外線、超音波通信用のマイクロホンおよびスピーカー、音響室、デジタルカメラ、内部クロック、ゲーム機に対面する球形セクションなどの認識可能な形状、およびＢｌｕｅｔｏｏｔｈ（登録商標）、ＷｉＦｉ（商標）等のプロトコルを使用する無線通信体を含むことができる。
【００９４】
ゲームコントローラ７０２は、二本の手で使用されるように設計されたコントローラであり、ゲームコントローラ７０３は、付属品付きの一本の手で用いるコントローラである。１つ以上のアナログ式のジョイスティックおよび従来型の制御ボタンに加えて、ゲームコントローラは、３次元位置の判定の影響を受けやすい。その結果、ゲームコントローラのユーザの身振りおよび運動は、従来型のボタンまたはジョイスティックコマンドに加えてまたはこれらの代わりにゲームに対する入力として解釈され得る。任意に、Ｐｌａｙｓｔａｔｉｏｎ（商標）Ｐｏｒｔａｂｌｅデバイスなどの他の無線でイネーブルされる周辺デバイスをコントローラとして使用され得る。Ｐｌａｙｓｔａｔｉｏｎ（商標）Ｐｏｒｔａｂｌｅデバイスの場合、さらなるゲームまたは制御情報（例えば、制御命令または生命体の数）は、デバイスの画面上に提供され得る。ダンスマット（図示せず）、ライトガン（図示せず）、ハンドルおよびペダル（図示せず）、または迅速応答クイズゲーム（これも図示せず）用の１つもしくは複数の大型ボタンなどの特注のコントローラなどの他の代替のまたは補足の制御デバイスもまた、使用され得る。
【００９５】
遠隔制御機器７０４もまた、Ｂｌｕｅｔｏｏｔｈ（登録商標）リンクを介してシステムユニット７００と無線で通信するように動作可能である。遠隔制御機器７０４は、Ｂｌｕ  Ｒａｙ（登録商標）Ｄｉｓｋ  ＢＤ−ＲＯＭ読み取り装置５４０の動作と、ディスクコンテンツのナビゲーションとに適した制御機器を備える。
【００９６】
Ｂｌｕ  Ｒａｙ（登録商標）Ｄｉｓｋ  ＢＤ−ＲＯＭ読み取り装置７４０は、従来型の事前記録済みまたは記録可能なＣＤに加えてＰｌａｙｓｔａｔｉｏｎデバイスおよびＰｌａｙｓｔａｔｉｏｎ２デバイスと互換性のあるＣＤ−ＲＯＭおよびいわゆるＳｕｐｅｒ  Ａｕｄｉｏ  ＣＤを読み取るように動作可能である。読み取り装置７４０はまた、従来型の事前記録済みまたは記録可能なＤＶＤに加えてＰｌａｙｓｔａｔｉｏｎ２デバイスおよびＰｌａｙｓｔａｔｉｏｎ３デバイスと互換性のあるＤＶＤ−ＲＯＭを読み取るように動作可能である。読み取り装置７４０はまた、Ｐｌａｙｓｔａｔｉｏｎ３デバイスと互換性のあるＢＤ−ＲＯＭならびに従来型の事前記録済みおよび記録可能なＢｌｕ−Ｒａｙディスクを読み取るようにさらに動作可能である。
【００９７】
システムユニット７００は、Ｒｅａｌｉｔｙ  Ｓｙｎｔｈｅｓｉｚｅｒグラフィックスユニット７３０を介してＰｌａｙｓｔａｔｉｏｎ３によって生成されたまたは復号化されたオーディオおよびビデオを、オーディオコネクタおよびビデオコネクタを介して、ディスプレイ７４４および１つ以上のラウドスピーカ７４６を有するモニタまたはテレビなどのディスプレイおよび音声出力デバイス７４２に対して供給するように動作可能である。オーディオコネクタ７５０は、従来型のアナログ式およびデジタル式の出力部を含み、一方、ビデオコネクタ７５２は、コンポーネントビデオ、Ｓビデオ、複合ビデオ、および１つ以上の高解像度マルチメディアインターフェース（ＨＤＭＩ（登録商標））出力部を種々に含み得る。その結果、ビデオ出力は、ＰＡＬもしくはＮＴＳＣまたは７２０ｐ、１０８０ｉ、もしくは１０８０ｐ高解像度などの形態であり得る。
【００９８】
オーディオ処理（生成、復号化など）は、Ｃｅｌｌプロセッサ７２８によって実行される。Ｐｌａｙｓｔａｔｉｏｎ３デバイスのオペレーティングシステムＤｏｌｂｙ（登録商標）５．１サラウンドサウンド、Ｄｏｌｂｙ（登録商標）シアターサラウンド（ＤＴＳ）、およびＢｌｕ−Ｒａｙ（登録商標）ディスクからの７．１サラウンドサウンドの復号化をサポートする。
【００９９】
本実施形態において、ビデオカメラ７１２は、１つの電荷結合デバイス（ＣＣＤ）、ＬＥＤインジケータ、およびハードウェアベースのリアルタイムデータ圧縮・符号化装置を備え、これにより、圧縮されたビデオデータが、システムユニット７００によって復号化されるように画像内ベースのＭＰＥＧ（エムペグ）基準などの適切な様式で伝送されるようにする。カメラＬＥＤインジケータは、システムユニット７００からの適切な制御データに応答して照射して、例えば、照明の状態が悪いことを知らせるように配置される。ビデオカメラ７１２の実施形態は、ＵＳＢ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、またはＷｉＦｉの通信ポートを介してシステムユニット７００に種々に接続し得る。ビデオカメラの実施形態は、１つ以上の関連付けられたマイクロホンを含み得、またオーディオデータを伝送することが可能である。ビデオカメラの実施形態において、ＣＣＤは、高解像度ビデオ捕捉にとって適切な解像度を有し得る。使用中、ビデオカメラで捕捉された画像は、例えば、ゲーム内に取り込まれるまたはゲーム制御入力として解釈され得る。別の実施形態において、このカメラは、赤外線を検出するのに適切な赤外線カメラである。
【０１００】
一般に、システムユニット７００の通信ポートのうちの１つを介してビデオカメラまたは遠隔制御機器などの周辺デバイスでデータ通信を成功裏に発生させるためには、デバイスドライバなどの適切なソフトウエアを提供すべきである。デバイスドライバ技術は、公知であり、ここでは詳細には説明しないが、当業者であれば、デバイスドライバまたは類似のソフトウエアインターフェースがここに記述された実施形態で必要とされ得ることは理解しえるであろう。
【０１０１】
図９は、本発明の一実施形態に従う、命令を処理するために使用され得る追加のハードウェアを例解する。Ｃｅｌｌプロセッサ７２８は、４つの基本的部品、即ち、メモリコントローラ８６０およびデュアルバスインターフェースコントローラ８７０Ａ、Ｂを含む外部入力および出力構造体と；パワープロセッシングエレメント８５０と呼ばれる主プロセッサと；相乗処理要素（ＳＰＥ）８１０Ａ〜Ｈと呼ばれる８個のコプロセッサと；要素相互接続バス８８０と呼ばれるこれらの部品を接続する円形データバスと；を備えるアーキテクチャを有する。Ｃｅｌｌプロセッサの合計の浮動小数点性能は、Ｐｌａｙｓｔａｔｉｏｎ２デバイスのＥｍｏｔｉｏｎ  Ｅｎｇｉｎｅの６．２ＧＦＬＯＰＳと比較して２１８ＧＦＬＯＰＳである。
【０１０２】
パワープロセッシングエレメント（ＰＰＥ）８５０は、３．２ＧＨｚという内部クロックで走行する双方向同時マルチスレッドＰｏｗｅｒ５７０に準拠したＰｏｗｅｒ  ＰＣコア（ＰＰＵ）８５５に基づいている。これは、５１２ｋＢレベル２（Ｌ２）キャッシュおよび３２ｋＢレベル１（Ｌ１）キャッシュを備える。ＰＰＥ８５０は、１クロックサイクル当たり８つの単一位置演算が可能であり、つまり、３．２ＧＨｚで２５．６ＧＦＬＯＰＳということである。ＰＰＥ８５０の主要な役割は、計算負荷のほとんどを取り扱う相乗処理要素８１０Ａ〜Ｈに対するコントローラとして機能することである。動作中、ＰＰＥ８５０は、ジョブの待ち行列を維持して、相乗処理要素８１０Ａ〜Ｈに対するジョブをスケジューリングして、これらの進行を監視する。その結果、各々の相乗処理要素８１０Ａ〜Ｈは、ジョブを取ってきて、これを実行し、ＰＰＥ８５０と同期することが役割であるカーネルを走行させる。
【０１０３】
各々の相乗処理要素（ＳＰＥ）８１０Ａ〜Ｈは、それぞれの相乗処理ユニット（ＳＰＵ）８２０Ａ〜Ｈと、それぞれの動的メモリアクセスコントローラ（ＤＭＡＣ）８４２Ａ〜Ｈ、それぞれのメモリ管理ユニット（ＭＭＵ）８４４Ａ〜Ｈ、およびバスインターフェース（図示せず）を含むそれぞれのメモリフローコントローラ（ＭＦＣ）８４０Ａ〜Ｈと、を備える。各々のＳＰＵ８２０Ａ〜Ｈは、３．２ＧＨｚでクロック動作するＲＩＳＣプロセッサであり、原理上４ＧＢまで拡張可能な２５６ｋＢのローカルＲＡＭ８３０Ａ〜Ｈを備える。各々のＳＰＥは、理論的には２５．６ＧＦＬＯＰＳという単精度性能を提供する。ＳＰＵは、１つのクロックサイクルで、４個の単精度浮動小数点要素、４個の３２ビットの数、８個の１６ビットの整数、または１６個の８ビットの整数を演算することができる。同じクロックサイクルで、これはまた、メモリ動作を実行することができる。ＳＰＵ８２０Ａ〜Ｈは、システムメモリＸＤＲＡＭ７２６を直接的にアクセスすることはなく、ＳＰＵ８２０Ａ〜Ｈによって形成される６４ビットアドレスは、ＭＦＣ８４０Ａ〜Ｈに送られ、これが、これのＤＭＡコントローラ８４２Ａ〜Ｈに対して、要素相互接続バス８８０およびメモリコントローラ８６０を介してメモリにアクセスするように命令する。
【０１０４】
要素相互接続バス（ＥＩＢ）８８０は、上記のプロセッサ要素、即ちＰＰＥ８５０、メモリコントローラ８６０、デュアルバスインターフェース８７０Ａ，Ｂ、および８個のＳＰＥ８１０Ａ〜Ｈの合計１２個の関係物を接続するＣｅｌｌプロセッサ７２８の内部にある論理的に円形の通信バスである。関係物は、１クロックサイクル当たり８バイトという速度でバスに対して同時に読み出しおよび書き込みされる。すでに注記したように、各々のＳＰＥ８１０Ａ〜Ｈは、より長い読み出しまたは書き込みのシーケンスをスケジュールするためのＤＭＡＣ８４２Ａ〜Ｈを備える。ＥＩＢは、それぞれ時計回り方向と反時計回り方向にそれぞれ２チャネルずつで、４つのチャネルを備える。その結果、１２個の関係物に対して、いずれかの２つの関係物同士間での最長の段階的なデータフローは、適切な方向に６段階となる。したがって、１２スロットに対する理論的なピークの瞬間的なＥＩＢ帯域幅は、関係物同士間での調停を通じて完全に利用した場合には、１クロックあたり９６Ｂである。これは、３．２ＧＨｚというクロック速度で３０７．２ＧＢ／ｓ（ギガバイト／秒）という理論的ピークの帯域幅と同じである。
【０１０５】
メモリコントローラ８６０は、Ｒａｍｂｕｓ社が開発したＸＤＲＡＭインターフェース８６２を備える。このメモリコントローラは、２５．６ＧＢ／秒という理論的ピークの帯域幅を持つＲａｍｂｕｓ  ＸＤＲＡＭ７２６とインターフェース接続する。
【０１０６】
デュアルバスインターフェース８７０Ａ、Ｂは、Ｒａｍｂｕｓ  ＦｌｅｘＩＯ（登録商標）システムインターフェース８７２Ａ、Ｂを備える。このインターフェースは、各々が８ビット幅で、５つの経路が内向きで７つの経路が外向きの１２個のチャネルに構成される。これは、コントローラ８７０Ａを介するＣｅｌｌプロセッサとＩ／Ｏブリッジ７３４との間、および、コントローラ８７０Ｂを介するＣｅｌｌプロセッサとＲｅａｌｉｔｙ  Ｓｉｍｕｌａｔｏｒグラフィックスユニット７３０との間で、６２．４ＧＢ／秒（外向きに３６．４ＧＢ／ｓ、内向きに２６ＧＢ／ｓ）という理論的ピークの帯域幅を提供する。
【０１０７】
Ｃｅｌｌプロセッサ７２８からＲｅａｌｉｔｙ  Ｓｉｍｕｌａｔｏｒグラフィックスユニット７３０に送られるデータは、一般的には、表示リストを含むが、これは、頂点を引き、ポリゴンに質感を付け、照明条件を指定する、などのためのコマンドのシーケンスである。
【０１０８】
図１０は、本発明の一実施形態に従う、それぞれのユーザＡ〜ユーザＥがインターネットを介してサーバ処理に接続されるゲームクライアント１１０２とインタラクションを行う、場面Ａ〜場面Ｅの例示的な例解図である。ゲームクライアントは、ユーザがインターネットを介してサーバアプリケーションおよび処理に接続することを可能にするデバイスである。ゲームクライアントは、ユーザが、これに限られないが、ゲーム、映画、音楽、および写真などのオンラインの娯楽コンテンツにアクセスして再生することを可能にする。加えて、ゲームクライアントは、ＶＯＩＰ、テキストチャットプロトコル、および電子メールなどのオンライン通信アプリケーションへのアクセスを提供することができる。
【０１０９】
ユーザは、コントローラを介してゲームクライアントとインタラクションを行う。一部の実施形態において、コントローラは、ゲームクライアント固有のコントローラであり、一方、コントローラがキーボードとマウスの組み合わせである実施形態もある。一実施形態において、ゲームクライアントは、オーディオ信号およびビデオ信号を出力して、モニタ／テレビおよび関連付けられたオーディオ装置を介してマルチメディア環境を作成することが可能なスタンドアロンデバイスである。例えば、ゲームクライアントは、これに限られないが、シンクライアント、内部ＰＣＩ−ｅｘｐｒｅｓｓカード、外部ＰＣＩ−ｅｘｐｒｅｓｓデバイス、ＥｘｐｒｅｓｓＣａｒｄデバイス、内部、外部、もしくは無線ＵＳＢデバイス、またはＦｉｒｅｗｉｒｅデバイス等であり得る。他の実施形態において、ゲームクライアントは、テレビ、またはＤＶＲ、Ｂｌｕ−Ｒａｙプレイヤ、ＤＶＤプレイヤ、もしくはマルチチャネル受信機といった他のマルチメディアデバイスと統合される。
【０１１０】
図１０の場面Ａ内では、ユーザＡは、ゲームクライアント１１０２Ａと対になっているコントローラ１１０６Ａを使用して、モニタ１１０４Ａ上に表示されるクライアントアプリケーションとインタラクションを行う。同様に、場面Ｂ内では、ユーザＢが、ゲームクライアント１１０２Ｂと対になっているコントローラ１１０６Ｂを使用して、モニタ１１０４Ｂ上に表示される別のクライアントアプリケーションとインタラクションを行っている。場面Ｃは、ユーザＣが、ゲームクライアント１１０２Ｃからのゲームおよび友達リストを表示するモニタを見ているところをその背後から見た図を示す。図１０は、単一のサーバ処理モジュールを示しているが、一実施形態において、世界中に複数のサーバ処理モジュールが存在する。各々のサーバ処理モジュールは、ユーザセッション制御用のサブモジュール、共有／通信ロジック、ユーザの地理的位置、および負荷均衡処理サービスを含む。さらに、サーバ処理モジュールは、ネットワーク処理および分散ストレージを含む。
【０１１１】
ゲームクライアント１１０２は、サーバ処理モジュールに接続するとき、ユーザセッション制御を使用して、ユーザを認証する。認証されたユーザは、関連付けられた仮想化された分散ストレージおよび仮想化されたネットワーク処理を有することができる。ユーザの仮想化された分散ストレージの一部として記憶することができる例示的な項目としては、これらに限定されないが、ゲーム、ビデオ、および音楽等といった購入された媒体が挙げられる。加えて、分散ストレージは、複数のゲームのゲームステータス、個々のゲームに対するカスタム化された設定、およびゲームクライアントに対する一般的設定を保存することができる。一実施形態において、サーバ処理のユーザの地理的位置モジュールを使用して、ユーザの地理的位置およびこれらのそれぞれのゲームクライアントを判定する。ユーザの地理的位置を、共有／通信ロジックと負荷均衡処理サービスの双方によって使用して、複数のサーバ処理モジュールの地理的位置および処理需要に基づいて性能を最適化することができる。ネットワーク処理とネットワークストレージのどちらかまたは双方を仮想化することは、ゲームクライアントからの処理タスクを、稼働していないサーバ処理モジュールに動的に移すことを可能にし得る。したがって、ロードバランシングあるいは負荷均衡を使用して、ストレージからのリコールと、サーバ処理モジュールとゲームクライアントとの間のデータ伝送との双方と関連付けられる持ち時間を最小化することができる。
【０１１２】
サーバ処理モジュールは、サーバアプリケーションＡおよびサーバアプリケーションＢというインスタンスを有する。サーバ処理モジュールは、サーバアプリケーションＸ１およびサーバアプリケーションＸ２によって示されるように複数のサーバアプリケーションをサポートすることが可能である。一実施形態において、サーバ処理は、あるクラスタ内の複数のプロセッサがサーバアプリケーションを処理することを可能にするクラスタ計算アーキテクチャに基づく。別の実施形態において、異なるタイプのマルチコンピュータ処理スキームを応用して、サーバアプリケーションを処理する。これは、サーバ処理をスケールして、複数のクライアントアプリケーションおよび対応するサーバアプリケーションを実行するより多くのゲームクライアントに対応することを可能にする。代替的に、サーバ処理をスケールして、より需要があるグラフィックス処理またはゲーム、ビデオ圧縮、もしくはアプリケーションの複雑性によって必要とされる増大する計算需要に対応することができる。一実施形態において、サーバ処理モジュールは、サーバアプリケーションを介して大多数の処理を実施する。これは、グラフィックスプロセッサ、ＲＡＭ、および汎用プロセッサなどの比較的高価な部品を中心に置くことを可能にし、ゲームクライアントの経費が軽減される。処理されたサーバアプリケーションデータは、インターネットを介して対応するゲームクライアントに送り返されて、モニタ上に表示される。
【０１１３】
場面Ｃは、ゲームクライアントおよびサーバ処理モジュールによって実行可能な例示のアプリケーションを示す。例えば、一実施形態において、ゲームクライアント１１０２Ｃは、ユーザＣが、ユーザＡ、ユーザＢ、ユーザＤ、およびユーザＥを含む仲間リスト１１２０を作成して閲覧することを可能にする。場面Ｃに示すように、ユーザＣは、それぞれのユーザのリアルタイム画像かアバタかのどちらかをモニタ１１０４Ｃ上で見ることが可能である。サーバ処理は、ゲームクライアント１１０２Ｃのそれぞれのアプリケーションを、しかもユーザＡ、ユーザＢ、ユーザＤ、およびユーザＥのそれぞれのゲームクライアント１１０２で実行する。サーバ処理はアプリケーションがゲームクライアントＢによって実行されていることを認識しているため、ユーザＡに対する仲間リストは、どのゲームをユーザＢがプレイしているかを示すことができる。またさらに、一実施形態において、ユーザＡは、ユーザＢから直接に実際のゲーム内ビデオを閲覧することができる。これは、ユーザＢに対する処理済みのサーバアプリケーションデータを、ゲームクライアントＢに加えてゲームクライアントＡに対して単に送り返すだけで可能とされる。
【０１１４】
仲間からのビデオを閲覧することが可能であることに加えて、通信アプリケーションは、仲間同士間でのリアルタイム通信を可能にすることができる。前の例に当てはめると、これは、ユーザＡが、ユーザＢのリアルタイムビデオを見ながら激励またはヒントを提供することを可能にする。一実施形態において、インタラクティブリアルタイム音声通信が、クライアント／サーバアプリケーションを介して確立される。別の実施形態において、クライアント／サーバアプリケーションは、テキストチャットを可能とする。さらに別の実施形態において、クライアント／サーバアプリケーションは、音声をテキストに変換して、仲間の画面上に表示されるようにする。
【０１１５】
場面Ｄおよび場面Ｅは、それぞれゲーム機１１１０Ｄおよび１１１０Ｅとインタラクションを行うそれぞれのユーザＤおよびユーザＥを示す。各々のゲーム機１１１０Ｄおよび１１１０Ｅは、サーバ処理モジュールに接続され、ネットワークを示すが、ここで、サーバ処理モジュールは、ゲーム機とゲームクライアントとの双方に対するゲームプレイを統合する。
【０１１６】
図１１は、情報サービスプロバイダアーキテクチャの実施形態を例解する。情報サービスプロバイダ（ＩＳＰ）１３７０は、地理的に分散されネットワーク１３８６を介して接続されるユーザ１３８２に対して多量の情報サービスを配送する。ＩＳＰは、株価最新情報などのたった１つのタイプのサービスまたは放送メディア、ニュース、スポーツ、ゲームなどの様々なサービスを配送することができる。加えて、各々のＩＳＰが提供するサービスが動的である、即ち、サービスは、任意の時点で追加したり取り除いたりすることが可能である。したがって、特定のタイプのサービスを特定の個人に提供するＩＳＰは、時間の経過とともに変化し得る。例えば、ユーザは、居住地にいながら、自身に近接しているＩＳＰからサービスを受け得るし、またユーザは、自身が異なる都市に旅行するときに異なるＩＳＰからサービスを受け得る。居住地のＩＳＰは、必要とされる情報およびデータを新しいＩＳＰに転送し、これによりユーザ情報は、ユーザの「あとを追って」新しい都市まで行って、このデータをユーザにとってより近いものとしてアクセスしやすくする。別の実施形態において、マスター・サーバ関係は、ユーザの情報を管理するマスターＩＳＰとマスターＩＳＰの制御下にあるユーザと直接インターフェース接続するサーバＩＳＰとの間で確立され得る。クライアントが世界中を移動する間に、ユーザにサービスするより良い位置にあるＩＳＰをこれらのサービスを配送するＩＳＰとするために、データが１つのＩＳＰから別のＩＳＰに転送される実施形態もある。
【０１１７】
ＩＳＰ１３７０は、アプリケーションサービスプロバイダ（ＡＳＰ）１３７２を含むが、これは、ネットワークを介してコンピュータベースのサービスを顧客に提供する。ＡＳＰモデルを使用して提供されるソフトウエアもまた、時として、オンデマンドソフトウエアまたはソフトウエアアズアサービス（ＳａａＳ）と呼ばれる。特定のアプリケーションプログラム（顧客関係管理など）に対してアクセスする簡単な形態は、ＨＴＴＰなどの標準のプロトコルを使用することである。アプリケーションソフトウエアは、ベンダーのシステム上に常駐して、ベンダーが提供する特殊目的のクライアントソフトウエアによってＨＴＭＬを使用してウェブブラウザまたはシンクライアントなどの他の遠隔のインターフェースを介してユーザによってアクセスされる。
【０１１８】
広い地理的エリアにわたって届けられるサービスはしばしば、クラウドコンピューティングを使用する。クラウドコンピューティングは、動的にスケール可能で、かつしばしば仮想化される資源がインターネットを介してサービスとして提供されるコンピューティングのスタイルである。ユーザは、彼らをサポートする「クラウド」中では技術のインフラストラクチャの専門家である必要はない。クラウドコンピューティングは、インフラストラクチャアズアサービス（ＩａａＳ）、プラットフォームアズアサービス（ＰａａＳ）、およびソフトウエアアズアサービス（ＳａａＳ）といった、異なるサービスに分割することができる。クラウドコンピューティングはしばしば、ウェブブラウザからアクセスされる共通のビジネスアプリケーションをオンラインで提供する一方で、ソフトウエアおよびデータはサーバに記憶される。クラウドという用語は、インターネットがコンピュータネットワーク図でどのように表現されるかに基づいたインターネットの比喩的表現であり、かつこれが隠蔽する複雑なインフラストラクチャの抽象概念である。
【０１１９】
さらに、ＩＳＰ１３７０は、一人のおよび複数参加型ビデオゲームをプレイするためにゲームクライアントが使用するゲーム処理サーバ（ＧＰＳ）１３７４を含む。インターネット上でプレイされるほとんどのゲームは、ゲームサーバに対する接続を介して動作する。一般的に、ゲームは、プレイヤからデータを収集してこれを他のプレイヤに配信する専用のサーバアプリケーションを使用する。これは、ピアツーピア配置より効率的かつ効果的であるが、サーバアプリケーションをホストするために個別のサーバを必要とする。別の実施形態において、ＧＰＳは、プレイヤとこれらのそれぞれのゲームプレイ用デバイスとの間に通信を確立して、中央のＧＰＳに依存することなく、情報を交換する。
【０１２０】
専用のＧＰＳは、クライアントとは独立に走行するサーバである。このようなサーバは、通常は、データセンターに置かれた専用のハードウェア上で動作して、より多くの帯域幅および専用の処理能力を提供する。専用のサーバは、ほとんどのＰＣベースの複数参加型ゲームの場合にゲームサーバをホストする好ましい方法である。大規模複数参加型オンラインゲームは、ゲーム製品を所有するソフトウエア会社が通常はホスト役を務める専用のサーバ上を走行し、彼らがコンテンツを制御し、かつ更新することを可能にする。
【０１２１】
放送処理サーバ（ＢＰＳ）１３７６は、オーディオ信号またはビデオ信号を視聴者に配信する。非常に狭い範囲の視聴者に対する放送は時としてナローキャスティングと呼ばれる。放送配信の最後の行程は、信号がどのようにして聴取者または観察者に届くかであり、ラジオ局またはテレビ局の場合のように放送でアンテナまたは受信機に届いたり、または、局を介してケーブルＴＶまたはケーブルラジオ（または「無線ケーブル」）を介してまたはネットワークから直接に届いたりし得る。インターネットもまた、ラジオまたはテレビを受信者に届け、特にマルチキャストによって、信号および帯域幅を共有することを可能にする。歴史的に、放送は、全国放送または地域放送など、地理的な領域によって境界を区切られてきた。しかしながら、高速インターネットの普及によって、コンテンツを世界中のほとんどどの国にも到達させることができるため、放送は地理によって境界を区切られることはない。
【０１２２】
ストレージサービスプロバイダ（ＳＳＰ）１３７８は、コンピュータ記憶空間および関連する管理サービスを提供する。ＳＳＰはまた、定期的なバックアップおよびアーカイビングを提供する。記憶をサービスとして提供することによって、ユーザは、必要に応じてより多くの記憶を注文することができる。別の主要な利点は、ＳＳＰがバックアップサービスを含み、ユーザが、自身のコンピュータのハードドライブが故障しても自身のデータをすべて失うことはないということである。さらに、複数のＳＳＰは、ユーザデータの全てのまたは部分的なコピーを有して、ユーザがどこにいるかまたはデータにアクセスするために使用されているデバイスとは無関係に、ユーザが効率的な方法でデータにアクセスすることを可能にすることができる。例えば、ユーザが移動中であるときに、ユーザは、ホームコンピュータ中の、および携帯電話の中の個人的なファイルにアクセスすることができる。
【０１２３】
通信プロバイダ３８０は、ユーザに対して接続性を提供する。通信プロバイダの１つの種類は、インターネットにアクセスするインターネットサービスプロバイダ（ＩＳＰ）である。ＩＳＰは、ダイアルアップ、ＤＳＬ、ケーブルモデム、無線、または専用高速相互接続などのインターネットプロトコルデータグラムを配送するのに適したデータ伝送技術を使用してその顧客を接続する。通信プロバイダはまた、電子メール、インスタントメッセージ、およびＳＭＳ文章作成などのメッセージサービスを提供することができる。別のタイプの通信プロバイダは、インターネットに直接的なバックボーンアクセスをすることによって、帯域幅またはネットワークアクセスを売却するネットワークサービスプロバイダ（ＮＳＰ）である。ネットワークサービスプロバイダは、電気通信会社、データ通信業者、無線通信プロバイダ、インターネットサービスプロバイダ、高速インターネットアクセスを提供するケーブルＴＶオペレータから成ることがあり得る。
【０１２４】
データ交換１３８８は、ＩＳＰ１３７０内部のいくつかのモジュールを相互接続し、かつネットワーク１３８６を介してこれらのモジュールをユーザ１３８２に接続する。データ交換１３８８は、ＩＳＰ１３７０のすべてのモジュールが近接している小さいエリアをその範囲とすることができるか、または、異なるモジュールが地理的に分散している大きい地理的エリアをその範囲とすることができる。例えば、データ交換１３８８は、データセンターの保管庫内の高速のギガビットイーサネット（登録商標）（またはこれより高速）または大陸間仮想エリアネットワーク（ＶＬＡＮ）を含むことができる。
【０１２５】
ユーザ１３８２は、少なくともＣＰＵ、ディスプレイ、およびＩ／Ｏを含むクライアントデバイス１３８４で遠隔サービスにアクセスする。クライアントデバイスは、ＰＣ、携帯電話、ネットブック、ＰＤＡなどであり得る。一実施形態において、ＩＳＰ１３７０は、クライアントが使用するデバイスのタイプを認識して、採用する通信方法を調整する。クライアントデバイスが、ｈｔｍｌといった標準の通信方法を使用して、ＩＳＰ１３７０にアクセスする場合もある。
【０１２６】
本発明の実施形態は、手持ち式デバイス、マイクロプロセッサシステム、マイクロプロセッサベースもしくはプログラム可能な消費者向け電子機器、ミニコンピュータ、メインフレームコンピュータ、および類似物を含む種々のコンピュータシステム構成で実行され得る。本発明はまた、有線ベースのもしくは無線のネットワークを介してリンクされる遠隔処理デバイスによってタスクが実施される分散計算環境下で実行可能である。
【０１２７】
上記の実施形態を念頭に置いて、本発明は、コンピュータシステムに記憶されるデータを伴う種々のコンピュータで実行される動作を採用することができることを理解すべきである。これらの動作は、物理量を物理的に操作することを必要とするものである。本発明の一部を成す本明細書で説明する動作はいずれも、有用な機械動作である。本発明はまた、これらの動作を実施するデバイスまたは装置に関する。装置は、必要とされる目的のために特別に構築することができる、即ち、装置は、コンピュータ中に記憶されるコンピュータプログラムによって選択的に起動されるまたは構成される汎用コンピュータであり得る。特に、種々の汎用機械を、本明細書における教示に従って書かれたコンピュータプログラムで使用することができる、即ち、必要な動作を実施するためにより特殊化された装置を構築することがより便利であり得る。
【０１２８】
本発明はまた、コンピュータで読み取り可能な媒体上のコンピュータで読み取り可能なコードとして具現化することができる。コンピュータで読み取り可能な媒体は、データを記憶することが可能ないずれかのデータ記憶デバイスであり、このデータは、この後でコンピュータシステムによって読み出すことができる。コンピュータで読み取り可能な媒体の例には、ハードドライブ、ネットワーク接続ストレージ（ＮＡＳ）、リードオンリーメモリ、ランダムアクセスメモリ、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、磁気テープ、および他の光学および非光学データ記憶デバイスが含まれる。コンピュータで読み取り可能な媒体は、コンピュータで読み取り可能なコードが記憶されて、分散的に実行されるように、ネットワーク結合されたコンピュータシステム上で分散されるコンピュータで読み取り可能な有形媒体を含むことができる。
【０１２９】
方法動作を特定の順序で説明したが、他の日常業務動作を動作と動作の間で実施し得るか、または動作を、互いに少し異なる時点で発生するように調整し得るか、もしくはシステムに分散することができ、これにより、オーバーレイ動作の処理が所望の方法で実施されるかぎり、処理と関連付けられる種々の間隔で処理動作が発生することを可能にすることが理解されるべきである。
【０１３０】
前述の本発明を明瞭に理解されるように幾分詳細に説明したが、ある変更および修正を添付クレームの範囲内で実行可能であることが明らかであろう。したがって、本実施形態は、例解的であって制限的ではないと考慮されるべきであり、本発明は、本明細書で記載する詳細に限定されることはなく、添付の特許請求の範囲およびその均等の範囲内で修正可能なものである。
【図１Ａ】
0006039796.tif 000002
【図１Ｂ】
0006039796.tif 000003
【図１Ｃ】
0006039796.tif 000004
【図２】
0006039796.tif 000005
【図３】
0006039796.tif 000006
【図４】
0006039796.tif 000007
【図５】
0006039796.tif 000008
【図６】
0006039796.tif 000009
【図７】
0006039796.tif 000010
【図８】
0006039796.tif 000011
【図９】
0006039796.tif 000012
【図１０】
0006039796.tif 000013
【図１１】
0006039796.tif 000014