(57)【特許請求の範囲】
【請求項１】
拡張現実システムによって仮想物体を可変焦点で表示するための方法であって、
１つ以上のプロセッサーが、前記拡張現実システムのニアアイ・ディスプレイ・デバイスのユーザー視野内において１つ以上の仮想物体の三次元位置を特定するステップであって、前記ニアアイ・ディスプレイ・デバイスが、マイクロディスプレイ・アセンブリーと、該マイクロディスプレイ・アセンブリーから１つ以上の画像を受けるように光学的に結合されたディスプレイ・ユニットとを含み、前記マイクロディスプレイ・アセンブリーが１つ以上の光処理エレメントを含み、該１つ以上の光処理エレメントが、少なくとも１つの光学エレメントと、該少なくとも１つの光学エレメントと光路内において整列したマイクロディスプレイ・ユニットとを含む、ステップと、
前記１つ以上のプロセッサーが、前記ユーザー視野内において前記ニアアイ・ディスプレイ・デバイスを装着したユーザーの三次元の現在の焦点領域を、ユーザーの目の位置を追跡することによって決定するステップと、
前記１つ以上の仮想物体の内どれがユーザーの前記現在の焦点領域内にあるかを、
前記ユーザー視野内の前記１つ以上の仮想物体の前記三次元位置に基づいて特定するステップと、
前記１つ以上のプロセッサーの制御の下で、前記マイクロディスプレイ・アセンブリーの前記光路内の前記１つ以上の光処理エレメントの位置を動かすことにより、前記現在の焦点領域において画像データーを生成するために前記マイクロディスプレイ・アセンブリーの焦点領域を調節するステップと、
前記マイクロディスプレイ・アセンブリーが、前記１つ以上の仮想物体に関して、一連のレイヤで構成された画像データーを互いに異なった焦点領域において生成するステップであって、これにより前記マイクロディスプレイ・アセンブリーの調節された前記焦点領域において前記現在の焦点領域内にあると特定された前記１つ以上の仮想物体が合焦状態で生成され、前記現在の焦点領域外の前記１つ以上の仮想物体がぼけた状態で生成される、ステップと、
前記１つ以上の仮想物体の生成された前記画像データーを、前記マイクロディスプレイ・アセンブリーから受け前記ディスプレイ・ユニットにより表示するステップと、
を含む、方法。
【請求項２】
請求項１記載の方法において、前記１つ以上のプロセッサーが前記ユーザー視野内において前記ニアアイ・ディスプレイ・デバイスを装着したユーザーの三次元の現在の焦点領域を、ユーザーの目の位置を追跡することによって決定するステップは、更に、
ユーザーの前記三次元の現在の焦点領域を、パナムの融合エリアに基づいて決定するステップ、
を含む、方法。
【請求項３】
請求項１記載の方法であって、更に、
少なくとも１つの人為的被写体深度技法を、前記ユーザー視野内にあるが、ユーザーの前記現在の焦点領域の外にある仮想物体に、前記現在の焦点領域からの距離の関数として適用するステップを含む、方法。
【請求項４】
仮想物体の可変焦点を与える拡張現実システムであって、
ニアアイ・サポート構造と、
１つ以上のプロセッサーと、
ユーザーの目によって透視されるように、前記ニアアイ・サポート構造によって位置決めされた透視ディスプレイ・ユニットと、
１つ以上の画像を生成するためのマイクロディスプレイ・アセンブリーであって、該マイクロディスプレイ・アセンブリーが、前記ニアアイ・サポート構造によって支持され、前記透視ディスプレイ・ユニットにユーザーの現在の焦点領域のための画像データーを出力するため前記透視ディスプレイ・ユニットに光学的に結合され、前記マイクロディスプレイ・アセンブリーが、１つ以上の光処理エレメントを含み、該１つ以上の光処理エレメントが、マイクロディスプレイと、少なくとも１つの光学エレメントと、可変仮想焦点調節器とを含み、前記少なくとも１つの光学エレメントと前記マイクロディスプレイが、光路内において整列し、前記可変仮想焦点調節器が、前記１つ以上のプロセッサーの制御の下で前記光路において前記１つ以上の光処理エレメントの位置を動かすことによって、１つ以上の仮想物体をユーザーの前記現在の焦点領域内に置くために、前記マイクロディスプレイ・アセンブリーの焦点領域を変化させる、マイクロディスプレイ・アセンブリーと、
を含み、
前記１つ以上のプロセッサーが、前記１つ以上の仮想物体に関して、一連のレイヤで構成された画像データーを互いに異なった焦点領域において生成するため、前記マイクロディスプレイ・アセンブリーを制御し、これにより前記マイクロディスプレイ・アセンブリーの変化させた前記焦点領域において前記現在の焦点領域内にあると特定された前記１つ以上の仮想物体が合焦状態で生成され、前記現在の焦点領域外の前記１つ以上の仮想物体がぼけた状態で生成され、
前記ディスプレイ・ユニットが、前記マイクロディスプレイ・アセンブリーからの生成された前記画像データーを受け、該生成された画像データーを表示し、
前記ディスプレイ・ユニットが、
前記可変仮想焦点調節器を制御するためにドライバーであって、前記プロセッサーが、ソフトウェアの制御の下で、ユーザーの前記現在の焦点領域内に少なくとも１つの仮想物体を含むように、前記マイクロディスプレイに命令する、ドライバーと、
三次元仮想画像を表示するために前記光路を介して前記マイクロディスプレイ・アセンブリーに光学的に結合されたディスプレイと、
を含む、拡張現実システム。
【請求項５】
請求項４記載の拡張現実システムであって、更に、
前記マイクロディスプレイ・アセンブリーの少なくとも１つの光処理エレメントを支持するアーマチャーであって、前記可変仮想焦点調節器の制御の下にある、アーマチャーを含む、拡張現実システム。
【請求項６】
請求項４記載の拡張現実システムであって、前記可変仮想焦点調節器は圧電アクチュエーターである、拡張現実システム。
【請求項７】
請求項４記載の拡張現実システムにおいて、
更に、前記可変仮想焦点調節器を制御するドライバーにレートを供給する、前記１つ以上のプロセッサーの制御の下のタイミング・ジェネレーターを含み、
前記可変仮想焦点調節器が、前記マイクロディスプレイ・アセンブリーの前記光路内における変位の範囲にわたって、前記レートで前記マイクロディスプレイ・アセンブリーの少なくとも１つの光処理エレメントを動かし、前記変位の範囲が、焦点領域の範囲に対応し、
前記焦点領域の範囲が、１つの焦点領域を含み、該１つの焦点領域において、前記マイクロディスプレイが生成する画像が、ユーザーの前記現在の焦点領域において前記ディスプレイ・ユニットにより表示される画像データーを生じ、
前記１つ以上のプロセッサーが、前記変位の範囲内の各変位に達したときに、前記範囲のそれぞれの１つの焦点領域に配置されるように特定された任意の仮想物体を含む画像を生成するように、前記マイクロディスプレイに命令する、拡張現実システム。
【請求項８】
請求項４記載の拡張現実システムにおいて、
前記マイクロディスプレイ・アセンブリーの前記少なくとも１つの光学エレメントが、挿入可能なレンズの組を含み、前記可変仮想焦点調節器が、前記組内のそれぞれの挿入可能なレンズを前記光路内へあるいは前記光路外へ動かすためのそれぞれのアームを含み、
前記可変仮想焦点調節器が、１つ以上のプロセッサーの制御の下で前記光路において前記１つ以上の光処理エレメントを動かすことによって、１つ以上の仮想物体をユーザーの前記現在の焦点領域内に置くために、前記マイクロディスプレイ・アセンブリーの前記焦点領域を変化させることが、更に、前記マイクロディスプレイ・アセンブリーの前記焦点領域を変化させるため前記光路に関して前記組内のそれぞれの挿入可能なレンズの位置を動かすための前記それぞれのアームを動かすことを含む、
拡張現実システム。
【請求項９】
請求項４記載の拡張現実システムにおいて、
前記マイクロディスプレイ・アセンブリーの前記少なくとも１つの光学エレメントが、前記可変仮想焦点調節器の制御の下にある回転可能なサポート内にレンズの組を含み、
前記可変仮想焦点調節器が、１つ以上のプロセッサーの制御の下で前記光路において前記１つ以上の光処理エレメントを動かすことによって、１つ以上の仮想物体をユーザーの現在の焦点領域内に置くために、前記マイクロディスプレイ・アセンブリーの焦点領域を変化させることが、更に、前記可変仮想焦点調節器が、前記マイクロディスプレイ・アセンブリーの前記焦点領域を変化させるため前記レンズの組のうちのレンズを前記光路において変化させるため前記回転可能のサポートを回転させることを含む、
拡張現実システム。
【請求項１０】
請求項７記載の拡張現実システムにおいて、前記ディスプレイ・ユニットは、前記変位の範囲によって生成された前記画像を前記少なくとも１つの目の位置へ投射する、拡張現実システム。
【請求項１１】
請求項７記載の拡張現実システムにおいて、
前記マイクロディスプレイが、前記変位の範囲によって生成された異なる画像の合焦部分を含む複合画像を生成し、
前記ディスプレイ・ユニットが、前記少なくとも１つの目の位置に前記複合画像を投射する、拡張現実システム。
【請求項１２】
請求項１〜３のいずれかに記載の方法をプロセッサーに実行させるための命令をエンコードされた１つ以上のコンピュータ読み取り可能の不揮発性記憶媒体。
【発明の詳細な説明】
【従来技術】
【０００１】
[0001]  拡張現実(augmented reality)とは、仮想形像(imagery)を実世界の物理環境と混合することを可能にする技術である。通例、仮想物体および実物体の混合形像を見るために、ユーザーは透過ニアアイ・ディスプレイ(see through near eye display)を装着する。ニアアイ・ディスプレイは、通例、光学素子と立体素子(stereopsis)との組み合わせを使用して、仮想形像を固定距離において合焦する。
【発明の概要】
【発明が解決しようとする課題】
【０００２】
しかしながら、仮想物体が固定距離にあり、ユーザーの位置が変化すると、仮想物体は、ユーザーがその仮想物体を自然の視野(sight)で見る場合のようには、ユーザーに対して焦点が合ったりぼやけたりする動きはしない。
【課題を解決するための手段】
【０００３】
[0002]  本技術は、混合実現または拡張実現ディスプレイに可変焦点を達成するための実施形態を提供する。ユーザーは、透過ディスプレイ・デバイスによって場面を見る。この場面は、ユーザーが彼または彼女の目で、ディスプレイ・デバイスの透明なレンズ即ち透過レンズを介して直接見る物理環境において、１つ以上の実物体(real object)を含む。１つ以上の仮想物体が、ディスプレイ・デバイスによって、ユーザーの目の位置の少なくとも一方に投射される。こうして、実場面の表示が仮想物体によって拡張される。
【０００４】
[0003]  一実施形態では、本技術は、ディスプレイ・デバイスによって投射される仮想物体の焦点距離を可変にするための装備を有する。ユーザーに対して三次元視野を決定し、ユーザーの視野内にある１つ以上の仮想物体の三次元位置も決定する。視野内において、ユーザーの現在の三次元焦点領域が決定される。ユーザーの現在の焦点領域内にある１つ以上の仮想物体が、それらの位置に基づいて特定される。
【０００５】
[0004]  ディスプレイにおいてユーザーの現在の焦点領域に仮想物体を表示するために、仮想物体が現在の焦点領域における画像の領域に動かされる。一実施形態では、これを行うには、透過ディスプレイ・デバイスのマイクロディスプレイ・アセンブリーの焦点領域を変化させる。マイクロディスプレイ・アセンブリーは、反射エレメント、少なくとも１つの光学エレメント、および光路に沿って整列されたマイクロディスプレイ・ユニットというようなエレメント、および可変仮想焦点調節器を含むことができる。マイクロディスプレイ・ユニットは表示用画像を生成し、この画像の光は、光路に沿って少なくとも１つの光学エレメント、例えば、平行化レンズを通過して、反射エレメントまで進む。
【０００６】
[0005]  一実施形態では、調節器が、マイクロディスプレイ・アセンブリーの少なくとも２つのエレメント間にある光路に沿った変位(displacement)を変化させて、画像における仮想物体の焦点領域を変化させる。他の実施形態では、光学エレメントの焦点距離を調節して、所望の焦点領域を得ることもできる。例えば、少なくとも１つの複屈折レンズの偏光を変化させてもよく、あるいは流体レンズ(fluid lens)または液体レンズ(liquid lens)の曲率半径を調節してもよい。
【０００７】
[0006]  一実施形態では、ユーザー焦点領域の外側であるがユーザー視野の内側にある仮想物体に、ユーザー焦点領域からの距離の関数として人工焦点深度技法を適用することができる。
【０００８】
[0007]  また、本技術は、可変仮想焦点調節器を含むマイクロディスプレイ・アセンブリーを含む透過ディスプレイ・ユニットを含み、仮想物体の可変焦点に備えた、拡張現実システムも提供する。制御回路は、可変仮想焦点調節器を制御するドライバーを含む。一実施形態では、本システムは、更に、可変仮想焦点調節器がマイクロディスプレイ・アセンブリーを異なる焦点領域にわたって掃引するタイミングを制御するために、制御回路にタイミング・ジェネレーターも含む。殆どの実施形態では、掃引のレートは、人間の時間的画像融合(temporal image fusion)によって、異なる焦点領域において生成された画像が同時に存在するかの如く見えるように、十分速く設定される。異なる焦点領域において生成された画像の表示を見ているユーザーは、仮想物体が物理環境における実物体であるかのように、仮想物体に自然に焦点が合い、そして焦点が外れていく様子を見る。
【０００９】
[0008]  また、本技術は、拡張現実ディスプレイにおいて異なる焦点領域に仮想物体を生成する方法も提供する。透過ディスプレイ・デバイスを使用して、実物体および仮想物体を含む場面を見ているユーザーに対して、三次元視野が決定される。ユーザーの視野内にある１つ以上の仮想物体に対して、三次元焦点領域が特定される。マイクロディスプレイ・アセンブリーは、複数の焦点領域にわたって掃引するために調節される。焦点領域は、ユーザーが現在見ている焦点領域、および仮想物体を含む領域を含むように選択されるとよい。焦点領域毎に画像が生成される。
【００１０】
[0009]  一例では、これらの画像の各々が、人間の時間的画像融合によって人間の目には同時に画像が存在するかの如く見えるように、十分に速いレートでユーザーに表示することができる。他の例では、異なる焦点領域において生成された仮想画像の合焦部分の複合画像が表示される。
【００１１】
[0010]  この摘要は、詳細な説明の章において以下で更に説明する概念から選択したものを簡略化された形式で紹介するために、設けられている。この摘要は、特許請求する主題の主要な特徴や必須の特徴を特定することを意図するのではなく、特許請求する主題の範囲を決定するときに補助として使用されることを意図するのでもない。
【図面の簡単な説明】
【００１２】
【図１】図１は、仮想物体の可変焦点を供給するシステムの一実施形態のコンポーネント例を示すブロック図である。
【図２Ａ】図２Ａは、頭部装着ディスプレイ・ユニットの一実施形態の一部の上面図である。
【図２Ｂ】図２Ｂは、 頭部装着ディスプレイ・ユニットの他の実施形態の一部の上面図である。
【図３Ａ】図３Ａは、ニアアイ・ディスプレイのマイクロディスプレイ・アセンブリーの一部として使用する回転可能レンズ・システムの一例である。
【図３Ｂ】図３Ｂ１および図３Ｂ２は、マイクロディスプレイ・アセンブリーの一部として使用する、流体レンズが呈する異なる曲率半径の例である。
【図３Ｃ】図３Ｃは、ニアアイ・ディスプレイのマイクロディスプレイ・アセンブリーの一部として使用する複屈折レンズ・システムの一例である。
【図３Ｄ】図３Ｄは、マイクロディスプレイ・アセンブリーの一部として使用する挿入可能レンズ・システム(insertable lens system) の一例である。
【図４】図４は、頭部装着ディスプレイ・ユニットのコンポーネントの一実施形態のブロック図である。
【図５】図５は、頭部装着ディスプレイ・ユニットと関連する処理ユニットのコンポーネントの一実施形態のブロック図である。
【図６】図６は、頭部装着ディスプレイ・ユニットと共に使用されるハブ計算システムのコンポーネントの一実施形態のブロック図である。
【図７】図７は、本明細書において記載するハブ計算システムを実現するために使用することができる計算システムの一実施形態のブロック図である。
【図８】図８は、ユーザーに対して合焦する仮想コンテンツの焦点を可変にすることができるマルチユーザー・システムを示すブロック図である。
【図９】図９は、仮想物体がユーザーによって見られるときにこの仮想物体に焦点を合わせて表示するプロセスの一実施形態を記載するフローチャートである。
【図１０】図１０は、空間のモデルを作るプロセスの一実施形態を記載するフローチャートである。
【図１１】図１１は、モデルを複数の物体に区分するプロセスの一実施形態を記載するフロー・チャートである。
【図１２】図１２は、物体を識別するプロセスの一実施形態を記載するフロー・チャートである。
【図１３】図１３は、透過ディスプレイを見ているユーザーによって仮想物体が見られるときに、この仮想物体に焦点を合わせて表示するプロセスの一実施形態を記載するフローチャートである。
【図１４】図１４は、ハブがユーザーおよび／または頭部装着ディスプレイ・ユニットの位置および向きを追跡するときのプロセスの一実施形態を記載するフロー・チャートである。
【図１５】図１５は、目の位置を追跡するプロセスの一実施形態を記載するフロー・チャートである。
【図１６】図１６は、ユーザーの視野を判定するプロセスの一実施形態を記載するフロー・チャートである。
【図１７Ａ】図１７Ａは、アセンブリーの少なくとも１つのレンズを変位させることによって、マイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を記載するフローチャートである。
【図１７Ｂ】図１７Ｂは、アセンブリーの少なくとも１つのレンズの偏光を変位させることによって、マイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を記載するフローチャートである。
【図１７Ｃ】図１７Ｃは、アセンブリーの少なくとも１つの流体レンズの曲率半径を変位させることによって、マイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を記載するフローチャートである。
【図１８Ａ】図１８Ａは、拡張現実ディスプレイにおける異なる焦点領域に仮想物体画像を生成するプロセスの一実施形態を記載するフロー・チャートである。
【図１８Ｂ】図１８Ｂは、拡張現実ディスプレイにおける異なる焦点領域に仮想物体画像を生成するプロセスの他の実施形態を記載するフロー・チャートである。
【図１９Ａ】図１９Ａは、拡張現実ディスプレイにおいて多重焦点仮想物体を表示する異なる方法の例を模式的に示す。
【図１９Ｂ】図１９Ｂは、拡張現実ディスプレイにおいて多重焦点仮想物体を表示する異なる方法の例を模式的に示す。
【発明を実施するための形態】
【００１３】
[0037]  本技術は、混合現実または拡張現実ディスプレイのために可変焦点を得る実施形態を提供する。一実施形態では、システムは、拡張現実のためのニアアイ・ディスプレイとして、透過ディスプレイ・デバイスと、この透過ディスプレイ・デバイスと通信可能な処理ユニットとを含む。以下で論ずる実施形態では、透過ディスプレイは、１組のめがね内にあるが、他のＨＭＤフォーマットおよびニアアイ・ディスプレイ・ホルダーも使用することができる。
【００１４】
[0038]  ユーザーの自然な視界(sight)が、透過ディスプレイによって見られる場面において実物体を実際にそして直接見るために使用される。ソフトウェア、例えば、ゲーミング・アプリケーションを実行するコンテキストに基づいて、本システムは仮想画像をディスプレイ上に投射することができ、これらの仮想画像は、頭部装着ディスプレイ・デバイスを装着している人によって見つつ、この人はディスプレイを介して現実世界の物体も見ることができる。
【００１５】
[0039]  １つ以上のセンサーが、ユーザーが見る物理環境をスキャンするために使用され、こうしてスキャンされた環境の三次元モデルを築くことができるデーターを提供する。このモデルは実物体に区分され、そして以下で説明するように、仮想物体画像の位置によって拡張される。
【００１６】
[0040]  加えて、種々のセンサーが、仮想画像をどこに投射すべきか決定するために、ユーザーの頭の位置および向き、ならびに目の位置を検出するために使用される。本システムは、自動的に、ユーザーがどこを見ているのか追跡するので、本システムは、透過ディスプレイ・デバイスの表示によって、ユーザーの視野を解明することができる。ユーザーを追跡するには、深度カメラ、および深度センサー、画像センサー、慣性センサー、眼位センサー等を含む種々のセンサーの内任意のものを使用することができる。ユーザーの視野の他に、本システムは、視野の中のどの位置にユーザーの焦点が合わされているか、またはユーザーが見ているか判断する。これを、多くの場合、ユーザー焦点領域と呼ぶ。
【００１７】
[0041]  実施形態では、ユーザー焦点領域は、パナムの融合エリア(Panum's fusional area)として知られているボリューム(volume)であり、このエリアでは、人間の目は物体を単一視(single vision)で見る。人間は、双眼視(vinocular vision)または立体視(stereoptic vision)を有する。各目は異なる視点から画像を生成する。このパナムの融合エリアという小さなボリュームのみにおいて、人間は単一視で物体を見る。これは、一般に、物体が焦点が合っていると言われるときに意味することである。このエリアの外側では、物体はぼやけて見えるか、または二重画像として現れる可能性がある。パナムの融合エリアの中央内に、ユーザーの目の焦点を含むホロプター(Horopter)がある。ユーザーの焦点が空間内の一点において合っているとき、この点を以後焦点(focal point)と呼ぶが、この焦点は湾曲線上に位置する。空間におけるこの湾曲線上にある物体は、眼窩において目の網膜上に来る。この湾曲線は、ときとして水平ホロプターと呼ばれることもある。また、垂直ホロプターもあり、これはその湾曲線を通過する線であって、その曲線上の焦点よりも上では目から離れるように傾き、そしてその曲線上の焦点よりも下では目に向かって傾く。ホロプターという用語は、以後使用する場合、その垂直成分および水平成分の双方を指すものとする。
【００１８】
[0042]  一旦システムがユーザーの視野およびユーザーの焦点領域を把握したなら、システムは、透過ディスプレイ・デバイスの表示によってどこに１つ以上の仮想物体画像を投射すべきか解明することができる。投射される表示において選択された焦点領域の位置に仮想物体の表示を生成するには、透過ディスプレイ・デバイスのマイクロディスプレイ・アセンブリーにおける光路長を調節することによって行えばよい。
【００１９】
[0043]  左および右のマイクロディスプレイ上に置かれた画像をずらすことによって、視差が発生する。仮想物体に対して視差量を設定することによって、その仮想距離は、左目ディスプレイによって生成された仮想物体までの見通し線が、右目ディスプレイに対する対応する見通し線と交差する距離によって暗示(imply)される。従来のディスプレイは、この視差暗示距離を設定することができる。視差とは無関係に、ディスプレイから出る波頭の曲率によって暗示される距離がある。この曲率半径は、単に、物体上の一点までの距離である。近隣の物体は強く湾曲した波頭を有する。何故なら、それによって曲率半径が小さくなるからである。離れている物体は、遙かに平坦な波頭を有する。何故なら、曲率半径が対応して大きくなるからである。非常に離れた物体の極限において、波頭は平面になる。従来の頭部装着ディスプレイは、固定の波頭曲率を有する。何故なら、これらは、場面の内容に基づいて可変にすることができる光学エレメントを有していないからである。
【００２０】
[0044]  ユーザーの位置が仮想物体の現在地から更に遠い位置に変化する場合、左および右マイクロディスプレイ上にしかるべき画像を置くことによって、仮想物体に対する視差およびスケール(scale)を変化させることができる。ユーザーの新しい位置に対して、ホロプター、およびパナムの融合エリアを定めることができる。従来のディスプレイは、仮想物体をパナムの融合エリアに持っていくように、波頭の曲率半径を調節することができない。以下で説明する技術は、波頭曲率を、スケールおよび視差によって設定される他のキュー(cue)とも符合し、仮想物体をパナムの融合エリアに持っていく距離に設定することができる。このようにして、画像は自然で現実的に現れる。同じ議論(argument)は、ユーザーが一定の位置に居続ける場合にも該当し、仮想物体は、場面における自然物体に対して一層近づくようにまたは遠ざかるように動くことになる。
【００２１】
[0045]  マイクロディスプレイ・アセンブリーは、光処理エレメントおよび可変焦点調節器を含む。光処理エレメントの例をいくつかあげると、マイクロディスプレイ・ユニット、１つ以上の光学エレメント、例えば、レンズ・システムのレンズ、および反射エレメント、例えば、反射面または部分的反射面がある。マイクロディスプレイ・ユニットは、光源を含み、仮想物体の画像を生成する。マイクロディスプレイ・ユニットは、光学的に１つ以上の光学エレメントおよび反射エレメントと整列されている。光学的整列は、光軸または１つ以上の光軸を含む光路に沿っているとよい。画像光は、１つ以上の光学エレメントによって平行化され、反射エレメントに導かれるのであってよい。部分的反射エレメントからの反射光は、一実施形態では、ユーザーの目の位置に導かれるのであってよい。表面は部分的に反射するので、自然場面からの光にそれを通過させ、見えるようにすることもできる。他の実施形態では、反射エレメントによって反射されたマイクロディスプレイ・ユニットからの光は、他の光学エレメントに進み、この光学エレメントは、ユーザーが見るために画像を投射し、更に自然光も見られることを可能にする。可変焦点調節器は、マイクロディスプレイ・アセンブリーの光路内にある１つ以上の光処理エレメント間における変位、またはマイクロディスプレイ・アセンブリーにおけるエレメントの光学倍率(optical power)を変化させる。レンズの光学倍率は、その焦点距離の逆数、例えば、１／焦点距離と定められているので、一方が変化すると他方に影響を及ぼす。この変化の結果、マイクロディスプレイ・アセンブリーによって生成された画像に対して、焦点が合っている視野の領域が、変化した変位または光学倍率によって変化することになる。以下で実施形態について論ずるが、マイクロディスプレイ・アセンブリーは各目に設けることができる。マイクロディスプレイ・アセンブリーの各々は、そのそれぞれの目の視界(perspective)に対して処理を実行する。
【００２２】
[0046]  一例では、人為的なぼけ(artificial blur)のような人為的被写体深度技法が、視野内および焦点領域の外側にある任意の仮想物体に、焦点領域からのその距離に比例して適用される。他の実施形態では、調節器が、焦点領域の範囲に対応する焦点距離の範囲にわたって、あるレートまたは頻度で掃引しつつ、それぞれの焦点領域内において仮想物体を表示する。このレートまたは頻度は、ディスプレイ・デバイスのフレーム・レート以上とするとよい。一実施形態では、異なる焦点領域において生成された仮想物体画像は、階層画像(layered images)として表示され、これらの画像が同時に現れるが如く見えるように、ディスプレイのレートを十分に速く(fast or rapid)する。他の実施形態では、異なる焦点領域において生成された画像の合焦部分の複合画像が表示される。ユーザーが彼または彼女の現在の焦点を他の焦点領域に変化させると、異なる焦点領域にある仮想物体は、自然光において見るときのように、焦点が合いそして外れていく。
【００２３】
[0047]  次いで、仮想画像のサイズおよび向きを決め、このサイズ／向きを決めた画像を透過ディスプレイ上にレンダリングすることによって、画像がレンダリングされる。
[0048]  図１は、仮想物体の可変焦点を与えるシステム１０の一実施形態のコンポーネント例を示すブロック図である。システム１０は、頭部装着ディスプレイ・デバイス２のような、ワイヤ６によって処理ユニット４と通信可能な透過ディスプレイ・デバイスを含む。他の実施形態では、頭部装着ディスプレイ・デバイス２は処理ユニット４とワイヤレス通信によって通信する。頭部装着ディスプレイ・デバイス２は、一実施形態では、めがねの形状となっており、フレーム１１５が本システムのエレメントを保持するためのサポート、および電気接続のための導線を備えており、ユーザーの頭部に装着され、ユーザーがディスプレイを透視しこれによってユーザーの前方にある空間の実際の直接視(direct view)を有することができるようになっている。「実際の直接視」という用語の使用は、作られた物体の画像表現を見るのではなく、人間の目で直接実世界の物体を見る能力を指す。例えば、ガラスを通して室内を見ると、ユーザーはその部屋の実際の直接視を有することができ、一方テレビジョンにおいて部屋のビデオを見ることは、その部屋の実際の直接視ではない。頭部装着ディスプレイ・デバイス２のこれ以上の詳細については、以下で説明する。
【００２４】
[0049]  一実施形態では、処理ユニット４は、ユーザーの手首に着用され、頭部装着ディスプレイ・デバイス２を動作させるために使用される計算パワーの多くを含む。処理ユニット４は、１つ以上のハブ計算システム１２にワイヤレスで通信する（例えば、ＷｉＦｉ、Bluetooth（登録商標）、赤外線、または他のワイヤレス通信手段）。
【００２５】
[0050]  ハブ計算システム１２は、コンピューター、ゲーミング・システムまたはコンソール等であってもよい。一実施形態例によれば、ハブ計算システム１２は、このハブ計算システム１２が、ゲーミング・アプリケーション、ゲーム以外のアプリケーション等のようなアプリケーションを実行するために使用できるように、ハードウェア・コンポーネントおよび／またはソフトウェア・コンポーネントを含むことができる。一実施形態では、ハブ計算システム１２は、本明細書において記載するプロセスを実行するためにプロセッサー読み取り可能記憶デバイスに格納されている命令を実行することができる、標準的なプロセッサー、特殊プロセッサー、マイクロプロセッサー等のようなプロセッサーを含むことができる。
【００２６】
[0051]  更に、ハブ計算システム１２は、キャプチャー・デバイス２０Ａおよび２０Ｂのような、１つ以上のキャプチャー・デバイスも含む。他の実施形態では、２つよりも多いまたは少ないキャプチャー・デバイスを使用することができる。一実施態様例では、キャプチャー・デバイス２０Ａおよび２０Ｂは、部屋の異なる部分を取り込むように、異なる方向に照準を向けられる。尚、２つのキャプチャー・デバイスの視野が多少重複し、ハブ計算システム１２が、これらのキャプチャー・デバイスの視野が互いにどのように関係するのか把握できるようにすると有利であると考えられる。このように、複数のキャプチャー・デバイスを使用して、部屋全体（または他の空間）を見る(view)ことができる。あるいは、１つのキャプチャー・デバイスを動作中にパンニングすることができる場合、関連する空間全体が経時的にそのキャプチャー・デバイスによって見られるように、このキャプチャー・デバイスを使用することができる。
【００２７】
[0052]  キャプチャー・デバイス２０Ａおよび２０Ｂは、例えば、１人以上のユーザーおよび周囲の空間を視覚的に監視するカメラとするとよく、１人以上のユーザーによって行われるジェスチャーおよび／または動き、更には周囲の空間の構造を取り込み、分析し、追跡して、アプリケーションにおいて１つ以上の制御または動作(action)を実行する、および／またはアバターまたは画面上のキャラクターを動画化することができるとよい。
【００２８】
[0053]  ハブ計算システム１２は、ゲームまたはアプリケーションの映像部分を供給することができるテレビジョン、モニター、高品位テレビジョン（ＨＤＴＶ）等のようなオーディオビジュアル・デバイス１６に接続されていてもよい。例えば、ハブ計算システム１２は、ゲーム・アプリケーション、ゲーム以外のアプリケーション等と関連するオーディオビジュアル信号を供給することができる、グラフィクス・カードのようなビデオ・アダプター、および／またはサウンド・カードのようなオーディオ・アダプターを含んでもよい。オーディオビジュアル・デバイス１６は、ハブ計算システム１２からオーディオビジュアル信号を受けることができ、次いでこのオーディオビジュアル信号と関連するゲームまたはアプリケーションの映像部分および／またはオーディオを出力することができる。一実施形態によれば、オーディオビジュアル・デバイス１６は、ハブ計算システム１２に、例えば、Ｓ−Ｖｉｄｅｏケーブル、同軸ケーブル、ＨＤＭＩ（登録商標）ケーブル、ＤＶＩケーブル、ＶＧＡケーブル、コンポーネント・ビデオ・ケーブル、ＲＣＡケーブルなどによって接続されるとよい。一例では、オーディオビジュアル・デバイス１６は内部スピーカを含む。他の実施形態では、オーディオビジュアル・デバイス１６、別のステレオ、またはハブ計算システム１２が外部スピーカ２２に接続される。
【００２９】
[0054]  ハブ計算デバイス１０は、キャプチャー・デバイス２０Ａおよび２０Ｂと共に、人間（または他のタイプの）ターゲットを認識、分析、および／または追跡するために使用することができる。例えば、キャプチャー・デバイス２０Ａおよび２０Ｂを使用して、頭部装着ディスプレイ・デバイス２を着用しているユーザーを追跡することができ、ユーザーのジェスチャーおよび／または動きを取り込んでアバターまたは画面上のキャラクターを動画化することができ、および／またはハブ計算システム１２が実行しているアプリケーションに影響を及ぼすために使用することができる制御として、ユーザーのジェスチャーおよび／または動きを解釈することもできる。
【００３０】
[0055]  図２Ａは、頭部装着ディスプレイ・デバイス２の一部の上面図を示し、テンプル１０２および鼻ブリッジ１０４を含むフレームの一部を含む。頭部装着ディスプレイ・デバイス２の右側だけが図示されている。鼻ブリッジ１０４内には、以下で説明するように、音を記録しそのオーディオ・データーを処理ユニット４に送るマイクロフォン１１０が組み込まれている。頭部装着ディスプレイ・デバイス２の前方には、ビデオ・カメラ１１３に面する物理環境がある。ビデオ・カメラ１１３は、ビデオおよび静止画像を取り込むことができる。これらの画像は、以下で説明するように、処理ユニット４に送られる。
【００３１】
[0056]  頭部装着ディスプレイ・デバイス２のフレーム１１５の一部が、ディスプレイを包囲する（１つ以上の光学エレメントを含む）。頭部装着ディスプレイ・デバイス２のコンポーネントを示すために、ディスプレイを包囲するフレーム１１５の一部は図示されていない。ディスプレイは、導光光エレメント１１２、不透明フィルター１１４、透過レンズ１１６、および透過レンズ１１８を含む。一実施形態では、不透明フィルター１１４は、透過レンズ１１６の後ろにあってこれと整列されており、導光光学エレメント１１２は不透明フィルター１１４の後ろにあってこれと整列されており、透過レンズ１１８は、導光光学エレメント１１２の後ろにあってこれと整列されている。透過レンズ１１６および１１８は、めがねに使用される標準的なレンズであり、任意の処方(prescription)に合わせて（処方がない場合も含む）作ることができる。一実施形態では、透過レンズ１１６および１１８は、可変処方レンズと置き換えることができる。実施形態の中には、頭部装着ディスプレイ・デバイス２が１つの透過レンズしか含まない、または透過レンズを含まない場合もある。他の代替案では、処方レンズは導光光学エレメント１１２の内側に進む(go)ことができる。不透明フィルター１１４は、自然光（画素毎または均一のいずれか）を排除して、仮想形像のコントラストを強調する。導光光学エレメント１１２は、人工光を目まで伝える。不透明フィルター１１４および導光光学エレメント１１２のこれ以上の詳細については、以下で説明する。
【００３２】
[0057]  テンプル１０２には、またはその内側には、画像ソースが装着されている。１つ以上の実施形態では、この画像ソースは、１つ以上の光学エレメント、例えば、レンズ・システム１２２を通して画像を反射エレメント上に投射するマイクロディスプレイ１２０を含む。反射エレメントは、この実施形態では、画像を導光光学エレメント１１２に導く反射面１２４である。マイクロディスプレイ１２０を実現するために使用することができる、異なる画像生成技術がある。例えば、マイクロディスプレイ１２０は、透過型投射技術を使用して実現することができる。この場合、光源は、白色光によるバックライトを受ける、光学的にアクティブな材料によって変調される。これらの技術は、通常、強力なバックライトおよび高い光エネルギ密度を有するＬＣＤ型ディスプレイを使用して実現される。また、マイクロディスプレイ１２０は、反射技術を使用して実現することもできる。この場合、外部光が反射され光学的にアクティブな材料によって変調される。技術に依存して、白色光源またはＲＧＢ光源のいずれかによって、照明が前方に照らされる。ディジタル光処理（ＤＬＰ）、シリコン上液晶（ＬＣＯＳ）、およびQualcomm, inc.（クアルコム社）からのMirasol（登録商標）表示技術は全て、反射技術の例である。これらの技術は、殆どのエネルギーが変調構造(modulated structure)から遠ざかるように反射され、本明細書において記載するシステムにおいて使用することができるので、効率的である。加えて、マイクロディスプレイ１２０は、発光技術(emissive technology)を使用して実現することもできる。この場合、光はディスプレイによって生成される。例えば、Microvision, Inc.（マイクロビジョン社）からのPicoP（登録商標）は、レーザ信号を、マイクロ・ミラー制御(steering)によって、透過エレメントとして作用する小さな画面上に出すか、または直接目に向けて送る（例えば、レーザ）。
【００３３】
[0058]  図示した実施形態では、マイクロディスプレイ１２０は、マイクロディスプレイ・アセンブリー１７３の一部である。マイクロディスプレイ・アセンブリー１７３は、画像を透過ディスプレイに伝える(transfer)光処理エレメントを含む。この例におけるマイクロディスプレイ・アセンブリーは、マイクロディスプレイ１２０、レンズ・システム１２２内で具体化される１つ以上の光学エレメント、および反射面１２４を含む。レンズ・システム１２２は、１つのレンズまたは複数のレンズを含んでもよい。レンズ・システム１２２、マイクロディスプレイ・ユニット１２０、および反射面１２４（例えば、ミラーまたは他の表面）は、光路において整列されており、この例では、光軸１３３に沿って整列されている。画像光は、レンズ・システム１２２によって平行化され、反射面１２４に導かれるのであってよい。
【００３４】
[0059]  更に、マイクロディスプレイ・アセンブリー１７３は、可変仮想焦点調節器１３５も含む。可変仮想焦点調節器１３５は、レンズ・システム１２２とマイクロディスプレイ・ユニット１２０との間の変位、あるいはレンズ・システム１２２と反射面１２４との間の変位、あるいは双方を光路１３３に沿って制御する。マイクロディスプレイ・アセンブリーの光処理エレメント間における異なる変位は、仮想物体を投射することができるユーザーの三次元視野における異なる焦点領域に対応する。この例では、変位変化は、アーマチャー１３７内部で導かれる。アーマチャー１３７は、この例では、レンズ・システム１２２およびマイクロディスプレイ１２０のような、少なくとも１つの光処理エレメントを支持する。アーマチャー１３７は、エレメントの物理的動きの間光路１３３に沿った整列を安定させて、選択された変位または選択された光学パワーを得るのに役立つ。変位の範囲は、通例、数ミリメートル（ｍｍ）程度である。一例では、この範囲は１〜２ｍｍである。
【００３５】
[0060]  一例では、調節器１３５が、圧電モータのような、アクチュエーターであってもよい。アクチュエーターのための他の技術を使用してもよく、このような技術の例をいくつか挙げると、コイルと永久磁石によって形成されたボイス・コイル、磁気歪みエレメント、および電気歪みエレメントがある。
【００３６】
[0061]  導光光学エレメント１１２は、マイクロディスプレイ１２０からの光を透過させて、頭部装着ディスプレイ・デバイス２を着用しているユーザーの目１４０に向かわせる。また、導光光学エレメント１１２は、矢印１４２によって示されるように、頭部装着ディスプレイ・デバイス２の前方からの光も、導光光学エレメント１１２を介して目１４０に向けて透過させることができ、これによってユーザーがマイクロディスプレイ１２０からの仮想画像を受けることに加えて、頭部装着ディスプレイ・デバイス２の前方にある空間の実際の直接視を有することを可能にする。つまり、導光光学エレメント１１２の壁は、透けて見える(see-through)。導光光学エレメント１１２は、第１反射面１２４を含む。マイクロディスプレイ１２０からの光は、レンズ・システム１２２を通過して、反射面１２４に入射する。反射面１２４は、マイクロディスプレイ１２０からの入射光を反射して、導光光学エレメント１１２を含む平面基板の内側に、内反射によって光が取り込まれるようにする。この基板の表面を数回反射した後、取り込まれた光波は、選択的反射面１２６のアレイに到達する。尚、図面が混みすぎるのを防止するために、５つの表面の内１つだけに１２６を付していることを注記しておく。反射面１２６は、基板の外側からこれらの反射面上に入射した光波を、ユーザーの目１４０に結合する。異なる光線が進行し異なる角度で基板の内側から反射する(bounce off)と、異なる光線が種々の反射面１２６に異なる角度で衝突する。したがって、異なる光線が、反射面の異なる１つ１つによって、基板から反射される。どの光線をどの表面１２６によって基板から反射させるかという選択は、表面１２６の適した角度を選択することによって管理される。導光光学エレメントのこれ以上の詳細については、米国特許出願公開２００８／０２８５１４０、第１２／２１４，３６６号において見いだすことができる。この出願は、"Substrate-Guide Optical Device"（基板誘導光学デバイス）と題し、２００８年１１月２０日に公開された。この出願をここで引用したことにより、その内容全体が本願にも含まれるものとする。一実施形態では、各目がそれ自体の導光光学エレメント１１２を有する。頭部装着ディスプレイ・デバイスが２つの導光光学エレメントを有するとき、各目は、それ自体のマイクロディスプレイ１２０を有し、双方の目で同じ画像を表示すること、または２つの目で異なる画像を表示することができる。他の実施形態では、光を双方の目に反射させる１つの導光光学エレメントを設けることができる。
【００３７】
[0062]  不透明フィルター１１４は、導光光学エレメント１１２と整列されており、選択的に自然光が、均一にまたは画素毎に、導光光学エレメント１１２を通過するのを遮断する。一実施形態では、不透明フィルターは、透視ＬＣＤパネル、エレクトロクロミック・フィルム、または不透明フィルターとして役割を果たすことができる同様のデバイスとすることができる。このような透視ＬＣＤパネルは、従来のＬＣＤから基板、バックライト、およびディフューザーの種々の層を除去することによって得ることができる。ＬＣＤパネルは、光に液晶を通過させる１つ以上の光透過ＬＣＤチップを含むことができる。このようなチップは、例えば、ＬＣＤプロジェクターにおいて使用されている。
【００３８】
[0063]  不透明フィルター１１４は、密集した画素の格子を含むことができ、各画素の光透過度は、最低透過度および最高透過度の間で個々に制御可能である。透過度の範囲は０〜１００％が理想的であるが、これよりも限られた範囲でも容認可能である。一例として、偏光フィルターが２つしかないモノクロームＬＣＤパネルは、画素当たり約５０％から９０％の不透明度範囲をＬＣＤの分解能まで与えるには十分である。最低の５０％において、レンズは多少着色した外観を有するが、許容可能である。１００％の透過度は、完全に透明なレンズを表す。「アルファ」スケールを０〜１００％まで定めることができ、０％では光を通過させず、１００％では光を通過させる。アルファの値は、以下で説明する不透明フィルター制御回路２２４によって、画素毎に設定することができる。
【００３９】
[0064]  不透明フィルターについてのこれ以上の詳細は、"Opacity Filter For See-Through Mounted Display"（透過装着ディスプレイ用不透明フィルター）と題し、２０１０年９月２１日に出願された米国特許出願第１２／８８７，４２６号、および"Fusing Virtual Content Into Real Content"（仮想コンテンツの実コンテンツへの融合）と題し２０１０年１０月１５日に出願された米国特許出願第１２／９０５，９５２号において示されている。これらの発明者は、Jason Flaks、Avi Bar-Zev、Jeffrey Margolis、Chris Miles、Alex Kipman、Andrew Fuller、およびBob Croccoであり、双方の出願をここで引用したことにより、これらの内容全体が本願にも含まれることとする。
【００４０】
[0065]  また、頭部装着ディスプレイ・デバイス２は、ユーザーの目の位置を追跡するシステムも含む。以下で説明するが、このシステムは、ユーザーの視野を判定できるようにユーザーの位置および向きを追跡する。しかしながら、人間は、彼らの前にあるあらゆるものを認知する訳ではない。逆に、ユーザーの目は環境の内部分集合に向けられる。したがって、一実施形態では、本システムは、ユーザーの視野の測定をリファインするために、ユーザーの目の位置を追跡する技術を含む。例えば、頭部装着ディスプレイ・デバイス２は、目追跡アセンブリー１３４（図２Ａ参照）を含む。目追跡アセンブリー１３４は、目追跡照明デバイス１３４Ａ、および目追跡カメラ１３４Ｂ（図４参照）を含む。一実施形態では、目追跡照明源１３４Ａは、１つ以上の赤外線（ＩＲ）発光器を含み、ＩＲ光を目に向けて放出する。目追跡カメラ１３４Ｂは、反射したＩＲ光を検知する１つ以上のカメラを含む。
【００４１】
[0066]  瞳の位置は、角膜の反射を検出する既知の撮像技法によって特定することができる。例えば、２００８年７月２２日にOphir et al.,に発行された"Head Mounted Eye Tracking and Display System"（頭部装着目追跡および表示システム）と題する米国特許第７，４０１，９２０号を参照のこと。この特許をここで引用したことにより、その内容全体が本願にも含まれるものとする。このような技法は、追跡カメラに対する目の中心の位置を突き止めることができる。一般に、目の追跡には、目の画像を得て、コンピューター映像技法を使用して眼窩内部にある瞳の位置を判定する必要がある。一実施形態では、１つの目の位置を追跡すれば十分である。なぜなら、目は通常一緒に動くからである。しかしながら、各目を別々に追跡することも可能である。
【００４２】
[0067]  一実施形態では、本システムは、矩形配列とした４つの赤外線（ＩＲ）ＬＥＤおよび４つのＩＲ光検出器を使用し、頭部装着ディスプレイ・デバイス２のレンズの角毎に１つずつのＩＲ  ＬＥＤおよびＩＲ光検出器がある。ＬＥＤからの光は目で反射する。４つのＩＲ光検出器の各々において検出された赤外線光量によって、瞳の方向を判定する。即ち、目における白および黒の量から、その特定の光検出器に対して目から反射する光の量を判定する。こうして、光検出器は、目における白または黒の量を測定する。４つのサンプルから、本システムは目の方向を判定することができる。
【００４３】
[0068]  他の代替案は、先に論じたように、４つの赤外線ＬＥＤを使用するが、頭部装着ディスプレイ・デバイス２のレンズの側には１つの赤外線撮像デバイスしか使用しない。この撮像デバイスは、小型のミラーおよび／またはレンズ（魚眼）を使用し、この撮像デバイスがめがねのフレームから見ることができる目の７５％までを撮像することができるようにしている。次いで、この撮像デバイスは、先に論じたのと全く同じように、画像を検知し、コンピューター映像を使用して画像を発見する。つまり、図２Ａは１つのＩＲ発光器を有する１つのアセンブリーを示すが、図２Ａの構造は、４つのＩＲ送信機および／または４つのＩＲセンサーを有するように調節することができる。４つよりも多いまたは少ないＩＲ送信機および／またはＩＲセンサーを使用することもできる。
【００４４】
[0069]  目の方向を追跡する他の実施形態では、電荷追跡に基づく。この概念は、網膜が測定可能な正の電荷を保持し (carry)、角膜は負の電荷を有するという観察に基づく。目が動き回る間に電位を検出するために、ユーザーの耳にセンサーを装着し（イヤホン１３０の近く）、目が何をしているのかリアル・タイムで効果的に読み出すことができる。目を追跡するための他の実施形態を使用することもできる。
【００４５】
[0070]  制御回路１３６は、頭部装着ディスプレイ・デバイス２の他のコンポーネントをサポートする種々の電子回路を設ける。制御回路１３６のこれ以上の詳細については、以下で図４に関して示すことにする。テンプル１０２の内側に、またはテンプル１０２に取り付けられたイヤホン１３０、慣性センサー１３２、および温度センサー１３８がある。一実施形態では、慣性センサー１３２は、三軸磁力計１３２Ａ、三軸ジャイロ１３２Ｂ、および三軸加速度計１３２Ｃ（図４参照）を含む。慣性センサーは、頭部装着ディスプレイ・デバイス２の位置、向き、急激な加速を検知するためである。
【００４６】
[0071]  図２Ａは、頭部装着ディスプレイ・デバイス２の半分のみを示す。頭部装着ディスプレイ・デバイス全体では、もう１組の透視レンズ、他の不透明フィルター、他の導光光学エレメント、他のマイクロディスプレイ１２０、他のレンズ・システム１２２、部屋に面するカメラ１１３、目追跡アセンブリー１３４、イヤホン１３０、および温度センサー１３８を含む。
【００４７】
[0072]  図２は、頭部装着ディスプレイ・ユニットの他の実施形態の一部の上面図である。フレーム１１５は、その中に支持されている光学エレメントの配列を露出させるために、点線で示されている。この実施形態では、反射エレメント１２４ａからの光は、部分的反射エレメント１２４ｂに導かれる。部分的反射エレメント１２４ｂは、光路１３３に沿って進行する仮想画像を、自然または実際の直接視１４２と組み合わせる。自然視(natural view)１４２は、不透明フィルター１１４による影響を受けることがある。この視野(view)の組み合わせは、ユーザーの目１４０に導かれるのであって、導光光学エレメント１１２のような他の光学エレメントに導かれるのではない。この実施形態では、フレーム１１５は、光処理エレメント１２２および１２０を含むマイクロディスプレイ・アセンブリー１７３、可変焦点調節器１３５、およびアーマチャー１３７というような、本システムのエレメントのサポートとして便利なめがねフレームを設ける(provide)。この例では、各目に対する目追跡カメラ１３４ｒ、１３４ｌはブリッジ１０４上に位置付けられている。他の実施形態では、めがねフレーム以外の他のサポート構造を使用することができる。このような構造の一例に、バイザーがある。
【００４８】
[0073]  前述のように、マイクロディスプレイ・アセンブリー１７３の光処理エレメントの構成から、仮想物体が画像において現れる焦点距離または焦点領域が求められる。この構成を変更すると、仮想物体画像の焦点領域が変化する。光処理エレメントによって決定される焦点領域は、式１／Ｓ１＋１／Ｓ２＝１／ｆに基づいて決定および変更することができる。記号ｆは、マイクロディスプレイ・アセンブリー１７３におけるレンズ・システム１２２のような、レンズの焦点距離を表す。レンズ・システム１２２は、前節点(front nodal point)および後節点を有する。光線がいずれかの節点に向けて、光軸に対して所与の角度で導かれると、光線は他方の節点から光軸に対して等価な角度で現れる。一例では、レンズ・システム１２２の後節点は、それ自体と図２Ａにおける反射エレメント１２４または図２Ｂにおける反射エレメント１２４ａとの間にある。後節点から反射エレメント１２４、１２４ａまでの距離をＳ２で示すことができる。前節点は、レンズ・システム１２２と、ユーザーの物理空間の三次元モデルにおいてマイクロディスプレイ１２０によって生成された仮想画像の目標位置との間にある。（モデルの作成についてのこれ以上の詳細は、以下の図１０〜図１２の論述を参照のこと）。前節点から仮想画像の目標位置までの距離はＳ１で示すことができる。
【００４９】
[0074]  レンズの焦点距離が固定されている場合、仮想物体を異なる深度で合焦するためには、Ｓ１およびＳ２を変化させる。例えば、初期位置において、Ｓ１を無限遠に設定し、Ｓ２をレンズ・システム１２２の焦点距離に等しく設定するとよい。レンズ・システム１２２の焦点距離が１０ｍｍであると仮定して、仮想物体を約１フィートまたは３０ｃｍユーザーの視野内に置く例について考える。この場合、Ｓ１は約３０ｃｍ即ち３００ｍｍであり、ｆは１０ｍｍであり、Ｓ２は現焦点距離、１０ｍｍの初期位置にあり、レンズ・システム１２２の後節点が反射エレメント１２４、１２４ａから１０ｍｍのところにあることを意味する。１／３００＋１／Ｓ２＝１／１０に基づいて、レンズ１２２と反射エレメント１２４、１２４ａとの間における新たな距離または新たな変位を決定する。ここで、全ての単位はｍｍである。その結果、Ｓ２は約１０．３ｍｍとなる。
【００５０】
[0075]  一例では、処理ユニット４は、Ｓ１およびＳ２について変位値を計算することができ、焦点距離ｆを固定のままにして、制御回路１３６に、駆動信号を可変調節器ドライバー２３７に送らせて、例えば、可変仮想焦点調節器１３５にレンズ・システム１２２を光路１３３に沿って移動させることができる。例の中には、調節器１３５がアーマチャー１３７内部で１つ以上の光学エレメント１２２を動かすことができる場合もある。他の例では、アーマチャーが、光処理エレメントの周囲のエリアにおいて溝または空間を有し、光処理エレメントを動かすことなく、エレメント、例えば、マイクロディスプレイ１２０上を摺動できるようにすることもできる。アーマチャー内に、１つ以上の光学エレメント１２２のような他のエレメントを取り付けて、これらが、移動するアーマチャー２３７と共に摺動するまたは動くようにする。他の実施形態では、マイクロディスプレイ・ユニット１２０または反射エレメント１２４、１２４ａ、あるいは双方を、レンズ・システム１２２の代わりに、またはこれに加えて、動かしてもよい。
【００５１】
[0076]  他の実施形態では、レンズ・システム１２２における少なくとも１つのレンズの焦点距離を、代わりに変化させるか、または光路１３３に沿った変位の変化と共に変化させるのでもよい。マイクロディスプレイ・アセンブリーの様々な実施形態を、図３Ａから図３Ｄに示す。示されている具体的なレンズの数は、単なる例に過ぎない。同じ原理で動作する他の数または構成のレンズを使用してもよい。
【００５２】
[0077]  図３Ａは、ニアアイ・ディスプレイのマイクロディスプレイ・アセンブリーの一部として使用するための回転レンズ・システムの一例である。レンズ１２２ａから１２２ｄまでの各々は、異なる焦点距離を有し、可変仮想焦点調節器１３５によって回転可能なディスク・サポート１６０内に支持されている。処理ユニット４は、焦点領域を決定し、その焦点領域を得るために、焦点距離レンズから１つを選択する。図３に関して示すように、制御回路１３６の可変調節器ドライバー２３７は、少なくとも１つの制御信号を可変仮想焦点調節器１３５に送り、選択されたレンズがアセンブリーの光路１３３内に整列するように、ディスクを回転させる。
【００５３】
[0078]  図３Ｂ１および図３Ｂ２は、Hongwen et al., Tunable-focus liquid lens controlled using a servo motor （サーボ・モータを使用して制御する、焦点調節可能な流体レンズ）,OPTICS EXPRESS, 4, September 2006, Vol. 14, No. 18, pp. 8031-8036に示されるような異なる曲率半径を呈する流体レンズの例である。流体レンズは、マイクロディスプレイ・アセンブリーの一部として使用することができる。このレンズの焦点距離は、曲率半径を変化させることによって、変化させることができる。曲率半径Ｒと焦点距離ｆとの間の関係は、ｆ＝Ｒ／ｎliquid−１によって示される。レンズの液体または流体の屈折率は、ｎliquidである。
【００５４】
[0079]  この実施形態は、可撓性の外部メンブレーン１５２、一例ではラバー・メンブレーンをその一部として有するまたは繋がれている環状密封リングのような、サポート１３７を含む。外部メンブレーン１５３は、液体１５６のリザーバーと接触している。レンズ・メンブレーン１５０が、液体レンズ・セル１５８の上に載っているか、またはその可撓性側面を形成する。液体レンズ・セル１５８は、液体をリザーバー１５６から受け、液体をリザーバー１５６に放出することができる。この引用している例では、可撓性レンズ・メンブレーンは、ポリジメティルシロキサン（ＰＤＭＳ）エラストマー・メンブレーンのような、伸縮性メンブレーンである。液体セルの後ろにあるガラス板１５４が、サポートを設ける。可変仮想焦点調節器１３５は、図３Ｂ２に示すような、可撓性外部メンブレーン１５２に対抗して押し込み、図３Ｂ１におけるように、メンブレーン１５２を解放して、リザーバー１５６内にある体積の水が液体レンズ１５８に入ったり出たりさせることにより、液体の体積変化によって可撓性メンブレーン１５０をへこませ、そして伸縮性メンブレーン１５０を弛緩させるように制御される。液体体積の変化が、レンズ・メンブレーン１５０の曲率半径の変化を起こし、したがって液体レンズ１５８の焦点距離の変化を起こす。曲率半径と体積変化ΔＶとの間の関係は、次のように表すことができる。
【００５５】
【数１】
0005913346.tif 000002
【００５６】
ここで、ｒ０はレンズ・アパーチャーの半径である。
[0080]  図３Ｃは、ニアアイ・ディスプレイのマイクロディスプレイ・アセンブリーの一部として使用する複屈折レンズ・システムの一例である。複屈折材料は、異方性であり、即ち、方向に依存する。例示的な構造として、光を光線と記述すると、複屈折レンズは、光を通常光線と異常光線とに分解する。１つの異方性軸または光軸について、異なる屈折率、したがって異なる焦点距離が、異なる偏光に対して、つまり、１つは軸に対して平行な偏光、もう１つは軸に対して垂直な偏光に対して、存在することができる。図３Ｃの例では、レンズ１２２ａおよび１２２ｂは複屈折材料で作られたレンズであり、矢印で示すように異なる偏光を有する。この２つのレンズの例では、４つの異なる屈折率または焦点距離を選択のために予め決めることができる。異なる焦点距離には各々、処理ユニット４による選択のために、異なる焦点領域と関連付けることができる。偏光の組み合わせは、図３Ｃに示すように、レンズ１２２ａおよび１２２ｂの垂直偏光、図３Ｃに示すものとは逆の垂直偏光、一方向に同じ偏光を有する２枚のレンズ、そして他方の偏光方向に同じ偏光を有する２枚のレンズとすることができる。一実施形態では、可変仮想焦点調節器は、電圧を各レンズに印加して、選択された偏光を実施することができる。他の実施形態では、物理的な応力を加えて、レンズの偏光を変化させることもできる。
【００５７】
[0081]  図３Ｄは、マイクロディスプレイ・アセンブリーの一部として使用する挿入可能レンズ・システム(insertable lens system)の一例である。この実施形態では、複数のレンズ１２２の各々は、アーマチャー１３７に取り付けられているそれぞれのアーム１２３に取り付けられている。各アーム１２３は、その１つ以上の光学エレメント１２２、例えば、レンズまたはレンズ・システム１２２を、可変仮想焦点調節器１３５の制御下で、マイクロディスプレイ・アセンブリーの光路１３３においてある変位の位置に動かす。例えば、予め設定されている焦点領域に対する所定の変位が使用されている場合、各レンズ１２２は、その近隣からある距離、例えば、０．１ミリメートル（ｍｍ）だけ離れて設定することができる。また、均一でない間隔や、調節可能な変位も使用することができる。
【００５８】
[0082]  レンズの焦点距離を調節する以上の例の各々において、光路１３３に沿った変位を行うこともできる。
[0083]  再度、前述のように、マイクロディスプレイ・アセンブリーの各々は、仮想画像がユーザーの焦点領域、例えば、パナムの融合エリア、人間の単一視のエリアに現れるように、そのそれぞれの目の視野(perspective)に対する処理を実行する。
【００５９】
[0084]  図４は、頭部装着ディスプレイ・デバイス２の種々のコンポーネントを示すブロック図である。図５は、処理ユニット４の種々のコンポーネントを説明するブロック図である。頭部装着ディスプレイ・デバイス１２は、そのコンポーネントが図４に示されており、ユーザーの実世界視野(view)と焦点が合う仮想画像を供給するために使用される。加えて、図４の頭部装着ディスプレイ・デバイスのコンポーネントは、種々の状態を追跡する多くのセンサーを含む。頭部装着ディスプレイ・デバイスは、仮想画像についての命令を処理ユニット４から受け、逆にセンサー情報を処理ユニット４に提供する。処理ユニット４は、そのコンポーネントが図５に示されており、頭部装着ディスプレイ３から、そしてハブ計算デバイス１２（図１参照）からもセンサー情報を受ける。この情報に基づいて、処理ユニット４は、焦点が合った仮想画像をどこにそしていつユーザーに供給すべきか判断し、それに応じて命令を図４の頭部装着ディスプレイ・デバイスに送る。
【００６０】
[0085]  尚、図４のコンポーネントの一部（例えば、物理環境対面カメラ１１３、目追跡カメラ１３４Ｂ、可変仮想焦点調節器１３５、マイクロ・ディスプレイ１２０、不透明フィルター１１４、目追跡照明１３４Ａ、イヤホン１３０、および温度センサー１３８）は、これらのデバイスが各々２つずつあり、１つが頭部装着ディスプレイ・デバイス２の左側、そして１つが右側にあることを示すために、陰を付けて（in shadow)図示されていることを注記しておく。図４は、電力管理回路２０２と通信可能な制御回路２００を示す。制御回路２００は、プロセッサー２１０、メモリー２１４（例えば、Ｄ−ＲＡＭ）と通信可能なメモリー・コントローラー２１２、カメラ・インターフェース２１６、カメラ・バッファー２１８、ディスプレイ・ドライバー２２０、ディスプレイ・フォーマッター２２２、タイミング・ジェネレーター２２６、ディスプレイ出力インターフェース２２８、およびディスプレイ入力インターフェース２３０を含む。一実施形態では、制御回路２２０のコンポーネントは全て、互いに、専用線または１つ以上のバスを介して通信可能になっている。他の実施形態では、制御回路２００のコンポーネントは全て、プロセッサー２１０と通信可能になっている。カメラ・インターフェース２１６は、２つの物理環境対面カメラ１１３に対するインターフェースを設け、物理環境直面カメラから受けた画像をカメラ・バッファー２１８に格納する。ディスプレイ・ドライバー２２０は、マイクロディスプレイ１２０を駆動する。ディスプレイ・フォーマッター２２２は、マイクロディスプレイ１２０上に表示されている可動画像についての情報を、不透明フィルター１１４を制御する不透明制御回路２２４に提供する。タイミング・ジェネレーター２２６は、システムにタイミング・データーを供給するために使用される。ディスプレイ出力２２８は、物理環境対面カメラ１１３から処理ユニット４に画像を供給するためのバッファーである。ディスプレイ入力２３０は、マイクロディスプレイ１２０に表示しようとする仮想画像のような画像を受けるためのバッファーである。ディスプレイ出力２２８およびディスプレイ入力２３０は、処理ユニット４に対するインターフェースである帯域インターフェース２３２と通信する。
【００６１】
[0086]  電力管理回路２０２は、電圧レギュレーター２３４、目追跡照明ドライバー２３６、可変調節器ドライバー２３７、オーディオＤＡＣおよび増幅器２３８、マイクロフォン・プリアンプおよびオーディオＡＤＣ２４０、温度センサー・インターフェース２４２、ならびにクロック・ジェネレーター２４４を含む。電圧レギュレーター２３４は電力を処理ユニット４から帯域インターフェース２３２を介して受け、その電力を頭部装着ディスプレイ・デバイス２の他のコンポーネントに供給する。目追跡照明ドライバー２３６は、前述のように、ＩＲ光源を目追跡照明１３４Ａのために設ける。可変調節器ドライバー２３７は、制御信号、例えば、駆動電流または駆動電圧を調節器１３５に供給し、マイクロディスプレイ・アセンブリーの１つ以上のエレメントを動かして、焦点領域に対する変位を行う。この変位は、処理ユニット４またはハブ・コンピューター１２あるいは双方において実行するソフトウェアによって計算される。ある範囲の変位にわたって、したがって焦点領域の範囲にわたって掃引する実施形態では、可変調節器ドライバー２３７は、タイミング信号をタイミング・ジェネレーター２２６から、または代わりにクロック・ジェネレーター２４４から受け、プログラミングされたレートまたは頻度で動作する。オーディオＤＡＣおよび増幅器２３８は、オーディオ情報をイヤホン１３０から受ける。マイクロフォン・プリアンプおよびオーディオＡＤＣ２４０は、マイクロフォン１１０に対するインターフェースを設ける。温度センサー・インターフェース２４２は、温度センサー１３８に対するインターフェースである。また、電力管理ユニット２０２は、電力を供給し、三軸磁力計１３２Ａ、三軸ジャイロ１３２Ｂ、および三軸加速度計１３２Ｃからは逆にデーターを受ける。
【００６２】
[0087]  図５は、処理ユニット４の種々のコンポーネントを説明するブロック図である。図５は、電力管理回路３０６と通信可能な制御回路３０４を示す。制御回路３０４は、中央処理ユニット３２０、グラフィクス処理ユニット３２２、キャッシュ３２４、ＲＡＭ３２６、メモリー３３０（例えば、Ｄ−ＲＡＭ）と通信可能なメモリー制御３２８、フラッシュ・メモリー３３４（または他のタイプの不揮発性ストレージ）と通信可能なフラッシュ・メモリー・コントローラー３３２、帯域インターフェース３０２および帯域インターフェース２３２を介して頭部装着ディスプレイ・デバイス２と通信可能なディスプレイ出力バッファー３２６、帯域インターフェース３０２および帯域インターフェース２３２を介して頭部装着ディスプレイ・デバイス２と通信可能なディスプレイ入力バッファー３３８、マイクロフォンに接続するために外部マイクロフォン・コネクター３４２と通信可能なマイクロフォン・インターフェース３４０、ワイヤレス通信デバイス３４６に接続するためのＰＣＩエクスプレス・インターフェース、ならびにＵＳＢポート（１つまたは複数）３４８を含む。一実施形態では、ワイヤレス通信コンポーネント３４６は、Ｗｉ−Ｆｉ対応通信デバイス、Bluetooth（登録商標）通信デバイス、赤外線通信デバイス等を含むことができる。ＵＳＢポートは、処理ユニット４をハブ計算デバイス１２にドッキングして、データーまたはソフトウェアを処理ユニット４および充電処理ユニット(charge processing unit 4)にロードするために使用することができる。一実施形態では、ＣＰＵ３２０およびＧＰＵ３２２は、どこに、いつ、そしてどのように仮想画像をユーザーの視野に挿入すべきか判断するための主要な機械(workhorse)である。これ以上の詳細は、以下で示す。
【００６３】
[0088]  電力管理回路３０６は、クロック・ジェネレーター３６０、アナログ／ディジタル変換器３６２、バッテリー充電器３６４、電圧レギュレーター３６６、頭部装着ディスプレイ電源３７６、および温度センサー３７４（処理ユニット４の手首バンド上に配置されている）と通信可能な温度センサー・インターフェース３７２を含む。交流／直流変換器３６２が、ＡＣ供給電力を受け、本システムのためにＤＣ供給電力を発電するために、充電ジャック３７０に接続されている。電圧レギュレーター３６６は、本システムに電力を供給するために、バッテリー３６８と通信可能になっている。バッテリー充電器３６４は、充電ジャック３７０から電気を受けたときに、バッテリー３６８を充電する（電圧レギュレーター３６６を介して）ために使用される。ＨＭＤ電力インターフェース３７６は、電力を頭部装着ディスプレイ・デバイス２に供給する。
【００６４】
[0089]  前述のシステムは、仮想画像がユーザーにとって自然に焦点が合うまたは焦点が外れるように、ユーザーの視野内に仮想画像を挿入するように構成される。種々の実施形態において、仮想画像は、画像が挿入されようとしている環境に基づいて、しかるべき向き、サイズ、および形状に一致するように調節される。一実施形態では、頭部装着ディスプレイ・デバイス２、処理ユニット４、およびハブ計算デバイス１２は、一緒に動作する。これは、これらのデバイスの各々が、どこに、いつ、そしてどのように仮想画像を挿入すべきか判断するためのデーターを得るために使用されるセンサーの部分集合を含むからである。一実施形態では、どこに、いつ、そしてどのように仮想画像を挿入すべきか判断する計算は、ハブ計算デバイス１２によって実行される。他の実施形態では、これらの計算は処理ユニット４によって実行される。他の実施形態では、これらの計算の一部はハブ計算デバイス１２によって実行されるが、他の計算は処理ユニット４によって実行される。他の実施形態では、これらの計算は頭部装着ディスプレイ・デバイス２によって実行することができる。
【００６５】
[0090]  一実施形態例では、ハブ計算デバイス１２は、ユーザーが入っている環境のモデルを作り、その環境内において動いている種々の物体を追跡する。加えて、ハブ計算デバイス１２は、頭部装着ディスプレイ・デバイス２の位置および向きを追跡することによって、頭部装着ディスプレイ・デバイス２の視野を追跡する。モデルおよび追跡情報は、ハブ計算デバイス１２から処理ユニット４に供給される。頭部装着ディスプレイ・デバイス２によって得られたセンサー情報は、処理ユニット４に送られる。すると、処理ユニット４は、頭部装着ディスプレイ・デバイス２からそれが受けた追加のセンサー情報を使用して、ユーザーの視野をリファインし、どのように、どこに、そしていつ仮想画像を挿入すべきかについての命令を頭部装着ディスプレイ・デバイス２に供給する。
【００６６】
[0091]  図６は、ハブ計算システム１２の一実施形態例を、キャプチャー・デバイスと共に示す。一実施形態では、キャプチャー・デバイス２０Ａおよび２０Ｂは同じ構造であり、したがって、図６はキャプチャー・デバイス２０Ａのみを示す。
【００６７】
[0092]  一実施形態例では、キャプチャー・デバイス２０Ａは、深度値を含むこともできる深度画像を含む深度情報によって、任意の適した技法によってビデオを取り込むように構成するとよい。任意の適した技法には、例えば、飛行時間、構造化光、ステレオ撮像などが含まれる。一実施形態によれば、キャプチャー・デバイス２０Ａは、深度情報を「Ｚレイヤー」即ち、深度カメラからその見通し線に沿って延びるＺ軸に対して垂直であるとよいレイヤーに編成することができる。
【００６８】
[0093]  図６に示すように、キャプチャー・デバイス２０Ａはカメラ・コンポーネント４２３を含むことができる。一実施形態例によれば、カメラ・コンポーネント４２３は、場面の深度画像を取り込むことができる深度カメラであってもよく、またはこの深度カメラを含むのでもよい。深度画像は、取り込まれた場面の二次元（２−Ｄ）画素エリアを含むことができ、この２−Ｄ画素エリアにおける各画素は、カメラからの取り込まれた場面における物体の距離というような深度値を、例えば、センチメートル、ミリメートル等を単位として表すことができる。
【００６９】
[0094]  カメラ・コンポーネント２３は、ＩＲ発光コンポーネント４２５、三次元（３Ｄ）カメラ４２６、および場面の深度画像を取り込むために用いることができるＲＧＢカメラ４２８を含むことができる。例えば、飛行時間分析では、キャプチャー・デバイス２０ＡのＩＲ発光コンポーネント４２５は、キャプチャー・エリアに向けて赤外線光を出すことができ、次いでセンサー（実施形態の中には、図示されていないセンサーを含む場合もある）を使用して、その場面内にある１つ以上のターゲットおよび物体の表面からの後方散乱光を、例えば、３Ｄカメラ４２６および／またはＲＧＢカメラ４２８を用いて検出することができる。実施形態の中には、パルス状赤外線光を用いて、発信光パルスと対応する入射光パルスとの間の時間を測定し、キャプチャー・デバイス２０Ａから場面内にあるターゲットまたは物体上における特定の場所までの物理的距離を判定するために使用することができるようにするとよい場合がある。加えて、他の実施形態例では、発信光波の位相を着信光波の位相と比較して、位相ずれを判定することもできる。次いで、この位相ずれを用いて、キャプチャー・デバイスからターゲットまたは物体上の特定の場所までの物理的距離を判定することができる。
【００７０】
[0095]  他の一実施形態例によれば、飛行時間分析を使用して、例えば、散乱光パルス撮像(shuttered light pulse imaging)を含む種々の技法によって、経時的な光の反射ビームの強度を分析することによって、キャプチャー・デバイス２０Ａからターゲットまたは物体上の特定の場所までの物理的距離を間接的に判定することができる。
【００７１】
[0096]  他の一実施形態例では、キャプチャー・デバイス２０Ａは、構造化光を用いて深度情報を取り込むことができる。このような分析では、パターン光（即ち、格子パターン、縞パターン、または異なるパターンのような既知のパターンとして表示される光）を、例えば、ＩＲ発光コンポーネント４２４によって、場面に向けて投射する。場面において１つ以上のターゲットまたは物体の表面に衝突したときに、パターンが、それに応答して、変形すると考えられる。このようなパターンの変形を、例えば、３Ｄカメラ４２６および／またはＲＧＢカメラ４２８（および／または他のセンサー）によって取り込むことができ、次いで分析して、キャプチャー・デバイスからターゲットまたは物体上における特定の場所までの物理的距離を判定することができる。実施態様の中には、ＩＲ発光コンポーネント４２５がカメラ４２５および４２６から変位されて、カメラ４２５および４２６からの距離を判定するために三角測量法を使用できるようにしたものもある。実施態様の中には、キャプチャー・デバイス２０Ａが、ＩＲ光を検知するために専用のＩＲセンサー、またはＩＲフィルターを有するセンサーを含む場合もある。
【００７２】
[0097]  他の実施形態によれば、キャプチャー・デバイス２０Ａは、２つ以上の物理的に分離されたカメラを含むことができ、これらが異なる角度から場面を捕らえて、視覚的な立体データーを得て、これを解明することによって深度情報を生成することができる。他のタイプの深度画像センサーも、深度画像を作るために使用することができる。
【００７３】
[0098]  更に、キャプチャー・デバイス２０Ａは、マイクロフォン４３０も含むことができる。マイクロフォン４３０は、音を受けて電気信号に変換することができる変換器またはセンサーを含む。マイクロフォン４３０は、オーディオ信号を受けるために使用することもできる。オーディオ信号は、ハブ計算デバイス１２によって供給するのでもよい。
【００７４】
[0099]  一実施形態例では、キャプチャー・デバイス２０Ａは、更に、撮像カメラ・コンポーネント４２３と通信可能であるとよいプロセッサー４３２も含むことができる。プロセッサー４３２は、標準的なプロセッサー、特殊プロセッサー、マイクロプロセッサー等を含むことができ、例えば、深度画像を受ける命令、しかるべきデーター・フォーマット（例えば、フレーム）を生成する命令、およびデーターをハブ計算デバイス１２に送る命令を含む命令を実行することができる。
【００７５】
[00100]  キャプチャー・デバイス２０Ａは、更に、プロセッサー４３２によって実行される命令、３−Ｄカメラおよび／またはＲＧＢカメラによって取り込まれた画像または画像のフレーム、あるいは他の任意の適した情報、画像等を格納することができるメモリー４３４も含むことができる。一実施形態例によれば、メモリー４３４は、ランダム・アクセス・メモリー（ＲＡＭ）、リード・オンリー・メモリー（ＲＯＭ）、キャッシュ、フラッシュ・メモリー、ハード・ディスク、または任意の他の適した記憶コンポーネントを含むことができる。図６に示すように、一実施形態では、メモリー４３４は、画像キャプチャー・コンポーネント４２３およびプロセッサー４３２と通信可能な別個のコンポーネントであってもよい。他の実施形態によれば、メモリー４３４をプロセッサー４３２および／または画像キャプチャー・コンポーネント４２２に統合してもよい。
【００７６】
[00101]  キャプチャー・デバイス２０Ａおよび２０Ｂは、通信リンク４３６を介して、ハブ計算デバイス１２と通信することができる。通信リンク４３６は、例えば、ＵＳＢ接続、Firewire接続、イーサネット（登録商標）・ケーブル接続等を含む有線接続、および／またはワイヤレス８０２．１ｂ、ｇ、ａ、またはｎ接続というようなワイヤレス接続とすることができる。一実施形態によれば、ハブ計算デバイス１２は、クロックをキャプチャー・デバイス２０Ａに供給することができる。このクロックは、例えば、通信リンク４３６を介して場面を取り込むときを決定するために使用することができる。加えて、キャプチャー・デバイス２０Ａは、深度情報、ならびに、例えば、３−Ｄカメラ４２６および／またはＲＧＢカメラ４２８によって取り込まれた視覚（例えば、ＲＧＢ）画像をハブ計算デバイス１２に、通信リンク４３６を介して供給する。一実施形態では、深度画像および視覚画像は、毎秒３０フレームで送られる。しかしながら、他のフレーム・レートも使用することができる。ハブ計算デバイス１２は、次に、モデルを作り、このモデル、深度情報、および取り込まれた画像を使用して、例えば、ゲームまたはワード・プロセッサーのようなアプリケーションを制御すること、および／またはアバターまたは画面上のキャラクターを動画化することができる。
【００７７】
[00102]  ハブ計算システム１２は、深度画像処理および骨格追跡モジュール４５０を含む。このモジュール４５０は、深度画像を使用して、キャプチャー・デバイス２０Ａの深度カメラ機能によって検出可能な１人以上の人を追跡する。深度画像処理および骨格追跡モジュール４５０は、追跡情報をアプリケーション４５２に提供する。アプリケーション４５２は、ビデオ・ゲーム、生産性アプリケーション、通信アプリケーション、または他のソフトウェア・アプリケーション等とすることができる。また、オーディオ・データーおよびビジュアル画像データーも、アプリケーション４５２および深度画像処理および骨格追跡モジュール４５０に供給される。アプリケーション４５２は、追跡情報、オーディオ・データー、およびビジュアル画像データーを認識エンジン４５４に供給する。他の実施形態では、認識エンジン４５４は、追跡情報を直接深度画像処理および骨格追跡モジュール４５０から受け、オーディオ・データーおよびビジュアル画像データーを直接キャプチャー・デバイス２０Ａおよび２０Ｂから受ける。
【００７８】
[00103]  認識エンジン４５４は、フィルター４６０、４６２、４６４、．．．、４６６の集合体と関連付けられている。各フィルターは、キャプチャー・デバイス２０Ａまたは２０Ｂによって検出可能な任意の人あるいは物体によって行うことができるジェスチャー、行為、または状態に関する情報を含む。例えば、キャプチャー・デバイス２０Ａからのデーターは、フィルター４６０、４６２、４６４、．．．、４６６によって処理して、ユーザーまたはユーザーのグループが１つ以上のジェスチャーまたは他の行為を行ったときを特定することができる。これらのジェスチャーには、アプリケーション４５２の種々の制御、物体、または条件と関連付けることもできる。つまり、ハブ計算デバイス１２は、これらのフィルターと共に認識エンジン４５４を使用して、物体（人を含む）の動きを解釈し追跡することができる。
【００７９】
[00104]  キャプチャー・デバイス２０Ａおよび２０Ｂは、ＲＧＢ画像（あるいは他のフォーマットまたは色空間における視覚画像）および深度画像を、ハブ計算デバイス１２に供給する。深度画像は、複数の被観察画素とすることもでき、各被観察画素は観察画素値を有する。例えば、深度画像は、取り込まれた場面の二次元（２−Ｄ）画素エリアを含むことができ、この２−Ｄ画素エリアにおける各画素は、取り込まれた場面における物体のキャプチャー・デバイスからの距離というような、深度値を有することができる。ハブ計算デバイス１２は、ＲＧＢ画像および深度画像を使用して、ユーザーまたは物体の動きを追跡する。例えば、本システムは、深度画像を使用して人のサポートを追跡する。深度画像を使用して人の骨格を追跡するために使用することができる方法は、数多くある。深度画像を使用して骨格を追跡するのに適した一例が、２００９年１０月２１日に出願されたCraig, et al.の米国特許出願第１２／６０３，４３７号、"Pose Tracking Pipeline"（姿勢追跡パイプライン）に示されている（以後、’４３７出願と呼ぶ）。この出願をここで引用したことにより、その内容全体が本願にも含まれるものとする。’４３７出願のプロセスは、深度画像を取り込み、データーをダウン・サンプリングするステップと、高分散ノイズ・データー(high variance noisy data)を除去および／またはスムージングするステップと、背景を特定および除去するステップと、前景画素の各々を身体の異なる部分に指定するステップを含む。これらのステップに基づいて、本システムは、モデルをこのデーターに当てはめ、骨格を作る。この骨格は、１組の関節と、これらの関節間にある接続とを含む。他の追跡方法を使用することもできる。また、適した追跡技術が以下の４件の米国特許出願にも開示されている。その全てをここで引用することにより、その内容全体が本願にも含まれるものとする。２００９年５月２９日に出願された米国特許出願第１２／４７５，３０８号、"Device for Identifying and Tracking Multiple Humans Over Time"（複数の人間を経時的に特定および追跡するデバイス）、２０１０年１月２９日に出願された米国特許出願第１２／６９６，２８２号、"Visual Based Identity Tracking"（外見に基づく識別追跡）、２００９年１２月１８日に出願された米国特許第１２／６４１，７８８号、"Motion Detection Using Depth Images"（深度画像を使用する動き検出）、および２００９年１０月７日に出願された米国特許第１２／５７５，３８８号、"Human Tracking System"（人間追跡システム）。
【００８０】
[00105]  認識エンジン４５４は、ジェスチャーまたは行為を判定するために複数のフィルター４６０、４６２、４６４、．．．、４６６を含む。フィルターは、ジェスチャー、行為、または状態を定める情報を、そのジェスチャー、行為、または状態についてのパラメーター、またはメタデーターと共に含む。例えば、投げる動作は、一方の手が身体の背後から身体の前方を通過する動きを含み、その動きが深度カメラによって取り込まれると、ユーザーの一方の手が身体の背後から身体の前方を通過する動きを表す情報を含むジェスチャーとして実現することができる。次いで、このジェスチャーに対してパラメーターを設定することができる。ジェスチャーが投げる動作である場合、パラメーターは、手が達しなければならないしきい値速度、手が移動する距離（ユーザー全体のサイズに対して絶対的、または相対的のいずれか）、および認識エンジンによる、ジェスチャーが行われたことの信頼度格付けとするとよい。ジェスチャーに対するこれらのパラメーターは、アプリケーション間、１つのアプリケーションのコンテキスト間、または１つのアプリケーションの１つのコンテキスト内において、経時的に様々に変化するのであってもよい。
【００８１】
[00106]  フィルターは、モジュール状または相互交換可能であるとよい。一実施形態では、フィルターは、複数の入力（これらの入力の各々は型を有する）と、複数の出力（これらの出力の各々は型を有する）とを有する。認識エンジンのアーキテクチャーの他の態様を全く変更することなく、第１のフィルターを、この第１のフィルターと同じ数および同じタイプの入力と出力とを有する第の２フィルターと交換することができる。例えば、入力として骨格データーを取り込み、そのフィルターと関連するジェスチャーが行われている確実度と、操縦角度とを出力する駆動用第１フィルターがあってもよい。おそらくは第２駆動フィルターの方が効率的であり必要な処理リソースが少なくて済むために、この第１駆動フィルターを第２駆動フィルターと交換したい場合、第２フィルターが同じ入力および出力、即ち、骨格データー型である１つの入力と、確実度型および角度型である２つの出力を有する限り、単に第１フィルターを第２フィルターと交換することによって、そうすることができる。
【００８２】
[00107]  フィルターがパラメーターを有する必要はない。例えば、ユーザーの身長を戻す「ユーザー身長」フィルターが、調整することができるパラメーターを全く考慮しなくてもよい。代わりの「ユーザー身長」フィルターが、ユーザーの身長を判定するときに、ユーザーの靴、髪形、帽子、および姿勢を考慮に入れるべきか否かというような、調整可能なパラメーターを有してもよい。
【００８３】
[00108]  フィルターへの入力は、関節において合体する骨によって形成される角度のような、ユーザーの関節位置についての関節データー、シーンからのＲＧＢカラー・データー、およびユーザーの態様の変化率、というような事項を含むことができる。フィルターからの出力は、所与のジェスチャーが行われる確実度、ジェスチャーの動きが行われる速度、およびジェスチャーの動きが行われた時刻というような事項を含むことができる。
【００８４】
[00109]  認識エンジン４５４は、前述のフィルターに機能を設ける基本認識エンジンを有することができる。一実施形態では、認識エンジン４５４が実装する機能は、認識されたジェスチャーおよび他の入力を追跡する経時的入力アーカイブ、隠れマルコフ・モデルの実装（モデル化されるシステムは、未知のパラメーターを有するマルコフ・プロセスであると仮定される。このプロセスでは、現在の状態が、今後の状態を判定するために必要な任意の過去の状態情報をカプセル化するので、この目的のために他の過去の状態情報を維持しなくてもよく、隠れているパラメーターは、観察可能なデーターから判定される）、およびジェスチャー認識の特定の場合(instance)を解決するために必要とされる他の機能を含む。
【００８５】
[00110]  フィルター４６０、４６２、４６４、．．．、４６６は、認識エンジン４５４の上にロードされ実装され、認識エンジン４５４によって全てのフィルター４６０、４６２、４６４、．．．、４６６に提供されるサービスを利用することができる。一実施形態では、認識エンジン４５４は、任意のフィルター４６０、４６２、４６４、．．．、４６６の要件を満たすか否か判断するためにデーターを受ける。入力の解析というような、これらの提供されるサービスは、各フィルター４６０、４６２、４６４、．．．、４６６によってではなく、認識エンジン４５４によって１回提供されるので、このようなサービスは、ある時間期間に１回だけ処理されればよいのであって、その期間においてフィルター毎に１回ずつ処理されるのではない。したがって、ジェスチャーを判定するために使用される処理が少なくなる。
【００８６】
[00111]  アプリケーション４５２は、認識エンジン４５４に設けられたフィルター４６０、４６２、４６４、．．．、４６６を使用することができ、またはそれ自体のフィルターを設けることもできる。このフィルターは、認識エンジン４５４に差し込まれる。一実施形態では、全てのフィルターは、この差し込み特性を可能にするために、共通のインターフェースを有する。更に、全てのフィルターはパラメーターを利用することができるので、以下の１つのジェスチャー・ツールを使用して、フィルター・システム全体のデバッグおよび調整(tune)を行うことができる。
【００８７】
[00112]  認識エンジン４５４についてのこれ以上の情報は、２００９年４月１３日に出願された米国特許出願第１２／４２２，６６１号、"Gesture Recognizer System Architecture"（ジェスチャー認識システムのアーキテクチャー）において見いだすことができる。この特許出願をここで引用したことにより、その内容全体が本願にも含まれるものとする。ジェスチャー認識についてのこれ以上の情報は、２００９年２月２３日に出願された米国特許出願第１２／３９１，１５０号、"Standard Gestures"（標準的ジェスチャー）、および２００９年５月２９日に出願された米国特許第１２／４７４，６５５号、"Gesture Tool"（ジェスチャー・ツール）において見いだすことができる。これら双方の特許出願をここで引用したことにより、それらの内容全体が本願にも含まれるものとする。
【００８８】
[00113]  図７は、ハブ計算デバイス１２を実現するために使用することができる計算システムの一実施形態例を示す。図７に示すように、マルチメディア・コンソール５００は、中央処理ユニット（ＣＰＵ）５０１を有する。ＣＰＵ５０１は、レベル１（Ｌ１）キャッシュ５０２、レベル２（Ｌ２）キャッシュ５０４、およびフラッシュＲＯＭ（リード・オンリー・メモリー）５０６を有する。レベル１キャッシュ５０２およびレベル２キャッシュ５０４は、一時的にデーターを格納し、したがってメモリー・アクセス・サイクル回数を減らすことによって、処理速度およびスループットを向上させる。ＣＰＵ５０１は、１つよりも多いコア、つまり追加のレベル１およびレベル２キャッシュ５０２および５０４を有するものが、設けられてもよい。フラッシュＲＯＭ５０６は、実行可能コードを格納することができる。実行可能コードは、マルチメディア・コンソール５００に最初に電力を投入するときのブート・プロセスの初期フェーズの間にロードされる。
【００８９】
[00114]  グラフィクス処理ユニット（ＧＰＵ）５０８およびビデオ・エンコーダー／ビデオ・コデック（コーダー／デコーダー）５１４は、高速および高分解能グラフィクス処理のためのビデオ処理パイプラインを形成する。データーは、グラフィクス処理ユニット５０８からビデオ・エンコーダー／ビデオ・コデック５１４に、バスを通じて伝達される。ビデオ処理パイプラインが、テレビジョンまたはその他の表示装置への送信のために、データーをＡ／Ｖ（オーディオ／ビデオ）ポート５４０に出力する。メモリー・コントローラー５１０がＧＰＵ５０８に接続されており、限定ではないが、ＲＡＭ（ランダム・アクセス・メモリー）のような、種々の形式のメモリー５１２にプロセッサーがアクセスし易くする。
【００９０】
[00115]  プロセッサー５００は、Ｉ／Ｏコントローラー５２０、システム管理コントローラー５２２、オーディオ処理ユニット５２３、ネットワーク・インターフェース・コントローラー５２４、第１ＵＳＢホスト・コントローラー５２６、第２ＵＳＢコントローラー５２８、およびフロント・パネルＩ／Ｏサブアセンブリー５３０を含む。これらは、モジュール５１８に実装することが好ましい。ＵＳＢコントローラー５２６および５２８は、ペリフェラル・コントローラー５４２（１）〜５４２（２）、ワイヤレス・アダプター５４８、および外部メモリー・ユニット５４６（例えば、フラッシュ・メモリー、外部ＣＤ／ＤＶＤ  ＲＯＭドライブ、リムーバブル・メディア等）のホストとしての役割を果たす。ネットワーク・インターフェース５２４および／またはワイヤレス・アダプター５４８は、ネットワーク（例えば、インターネット、ホーム・ネットワーク等）へのアクセスを与え、イーサネット（登録商標）・カード、モデム、Bluetooth（登録商標）モジュール、ケーブル・モデム等を含む、多種多様の様々な有線またはワイヤレス・アダプター・コンポーネントの内任意のものでよい。
【００９１】
[00116]  システム・メモリー５４３は、ブート・プロセスの間にロードされるアプリケーション・データーを格納するために設けられている。メディア・ドライブ５４４が設けられており、ＤＶＤ／ＣＤドライブ、ブルー・レイ・ドライブ、ハード・ディスク・ドライブ、またはその他のリムーバブル・メディア・ドライブ等を含むことができる。メディア・ドライブ１４４は、マルチメディア・コンソール５００の内部でも外部でもよい。マルチメディア・コンソール５００による実行、プレーバック(playback)等のために、マルチメディア・コンソール５００はアプリケーション・データー５４４にアクセスすることができる。メディア・ドライブ５４４は、シリアルＡＴＡバスまたはその他の高速接続（例えば、ＩＥＥＥ１３９４）のようなバスを通じて、Ｉ／Ｏコントローラー５２０に接続されている。
【００９２】
[00117]  システム管理コントローラー５２２は、マルチメディア・コンソール５００の利用可能性を確保することに関する種々のサービス機能を提供する。オーディオ処理ユニット５２３およびオーディオ・コデック５３２は、高信頼度およびステレオ・オーディオ処理を備えた、対応するオーディオ処理パイプラインを形成する。通信リンクが、オーディオ処理ユニット５２３とオーディオ・コデック５２６との間において、オーディオ・データーを伝達することができる。オーディオ処理パイプラインは、外部オーディオ・ユーザーまたはオーディオ能力を有するデバイスによる再生のために、Ａ／Ｖポート５４０にデーターを出力する。
【００９３】
[00118]  フロント・パネルＩ／Ｏサブアセンブリー５３０は、電力ボタン５５０およびイジェクト・ボタン５５２の機能をサポートし、更にマルチメディア・コンソール５００の外面上に露出する任意のＬＥＤ（発光ダイオード）またはその他のインディケーターの機能もサポートする。システム電源モジュール５３６は、電力をマルチメディア・コンソール１００のコンポーネントに供給する。ファン５３８は、マルチメディア・コンソール５００内部にある回路を冷却する。
【００９４】
[00119]  ＣＰＵ５０１、ＧＰＵ５０８、メモリー・コントローラー５１０、およびマルチメディア・コンソール５００内部にある種々の他のコンポーネントは、１つ以上のバスによって相互接続されている。これらのバスには、シリアルおよびパラレル・バス、メモリー・バス、ペリフェラル・バス、ならびに種々のバス・アーキテクチャーの内任意のものを用いたプロセッサー・バスまたはローカル・バスが含まれる。一例として、このようなアーキテクチャーは、周辺コンポーネント相互接続（ＰＣＩ）バス、PCI-Expressバス等を含むことができる。
【００９５】
[00120]  マルチメディア・コンソール５００に電源を投入すると、アプリケーション・データーをシステム・メモリー５４３からメモリー５１２および／またはキャッシュ５０２、５０４にロードすることができ、ＣＰＵ５０１において実行することができる。アプリケーションは、マルチメディア・コンソール５００において利用可能な異なるメディア・タイプにナビゲートするときに、一貫性のあるユーザー体験を提供するグラフィカル・ユーザー・インターフェースを提示することができる。動作において、アプリケーションおよび／またはメディア・ドライブ５４４内に含まれているその他のメディアをメディア・ドライブから起動または再生して、追加の機能をマルチメディア・コンソール５００に提供することもできる。
【００９６】
[00121]  マルチメディア・コンソール５００は、単に単体システムをテレビジョンまたはその他のディスプレイに接続することによって、その単体システムとして動作させることができる。この単体モードでは、マルチメディア・コンソール５００は、１人以上のユーザーがシステムと対話処理すること、ムービーを見ること、音楽を聞くこと等を可能にする。しかしながら、ネットワーク・インターフェース５２４またはワイヤレス・アダプター５４８を通じて利用可能なブロードバンド接続の統合により、マルチメディア・コンソール５００は、更に、それよりも大きなネットワーク共同体における参加者として動作することができる。加えて、マルチメディア・コンソール５００は、処理ユニット４とワイヤレス・アダプター５４８を介して通信することができる。
【００９７】
[00122]  マルチメディア・コンソール５００の電源をオンにすると、マルチメディア・コンソールのオペレーティング・システムによって、設定されている量のハードウェア・リソースがシステムの使用のために確保される。これらのリソースは、メモリー、ＣＰＵおよびＧＰＵサイクル、ネットワーキング帯域幅等の確保を含むことができる。これらのリソースは、システムのブート時に確保されるので、確保されたリソースは、アプリケーションの視点からは存在しない。特に、メモリーの確保は、起動カーネル、コンカレント・システム・アプリケーション、およびドライバーを含めるのに十分大きいことが好ましい。確保されたＣＰＵの使用がそのシステム・アプリケーションによって使用されない場合、アイドル状態にあるスレッドが未使用サイクルの内任意のものを消費するように、ＣＰＵの確保を一定に維持することが好ましい。
【００９８】
[00123]  ＧＰＵの確保に関して、ＧＰＵ割り込みを使用することによって、システム・アプリケーション（例えば、ポップアップ）によって生成される軽量メッセージを表示して、ポップアップをオーバーレイにレンダリングするコードをスケジューリングする。オーバーレイに必要とされるメモリー量は、オーバーレイのエリア・サイズに依存し、オーバーレイは画面の解像度と共にスケーリングする(scale)ことが好ましい。コンカレント・システム・アプリケーションによってユーザー・インターフェース全体が用いられる場合、アプリケーションの解像度とは独立した解像度を使用することが好ましい。周波数を変更しＴＶの同期を取り直す必要性をなくすように、スケーラーを使用してこの解像度を設定するとよい。
【００９９】
[00124]  マルチメディア・コンソール５００がブートして、システム・リソースが確保された後、コンカレント・システム・アプリケーションが実行してシステム機能を提供する。これらのシステム機能は、前述の確保したシステム・リソースの内部で実行する１組のシステム・アプリケーション内にカプセル化されている。オペレーティング・システム・カーネルは、システム・アプリケーション・スレッドと、ゲーミング・アプリケーション・スレッドとの間でスレッドを識別する。一貫したシステム・リソース・ビューをアプリケーションに提供するために、システム・アプリケーションは、所定の時点および間隔でＣＰＵ５０１において実行するようにスケジューリングされていることが好ましい。このスケジューリングは、コンソールにおいて実行しているゲーミング・アプリケーションに対するキャッシュの分裂(disruption)を最少に抑えるためにある。
【０１００】
[00125]  コンカレント・システム・アプリケーションがオーディオを必要とする場合、時間に敏感であるため、オーディオ処理を非同期にゲーミング・アプリケーションにスケジューリングする。マルチメディア・コンソール・アプリケーション管理部（以下で説明する）は、システム・アプリケーションがアクティブのとき、ゲーミング・アプリケーションのオーディオ・レベル（例えば、無音化、減衰）を制御する。
【０１０１】
[00126]  オプションの入力デバイス（例えば、コントローラー５４２（１）および５４２（２））は、ゲーミング・アプリケーションおよびシステム・アプリケーションによって共有される。入力デバイスは、確保されたリソースではないが、システム・アプリケーションとゲーミング・アプリケーションとの間で切り換えられて、各々がそのデバイスのフォーカス(a focus of the device)を有するようにする。アプリケーション管理部は、好ましくは、ゲーミング・アプリケーションの知識を知ることなく、入力ストリームの切換を制御し、ドライバーがフォーカス・スイッチ(focus switches)に関する状態情報を維持する。キャプチャー・デバイス２０Ａおよび２０Ｂは、コンソール５００のための追加の入力デバイスを、ＵＳＢコントローラー５２６または他のインターフェースを介して、定めることができる。他の実施形態では、ハブ計算システム１２は、他のハードウェア・アーキテクチャーを使用して実現することができる。ハードウェア・アーキテクチャーが１つである必要はない。
【０１０２】
[00127]  図４、図５、図６、および図７に示したコンピューター・システム例は、コンピューター読み取り可能記憶媒体の例を含む。このような媒体は、揮発性および不揮発性媒体、リムーバブルおよび非リムーバブル媒体を含み、コンピューター読み取り可能命令、データー構造、プログラム・モジュール、または他のデーターというような情報の任意の記憶方法または技術で実現される。コンピューター記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュ・メモリーまたは他のメモリー技術、ＣＤ−ＲＯＭ、ディジタル・バーサタイル・ディスク（ＤＶＤ）または他の光ディスク・ストレージ、メモリー・スティックまたはカード、磁気カセット、磁気テープ、磁気ディスク記憶デバイスまたはその他の磁気記憶デバイス、あるいは所望の情報を格納するために使用することができ、コンピューターによってアクセスすることができる任意の他の媒体が含まれるが、これらに限定されるのではない。図におけるコンピューター読み取り可能記憶媒体のいくつかの例には、図４のメモリー２１４、図５のフラッシュ・メモリー３３４、メモリー３３０、ＲＡＭ３２６、およびキャッシュ３２４、図６のメモリー４３４、ならびにＲＯＭ５０６、キャッシュ５０２、５０４、メモリー５１２、システム・メモリー５４３、メモリー・ユニット５４６、およびメディア・ドライブ５４４を含む。
【０１０３】
[00128]  図１は、１つのハブ計算デバイス１２（ハブと呼ぶ）と通信可能な１つの頭部装着ディスプレイ・デバイス２および処理ユニット４（纏めて移動体ディスプレイ・デバイスと呼ぶ）を示す。他の実施形態では、複数の移動体ディスプレイ・デバイスを１つのハブと通信可能にすることができる。これらの移動体ディスプレイ・デバイスの各々は、前述のように、ワイヤレス通信を使用してハブと通信する。このような実施形態では、移動体ディスプレイ・デバイスの全てに有用である情報の多くが、ハブにおいて計算および格納され、移動体ディスプレイ・デバイスの各々に送られることが考えられる。例えば、ハブは環境のモデルを生成し、ハブと通信可能な移動体ディスプレイ・デバイスの全てにこのモデルを供給する。加えて、ハブは、移動体ディスプレイ・デバイスの位置および向きを追跡し、更に部屋内において動いている物体の位置および向きを追跡し、その情報を移動体ディスプレイ・デバイスの各々に伝えることができる。
【０１０４】
[00129]  他の実施形態では、ユーザーに対して焦点が合うように仮想コンテンツの焦点を可変にすることができるマルチユーザー・システムが、複数のハブを含むことができ、各ハブが１つ以上の移動体ディスプレイ・デバイスを含む。これらのハブは、互いに直接またはインターネット（または他のネットワーク）を介して通信することができる。例えば、図８はハブ５６０、５６２、および５６４を示す。ハブ５６０は、直接ハブ５６２と通信する。ハブ５６０は、ハブ５６４とインターネットを介して通信する。ハブ５６０は、移動体ディスプレイ・デバイス５７０、５７２、．．．、５７４と通信する。ハブ５６２は、移動体ディスプレイ・デバイス５７８、５８０、．．．、５８２と通信する。ハブ５６４は、移動体ディスプレイ・デバイス５８４、５８６、．．．、５８８と通信する。先に論じたように、移動体ディスプレイ・デバイスの各々は、それらそれぞれのハブと、ワイヤレス通信を介して通信する。これらのハブが共通の環境にある場合、これらのハブの各々は環境のモデルの一部を設けることができ、または１つのハブが他のハブのためにモデルを作ることができる。これらのハブの各々は、動いている物体の部分集合を追跡し、その情報を他のハブと共有する。一方、他のハブは、しかるべき移動体ディスプレイ・デバイスとこの情報を共有する。移動体ディスプレイ・デバイスについてのセンサー情報が、それらそれぞれのハブに提供され、次いで他のハブに共有され、最終的に他の移動体ディスプレイ・デバイスに共有される。つまり、ハブ間で共有される情報は、骨格追跡、モデルについての情報、アプリケーションの種々の状態、およびその他の追跡を含むことができる。ハブおよびそれらそれぞれの移動体ディスプレイ・デバイス間で伝えられる情報には、動いている物体の追跡情報、世界モデルについての状態および物理的更新(physics updates)、幾何学的形状および表面模様の情報、ビデオおよびオーディオ、ならびに本明細書において記載される動作を実行するために使用される他の情報が含まれる。
【０１０５】
[00130]  図９は、仮想物体がユーザーによって見られるときにこの仮想物体に焦点を合わせて表示するプロセスの一実施形態を説明するフローチャートである。このプロセスは、以上で論じたコンポーネントによって実行される。ステップ６０２において、本システムが構成される。例えば、アプリケーション（例えば、図６のアプリケーション４５２）が、特定の仮想画像（仮想物体を表す）を、指定された位置において場面の三次元モデルに挿入すべきことを示すように、本システムを構成することができる。空の部屋に仮想物体を詰め込んで、この空の部屋を仮想現実にする例について考える。他の例では、ハブ計算システム１２において実行するアプリケーションが、特定の仮想画像（仮想物体を表す）が、ビデオ・ゲームまたは他のプロセスの一部として、場面に挿入されようとしていることを示す。
【０１０６】
[00131]  ステップ６０４において、本システムは頭部装着ディスプレイ・デバイス２が配置される空間の立体モデル(volumetric model)を作る。一実施形態では、例えば、ハブ計算デバイス１２は１つ以上の深度カメラからの深度画像を使用して、頭部装着ディスプレイ・デバイス２が配置される環境または空間の三次元モデルを作る。ステップ６０６において、そのモデルが１つ以上の物体(object)に区分される。例えば、ハブ計算デバイス１２が部屋の三次元モデルを作る場合、この部屋は複数の物体をその内部に有する可能性が高い。部屋内の可能性がある物体の例には、人、椅子、テーブル、ソファー等が含まれる。ステップ６０６は、互いに別々の物体を判定することを含む。ステップ６０８において、本システムはこれらの物体を特定する。例えば、ハブ計算デバイス１２は、ある特定の物体がテーブルであり、他の物体が椅子であることを特定するのでもよい。ステップ６１０において、本システムは、ユーザーによって見られるときに焦点が合うように仮想物体を表示する。この仮想物体は、透視レンズ、例えば、１１６、１１８ｓを介して実際にそして直接見られる実物体であるかのように、焦点が合って現れる。即ち、本システムは、ユーザーが頭部装着ディスプレイ・デバイス２を介して見ている間、ユーザーが見ている焦点深度において、ユーザーの視野内に仮想画像を表示する。このようにして、仮想画像は、ディスプレイ・デバイスのその実世界位置に現れ、そのディスプレイを介して、物理環境の少なくとも一部の実際の直接目視を可能にする。この仮想物体は、静止物体または移動している物体とすることができる。ステップ６１２において、頭部装着ディスプレイ・デバイス２のユーザーは、頭部装着ディスプレイ・デバイス２に表示されている仮想物体に基づいて、ハブ計算デバイス１２（または他の計算デバイス）において実行しているアプリケーションと対話処理を行う。ステップ６０４から６１０の各々については、以下で更に詳しく説明する。
【０１０７】
[00132]  図１０は、空間の三次元モデルを作るプロセスの一実施形態を説明するフローチャートである。例えば、図１０のプロセスは、図９のステップの一実施態様例である。ステップ６４０において、ハブ計算デバイス１２は頭部装着ディスプレイ・デバイス２がある空間の複数の視線(perspective)に対する１つ以上の深度画像を受ける。例えば、ハブ計算デバイス１２は、複数の深度カメラから深度画像を得ることができ、あるいはカメラを異なる方向に向けることによって、またはモデルが構築される空間の全視野(full view)を可能にするレンズを有する深度カメラを使用することによって、同じカメラから複数の深度画像を得ることができる。ステップ６４２において、種々の深度画像からの深度データーが共通座標系に基づいて組み合わせられる。例えば、このシステムが深度画像を複数のカメラから受ける場合、本システムは２つの画像を相関付けて共通の座標系を有する（例えば、画像を並べる）。ステップ６４４において、深度データーを使用して、空間の立体記述が作られる。ステップ６４６において、本システムは、部屋の中で動いている人というような、動いている物体を検出し追跡する。人の追跡についてのこれ以上の詳細は、先に説明した。ステップ６４８において、動いている物体の追跡に基づいて、空間の立体記述が更新される。ステップ６４６および６４８は、動いている物体を考慮に入れることによってモデルが連続的に更新されるように、本システムの動作の間連続的に実行することができる。他の実施形態では、モデルは静止物体についての情報のみを含み、移動物体は別々に追跡される。
【０１０８】
図１１は、空間のモデルを物体に区分するプロセスの一実施形態を説明するフローチャートである。例えば、図１１のプロセスは、図９のステップ６０６の一実施態様例である。図１１のステップ６８０において、本システムは、先に論じたように、１つ以上の深度画像を１つ以上の深度カメラから受ける。あるいは、本システムは、既に受けている１つ以上の深度画像にアクセスすることもできる。ステップ６８２において、本システムは、１つ以上の仮想画像を、前述したカメラから受ける。あるいは、本システムは、既に受けられている１つ以上の仮想画像にアクセスすることもできる。ステップ６８４において、ハブ計算システムは、深度画像および／または視覚画像に基づいて１人以上の人を検出する。例えば、本システムは１つ以上の骨格を認識する。ステップ６８６において、ハブ計算デバイスは、深度画像および／または視覚画像に基づいてモデル内でエッジを検出する。ステップ６８８において、ハブ計算デバイスは、検出したエッジを使用して、別個の物体を互いから識別する。例えば、エッジが物体間の境界であると捉えられる。ステップ６９０において、図１０のプロセスを使用して作られたモデルが、モデルのどの部分が異なる物体と関連付けられているかを示すために、更新される。
【０１０９】
[00133]  図１２は、物体を特定するプロセスの一実施形態を説明するフローチャートである。例えば、図１２のプロセスは、図９のステップ６０８の一実施態様例である。ステップ７１０において、ハブ計算デバイス１２は、特定された人をユーザー識別と照合する。例えば、本システムは、物体の検出された画像と照合することができる仮想画像を有するユーザー・プロファイルを有することができる。あるいは、ユーザー・プロファイルが、深度画像または視覚的画像に基づいて照合することができる人の特徴を記述することができる。他の実施形態では、ユーザーが本システムにログインするのでもよく、ハブ計算デバイス１２がログイン・プロセスを使用して個々のユーザーを特定し、本明細書において記載する対話処理の間にわたってユーザーを追跡することができる。ステップ７１２において、ハブ計算デバイス１２は形状のデーターベースにアクセスする。ステップ７１４において、ハブ計算デバイスは、モデル内の物体をデーターベースにおける同じ数の形状と照合する。ステップ７１６において、一致しない形状が強調され、ユーザーに表示される（例えば、モニター１６を使用する）。ステップ７１８において、ハブ計算デバイス１２は、強調された形状の各々（または部分集合）を特定するユーザー入力を受ける。例えば、ユーザーはキーボード、マウス、音声入力、または他のタイプの入力を使用して、特定されなかった形状の各々が何であるのか示すことができる。ステップ７２０において、ステップ７１８におけるユーザー入力に基づいて、形状のデーターベースが更新される。ステップ７２２において、ステップ６０４において作られそしてステップ６０６において更新された環境のモデルが、更に、物体の各々についてのメタデーターを追加することによって更新される。メタデーターは物体を特定する。例えば、メタデーターは、特定の物体が、丸く輝くテーブル、氏名不詳の男性、緑色の革製ソファー等であることを示すこともできる。
【０１１０】
[00134]  図１３は、透視ディスプレイを見ているユーザーによって見られるときに、焦点が合うように仮想物体を表示するプロセスの一実施形態を説明するフローチャートである。例えば、図１３のプロセスは、図９のステップ６１０の一実施態様例である。図１３のステップ９５０において、本システムはユーザーの視野を判定する。即ち、本システムは、環境または空間のどの部分をユーザーが見ているのか判定する。一実施形態では、ハブ計算デバイス１２、処理ユニット４、および頭部装着ディスプレイ・デバイス２を使用する協調的作業である。一実施態様例では、ハブ計算デバイス１２がユーザーおよび頭部装着ディスプレイ・デバイス２を追跡し、頭部装着ディスプレイ・デバイス２の位置および向きの暫定的判断を与える。頭部装着ディスプレイ・デバイス２上にあるセンサーが、判定された向きをリファインするために使用される。例えば、前述の慣性センサー３４は、頭部装着ディスプレイ・デバイス２の向きをリファインするために使用することができる。加えて、前述の目追跡プロセスは、最初に判定した視野の部分集合を特定するために使用することができる。この部分集合は、ユーザーが特に見ているところに対応し、ユーザー焦点領域または視野における深度焦点(depth focus)としても知られている。これ以上の詳細は、図１４、図１５、および図１６に関して以下で説明する。
【０１１１】
[00135]  仮想物体のタイプおよびユーザーの視野内におけるそれらの位置は、デフォルトのパラメーター、ユーザー入力、または双方の組み合わせに基づいて、アプリケーション４５２によって決定される。例えば、ユーザーが、部屋内のコーヒー・テーブルという実世界物体を選択し、アプリケーション４５２を実行して、巨礫の如く見えるようにすることができる。仮想巨礫の目標位置が、三次元モデル内のコーヒー・テーブルの位置に関係付けられる。他の例では、仮想いるかが部屋中を泳ぐように、ユーザーによって選択されるのでもよい。このいるかの部屋中における仮想的な動きは、いるかオブジェクト(dolphin object)の軌道(trajectory path)によって実現することができ、各表示フレームにおいているかに対する目標位置が更新される。ユーザーが巨礫を見つめていても、いるかは総じてユーザーの焦点領域および視野に入ったり出たりする可能性が高い。ユーザーが彼または彼女の目あるいは頭を動かすと、ユーザーの視野および現在の焦点領域も、これらの動きと共に更新していく。１つ以上の仮想物体が、ユーザーの焦点領域およびユーザーの視野内に、いずれの所与の時点においても配置されてもよい。
【０１１２】
[00136]  先のステップ９５０において視野を判定した後、本システムは、ステップ９５２において、ユーザーの現在の視野内に仮想物体のいずれかの目標位置があるか否か判断する。ハブ計算デバイス１２または処理ユニット４のような１つ以上のコンピューター・システムにおいて実行するソフトウェアが、視野内の目標の位置を特定する。一実施形態では、ハブ計算デバイス１２がモデルを処理ユニット４に供給する。ステップ９５２の一部として、処理ユニット４は、環境のモデルならびにユーザーの位置および向きの知識を使用して、任意の仮想物体の目標位置がユーザーの視野内にあるか否か判断する。
【０１１３】
[00137]  ユーザーの現在の視野内に仮想物体がない場合、ステップ９６６における処理は、ステップ９５０におけるユーザーの視野の判定および更新に戻る。
[00138]  ユーザーの視野内に目標位置を有する少なくとも１つの仮想物体がある場合、次にステップ９５４において、処理ユニット４において実行するソフトウェアのようなシステムは、ユーザーの視野内におけるユーザーの現在の焦点領域を判定する。図１５および図１６において以下で更に論ずるが、各目に対する追跡カメラ１３４によって取り込まれたデーターに基づく目追跡処理が、ユーザーの現在の焦点領域を与えることができる。例えば、瞳間の収斂(convergence)は、ユーザーの顔の位置を示すデーターと共に、焦点曲線、ホロプター上の焦点距離まで三角測量するために使用することができる。焦点領域、パナムの融合エリアは、この焦点から計算することができる。パナムの融合エリアは、人間の目によって使用される両眼立体視に対する単一視のエリアである。
【０１１４】
[00139]  ステップ９５６において、ハブ計算デバイス１２、処理ユニット４、または双方において実行するソフトウェアが、ユーザーの視野内における仮想物体の内どれが、現在のユーザーの焦点領域内にあるか、モデルにおける仮想物体の目標位置に基づいて特定する。
【０１１５】
[00140]  ステップ９５８において、処理ユニット４は、ユーザーの視野内に挿入する画像に対する仮想物体をスケーリングし、向きを決める。仮想画像のスケーリングおよび向きの決定は、視野内の目標の位置、およびモデルに基づく仮想物体の既知の形状に基づく。
【０１１６】
[00141]  ステップ９６０において、処理ユニット４、制御回路１３６、または双方は、マイクロディスプレイ・アセンブリーの焦点領域を変化させることによって、現在のユーザーの焦点領域内に、特定された各仮想物体を置く処理を共有する。ステップ９６２において、人為的被写体深度技法が、目標位置がユーザーの視野内でユーザーの現在の焦点領域の外側にある仮想物体に、現在の焦点領域からの距離の関数として適用される。人為的被写体深度技法の一例は、人為的ぼけ技法である。
【０１１７】
[00142]  人為的ぼけは、被写体深度シェーダー(depth of field shader)または他のガウスぼかしフィルターを適用し、焦点領域からの距離を関数として、焦点が外れている物体をシミュレートすることによって得ることができる。この技法は、全体的にまたは部分的に、ハブ・コンピューター１２、処理ユニット４、または双方において実行するソフトウェアによって実行することができる。説明を容易にするために、処理ユニット４を参照する。仮想物体の目標位置の一部として、画像内の物体の焦点距離が処理ユニット４によって深度値から決定される。また、処理ユニット４は、導光光学エレメント１１２を密封するもののようなディスプレイ・エレメント１１２におけるどの画素が、画像内の仮想物体にマッピングするか判断する。焦点距離に基づいて、ガウス関数によって画像を畳み込み(convolve)、画像の焦点または固定点から離れた画素に適用される変換程、大きなぼけ効果を受けるようにすることによって、少なくとも二次元をカバーするように、１つ以上の加重ガウスぼかしフィルターが適用される。一例では、ガウスぼかしフィルターは、高周波情報を除去するロー・パス・フィルターとして動作する。
【０１１８】
[00143]  ステップ９６４において、ユーザーの視野内に仮想物体を含む仮想画像が表示される。一例では、ユーザーの視野内に仮想物体を含む仮想画像のマイクロディスプレイ１２０における表示のための命令を、処理ユニット４が制御回路１３６のディスプレイ・ドライバー２２０に送る。次いで、レンズ・システム１２２は、マイクロディスプレイ１２０から受けた仮想画像を、反射面１２４上に、そしてユーザーの目に向けて、または導光光学エレメント１１２内に、ユーザーが見るために投射する。一実施態様では、ユーザーが頭部装着ディスプレイ・デバイス内を透視しているディスプレイ（例えば、導光光学エレメント１１２）が、画素に分割される。ステップ９６４は、どの画素が目標位置に対応するか判断することを含むことができ、これらの画素がステップ９６４において仮想画像を表示する。不透明フィルター１１４が、非現実的な視覚効果を防止するために使用されるとよい。例えば、不透明フィルター１１４は、背景仮想物体が前景仮想物体を透過して見られないように、導光光学エレメント１１２内の画素への光を変更することができる。処理はステップ９５０に戻り、再度このリアル・タイム・ディスプレイ・システムにおけるユーザーの視野を判定する。図１３の処理ステップは、ユーザーが彼または彼女の頭を動かすに連れて ユーザーの視野およびユーザーの焦点領域が更新されるように、そして、仮想物体が、それに応じて自然に動いてユーザーに対する焦点に合ったり外れたりするように、本システムの動作中連続して実行することができる。
【０１１９】
[00144]  図１６は、ユーザーの視野を判定するプロセスの一実施形態を説明するフローチャートであり、図１３のステップ９５０の一実施態様例である。図１６は、前述したハブ計算デバイス１２および目追跡技術からの情報を拠り所とする。図１４は、図１６のプロセスにおいて使用される追跡情報を提供するためにハブ計算システムによって実行されるプロセスの一実施形態を説明するフローチャートである。図１５は、目を追跡するプロセスの一実施形態を説明するフローチャートであり、その結果が、図１６のプロセスによって使用される。
【０１２０】
[00145]  図１４のステップ８１０において、ハブ計算デバイス１２はユーザーの位置を追跡する。例えば、計算デバイス１２は１つ以上の深度画像および１つ以上の視覚画像を使用して、ユーザーを追跡する（例えば、骨格追跡を使用する）。１つ以上の深度画像および１つ以上の視覚画像は、頭部装着ディスプレイ・デバイス２の位置、および頭部装着ディスプレイ・デバイス２の向きをステップ８１２において判定するために使用することができる。ステップ８１４において、ユーザーならびに頭部装着ディスプレイ・デバイス２の位置および向きが、ハブ計算デバイス１２から処理ユニット４に送られる。ステップ８１６において、この位置および方位情報が、処理ユニット４において受け取られる。図１４の処理ステップは、ユーザーが連続的に追跡されるように、本システムの動作中連続的に実行することができる。
【０１２１】
[00146]  図１５は、前述の技術を使用して目を追跡する一実施形態を説明するフローチャートである。ステップ８６０において、目に照明を当てる。例えば、目追跡照明１４４Ａからの赤外線光を使用して、目に照明を当てることができる。ステップ８６２において、目からの反射が、１つ以上の目追跡カメラ１３４Ｂを使用して検出される。ステップ８６４において、反射データーが頭部装着ディスプレイ・デバイス２から処理ユニット４に送られる。ステップ８６６において、処理ユニット４は、先に論じたように、反射データーに基づいて目の位置を判定する。ステップ８６８において、処理ユニット４は、反射データーに基づいて、ユーザーの目が見ている焦点深度位置または焦点領域も判定する。図１５の処理ステップは、ユーザーの目が連続的に追跡されて現在のユーザー焦点領域を追跡するためのデーターを提供するように、本システムの動作中連続的に実行することができる。
【０１２２】
[00147]  図１６は、視野を判定するプロセスの一実施形態を説明するフローチャートである（例えば、図１３のステップ９５０）。ステップ９０２において、処理ユニット４は、ハブから受けた最新の位置および向き情報にアクセスする。図１４のプロセスは、ステップ８１４からステップ８１０への矢印によって示されるように、連続的に実行することができ、したがって、処理ユニット４は周期的に更新された位置および向き情報を、ハブ計算デバイス１２から受ける。しかしながら、処理ユニット４は、ハブ計算デバイス１２から更新情報を受けるよりも高い頻度で仮想画像を描画する必要がある。したがって、処理ユニット４は、ローカルに（例えば、頭部装着ディスプレイ・デバイス２から）検知された情報を拠り所として、ハブ計算デバイス１２からのサンプルの間に、向きに対する更新を与える必要がある。ステップ９０４において、処理ユニット４は、三軸ジャイロ１３２Ｂからのデーターにアクセスする。ステップ９０６において、処理ユニット４は三軸加速度１３２Ｃからのデーターにアクセスする。ステップ９０８において、処理ユニット４は三軸磁力計１３２Ａからのデーターにアクセスする。ステップ９１０において、処理ユニット４は、ハブ計算デバイス１２からの位置および向きデーターを、ジャイロ、加速度計、および磁力計からのデーターによって、リファインする（または、言い換えると、更新する）。ステップ９１２において、処理ユニット４は、頭部装着ディスプレイ・デバイスの位置および向きに基づいて、可能な視野を判定する。
【０１２３】
[00148]  ステップ９１４において、処理ユニット４は最新の眼位情報にアクセスする。ステップ９１６において、処理ユニット４は、ユーザーによって見られているモデルの部分を、可能な視野の部分集合として、眼位に基づいて判定する。例えば、ユーザーが壁に向かっていることもあり、したがって、頭部装着ディスプレイの視野は、壁に沿ったいずれかの場所を含む可能性がある。しかしながら、ユーザーの目が右に向けられている場合、ステップ９１６では、ユーザーの視野は壁の右側部分のみであると結論付ける。ステップ９１６の終了時には、処理ユニット４はユーザーの視野を頭部装着ディスプレイ２によって判定し終えている。処理ユニット４は、視野内の仮想物体の目標位置を特定することができる。ステップ９１８において、処理ユニット４は、眼位に基づくモデルの部分によって、現在のユーザーの焦点領域を判定する。処理ユニット４は、現在のユーザーの焦点領域内にある仮想物体のモデル内で目標位置を特定することができる。図１６の処理ステップは、ユーザーが彼または彼女の頭を動かすに連れてユーザーの視野および焦点領域が連続的に更新されるように、そして仮想物体が、それに応じて自然に動いてユーザーに対する焦点に合ったり外れたりするように、本システムの動作中に連続的に実行することができる。
【０１２４】
[00149]  図１７Ａは、マイクロディスプレイ・アセンブリーの少なくとも１つのレンズを変位させることによって、マイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を説明するフローチャートである。この実施形態は、ステップ１３におけるステップ９６０を実現するために使用することができる。例示的なコンテキストについて、図２Ａおよび図２Ｂに関して先に説明したようなマイクロディスプレイ・アセンブリーを参照する。このマイクロディスプレイ・アセンブリーは、光路１３３においてレンズ・システム１２２と整列されているマイクロディスプレイ・ユニット１２０を含む。レンズ・システム１２２は、マイクロディスプレイ・ユニット１２０から反射エレメント１２４または反射エレメント１２４ａ、１２４ｂへの画像光を平行化し、そしてユーザーの目または他の光学エレメント１１２に入射させる。また、マイクロディスプレイ・アセンブリーは、選択されたまたは決定された焦点領域を得るために光処理エレメントの１つを物理的に動かすために、可変仮想焦点調節器１３５も含む。
【０１２５】
[00150]  図３Ａ〜図３Ｄの論述の前に、マイクロディスプレイ・アセンブリーの変位および焦点距離は、以下の式、１／Ｓ１＋１／Ｓ２＝１／ｆによって関係付けられる。ステップ９８０において、処理ユニット４は、レンズ・システム１２２の前節点と仮想物体の目標位置との間で変異値Ｓ１を判定する。加えて、ステップ９８２において、処理ユニット４は、反射エレメント１２４、１２４ａとレンズ・システムの後節点との間で、レンズ・システムｆの焦点距離に対して、上の式に基づいて変異値Ｓ２を判定する。処理ユニット４は、ステップ９８４において、制御回路１３６のプロセッサーに、可変調節器ドライバー２３７に少なくとも１つの駆動信号を可変仮想焦点調節器１３４に印加させて、レンズ・システムの内少なくとも１つのレンズを物理的に動かし、判定した変位値Ｓ１およびＳ２を生成する。図２Ａおよび図２Ｂに示したマイクロディスプレイ・アセンブリーの他に、他の実施態様には、図３Ｄの挿入可能なレンズ・システム例を使用するマイクロディスプレイ・アセンブリーがある。その動きは、レンズが定位置にある場合には、アーム１２３を解放する動きであり、そして決定された変位にある場合には、光路１３３内にレンズをロックするために、レンズのアーム１２３を動かす動きである。
【０１２６】
[00151]  図１７Ｂは、マイクロディスプレイ・アセンブリーの少なくとも１つのレンズの偏光を変化させることによって、このマイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を説明するフローチャートである。この実施形態は、図１３におけるステップ９６０を実現するために使用することができ、図３Ｃに示したようなマイクロディスプレイ・アセンブリーの実施形態と共に使用するのに適している。この実施形態では、レンズ・システムは、マイクロディスプレイ１２０と反射エレメント１２４（図２Ａ）、１２４ａ（図２Ｂ）との間の光路内に少なくとも１つの複屈折レンズを含む。ステップ９８６において、処理ユニット４は、仮想物体の目標位置および式１／Ｓ１＋１／Ｓ２＝１／ｆに基づいて、Ｓ１に対する変位値を選択する。ステップ９８８において、可変調節器ドライバー２３７は、可変焦点調節器１３５に少なくとも１つの複屈折レンズの偏光を変化させて、この複屈折レンズの焦点距離ｆを変化させ、選択したＳ１を生成するために、少なくとも１つの駆動信号を印加する。各複屈折レンズは、２つの変更軸に対応する２つの離散焦点距離を有するので、２つのこのようなレンズの組み合わせによって、４つの離散焦点距離の選択が与えられる。つまり、ソフトウェアの制御の下で、処理ユニット４または制御回路１３６のプロセッサー２１０は、ｆの値に近似する最も近い利用可能な焦点距離を選択する。追加される複屈折レンズ毎に、離散焦点距離の数は２倍になる。
【０１２７】
[00152]  図１７Ｃは、マイクロディスプレイ・アセンブリーの少なくとも１つの流体レンズの曲率半径を変化させることによって、マイクロディスプレイ・アセンブリーの焦点領域を変化させるプロセスの一実施形態を説明するフローチャートである。この実施形態は、図１３におけるステップ９６０を実現するために使用することができ、図３Ｂ１および図３Ｂ２に示したような、そのレンズ・システム１２２において少なくとも１つの液体レンズを採用するマイクロディスプレイ・アセンブリーの実施形態と共に使用するのに適している。ステップ９９０において、処理ユニット４は、仮想物体の目標位置および式１／Ｓ１＋１／Ｓ２＝１／ｆに基づいて、Ｓ１に対する変位値を選択する。ステップ９９２において、可変調節器ドライバー２３７は、可変焦点調節器１３５に流体レンズの流体において体積変化を生じさせ、その曲率半径の変化を生じさせてその焦点距離ｆを変化させて、選択したＳ１値を生成するために、少なくとも１つの駆動信号を印加する。
【０１２８】
[00153]  図１３の実施形態において先に述べたように、ユーザーの視野内にあるがユーザーの焦点領域内にない仮想物体に対して、人工ぼけ技法を適用することもできる。他の実施形態では、異なる焦点領域において一連の画像を生成することもできる。複数の焦点(foci)の範囲または焦点領域にわたって動かし、各焦点領域において画像を表示することによって、異なる焦点領域画像のレイヤーで構成された画像をユーザーに見させることができる。ユーザーが彼または彼女の焦点を再調節するとき、ユーザーはこれらの領域の内１つに静定し、これらの領域の残りにおける仮想物体は自然にぼける。焦点領域の範囲にわたる掃引は、所定のレートまたは頻度で行うことができる。これは、人間の時間的画像融合がこれら全てを一度に現れさせるように、十分に速く行われる。人為的ぼけのような人為的被写体深度技法の必要性は減少するが、レンダリング負荷はかなり増大する場合がある。
【０１２９】
[00154]  焦点領域の範囲にわたる動きは、一実施形態では、マイクロディスプレイ・アセンブリーの光処理エレメント間の変位を変化させることによって、またはアセンブリーにおける光処理エレメントの光パワーをある速度のレートで変化させることによって実現することができる。速度のレートは、少なくとも毎秒３０フレームのフレーム・レート（ｆｐｓ）位にするとよいが、実施形態の中には、６０、１２０、または１８０Ｈｚというような、それよりも高い速度のレートにすることができる場合もある。光路に沿って高い速度のレートでレンズを変位させると、異なる焦点領域において画像が供給される。このレンズは、ときとして、振動レンズまたは発振レンズと呼ばれている。場合によっては、レンズ・システム１２２または画像ソース１２０ではなく、画像領域、例えば、反射面１２４、１２４ａが動かされるが、原理は同じである。
【０１３０】
[00155]  図１８Ａは、図９におけるステップ６１０を実現するために使用することができる拡張現実ディスプレイにおける異なる焦点領域において仮想物体画像を生成するプロセスの一実施形態を説明するフロー・チャートである。図１８Ａのステップ１００２において、ハブ計算デバイス１２または処理ユニット４、あるいは双方は、ソフトウェアの制御の下で、図１３のステップ９５０におけるようにユーザーの視野を判定し、ステップ１００４において、ステップ９５２におけるようにユーザーの現在の視野内に仮想物体の目標位置があるか否か判定を行う。ステップ９６６と同様、ユーザーの現在の視野内に仮想物体がない場合、ステップ１００６における処理は、ステップ１００２におけるユーザーの視野の判定および更新に戻る。
【０１３１】
[00156]  ステップ９５８におけるように、処理ユニット４は、ステップ１０１２において、ユーザーの視野に挿入される画像に対して、仮想物体のスケーリングを行い、向きを決める。この仮想物体のスケーリングおよび向きの決定は、視野における目標の位置、およびモデルに基づく仮想物体の既知の形状に基づく。
【０１３２】
[00157]  ステップ１０１６において、掃引レート期間(sweep rate period)が、タイミング・ジェネレーター２２６または制御回路のクロック・ジェネレーター２４４によって開始される。ステップ１０１８において、掃引期間中に前述の範囲における複数の焦点領域を通過するために、カウンターが初期化される。場合によっては、焦点領域が予め決められている。掃引期間の時間刻み毎に、マイクロディスプレイ・アセンブリーのエレメントの焦点領域が調節され、ステップ１０２２において焦点領域毎にその掃引時間または時間刻みで画像がユーザーに表示される。ステップ１０２４において、カウンターを進めることによって次の焦点領域が選択され、範囲掃引が完了したことをカウンターが示すまで、ステップ１０２０から１０２４までの処理が繰り返される。掃引期間はステップ１０２８において終了する。他の例では、表示のためのフレームの終点で、掃引範囲にわたる掃引を中断することもでき、新たな掃引が次のフレームで開始する。
【０１３３】
[00158]  一実施形態では、レンダリング負荷は、焦点領域の内部分集合をレンダリングし、ユーザーの焦点領域の追跡を使用して、レンダリングのための焦点領域の選択を最適化することによって、低減することができる。他の例では、目追跡データーは、ユーザーが見ている焦点位置の深度を判定するためには、十分な正確度を提供しない。推論ロジックによって、ユーザーが焦点を合わせている物体を推論することもできる。一旦ある物体が注目物体として選択されたなら、現在の場面の三次元モデルまたはマッピングを、注目物体までの距離を判定するために使用することができる。
【０１３４】
[00159]  図１８Ｂは、図９におけるステップ６１０を実現するために使用することができる拡張現実ディスプレイを見ているユーザーによって見られるときに、焦点が合うように仮想物体を表示するプロセスの他の実施形態を示す。図１８Ｂは、拡張現実ディスプレイにおける異なる焦点領域において仮想物体画像を生成するプロセスの一実施形態を説明するフロー・チャートである。図１８Ｂのステップ１００２において、ハブ計算デバイス１２または処理ユニット４、あるいは双方は、ソフトウェアの制御の下で、図１３のステップ９５０におけるように、ユーザーの視野を判定し、１００４において、ステップ９５２におけるように、ユーザーの現在の視野内に任意の仮想物体の目標位置があるか否か判定を行う。ステップ９６６と同様、ユーザーの現在の視野内に仮想物体がない場合、ステップ１００６における処理は、ステップ１００２におけるユーザーの視野の判定および更新に戻る。
【０１３５】
[00160]  ユーザーの視野内に目標位置を有する少なくとも１つの仮想物体がある場合、ステップ９５４におけるようにステップ１００８において、処理ユニット４において実行するソフトウェアのような本システムは、ユーザーの視野内におけるユーザーの現在の焦点領域を判定し、ステップ９５６におけるように、ハブ・コンピューター・システム１２、処理ユニット４、または双方において実行するソフトウェアは、ステップ１０１０において、ユーザーの視野内における仮想物体の内どれが、現在のユーザーの焦点領域内にあるか、モデルにおける仮想物体の目標位置に基づいて判定する。ステップ９５８におけるように、処理ユニット４は、ステップ１０１２において、ユーザーの視野に挿入する画像に対する仮想物体をスケーリングし、向きを決める。この仮想画像のスケーリングおよび向きの決定は、視野内における目標の位置、およびモデルに基づく仮想物体の既知の形状に基づく。
【０１３６】
[00161]  ステップ１０１４において、処理ユニット４は、現在のユーザー焦点領域を含む、ある範囲の焦点領域を選択する。処理ユニット４は、実行アプリケーション、例えば、４５２のコンテキストというような、判断基準に基づいて、この焦点領域の範囲を選択することができる。アプリケーションは、仮想物体の選択を、所定の動きの軌道と、それらの出現をトリガーするイベントと共に使用することができる。物体の動きによって物体のモデルが更新される毎に、処理ユニット４は、図１０の論述のように、これらの更新を受ける。更新の間に、処理ユニット４はユーザーの頭の位置および向きについてのセンサー・データーを使用して、どの仮想物体に彼または彼女がその時点において焦点を合わせている可能性が高いか判断することができる。処理ユニット４は、場面の三次元モデルに基づいて、仮想物体の軌道が進む複数の焦点領域を選択することができる。したがって、判断基準の一例は、仮想物体が位置する各焦点領域を含むことである。加えて、焦点領域は、動く仮想物体の軌道が所定の時間枠内にある領域が選択されてもよい。所定の時間枠は、一例では、仮想物体の正確な位置を示すモデル・データーの次の更新までとするとよい。
【０１３７】
[00162]  焦点領域の範囲にわたって掃引する開始焦点領域は、ユーザーの目から、ユーザーの視野において無限遠に最も近いものとするとよい。他の開始位置も使用してもよいが、無限遠において開始すると、不透明フィルター１１４の適用を簡素化することができる。ステップ１０１６において、掃引レート期間が、タイミング・ジェネレーター２２６または制御回路のクロック・ジェネレーター２４４によって開始される。ステップ１０１８において、掃引期間中に前述の範囲における複数の焦点領域を通過するために、カウンターが初期化される。場合によっては、焦点領域が予め決められている。掃引期間の時間刻み毎に、マイクロディスプレイ・アセンブリーのエレメントの焦点領域が調節され、ステップ１０２２において焦点領域毎にその掃引時間または時間刻みで画像がユーザーに表示される。ステップ１０２４において、カウンターを進めることによって次の焦点領域が選択され、範囲掃引が完了したことをカウンターが示すまで、ステップ１０２０から１０２４までの処理が繰り返される。掃引期間はステップ１０２８において終了する。他の例では、表示のためのフレームの終点で、掃引範囲にわたる掃引を中断することもでき、新たな掃引が次のフレームで開始する。
【０１３８】
[00163]  図１９Ａおよび図１９Ｂは、拡張現実ディスプレイにおいて多焦点仮想物体を表示する、異なる方法の例を模式的に示す。図１９Ａでは、４つの画像１０５０ａ〜１０５０ｄの例が、マイクロディスプレイ・アセンブリーの光路１３３内の異なる変位において生成された異なる焦点領域において生成され、全ての画像が、導光光学エレメント１１２における表示のために送られる。図１９Ｂでは、処理ユニット４が、その焦点または画像領域において焦点が合っている各画像のセクションまたは部分を、ディスプレイ１１２における表示にために、複合画像１０５５に含ませる。一例では、焦点が合っている各画像のセクションおよび部分は、仮想物体が生成された時点で画像内に位置する部分とすることができる。
【０１３９】
[00164]  以上、構造的特徴および／または方法論的動作に特定な文言で主題について説明したが、添付した特許請求の範囲に定められている主題は、以上で説明した特定の特徴や動作には必ずしも限定されないことは理解されてしかるべきである。逆に、以上で説明した特定の特徴および動作は、特許請求の範囲を実現する形態例として開示されたまでである。
【図１】
0005913346.tif 000003
【図２Ａ】
0005913346.tif 000004
【図２Ｂ】
0005913346.tif 000005
【図３Ａ】
0005913346.tif 000006
【図３Ｂ１】
0005913346.tif 000007
【図３Ｂ２】
0005913346.tif 000008
【図３Ｃ】
0005913346.tif 000009
【図３Ｄ】
0005913346.tif 000010
【図４】
0005913346.tif 000011
【図５】
0005913346.tif 000012
【図６】
0005913346.tif 000013
【図７】
0005913346.tif 000014
【図８】
0005913346.tif 000015
【図９】
0005913346.tif 000016
【図１０】
0005913346.tif 000017
【図１１】
0005913346.tif 000018
【図１２】
0005913346.tif 000019
【図１３】
0005913346.tif 000020
【図１４】
0005913346.tif 000021
【図１５】
0005913346.tif 000022
【図１６】
0005913346.tif 000023
【図１７Ａ】
0005913346.tif 000024
【図１７Ｂ】
0005913346.tif 000025
【図１７Ｃ】
0005913346.tif 000026
【図１８Ａ】
0005913346.tif 000027
【図１８Ｂ】
0005913346.tif 000028
【図１９Ａ】
0005913346.tif 000029
【図１９Ｂ】
0005913346.tif 000030