(57)【要約】拡張または仮想現実デバイスのレンダリングエンジンのために頭部姿勢を予測するためのシステムおよび方法は、時系列頭部姿勢データを受け取り、予測される頭部姿勢を出力する、再帰ニューラルネットワーク（ＲＮＮ）を含むことができる。再帰ニューラルネットワークは、１つ以上の長短期メモリ（ＬＳＴＭ）ユニットまたはゲート付き再帰ユニット（ＧＲＵ）を含むことができる。全結合（ＦＣ）層は、ＲＮＮからの入力を受け取り、３自由度（ＤＯＦ）頭部姿勢（例えば、角度配向または空間位置）または６ＤＯＦ頭部姿勢（例えば、角度配向および空間位置の両方）を出力することができる。レンダリングエンジンは、ユーザが仮想コンテンツの位置に向かって見ているときに、予測される頭部姿勢を使用して、仮想コンテンツを生成し、ユーザに表示することができ、これは、システム待ち時間を低減およびユーザ体験を改良する。
2021530790.tif 000002
【特許請求の範囲】
【請求項１】
ウェアラブルシステムであって、
前記ウェアラブルシステムの装着者の眼の前に配置されるように構成されるディスプレイであって、前記ディスプレイは、仮想コンテンツを前記ウェアラブルシステムの装着者に表示するように構成される、ディスプレイと、
頭部姿勢データを提供するように構成される頭部姿勢センサと、
頭部姿勢予測再帰ニューラルネットワークを記憶するように構成される非一過性メモリと、
前記頭部姿勢センサ、前記ディスプレイ、および前記非一過性メモリと通信するハードウェアプロセッサであって、前記ハードウェアプロセッサは、
前記頭部姿勢データを受信することと、
前記頭部姿勢データを前記頭部姿勢予測再帰ニューラルネットワークに入力することと、
時間範囲において、前記頭部姿勢予測再帰ニューラルネットワークを実行し、予測される頭部姿勢を出力することと、
少なくとも部分的に、前記時間範囲において予測される頭部姿勢に基づいて、前記ディスプレイに、前記仮想コンテンツをレンダリングさせることと
を行うようにプログラムされる、ハードウェアプロセッサと
を備える、ウェアラブルシステム。
【請求項２】
前記ディスプレイは、前記仮想コンテンツを複数の深度平面に提示するように構成される、請求項１に記載のウェアラブルシステム。
【請求項３】
前記頭部姿勢センサは、慣性測定ユニットを備える、請求項１に記載のウェアラブルシステム。
【請求項４】
前記慣性測定ユニットは、加速度計およびジャイロスコープを備える、請求項３に記載のウェアラブルシステム。
【請求項５】
前記頭部姿勢データは、速度または加速を含む、請求項１に記載のウェアラブルシステム。
【請求項６】
前記頭部姿勢センサからの出力は、拡張カルマンフィルタによってフィルタリングされ、前記頭部姿勢データを提供する、請求項５に記載のウェアラブルシステム。
【請求項７】
前記頭部姿勢予測再帰ニューラルネットワークは、再帰ニューラルネットワーク（ＲＮＮ）および全結合（ＦＣ）層を備える、請求項１に記載のウェアラブルシステム。
【請求項８】
前記頭部姿勢予測再帰ニューラルネットワークは、複数の反復モジュールを備える、請求項１に記載のウェアラブルシステム。
【請求項９】
前記複数の反復モジュールのうちの少なくとも１つは、長短期メモリセル（ＬＳＴＭ）またはゲート付き再帰ユニット（ＧＲＵ）を備える、請求項８に記載のウェアラブルシステム。
【請求項１０】
前記頭部姿勢予測再帰ニューラルネットワークは、１つ以上の長短期メモリ（ＬＳＴＭ）セルのスタックまたは１つ以上のゲート付き再帰ユニット（ＧＲＵ）のスタックを備える、請求項１に記載のウェアラブルシステム。
【請求項１１】
前記頭部姿勢予測再帰ニューラルネットワークは、３つのＬＳＴＭセルまたは３つのＧＲＵを備える、請求項１０に記載のウェアラブルシステム。
【請求項１２】
前記時間範囲は、１０ｍｓ〜５０ｍｓの範囲内である、請求項１に記載のウェアラブルシステム。
【請求項１３】
前記時間範囲は、２０ｍｓ〜４０ｍｓの範囲内である、請求項１に記載のウェアラブルシステム。
【請求項１４】
前記予測される頭部姿勢は、３自由度（ＤＯＦ）姿勢を備える、請求項１に記載のウェアラブルシステム。
【請求項１５】
前記３ＤＯＦ姿勢は、頭部配向を備える、請求項１４に記載のウェアラブルシステム。
【請求項１６】
前記３ＤＯＦ姿勢は、頭部位置を備える、請求項１４に記載のウェアラブルシステム。
【請求項１７】
前記予測される頭部姿勢は、配向および位置を含む６自由度（ＤＯＦ）姿勢を備える、請求項１に記載のウェアラブルシステム。
【請求項１８】
前記予測される頭部姿勢は、頭部配向を備え、前記ハードウェアプロセッサはさらに、予測非ニューラルネットワークモデルを使用して、前記時間範囲において、頭部位置を予測するようにプログラムされる、請求項１に記載のウェアラブルシステム。
【請求項１９】
前記予測非ニューラルネットワークモデルは、一定加速モデルを備える、請求項１８に記載のウェアラブルシステム。
【請求項２０】
仮想コンテンツをレンダリングするための方法であって、前記方法は、
コンピュータハードウェアを備えるレンダリングパイプラインの制御下で、
ユーザの頭部に関する頭部姿勢データを受信することと、
少なくとも再帰ニューラルネットワーク（ＲＮＮ）および前記頭部姿勢データを使用して、予測範囲において予測される頭部姿勢を予測することと、
前記予測範囲において、少なくとも部分的に、前記予測される頭部姿勢に基づいて、前記仮想コンテンツをレンダリングすることと
を含む、方法。
【請求項２１】
前記頭部姿勢データは、（１）慣性測定ユニット（ＩＭＵ）からのデータ、（２）前記ユーザの頭部に関する速度または加速データ、または（１）および（２）の両方のうちの１つ以上のものの時系列を含む、請求項２０に記載の方法。
【請求項２２】
データをフィルタリングし、前記速度または加速データを提供することをさらに含む、請求項２１に記載の方法。
【請求項２３】
前記フィルタリングすることは、拡張カルマンフィルタ（ＥＫＦ）を用いて実施される、請求項２２に記載の方法。
【請求項２４】
前記ＲＮＮは、１つ以上の長短期メモリ（ＬＳＴＭ）セルのスタックまたは１つ以上のゲート付き再帰ユニット（ＧＲＵ）のスタックを備える、請求項２０に記載の方法。
【請求項２５】
前記ＲＮＮは、３つのＬＳＴＭセルまたは３つのＧＲＵのスタックを備える、請求項２４に記載の方法。
【請求項２６】
前記ＲＮＮは、前記予測される頭部姿勢を出力するように構成される全結合（ＦＣ）層に接続される、請求項２０に記載の方法。
【請求項２７】
前記予測される頭部姿勢は、前記ユーザの頭部の配向を備え、前記方法はさらに、前記予測範囲において、一定加速モデルを用いて、前記ユーザの頭部の位置を予測することを含む、請求項２０に記載の方法。
【請求項２８】
前記予測範囲は、１０ｍｓ〜５０ｍｓの範囲内である、請求項２０に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連出願の相互参照）
本願は、参照することによってその全体として本明細書に組み込まれる、２０１８年７月２３日に出願され、「ＤＥＥＰ  ＰＲＥＤＩＣＴＯＲ  ＲＥＣＵＲＲＥＮＴ  ＮＥＵＲＡＬ  ＮＥＴＷＯＲＫ  ＦＯＲ  ＨＥＡＤ  ＰＯＳＥ  ＰＲＥＤＩＣＴＩＯＮ」と題された、米国特許出願第６２／７０２，３０９号の優先権の利益を主張する。
【０００２】
本開示は、概して、再帰ニューラルネットワークを使用して、頭部姿勢（例えば、配向、位置、回転、または平行移動）を予測する、システムおよび方法に関し、より具体的には、頭部姿勢予測のためにそのような再帰ニューラルネットワークを利用する、拡張または仮想現実システムに関する。
【背景技術】
【０００３】
現代のコンピューティングおよびディスプレイ技術は、いわゆる「仮想現実」、「拡張現実」、または「複合現実」体験のためのシステムの開発を促進しており、デジタル的に再現された画像またはその一部が、現実であるように見える、またはそのように知覚され得る様式でユーザに提示される。仮想現実または「ＶＲ」シナリオは、典型的には、他の実際の実世界の視覚的入力に対する透過性を伴わずに、デジタルまたは仮想画像情報の提示を伴う。拡張現実または「ＡＲ」シナリオは、典型的には、ユーザの周囲の実際の世界の可視化に対する拡張としてのデジタルまたは仮想画像情報の提示を伴う。複合現実または「ＭＲ」は、物理的および仮想オブジェクトが、共存し、リアルタイムで相互作用する、新しい環境を生成するための実世界と仮想世界の融合に関連する。結論から述べると、ヒトの視知覚系は、非常に複雑であって、他の仮想または実世界画像要素間における仮想画像要素の快適かつ自然のような感覚で、かつ豊かな提示を促進する、ＶＲ、ＡＲ、またはＭＲ技術の生産は、困難である。本明細書に開示されるシステムおよび方法は、ＶＲ、ＡＲ、およびＭＲ技術に関連する種々の課題に対処する。
【発明の概要】
【課題を解決するための手段】
【０００４】
拡張または仮想現実デバイスのレンダリングエンジンのために頭部姿勢を予測するためのシステムおよび方法は、時系列頭部姿勢データを受け取り、予測される頭部姿勢を出力する、再帰ニューラルネットワーク（ＲＮＮ）を含むことができる（例えば、配向、位置、回転、または平行移動）。再帰ニューラルネットワークは、１つ以上の長短期メモリ（ＬＳＴＭ）ユニットまたはゲート付き再帰ユニット（ＧＲＵ）を含むことができる。全結合（ＦＣ）層は、ＲＮＮからの入力を受け取り、３自由度（ＤＯＦ）頭部姿勢（例えば、角度配向または空間位置）または６ＤＯＦ頭部姿勢（例えば、角度配向および空間位置の両方）を出力することができる。レンダリングエンジンは、ユーザが仮想コンテンツの位置に向かって見ているときに、予測される頭部姿勢を使用して、仮想コンテンツを生成し、ユーザに表示することができ、これは、システム待ち時間を低減およびユーザ体験を改良する。
【０００５】
種々の側面では、ウェアラブルディスプレイシステムは、ウェアラブルシステムの装着者の眼の前に配置されるように構成される、ディスプレイであって、仮想コンテンツをウェアラブルシステムの装着者に表示するように構成される、ディスプレイと、頭部姿勢データを提供するように構成される、頭部姿勢センサと、頭部姿勢予測再帰ニューラルネットワークを記憶するように構成される、非一過性メモリと、頭部姿勢センサ、ディスプレイ、および非一過性メモリと通信する、ハードウェアプロセッサであって、頭部姿勢データを受信し、頭部姿勢データを頭部姿勢予測再帰ニューラルネットワークに入力し、ある時間範囲において、頭部姿勢予測再帰ニューラルネットワークを実行し、予測される頭部姿勢を出力し、少なくとも部分的に、時間範囲において予測される頭部姿勢に基づいて、ディスプレイに、仮想コンテンツをレンダリングさせるようにプログラムされる、ハードウェアプロセッサとを含む。
【０００６】
本明細書に説明される再帰ニューラルネットワーク頭部姿勢予測技法は、ＡＲ、ＭＲ、またはＶＲ用途に限定されず、例えば、ゲーム、医学（例えば、神経学、眼科、リハビリ）等、人物の頭部姿勢が所望される、他の用途のためにも使用されることができる。
【０００７】
本明細書に説明される主題の１つ以上の実装の詳細が、付随の図面および以下の説明に記載される。他の特徴、側面、および利点は、説明、図面、および請求項から明白となるであろう。本概要または以下の詳細な説明のいずれも、本発明の主題の範囲を定義または限定することを主張するものではない。
【図面の簡単な説明】
【０００８】
【図１】図１は、人物によって視認されるある仮想現実オブジェクトおよびある物理的オブジェクトを伴う、拡張現実シナリオの例証を描写する。
【０００９】
【図２】図２は、ウェアラブルシステムの実施例を図式的に図示する。
【００１０】
【図３】図３は、複数の深度平面を使用して３次元画像をシミュレートするためのアプローチの側面を図式的に図示する。
【００１１】
【図４】図４は、画像情報をユーザに出力するための導波管スタックの実施例を図式的に図示する。
【００１２】
【図５】図５は、ウェアラブルシステムのユーザへの仮想コンテンツの表示のためのレンダリングパイプラインの一部の実施例を図式的に図示する、ブロック図である。
【００１３】
【図６】図６は、頭部姿勢予測のためのニューラルネットワークの実施例を図式的に図示する、ブロック図である。ニューラルネットワークの本実施例は、再帰ニューラルネットワーク（ＲＮＮ）および全結合（ＦＣ）層を含む。
【００１４】
【図７】図７は、頭部姿勢予測のためのニューラルネットワークの実施例を図式的に図示する、ブロック図である。本実施例では、ニューラルネットワークは、ＦＣ層に接続される３つの長短期メモリ（ＬＳＴＭ）モジュールを備える、ＲＮＮを含む。
【００１５】
【図８】図８は、ある時間的予測範囲ｄｔにわたる頭部姿勢予測の実施例を図式的に図示する、グラフである。
【００１６】
【図９】図９は、再帰ニューラルネットワークを用いて頭部姿勢を予測するための方法の実施例を図示する、フローチャートである。
【００１７】
図面全体を通して、参照番号は、参照される要素間の対応を示すために再使用され得る。図面は、本明細書に説明される例示的実施形態を図示するために提供され、本開示の範囲を限定することを意図するものではない。
【発明を実施するための形態】
【００１８】
概要
ＡＲ、ＭＲ、またはＶＲウェアラブルシステムは、仮想コンテンツをユーザの眼にレンダリングすることができる（例えば、図１参照）。レンダリング可能コンテンツを生成し、それをＡＲ、ＭＲ、またはＶＲディスプレイに送達するために時間がかかるため、典型的には、ある程度のレンダリング待ち時間が、仮想コンテンツレンダリングパイプラインには存在するであろう。種々のＡＲ、ＭＲ、ＶＲ実装では、待ち時間は、いくつかのウェアラブルシステムに関して、約１０ｍｓ〜約５０ｍｓの範囲内、例えば、約３０ｍｓであり得る。
【００１９】
ＡＲ、ＭＲ、またはＶＲ体験の間、ユーザは、その頭部を移動させ、ユーザの周囲の環境の異なる部分を見ることになり、仮想コンテンツは、本頭部運動に起因して、ユーザの視野（ＦＯＶ）に出現し、そこから消失するであろう。ウェアラブルシステムは、ユーザへの表示のために、ＦＯＶ内にある仮想コンテンツをレンダリングするであろう。しかしながら、ユーザがその頭部を移動させるにつれて、現在レンダリングされている仮想コンテンツの位置は、（例えば、ＦＯＶの中心の近くからＦＯＶのより周辺領域にまたはその逆に）変化し得、いくつかの仮想コンテンツは、ＦＯＶから消失し、レンダリングされる必要はなくなり、以前にレンダリングされていなかった他の仮想コンテンツが、ユーザのＦＯＶに出現し、レンダリングされる必要があるであろう。故に、使用中、仮想コンテンツのレンダリングされた位置は、ユーザの頭部運動に起因して、時間に伴って変化するであろう。
【００２０】
ウェアラブルシステムによる仮想コンテンツをレンダリングするためにかかるレンダリング待ち時間周期（例えば、３０ｍｓ）に照らして、システムは、ユーザが将来的時間（レンダリング待ち時間周期に匹敵する）に見ているであろう場所を予測し、ユーザが本将来的時間に見ているであろう仮想コンテンツを把握することが有利であり得る。システムは、仮想コンテンツが、ユーザがそれを見始めるとき、実際にレンダリングされるように、（例えば、レンダリング待ち時間時間に匹敵する時間周期だけ）本将来的時間に先立って、仮想コンテンツをレンダリングし始めることができる。ある意味では、ウェアラブルシステムの実施形態は、ユーザがそれを見るとき、「ちょうど」表示されるように、仮想コンテンツをレンダリングし始めることができる。そのようなレンダリングパイプラインは、例えば、待ち時間を低減させる、仮想コンテンツがＦＯＶ内で動き回るにつれて平滑遷移を提供する、または表示される仮想コンテンツのコマ落ちを低減させることができ、これは、有益なこととして、ユーザのＡＲ、ＭＲ、またはＶＲ体験を改良することができる。
【００２１】
頭部姿勢予測は、加速度計またはジャイロスコープまたは他の位置または配向センサを含み得る、頭部姿勢センサからの情報を使用することができる。頭部姿勢は、配向（例えば、ヨー、ピッチ、およびロール等の３つの角度によって測定される）、位置（例えば、デカルトｘ、ｙ、およびｚ等の３つの空間座標によって測定される）、または配向および位置の両方を指し得る。頭部移動（例えば、頭部姿勢の変化）は、配向の変化（例えば、角度変化）、空間位置の変化（例えば、平行移動）、または両方によって測定されることができる。将来的頭部姿勢を予測するための時間範囲は、レンダリング待ち時間（例えば、約３０ｍｓ）に匹敵するため、いくつかの実装は、一定加速モデルを利用して、将来的頭部姿勢を予測する。一定加速モデルは、ユーザの頭部の加速が、予測時間範囲にわたってほぼ一定であると仮定する。一定加速モデルは、頭部姿勢センサ（例えば、加速度計またはジャイロスコープ）からの入力を使用して、加速を測定することができる。頭部姿勢センサ入力は、フィルタリングされ（例えば、拡張カルマンフィルタ（ＥＫＦ）を使用して）、より平滑な速度または加速推定を提供してもよい。一定加速予測の１次元非限定的実施例として、ωが、ユーザの頭部の角回転率であって、αが、一定角加速である場合、予測時間周期ｄｔにわたるユーザの頭部の角位置の変化Δθは、Δθ＝ωｄｔ＋αｄｔ２／２となる。類似一定加速運動学的モデルは、ユーザの頭部位置の変化に関して展開されることができる。
【００２２】
予測される将来的頭部姿勢における誤差は、予測モデルにおいて使用される速度または加速における誤差および予測モデル自体における誤差から生じ得る。例えば、実際のユーザの頭部は、比較的に短予測時間範囲にわたってさえ、一定加速で移動しない。ユーザ測定から、例えば、二乗平均平方根（ｒｍｓ）位置誤差は、約０．６ｍｍであって、９５％分位数（ｑ９５）は、約１．５ｍｍであることが見出されている。これらの例示的ユーザ測定では、位置誤差の大部分は、推定される速度および加速（加速度計およびジャイロスコープデータのＥＫＦフィルタリングから取得された）における誤差からのものであった。頭部平行移動に関する一定加速モデルは、いくつかのウェアラブルシステムに関しては十分に正確であり得る。
【００２３】
これらの例示的ユーザ測定では、ｒｍｓ角度誤差は、約１．５弧分であって、ｑ９５は、約４弧分であった。しかしながら、位置誤差と対照的に、角度誤差の約３０％は、一定加速モデルの使用に起因した。故に、頭部姿勢予測は、一定加速モデルよりロバストかつ正確な角度予測モデルを利用することによって改良されることができる。
【００２４】
本開示は、一定加速モデルより実質的に正確であり得る、頭部姿勢予測への再帰ニューラルネットワーク（ＲＮＮ）アプローチの実施例を提供する。種々の実施形態では、再帰ニューラルネットワークアプローチは、頭部運動に関する角度予測、平行移動予測、または角度および平行移動両方の予測に適用されることができる。例えば、いくつかのウェアラブルシステムでは、一定加速モデルと比較して、角度頭部姿勢予測のための再帰ニューラルネットワークモデルは、ｒｍｓ角度誤差を２５％低減させ、角度ｑ９５を約２７％改良し、全体として、角度予測（特に、より低い頭部速度において）における約３８％改良を提供することが見出されている。
【００２５】
ＲＮＮアプローチの実施形態は、ＲＮＮが、本データから学習し、正確な頭部姿勢予測を提供し得るように、実際のユーザ頭部姿勢データ上で訓練されることができる。一定加速モデル（およびある他の予測アルゴリズム）と対照的に、ＲＮＮアプローチは、頭部姿勢予測に関して、固定された数学的モデルを仮定しない、または頭部運動学についての仮定（例えば、一定加速）を行わない。ＲＮＮは、頭部運動についての仮定を行わずに、実際のユーザ頭部運動から学習することができ、これは、そのような固定されたモデルの可用性および正確度を限定し得る。さらに、ＲＮＮアプローチの実施形態は、ウェアラブルシステムのユーザが、移動し、実および仮想コンテンツと相互作用する間に入手された頭部姿勢データから学習し続けることができる。したがって、そのような実施形態は、有利なこととして、ユーザの頭部の運動の実際の特性を反映させるように個人化されることができる。そのような実施形態は、特に、ユーザが、母集団ユーザの標準化されたがデフォルト内に存在し得ない、頭部運動に寄与する、障害または疾患（例えば、震えまたは痙攣）を有する場合、有利であり得る。
【００２６】
加えて、頭部姿勢予測は、真のユーザ頭部運動を表すのではなく、ウェアラブルシステム上での外部影響（例えば、ウェアラブルシステムの頭部搭載型フレームへの実際の物理的タップまたはバンプ）に起因し得る、短加速（タップと呼ばれる）によって影響され得る。そのような「タップ」は、モデルが、これらの加速が実際の頭部運動を表すと仮定するため、一定加速モデルにおける予測誤差につながり得る。対照的に、再帰ニューラルネットワークアプローチの実施形態は、タップに対する有意な障害許容力およびより小さいｒｍｓ誤差（約３７％）およびｑ９６分位数（約３６％）を呈する。
【００２７】
故に、本明細書に説明される再帰ニューラルネットワーク技法を利用する、ウェアラブルシステムの実施形態は、有利なこととして、より正確かつよりロバストな頭部姿勢予測を提供することができ、これは、仮想コンテンツの改良されたディスプレイおよびウェアラブルシステムのユーザのための改良されたＡＲ、ＭＲ、またはＶＲ体験につながる。
【００２８】
本明細書に説明される再帰ニューラルネットワーク頭部姿勢予測技法は、ＡＲ、ＭＲ、またはＶＲ用途に限定されず、例えば、ゲーム、医学（例えば、神経学、眼科、リハビリ）等、人物の頭部姿勢が所望される、他の用途のためにも使用されることができる。
ＡＲおよびＶＲの概要
【００２９】
ウェアラブルシステム（本明細書では、拡張現実（ＡＲ）システムとも称される）は、２Ｄまたは３Ｄ仮想画像をユーザに提示するために構成されることができる。画像は、組み合わせまたは同等物における、静止画像、ビデオのフレーム、またはビデオであってもよい。ウェアラブルシステムは、ユーザ相互作用のために、単独で、または組み合わせて、ＶＲ、ＡＲ、またはＭＲ環境を提示し得る、ウェアラブルデバイスを備えてもよい。ウェアラブルデバイスは、例えば、頭部搭載型ディスプレイ（ＨＭＤ）等のウェアラブルディスプレイデバイスを含むことができる。ウェアラブルデバイスはまた、ウェアラブルデバイスのためのデータ処理の一部を取り扱う中央処理ユニット、バッテリ等を備え得る、ベルトパックを含むことができる。いくつかの状況では、ウェアラブルデバイスは、拡張現実デバイス（ＡＲＤ）と同義的に使用されることができる。
【００３０】
図１は、人物によって視認される、ある仮想現実オブジェクトおよびある物理的オブジェクトを伴う、複合現実シナリオの例証を描写する。図１Ａでは、ＭＲ場面１００が、描写され、ＭＲ技術のユーザには、人々、木々、背景における建物、およびコンクリートプラットフォーム１２０を特徴とする、実世界公園状設定１１０が見える。これらのアイテムに加え、ＭＲ技術のユーザはまた、実世界プラットフォーム１２０上に立っているロボット像１３０と、マルハナバチの擬人化のように見える、飛んでいる漫画のようなアバタキャラクタ１４０とが「見える」と知覚するが、これらの要素は、実世界には存在しない。
【００３１】
３Ｄディスプレイが、真の深度感覚、より具体的には、表面深度のシミュレートされた感覚を生成するために、ディスプレイの視野内の点毎に、その仮想深度に対応する遠近調節応答を生成することが望ましい。ディスプレイ点に対する遠近調節応答が、収束および立体視の両眼深度キューによって決定されるようなその点の仮想深度に対応しない場合、ヒトの眼は、遠近調節衝突を体験し、不安定な結像、有害な眼精疲労、頭痛、および遠近調節情報の不在下では、表面深度のほぼ完全な欠如をもたらし得る。
【００３２】
ＶＲ、ＡＲ、およびＭＲ体験は、複数の深度平面に対応する画像が視認者に提供されるディスプレイを有する、ディスプレイシステムによって提供されることができる。画像は、深度平面毎に異なってもよく（例えば、場面またはオブジェクトの若干異なる提示を提供する）、視認者の眼によって別個に集束され、それによって、異なる深度平面上に位置する場面に関する異なる画像特徴に合焦させるために要求される眼の遠近調節に基づいて、および／または合焦からずれている異なる深度平面上の異なる画像特徴を観察することに基づいて、ユーザに深度キューを提供することに役立ち得る。本明細書のいずれかに議論されるように、そのような深度キューは、信用できる深度の知覚を提供する。
例示的ＡＲおよびＶＲシステムおよびコンポーネント
【００３３】
図２は、ウェアラブルシステム２００の実施例を図示する。ウェアラブルシステム２００は、ディスプレイ２２０と、ディスプレイ２２０の機能をサポートするための種々の機械的および電子的モジュールおよびシステムとを含むことができる。ディスプレイ２２０は、ユーザ、装着者、または視認者２１０によって装着可能である、フレーム２３０に結合されてもよい。ディスプレイ２２０は、ユーザ２１０の眼の正面に位置付けられることができる。ウェアラブルシステム（ディスプレイ２２０等）の一部は、ユーザの頭部上に装着されてもよい。
【００３４】
図２では、スピーカ２４０が、フレーム２３０に結合され、ユーザの外耳道に隣接して位置付けられる（いくつかの実施形態では、示されない別のスピーカが、ユーザの他方の外耳道に隣接して位置付けられ、ステレオ／成形可能音制御を提供する）。ウェアラブルシステム１００はまた、ユーザの周囲の環境内の世界を観察する、外向きに向いた結像システム４６４（図４に示される）を含むことができる。ウェアラブルシステム１００はまた、ユーザの眼移動を追跡し得る、内向きに向いた結像システム４６２（図４に示される）を含むことができる。内向きに向いた結像システムは、一方の眼の移動または両方の眼の移動のいずれかを追跡してもよい。内向きに向いた結像システムは、フレーム２３０に取り付けられてもよく、内向きに向いた結像システムによって入手された画像情報を処理し、例えば、ユーザ２１０の眼の瞳孔直径および／または配向または眼姿勢を決定し得る、処理モジュール２６０および／または２７０と電気通信してもよい。
【００３５】
実施例として、ウェアラブルシステム２００は、外向きに向いた結像システム４６４および／または内向きに向いた結像システム４６２を使用して、ユーザの姿勢の画像を入手することができる。姿勢は、ユーザの運動を決定する、またはユーザの画像を合成するために使用されてもよい。外向きに向いた結像システム４６４および／または内向きに向いた結像システム４６２によって入手された画像は、テレプレゼンスセッションにおいて、第２のユーザに通信され、第２のユーザ環境内でユーザの存在の有形感覚を作成してもよい。
【００３６】
ウェアラブルシステム２００は、ユーザ２１０の頭部姿勢を決定し得る、頭部姿勢センサ２３５を含むことができる。頭部姿勢センサ２３５は、慣性測定ユニット（ＩＭＵ）を備えることができ、これは、例えば、加速度計、ジャイロスコープ、または磁力計（例えば、コンパス）を備えてもよい。頭部姿勢センサ２３５は、フレーム２３０に取り付けられてもよい。頭部姿勢センサ２３５は、頭部姿勢の推定のために、ＩＭＵデータを処理する、またはＩＭＵデータをローカル処理およびデータモジュール２６０に送信する、プロセッサを備えることができる。頭部姿勢は、頭部配向（例えば、ヨー、ピッチ、およびロール等の３つの角度によって測定される）および／または頭部位置（例えば、デカルト座標系等の３つの空間座標によって測定される）として表され得る。例えば、頭部姿勢の３自由度（ＤＯＦ）推定は、３ＤＯＦ配向（例えば、ヨー、ピッチ、ロール）、３ＤＯＦ位置（例えば、デカルトｘ、ｙ、ｚ）、または位置および配向の両方（例えば、ｘ、ｙ、ｚ、ヨー、ピッチ、ロール）を含む、６ＤＯＦ姿勢を備えることができる。ユーザの頭部の移動は、頭部姿勢センサ２３５によって検出され、移動は、配向角度の回転または空間座標の平行移動として表されることができる。他の実装では、頭部姿勢センサ２３５は、加えて、または代替として、例えば、電磁追跡システムのコンポーネント等の他のセンサモダリティを含んでもよい。いくつかの実施形態では、ＩＭＵデータ（例えば、時系列）は、フィルタリング（例えば、カルマンフィルタまたは拡張カルマンフィルタ（ＥＫＦ））によって処理され、頭部姿勢（３ＤＯＦまたは６ＤＯＦ）のより正確な推定を提供するように、データ内の雑音またはジッタの影響を低減させる。随意に、フィルタリングするステップは、加えて、または代替として、他のセンサデータ（例えば、カメラ画像、電磁追跡データ等）を組み込み、頭部姿勢を推定することができる。
【００３７】
ディスプレイ２２０は、有線導線または無線接続等によって、フレーム２３０に固定して取り付けられる、ユーザによって装着されるヘルメットまたは帽子に固定して取り付けられる、ヘッドホンに内蔵される、または別様にユーザ２１０に除去可能に取り付けられる（例えば、リュック式構成において、ベルト結合式構成において）等、種々の構成において搭載され得る、ローカルデータ処理モジュール２６０に動作可能に結合されることができる（２５０）。
【００３８】
ローカル処理およびデータモジュール２６０は、ハードウェアプロセッサおよび不揮発性メモリ（例えば、フラッシュメモリ）等のデジタルメモリを備えてもよく、その両方とも、データの処理、キャッシュ、および記憶を補助するために利用され得る。データは、ａ）画像捕捉デバイス（例えば、内向きに向いた結像システムおよび／または外向きに向いた結像システム内のカメラ）、マイクロホン、慣性測定ユニット（ＩＭＵ２３５）（例えば、加速度計、コンパス、ジャイロスコープ等を備えてもよい）、全地球測位システム（ＧＰＳ）ユニット、無線デバイス等のセンサ（例えば、フレーム２３０に動作可能に結合される、または別様にユーザ２１０に取り付けられ得る）から捕捉されるデータ、および／またはｂ）可能性として処理または読出後にディスプレイ２２０への通過のために、遠隔処理モジュール２７０および／または遠隔データリポジトリ２８０を使用して入手および／または処理される、データを含んでもよい。ローカル処理およびデータモジュール２６０は、これらの遠隔モジュールがローカル処理およびデータモジュール２６０へのリソースとして利用可能であるように、有線または無線通信リンク等を介して、通信リンク２６２および／または２６４によって遠隔処理モジュール２７０および／または遠隔データリポジトリ２８０に動作可能に結合されてもよい。加えて、遠隔処理モジュール２８０および遠隔データリポジトリ２８０は、相互に動作可能に結合されてもよい。ローカル処理およびデータモジュール２６０、遠隔処理モジュール２７０、および遠隔データリポジトリ２８０はそれぞれ、ネットワークインターフェースを含み、通信リンク２６２、２６４を経由して、通信を提供してもよい。
【００３９】
いくつかの実施形態では、遠隔処理モジュール２７０は、データおよび／または画像情報を分析および処理するように構成される、１つ以上のハードウェアプロセッサを備えてもよい。いくつかの実施形態では、遠隔データリポジトリ２８０は、デジタルデータ記憶設備を備えてもよく、これは、インターネットまたは「クラウド」リソース構成における他のネットワーキング構成を通して利用可能であってもよい。いくつかの実施形態では、全てのデータが、記憶され、全ての算出が、ローカル処理およびデータモジュールにおいて実施され、遠隔モジュールからの完全に自律的な使用を可能にする。
【００４０】
ヒト視覚系は、複雑であって、深度の現実的知覚を提供することは、困難である。理論によって限定されるわけではないが、オブジェクトの視認者は、輻輳・開散運動（ｖｅｒｇｅｎｃｅ）と遠近調節（ａｃｃｏｍｍｏｄａｔｉｏｎ）の組み合わせに起因して、オブジェクトを３次元として知覚し得ると考えられる。相互に対する２つの眼の輻輳・開散運動（すなわち、瞳孔が、相互に向かって、またはそこから離れるように移動し、眼の視線を収束させ、オブジェクトを固視するような瞳孔の回転）は、眼の水晶体の合焦（または「遠近調節」）と緊密に関連付けられる。通常条件下、焦点を１つのオブジェクトから異なる距離における別のオブジェクトに変化させるための眼のレンズの焦点の変化または眼の遠近調節は、「遠近調節−輻輳・開散運動反射」として知られる関係下、輻輳・開散運動の整合変化を自動的に同一距離に生じさせるであろう。同様に、輻輳・開散運動の変化は、通常条件下、遠近調節の整合変化を誘起するであろう。遠近調節と輻輳・開散運動との間のより良好な整合を提供するディスプレイシステムは、３次元画像のより現実的かつ快適なシミュレーションを形成し得る。
【００４１】
図３は、複数の深度平面を使用して３次元画像をシミュレートするためのアプローチの側面を図示する。図３を参照すると、ｚ−軸上の眼３０２および３０４からの種々の距離におけるオブジェクトは、それらのオブジェクトが合焦するように、眼３０２および３０４によって遠近調節される。眼３０２および３０４は、特定の遠近調節された状態をとり、オブジェクトをｚ−軸に沿った異なる距離に合焦させる。その結果、特定の遠近調節された状態は、特定の深度平面におけるオブジェクトまたはオブジェクトの一部が、眼がその深度平面に対して遠近調節された状態にあるとき、合焦するように、関連付けられた焦点距離を有する、深度平面３０６のうちの特定の１つと関連付けられると言え得る。いくつかの実施形態では、３次元画像は、眼３０２および３０４毎に、画像の異なる提示を提供することによって、また、深度平面のそれぞれに対応する画像の異なる提示を提供することによって、シミュレートされてもよい。例証を明確にするために、別個であるように示されるが、眼３０２および３０４の視野は、例えば、ｚ−軸に沿った距離が増加するにつれて、重複し得ることを理解されたい。加えて、例証を容易にするために、平坦であるように示されるが、深度平面の輪郭は、深度平面内の全ての特徴が特定の遠近調節された状態における眼と合焦するように、物理的空間内で湾曲され得ることを理解されたい。理論によって限定されるわけではないが、ヒトの眼は、典型的には、有限数の深度平面を解釈し、深度知覚を提供することができると考えられる。その結果、知覚された深度の高度に真実味のあるシミュレーションが、眼にこれらの限定数の深度平面のそれぞれに対応する画像の異なる提示を提供することによって達成され得る。
導波管スタックアセンブリ
【００４２】
図４は、画像情報をユーザに出力するための導波管スタックの実施例を図示する。ウェアラブルシステム４００は、複数の導波管４３２ｂ、４３４ｂ、４３６ｂ、４３８ｂ、４００ｂを使用して、３次元知覚を眼／脳に提供するために利用され得る、導波管のスタックまたはスタックされた導波管アセンブリ４８０を含む。いくつかの実施形態では、ウェアラブルシステム４００は、図２のウェアラブルシステム２００に対応してもよく、図４は、そのウェアラブルシステム２００のいくつかの部分をより詳細に図式的に示す。例えば、いくつかの実施形態では、導波管アセンブリ４８０は、図２のディスプレイ２２０の中に統合されてもよい。
【００４３】
図４を継続して参照すると、導波管アセンブリ４８０はまた、複数の特徴４５８、４５６、４５４、４５２を導波管間に含んでもよい。いくつかの実施形態では、特徴４５８、４５６、４５４、４５２は、レンズであってもよい。他の実施形態では、特徴４５８、４５６、４５４、４５２は、レンズではなくてもよい。むしろ、それらは、単に、スペーサであってもよい（例えば、空気間隙を形成するためのクラッディング層および／または構造）。
【００４４】
導波管４３２ｂ、４３４ｂ、４３６ｂ、４３８ｂ、４４０ｂおよび／または複数のレンズ４５８、４５６、４５４、４５２は、種々のレベルの波面曲率または光線発散を用いて画像情報を眼に送信するように構成されてもよい。各導波管レベルは、特定の深度平面と関連付けられてもよく、その深度平面に対応する画像情報を出力するように構成されてもよい。画像投入デバイス４２０、４２２、４２４、４２６、４２８は、それぞれ、眼４１０に向かって出力するために各個別の導波管を横断して入射光を分散させるように構成され得る、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの中に画像情報を投入するために利用されてもよい。光は、画像投入デバイス４２０、４２２、４２４、４２６、４２８の出力表面から出射し、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの対応する入力縁の中に投入される。いくつかの実施形態では、光の単一ビーム（例えば、コリメートされたビーム）が、各導波管の中に投入され、特定の導波管と関連付けられた深度平面に対応する特定の角度（および発散量）において眼４１０に向かって指向される、クローン化されたコリメートビームの場全体を出力してもよい。
【００４５】
いくつかの実施形態では、画像投入デバイス４２０、４２２、４２４、４２６、４２８は、それぞれ、それぞれの対応する導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの中への投入のための画像情報を生成する、離散ディスプレイである。いくつかの他の実施形態では、画像投入デバイス４２０、４２２、４２４、４２６、４２８は、例えば、画像情報を１つ以上の光学導管（光ファイバケーブル等）を介して、画像投入デバイス４２０、４２２、４２４、４２６、４２８のそれぞれに送り得る、単一の多重化されたディスプレイの出力端である。
【００４６】
コントローラ４６０が、スタックされた導波管アセンブリ４８０および画像投入デバイス４２０、４２２、４２４、４２６、４２８の動作を制御する。コントローラ４６０は、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂへの画像情報のタイミングおよび提供を調整する、プログラミング（例えば、非一過性コンピュータ可読媒体内に記録される実行可能命令）を含む。いくつかの実施形態では、コントローラ４６０は、単一一体型デバイスまたは有線または無線通信チャネルによって接続される分散型システムであってもよい。コントローラ４６０は、いくつかの実施形態では、処理モジュール２６０および／または２７０（図２に図示される）の一部であってもよい。コントローラ４６０は、ハードウェアプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、または他のプログラマブルコンピュータコンポーネントを備えることができる。
【００４７】
コントローラ４６０は、ユーザ２１０に表示されるべき仮想コンテンツのレンダリングを制御することができる。コントローラ４６０は、部分的に、仮想コンテンツが表示すべき内容およびそれを表示すべき時間を決定するように、頭部姿勢センサ２３５からの入力を受信し、ユーザ２１０が見ている方向を決定することを補助することができる。例えば、本明細書にさらに説明されるように、コントローラ４６０およびディスプレイ２２０が仮想コンテンツをユーザにレンダリングするために、ある時間周期（例えば、いくつかの実施形態では、約２０ｍｓ〜３０ｍｓ）がかかる。コントローラ４６０は、ユーザが見ているであろう方向、故に、（その方向またはその近くの）ユーザにＡＲ／ＶＲ／ＭＲ環境内で見えるはずである仮想コンテンツを決定し得るように、ユーザの頭部が将来的（例えば、約２０ｍｓ〜３０ｍｓ先の時間）にあるであろう場所の予測される位置の推定を使用することができる。コントローラ４６０が、頭部姿勢センサデータを頭部姿勢センサ２３５から受け取り、予測される頭部姿勢を計算することができる、または他の実施形態では、頭部姿勢センサ２３５（いくつかの実施形態では、加速度計２３５ａおよびジャイロスコープ２３５ｂを備えてもよい）が、頭部姿勢予測を実施し、予測される頭部姿勢をコントローラ４６０に提供してもよい。故に、種々の実施形態では、コントローラ４６０、頭部姿勢センサ２３５、またはローカル処理およびデータモジュール２６０は、（例えば、加速度計２３５ａまたはジャイロスコープ２３５ｂからの）頭部姿勢データを得て、本明細書に説明される再帰ニューラルネットワーク技法を使用し、予測される頭部姿勢（例えば、角度または平行移動）を計算してもよい。いくつかの実施形態では、頭部姿勢センサ２３５は、加えて、または代替として、磁力計を含むことができる。
【００４８】
導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、全内部反射（ＴＩＲ）によって各個別の導波管内で光を伝搬するように構成されてもよい。導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂはそれぞれ、主要上部表面および主要底部表面およびそれらの主要上部表面と底部表面との間に延在する縁を伴う、平面である、または別の形状（例えば、湾曲）を有してもよい。図示される構成では、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂはそれぞれ、光を再指向させ、各個別の導波管内で伝搬させ、導波管から画像情報を眼４１０に出力することによって、光を導波管から抽出するように構成される、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａを含んでもよい。抽出された光はまた、外部結合光と称され得、光抽出光学要素はまた、外部結合光学要素と称され得る。抽出された光のビームは、導波管によって、導波管内で伝搬する光が光再指向要素に衝打する場所において出力される。光抽出光学要素（４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａ）は、例えば、反射および／または回折光学特徴であってもよい。説明を容易にし、図面を明確にするために、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの底部主要表面に配置されて図示されるが、いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、上部および／または底部主要表面に配置されてもよく、および／または導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの容積内に直接配置されてもよい。いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、透明基板に取り付けられ、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂを形成する、材料の層内に形成されてもよい。いくつかの他の実施形態では、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、モノリシック材料部品であってもよく、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、その材料部品の表面上および／または内部に形成されてもよい。
【００４９】
図４を継続して参照すると、本明細書に議論されるように、各導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、光を出力し、特定の深度平面に対応する画像を形成するように構成される。例えば、眼の最近傍の導波管４３２ｂは、そのような導波管４３２ｂの中に投入されるにつれて、コリメートされた光を眼４１０に送達するように構成されてもよい。コリメートされた光は、光学無限遠焦点面を表し得る。次の上方の導波管４３４ｂは、眼４１０に到達し得る前に、第１のレンズ４５２（例えば、負のレンズ）を通して通過する、コリメートされた光を送出するように構成されてもよい。第１のレンズ４５２は、眼／脳が、その次の上方の導波管４３４ｂから生じる光を光学無限遠から眼４１０に向かって内向きにより近い第１の焦点面から生じるように解釈するように、若干の凸面波面曲率を生成するように構成されてもよい。同様に、第３の上方の導波管４３６ｂは、眼４１０に到達する前に、その出力光を第１のレンズ４５２および第２のレンズ４５４の両方を通して通過させる。第１および第２のレンズ４５２および４５４の組み合わせられた屈折力は、眼／脳が、第３の上方の導波管４３６ｂから生じる光が次の上方の導波管４３４ｂからの光であったよりも光学無限遠から人物に向かって内向きにさらに近い第２の焦点面から生じるように解釈するように、別の漸増量の波面曲率を生成するように構成されてもよい。
【００５０】
他の導波管層（例えば、導波管４３８ｂ、４４０ｂ）およびレンズ（例えば、レンズ４５６、４５８）も同様に構成され、スタック内の最高導波管４４０ｂを用いて、人物に最も近い焦点面を表す集約焦点力のために、その出力をそれと眼との間のレンズの全てを通して送出する。スタックされた導波管アセンブリ４８０の他側の世界４７０から生じる光を視認／解釈するとき、レンズ４５８、４５６、４５４、４５２のスタックを補償するために、補償レンズ層４３０が、スタックの上部に配置され、下方のレンズスタック４５８、４５６、４５４、４５２の集約力を補償してもよい。そのような構成は、利用可能な導波管／レンズ対と同じ数の知覚される焦点面を提供する。導波管の光抽出光学要素およびレンズの集束側面は両方とも、静的であってもよい（例えば、動的または電気活性ではない）。いくつかの代替実施形態では、一方または両方とも、電気活性特徴を使用して動的であってもよい。
【００５１】
図４を継続して参照すると、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、導波管と関連付けられた特定の深度平面のために、光をその個別の導波管から再指向し、かつ本光を適切な量の発散またはコリメーションを伴って出力するように構成されてもよい。その結果、異なる関連付けられた深度平面を有する導波管は、関連付けられた深度平面に応じて、異なる量の発散を伴う光を出力する、異なる構成の光抽出光学要素を有してもよい。いくつかの実施形態では、本明細書に議論されるように、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、光を具体的角度で出力するように構成され得る、立体特徴または表面特徴であってもよい。例えば、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、立体ホログラム、表面ホログラム、および／または回折格子であってもよい。回折格子等の光抽出光学要素は、２０１５年６月２５日に公開された米国特許公開第２０１５／０１７８９３９号（参照することによってその全体として本明細書に組み込まれる）に説明される。
【００５２】
いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、回折パターンを形成する回折特徴または「回折光学要素」（本明細書では、「ＤＯＥ」とも称される）である。好ましくは、ＤＯＥは、ビームの光の一部のみがＤＯＥの各交差部で眼４１０に向かって偏向される一方、残りが、全内部反射を介して、導波管を通して移動し続けるように、比較的に低回折効率を有する。画像情報を搬送する光は、したがって、複数の場所において導波管から出射する、いくつかの関連出射ビームに分割され、その結果、導波管内でバウンスする本特定のコリメートされたビームに関して、眼３０４に向かって非常に均一なパターンの出射放出となる。
【００５３】
いくつかの実施形態では、１つ以上のＤＯＥは、能動的に回折する「オン」状態と有意に回折しない「オフ」状態との間で切替可能であってもよい。例えば、切替可能なＤＯＥは、ポリマー分散液晶の層を備えてもよく、その中で微小液滴は、ホスト媒体中に回折パターンを備え、微小液滴の屈折率は、ホスト材料の屈折率に実質的に整合するように切り替えられることができる（その場合、パターンは、入射光を著しく回折させない）、または微小液滴は、ホスト媒体のものに整合しない屈折率に切り替えられることができる（その場合、パターンは、入射光を能動的に回折させる）。
【００５４】
いくつかの実施形態では、深度平面または被写界深度の数および／または分布は、視認者の眼の瞳孔サイズおよび／または配向に基づいて、動的に変動されてもよい。被写界深度は、視認者の瞳孔サイズと反比例して変化してもよい。その結果、視認者の眼の瞳孔のサイズが減少するにつれて、被写界深度は、その平面の場所が眼の焦点深度を越えるため判別不能である１つの平面が、判別可能となり、瞳孔サイズの低減および被写界深度の相当する増加に伴って、より合焦して現れ得るように増加する。同様に、異なる画像を視認者に提示するために使用される、離間される深度平面の数は、減少された瞳孔サイズに伴って減少されてもよい。例えば、視認者は、一方の深度平面から他方の深度平面への眼の遠近調節を調節せずに、第１の深度平面および第２の深度平面の両方の詳細を１つの瞳孔サイズにおいて明確に知覚することが可能ではない場合がある。しかしながら、これらの２つの深度平面は、同時に、遠近調節を変化させずに、別の瞳孔サイズにおいてユーザに合焦するには十分であり得る。
【００５５】
いくつかの実施形態では、ディスプレイシステムは、瞳孔サイズおよび／または配向の決定に基づいて、または特定の瞳孔サイズおよび／または配向を示す電気信号の受信に応じて、画像情報を受信する導波管の数を変動させてもよい。例えば、ユーザの眼が、２つの導波管と関連付けられた２つの深度平面間を区別不能である場合、コントローラ４６０は、これらの導波管のうちの１つへの画像情報の提供を停止するように構成またはプログラムされてもよい。有利なこととして、これは、システムへの処理負担を低減させ、それによって、システムの応答性を増加させ得る。導波管のためのＤＯＥがオンおよびオフ状態間で切替可能である実施形態では、ＤＯＥは、導波管が画像情報を受信するとき、オフ状態に切り替えられてもよい。
【００５６】
いくつかの実施形態では、出射ビームに視認者の眼の直径未満の直径を有するという条件を満たさせることが望ましくあり得る。しかしながら、本条件を満たすことは、視認者の瞳孔のサイズの変動性に照らして、困難であり得る。いくつかの実施形態では、本条件は、視認者の瞳孔のサイズの決定に応答して出射ビームのサイズを変動させることによって、広範囲の瞳孔サイズにわたって満たされる。例えば、瞳孔サイズが減少するにつれて、出射ビームのサイズもまた、減少し得る。いくつかの実施形態では、出射ビームサイズは、可変開口を使用して変動されてもよい。
【００５７】
ウェアラブルシステム４００は、世界４７０の一部を結像する、外向きに向いた結像システム４６４（例えば、デジタルカメラ）を含むことができる。世界４７０の本部分は、視野（ＦＯＶ）と称され得、結像システム４６４は、時として、ＦＯＶカメラとも称される。視認者による視認または結像のために利用可能な領域全体は、動眼視野（ＦＯＲ）と称され得る。ＦＯＲは、ウェアラブルシステム４００を囲繞する４πステラジアンの立体角を含んでもよい。ウェアラブルシステム４００のいくつかの実装では、ＦＯＲは、ユーザが、その頭部または眼を移動させ、ユーザの周囲（ユーザの正面、背後、上方、下方、または側面）のオブジェクトを見ることができるため、ディスプレイシステム４００のユーザの周囲の立体角の実質的に全てを含んでもよい。外向きに向いた結像システム４６４から得られた画像は、ユーザによって行われるジェスチャ（例えば、手または指のジェスチャ）を追跡し、ユーザの正面における世界４７０内のオブジェクトを検出する等のために、使用されることができる。頭部姿勢センサ２３５は、頭部姿勢の推定を決定するために使用されることができ、これは、ＦＯＲ内のユーザのＦＯＶを推定するために使用されることができる。
【００５８】
ウェアラブルシステム４００はまた、眼移動および顔移動等のユーザの移動を観察する、内向きに向いた結像システム４６６（例えば、デジタルカメラ）を含むことができる。内向きに向いた結像システム４６６は、眼４１０の画像を捕捉し、眼３０４の瞳孔のサイズおよび／または配向を決定するために使用されてもよい。内向きに向いた結像システム４６６は、ユーザが見ている方向（例えば、眼姿勢）を決定する際に使用するため、またはユーザのバイオメトリック識別のため（例えば、虹彩識別を介して）、画像を得るために使用されることができる。いくつかの実施形態では、少なくとも１つのカメラが、眼毎に、独立して、各眼の瞳孔サイズおよび／または眼姿勢を別個に決定し、それによって、各眼への画像情報の提示がその眼に対して動的に調整されることを可能にするために利用されてもよい。いくつかの他の実施形態では、片眼４１０のみの瞳孔直径および／または配向（例えば、対の眼あたり単一カメラのみを使用して）が、決定され、ユーザの両眼に関して類似すると仮定される。内向きに向いた結像システム４６６によって得られる画像は、ユーザに提示されるべきオーディオまたは視覚的コンテンツを決定するためにウェアラブルシステム４００によって使用され得る、ユーザの眼姿勢および／または気分を決定するために分析されてもよい。上記に説明されるように、ウェアラブルシステム４００はまた、例えば、頭部姿勢センサ２３５を使用して、頭部姿勢（例えば、頭部位置または頭部配向）を決定してもよい。
【００５９】
ウェアラブルシステム４００は、ユーザが、コマンドをコントローラ４６０に入力し、ウェアラブルシステム４００と相互作用し得る、ユーザ入力デバイス４６６を含むことができる。例えば、ユーザ入力デバイス４６６は、トラックパッド、タッチスクリーン、ジョイスティック、多自由度（ＤＯＦ）コントローラ、容量感知デバイス、ゲームコントローラ、キーボード、マウス、指向性パッド（Ｄパッド）、ワンド、触知デバイス、トーテム、スマートフォン、スマートウォッチ、タブレット等、それらの組み合わせ、または同等物を含むことができる。多ＤＯＦコントローラは、コントローラの一部または全部の可能性として考えられる平行移動（例えば、左／右、前／後、または上／下）または回転（例えば、ヨー、ピッチ、またはロール）におけるユーザ入力を感知することができる。ユーザは、例えば、マウスをクリックする、タッチパッドをタップする、タッチスクリーンをスワイプする、容量ボタンにかざすまたはそれをタッチする、キーボードまたはゲームコントローラ（例えば、５方向Ｄパッド）上のキーを押下する、ジョイスティック、ワンド、またはトーテムをオブジェクトに向かって向ける、遠隔制御上のボタンを押下する、またはユーザ入力デバイスとの他の相互作用によって、ユーザ入力デバイス４６６またはその環境内のオブジェクト（例えば、仮想または物理的オブジェクト）と相互作用することができる。ユーザ入力デバイス４６６の作動は、ウェアラブルシステムに、例えば、オブジェクトと関連付けられた仮想ユーザインターフェースメニューを表示する、ゲーム内のユーザのアバタを動画化する等のユーザインターフェース動作を実施させ得る。ユーザ入力デバイス４６６は、光を放出するように構成されてもよい。光パターンは、ユーザの環境内のオブジェクトと関連付けられた情報、ユーザ入力デバイス４６６またはウェアラブルデバイスとのユーザの相互作用等を表してもよい。
【００６０】
ある場合には、ユーザは、指（例えば、親指）を使用して、タッチセンサ式入力デバイスを押下またはスワイプし、入力をウェアラブルシステム４００に提供（例えば、ユーザ入力をウェアラブルシステム４００によって提供されるユーザインターフェースに提供）してもよい。ユーザ入力デバイス４６６は、ウェアラブルシステム４００の使用の間、ユーザの手によって保持されてもよい。ユーザ入力デバイス４６６は、ウェアラブルシステム４００と有線または無線通信することができる。ユーザ入力デバイス４６６は、本明細書に説明されるトーテムの実施形態を備えてもよい。トーテムは、タッチ表面を含むことができ、これは、ユーザが、軌道に沿ってスワイプする、またはタップすること等によって、トーテムを作動させることを可能にすることができる。
深層予測器ニューラルネットワーク頭部姿勢予測器を伴う、例示的レンダリングパイプライン
【００６１】
図５は、ウェアラブルシステムのユーザへの仮想コンテンツの表示のためのレンダリングパイプライン５００の一部の実施例を図式的に図示する、ブロック図である。レンダリングパイプラインは、それぞれ、図２および４を参照して説明される、ウェアラブルシステム２００または４００によって実装されることができる。
【００６２】
本実施例では、頭部姿勢データを提供する、頭部姿勢センサ２３５は、加速度計２３５ａと、ジャイロスコープ２３５ｂとを含む。頭部姿勢データは、随意に、例えば、拡張カルマンフィルタ（ＥＫＦ）を用いて、フィルタリングされ、ユーザの頭部の速度および加速に関するより平滑な推定を提供することができる。頭部姿勢データは、将来的時間範囲における予測される頭部姿勢５３０を出力する、姿勢予測器５１０に入力される。将来的時間範囲は、レンダリングパイプラインが、仮想コンテンツを生成し、システム２００、４００のユーザに表示するがためにかかる時間に匹敵し得、これは、例えば、約１０ｍｓ〜約５０ｍｓ将来であり得る。したがって、レンダリングパイプライン５００は、ユーザが仮想コンテンツまたはその近くを見ているときに、仮想コンテンツをユーザに表示することができ、これは、レンダリング待ち時間を低減させ、ユーザ体験を改良する。
【００６３】
姿勢予測器５１０は、例えば、ローカル処理およびデータモジュール２６０、遠隔処理モジュール２７０、および遠隔データリポジトリ２８０等の非一過性メモリ、コントローラ４６０、または他の電子コンピュータ回路構成を備える、ハードウェアプロセッサによって実装されることができる。
【００６４】
種々の実施形態では、予測される頭部姿勢５３０は、頭部配向（例えば、ヨー、ピッチ、およびロール角度）を備える、３ＤＯＦ頭部姿勢、頭部位置（例えば、デカルトｘ、ｙ、およびｚ座標）を備える、３ＤＯＦ頭部姿勢、または頭部配向および頭部位置の両方を備える、６ＤＯＦ姿勢であることができる。
【００６５】
予測される頭部姿勢５３０は、ウェアラブルシステム２００、４００のディスプレイ２２０への仮想コンテンツのタイミングおよびプロビジョニングを調整する、コントローラ４６０（図４を参照して説明される）に入力される。
【００６６】
姿勢予測器５１０は、本明細書に説明される深層予測器ニューラルネットワークアーキテクチャ５２０の実施形態を含むことができる（例えば、図６および７参照）。深層予測器ニューラルネットワークアーキテクチャ５２０は、再帰ニューラルネットワーク（ＲＮＮ）を含むことができ、これは、一定加速予測モデルより正確かつロバストに姿勢予測を実施する。いくつかの実装では、深層予測器ニューラルネットワークアーキテクチャ５２０は、ユーザの頭部の角度配向を予測するために使用され、一定加速モデルは、ユーザの頭部の空間平行移動を予測するために使用される。
例示的深層予測器ニューラルネットワークアーキテクチャ
【００６７】
図６は、頭部姿勢予測のための深層予測器ニューラルネットワーク５２０の実施例を図式的に図示する、ブロック図である。ニューラルネットワーク５２０の本実施例は、再帰ニューラルネットワーク（ＲＮＮ）６１０および全結合（ＦＣ）層６２０を含む。
【００６８】
上記に説明されるように、（例えば、加速度計２３５ａおよびジャイロスコープ２３５ｂからの）頭部姿勢データは、ＲＮＮ６１０に入力されることができる。いくつかの実施形態では、入力データは、加えて、または代替として、頭部速度および加速の推定とともに、頭部姿勢センサ２３５からの未加工読取値を含む。例えば、頭部姿勢センサ２３５データは、例えば、カルマンまたは拡張カルマンフィルタを用いて、フィルタリングによって処理され、ユーザの頭部の速度および加速を提供することができる。入力頭部姿勢データは、ある時間周期（例えば、１０ｍｓ〜１ｓ）にわたる時系列であることができる。
【００６９】
頭部姿勢データは、ＲＮＮ６１０に入力される。ＲＮＮは、ニューラルネットワークの層が、ＲＮＮの前の層からの状態情報を利用するため、「メモリ」を伴う、ニューラルネットワークである。ＲＮＮは、事実上、時系列データに作用する、反復モジュールのループを有し、これは、時系列内の情報が存続し（例えば、記憶され）、ＲＮＮの将来的層によって作用されることを可能にする。ＲＮＮ６１０の再帰性は、ループ６１２によって図式的に図示され、これは、前のループからの出力がＲＮＮ内の将来的ループ内で処理され得る（他の入力とともに）ことを示す。ＲＮＮ６１０は、したがって、その内部状態（例えば、メモリ）を使用して、時系列頭部姿勢データを処理し、将来的頭部姿勢５３０を予測する。
【００７０】
ＲＮＮ６１０の出力は、ＲＮＮ６１０の最終層の全てのニューロンへの接続を有する、全結合（ＦＣ）層６２０にフィードされることができる。ＦＣ層６２０は、予測される将来的頭部姿勢５３０、例えば、３ＤＯＦ（角度）、３ＤＯＦ（平行移動）、または６ＤＯＦ（回転および平行移動）を生成する。
【００７１】
ネットワークアーキテクチャ５２０のいくつかの実装では、ＲＮＮ６１０の隠れ層は、３２個のニューロンを含み、ＦＣ層６２０は、３（３ＤＯＦ）または６（６ＤＯＦ）つの出力を提供する。いくつかの実施形態では、ＦＣ層６２０は、正規化線形ユニット（ＲｅＬＵ）または双曲線正接（ｔａｎｈ）活性化関数を含む。他の数の隠れ層ニューロンまたは他のタイプの活性化関数も、使用されることができる。例えば、いくつかの実装では、ＲＮＮ６１０の隠れ層は、６４個のニューロンを含んでもよい。
【００７２】
図７は、頭部姿勢予測のための深層予測器ニューラルネットワーク５２０の別の実施例を図式的に図示する、ブロック図である。本実施例では、ニューラルネットワークアーキテクチャは、３つのスタックされた再帰ニューラルネットワークユニットを備える、ＲＮＮを含む。再帰ネットワークユニットは、長短期メモリ（ＬＳＴＭ）ネットワーク、すなわち、ＬＳＴＭ０  ７００、ＬＳＴＭ１  ７０１、およびＬＳＴＭ２  ７０２である。３つのＬＳＴＭユニット７００、７０１、７０２は、ＬＳＴＭ１  ７０１にフィードされるＬＳＴＭ０  ７００からの出力、ＬＳＴＭ２  ７０２にフィードされるＬＳＴＭ１  ７０１からの出力とともにスタックされる。ＬＳＴＭ７００、７０１、７０２の再帰性は、各ＬＳＴＭユニット上にループバックする矢印で図式的に図示され、それぞれ、ｈ０、ｈ１、ｈ２によって示される矢印は、各ＬＳＴＭユニットの再帰およびメモリを図式的に示す。
【００７３】
３つのＬＳＴＭユニット７０２の最後は、予測される頭部姿勢５３０を提供する、ＦＣ層６２０に接続される。
【００７４】
ＬＳＴＭユニットは、特に、時系列入力データ（例えば、頭部姿勢センサ２３５ａ、２３５ｂからの時系列頭部姿勢データ）における長期依存性を学習するように適合される。ある例示的ＬＳＴＭアーキテクチャでは、ＬＳＴＭセルは、メモリセルと、入力ゲートと、出力ゲートと、忘却ゲートとを含む。メモリセルは、長または短時間周期のいずれかにわたって、値（または状態）を記憶する。これは、メモリセルのための恒等活性化関数を使用することによって（またはそれを使用せずに）達成されてもよい。ＬＳＴＭゲートは、例えば、ロジスティック関数を使用して、活性化を算出する。入力ゲートは、それに対して新しい値がセルの中にフローする、範囲を制御することができ、忘却ゲートは、それに対して値がセル内に留まる、範囲を制御することができ、出力ゲートは、それに対してセル内の値がＬＳＴＭセルの出力される活性化を算出するために使用される、範囲を制御することができる。これらのゲート内外への接続が、存在し得る。接続のうちのいくつかは、再帰されることができる。訓練の間に学習され得る、これらの接続の加重は、ゲートの動作を指示するために使用されることができる。ゲートはそれぞれ、その独自のパラメータ、例えば、可能性として、ＬＳＴＭセル外の他のユニットからの加重およびバイアスを有することができる。
【００７５】
図７に示される例示的ネットワークアーキテクチャ５２０では、３つのスタックされたＬＳＴＭユニットが、使用される。いくつかの実装では、単一ＬＳＴＭユニットが、使用されてもよい。他の実装では、２、４、５、６、またはそれよりも多くのスタックされたＬＳＴＭユニットが、使用されることができる。頭部姿勢予測のために、ユーザ頭部姿勢データを用いた実験は、３つのＬＳＴＭユニットが、１つ、２つ、または他の数のユニットより良好な性能を提供することを示した。例えば、ＬＳＴＭユニットの数を増加させることは、頭部姿勢時系列データにおけるパターンを学習するアーキテクチャ５２０の能力を増加させ得るが、本増加された予測能力は、ネットワークを訓練および起動させるための増加された算出コストとなる。３つのＬＳＴＭユニットは、頭部姿勢予測正確度および算出効率の観点から、優れた性能を提供することが見出された。異なる数のＬＳＴＭユニットが、異なる目的を達成するように採用されてもよいことを理解されたい。いくつかの実施例では、より少ないＬＳＴＭユニットが、使用されてもよい（例えば、１つまたは２つのＬＳＴＭユニット）が、採用される各ＬＳＴＭユニットがより多数のニューロン、接続、または両方を含んでもよい。類似設計原理はまた、ＦＣ層のアーキテクチャにも反映され得る。
【００７６】
深層予測器ＲＮＮアーキテクチャの他の実装では、他のタイプの再帰ユニットが、図７に示されるＬＳＴＭユニットに加え、またはその代わりに、使用されることができる。例えば、ＬＳＴＭユニット７００、７０１、７０２のいくつかまたは全ては、ゲート付き再帰ユニット（ＧＲＵ）または注意ユニットと置換されることができる。さらに他の実装では、ＲＮＮ６１０は、ゲート付きフィードバックＲＮＮ、クロックワーク（ＣＷ）ＲＮＮ、またはメモリを伴う任意の他のニューラルネットワークを備えることができる。
深層予測器ネットワークを訓練する実施例
【００７７】
深層予測器ＲＮＮアーキテクチャ５２０の実装は、ウェアラブルディスプレイ２００、４００の実施形態を装着しているユーザから集められたデータを使用して訓練された。頭部姿勢センサ２３５は、１，０００Ｈｚで動作されるＩＭＵから成り、拡張カルマンが、５００Ｈｚで角速度および角加速データを提供するようにフィルタリングした。頭部姿勢時系列データ内のデータ点の数は、１０，０００〜１００，０００の長さの範囲内であった。訓練データは、ユーザの頭部運動の１２６個の記録を含み、１０２個の記録は、訓練のために使用され、２４個の記録は、検証のために使用された。深層予測器アーキテクチャの実装は、Ｌ２−ノルム損失関数を使用した打切型通時的逆伝播を用いて、多対多訓練技法を使用して訓練された。Ｎ個の数の過去のステップに関する勾配が、集約され（Ｎ＝２００）、シーケンスに沿った隠れ状態を維持しながら最適化された。
【００７８】
訓練された出力姿勢は、深層予測器ネットワークの本実装のために３０ｍｓ時間範囲で予測される３ＤＯＦ角度頭部姿勢であった。他の時間範囲に関して、ネットワーク５２０からの出力が、３０ｍｓ時間範囲にわたる値に対して線形に外挿されることができる。
深層予測器ネットワーク頭部姿勢予測の実施例
【００７９】
図８は、時間的予測範囲ｄｔにわたる頭部姿勢予測の実施例を図式的に図示する、グラフである。上記に説明されるように、予測範囲ｄｔは、ウェアラブルシステム２００、４００のレンダリングパイプライン５００内のレンダリング待ち時間にほぼ対応し得る。例えば、予測範囲ｄｔは、約１０ｍｓ〜約５０ｍｓの範囲内、例えば、３０ｍｓであることができる。
【００８０】
図８では、時間の関数としてのユーザの実際の頭部姿勢が、線８０４（この場合、例証目的のために直線）によって図式的に描写される。頭部姿勢センサデータは、線８０８によって図式的に図示され、雑音、ジッタ、ＥＫＦフィルタリングにおける不正確性等に起因して、実際の頭部姿勢線８０４の周囲の変動を示す。時間ｔ１では、頭部姿勢センサデータは、頭部姿勢が点８１４にあることを示す。姿勢予測器５１０は、深層予測器ニューラルネットワーク５２０および（例えば、時間ｔ１に先立ったある時間のシーケンスにわたる線８０８からの）頭部姿勢データの時系列を利用して、時間ｔ１＋ｄｔにおける頭部姿勢を予測することができる。予測は、矢印８１２によって図式的に示される、角度オフセット、空間平行移動、または角度オフセットおよび空間平行移動の両方を備えてもよい。姿勢予測器５１０は、予測８１２を時間ｔ１における頭部姿勢８１３に適用し、時間ｔ１＋ｄｔにおける予測される頭部姿勢８１６を計算する。時間ｔ２における類似計算もまた、図８に図示される。予測は、姿勢予測器５１０が、実際の頭部姿勢８０４を追跡することを可能にする。
深層予測器ニューラルネットワークを使用して頭部姿勢を予測するための例示的方法
【００８１】
図９は、深層予測器ニューラルネットワークアーキテクチャ５２０の実施形態を用いて頭部姿勢を予測するための方法９００の実施例を図示する、フローチャートである。方法９００は、ウェアラブルディスプレイシステム２００、４００によって、例えば、ローカル処理およびデータモジュール２６０、姿勢予測器５１０、コントローラ４６０によって、または別のハードウェアプロセッサによって実施されることができる。
【００８２】
ブロック９０４では、方法９００は、頭部姿勢データを受信する。例えば、頭部姿勢データは、頭部姿勢センサ２３５（例えば、加速度計２３５ａおよびジャイロスコープ２３５ｂ）からのデータを含むことができる。加えて、または代替として、頭部姿勢データは、ユーザの頭部の速度または加速を含むことができる。例えば、頭部姿勢センサ２３５（または電磁追跡センサ等の他のセンサまたはカメラからの画像）からのデータは、拡張カルマンフィルタ（ＥＫＦ）を用いてフィルタリングされ、頭部速度または加速の推定を提供することができる。
【００８３】
ブロック９０８では、方法９００は、深層予測器ニューラルネットワークアーキテクチャ５２０（例えば、図７および８参照）の実施形態を使用して、将来的予測範囲（例えば、約１０ｍｓ〜約５０ｍｓ将来）における頭部姿勢を予測する。頭部姿勢は、頭部配向（例えば、ヨー、ピッチ、およびロール角度）を備える、３ＤＯＦ頭部姿勢、頭部位置（例えば、デカルトｘ、ｙ、およびｚ座標）を備える、３ＤＯＦ頭部姿勢、または頭部配向および頭部位置の両方を備える、６ＤＯＦ姿勢であることができる。いくつかの実施形態では、方法９００は、深層予測器ニューラルネットワークアーキテクチャ５２０を使用して、角度頭部姿勢を予測し、頭部平行移動のために別の予測モデル（例えば、一定加速）を使用する。深層予測器ニューラルネットワークアーキテクチャ５２０は、例えば、ＬＳＴＭユニット、ＧＲＵ等の１つ以上のメモリユニットのスタックを含む、ＲＮＮを備えることができる。いくつかの実装では、３つのＬＳＴＭまたはＧＲＵのスタックが、利用される。深層予測器ニューラルネットワークアーキテクチャ５２０は、ＲＮＮからの出力を受け取り、予測される頭部姿勢を計算する、ＦＣ層を含むことができる。
【００８４】
ブロック９１２では、方法９００は、予測される頭部姿勢を利用して、仮想コンテンツをユーザにレンダリングする。例えば、予測される頭部姿勢は、ユーザが将来のある時間周期（例えば、１０ｍｓ〜５０ｍｓ）に見ているであろう場所に関する情報を提供する。レンダリングパイプライン５００は、ユーザが見ている可能性がある仮想コンテンツを計算することができ、ユーザが実際に予測される姿勢に方向転換する前に、レンダリングプロセスを開始することができる。したがって、方法９００の実施形態は、レンダリング待ち時間を低減させ、仮想コンテンツのレンダリングをちょうど提供し、享受可能なユーザ体験を有効にすることができる。
付加的側面
【００８５】
側面１．ウェアラブルシステムであって、ウェアラブルシステムの装着者の眼の前に配置されるように構成される、ディスプレイであって、仮想コンテンツをウェアラブルシステムの装着者に表示するように構成される、ディスプレイと、頭部姿勢データを提供するように構成される、頭部姿勢センサと、頭部姿勢予測再帰ニューラルネットワークを記憶するように構成される、非一過性メモリと、頭部姿勢センサ、ディスプレイ、および非一過性メモリと通信する、ハードウェアプロセッサであって、頭部姿勢データを受信し、頭部姿勢データを頭部姿勢予測再帰ニューラルネットワークに入力し、時間範囲において、頭部姿勢予測再帰ニューラルネットワークを実行し、予測される頭部姿勢を出力し、少なくとも部分的に、時間範囲において予測される頭部姿勢に基づいて、ディスプレイに、仮想コンテンツをレンダリングさせるようにプログラムされる、ハードウェアプロセッサとを備える、ウェアラブルシステム。
【００８６】
側面２．ディスプレイは、仮想コンテンツを複数の深度平面に提示するように構成される、側面１に記載のウェアラブルシステム。
【００８７】
側面３．頭部姿勢センサは、慣性測定ユニットを備える、側面１または側面２に記載のウェアラブルシステム。
【００８８】
側面４．慣性測定ユニットは、加速度計およびジャイロスコープを備える、側面３に記載のウェアラブルシステム。
【００８９】
側面５．頭部姿勢データは、速度または加速を含む、側面１−４のいずれか１項に記載のウェアラブルシステム。
【００９０】
側面６．頭部姿勢センサからの出力は、拡張カルマンフィルタによってフィルタリングされ、頭部姿勢データを提供する、側面５に記載のウェアラブルシステム。
【００９１】
側面７．頭部姿勢予測再帰ニューラルネットワークは、再帰ニューラルネットワーク（ＲＮＮ）および全結合（ＦＣ）層を備える、側面１−６のいずれか１項に記載のウェアラブルシステム。
【００９２】
側面８．頭部姿勢予測再帰ニューラルネットワークは、複数の反復モジュールを備える、側面１−７のいずれか１項に記載のウェアラブルシステム。
【００９３】
側面９．複数の反復モジュールのうちの少なくとも１つは、長短期メモリセル（ＬＳＴＭ）またはゲート付き再帰ユニット（ＧＲＵ）を備える、側面８に記載のウェアラブルシステム。
【００９４】
側面１０．頭部姿勢予測再帰ニューラルネットワークは、１つ以上の長短期メモリ（ＬＳＴＭ）セルのスタックまたは１つ以上のゲート付き再帰ユニット（ＧＲＵ）のスタックを備える、側面１−９のいずれか１項に記載のウェアラブルシステム。
【００９５】
側面１１．頭部姿勢予測再帰ニューラルネットワークは、３つのＬＳＴＭセルまたは３つのＧＲＵを備える、側面１０に記載のウェアラブルシステム。
【００９６】
側面１２．時間範囲は、１０ｍｓ〜５０ｍｓの範囲内である、側面１−１１のいずれか１項に記載のウェアラブルシステム。
【００９７】
側面１３．時間範囲は、２０ｍｓ〜４０ｍｓの範囲内である、側面１−１１のいずれか１項に記載のウェアラブルシステム。
【００９８】
側面１４．予測される頭部姿勢は、３自由度（ＤＯＦ）姿勢を備える、側面１−１３のいずれか１項に記載のウェアラブルシステム。
【００９９】
側面１５．３ＤＯＦ姿勢は、頭部配向を備える、側面１４に記載のウェアラブルシステム。
【０１００】
側面１６．３ＤＯＦ姿勢は、頭部位置を備える、側面１４または側面１５に記載のウェアラブルシステム。
【０１０１】
側面１７．予測される頭部姿勢は、配向および位置を含む、６自由度（ＤＯＦ）姿勢を備える、側面１−１６のいずれか１項に記載のウェアラブルシステム。
【０１０２】
側面１８．予測される頭部姿勢は、頭部配向を備え、ハードウェアプロセッサはさらに、予測非ニューラルネットワークモデルを使用して、時間範囲において、頭部位置を予測するようにプログラムされる、側面１−１７のいずれか１項に記載のウェアラブルシステム。
【０１０３】
側面１９．予測非ニューラルネットワークモデルは、一定加速モデルを備える、側面１８に記載のウェアラブルシステム。
【０１０４】
側面２０．仮想コンテンツをレンダリングするための方法であって、コンピュータハードウェアを備える、レンダリングパイプラインの制御下で、ユーザの頭部に関する頭部姿勢データを受信するステップと、少なくとも再帰ニューラルネットワーク（ＲＮＮ）および頭部姿勢データを使用して、予測範囲において予測される頭部姿勢を予測するステップと、予測範囲において、少なくとも部分的に、予測される頭部姿勢に基づいて、仮想コンテンツをレンダリングするステップとを含む、方法。
【０１０５】
側面２１．頭部姿勢データは、（１）慣性測定ユニット（ＩＭＵ）からのデータ、（２）ユーザの頭部に関する速度または加速データ、または（１）および（２）の両方のうちの１つ以上のものの時系列を含む、側面２０に記載の方法。
【０１０６】
側面２２．データをフィルタリングし、速度または加速データを提供するステップをさらに含む、側面２１に記載の方法。
【０１０７】
側面２３．フィルタリングするステップは、拡張カルマンフィルタ（ＥＫＦ）を用いて実施される、側面２２に記載の方法。
【０１０８】
側面２４．ＲＮＮは、１つ以上の長短期メモリ（ＬＳＴＭ）セルのスタックまたは１つ以上のゲート付き再帰ユニット（ＧＲＵ）のスタックを備える、側面２０−２３のいずれか１項に記載の方法。
【０１０９】
側面２５．ＲＮＮは、３つのＬＳＴＭセルまたは３つのＧＲＵのスタックを備える、側面２４に記載の方法。
【０１１０】
側面２６．ＲＮＮは、予測される頭部姿勢を出力するように構成される、全結合（ＦＣ）層に接続される、側面２０−２５のいずれか１項に記載の方法。
【０１１１】
側面２７．予測される頭部姿勢は、ユーザの頭部の配向を備え、本方法はさらに、予測範囲において、一定加速モデルを用いて、ユーザの頭部の位置を予測するステップを含む、側面２０−２６のいずれか１項に記載の方法。
【０１１２】
側面２８．予測範囲は、１０ｍｓ〜５０ｍｓの範囲内である、側面２０−２７のいずれか１項に記載の方法。
【０１１３】
側面２９．ウェアラブルディスプレイシステムであって、ウェアラブルシステムの装着者の眼の前に配置されるように構成される、ディスプレイであって、仮想コンテンツをウェアラブルシステムの装着者に表示するように構成される、ディスプレイと、頭部姿勢データを提供するように構成される、頭部姿勢センサと、頭部姿勢予測再帰ニューラルネットワークを記憶するように構成される、非一過性メモリと、頭部姿勢センサ、ディスプレイ、および非一過性メモリと通信する、コンピューティングハードウェアであって、側面２０−２８のいずれか１項に記載の方法を実施するようにプログラムされる、レンダリングパイプラインを含むようにプログラムされる、コンピューティングハードウェアとを備える、ウェアラブルディスプレイシステム。
付加的考慮点
【０１１４】
本明細書に説明される、および／または添付される図に描写されるプロセス、方法、およびアルゴリズムはそれぞれ、具体的かつ特定のコンピュータ命令を実行するように構成される、１つ以上の物理的コンピューティングシステム、ハードウェアコンピュータプロセッサ、特定用途向け回路、および／または電子ハードウェアによって実行される、コードモジュールにおいて具現化され、それによって完全または部分的に自動化され得る。例えば、コンピューティングシステムは、具体的コンピュータ命令とともにプログラムされた汎用コンピュータ（例えば、サーバ）または専用コンピュータ、専用回路等を含むことができる。コードモジュールは、実行可能プログラムにコンパイルおよびリンクされる、動的リンクライブラリ内にインストールされる、またはインタープリタ型プログラミング言語において書き込まれ得る。いくつかの実装では、特定の動作および方法が、所与の機能に特有の回路によって実施され得る。
【０１１５】
さらに、本開示の機能性のある実装は、十分に数学的、コンピュータ的、または技術的に複雑であるため、（適切な特殊化された実行可能命令を利用する）特定用途向けハードウェアまたは１つ以上の物理的コンピューティングデバイスは、例えば、関与する計算の量または複雑性に起因して、または結果を実質的にリアルタイムで提供するために、機能性を実施する必要があり得る。例えば、ビデオは、多くのフレームを含み得、各フレームは、数百万のピクセルを有し、具体的にプログラムされたコンピュータハードウェアは、商業的に妥当な時間量において所望の画像処理タスクまたは用途を提供するようにビデオデータを処理する必要がある。さらに、頭部姿勢は、ウェアラブルシステムのレンダリングエンジンが、満足の行くユーザ体験のために十分に短待ち時間を提供する、仮想コンテンツをレンダリングし得るように、繰り返し、２０ｍｓ〜５０ｍｓ（例えば、２０Ｈｚ〜５０Ｈｚ）のタイムスケールで予測されてもよく、ハードウェア処理回路構成が、本明細書に説明される再帰ニューラルネットワーク頭部姿勢予測を実施するために要求され得る。
【０１１６】
コードモジュールまたは任意のタイプのデータは、ハードドライブ、ソリッドステートメモリ、ランダムアクセスメモリ（ＲＡＭ）、読取専用メモリ（ＲＯＭ）、光学ディスク、揮発性または不揮発性記憶装置、同一物の組み合わせ、および／または同等物を含む、物理的コンピュータ記憶装置等の任意のタイプの非一過性コンピュータ可読媒体上に記憶されてもよい。本方法およびモジュール（またはデータ）はまた、無線ベースおよび有線／ケーブルベースの媒体を含む、種々のコンピュータ可読伝送媒体上で生成されたデータ信号として（例えば、搬送波または他のアナログまたはデジタル伝搬信号の一部として）伝送され得、種々の形態（例えば、単一または多重化アナログ信号の一部として、または複数の離散デジタルパケットまたはフレームとして）をとってもよい。開示されるプロセスまたはプロセスステップの結果は、任意のタイプの非一過性有形コンピュータ記憶装置内に持続的または別様に記憶されてもよい、またはコンピュータ可読伝送媒体を介して通信されてもよい。
【０１１７】
本明細書に説明される、および／または添付される図に描写されるフロー図における任意のプロセス、ブロック、状態、ステップ、または機能性は、プロセスにおいて具体的機能（例えば、論理または算術）またはステップを実装するための１つ以上の実行可能命令を含む、コードモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されたい。種々のプロセス、ブロック、状態、ステップ、または機能性は、組み合わせられる、再配列される、追加される、削除される、修正される、または別様に本明細書に提供される例証的実施例から変更されることができる。いくつかの実施形態では、付加的または異なるコンピューティングシステムまたはコードモジュールが、本明細書に説明される機能性のいくつかまたは全てを実施し得る。本明細書に説明される方法およびプロセスはまた、任意の特定のシーケンスに限定されず、それに関連するブロック、ステップ、または状態は、適切な他のシーケンスで、例えば、連続して、並行して、またはある他の様式で実施されることができる。タスクまたはイベントが、開示される例示的実施形態に追加される、またはそれから除去されてもよい。さらに、本明細書に説明される実装における種々のシステムコンポーネントの分離は、例証を目的とし、全ての実装においてそのような分離を要求するものとして理解されるべきではない。説明されるプログラムコンポーネント、方法、およびシステムは、概して、単一のコンピュータ製品においてともに統合される、または複数のコンピュータ製品にパッケージ化され得ることを理解されたい。多くの実装変形例が、可能性として考えられる。
【０１１８】
本プロセス、方法、およびシステムは、ネットワーク（または分散）コンピューティング環境において実装され得る。ネットワーク環境は、企業全体コンピュータネットワーク、イントラネット、ローカルエリアネットワーク（ＬＡＮ）、広域ネットワーク（ＷＡＮ）、パーソナルエリアネットワーク（ＰＡＮ）、クラウドコンピューティングネットワーク、クラウドソースコンピューティングネットワーク、衛星ネットワーク、インターネット、およびワールドワイドウェブを含む。ネットワークは、有線または無線ネットワークまたは任意の他のタイプの通信ネットワークであってもよい。
【０１１９】
本開示は、対象デバイスを使用して実施され得る方法を含む。本方法は、そのような好適なデバイスを提供するという行為を含んでもよい。そのような提供は、エンドユーザによって実施されてもよい。換言すると、「提供する」行為は、単に、エンドユーザが、対象方法において必須デバイスを提供するために、取得する、アクセスする、接近する、位置付ける、設定する、アクティブ化する、電源を入れる、または別様に作用することを要求する。本明細書に記載される要素、行為、ステップ、または方法のブロックは、論理的に可能である記載された事象の任意の順番で、および事象の記載された順番で実施されてもよい。
【０１２０】
本開示のシステムおよび方法は、それぞれ、いくつかの革新的側面を有し、そのうちのいかなるものも、本明細書に開示される望ましい属性に単独で関与しない、またはそのために要求されない。上記に説明される種々の特徴およびプロセスは、相互に独立して使用され得る、または種々の方法で組み合わせられ得る。全ての可能な組み合わせおよび副次的組み合わせが、本開示の範囲内に該当することが意図される。本開示に説明される実装の種々の修正が、当業者に容易に明白であり得、本明細書に定義される一般原理は、本開示の精神または範囲から逸脱することなく、他の実装に適用され得る。したがって、請求項は、本明細書に示される実装に限定されることを意図されず、本明細書に開示される本開示、原理、および新規の特徴と一貫する最も広い範囲を与えられるべきである。
【０１２１】
別個の実装の文脈において本明細書に説明されるある特徴はまた、単一の実装における組み合わせにおいて実装されることができる。逆に、単一の実装の文脈において説明される種々の特徴もまた、複数の実装において別個に、または任意の好適な副次的組み合わせにおいて実装されることができる。さらに、特徴がある組み合わせにおいて作用するものとして上記に説明され、さらに、そのようなものとして最初に請求され得るが、請求される組み合わせからの１つ以上の特徴は、いくつかの場合では、組み合わせから削除されることができ、請求される組み合わせは、副次的組み合わせまたは副次的組み合わせの変形例を対象とし得る。いかなる単一の特徴または特徴のグループも、あらゆる実施形態に必要または必須ではない。
【０１２２】
とりわけ、「〜できる（ｃａｎ）」、「〜し得る（ｃｏｕｌｄ）」、「〜し得る（ｍｉｇｈｔ）」、「〜し得る（ｍａｙ）」、「例えば（ｅ．ｇ．）」、および同等物等、本明細書で使用される条件文は、別様に具体的に記載されない限り、または使用されるような文脈内で別様に理解されない限り、概して、ある実施形態が、ある特徴、要素、および／またはステップを含む一方、他の実施形態がそれらを含まないことを伝えることが意図される。したがって、そのような条件文は、概して、特徴、要素、および／またはステップが、１つまたはそれを上回る実施形態に対していかようにも要求されること、または１つ以上の実施形態が、著者の入力または促しの有無を問わず、これらの特徴、要素、および／またはステップが任意の特定の実施形態において含まれる、または実施されるべきかどうかを決定するための論理を必然的に含むことを示唆することを意図されない。用語「〜を備える（ｃｏｍｐｒｉｓｉｎｇ）」、「〜を含む（ｉｎｃｌｕｄｉｎｇ）」、「〜を有する（ｈａｖｉｎｇ）」、および同等物は、同義語であり、非限定的方式で包括的に使用され、付加的要素、特徴、行為、動作等を除外しない。また、用語「または」は、その包括的意味において使用され（およびその排他的意味において使用されず）、したがって、例えば、要素のリストを接続するために使用されると、用語「または」は、リスト内の要素のうちの１つ、いくつか、または全てを意味する。加えて、本願および添付される請求項で使用されるような冠詞「ａ」、「ａｎ」、および「ｔｈｅ」は、別様に規定されない限り、「１つ以上の」または「少なくとも１つ」を意味するように解釈されるべきである。本明細書に具体的に定義されない限り、本明細書で使用される全ての技術的および科学的用語は、請求項の有効性を維持しながら、可能な限り広義の一般的に理解される意味を与えられるべきである。
【０１２３】
本明細書で使用されるように、項目のリスト「〜のうちの少なくとも１つ」を指す語句は、単一の要素を含む、それらの項目の任意の組み合わせを指す。ある実施例として、「Ａ、Ｂ、またはＣのうちの少なくとも１つ」は、Ａ、Ｂ、Ｃ、ＡおよびＢ、ＡおよびＣ、ＢおよびＣ、およびＡ、Ｂ、およびＣを網羅することが意図される。語句「Ｘ、Ｙ、およびＺのうちの少なくとも１つ」等の接続文は、別様に具体的に記載されない限り、概して、項目、用語等がＸ、Ｙ、またはＺのうちの少なくとも１つであり得ることを伝えるために使用されるような文脈で別様に理解される。したがって、そのような接続文は、概して、ある実施形態が、Ｘのうちの少なくとも１つ、Ｙのうちの少なくとも１つ、およびＺのうちの少なくとも１つがそれぞれ存在するように要求することを示唆することを意図されない。
【０１２４】
同様に、動作は、特定の順序で図面に描写され得るが、これは、望ましい結果を達成するために、そのような動作が示される特定の順序で、または連続的順序で実施される、または全ての図示される動作が実施される必要はないと認識されるべきである。さらに、図面は、フローチャートの形態で１つ以上の例示的プロセスを図式的に描写し得る。しかしながら、描写されない他の動作も、図式的に図示される例示的方法およびプロセス内に組み込まれることができる。例えば、１つ以上の付加的動作が、図示される動作のいずれかの前に、その後に、それと同時に、またはその間に実施されることができる。加えて、動作は、他の実装において再配列される、または再順序付けられ得る。ある状況では、マルチタスクおよび並列処理が、有利であり得る。さらに、上記に説明される実装における種々のシステムコンポーネントの分離は、全ての実装におけるそのような分離を要求するものとして理解されるべきではなく、説明されるプログラムコンポーネントおよびシステムは、概して、単一のソフトウェア製品においてともに統合される、または複数のソフトウェア製品にパッケージ化され得ることを理解されたい。加えて、他の実装も、以下の請求項の範囲内である。いくつかの場合では、請求項に列挙されるアクションは、異なる順序で実施され、依然として、望ましい結果を達成することができる。
【図１】
2021530790.tif 000003
【図２】
2021530790.tif 000004
【図３】
2021530790.tif 000005
【図４】
2021530790.tif 000006
【図５】
2021530790.tif 000007
【図６】
2021530790.tif 000008
【図７】
2021530790.tif 000009
【図８】
2021530790.tif 000010
【図９】
2021530790.tif 000011
【国際調査報告】
2021530790.tif 000012