(57)【要約】複数の相補的照明パターンを連続して放射するように構成される、プロジェクタを含む、飛行時間ベースの深度検出システムが、開示される。深度検出システムのセンサは、センサの視野内の物体から反射する照明パターンからの光を捕捉するように構成される。センサによって捕捉されたデータは、センサに戻ることに先立って、複数の表面から反射する光によって引き起こされる誤った読取値をフィルタリング除去するために使用されることができる。
2019529924.tif 000002
【特許請求の範囲】
【請求項１】
深度検出システムであって、
投影システムであって、
剛性基板を有するプロジェクタ筐体と、
光を第１の複数の光成形構成要素を通して放射するように構成されている第１の光源であって、前記第１の光源は、前記剛性基板に搭載されている、第１の光源と、
光を第２の複数の光成形構成要素を通して放射するように構成されている第２の光源であって、前記第２の光源は、前記第１の光源に隣接して前記剛性基板に搭載されている、第２の光源と
を備える、投影システムと、
撮像センサであって、前記撮像センサは、前記投影システムに近接し、前記撮像センサの視野内の物体から反射された後、前記第１および第２の光源によって放射される光を受光するように構成されている、撮像センサと、
前記第１および第２の光源によって放射される光が、前記センサ視野内の前記物体から反射し、前記撮像センサに戻るまでの時間量を測定することによって、前記深度検出システムと前記センサ視野内の前記物体との間の距離を計算するように構成されている、プロセッサと
を備える、深度検出システム。
【請求項２】
前記第１および第２の光源は、赤外線レーザダイオードである、請求項１に記載の深度検出システム。
【請求項３】
前記撮像センサは、グローバルシャッタを有する、請求項１に記載の深度検出システム。
【請求項４】
前記第１および第２の光源は、非重複パターンにおいてパルスを放射するように構成されている、請求項１に記載の深度検出システム。
【請求項５】
前記第１の複数の光成形構成要素は、回折光学要素と、マイクロレンズアレイとを備える、請求項１に記載の深度検出システム。
【請求項６】
前記第１の複数の光成形構成要素は、前記第１の光源によって放射される光を、前記撮像センサの視野を横断して分散される第１の複数の平行な光のバーに成形する、請求項５に記載の深度検出システム。
【請求項７】
前記第２の複数の光成形構成要素は、前記第２の光源によって放射される光を、前記第１の複数の平行な光のバー間の間隙を被覆する第２の複数の平行な光のバーに成形する、請求項６に記載の深度検出システム。
【請求項８】
前記第１の複数の光成形構成要素は、屈曲光学系を伴うコリメートレンズを備える、請求項１に記載の深度検出システム。
【請求項９】
前記第２の複数の光成形構成要素は、前記屈曲光学系を伴うコリメートレンズを備える、請求項８に記載の深度検出システム。
【請求項１０】
前記第１および第２の光源によって投影される前記光は、前記コリメートレンズの反射表面によって約９０度で再配向される、請求項９に記載の深度検出システム。
【請求項１１】
前記距離を計算することはまた、前記撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリング除去することを含む、請求項１に記載の深度検出システム。
【請求項１２】
深度検出システムであって、
複数の光成形構成要素であって、
コリメート光学要素と、
屈折光学要素と、
回折光学要素と、
マイクロレンズアレイと
を備える、複数の光成形構成要素と、
光を前記複数の光成形構成要素を通して放射するように構成されている光源と、
撮像センサであって、前記撮像センサは、前記光源によって放射され、かつ前記撮像センサの視野内の物体から反射された光を検出するように構成されている、撮像センサと、
前記撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリング除去することによって、前記深度検出システムと前記物体との間の距離を判定するように構成されている、プロセッサと
を備える、深度検出システム。
【請求項１３】
前記複数の光成形構成要素はさらに、前記回折光学要素に対して側方に偏移するように構成されている線形作動式光学系を備える、請求項１２に記載の深度検出システム。
【請求項１４】
前記光源は、第１の光源であり、前記深度検出システムはさらに、
プリント回路基板と、
第２の光源と
を備え、
前記第１および第２の光源は、前記プリント回路基板に電気的および機械的に結合されている、請求項１２に記載の深度検出システム。
【請求項１５】
前記複数の光成形構成要素は、第１の複数の光成形構成要素であり、前記深度検出システムはさらに、第２の複数の光成形構成要素を備え、それを通して、前記第２の光源は、光を放射するように構成されている、請求項１４に記載の深度検出システム。
【請求項１６】
前記コリメート光学要素は、前記光源によって放射される前記光の方向を変化させるように構成された反射表面を有する、屈曲光学系を備える、請求項１２に記載の深度検出システム。
【請求項１７】
深度検出システムであって、
投影システムであって、
剛性基板を有するプロジェクタ筐体と、
光を第１の複数の光成形構成要素を通して放射し、第１の照明パターンを生産するように構成されている、第１の光源であって、前記第１の光源は、前記剛性基板に搭載されている、第１の光源と、
光を第２の複数の光成形構成要素を通して放射し、前記第１の照明パターンと相補的第２の照明パターンを生産するように構成されている、第２の光源であって、前記第２の光源は、前記第１の光源に隣接して前記剛性基板に搭載されている、第２の光源と
を備える、投影システムと、
撮像センサであって、前記撮像センサは、前記投影システムに近接し、前記撮像センサの視野内の物体から反射された後、前記第１および第２の光源によって放射される光を受光するように構成されている、撮像センサと、
前記第１および第２の光源によって放射される光が、前記センサ視野内の前記物体から反射し、前記撮像センサに戻るまでの時間量を測定することによって、かつ前記撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリング除去することによって、前記深度検出システムと前記センサ視野内の前記物体との間の距離を計算するように構成されている、プロセッサと
を備える、深度検出システム。
【請求項１８】
前記プロセッサは、前記第２の照明パターンに対応する前記撮像センサの視野内のエリアから反射する、前記第１の光源によって放射される前記光を識別することによって、前記撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリングする、請求項１７に記載の深度検出システム。
【請求項１９】
前記第１および第２の照明パターンは、一連の平行バーを備える、請求項１７に記載の深度検出システム。
【請求項２０】
前記第１の複数の光成形構成要素は、コリメート光学要素と、屈折光学要素と、回折光学要素と、マイクロレンズアレイとを備える、請求項１７に記載の深度検出システム。
【発明の詳細な説明】
【背景技術】
【０００１】
（発明の背景）
測距撮像のための多数の技法が存在し、これは、複数の異なる用途において非常に有用であり得る。１つの具体的タイプの測距撮像は、飛行時間カメラを使用して実施されることができる。飛行時間カメラは、光のパルスが、センサの視野内の物体まで進行し、そこから戻るまでに要する時間を測定し、センサとセンサの視野内の物体との間の距離を判定することができる。残念ながら、深度検出システムによって放射される光は、常時、直接、センサ視野内の物体まで進行し、センサに戻らない場合がある。光が、物体から反射する前に、別の物体から跳ね返る場合、光がセンサに戻るまでに要する時間は、増加され、それによって、光の反射されたパルスに関して測定された飛行時間を増加させる。より長い飛行時間測定は、深度検出システムが、センサと物体との間の測定された距離を誤って増加させる結果をもたらし得る。その結果、本誤差を修正する方法が、望ましい。
【発明の概要】
【発明が解決しようとする課題】
【０００２】
（発明の要約）
本開示は、複数の表面から跳ね返る光のパルスから生じる誤った読取値をフィルタリング除去するように構成される、飛行時間カメラを説明する。
【課題を解決するための手段】
【０００３】
本開示は、深度検出システムの性能を改良する方法に関する。深度検出システムは、相補的照明パターンを深度検出システムの撮像センサによって監視されている領域上に連続して放射するように構成されることができる。撮像センサは、飛行時間センサとして作用し、光が、照明パターンを形成し、物体から反射し、撮像センサに戻るまでに要する時間を測定することによって、深度検出システムと領域内の物体との間の距離を判定することができる。撮像センサにおいて受光された光の一部は、撮像センサに到着する前に他の表面から跳ね返る、間接光であり得る。これは、特に、より多くの間接光が撮像センサに戻る可能性が高い、部屋の角において問題となり得る。反射は、光が撮像センサに戻るまでに要する時間量を増加させ、それによって、センサデータの正確度を低減させる。本間接光の一部は、第１の照明パターンがアクティブであるとき、第１の照明パターン外にある撮像センサによって監視されている領域の部分から反射する光を識別することによって、深度検出システムによる検討対象からフィルタリング除去されることができる。本識別された光は、次いで、第２の照明パターンがアクティブであるとき、検討対象から除かれることができる。同様に、第２の照明パターンがアクティブであるとき、第２の照明パターン外の光は、第１の照明パターンから除かれることができる。このように、より正確な深度検出情報が、取得されることができる。
【０００４】
相補的照明パターンを放射する、光源が、共通基板に搭載され、光源が相互に整合からずれないように防止することができる。共通基板はまた、光源が整合からずれて投射される結果をもたらすであろう、任意の熱影響を低減させることに役立つことができる。
【０００５】
深度検出システムが、開示され、少なくとも以下：投影システムであって、剛性基板を有する、プロジェクタ筐体と、光を第１の複数の光成形構成要素を通して放射するように構成される、第１の光源であって、第１の光源は、剛性基板に搭載される、第１の光源と、光を第２の複数の光成形構成要素を通して放射するように構成される、第２の光源であって、第２の光源は、第１の光源に隣接して剛性基板に搭載される、第２の光源とを備える、投影システムと、撮像センサであって、撮像センサは、投影システムに近接し、撮像センサの視野内の物体から反射された後、第１および第２の光源によって放射される光を受光するように構成される、撮像センサと、第１および第２の光源によって放射される光が、センサ視野内の物体から反射し、撮像センサに戻るまでの時間量を測定することによって、深度検出システムとセンサ視野内の物体との間の距離を計算するように構成される、プロセッサとを含む。
【０００６】
別の深度検出システムも、開示され、以下：複数の光成形構成要素であって、コリメート光学要素と、屈折光学要素と、回折光学要素と、マイクロレンズアレイとを備える、複数の光成形構成要素と、光を複数の光成形構成要素を通して放射するように構成される、光源と、撮像センサであって、撮像センサは、光源によって放射され、かつ撮像センサの視野内の物体から反射された光を検出するように構成される、撮像センサと、撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリング除去することによって、深度検出システムと物体との間の距離を判定するように構成される、プロセッサとを含む。
【０００７】
深度検出システムが、開示され、以下：投影システムであって、剛性基板を有する、プロジェクタ筐体と、光を第１の複数の光成形構成要素を通して放射し、第１の照明パターンを生産するように構成される、第１の光源であって、第１の光源は、剛性基板に搭載される、第１の光源と、光を第２の複数の光成形構成要素を通して放射し、第１の照明パターンと相補的第２の照明パターンを生産するように構成される、第２の光源であって、第２の光源は、第１の光源に隣接して剛性基板に搭載される、第２の光源とを備える、投影システムと、撮像センサであって、撮像センサは、投影システムに近接し、撮像センサの視野内の物体から反射された後、第１および第２の光源によって放射される光を受光するように構成される、撮像センサと、第１および第２の光源によって放射される光が、センサ視野内の物体から反射し、撮像センサに戻るまでの時間量を測定し、撮像センサの視野外の表面から反射された光と関連付けられたセンサ読取値をフィルタリング除去することによって、深度検出システムとセンサ視野内の物体との間の距離を計算するように構成される、プロセッサとを含む。
【０００８】
本発明の他の側面および利点は、一例として、説明される実施形態の原理を図示する、付随の図面と関連して検討される、以下の発明を実施するための形態から明白となるであろう。
【０００９】
本開示は、同様の参照番号が同様の構造要素を指す、付随の図面と併せて、以下の発明を実施するための形態によって容易に理解されるであろう。
【図面の簡単な説明】
【００１０】
【図１Ａ】図１Ａは、使用時の例示的深度検出センサを示す。
【図１Ｂ】図１Ｂは、いくつかの実施形態による、物体に入射する光が拡散および／または鏡面反射によって反射され得る様子を示す。
【図１Ｃ】図１Ｃは、いくつかの実施形態による、投影システムによって照明される異なるタイプの物体の実施例を示す。
【図２Ａ】図２Ａは、いくつかの実施形態による、２つのプロジェクタを含む、投影システム１０２を示す。
【図２Ｂ】図２Ｂは、いくつかの実施形態による、例示的照明パターンＡおよびＢを示す。
【図２Ｃ】図２Ｃは、いくつかの実施形態による、照明パターンＣおよびＤを示す。
【図２Ｄ】図２Ｄは、いくつかの実施形態による、照明パターンＥ、Ｆ、およびＧを示す。
【図２Ｅ】図２Ｅは、いくつかの実施形態による、離散ピクセルまたはサンプリング点が複数の照明パターンを横断して分散され得る様子を示す。
【図３Ａ】図３Ａ−３Ｃは、いくつかの実施形態による、それぞれが光源の正面に位置付けられる光成形構成要素の群から成る、種々の光学アセンブリ実施形態を示す。
【図３Ｂ】図３Ａ−３Ｃは、いくつかの実施形態による、それぞれが光源の正面に位置付けられる光成形構成要素の群から成る、種々の光学アセンブリ実施形態を示す。
【図３Ｃ】図３Ａ−３Ｃは、いくつかの実施形態による、それぞれが光源の正面に位置付けられる光成形構成要素の群から成る、種々の光学アセンブリ実施形態を示す。
【図４Ａ】図４Ａ−４Ｂは、いくつかの実施形態による、図３に描写される光学アセンブリに類似する、光源毎に光学アセンブリを組み込む２つの光源を伴う、プロジェクタアセンブリを示す。
【図４Ｂ】図４Ａ−４Ｂは、いくつかの実施形態による、図３に描写される光学アセンブリに類似する、光源毎に光学アセンブリを組み込む２つの光源を伴う、プロジェクタアセンブリを示す。
【図５Ａ】図５Ａ−５Ｃは、いくつかの実施形態による、屈曲光学系を利用する、複数の光源プロジェクタアセンブリの図を示す。
【図５Ｂ】図５Ａ−５Ｃは、いくつかの実施形態による、屈曲光学系を利用する、複数の光源プロジェクタアセンブリの図を示す。
【図５Ｃ】図５Ａ−５Ｃは、いくつかの実施形態による、屈曲光学系を利用する、複数の光源プロジェクタアセンブリの図を示す。
【図６Ａ】図６Ａ−６Ｂは、いくつかの実施形態による、単一光源を使用する、投影アセンブリの側面図を示す。
【図６Ｂ】図６Ａ−６Ｂは、いくつかの実施形態による、単一光源を使用する、投影アセンブリの側面図を示す。
【図７】図７は、いくつかの実施形態による、前述の深度検出システムの異なる構成要素間の相互作用を描写する、略図を示す。
【発明を実施するための形態】
【００１１】
（具体的な実施形態の詳細な説明）
本願による、方法および装置の代表的用途が、本節に説明される。これらの実施例は、文脈を追加し、説明される実施形態の理解を補助するためだけに提供されている。したがって、説明される実施形態は、これらの具体的詳細の一部または全部を伴わずに実践されてもよいことが、当業者に明白となるであろう。他の事例では、周知のプロセスステップは、説明される実施形態を不必要に曖昧にすることを回避するために、詳細に説明されていない。他の用途も、可能性として考えられ、したがって、以下の実施例は、限定として捉えられるべきではない。
【００１２】
深度検出システムは、深度検出システムの視野内の環境を特性評価するように構成されることができる。結果として生じる特性評価は、深度検出システムに面した物体の位置およびその部分の外部形状を判定するために使用されることができる。１つのタイプの深度検出システムは、飛行時間（ＴＯＦ）カメラである。ＴＯＦカメラは、光の変調されたパルスを放射するためのプロジェクタと、センサの視野内の種々の物体から反射する光のパルスのそれぞれの一部を受光するためのセンサとを利用する。読取値をセンサから受信する、プロセッサが、光が、センサから進行し、視野内の物体のうちの１つから跳ね返り、センサに戻るまでに要する時間を判定することができる。光の速度は、既知であるため、システムは、その時間に基づいて、深度検出センサと物体との間の距離を判定することができる。残念ながら、本方法は、光が、物体から跳ね返り、直接、センサに戻るとき、距離を判定するために良好に機能するが、最初に、別の物体から跳ね返り、センサに戻る、任意の光は、深度データに不正確性を引き起こし得る。
【００１３】
本問題に対する１つの解決策は、センサにおいて受光された間接的に反射された光をフィルタリング除去し、不正確性を低減させることである。これが遂行され得る、１つの方法は、環境が光で照明される様式を調節することである。光は、投影システムによって、交互照明パターンにおいて放射され、視野内の物体の異なる部分を連続して照明することができる。いくつかの実施形態では、照明パターンは、略平行縞で配列されることができるが、異なるパターンもまた、可能性として考えられる。縞はそれぞれ、各縞とほぼ同一厚さを有する間隙によって分離されることができる。このように、視野の約半分は、照明パターンが放射される度に照明されることができる。異なる縞および間隙厚さが、使用されることができるが、一連の異なる照明パターンの間のある時点において、視野の各部分は、照明されないべきであることを理解されたい。光の特定のパターンによって照明されるべきではないフレームのエリアから戻る、任意の光は、反射された光を識別するために使用されることができる。異なる照明パターンが、反射された光が以前に検出された物体のその部分を照明すると、反射された光は、検出された光から除かれ、直接、投影システムから物体に進行し、そこからセンサに戻る、光のその部分のみを識別することができる。任意の他の光は、センサの視野を伴うエリアの深度マップを作成する目的のために、無視されることができる。このように、深度データの正確度は、実質的に改良されることができる。
【００１４】
前述の方法を実施するための投影システムは、照明パターンを生成するために、２つ以上の光源を含むことができる。いくつかの実施形態では、投影システムは、変化する条件に追従するために、非常に迅速に動作するように構成されることができる。例えば、いくつかの実施形態では、光源は、１００パルス／秒超を放射するように構成されることができる。投影システムと関連付けられたセンサは、戻って来るにつれて光を捕捉するように構成されることができ、センサのピクセルのそれぞれが同時に読み取られることを可能にする、グローバルシャッタを有することができる。このように、ピクセルを連続して読み取ることに起因して導入される、任意の誤差は、回避されることができる。
【００１５】
いくつかの実施形態では、光源は、単一プロジェクタ筐体内に組み込まれることができる。光源を単一プロジェクタ内にパッケージ化することは、２つ以上の別個の投影ユニットのうちの１つが、他のユニットと異なる量で衝突または競合し、照明パターンの不整合をもたらす、状況を防止する。複数の照明パターンを投影するように構成される、単一プロジェクタの若干の整合変化は、センサ視野の一部が照明パターンによって被覆されない結果をもたらし得るが、センサ視野の大部分は、照明パターンの整合を損なわせずに、被覆されたままであり得る。いくつかの実施形態では、単一プロジェクタ筐体は、光源間の分離を広範囲の温度にわたって一貫して保つ低熱膨張係数を伴う、一体型剛性基板を含むことができる。光源はそれぞれ、光を種々の照明パターンに指向する、異なる光学系を有することができる。いくつかの実施形態では、偏移光学系を有する単一光源を伴う、投影システムが、使用されることができる。そのような実施形態では、光学系は、２つ以上の位置間で発振し、２つ以上の照明パターンを単一光源からもたらすことができる。
【００１６】
これらおよび他の実施形態は、図１Ａ−７を参照して下記に議論される。しかしながら、当業者は、これらの図に関して本明細書に与えられる発明を実施するための形態は、説明目的のためだけのものであり、限定として解釈されるべきではないことを容易に理解するであろう。
【００１７】
図１Ａは、使用時の例示的深度検出システム１００を示す。深度検出システム１００は、投影システム１０２と、センサ１０４とを含む。投影システム１０２は、光を物体１０６に向かって放射するように構成されることができる。いくつかの実施形態では、投影システム１０２によって放射される光は、赤外線光または近赤外線光であることができる。投影システム１０２によって放射される光は、センサ１０４の視野に対応する広いエリアを被覆するように構成されることができるため、例示的光波１０８は、壁１１０から跳ね返り得るが、壁１１０の角度に起因して、光波１０８は、描写されるように、壁１１０から反射して戻る代わりに、物体１０６から跳ね返り、次いで、センサ１０４に戻り得る。これは、特に、物体１０６が、物体１０６に入射する光を散乱させる、不規則表面（すなわち、湾曲または円筒形表面）を有するとき、問題となり得る。反射された光の散乱は、描写されるように、反射された光がセンサ１０４に戻る尤度を増加させる。
【００１８】
図１Ｂは、物体１０６に入射する光が、拡散および／または鏡面反射によって反射され得る様子を示す。平坦表面は、概して、鏡面反射を生成するために必要とされるが、平坦表面はまた、物体１０６の表面の下方に位置する散乱中心に起因して、ある程度の拡散反射を生成する傾向にある。湾曲または変動表面は、多くの方向に散乱する、さらにより多くの拡散反射を生成する。壁１１０から反射された光が直接光と区別されることが困難であり得る、理由のうちの１つは、壁１１０の表面が比較的に平坦であるとき、実質的量の光波１０８が、壁１１０からの鏡面反射として反射され、それによって、光波１０８から物体１０６において結果として生じる拡散反射に、光波１１２から生じる物体１０６において結果として生じる拡散反射と類似強度を持たせ得るためである。プロジェクタから物体１０６に進み、次いで、壁１１０から跳ね返り、センサに向かって戻る、光は、壁１１０がセンサ視野内にない場合、問題と見なされないことに留意されたい。そのような場合では、センサに進入する光の高入射角は、センサが特定の視野から到着する光のみを受光するように構成されることに起因して、センサによって検出されないであろう。高入射角光は、センサにわたって位置付けられるシュラウドまたは集光レンズを使用して、センサに到達しないように防止されることができる。
【００１９】
図１Ｃは、投影システム１０２によって照明された異なるタイプの物体の実施例を示す。第１の列の画像は、物体から反射され、センサ１０４によって捕捉された光の全てを使用して生成された画像を示す。第２の列における画像は、直接、物体から反射された光のみを示す。第３の列における画像は、センサ視野内の物体に衝突することに先立って、最初に、他の物体から反射された光（間接光）のみを示す。第１の行の卵の写真は、拡散相互反射の実施例を提供する。卵の球状形状は、卵のそれぞれの表面に衝打する光によって生成された拡散反射の量を強調する。特に、第１の行からの間接光画像は、卵の下側縁が実質的量の間接光を捕捉し、その結果、センサからより遠く離れて現れ得る様子を示す。第２の行の木製ブロックの写真は、拡散および鏡面相互反射の両方の実施例を提供する。木製ブロックの平坦表面は、ある量の鏡面反射をもたらす一方、ブロックの下層木目構造および角は、拡散相互反射をもたらす。最後に、第３の行のピーマンは、表面下散乱が、少量の光のみを、直接、センサ１０４に戻るように反射させる様子を示す。本限定された量の直接光は、センサ１０４とピーマンとの間の実際の距離を判定するために、間接光のフィルタリング除去をさらにより重要にし得る。図１Ｃは、元々は、Ｋｒｉｓｈｎａｎによる記事「Ｆａｓｔ  Ｓｅｐａｒａｔｉｏｎ  ｏｆ  Ｄｉｒｅｃｔ  ａｎｄ  Ｇｌｏｂａｌ  Ｃｏｍｐｏｎｅｎｔｓ  ｏｆ  ａ  Ｓｃｅｎｅ  ｕｓｉｎｇ  Ｈｉｇｈ  Ｆｒｅｑｕｅｎｃｙ  Ｉｌｌｕｍｉｎａｔｉｏｎ」の一部として公開されている。
【００２０】
図２Ａは、投影システム１０２を示し、これは、プロジェクタ２０２および２０４を含む。プロジェクタ２０２および２０４は、相補的照明パターンＡおよびＢを放射するために使用されることができる。照明パターンＡおよびＢは、照明パターンの一方のみが任意の所与の時間にアクティブであるように、連続してパルス化されることができる。いくつかの実施形態では、照明パターンは、交互パターンにおいて（例えば、Ａ、Ｂ、Ａ、Ｂパターンにおいて）パルス化されることができる。パルス化放射はまた、変調され、パルス化放射を他の周囲光源と区別することに役立つことができる。その結果、照明パターンＡが、アクティブであるとき、照明パターンＡ外の任意のエリアは、光を欠いているはずである。しかしながら、概して、最初に、他の表面から反射する照明パターンＡの一部と、ある環境では、他の周囲光とが、直接、照明パターンＡによって照明されていないエリアから反射し、センサ１０４によって検出され得る。物体１０６の照明されていないエリア内で検出された本反射された光は、続いて、照明パターンＢがアクティブであるとき、反射された光を識別するために使用されることができる。同様に、照明パターンＢが、アクティブであるとき、照明パターンＢ外から到着する反射された光は、続いて、照明パターンＡの次のパルスの間、反射された光を識別するために使用されることができる。したがって、一般に、アクティブ照明パターン外から生じる検出された反射された光または間接光（ＩＩＮＤＩＲＥＣＴ）が、記録されることができる。次の照明パターンが、アクティブ化すると、現在のアクティブ照明パターンから以前に記録された間接光（ＩＩＮＤＩＲＥＣＴ）は、等式（１）に従って、アクティブ照明パターンから受光された光の全て（ＩＴＯＴＡＬ）から除かれ、直接光を識別することができる。
ＩＩＮＤＩＲＥＣＴ＝ＩＴＯＴＡＬ−ＩＩＮＤＩＲＥＣＴ      等式（１）
【００２１】
いくつかの実施形態では、物体１０６から反射し、センサ１０４の中に戻る任意の周囲光は、照明パターンと関連付けられた変調に合致しない光を除外することによって、フィルタリング除去されることができることに留意されたい。
【００２２】
図２Ｂは、例示的照明パターンＡおよびＢを示す。照明パターンＡおよびＢの強度は、垂直位置の関数として、正弦波パターンにおいて分散されることができる。描写されるように、照明パターンＡは、照明パターンＢと１８０度位相がずれており、照明パターンＢが最小強度値にあるとき、最大強度値を有する照明パターンＡをもたらすことができる。このように、２つの照明パターンが、同時に放射される場合、実質的に均一光パターンが、もたらされるであろう。グラフ２０６は、照明パターンＡを図示する一方、グラフ２０８は、照明パターンＢを図示する。数学的に、組み合わせられたパターンの強度は、強度値に、１と等しい実質的に一定の値を持たせるであろう。より一般的には、照明強度は、等式（２）を使用してモデル化されることができる。
【数２】
2019529924.tif 000003
【００２３】
等式（２）では、ｉは、計算されている合計Ｎ個の照明パターンのうちの照明パターンを示す。Ａ０は、照明パターンの振幅である。ｆは、光のバーの空間周波数である。βは、センサの垂直視野の角度である。Φｉは、照明パターンに関する位相偏移を表し、その値は、等式（３）によって判定される。
【数３】
2019529924.tif 000004
【００２４】
理解され得るように、等式（３）は、位相偏移が、２つのパターンに関して１８０度であり、３つのパターンに関して１２０度であり、４つのパターンに関して９０度であり、以降同様に続き得ることを明確にする。一般に、より多くの照明パターンは、より正確な結果を達成するために使用されることができる。さらに、いくつかの実施形態では、位相偏移はまた、異なる様式において変動されることができる。
【００２５】
図２Ｃは、照明パターンＣおよびＤを示す。照明パターンＣおよびＤの強度プロファイルは、正弦波の代わりに、台形である。急速に上昇および下降する強度を有することによって、照明パターンＣおよびＤの光のバー間におけるより急峻な遷移が、達成されることができる。より鮮明な遷移は、下記により詳細に説明されるであろうように、間接光を直接光からフィルタリングするときに、曖昧性を最小限にする際に有益であり得る。
【００２６】
図２Ｄは、照明パターンＥ、Ｆ、およびＧを示す。照明パターンＥ、Ｆ、およびＧの強度は、垂直に分散され、したがって、照明パターンＦは、照明パターンＥから１２０度位相がずれる。このように、連続する光のバーは、垂直に、但し、性質上相補的ではなく、偏移されることができる。グラフ２１４、２１６、および２１８は、個別の照明パターンＥ、Ｆ、およびＧが、垂直位置に従って変動する量を定量的に示す。第３の照明パターンは、第３の光源によって、または偏移し、第２および第３のパターンの両方をもたらし得る光学系によって生成されることができる。
【００２７】
図２Ｅは、離散ピクセルまたはサンプリング点が、複数の照明パターンを横断して分散され得る様子を示す。拡大図２２０は、照明パターンＡおよびＢ内で分散される３つの異なるサンプリング点ｐ１、ｐ２、およびｐ３を示す。サンプリング点のそれぞれにおける間接光は、ピクセル／サンプリング点毎にいくつかの計算を実施することによって識別されることができる。特に、等式（４）は、各シーケンシャル照明パターンの間、センサによって収集された光Ｓｉを総和するために使用されることができる。
【数４】
2019529924.tif 000005
【００２８】
等式（５）が、次いで、各照明パターンの強度が正弦波状に変動するときの直接光の量を計算するために使用されることができる。
【数５】
2019529924.tif 000006
【００２９】
等式（５）は、１セットの照明パターンのスパンにわたって放射される光の総量を表すために、照明パターンのそれぞれがアクティブであるときに受光された光の各成分の振幅を総和する。２つの照明パターン投影システムでは、減算される画像は、照明パターンＢがアクティブであるときの照明パターンＡ内から検出された反射された光と、照明パターンＡがアクティブであるときに照明パターンＢ内から検出された反射された光とを表す。２セットの反射された光をともに加算することによって、視野全体を横断して反射された光の分布が、判定されることができる。一般に、本計算は、アクティブである照明パターンにかかわらず、反射された光が実質的に同一のままであると仮定する。その結果、減算される画像を総光から減算し、視野内の直接光を識別する。等式（６）は、計算される直接光（Ｄ）を総光（Ｔ）から減算することによって、間接光（Ｉ）が計算され得る方法を示す。
Ｉ＝Ｔ−Ｄ−ｃｏｎｓｔ［ＧＬ］      等式（６）
【００３０】
いくつかの実施形態では、ｃｏｎｓｔ［ＧＬ］は、総光から減算されることができる。本定数は、随意に、センサ視野内の間接光を識別するとき、グレーレベルバイアスを除去するために使用されることができる。いくつかの実施形態では、グレーレベルバイアスを除くことは、センサによって検出される深度データの正確度を改良することができる。グレーレベルバイアスは、周期的に較正され、深度検出システム作業を良好に保ち得る、工場設定または値であることができる。
【００３１】
図２Ｅはまた、位置ｐ２における深度検出が、２つのみの照明パターンを伴うシステムにとって問題となり得る様子を実証する。照明パターン間の境界から安全に離れて置かれているｐ１およびｐ３に関して、間接光除外は、検討するために２つのみの照明パターンが存在するため、簡単であり得る。ｐ１に関して、照明パターンＡが、アクティブであるとき、受信される信号は、直接光＋任意の反射された光と等しい。照明パターンＢが、アクティブであるとき、ｐ１における受信される信号は、ゼロ直接光＋任意の反射された光と等しい。直接光は、２つの信号間の差異を求めることによって計算されることができる。これは、反射された光が相殺され、照明パターンＢの間の直接光がゼロと等しいため、直接光のみをもたらす。ｐ３に関して、計算は、類似様式において作用し、直接光のみをもたらす。残念ながら、照明パターン間の界面にちょうど位置する、ｐ２では、パターンＡおよびＢの両方からの直接光は、ほぼ同一強度において検出されるであろう。これは、値の差異を求めることがゼロ値をもたらすことを意味する。さらに、界面近傍のエリアもまた、照明パターンの両方からの直接光が実質的量において存在する度に、ある程度の不正確性に悩まされるであろう。その結果、鋭的境界を照明パターン間に伴う照明パターンは、より少ない不正確性を照明パターン間の界面に有するであろう。しかしながら、界面近傍の点に関する直接光値は、依然として、補間によって計算されることができる。ｐ３に関する直接光値は、ｐ４およびｐ５に関する直接光値からの補間によって計算されることができる。概して、ｐ４およびｐ５は、可能な限りｐ２に近くあるべきである。例えば、プロセッサは、所定の閾値を下回る照明パターンＢからの直接光の量を伴う補間点ｐ４を選択するように構成されることができる。
【００３２】
図３Ａは、第１の光学アセンブリ３００を示し、これは、光源３０２の正面に位置付けられる光成形構成要素の群から成る。いくつかの実施形態では、光源３０２は、赤外線レーザダイオードであることができる。光源３０２は、第１の光成形構成要素である、コリメートレンズ３０４を通して通過する、光を放射する。コリメートレンズ３０４は、光源３０２によって放射される光３０６を、第２の光成形構成要素である、屈折光学要素３０８に向かって集束させるように構成されることができる。屈折光学要素３０８は、集束された光３０６を角度θだけ傾斜させ、光を垂直に伸長し、第３の光成形構成要素である、回折光学要素３１２に指向される、優ガウス性ビーム３１０を生成する。回折光学要素３１２は、次いで、優ガウス性ビーム３１０を増大させる。優ガウス性３１０は、例証目的のために、５倍に倍増されるように描写されるが、本数は、変動することができる。例えば、いくつかの実施形態では、回折光学要素３１２は、優ガウス性ビームを２５倍に倍増するように構成されることができる。倍増された優ガウス性ビーム３１０の数および厚さは、関連付けられた撮像センサの垂直視野に合致するように選択されることができる。優ガウス性ビームが、マイクロレンズアレイ３１４を通して通過すると、マイクロレンズアレイ３１４は、描写されるように、各優ガウス性ビームを水平に拡散させ、領域３１６を照明する、照明パターンをもたらす。マイクロレンズアレイ３１４は、両面（描写されるように）、片面、または円筒形であることができる。いくつかの実施形態では、領域３１８および領域３１６は、ほぼ同一サイズであることができる。第２の光学アセンブリからの光は、領域３１８を照明するように構成されることができる。いくつかの実施形態では、光学アセンブリは、水平領域３１６および３１８のうちの１つが任意の所与の時間に照明されるように、相補的パターンにおいて光を放射することができる。
【００３３】
図３Ｂは、第２の光学アセンブリ３２０を示し、これは、光源３２２の正面に位置付けられる光成形構成要素の群から成る。いくつかの実施形態では、光源３２２は、赤外線レーザダイオードであることができる。光源３２２は、第１の光成形構成要素である、コリメートレンズ３２４を通して通過する、光を放射する。コリメートレンズ３２４は、光源３２２によって放射される光３２６を、第２の光成形構成要素である、屈折光学要素３２８に向かって集束させるように構成されることができる。屈折光学要素３２８は、集束された光３２６を角度−θだけ傾斜させ、光を垂直に伸長し、第３の光成形構成要素である、回折光学要素３３２に指向される、優ガウス性ビーム３３０を生成する。いくつかの実施形態では、優ガウス性ビーム３３０を優ガウス性ビーム３１０の方向と反対方向に配向することは、光源間のクロストークのリスクを低減させることができる。回折光学要素３３２は、次いで、優ガウス性ビーム３３０を増大させる。優ガウス性ビーム３３０は、例証目的のために、倍増される５倍に倍増されるように描写されるが、本数は、変動することができる。例えば、いくつかの実施形態では、回折光学要素３１２は、優ガウス性ビームを２５倍に倍増するように構成されることができる。倍増された優ガウス性ビーム３３０の数および厚さは、関連付けられた撮像センサの垂直視野に合致するように選択されることができる。優ガウス性ビームが、マイクロレンズアレイ３３４を通して通過すると、マイクロレンズアレイ３３４は、描写されるように、各優ガウス性ビームを水平に拡散し、領域３１８を照明する、照明パターンを作成する。このように、光源３２２および３０２は、領域３１６および３１８を協働して照明することができる。領域３１６および３１８の照明は、異なるパターンにおいて互い違いであることができる。例えば、領域３１６および３１８は、光がほぼ同一時間量にわたって両領域内で輝くように、連続して照明されることができる。
【００３４】
図３Ｃは、別の光学アセンブリ３４０を示し、これは、光源３４２の正面に位置付けられる３つの光成形構成要素から成る。いくつかの実施形態では、光源３４２は、赤外線レーザダイオードであることができる。光源３４２は、コリメートレンズ３４４の形態をとる第１の光成形構成要素を通して通過する、光を放射する。コリメートレンズ３４４は、光学要素３４８の形態をとる第２の光成形構成要素に向かって進行する、光源３４２によって放射される光３４６をコリメートするように構成されることができる。光学要素３４８は、光学要素３４８の第１の側上の屈折表面３５０と、光学要素３４８の第２の側上の回折表面３５２の両方を含むことができる。屈折表面３５０および回折表面３５２は、ガラスまたはポリカーボネート基板の両側上に成型されたポリマー材料の形態をとることができる。コリメートされた光３３６が、屈折表面３４０を通して通過すると、光は、角度θだけ傾斜され、光学要素３４８内の優ガウス性ビーム３５４に伸長される。優ガウス性ビーム３５４が、回折表面３５２を通して通過すると、優ガウス性ビーム３５４は、複数の優ガウス性ビーム３５４に倍増されることができる。優ガウス性ビーム３５４が、マイクロレンズアレイ３５６を通して通過すると、マイクロレンズアレイ３５６は、描写されるように、各優ガウス性ビーム３５４を水平に拡散し、領域３１６を照明する、照明パターンをもたらす。このように、光源３４２は、領域３１６を照明する。
【００３５】
図４Ａ−４Ｂは、光源毎に、光学アセンブリ３００に類似する光学アセンブリを組み込む、２つの光源を伴う、プロジェクタアセンブリ４００を示す。図４Ａは、投影アセンブリ４００の上面図を示す。投影アセンブリ４００は、光源４０２および４０４を含む。光源４０２および４０４は両方とも、剛性基板４０６に搭載されることができる。いくつかの実施形態では、剛性基板４０６は、アルミナセラミックから形成されることができる。剛性基板４０６は、光源４０２および４０４を相互に対する位置を偏移させないように保つ。剛性基板４０６はまた、光学アセンブリに対する光源４０２および４０４の偏移を低減させる、低熱膨張係数を有することができる。
【００３６】
光源４０２は、光を光学アセンブリ４１０に向かって集束させる、二重コリメートレンズ４０８の第１の部分を通して、光を放つ。二重コリメートレンズ４０８の第２の部分は、光源４０４によって放射される光を光学アセンブリ４１２に向かって集束させる。いくつかの実施形態では、二重コリメートレンズ４０８は、同一機能を遂行する、２つの別個のコリメートレンズによって置換されることができる。光学アセンブリ４１０および４１２はそれぞれ、各光源からの光をある照明パターンにおいて拡散するために、３０８に類似する屈折光学要素と、３１２に類似する回折光学要素と、３１４に類似するマイクロレンズアレイとを含むことができる。光学アセンブリ４１０は、照明パターンが相補的であるように、光学アセンブリ４１２と若干異なり、光源４０４によって生成された照明パターンを光源４０２によって生成された照明パターンから垂直にオフセットさせることができる。これは、１つの照明パターンからの光のバーが、他の照明パターンの光のバー間に位置付けられることを可能にする。このように、光源４０２および４０４によって生成された照明パターンは、表面を均一に被覆するように協働する。いくつかの実施形態では、屈折光学要素は、光源４０４からの光を光源４０２によって生成された光と反対方向に偏移させることができる。
【００３７】
プロジェクタアセンブリ４００はまた、ＰＣＢ４１６上に搭載され、光源４０２および４０４からの出力を同期させるように構成される、プロセッサ４１４を含むことができる。例えば、プロセッサ４１４は、ＰＣＢ４１６に搭載され、光源４０２および４０４に、照明パターンのいずれも同時にアクティブではないように、光の互い違いパルスを送光するように指示するように構成されることができる。プロセッサ４１４はまた、光源４０４の変調を指示し、深度センサが他の周囲光源からの光のパルスを区別することに役立つことができる。いくつかの実施形態では、プロセッサ４１４はまた、センサの視野内の物体から反射された後、光のパルスを受光するように構成される、センサと通信することができる。
【００３８】
図４Ｂは、投影アセンブリ４００の側面図を示す。特に、光源４０４は、剛性基板４０６によって持ち上げられて示される。剛性基板は、ＰＣＢ４１６によって画定された切り欠きの中に挿入されることができる。剛性基板４０６はまた、プロジェクタアセンブリ４００のプロジェクタ筐体４１８のための基部を形成することができる。プロジェクタ筐体４１８は、二重コリメートレンズ４０８を支持するための段部４２０を画定することができる。
【００３９】
図５Ａ−５Ｂは、屈曲光学系を利用する、複数の光源プロジェクタアセンブリ５００の図を示す。図５Ａは、プロジェクタアセンブリ５００が、２つの別個のセットの光学系、すなわち、光学アセンブリ４１０および４１２を含む様子を示し、これは、コリメートレンズ４０８の屈曲光学系５０２から放射される光を受光する。屈曲光学系５０２は、光経路５０４を側方に偏移させ、それによって、プロジェクタアセンブリ５００の高さにおける全体的低減を可能にすることによって、光源４０２および４０４がコリメートレンズ４０８のより近くに位置付けられることを可能にする。
【００４０】
図５Ｂは、光経路５０４を側方に偏移させることによって、プロジェクタアセンブリ５００の高さが、低減され、それによって、プロジェクタアセンブリ５００がより小さい形状因子のデバイス内にパッケージ化されることを可能にし得る様子を示す。特に、側方に偏移された光経路５０４は、光経路の長さが水平および垂直区画に分割されることを可能にする。プロジェクタアセンブリ５００の全体的高さは、水平区画内の光経路の部分がプロジェクタアセンブリ５００の全体的高さ内に組み込まれる必要がないため、低減される。屈曲光学系５０２を通した光経路の方向は、光学反射表面５０６によって再指向され、これは、光を水平配向から垂直配向に再配向する。いくつかの実施形態では、光学反射表面５０６は、鏡面化されることができる。
【００４１】
図５Ｃは、プロジェクタアセンブリ５１０を示し、これは、プロジェクタアセンブリ５００より低い全体的高さを有することができる。コリメートレンズ４０８は、屈曲光学系５０２および円筒形レンズ表面５０８の両方を含むことができる。円筒形レンズ表面５０８は、コリメートレンズ４０８に進入する光の幅を狭めることによって、光源４０４によって放射される光を部分的にコリメートすることができる。屈曲光学系５０２は、光源４０４によって放射される光の狭められたビーム幅に起因して、垂直により短くあることができる。光は、次いで、コリメートレンズ４０８から退出することに応じて、完全にコリメートされた状態になる。このように、コリメートレンズ４０８の高さは、低減されることができる。
【００４２】
図６Ａ−６Ｂは、単一光源６０２を使用する、投影アセンブリ６００の側面図を示す。図６Ａは、非アクティブ構成における、投影アセンブリ６００を示す。投影アセンブリ６００のみが、２つの異なる照明パターンをもたらすために、単一光源６０２を含むため、投影アセンブリ６００は、２つの相補的照明パターンをもたらすように構成される、線形作動式光学系６０６を含む。光学系６０６は、圧電モータ６０８によって、線形に作動されることができ、これは、図６Ｂに示される２つの位置においてリンケージ６１０を回転させることによって、２つ以上の位置間で光学系６０６を作動させる。圧電モータ６０８は、光源６０２が相補的照明パターン６１２および６１４を連続して投影することを可能にする率において、光学系６０６を往復して発振するように構成されることができる。光源６０２は、光学系６０６が相補的照明パターンのうちの１つに対応する位置にあるときのみ、光源６０２が光を放射するように、光学系６０６の発振率と同期されることができる。２つのみの照明パターンが、示されるが、圧電モータ６０８はまた、３つ以上の異なる照明パターンを定義するように構成されることができることに留意されたい。
【００４３】
図７は、上記に説明される深度検出システムの異なる構成要素間の相互作用を描写する、略図を示す。フローチャートの上部は、相互作用の開始を示し、フローチャートの下に向かって移動するように進む。深度検出システムのプロジェクタは、交互する第１および第２の照明パターンを送光する。深度検出システムのセンサ視野内の物体は、第１および第２の照明パターンの一部を反射させ、深度検出システムのセンサの中に戻す。直接、プロジェクタから物体に進行し、戻る光（直接光）は、センサに戻ることに先立って、別の表面から跳ね返る光（間接光）が到着する前に、センサに帰着するであろう。その結果、飛行時間深度検出システムは、間接光が検討されるとき、センサからの物体の距離を正しくなく増加させるであろう。センサは、次いで、第１および第２の照明パターンから受光された光をプロセッサに送光する。プロセッサは、次いで、センサとセンサ視野内の物体との間の距離を判定するとき、直接、プロジェクタから物体に進行し、センサに戻る光のみが、検討されるように、間接光を受光された総光からフィルタリング除去するように構成されることができる。プロセッサは、次いで、センサ視野内の物体を深度検出センサと関連付けられたディスプレイの適切な深度平面に割り当てることができる。最後に、プロセッサは、画像をセンサ視野内の種々の物体に対応する深度平面に送信することができる。
【００４４】
説明される実施形態の種々の側面、実施形態、実装、または特徴は、別個に、または任意の組み合わせにおいて使用されることができる。説明される実施形態の種々の側面は、ソフトウェア、ハードウェア、またはハードウェアとソフトウェアの組み合わせによって実装されることができる。説明される実施形態はまた、製造動作を制御するためのコンピュータ可読媒体上のコンピュータ可読コードとして、または製造ラインを制御するためのコンピュータ可読媒体上のコンピュータ可読コードとして、具現化されることができる。コンピュータ可読媒体は、その後、コンピュータシステムによって読み取られ得る、データを記憶し得る、任意のデータ記憶デバイスである。コンピュータ可読媒体の実施例は、読取専用メモリ、ランダムアクセスメモリ、ＣＤ−ＲＯＭ、ＨＤＤ、ＤＶＤ、磁気テープ、および光学データ記憶デバイスを含む。コンピュータ可読媒体はまた、コンピュータ可読コードが分散型方式において記憶および実行されるように、ネットワークで結合されたコンピュータシステムにわたって分散されることができる。
【００４５】
前述の説明は、説明目的のために、具体的命名法を使用して、説明される実施形態の完全な理解を提供する。しかしながら、具体的詳細は、説明される実施形態を実践するために要求されないことが、当業者に明白となるであろう。したがって、具体的実施形態の前述の説明は、例証目的および説明のために提示される。それらは、包括的であること、または説明される実施形態を開示される精密な形態に限定することを意図するものではない。多くの修正および変形例が、前述の教示に照らして、可能性として考えられることが、当業者に明白となるであろう。
【図１Ａ】
2019529924.tif 000007
【図１Ｂ】
2019529924.tif 000008
【図１Ｃ】
2019529924.tif 000009
【図２Ａ】
2019529924.tif 000010
【図２Ｂ】
2019529924.tif 000011
【図２Ｃ】
2019529924.tif 000012
【図２Ｄ】
2019529924.tif 000013
【図２Ｅ】
2019529924.tif 000014
【図３Ａ】
2019529924.tif 000015
【図３Ｂ】
2019529924.tif 000016
【図３Ｃ】
2019529924.tif 000017
【図４Ａ】
2019529924.tif 000018
【図４Ｂ】
2019529924.tif 000019
【図５Ａ】
2019529924.tif 000020
【図５Ｂ】
2019529924.tif 000021
【図５Ｃ】
2019529924.tif 000022
【図６Ａ】
2019529924.tif 000023
【図６Ｂ】
2019529924.tif 000024
【図７】
2019529924.tif 000025
【国際調査報告】
2019529924.tif 000026