(57)【要約】  環境から情報を取得するシステムであって、少なくとも１つのビームを生成する光源と、少なくとも１つのビームを、環境に投射可能な歪んだ光パターンに変換する第１の光学系と、環境から戻り、環境の少なくとも１つの表面によって変形された歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第２の光学系と、を備えている、システム。【選択図】  図１
2020527230.tif 000002
【特許請求の範囲】
【請求項１】
環境から情報を取得するシステムであって、
（ａ）少なくとも１つのビームを生成する光源と、
（ｂ）前記少なくとも１つのビームを、環境に投射可能な歪んだ光パターンに変換する第１の光学系と、
（ｃ）前記環境から戻り、前記環境の少なくとも１つの表面によって変形された前記歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第２の光学系と、
を備えている、システム。
【請求項２】
前記第１の光学系が、前記少なくとも１つのビームを構造化光パターンに変換し、前記構造化光パターンを歪めて、前記歪んだ光パターンを生成する、請求項１に記載のシステム。
【請求項３】
前記補正されたパターンが、前記構造化パターンと実質的に同じである、請求項２に記載のシステム。
【請求項４】
前記歪んだ光パターンが、前記構造化光パターンの投射角度より大きい画角を有する、請求項２に記載のシステム。
【請求項５】
前記歪んだ光パターンの前記画角が、５０度と２２０度の間である、請求項２に記載のシステム。
【請求項６】
前記構造化光パターンが、半径方向に歪められて前記歪んだ光パターンにされる、請求項２に記載のシステム。
【請求項７】
前記第１の光学系が第１の魚眼レンズを含む、請求項１に記載のシステム。
【請求項８】
前記第１の光学系が回折光学素子（ＤＯＥ）を含む、請求項７に記載のシステム。
【請求項９】
前記第２の光学系が第２の魚眼レンズを含む、請求項７に記載のシステム。
【請求項１０】
前記第１の魚眼レンズおよび／または前記第２の魚眼レンズが、アフォーカルである、請求項９に記載のシステム。
【請求項１１】
前記第２の魚眼レンズの光学特性が、前記第１の魚眼レンズの光学特性と実質的に同じである、請求項９に記載のシステム。
【請求項１２】
前記ＤＯＥが、前記第１の魚眼レンズの開口面内に位置している、請求項８に記載のシステム。
【請求項１３】
前記第２の光学系によって生成される前記補正された画像を捕捉する撮像センサ、
をさらに備えている、請求項１に記載のシステム。
【請求項１４】
前記撮像センサが、前記表面に形成されるスペックル場を、焦点が合った状態でマッピングするように構成されている、請求項１３に記載のシステム。
【請求項１５】
前記補正された光パターンから、輪郭情報、深さ情報、および表面振動情報の少なくとも１つを導く処理ユニット、
をさらに備えている、請求項１に記載のシステム。
【請求項１６】
前記光源がコリメートレンズを含む、請求項１に記載のシステム。
【請求項１７】
前記少なくとも１つのビームが、８００ｎｍより長い波長を有する、請求項１に記載のシステム。
【請求項１８】
前記少なくとも１つの表面によって変形された前記補正された光パターンを含む前記補正された画像が分析されて、前記環境に関する情報を取得する、請求項１に記載のシステム。
【請求項１９】
車両の内部に取り付けるように構成されている、請求項１に記載のシステム。
【請求項２０】
前記補正された画像を分析して、車両乗員の総数、乗員の位置および動き、乗員の姿勢、乗員の頭部および身体部位の位置、乗員の行動、運転者の監視、チャイルドシートの存在およびその着用状態、座席上の物体の存在、前記車両内の侵入者、前記車両内に置き忘れられた幼児またはペット、の少なくとも１つを導くことができる、請求項１９に記載のシステム。
【請求項２１】
前記少なくとも１つのビームが、平行ビームおよび準平行ビームの少なくとも一方を含む、請求項１に記載のシステム。
【請求項２２】
環境から情報を取得するシステムであって、
（ａ）少なくとも１つの平行ビームを生成する光源と、
（ｂ）前記少なくとも１つのビームを構造化光パターンに変換する第１の光学部品と、前記構造化光パターンを歪めて、環境に投射可能な歪んだ光パターンにする第２の光学部品と、を含む光学系と、
を備えており、
前記歪んだ光パターンが、前記構造化光パターンより広い投射角度を有する、
システム。
【請求項２３】
前記歪んだ光パターンの前記画角が、前記構造化光パターンの投射角度の画角の少なくとも４倍である、請求項２２に記載のシステム。
【請求項２４】
前記第１の光学部品が回折光学素子（ＤＯＥ）を含み、前記第２の光学部品がアフォーカル魚眼レンズを含む、請求項２２に記載のシステム。
【請求項２５】
前記歪んだ光パターンが、半径１〜２．５ｍの球の半分をカバーする、請求項２２に記載のシステム。
【請求項２６】
前記歪みが半径方向である、請求項２２に記載のシステム。
【請求項２７】
前記構造化光パターンが、２０〜５０度の角度で投射される、請求項２４に記載のシステム。
【請求項２８】
前記歪んだ光パターンが、５０〜２２０度の角度で投射される、請求項２４に記載のシステム。
【請求項２９】
環境から情報を取得するシステムであって、
（ａ）環境から戻り、予備的な光学系によって歪められておりかつ前記環境の少なくとも１つの表面によって変形された光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する光学系と、
（ｂ）前記光学系によって投影される前記補正された画像を捕捉する撮像センサと、
を備えている、システム。
【請求項３０】
前記第１の光学部品がアフォーカル魚眼レンズを含む、請求項２９に記載のシステム。
【請求項３１】
環境から情報を取得する方法であって、
（ａ）光源によって少なくとも１つのビームを生成するステップと、
（ｂ）前記少なくとも１つのビームを、環境に投射可能な歪んだ光パターンに変換するステップと、
（ｃ）前記環境から戻り、前記環境の少なくとも１つの表面によって変形された前記歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換するステップと、
を含む、方法。
【請求項３２】
（ｄ）前記補正された画像を撮像センサによって捕捉するステップ、
をさらに含む、請求項３１に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、環境から情報を取得するシステムと、この情報を使用する方法とに関し、より詳細には、広角の歪んだパターン（ｄｉｓｔｏｒｔｅｄ  ｐａｔｔｅｒｎ）を表面に投射し、表面上の歪んだパターンから構造化パターンを取得するシステム、に関する。
【背景技術】
【０００２】
構造化光（ｓｔｒｕｃｔｕｒｅｄ  ｌｉｇｈｔ）を使用して、環境内の対象物（ｏｂｊｅｃｔｓ）の形状（ｓｈａｐｅ）、深さ、（ｄｅｐｔｈ）および動き（ｍｏｖｅｍｅｎｔ）に関連する情報を取得することは、この技術分野において周知である。
【０００３】
構造化光システムが、環境（ｅｎｖｉｒｏｎｍｅｎｔ）（本明細書では「シーン（ｓｃｅｎｅ）」とも称する）の空間内に既知のパターン（格子（ｇｒｉｄｓ）、ドットマトリクス（ｄｏｔ  ｍａｔｒｉｃｅｓ）、または複数の水平線（ｈｏｒｉｚｏｎｔａｌ  ｂａｒｓ））を投射し、対象物の表面に当たるときのパターンの変形特性（ｄｅｆｏｒｍａｔｉｏｎ  ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ）から、シーン内の対象物の深さ、形状、および動きを計算する。
【０００４】
構造化光は、（工学用途における）対象物の３Ｄスキャニング、および環境内の対象物および被検者を識別および追跡する目的に使用することができる。
【０００５】
構造化光システムは、一般には、投射器（ｐｒｏｊｅｃｔｏｒ）とカメラとの間の三角法に基づく。投射器は、既知の光パターンを３次元形状の表面上に生成する。カメラによって捕捉されるパターンは、投射器とカメラとの間の三角法効果（ｔｒｉａｎｇｕｌａｔｉｏｎ  ｅｆｆｅｃｔ）（パターンをシフトさせる）に起因して、歪んでいる。画像の各位置の歪み（シフト）を計算することによって、対象物の幾何学的形状を再構築して深さ画像を作成することができる。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】国際公開第２０１６／１０３２７１号
【発明の概要】
【課題を解決するための手段】
【０００７】
本発明の一態様によれば、環境から情報を取得するシステムであって、（ａ）少なくとも１つのビームを生成する光源と、（ｂ）（１つまたは複数の）ビームを、環境に投射可能な歪んだ光パターンに変換する第１の光学系と、（ｃ）環境から戻り、環境の少なくとも１つの表面によって変形された歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第２の光学系と、を備えている、システム、を提供する。
【０００８】
以下に説明する本発明の好ましい実施形態におけるさらなる特徴によれば、第１の光学系は、少なくとも１つのビームを構造化光パターンに変換し、この構造化光パターンを歪めて、歪んだ光パターンを生成する。
【０００９】
説明する好ましい実施形態におけるさらなる特徴によれば、補正されたパターンは、構造化パターンと実質的に同じである。
【００１０】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、構造化光パターンの投射角度より大きい画角（ａｎｇｌｅ  ｏｆ  ｖｉｅｗ）を有する。
【００１１】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンの画角は、５０度〜２２０度の範囲内である。
【００１２】
説明する好ましい実施形態におけるさらなる特徴によれば、構造化光パターンは、半径方向に歪められて歪んだ光パターンにされる。
【００１３】
説明する好ましい実施形態におけるさらなる特徴によれば、第１の光学系は、第１の魚眼レンズを含む。
【００１４】
説明する好ましい実施形態におけるさらなる特徴によれば、第１の光学系は、回折光学素子（ＤＯＥ）を含む。
【００１５】
説明する好ましい実施形態におけるさらなる特徴によれば、第２の光学系は、第２の魚眼レンズを含む。
【００１６】
説明する好ましい実施形態におけるさらなる特徴によれば、第１の魚眼レンズおよび／または第２の魚眼レンズは、アフォーカル（ａｆｏｃａｌ：無限焦点の）である。
【００１７】
説明する好ましい実施形態におけるさらなる特徴によれば、第２の魚眼レンズの光学特性は、第１の魚眼レンズの光学特性と実質的に同じである。
【００１８】
説明する好ましい実施形態におけるさらなる特徴によれば、ＤＯＥは、第１の魚眼レンズの開口面内に位置している。
【００１９】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、第２の光学系によって生成される補正された画像を捕捉する撮像センサ、をさらに備えている。
【００２０】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、補正された光パターンから、輪郭情報、深さ情報、および表面振動情報の少なくとも１つを導く処理ユニット、をさらに備えている。
【００２１】
説明する好ましい実施形態におけるさらなる特徴によれば、撮像センサは、表面に形成されるスペックル場（確定）（ｓｐｅｃｋｌｅ  ｆｉｅｌｄ）を、焦点が合った状態でマッピングするように構成されている。
【００２２】
説明する好ましい実施形態におけるさらなる特徴によれば、光源は、コリメートレンズを含む。
【００２３】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも１つのビームは、８００ｎｍより長い波長を有する。
【００２４】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、車両の内部に取り付けるように構成されている。
【００２５】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも１つの表面によって変形された補正された光パターンを含む補正された画像が分析されて、環境に関する情報を取得する。
【００２６】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、補正された画像を分析して、車両乗員の総数、乗員の位置および動き、乗員の姿勢、乗員の頭部および身体部位の位置、乗員の行動、運転者の監視（頭部の位置、手の位置、および動作を含む）、チャイルドシートの存在およびその着用状態、座席上の物体の存在、車両内の侵入者、車両内に置き忘れられた幼児またはペット、の少なくとも１つを導くことができる。
【００２７】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも１つのビームは、平行ビームまたは準平行ビームの少なくとも一方を含む。
【００２８】
本発明の別の態様によれば、環境から情報を取得するシステムであって、（ａ）少なくとも１つの平行ビームを生成する光源と、（ｂ）少なくとも１つのビームを構造化光パターンに変換する第１の光学部品と、構造化光パターンを歪めて、環境に投射可能な歪んだ光パターンにする第２の光学部品と、を含む光学系と、を備えており、歪んだ光パターンが、構造化光パターンの投射角度より広い画角を有する、システム、を提供する。
【００２９】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンの画角は、構造化光パターンの投射角度の画角の少なくとも４倍である。
【００３０】
説明する好ましい実施形態におけるさらなる特徴によれば、第１の光学部品はＤＯＥを含み、第２の光学部品はアフォーカル魚眼レンズを含む。
【００３１】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、半径１〜２．５ｍの球の半分をカバーする。
【００３２】
説明する好ましい実施形態におけるさらなる特徴によれば、歪みは半径方向である。
【００３３】
説明する好ましい実施形態におけるさらなる特徴によれば、構造化光パターンは、２０〜５０度の角度で投射される。
【００３４】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、５０〜２２０度の角度で投射される。
【００３５】
説明する好ましい実施形態におけるさらなる特徴によれば、環境から情報を取得するシステムであって、（ａ）環境から戻り、予備的な光学系によって歪められておりかつ環境の少なくとも１つの表面によって変形された光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する光学系と、（ｂ）光学系によって投影される補正された画像を捕捉する撮像センサと、を備えている、システム、を提供する。
【００３６】
説明する好ましい実施形態におけるさらなる特徴によれば、第１の光学部品は、アフォーカル魚眼レンズを含む。
【００３７】
本発明の別の態様によれば、環境から情報を取得する方法であって、（ａ）光源によって少なくとも１つのビームを生成するステップと、（ｂ）少なくとも１つのビームを、環境に投射可能な歪んだ光パターンに変換するステップと、（ｃ）環境から戻り、環境の少なくとも１つの表面によって変形された歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換するステップと、を含む、方法、を提供する。
【００３８】
説明する好ましい実施形態におけるさらなる特徴によれば、本方法は、（ｄ）補正された画像を撮像センサによって捕捉するステップ、をさらに含む。
【００３９】
本発明は、投射される１つのパターンを使用して、限定された環境から情報を取得することのできるシステム、を提供することによって、現在の公知の機器構成の欠点に対処することに成功した。
【００４０】
特に定義されていない限り、本明細書において使用されているすべての技術用語および科学用語は、本発明が属する技術分野における通常の技術を有する者によって一般的に理解されている意味と同じ意味を有する。本発明を実施または試験するとき、本明細書に記載されている方法および材料に類似するかまたは同等の方法および材料を使用してよいが、好適な方法および例示的な材料は以下に記載してある。矛盾が生じる場合、定義を含めて本特許明細書に従うものとする。さらには、これらの材料、方法、および例は、説明のみを目的としており、本発明を制限することを意図していない。
【００４１】
本発明の方法およびシステムの実施においては、選択されたタスクまたはステップを、手操作で、または自動的に、またはこれらの組合せによって、実行または完了する。さらには、本発明の方法およびシステムの好ましい実施形態の実際の機器および装置に応じて、いくつかの選択されたステップを、ハードウェアによって、または任意のオペレーティングシステム上のソフトウェアによって、または任意のファームウェアによって、またはこれらの組合せによって、実施することができる。例えば、ハードウェアとしては、本発明の選択されたステップを、チップまたは回路として実施することができる。ソフトウェアとしては、本発明の選択されたステップを、任意の適切なオペレーティングシステムを使用するコンピュータによって実行される複数のソフトウェア命令として実施することができる。いずれの場合も、本発明の方法およびシステムの選択されたステップは、データプロセッサ（複数の命令を実行するコンピューティングプラットフォームなど）によって実行されるものとして説明することができる。
【００４２】
本明細書では、本発明について、添付の図面を参照しながら一例としてのみ説明してある。以下では特定の図面を詳細に参照するが、図示されている細部は一例であり、本発明の好ましい実施形態を実例を通じて説明することを目的としているにすぎず、本発明の原理および発想に関する最も有用かつ容易に理解される説明であると考えられるために提示したものであることを強調しておく。これに関して、本発明を基本的に理解するうえで必要である以上には、本発明の構造上の細部を示すことは避けたが、当業者には、図面を参照しながらの説明によって、本発明のいくつかの形態を実際に実施する方法が明らかになるであろう。
【図面の簡単な説明】
【００４３】
【図１】本発明のいくつかの実施形態に係る、環境から情報を取得するシステムの一実施形態を概略的に示している。
【図２Ａ】本発明のいくつかの実施形態に係る、歪んでいないパターンの表面投射を示している。
【図２Ｂ】本発明のいくつかの実施形態に係る、図２Ａの歪んでいないパターンから生成された歪んだパターンの表面投射を示している。
【図２Ｃ】本発明のいくつかの実施形態に係る、図２Ｂの歪んだパターンの表面投射からの、本システムによって捕捉された補正されたパターンを示している。
【図３Ａ】格子パターンのさまざまな変形として、平坦な対象物表面における変形を概略的に示している。
【図３Ｂ】格子パターンのさまざまな変形として、凸状の対象物表面における変形（「針刺し」パターンを形成する）を概略的に示している。
【図３Ｃ】格子パターンのさまざまな変形として、凹状の対象物表面における変形（「バレル（ｂａｒｒｅｌ）」パターンを形成する）を概略的に示している。
【図４】本発明のいくつかの実施形態に係る、環境から情報を取得する方法を概略的に示している流れ図である。
【図５】本発明のいくつかの実施形態に係る、実際の格子線（黒い線）の上に投射された歪んだドットマトリクスパターン（白いドット）の画像である。
【図６Ａ】本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【図６Ｂ】本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【発明を実施するための形態】
【００４４】
本発明は、そのいくつかの実施形態においては、限定された環境から情報を取得するシステムおよび方法に関し、より具体的には、以下に限定されないが、環境に投射された歪んだ光パターンを使用することによって情報を取得することに関する。
【００４５】
本発明の原理および動作は、図面および付随する説明を参照して、より深く理解することができる。
【００４６】
本発明の少なくとも一実施形態について詳しく説明する前に、本発明は、その適用において、以下の説明に記載されている細部、または例のセクションに例示されている細部に制限されないことを理解されたい。本発明は、他の実施形態が可能である、あるいはさまざまな様式で実施または実行することができる。また、本明細書において採用されている表現および専門用語は、説明を目的としており、本発明を制限するようにはみなされないものとする。
【００４７】
構造化光システムによって取得される情報量は、投射の深さおよび距離と、調べる対象物の大きさとによって制限される。したがって構造化光システムは、車室など限定された環境のシーンを、１つのパターンを使用して効率的にカバーすることができず、なぜならこのようなシステムによって投射されるパターンの画角は限られており、画像を歪ませる広視野の写真撮影術が要求されるためである。一般的な構造化光システムは、比較的小さい距離における小さな対象物、または大きい距離における大きな対象物を調べるのに有用であるが、比較的小さい距離（１メートル未満）における人間などの大きな対象物から情報を取得することは難しいことがある。構造化光システムのこのような制限は、複数の重なり合うパターンを使用して、または１つのパターンを使用してシーンをスキャンすることによって、克服することができるが、これらの方法はプロセッサに大きな負荷がかかり、実施するためのコストも高い。複数の重なり合うパターンから情報を導くことは、パターン間の「クロストーク」の理由でプロセッサの負荷が大きいタスクであり、（広視野の写真撮影術において見られるように）いくつかの重なり合う歪んだパターンからの情報を処理する必要がある。
【００４８】
車室を完全にカバーするためには、１つのパターンが約３ｍ×１．５ｍのエリアをカバーしなければならないことが判明した。しかしながら、投射器と車室の対象物（同乗者を含む）との間の一般的な距離は３０〜２５０ｃｍであるため、対象物をカバーするのに必要な画角（１６０度）は、構造化パターンを歪ませることなく達成することはできない。
【００４９】
歪んだ投射パターンを使用してシーンから情報を取得することができるが、このようなパターンを使用する場合、情報が失われる、あるいは誤った情報が取得される（例：対象物の不正確な形状、対象物を背景と区別できない）ことがある。
【００５０】
１つのパターンを使用して、限定された環境（車室など）から情報を取得するという課題を解決するため、歪んだ光パターンを環境に投射し、次いで広角の光学系を使用して、環境の画像においてこの歪みを元に戻し、したがって補正された（歪んでいない）パターンを有する補正された画像を分析して情報を取得することができるシステム、を提案する。
【００５１】
したがって、本発明の一態様によれば、環境から情報を取得するシステム、を提供する。
【００５２】
本明細書で使用されるとき、語「環境」は、パターンをそこに投射することのできる表面を有する任意の開いた空間または閉じた空間を意味する。パターンが投射されて情報がそこから取得される表面は、本明細書においては「シーン」とも称する。環境の一例は、自動車、バス、列車、飛行機などの車両の車室・客室である。
【００５３】
本明細書で使用されるとき、句「光パターン」は、複数の光ビームによって形成される任意の既知のパターンを意味する。パターンは、構造化されていなくてもよく、または構造化されていてもよい。格子、縞模様、ドットマトリクス、線、疑似ランダムパターンなどは、構造化されたパターンである。このようなパターンは、歪められるとその構造を失い、本明細書においては構造化されていないパターンと称する。パターンは、任意の一般的な形状、長方形、円形などとすることができる。
【００５４】
本明細書で使用されるとき、語「歪み（ゆがみ）（ｄｉｓｔｏｒｔｉｏｎ）」は、光学系を通じて投射された光パターンに対する、その光学系または光学装置の効果を意味し、パターンは直線投射（ｒｅｃｔｉｌｉｎｅａｒ  ｐｒｏｊｅｃｔｉｏｎ）から逸脱する。直線投射では、元のパターンの直線は、投射されたパターンにおいてもまっすぐなままであり、歪んだパターンにおいては、これらの線が変化する。歪みは、光パターンの全体的な形状と、光パターンのパターン要素（例：縞、ドットなど）の形状および間隔を変化させうる。半径方向の歪みでは、変化は、レンズの対称性に起因して、半径方向に対称的またはほぼ対称的である。例えば、魚眼レンズは、ドットの正方形パターンを半径方向に歪ませ、パターン要素（ドット）間の間隔を大きくする。
【００５５】
本明細書で使用されるとき、語「変形（ｄｅｆｏｒｍａｔｉｏｎ）」は、表面上に投射される光パターンの形状に対する、表面の効果を意味する。ある光パターンが表面に投射されるとき、その表面から戻る光パターンは、表面の形状および／または角度に応じて、元の光パターンとは異なる形状を有する。この変化は、光パターンの全体的な形状の変化と、パターン要素の形状および間隔の変化でありうる。
【００５６】
限定された環境に適する広い画角を提供し、歪んだパターンの上述した制限を克服する目的で、以下の構成要素を有するシステムを提案する：
（ｉ）それぞれが１つの（オプションとして平行または準平行にされた）ビームを生成することのできる１つまたは複数の（可視光または非可視光）光源
（ｉｉ）（１つまたは複数の）光ビームを構造化パターンに変換し、その構造化パターンを歪めて、構造化パターンが投射される角度より広い画角を有する歪んだパターンにする第１の光学系
（ｉｉｉ）環境から戻り、環境の少なくとも１つの表面によって変形された後の歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第２の光学系（補正されたパターンは、構造化パターンと同じかまたは類似していてよい（例えば形状は同じであるが、パターン要素の大きさや間隔は異なる））、および
（ｉｖ）補正された画像を捕捉する撮像センサ。この画像は、環境内の（１つまたは複数の）表面の形状および角度に従って変形されたパターンを含む。次いで、変形されたパターンを分析して、環境および表面に関する情報を取得することができる。
【００５７】
これらの構成要素は、１つのハウジング内に収容して、車室などの限定された環境に取付け可能なシステムを提供することができる。第１の光学系および第２の光学系それぞれは、１つまたは複数の光学部品および／または光学装置を含むことができる。
【００５８】
撮像センサにマッピングされたパターンは、上記の構成要素と一緒に収容されている処理ユニット、または遠隔に（例：車両管理システムまたはクラウドに）設けられている処理ユニット、に伝えることができる。処理ユニットは、環境（例：車室）内に位置している対象物（例：車両乗員）に関連する深さ、輪郭、および動きの情報を提供する目的で、（深さに起因する）パターンの歪み／シフトに関連する情報を処理することができる。
【００５９】
本発明において使用することのできる光源は、例えば、８００ｎｍ〜１０００ｎｍの波長を有するダイオードレーザである。光源によって投射されるビームは、例えば直径０．５〜１０ミリメートル（ｍｍ）の非球面レンズによって平行にする、または準平行にすることができる。ビームは、例えば幅２〜５ｍｍであり、例えば１〜２．５ｍの距離に焦点を結ぶ。ビームは、回折光学素子（ＤＯＥ）によって、それぞれ例えば０．７ｍＷ（８３０ｎｍにおけるクラス１レーザ）のドットパターンに分割することができる。全出力（一般には約０．１〜１０ワット）は、各スポットの出力（クラス１レーザの出力限界）を合計することによって計算される。複数の光ビームを生成するため、複数の光源を使用することができる。これらの光ビームそれぞれを、構造化パターンの一部に変換することができる。例えば、４つの光源が４つの光ビームを生成することができ、各光ビームが、構造化パターンの１／４（例えば車両内の４つの座席それぞれに投射される）に変換される。
【００６０】
ＤＯＥは、各次元において例えば１０〜１０００ドットのドットマトリクスを生成するように構成されている。ドット間の隣接角は、Ｘ軸および／またはＹ軸において０．０１〜１０度とすることができる。全画角は、（各軸において）１０度〜８０度とすることができ、ＤＯＥのサイズは、１〜１０ｍｍ×１〜１０ｍｍとすることができる。
【００６１】
ＤＯＥによって生成されたパターンは、例えば、１６０〜２２０度の視野角（ＦＯＶ）および−３０％〜＋１５％の範囲内のＦ−θ歪みを有するアフォーカル魚眼レンズによって、歪めることができる。焦点レンズおよびアフォーカルレンズのいずれも、対象物の面からの光を集める。しかしながら、像平面上では、これらのレンズは互いに異なる。焦点レンズは、像平面上に光をフォーカスし、一方でアフォーカルレンズはフォーカスせず、したがって光をフォーカスさせる目的でアフォーカルレンズの後ろに別のレンズを配置するべきである。他の光学素子（例えば半径方向の歪みを特徴とする広角レンズ）が歪みを生成してもよい。
【００６２】
第２の光学系は、例えば、サイズが例えば２〜５ｍｍの画像を生成することのできる類似する魚眼レンズを含むことができる。第２の光学系は、広い視野の構成要素を含まなくてもよく、第１の光学系によって形成されたパターンの歪みを補正する任意の別の光学部品を含むことができる。
【００６３】
撮像センサは、例えば、１〜１０マイクロメートル（μｍ）のピクセルサイズおよび高精細（ＨＤ）解像度／フル高精細（ＦＨＤ）解像度／ビデオグラフィックスアレイ（ＶＧＡ）解像度を有する相補型金属酸化膜半導体（ＣＭＯＳ）センサ／電荷結合素子（ＣＣＤ）センサとすることができる。
【００６４】
処理ユニットは、撮像センサによって捕捉された補正された画像（環境内の（１つまたは複数の）表面によって変形されている補正されたパターンを含む）を分析するために適したアルゴリズムを実行する任意のプロセッサを含むことができ、環境に関する情報を抽出することができる。分析は、例えば、捕捉された画像のスポットを識別するステップと、基準（投射）位置からの各スポットのシフト（深さ）を測定するステップと、計算によって、またはシフト長をルックアップテーブルと比較することによって、または三角法公式によって、深さを再構築するステップと、スポットの深さを隣接するスポットと比較して深さの確実性を高めるステップと、を含むことができる。
【００６５】
本システムは、深さ、輪郭、および動きの情報を取得することに加えて、表面の振動（例：微小振動）を識別および定量化することもできる。遠隔の対象物の表面の振動は、レーザドップラ振動計（ＬＤＶ：Ｌａｓｅｒ  Ｄｏｐｐｌｅｒ  Ｖｉｂｒｏｍｅｔｅｒ）を使用して、または表面に生成されるスペックルパターンを分析することによって、測定することができる。スペックルは、粗面から散乱する波面からの干渉によって形成される強度パターンによって特徴付けられる。スペックルを撮像することによってスペックルの詳細な画像が提供され、これらの画像により、スペックルの経時的な変動を追跡して、回転、並進、変形など表面の動きを抽出することができる。
【００６６】
特許文献１には、目に安全な低出力の光放射（例：クラス１レーザ）および独自のスペックル分析アルゴリズムを利用して、任意の環境内の対象物または被検者の表面からリアルタイムで振動を検出するスペックル分析システムが開示されている。本システムは、投射されたパターンに対して表面によって形成されるスペックルを分析して、人またはペット（例えば車内に残された子供またはペット）の存在および動きを示す表面振動の情報を導く目的で、特許文献１に記載されているようなスペックル分析手法を組み込むことができる。
【００６７】
次に図面を参照し、図１は、本発明のいくつかの実施形態に係る、本システムの一実施形態（本明細書ではシステム１０と称する）を示している。図２Ａは、本発明のいくつかの実施形態に係る、歪んでいないパターンの表面投射を示しており、図２Ｂは、図２Ａの歪んでいないパターンから生成された歪んだパターンの表面投射を示しており、図２Ｃは、図２Ｂの歪んだパターンの表面投射からの、本システムによって捕捉された補正されたパターンを示している。図３Ａ、図３Ｂ、図３Ｃは、それぞれ、本発明のいくつかの実施形態に係る、パターンの形状に対してと、パターン要素の間隔および形状に対する、例示的な平坦な表面の変形効果、凸状の表面の変形効果（「針刺し（ｐｉｎｃｕｓｈｉｏｎ）」パターンを形成する）、凹状の表面の変形効果（「バレル」パターンを形成する）、を示している。
【００６８】
図１に示したように、システム１０は、平行ビーム１６を生成するコリメートレンズ１４を有する光源１２を含む。光源１２は、８３０ナノメートル（ｎｍ）（近赤外線：ＮＩＲ）の波長および約３ワットの全出力を有するビームを生成するレーザダイオードを含むことができる。
【００６９】
例えば、焦点距離３ｍｍ、直径２ｍｍの非球面レンズによってビームを平行にして、幅２ｍｍの平行ビームを形成することができる。
【００７０】
システム１０は、平行ビーム１６を構造化光パターン２２に変換する第１の光学部品２０と、構造化光パターン２２を歪めて、表面２７（対象物面）に投射可能な歪んだ光パターン２６にする第２の光学部品２４とを含む光学装置１８、をさらに含む。
【００７１】
第１の光学部品２０は、回折光学素子（ＤＯＥ）２８（位相変調／減衰変調を行うことのできる、または回折パターンを形成することのできる単一素子）であることが好ましい、またはマイクロレンズアレイである。
【００７２】
ＤＯＥ  ２８は、例えば６１×６１ドット（本明細書ではスポットとも称する）のドットマトリクスパターンを生成することができる。これに代えて、別のパターン（例えばランダムなドットおよび／または線）を生成してもよい。
【００７３】
ドット間の隣接角は０．５７度（ｘ軸およびｙ軸）であり、全画角が３４×３４度である。パターンは、（平行ビーム１６より大きい）３×３ｍｍのエリアを有する長方形とすることができる。
【００７４】
構造化光パターン２２は、表面に投射されたとき、１メートル離れた距離では１０ｍｍ間隔の６１×６１ドットを含む正方形形状のドットマトリクスを形成する（図２Ａを参照）。
【００７５】
ＤＯＥ  ２８は、平行ビーム１６の経路に沿ってビーム源から１〜２ｍｍ離れて位置している。ＤＯＥ  ２８の位置および向きは、事前に設定して固定することができ、または可動台（電動化することができる）上にＤＯＥ  ２８を取り付けることによって、位置および向きを変えることができる。
【００７６】
第２の光学部品２４は、オプションとして、２００度の視野角（ＦＯＶ）を有するアフォーカル魚眼レンズ３０である。歪んだ光パターン２６の視野角（ＦＯＶ）および画角は、構造化光パターン２２の視野角（ＦＯＶ）および画角より大きい。歪んだ光パターン２６の（Ｘ軸および／またはＹ軸における）画角は、例えば、５０〜２２０度、２０〜５０度、または１６０〜２００度とすることができる。
【００７７】
魚眼レンズ３０は、構造化光パターン２２を形成しているビームの経路に沿って位置しており、したがってＤＯＥ  ２８は、アフォーカル魚眼レンズ３０の開口面内に位置している。アフォーカル魚眼レンズ３０の位置および向きは、事前に設定して固定することができ、または可動台（電動化することができる）上にアフォーカル魚眼レンズ３０を取り付けることによって、位置および向きを変えることができる。
【００７８】
歪んだ光パターン２６を魚眼レンズ３０によって半径方向に歪めて、図２Ｂに示したようなドットマトリクスを形成することができる。別の形状を使用してもよい。
【００７９】
環境から情報を取得する目的で、システム１０は、歪んだ光パターン２６を環境（シーン）内の表面上に投射し、戻った光を第２の光学装置４０によって捕捉する。
【００８０】
第２の光学装置４０は魚眼レンズ４２を含み、魚眼レンズ４２は、表面から反射された光（歪んだ光パターン２６に相当する）を捕捉し、歪んだ光パターン２６を、構造化光パターン２２に形状が似ているかまたは同じである（例えば倍率は異なるが半径方向の歪みが同じである）補正されたパターンに変換する。魚眼レンズ４２は、２００度のＦＯＶ、直径３．５ｍｍのイメージサークル、および１．０５ｍｍの相当焦点距離（ＥＦＬ）を有することができる。
【００８１】
システム１０の光学部品は、次のように配置することができる。第１のレンズおよび第２のレンズ（それぞれ３０および４２）は、同じ高さ（光学軸）に並んで位置させ、その間の距離（図１ではバックボーンＢと称する）は、例えば５０ｍｍまたは任意の別の距離に設定する。バックボーンは、三角法の基線を形成し、システムの全体的な深さ精度に影響する。
【００８２】
歪んだパターンを処理して表面の情報を導くことができるが、本発明のシステム１０によって行われるように、歪んだ光パターン２６を、構造化光パターン２２に形状が似ているかまたは同じである補正されたパターンに変換することによって、ドットの識別が大幅に容易になる（各ドットは特定の領域（格子）に配置されているべきである）。このことは、特に、日光および他の明るい物体が存在する（雑音の多い写真）ときにあてはまり、スポットが容易に識別されることでプロセスが大きく軽減される。これに加えて、深さマップの空間解像度が固定されているため、ドットを２Ｄ画像に記録する目的で補間が必要ない。
【００８３】
システム１０によって生成される、補正されたパターンを含む補正された画像は、例えば、ピクセルサイズ３．７５μｍ、解像度１２８０×９６０、エリア内の有効領域４．８×３．６ｍｍを有する撮像装置４５（ＣＣＤ／ＣＭＯＳ）上に投影される。
【００８４】
次に図４を参照し、図４は、本発明のいくつかの実施形態に係る、環境から情報を取得する方法を概略的に示している流れ図である。
【００８５】
最初に１０１に示したように、上述したように、少なくとも１つの光源によって、１つまたは複数の（オプションとして平行または準平行にされた）光ビームを生成する。例えば、４つのダイオードレーザによって生成されて非球面レンズによって平行にされた平行ビームである。
【００８６】
次に１０２に示したように、上述したように、この光ビームを構造化パターンに変換し、この構造化パターンを歪めて、構造化パターンの投射角度より広い画角を有する歪んだパターンにする。例えば、平行ビームを光学素子によって回折させた後、アフォーカル魚眼レンズによって歪めて、歪んだドットマトリクスを形成する。
【００８７】
次に１０３に示したように、上述したように、環境から戻り、環境の少なくとも１つの表面によって変形された後の歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する。例えば、表面上に投射された歪んだドットマトリクスパターンが、表面から戻る。このドットマトリクスおよび表面の画像が、投射に使用されたアフォーカルレンズに類似する特性を有する魚眼レンズを通る。
【００８８】
次に１０４に示したように、上述したように、補正された画像を撮像センサによって捕捉する。例えば、画像をＣＭＯＳセンサによって捕捉する。
【００８９】
次に図５を参照し、図５は、本発明のいくつかの実施形態に係る、実際の格子線の上に投射された歪んだドットマトリクスパターンの画像である。歪んだドットマトリクスパターン（白いドット）が、実際の（物理的な）格子（黒い線）を有する表面上に投射されている。ドットマトリクスパターンは、（回折によって生成されたドットマトリクスに形状およびサイズが類似する）補正されたパターンとして捕捉され、その一方で、格子は、画像の捕捉に使用される魚眼レンズによって歪む。
【００９０】
次に図６Ａおよび図６Ｂを参照し、図６Ａおよび図６Ｂは、それぞれ、本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【００９１】
表面から取得され、処理ユニット４７によって処理されたドットマトリクスの各ドットに関して、時間の経過とともに位置および強度に関連する情報が集められる。このプロセスの出力は点群であり、さまざまな車内アプリケーションに情報を提供する目的で、この点群が処理ユニットによってさらに処理される。本システムは、点群および追加の情報層（後述する）からの情報を利用して、車両安全システムおよび快適性システムに指示情報（ｉｎｄｉｃａｔｉｏｎ）を提供する。このような指示情報は、自動車の製造業者によって事前に定義され、一般にはコントローラエリアネットワーク（ＣＡＮバス）プロトコルによって送信される。アクティブな安全システムは、その動作性能をリアルタイムで継続的に最適化する目的で、この指示情報を使用する。
【００９２】
自動車の内部の点群は、さまざまな安全性アプリケーションおよび快適性アプリケーションを支援する豊富な情報を提供する。このような点群は、それ自体で、対象物および動きの検出に使用することができ、または、画像検出および微小動作検出などの追加のデータ層と組み合わせて使用して、システムの動作性能を高めることができる。１つのこのような用途は占有検出（ｏｃｃｕｐａｎｃｙ  ｄｅｔｅｃｔｉｏｎ）であり、乗員および物体を検出するために車両の各座席が監視される。座席が空いていないという指示情報が点群によって提供されると、システムは、物体と乗員を区別する目的で点群をさらに分析する。乗員が識別される場合、シートベルトが着用されていなければシートベルトリマインダを適用するように車両安全システムに指示情報が送られる。座席上に物体が見つかる場合、システムは、自動車の製造業者の要件に従ってその形状および大きさを推定し、その物体を記録する。例えば、前部助手席にチャイルドシートが認識される場合、車両安全システムに指示情報が送られ、その座席に対してはエアバッグが自動的にオフにされる。
【００９３】
座席が占有されているものと分類された時点で、乗員の身長および体重を推定する目的で、点群が分析される。システムは、出力を統計表と比較して、乗員の体重を適切なパーセンタイルグループに分類する。この指示情報により、エアバッグ展開システムは、エアバッグ展開による乗員への危険性を最小限にする目的で、適切な出力でエアバッグを作動させる、またはエアバッグを無効にすることができる。乗員の身長および体重が分析され、身長／体重の区分は、エアバッグ展開制御のための追加の有用な情報を提供し、エアバッグ展開による傷害の可能性をさらに減らすことができる。
【００９４】
乗員の姿勢は、点群の分析によって継続的に検出され、事前定義される着座位置リストに分類される。着座位置の指示情報は、乗員の安全性を改善するためのさまざまな方法で使用することができる。第一に、危険な着座位置が検出される場合、運転者および同乗者に警告を送ることができる。第二に、エアバッグを展開するのに乗員が危険な位置にあることが検出された場合、この指示情報を使用してエアバッグを無効にする、または（スマートエアバッグにおいて）姿勢に応じて一部を無効にすることができる。
【００９５】
前部座席の位置は、エアバッグ展開およびシートベルトの制御のための追加のパラメータである。
【００９６】
自動車を駐車すると、車室の占有状態が監視されて、乗員、幼児、およびペットの存在を確認する。安全システムは、占有の指示情報に従って対応する。例えば、駐車している自動車の中に幼児またはペットだけが見つかった場合、自動車のクラクションを作動させて通りがかりの人に知らせる、空調装置をオンにして熱中症の危険性を軽減する、および自動車の所有者に無線ネットワーク（例：携帯電話）を介してメッセージを送ることができる。これに加えて、警告メッセージ（ナビゲーションシステムから導かれる車両の位置を含む）を緊急センターに送ることができる。
【００９７】
自動運転車は、運転の終了時に占有状態を考慮しなければならない。目的地に到着したときに運転者または同乗者が眠っている場合、または閉まった駐車場に駐車している場合、運転者／同乗者を起こす、または潜在的な危険性について緊急連絡先に警報を発するために無線ネットワークを介してメッセージを送る目的で、複数の措置を取ることができる。
【００９８】
本システムは、運転者の監視に使用することもできる。運転者の状態に関する情報を点群から抽出して、例えば運転者がハンドルを握っているかを検出することができる。また、運転者が例えばスマートフォンに気を取られていないかを確かめるため、運転者の頭部および手の位置および方向を監視することもできる。エンジンを始動するとき、および運転者または同乗者が降りる前に自動車が完全に停止しているようにするため、運転者の位置を監視することができる。子供が車両を発進させることを阻止するため、運転者の身長を使用することもできる。
【００９９】
本システムは、車室の占有状態に基づく適応型オーディオ最適化アプリケーションなどの快適性アプリケーションに情報を提供する目的に使用することもできる。オーディオの性能を最適化し、運転者および同乗者に対するアクティブノイズキャンセルを可能にする目的で、同乗者の頭部の位置を使用することができる。運転者および同乗者の認識を使用して、個人の間で区別し、それぞれが好むオーディオ設定のみならず、座席およびミラーの位置、および車室内の他の制御可能なシステムを、自動的にロードすることができる。
【０１００】
本システムによって集められる車内情報を、統計分析に使用することもできる。第一に、システムによって提供される指示情報を、車室の画像および車室内のセンサからの他の指示情報と一緒に、サーバに無線で送ることができる。これらの情報を機械学習技術によって使用して、システムの動作性能をテストおよび改善することができる。これに加えて、画像が手動または自動的に分類されるならば、さまざまなシナリオを認識するように機械学習アルゴリズムを訓練することができる。配備されているセンサに、更新されたパラメータセットをソフトウェアアップデートと一緒に無線でアップロードして、システムの既存の機能を改良する、または新しい機能を提供することができる。
【０１０１】
本明細書において使用されている語「約」は、±１０％を意味する。
【０１０２】
語「備える」、「備えている」、「含む」、「含んでいる」、「有する」、およびこれらの活用形は、「〜を含み、ただしそれらに限定されない」を意味する。この語は、語「〜からなる」および「本質的に〜からなる」を包含する。
【０１０３】
「本質的に〜からなる」という表現は、組成物または方法が、追加の成分および／または追加のステップを含んでもよく、ただし、それら追加の成分および／または追加のステップが、特許請求の範囲に記載されている組成物または方法の基本的かつ新規の特徴を実質的に変化させない場合に限られることを意味する。
【０１０４】
本明細書で使用されるとき、単数形（「ａ」、「ａｎ」、および「ｔｈｅ」）は、文脈から明らかに複数形が除外されない限り、複数形も含む。例えば、語「化合物」または「少なくとも１種類の化合物」は、複数種類の化合物（それらの混合物を含む）を含むことができる。
【０１０５】
語「例示的な」は、本明細書においては、「例、一例、または説明としての役割を果たす」を意味する目的で使用されている。「例示的な」として説明されている実施形態は、必ずしも他の実施形態よりも好ましい、または有利であるとは解釈されないものとする、および／または、他の実施形態の特徴を組み込むことが排除されないものとする。
【０１０６】
語「オプションとして」は、本明細書においては、「いくつかの実施形態において設けられ、他の実施形態では設けられない」を意味する目的で使用されている。本発明のいずれの実施形態も、互いに矛盾しない限りは複数の「オプションの」特徴を含むことができる。
【０１０７】
本出願の全体を通じて、本発明のさまざまな実施形態は、範囲形式で提示されていることがある。範囲形式での記述は、便宜上および簡潔さのみを目的としており、本発明の範囲を固定的に制限するようには解釈されないことを理解されたい。したがって、範囲の記述には、具体的に開示されている可能な部分範囲すべてと、その範囲内の個々の数値とが含まれるものとみなされたい。例えば、１〜６などの範囲の記述には、具体的に開示された部分範囲（例えば、１〜３、１〜４、１〜５、２〜４、２〜６、３〜６など）と、この範囲内の個々の数（例えば１、２、３、４、５、および６）とが含まれるものとみなされたい。このことは、範囲の広さにかかわらずあてはまる。
【０１０８】
本明細書中に数値範囲が示されているときには、示された範囲内の任意の該当する数値（分数または整数）が含まれるものとする。第１の指示数と第２の指示数「との間の範囲」、および、第１の指示数「から」第２の指示数「までの範囲」という表現は、本明細書においては互換的に使用され、第１の示された数および第２の示された数と、それらの間のすべての分数および整数を含むものとする。
【０１０９】
明確さを目的として個別の実施形態の文脈の中で説明されている本発明の特定の複数の特徴は、１つの実施形態の中に組み合わせて設けることもできることを理解されたい。逆に、簡潔さを目的として１つの実施形態の文脈の中で説明されている本発明のさまざまな特徴は、個別に設ける、または任意の適切な部分的な組合せとして設ける、または本発明の任意の他の説明されている実施形態において適切に設けることもできる。さまざまな実施形態の文脈の中で説明されている特定の特徴は、実施形態がそれらの要素なしでは動作・機能しない場合を除いて、それらの実施形態の本質的な特徴とはみなさないものとする。
【０１１０】
明確さを目的として個別の実施形態の文脈の中で説明されている本発明の特定の複数の特徴は、１つの実施形態の中に組み合わせて設けることもできることを理解されたい。逆に、簡潔さを目的として１つの実施形態の文脈の中で説明されている本発明のさまざまな特徴は、個別に設ける、または任意の適切な部分的な組合せとして設けることもできる。
【０１１１】
本発明についてその特定の実施形態に関連して説明してきたが、当業者には多数の代替形態、修正形態、および変形形態が明らかであろう。したがって、添付の請求項の趣旨および広義の範囲内に含まれるすべての代替形態、修正形態、および変形形態を包含するように意図されている。本明細書に記載されているすべての刊行物、特許、および特許出願は、これら個々の刊行物、特許、または特許出願それぞれが、参照によって本明細書に組み込まれることを明示的かつ個別に示されている場合と同じように、それぞれの全体が参照によって本明細書に組み込まれている。さらには、本出願において参考文献が引用または特定されていることは、そのような参考文献が本発明の従来技術として利用可能であることを認めるものとして解釈されない。
【図１】
2020527230.tif 000003
【図２Ａ】
2020527230.tif 000004
【図２Ｂ】
2020527230.tif 000005
【図２Ｃ】
2020527230.tif 000006
【図３Ａ】
2020527230.tif 000007
【図３Ｂ】
2020527230.tif 000008
【図３Ｃ】
2020527230.tif 000009
【図４】
2020527230.tif 000010
【図５】
2020527230.tif 000011
【図６Ａ】
2020527230.tif 000012
【図６Ｂ】
2020527230.tif 000013
【国際調査報告】
2020527230.tif 000014
2020527230.tif 000015
2020527230.tif 000016
2020527230.tif 000017
2020527230.tif 000018