(57)【要約】  自律車両をナビゲートするためのシステム及び方法が提供される。一実施形態は、ドアが開く事象を検出することに基づいてホスト車両をナビゲートするためのシステム及び方法に関する。別の実施形態は、ホスト車両が走行しているレーンの方への標的車両の移動に基づいてホスト車両をナビゲートするためのシステム及び方法に関する。第３の実施形態は、ホスト車両が走行する道路が一方通行道路であるかどうかを検出するためのシステム及び方法に関する。第４の実施形態は、ホスト車両の環境内の駐車車両の予測状態を求めるためのシステム及び方法に関する。第５の実施形態は、２つの停止車両間の間隔に基づいてホスト車両をナビゲートするためのシステム及び方法に関する。
2019524525.tif 000002
【特許請求の範囲】
【請求項１】
ホスト車両の環境内でドアが開く事象を検出することに基づいて前記車両をナビゲートするためのシステムであって、
前記ホスト車両の前記環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像を分析して駐車車両の側部を識別することと、
前記駐車車両の前記側部の前方領域内の前記駐車車両の第１の構造上の特徴と、前記駐車車両の前記側部の後方領域内の前記駐車車両の第２の構造上の特徴とを前記少なくとも１つの画像内で識別することと、
前記第１の構造上の特徴及び前記第２の構造上の特徴の近傍の前記駐車車両のドア縁部を前記少なくとも１つの画像内で識別することと、
前記画像捕捉デバイスから受信される１つ又は複数のその後の画像の分析に基づいて前記駐車車両の前記ドア縁部の画像特性の変化を求めることと、
前記駐車車両の前記ドア縁部の前記画像特性の前記変化に少なくとも部分的に基づいて前記ホスト車両のナビゲーション経路を変えることと
を行うようにプログラムされる少なくとも１つの処理デバイスを含むシステム。
【請求項２】
前記駐車車両の前記側部を識別することは、前記駐車車両の前記側部の形状に少なくとも１つのバウンディングボックスを関連付けることを含む、請求項１に記載のシステム。
【請求項３】
前記第１の構造上の特徴は、前記駐車車両の前輪構成要素を含み、及び前記第２の構造上の特徴は、前記駐車車両の後輪構成要素を含む、請求項１に記載のシステム。
【請求項４】
前記第１の構造上の特徴及び前記第２の構造上の特徴の前記近傍は、前記駐車車両の前輪構成要素と前記駐車車両の後輪構成要素との間の領域を含む、請求項１に記載のシステム。
【請求項５】
前記第１の車輪構成要素及び前記第２の車輪構成要素の近傍は、前記駐車車両の後輪構成要素の上部の領域を更に含む、請求項４に記載のシステム。
【請求項６】
前記ドア縁部の前記画像特性の前記変化は、前記ドア縁部が広がることを含む、請求項１に記載のシステム。
【請求項７】
前記ドア縁部の前記画像特性の前記変化は、前記ドア縁部が前記車両の車体から離れることを含む、請求項１に記載のシステム。
【請求項８】
前記ドア縁部の前記画像特性の前記変化を求めることは、前記第１の車輪構成要素及び前記第２の車輪構成要素の前記近傍における垂直ストライプの出現について、前記画像捕捉デバイスから受信される少なくとも２つの画像を監視することを含む、請求項１に記載のシステム。
【請求項９】
前記ドア縁部の前記画像特性の前記変化を求めることは、前記垂直ストライプの広がりを監視することを更に含む、請求項８に記載のシステム。
【請求項１０】
前記垂直ストライプの第１の縁部は、前記監視画像内の前記駐車車両の車体に沿って固定されており、前記垂直ストライプの第２の縁部は、前記監視画像内の前記駐車車両の前方領域の方に移動する、請求項９に記載のシステム。
【請求項１１】
前記少なくとも１つの処理デバイスは、前記垂直ストライプの幅を求めるように更に構成される、請求項１０に記載のシステム。
【請求項１２】
前記少なくとも１つの処理デバイスは、前記求められた幅に基づいて前記ドア縁部が前記駐車車両から離れて広がる距離を求めるように更に構成される、請求項１１に記載のシステム。
【請求項１３】
前記少なくとも１つの処理デバイスは、前記ドア縁部が前記駐車車両から離れて広がる前記求められた距離に基づいて、前記ホスト車両のための横方向の安全距離を求めるように更に構成される、請求項１２に記載のシステム。
【請求項１４】
前記ホスト車両の前記ナビゲーション経路を変更することは、前記求められた横方向の安全距離に基づく、請求項１３に記載のシステム。
【請求項１５】
ホスト車両の環境内でドアが開く事象を検出することに基づいて前記車両をナビゲートするための方法であって、
前記ホスト車両の前記環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像を分析して駐車車両の側部を識別することと、
前記駐車車両の前記側部の前方領域内の前記駐車車両の第１の構造上の特徴と、前記駐車車両の前記側部の後方領域内の前記駐車車両の第２の構造上の特徴とを前記少なくとも１つの画像内で識別することと、
前記第１の構造上の特徴及び前記第２の構造上の特徴の近傍の前記駐車車両のドア縁部を前記少なくとも１つの画像内で識別することと、
前記画像捕捉デバイスから受信される１つ又は複数のその後の画像の分析に基づいて前記駐車車両の前記ドア縁部の画像特性の変化を求めることと、
前記駐車車両の前記ドア縁部の前記画像特性の前記変化に少なくとも部分的に基づいて前記ホスト車両のナビゲーション経路を変えることと
を含む方法。
【請求項１６】
前記ドア縁部の前記画像特性の前記変化を求めることは、前記第１の構造上の特徴及び前記第２の構造上の特徴の前記近傍における垂直ストライプの出現について、前記画像捕捉デバイスから受信される少なくとも２つの画像を監視することを含む、請求項１５に記載の方法。
【請求項１７】
前記ドア縁部の前記画像特性の前記変化を求めることは、前記垂直ストライプの広がりを監視することを更に含む、請求項１６に記載の方法。
【請求項１８】
前記垂直ストライプの幅を求めることと、
前記求められた幅に基づいて、前記ドア縁部が前記駐車車両から離れて広がる距離を求めることと
を更に含む、請求項１７に記載の方法。
【請求項１９】
前記ドア縁部が前記駐車車両から離れて広がる前記求められた距離に基づいて、前記ホスト車両のための横方向の安全距離を求めることを更に含み、前記ホスト車両の前記ナビゲーション経路を変えることは、前記求められた横方向の安全距離に基づく、請求項１８に記載の方法。
【請求項２０】
少なくとも１つの処理デバイスによって実行されるとき、
ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像を分析して駐車車両の側部を識別することと、
前記駐車車両の前記側部の前方領域内の前記駐車車両の第１の構造上の特徴と、前記駐車車両の前記側部の後方領域内の前記駐車車両の第２の構造上の特徴とを前記少なくとも１つの画像内で識別することと、
前記第１の構造上の特徴及び前記第２の構造上の特徴の近傍の前記駐車車両のドア縁部を前記少なくとも１つの画像内で識別することと、
前記画像捕捉デバイスから受信される１つ又は複数のその後の画像の分析に基づいて前記駐車車両の前記ドア縁部の画像特性の変化を求めることと、
前記駐車車両の前記ドア縁部の前記画像特性の前記変化に少なくとも部分的に基づいて前記ホスト車両のナビゲーション経路を変えることと
を含む方法を実行する命令を記憶する非一時的コンピュータ可読媒体。
【請求項２１】
ホスト車両が走行しているレーンの方への標的車両の移動に基づいて前記ホスト車両をナビゲートするためのシステムであって、
前記ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して前記標的車両及び前記標的車両の側部の少なくとも１つの車輪構成要素を識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素を含む領域を前記複数の画像の少なくとも２つにおいて分析して、前記標的車両の前記少なくとも１つの車輪構成要素に関連する動きを識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素に関連する前記識別された動きに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を行うようにプログラムされる少なくとも１つの処理デバイスを含むシステム。
【請求項２２】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両の進行方向の変更を含む、請求項２１に記載のシステム。
【請求項２３】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両のブレーキをかけることを含む、請求項２１に記載のシステム。
【請求項２４】
前記標的車両を識別することは、前記標的車両の形状に少なくとも１つのバウンディングボックスを関連付けることを含む、請求項２１に記載のシステム。
【請求項２５】
前記標的車両の前記少なくとも１つの車輪構成要素を含む前記領域は、路面に隣接する領域を含む、請求項２１に記載のシステム。
【請求項２６】
前記少なくとも１つの車輪構成要素に関連する動きを識別することは、前記少なくとも１つの車輪構成要素の回転の兆候について前記複数の画像の少なくとも２つを監視することを含む、請求項２１に記載のシステム。
【請求項２７】
前記少なくとも１つのタイヤ車輪構成要素に関連する動きを識別することは、前記少なくとも１つの車輪構成要素に関連する少なくとも１つの特徴を識別することと、前記少なくとも１つの特徴の位置変化のインジケータを識別することとを含む、請求項２１に記載のシステム。
【請求項２８】
前記少なくとも１つの処理デバイスは、前記少なくとも１つの車輪構成要素に関連する前記少なくとも１つの特徴の前記位置変化に基づいて、前記標的車両が移動する速度を求めるように更に構成される、請求項２７に記載のシステム。
【請求項２９】
前記少なくとも１つの処理デバイスは、前記標的車両の前記速度に基づいて、前記車両のための横方向の安全距離を求めるように更に構成される、請求項２８に記載のシステム。
【請求項３０】
前記標的車両の前記少なくとも１つのナビゲーション変更は、前記求められた横方向の安全距離に基づく、請求項２９に記載のシステム。
【請求項３１】
前記少なくとも１つの車輪構成要素は、タイヤ、ハブキャップ、又は車輪構造の少なくとも１つを含む、請求項２１に記載のシステム。
【請求項３２】
ホスト車両が走行しているレーンの方への標的車両の移動に基づいて前記ホスト車両をナビゲートするための方法であって、
前記ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して前記標的車両及び前記標的車両の側部の少なくとも１つの車輪構成要素を識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素を含む領域を前記複数の画像の少なくとも２つにおいて分析して、前記標的車両の前記少なくとも１つの車輪構成要素に関連する動きを識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素に関連する前記識別された動きに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法。
【請求項３３】
前記標的車両を識別することは、前記標的車両の形状に少なくとも１つのバウンディングボックスを関連付けることを含む、請求項３２に記載の方法。
【請求項３４】
前記少なくとも１つの車輪構成要素に関連する動きを識別することは、前記少なくとも１つの車輪構成要素の回転の兆候について前記複数の画像の少なくとも２つを監視することを含む、請求項３２に記載の方法。
【請求項３５】
前記少なくとも１つのタイヤ車輪構成要素に関連する動きを識別することは、前記少なくとも１つの車輪構成要素に関連する少なくとも１つの特徴を識別することと、前記少なくとも１つの特徴の位置変化のインジケータを識別することとを含む、請求項３２に記載の方法。
【請求項３６】
前記少なくとも１つの車輪構成要素に関連する前記少なくとも１つの特徴の前記位置変化に基づいて、前記標的車両が移動する速度を求めることと、
前記標的車両の前記速度に基づいて、前記車両のための横方向の安全距離を求めることと
を更に含む、請求項３５に記載の方法。
【請求項３７】
少なくとも１つの処理デバイスによって実行されるとき、
ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して標的車両及び前記標的車両の側部の少なくとも１つの車輪構成要素を識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素を含む領域を前記複数の画像の少なくとも２つにおいて分析して、前記標的車両の前記少なくとも１つの車輪構成要素に関連する動きを識別することと、
前記標的車両の前記少なくとも１つの車輪構成要素に関連する前記識別された動きに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法を実行する命令を記憶する非一時的コンピュータ可読媒体。
【請求項３８】
前記標的車両を識別することは、前記標的車両の形状に少なくとも１つのバウンディングボックスを関連付けることを含む、請求項３７に記載の非一時的コンピュータ可読媒体。
【請求項３９】
前記少なくとも１つのタイヤ車輪構成要素に関連する動きを識別することは、前記少なくとも１つの車輪構成要素に関連する少なくとも１つの特徴を識別することと、前記少なくとも１つの特徴の位置変化のインジケータを識別することとを含む、請求項３７に記載の非一時的コンピュータ可読媒体。
【請求項４０】
前記少なくとも１つの車輪構成要素に関連する前記少なくとも１つの特徴の前記位置変化に基づいて、前記標的車両が移動する速度を求めることと、
前記標的車両の前記速度に基づいて、前記車両のための横方向の安全距離を求めることと
を行うための命令を更に記憶している、請求項３８に記載の非一時的コンピュータ可読媒体。
【請求項４１】
ホスト車両が走行する道路が一方通行道路であるかどうかを検出するためのシステムであって、
前記ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する前記道路の第１の側方の第１の複数の車両を識別することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する前記道路の第２の側方の第２の複数の車両を識別することと、
前記第１の複数の車両に関連する第１の前向き方向を求めることと、
前記第２の複数の車両に関連する第２の前向き方向を求めることと、
前記第１の前向き方向及び前記第２の前向き方向の両方が前記ホスト車両の進行方向と逆である場合に前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を行うようにプログラムされる少なくとも１つの処理デバイスを含むシステム。
【請求項４２】
前記少なくとも１つの処理デバイスは、前記少なくとも１つの画像の分析に基づいて、前記第１の複数の車両の少なくとも１つ又は前記第２の複数の車両の少なくとも１つの側部を識別するように更にプログラムされる、請求項４１に記載のシステム。
【請求項４３】
前記識別される側部は、右側の側部である、請求項４２に記載のシステム。
【請求項４４】
前記識別される側部は、左側の側部である、請求項４２に記載のシステム。
【請求項４５】
前記少なくとも１つの処理デバイスは、前記第１の複数の車両の少なくとも１つ又は前記第２の複数の車両の少なくとも１つに関連する少なくとも２つの特徴に基づいて前記側部を識別するように更にプログラムされる、請求項４２に記載のシステム。
【請求項４６】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両のブレーキをかけることを含む、請求項４１に記載のシステム。
【請求項４７】
ホスト車両が走行する道路が一方通行道路であるかどうかを検出するための方法であって、
前記ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する前記道路の第１の側方の第１の複数の車両を識別することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する前記道路の第２の側方の第２の複数の車両を識別することと、
前記第１の複数の車両に関連する第１の前向き方向を求めることと、
前記第２の複数の車両に関連する第２の前向き方向を求めることと、
前記第１の前向き方向及び前記第２の前向き方向の両方が前記ホスト車両の進行方向と逆である場合に前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法。
【請求項４８】
前記複数の画像の少なくとも１つの分析に基づいて、前記第１の複数の車両の少なくとも１つ又は前記第２の複数の車両の少なくとも１つの側部を識別することを更に含む、請求項４７に記載の方法。
【請求項４９】
前記識別される側部は、右側の側部である、請求項４８に記載の方法。
【請求項５０】
前記識別される側部は、左側の側部である、請求項４８に記載の方法。
【請求項５１】
前記第１の複数の車両の少なくとも１つ又は前記第２の複数の車両の少なくとも１つに関連する少なくとも２つの特徴に基づいて前記側部を識別することを更に含む、請求項４８に記載の方法。
【請求項５２】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両のブレーキをかけることを含む、請求項４７に記載の方法。
【請求項５３】
少なくとも１つの処理デバイスによって実行されるとき、
ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する道路の第１の側方の第１の複数の車両を識別することと、
前記少なくとも１つの画像の分析に基づいて、前記ホスト車両が走行する前記道路の第２の側方の第２の複数の車両を識別することと、
前記第１の複数の車両に関連する第１の前向き方向を求めることと、
前記第２の複数の車両に関連する第２の前向き方向を求めることと、
前記第１の前向き方向及び前記第２の前向き方向の両方が前記ホスト車両の進行方向と逆である場合に前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法を実行する命令を記憶する非一時的コンピュータ可読媒体。
【請求項５４】
前記複数の画像の少なくとも１つの分析に基づいて、前記第１の複数の車両の少なくとも１つ又は前記第２の複数の車両の少なくとも１つの側部を識別するための命令を更に記憶している、請求項５３に記載の非一時的コンピュータ可読媒体。
【請求項５５】
ホスト車両をナビゲートするためのシステムであって、
前記ホスト車両が走行している第１の道路から第２の道路に前記ホスト車両をナビゲートするためのナビゲーション命令を受信することと、
前記第２の道路の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、
前記少なくとも１つの画像の分析に基づいて前記第２の道路の第１の側方の第１の複数の車両を識別することと、
前記少なくとも１つの画像の分析に基づいて前記第２の道路の第２の側方の第２の複数の車両を識別することと、
前記第１の複数の車両に関連する第１の前向き方向を求めることと、
前記第２の複数の車両に関連する第２の前向き方向を求めることと、
前記ホスト車両が前記第２の道路上に入る場合に前記ホスト車両が走行することになる進行方向に対して前記第１の前向き方向及び前記第２の前向き方向の両方が逆であると判定することと、
前記ホスト車両が前記第２の道路上にナビゲートされる場合に前記ホスト車両が走行することになる前記進行方向に対して前記第１の前向き方向及び前記第２の前向き方向の両方が逆であるという前記判定に応答して、前記ナビゲーション命令を中断することと
を行うようにプログラムされる少なくとも１つの処理デバイスを含むシステム。
【請求項５６】
前記少なくとも１つの処理デバイスは、前記中断されたナビゲーション命令を回復するためのオーバライド命令を受信するように更にプログラムされる、請求項５５に記載のシステム。
【請求項５７】
前記オーバライド命令は、前記ホスト車両内の人から受信される手動確認に基づいて始動される、請求項５６に記載のシステム。
【請求項５８】
前記オーバライド命令は、地図データにアクセスすることに基づいて始動される、請求項５６に記載のシステム。
【請求項５９】
前記オーバライド命令は、前記第２の道路の走行方向に関係するクラウドソースデータに基づいて始動される、請求項５６に記載のシステム。
【請求項６０】
ホスト車両の環境内の駐車車両の予測状態を求めるためのシステムであって、
画像捕捉デバイスと、
赤外画像捕捉デバイスと、
少なくとも１つの処理デバイスであって、
前記ホスト車両の前記環境に関連する複数の画像を前記画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して前記駐車車両を識別することと、
前記複数の画像の少なくとも２つを分析して、前記駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することと、
前記駐車車両の少なくとも１つの熱画像を前記赤外画像捕捉デバイスから受信することと、
前記照明状態の前記変化及び前記少なくとも１つの熱画像の分析に基づいて前記駐車車両の前記予測状態を求めることと、
前記駐車車両の前記予測状態に基づいて、前記ホスト車両による少なくとも１つのナビゲーション応答を生じさせることと
を行うようにプログラムされる少なくとも１つの処理デバイスと
を含むシステム。
【請求項６１】
前記駐車車両に関連する前記少なくとも１つのライトの前記照明状態の前記変化は、非点灯状態から点灯状態への変化を含む、請求項６０に記載のシステム。
【請求項６２】
前記駐車車両の前記予測状態は、前記駐車車両のエンジンが始動されたという兆候を含む、請求項６１に記載のシステム。
【請求項６３】
前記駐車車両に関連する前記少なくとも１つのライトの前記照明状態の前記変化は、点灯状態から非点灯状態への変化を含む、請求項６０に記載のシステム。
【請求項６４】
前記駐車車両の前記予測状態は、前記駐車車両のエンジンが切られたという兆候を含む、請求項６３に記載のシステム。
【請求項６５】
前記少なくとも１つの熱画像の前記分析は、前記駐車車両のエンジン領域の温度値を求めることを含む、請求項６０に記載のシステム。
【請求項６６】
前記駐車車両の前記予測状態は、前記温度値と閾値との比較に少なくとも部分的に基づいて求められる、請求項６５に記載のシステム。
【請求項６７】
温度値が閾値を下回る場合、前記駐車車両の前記予測状態は、前記駐車車両が所定の期間内に動かないと予期されるという兆候を含む、請求項６６に記載のシステム。
【請求項６８】
前記少なくとも１つの熱画像の前記分析は、前記駐車車両のエンジン領域の第１の温度値及び前記駐車車両の少なくとも１つの車輪構成要素の第２の温度値を求めることを含む、請求項６０に記載のシステム。
【請求項６９】
前記駐車車両の前記予測状態は、前記第１の温度値と第１の閾値との比較及び前記第２の温度値と第２の閾値との比較に基づいて求められる、請求項６８に記載のシステム。
【請求項７０】
前記第１の温度値が第１の閾値を上回り、且つ前記第２の温度値が第２の閾値を下回る場合、前記駐車車両の前記予測状態は、前記駐車車両が所定の期間内に動くと予期されるという兆候を含む、請求項６８に記載のシステム。
【請求項７１】
前記第１の温度値が第１の閾値を上回り、且つ前記第２の温度値が第２の閾値を上回る場合、前記駐車車両の前記予測状態は、前記駐車車両のドアが所定の期間内に開くと予期されるという兆候を含む、請求項６８に記載のシステム。
【請求項７２】
前記駐車車両の前記予測状態は、前記駐車車両が所定の期間内に動かないと予期されるという兆候、前記駐車車両が所定の期間内に動くと予期されるという兆候、又は前記駐車車両のドアが所定の期間内に開くと予期されるという兆候の少なくとも１つを含む、請求項６０に記載のシステム。
【請求項７３】
前記少なくとも１つの処理デバイスは、
前記複数の画像の少なくとも１つを前記少なくとも１つの熱画像と位置合わせすることと、
前記位置合わせした少なくとも１つの熱画像内で前記駐車車両のエンジン領域又は少なくとも１つの車輪構成要素領域の少なくとも１つを識別することと
を行うように更にプログラムされる、請求項６０に記載のシステム。
【請求項７４】
ホスト車両の環境内の駐車車両の予測状態を求めるための方法であって、
前記ホスト車両の前記環境に関連する複数の画像を画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して前記駐車車両を識別することと、
前記複数の画像の少なくとも２つを分析して、前記駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することと、
前記駐車車両の少なくとも１つの熱画像を赤外画像捕捉デバイスから受信することと、
前記照明状態の前記変化及び前記少なくとも１つの熱画像の分析に基づいて前記駐車車両の前記予測状態を求めることと、
前記駐車車両の前記予測状態に基づいて、前記ホスト車両による少なくとも１つのナビゲーション応答を生じさせることと
を含む方法。
【請求項７５】
前記少なくとも１つの熱画像の前記分析は、前記駐車車両のエンジン領域の温度値を求めることを含み、及び
前記温度値が閾値を下回る場合、前記駐車車両の前記予測状態は、前記駐車車両が所定の期間内に動かないと予期されるという兆候を含む、請求項７４に記載の方法。
【請求項７６】
前記少なくとも１つの熱画像の前記分析は、前記駐車車両のエンジン領域の第１の温度値及び前記駐車車両の少なくとも１つの車輪構成要素の第２の温度値を求めることを含み、及び
前記第１の温度値が第１の閾値を上回り、且つ前記第２の温度値が第２の閾値を下回る場合、前記駐車車両の前記予測状態は、前記駐車車両が所定の期間内に動くと予期されるという兆候を含む、請求項７４に記載の方法。
【請求項７７】
前記少なくとも１つの熱画像の前記分析は、前記駐車車両のエンジン領域の第１の温度値及び前記駐車車両の少なくとも１つの車輪構成要素の第２の温度値を求めることを含み、及び
前記第１の温度値が第１の閾値を上回り、且つ前記第２の温度値が第２の閾値を上回る場合、前記駐車車両の前記予測状態は、前記駐車車両のドアが所定の期間内に開くと予期されるという兆候を含む、請求項７４に記載の方法。
【請求項７８】
前記複数の画像の少なくとも１つを前記少なくとも１つの熱画像と位置合わせすることと、
前記位置合わせした少なくとも１つの熱画像内で前記駐車車両のエンジン領域又は少なくとも１つの車輪構成要素領域の少なくとも１つを識別することと
を更に含む、請求項７４に記載の方法。
【請求項７９】
少なくとも１つの処理デバイスによって実行されるとき、
ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して駐車車両を識別することと、
前記複数の画像の少なくとも２つを分析して、前記駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することと、
前記駐車車両の少なくとも１つの熱画像を赤外画像捕捉デバイスから受信することと、
前記照明状態の前記変化及び前記少なくとも１つの熱画像の分析に基づいて前記駐車車両の予測状態を求めることと、
前記駐車車両の前記予測状態に基づいて、前記ホスト車両による少なくとも１つのナビゲーション応答を生じさせることと
を含む方法を実行する命令を記憶する非一時的コンピュータ可読媒体。
【請求項８０】
ホスト車両の環境内の駐車車両の予測状態を求めるためのシステムであって、
画像捕捉デバイスと、
少なくとも１つの処理デバイスであって、
前記ホスト車両の前記環境に関連する複数の画像を前記画像捕捉デバイスから受信することと、
前記複数の画像の少なくとも１つを分析して前記駐車車両を識別することと、
前記複数の画像の少なくとも２つを分析して、前記駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することと、
前記照明状態の前記変化に基づいて前記駐車車両の前記予測状態を求めることと、
前記駐車車両の前記予測状態に基づいて、前記ホスト車両による少なくとも１つのナビゲーション応答を生じさせることと
を行うようにプログラムされる少なくとも１つの処理デバイスと
を含むシステム。
【請求項８１】
前記駐車車両に関連する前記少なくとも１つのライトの前記照明状態の前記変化は、非点灯状態から点灯状態への変化を含む、請求項８０に記載のシステム。
【請求項８２】
前記駐車車両の前記予測状態は、前記駐車車両のエンジンが始動されたという兆候を含む、請求項８１に記載のシステム。
【請求項８３】
前記駐車車両に関連する前記少なくとも１つのライトの前記照明状態の前記変化は、点灯状態から非点灯状態への変化を含む、請求項８０に記載のシステム。
【請求項８４】
前記駐車車両の前記予測状態は、前記駐車車両のエンジンが切られたという兆候を含む、請求項８３に記載のシステム。
【請求項８５】
ホスト車両のためのナビゲーションシステムであって、
前記ホスト車両の環境を表す複数の画像をカメラから受信することと、
前記複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することと、
前記複数の画像の前記少なくとも１つの分析に基づいて前記２つの停止車両間の間隔を求めることと、
前記２つの停止車両間で求められた前記間隔の広さに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を行うようにプログラムされる少なくとも１つの処理デバイスを含むシステム。
【請求項８６】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両を減速させることを含む、請求項８５に記載のシステム。
【請求項８７】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両を走行レーン内で移動させることを含む、請求項８５に記載のシステム。
【請求項８８】
前記少なくとも１つのナビゲーション変更は、前記ホスト車両の走行レーンを変更することを含む、請求項８５に記載のシステム。
【請求項８９】
前記少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両の操舵機構、ブレーキ、又はアクセルの少なくとも１つを作動させることによって行われる、請求項８５に記載のシステム。
【請求項９０】
前記ホスト車両の前記少なくとも１つのナビゲーション変更は、歩行者が横断するのに前記２つの停止車両間の前記間隔が十分であると判定される場合に生じる、請求項８５に記載のシステム。
【請求項９１】
前記ホスト車両の前記少なくとも１つのナビゲーション変更は、標的車両が横断するのに前記２つの停止車両間の前記間隔が十分であると判定される場合に生じる、請求項８５に記載のシステム。
【請求項９２】
前記間隔は、前記停止車両の隣接する側部間の距離に対応する、請求項８５に記載のシステム。
【請求項９３】
前記間隔は、前記停止車両の１つの前部と、他の停止車両の後部との間の距離に対応する、請求項８５に記載のシステム。
【請求項９４】
前記少なくとも１つの処理デバイスは、前記複数の画像の分析に基づいて、前記２つの停止車両間の前記間隔内の歩行者を検出するように更にプログラムされる、請求項８５に記載のシステム。
【請求項９５】
前記２つの停止車両間の前記間隔の少なくとも一部は、前記カメラの視野から隠される、請求項８５に記載のシステム。
【請求項９６】
ホスト車両をナビゲートするための方法であって、
前記ホスト車両の環境を表す複数の画像をカメラから受信することと、
前記複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することと、
前記複数の画像の前記少なくとも１つの分析に基づいて前記２つの停止車両間の間隔を求めることと、
前記２つの停止車両間で求められた前記間隔の広さに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法。
【請求項９７】
前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両を減速させることを含む、請求項９６に記載の方法。
【請求項９８】
前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両を走行レーン内で移動させることを含む、請求項９６に記載の方法。
【請求項９９】
前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両の走行レーンを変更することを含む、請求項９６に記載の方法。
【請求項１００】
前記少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両の操舵機構、ブレーキ、又はアクセルの少なくとも１つを作動させることを含む、請求項９６に記載の方法。
【請求項１０１】
前記ホスト車両の前記少なくとも１つのナビゲーション変更は、歩行者が横断するのに前記２つの停止車両間の前記間隔が十分であると判定される場合に生じる、請求項９６に記載の方法。
【請求項１０２】
前記ホスト車両の前記少なくとも１つのナビゲーション変更は、標的車両が横断するのに前記２つの停止車両間の前記間隔が十分であると判定される場合に生じる、請求項９６に記載の方法。
【請求項１０３】
少なくとも１つの処理デバイスによって実行されるとき、
ホスト車両の環境を表す複数の画像をカメラから受信することと、
前記複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することと、
前記複数の画像の前記少なくとも１つの分析に基づいて前記２つの停止車両間の間隔を求めることと、
前記２つの停止車両間で求められた前記間隔の広さに基づいて前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることと
を含む方法を実行する命令を記憶する非一時的コンピュータ可読媒体。
【請求項１０４】
前記ホスト車両の少なくとも１つのナビゲーション変更を生じさせることは、前記ホスト車両を減速させること、前記ホスト車両を走行レーン内で移動させること、又は前記ホスト車両の走行レーンを変更することの少なくとも１つを含む、請求項１０３に記載の非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願の相互参照
本願は、２０１６年６月２７日に出願された米国仮特許出願第６２／３５４，９４６号、及び２０１７年１月１２日に出願された米国仮特許出願第６２／４４５，５００号の優先権の利益を主張する。上記の出願は、参照によりその全体が本明細書に援用される。
【０００２】
背景
技術分野
本開示は、概して、自律車両ナビゲーションに関する。加えて、本開示は、ドアの開きを検出することに基づいてホスト車両をナビゲートするためのシステム及び方法、標的車両がホスト車両のレーンに入ることを検出することに基づいてホスト車両をナビゲートするためのシステム及び方法、ホスト車両が走行する道路が一方通行道路であるかどうかを検出することに基づいてホスト車両をナビゲートするためのシステム及び方法、及び駐車車両の予測状態を求めるためのシステム及び方法に関する。
【背景技術】
【０００３】
背景情報
技術が進化し続けるにつれ、路上でナビゲート可能な完全自律車両という目標が現実味を帯びてきている。自律車両は、様々な要因を考慮する必要があり得、それらの要因に基づいて意図される目的地に安全且つ正確に到達するのに適切な判断を下し得る。例えば、自律車両は、視覚的情報（例えば、カメラから捕捉される情報）、レーダ、又はライダからの情報を処理して解釈する必要があり得ると共に、他のソースから（例えば、ＧＰＳデバイス、速度センサ、加速度計、サスペンションセンサ等から）得られる情報を使用することもある。同時に、目的地にナビゲートするために、自律車両は、特定の道路内の自らの位置（例えば、複数レーン道路内の特定のレーン）を識別し、他の車両と並んでナビゲートし、障害物及び歩行者を回避し、交通信号及び標識を観測し、適切な交差点又はインターチェンジにおいて道路から別の道路に進み、車両の動作中に生じるか又は起こる他の任意の状況に応答する必要もあり得る。
【０００４】
自律車両は、車両のナビゲーション経路を調節するか又はブレーキをかけるのに十分な時間を伴って、変化する状況に反応できなければならない。現存の自律ブレーキシステム内で使用されているもの等、従来の多くのアルゴリズムは、人間に匹敵する反応時間を有さない。従って、多くの場合、それらのアルゴリズムは、完全自律車両内で使用するよりも、人間のドライバーのためのバックアップとして使用する方が適している。
【０００５】
更に、駐車車両の特性は、道路の特性の優れたインジケータであることが多い。例えば、駐車車両の方向は、その道路が一方通行道路であるかどうかを示すことができ、車両間の間隔は、歩行者が車両間から現れる可能性があるかどうかを示し得る。しかし、既存の自律車両アルゴリズムは、かかる特性を使用しない。
【０００６】
最後に、自律車両システムは、人間のドライバーが入手することができない測定を使用することができる。例えば、自律車両システムは、赤外カメラを使用して環境を評価し、予測を行うことができる。しかし、従来の多くのシステムは、視覚カメラ及び赤外カメラ等の測定の組合せを利用しない。本開示の実施形態は、従来のシステムの上記の欠点の１つ又は複数に対処することができる。
【発明の概要】
【０００７】
概要
本開示による実施形態は、自律車両ナビゲーションのためのシステム及び方法を提供する。開示される実施形態は、カメラを使用して自律車両ナビゲーションの特徴を提供し得る。例えば、開示される実施形態によれば、開示されるシステムは、車両の環境を監視する１つ、２つ、又は３つ以上のカメラを含み得る。開示されるシステムは、例えば、カメラの１つ又は複数によって捕捉される画像の分析に基づいてナビゲーション応答を提供し得る。幾つかの実施形態は、環境を監視する１つ、２つ、又は３つ以上の赤外カメラを更に含み得る。従って、幾つかの実施形態は、例えば、可視光画像（visual image）、赤外画像、又はその任意の組合せの分析に基づいてナビゲーション応答を提供し得る。
【０００８】
ナビゲーション応答は、例えば、全地球測位システム（ＧＰＳ）データ、（例えば、加速度計、速度センサ、サスペンションセンサ等からの）センサデータ、及び／又は他の地図データを含む他のデータを考慮することもできる。
【０００９】
一実施形態では、ホスト車両の環境内でドアが開く事象を検出することに基づいて車両をナビゲートするためのシステムは、少なくとも１つの処理デバイスを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、その少なくとも１つの画像を分析して駐車車両の側部を識別することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、駐車車両の側部の前方領域内の駐車車両の第１の構造上の特徴と、駐車車両の側部の後方領域内の駐車車両の第２の構造上の特徴とを少なくとも１つの画像内で識別することと、第１の構造上の特徴及び第２の構造上の特徴の近傍の、駐車車両のドア縁部を少なくとも１つの画像内で識別することとを行うように更にプログラムされ得る。少なくとも１つの処理デバイスは、画像捕捉デバイスから受信される１つ又は複数のその後の画像の分析に基づいて駐車車両のドア縁部の画像特性の変化を求めることと、駐車車両のドア縁部の画像特性の変化に少なくとも部分的に基づいてホスト車両のナビゲーション経路を変えることとを行うようにもプログラムされ得る。
【００１０】
別の実施形態では、ホスト車両の環境内でドアが開く事象を検出することに基づいて車両をナビゲートするための方法は、ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、その少なくとも１つの画像を分析して駐車車両の側部を識別することとを含み得る。この方法は、駐車車両の側部の前方領域内の駐車車両の第１の構造上の特徴と、駐車車両の側部の後方領域内の駐車車両の第２の構造上の特徴とを少なくとも１つの画像内で識別することと、第１の構造上の特徴及び第２の構造上の特徴の近傍の、駐車車両のドア縁部を少なくとも１つの画像内で識別することとを更に含み得る。この方法はまた、画像捕捉デバイスから受信される１つ又は複数のその後の画像の分析に基づいて駐車車両のドア縁部の画像特性の変化を求めることと、駐車車両のドア縁部の画像特性の変化に少なくとも部分的に基づいてホスト車両のナビゲーション経路を変えることとを含み得る。
【００１１】
更に別の実施形態では、ホスト車両が走行しているレーンの方への標的車両の移動に基づいてホスト車両をナビゲートするためのシステムは、少なくとも１つの処理デバイスを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、その複数の画像の少なくとも１つを分析して標的車両及び標的車両の側部の少なくとも１つの車輪構成要素を識別することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、標的車両の少なくとも１つの車輪構成要素を含む領域を複数の画像の少なくとも２つにおいて分析して、標的車両の少なくとも１つの車輪構成要素に関連する動きを識別することと、標的車両の少なくとも１つの車輪構成要素に関連する識別された動きに基づいてホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを行うように更にプログラムされ得る。
【００１２】
更に別の実施形態では、ホスト車両が走行しているレーンの方への標的車両の移動に基づいてホスト車両をナビゲートするための方法は、ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、その複数の画像の少なくとも１つを分析して標的車両及び標的車両の側部の少なくとも１つの車輪構成要素を識別することとを含み得る。この方法は、標的車両の少なくとも１つの車輪構成要素を含む領域を複数の画像の少なくとも２つにおいて分析して、標的車両の少なくとも１つの車輪構成要素に関連する動きを識別することと、標的車両の少なくとも１つの車輪構成要素に関連する識別された動きに基づいてホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを更に含み得る。
【００１３】
更に別の実施形態では、ホスト車両が走行する道路が一方通行道路であるかどうかを検出するためのシステムは、少なくとも１つの処理デバイスを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、その少なくとも１つの画像の分析に基づいて、ホスト車両が走行する道路の第１の側方の第１の複数の車両を識別することと、その少なくとも１つの画像の分析に基づいて、ホスト車両が走行する道路の第２の側方の第２の複数の車両を識別することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、第１の複数の車両に関連する第１の前向き方向（facing direction）を求めることと、第２の複数の車両に関連する第２の前向き方向を求めることと、第１の前向き方向及び第２の前向き方向の両方がホスト車両の進行方向と逆である場合にホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを行うように更にプログラムされ得る。
【００１４】
更に別の実施形態では、ホスト車両が走行する道路が一方通行道路であるかどうかを検出するための方法は、ホスト車両の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することと、その少なくとも１つの画像の分析に基づいて、ホスト車両が走行する道路の第１の側方の第１の複数の車両を識別することと、その少なくとも１つの画像の分析に基づいて、ホスト車両が走行する道路の第２の側方の第２の複数の車両を識別することとを含み得る。この方法は、第１の複数の車両に関連する第１の前向き方向を求めることと、第２の複数の車両に関連する第２の前向き方向を求めることと、第１の前向き方向及び第２の前向き方向の両方がホスト車両の進行方向と逆である場合にホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを更に含み得る。
【００１５】
別の実施形態では、ホスト車両をナビゲートするためのシステムは、少なくとも１つの処理デバイスを含み得る。少なくとも１つの処理デバイスは、ホスト車両が走行している第１の道路から第２の道路にホスト車両をナビゲートするためのナビゲーション命令を受信することと、第２の道路の環境に関連する少なくとも１つの画像を画像捕捉デバイスから受信することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、その少なくとも１つの画像の分析に基づいて第２の道路の第１の側方の第１の複数の車両を識別することと、その少なくとも１つの画像の分析に基づいて第２の道路の第２の側方の第２の複数の車両を識別することとを行うように更にプログラムされ得る。少なくとも１つの処理デバイスは、第１の複数の車両に関連する第１の前向き方向を求めることと、第２の複数の車両に関連する第２の前向き方向を求めることと、ホスト車両が第２の道路上に入る場合にホスト車両が走行することになる進行方向に対して第１の前向き方向及び第２の前向き方向の両方が逆であると判定することとを行うようにもプログラムされ得る。少なくとも１つの処理デバイスは、ホスト車両が第２の道路上にナビゲートされる場合にホスト車両が走行することになる進行方向に対して第１の前向き方向及び第２の前向き方向の両方が逆であるという判定に応答して、ナビゲーション命令を中断するように更にプログラムされ得る。
【００１６】
更に別の実施形態では、ホスト車両の環境内の駐車車両の予測状態を求めるためのシステムは、画像捕捉デバイスと、赤外画像捕捉デバイスと、少なくとも１つの処理デバイスとを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、その複数の画像の少なくとも１つを分析して駐車車両を識別することと、その複数の画像の少なくとも２つを分析して、駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、駐車車両の少なくとも１つの熱画像を赤外画像捕捉デバイスから受信することと、照明状態の変化及び少なくとも１つの熱画像の分析に基づいて駐車車両の予測状態を求めることと、駐車車両の予測状態に基づいて、ホスト車両による少なくとも１つのナビゲーション応答を生じさせることとを行うように更にプログラムされ得る。
【００１７】
更に別の実施形態では、ホスト車両の環境内の駐車車両の予測状態を求めるための方法は、ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信することと、その複数の画像の少なくとも１つを分析して駐車車両を識別することと、その複数の画像の少なくとも２つを分析して、駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することとを含み得る。この方法は、駐車車両の少なくとも１つの熱画像を赤外画像捕捉デバイスから受信することと、照明状態の変化及び少なくとも１つの熱画像の分析に基づいて駐車車両の予測状態を求めることと、駐車車両の予測状態に基づいて、ホスト車両による少なくとも１つのナビゲーション応答を生じさせることとを更に含み得る。
【００１８】
更に別の実施形態では、ホスト車両の環境内の駐車車両の予測状態を求めるためのシステムは、画像捕捉デバイスと、少なくとも１つの処理デバイスとを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境に関連する複数の画像を画像捕捉デバイスから受信するようにプログラムされ得る。少なくとも１つの処理デバイスは、その複数の画像の少なくとも１つを分析して駐車車両を識別することと、その複数の画像の少なくとも２つを分析して、駐車車両に関連する少なくとも１つのライトの照明状態の変化を識別することとを行うように更にプログラムされ得る。少なくとも１つの処理デバイスは、照明状態の変化に基づいて駐車車両の予測状態を求めることと、駐車車両の予測状態に基づいて、ホスト車両による少なくとも１つのナビゲーション応答を生じさせることとを行うようにもプログラムされ得る。
【００１９】
更に別の実施形態では、ホスト車両をナビゲートするためのシステムは、少なくとも１つの処理デバイスを含み得る。少なくとも１つの処理デバイスは、ホスト車両の環境を表す複数の画像をカメラから受信することと、その複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することとを行うようにプログラムされ得る。少なくとも１つの処理デバイスは、複数の画像の少なくとも１つの分析に基づいて２つの停止車両間の間隔を求めることと、２つの停止車両間で求められた間隔の広さに基づいてホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを行うように更にプログラムされ得る。
【００２０】
更に別の実施形態では、ホスト車両をナビゲートするための方法は、ホスト車両の環境を表す複数の画像をカメラから受信することと、その複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することとを含み得る。この方法は、複数の画像の少なくとも１つの分析に基づいて２つの停止車両間の間隔を求めることと、２つの停止車両間で求められた間隔の広さに基づいてホスト車両の少なくとも１つのナビゲーション変更を生じさせることとを更に含み得る。
【００２１】
開示される他の実施形態によれば、非一時的コンピュータ可読記憶媒体は、少なくとも１つの処理デバイスにより実行され、且つ本明細書に記載される任意の方法を実行するプログラム命令を記憶し得る。
【００２２】
上述した概要及び以下に詳述する説明は、単に例示的及び説明的なものであり、特許請求の範囲の限定ではない。
【００２３】
図面の簡単な説明
本開示に組み込まれ、本明細書の一部をなす添付図面は、開示される様々な実施形態を示す。
【図面の簡単な説明】
【００２４】
【図１】開示される実施形態による例示的なシステムの図表現である。
【図２Ａ】開示される実施形態によるシステムを含む例示的な車両の側面図表現である。
【図２Ｂ】開示される実施形態による図２Ａに示される車両及びシステムの上面図表現である。
【図２Ｃ】開示される実施形態によるシステムを含む車両の別の実施形態の上面図表現である。
【図２Ｄ】開示される実施形態によるシステムを含む車両の更に別の実施形態の上面図表現である。
【図２Ｅ】開示される実施形態によるシステムを含む車両の更に別の実施形態の上面図表現である。
【図２Ｆ】開示される実施形態による例示的な車両制御システムの図表現である。
【図３Ａ】バックミラーと、開示される実施形態による車両撮像システムのユーザインタフェースとを含む車両の内部の図表現である。
【図３Ｂ】開示される実施形態による、バックミラーの背後に、車両フロントガラスと対向して位置決めされるように構成されるカメラマウントの例の図である。
【図３Ｃ】開示される実施形態による、異なる視点からの図３Ｂに示されるカメラマウントの図である。
【図３Ｄ】開示される実施形態による、バックミラーの背後に、車両フロントガラスと対向して位置決めされるように構成されるカメラマウントの例の図である。
【図４】開示される実施形態による１つ又は複数の動作を実行する命令を記憶するように構成されるメモリの例示的なブロック図である。
【図５Ａ】開示される実施形態による、単眼画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
【図５Ｂ】開示される実施形態による、画像の組内の１つ又は複数の車両及び／又は歩行者を検出する例示的なプロセスを示すフローチャートである。
【図５Ｃ】開示される実施形態による、画像の組内の道路マーク及び／又はレーンジオメトリ情報を検出する例示的なプロセスを示すフローチャートである。
【図５Ｄ】開示される実施形態による、画像の組内の信号機を検出する例示的なプロセスを示すフローチャートである。
【図５Ｅ】開示される実施形態による、車両経路に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスのフローチャートである。
【図５Ｆ】開示される実施形態による、先行車両がレーンを変更中であるか否かを特定する例示的なプロセスを示すフローチャートである。
【図６】開示される実施形態による、立体画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
【図７】開示される実施形態による、３組の画像の分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
【図８】開示される実施形態による１つ又は複数の動作を実行するための命令を記憶するように構成されるメモリの別の例示的なブロック図である。
【図９】開示される実施形態によるシステムの視点からの道路の概略図である。
【図１０】開示される実施形態によるシステムの視点からの道路の別の概略図である。
【図１１】開示される実施形態によるシステムの視点からの駐車した車の概略図である。
【図１２Ａ】開示される実施形態によるシステムの視点からのドアが開く事象の概略図である。
【図１２Ｂ】開示される実施形態によるシステムの視点からのドアが開く事象の別の概略図である。
【図１３】開示される実施形態によるシステムの視点からの道路の別の概略図である。
【図１４】開示される実施形態による、ドアが開く事象を検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセスを示すフローチャートである。
【図１５】開示される実施形態による１つ又は複数の動作を実行するための命令を記憶するように構成されるメモリの別の例示的なブロック図である。
【図１６Ａ】開示される実施形態によるシステムの視点からの駐車した車の概略図である。
【図１６Ｂ】開示される実施形態によるシステムの視点からの駐車した車の別の概略図である。
【図１７】開示される実施形態による、標的車両がホスト車両のレーンに入ることを検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセスを示すフローチャートである。
【図１８】開示される実施形態による、道路のホモグラフィを歪ませるための例示的なプロセスを示すフローチャートである。
【図１９】開示される実施形態による１つ又は複数の動作を実行するための命令を記憶するように構成されるメモリの別の例示的なブロック図である。
【図２０Ａ】開示される実施形態によるシステムの視点からの一方通行道路の概略図である。
【図２０Ｂ】開示される実施形態によるシステムの視点からの一方通行道路の別の概略図である。
【図２１】開示される実施形態による、ホスト車両が走行する道路が一方通行道路であるかどうかを検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセスを示すフローチャートである。
【図２２】開示される実施形態による１つ又は複数の動作を実行するための命令を記憶するように構成されるメモリの別の例示的なブロック図である。
【図２３Ａ】開示される実施形態によるシステムの視点からの駐車した車の概略図である。
【図２３Ｂ】開示される実施形態によるシステムの視点からの照明の変化を有する駐車した車の概略図である。
【図２３Ｃ】開示される実施形態によるシステムの視点からの駐車した車の熱マップの概略図である。
【図２４】開示される実施形態による、駐車車両の予測状態を求めるための例示的なプロセスを示すフローチャートである。
【図２５】開示される実施形態によるシステムから可視光画像と赤外画像とを整列させるための例示的なプロセスを示すフローチャートである。
【図２６】開示される実施形態による１つ又は複数の動作を実行するための命令を記憶するように構成されるメモリの別の例示的なブロック図である。
【図２７Ａ】開示される実施形態によるシステムの視点からの道路の別の概略図である。
【図２７Ｂ】開示される実施形態による、検出ホットスポットを有する道路の別の概略図である。
【図２８】開示される実施形態による、ホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
【発明を実施するための形態】
【００２５】
詳細な説明
以下の詳細な説明は、添付図面を参照する。可能な場合には常に、図面及び以下の説明において、同じ又は同様の部分を指すのに同じ参照番号が使用される。幾つかの例示的な実施形態は本明細書で説明されるが、変更形態、適応形態、及び他の実装形態が可能である。例えば、図面に示される構成要素に対する置換形態、追加形態、又は変更形態がなされ得、本明細書に記載される例示的な方法は、開示される方法のステップの置換、順序替え、削除、又は追加により変更することができる。従って、以下の詳細な説明は、開示される実施形態及び例に限定されない。その代わり、適切な範囲は、添付の特許請求の範囲により規定される。
【００２６】
自律車両概説
本開示を通して使用される場合、「自律車両」という用語は、ドライバーの入力なしで少なくとも１つのナビゲーション変更を実施することが可能な車両を指す。「ナビゲーション変更」は、車両の操舵、ブレーキ、又は加速／減速の１つ又は複数の変更を指す。自律的であるために、車両は完全に自動である（例えば、ドライバーなし又はドライバー入力なしで完全に動作可能である）必要はない。むしろ、自律車両は、特定の時間期間中にはドライバーの制御下で動作し、他の時間期間中にはドライバーの制御なしで動作することができる車両を含む。自律車両は、（例えば、車両レーン制約間に車両コースを維持するための）操舵又は（全ての状況下ではないが）特定の状況下での一部の操舵操作等の車両ナビゲーションの幾つかの側面のみを制御するが、他の側面（例えば、ブレーキ又は特定の状況下でのブレーキ）をドライバーに任せ得る車両を含むこともできる。幾つかの場合、自律車両は、車両のブレーキ、速度制御、及び／又は操舵の幾つかの又は全ての側面を扱い得る。
【００２７】
人間のドライバーは、車両を制御するために視覚的手掛かり及び観測に概して依存することから、交通基盤は、それに従って構築されており、レーンマーク、交通標識、及び信号機は、視覚的情報をドライバーに提供するように設計されている。交通基盤のこれらの設計特徴に鑑みて、自律車両は、カメラと、車両の環境から捕捉される視覚的情報を分析する処理ユニットとを含み得る。視覚的情報は、例えば、ドライバーによって観測可能な交通基盤の構成要素（例えば、レーンマーク、交通標識、信号機等）及び他の障害物（例えば、他の車両、歩行者、瓦礫等）を表す画像を含み得る。自律車両は、赤外カメラも含み得る。かかる実施形態では、処理ユニットは、環境から捕捉される熱情報を個別に又は視覚的情報と組み合わせて分析し得る。
【００２８】
加えて、自律車両は、ナビゲート時に車両の環境のモデルを提供する情報等の、記憶された情報を使用することもできる。例えば、車両は、ＧＰＳデータ、（例えば、加速度計、速度センサ、サスペンションセンサ等からの）センサデータ、及び／又は他の地図データを使用して、車両が走行している間、車両の環境に関連する情報を提供することができ、車両（及び他の車両）は、その情報を使用して自らの位置をモデル上で特定し得る。一部の車両は、車両間の通信、情報の共有、車両の周囲における危険又は変化のピア車両を変更すること等も可能であり得る。
【００２９】
システム概要
図１は、開示される例示的な実施形態によるシステム１００のブロック図の表現である。システム１００は、特定の実装形態の要件に応じて様々な構成要素を含み得る。幾つかの実施形態では、システム１００は、処理ユニット１１０、画像取得ユニット１２０、位置センサ１３０、１つ又は複数のメモリユニット１４０、１５０、地図データベース１６０、ユーザインタフェース１７０、及び無線送受信機１７２を含み得る。処理ユニット１１０は、１つ又は複数の処理デバイスを含み得る。幾つかの実施形態では、処理ユニット１１０は、アプリケーションプロセッサ１８０、画像プロセッサ１９０、又は他の任意の適切な処理デバイスを含み得る。同様に、画像取得ユニット１２０は、特定の応用の要件に応じて任意の数の画像取得デバイス及び構成要素を含み得る。幾つかの実施形態では、画像取得ユニット１２０は、画像捕捉デバイス１２２、画像捕捉デバイス１２４、画像捕捉デバイス１２６等の１つ又は複数の画像捕捉デバイス（例えば、カメラ、ＣＣＤ、又は他の任意のタイプの画像センサ）を含み得る。幾つかの実施形態では、画像取得ユニット１２０は、１つ又は複数の赤外捕捉デバイス（例えば、赤外カメラ、遠赤外（ＦＩＲ）検出器、又は他の任意のタイプの赤外センサ）を更に含むことができ、例えば、画像捕捉デバイス１２２、画像捕捉デバイス１２４、及び画像捕捉デバイス１２６の１つ又は複数は、赤外画像捕捉デバイスを含み得る。
【００３０】
システム１００は、処理ユニット１１０を画像取得ユニット１２０に通信可能に接続するデータインタフェース１２８を含むこともできる。例えば、データインタフェース１２８は、画像取得ユニット１２０によって取得される画像データを処理ユニット１１０に伝送するための１つ又は複数の任意の有線リンク及び／又は無線リンクを含み得る。
【００３１】
無線送受信機１７２は、無線周波数、赤外線周波数、磁場、又は電場の使用により無線インタフェースを介して伝送を１つ又は複数のネットワーク（例えば、セルラ、インターネット等）と交換するように構成される１つ又は複数のデバイスを含み得る。無線送受信機１７２は、任意の既知の規格（例えば、Wi-Fi（登録商標）、Bluetooth（登録商標）、Bluetooth Smart、８０２．１５．４、ZigBee（登録商標）等）を使用してデータを送信及び／又は受信し得る。かかる伝送は、ホスト車両から１つ又は複数の遠隔設置されたサーバへの通信を含み得る。かかる伝送は、（例えば、ホスト車両の環境内の標的車両を考慮して又はかかる標的車両と共に、ホスト車両のナビゲーションの調整を促進するために）ホスト車両と、ホスト車両の環境内の１つ又は複数の標的車両との間の（単方向又は双方向）通信、更には伝送を行う車両の近傍にある不特定の受け手へのブロードキャスト伝送も含み得る。
【００３２】
アプリケーションプロセッサ１８０及び画像プロセッサ１９０の両方は、様々なタイプのハードウェアベースの処理デバイスを含み得る。例えば、アプリケーションプロセッサ１８０及び画像プロセッサ１９０の何れか一方又は両方は、マイクロプロセッサ、プリプロセッサ（画像プリプロセッサ等）、グラフィックスプロセッサ、中央演算処理装置（ＣＰＵ）、サポート回路、デジタル信号プロセッサ、集積回路、メモリ、グラフィックス処理ユニット（ＧＰＵ）、又はアプリケーションを実行し且つ画像を処理し分析するのに適した他の任意のタイプのデバイスを含み得る。幾つかの実施形態では、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、任意のタイプのシングルコア又はマルチコアプロセッサ、モバイルデバイスマイクロコントローラ、中央演算処理装置等を含み得る。例えば、Intel（登録商標）、AMD（登録商標）等の製造業者から入手可能なプロセッサ、又はNVIDIA（登録商標）、ATI（登録商標）等の製造業者から入手可能なＧＰＵを含む様々な処理デバイスが使用可能であり、様々なアーキテクチャ（例えば、x86プロセッサ、ARM（登録商標）等）を含み得る。
【００３３】
幾つかの実施形態では、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、Mobileye（登録商標）から入手可能なEyeQシリーズのプロセッサチップの何れかを含み得る。これらのプロセッサ設計は、ローカルメモリ及び命令セットを有する複数の処理ユニットをそれぞれ含む。そのようなプロセッサは、複数の画像センサから画像データを受信するためのビデオ入力を含むことができ、ビデオ出力機能も含む場合がある。一例では、EyeQ2（登録商標）は、３３２ＭＨｚで動作する９０ｎｍ−ミクロン技術を使用する。EyeQ2（登録商標）アーキテクチャは、２つの浮動小数点ハイパースレッド３２ビットＲＩＳＣ  ＣＰＵ（MIPS32（登録商標）34K（登録商標）コア）、５つのビジョン計算エンジン（ＶＣＥ）、３つのベクトルマイクロコードプロセッサ（VMP（登録商標））、Denali６４ビットモバイルＤＤＲコントローラ、１２８ビット内部Sonics Interconnect、デュアル１６ビットビデオ入力及び１８ビットビデオ出力コントローラ、１６チャネルＤＭＡ、及び幾つかの周辺機器で構成される。MIPS34K  ＣＰＵは、５つのＶＣＥ、３つのVMP（商標）及びＤＭＡ、第２のMIPS34K  ＣＰＵ及びマルチチャネルＤＭＡ並びに他の周辺機器を管理する。５つのＶＣＥ、３つのVMP（登録商標）、及びMIPS34K  ＣＰＵは、多機能バンドルアプリケーションによって要求される集中的なビジョン計算を実行することができる。別の例では、開示される実施形態において、第三世代プロセッサであり、EyeQ2（登録商標）よりも６倍強力なEyeQ3（登録商標）を使用することができる。他の例では、開示される実施形態において、EyeQ4（登録商標）及び／又はEyeQ5（登録商標）を使用することができる。当然ながら、更に最新の又は将来の任意のEyeQ処理デバイスも、開示される実施形態と共に使用することができる。
【００３４】
本明細書で開示される処理デバイスの何れも特定の機能を実行するように構成され得る。特定の機能を実行するように、記載したEyeQプロセッサ又は他のコントローラ若しくはマイクロプロセッサの何れか等の処理デバイスを構成することは、コンピュータ実行可能命令をプログラムすることと、処理デバイスの動作中に実行するためにそれらの命令を処理デバイスに提供することとを含み得る。幾つかの実施形態では、処理デバイスを構成することは、処理デバイスにアーキテクチャ的命令を直接プログラムすることを含み得る。例えば、書替え可能ゲートアレイ（ＦＰＧＡ）及び特定用途向け集積回路（ＡＳＩＣ）等の処理デバイスは、例えば、１つ又は複数のハードウェア記述言語（ＨＤＬ）を使用して構成され得る。
【００３５】
他の実施形態では、処理デバイスを構成することは、動作中に処理デバイスがアクセス可能なメモリ上に実行可能命令を記憶することを含み得る。例えば、処理デバイスは、動作中にメモリにアクセスして、記憶された命令を取得し実行することができる。何れの場合にも、本明細書で開示されるセンシング、画像分析、及び／又はナビゲーション機能を実行するように構成される処理デバイスは、ホスト車両の複数のハードウェアベースの構成要素を制御する専用のハードウェアベースのシステムを表す。
【００３６】
図１は、処理ユニット１１０に含まれる２つの別個の処理デバイスを示すが、より多数又はより少数の処理デバイスを使用することもできる。例えば、幾つかの実施形態では、単一の処理デバイスを使用して、アプリケーションプロセッサ１８０及び画像プロセッサ１９０のタスクを達成し得る。他の実施形態では、これらのタスクは、３つ以上の処理デバイスにより実行し得る。更に、幾つかの実施形態では、システム１００は、画像取得ユニット１２０等の他の構成要素を含まず、処理ユニット１１０の１つ又は複数を含み得る。
【００３７】
処理ユニット１１０は、様々なタイプのデバイスを含み得る。例えば、処理ユニット１１０は、コントローラ、画像プリプロセッサ、中央演算処理装置（ＣＰＵ）、グラフィックス処理ユニット（ＧＰＵ）、サポート回路、デジタル信号プロセッサ、集積回路、メモリ、画像を処理し分析するための他の任意のタイプのデバイス等の様々なデバイスを含み得る。画像プリプロセッサは、画像センサから画像を捕捉し、デジタル化し、処理するためのビデオプロセッサを含み得る。ＣＰＵは、任意の数のマイクロコントローラ又はマイクロプロセッサを含み得る。ＧＰＵも任意の数のマイクロコントローラ又はマイクロプロセッサを含み得る。サポート回路は、キャッシュ、電源、クロック、及び入出力回路を含む当技術分野で一般に周知の任意の数の回路であり得る。メモリは、プロセッサによって実行されるときにシステムの動作を制御するソフトウェアを記憶し得る。メモリは、データベース及び画像処理ソフトウェアを含み得る。メモリは、任意の数のランダムアクセスメモリ、読み取り専用メモリ、フラッシュメモリ、ディスクドライブ、光学記憶装置、テープ記憶装置、リムーバブル記憶装置、及び他のタイプの記憶装置を含み得る。一例では、メモリは、処理ユニット１１０と別個であり得る。別の例では、メモリは、処理ユニット１１０に統合され得る。
【００３８】
各メモリ１４０、１５０は、プロセッサ（例えば、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０）によって実行されるときにシステム１００の様々な側面の動作を制御し得るソフトウェア命令を含み得る。これらのメモリユニットは、様々なデータベース及び画像処理ソフトウェア、並びに例えばニューラルネットワーク又はディープニューラルネットワーク等の訓練されたシステムを含み得る。メモリユニットは、ランダムアクセスメモリ（ＲＡＭ）、読み取り専用メモリ（ＲＯＭ）、フラッシュメモリ、ディスクドライブ、光学記憶装置、テープ記憶装置、リムーバブル記憶装置、及び／又は他の任意のタイプの記憶装置を含み得る。幾つかの実施形態では、メモリユニット１４０、１５０は、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０と別個であり得る。他の実施形態では、これらのメモリユニットは、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０に統合され得る。
【００３９】
位置センサ１３０は、システム１００の少なくとも１つの構成要素に関連付けられた位置を特定するのに適する任意のタイプのデバイスを含み得る。幾つかの実施形態では、位置センサ１３０はＧＰＳ受信機を含み得る。そのような受信機は、全地球測位システム衛星によりブロードキャストされる信号を処理することにより、ユーザの位置及び速度を特定することができる。位置センサ１３０からの位置情報は、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０に提供し得る。
【００４０】
幾つかの実施形態では、システム１００は、車両２００の速度を測定するための速度センサ（例えば、速度計）等の構成要素を含み得る。システム１００は、１つ又は複数の軸に沿って車両２００の加速度を測定するための１つ又は複数の（単軸又は多軸）加速度計も含み得る。
【００４１】
メモリユニット１４０、１５０は、既知の陸標の１つ又は複数のインジケータ及び／又は位置を含むデータベース又は他の任意の形式で編成されるデータを含み得る。環境のセンサ情報（２つ以上の画像のライダ処理又は立体処理に由来する画像、レーダ信号、奥行情報等）をＧＰＳ座標、車両のエゴモーション等の位置情報と一緒に処理して、既知の陸標に対する車両の現在位置を求め、車両の位置を洗練させることができる。この技術の特定の側面は、本願の譲受人が販売するＲＥＭ（商標）として知られている位置特定技術に含まれる。
【００４２】
ユーザインタフェース１７０は、情報を提供するか、又はシステム１００の１人若しくは複数のユーザから入力を受信するのに適する任意のデバイスを含み得る。幾つかの実施形態では、ユーザインタフェース１７０は、例えば、タッチスクリーン、マイクロフォン、キーボード、ポインタデバイス、トラックホィール、カメラ、つまみ、ボタン等を含め、ユーザ入力デバイスを含み得る。そのような入力デバイスを用いて、ユーザは、命令若しくは情報をタイプし、音声コマンドを提供し、ボタン、ポインタ、若しくは目追跡機能を使用して、又は情報をシステム１００に通信する任意の他の適する技法を通して画面上のメニュー選択肢を選択することにより、システム１００に情報入力又はコマンドを提供可能であり得る。
【００４３】
ユーザインタフェース１７０は、ユーザに情報を提供するか、又はユーザから情報を受信し、例えば、アプリケーションプロセッサ１８０による使用のためにその情報を処理するように構成される１つ又は複数の処理デバイスを備え得る。幾つかの実施形態では、そのような処理デバイスは、目の動きを認識して追跡する命令、音声コマンドを受信して解釈する命令、タッチスクリーンで行われたタッチ及び／又はジェスチャを認識して解釈する命令、キーボード入力又はメニュー選択に応答する命令等を実行し得る。幾つかの実施形態では、ユーザインタフェース１７０は、ディスプレイ、スピーカ、触覚デバイス、及び／又は出力情報をユーザに提供する任意の他のデバイスを含み得る。
【００４４】
地図データベース１６０は、システム１００にとって有用な地図データを記憶する任意のタイプのデータベースを含み得る。幾つかの実施形態では、地図データベース１６０は、道路、水特徴、地理的特徴、ビジネス、関心点、レストラン、ガソリンスタンド等を含む、様々な項目の、基準座標系での位置に関連するデータを含み得る。地図データベース１６０は、そのような項目の位置のみならず、例えば、記憶された特徴の何れかに関連付けられた名称を含む、それらの項目に関連する記述子も記憶し得る。幾つかの実施形態では、地図データベース１６０は、システム１００の他の構成要素と共に物理的に配置し得る。代替又は追加として、地図データベース１６０又はその一部は、システム１００の他の構成要素（例えば、処理ユニット１１０）に関してリモートに配置し得る。そのような実施形態では、地図データベース１６０からの情報は、有線又は無線データ接続を介してネットワークにダウンロードし得る（例えば、セルラネットワーク及び／又はインターネット等を介して）。一部の事例では、地図データベース１６０は、道路の特定の特徴（例えば、レーンマーク）又はホスト車両の目標軌道の多項式表現を含む疎データモデルを記憶し得る。地図データベース１６０は、目標軌道に対するホスト車両の既知の位置を求めるか又は更新するために使用することができる認識された様々な陸標の記憶された表現も含み得る。陸標表現は、幾つかある潜在的識別子の中でも特に、陸標のタイプ、陸標の位置等のデータフィールドを含み得る。
【００４５】
画像捕捉デバイス１２２、１２４、及び１２６は、それぞれ環境から少なくとも１つの画像を捕捉するのに適する任意のタイプのデバイスを含み得る。更に、任意の数の画像捕捉デバイスを使用して、画像プロセッサに入力する画像を取得し得る。幾つかの実施形態は、単一の画像捕捉デバイスのみを含み得、一方、他の実施形態は、２つ、３つ、更に４つ以上の画像捕捉デバイスを含み得る。
【００４６】
更に、上記で説明したように、画像捕捉デバイス１２２、１２４、及び１２６は、環境から少なくとも１つの赤外画像を捕捉するのに適した任意のタイプのデバイスをそれぞれ含み得る。任意の数の赤外画像捕捉デバイスが使用され得る。幾つかの実施形態は、単一の赤外画像捕捉デバイスのみを含むことができるのに対し、他の実施形態は、２つ、３つ、更には４つ以上の赤外画像捕捉デバイスを含み得る。更に、幾つかの実施形態は、任意の数の画像捕捉デバイスと組み合わせて任意の数の赤外画像捕捉デバイスを含み得る。画像捕捉デバイス１２２、１２４、及び１２６について、図２Ｂ〜図２Ｅに関して以下で更に説明する。
【００４７】
１つ又は複数のカメラ（例えば、画像捕捉デバイス１２２、１２４、及び１２６）は、車両上に含まれるセンシングブロックの一部であり得る。センシングブロックは、１つ又は複数の赤外画像カメラを１つ又は複数のカメラと別個に又は組み合わせて更に含み得る。
【００４８】
センシングブロックに他の様々なセンサが含まれ得、車両のセンシングされたナビゲーション状態を策定するためにそれらのセンサの何れか又は全てを利用し得る。（前方、側方、後方等の）カメラに加えて、レーダ、ライダ、音響センサ等の他のセンサがセンシングブロック内に含まれ得る。加えて、センシングブロックは、車両の環境に関する情報を通信し且つ送信／受信するように構成される１つ又は複数の構成要素を含み得る。例えば、かかる構成要素は、ホスト車両に対して離れて位置するソースから、ホスト車両の環境に関係するセンサベースの情報又は他の任意のタイプの情報を受信し得る無線送受信機（ＲＦ等）を含み得る。かかる情報は、ホスト車両以外の車両システムから受信されるセンサ出力情報又は関連情報を含み得る。幾つかの実施形態では、かかる情報は、遠隔計算装置、集中サーバ等から受信される情報を含み得る。更に、カメラは、多くの異なる構成、すなわち単一のカメラユニット、複数のカメラ、カメラクラスタ、長いＦＯＶ、短いＦＯＶ、広角、魚眼等を呈し得る。
【００４９】
システム１００又はその様々な構成要素は、様々な異なるプラットフォームに組み込むことができる。幾つかの実施形態では、システム１００は、図２Ａに示すように車両２００上に含まれ得る。例えば、車両２００は、図１に関して上述した処理ユニット１１０及びシステム１００の他の構成要素の何れかを備え得る。幾つかの実施形態では、車両２００は、画像捕捉デバイス（例えば、カメラ）及び／又は赤外画像捕捉デバイスを１つのみ備えることができるのに対し、図２Ｂ〜図２Ｅに関して解説する実施形態等の他の実施形態では、複数の画像捕捉デバイス及び／又は複数の赤外捕捉デバイスが使用可能である。例えば、図２Ａに示す車両２００の画像捕捉デバイス１２２及び１２４の何れもＡＤＡＳ（最新運転者支援システム）撮像セットの一部であり得る。
【００５０】
画像取得ユニット１２０の一部として車両２００に含まれる画像捕捉デバイスは、任意の適する位置に位置し得る。幾つかの実施形態では、図２Ａ〜図２Ｅ及び図３Ａ〜図３Ｃに示されるように、画像捕捉デバイス１２２は、バックミラーの近傍に配置し得る。この位置は、車両２００のドライバーと同様の視線を提供し得、ドライバーにとって何が見え、何が見えないかの判断を支援し得る。画像捕捉デバイス１２２は、バックミラーの近傍の任意の位置に位置し得るが、画像捕捉デバイス１２２をミラーのドライバー側に配置することは、ドライバーの視野及び／又は視線を表す画像の取得を更に支援し得る。
【００５１】
画像取得ユニット１２０の画像捕捉デバイスについて他の位置を使用することもできる。例えば、画像捕捉デバイス１２４は、車両２００のバンパー上又はバンパー内に配置し得る。そのような位置は、広視野を有する画像捕捉デバイスに特に適し得る。バンパーに配置される画像捕捉デバイスの視線は、ドライバーの視線と異なることができ、従って、バンパー画像捕捉デバイス及びドライバーは、同じ物体を常に見ているわけではない。画像捕捉デバイス（例えば、画像捕捉デバイス１２２、１２４、及び１２６）は、他の位置に配置することもできる。例えば、画像捕捉デバイスは、車両２００のサイドミラーの一方又は両方、車両２００のルーフ、車両２００のフード、車両２００のトランク、車両２００の側部に配置し得、車両２００の任意のウィンドウに搭載、背後に位置決め、又は前に位置決めし得、車両２００の前部及び／又は後部のライト又はその近傍等に搭載し得る。
【００５２】
画像捕捉デバイスに加えて、車両２００は、システム１００の様々な他の構成要素を含み得る。例えば、処理ユニット１１０は、車両のエンジン制御ユニット（ＥＣＵ）に統合されるか、又はＥＣＵとは別個に車両２００に含まれ得る。車両２００には、ＧＰＳ受信機等の位置センサ１３０を備えることもでき、車両２００は、地図データベース１６０並びにメモリユニット１４０及び１５０を含むこともできる。
【００５３】
上述したように、無線送受信機１７２は、１つ又は複数のネットワーク（例えば、セルラネットワーク、インターネット等）を介してデータを送信及び／又は受信し得る。例えば、無線送受信機１７２は、システム１００により収集されたデータを１つ又は複数のサーバにアップロードし、データを１つ又は複数のサーバからダウンロードし得る。無線送受信機１７２を介して、システム１００は、例えば、定期的に又は需要時に地図データベース１６０、メモリ１４０、及び／又はメモリ１５０に記憶されたデータへの更新を受信し得る。同様に、無線送受信機１７２は、システム１００からの任意のデータ（例えば、画像取得ユニット１２０により捕捉された画像、位置センサ１３０、他のセンサ、又は車両制御システムにより受信されたデータ等）及び／又は処理ユニット１１０により処理された任意のデータを１つ又は複数のサーバにアップロードし得る。
【００５４】
システム１００は、プライバシーレベル設定に基づいてデータをサーバ（例えば、クラウド）にアップロードし得る。例えば、システム１００は、サーバに送信される、車両及び／又は車両のドライバー／所有者を一意に識別し得るタイプのデータ（メタデータを含む）を規制又は制限するプライバシーレベル設定を実施し得る。そのような設定は、例えば、無線送受信機１７２を介してユーザにより設定され得、工場デフォルト設定により初期化され得、又は無線送受信機１７２により受信されるデータにより設定され得る。
【００５５】
幾つかの実施形態では、システム１００は、「高」プライバシーレベルに従ってデータをアップロードし得、そのような設定下において、システム１００は、特定の車両及び／又はドライバー／所有者についてのいかなる詳細もないデータ（例えば、ルートに関連する位置情報、捕捉画像等）を送信し得る。例えば、「高」プライバシーレベルに従ってデータをアップロードする場合、システム１００は、車両識別番号（ＶＩＮ）又は車両のドライバー若しくは所有者の氏名を含まず、代わりに、捕捉画像及び／又はルートに関連する限られた位置情報等のデータを送信し得る。
【００５６】
他のプライバシーレベルも意図される。例えば、システム１００は、「中」プライバシーレベルに従ってデータをサーバに送信し得、車両及び／又は車両タイプのメーカー及び／又はモデル（例えば、乗用車、スポーツユーティリティ車、トラック等）等の「高」プライバシーレベル下では含まれない追加情報を含み得る。幾つかの実施形態では、システム１００は、「低」プライバシーレベルに従ってデータをアップロードし得る。「低」プライバシーレベル設定下では、システム１００は、特定の車両、所有者／ドライバー、及び／又は車両が走行したルートの一部又は全体を一意に識別するのに十分なデータをアップロードし、そのような情報を含み得る。そのような「低」プライバシーレベルデータは、例えば、ＶＩＮ、ドライバー／所有者氏名、出発前の車両の出発点、車両の意図される目的地、車両のメーカー及び／又はモデル、車両のタイプ等の１つ又は複数を含み得る。
【００５７】
図２Ａは、開示される実施形態による例示的な車両撮像システムの側面図表現である。図２Ｂは、図２Ａに示される実施形態の上面図表現である。図２Ｂに示されるように、開示される実施形態は、バックミラーの近傍及び／又は車両２００のドライバー近傍に位置決めされた第１の画像捕捉デバイス１２２と、車両２００のバンパー領域（例えば、バンパー領域２１０の１つ）上又はバンパー領域内に位置決めされる第２の画像捕捉デバイス１２４と、処理ユニット１１０とを有するシステム１００を本体内に含む車両２００を示し得る。図２Ａ及び図２Ｂでは、第１の画像捕捉デバイス１２２及び第２の画像捕捉デバイス１２４の１つ又は複数は、赤外画像捕捉デバイスを含み得る。
【００５８】
図２Ｃに示すように、画像捕捉デバイス１２２及び１２４の両方は、車両２００のバックミラーの近傍及び／又はドライバーの近くに配置され得る。図２Ａ及び図２Ｂと同様に、図２Ｃでは、第１の画像捕捉デバイス１２２及び第２の画像捕捉デバイス１２４の１つ又は複数は、赤外画像捕捉デバイスを含み得る。
【００５９】
更に、図２Ｂ及び図２Ｃでは、２つの画像捕捉デバイス１２２及び１２４を示すが、他の実施形態は、３つ以上の画像捕捉デバイスを含み得ることを理解されたい。例えば、図２Ｄ及び図２Ｅに示す実施形態では、第１の画像捕捉デバイス１２２、第２の画像捕捉デバイス１２４、及び第３の画像捕捉デバイス１２６は、車両２００のシステム１００に含まれる。図２Ａ、図２Ｂ、及び図２Ｃと同様に、図２Ｄ及び図２Ｅの第１の画像捕捉デバイス１２２、第２の画像捕捉デバイス１２４、及び第３の画像捕捉デバイス１２６の１つ又は複数は、赤外画像捕捉デバイスを含み得る。
【００６０】
図２Ｄに示されるように、画像捕捉デバイス１２２は、車両２００のバックミラーの近傍及び／又はドライバーの近傍に位置決めし得、画像捕捉デバイス１２４及び１２６は、車両２００のバンパー領域（例えば、バンパー領域２１０の１つ）上に位置決めし得る。また、図２Ｅに示されるように、画像捕捉デバイス１２２、１２４、及び１２６は、車両２００のバックミラーの近傍及び／又はドライバーシートの近傍に位置決めし得る。開示される実施形態は、いかなる特定の数及び構成の画像捕捉デバイスにも限定されず、画像捕捉デバイスは、車両２００内及び／又は車両２００上の任意の適する位置に位置決めし得る。
【００６１】
開示される実施形態が車両に限定されず、他の状況でも適用可能なことを理解されたい。開示される実施形態が特定のタイプの車両２００に限定されず、自動車、トラック、トレーラー、及び他のタイプの車両を含む全てのタイプの車両に適用可能であり得ることも理解されたい。
【００６２】
第１の画像捕捉デバイス１２２は、任意の適するタイプの画像捕捉デバイス又は赤外画像補足デバイスを含み得る。画像捕捉デバイス１２２は光軸を含み得る。一例では、画像捕捉デバイス１２２は、グローバルシャッタを有するAptina M9V024 WVGAセンサを含み得る。他の実施形態では、画像捕捉デバイス１２２は、１２８０×９６０ピクセルの解像度を提供し得、ローリングシャッタを含み得る。画像捕捉デバイス１２２は、様々な光学要素を含み得る。幾つかの実施形態では、１枚又は複数枚のレンズが含まれて、例えば、画像捕捉デバイスの所望の焦点距離及び視野を提供し得る。幾つかの実施形態では、画像捕捉デバイス１２２に６ｍｍレンズ又は１２ｍｍレンズを関連付け得る。幾つかの実施形態では、画像捕捉デバイス１２２は、図２Ｄに示されるように、所望の視野（ＦＯＶ）２０２を有する画像を捕捉するように構成し得る。例えば、画像捕捉デバイス１２２は、４６度ＦＯＶ、５０度ＦＯＶ、５２度ＦＯＶ、又は５２度ＦＯＶを超える度数を含め、４０度〜５６度の範囲内等の通常のＦＯＶを有するように構成し得る。代替的に、画像捕捉デバイス１２２は、２８度ＦＯＶ又は３６度ＦＯＶ等の２３〜４０度の範囲の狭いＦＯＶを有するように構成し得る。加えて、画像捕捉デバイス１２２は、１００〜１８０度の範囲の広いＦＯＶを有するように構成し得る。幾つかの実施形態では、画像捕捉デバイス１２２は、広角バンパーカメラ又は最高で１８０度ＦＯＶを有するバンパーカメラを含み得る。幾つかの実施形態では、画像捕捉デバイス１２２は、約１００度の水平ＦＯＶを有するアスペクト比約２：１（例えば、Ｈ×Ｖ＝３８００×１９００ピクセル）の７．２Ｍピクセル画像捕捉デバイスであり得る。そのような画像捕捉デバイスは、三次元画像捕捉デバイス構成の代わりに使用し得る。大きいレンズ歪みに起因して、そのような画像捕捉デバイスの垂直ＦＯＶは、画像捕捉デバイスが半径方向に対称なレンズを使用する実装形態では、５０度よりはるかに低くなり得る。例えば、そのようなレンズは、半径方向で対称ではなく、それにより、水平ＦＯＶ１００度で、５０度よりも大きい垂直ＦＯＶが可能である。
【００６３】
第１の画像捕捉デバイス１２２は、車両２００に関連するシーンに対する複数の第１の画像を取得し得る。複数の第１の画像のそれぞれを一連の画像走査線として取得することができ、これらは、ローリングシャッタを使用して捕捉され得る。各走査線は、複数のピクセルを含み得る。第１の画像捕捉デバイス１２２が赤外画像捕捉デバイスを含む実施形態では、複数の第１の画像のそれぞれは、電子走査システムを使用して捕捉され得る一連の画像走査線として取得され得る。
【００６４】
第１の画像捕捉デバイス１２２は、第１の一連の画像走査線のそれぞれの取得に関連付けられた走査レートを有し得る。走査レートは、画像センサが、特定の走査線に含まれる各ピクセルに関連付けられた画像データを取得することができるレートを指し得る。第１の画像捕捉デバイス１２２が赤外画像捕捉デバイスを含む実施形態では、走査レートは、赤外画像センサが、特定の走査線に含まれる各ピクセルに関連付けられた熱データを取得することができるレートを指し得る。
【００６５】
画像捕捉デバイス１２２、１２４、及び１２６は、例えば、ＣＣＤセンサ又はＣＭＯＳセンサを含む任意の適切なタイプの及び数の画像センサを含み得る。一実施形態では、ＣＭＯＳ画像センサをローリングシャッタと共に利用することができ、それにより行内の各ピクセルが一度に１つずつ読み取られ、行の走査は、画像フレーム全体が捕捉されるまで行毎に進められる。幾つかの実施形態では、行は、フレームに対して上から下に順次捕捉され得る。画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数が赤外画像捕捉デバイスを含む実施形態では、電子走査システムと共に非冷却焦点面アレイ（ＵＦＰＡ）を利用することができ、それにより、行の走査は、熱マップ全体が捕捉されるまで行毎に進められる。
【００６６】
幾つかの実施形態では、本明細書で開示される画像捕捉デバイス（例えば、画像捕捉デバイス１２２、１２４、及び１２６）の１つ又は複数は、高解像度イメージャを構成することができ、５Ｍピクセル超、７Ｍピクセル超、１０Ｍピクセル超、又はそれを超える解像度を有し得る。
【００６７】
ローリングシャッタを使用することは、異なる行内のピクセルが異なる時点において露出され捕捉されることになる場合があり、それは、捕捉画像フレーム内のスキュー及び他の画像アーチファクトを引き起こし得る。他方、画像捕捉デバイス１２２がグローバルシャッタ又は同期シャッタを用いて動作するように構成される場合、ピクセルの全てが同じ時間にわたって且つ共通の露出期間中に露出され得る。その結果、グローバルシャッタを利用するシステムから収集されるフレーム内の画像データは、特定の時点における全ＦＯＶ（ＦＯＶ２０２等）のスナップショットを表す。対照的に、ローリングシャッタの応用では、フレーム内の各行が異なる時点において露出され、異なる時点においてデータが捕捉される。従って、ローリングシャッタを有する画像捕捉デバイスでは、動いている物体が歪んで見えることがある。この現象（赤外画像捕捉デバイス内での電子走査の使用にも同様に該当する）について、以下でより詳細に説明する。
【００６８】
第２の画像捕捉デバイス１２４及び第３の画像捕捉デバイス１２６は、任意のタイプの画像捕捉デバイス又は赤外画像補足デバイスであり得る。第１の画像捕捉デバイス１２２のように、画像捕捉デバイス１２４及び１２６のそれぞれは、光軸を含み得る。一実施形態では、画像捕捉デバイス１２４及び１２６のそれぞれは、グローバルシャッタを有するAptina M9V024 WVGAセンサを含み得る。代替的に、画像捕捉デバイス１２４及び１２６のそれぞれは、ローリングシャッタを含み得る。画像捕捉デバイス１２２のように、画像捕捉デバイス１２４及び１２６は、様々なレンズ及び光学要素を含むように構成し得る。幾つかの実施形態では、画像捕捉デバイス１２４及び１２６に関連付けられたレンズは、画像捕捉デバイス１２２に関連付けられたＦＯＶ（ＦＯＶ２０２等）と同じであるか、又は狭いＦＯＶ（ＦＯＶ２０４及び２０６等）を提供し得る。例えば、画像捕捉デバイス１２４及び１２６は、４０度、３０度、２６度、２３度、２０度、又は２０度未満のＦＯＶを有し得る。
【００６９】
画像捕捉デバイス１２４及び１２６は、車両２００に関連付けられたシーンに対して複数の第２及び第３の画像を取得し得る。複数の第２及び第３の画像のそれぞれは、第２及び第３の一連の画像走査線として取得し得、これらはローリングシャッタを使用して捕捉し得る。各走査線又は各行は、複数のピクセルを有し得る。画像捕捉デバイス１２４及び１２６は、第２及び第３の一連内に含まれる各画像走査線の取得に関連付けられた第２及び第３の走査レートを有し得る。画像捕捉デバイス１２４及び１２６の１つ又は複数が赤外画像捕捉デバイスを含む実施形態では、複数の第２の画像及び第３の画像のそれぞれは、電子走査システムを使用して捕捉され得る一連の第２の及び第３の熱走査線として取得され得る。かかる実施形態では、各走査線又は行は、複数のピクセルを有することができ、画像捕捉デバイス１２４及び／又は１２６は、第２の一連及び第３の一連に含まれる熱走査線のそれぞれの取得に関連する第２の走査レート及び第３の走査レートを有し得る。
【００７０】
各画像捕捉デバイス１２２、１２４、及び１２６は、任意の適する位置に、車両２００に対して任意の適する向きで位置決めし得る。画像捕捉デバイス１２２、１２４、及び１２６の相対位置は、画像捕捉デバイスから取得される情報を一緒に融合させることを支援するように選択し得る。例えば、幾つかの実施形態では、画像捕捉デバイス１２４に関連付けられたＦＯＶ（ＦＯＶ２０４）は、画像捕捉デバイス１２２に関連付けられたＦＯＶ（ＦＯＶ２０２等）及び画像捕捉デバイス１２６に関連付けられたＦＯＶ（ＦＯＶ２０６等）と部分的又は完全に重複し得る。
【００７１】
画像捕捉デバイス１２２、１２４、及び１２６は、任意の適する相対高さで車両２００に配置し得る。一例では、画像捕捉デバイス１２２、１２４、及び１２６間に高さ差があり得、高さ差は、立体分析を可能にするのに十分な視差情報を提供し得る。例えば、図２Ａに示されるように、２つの画像捕捉デバイス１２２及び１２４は異なる高さにある。画像捕捉デバイス１２２、１２４、及び１２６間には横方向変位差もあり得、例えば、処理ユニット１１０による立体分析に追加の視差情報を与える。横方向変位差は、図２Ｃ及び図２Ｄに示されるように、ｄｘで示し得る。幾つかの実施形態では、前部変位又は後部変位（例えば、範囲変位）が、画像捕捉デバイス１２２、１２４、１２６間に存在し得る。例えば、画像捕捉デバイス１２２は、画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６の０．５〜２メートル以上背後に配置し得る。このタイプの変位では、画像捕捉デバイスの１つが、他の画像捕捉デバイスの潜在的なブラインドスポットをカバー可能であり得る。
【００７２】
同様に、画像捕捉デバイス１２２、１２４、及び１２６間に高低差がなくてもよく、それは、画像捕捉デバイスの１つ又は複数によって作成される熱マップを、画像捕捉デバイスの１つ又は複数によって作成される可視光画像と位置合わせすることを支援し得る。
【００７３】
画像捕捉デバイス１２２は、任意の適する解像度能力（例えば、画像センサに関連付けられたピクセル数）を有し得、画像捕捉デバイス１２２に関連付けられた画像センサの解像度は、画像捕捉デバイス１２４及び１２６に関連付けられた画像センサの解像度よりも高いか、低いか、又は同じであり得る。幾つかの実施形態では、画像捕捉デバイス１２２及び／又は画像捕捉デバイス１２４及び１２６に関連付けられた画像センサは、解像度６４０×４８０、１０２４×７６８、１２８０×９６０、又は任意の他の適する解像度を有し得る。
【００７４】
フレームレート（例えば、画像捕捉デバイスが、次の画像フレームに関連付けられたピクセルデータ又は熱データの捕捉に移る前に、１つの画像フレームのピクセルデータ又は熱データの組を取得する速度）は、制御可能であり得る。画像捕捉デバイス１２２に関連付けられたフレームレートは、画像捕捉デバイス１２４及び１２６に関連付けられたフレームレートよりも高いか、低いか、又は同じであり得る。画像捕捉デバイス１２２、１２４、及び１２６に関連付けられたフレームレートは、フレームレートのタイミングに影響を及ぼし得る様々なファクタに依存し得る。例えば、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４、及び／又は１２６内の画像センサの１つ又は複数のピクセルに関連付けられた画像データの取得前又は取得後に課される選択可能なピクセル遅延期間を含み得る。一般に、各ピクセルに対応する画像データは、デバイスのクロックレート（例えば、１クロックサイクル当たり１ピクセル）に従って取得し得る。更に、ローリングシャッタを含む実施形態では、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４、及び／又は１２６内の画像センサのピクセル行に関連付けられた画像データの取得前又は取得後に課される選択可能な水平ブランク期間を含み得る。更に、画像捕捉デバイス１２２、１２４、及び／又は１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４、及び１２６の画像フレームに関連付けられた画像データの取得前又は取得後に課される選択可能な垂直ブランク期間を含み得る。同様に、電子走査を含む実施形態では、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、動的可変走査レートを含み得る。
【００７５】
これらのタイミング制御により、各画像捕捉デバイスの線走査レートが異なる場合でも、画像捕捉デバイス１２２、１２４、及び１２６に関連付けられたフレームレートを同期させることができ得る。更に、以下に更に詳細に考察するように、ファクタ（例えば、画像センサ解像度、最高線走査レート等）の中でも特に、これらの選択可能なタイミング制御により、画像捕捉デバイス１２２の視野が画像捕捉デバイス１２４及び１２６のＦＯＶと異なる場合でも、画像捕捉デバイス１２２のＦＯＶが画像捕捉デバイス１２４及び１２６の１つ又は複数のＦＯＶと重複するエリアからの画像捕捉を同期させることが可能になり得る。
【００７６】
画像捕捉デバイス１２２、１２４、及び１２６でのフレームレートタイミングは、関連付けられた画像センサの解像度に依存し得る。例えば、両デバイスの線走査レートが同様であると仮定し、一方のデバイスが解像度６４０×４８０を有する画像センサを含み、他方のデバイスが解像度１２８０×９６０を有する画像センサを含む場合、高い解像度を有するセンサからの画像データのフレーム取得ほど、長い時間が必要になる。
【００７７】
画像捕捉デバイス１２２、１２４、及び１２６での画像データ取得のタイミングに影響を及ぼし得る他のファクタは、最高線走査レートである。例えば、画像捕捉デバイス１２２、１２４、及び１２６に含まれる画像センサからの画像データ行の取得は、何らかの最小時間量を必要とする。ピクセル遅延期間が追加されないと仮定すると、画像データ行を取得するこの最小時間量は、特定のデバイスの最高線走査レートに関連することになる。高い最高線走査レートを提供するデバイスほど、より低い最高線走査レートを有するデバイスよりも高いフレームレートを提供する潜在性を有する。幾つかの実施形態では、画像捕捉デバイス１２４及び１２６の一方又は両方は、画像捕捉デバイス１２２に関連付けられた最高線走査レートよりも高い最高線走査レートを有し得る。幾つかの実施形態では、画像捕捉デバイス１２４及び／又は１２６の最高線走査レートは、画像捕捉デバイス１２２の最高線走査レートの１．２５倍、１．５倍、１．７５倍、又は２倍以上であり得る。
【００７８】
別の実施形態では、画像捕捉デバイス１２２、１２４、及び１２６は、同じ最高線走査レートを有し得るが、画像捕捉デバイス１２２は、その最高走査レート以下の走査レートで動作し得る。システムは、画像捕捉デバイス１２４及び１２６の一方又は両方が画像捕捉デバイス１２２の線走査レートと等しい線走査レートで動作するように構成し得る。他の例では、システムは、画像捕捉デバイス１２４及び／又は１２６の線走査レートが、画像捕捉デバイス１２２の線走査レートの１．２５倍、１．５倍、１．７５倍、又は２倍以上であり得るように構成し得る。
【００７９】
幾つかの実施形態では、画像捕捉デバイス１２２、１２４、及び１２６は非対称であり得る。すなわち、これら画像捕捉デバイスは、異なる視野（ＦＯＶ）及び焦点距離を有するカメラを含み得る。画像捕捉デバイス１２２、１２４、及び１２６の視野は、例えば、車両２００の環境に対する任意の所望のエリアを含み得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、車両２００の前方の環境、車両２００の後方の環境、車両２００の両側の環境、又はそれらの組合せから画像データを取得するように構成し得る。
【００８０】
更に、各画像捕捉デバイス１２２、１２４、及び／又は１２６に関連付けられた焦点距離は、各デバイスが車両２００から所望の距離範囲にある物体の画像を取得するように選択可能であり得る（例えば、適切なレンズの包含等により）。例えば、幾つかの実施形態では、画像捕捉デバイス１２２、１２４、及び１２６は、車両から数メートル以内の近接物体の画像を取得し得る。画像捕捉デバイス１２２、１２４、１２６は、車両からより離れた範囲（例えば、２５ｍ、５０ｍ、１００ｍ、１５０ｍ、又はそれを超える）における物体の画像を取得するように構成することもできる。更に、画像捕捉デバイス１２２、１２４、及び１２６の焦点距離は、ある画像捕捉デバイス（例えば、画像捕捉デバイス１２２）が、車両に比較的近い（例えば、１０ｍ以内又は２０ｍ以内）物体の画像を取得することができ、一方、その他の画像捕捉デバイス（例えば、画像捕捉デバイス１２４及び１２６）が、車両２００からより離れた物体（例えば、２０ｍ超、５０ｍ超、１００ｍ超、１５０ｍ超等）の画像を取得することができるように選択し得る。
【００８１】
幾つかの実施形態によれば、１つ又は複数の画像捕捉デバイス１２２、１２４、及び１２６のＦＯＶは、広角を有し得る。例えば、特に車両２００の近傍エリアの画像取得に使用し得る画像捕捉デバイス１２２、１２４、及び１２６には１４０度のＦＯＶを有することが有利であり得る。例えば、画像捕捉デバイス１２２は、車両２００の右又は左のエリアの画像の捕捉に使用し得、そのような実施形態では、画像捕捉デバイス１２２が広いＦＯＶ（例えば、少なくとも１４０度）を有することが望ましいことがある。
【００８２】
画像捕捉デバイス１２２、１２４、及び１２６のそれぞれに関連付けられた視野は、各焦点距離に依存し得る。例えば、焦点距離が増大するにつれて、対応する視野は低減する。
【００８３】
画像捕捉デバイス１２２、１２４、及び１２６は、任意の適する視野を有するように構成し得る。特定の一例では、画像捕捉デバイス１２２は、水平ＦＯＶ４６度を有し得、画像捕捉デバイス１２４は水平ＦＯＶ２３度を有し得、画像捕捉デバイス１２６は水平ＦＯＶ２３〜４６度を有し得る。別の例では、画像捕捉デバイス１２２は水平ＦＯＶ５２度を有し得、画像捕捉デバイス１２４は水平ＦＯＶ２６度を有し得、画像捕捉デバイス１２６は、水平ＦＯＶ２６〜５２度を有し得る。幾つかの実施形態では、画像捕捉デバイス１２２のＦＯＶと画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６のＦＯＶとの比率は、１．５〜２．０で変化し得る。他の実施形態では、この比率は１．２５〜２．２５で変化し得る。
【００８４】
システム１００は、画像捕捉デバイス１２２の視野が、画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６の視野と少なくとも部分的に又は完全に重複するように構成し得る。幾つかの実施形態では、システム１００は、画像捕捉デバイス１２４及び１２６の視野が、例えば、画像捕捉デバイス１２２の視野内に入り（例えば、画像捕捉デバイス１２２の視野よりも小さく）、画像捕捉デバイス１２２の視野と共通の中心を共有するように構成し得る。他の実施形態では、画像捕捉デバイス１２２、１２４、及び１２６は、隣接するＦＯＶを捕捉し得、又は部分的に重複するＦＯＶを有し得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４、及び１２６の視野は、ＦＯＶのより狭い画像捕捉デバイス１２４及び／又は１２６の中心が、ＦＯＶがより広いデバイス１２２の視野の下半分に配置され得るように位置合わせし得る。
【００８５】
図２Ｆは、開示される実施形態による例示的な車両制御システムの図表現である。図２Ｆに示されるように、車両２００は、スロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０を含み得る。システム１００は、１つ又は複数のデータリンク（例えば、任意の有線及び／又は無線リンク又はデータを伝送するリンク）を介して、スロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０の１つ又は複数に入力（例えば、制御信号）を提供し得る。例えば、画像捕捉デバイス１２２、１２４、及び／又は１２６により取得された画像の分析に基づいて、システム１００は、車両２００をナビゲートする制御信号をスロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０の１つ又は複数に提供し得る（例えば、加速、ターン、レーンシフト等を行わせることにより）。更に、システム１００は、車両２００の動作状況を示す入力（例えば、速度、車両２００がブレーキ中及び／又はターン中であるか否か等）をスロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４の１つ又は複数から受信し得る。以下、更なる詳細を図４〜図７に関連して提供する。
【００８６】
図３Ａに示されるように、車両２００は、車両２００のドライバー又は乗員と対話するユーザインタフェース１７０を含むこともできる。例えば、車両アプリケーション内のユーザインタフェース１７０は、タッチスクリーン３２０、つまみ３３０、ボタン３４０、及びマイクロフォン３５０を含み得る。車両２００のドライバー又は乗員は、ハンドル（例えば、ウィンカーハンドルを含み、車両２００のステアリングコラム上又はその近傍に配置される）及びボタン（例えば、車両２００のハンドルに配置される）等を使用して、システム１００と対話することもできる。幾つかの実施形態では、マイクロフォン３５０はバックミラー３１０に隣接して位置決めし得る。同様に、幾つかの実施形態では、画像捕捉デバイス１２２は、バックミラー３１０の近傍に配置し得る。幾つかの実施形態では、ユーザインタフェース１７０は、１つ又は複数のスピーカ３６０（例えば、車両オーディオシステムのスピーカ）を含むこともできる。例えば、システム１００は、スピーカ３６０を介して様々な通知（例えば、アラート）を提供し得る。
【００８７】
図３Ｂ〜図３Ｄは、開示される実施形態による、バックミラー（例えば、バックミラー３１０）の背後に、車両フロントガラスと対向して位置決めされるように構成される例示的なカメラマウント３７０の図である。図３Ｂに示されるように、カメラマウント３７０は、画像捕捉デバイス１２２、１２４、及び１２６を含み得る。画像捕捉デバイス１２４及び１２６は、グレアシールド３８０の背後に位置決めし得、グレアシールド３８０は、フロントガラスに直接接触し得、フィルム及び／又は反射防止材料の組成物を含み得る。例えば、グレアシールド３８０は、一致する傾斜を有するフロントガラスと対向して位置合わせされるように位置決めし得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４、及び１２６のそれぞれは、例えば、図３Ｄに示されるように、グレアシールド３８０の背後に位置決めし得る。画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数が赤外画像捕捉デバイスを含む実施形態では、かかる材料が赤外光の取り込みを妨げることを防ぐために、これらの装置をグレアシールド３８０の前に配置することができる（又は代替的に、グレアシールド３８０が赤外画像捕捉デバイスの前方に延在しなくてもよい）。開示される実施形態は、画像捕捉デバイス１２２、１２４、及び１２６、カメラマウント３７０、並びにグレアシールド３８０のいかなる特定の構成にも限定されない。図３Ｃは、前から見た図３Ｂに示すカメラマウント３７０の図である。
【００８８】
本開示の恩恵を受ける当業者により理解されるように、上記開示された実施形態に対する多くの変形形態及び／又は変更形態がなされ得る。例えば、全ての構成要素がシステム１００の動作にとって必須であるわけではない。更に、任意の構成要素がシステム１００の任意の適切な部分に配置し得、構成要素は、開示される実施形態の機能を提供しながら、様々な構成に再配置し得る。従って、上述した構成は例であり、上述した構成に関係なく、システム１００は、車両２００の周囲を分析し、分析に応答して車両２００をナビゲートする広範囲の機能を提供することができる。
【００８９】
以下に更に詳細に考察するように、様々な開示される実施形態により、システム１００は、自律運転及び／又はドライバー支援技術に関連する様々な特徴を提供し得る。例えば、システム１００は、画像データ、赤外画像データ、位置データ（例えば、ＧＰＳ位置情報）、地図データ、速度データ、及び／又は車両２００に含まれるセンサからのデータを分析し得る。システム１００は、例えば、画像取得ユニット１２０、位置センサ１３０、及び他のセンサから、分析のためにデータを収集し得る。更に、システム１００は、収集されたデータを分析して、車両２００が特定の行動をとるべきか否かを特定し、次に、人間の介入なしで、判断された動作を自動的にとり得る。例えば、車両２００が人間の加入なしでナビゲートする場合、システム１００は、車両２００のブレーキ、加速度、及び／又は操舵を自動的に制御し得る（例えば、制御信号をスロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０の１つ又は複数に送信することにより）。更に、システム１００は、収集されたデータを分析し、収集されたデータの分析に基づいて警告及び／又はアラートを車両の搭乗者に発行し得る。システム１００により提供される様々な実施形態に関する更なる詳細を以下に提供する。
【００９０】
前向きマルチ撮像システム
上述したように、システム１００は、マルチカメラシステムを使用する運転支援機能を提供し得る。このマルチカメラシステムは、車両の前方方向に向いた１つ又は複数のカメラ（及び／又は赤外カメラ）を使用し得る。他の実施形態では、このマルチカメラシステムは、車両の側方又は車両の後方に向いた１つ又は複数のカメラ（及び／又は赤外カメラ）を含み得る。一実施形態では、例えば、システム１００は、２カメラ撮像システムを使用することができ、その場合、第１のカメラ及び第２のカメラ（例えば、画像捕捉デバイス１２２及び１２４）は、車両（例えば、車両２００）の前部及び／又は側部に配置され得る。他のカメラ構成も、開示される実施形態と一致し、本明細書で開示される構成は例である。例えば、システム１００は、任意の数（例えば、１つ、２つ、３つ、４つ、５つ、６つ、７つ、８つ等）のカメラの構成、及びカメラのタイプの任意の組合せ（例えば、２つの視覚カメラと１つの赤外カメラ、１つの視覚カメラと２つの赤外カメラ、２つの視覚カメラと２つの赤外カメラ等）の構成を含み得る。更に、システム１００は、カメラの「クラスタ」を含み得る。例えば、（任意の適切な数、例えば１つ、４つ、８つ等のカメラ及び任意の適切なタイプのカメラ、例えば視覚カメラ、赤外カメラ等を含む）カメラのクラスタは、車両に対して前向きとすることができ、又は他の任意の方向に向き得る（例えば、リワード向き、横向き、斜め等）。従って、システム１００は、カメラの複数のクラスタを含むことができ、各クラスタは、車両の環境の特定の領域から画像を捕捉するために特定の方向に向けられている。
【００９１】
第１のカメラは、第２のカメラの視野よりも大きいか、小さいか、又は部分的に重複する視野を有し得る。加えて、第１のカメラは、第１のカメラによって提供される画像の単眼画像分析を実行するために第１の画像プロセッサに接続され得、第２のカメラは、第２のカメラによって提供される画像の単眼画像分析を実行するために第２の画像プロセッサに接続され得る。第１のカメラ及び第２のカメラの１つ又は複数が赤外カメラを含む実施形態では、第１の画像プロセッサ及び／又は第２の画像プロセッサは、赤外カメラによって提供される熱マップの熱マップ分析を実行し得る。
【００９２】
第１の画像プロセッサ及び第２の画像プロセッサの出力（例えば、処理された情報）は、結合され得る。幾つかの実施形態では、第２の画像プロセッサは、第１のカメラ及び第２のカメラの両方から画像を受信して、立体分析を実行することができ、又は位置合わせされた可視光画像及び赤外画像に対する分析を実行することができる。別の実施形態では、システム１００は、３カメラ撮像システムを使用することができ、この場合、カメラのそれぞれが異なる視野を有する。従って、そのようなシステムは、車両の前方及び側部の両方の様々な距離にある物体から導出される情報に基づいて判断を下し得る。単眼画像分析への言及は、単一視点から（例えば、単一のカメラから）捕捉される画像に基づいて画像分析が実行される場合を指し得る。立体画像分析は、画像捕捉パラメータの１つ又は複数を変更した状態で捕捉される２つ以上の画像に基づいて画像分析が実行される場合を指し得る。例えば、立体画像分析を実行するのに適した捕捉画像は、２つ以上の異なる位置から捕捉される画像、異なる視野から捕捉される画像、異なる焦点距離を使用して捕捉される画像、視差情報付きで捕捉される画像等を含み得る。混成画像分析は、１つ又は複数の可視光画像が１つ又は複数の赤外画像と位置合わせされ、その位置合わせされた画像に基づいて画像分析が実行される場合を指し得る。
【００９３】
例えば、一実施形態では、システム１００は、画像捕捉デバイス１２２、１２４、及び１２６を使用する３カメラ構成を実施し得る。そのような構成では、画像捕捉デバイス１２２は、狭視野（例えば、３４度又は約２０〜４５度の範囲から選択される他の値等）を提供し得、画像捕捉デバイス１２４は、広視野（例えば、１５０度又は約１００〜約１８０度の範囲から選択される他の値）を提供し得、画像捕捉デバイス１２６は、中視野（例えば、４６度又は約３５〜約６０度の範囲から選択される他の値）を提供し得る。幾つかの実施形態では、画像捕捉デバイス１２６は、主又は一次カメラとして動作し得る。画像捕捉デバイス１２２、１２４、及び１２６は、バックミラー３１０の背後に、実質的に並んで（例えば、６ｃｍ離間）位置決めし得る。更に、幾つかの実施形態では、上述したように、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、車両２００のフロントガラスと同一平面のグレアシールド３８０の背後に搭載し得る。そのようなシールドは、車内部からのいかなる反射の画像捕捉デバイス１２２、１２４、及び１２６への影響も最小にするように動作し得る。
【００９４】
別の実施形態では、図３Ｂ及び図３Ｃに関連して上述したように、広視野カメラ（例えば、上記例では画像捕捉デバイス１２４）は、狭い主視野カメラ（例えば、上記例では画像捕捉デバイス１２２及び１２６）よりも低く搭載し得る。この構成は、広視野カメラからの自由な視線を提供し得る。反射を低減するために、カメラは、車両２００のフロントガラス近くに搭載し得、反射光を弱める偏光器をカメラに含み得る。
【００９５】
３カメラシステムは、特定の性能特徴を提供し得る。例えば、幾つかの実施形態は、あるカメラによる物体の検出を別のカメラからの検出結果に基づいて検証する機能を含み得る。上述した３カメラ構成では、処理ユニット１１０は、例えば、３つの処理デバイス（例えば、上述したように３つのEyeQシリーズのプロセッサチップ）を含み得、各処理デバイスは、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数により捕捉される画像の処理に向けられる。
【００９６】
３カメラシステムでは、第１の処理デバイスは、主カメラ及び狭視野カメラの両方から画像を受信し得、狭ＦＯＶカメラのビジョン処理を実行して、例えば、他の車両、歩行者、レーンマーク、交通標識、信号機、及び他の道路物体を検出し得る。更に、第１の処理デバイスは、主カメラからの画像と狭カメラからの画像との間でのピクセルの視差を計算し、車両２００の環境の３Ｄ再構築情報を作成し得る。次に、第１の処理デバイスは、３Ｄ再構築情報を、３Ｄマップデータ又は別のカメラからの情報に基づいて計算される３Ｄ情報と結合し得る。
【００９７】
第２の処理デバイスは、主カメラから画像を受信し得、ビジョン処理を実行して、他の車両、歩行者、レーンマーク、交通標識、信号機、及び他の道路物体を検出し得る。更に、第２の処理デバイスは、カメラ変位を計算し、変位に基づいて、連続画像間のピクセルの視差を計算し、シーンの３Ｄ再構築情報（例えば、ストラクチャーフロムモーション）を作成し得る。第２の処理デバイスは、３Ｄ再構築情報に基づくストラクチャーフロムモーションを第１の処理デバイスに送信し、ストラクチャーフロムモーションを立体３Ｄ画像と結合し得る。
【００９８】
第３の処理デバイスは、画像を広ＦＯＶカメラから受信し、画像を処理して、車両、歩行者、レーンマーク、交通標識、信号機、及び他の道路物体を検出し得る。第３の処理デバイスは、追加の処理命令を更に実行して、画像を分析し、レーン変更中の車両、歩行者等の画像内の移動中の物体を識別し得る。
【００９９】
幾つかの実施形態では、画像に基づく情報ストリームを独立して捕捉させ、処理させることは、システムで冗長性を提供する機会を提供し得る。そのような冗長性は、例えば、第１の画像捕捉デバイス及びそのデバイスから処理された画像を使用して、少なくとも第２の画像捕捉デバイスから画像情報を捕捉し処理することにより得られる情報を検証及び／又は補足し得る。
【０１００】
幾つかの実施形態では、システム１００は、車両２００にナビゲーション支援を提供するに当たり２つの画像捕捉デバイス（例えば、画像捕捉デバイス１２２及び１２４）を使用し得、第３の画像捕捉デバイス（例えば、画像捕捉デバイス１２６）を使用して、冗長性を提供し、他の２つの画像捕捉デバイスから受信されるデータの分析を検証し得る。例えば、そのような構成では、画像捕捉デバイス１２２及び１２４は、車両２００をナビゲートするためのシステム１００による立体分析の画像を提供し得、一方、画像捕捉デバイス１２６は、システム１００による単眼分析に画像を提供して、画像捕捉デバイス１２２及び／又は画像捕捉デバイス１２４から捕捉された画像に基づいて得られる情報の冗長性及び検証を提供し得る。すなわち、画像捕捉デバイス１２６（及び対応する処理デバイス）は、画像捕捉デバイス１２２及び１２４から導出された分析へのチェックを提供する冗長サブシステムを提供する（例えば、自動緊急ブレーキ（ＡＥＢ）システムを提供するため）と見なし得る。更に、幾つかの実施形態では、１つ又は複数のセンサから受信される情報（例えば、レーダ、ライダ、音響センサ、車外の１つ又は複数の送受信機から受信される情報等）に基づいて受信データの冗長性及び検証を補うことができる。
【０１０１】
上記カメラ構成、カメラ配置、カメラ数、カメラ位置等が単なる例示であることを当業者は認識するであろう。全体システムに対して説明されるこれらの構成要素等は、開示される実施形態の範囲から逸脱せずに、様々な異なる構成で組み立て且つ使用し得る。ドライバー支援及び／又は自律車両機能を提供するためのマルチカメラシステムの使用に関する更なる詳細が以下に続く。
【０１０２】
図４は、開示される実施形態による１つ又は複数の動作を実行する命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下ではメモリ１４０を参照するが、当業者は、命令がメモリ１４０及び／又は１５０に記憶可能なことを認識するであろう。
【０１０３】
図４に示されるように、メモリ１４０は、単眼画像分析モジュール４０２、立体画像分析モジュール４０４、速度及び加速度モジュール４０６、並びにナビゲーション応答モジュール４０８を記憶し得る。開示される実施形態は、いかなる特定の構成のメモリ１４０にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれる任意のモジュール４０２、４０４、４０６、及び４０８に記憶された命令を実行し得る。以下の考察での処理ユニット１１０の参照が、アプリケーションプロセッサ１８０及び画像プロセッサ１９０を個々に又はまとめて指し得ることを当業者は理解するであろう。従って、以下のプロセスの何れかのステップは、１つ又は複数の処理デバイスにより実行し得る。
【０１０４】
一実施形態では、単眼画像分析モジュール４０２は命令（コンピュータビジョンソフトウェア等）を記憶し得、命令は、処理ユニット１１０により実行されると、画像捕捉デバイス１２２、１２４、及び１２６の１つにより取得された画像の組の単眼画像分析を実行する。幾つかの実施形態では、処理ユニット１１０は、画像の組からの情報を追加のセンサ情報（例えば、レーダ、ライダ等からの情報）と結合して、単眼画像分析を実行し得る。以下の図５Ａ〜図５Ｄに関連して説明するように、単眼画像分析モジュール４０２は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機、危険物、及び車両の環境に関連付けられた任意の他の特徴等、画像の組内の特徴の組を検出する命令を含み得る。分析に基づいて、システム１００は、ナビゲーション応答モジュール４０８に関連して以下で考察するように、ターン、レーンシフト、及び加速度変更等の１つ又は複数のナビゲーション応答を車両２００において生じさせ得る（例えば、処理ユニット１１０を介して）。
【０１０５】
一実施形態では、立体画像分析モジュール４０４は命令（コンピュータビジョンソフトウェア等）を記憶し得、命令は、処理ユニット１１０により実行されると、画像捕捉デバイス１２２、１２４、及び１２６から選択された画像捕捉デバイスの組合せにより取得される第１及び第２の組の画像の立体画像分析を実行する。幾つかの実施形態では、処理ユニット１１０は、第１及び第２の組の画像からの情報を追加のセンサ情報（例えば、レーダからの情報）と結合して、立体画像分析を実行し得る。例えば、立体画像分析モジュール４０４は、画像捕捉デバイス１２４により取得される第１の組の画像及び画像捕捉デバイス１２６により取得される第２の組の画像に基づいて、立体画像分析を実行する命令を含み得る。以下で図６に関連して説明するように、立体画像分析モジュール４０４は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機、及び危険物等の第１及び第２の組の画像内の特徴の組を検出する命令を含み得る。分析に基づいて、処理ユニット１１０は、ナビゲーション応答モジュール４０８に関連して後述するように、ターン、レーンシフト、及び加速度変更等の１つ又は複数のナビゲーション応答を車両２００において生じさせ得る。更に、幾つかの実施形態では、立体画像分析モジュール４０４は、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステム（コンピュータビジョンアルゴリズムを使用するように構成され得るシステム等）に関連する技法を実装して、センサ情報の捕捉元及び処理元である環境内の物体を検出し且つ／又はラベル付けすることができる。一実施形態では、立体画像分析モジュール４０４及び／又は他の画像処理モジュールは、訓練されたシステムと訓練されていないシステムとの組合せを使用するように構成され得る。
【０１０６】
一実施形態では、速度及び加速度モジュール４０６は、車両２００の速度及び／又は加速度を変更させるように構成される、車両２００内の１つ又は複数の計算及び電気機械デバイスから受信されるデータを分析するように構成されるソフトウェアを記憶し得る。例えば、処理ユニット１１０は、速度及び加速度モジュール４０６に関連付けられた命令を実行して、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から導出されるデータに基づいて、車両２００の目標速度を計算し得る。そのようなデータとしては、例えば、目標位置、速度、及び／又は加速度、付近の車両、歩行者、又は道路物体に対する車両２００の位置及び／又は速度、及び道路のレーンマークに対する車両２００の位置情報等を挙げ得る。加えて、処理ユニット１１０は、センサ入力（例えば、レーダからの情報）と、車両２００のスロットルシステム２２０、ブレーキシステム２３０、及び／又は操舵システム２４０等の車両２００の他のシステムからの入力とに基づいて、車両２００の目標速度を計算し得る。計算された目標速度に基づいて、処理ユニット１１０は、電子信号を車両２００のスロットルシステム２２０、ブレーキシステム２３０、及び／又は操舵システム２４０に送信して、例えば、車両２００のブレーキを物理的に弱めるか、又はアクセルを弱めることにより速度及び／又は加速度の変更をトリガーし得る。
【０１０７】
一実施形態では、ナビゲーション応答モジュール４０８は、処理ユニット１１０により実行可能であり、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から導出されるデータに基づいて、所望のナビゲーション応答を決定するソフトウェアを記憶し得る。そのようなデータは、付近の車両、歩行者、及び道路物体に関連付けられた位置及び速度情報並びに車両２００の目標位置情報等を含み得る。更に、幾つかの実施形態では、ナビゲーション応答は、地図データ、車両２００の所定の位置、及び／又は車両２００と、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から検出される１つ又は複数の物体との間の相対速度又は相対加速度に基づき得る（部分的又は完全に）。ナビゲーション応答モジュール４０８は、センサ入力（例えば、レーダからの情報）と、車両２００のスロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０等の車両２００の他のシステムからの入力とに基づいて、所望のナビゲーション応答を決定することもできる。所望のナビゲーション応答に基づいて、処理ユニット１１０は、電子信号を車両２００のスロットルシステム２２０、ブレーキシステム２３０、及び操舵システム２４０に送信して、例えば、車両２００のハンドルをターンさせ、所定の角度の回転を達成することにより、所望のナビゲーション応答をトリガーし得る。幾つかの実施形態では、処理ユニット１１０は、車両２００の速度変更を計算するための速度及び加速度モジュール４０６の実行への入力として、ナビゲーション応答モジュール４０８の出力（例えば、所望のナビゲーション応答）を使用し得る。
【０１０８】
更に、本明細書で開示されるモジュール（例えば、モジュール４０２、４０４、及び４０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０１０９】
図５Ａは、開示される実施形態による、単眼画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス５００Ａを示すフローチャートである。ステップ５１０において、処理ユニット１１０は、処理ユニット１１０と画像取得ユニット１２０との間のデータインタフェース１２８を介して、複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２を有する画像捕捉デバイス１２２等）は、車両２００の前方（又は例えば、車両の側部若しくは後方）のエリアの複数の画像を捕捉し、データ接続（例えば、デジタル、有線、ＵＳＢ、無線、Bluetooth等）を介して処理ユニット１１０に送信し得る。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、ステップ５２０において、以下で図５Ｂ〜図５Ｄに関連して更に詳細に説明するように、複数の画像を分析し得る。分析を実行することにより、処理ユニット１１０は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、及び信号機等の画像の組内の特徴の組を検出し得る。
【０１１０】
処理ユニット１１０は、ステップ５２０において、単眼画像分析モジュール４０２を実行して、例えば、トラックタイヤの部品、落ちた道路標識、緩んだ貨物、及び小動物等の様々な道路危険物を検出することもできる。道路危険物の構造、形状、サイズ、及び色は様々であり得、そのような危険物の検出をより難しくする。幾つかの実施形態では、処理ユニット１１０は、単眼画像分析モジュール４０２を実行し、マルチフレーム分析を複数の画像に対して実行して、道路危険物を検出し得る。例えば、処理ユニット１１０は、連続画像フレーム間でのカメラ移動を推定し、フレーム間のピクセルの視差を計算して、道路の３Ｄマップを構築し得る。次に、処理ユニット１１０は、３Ｄマップを使用して、路面及び路面の上に存在する危険物を検出し得る。
【０１１１】
ステップ５３０において、処理ユニット１１０は、ナビゲーション応答モジュール４０８を実行して、ステップ５２０において実行された分析及び図４に関連して上述した技法に基づいて、車両２００に１つ又は複数のナビゲーション応答を生じさせ得る。ナビゲーション応答は、例えば、ターン、レーンシフト、及び加速度変更等を含み得る。幾つかの実施形態では、処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせ得る。更に、複数のナビゲーション応答は同時に生じ得、順次生じ得、又はそれらの任意の組合せで生じ得る。例えば、処理ユニット１１０は、例えば、制御信号を車両２００の操舵システム２４０及びスロットルシステム２２０に順次送信することにより、車両２００に１レーンシフトさせ、それから、例えば、加速させ得る。代替的に、処理ユニット１１０は、例えば、制御信号を車両２００のブレーキシステム２３０及び操舵システム２４０に同時に送信することにより、車両２００に、ブレーキを掛けさせ、それと同時にレーンをシフトさせ得る。
【０１１２】
図５Ｂは、開示される実施形態による、画像の組内の１つ又は複数の車両及び／又は歩行者を検出する例示的なプロセス５００Ｂを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｂを実施し得る。ステップ５４０において、処理ユニット１１０は、存在する可能性がある車両及び／又は歩行者を表す候補物体の組を特定し得る。例えば、処理ユニット１１０は、１つ又は複数の画像を走査し、画像を１つ又は複数の所定のパターンと比較し、各画像内で、対象物体（例えば、車両、歩行者、又はそれらの部分）を含み得る可能性がある位置を識別し得る。所定のパターンは、低率の「偽性ヒット」及び低率の「見逃し」を達成するように指定し得る。例えば、処理ユニット１１０は、所定のパターンへの低い類似性閾値を使用して、可能性のある車両又は歩行者として候補物体を識別し得る。そうすることにより、処理ユニット１１０は、車両又は歩行者を表す候補物体を見逃す（例えば、識別しない）確率を低減することができ得る。
【０１１３】
ステップ５４２において、処理ユニット１１０は、候補物体の組をフィルタリングして、分類基準に基づいて特定の候補（例えば、無関係又は関係性の低い物体）を除外し得る。そのような基準は、データベース（例えば、メモリ１４０に記憶されるデータベース）に記憶された物体タイプに関連付けられた様々な特性から導出し得る。特性は、物体の形状、寸法、テクスチャ、及び位置（例えば、車両２００に対する）等を含み得る。従って、処理ユニット１１０は、１つ又は複数の組の基準を使用して、候補物体の組から偽性候補を拒絶し得る。
【０１１４】
ステップ５４４において、処理ユニット１１０は、複数の画像フレームを分析して、候補画像の組内の物体が車両及び／又は歩行者を表しているか否かを特定し得る。例えば、処理ユニット１１０は、連続フレームにわたり検出された候補物体を追跡し、検出された物体に関連付けられたフレーム毎データ（例えば、サイズ、車両２００に対する位置等）を蓄積し得る。更に、処理ユニット１１０は、検出された物体のパラメータを推定し、物体のフレーム毎位置データを予測位置と比較し得る。
【０１１５】
ステップ５４６において、処理ユニット１１０は、検出された物体の測定値の組を構築し得る。そのような測定値は、例えば、検出された物体に関連付けられた位置、速度、及び加速度値（例えば、車両２００に対する）を含み得る。幾つかの実施形態では、処理ユニット１１０は、カルマンフィルタ又は線形二次推定（ＬＱＥ）等の一連の時間ベースの観測を使用する推定技法及び／又は異なる物体タイプ（例えば、車、トラック、歩行者、自転車、道路標識等）で利用可能なモデリングデータに基づいて、測定値を構築し得る。カルマンフィルタは、物体のスケールの測定値に基づき得、ここで、スケール測定値は衝突までの時間（例えば、車両２００が物体に達するまでの時間量）に比例する。従って、ステップ５４０、５４２、５４４、及び５４６を実行することにより、処理ユニット１１０は、捕捉画像の組内に現れる車両及び歩行者を識別し、車両及び歩行者に関連付けられた情報（例えば、位置、速度、サイズ）を導出し得る。識別及び導出される情報に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
【０１１６】
ステップ５４８において、処理ユニット１１０は、１つ又は複数の画像のオプティカルフロー分析を実行して、「偽性ヒット」を検出する確率及び車両又は歩行者を表す候補物体を見逃す確率を低減し得る。オプティカルフロー分析は、例えば、他の車両及び歩行者に関連付けられた１つ又は複数の画像内の車両２００に対する、路面の動きとは別個の移動パターンを分析することを指し得る。処理ユニット１１０は、異なる時刻に捕捉された複数の画像フレームにわたる物体の異なる位置を観測することにより、候補物体の移動を計算し得る。処理ユニット１１０は、位置及び時間値を数学モデルへの入力として使用して、候補物体の移動を計算し得る。従って、オプティカルフロー分析は、車両２００の付近にある車両及び歩行者を検出する別の方法を提供し得る。処理ユニット１１０は、ステップ５４０、５４２、５４４、及び５４６と組み合わせて光学フロー分析を実行して、車両及び歩行者を検出する冗長性を提供すると共に、システム１００の信頼度を上げ得る。
【０１１７】
図５Ｃは、開示される実施形態による、画像の組内の道路マーク及び／又はレーンジオメトリ情報を検出する例示的なプロセス５００Ｃを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｃを実施し得る。ステップ５５０において、処理ユニット１１０は、１つ又は複数の画像を走査することにより物体の組を検出し得る。レーンマークのセグメント、レーンジオメトリ情報、及び他の関連道路マークを検出するために、処理ユニット１１０は、物体の組をフィルタリングして、無関連（例えば、小さい穴、小さい岩等）であると判断されるものを除外し得る。ステップ５５２において、処理ユニット１１０は、同じ道路マーク又はレーンマークに属する、ステップ５５０において検出されたセグメントを一緒にグループ化し得る。グループ化に基づいて、処理ユニット１１０は、数学モデル等のモデルを開発して、検出されたセグメントを表し得る。
【０１１８】
ステップ５５４において、処理ユニット１１０は、検出されたセグメントに関連付けられた測定値の組を構築し得る。幾つかの実施形態では、処理ユニット１１０は、画像平面から実世界平面への検出セグメントの射影を作成し得る。射影は、検出された道路の位置、傾斜、曲率、及び曲率微分等の物理特性に対応する係数を有する三次多項式を使用して特徴付け得る。射影を生成するに当たり、処理ユニット１１０は、路面変化並びに車両２００に関連付けられたピッチ及びロール率を考慮に入れ得る。加えて、処理ユニット１１０は、位置及び路面に存在するモーションキューを分析することにより道路高をモデリングし得る。更に、処理ユニット１１０は、１つ又は複数の画像での特徴点の組を追跡することにより、車両２００に関連付けられたピッチ率及びロール率を推定し得る。
【０１１９】
ステップ５５６において、処理ユニット１１０は、例えば、連続した画像フレームにわたり検出セグメントを追跡し、検出セグメントに関連付けられたフレーム毎データを蓄積することにより、マルチフレーム分析を実行し得る。処理ユニット１１０はマルチフレーム分析を実行する場合、ステップ５５４において構築された測定値の組はより信頼性の高いものになり得、ますます高い信頼度を関連付け得る。従って、ステップ５５０〜５５６を実行することにより、処理ユニット１１０は、捕捉画像の組内に現れる道路マークを識別し、レーンジオメトリ情報を導出し得る。識別及び導出される情報に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
【０１２０】
ステップ５５８において、処理ユニット１１０は、追加の情報ソースを考慮して、車両の周囲の状況での車両２００の安全モデルを更に開発し得る。処理ユニット１１０は、安全モデルを使用して、システム１００が車両２００の自律制御を安全に実行し得る状況を定義し得る。安全モデルを開発するために、幾つかの実施形態では、処理ユニット１１０は、他の車両の位置及び動き、検出された道路縁部及び障壁、及び／又は地図データ（地図データベース１６０からのデータ等）から抽出された一般道路形状記述を考慮し得る。追加の情報ソースを考慮することにより、処理ユニット１１０は、道路マーク及びレーンジオメトリを検出する冗長性を提供し、システム１００の信頼性を上げ得る。
【０１２１】
図５Ｄは、開示される実施形態による、画像の組内の信号機を検出する例示的なプロセス５００Ｄを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｄを実施し得る。ステップ５６０において、処理ユニット１１０は、画像の組を走査し、信号機を含む可能性が高い画像内の位置に現れる物体を識別し得る。例えば、処理ユニット１１０は、識別された物体をフィルタリングして、信号機に対応する可能性が低い物体を除外した候補物体の組を構築し得る。フィルタリングは、形状、寸法、テクスチャ、及び位置（例えば、車両２００に対する）等の信号機に関連付けられた様々な特性に基づいて行い得る。そのような特性は、信号機及び交通制御信号の多くの例に基づき得、データベースに記憶し得る。幾つかの実施形態では、処理ユニット１１０は、可能性のある信号機を反映した候補物体の組に対してマルチフレーム分析を実行し得る。例えば、処理ユニット１１０は、連続した画像フレームにわたり候補物体を追跡し、候補物体の現実世界位置を推定し、移動している（信号機である可能性が低い）物体をフィルタリングして除去し得る。幾つかの実施形態では、処理ユニット１１０は、カラー分析を候補物体に対して実行し、可能性のある信号機内部に表される検出色の相対位置を識別し得る。
【０１２２】
ステップ５６２において、処理ユニット１１０は、交差点のジオメトリを分析し得る。分析は、（ｉ）車両２００の両側で検出されるレーン数、（ｉｉ）道路で検出されたマーク（矢印マーク等）、及び（ｉｉｉ）地図データ（地図データベース１６０からのデータ等）から抽出された交差点の記述の任意の組合せに基づき得る。処理ユニット１１０は、単眼分析モジュール４０２の実行から導出される情報を使用して、分析を行い得る。加えて、処理ユニット１１０は、ステップ５６０において検出された信号機と、車両２００近傍に現れるレーンとの対応性を特定し得る。
【０１２３】
車両２００が交差点に近づくにつれて、ステップ５６４において、処理ユニット１１０は、分析された交差点ジオメトリ及び検出された信号機に関連付けられた信頼度を更新し得る。例えば、交差点に実際に現れる信号機の数と比較した、交差点に現れると推定された信号機の数は、信頼度に影響を及ぼし得る。従って、信頼度に基づいて、処理ユニット１１０は、車両２００のドライバーに制御を委任して、安全状況を改善し得る。ステップ５６０、５６２、及び５６４を実行することにより、処理ユニット１１０は、捕捉画像の組内に現れる信号機を識別し、交差点ジオメトリ情報を分析し得る。識別及び分析に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
【０１２４】
図５Ｅは、開示される実施形態による、車両経路に基づいて車両２００で１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス５００Ｅのフローチャートである。ステップ５７０において、処理ユニット１１０は、車両２００に関連付けられた初期車両経路を構築し得る。車両経路は、座標（ｘ，ｙ）で表される点の組を使用して表し得、点の組内の２点間距離ｄｉは、１〜５メートルの範囲内にあり得る。一実施形態では、処理ユニット１１０は、左右の道路多項式等の２つの多項式を使用して初期車両経路を構築し得る。処理ユニット１１０は、２つの多項式間の幾何学的中間点を計算し、所定のオフセットがある場合（オフセット０は、レーンの中央での走行に対応し得る）、所定のオフセット（例えば、スマートレーンオフセット）だけ、結果として生成される車両経路に含まれる各点をオフセットさせ得る。オフセットは、車両経路内の任意の２点間の区分に垂直の方向であり得る。別の実施形態では、処理ユニット１１０は、１つの多項式及び推定レーン幅を使用して、推定レーン幅の半分に所定のオフセット（例えば、スマートレーンオフセット）を加えたものだけ車両経路の各点をオフセットさせ得る。
【０１２５】
ステップ５７２において、処理ユニット１１０は、ステップ５７０において構築された車両経路を更新し得る。処理ユニット１１０は、車両経路を表す点の組内の２点間距離ｄｋが、上述した距離ｄｉよりも短くなるように、より高い解像度を使用して、５７０において構築された車両経路を再構築し得る。例えば、距離ｄｋは０．１〜０．３メートルの範囲であり得る。処理ユニット１１０は、放物線スプラインアルゴリズムを使用して車両経路を再構築し得、これは、車両経路の全長（すなわち、車両経路を表す点の組に基づく）に対応する累積距離ベクトルＳをもたらし得る。
【０１２６】
ステップ５７４において、処理ユニット１１０は、ステップ５７２において行われた更新車両経路に基づいて、先読み点（（ｘｌ，ｚｌ）として座標で表される）を特定し得る。処理ユニット１１０は、累積距離ベクトルＳから先読み点を抽出し得、先読み点には、先読み距離及び先読み時間を関連付け得る。先読み距離は、下限範囲１０〜２０メートルを有し得、車両２００の速度と先読み時間との積として計算し得る。例えば、車両２００の速度が下がるにつれて、先読み距離も短くなり得る（例えば、下限に達するまで）。０．５〜１．５秒の範囲であり得る先読み時間は、ヘッディングエラー追跡制御ループ等の車両２００でナビゲーション応答を生じさせることに関連付けられた１つ又は複数の制御ループの利得に反比例し得る。例えば、ヘッディングエラー追跡制御ループの利得は、ヨー率ループ、操舵アクチュエータループ、及び車横方向ダイナミクス等の帯域幅に依存し得る。従って、ヘッディングエラー追跡制御ループの利得が高いほど、先読み時間は短くなる。
【０１２７】
ステップ５７６において、処理ユニット１１０は、ステップ５７４において特定される先読み点に基づいて、ヘッディングエラー及びヨー率コマンドを決定し得る。処理ユニット１１０は、先読み点の逆正接、例えば、ａｒｃｔａｎ（ｘｌ／ｚｌ）を計算することにより、ヘッディングエラーを特定し得る。処理ユニット１１０は、ヘッディングエラーと高レベル制御利得との積としてヨー率コマンドを決定し得る。高レベル制御利得は、先読み距離が下限にない場合、（２／先読み時間）に等しい値であり得る。先読み距離が下限である場合、高レベル制御利得は（２×車両２００の速度／先読み距離）に等しい値であり得る。
【０１２８】
図５Ｆは、開示される実施形態による、先行車両がレーンを変更中であるか否かを特定する例示的なプロセス５００Ｆを示すフローチャートである。ステップ５８０において、処理ユニット１１０は、先行車両（例えば、車両２００の前を移動中の車両）に関連付けられたナビゲーション情報を特定し得る。例えば、処理ユニット１１０は、図５Ａ及び図５Ｂに関連して上述した技法を使用して、先行車両の位置、速度（例えば、方向及び速度）、及び／又は加速度を特定し得る。処理ユニット１１０は、図５Ｅに関連して上述した技法を使用して、１つ又は複数の道路多項式、先読み点（車両２００に関連付けられる）、及び／又はスネイルトレイル（例えば、先行車両がとった経路を記述する点の組）を特定することもできる。
【０１２９】
ステップ５８２において、処理ユニット１１０は、ステップ５８０において特定されたナビゲーション情報を分析し得る。一実施形態では、処理ユニット１１０は、スネイルトレイルと道路多項式との間の距離（例えば、トレイルに沿った）を計算し得る。トレイルに沿ったこの距離の相違が所定の閾値（例えば、直線道路では０．１〜０．２メートル、緩くカーブした道路では０．３〜０．４メートル、急カーブの道路では０．５〜０．６メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。複数の車両が、車両２００の前を走行中であることが検出される場合、処理ユニット１１０は、各車両に関連付けられたスネイルトレイルを比較し得る。比較に基づいて、処理ユニット１１０は、スネイルトレイルが他の車両のスネイルトレイルに一致しない車両が、レーン変更中である可能性が高いと判断し得る。処理ユニット１１０は、更に、スネイルトレイル（先行車両に関連付けられた）の曲率を、先行車両が移動中の道路区分の予期される曲率と比較し得る。予期される曲率は、地図データ（例えば、地図データベース１６０からのデータ）、道路多項式、他の車両のスネイルトレイル、及び道路についての事前知識等から抽出し得る。スネイルトレイルの曲率と道路区分の予期される曲率との差が、所定の閾値を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。
【０１３０】
別の実施形態では、処理ユニット１１０は、特定の時間期間（例えば、０．５〜１．５秒）にわたり、先行車両の瞬間位置を先読み点（車両２００に関連付けられた）と比較し得る。特定の時間期間中の先行車両の瞬間位置と先読み点との間の距離の差及び相違の累積和が、所定の閾値（例えば、直線道路では０．３〜０．４メートル、緩くカーブした道路では０．７〜０．８メートル、急カーブの道路では１．３〜１．７メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。別の実施形態では、処理ユニット１１０は、トレイルに沿って移動した横方向距離をスネイルトレイルの予期される曲率と比較することにより、スネイルトレイルの幾何学的形状を分析し得る。予期される曲率半径は、計算：（δｚ２＋δｘ２）／２／（δｘ）に従って特定し得、式中、σｘは横方向移動距離を表し、σｚは縦方向移動距離を表す。横方向移動距離と予期される曲率との差が所定の閾値（例えば、５００〜７００メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。別の実施形態では、処理ユニット１１０は、先行車両の位置を分析し得る。先行車両の位置が道路多項式を覆い隠す（例えば、先行車両が道路多項式の上に重なる）場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。先行車両の位置が、別の車両が先行車両の前方で検出され、２台の車両のスネイルトレイルが平行ではないようなものである場合、処理ユニット１１０は、（より近い）先行車両がレーン変更中である可能性が高いと判断し得る。
【０１３１】
ステップ５８４において、処理ユニット１１０は、ステップ５８２において実行された分析に基づいて、先行車両２００がレーン変更中であるか否かを特定し得る。例えば、処理ユニット１１０は、ステップ５８２において実行された個々の分析の加重平均に基づいてその判断を下し得る。そのような方式下では、例えば、特定のタイプの分析に基づいた、先行車両がレーン変更中である可能性が高いという処理ユニット１１０による判断には、値「１」を割り当て得る（「０」は、先行車両がレーン変更中である可能性が低いとの判断を表す）。ステップ５８２において実行される異なる分析には異なる重みを割り当て得、開示される実施形態は、分析及び重みのいかなる特定の組合せにも限定されない。更に、幾つかの実施形態では、分析は、訓練されたシステム（例えば、機械学習システム又はディープラーニングシステム）を利用することができ、かかるシステムは、例えば、現在位置において捕捉される画像に基づいて車両の現在位置の先にあるその後の経路を推定することができる。
【０１３２】
図６は、開示される実施形態による、立体画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス６００を示すフローチャートである。ステップ６１０において、処理ユニット１１０は、データインタフェース１２８を介して第１及び第２の複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２及び２０４を有する画像捕捉デバイス１２２及び１２４等）は、車両２００の前方のエリアの第１及び第２の複数の画像を捕捉し、デジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）を介して処理ユニット１１０に送信し得る。幾つかの実施形態では、処理ユニット１１０は、２つ以上のデータインタフェースを介して第１及び第２の複数の画像を受信し得る。開示される実施形態は、いかなる特定のデータインタフェース構成又はプロトコルにも限定されない。
【０１３３】
ステップ６２０において、処理ユニット１１０は、立体画像分析モジュール４０４を実行し、第１及び第２の複数の画像の立体画像分析を実行して、車両の前の道路の３Ｄマップを作成し、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機、及び道路危険物等の画像内の特徴を検出し得る。立体画像分析は、図５Ａ〜図５Ｄに関連して上述したステップと同様に実行し得る。例えば、処理ユニット１１０は、立体画像分析モジュール４０４を実行して、第１及び第２の複数の画像内の候補物体（例えば、車両、歩行者、道路マーク、信号機、道路危険物等）を検出し、様々な基準に基づいて候補物体のサブセットをフィルタリングして除外し、マルチフレーム分析を実行し、測定値を構築し、残りの候補物体の信頼度を特定し得る。上記ステップを実行するに当たり、処理ユニット１１０は、画像の１つの組のみからの情報ではなく、第１及び第２の複数の画像の両方からの情報を考慮し得る。例えば、処理ユニット１１０は、第１及び第２の複数の画像の両方に現れる候補物体について、ピクセルレベルデータ（又は捕捉画像の２つのストリームの中からの他のデータサブセット）の差を分析し得る。別の例として、処理ユニット１１０は、物体が複数の画像の１枚に現れるが、他の画像では現れないことを観測することにより、又は２つの画像ストリームに現れる物体に対して存在し得る他の差に対して、候補物体の位置及び／又は速度（例えば、車両２００に対する）を推定し得る。例えば、車両２００に対する位置、速度、及び／又は加速度は、画像ストリームの一方又は両方に現れる物体に関連付けられた特徴の軌道、位置、移動特性等に基づいて特定し得る。
【０１３４】
ステップ６３０において、処理ユニット１１０は、ナビゲーション応答モジュール４０８を実行して、ステップ６２０において実行された分析及び図４に関連して上述した技法に基づいて、車両２００で１つ又は複数のナビゲーション動作を生じさせ得る。ナビゲーション応答は、例えば、ターン、レーンシフト、加速度変更、速度変更、及びブレーキ等を含み得る。幾つかの実施形態では、処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせ得る。更に、複数のナビゲーション応答は、同時に行い得、順次行い得、又はそれらの任意の組合せで行い得る。
【０１３５】
図７は、開示される実施形態による、３組の画像の分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス７００を示すフローチャートである。ステップ７１０において、処理ユニット１１０は、データインタフェース１２８を介して第１、第２、及び第３の複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、車両２００の前方及び／又は側部のエリアの第１、第２、及び第３の複数の画像を捕捉し、デジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）を介して処理ユニット１１０に送信し得る。幾つかの実施形態では、処理ユニット１１０は、３つ以上のデータインタフェースを介して第１、第２、及び第３の複数の画像を受信し得る。例えば、画像捕捉デバイス１２２、１２４、及び１２６のそれぞれは、処理ユニット１１０にデータを通信する関連付けられたデータインタフェースを有し得る。開示される実施形態は、いかなる特定のデータインタフェース構成又はプロトコルにも限定されない。
【０１３６】
ステップ７２０において、処理ユニット１１０は、第１、第２、及び第３の複数の画像を分析して、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機、及び道路危険物等の画像内の特徴を検出し得る。分析は、図５Ａ〜図５Ｄ及び図６に関連して上述したステップと同様に実行し得る。例えば、処理ユニット１１０は、単眼画像分析を第１、第２、及び第３の複数のそれぞれの画像に対して実行し得る（例えば、単眼画像分析モジュール４０２の実行及び図５Ａ〜図５Ｄに関連して上述したステップに基づいて）。代替的に、処理ユニット１１０は、立体画像分析を第１及び第２の複数の画像、第２及び第３の複数の画像、及び／又は第１及び第３の複数の画像に対して実行し得る（例えば、立体画像分析モジュール４０４の実行を介して及び図６に関連して上述したステップに基づいて）。第１、第２、及び／又は第３の複数の画像の分析に対応する処理された情報は、結合し得る。幾つかの実施形態では、処理ユニット１１０は、単眼画像分析と立体画像分析との組合せを実行し得る。例えば、処理ユニット１１０は、単眼画像分析を第１の複数の画像に対して実行し（例えば、単眼画像分析モジュール４０２の実行を介して）、立体画像分析を第２及び第３の複数の画像に対して実行し得る（例えば、立体画像分析モジュール４０４の実行を介して）。画像捕捉デバイス１２２、１２４、及び１２６の構成−各位置及び視野２０２、２０４、及び２０６を含む−は、第１、第２、及び第３の複数の画像に対して行われる分析のタイプに影響を及ぼし得る。開示される実施形態は、画像捕捉デバイス１２２、１２４、及び１２６の特定の構成、又は第１、第２、及び第３の複数の画像に対して行われる分析のタイプに限定されない。
【０１３７】
幾つかの実施形態では、処理ユニット１１０は、ステップ７１０及び７２０において取得され分析された画像に基づいて、システム１００にテストを実行し得る。そのようなテストは、画像捕捉デバイス１２２、１２４、及び１２６の特定の構成でのシステム１００の全体性能のインジケータを提供し得る。例えば、処理ユニット１１０は、「偽性ヒット」（例えば、システム１００が車両又は歩行者の存在を誤って判断する場合）及び「見落とし」の割合を特定し得る。
【０１３８】
ステップ７３０において、処理ユニット１１０は、第１、第２、及び第３の複数の画像の２つから導出される情報に基づいて、車両２００での１つ又は複数のナビゲーション応答を生じさせ得る。第１、第２、及び第３の複数の画像の２つの選択は、例えば、複数の画像のそれぞれで検出される物体の数、タイプ、及びサイズ等の様々なファクタに依存し得る。処理ユニット１１０は、画像の品質及び解像度、画像に反映される有効視野、捕捉フレーム数、及び対象となる１つ又は複数の物体が実際にフレームに現れる程度（例えば、物体が現れるフレームのパーセンテージ、物体がそのような各フレームで現れる割合等）等に基づいて選択を行うことができる。
【０１３９】
幾つかの実施形態では、処理ユニット１１０は、ある画像ソースから導出された情報が、他の画像ソースから導出される情報と一貫する程度を特定することにより、第１、第２、及び第３の複数の画像の２つから導出される情報を選択し得る。例えば、処理ユニット１１０は、画像捕捉デバイス１２２、１２４、及び１２６のそれぞれから導出される処理された情報（単眼分析であれ、立体分析であれ、又はそれら２つの任意の組合せであれ関係なく）を結合して、画像捕捉デバイス１２２、１２４、及び１２６のそれぞれから捕捉される画像にわたり一貫する視覚的インジケータ（例えば、レーンマーク、検出された車両及び／又はその位置及び／又は経路、検出された信号機等）を特定し得る。処理ユニット１１０は、捕捉画像にわたり一貫しない情報（例えば、レーンを変更中の車両、車両２００に近過ぎる車両を示すレーンモデル等）を除外することもできる。従って、処理ユニット１１０は、一貫情報及び非一貫情報の特定に基づいて、第１、第２、及び第３の複数の画像の２つからの導出される情報を選択し得る。
【０１４０】
ナビゲーション応答は、例えば、ターン、レーンシフト、及び加速度変更を含み得る。処理ユニット１１０は、ステップ７２０において実行される分析及び図４に関連して上述した技法に基づいて、１つ又は複数のナビゲーション応答を生じさせ得る。処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせることもできる。幾つかの実施形態では、処理ユニット１１０は、車両２００と第１、第２、及び第３の複数の画像の何れかで検出される物体との間の相対位置、相対速度、及び／又は相対加速度に基づいて、１つ又は複数のナビゲーション応答を生じさせ得る。複数のナビゲーション応答は、同時に行い得、順次行い得、又はそれらの任意の組合せで行い得る。
【０１４１】
捕捉画像及び／又は熱マップの分析は、駐車車両及び移動車両の両方の特定の特性を検出できるようにし得る。検出される特性に基づいてナビゲーション変更を計算することができる。捕捉画像及び／又は熱マップの１つ又は複数の特定の分析に基づいて特定の特性を検出するための実施形態について、図８〜図２８に関して以下で解説する。
【０１４２】
車のドアが開く事象の検出
例えば、車両を識別すること、及びその後に続く識別した車両の車輪構成要素を識別することは、ドアが開く事象を標的とした監視を可能にし得る。監視の標的を定めることにより、システムは、従来の動き検出よりも短い反応時間でドアが開く事象を識別し、それに反応することができる。以下で説明する本開示の実施形態は、標的を定めた監視を使用して、ドアが開く事象を検出するためのシステム及び方法に関する。
【０１４３】
図８は、開示される実施形態による１つ又は複数の動作を実行するための命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下は、メモリ１４０に関するものであるが、当業者であれば、命令がメモリ１４０及び／又は１５０に記憶され得ることがわかるであろう。
【０１４４】
図８に示されているように、メモリ１４０は、車両側部識別モジュール８０２と、車輪識別モジュール８０４と、ドア縁部識別モジュール８０６と、ナビゲーション応答モジュール８０８とを記憶し得る。開示される実施形態は、メモリ１４０のいかなる特定の構成にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれるモジュール８０２〜８０８の何れかに記憶される命令も実行し得る。当業者であれば、以下の考察で処理ユニット１１０に言及することは、アプリケーションプロセッサ１８０と画像プロセッサ１９０とを個別に又は集合的に指し得ることを理解するであろう。従って、以下のプロセスの何れのステップも１つ又は複数の処理デバイスによって実行され得る。
【０１４５】
一実施形態では、車両側部識別モジュール８０２は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して以下で説明するように、車両側部識別モジュール８０２は、１つ又は複数の車両の側部をマーキングするバウンディングボックスを決定するための命令を含み得る。
【０１４６】
一実施形態では、車輪識別モジュール８０４は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して以下で説明するように、車輪識別モジュール８０４は、１つ又は複数の車両の車輪をマーキングする楕円を決定するための命令を含み得る。
【０１４７】
一実施形態では、ドア縁部識別モジュール８０６は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して以下で説明するように、ドア縁部識別モジュール８０６は、ドア縁部の外観を識別し、識別したドア縁部の動きを監視するための命令を含み得る。
【０１４８】
一実施形態では、ナビゲーション応答モジュール８０８は、車両側部識別モジュール８０２、車輪識別モジュール８０４、及び／又はドア縁部識別モジュール８０６を実行することから得られるデータに基づいて所望のナビゲーション応答を決定するために処理ユニット１１０によって実行可能なソフトウェアを記憶し得る。例えば、ナビゲーション応答モジュール８０８は、以下に記載の図１４の方法１４００に従ってナビゲーション変更を生じさせることができる。
【０１４９】
更に、本明細書で開示されるモジュール（例えば、モジュール８０２、８０４、及び８０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０１５０】
図９は、開示される実施形態によるホスト車両に含まれるシステム（例えば、上記のシステム１００）の視点からの道路９０２の概略図である。図９に示すように、道路９０２は、１つ又は複数の駐車車両（例えば、駐車車両９０４又は駐車車両９０６）を有し得る。
【０１５１】
システム１００は、例えば、注意機構（attention mechanism）を使用して駐車車両を検出することができ、注意機構は、疑わしいパッチを返し、その疑わしいパッチを一層複雑な分類器のカスケードに供給して、そのパッチが実際に車両であるかどうかを判定する。以下で説明するように、注意機構及び分類器は、真及び偽のパッチに基づいて訓練することができる。
【０１５２】
例えば、システム１００は、駐車車両の後部（例えば、車両の後部９０８及び９１０）を検出するために注意機構を使用することができる。検出した後部を使用して、システム１００は、駐車車両の側部（例えば、車両の側部９１２及び９１４）を検出することができる。検出すると、車両の後部及び／又は側部を追跡することができる。
【０１５３】
図９に示すバウンディングボックスを検出するために、システム１００は、１つ又は複数の学習されたアルゴリズムに画像（例えば、画像捕捉デバイス１２２、１２４、又は１２６の１つからの画像）を入力することができる。入力画像は、例えば、元の１２８０ｘ９５６０のグレースケール画像であり得る。学習されたアルゴリズムは、スケーリングされた（例えば、２５６ｘ１９２の）注意画像を出力することができる。疑わしいパッチを注意画像から識別することができ、疑わしいパッチの（ｘ，ｙ）点を（例えば、５で）スケーリングして元の画像の座標上にマップすることができる。学習されたアルゴリズムは、疑わしいパッチの中心を定めるために（ｘ，ｙ）座標を使用することができる。疑わしいパッチは、（ｘ，ｙ）座標の領域内において、例えば各方向に＋／−５ピクセル走査することができる。この例では、それぞれの疑わしいパッチが１１ｘ１１の総候補パッチを作り出す。
【０１５４】
更に、この例では、各候補パッチがサイズ２Ｒ＋１の正方形であり、但しＲは、バウンディング楕円の半径である。例えば、図１０に示すように、車両（例えば、車両１００２）は、中心（例えば、中心１００６）を有する関連するバウンディング楕円（例えば、楕円１００４）を有し得る。
【０１５５】
候補パッチは、正規サイズ（４０ｘ４０等）にスケーリングすることができ、１つ又は複数の訓練されたネットワーク、例えば以下に記載の畳み込みニューラルネットワーク（ＣＮＮ）の１つ又は複数への入力として使用される。例えば、１つ又は複数の訓練されたネットワークのそれぞれは、入力されるパッチにスコアを付けることができる。そのスコアを使用し、最も高いスコアに基づいて各候補パッチにラベルが割り当てられ得る。（この例では、候補パッチを再び元の画像にマップするために半径Ｒ及び元の座標（ｘ０，ｙ０）を使用することができる。）
【０１５６】
閾値（予め設定され得るか又は可変であり得、訓練から学習され得る）を上回る最も高いスコアを有する各候補パッチが最終分類器に入力され得る。最終分類器は、バウンディングボックスの一番下の３点の（ｘ，ｙ）座標を出力し得る。適切な係数を掛けることにより、これらの座標を元の画像の座標にスケーリングして戻すことができる。上記の例では、適切なスケーリング係数が（２Ｒ＋１）／４０であり得る。スケーリング係数を使用することに加えて、実際の位置（ｘ０，ｙ０）を、スケーリングされた座標（ｘ，ｙ）に追加することができる。一意のラベルを使用して、システムは、３つの（ｘ，ｙ）座標の何れの２つが側部に（及び何れの側部に）属するか、及び３つの（ｘ，ｙ）座標の何れの２つが後部又は前部に属するかを特定することができる。
【０１５７】
このアルゴリズムの例に対する改変形態があり得ることを当業者であれば理解されよう。例えば、スケーリングされた注意画像のサイズが変わり得、疑わしいパッチのシフティングが変わり得、候補パッチのサイズ等が変わり得る。更なる例として、バウンディングボックスの上部の座標も計算することができる。（かかる例では、最終分類器が３つの追加の点の（ｘ，ｙ）座標を出力し得る。）加えて、上記のアルゴリズムの例の代わりに又はかかるアルゴリズムと組み合わせて他のアルゴリズムもあり得る。例えば、他のアルゴリズムは、異なる及び／又は追加の分類器を含み得る。
【０１５８】
上記で説明したように、注意機構及びその後の分類器は、訓練することができる。例えば訓練機構は、例えば、１２８０ｘ９６０のグレースケール画像であり得る１００万個を超える画像例を利用することができる。この訓練セットの例では、バウンディングボックスの可視面が左側、右側、後部、又は前部としてマーキングされ得る。例えば、それらの可視面は、黄色、青色、赤色、及び緑色としてそれぞれ示され得る。面が部分的に見える場合、明白な部分のみを画像内でマーキングすることができ、データベース内で部分的に見えないことが注記される。
【０１５９】
この訓練の例では、バウンディングボックスごとにシステムがバウンディングボックスの最も離れた２つの縁部を計算し、その２つの縁部の中間を中心とし、且つ最も離れた縁部までの距離としての半径を有するバウンデッド楕円を構築することができる。
【０１６０】
この訓練の例では、次いで、システムは、注意画像を全体から抽出することができ、注意画像は、２５６ｘ１９２の（すなわち５分の１にされた）画像である。訓練画像内でマーキングされた各車両は、５で除算した楕円の中心の座標に位置する注意画像内の１つの点によって置換することができ、その点の値は、バウンディング楕円の半径であり得る。
【０１６１】
この訓練の例では、画像例を使用して畳み込みニューラルネットワーク（ＣＮＮ）を訓練することができる。ＣＮＮの代わりに又はＣＮＮと組み合わせて他の機械訓練技法が使用され得ることを当業者であれば理解されよう。従って、ニューラルネットワークは、元の画像を疎の解像度低減注意画像にマップすることができる。この手法は、シーンの理解（例えば、道路の位置、画像の遠近感）を、車のように見える何らかの物体の局所的検出と組み合わせることができる。他の設計選択も可能である。例えば、ネットワークは、車が予期される場所（例えば、空ではない）で車を検出するように設計されるフィルタバンクを最初に適用し得る。
【０１６２】
ニューラルネットワークは、あり得るビューごとにスコアを付けることができる第１の分類器に疑わしいパッチを送信することができる。例えば、第１の分類器は、左後部、左前部、右後部、右前部の４つの主要ラベルの１つを割り当てることができる。１つの面のみが見える場合、２つのあり得るラベルの片方を無作為に割り当てることができる。それぞれの主要ラベルは、更に細分することができる。例えば、それぞれの主要ラベルは、パッチが「端部」よりも多くの「側部」を含むかどうかに細分することができ、その逆も同様である。かかる細分は、例えば、マーキングした端部面及び後部面の画像幅を比較することによって行うことができる。幅が等しい場合、細分を無作為に割り当てることができる。
【０１６３】
更なる例として、各細分を３つの下位細分に更に分割することができる。例えば、左後部ラベルの「側部」の細分は、次の３つの下位細分を含み得る：「端部」左後部１０は、後部面が左側の面の幅の１０％以下であるパッチを示すことができ、「端部」左後部５０は、後部面が１０％を超えるが、５０％未満のパッチを示すことができ、「端部」左後部は、後部面が５０％を超えるパッチを示すことができる。
【０１６４】
更なる例として、少なくとも１つの面が隠されている場合、それぞれの下位細分を更にラベル付けすることができる。この例では、下位細分とラベルとの全組合せが４８である。同じ又は異なる全組合せをもたらす他の分割手段及びラベルがあり得ることを当業者であれば理解されよう。例えば、「側部」左後部２０は、左側の面が全体の２０％未満であるパッチを示すことができ、「側部」左後部５０は、左側の面が全体の２０％〜５０％であるパッチを示すことができ、「側部」左後部８０は、左側の面が全体の５０％〜８０％のパッチを示すことができ、「側部」左後部１００は、左側の面が全体の８０％〜１００％のパッチを示すことができる。
【０１６５】
更なる例として、側部面が端部面の左側に見えるか又は右側に見えるかに応じて、４つの主要ラベルを２つの主要ラベル、すなわち「側部／端部」及び「端部／側部」でそれぞれ置換することができる。分割及びラベルの選択は、入手可能なデータ量に依存し、それは、細分及びラベルの数が増えればより多数の例が訓練に必要となるからである。
【０１６６】
従って、ニューラルネットワークは、元の画像の座標にスケーリングして戻され、ｘ方向及びｙ方向に＋／−５ピクセルだけ余すところなくシフトされた注意マップ内の点を中心とするパッチを第１の分類器に入力することができる。かかるシフティングは１２１個のシフトされた例を生成する。シフトされた例を生成する他の手段もあり得ることを当業者であれば理解されよう。例えば、パッチは、ｘ方向及びｙ方向に＋／−４（又は＋／−３等）ピクセルだけ余すところなくシフトされ得る。
【０１６７】
この例では、正規サイズ（４０ｘ４０ピクセル等）にスケーリングされたサイズ（２Ｒ＋１）×（２Ｒ＋１）の正方形をカットするためにバウンディング楕円の半径Ｒを使用して、各パッチを形成することができる。パッチを生成する他の手段もあり得ることを当業者であれば理解されよう。例えば、（２Ｒ−１）×（２Ｒ−１）の正方形をカットすることができる。更なる例として、２Ｒの代わりにバウンディングボックスの１つ又は複数の長さを使用することができる。
【０１６８】
ニューラルネットワークは、ラベル付けされた各パッチを最終分類器に入力することができる。最終分類器は、バウンディングボックスの一番下を定める３点のそれぞれのラベル付けされたパッチ内の位置（ｘ，ｙ）を出力することができる。出力される（ｘ，ｙ）座標は、パッチに対するものであり得る。幾つかの実施形態では、細分及びラベルの組合せごとにニューラルネットワークを訓練することができる。他の実施形態では、更に少ないニューラルネットワークを訓練することができる。
【０１６９】
識別した車両からより詳細な特徴を抽出するために、同様の学習技法を使用して分類器を訓練することができる。例えば、分類器は、車輪、タイヤ、「Ａ」ピラー、サイドミラー等を識別するように訓練することができる。図１１の例では、車両１１０６の車輪１１０２及び１１０４が楕円で印付けされている。システムは、例えば、バウンディングボックスを正規サイズ（例えば、長さ４０ピクセルｘ高さ２０ピクセル）にスケーリングし、スケーリングしたボックスを適切な分類器に入力することによって、楕円を描くことができる。
【０１７０】
車輪を識別することに基づき、システムは、ドアが開く事象が起こると予期され得る識別された車両上の１つ又は複数の「ホットスポット」を求めることができる。例えば、１つ又は複数のホットスポットは、識別されたタイヤ間に及び／又は識別された後部タイヤ上に位置し得る。図１２Ａに示すように、車両１２０４上の垂直方向のストライプ１２０２の出現について、１つ又は複数のホットスポットを監視することができる。ストライプ１２０２の出現は、ドアが開く事象の開始を示し得る。
【０１７１】
幾つかの実施形態では、システムは、車両１２０４上の１つ又は複数の特徴を参照点として使用して車両１２０４の側部に対するストライプ１２０２の縁部の動きを追跡することができる。例えば、１つ又は複数の特徴は、識別されたタイヤ、又は車両１２０４の前端、車両１２０４の１つ若しくは複数のテールライト等の他の識別された特徴を含み得る。
【０１７２】
図１２Ｂに示すように、車両１２０４のドアが開くとき、ストライプ１２０２が広がり得る。ストライプ１２０２の縁部１２０２ａは、車両１２０４の車体に沿った位置に固定され得る一方、ストライプ１２０２の縁部１２０２ｂは、車両１２０４の前方に移動するように見え得る。従って、システムは、ストライプ１２０２を監視することに基づいて、ドアが開く事象があることを確認することができる。
【０１７３】
ドアが開く事象があることに基づいてホスト車両をナビゲーション変更にかけることができる。例えば、図１３に示すように、ホスト車両のヨー１３０１が変わっており、ドアが開く事象からホスト車両が離れていることを示している。
【０１７４】
図１４は、開示される実施形態による、ドアが開く事象を検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセス１４００を示すフローチャートである。ステップ１４０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の少なくとも１つの画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の少なくとも１つの画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０１７５】
ステップ１４０４では、処理ユニット１１０は、少なくとも１つの画像を分析して駐車車両の側部を識別することができる。ステップ１４０４は、駐車車両の側部の形状に少なくとも１つのバウンディングボックスを関連付けることを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０１７６】
ステップ１４０６では、処理ユニット１１０は、駐車車両の構造上の特徴を識別することができる。幾つかの実施形態では、処理ユニット１１０は、駐車車両の側部の前方領域内の駐車車両の第１の構造上の特徴と、駐車車両の側部の後方領域内の駐車車両の第２の構造上の特徴とを識別することができる。例えば、構造上の特徴は、車輪構成要素（タイヤ、ハブキャップ、車輪構造等）、ミラー、「Ａ」ピラー、「Ｂ」ピラー、「Ｃ」ピラー等を含み得る。第１の構造上の特徴及び／又は第２の構造上の特徴は、識別された側部の近傍の領域内で識別され得る。例えば、分析は、図１１に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０１７７】
ステップ１４０８では、処理ユニット１１０は、駐車車両のドア縁部を識別することができる。ドア縁部は、構造上の特徴の近傍の領域内で識別され得る。例えば、処理ユニット１１０が前輪構成要素と後輪構成要素とを識別する実施形態では、第１の車輪及び第２の車輪の近傍は、前輪構成要素と後輪構成要素との間の領域を含み得る。更なる例として、処理ユニット１１０が前輪構成要素と後輪構成要素とを識別する実施形態では、第１の車輪構成要素及び第２の車輪構成要素の近傍は、後輪構成要素の上部の領域を含み得る。分析は、図１２Ａに関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０１７８】
ステップ１４１０では、処理ユニット１１０は、ドア縁部の画像特性の変化を求めることができる。例えば、処理ユニット１１０は、図１２Ｂに関して上記で論じたように、第１の車輪構成要素及び第２の車輪構成要素の近傍での垂直ストライプの出現について、画像捕捉デバイスから受信される少なくとも２つの画像を監視することができる。この例では、垂直ストライプの第１の縁部は、監視画像内の駐車車両の車体に沿って固定されており、垂直ストライプの第２の縁部は、監視画像内の駐車車両の前方領域の方に移動する。出現後、ドア縁部の幅（すなわち垂直ストライプの幅）を経時的に追跡することができる。幾つかの実施形態では、ドア縁部の画像特性の変化は、ドア縁部が広がることを含み得る。かかる実施形態では、ドア縁部の画像特性の変化を求めることは、垂直ストライプの広がりを監視することを含み得る。
【０１７９】
幾つかの実施形態では、処理ユニット１１０は、ドアが開く量を推定することができる。例えば、処理ユニット１１０は、バウンディングボックスと交差するように、固定された縁部のコラムを伸ばし、ドアまでの距離を推定するために交点のｙ座標を使用することができる。この例では、ドアまでの距離及びストライプの幅を使用してドアが開く量を推定することができる。従って、処理ユニット１１０は、求められた幅に基づいて、ドア縁部が駐車車両から離れて広がる距離を求めることができる。従って、車両の本体からのドア縁部の離れ具合（すなわちドアが開く量）を経時的に追跡することができる。
【０１８０】
ステップ１４１２では、処理ユニット１１０は、ホスト車両のナビゲーション経路を変えることができる。例えば、ナビゲーション応答は、（図１３に示すように）ターン、レーンシフト、加速度の変更等を含み得る。処理ユニット１１０は、ステップ１４１０で行った算出に基づいて１つ又は複数のナビゲーション応答を生じさせることができる。例えば、処理ユニット１１０は、ドア縁部の事象からホスト車両を離すことができ且つ／又はドア縁部の事象に応じてホスト車両を減速させることができる。この例では、処理ユニット１１０は、ドア縁部が駐車車両から離れて広がる求められた距離に基づいて、ホスト車両のための横方向の安全距離を求めることができ、ホスト車両のナビゲーション経路の変更は、求められた横方向の安全距離に少なくとも部分的に基づき得る。別の例では、処理ユニット１１０は、車両のドアが開くことに関連する典型的な突出の程度と一致する値等の既定値に基づいて、ホスト車両のための横方向の安全距離を求めることができる。更に、例として、異なるタイプの車両に異なる既定値を使用することができ、例えばトラック等の他のサイズの車両について、小型車両に使用する安全距離値と比較して更に長い既定の安全距離値を使用することができる。
【０１８１】
処理ユニット１１０は、速度及び加速度モジュール４０６を実行することから得られるデータを使用して１つ又は複数のナビゲーション応答を生じさせることもできる。複数のナビゲーション応答は、同時に、順に、又はその任意の組合せで起こり得る。例えば、ナビゲーション応答は、訓練されたシステムによって決定され得る。更に、例として、訓練されたシステムは、性能を最適化しながら一定の安全制約を損なうことを回避するように構成することができ、ナビゲーション変更を呼び出すことによってドアの開きを検出することに反応するように構成され得る。別の例では、（駐車車両の）ドアが開く事象を検出したときの所望の応答を決定するために規則の組を使用することができる。
【０１８２】
ホスト車両のレーンに入る車両の検出
道路のホモグラフィを識別し、車両の車輪構成要素を識別するシステム及び方法は、車両の動きを標的とした監視を可能にし得る。監視の標的を定めることにより、システムは、別のレーンからの又は駐車位置からのホスト車両のレーン内への動きを、少なくとも一定の状況下で従来の動き検出よりも短い反応時間で識別し、それに反応することができる。以下に記載の本開示の実施形態は、標的を定めた監視を使用して、ホスト車両のレーンに入る車両を検出するためのシステム及び方法に関する。
【０１８３】
図１５は、開示される実施形態による１つ又は複数の動作を実行するための命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下は、メモリ１４０に関するものであるが、当業者であれば、命令がメモリ１４０及び／又は１５０に記憶され得ることがわかるであろう。
【０１８４】
図１５に示されているように、メモリ１４０は、道路ホモグラフィモジュール１５０２と、車輪識別モジュール１５０４と、動き分析モジュール１５０６と、ナビゲーション応答モジュール１５０８とを記憶し得る。開示される実施形態は、メモリ１４０のいかなる特定の構成にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれるモジュール１５０２〜１５０８の何れかに記憶される命令も実行し得る。当業者であれば、以下の考察で処理ユニット１１０に言及することは、アプリケーションプロセッサ１８０と画像プロセッサ１９０とを個別に又は集合的に指し得ることを理解するであろう。従って、以下のプロセスの何れのステップも１つ又は複数の処理デバイスによって実行され得る。
【０１８５】
一実施形態では、道路ホモグラフィモジュール１５０２は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像内の道路のホモグラフィ変換を行う（warp the homography）命令（コンピュータビジョンソフトウェア等）を記憶し得る。例えば、道路ホモグラフィモジュール１５０２は、以下に記載の図１８の方法１８００を実行するための命令を含み得る。
【０１８６】
一実施形態では、車輪識別モジュール１５０４は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して上記で説明したように、車輪識別モジュール１５０４は、１つ又は複数の車両の車輪にマーキングする楕円を決定するための命令を含み得る。
【０１８７】
一実施形態では、動き分析モジュール１５０６は、処理ユニット１１０によって実行されるとき、１つ又は複数の識別された車両構成要素の動きを追跡するために画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像（及び／又は道路ホモグラフィモジュール１５０２によって処理される１つ又は複数の画像）の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。例えば、車輪識別モジュール１５０４と組み合わせて、動き分析モジュール１５０６は、車両の識別された車輪構成要素の動きを経時的に追跡することができる。
【０１８８】
一実施形態では、ナビゲーション応答モジュール１５０８は、道路ホモグラフィモジュール１５０２、車輪識別モジュール１５０４、及び／又は動き分析モジュール１５０６を実行することから得られるデータに基づいて所望のナビゲーション応答を決定するために処理ユニット１１０によって実行可能なソフトウェアを記憶し得る。例えば、ナビゲーション応答モジュール１５０８は、以下に記載の図１７の方法１７００に従ってナビゲーション変更を生じさせることができる。
【０１８９】
更に、本明細書で開示されるモジュール（例えば、モジュール１５０２、１５０４、及び１５０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０１９０】
図１６Ａは、開示される実施形態によるシステムの視点からの駐車した車１６０２を示す。図１６Ａの例では、車両１６０２の車輪１６０４及び１６０６が楕円でマーキングされている。システムは、例えば、上記で説明したようにバウンディングボックスを正規サイズ（例えば、長さ４０ピクセルｘ高さ２０ピクセル）にスケーリングし、スケーリングしたボックスを適切な分類器に入力することによって楕円を描くことができる。
【０１９１】
図１６Ｂは、駐車（すなわち静止）状態から離れる車両１６０２を示す。図１６の例では、車両１６０２が動くにつれて、車両１６０２の車輪１６０４及び１６０６が回転している。システムは、以下で論じるように車輪１６０４及び１６０６の回転を追跡して、車両１６０２が移動していると判定することができる。
【０１９２】
図１７は、開示される実施形態による、標的車両がホスト車両のレーンに入ることを検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセス１７００を示すフローチャートである。ステップ１７０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の複数の画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の複数の画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０１９３】
複数の画像は、経時的に収集することができる。例えば、複数は、時点ｔ＝０において捕捉される第１の画像、ｔ＝０．５秒において捕捉される第２の画像、及びｔ＝１．０秒において捕捉される第３の画像を含み得る。画像間のタイミングは、１つ又は複数の画像捕捉デバイスの走査レートに少なくとも依存し得る。
【０１９４】
ステップ１７０４では、処理ユニット１１０は、少なくとも１つの画像を分析して標的車両を識別することができる。例えば、標的車両を識別することは、標的車両の側部の形状に少なくとも１つのバウンディングボックスを関連付けることを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。幾つかの実施形態では、ステップ１７０４は、識別された標的車両の側部にある車輪を識別することを更に含み得る。例えば、分析は、図１１に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０１９５】
ステップ１７０４は、車輪に限定されず、車輪構成要素も含み得る。例えば、処理ユニット１１０は、タイヤ、ハブキャップ、又は車輪構造の少なくとも１つを含む車輪構成要素を識別することができる。
【０１９６】
ステップ１７０６では、処理ユニット１１０は、識別された車輪に関連する動きを識別することができる。例えば、処理ユニットは、標的車両の少なくとも１つの車輪構成要素を含む領域内の動きを識別することができ、領域は、路面に隣接する領域を含み得る。複数の画像の少なくとも２つを監視することにより、処理ユニットは、少なくとも１つの車輪構成要素の回転の兆候（indication）を使用して動きを識別することができる。
【０１９７】
更なる例として、処理ユニット１１０は、少なくとも１つの車輪構成要素に関連する少なくとも１つの特徴（例えば、車輪上のロゴ、車輪のタイヤの測定、車輪のハブキャップの測定、ピクセルの特定のパッチ）を識別することができる。少なくとも１つの特徴を使用して、処理ユニット１１０は、少なくとも１つの特徴の位置変化のインジケータ（例えば、ロゴのぼけ、ピクセルのパッチの変化した座標）を識別することができる。
【０１９８】
更なる例として、処理ユニット１１０は、図１８の方法１８００に関して以下で説明するように道路のホモグラフィ変換を行い、識別された車輪と、変換した道路との間の接点（静止していることができる）を識別し、その接点上の点を追跡して動きを識別することができる。
【０１９９】
処理ユニットは、回転、少なくとも１つの特徴の位置変化、及び／又は追跡された点のインジケータを使用して標的車両の移動速度を求めることができる。処理ユニット１１０は、以下に記載のステップ１７０８におけるナビゲーション変更を生じさせる際に求められた速度を使用することができる。加えて、処理ユニット１１０は、グラウンドプレーン制約を使用してタイヤまでの距離を推定することができ、推定した距離に基づいて標的車両の横方向の動きを推定することができる。
【０２００】
ステップ１７０８では、処理ユニット１１０は、ホスト車両のナビゲーション変更を生じさせることができる。例えば、ナビゲーション応答は、（上記の図１３で示したように）ホスト車両の進行方向の変更、レーンシフト、加速度の変更（例えば、ホスト車両のブレーキをかけること）等を含み得る。処理ユニット１１０は、ステップ１７０６で行った決定に基づいて１つ又は複数のナビゲーション応答を生じさせることができる。例えば、処理ユニット１１０は、標的車両の動きに応じてホスト車両を標的車両から離すこと及び／又はホスト車両を減速させることができる。この例では、処理ユニット１１０は、標的車両の算出された速度（及び／又は推定される横方向の動き）に基づいて、ホスト車両の横方向の安全距離を求めることができ、ホスト車両のナビゲーション経路の変更は、求められた横方向の安全距離に少なくとも部分的に基づき得る。
【０２０１】
処理ユニット１１０は、速度及び加速度モジュール４０６を実行することから得られるデータを使用して１つ又は複数のナビゲーション応答を生じさせることもできる。複数のナビゲーション応答は、同時に、順に、又はその任意の組合せで起こり得る。
【０２０２】
図１８は、道路のホモグラフィ変換を行うための例示的なプロセス１８００を示すフローチャートである。ステップ１８０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の複数の画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の複数の画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０２０３】
複数の画像は、経時的に収集することができる。例えば、複数は、時点ｔ＝０において捕捉される第１の画像、及びｔ＝０．５秒において捕捉される第２の画像を含み得る。画像間のタイミングは、１つ又は複数の画像捕捉デバイスの走査レートに少なくとも依存し得る。
【０２０４】
ステップ１８０４では、処理ユニット１１０は、複数の画像の第１の画像を複数の画像の第２の画像に対して最初に変換することができる。例えば、第１の画像又は第２の画像の１つをホスト車両のヨー、ピッチ、及びロールの推定に基づいて回転させることができる。
【０２０５】
ステップ１８０６では、処理ユニット１１０は、第１の画像又は第２の画像内の点のグリッドを基準点のグリッドとして選択することができる。例えば、このグリッドは、任意の形状、例えば楕円、矩形、台形等から形成され得る。代替的に、無作為の点分布が選択され得る。
【０２０６】
ステップ１８０８では、処理ユニット１１０は、選択されたグリッドの周りにパッチを配置することができる。例えば、パッチは、均一のサイズ及び形状のものであり得る。代替的に、パッチは、一様ではなくてもよく、且つ／又は無作為に一様ではない場合がある。
【０２０７】
ステップ１８１０では、処理ユニット１１０は、例えば、パッチに基づく正規化相関計算を使用して、選択されたグリッドの点を追跡することができる。追跡する点から、処理ユニット１１０は、追跡に基づく最も高いスコアを有する点のサブセットを選択することができる。
【０２０８】
ステップ１８１２では、処理ユニット１１０は、追跡した点をホモグラフィに適合させることができる。幾つかの実施形態では、処理ユニット１１０は、追跡した点の無作為のサブセットを使用して複数のホモグラフィを計算することができる。かかる実施形態では、処理ユニット１１０は、最も高いスコアのホモグラフィを伴う無作為のサブセットを保持することができる。
【０２０９】
ステップ１８１４では、ステップ１８１２のホモグラフィを使用して処理ユニット１１０が最初の変換を訂正することができる。例えば、処理ユニット１１０は、複数の画像の第１の画像を複数の画像の第２の画像に対して再び変換するために、最も高いスコアのホモグラフィを伴う点の無作為のサブセットを使用することができる。処理ユニット１１０は、再び変換した画像から最小二乗ホモグラフィ（least squares homography）を更に直接計算することができる。道路のホモグラフィを計算するための他のアルゴリズムが使用され得ることを当業者であれば理解されよう。
【０２１０】
駐車車両の方向に基づく一方通行道路の検出
車両を識別し且つ識別した車両の前部及び／又は後部を識別するシステム及び方法は、一方通行道路の検出を可能にし得る。車両の識別された前部及び／又は後部を使用することにより、標識を解釈する必要なしに又は道路上で車両が走っていないときでさえ一方通行道路を検出することができる。以下に記載する本開示の実施形態は、駐車車両の方向に基づいて一方通行道路を検出するためのシステム及び方法に関する。
【０２１１】
図１９は、開示される実施形態による１つ又は複数の動作を実行するための命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下は、メモリ１４０に関するものであるが、当業者であれば、命令がメモリ１４０及び／又は１５０に記憶され得ることがわかるであろう。
【０２１２】
図１９に示されているように、メモリ１４０は、車両識別モジュール１９０２と、方向決定モジュール１９０４と、車両側部識別モジュール１９０６と、ナビゲーション応答モジュール１９０８とを記憶し得る。開示される実施形態は、メモリ１４０のいかなる特定の構成にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれるモジュール１９０２〜１９０８の何れかに記憶される命令も実行し得る。当業者であれば、以下の考察で処理ユニット１１０に言及することは、アプリケーションプロセッサ１８０と画像プロセッサ１９０とを個別に又は集合的に指し得ることを理解するであろう。従って、以下のプロセスの何れのステップも１つ又は複数の処理デバイスによって実行され得る。
【０２１３】
一実施形態では、車両識別モジュール１９０２は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して上記で説明したように、車両識別モジュール１９０２は、１つ又は複数の車両のバウンディングボックスを決定するための命令を含み得る。
【０２１４】
一実施形態では、方向決定モジュール１９０４は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図２０Ａ及び図２０Ｂに関して以下で説明するように、方向決定モジュール１９０４は、識別された車両の前向き方向を決定するための命令を含み得る。
【０２１５】
例えば、前向き方向は、縦列駐車された識別された車両がホスト車両の方を向いているか又はその逆を向いているかを示し得る。更なる例として、前向き方向又は「傾斜方向」は、斜めのスポットに駐車された識別された車両がホスト車両の方に傾いているか又はその逆に傾いているかを示し得る。かかる例では、前向き方向は、識別された車両が斜めのスポットへと後退しているか又はそのスポットへと前進しているかを更に示し得る。
【０２１６】
一実施形態では、車両側部識別モジュール１９０６は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して上記で説明したように、車両側部識別モジュール１９０６は、１つ又は複数の車両の識別されたバウンディングボックスを分類するための命令を含み得る。
【０２１７】
一実施形態では、ナビゲーション応答モジュール１９０８は、車両識別モジュール１９０２、方向決定モジュール１９０４、及び／又は車両側部識別モジュール１９０６を実行することから得られるデータに基づいて所望のナビゲーション応答を決定するために処理ユニット１１０によって実行可能なソフトウェアを記憶し得る。例えば、ナビゲーション応答モジュール１９０８は、以下に記載の図２１の方法２１００に従ってナビゲーション変更を生じさせることができる。
【０２１８】
更に、本明細書で開示されるモジュール（例えば、モジュール１９０２、１９０４、及び１９０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０２１９】
図２０Ａは、開示される実施形態によるシステムの視点からの一方通行道路２００２を示す。道路２００２は、１つの側方の第１の複数の停止車両（例えば、第１の車両２００４）を含むことができ、他の側方の第２の複数の停止車両（例えば、第２の車両２００６）を含み得る。図２１の方法２１００に関して以下で説明するように、システムは、第１の複数の車両の前向き方向及び第２の複数の車両の前向き方向を求めることができる。
【０２２０】
図２０Ａに示すように、システムは、第１の複数の車両及び第２の複数の車両の両方の前向き方向が同じである場合、道路２００２が一方通行道路であると判定し得る。道路２００２の１つの側方が縦列駐車ではなく斜めに駐車される他の実施形態では、システムは、縦列駐車側の前向き方向が、斜めに駐車される側の傾斜方向と同じである場合、道路２００２が一方通行道路であると判定し得る。斜めに駐車される２つの側方を道路２００２が有する更に他の実施形態では、システムは、第１の複数の車両及び第２の複数の車両の両方の傾斜方向が同じである場合、道路２００２が一方通行道路であると判定し得る。特定の態様では、この判定は、第１の複数の車両及び／又は第２の複数の車両が斜めのスポットへと後退して駐車しているか又はそのスポットへと前進して駐車しているかに依存し得る。
【０２２１】
図２０Ｂも、開示される実施形態によるシステムの視点からの一方通行道路２００８を示す。道路２００８は、道路２００２と同様に、１つの側方の第１の複数の停止車両（例えば、第１の車両２０１０）を含むことができ、他の側方の第２の複数の停止車両（例えば、第２の車両２０１２）を含み得る。図２１の方法２１００に関して以下で説明するように、システムは、第１の複数の車両の前向き方向及び第２の複数の車両の前向き方向を求めることができる。図２０Ａに示すように、システムは、ある車両（例えば、車両２０１０）の前向き方向がその車両に関連する複数の車両の前向き方向と異なる場合、その車両が不適切に駐車されていると判定することができる。例えば、システムは、関連する複数のうちの異なる前向き方向を有する他の車両の数が閾値を上回る場合、車両が不適切に駐車されていると判定することができる。更なる例として、システムは、同じ前向き方向を有する車両に対する異なる前向き方向を有する他の車両の比率が閾値（例えば、５０％以上、６０％以上、７０％以上等）を上回る場合、車両が正しく駐車されていると判定することができる。幾つかの実施形態では、車両２０１０の所有者又はオペレータに交通違反切符を発行するために（又は車両２０１０の所有者若しくはオペレータに対して交通違反切符を発行するようにホスト車両のオペレータに指示するために）、この判定を使用することができる。
【０２２２】
図２１は、開示される実施形態による、ホスト車両が走行する道路が一方通行道路であるかどうかを検出することに基づいて１つ又は複数のナビゲーション応答を生じさせるための例示的なプロセス２１００を示すフローチャートである。ステップ２１０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の少なくとも１つの画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の少なくとも１つの画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０２２３】
ステップ２１０４では、処理ユニット１１０は、少なくとも１つの画像を分析して道路の１つの側方の第１の複数の車両を識別することができる。例えば、第１の複数の車両を識別することは、第１の複数の車両の形状にバウンディングボックスを関連付けることを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０２２４】
ステップ２１０４は、少なくとも１つの画像の分析に基づいて、第１の複数の車両の少なくとも１つ又は第２の複数の車両の少なくとも１つの側部を識別することを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。幾つかの実施形態では、側部を識別することは、第１の複数の車両の少なくとも１つ又は第２の複数の車両の少なくとも１つに関連する少なくとも２つの特徴に基づき得る。例えば、車両に関連する特徴は、ミラー、ウィンドウ、ドアハンドル、ドアの形状、ドアの数、フロントガラス及び／又はリアガラスの傾斜等を含み得る。幾つかの実施形態では、識別される側部は、右側の側部であり得る。他の実施形態では、識別される側部は、左側の側部であり得る。
【０２２５】
ステップ２１０６では、処理ユニットは、少なくとも１つの画像を分析して道路の他の側方の第２の複数の車両を識別することができる。ステップ２１０６は、ステップ２１０４と類似して且つ／又は同時に実行され得る。
【０２２６】
ステップ２１０８では、処理ユニット１１０は、第１の複数の車両の第１の前向き方向を求めることができる。幾つかの実施形態では、第１の複数の車両が全て同じ前向き方向を有し得る。他の実施形態では、前向き方向が異なり得る。
【０２２７】
ステップ２１１０では、処理ユニット１１０は、第２の複数の車両の第２の前向き方向を求めることができる。幾つかの実施形態では、第２の複数の車両が全て同じ前向き方向を有し得る。他の実施形態では、前向き方向が異なり得る。
【０２２８】
ステップ２１１２では、処理ユニット１１０は、ホスト車両のナビゲーション変更を生じさせることができる。例えば、ナビゲーション応答は、（上記の図１３に示したような）ターン、レーンシフト、加速度の変更（例えば、ホスト車両のブレーキをかけること）等を含み得る。処理ユニット１１０は、ステップ２１１２で行った算出に基づいて１つ又は複数のナビゲーション応答を生じさせることができる。例えば、処理ユニット１１０は、第１の前向き方向及び第２の前向き方向に基づいて道路が一方通行道路であると判定し得る。この判定に基づいて、処理ユニットは、ホスト車両を減速若しくは停止し且つ／又はＵターンを行うことができる。
【０２２９】
幾つかの実施形態では、方法２１００は、追加のステップを含み得る。例えば、方法２１００は、ホスト車両が走行している第１の道路から第２の道路にホスト車両をナビゲートするためのナビゲーション命令を受信することを含み得る。ナビゲーション命令は、ホスト車両の向きを第２の道路に変えるための命令、第２の道路に方向転換するための命令、第２の道路に入るランプに合流するための命令等を含み得る。
【０２３０】
かかる実施形態では、方法２１００は、ホスト車両が第２の道路に向きを変える場合にホスト車両が走行することになる進行方向に対して、第１の前向き方向及び第２の前向き方向の両方が逆であると判定することを更に含み得る。例えば、処理ユニット１１０は、第２の道路上の車両の画像を分析して第１の前向き方向及び第２の前向き方向を求め、次いでそれらの前向き方向がホスト車両の予測進行方向と逆であるかどうかを判定することができる。ホスト車両が第２の道路に向きを変える場合にホスト車両が走行することになる進行方向に対して、第１の前向き方向及び第２の前向き方向の両方が逆であると判定することに応答し、処理ユニット１１０は、ナビゲーション命令を中断することができる。例えば、処理ユニット１１０は、道路が予測進行方向と逆方向の一方通行道路であると判定したことを理由に、第２の道路に向きを変えること、第２の道路に方向転換すること、第２の道路に合流すること等を中止することができる。
【０２３１】
更なる実施形態では、方法２１００は、中断されたナビゲーション命令を回復するためのオーバライド命令を受信することを含み得る。例えば、オーバライド命令は、ホスト車両内の人から受信される手動確認に基づいて始動され、地図データにアクセスすることに基づいて始動され、第２の道路の走行方向に関係するクラウドソースデータに基づいて始動される等であり得る。
【０２３２】
処理ユニット１１０は、速度及び加速度モジュール４０６を実行することから得られるデータを使用して１つ又は複数のナビゲーション応答を生じさせることもできる。複数のナビゲーション応答は、同時に、順に、又はその任意の組合せで起こり得る。
【０２３３】
熱プロファイルに基づく駐車車両の状態予測
熱プロファイルに基づいて駐車車両の状態を予測するシステム及び方法は、駐車車両が動き始める前に車両の動きを予測することを可能にし得る。このようにして、従来の動き検出のように実際に動きを検出するまで待つのではなく、システムは、予測される動きを識別し、それに合わせて先制して調節を行うことができる。以下に記載の本開示の実施形態は、熱プロファイルに基づいて駐車車両の状態を予測するためのシステム及び方法に関する。
【０２３４】
図２２は、開示される実施形態による１つ又は複数の動作を実行するための命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下は、メモリ１４０に関するものであるが、当業者であれば、命令がメモリ１４０及び／又は１５０に記憶され得ることがわかるであろう。
【０２３５】
図２２に示すように、メモリ１４０は、視覚−赤外位置合わせモジュール２２０２と、車両識別モジュール２２０４と、状態予測モジュール２２０６と、ナビゲーション応答モジュール２２０８とを記憶し得る。開示される実施形態は、メモリ１４０のいかなる特定の構成にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれるモジュール２２０２〜２２０８の何れかに記憶される命令も実行し得る。当業者であれば、以下の考察で処理ユニット１１０に言及することは、アプリケーションプロセッサ１８０と画像プロセッサ１９０とを個別に又は集合的に指し得ることを理解するであろう。従って、以下のプロセスの何れのステップも１つ又は複数の処理デバイスによって実行され得る。
【０２３６】
幾つかの実施形態では、視覚−赤外位置合わせモジュール２２０２は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の可視光画像を、画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の赤外画像（すなわち熱マップ）と位置合わせする命令（コンピュータビジョンソフトウェア等）を記憶し得る。例えば、視覚−赤外位置合わせモジュール２２０２は、以下に記載の図２５の方法２５００を実行するための命令を含み得る。
【０２３７】
他の実施形態では、車両識別モジュール２２０４は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して以下で説明するように、車両識別モジュール２２０２は、１つ又は複数の車両のバウンディングボックスを決定するための命令を含み得る。
【０２３８】
一実施形態では、状態予測モジュール２２０６は、処理ユニット１１０によって実行されるときに視覚−赤外位置合わせモジュール２２０２からの１つ又は複数の位置合わせされた画像の分析を実行して１つ又は複数の識別された車両の状態を予測する命令（コンピュータビジョンソフトウェア等）を記憶し得る。例えば、状態予測モジュール２２０６は、識別された車両の視覚的インジケータ及び熱インジケータに基づいて予測状態を出力し得る。
【０２３９】
一実施形態では、ナビゲーション応答モジュール２２０８は、視覚−赤外位置合わせモジュール２２０２、車両識別モジュール２２０４、及び／又は状態予測モジュール２２０６を実行することから得られるデータに基づいて所望のナビゲーション応答を決定するために処理ユニット１１０によって実行可能なソフトウェアを記憶し得る。例えば、ナビゲーション応答モジュール２２０８は、以下に記載の図２４の方法２４００に従ってナビゲーション変更を生じさせることができる。
【０２４０】
更に、本明細書で開示されるモジュール（例えば、モジュール２２０２、２２０４、及び２２０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０２４１】
図２３Ａは、開示される実施形態によるシステムの視点からの駐車車両２３０２を示す。例えば、車両２３０２は、照明状態の変化及び／又は温度特性についてシステムによって監視され得る。システムは、例えば、図２４の方法２４００を使用して、照明状態の変化及び／又は温度特性の変化に基づいて車両２３０２の予測状態を求めることができる。
【０２４２】
図２３Ｂは、照明状態の変化を有する駐車車両２３０２を示す。図２３Ｃの例では、車両２３０２のテールライト２３０４ａ及び２３０４ｂは、非点灯状態から点灯状態に変わっている。照明状態の変化をヘッドライトが示す他の実施形態もあり得る。更に、車両のヘッドライト及び／又はテールライトが点灯状態から非点灯状態に変わる他の実施形態もあり得る。
【０２４３】
図２３Ｃは、温かいエンジン２３０６と冷たいタイヤ２３０８ａ及び２３０８ｂとを有する駐車車両２３０２を（異なる角度から）示す。本明細書で使用するとき、「温かい」及び「冷たい」は、予め決められ且つ／又は学習され得る期待温度値からのずれを指す。例えば、エンジンは、周囲温度を上回る場合に「温かい」とすることができ、周囲温度以下の場合に「冷たい」とすることができる。本開示の実施形態では、エンジン又はエンジンの温度に言及することは、その温度が典型的にはエンジンの温度の影響を受ける車両の特定の領域、例えば車両の前部に位置するボンネットに関係し得る。「温かい」及び「冷たい」温度の閾値は、場合により偽陽性又は偽陰性の検出を必要に応じて減らすための幾らかのマージンを伴い、特定の条件下のボンネットの期待温度を反映するように選択することができる。一例では、快晴の条件下では（例えば、車両のボンネットが太陽にさらされていると判定した後で）太陽からの加熱を考慮するように閾値温度を調節することができる。別の例では、画像のスペクトル分析によって特定することができる車両の色を考慮に入れて太陽の影響を織り込むことができる。別の例では、例えば、場合により現在監視されている車の局所的領域内にある、過去に検出された駐車された車の温度及び／又は１つ若しくは複数の駐車された車の特定の領域の温度を平均することにより、閾値を決定することができる。
【０２４４】
同様に、車両の状態の指示としてタイヤの温度を使用することができる。例えば、タイヤは、道路の温度を上回る場合に「温かい」とすることができ、道路の温度以下の場合に「冷たい」とすることができる。別の例では、閾値温度（例えば、「温かい」タイヤと「冷たい」タイヤとを区別するために使用される温度）は、期待される又は計算されるタイヤの動作温度に関係し得る。動作温度の計算は、周囲条件並びに場合により運転のモデル及びタイヤの温度に対するその影響も考慮に入れることができる。更に別の例では、動作温度の計算は、タイヤの冷却モデルを含むこともできる。タイヤの冷却モデルも周囲条件を考慮に入れることができる。図２３Ｃの例では、システムは、例えば、図２４の方法２４００を使用して、エンジン２３０６並びにタイヤ２３０８ａ及び２３０８ｂの温度に基づいて車両２３０２の予測状態を求めることができる。
【０２４５】
図２４は、開示される実施形態による駐車車両の予測状態を求めるための例示的なプロセス２４００を示すフローチャートである。ステップ２４０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の複数の画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の複数の画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０２４６】
複数の画像は、経時的に収集することができる。例えば、複数は、時点ｔ＝０において捕捉される第１の画像、ｔ＝０．５秒において捕捉される第２の画像、及びｔ＝１．０秒において捕捉される第３の画像を含み得る。画像間のタイミングは、１つ又は複数の画像捕捉デバイスの走査レートに少なくとも依存し得る。
【０２４７】
ステップ２４０４では、処理ユニット１１０は、複数の画像を分析して駐車車両を識別することができる。例えば、駐車車両を識別することは、駐車車両の側部の形状に少なくとも１つのバウンディングボックスを関連付けることを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。幾つかの実施形態では、ステップ２４０４は、識別された標的車両の前部のエンジン及び／又は識別された標的車両の側部にある車輪を識別することを更に含み得る。例えば、分析は、図１１に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０２４８】
ステップ２４０６では、処理ユニット１１０は、複数の画像を分析して駐車車両の照明状態の変化を識別することができる。例えば、処理ユニット１１０は、駐車車両のテールライト及び／又はヘッドライトを識別し、（図２３Ｂの例に見られるように）非点灯から点灯への変化又は点灯から非点灯への変化について、識別したテールライト及び／又はヘッドライトを監視することができる。他の実施形態は、より詳細な変化、例えば駐車灯のみの点灯からブレーキ灯の点灯への変化等を含み得る。
【０２４９】
幾つかの実施形態では、方法２４００は、照明状態の変化に基づいて駐車車両の予測状態を求めることを含むことができ、ステップ２４１２（すなわち駐車車両の予測状態に基づいてホスト車両による少なくとも１つのナビゲーション応答を生じさせる）に直接進むことができる。例えば、処理ユニット１１０は、駐車車両に関連する少なくとも１つのライトの照明状態が非点灯状態から点灯状態に変化することに基づき、駐車車両のエンジンが始動されたという兆候を駐車車両の予測状態が含むと判定し得る。同様に、処理ユニット１１０は、駐車車両に関連する少なくとも１つのライトの照明状態が点灯状態から非点灯状態に変化することに基づき、駐車車両のエンジンが切られたという兆候を駐車車両の予測状態が含むと判定し得る。従って、かかる実施形態では、これらの判定は、熱画像を使用することを含まない場合がある。
【０２５０】
ステップ２４０８では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の少なくとも１つの熱画像（すなわち赤外画像）を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の少なくとも１つの熱画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０２５１】
ステップ２４０８は、ステップ２４０２と別に又は同時に実行することができる。従って、幾つかの実施形態では、可視光画像及び赤外画像が同時に受信され得る。他の実施形態では、１つ又は複数の画像捕捉デバイスと１つ又は複数の赤外画像捕捉デバイスとの間の異なる走査レート及び／又は異なる伝送速度は、可視光画像と赤外画像との間の遅延をもたらす場合がある。
【０２５２】
幾つかの実施形態では、方法２４００は、複数の画像の少なくとも１つを少なくとも１つの熱画像と位置合わせすることを更に含み得る。位置合わせすることに基づき、方法２４００は、位置合わせされた少なくとも１つの熱画像内で駐車車両のエンジン領域又は少なくとも１つの車輪構成要素領域の少なくとも１つを識別することを更に含み得る。
【０２５３】
ステップ２４１０では、処理ユニット１１０は、ステップ２４０６の分析及び／又は少なくとも１つの熱画像の分析に基づいて駐車車両の予測状態を求めることができる。例えば、予測状態は、駐車車両のエンジンが始動されたという兆候又は駐車車両のエンジンが切られたという兆候を含み得る。更なる例として、予測状態は、駐車車両が所定の期間内に動かないと予期されるという兆候、駐車車両が所定の期間内に動くと予期されるという兆候、又は駐車車両のドアが所定の期間内に開くと予期されるという兆候を含み得る。
【０２５４】
幾つかの実施形態では、少なくとも１つの熱画像の分析は、駐車車両のエンジン領域の温度値を求めることを含み得る。例えば、温度値が閾値を下回る場合、処理ユニット１１０は、駐車車両が所定の期間内に動かないと予期されるという兆候を含む予測状態を求めることができる。所定の期間は、例えば、駐車車両の既知の特性又は駐車車両のエンジンによって決まり得る。
【０２５５】
幾つかの実施形態では、少なくとも１つの熱画像の分析は、駐車車両のエンジン領域の第１の温度値及び駐車車両の少なくとも１つの車輪構成要素の第２の温度値を求めることを含み得る。かかる実施形態では、駐車車両の予測状態は、第１の温度値の第１の閾値との比較及び第２の温度値の第２の閾値との比較に基づいて求められ得る。例えば、第１の温度値が第１の閾値を上回り、且つ第２の温度値が第２の閾値を下回る場合、処理ユニット１１０は、駐車車両が所定の期間内に動くと予期されるという兆候を含む予測状態を求めることができる。更なる例として、第１の温度値が第１の閾値を上回り、且つ第２の温度値が第２の閾値を上回る場合、処理ユニット１１０は、駐車車両のドアが所定の期間内に開くと予期されるという兆候を含む予測状態を求めることができる。
【０２５６】
幾つかの実施形態では、予測状態が照明の変化、少なくとも１つの熱画像の分析、又はその組合せに基づくかどうかによって、処理ユニット１１０が予測状態に少なくとも部分的に基づいて受信画像の追加の監視を行うことができる。例えば、駐車車両のエンジンが切られたこと及び／又は駐車車両のドアが所定の期間内に開くと予期されることを予測状態が示す場合、処理ユニット１１０は、駐車車両のドア縁部の画像特性の変化について受信画像の１つ又は複数の部分を監視することができる。この監視の一例は、図１４の方法１４００に関して上記で説明した。更なる例として、駐車車両のエンジンがかかったこと及び／又は駐車車両が所定の期間内に動くと予期されることを予測状態が示す場合、処理ユニット１１０は、車輪構成要素の動きについて受信画像の１つ又は複数の車輪構成要素を監視することができる。この監視の一例は、図１７の方法１７００に関して上記で説明した。
【０２５７】
ステップ２４１２では、処理ユニット１１０は、ホスト車両のナビゲーション変更を生じさせることができる。例えば、ナビゲーション応答は、（上記の図１３で示したように）ホスト車両の進行方向の変更、レーンシフト、加速度の変更等を含み得る。処理ユニット１１０は、ステップ２４１０で行われた予測状態決定に基づいて１つ又は複数のナビゲーション応答を生じさせることができる。例えば、処理ユニット１１０は、駐車車両が所定の期間内に動くと予期されることを示す予測状態又は駐車車両のドアが所定の期間内に開くと予期されることを示す予測状態に応じて、ホスト車両を標的車両から離すこと及び／又はホスト車両を減速させることができる。
【０２５８】
図２５は、可視光画像と赤外画像とを位置合わせするための例示的なプロセス２５００を示すフローチャートである。ステップ２５０２及び２５０４では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の少なくとも１つの可視光画像、及びその環境の少なくとも１つの赤外画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の少なくとも１つの可視光画像及び少なくとも１つの赤外画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。
【０２５９】
幾つかの実施形態では、可視光画像及び赤外画像が同時に受信され得る。他の実施形態では、１つ又は複数の画像捕捉デバイスと１つ又は複数の赤外画像捕捉デバイスとの間の異なる走査レート及び／又は異なる伝送速度は、可視光画像と赤外画像との間の遅延をもたらす場合がある。
【０２６０】
ステップ２５０６では、処理ユニット１１０は、少なくとも１つの赤外画像内の基準点の組を選択することができる。例えば、基準点の組は、無作為に選択され得、又は既知の特性に基づく既知の物体（例えば、歩行者、木、車両等）の識別を含み得る。
【０２６１】
ステップ２５０８では、処理ユニット１１０は、少なくとも１つの赤外画像から少なくとも１つの可視光画像に基準点を射影することができる。例えば、処理ユニット１１０は、少なくとも１つの可視光画像内の位置に、基準点を表す（例えば、取り囲む）形状（例えば、楕円、矩形、台形等）を射影することができる。
【０２６２】
ステップ２５１０では、処理ユニット１１０は、基準点に対応する可視光画像の部分に関する利得及び／又は露出を最適化することができる。例えば、最適化によるコントラストの改善は、より高信頼の位置合わせをもたらし得る。ステップ２５０８は、任意選択的であり、全ての実施形態で行われる必要はない。
【０２６３】
ステップ２５１２では、処理ユニット１１０は、少なくとも１つの赤外画像を少なくとも１つの可視光画像と位置合わせすることができる。例えば、画像を位置合わせ（又はマッチング）することは、位置合わせ測度（alignment measure）を最適化する距離にわたってエピポーラ線に沿って検索することを含み得る。この例では、位置合わせ測度を最適化することは、基準点とビューワとの間の距離及び／又は基準点と他の物体との間の距離が可視光画像及び赤外画像の両方において同じであることを確実にし得る。
【０２６４】
検出した車両間の間隔に基づくナビゲーション
車両及び車両間の間隔を識別するシステム及び方法は、検出した間隔に基づいてナビゲートすることを可能にし得る。このようにナビゲートすることは、検出した間隔内の動きを先制して監視すること及びかかる動きに従来の動き検出よりも短い反応時間で反応することを可能にし得る。以下に記載の本開示の実施形態は、検出した車両間の間隔に基づいてナビゲートするためのシステム及び方法に関する。
【０２６５】
図２６は、開示される実施形態による１つ又は複数の動作を実行するための命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下は、メモリ１４０に関するものであるが、当業者であれば、命令がメモリ１４０及び／又は１５０に記憶され得ることがわかるであろう。
【０２６６】
図２６に示されているように、メモリ１４０は、画像分析モジュール２６０２と、車両識別モジュール２６０４と、間隔計算モジュール２６０６と、ナビゲーション応答モジュール２６０８とを記憶し得る。開示される実施形態は、メモリ１４０のいかなる特定の構成にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれるモジュール２６０２〜２６０８の何れかに記憶される命令も実行し得る。当業者であれば、以下の考察で処理ユニット１１０に言及することは、アプリケーションプロセッサ１８０と画像プロセッサ１９０とを個別に又は集合的に指し得ることを理解するであろう。従って、以下のプロセスの何れのステップも１つ又は複数の処理デバイスによって実行され得る。
【０２６７】
一実施形態では、画像分析モジュール２６０２は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の画像分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。幾つかの実施形態では、処理ユニット１１０は、画像の組からの情報を追加のセンサ情報（例えば、レーダ、ライダ等からの情報）と組み合わせて画像分析を実行することができる。車両識別モジュール２６０４に関して以下で説明するように、画像分析モジュール２６０２は、１つ又は複数の特徴（例えば、前部、後部、側部等）を使用して車両を検出するための命令を含み得る。
【０２６８】
一実施形態では、車両識別モジュール２６０４は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図９〜図１４に関して上記で説明したように、車両識別モジュール２６０４は、１つ又は複数の車両のバウンディングボックスを決定するための命令を含み得る。
【０２６９】
一実施形態では、間隔計算モジュール２６０６は、処理ユニット１１０によって実行されるときに画像捕捉デバイス１２２、１２４、及び１２６の１つによって取得される１つ又は複数の画像の分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。図２７Ａ及び図２７Ｂに関して説明するように、車両識別モジュール２６０４と共同して、間隔計算モジュール２６０６は、識別された車両間の１つ又は複数の間隔を計算するための命令を含み得る。
【０２７０】
一実施形態では、ナビゲーション応答モジュール２６０８は、画像分析モジュール２６０２、車両識別モジュール２６０４、及び／又は間隔計算モジュール２６０６を実行することから得られるデータに基づいて所望のナビゲーション応答を決定するために処理ユニット１１０によって実行可能なソフトウェアを記憶し得る。例えば、ナビゲーション応答モジュール２６０８は、以下に記載の図２８の方法２８００に従ってナビゲーション変更を生じさせることができる。
【０２７１】
更に、本明細書で開示されるモジュール（例えば、モジュール２６０２、２６０４、及び２６０６）の何れも、訓練されたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は訓練されていないシステムに関連する技法を実装することができる。
【０２７２】
図２７Ａは、開示される実施形態によるシステムの視点からの道路２７０２を示す。道路２７０２は、複数の停止車両、例えば車両２７０４及び車両２７０６を含み得る。図２８の方法２８００に関して以下で説明するように、システムは、停止車両の側部に関するバウンディングボックス、例えば車両２７０４の側部バウンディングボックス２７０８及び車両２７０６の側部バウンディングボックス２７１０を識別することができる。図２８の方法２８００に関して以下で更に説明するように、システムは、あるバウンディングボックスの前部及び隣接するバウンディングボックスの後部、例えばバウンディングボックス２７０８の前部２７１２及びバウンディングボックス２７１０の後部２７１４を使用して、識別したバウンディングボックス間の間隔を求めることができる。
【０２７３】
図２７Ｂも、開示される実施形態によるシステムの視点からの、車両２７０４及び車両２７０６を有する道路２７０２を示す。図２７Ａと同様に、システムは、車両２７０４の側部バウンディングボックス２７０８及び車両２７０６の側部バウンディングボックス２７１０を識別している。図２７Ｂに示すように、バウンディングボックス２７０８の前部２７１２とバウンディングボックス２７１０の後部２７１４との間で求められた間隔に基づいてホットスポット２７１６が識別されている。図２８の方法２８００に関して以下で説明するように、システムは、識別したホットスポットに基づいてホスト車両のナビゲーション応答を決定することができる。
【０２７４】
図２８は、開示される実施形態による、検出した車両間の間隔に基づいてナビゲートするための例示的なプロセス２８００を示すフローチャートである。ステップ２８０２では、処理ユニット１１０は、データインタフェース１２８を介してホスト車両の環境の複数の画像を受信することができる。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４、及び２０６を有する画像捕捉デバイス１２２、１２４、及び１２６等）は、ホスト車両の前方の及び／又は側方の領域の少なくとも１つの画像を捕捉し、それらをデジタル接続（例えば、ＵＳＢ、無線、Bluetooth等）上で処理ユニット１１０に伝送することができる。複数の画像と組み合わせて又はその代わりに、他のセンサ、例えばレーダ、ライダ、音響センサ等からの追加情報を使用することができる。
【０２７５】
ステップ２８０４では、処理ユニット１１０は、複数の画像の少なくとも１つを分析して少なくとも２つの停止車両を識別することができる。例えば、停止車両を識別することは、停止車両の側部の形状に少なくとも１つのバウンディングボックスを関連付けることを更に含み得る。例えば、分析は、図９及び図１０に関して上記で論じた学習されたアルゴリズムを使用して実行することができる。
【０２７６】
ステップ２８０６では、処理ユニット１１０は、識別した車両間の間隔を求めることができる。例えば、処理ユニット１１０は、少なくとも１つの画像を左から右に（又は右から左に）走査して、右の縁部と隣接する左の縁部とを識別することができる。識別される右の縁部及び識別される左の縁部は、あるバウンディングボックスの前部と別のバウンディングボックスの後部とを含み得る。右の縁部及び左の縁部は、間隔が計算され得る間隙の対を形成し得る。かかる実施形態では、間隔は、停止車両の１つの前部と他の停止車両の後部との間の距離に対応し得る。
【０２７７】
他の実施形態では、識別される右の縁部及び識別される左の縁部は、道路の１つの側方の１つのバウンディングボックス及び道路の他の側方の他のバウンディングボックスを含み得る。かかる実施形態では、間隔は、停止車両の隣接する側部間の距離に対応し得る。
【０２７８】
幾つかの実施形態では、ステップ２８０６は、ホスト車両と、求められた間隔との間の距離を計算することを更に含み得る。例えば、処理ユニット１１０は、ホスト車両の画像捕捉デバイス（例えば、カメラ）の高さ及び焦点距離に基づいて距離を計算することができる。歩行者又は他の物体の既知の特性（高さ等）に基づき、処理ユニット１１０は、歩行者又は他の物体が出現するための「ホットスポット」として計算された間隔の範囲内の及び／又はその付近の形状を決定することができる。例えば、その形状は矩形、楕円、又は他の形状であり得る。
【０２７９】
ステップ２８０８では、処理ユニット１１０は、ホスト車両のナビゲーション変更を生じさせることができる。例えば、ナビゲーション応答は、（上記の図１３に示したような）ターン、レーンシフト（例えば、ホスト車両を走行レーン内で移動させること又はホスト車両の走行レーンを変えること）、加速度の変更（例えば、ホスト車両の減速）等を含み得る。幾つかの実施形態では、少なくとも１つのナビゲーション変更は、ホスト車両の操舵機構、ブレーキ、又はアクセルの少なくとも１つを作動させることによって行われ得る。
【０２８０】
処理ユニット１１０は、ステップ２８０６で計算した間隔に基づいて１つ又は複数のナビゲーション応答を生じさせることができる。例えば、処理ユニット１１０は、計算した間隔が歩行者を含むのに十分であると判定し得る。この判定に基づいて、処理ユニットは、ホスト車両を減速し且つ／又はホスト車両をその間隔から離すことができる。換言すれば、ナビゲーション変更は、歩行者が横断するのに２つの停止車両間の間隔が十分であると判定される場合に生じられ得る。
【０２８１】
更なる例として、処理ユニット１１０は、計算した間隔が車両を含むのに十分であると判定し得る。この判定に基づいて、処理ユニットは、ホスト車両を減速し且つ／又はホスト車両をその間隔から離すことができる。換言すれば、ナビゲーション変更は、標的車両が横断するのに２つの停止車両間の間隔が十分であると判定される場合に生じられ得る。
【０２８２】
更なる例として、ホットスポットを監視することに基づき、歩行者又は他の物体がホットスポット内で若しくはその付近で識別される場合、又は動きがホットスポット内で若しくはその付近で検出される場合、処理ユニット１１０は、ホスト車両を減速し且つ／又はホスト車両をその間隔から離すことができる。
【０２８３】
幾つかの実施形態では、処理ユニット１１０は、複数の画像の分析に基づいて２つの停止車両間の間隔において歩行者を検出し得る。例えば、処理ユニット１１０は、計算した間隔及び予期される歩行者の身長を使用して、歩行者の頭部が出現すると予期され得る受信画像内の位置（例えば、図２７Ｂのホットスポット２７１６）を求めることができる。
【０２８４】
歩行者の検出は、上記で論じた車両側部のための訓練された分類器と同様の、歩行者について訓練された分類器を使用して行うことができる。かかる例では、ホットスポット内の試験点が上限閾値を上回る分類器スコアを得る場合、処理ユニット１１０は、その点において確実な歩行者を検出し得る。他方では、ホットスポット内の試験点が下限閾値を上回るが、上限閾値を下回る分類器スコアを得る場合、処理ユニット１１０は、その点において疑わしい歩行者を検出し得る。疑わしい歩行者は、道路に向かう動きについて更に追跡され得、その道路に向かう場合、処理ユニットは、疑わしい歩行者を確実な歩行者として再分類する。かかる検出方法は、従来の動き検出を改善することができる。
【０２８５】
幾つかの実施形態では、２つの停止車両間の間隔の少なくとも一部がカメラの視野から隠される場合がある。かかる実施形態では、処理ユニット１１０は、曖昧さを補償するために追加の分析を行い得る。
【０２８６】
処理ユニット１１０は、速度及び加速度モジュール４０６を実行することから得られるデータを使用して１つ又は複数のナビゲーション応答を生じさせることもできる。複数のナビゲーション応答は、同時に、順に、又はその任意の組合せで起こり得る。
【０２８７】
上記説明は、例示を目的として提示されている。上記説明は網羅的ではなく、開示される厳密な形態又は実施形態に限定されない。変更形態及び適合形態は、本明細書を考慮し、開示される実施形態を実施することから当業者に明らかになるであろう。更に、開示される実施形態の態様は、メモリに記憶されるものとして記載されるが、これらの態様が、補助記憶装置等の他のタイプのコンピュータ可読媒体、例えば、ハードディスク若しくはＣＤ  ＲＯＭ又は他の形態のＲＡＭ若しくはＲＯＭ、ＵＳＢメディア、ＤＶＤ、Blu-ray（登録商標）、４Ｋ超ＨＤ  Blu-ray、又は他の光学駆動媒体に記憶することも可能なことを当業者は理解するであろう。
【０２８８】
記載の説明及び開示される方法に基づくコンピュータプログラムは、経験のある開発者の技能内にある。様々なプログラム又はプログラムモジュールは、当業者に既知の任意の技法を使用して作成することができるか、又は既存のソフトウェアに関連して設計することができる。例えば、プログラムセクション又はプログラムモジュールは、.Net Framework、.Net Compact Framework（及びVisual Basic、Ｃ等の関連する言語）、Java（登録商標）、Ｃ＋＋、Objective-C、ＨＴＭＬ、ＨＴＭＬ／ＡＪＡＸ組み合わせ、ＸＭＬ、又はJavaアプレットを包含したＨＴＭＬにおいて又はそれにより設計することができる。
【０２８９】
更に、例示的な実施形態を本明細書において説明したが、あらゆる実施形態の範囲は、本開示に基づいて当業者により理解されるような均等な要素、変更形態、省略形態、組合せ（例えば、様々な実施形態にわたる態様の）、適合形態、及び／又は代替形態を有する。特許請求の範囲での限定は、特許請求の範囲に利用される言語に基づいて広く解釈されるべきであり、本明細書に記載される例又は本願の実行中の例に限定されない。例は、非排他的として解釈されるべきである。更に、開示される方法のステップは、ステップの順序替え及び／又はステップの挿入又は削除を含め、任意の方法で変更し得る。従って、本明細書及び例が単なる例示として見なされることが意図され、真の範囲及び趣旨は、以下の特許請求の範囲及びその全範囲の均等物により示される。
【図１】
2019524525.tif 000003
【図２Ａ】
2019524525.tif 000004
【図２Ｂ】
2019524525.tif 000005
【図２Ｃ】
2019524525.tif 000006
【図２Ｄ】
2019524525.tif 000007
【図２Ｅ】
2019524525.tif 000008
【図２Ｆ】
2019524525.tif 000009
【図３Ａ】
2019524525.tif 000010
【図３Ｂ】
2019524525.tif 000011
【図３Ｃ】
2019524525.tif 000012
【図３Ｄ】
2019524525.tif 000013
【図４】
2019524525.tif 000014
【図５Ａ】
2019524525.tif 000015
【図５Ｂ】
2019524525.tif 000016
【図５Ｃ】
2019524525.tif 000017
【図５Ｄ】
2019524525.tif 000018
【図５Ｅ】
2019524525.tif 000019
【図５Ｆ】
2019524525.tif 000020
【図６】
2019524525.tif 000021
【図７】
2019524525.tif 000022
【図８】
2019524525.tif 000023
【図９】
2019524525.tif 000024
【図１０】
2019524525.tif 000025
【図１１】
2019524525.tif 000026
【図１２Ａ】
2019524525.tif 000027
【図１２Ｂ】
2019524525.tif 000028
【図１３】
2019524525.tif 000029
【図１４】
2019524525.tif 000030
【図１５】
2019524525.tif 000031
【図１６Ａ】
2019524525.tif 000032
【図１６Ｂ】
2019524525.tif 000033
【図１７】
2019524525.tif 000034
【図１８】
2019524525.tif 000035
【図１９】
2019524525.tif 000036
【図２０Ａ】
2019524525.tif 000037
【図２０Ｂ】
2019524525.tif 000038
【図２１】
2019524525.tif 000039
【図２２】
2019524525.tif 000040
【図２３Ａ】
2019524525.tif 000041
【図２３Ｂ】
2019524525.tif 000042
【図２３Ｃ】
2019524525.tif 000043
【図２４】
2019524525.tif 000044
【図２５】
2019524525.tif 000045
【図２６】
2019524525.tif 000046
【図２７Ａ】
2019524525.tif 000047
【図２７Ｂ】
2019524525.tif 000048
【図２８】
2019524525.tif 000049
【国際調査報告】
2019524525.tif 000050
2019524525.tif 000051
2019524525.tif 000052
2019524525.tif 000053
2019524525.tif 000054
2019524525.tif 000055
2019524525.tif 000056