(57)【特許請求の範囲】
【請求項１】
第１の時点に第１の画像データを提供し、前記第１の時点と異なる第２の時点に第２の画像データを提供するように構成されたカメラ（１０）と、
前記カメラ（１０）の動きを検出し、前記カメラ（１０）の検出した動きに対応する動きベクトルを判定し、判定した動きベクトルを前記カメラ（１０）が提供する前記第１の画像データに付与するように構成された動き検出器（２０）と、
前記提供された第１及び第２の画像データを設定可能なプリセットの画像面へと変換し、変換済みの第１の画像データと変換済みの第２の画像データとを出力するように構成された変換手段（３０）と、
前記変換済みの第１の画像データに基づき、動き補償を行った変換済みの第１の画像データを生成するように構成された動き補償手段（４０）と、
前記動き補償を行った変換済みの第１の画像データと前記変換済みの第２の画像データとの差を計算するように構成された計算手段（５０）と、
動き補償を行った変換済みの第１の画像データと変換済みの第２の画像データとの計算された差を比較し、差が所定の閾値を超える場合に前記計算された差分画像データにおける複数の物体をいっしょに識別するように構成された分割手段（６０）と、
を備え、
前記動き検出器（２０）は、前記カメラ（１０）の前記検出された動きに対応する動きベクトルを判定し、前記判定された動きベクトルを前記カメラ（１０）により提供された前記第１の画像データに付与するように構成され、
前記変換手段（３０）は、前記提供された第１及び第２の画像データを設定可能なプリセットの画像面に変換するように構成され、
前記動き補償手段（４０）は、前記変換済みの第１の画像データ、前記第１の画像データに付与された前記動きベクトル、及び前記第１の時点と前記第２の時点との時間差に基づき、動き補償を行った変換済みの第１の画像データを生成するように構成され、
前記設定可能なプリセットの画像面は、可能性のある画像面の組から選択され、前記可能性のある画像面の組は、地面、前記地面に平行な面、前記地面に対して傾斜した画像面、及び／又は前記カメラ（１０）の前記検出された動きベクトルに直交する面に対して傾斜した面を含む、
ことを特徴とする、フリースペース検出装置（１）。
【請求項２】
前記カメラ（１０）が画像データを取得するための複数の画像取得手段（１１−ｉ）を備え、前記カメラ（１０）は前記複数の画像取得手段（１１−ｉ）からの前記取得した画像データを第１又は第２の画像データに結合するものである、請求項１に記載のフリースペース検出装置（１）。
【請求項３】
前記カメラ（１０）が提供する前記第１及び第２の画像データ、前記変換済みの第１及び第２の画像データ、前記動き補償を行った変換済みの第２の画像データ、前記差分画像データ、及び／又は前記識別された物体を記録するように構成されたメモリ（７０）を更に備える、請求項１又は２に記載のフリースペース検出装置（１）。
【請求項４】
設定可能なプリセットの画像面が環境パラメータに応じて調節される、請求項１から３のいずれか一項に記載のフリースペース検出装置（１）。
【請求項５】
請求項１から４のいずれか一項に記載のフリースペース検出装置（１）を備える、先進ドライバー支援システム（２）。
【請求項６】
カメラ（１０）により第１の画像データを第１の時点に提供するステップ（Ｓ１）と、
前記カメラ（１０）により第２の画像データを前記第１の時点と異なる第２の時点に提供するステップ（Ｓ２）と、
前記カメラ（１０）の動きを検出するステップ（Ｓ３）と、
前記カメラ（１０）の検出した動きに対応する動きベクトルを判定し、判定した動きベクトルを前記カメラ（１０）が提供する前記第１の画像データに付与するステップと、
前記提供された第１の画像データと前記提供された第２の画像データとを設定可能なプリセットの画像面へと変換し、変換済みの第１の画像データと変換済みの第２の画像データとを提供するステップ（Ｓ４）と、
動き補償を行った変換済みの第１の画像データを生成するステップ（Ｓ５）と、
前記動き補償を行った変換済みの第１の画像データと前記変換済みの第２の画像データとの差を計算するステップ（Ｓ６）と、
動き補償を行った変換済みの第１の画像データと変換済みの第２の画像データとの計算された差を比較し、差が所定の閾値を超える場合に前記計算された差分画像データにおける複数の物体をいっしょに識別するステップ（Ｓ７）と、
を含み、
前記カメラ（１０）の動きを検出するステップ（Ｓ３）は、前記カメラ（１０）の前記検出された動きに対応する動きベクトルを判定するステップを含み、
前記変換済みの第１の画像データ、前記検出した動きベクトル、及び前記第１の時点と前記第２の時点との時間差に基づき、動き補償を行った変換済みの第１の画像データを生成し（Ｓ５）、
前記設定可能なプリセットの画像面は、可能性のある画像面の組から選択され、前記可能性のある画像面の組は、地面、前記地面に平行な面、前記地面に対して傾斜した画像面、及び／又は前記カメラ（１０）の前記検出された動きベクトルに直交する面に対して傾斜した面を含む、
ことを特徴とする、フリースペース検出方法。
【請求項７】
前記変換するステップ（Ｓ４）が、前記提供された第１の画像データと前記提供された第２の画像データを所定のモデルまたはアルゴリズムに基づき変換する、請求項６に記載の方法。
【請求項８】
前記設定可能なプリセットの画像面を調節するステップを更に含む、請求項６又は７に記載の方法。
【請求項９】
前記組の所定の画像面が放物面を含む、請求項６に記載の方法。
【請求項１０】
前記設定可能なプリセットの画像面を調節する前記ステップが、少なくとも１つの環境パラメータを得、得られた環境パラメータに基づき前記設定可能なプリセットの画像面を調節するステップを含む、請求項８又は９に記載の方法。
【請求項１１】
動き補償を行った変換済みの第１の画像データと変換済みの第２の画像データとの前記計算された差に基づき前記識別された物体を分類するステップ（Ｓ８）を更に含む、請求項６から１０のいずれか一項に記載の方法。
【請求項１２】
前記分類するステップ（Ｓ８）が、固定した物体と動いている物体の違いを判別する、請求項１１に記載の方法。
【請求項１３】
請求項６から１２のいずれか一項に記載の方法を実行するように構成されたコンピュータープログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、フリースペース検出装置、フリースペース検出方法、およびフリースペース検出装置を備える先進運転支援システムに関する。
【背景技術】
【０００２】
特許文献１は、物体検出装置を開示している。画像データは車両のカメラにより取得され、取得された画像データは鳥瞰図に変換され、変換された画像データは、車両の速度に対して動き補償される。物体検出は、差分波形情報に基づいて行われる。
【０００３】
特許文献２は、カメラモデル化および仮想視野合成のための画像面モデル化を開示している。取得された画像データは、非平面の画像面にマッピングされる。
【０００４】
現代の自動車においては、複数のセンサおよび他の情報源により、先進ドライバー支援システム（ＡＤＡＳ）が複雑な運転状況においてドライバーをサポートできるようになっており、それは、高度に自動化された運転にまで至る。カメラベースのサラウンドビューシステムは、ＡＤＡＳの代表的な一つの構成要素である。かかるサラウンドビューシステムは、車両の環境における物体を識別するためにフリースペース検出を実行し、その情報をＡＤＡＳに提供する。
【０００５】
従来のサラウンドビューシステムにおけるフリースペース検出は、主としてストラクチャーフロムモーション（ＳＦＭ）アルゴリズムを用いて実行される。これらのアルゴリズムは、静止環境領域にのみ適用可能である。ＳＦＭアルゴリズムを用いたフリースペース検出では、少なくとも２つ以上の支持フレームが必要であり、そのため、待ち時間およびメモリ消費が増加する。通常、ＳＦＭアルゴリズムは、単一のカメラからの信号にのみ適用可能である。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】国際公開第２０１３／０９４２４（Ａ１）号パンフレット
【特許文献２】米国特許出願公開第２０１４／１０４４２４（Ａ１）号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００７】
よって、フリースペース検出の強化が必要とされる。特に、静止環境および移動環境に適用可能であり、計算量の減少が必要なフリースペース検出が求められている。
【課題を解決するための手段】
【０００８】
これは、独立請求項の特徴により達成される。
【０００９】
更なる態様によると、本発明は、本発明のフリースペース検出装置先進を備えるドライバー支援システムを提供する。
【００１０】
別の更なる態様によると、本発明は、本発明によるフリースペース検出方法実行するように構成されたコンピュータープログラム製品を提供する。
［発明の利点］
本発明の基礎を成す考えは、画像データを所定の画像面へと変換することである。かかる所定の画像は、物体検出に適する何らかの画像面であればよい。特に、環境状況および／またはカメラの動きによっては、更なる処理のためには異なる画像面が適切な場合もある。画像データを変換すべき画像面は、地面に平行でもよく、地面に対して傾いていてもよい。画像面は、平らであっても湾曲していてもよい。フリースペース検出を様々な環境状況に適合させるために、画像データを変換するための画像面が調節可能であってもよい。この取得した画像データの変換は、所定のアルゴリズムおよび数式に基づくものであり、車両の環境における予期しない要素、例えば物体はいずれも、変換済みの画像データにおいては様々な相違となり得る。動き補償を行った連続画像におけるこうした相違として、車両の環境における物体は、動き補償を行った変換済みの連続画像データを比較することにより容易に検出することができる。
【００１１】
本発明の更なる考えは、画像取得装置の動きを考慮に入れ、画像取得装置が取得した時間的に連続する画像を用いてフリースペース検出を実行する際に、この検出した動きを勘案することである。画像取得装置、例えばカメラの動きは、別の装置によって、または既存の情報に基づいて検出可能である。かかる動きベクトルを判定するための既存の情報は、例えば、車両の先進ドライバー支援システム、ナビゲーションシステム、または何らかの他の装置から提供されるデータによって得ることができる。動きベクトルを検出または計算するための何らかの更なる手段が使用可能な場合もある。
【００１２】
本発明によるフリースペース検出は、静止環境に加えて移動環境にも適用可能である。フリースペース検出には２つの画像フレームしか必要としないことから、従来のストラクチャーフロムモーションアルゴリズムに対し待ち時間およびメモリ消費が削減される。更に、本発明によるフリースペース検出は、空間精度を調整することにより利用可能な処理能力に容易に適合させることができる。従って、非常に柔軟なフリースペース検出が達成可能である。
【００１３】
本発明によるフリースペース検出は更に、単一のカメラの画像信号を扱うだけでなく、複数のカメラの画像信号を結合させることも可能である。従って、本発明によるフリースペース検出は、単一のカメラの画像にのみ有効である従来のＳＦＭアルゴリズムよりも柔軟性が高い。
【００１４】
更なる実施形態によると、フリースペース検出装置のカメラは、画像データを取得するための複数の画像取得手段を備える。カメラは、複数の画像取得手段からの取得した画像データを第１または第２の画像データに結合するように構成される。よって、マルチカメラの画像信号を提供可能である。これにより、より柔軟で詳細なフリースペース検出が可能となる。
【００１５】
更なる実施形態によると、フリースペース検出装置は、カメラが提供する前記第１および第２の画像データ、変換済みの第１および第２の画像データ、動き補償を行った変換済みの第２の画像データ、差分画像データ、および／または識別された物体を記録するメモリを備える。そうすることで、入力データ、中間結果、更には出力結果を記録し、更なる操作に使用することができる。特に、中間結果、例えば変換済みの画像データまたは動き補償を行った画像データを記録することで、これらのデータを再度計算することなくそれぞれのデータを再使用することができる。よって、計算量を更に抑えることができる。
【００１６】
更なる実施形態によると、設定可能なプリセットの画像面が環境パラメータに応じて調節される。そうすることで、環境状況が変化しても、フリースペース検出が強化が可能となる。
【００１７】
更なる実施形態によると、設定可能なプリセットの画像面が複数の所定の画像面から選択される。そうすることで、適切な画像面を容易に選択できる。
【００１８】
更なる実施形態によると、方法は、前記設定可能なプリセットの画像面を調節するステップを更に含む。
【００１９】
更なる実施形態によると、設定可能なプリセットの画像面が複数の所定の画像面から選択される。
【００２０】
更なる実施形態によると、前記複数の所定の画像面が、少なくとも地面、傾斜面および／または放物面を含む。
【００２１】
更なる実施形態によると、設定可能なプリセットの画像面を調節する前記ステップが、少なくとも１つの環境パラメータを得、得られた環境パラメータに基づき前記設定可能なプリセットの画像面を調節するステップを含む。
【００２２】
更なる実施形態によると、変換するステップは、カメラが提供する第１の画像データと第２の画像データとを、所定のモデルに基づいて変換する。所定のモデル、例えば数学モデル、所定のアルゴリズム等を使用することで、提供された画像データの信頼性が高く、高速での変換が可能である。
【００２３】
更なる実施形態によると、識別するステップは、差分画像データの絶対値を所定の閾値と比較するステップを含む。差分画像データを所定の閾値と比較することで、偏差を迅速かつ容易に識別することができる。
【００２４】
更なる実施形態によると、方法は、動き補償を行った変換済みの第１の画像データと変換済みの第２の画像データとの計算された差に基づき、識別された物体を分類するステップを更に含む。識別された物体を分類することで、更なる処理のための追加情報を提供することができる。そうすることで、画像データの信頼性を更に向上させることができる。
【００２５】
特定の実施形態によると、分類するステップは、固定した物体と動いている物体の違いを判別する。
【００２６】
本発明の更なる利点および実施形態は、添付の図面を参照した以下の説明から明らかとなる。
【図面の簡単な説明】
【００２７】
【図１】本発明の実施形態によるフリースペース検出装置のブロック図である。
【図２】更なる実施形態によるフリースペース検出装置を備える車両である。
【図３ａ】本発明の実施形態によるフリースペース検出によって処理された画像データの例である。
【図３ｂ】本発明の実施形態によるフリースペース検出によって処理された画像データの例である。
【図３ｃ】本発明の実施形態によるフリースペース検出によって処理された画像データの例である。
【図３ｄ】本発明の実施形態によるフリースペース検出によって処理された画像データの例である。
【図４】本発明によるフリースペース検出方法を図示するフローチャートである。
【発明を実施するための形態】
【００２８】
図１は、フリースペース検出装置１のブロック図を示す。フリースペース検出装置１は、カメラ１０と、動き検出器２０と、変換手段３０と、動き補償手段４０と、計算手段５０と、分割手段６０とを備える。更に、フリースペース検出装置１は、１つ以上のメモリ７０を備えてもよい。カメラ１０は、画像データを取得するための複数の画像取得手段１１−ｉを更に備えてもよい。
【００２９】
カメラ１０は、画像フレームを取得し、取得した画像フレームの画像データを更なる処理のために提供する。好ましくは、カメラ１０は、一定時間ごとに画像フレームを取得してもよい。この目的のため、カメラ１０は、画像フレームを所定の時間間隔で取得する。加えて、カメラ１０は、取得した画像フレームそれぞれにタイムスタンプを付与してもよい。そうすることで、画像フレームが取得された時点を、画像データの更なる処理時に容易に判定することが可能となる。
【００３０】
カメラ１０が複数の画像取得手段１１−ｉを備える場合、各画像取得手段１１−ｉは画像フレームを同時に取得してもよく、同時に取得した全画像フレームの画像データを結合させてもよい。従って、同時に取得した全画像フレームを結合させたデータは、共通画像データとして更に処理可能である。
【００３１】
取得した画像データをフリースペース検出装置１の処理能力に適合させるため、取得した画像データの分解能を変えてもよい。この目的のため、取得した画像データは、画像データの量を減らすと共に、更なる操作のための計算量およびメモリの消費を減らすために縮小してもよい。ただし、フリースペース検出装置１が高分解能の画像データを処理するための十分な計算能力とメモリ資源とを有する場合は、処理の精度を向上させることが可能である。
【００３２】
更に、カメラ１０の動きが検出され、カメラ１０が取得した画像データに動きベクトルが付与される。この目的のため、フリースペース検出装置１は、カメラ１０の動きベクトルを検出する動き検出器２０を備えてもよい。例えば、動き検出器２０は、全地球測位システム（ＧＰＳ）センサ、ジャイロスコープ、加速度センサ等を備えてもよい。カメラ１０の動きを検出する更なる手段も使用可能である。
【００３３】
あるいは、カメラ１０の動きが別のシステムによって既に判定されており、検出された動きの情報がフリースペース検出装置１に提供されることもあり得る。例えば、フリースペース検出装置１が車両の一部であり、この車両が既に車両の動きを検出または判定する手段を備える場合、この動きの情報がフリースペース検出装置１に提供されてもよい。例えば、車両が先進ドライバー支援システム（ＡＤＡＳ）、ナビゲーションシステム等を備えていてもよい。車両の動きに関する情報が既に利用可能な場合は、この情報がデジタルバスシステム、例えば、ＣＡＮバスを介して動き検出装置１に提供されてもよい。動きに関する情報をフリースペース検出装置１に提供する何らかの他の通信システムも使用可能である。これに加えて、カメラ１０が提供する画像データに基づいてカメラ１０の動きを検出することも可能である。この目的のため、画像ベースの動き検出のための何らかのアルゴリズムを使用してもよい。
【００３４】
カメラ１０の動きが動き検出器２０により検出された後、あるいは動きの情報を別の手段から受信した後、カメラ１０が提供する画像データに検出した動きに対応する動きベクトルが付与される。カメラの動きを検出する時間間隔が画像データを提供するカメラ１０のフレームレートと異なる場合、動きベクトルを画像データのフレームレートに適合させるために、動きベクトルの判定は、検出した動きを補間してもよい。画像データ、付与されたタイムスタンプおよび付与された動きベクトルは、変換手段３０に転送することができる。これに加えて、またはこれに代えて、カメラ１０からの画像データ、対応するタイムスタンプおよび動きベクトルをメモリ７０に記録してもよい。
【００３５】
次に、変換手段３０は、カメラ１０から画像データを受信する、および／またはメモリ７０から画像データを読み込む。変換手段３０は、所定の画像面に対して画像データの変換を実行する。例えば、画像データを地面に対応する画像面または地面に平行な画像面へと変換してもよい。所定の画像面は、地面に対して傾いている、および／またはカメラ１０の動きベクトルに対して直角の面に対して傾いている画像面に相当してもよい。
【００３６】
所定の画像面は、平らな画像面であってもよい。あるいは、画像データを湾曲した画像面へと変換することも可能である。例えば、かかる湾曲した画像面は、円筒形または球形の画像面であってもよい。湾曲した画像面は、凸状または凹状の画像面であってもよい。湾曲した画像面は、放物面状の画像面または他の湾曲した画像面を含んでもよい。
【００３７】
所定の画像面は、所定の一定の画像面であってもよく、この所定の画像面を、画像データの全ての変換に使用してもよい。あるいは、変換の基準とする画像面を変えてもよい。例えば、適切な画像面を一組の使用可能な画像面から選択してもよい。例えば、地面に対する画像面の傾きを変えてもよい。平らな画像面と湾曲した画像面から選択することも可能である。
【００３８】
画像データを変換するための所定の画像面の選択は、例えば、環境パラメータに基づいて実行してもよい。画像面の選択は、カメラ（またはカメラを備える車両）の速度、運転方向、交通状況等に基づいてもよい。例えば、速度が所定の閾値以下の場合は第１の画像面を使用してもよく、速度が所定の閾値を超える場合には第２の画像面を使用する。更には、カメラの環境において特定の所定地物、例えば交差点が検出された場合には、特定の画像面を選択してもよい。これに加えて、またはこれに代えて、画像データを変換するための画像面は、カメラ１０（またはカメラ１０を備える車両）の位置に応じて変えてもよい。例えば、ナビゲーションシステムを備える位置検出器、例えばＧＰＳまたはＡＤＡＳによってカメラの位置を検出してもよい。更には、画像変換のための画像面を変えたり適切な画像面を選択したりするためのパラメータも使用可能である。
【００３９】
かかる画像データの所定の画像面への変換を実行するため、何らかの従来の変換アルゴリズムを画像データに適用してもよい。かかる画像変換アルゴリズムは、周知の数学的モデルに基づくものであってもよい。ただし、取得した画像データを上方視点の画像データへと変換するために、新しい数学モデルおよび変換アルゴリズムも開発し得る。変換手段３０が所定の画像面に対して画像データを変換した後、変換済みの画像データは、メモリ７０に記録してもよく、更なる処理のために転送してもよい。
【００４０】
異なる時点に取得した画像データを比較するため、動き補償手段４０によって画像データの動きが補償される。動き補償手段４０は、２つの連続する画像間の時間差を、例えば、画像データに付与されたタイムスタンプに基づいて分析してもよい。この時間差に基づき、カメラ１０またはフリースペース検出装置１を含む車両の動きを計算することができる。画像データが変換される画像面が地面に平行である場合、変換済みの画像データは、計算した動きに従ってｘ方向およびｙ方向にシフトさせることができる。画像データが変換される画像面が地面に平行ではない場合、および／または画像面が湾曲している場合、動き補償を実行する際には画像面の向き／配置を考慮に入れる。動き補償を行った変換済みの画像データについても、メモリ７０に記録してもよく、画像データの更なる分析に供してもよい。
【００４１】
次に、計算手段５０は、異なる時点に取得された画像フレームに関係する変換済みの画像データ間の差を計算する。この目的のため、変換済みの画像データの画素素子間の差を計算する。画像データ間の差を計算するために使用される画像データは全て、同じ時点に対して動き補償を行ったものである。例えば、変換済みの第２の画像データが特定の時点に関係し、追加の第１の画像データが使用される場合、追加の画像データは、第２の画像データに付与されたタイムスタンプに対して動き補償手段４０が動き補償を行ったものである必要がある。加えて、各画素素子について、変換済みの第２の画像データと動き補償を行った変換済みの第１の画像データとの差の絶対値を計算してもよい。
【００４２】
計算された差分画像データ、特に計算された絶対差分画像データは、メモリ７０に記録してもよく、分割手段６０に転送してもよい。
【００４３】
分割手段６０は、計算された差分画像データ内の１つ以上の物体を識別するために、計算手段５０によって計算された差分画像データを分析する。例えば、分割手段６０は、計算された差分画像データの絶対値を所定の閾値と比較してもよい。計算された差分画像データに所定の閾値よりも大きい値を有する画素素子が存在する場合、画像データにおける対応する位置にある物体を識別するための基準としてこれらの素子を使用してもよい。例えば、所定の値よりも大きい差に関係する画像データにおける隣接する画素を結合し、共通の素子と見なしてもよい。これに加えて、画像分割、特に差分画像データに基づく画像分割のための何らかの他の方法またはアルゴリズムを使用することも可能である。
【００４４】
加えて、分割手段６０は、計算された差分画像データにおける識別された物体を分類してもよい。例えば、かかる分類は、フリースペース検出装置１の環境における固定した物体と動いている物体との違いを判別してもよい。検出された物体の分類は、例えば、差分画像データおよび／または所定の閾値よりも大きい値を有する領域の延長部分における絶対値に基づいてもよい。差分画像データにおける物体を識別および／または分類するための何らかの更なる方法も、使用可能である。
【００４５】
最後に、分割手段６０は、差分画像データにおいて識別された１つ以上の物体を規定する物体データを出力してもよい。例えば、分割手段６０は、位置、サイズおよび／または識別された物体の分類を含む物体リストを出力してもよい。識別された物体に関する何らかの更なる情報を提供することも可能である。識別された物体に関する情報は、メモリ７０に記録してもよく、更なる処理手段に直接転送してもよい。例えば、識別された物体を自動車環境モデル、例えば、デンプスターシェーファーグリッドに提供してもよい。フリースペース検出装置１の環境において識別された物体に関する情報は、例えば先進ドライバー支援システム、または何らかの他の装置においても使用し得る。
【００４６】
図２は、フリースペース検出装置１を備える先進ドライバー支援システム（ＡＤＡＳ）２を備える車両３を示す。車両３の環境においてフリースペース検出装置１により検出された１つ以上の物体に関する情報は、ＡＤＡＳ２が使用してもよい。例えば、環境において検出された物体に関する情報を、車両のドライバーに提示してもよい。これに代えて、またはこれに加えて、情報は、ＡＤＡＳ２において、車両の速度を変える、制動操作を開始する、あるいはＡＤＡＳ２の別の操作を開始するためにも使用し得る。
【００４７】
車両３の先進ドライバー支援システム２におけるフリースペース検出装置１に加えて、フリースペース検出装置１は、何らかの更なる動いている装置の環境における物体に関する情報を提供してもよい。例えば、かかる装置は、産業または医療分野の何らかの適切な装置であってもよい。
【００４８】
図３ａは、車両３のカメラ１０からの変換済みの画像データの図を示す。車両３の全環境をカバーするため、カメラ１０には複数の画像取得手段１１−ｉを採用してもよい。例えば、第１の画像取得手段が車両３の前部をカバーしてもよく、第２の画像取得手段が車両３の後部をカバーしてもよく、第３の及び第４の画像取得手段が車両３の左側部および右側部をカバーしてもよい。車両の環境をカバーするための画像取得手段１１−ｉの何らかの他の構成も使用可能である。
【００４９】
図３ｂは、異なる時点にカバーされた２つの画像フレームの画像データ間の差分画像データを図示する。なお、画像データは所定の画像面へと変換され、変換済みの画像データは、車両の動き３に起因する差を補償するために動き補償を行う。図３ｂの網掛け領域は、連続して取得し、動き補償を行った変換済みの画像データ間の差を図示する。
【００５０】
図３ｃは、所定の閾値よりも大きい絶対値を有する差分画像データの全ての部分を網掛け領域に示している。所定の閾値よりも大きい値を有する差分画像データにおける識別されたデータに基づき、画像データにおける物体を図３ｆに図示するように識別することができる。
【００５１】
図４は、更なる本発明の実施形態の基礎となるフリースペース検出方法のフローチャートを図示する。
【００５２】
第１のステップＳ１において、第１の時点に第１の画像データがカメラ１０より提供される。続いて、カメラ１０は、ステップＳ２において第２の画像データを提供する。好ましくは、カメラ１０は、一定の時間間隔での画像取得操作を実行するために所定の時間間隔で画像データを提供する。画像データを得るステップＳ１およびＳ２は更に、タイムスタンプを画像データに付与してもよい。そうすることで、画像取得時点が画像データの更なる処理時に容易に識別できるようになる。
【００５３】
加えて、更なるステップＳ３において、カメラ１０の動きの検出を実行する。かかる動きの検出は、例えば、別の装置によって実行することができる。あるいは、カメラ１０の検出は、カメラ１０を備えるプラットホームの動きを識別することによって実行することもできる。例えば、カメラ１０は、車両３に搭載されてもよく、車両の動き３は車両３の更なる装置、例えばナビゲーションシステムまたは先進ドライバー支援システム２によって判定される。この場合、カメラ１０の動きに対応する車両３の動きがかかる装置によって提供されてもよい。更に、動きは、カメラ１０が取得した画像データを分析することにより検出することもできる。動きを検出する時間間隔がカメラ１０のフレームレートと異なる場合、取得した画像データのフレームレートに動きを適合させるために検出された動きを補間してもよい。
【００５４】
カメラ１０が提供する第１の画像データと第２の画像データとは、ステップＳ４において所定の画像面に対して変換される。所定の画像面は、上記に既に概説した何らかの画像面とすることができる。画像データを変換するための画像面は、一定のものであっても、設定可能なものであってもよい。特に、画像面は、上記に既に概説したように調整してもよい。
【００５５】
ステップＳ５において、動きベクトルおよび第１の画像データと第２の画像データとを取得した時点の時間差に基づき、変換済みの第１の画像データの動き補償を実行する。例えば、第１の画像データに付与されたタイムスタンプと第２の画像データに付与されたタイムスタンプとの時間差を計算してもよい。この時間差に基づき、カメラの動き、特に所定の座標系に対する動きを算出してもよい。この動きに基づき、動き補償を行った変換済みの第２の画像データを得るために第２の画像データを適切にシフトさせる。
【００５６】
第１の画像データと第２の画像データとを変換し、動き補償を実行してマッチング用画像データを得た後、動き補償を行った変換済みの第１の画像データと変換済みの第２の画像データとの間の差分画像データがステップＳ６において計算される。加えて、差分画像データの絶対値を計算してもよい。
【００５７】
ステップＳ６において計算された差分画像データに基づき、ステップＳ７において物体が識別される。例えば、差分画像データにおける所定の閾値よりも大きい絶対値を有する領域が識別されてもよい。かかる所定の閾値よりも大きい絶対値を有する領域に基づき、差分画像データの分割を実行することができる。分割された差分画像データは、個々の物体または複数の物体を含む領域を識別するために分析することができる。
【００５８】
加えて、差分画像データにおいて識別された物体は、分類することができる。例えば、画像データ、特に変換済みの画像の差分画像データの特性パラメータに基づき、識別された物体の所定の特性を判定してもよく、かかる特性の１つ以上を識別された物体に付与してもよい。例えば、かかる分類は、環境において固定された物体と動いている物体とを区別してもよい。
【００５９】
フリースペース検出方法は、例えば、コンピューター装置上で実行されてもよい。この目的のため、上記に概説した方法を実行するように構成されたコンピュータープログラム製品が提供されてもよい。
【００６０】
よって、動き検出器２０、変換手段３０、動き補償手段４０、計算手段５０および／または分割手段６０は、フリースペース検出装置１の対応する手段を実現するのに適するコンピュータープログラムコードを実行するマイクロプロセッサによって実現してもよい。
【００６１】
結論として、本発明は、強化されたフリースペース検出を提供する。異なる時点に取得される連続する画像フレームは所定の、設定可能な画像面に対して変換される。画像フレームを取得する装置の動きが判定される。取得した画像データは、検出した動きに応じて動き補償を行う。変換済みの動き補償を行った画像データにおける差に基づき、効率的かつ信頼性の高い物体検出が達成可能である。
【図１】
0006751082.tif 000002
【図２】
0006751082.tif 000003
【図３Ａ】
0006751082.tif 000004
【図３Ｂ】
0006751082.tif 000005
【図３Ｃ】
0006751082.tif 000006
【図３Ｄ】
0006751082.tif 000007
【図４】
0006751082.tif 000008