(57)【要約】【課題】  自車両前方の状況を連続的に把握できる車両用距離画像データ生成装置を提供する。【解決手段】  自車両前方に所定周期でパルス光を投光する投光器７と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ８と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ９と、高速度カメラ８により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部１０と、を備え、画像処理部１０は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。【選択図】  図１
2009257982.tif 000002
【特許請求の範囲】
【請求項１】
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする車両用距離画像データ生成装置。
【請求項２】
請求項１に記載の車両用距離画像データ生成装置において、
前記距離画像データ生成手段は、前記撮像画像の各画素の輝度から前記フィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とすることを特徴とする車両用距離画像データ生成装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、車両用距離画像データ生成装置の技術分野に属する。
【背景技術】
【０００２】
特許文献１には、自車両前方を投光し、ターゲット距離から戻ってくる反射光のタイミングに合わせて撮像した画像に基づいて、当該ターゲット距離に障害物等の物体が存在するか否かを検出する技術が開示されている。
【特許文献１】米国特許第６７００１２３号明細書
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、上記従来技術にあっては、ターゲット距離以外の物体を検出できない。つまり、状況の把握が間欠的であり、自車両前方の状況を連続的に把握できないという問題があった。
【０００４】
本発明の目的は、自車両前方の状況を連続的に把握できる車両用距離画像データ生成装置を提供することにある。
【課題を解決するための手段】
【０００５】
上記目的を達成するため、本発明の車両用距離画像データ生成装置では、
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする。
【発明の効果】
【０００６】
よって、本発明にあっては、ターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成するため、自車両前方の状況を連続的に把握できる。
また、パルス光を投光せずに撮像したフィルタ画像に基づいて、各撮像画像における各画素の輝度を補正するため、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去できる。
【発明を実施するための最良の形態】
【０００７】
以下、本発明の車両用距離画像データ生成装置を実現するための最良の形態を、図面に基づく実施例により説明する。
【実施例１】
【０００８】
まず、構成を説明する。
図１は、本発明の車両用距離画像データ生成装置を適用した実施例１の障害物検出装置１の構成を示すブロック図であり、実施例１の障害物検出装置１は、距離画像データ生成装置２と、物体認識処理部３と、判断部４とを備えている。
【０００９】
距離画像データ生成装置２は、投光器（投光手段）５と、対物レンズ６と、光増倍部７と、高速度カメラ（撮像手段）８と、タイミングコントローラ（タイミング制御手段）９と、画像処理部（距離画像データ生成手段）１０とを備えている。
投光器５は、車両の前端部に配置した近赤外線LEDであり、タイミングコントローラ９から出力されるパルス信号に応じて、所定の投光時間tL（例えば、5ns）の間、パルス光を出力する。パルス信号の周期は、投光器５の投光周期tPであり、投光周期tPは、例えば、1/100s以下の間隔とする。
対物レンズ６は、物体からの反射光を受光するためのもので、投光器５と隣接配置している。例えば、自車両前方の所定範囲を撮像できる画角とするように設定された光学系である。
【００１０】
光倍増部７は、ゲート７ａとイメージインテンシファイア７ｂとを備えている。
ゲート７ａは、タイミングコントローラ９からの開閉指令信号に応じて開閉する。ここで、実施例１では、ゲート７ａの開時間（ゲート時間）tGを、投光時間tLと同じ5nsとしている。ここで、ゲート時間tGは、撮像エリア（ターゲット距離）の撮像対象幅に相当し、ゲート時間tGを長くするほど撮像エリアの撮像対象幅は長くなる。実施例１では、ゲート時間tG=5nsとしているため、撮像対象幅は、光速度（約3×108m/s）×ゲート時間(5ns)から、1.5mとなる。
【００１１】
イメージインテンシファイア７ｂは、極微弱な光（物体からの反射光等）を一旦電子に変換して電気的に増幅し、再度蛍光像に戻すことで光量を倍増してコントラストのついた像を見るデバイスである。イメージインテンシファイア７ｂの光電面より光電現象によって打ち出された光電子はkVオーダーの高電圧で加速され、陽極側の蛍光面に打ち込まれることにより、100倍以上の光子数の蛍光を発する。蛍光面で発生した蛍光は、ファイバオプティックプレートにより、そのままの位置関係を保ったまま散乱されることなく高速度カメラ８のイメージセンサに導かれる。
高速度カメラ８は、タイミングコントローラ９からの指令信号に応じて、光倍増部７から発せられた像を撮像し、撮像画像（カラー画像）を画像処理部１０へ出力する。実施例１では、解像度640×480（横：縦）、輝度値1〜255(256段階)、100fps以上のカメラを用いている。
【００１２】
タイミングコントローラ９は、高速度カメラ８により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、投光器５の投光開始時点からゲート７ａを開くまでの時間であるディレイ時間tDを設定し、ディレイ時間に応じた開閉指令信号を出力することで、撮像タイミングを制御する。つまり、ディレイ時間tDは、自車両から撮像エリアまでの距離（撮像対象距離）を決める値であり、ディレイ時間tDと撮像対象距離との関係は、以下の式となる。
撮像対象距離＝光速度（約3×108m/s）×ディレイ時間tD/2
図２に、１つの撮像エリアを撮像する際の、投光器５の動作（投光動作）とゲート７ａの動作（カメラゲート動作）との時間的な関係を示す。
【００１３】
タイミングコントローラ９は、撮像エリアが車両手前側から先方へと連続的に移動するように、ディレイ時間tDを所定間隔（例えば、10ns）ずつ長くすることで、高速度カメラ８の撮像範囲を車両前方側へ変化させる。なお、タイミングコントローラ９は、ゲート７ａが開く直前に高速度カメラ８の撮像動作を開始させ、ゲート７ａが完全に閉じた後に撮像動作を終了させる。
【００１４】
また、実施例１では、図３に示すように、撮像対象距離をB1→B2→B3→…と連続的に変化させながら撮像する際、撮像エリアの撮像対象幅Aよりも撮像対象距離の増加量（B2-B1）を短くすることで、撮像エリアの一部がオーバーラップしながら変化するように撮像対象距離の増加量を設定している。
【００１５】
図４は、撮像対象距離の増加量を極限まで小さくした場合、言い換えると、撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図であり、撮像エリアの一部をオーバーラップさせることで、連続する複数の撮像画像における同一画素の輝度値は、徐々に増加し、ピーク後は徐々に小さくなる特性となる。なお、実際には撮像エリアは有限個（１〜n）であるが、連続する撮像エリアの一部をオーバーラップさせることで、時間的な輝度変化は図４の特性に近くなる。
【００１６】
タイミングコントローラ９は、１フレーム分、すなわち、設定された所定範囲（エリア１、エリア２、…、エリアn）の撮像画像が全て撮像された場合、画像処理部１０に対し画像処理指令信号を出力する。
ここで、タイミングコントローラ９は、１フレーム分の撮像画像を撮像する前、すなわちエリア１を撮像する前に、投光器５による投光を行わずに自車両前方を撮像し、当該画像を外乱光ノイズ除去用のフィルタ画像として画像処理部１０へ出力する。
【００１７】
画像処理部１０は、高速度カメラ８により撮像された１フレーム分の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成し、生成した距離画像データを物体認識処理部３へ出力する。実施例１では、各撮像画像から街灯などのよる外乱光の影響を除去するために、フィルタ画像を用いて各撮像画像の輝度を補正する。この補正は、距離画像データを生成する前に行う。
【００１８】
物体認識処理部３は、距離画像データに含まれる物体を特定する。物体の特定方法は、パターンマッチング等、周知の技術を用いることができる。
判断部４は、物体認識処理部３により特定された物体（人、自動車、標識等）と自車両との関係（距離、相対速度等）に基づいて、警報等による運転者への情報提示、自動ブレーキ等の車両制御の要否を判断する。
【００１９】
［距離画像データ生成制御処理］
図５は、実施例１の画像処理部１０で実行される距離画像データ生成制御処理の流れを示すフローチャートで、以下、各ステップについて説明する。なお、この処理は、所定の演算周期で繰り返し実行される。
【００２０】
ステップS1では、投光器５による投光を行わずに自車両前方を撮像した撮像画像、すなわちフィルタ画像の最も輝度の低い輝度値データを最小値データとして記憶し、ステップS2へ移行する。
【００２１】
ステップS2では、撮像画像を入力し、ステップS3へと移行する。
【００２２】
ステップS3では、フィルタ画像に基づいて撮像画像の外乱光ノイズを除去し、ステップS4へ移行する。
具体的には、撮像画像の各画素の輝度値データからフィルタ画像の対応する画素の輝度値データを減算した値を当該画素の輝度値データとする。
【００２３】
ステップS4では、ステップS1で記憶した最小値データと、ステップS2で入力した撮像画像の各画素の輝度値データのうち最も低い輝度値データとを比較し、当該輝度値データが最小値データよりも低いか否かを判定する。YESの場合にはステップS5へ移行し、NOの場合にはステップS6へ移行する。
【００２４】
ステップS5では、最小値データよりも低い輝度値データを新たな最小値データとして記憶し、ステップS6へ移行する。
【００２５】
ステップS6では、画素毎に輝度値データと最小値データとの差分を取り、当該画素における現在のデータとし、ステップS7へ移行する。
【００２６】
ステップS7では、１フレーム分（エリア１、エリア２、…、エリアn）の画像入力が終了したか否かを判定する。YESの場合にはステップステップS8へ移行し、NOの場合にはステップS2へ移行する。
【００２７】
ステップS8では、n個の撮像画像の同一画素の輝度値データを比較し、最も値の高い輝度値データと対応する撮像画像のフレーム番号（ディレイ時間tD）から距離画像データを生成し、リターンへ移行する。
【００２８】
次に、作用を説明する。
［距離画像データ生成作用］
タイミングコントローラ９は、高速度カメラ８により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、ディレイ時間tDを設定し、高速度カメラ８の撮像タイミングを制御する。狙った撮像エリアに物体が存在している場合、投光器５から出射された光が撮像エリアから戻ってくる時間は、自車両と撮像エリアまでの距離（撮像対象距離）を光が往復する時間となるため、ディレイ時間tDは、撮像対象距離と光速度から求めることができる。
【００２９】
上記方法で得られた高速度カメラ８の撮像画像において、撮像エリアに物体が存在する場合、当該物体の位置に対応する画素の輝度値データは、反射光の影響を受け、他の画素の輝度値データよりも高い値を示す。これにより、各画素の輝度値データに基づいて、狙った撮像エリアに存在する物体との距離を求めることができる。
【００３０】
さらに、実施例１では、ディレイ時間tDを変化させながら撮像エリア１〜nの撮像画像を取得する。続いて、各撮像画像における同一画素の輝度値データを比較し、最も高い輝度値データを当該画素の距離とし、全ての画素(640×480)の距離データ（距離画像データ）を生成する。
【００３１】
従来のレーザレーダやステレオカメラを用いた距離検出方法では、雨、霧や雪などの影響を受けやすく、信号レベルに対するノイズレベルが大きくなる（SN比が小さい）ため、悪天候時の信頼性が低い。なお、悪天候の影響を受けにくいミリ波レーダを用いた場合、距離検出の信頼性は高くなるが、ミリ波レーダの信号から物体認識（物体の特定）を行うのは困難であり、別途カメラ画像が必要となる。そして、悪天候時にはカメラ画像が不明瞭となるため、正確な物体認識を行うことは困難である。
【００３２】
これに対し、実施例１では、狙った撮像エリアから帰ってくる反射波のみを撮像画像に反映させるため、雨、霧や雪などの影響により屈曲した光、すなわち、ノイズの混入レベルを低く抑え、高いSN比を得ることができる。つまり、悪天候や夜間にかかわらず、高い距離検出精度を得ることができる。
そして、生成された距離画像データにより、全ての画素の距離が分かるため、その後パターンマッチング等の手法を用いて物体認識を行う場合、物体との距離を瞬時に把握できる。
【００３３】
さらに、実施例１では、撮像エリアを連続的に変化させて複数の撮像画像を取得し、各撮像画像を比較して各画素の距離を検出しているため、自車両前方の状況を連続的に、かつ、広範囲に亘って把握できる。例えば、自車両と先行車両との間に歩行者が飛び出してきた状況であっても、先行車と歩行者の距離をそれぞれ同時に把握でき、警報による運転者への情報提示や自動ブレーキ等の車両制御を行うことが可能である。
【００３４】
図６は、自車両前方の異なる位置に４人の歩行者A〜Dが存在している状況を示し、自車両と各歩行者との距離の関係は、A<B<C<Dとする。
このとき、実施例１では、１つの物体からの反射光が連続する複数の撮像エリアにおける撮像画像の画素に反映されるように、撮像エリアの一部をオーバーラップさせている。このため、各歩行者に対応する画素の時間的な輝度変化は、図７に示すように、歩行者の位置でピークを取る三角形の特性を示す。
【００３５】
なお、距離画像データは、警報や車両制御に用いるデータであるため、ある程度の演算速度が要求される以上、撮像エリアを無限に細かく設定することは時間的に不可能であるが、１つの物体からの反射光が複数の撮像画像の含まれるようにすることで、図８に示すように、画素の時間的な輝度変化を上記特性に近似させ、三角形部分のピークと対応する撮像エリアを、当該画素における物体の距離とすることで、検出精度を高めることができる。
【００３６】
［走行環境に応じた撮像時間設定作用］
実施例１では、自車両前方の所定範囲を複数（n個）の撮像エリアに分割し、各撮像エリアの撮像画像を１つのフレームとして距離画像データを生成している。距離画像データは、障害物警報や車両制御に用いられるため、１フレームの長さ（フレームレート）は出来るだけ短い方が好ましい。
一方、各撮像エリアの撮像対象幅（撮像時間）は、短くするほど距離画像データにおける画素毎の物体までの距離は、より実際の値に近づく。すなわち、撮像対象幅が短いほど距離分解能を高めることができる。
【００３７】
ところが、画像処理部１０の演算処理能力、高速度カメラ８やゲート７ａの性能により、１フレームあたりの撮影回数には限界があるため、フレームレートと撮影回数による距離分解能とのトレードオフが問題となる。つまり、フレームレートの短縮を優先した場合、撮影回数を少なくせざるを得ず、距離分解能の低下を招く。逆に、撮影回数増を優先した場合、１フレームを長くせざるを得ず、各種制御の応答性悪化を招く。
【００３８】
これに対し、実施例１では、各撮像エリアの撮像対象幅を均等に分割するのではなく、走行環境に応じて各撮像エリアのうち距離分解能が高いエリアと距離分解能が低いエリアとを設定している。すなわち、高い距離分解能が必要な撮像エリアは、走行環境に応じて一部のエリアに限られる。さらに言えば、高い距離分解能が要求されるのは、運転者の前方注視点と対応する撮像エリアである。
【００３９】
そこで、実施例１では、車速や障害物（物体）等の走行環境に応じて、運転者の前方注視点がどの撮像エリアにあるのかを判断し、前方注視点のある撮像エリアのみ、またはその前後のエリアのみ分解能を高め、他のエリアは分解能を低くすることで、フレームレートと距離分解能との両立を図ることができる。
【００４０】
［外乱光ノイズ除去作用］
図９は、図６に示した歩行者A〜Dに加えて、車両前方に点灯した街灯Eが存在する状態を示している。街灯Eの位置は、歩行者Cよりも遠く、かつ、歩行者Dよりも近い位置とする。
【００４１】
この状態で歩行者Aの存在する撮像エリアを撮像したとき、その撮像画像には、図１０に示すように、街灯Eの発する光Fが反映されている。つまり、自車両前方に街灯等の発光体が存在する場合、または対向車線の車両がライトを点灯している場合など、自車両前方に発光体が存在する場合、これらの発する外乱光の影響を受けて対応する画素の輝度値が高くなってしまう。すなわち、撮像画像に反射光以外の外乱光ノイズがのってしまうため、これら外乱光ノイズがのった各撮像画像から各画素の物体までの距離を生成すると、物体の距離を正確に検出できない。
【００４２】
これに対し、実施例１では、図１１に示すように、タイミングコントローラ９において、１フレーム分の撮像画像を撮像する前、すなわちエリア１を撮像する前に、投光器５による投光を行わずに自車両前方を撮像し、当該画像（図１１の#0画像）を外乱光ノイズ除去用のフィルタ画像として画像処理部１０に出力する。
【００４３】
画像処理部１０では、各撮像画像（#1,#2,#3,#4,…#n）の各画素の輝度値データからフィルタ画像#0の対応する画素の輝度値データを減算した画像（#1',#2',#3',#4',…#n'）を最終的な撮像画像とし、各画像（#1',#2',#3',#4',…#n'）に基づいて距離画像データを生成する。
【００４４】
例えば、図９のシーンで投光器５により投光を行わずに自車両前方を撮像した場合、図１２に示すように、街灯Eの発する光Fのみが反映された画像が得られる。よって、各撮像画像における各画素の輝度値からフィルタ画像における対応する画素の輝度値を減算することで、各画素の輝度値は、街灯Eの発する光の影響を除いた値、すなわち、投光器５の反射光のみが反映された値となる。
【００４５】
図１３は上記外乱光ノイズ除去を行った歩行者Aの存在する撮像エリアの撮像画像であり、この撮像画像には、街灯Eの点灯に伴う外乱光ノイズが除去され、歩行者Aの反射光のみが反映されているのがわかる。
【００４６】
次に、効果を説明する。
実施例１の距離画像データ生成装置２にあっては、以下に列挙する効果を奏する。
【００４７】
(1) 自車両前方に所定周期でパルス光を投光する投光器７と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ８と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ９と、高速度カメラ８により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部１０と、を備え、画像処理部１０は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。これにより、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去でき、距離画像データにおける画素毎の物体までの距離を正確に検出できる。
【００４８】
82) 画像処理部１０は、撮像画像の各画素の輝度からフィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とするため、各撮像画像から外乱光によるノイズ成分を確実に除去できる。
【００４９】
（他の実施例）
以上、本発明を実施するための最良の形態を、実施例に基づき説明したが、本発明の具体的な構成については、実施例の構成に限らず、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計変更や追加等は許容される。
【００５０】
例えば、投光周期、投光時間、ゲート時間、撮像対象幅、撮像対象距離の変化量、１フレーム中の撮像エリア数は、撮像手段の性能や距離画像データ生成手段の性能に応じて適宜設定することができる。
【図面の簡単な説明】
【００５１】
【図１】実施例１の障害物検出装置１の構成を示すブロック図である。
【図２】１つの撮像エリアを撮像する際の、投光器５の動作（投光動作）とゲート７ａの動作（カメラゲート動作）との時間的な関係を示す図である。
【図３】撮像エリアの一部がオーバーラップする状態を示す図である。
【図４】撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図である。
【図５】実施例１の画像処理部１０で実行される距離画像データ生成制御処理の流れを示すフローチャートである。
【図６】自車両前方の異なる位置に４人の歩行者A〜Dが存在している状況を示す図である。
【図７】各歩行者A〜Bに対応する画素の時間的な輝度変化を示す模式図である。
【図８】実施例１の距離画像データ生成作用を示す図である。
【図９】自車両前方の異なる位置に４人の歩行者A〜Dと街灯Eが存在している状況を示す図である。
【図１０】歩行者Aが存在する撮像エリアにおける撮像画像に他の撮像エリアに存在する街灯Eの発する光Fが反映さえた状態を示す図である。
【図１１】実施例１のノイズ除去方法を示す図である。
【図１２】フィルタ画像の一例である。
【図１３】実施例１のノイズ除去作用を示す図である。
【符号の説明】
【００５２】
１  障害物検出装置
２  距離画像データ生成装置
３  物体認識処理部
４  判断部
５  投光器（投光手段）
６  対物レンズ
７  光増倍部
７ａ  ゲート
７ｂ  イメージインテンシファイア
８  高速度カメラ（撮像手段）
９  タイミングコントローラ（タイミング制御手段）
１０  画像処理部（距離画像データ生成手段）
【図１】
2009257982.tif 000003
【図２】
2009257982.tif 000004
【図３】
2009257982.tif 000005
【図４】
2009257982.tif 000006
【図５】
2009257982.tif 000007
【図６】
2009257982.tif 000008
【図７】
2009257982.tif 000009
【図８】
2009257982.tif 000010
【図９】
2009257982.tif 000011
【図１０】
2009257982.tif 000012
【図１１】
2009257982.tif 000013
【図１２】
2009257982.tif 000014
【図１３】
2009257982.tif 000015