(57)【特許請求の範囲】
【請求項１】
所定の間隔で配置された複数の固体撮像装置からそれぞれ出力された複数の画像間の物体像のずれから三角測量の原理を利用し、画像を水平方向及び垂直方向に複数に分割してなる矩形領域毎に物体までの距離を計測するステレオ画像測距法を用いた物体検出装置において、
矩形領域毎に計測した物体までの視差または距離情報の分布から、固体撮像素子で発生したスミアの水平位置を検出することを特徴とする物体検出装置におけるスミア誤検出除去方法。
【請求項２】
固体撮像素子で発生したスミアの水平位置を検出した後、前記水平位置の周辺矩形領域における視差または距離情報からスミアの原因となる物体の大きさを推測することで、スミアによる誤検出矩形領域を決定して除去することを特徴とする請求項１記載の物体検出装置におけるスミア誤検出除去方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、ステレオ画像測距法を用いた物体検出装置における、固体撮像素子のスミアによる誤検出の除去方法に関するものである。
【０００２】
【従来の技術】
ＣＣＤ等を用いた固体撮像装置を使用した物体検出装置においては、撮像画像中に発生するスミアを物体と誤って検出してしまうことが問題となっている。スミアとは、固体撮像装置で高輝度部分を有する物体を撮像した場合に、図４に示したように、撮像画像１中にその高輝度部分２を有する物体３の上下方向に薄く明るく帯状に発生する偽信号(スミア４)のことである。
【０００３】
従来、物体検出装置におけるスミア誤検出の除去は、撮像画像中に発生したスミアを取り除くことにより行われる。従来の撮像画像中のスミアを除去する方法としては、例えば、特公昭56-35067号公報に示されている。以下に、このスミア除去手法について説明する。
【０００４】
図５は、従来のスミア除去方法を示したもので、固体撮像装置５の撮像素子の最初の行あるいは最終行に光学的に黒画素となるラインを１行付加すると、付加したラインには撮像画像中に発生したスミア信号のみが存在することになり、このラインからスミアが発生した水平位置(以下、スミア発生位置という)とスミアレベル情報を得ることができる。そこで、固体撮像装置５の撮像画像を画像メモリ６に、スミアを検出するために付加したライン(以下、スミア検出ラインという)からのスミア信号をスミア信号メモリ７にそれぞれ記憶し、減算器８において画像メモリ６に記憶された撮像画像からスミア信号メモリ７に記憶されたスミア信号を一律に減算することによりスミアの除去を行う。
【０００５】
【発明が解決しようとする課題】
このように、従来の物体検出装置におけるスミア誤検出の除去は、固体撮像装置の撮像画像中に発生したスミアを取り除くことにより行われる。この場合、光学的黒画素を構成するスミア検出ラインを付加した固体撮像素子を用いなければならない。ところが、一般的に用いられている固体撮像装置の撮像素子にはスミア検出ラインが付いてないため、スミア検出を行うためにはスミア検出ラインを有する高価な固体撮像装置を使用しなければならないという問題があった。
【０００６】
また、スミア検出ラインが付いている固体撮像素子を用いてスミア発生位置とスミアレベルを検出しても、高輝度物体が高速で移動している場合にスミア発生位置がずれて検出されたり、ノイズの影響で正確なスミアレベルを検出できなかったりするため、スミアをきれいに除去できなかったり、実在する物体の画像に影響を与えてしまうという問題があった。
【０００７】
【課題を解決するための手段】
本発明は、このような問題点を解決するためになされたもので、画像を水平方向及び垂直方向に複数に分割してなる矩形領域毎に物体までの視差または距離を計測した後、スミア発生位置では各矩形領域での視差または距離が等しくなるという性質を利用し、矩形領域毎までの距離の分布からスミアの水平位置を検出するものである。
【０００８】
さらに、スミア発生位置の周辺において物体が存在するとして検出された矩形領域(以下、検出矩形領域という)の三次元情報から、スミアの原因となる高輝度部分を持つ物体の地面からの高さを推測して、スミア発生位置にある矩形領域の中で物体が存在しない矩形領域を決定しスミアによる誤検出を除去するものである。
【０００９】
従って、本発明によれば、第１に、物体検出を行うために算出した視差情報あるいは距離情報等の３次元情報を利用し、各矩形領域の３次元情報の分布からスミア発生位置を検出することで、スミア検出ラインのない一般的な固体撮像装置を用いてスミア発生位置の検出ができるようになる。
【００１０】
また、第２に、矩形領域単位でスミア発生位置検出と誤検出除去を行うので高輝度物体の高速移動によるスミア発生位置ずれの影響を低減でき、また３次元情報を用いた処理を行うので撮像画像中のノイズの影響を受けにくくなる。そのため、スミアによる誤検出の矩形領域だけを精度良く除去できるようになる。
【００１１】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。
図１は、本発明の一実施の形態における物体検出装置におけるスミア誤検出除去方法を示したものである。
【００１２】
左側の固体撮像装置９によって撮影された画像は、基準となる左画像10(図２参照)として左画像メモリ11に記憶される。また、光軸が固体撮像装置９の光軸と平行になるように配置された右側の撮像装置12によって撮影された画像は、右画像として右画像メモリ13に記憶される。
【００１３】
次に、対応付け処理部14について説明する。ただし、本発明は以下に説明する対応付け方法に限定されるものではない。対応付け方法の一例として、実吉他著「三次元画像認識技術を用いた運転支援システム」、自動車技術会学術講演会前刷924、pp.169−172(1992−10)に記載の方法について説明する。
【００１４】
先ず、左画像10を、水平方向(図２におけるＸ軸方向)にｍ、垂直方向(図２におけるＹ軸方向)にｎの合計(ｍ×ｎ)個の画素15からなる矩形領域16に分割する。これによって、左画像10には水平方向にＭ、垂直方向にＮの合計(Ｍ×Ｎ)個の矩形領域16ができる。
【００１５】
そして、上記左画像の矩形領域毎に、右画像中を順次探索し対応する領域を決定していく。具体的には、右画像の中で左画像10の矩形領域16の画像に類似する画像の存在する可能性のある探索範囲において、水平方向にｍ、垂直方向にｎの合計(ｍ×ｎ)個の画素からなる探索矩形領域を水平方向に１画素分移動させる毎に、左画像10の矩形領域16の画像と右画像の探索矩形領域の画像との類似度評価値Ｂを求める。
【００１６】
類似度評価値Ｂは、左画像10の矩形領域16中のｉ番目の画素における輝度を
Ｌi、右画像の探索矩形領域中のｉ番目の画素における輝度をＲiとしたとき、
（数１）によって求めることができる。
【００１７】
【数１】
0003693194.tif 000002
【００１８】
その結果、類似度評価値Ｂが最小になったときの右画像における探索矩形領域の位置を左画像10の矩形領域16に対応する領域(以下、対応領域という)と判定して、左画像10の矩形領域16の座標Ｘと右画像の対応領域の座標ＸRとのずれから視差ｄを(数２)によって求めて、出力する。
【００１９】
【数２】
ｄ＝Ｘ−ＸR
なお、左画像10の矩形領域16の画像と右画像の探索矩形領域の画像との類似度評価値Ｂを求めた上、左画像10の矩形領域16の座標Ｘと右画像の対応領域の座標ＸRとのずれから視差ｄを求める動作は、左画像10の全ての矩形領域16に対して順次行う。
【００２０】
そこで、距離計測部17は、以上のような対応付け処理によって左画像10の矩形領域16毎に得られた視差ｄに基づいて、固体撮像装置９あるいは固体撮像装置12から矩形領域16毎に計測されるカメラから物体までの光軸方向の距離Ｋ(Ｘ，Ｙ)[但し、０＜Ｘ≦Ｍ、０＜Ｙ≦Ｎ]を、一般的に知られる(数３)の式によって求めて、矩形領域16毎の距離を示す画像(以下、距離画像という)に変換して出力する。
【００２１】
【数３】
Ｋ(Ｘ，Ｙ)＝２ａｆ／ｄ
但し、２ａ：固体撮像装置９の光軸と固体撮像装置12の光軸との間隔
ｆ：固体撮像装置９及び固体撮像装置12のレンズの焦点距離
図３に距離画像の例を示す。図３の距離画像18は図４の撮像画像１から得られたものであり、色の濃い部分ほど物体が遠くにあることを表している。
【００２２】
平面推定部20は、距離計測部17から計測基準時刻ｔ0に出力された距離画像18において、計測できた矩形領域16の距離を用いて最小二乗法等の方法で撮像された平面の位置を推定し、距離計測できなかった矩形領域16の距離を補完した後、初期距離画像メモリ21へ初期距離画像として出力する。
【００２３】
また、距離計測部17から計測基準時刻ｔ0以降の計測時刻ｔ(ｔ＞ｔ0)に出力された距離画像は距離画像メモリ22に順次記憶する。
【００２４】
さらに、スミア検出部23は、距離画像メモリ22に記憶された距離画像において、各水平位置にあるＮ個の矩形領域の中でカメラからの距離がｋ(０＜ｋ≦ｋmax；ただし、ｋmaxは撮像画像中で最も遠い位置にある物体までの距離)となるものの個数Ｃkを順次数え、最大となるＣkを同じ距離にある矩形領域の最大個数
Ｃmaxとして求める。
【００２５】
図３に示すようにスミア発生位置19にある矩形領域では同じ距離が得られるので、同じ距離にある矩形領域の最大個数Ｃmaxと予め設定した閾値Ｃthを比較し、最大個数Ｃmaxが閾値Ｃthより大きい場合、当該水平位置にスミアが発生していると判定して、当該水平位置の情報をスミア発生位置19の情報としてスミア情報メモリ24に記憶する。また、最大個数Ｃmaxが得られた距離ｋの位置にスミアの原因となる物体が存在するので、当該距離ｋをスミア発生距離Ｋsとして、スミア発生位置19とともにスミア情報メモリ24に記憶する。なお、最大個数Ｃmaxを求め閾値Ｃthと比較する動作は、各水平位置で順次行う。
【００２６】
そして、物体検出部25は、初期距離画像メモリ21に記憶された初期距離画像における距離Ｋ0(Ｘ，Ｙ)と距離画像メモリ22に記憶された距離画像における距離Ｋ(Ｘ，Ｙ)を用いて、各矩形領域に撮像された物体の地面からの高さＨを(数４)で算出し、高さＨが閾値Ｈth以上になった矩形領域に物体が存在していると判断した上、検出矩形領域として物体の画像を出力する。
【００２７】
【数４】
Ｈ＝Ｈc×(１−Ｋ(Ｘ，Ｙ)／Ｋ0(Ｘ，Ｙ)）
但し、Ｈc：カメラ設置位置の地面からの高さ
また、この時、矩形領域16の水平位置とスミア情報メモリ24に記憶されたスミア発生位置19とを比較し、矩形領域16がスミア発生位置19にあると判定された場合、物体の検出とともにスミア誤検出の除去を行う。
【００２８】
スミア誤検出の除去は、先ず、距離画像メモリ22に記憶された距離画像中におけるスミア発生位置の左右両側にある検出矩形領域での距離Ｋ(Ｘ，Ｙ)とスミア情報メモリ24に記憶されたスミア発生距離Ｋsとを比較して、距離差｜Ｋ(Ｘ，Ｙ)−Ｋs｜が閾値以下になる検出矩形領域にスミアの原因となる物体が存在すると判定し、前記検出矩形領域の距離情報を利用してスミア発生位置に実在する物体の地面からの高さＨsを推定する。
【００２９】
スミア発生位置にある物体の地面からの高さを推定する方法の一例として、スミア発生位置の左右両側にある前記検出矩形領域の中で垂直位置が最も上にある矩形領域に撮像された物体の地面からの高さを(数４)によってそれぞれ求め、両者の平均をスミア発生位置の物体の高さＨsとする方法がある。
【００３０】
そして、スミア発生位置19に実在する物体の高さＨsを推測した後、物体検出のためにスミア発生位置の矩形領域に撮像された物体の地面からの高さＨを算出し、Ｈ＞Ｈsとなる矩形領域はスミアによる誤検出であると判断し、Ｈth≦ｈ≦ｈsとなる矩形領域のみを検出矩形領域として物体の画像を出力する。
【００３１】
【発明の効果】
以上説明したように、本発明によれば、物体検出を行うために求めた距離情報を利用し矩形領域毎の距離の分布からスミア発生位置を検出するので、スミア検出ラインのない安価な固体撮像装置を用いてスミア発生位置の検出ができる。
【００３２】
また、矩形領域単位でスミア発生位置検出と誤検出除去を行うので高輝度物体の高速移動によるスミア発生位置ずれの影響を低減でき、また、距離情報を用いた処理を行うので撮像画像中のノイズの影響を受けにくくなる。そのため、スミアによる誤検出の矩形領域だけを精度良く除去できるようになる。
【図面の簡単な説明】
【図１】本発明の一実施の形態におけるスミア誤検出除去方法の構成図である。
【図２】同実施の形態における左画像での矩形領域及び画素の関係を示す図である。
【図３】距離画像の例を示す図である。
【図４】スミアを説明する図である。
【図５】従来のスミア除去方法を示す図である。
【符号の説明】
１…撮像画像、  ２…高輝度部分、  ３…物体、  ４…スミア、  ５,９,12…固体撮像装置、  ６…画像メモリ、  ７…スミア信号メモリ、  ８…減算器、  10…左画像、  11…左画像メモリ、  13…右画像メモリ、  14…対応付け処理部、  15…画素、  16…矩形領域、  17…距離計測部、  18…距離画像、  19…スミア発生位置、  20…平面推定部、  21…初期距離画像メモリ、  22…距離画像メモリ、  23…スミア検出部、  24…スミア情報メモリ、  25…物体検出部、  26…物体検出画像。
【図１】
0003693194.tif 000003
【図２】
0003693194.tif 000004
【図３】
0003693194.tif 000005
【図４】
0003693194.tif 000006
【図５】
0003693194.tif 000007