(57)【要約】【課題】本発明は、広角画像であっても画像上の位置に関係なく物体を高精度に検出することができる物体検出装置を提供することを課題とする。【解決手段】撮像手段で撮像された画像から物体を検出する物体検出装置であって、画像内での物体の形状に基づいて物体を検出する第１物体検出手段と、異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第２物体検出手段と、画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段による物体検出方法を変更する制御手段とを備えることを特徴とし、画像中心との横方向の位置の偏差あるいは画像上の各位置でのオプティカルフローの大きさに基づいて第１物体検出手段による物体検出を行う検出領域と第２物体検出手段による物体検出を行う検出領域を設定し、検出領域に応じて第１物体検出手段と第２物体検出手段とを切り替えると好適である。【選択図】図６
2010250541.tif 000002
【特許請求の範囲】
【請求項１】
撮像手段で撮像された画像から物体を検出する物体検出装置であって、
画像内での物体の形状に基づいて物体を検出する第１物体検出手段と、
異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第２物体検出手段と、
画像上の横方向の位置に応じて前記第１物体検出手段と前記第２物体検出手段による物体検出方法を変更する制御手段と
を備えることを特徴とする物体検出装置。
【請求項２】
前記制御手段は、画像上の横方向の位置に応じて前記第１物体検出手段と前記第２物体検出手段とを切り替えることを特徴とする請求項１に記載する物体検出装置。
【請求項３】
前記制御手段は、画像中心との横方向の位置の偏差が閾値より小さい領域については第１物体検出手段による物体検出を行う検出領域を設定し、画像中心との横方向の位置の偏差が閾値より大きい領域については第２物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項２に記載する物体検出装置。
【請求項４】
前記制御手段は、画像全域に対してオプティカルフロー処理を行い、画像上の各位置でのオプティカルフローの大きさに応じて前記第１物体検出手段による物体検出を行う検出領域と前記第２物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項２に記載する物体検出装置。
【請求項５】
前記撮像手段は、移動体に搭載され、
前記制御手段は、前記移動体の旋回状態に応じて前記第１物体検出手段による物体検出を行う検出領域と前記第２物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項２に記載する物体検出装置。
【請求項６】
前記制御手段は、画像上の横方向の位置に応じて前記第１物体検出手段による物体検出の寄与度と前記第２物体検出手段による物体検出の寄与度を設定することを特徴とする請求項１に記載する物体検出装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像手段で撮像された画像から物体を検出する物体検出装置に関する。
【背景技術】
【０００２】
物体を検出する場合、カメラで撮像した画像に基づいて物体を検出する方法が各種提案されている。画像を用いた物体検出では、単一のカメラで幅広い領域をカバーするために、広角カメラを利用する場合がある。特許文献１に記載の装置では、広角カメラによって異なる時刻にそれぞれ撮像された画像を用いてブロックマッチング法（オプティカルフロー）によって移動体を検出する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００８−２３８９２７号公報
【特許文献２】特開２００６−８０７６１号公報
【特許文献３】特開２００８−２７６３０８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
オプティカルフローは、時間的に連続する画像列から画像内の各位置（画素、領域）での速度場を求め、画像内の物体の動きをベクトルで表したものである。そのため、オプティカルフローを利用して物体を検出する場合、画像上で物体の動きが表れないと検出ができない。しかし、広角カメラで撮像した広角画像の場合、中心付近では撮像空間の大きさに比べて画像内での領域が小さくなる。そのため、画像中心付近では、画像上での移動量が小さくなり、オプティカルフローによる物体検出が困難となる。
【０００５】
画像による物体検出方法としては、オプティカルフローを利用した方法以外に、パターン認識（パターンマッチング）が考えられる。しかし、広角画像の場合、画像の周辺付近では歪みが大きくなる。そのため、画像周辺部では、物体の形状が変化し、精度良くパターンマッチングを行えない。
【０００６】
そこで、本発明は、広角画像であっても画像上の位置に関係なく物体を高精度に検出することができる物体検出装置を提供することを課題とする。
【課題を解決するための手段】
【０００７】
本発明に係る物体検出装置は、撮像手段で撮像された画像から物体を検出する物体検出装置であって、画像内での物体の形状に基づいて物体を検出する第１物体検出手段と、異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第２物体検出手段と、画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段による物体検出方法を変更する制御手段とを備えることを特徴とする。
【０００８】
この物体検出装置では、制御手段により画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段による物体検出方法を変更する。そして、物体検出装置では、その物体検出方法に従って、画像上の横方向の位置に応じて、第１物体検出手段又は第２物体検出手段を用いて物体を検出するかあるいは第１物体検出手段及び第２物体検出手段を用いて物体を検出する。これによって、画像上で物体の動きが出難い領域では物体の形状を利用して物体検出を行う第１物体検出手段を重視して物体検出を行うことができ、画像上での歪みが大きい領域では物体の移動量を利用して物体検出を行う第２物体検出手段を重視して物体検出を行うことができる。このように、物体検出装置では、画像の横方向の位置に応じて２つの物体検出手段による物体検出方法を変更することにより、画像全域で物体を高精度に検出することができ、特に、画像に歪みなどが出る広角画像であっても画像全域で物体を高精度に検出することができる。
【０００９】
本発明の上記物体検出装置では、制御手段は、画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段とを切り替えると好適である。この物体検出装置では、画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段とを切り替えるだけなので、簡単に物体検出方法を変更できる。
【００１０】
本発明の上記物体検出装置では、制御手段は、画像中心との横方向の位置の偏差が閾値より小さい領域については第１物体検出手段による物体検出を行う検出領域を設定し、画像中心との横方向の位置の偏差が閾値より大きい領域については第２物体検出手段による物体検出を行う検出領域を設定すると好適である。
【００１１】
広角画像の場合、画像中心部では撮像空間の大きさのわりには画像上の領域が小さくなくなるので、画像上の物体の移動量が小さくなる。そこで、物体検出装置では、画像中心との横方向の位置の偏差が閾値より小さい領域については第１物体検出手段による物体検出を行う検出領域を設定し、画像中心部の領域では第１物体検出手段に切り替えて画像内での物体の形状に基づいて物体を検出する。一方、広角画像の場合、画像周辺部では大きく歪むので、画像上の物体の形状が変化する。そこで、物体検出装置では、画像中心との横方向の位置の偏差が閾値より大きい領域については第２物体検出手段による物体検出を行う検出領域を設定し、画像周辺部の領域では第２物体検出手段に切り替えて画像内での物体の移動量に基づいて物体を検出する。このように、この物体検出装置では、画像中心からの横方向の位置に応じて検出領域を設定することにより、第１物体検出手段の検出領域と第２物体検出手段の検出領域を精度良く設定でき、画像中心部と画像周辺部にそれぞれ適した方法で物体検出を行うことができる。
【００１２】
本発明の上記物体検出装置では、制御手段は、画像全域に対してオプティカルフロー処理を行い、画像上の各位置でのオプティカルフローの大きさに応じて第１物体検出手段による物体検出を行う検出領域と第２物体検出手段による物体検出を行う検出領域を設定すると好適である。
【００１３】
広角画像の場合、上記したように、画像中心部では画像上の移動量が小さくなるので、画像の移動量を利用した第２物体検出手段による物体検出には不向きである。そこで、物体検出装置では、画像上の各位置でのオプティカルフローの大きさ（画像上の移動量に相当）に応じて第１物体検出手段による物体検出を行う検出領域と第２物体検出手段による物体検出を行う検出領域をそれぞれ設定する。このように、この物体検出装置では、画像上の各位置での実際のオプティカルフローを利用して検出領域を設定することにより、第１物体検出手段の検出領域と第２物体検出手段の検出領域を精度良く設定できる。
【００１４】
本発明の上記物体検出装置では、撮像手段は、移動体に搭載され、制御手段は、移動体の旋回状態に応じて第１物体検出手段による物体検出を行う検出領域と第２物体検出手段による物体検出を行う検出領域を設定すると好適である。
【００１５】
撮像手段を搭載した移動体の進行方向が左右にずれると、広角画像における画像上の移動量が小さくなる領域も左右にずれる。そこで、この物体検出装置では、移動体の旋回状態に応じて第１物体検出手段による物体検出を行う検出領域と第２物体検出手段による物体検出を行う検出領域を設定する。このように、この物体検出装置では、撮像手段を搭載した移動体の旋回状態（進行方向）に応じて検出領域を設定することにより、第１物体検出手段の検出領域と第２物体検出手段の検出領域を精度良く設定できる。
【００１６】
本発明の上記物体検出装置では、制御手段は、画像上の横方向の位置に応じて第１物体検出手段による物体検出の寄与度と第２物体検出手段による物体検出の寄与度を設定すると好適である。この物体検出装置では、画像上の横方向の位置に応じて第１物体検出手段と第２物体検出手段の物体検出における各寄与度（物体検出で重視する度合い）を変えることにより、画像全域で物体をより高精度に検出することができる。
【発明の効果】
【００１７】
本発明によれば、画像の横方向の位置に応じて２つの物体検出手段による物体検出方法を変更することにより、画像全域で物体を高精度に検出することができ、特に、広角画像であっても画像全域で物体を高精度に検出することができる。
【図面の簡単な説明】
【００１８】
【図１】第１の実施の形態に係る周辺監視装置の構成図である。
【図２】後方用のカメラで撮像した画像の一例である。
【図３】図２の画像におけるパターン認識検出領域の画像である。
【図４】図２の画像におけるオプティカルフロー検出領域の画像である。
【図５】車両旋回時に後方用のカメラで撮像した画像の一例である。
【図６】図１のＥＣＵにおける処理の流れを示すフローチャートである。
【図７】第２の実施の形態に係る周辺監視装置の構成図である。
【図８】後方用のカメラで撮像した画像の一例であり、その撮像画像にオプティカルフローを示した画像である。
【図９】図７のＥＣＵにおける処理の流れを示すフローチャートである。
【発明を実施するための形態】
【００１９】
以下、図面を参照して、本発明に係る物体検出装置の実施の形態を説明する。なお、各図において同一又は相当する要素については同一の符号を付し、重複する説明を省略する。
【００２０】
本実施の形態では、本発明に係る物体検出装置を、車両に搭載される周辺監視装置に適用する。本実施の形態に係る周辺監視装置は、自車両周辺の障害物（例えば、他車両、自転車、歩行者、落下物など）を検出し、その検出した障害物情報を運転支援装置（衝突防止装置、駐車支援装置など）に出力あるいは音声や表示によって運転者に提供する。本実施の形態には、２つの形態があり、第１の実施の形態が画像の横方向の位置に応じて検出領域を設定する形態であり、第２の実施の形態がオプティカルフローの大きさに応じて検出領域を設定する形態である。なお、自車両からの検出方向としては、自車両の全方向とするが、自車両の特定の方向だけでもよい。
【００２１】
図１〜図５を参照して、第１の実施の形態に係る周辺監視装置１について説明する。図１は、第１の実施の形態に係る周辺監視装置の構成図である。図２は、後方用のカメラで撮像した画像の一例である。図３は、図２の画像におけるパターン認識検出領域の画像である。図４は、図２の画像におけるオプティカルフロー検出領域の画像である。図５は、車両旋回時に後方用のカメラで撮像した画像の一例である。
【００２２】
周辺監視装置１は、広角画像からパターン認識処理とオプティカルフロー処理を利用して障害物を検出する。特に、周辺監視装置１は、画像中心部にパターン認識処理用の検出領域を設定し、画像周辺部にオプティカルフロー処理用の検出領域を設定する。周辺監視装置１は、カメラ３、操舵角センサ４及びＥＣＵ[Electronic Control Unit]１０を備えている。
【００２３】
なお、第１の実施の形態では、カメラ３が特許請求の範囲に記載する撮像手段に相当し、ＥＣＵ１０における各処理が特許請求の範囲に記載する第１物体検出手段、第２物体検出手段及び制御手段に相当する。
【００２４】
カメラ３は、自車両の周辺を撮像するカメラであり、画角の広い広角カメラである。自車両の周辺全域の画像を取得するために、カメラ３は、自車両の複数の所定の箇所（例えば、前方、後方、右側方、左側方）にそれぞれ取り付けられる。各カメラ３では、一定時間毎に、各方向を広角で撮像し、その撮像した広角画像を画像信号としてＥＣＵ１０に送信する。
【００２５】
図２には、自車両の後方に取り付けられたカメラ３で、駐車場内を撮像した画像の一例を示している。この画像には、駐車されている複数台の車両と人などが写っている。また、この画像は、広角カメラで撮像された画像であるので、画像の周辺では歪が大きく、車両などが変形している。
【００２６】
操舵角センサ４は、自車両のハンドルの操舵角を検出するセンサである。操舵角センサ４では、一定時間毎に、操舵角を検出し、その操舵角を操舵角信号としてＥＣＵ１０に送信する。
【００２７】
ＥＣＵ１０は、ＣＰＵ[CentralProcessing Unit]、ＲＯＭ[Read Only Memory]、ＲＡＭ[RandomAccess Memory]及び画像処理チップなどからなる電子制御ユニットであり、周辺監視装置１を統括制御する。ＥＣＵ１０では、一定時間毎に、カメラ３からの画像信号及び操舵角センサ４からの操舵角信号を取り入れ、広角画像などを時系列で記憶する。そして、ＥＣＵ１０では、これらの情報を用いて障害物情報を検出するための処理を行い、検出した障害物情報（例えば、位置、移動方向、移動速度）を運転支援装置に出力あるいは運転者に提供する。
【００２８】
ＥＣＵ１０では、操舵角に基づいて、自車両が直進しているかあるいは旋回しているかを判定する。直進と判定した場合、ＥＣＵ１０では、広角画像Ｉの画像中心を中心とした矩形領域をパターン認識検出領域ＰＡとして設定し、それ以外の周辺領域をオプティカルフロー検出領域ＯＡとして設定する（図２〜図４参照）。
【００２９】
一方、旋回と判定した場合、ＥＣＵ１０では、操舵角に基づいて、旋回している自車両の進行方向の中心の延長線上に対応する広角画像Ｉ上の位置Ｃ（画像中心から横方向に移動させた位置）を算出する（図５参照）。図５には、広角画像Ｉの各位置でのオプティカルフロー（矢印）も示しており、位置Ｃ（旋回時の進行方向の中心）に近いほど、オプティカルフローの大きさが小さく（すなわち、画像上での移動量が小さく）なっている。ＥＣＵ１０では、広角画像Ｉの位置Ｃを中心とした矩形領域をパターン認識検出領域ＰＡとして設定し、それ以外の周辺領域をオプティカルフロー検出領域ＯＡとして設定する(図５参照)。このパターン認識検出領域ＰＡの大きさや形状は、直進のときのパターン認識検出領域ＰＡと同一である。したがって、この旋回時のパターン認識検出領域ＰＡは、操舵角に応じて、直進時の画像中心を中心としたパターン認識検出領域ＰＡを画像の横方向に補正したものである。
【００３０】
なお、パターン認識検出領域ＰＡの大きさや形状については、カメラ３のレンズパラメータ（画角など）を考慮して設定される。例えば、画像中心位置や旋回時の操舵角に応じた位置Ｃと画像上の横方向の位置との偏差が閾値より小さいか否かで矩形領域の横方向の両端が規定され、矩形領域の縦方向の両端は予め設定されている。この閾値や縦方向の両端が、カメラ３のレンズパラメータなどに応じて決められる。
【００３１】
ちなみに、広角画像の場合、画像中心付近では、撮像対象の空間の大きさに比べて画像上での領域が小さくなるので、画像上の物体の移動量が非常に小さくなる。そのため、画像中心付近では、画像上での物体の動きを検出するオプティカルフローを利用した物体検出が困難である。しかし、画像中心付近は自車両の進行方向上の物体の存在する領域であるので、検出精度を確保する必要がある。そこで、この画像中心付近を、物体の形状に基づいて検出を行うパターン認識の検出領域とする。
【００３２】
一方、広角画像の場合、画像周辺部では、画像の歪みが大きくなり、画像上の物体の形状が変化する。そのため、画像周辺部では、テンプレートなどの基準形状との相関がとれなくなり、パターンマッチング（パターン認識）を利用した物体検出が困難である。しかし、画像周辺部は自車両の進行方向の側方であるが、道路を横断する歩行者などが存在する可能性があり、検出精度を確保する必要がある。そこで、この画像周辺部を、物体の動きを検出するオプティカルフローの検出領域とする。
【００３３】
パターン認識検出領域ＰＡに対して、ＥＣＵ１０では、パターン認識検出領域ＰＡ内を所定画素ずつ移動させながらサブウィンドウＳＷを順次設定する（図３参照）。そして、ＥＣＵ１０では、現時刻（ｔ）のフレームの広角画像Ｉを用いて、サブウィンドウＳＷ毎に検出対象の各障害物についてのパターン認識をそれぞれ行い、そのパターン認識結果に基づいて障害物情報を設定する。パターン認識の方法としては、従来の手法を適用し、例えば、検出対象の障害物の各テンプレートを用いてパターンマッチングを行う。ちなみに、サブウィンドウＳＷが小さいほど、画素数が少なくなるので、処理時間を低減できる。
【００３４】
オプティカルフロー検出領域ＯＡに対して、ＥＣＵ１０では、前時刻（ｔ−１）のフレームの広角画像Ｉと現時刻（ｔ）のフレームの広角画像Ｉを用いて、オプティカルフロー検出領域ＯＡの所定の領域毎（画素毎でもよい）にオプティカルフローを算出する（図４参照）。オプティカルフローの算出方法としては、従来の手法を適用する。そして、ＥＣＵ１０では、オプティカルフロー検出領域ＯＡ内の各領域におけるオプティカルフローに基づいて、周辺の領域のオプティカルフローと異なる大きさや向きを示すオプティカルフローを抽出する。画像上において背景とは異なる物体（障害物）が存在すると、その物体に対するオプティカルフローはその周辺（背景）とは明らかに異なる大きさや向きを示す。したがって、周辺とは異なる特異なオプティカルフローを抽出することにより、障害物のオプティカルフローを見つけ出すことができる。さらに、ＥＣＵ１０では、その抽出した領域のオプティカルフローから障害物情報を設定する。
【００３５】
図１を参照して、周辺監視装置１における動作について説明する。特に、ＥＣＵ１０における処理については図６のフローチャートに沿って説明する。図６は、図１のＥＣＵにおける処理の流れを示すフローチャートである。
【００３６】
各カメラ３では、一定時間毎に、自車両の周辺の各方向を撮像し、画像信号をＥＣＵ１０に送信している。ＥＣＵ１０では、一定時間毎に、カメラ３からの画像信号を受信し、各フレームの広角画像を入力する（Ｓ１０）。この各フレームの広角画像は、ＥＣＵ１０内に時系列で一時記憶される。
【００３７】
操舵角センサ４では、一定時間毎に、操舵角を検出し、操舵角信号をＥＣＵ１０に送信している。ＥＣＵ１０では、一定時間毎に、操舵角センサ４からの操舵角信号を受信し、操舵角を入力する（Ｓ１１）。
【００３８】
一定時間毎に、ＥＣＵ１０では、カメラ３の特性などを考慮し、操舵角に応じて広角画像上にパターン認識検出領域とオプティカルフロー検出領域を設定する（Ｓ１２）。
【００３９】
そして、ＥＣＵ１０では、パターン認識検出領域内で現時刻（ｔ）のフレームの広角画像を用いてパターン認識を行い、そのパターン認識結果から障害物を検出する（Ｓ１３）。
【００４０】
また、ＥＣＵ１０では、オプティカルフロー検出領域内で現時刻（ｔ）のフレームの広角画像と前時刻（ｔ−１）のフレームの広角画像を用いて画像上の各位置でのオプティカルフローを算出し、オプティカルフロー検出領域内の各位置でのオプティカルフローから障害物を検出する（Ｓ１４）。
【００４１】
そして、ＥＣＵ１０では、その検出結果を運転支援装置に出力あるいは音声や表示によって運転者に提供する（Ｓ１５）。
【００４２】
この周辺監視装置１によれば、広角画像の中心部をパターン認識を利用して障害物を検出するための検出領域に設定し、周辺部をオプティカルフローを利用して障害物を検出するための検出領域に設定することにより、広角画像全域にわたって障害物を高精度に検出することができる。
【００４３】
特に、周辺監視装置１によれば、広角画像の画像中心からの横方向の位置に基づいて検出領域を設定することにより、検出領域を精度良く設定できる。さらに、周辺監視装置１によれば、自車両の進行方向（操舵角）に応じて検出領域を横方向に移動して補正することにより、検出領域をより精度良く設定できる。
【００４４】
図７及び図８を参照して、第２の実施の形態に係る周辺監視装置２について説明する。図７は、第２の実施の形態に係る周辺監視装置の構成図である。図８は、後方用のカメラで撮像した画像の一例であり、その撮像画像にオプティカルフローを示した画像である。
【００４５】
周辺監視装置２は、広角画像からパターン認識処理とオプティカルフロー処理を利用して障害物を検出する。特に、周辺監視装置２は、画像全体にオプティカルフロー処理を行い、そのオプティカルフローの大きさに基づいてパターン認識処理用の検出領域とオプティカルフロー処理用の検出領域を設定する。周辺監視装置２は、カメラ３及びＥＣＵ２０を備えている。なお、第２の実施の形態では、ＥＣＵ２０における各処理が特許請求の範囲に記載する第１物体検出手段、第２物体検出手段及び制御手段に相当する。
【００４６】
ＥＣＵ２０は、ＣＰＵ、ＲＯＭ、ＲＡＭ及び画像処理チップなどからなる電子制御ユニットであり、周辺監視装置２を統括制御する。ＥＣＵ２０では、一定時間毎に、カメラ３からの画像信号を取り入れ、広角画像を時系列で記憶する。そして、ＥＣＵ２０では、これらの情報を用いて障害物情報を検出するための処理を行い、検出した障害物情報を運転支援装置に出力あるいは運転者に提供する。
【００４７】
ＥＣＵ２０では、前時刻（ｔ−１）のフレームの広角画像Ｉと現時刻（ｔ）のフレームの広角画像Ｉを用いて、広角画像全域の所定の領域毎のオプティカルフローを算出する（図８参照）。
【００４８】
図８に示すように、オプティカルフローの大きさ（図８の矢印の長さに相当）は、画像上での自車両の進行方向の中心（自車両が直進の場合には画像中心）から近いほど小さくなり、その中心から遠いほど大きくなる。そのため、オプティカルフローの大きさが小さくなる領域では、画像上での物体の動きを検出するオプティカルフローを利用した物体検出が困難である。一方、オプティカルフローの大きさが大きくなる領域では、オプティカルフローを利用した物体検出が可能である
【００４９】
そこで、ＥＣＵ２０では、オプティカルフローの大きさが閾値未満か否かを判定する。この閾値は、オプティカルフローの大きさに基づいてオプティカルフローを利用した物体検出ができるか否かを判定するための閾値であり、実験などによって予め設定される。ＥＣＵ２０では、オプティカルフローの大きさが閾値未満と判定した領域をパターン認識検出領域として設定する。また、ＥＣＵ２０では、オプティカルフローの大きさが閾値以上と判定した領域をオプティカルフロー検出領域として設定する。
【００５０】
パターン認識検出領域ＰＡに対して、ＥＣＵ２０では、第１の実施の形態と同様に、パターン認識によって障害物検出を行う。一方、オプティカルフロー検出領域ＯＡに対してＥＣＵ２０では、算出済みのオプティカルフローを利用して、第１の実施の形態と同様に、オプティカルフローを用いて障害物検出を行う。
【００５１】
図７を参照して、周辺監視装置２における動作について説明する。特に、ＥＣＵ２０における処理については図９のフローチャートに沿って説明する。図９は、図７のＥＣＵにおける処理の流れを示すフローチャートである。
【００５２】
各カメラ３では、一定時間毎に、自車両の周辺の各方向を撮像し、画像信号をＥＣＵ１０に送信している。ＥＣＵ１０では、一定時間毎に、カメラ３からの画像信号を受信し、各フレームの広角画像を入力する（Ｓ２０）。この各フレームの広角画像は、ＥＣＵ２０内に時系列で一時記憶される。
【００５３】
一定時間毎に、ＥＣＵ２０では、広角画像全域に対して、現時刻（ｔ）のフレームの広角画像と前時刻（ｔ−１）のフレームの広角画像を用いて画像上の各位置でのオプティカルフローを算出する（Ｓ２１）。そして、ＥＣＵ２０では、画像上の各位置でのオプティカルフローの大きさが閾値未満か否かを判定する（Ｓ２２）。
【００５４】
ＥＣＵ２０では、オプティカルフローの大きさが閾値未満と判定した領域を、パターン認識検出領域と設定する（Ｓ２３）。そして、ＥＣＵ２０では、パターン認識検出領域内で現時刻（ｔ）のフレームの広角画像を用いてパターン認識を行い、そのパターン認識結果から障害物を検出する（Ｓ２４）。
【００５５】
ＥＣＵ２０では、オプティカルフローの大きさが閾値以上と判定した領域を、オプティカルフロー検出領域と設定する（Ｓ２５）。そして、ＥＣＵ２０では、オプティカルフロー検出領域内で各位置でのオプティカルフローから障害物を検出する（Ｓ２６）。
【００５６】
そして、ＥＣＵ２０では、その検出結果を運転支援装置に出力あるいは音声や表示によって運転者に提供する（Ｓ２７）。
【００５７】
この周辺監視装置２によれば、オプティカルフローの大きさが閾値未満の領域をパターン認識を利用して障害物を検出するための検出領域に設定し、オプティカルフローの大きさが閾値以上の領域をオプティカルフローを利用して障害物を検出するための検出領域に設定することにより、広角画像全域にわたって障害物を高精度に検出することができる。
【００５８】
特に、周辺監視装置２によれば、広角画像における実際のオプティカルフローの大きさに基づいて検出領域を設定することにより、検出領域を精度良く設定できる。
【００５９】
以上、本発明に係る実施の形態について説明したが、本発明は上記実施の形態に限定されることなく様々な形態で実施される。
【００６０】
例えば、本実施の形態では車両に搭載され、車両周辺の障害物を検出するための周辺監視装置に適用したが、画像から物体検出を行う様々な物体検出装置に適用可能である。また、ロボットなどの他の移動体に搭載してもよい。また、移動体に搭載しない監視カメラなどにも適用可能である。
【００６１】
また、本実施の形態ではパターン認識検出領域を矩形形状とし、それ以外の領域をオプティカルフロー検出領域としたが、パターン認識検出領域やオプティカルフロー検出領域の形状や大きさについては様々なものが適用可能である。
【００６２】
また、第１の実施の形態では車両の旋回状態（進行方向）を検出する手段として操舵角センサを用いたが、ヨーレートセンサなどの他の手段で検出してもよいし、あるいは、ナビゲーションシステムなどから進行方向の情報を取得してもよい。
【００６３】
また、第１の実施の形態では操舵角（自車両の旋回状態）に応じて検出領域の横方向の位置を補正する構成としたが、このような補正を行わない構成としてもよい。
【００６４】
また、パターン認識検出領域とオプティカルフロー検出領域をそれぞれ設定したが、画像中心（旋回時には進行方向の中心に相当する画像上の位置）と横方向の位置との偏差が閾値未満か否かで、横方向の位置に応じてパターン認識を利用した障害物検出とオプティカルフローを利用した障害物検出とを切り替えてもよい。
【００６５】
また、画像の横方向の位置に応じてパターン認識による物体検出の寄与度とオプティカルフローによる物体検出の寄与度をそれぞれ設定し、各寄与度に応じてパターン認識による物体検出とオプティカルフローによる物体検出を利用して物体検出を行ってもよい。この際、画像の横方向の位置が画像中心（旋回時には進行方向の中心に相当する画像上の位置）に近いほどパターン認識による物体検出の寄与度を高くし、画像の横方向の位置が画像中心に離れるほどオプティカルフローによる物体検出の寄与度を高くするとよい。また、第２の実施の形態のように画面全体にオプティカルフロー処理を行った後に、オプティカルフローの大きさが小さくなっている領域については、パターン認識の結果も加味して、障害物を検出するようにしてもよい。
【符号の説明】
【００６６】
１，２…周辺監視装置、３…カメラ、４…操舵角センサ、１０，２０…ＥＣＵ
【図１】
2010250541.tif 000003
【図２】
2010250541.tif 000004
【図３】
2010250541.tif 000005
【図４】
2010250541.tif 000006
【図５】
2010250541.tif 000007
【図６】
2010250541.tif 000008
【図７】
2010250541.tif 000009
【図８】
2010250541.tif 000010
【図９】
2010250541.tif 000011