(57)【特許請求の範囲】
【請求項１】
車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、
前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成する動きベクトル生成部と、
前記画像の複数点Ｐの動きベクトルをもとに静止物領域を推定し、前記推定した静止物領域の画像の複数点Ｐの動きベクトルと消失点から、自車の舵角による回転成分Ｒｙ，Ｒｚの少なくともＲｙを求め、各点の前記回転成分Ｒｙ（あるいはＲｙとＲｚ）に関するヒストグラムのピーク近傍を静止物領域の候補として選定する静止領域候補推定部と、
前記複数点Ｐの動きベクトルの傾きを自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）で補正したとき、前記選定した静止物領域の画像の複数点Ｐから前記消失点への傾きと等しいとして自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を推定する自車移動パラメータ推定部と、
前記画像内の任意の点Ｑの動きベクトルの傾きを前記自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Ｑと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定する移動体判定部と、
を具備することを特徴とする移動体検出装置。
【請求項２】
前記自車移動パラメータ推定部は、前記回転成分が０のとき、前記複数点Ｐの動きベクトルの延長線の交点を前記消失点として更新することを特徴とする請求項１記載の移動体検出装置。
【請求項３】
前記移動体判定部により移動体として検出されなかった画像情報を入力し、前記静止物領域候補内の任意の点Ｑの動きベクトルと回転成分（Ｒｘ，Ｒｙ，Ｒｚ）から自車移動パラメータの並進成分Ｔｚ／ｚを求め、路面とのカメラ視角を関連付けた推定距離重みづけ係数ｚ０を設定して、前記係数ｚ０を乗算した並進成分ｚ０(Ｔｚ／ｚ)と推定自車並進成分Ｔｚｍとを比較し、一致度が低いときに移動体として検出する並進方向移動体検出部を備えたことを特徴とする請求項１記載の移動体検出装置。
【請求項４】
前記並進方向移動体検出部は、前記静止物領域候補内の複数点Ｐの動きベクトルと回転成分（Ｒｘ，Ｒｙ，Ｒｚ）から自車移動パラメータの並進成分Ｔｚ／ｚを求め、前記係数ｚ０を乗じた並進成分ｚ０（Ｔｚ／ｚ）の平均を前記推定自車並進成分Ｔｚｍとすることを特徴とする請求項３記載の移動体検出装置。
【請求項５】
前記並進方向移動体検出部は、前記カメラ画像の画素位置毎に路面上の距離を関連付けた対応関係を、前記推定距離重みづけ係数ｚ０として予め設定することを特徴とする請求項３又は４記載の移動体検出装置。
【請求項６】
車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、
前記画像入力部からの画像を処理して、前記画像の動きベクトルを生成する動きベクトル生成部と、
前記画像の複数点Ｐの動きベクトルと、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記複数点Ｐの動きベクトルと前記消失点をもとに自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）及び並進成分を推定する自車移動パラメータ推定部と、
路面との距離に対応したカメラ視角を前記カメラ画像の画素位置毎に関連付けた推定距離重みづけ係数ｚ０を予め設定し、前記係数ｚ０を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Ｑの動きベクトルを前記回転成分（Ｒｘ，Ｒｙ，Ｒｚ）、前記並進成分及び前記係数ｚ０から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定する移動体判定部と、
を具備したことを特徴とする移動体検出装置。
【請求項７】
車両に搭載したカメラによって撮影されたカメラ画像を取り込み、
前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成し、
前記画像の複数点Ｐの動きベクトルをもとに静止物領域を推定し、
前記推定した静止物領域の画像の複数点Ｐの動きベクトルと消失点から、自車の舵角による回転成分Ｒｙ，Ｒｚの少なくともＲｙを求め、各点の前記回転成分Ｒｙ（あるいはＲｙとＲｚ）に関するヒストグラムのピーク近傍を静止物領域の候補として選定し、
前記点Ｐの動きベクトルの傾きを自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）で補正したとき、前記選定した静止物領域の画像の複数点Ｐから消失点への傾きと等しいとして自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を推定し、
前記画像内の任意の点Ｑの動きベクトルの傾きを前記自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Ｑと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定することを特徴とする移動体検出方法。
【請求項８】
前記回転成分が０のとき、前記複数点Ｐの動きベクトルの延長線の交点を前記消失点として更新することを特徴とする請求項７記載の移動体検出方法。
【請求項９】
前記移動体として検出されなかった画像情報を入力し、
前記静止物領域候補内の任意の点Ｑの動きベクトルと前記回転成分（Ｒｘ，Ｒｙ，Ｒｚ）から自車移動パラメータの並進成分Ｔｚ／ｚを求め、
路面とのカメラ視角を関連付けた推定距離重みづけ係数ｚ０を設定して、前記係数ｚ０を乗算した並進成分ｚ０(Ｔｚ／ｚ)と推定自車並進成分Ｔｚｍとを比較し、一致度が低いときに移動体として検出することを特徴とする請求項７記載の移動体検出方法。
【請求項１０】
前記静止物領域候補内の複数点Ｐの動きベクトルと前記回転成分ＲＸ，Ｒｙ，Ｒｚから自車移動パラメータの並進成分Ｔｚ／ｚを求め、前記係数ｚ０を乗じた並進成分ｚ０（Ｔｚ／ｚ）の平均を前記推定自車並進成分Ｔｚｍとすることを特徴とする請求項９記載の移動体検出方法。
【請求項１１】
車両に搭載したカメラによって撮影されたカメラ画像を取り込み、
前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成するとともに、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記動きベクトルと前記消失点をもとに自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）及び並進成分を推定し、
路面との距離に対応したカメラ視角を前記カメラ画像の画素位置毎に関連付けた推定距離重みづけ係数ｚ０を予め設定し、
前記係数ｚ０を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Ｑの動きベクトルを前記回転成分（Ｒｘ，Ｒｙ，Ｒｚ）、前記並進成分及び前記係数ｚ０から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定することを特徴とする移動体検出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、車両に搭載したカメラで車両周辺の映像を撮影し、動きベクトルの解析によって移動体を検出する移動体検出装置及び移動体検出方法に関する。
【背景技術】
【０００２】
従来、車両に複数のカメラを搭載し、自車両の前方や後方、或いは側方を撮影し、撮影した画像のオプティカルフロー或いは動きベクトルを利用して移動体を検出する移動体検出装置が知られている。
【０００３】
例えば特許文献１には、車載カメラのようにカメラ位置が移動する場合においても、静止物と移動する被写体を判定できるようにした移動体検知装置が開示されている。特許文献１では、観測された画像中の観測対象の動きベクトルを抽出し、動きベクトルの延長線上の交点を計算し、その交点（ＦＯＥ：Focus of Expansion）を求め、ＦＯＥの時間的位置変化から移動体を判定するようにしている。
【０００４】
特許文献２には、車載カメラで前後方を観測し障害物を検出する際に、路面の凹凸や操舵による揺れの影響を除去する画像処理装置が開示されている。特許文献２では、ＦＯＥ近傍は距離が無限大とみなせるので、この領域にある動きベクトルはカメラ移動の並進成分が０となり回転成分だけが残ること、つまりＦＯＥ近傍の静止物体の動ベクトルからカメラの揺れ量（回転成分）を求め、揺れを補正するようにしている。
【０００５】
特許文献３には、画像内において静止物被写体が支配的であるという暗黙の前提において、自車移動パラメータから予測される動きベクトルと観測動きベクトルとを比較し、一致するように繰り返し合わせ込みして自車運動パラメータを求め、自車運動パラメータから予測される動きベクトルと実測動きベクトルとの差異が大きい被写体を移動体と判定する動画像解析方法が開示されている。
【０００６】
特許文献４には、移動するカメラから撮られた動画像のオプティカルフローを算出し、オプティカルフローを解析して自車移動パラメータ（回転成分Ｒ、並進成分Ｔ）を推定する移動体検出方法および装置が開示されている。特許文献４の例では、解析結果から逆距離なる指標（並進成分Ｔｚ／距離ｚ）を定義し、想定される範囲を予め遠方に設定して指標値を与え、実測指標値が設定外のとき移動体と判定するようにしている。
【０００７】
特許文献５には、外部センサから自車移動情報をもらい、空間モデルを用いて背景フローを推定し、実測のオプティカルフローと比較し、一致しない領域を移動体と判定する監視装置が開示されている。
【０００８】
しかしながら、車載用途ではカメラ自体が移動するため、静止物被写体であっても画面上は動きのある画像となる。このため、静止物であるか移動体であるかの判定を信頼性高く行うことが難しい。また特許文献１〜５では、シーン依存性があり、特定のシーンでは移動体を検出できても、別のシーンでは移動体を検出できない場合がある。
【０００９】
例えば特許文献１では、ＦＯＥへ向かう放射状の線上を移動体が動いた場合、ＦＯＥは一定となり、時間的変化が発生しないため移動体として検出できない。また自車回転が大きい場合は、ＦＯＥそのものが定義できなくなり、移動体を検出できない。特許文献２では、画像内のＦＯＥ近傍に適当な被写体が無い場合には揺れの補正ができない。
【００１０】
また特許文献３では、画像の被写体は静止物が支配的であることを前提として、画面全体の動きベクトルから自車（カメラ）の移動パラメータを推定するため、大部分の領域が移動体となるシーンでは、自車移動パラメータが正しく得られない。また特許文献４では、ＦＯＥへ向かう方向の移動体を検出できるものの、ある距離以内には被写体は存在しないという前提条件があるため、カメラ近傍の短距離範囲を監視するカメラシステムには適用できない。さらに、特許文献５では、カメラ以外に、車輪速、舵角、或いはジャイロセンサ、ヨーセンサ等が必要になる。
【先行技術文献】
【特許文献】
【００１１】
【特許文献１】特開平８−１９４８２２号公報
【特許文献２】特開２００２−１１２２５２号公報
【特許文献３】特開平５−２３３８１３号公報
【特許文献４】特開平６−２０３１６３号公報
【特許文献５】特開２００４−５６７６３号公報
【発明の概要】
【発明が解決しようとする課題】
【００１２】
従来の車載用途の移動体検出装置では、カメラ自体が移動するため、静止物被写体であっても画面上は動きのある画像となり、静止物であるか移動体であるかの判定を信頼性高く行うことが難しい。また特許文献１〜５では、シーン依存性があり、特定のシーンでは移動体を検出できても、別のシーンでは移動体を検出できないという課題がある。
【００１３】
本発明はこのような事情に鑑み、あらゆる方向に移動する移動体をより確実に検出することができる移動体検出装置及び移動体検出方法を提供することを目的とする。
【課題を解決するための手段】
【００１４】
請求項１記載の実施形態による移動体検出装置は、車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成する動きベクトル生成部と、前記画像の複数点Ｐの動きベクトルをもとに静止物領域を推定し、前記推定した静止物領域の画像の複数点Ｐの動きベクトルと消失点から、自車の舵角による回転成分Ｒｙ，Ｒｚの少なくともＲｙを求め、各点の前記回転成分Ｒｙ（あるいはＲｙとＲｚ）に関するヒストグラムのピーク近傍を静止物領域の候補として選定する静止領域候補推定部と、前記複数点Ｐの動きベクトルの傾きを自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）で補正したとき、前記選定した静止物領域の画像の複数点Ｐから前記消失点への傾きと等しいとして自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を推定する自車移動パラメータ推定部と、前記画像内の任意の点Ｑの動きベクトルの傾きを前記自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Ｑと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定する移動体判定部と、を具備することを特徴とする。
【００１５】
請求項６に記載の実施形態による移動体検出装置は、車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、前記画像入力部からの画像を処理して、前記画像の動きベクトルを生成する動きベクトル生成部と、前記画像の複数点Ｐの動きベクトルと、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記複数点Ｐの動きベクトルと前記消失点をもとに自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）及び並進成分を推定する自車移動パラメータ推定部と、路面との距離に対応したカメラ視角を前記カメラ画像の画素位置毎に関連付けた推定距離重みづけ係数ｚ０を予め設定し、前記係数ｚ０を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Ｑの動きベクトルを前記回転成分（Ｒｘ，Ｒｙ，Ｒｚ）、前記並進成分及び前記係数ｚ０から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定する移動体判定部と、を具備したことを特徴とする。
【００１６】
また請求項７記載の実施形態による移動体検出方法は、車両に搭載したカメラによって撮影されたカメラ画像を取り込み、前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成し、前記画像の複数点Ｐの動きベクトルをもとに静止物領域を推定し、前記推定した静止物領域の画像の複数点Ｐの動きベクトルと消失点から、自車の舵角による回転成分Ｒｙ，Ｒｚの少なくともＲｙを求め、各点の前記回転成分Ｒｙ（あるいはＲｙとＲｚ）に関するヒストグラムのピーク近傍を静止物領域の候補として選定し、前記点Ｐの動きベクトルの傾きを自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）で補正したとき、前記選定した静止物領域の画像の複数点Ｐから消失点への傾きと等しいとして自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を推定し、前記画像内の任意の点Ｑの動きベクトルの傾きを前記自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Ｑと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定することを特徴とする。
【００１７】
請求項１１に記載の実施形態による移動体検出方法は、車両に搭載したカメラによって撮影されたカメラ画像を取り込み、前記画像入力部からの画像を処理して、前記画像の複数点Ｐの動きベクトルを生成するとともに、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記動きベクトルと前記消失点をもとに自車移動パラメータの回転成分（Ｒｘ，Ｒｙ，Ｒｚ）及び並進成分を推定し、路面との距離に対応したカメラ視角を前記カメラ画像の画素位置毎に関連付けた推定距離重みづけ係数ｚ０を予め設定し、前記係数ｚ０を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Ｑの動きベクトルを前記回転成分（Ｒｘ，Ｒｙ，Ｒｚ）、前記並進成分及び前記係数ｚ０から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定することを特徴とする。
【発明の効果】
【００１８】
本発明の実施形態による移動体検出装置によれば、あらゆる方向に移動する移動体をより確実に検出することができる。
【図面の簡単な説明】
【００１９】
【図１】第１の実施形態に係る移動体検出装置の構成を示すブロック図。
【図２】第１の実施形態における移動体検出部の詳細な構成を示すブロック図。
【図３】第１の実施形態に係る移動体検出装置の動作を説明するフローチャート。
【図４】画像領域選定部による画像領域の選定例を示す説明図。
【図５】動きベクトルの生成処理に関連する座標系を示す説明図。
【図６】回転成分Ｒｙ選択のためのヒストグラム図。
【図７】ｚ０設定部の動作を示す説明図。
【図８】回転成分を補正した動きベクトルの一例を示す説明図。
【図９】回転成分を補正した動きベクトルの他の例を示す説明図。
【図１０】第２の実施形態にかかる移動体検出装置を示すブロック図。
【発明を実施するための形態】
【００２０】
以下、この発明の一実施形態に係る移動体検出装置について図面を参照して説明する。
【実施例１】
【００２１】
図１は、本発明の一実施形態に係る移動体検出装置１００の構成を示すブロック図である。図１において、移動体検出部１０は、車両１に搭載したカメラ３０で撮影した画像を処理して移動体を検出し、表示部４０に検出結果を表示する。カメラ３０は、車両１に搭載され車両周辺の映像を撮影する。図１では、車両１の前方及び後方等にカメラ３０…を搭載した例を示している。
【００２２】
図２は、移動体検出部１０の詳細な構成を示すブロック図である。移動体検出部１０は、移動体検出部１０の動作を制御する制御部１１と、カメラ画像を取り込む画像入力部１２と、移動体の検出処理に有効な画像情報をもつ画像領域を選定する画像領域選定部１３と、画像領域選定部１３で選定した画像領域の動きベクトルを生成する動きベクトル生成部１４を有する。
【００２３】
また画像選定領域部１３で選定した画像（静止物と移動体が混在した画像）から静止物領域候補を推定する静止物領域候補推定部１５と、静止領域候補が見出せない場合に全画面動き或いは全画面静止とみなし、動きの発生した領域を移動体と判定する動きスカラ判定部１６と、自車が回転せずに移動する場合にＦＯＥ（Focus of Expansion）を求めて更新を行うＦＯＥ更新部１７を有する。
【００２４】
また静止領域候補推定部１５で選定された領域内の画像をもとに自車移動パラメータ（回転成分Ωｕ、Ωｖおよび並進成分Ｔｘ，Ｔｙ，Ｔｚを含む）を推定する自車移動パラメータ推定部１８と、並進成分（Ｔｚ，Ｔｘ，Ｔｙ）を推定するために近似的な距離として推定距離重みづけ係数ｚ０を設定するｚ０設定部１９を有する。
【００２５】
さらにＦＯＥに着目した移動体判定部２０と、ＦＯＥへ放射状に向かう方向の移動体の検出を行う並進方向移動体検出部２１と、動きスカラ判定部１６で判定された移動体と、移動体判定部２０で判定された移動体と、並進方向移動体検出部２１で判定された移動体の情報がそれぞれ入力され、夫々の論理和（ＯＲ）をもとに移動体を判定する接近判定部２２とを有する。
【００２６】
図３は、本発明の第１の実施形態に係る移動体検出装置の動作を説明するフローチャートであり、以下、関連する図を参照しながら動作を説明する。尚、移動体検出部１０は、制御部１１の制御のもとに動作し、制御部１１はＣＰＵ，ＲＯＭ、ＲＡＭ等を含むマイクロプロセッサで構成されている。制御部１１は、以下に説明する動作を行うように、各ブロックに制御信号を発生する（図２では制御信号線路を点線で示している）。
【００２７】
先ず、ステップＳ１では画像入力部１２によってカメラ３０で撮像したカメラ画像を取得する。ステップＳ２では、画像領域選定部１３により以降の処理に有効な画像情報をもつ画像領域を選定する。有効な画像情報の判断法としては、特徴点抽出法を用いることができる。例えば図４に示すように画像中で無限に広がる地面はある点に収束し、この点は消失線と呼ばれ、この消失線を含む領域を選択する。尚、自車が回転せずに移動（例えば矢印Ａ方向に移動）する場合に、画像中の複数の動きベクトルを延長し、延長動きベクトルが集中する点は消失点（ＦＯＥ）となる。
【００２８】
次のステップＳ３では動きベクトル生成部１４において、画像領域選定部１３で選定した領域の動きベクトルを生成する。動きベクトルの生成処理としては、勾配法、ブロックマッチング法等を使用することができる。
【００２９】
例えば、図５に示すように、カメラ座標系として、カメラ３０の光軸をｚ軸、路面に水平の軸をｘ軸とし、路面に垂直の軸をｙ軸としたときのｘｙｚ座標系を考える。Ｏｃ（０，０，０）をカメラ中心とし焦点距離をｆとしたとき、ｚ＝ｆ（ｆは焦点距離）の投影平面を２００で示し、世界座標の点Ｐ’がこの投影平面２００の点Ｐに投影される。また、世界座標系の地面に固定な座標系をＯｗで示している。
【００３０】
自車移動に伴う画面上Ｐ（ｘ，ｙ）の動きベクトルＶ（ｕ，ｖ）は、周知の下記（１）（２）式で表わすことができる。
【数１】
0005612915.tif 000002
【００３１】
ここでは、自車移動パラメータを回転成分Ωｕ、Ωｖ及び並進成分Ｔｘ，Ｔｙ，Ｔｚとする。Ｔｘ，Ｔｙ，Ｔｚは、夫々ｘ軸、ｙ軸、ｚ軸方向の並進速度を表す。さらに、Ωｕ、Ωｖは下記（３），（４）式によりＲｘ，Ｒｙ，Ｒｚで表わされる。Ｒｘ，Ｒｙ，Ｒｚはｘ軸、ｙ軸、ｚ軸を中心とした回転成分を表す。
【数２】
0005612915.tif 000003
【００３２】
周知のように、点Ｐ（ｘ，ｙ）における動きベクトルＶ（ｕ，ｖ）に回転成分の補正を行って傾きを求めると、Ｐ（ｘ，ｙ）からＦＯＥへ向かう傾きと同じになる。即ち、次の（５）式が成り立つ。
【数３】
0005612915.tif 000004
【００３３】
静止物領域候補推定部１５には、画像選定領域部１３で選定した画像（静止物と移動体が混在した画像）が入力され、ステップＳ４では、静止物領域の推定を行う。つまり車載カメラでは、Ｒｘ，Ｒｚは微小な場合が多いので、
Ｒｘ＝Ｒｚ＝０
という近似を行うと、（６），（７）式が得られる。
【数４】
0005612915.tif 000005
【００３４】
（５），（６），（７）式から、点Ｐ（ｘ，ｙ）と動きベクトルＶ（ｖ，ｕ）と、ＦＯＥ（ｘ０，ｙ０）から画素Ｐ…毎にＲｙが求められる。静止物に対しては共通のＲｙとなる。複数の画像点に対して上記複数のＲｙを求め、図６に示すようなＲｙのヒストグラムを生成し、ヒストグラムのピークの近傍の共通のＲｙを持つ領域を静止物領域候補として選定する。
【００３５】
しかしながら、自車速度が高い場合には、Ｒｚが発生するので考慮した方が好ましい。このとき、
Ｒｘ＝０
という近似を行うと、（８），（９）式が得られ、
【数５】
0005612915.tif 000006
【００３６】
近傍の複数の動きベクトルからＲｙ，Ｒｚを求めることができる。このときＲｙ、Ｒｚのヒストグラムを生成し、ヒストグラムのピークの近傍の共通のＲｙ、Ｒｚを持つ領域を静止物領域候補として選定する。
【００３７】
静止領域候補が見いだせない場合（ステップＳ５でＮＯの場合）には、全画面動き或いは全画面静止とみなし、動きスカラ判定部１６で動きの発生した領域を移動体と判定する。つまり、動きスカラ判定部１６は、ステップＳ６において、動きの大きさ（スカラ量を）判定し、ステップＳ７でスカラ量が予め設定した閾値を越えたとき（ＹＥＳのとき）に動き領域と判定する。尚、ベクトル量は方向と大きさで表わされ、大きさだけをスカラ（scalar）またはスカラ量と呼ぶ。また画面上において静止物の領域が少ない場合においても、静止物領域部分のＲｙヒストグラムのピークが見出されればその領域を静止物領域と判定できる。
【００３８】
ＦＯＥ更新部１７は、ステップＳ８において、自車が回転せずに移動する場合、動きベクトルの延長線交点としてＦＯＥを求めて更新を行う。車載カメラでは並進運動は車両中心軸方向だけに発生するので、消失点（ＦＯＥ）は不変と思われるが、乗車人員や積載量が多い場合、或いはカメラ３０の取り付け位置の経年変化等による光軸のズレが想定され、カメラ３０の光軸のズレは、消失点（ＦＯＥ）のズレとなって現れる。したがって、ステップＳ８において、ＦＯＥの更新を行う。
【００３９】
即ち、静止物領域候補内において、回転成分＝０のとき、点Ｐ（ｘ，ｙ）の動きベクトルが（ｕｎ，ｖｎ）であったとしたとき、Ｐを始点とする動きベクトルの延長線上の点を（ｘ０，ｙ０）とすると、（１０）式が得られる。
【数６】
0005612915.tif 000007
【００４０】
またｎ個の点Ｐについて行列表現すると、（１１）式が得られる。
【数７】
0005612915.tif 000008
【００４１】
そして複数の点Ｐから最小２乗法を用いて消失点（ｘ０，ｙ０）を求め、新たな消失点として更新する。したがって、消失点更新は車両が並進運動を行っているときに限定されるが、消失点変動は頻繁には発生しないので実用上問題ない。また消失点からカメラ３０の取り付け角を求めることができるので、後述するｚ０設定部１９に消失点更新データが送られ校正データとして用いる。
【００４２】
カメラ３０の光軸が路面に対して下向きに俯角θで設置されていれば、自車並進速度Ｔのとき、ｚ軸、ｙ軸方向の並進速度Ｔｚ，Ｔｙは、
Ｔｚ＝Ｔcosθ、Ｔｙ＝Ｔsinθ
となる。消失点（ｘ０，ｙ０）は、
ｘ０＝ｆＴｘ／Ｔｚ、ｙ０＝ｆＴｙ／Ｔｚ
で表わすことができるので、
ｙ０＝ｆ・ｔａｎθ
となり、消失点からカメラ俯角を求めることができる。同様にｘ軸方向で考えれば自車中心線と光軸のなす角φに関しては、
ｘ０＝ｆ・ｔａｎφ
で求めることができる。
【００４３】
自車移動パラメータ推定部１８は、ステップＳ９において、静止領域候補推定部１５で選定された静止物領域内のｎ個のＰ（ｘｎ，ｙｎ）の動きベクトルＶ（ｕｎ，ｖｎ）を用いて自車移動パラメータＲｘ，Ｒｙ，Ｒｚを推定する。即ち、（１），（２），（３），（４）式からｎ個のＰ（ｘｎ，ｙｎ）に対して次式が得られる。
【数８】
0005612915.tif 000009
【００４４】
（１２）式から特異値分解等を用いた最小２乗法で自車移動パラメータの回転成分Ｒｘ，Ｒｙ，Ｒｚを推定する。推定回転成分を用いて式（１）〜（４）から得られる並進成分は、被写体までの距離ｚの逆数を乗じた値Ｔｘ／ｚ，Ｔｙ／ｚ,  Ｔｘ／ｚの形式でのみ得られる。ｚ０設定部１９では、ステップＳ１０において、ｘ軸、ｙ軸、ｚ軸方向の並進速度Ｔｚ，Ｔｘ，Ｔｙを推定するために、近似的な距離として推定距離重みづけ係数ｚ０を設定する。
【００４５】
つまり図７に示すように、カメラ３０からの路面距離に対応したカメラ視角（下向き俯角θ）に関連付けて係数ｚ０を設定する。図７の例では、路面距離１〜１．５ｍに相当する視角の画像に対してｚ０＝１とする。同様に、路面距離１．５〜２ｍに相当する視角の画像に対してｚ０＝１．５、路面距離２〜３ｍに相当する視角の画像に対してｚ０＝２、路面距離３〜４ｍに相当する視角の画像に対してｚ０＝３、路面距離４ｍ〜無限大ｍに相当する視角の画像に対してｚ０＝４とする。角度θが分かれば自車から被写体Ｍまでの距離が分かる。
【００４６】
また、カメラ視角とカメラ画像上の各画素は１：１に対応している。したがって、路面とのカメラ視角を関連付けた推定距離重みづけ係数ｚ０は、画素毎に予め求めておいてＬＵＴ（ルックアップテーブル）等に設定しておけばよい。
【００４７】
図７ではｚ０を離散的に予め設定する手順を説明したが、ｚ０＝１／ｚとして連続的にカメラ視角と関連付けて設定してもよい。この場合には、カメラ分解能に限界があるので一定のｚ以上ではｚ０＝固定値とする。
【００４８】
自車移動パラメータ推定部１８は、このようにカメラからの路面距離に対応したカメラ視角に関連付けて距離ｚ０を設定することで、
Ｔｚ＝ｚ０（.Ｔｚ／ｚ）、Ｔｘ＝ｚ０（.Ｔｘ／ｚ）、Ｔｙ＝ｚ０（.Ｔｙ／ｚ）
を求め、複数点の平均をとり推定並進成分Ｔｚｍ，Ｔｙｍ，Ｔｘｍを算出する。
【００４９】
一方、ＦＯＥに着目した移動体判定部２０はステップＳ１１で以下の処理を行う。即ち、画像内の任意の点Ｑ（ｘ，ｙ）に関して、（１）〜（４）式に自車移動パラメータＲｘ，Ｒｙ，Ｒｚを代入し、動き補正後の傾き、（１３）式を求める。
【数１３】
0005612915.tif 000010
【００５０】
Ｑ（ｘ，ｙ）からＦＯＥ（ｘ０，ｙ０）への直線の傾きは（１４）式で表わされる。
【数１０】
0005612915.tif 000011
【００５１】
ステップＳ１１で傾き(１３)，(１４)式を比較した結果、一致度が低い場合（ステップＳ１２でＮＯのとき）は、図８に示すように回転量を補正した（回転成分Ωｕ、Ωｖで補正した）動きベクトルの延長線はＦＯＥを通らないため、移動方向が自車移動方向と異なる移動体と判定する。
【００５２】
カメラ揺れ成分は自車回転成分Ｒｘ，Ｒｚとして現れるので、（１３）式に示されるように、回転量を補正した後に判定することで、砂利道や段差等での自車移動に伴う揺れは自車回転成分（主にＲｘ，Ｒｚ）が発生しても補正されるので、自車揺れの影響を受けない。
【００５３】
また、傾き(１３)，(１４)式を比較して一致度が高い場合（ステップＳ１２でＹＥＳのとき）は、図９のように回転量を補正した動きベクトルの延長線がＦＯＥを通る。この場合は静止物だけではなく、ＦＯＥから放射状に移動する移動体も含まれている可能性がある。そこで並進方向移動体検出部２１は、以下の動作を行う。
【００５４】
並進方向移動体検出部２１には、ＦＯＥに着目した移動体判定部２０で移動体と検出されなかった情報と、自車移動パラメータ推定部１８で得られる推定自車並進成分Ｔｚｍが入力される。並進方向移動体検出部２１は、ステップＳ１３で（１）〜（４）式と回転成分Ｒｘ，Ｒｙ，Ｒｚから点Ｑ（ｘ，ｙ）のＴｚ／ｚを求め、ｚ０（Ｔｚ／ｚ）と平均の推定並進成分Ｔｚｍとを比較し、ステップＳ１４で一致度が予め設定した閾値を越える場合は、移動体と判定する。つまり、周りよりも早く動くものがあれば自車に向かってくる移動体と判断する。
【００５５】
また（１）〜（４）式から判るように、遠距離（ｚが大）のときに、並進成分Ｔｚ／ｚは小となるので、動きベクトルは小となり、近距離（ｚが小）のときに並進成分Ｔｚ／ｚは大となるので、動きベクトルは大となる。したがって、そのままでは遠距離の移動体は検出し難く、近距離の静止物を誤検出し易い。しかし、推定距離重みづけ係数ｚ０を導入することで遠距離の移動体を検出し易くなり、近距離の静止物を誤検出し難くなる。
【００５６】
接近判定部２２は、ステップＳ１５において、動きスカラ判定部１６で判定された移動体（ステップＳ７の判定結果）と、ＦＯＥに着目した移動体判定部２０で判定された移動体（ステップＳ１２の判定結果）と、並進方向移動体検出部２１で判定された移動体（ステップＳ１４の判定結果）の情報を入力し、夫々の論理和（ＯＲ）をとって移動体の判定を行う。また移動体と判定されたものは、動きベクトル方向が判明しているので、移動体の接近方向を判断し、自車に接近する方向をもつ移動体を危険度の高いものとして優先的に出力し、自車に接近する移動体があれば表示部４０に警告表示する。
【００５７】
以上述べたように、第１の実施形態では、ＦＯＥへ向かう方向の移動体を検出することができ、あらゆる方向に移動する移動体を検出できる。また乗車人員や積載量が多い場合でも安定な移動体検出ができ、砂利道等の自車振動（カメラ揺れ）の影響を受けずに安定した移動体検出ができる。
【実施例２】
【００５８】
次に第２の実施形態にかかる移動体検出装置について図１０を参照して説明する。第２の実施形態では、ＦＯＥに着目した移動体判定部２０を動きベクトル予測部２３に置き換え、並進方向移動体検出部２１を移動体判定部２４に置き換えたものである。
【００５９】
第１の実施形態と同様に、自車移動パラメータ推定部１８は、回転成分Ｒｘ，Ｒｙ，Ｒｚと、平均の並進成分Ｔｚｍ，Ｔｘｍ，Ｔｙｍを出力する。動きベクトル予測部２３は、点Ｑ（ｘ，ｙ）の動きベクトルをＴｚ／ｚ、Ｔｘ／ｚ、Ｔｙ／ｚの代わりにＴｚｍ／ｚ０、Ｔｘｍ／ｚ０、Ｔｙｍ／ｚ０を用い、（１）〜（４）式に基づいて予測ベクトルｕ’，ｖ’を算出する。
【００６０】
移動検出部２４は実測動きベクトルｕ，ｖと予測動きベクトルｕ’，ｖ’とを比較し、一致度の低い場合、移動体と判定する。車載カメラの場合、Ｔｘ，Ｔｙは微小な場合が多いので、Ｔｘ／ｚ，Ｔｙ／ｚおよびＴｘｍ，Ｔｙｍは省略してもよい。
【００６１】
尚、以上説明した実施形態の限らず、特許請求の範囲を逸脱しない範囲内で種々の変形が可能である。
【符号の説明】
【００６２】
１００…移動体検出装置
１０…移動体検出部
１１…制御部
１２…画像入力部
１３…画像領域選定部
１４…動きベクトル生成部
１５…静止領域候補推定部
１６…動きスカラ判定部
１７…ＦＯＥ更新部
１８…自車移動パラメータ推定部
１９…ｚ０設定部
２０…移動体判定部（ＦＯＥに着目）
２１…並進方向移動体検出部
２２…接近判定部
２３…動きベクトル予測部
２４…移動体判定部
３０…カメラ
４０…表示部
【図１】
0005612915.tif 000012
【図２】
0005612915.tif 000013
【図３】
0005612915.tif 000014
【図４】
0005612915.tif 000015
【図５】
0005612915.tif 000016
【図６】
0005612915.tif 000017
【図７】
0005612915.tif 000018
【図８】
0005612915.tif 000019
【図９】
0005612915.tif 000020
【図１０】
0005612915.tif 000021