(57)【要約】【課題】移動体に搭載されたカメラからの情報に基づいて推定される移動情報の信頼性を向上することができる技術を提供する。【解決手段】移動情報推定装置は、移動体に搭載されたカメラからの情報に基づき前記移動体の移動情報の推定値を求める。移動情報推定装置は、前記カメラより入力されたフレーム画像から特徴点を抽出する抽出部と、現在の前記フレーム画像と前回の前記フレーム画像との間における前記特徴点の動きを示すオプティカルフローを算出する算出部と、前記オプティカルフローに基づき前記推定値を求める推定部と、を備える。前記推定部は、前記抽出部によって抽出された前記特徴点の数と、前記特徴点の固有性を示す特徴量とに基づき前記推定値の算出方式を切り替える。【選択図】図１
2020042715.tif 000002
【特許請求の範囲】
【請求項１】
移動体に搭載されたカメラからの情報に基づき前記移動体の移動情報の推定値を求める移動情報推定装置であって、
前記カメラより入力されたフレーム画像から特徴点を抽出する抽出部と、
現在の前記フレーム画像と前回の前記フレーム画像との間における前記特徴点の動きを示すオプティカルフローを算出する算出部と、
前記オプティカルフローに基づき前記推定値を求める推定部と、
を備え、
前記推定部は、前記抽出部によって抽出された前記特徴点の数と、前記特徴点の固有性を示す特徴量とに基づき前記推定値の算出方式を切り替える、移動情報推定装置。
【請求項２】
前記推定部は、前記特徴点の数と、前記特徴量の最大値と、前記特徴量の平均値とに基づき前記算出方式を切り替える、請求項１に記載の移動情報推定装置。
【請求項３】
前記算出方式には、
前記抽出部で抽出された複数の前記特徴点のそれぞれに対して前記オプティカルフローを求め、ヒストグラムを用いた統計処理により前記推定値を求める第１算出方式と、
前記特徴量が所定の閾値以上の前記特徴点から算出される前記オプティカルフローに基づき前記推定値の算出を行う第２算出方式と、
が含まれる、請求項１又は２に記載の移動情報推定装置。
【請求項４】
前記推定部は、前記推定値が使用できるか否かの判断を、前記特徴点の数および前記特徴量に基づき行うことがある、請求項１から３のいずれか１項に記載の移動情報推定装置。
【請求項５】
前記推定部は、前記推定値が使用できないと判断した時は、前記推定値を求めない、請求項４記載の移動情報推定装置。
【請求項６】
請求項１から５のいずれか１項に記載の移動情報推定装置と、
前記推定値に基づき前記カメラの異常の有無を判定する判定部と、
を備える、異常検出装置。
【請求項７】
装置を用いて、移動体に搭載されたカメラからの情報に基づき前記移動体の移動情報の推定値を求める移動情報推定方法であって、
前記カメラにより入力されたフレーム画像から特徴点を抽出する抽出工程と、
現在の前記フレーム画像と前回の前記フレーム画像との間における前記特徴点の動きを示すオプティカルフローを算出する算出工程と、
前記オプティカルフローに基づき前記推定値を求める推定工程と、
を備え、
前記推定工程においては、前記抽出工程によって抽出された前記特徴点の数と、前記特徴点の固有性を示す特徴量とに基づき前記推定値の算出方式が切り替えられる、移動情報推定方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、移動情報推定装置、異常検出装置、および、移動情報推定方法に関する。
【背景技術】
【０００２】
従来、車両等の移動体には、駐車支援等に利用されるカメラが搭載されている。例えば車両に搭載される車載カメラは、車両を工場から出荷する前に、車両に固定した状態で取り付けられる。しかしながら、車載カメラは、例えば不意の接触や経年変化等によって、工場出荷時の取付け状態からずれを起こすことがある。車載カメラの取付け位置や角度がずれると、カメラ画像を利用して判断されるハンドルの操舵量等に誤差が生じるために、車載カメラの取付けのずれを検出することは重要である。
【０００３】
特許文献１に開示される車両用走行支援装置は、後方カメラで取得した画像を画像処理部で画像処理することで車両状態量によらずに車両の移動量を算出する第１の移動量算出手段と、車輪速センサと、操舵角センサの出力を基にして車両状態量に基づいて車両の移動量を算出する第２の移動量算出手段とを備える。例えば、第１の移動量算出手段は、後方カメラで取得した画像データからエッジ抽出等の手法により特徴点を抽出し、逆射影変換によって設定した特徴点の地表面上における位置を算出し、その位置の移動量を基にして車両の移動量を算出する。特許文献１には、求めた車両の移動量を比較して、偏差が大きい場合には、第１の移動量算出手段と第２の移動量算出手段との算出結果とのうちのいずれか一方に問題が生じている可能性があることが開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００４−３３８６３７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特徴点は、照明環境や車両の移動によって見え方が変化する可能性がある。特徴点の見え方が変化した場合に、フレーム画像間の特徴点の追跡が適切に行えないことが起り得る。すなわち、特許文献１の構成においては、第１の移動量算出手段を用いて算出される車両の移動量が不適切になる可能性がある。第１の移動量算出手段で求めた移動量が不適切になると、第２の移動量算出手段で求めた移動量との比較結果が不正確となり、誤った判断を行う可能性が生じる。
【０００６】
本発明は、移動体に搭載されたカメラからの情報に基づいて推定される移動情報の信頼性を向上することができる技術を提供することを目的とする。また、本発明は、移動体に搭載されたカメラの異常検出の信頼性を向上することができる技術を提供することを他の目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するために本発明の移動情報推定装置は、移動体に搭載されたカメラからの情報に基づき前記移動体の移動情報の推定値を求める移動情報推定装置であって、前記カメラより入力されたフレーム画像から特徴点を抽出する抽出部と、現在の前記フレーム画像と前回の前記フレーム画像との間における前記特徴点の動きを示すオプティカルフローを算出する算出部と、前記オプティカルフローに基づき前記推定値を求める推定部と、を備え、前記推定部は、前記抽出部によって抽出された前記特徴点の数と、前記特徴点の固有性を示す特徴量とに基づき前記推定値の算出方式を切り替える構成（第１の構成）になっている。
【０００８】
上記第１の構成の移動情報推定装置において、前記推定部は、前記特徴点の数と、前記特徴量の最大値と、前記特徴量の平均値とに基づき前記算出方式を切り替える構成（第２の構成）であることが好ましい。
【０００９】
上記第１又は第２の構成の移動情報推定装置において、前記算出方式には、前記抽出部で抽出された複数の前記特徴点のそれぞれに対して前記オプティカルフローを求め、ヒストグラムを用いた統計処理により前記推定値を求める第１算出方式と、前記特徴量が所定の閾値以上の前記特徴点から算出される前記オプティカルフローに基づき前記推定値の算出を行う第２算出方式と、が含まれる構成（第３の構成）であることが好ましい。
【００１０】
上記第１から第３のいずれかの構成の移動情報推定装置において、前記推定部は、前記推定値が使用できるか否かの判断を、前記特徴点の数および前記特徴量に基づき行うことがある構成（第４の構成）であることが好ましい。
【００１１】
また、上記第４の構成の移動情報推定装置において、前記推定部は、前記推定値が使用できないと判断した時は、前記推定値を求めない構成（第５の構成）であることが好ましい。
【００１２】
上記目的を達成するために本発明の異常検出装置は、上記移動情報推定装置と、前記推定値に基づき前記カメラの異常の有無を判定する判定部と、を備える構成（第６の構成）になっている。
【００１３】
上記目的を達成するために本発明の移動情報推定方法は、装置を用いて、移動体に搭載されたカメラからの情報に基づき前記移動体の移動情報の推定値を求める移動情報推定方法であって、前記カメラにより入力されたフレーム画像から特徴点を抽出する抽出工程と、現在の前記フレーム画像と前回の前記フレーム画像との間における前記特徴点の動きを示すオプティカルフローを算出する算出工程と、前記オプティカルフローに基づき前記推定値を求める推定工程と、を備え、前記推定工程においては、前記抽出工程によって抽出された前記特徴点の数と、前記特徴点の固有性を示す特徴量とに基づき前記推定値の算出方式が切り替えられる構成（第７の構成）になっている。
【発明の効果】
【００１４】
本発明によると、移動体に搭載されたカメラからの情報に基づいて推定される移動情報の信頼性を向上することができる。また、本発明によると、移動体に搭載されたカメラの異常検出の信頼性を向上することができる。
【図面の簡単な説明】
【００１５】
【図１】移動情報推定システムの構成を示すブロック図
【図２】移動情報の推定処理の一例を示すフローチャート
【図３】特徴点を抽出する手法を説明するための図
【図４】第１オプティカルフローを取得する手法を説明するための図
【図５】座標変換処理を説明するための図
【図６】算出方式の選択処理の一例を示すフローチャート
【図７】推定部によって生成された第１ヒストグラムの一例を示す図
【図８】推定部によって生成された第２ヒストグラムの一例を示す図
【図９】異常検出システムの構成を示すブロック図
【図１０】カメラずれの検出フローの一例を示すフローチャート
【図１１】ずれ判定処理の一例を示すフローチャート
【発明を実施するための形態】
【００１６】
以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。以下の説明では、本発明が適用される移動体が車両である場合を例にとり説明するが、本発明が適用される移動体は車両に限定される趣旨ではない。本発明は、例えばロボット等に適用されてもよい。車両には、例えば自動車、電車、無人搬送車等の車輪を有する乗り物が広く含まれる。
【００１７】
また以下の説明では、車両の直進進行方向であって、運転席からハンドルに向かう方向を「前方向」とする。また、車両の直進進行方向であって、ハンドルから運転席に向かう方向を「後方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の右側から左側に向かう方向を「左方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の左側から右側に向かう方向を「右方向」とする。なお、前後左右の方向は、単に説明のために用いられる名称であって、実際の位置関係及び方向を限定する趣旨ではない。
【００１８】
＜１．移動情報推定システム＞
図１は、本発明の実施形態に係る移動情報推定システムＳＹＳ１の構成を示すブロック図である。本実施形態においては、移動情報は車両の移動距離である。ただし、本発明の移動情報は、車両の移動距離に限らず、例えば車両の移動速度であってもよい。図１に示すように、移動情報推定システムＳＹＳ１は、移動情報推定装置１と撮影部２とを備える。
【００１９】
撮影部２は、車両周辺の状況を監視する目的で車両に設けられる。撮影部２はカメラ２１を備える。すなわち、カメラ２１は車載カメラである。カメラ２１は例えば魚眼レンズを用いて構成される。カメラ２１は、移動情報推定装置１に有線又は無線により接続され、撮影画像を移動情報推定装置１に出力する。
【００２０】
なお、本実施形態では、カメラ２１は車両の前方を撮影するフロントカメラである。ただし、カメラ２１は、例えば車両の後方、左方、又は、右方を撮影するカメラであってよい。また、撮影部２は、カメラ２１を複数備えてよく、例えば、フロントカメラに加えて、バックカメラ、左サイドカメラ、右サイドカメラを備えてよい。バックカメラは車両の後方を撮影する。左サイドカメラは車両の左方を撮影する。右サイドカメラは車両の右方を撮影する。
【００２１】
移動情報推定装置１は、車両に搭載されたカメラ２１からの情報に基づき当該カメラ２１を搭載する車両の移動情報の推定値を求める。本実施形態では、移動情報推定装置１は、カメラ２１を搭載する各車両に備えられる。換言すると、移動情報推定装置１は、移動情報の推定値を算出する対象となる車両自身に搭載される。以下、移動情報推定装置１を搭載する車両のことを自車両と呼ぶことがある。
【００２２】
なお、移動情報推定装置１は、移動情報の推定値を算出する対象となる車両以外の場所に配置されてもよい。例えば、移動情報推定装置１は、カメラ２１を有する車両と通信可能なデータセンタ等に配置されてもよい。
【００２３】
＜２．移動情報推定装置＞
図１に示すように、移動情報推定装置１は、画像取得部１１と、制御部１２と、記憶部１３とを備える。
【００２４】
画像取得部１１は、自車両のカメラ２１からアナログ又はデジタルの撮影画像（フレーム画像）を所定周期（例えば１／６０ｓ等）で時間的に連続して取得する。そして、取得したフレーム画像がアナログの場合には、そのアナログのフレーム画像をデジタルのフレーム画像に変換（Ａ／Ｄ変換）する。画像取得部１１は、取得したフレーム画像に対して所定の画像処理を行い、処理後のフレーム画像を制御部１２に出力する。
【００２５】
制御部１２は、例えばマイクロコンピュータであり、移動情報推定装置１の全体を統括的に制御する。制御部１２は、ＣＰＵ、ＲＡＭおよびＲＯＭ等を備える。記憶部１３は、例えば、フラッシュメモリ等の不揮発性のメモリであり、各種の情報を記憶する。記憶部１３は、ファームウェアとしてのプログラムや各種のデータを記憶する。
【００２６】
詳細には、制御部１２は、抽出部１２１と、算出部１２２と、推定部１２３とを備える。換言すると、移動情報推定装置１は、抽出部１２１と、算出部１２２と、推定部１２３とを備える。制御部１２が備えるこれら各部１２１〜１２３の機能は、例えば記憶部１３に記憶されるプログラムに従ってＣＰＵが演算処理を行うことによって実現される。
【００２７】
なお、制御部１２が備える各部１２１〜１２３の少なくともいずれか１つは、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアで構成されてもよい。また、制御部１２が備える各部１２１〜１２３は、概念的な構成要素である。１つの構成要素が実行する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を１つの構成要素に統合したりしてよい。また、画像取得部１１は、制御部１２のＣＰＵがプログラムに従って演算処理を行うことによって実現される構成でもよい。
【００２８】
抽出部１２１は、カメラ２１より入力されたフレーム画像から特徴点を抽出する。抽出部１２１は、取得したフレーム画像ごとに特徴点の抽出処理を行う。抽出部１２１は、フレーム画像の所定領域（ＲＯＩ：Region of Interest）から特徴点を抽出する。特徴点は、フレーム画像中のエッジの交点など、フレーム画像において際立って検出できる点である。特徴点は、例えば白線等で描かれる路面標示のコーナー、路面上のひび、路面上のしみ、路面上の砂利等から抽出される。特徴点は、例えば、ハリスオペレータ等の公知の手法を用いて抽出することができる。
【００２９】
本実施形態では、抽出部１２１は、フレーム画像を構成する画素それぞれについて特徴量を算出し、特徴量が所定の閾値を超える画素を特徴点として抽出する。特徴量は、特徴点の固有性、すなわち画素が他の画素と比べて異なった特徴を有していることを表す指標である。例えばコーナーらしさを示すコーナー度などがある。本実施形態では、特徴量の算出には、ＫＬＴ法（Kanade-Lucus-Tomasi tracker）が用いられる。
【００３０】
特徴量の算出にあたって、フレーム画像上にｘｙ座標系が規定され、各画素について、ソベルフィルタを用いて、以下の３つのパラメータが求められる。
【数１】
2020042715.tif 000003
なお、Ｇ１１は、ｘ方向の微分結果の２乗値である。Ｇ１２は、ｘ方向の微分結果とｙ方向の微分結果の積である。Ｇ２２は、ｙ方向の微分結果の２乗値である。
【００３１】
ソベルフィルタを用いた処理により、各画素について以下の行列Ｍが得られる。
【数２】
2020042715.tif 000004
【００３２】
行列Ｍ（式（４））の固有値λは、Ｉを単位行列として、下記の式（５）から求められる。
【数３】
2020042715.tif 000005
【００３３】
式（５）の解は、２次方程式の解として下記の式（６）、（７）に示すλ１と、λ２として求められる。
【数４】
2020042715.tif 000006
【００３４】
本実施形態では、以下の式（８）を満たす画素を特徴点として抽出し、極小値となる固有値λ１を特徴量とする。式（８）において、Ｔは特徴点を検出するための所定の閾値である。
【数５】
2020042715.tif 000007
【００３５】
算出部１２２は、現在のフレーム画像と前回のフレーム画像との間における特徴点の動きを示すオプティカルフローを算出する。前回フレーム画像は、現在フレーム画像より１周期前に取得したフレーム画像である。算出部１２２は、前回フレーム画像が存在しない場合にはオプティカルフローを算出しない。算出部１２２は、取得したフレーム画像ごとにオプティカルフローの算出処理を行う。
【００３６】
算出部１２２は、フレーム画像により求めたオプティカルフローを座標変換して路面上のフロー（動きベクトル）に変換する。本明細書では、座標変換によって得られた路面上のフローもオプティカルフローに含む。以下、フレーム画像上の特徴点の動きを示す動きベクトルを第１オプティカルフロー、路面上の特徴点の動きを示す動きベクトルを第２オプティカルフローと表現することがある。また、第１オプティカルフローと第２オプティカルフローとを特に区別することなく、単にオプティカルフローと表現することもある。
【００３７】
なお、算出部１２２は、フレーム画像から抽出された各特徴点について、先に路面上の座標に変換し、第１オプティカルフローを求めることなく第２オプティカルフローを求めてもよい。
【００３８】
推定部１２３は、オプティカルフローに基づき推定値を求める。本実施形態において、推定値は自車両の移動距離の推定値である。推定部１２３は、抽出部１２１によって抽出された特徴点の数と、特徴点の固有性を示す特徴量とに基づき推定値の算出方式を切り替える。本実施形態では、上述のように、特徴量はＫＬＴ法によって求められる。推定部１２３は、特徴点の数が複数である場合に、複数の特徴点の特徴量に基づいて推定値の算出方式を切り替える。推定部１２３によって切り替えられる算出方式には、第１算出方式と第２算出方式とが含まれる。算出方式の詳細については後述する。
【００３９】
本実施形態では、フレーム画像により抽出した特徴点の傾向に基づいて移動情報の推定値を算出する算出方式を切り替える。これによれば、特徴点の抽出傾向に適した方式で推定値を求めることができ、推定値の推定精度を向上することができる。すなわち、本実施形態によれば、移動情報の推定値の信頼度を向上することができる。
【００４０】
図２は、移動情報推定装置１による移動情報の推定処理の一例を示すフローチャートである。移動情報の推定処理は、例えば、自車両のカメラ２１の異常を検出したり、駐車支援を行ったりする目的で実行される。まず、画像取得部１１によって、自車両のカメラ２１からフレーム画像が取得される（ステップＳ１）。フレーム画像が取得されると、抽出部１２１によって特徴点の抽出処理が行われる（ステップＳ２）。
【００４１】
図３は、特徴点ＦＰを抽出する手法を説明するための図である。図３は、カメラ２１（フロントカメラ）で撮影されたフレーム画像Ｐを模式的に示している。本実施形態では、特徴点ＦＰは画像の路面ＲＳ部分から抽出される。図３においては、特徴点ＦＰの数は２つとされているが、この数は便宜的なものであり、実際の数を示すものではない。特徴点ＦＰは、例えばアスファルト路面のように表面に凹凸が多い路面ＲＳでは多く抽出される。一方、コンクリート路面のような平滑な路面ＲＳでは特徴点ＦＰの数は少なくなる。路面ＲＳに白線等で描かれた路面表示が存在する場合には、路面標示のコーナーから特徴量の大きな特徴点ＦＰが抽出される。
【００４２】
図３に示すように、抽出部１２１は、フレーム画像Ｐの所定の抽出領域ＥＲ内から特徴点ＦＰを抽出する。所定の抽出領域ＥＲは、例えば、フレーム画像Ｐの中心部Ｃを含む広範囲に設定される。これにより、特徴点ＦＰの発生箇所が均一でなく偏った範囲に偏在する場合でも、特徴点ＦＰを抽出することができる。なお、所定の抽出領域ＥＲは、例えば、車両のボディＢＯが映る領域は避けて設定される。
【００４３】
特徴点ＦＰが抽出されると、算出部１２２は、抽出した特徴点ＦＰごとにオプティカルフローを算出する（ステップＳ３）。詳細には、算出部１２２は第１オプティカルフローＯＦ１を算出する。図４は、第１オプティカルフローＯＦ１を求める手法を説明するための図である。図４は、図３と同様に便宜的に示された模式図である。図４は、図３に示すフレーム画像（前回フレーム画像）Ｐの撮影後、所定周期が経過した後にカメラ２１で撮影されたフレーム画像（現在フレーム画像）Ｐ´である。図３に示すフレーム画像Ｐの撮影後、所定時間が経過するまでの間に、自車両は後退している。図４に示す破線の丸印は、図３に示す前回フレーム画像Ｐにおいて抽出された特徴点ＦＰの位置を示す。
【００４４】
図４に示すように、自車両が後退すると、自車両の前方に存在する特徴点ＦＰは自車両から離れる。すなわち、特徴点ＦＰは、現在フレーム画像Ｐ´と前回フレーム画像Ｐとで異なる位置に現れる。算出部１２２は、現在フレーム画像Ｐ´の特徴点ＦＰと前回フレーム画像Ｐの特徴点ＦＰとを、その近傍の画素値も考慮に入れて対応付け、対応付けた特徴点ＦＰのそれぞれの位置に基づいて第１オプティカルフローＯＦ１を求める。
【００４５】
各特徴点ＦＰの第１オプティカルフローＯＦ１が取得されると、算出部１２２は、カメラ座標系で得られた各第１オプティカルフローＯＦ１を、ワールド座標系に変換する座標変換を行う（ステップＳ４）。この座標変換によって第２オプティカルフローが得られる。
【００４６】
図５は、座標変換処理を説明するための図である。図５に示すように、算出部１２２は、カメラ２１の位置（視点ＶＰ１）から見た第１オプティカルフローＯＦ１を、自車両が存在する路面ＲＳの上方の視点ＶＰ２から見た第２オプティカルフローＯＦ２に変換する。算出部１２２は、フレーム画像における各第１オプティカルフローＯＦ１を、路面に相当する仮想平面ＲＳ_Ｖに投影することで、ワールド座標系の第２オプティカルフローＯＦ２に変換する。第２オプティカルフローＯＦ２は、路面ＲＳ上の動きベクトルであり、その大きさは路面ＲＳ上の移動量（移動距離）を示す。なお、本実施形態では、カメラ２１が魚眼レンズであるために座標変換には歪補正も含まれる。
【００４７】
第２オプティカルフローＯＦ２が得られると、推定部１２３は、移動情報の推定値を求めるための算出方式の選択を行う（ステップＳ５）。図６は、推定部１２３によって行われる算出方式の選択処理の一例を示すフローチャートである。なお、図６に示す処理は、図２のステップＳ５の詳細処理例である。
【００４８】
算出方式の選択処理に際して、まず、推定部１２３は、特徴点ＦＰの数が所定の第１点数閾値以上であるか否かを判断する（ステップＳ１１）。特徴点ＦＰの数が多数得られた場合、多数のオプティカルフローを用いて統計処理を行うことができ、自車両の移動距離の推定値を精度良く求めることが可能になる。統計処理の利用により精度良く推定値を算出することができる特徴点ＦＰの数を例えば実験やシミュレーション等によって求め、求めた数に基づいて第１点数閾値が決定される。本実施形態では、第１点数閾値は、統計処理の利用により精度良く推定値を算出することができる特徴点ＦＰの数の下限値より大きな値とされる。
【００４９】
特徴点ＦＰの数が第１点数閾値以上である場合（ステップＳ１１でＹｅｓ）、推定部１２３は第１算出方式で推定値の算出を行うことに決定する（ステップＳ１２）。第１算出方式は、抽出部１２１で抽出された複数の特徴点のそれぞれに対してオプティカルフローを求め、ヒストグラムを用いた統計処理により推定値を求める方式である。多数のオプティカルフローを用いて統計処理を行うことができ、自車両の移動距離の推定値を精度良く求めることができる。第１算出方式の詳細については後述する。
【００５０】
一方、特徴点ＦＰの数が第１点数閾値より少ない場合（ステップＳ１１でＮｏ）、推定部１２３は、特徴点ＦＰの数が所定の第２点数閾値以上であるか否かを判断する（ステップＳ１３）。本実施形態では、第２点数閾値は、統計処理の利用により精度良く推定値を算出することができる特徴点ＦＰの数の下限値近傍の値である。第２点数閾値は、例えば実験やシミュレーション等によって求められる。
【００５１】
特徴点ＦＰの数が第２点数閾値以上である場合（ステップＳ１３でＹｅｓ）、推定部１２３は、抽出された特徴点ＦＰの特徴量の最大値が所定の最大値閾値以上であるか否かを判断する（ステップＳ１４）。この処理の時点では、抽出された特徴点ＦＰの数は複数である。複数の特徴点ＦＰの各特徴量のうち、最も大きな特徴量が、ここでいう特徴量の最大値になる。例えば、白線のコーナーは特徴量が非常に大きく、特徴点ＦＰの追跡を精度良く行うことができる。このような特徴量が非常に大きな特徴点を用いると、精度良くオプティカルフローを求めることができ、移動情報の推定値の精度を向上することができる。最大値閾値は、例えば白線のコーナーのような非常に大きな特徴量を有する特徴点が存在するか否かを判別できる値に設定される。最大値閾値は、例えば実験やシミュレーション等によって求められる。
【００５２】
特徴量の最大値が最大値閾値以上である場合（ステップＳ１４でＹｅｓ）、推定部１２３は、抽出された特徴点ＦＰの特徴量の平均値が所定の平均値閾値以上であるか否かを判断する（ステップＳ１５）。この処理の時点では、抽出された特徴点ＦＰの数は複数であり、複数の特徴点ＦＰの特徴量の平均値が求められる。特徴量が最大値閾値以上の特徴点ＦＰが存在する場合でも、当該特徴点ＦＰが本当に信頼できる特徴点ＦＰであるとは必ずしも断定することはできない。このため、本実施形態では、特徴量の平均値が所定の平均値閾値以上であるか否かを確認し、当該確認結果に応じて最大値閾値以上の特徴量を有する特徴点ＦＰの信頼性を判断する構成としている。平均値閾値は、例えば実験やシミュレーション等によって求められる。
【００５３】
特徴量の平均値が平均値閾値以上である場合（ステップＳ１５でＹｅｓ）、推定部１２３は第２算出方式で推定値の算出を行うことに決定する（ステップＳ１６）。第２算出方式は、特徴量が所定の閾値以上の特徴点ＦＰから算出されるオプティカルフローに基づき推定値の算出処理を行う方式である。ここで言う所定の閾値は、本実施形態においは最大値閾値である。ただし、所定の閾値は最大値閾値と異なってもよい。特徴量の平均値が平均値閾値以上である場合、特徴量の大きな特徴点ＦＰの数が多く、特徴量が最大値閾値以上の特徴点ＦＰは、例えば白線のコーナー等である可能性が高い。このために、大きな特徴量を示す特徴点ＦＰから求められるオプティカルフローに絞って推定値を求めることにより、移動情報の推定値の信頼度を向上することができる。
【００５４】
一方、特徴量の最大値が最大値閾値より小さい場合（ステップＳ１４でＮｏ）、および、特徴量の平均値が平均値閾値より小さい場合（ステップＳ１５でＮｏ）、推定部１２３は第１算出方式で推定値の算出を行うことに決定する（ステップＳ１７）。特徴量の最大値が最大値閾値より小さい場合には、白線のコーナーのような信頼性の高い特徴点ＦＰが存在せず、統計処理を用いて推定値を求めた方が信頼性の高い推定値を得ることができる判断される。このために、第１算出方式が選択される。また、特徴量の平均値が平均値閾値より小さい場合、抽出された特徴点ＦＰの多くは路面の凹凸等に由来する特徴点であると推定され、特徴量が最大値閾値以上の特徴点ＦＰは、必ずしも信頼できる特徴点でない可能性がある。このために、統計処理を用いて推定値を求めた方が信頼性の高い推定値を得ることができる判断され、第１算出方式が選択される。
【００５５】
また、特徴点ＦＰの数が第２点数閾値より少ない場合（ステップＳ１３でＮｏ）、推定部１２３は、抽出された特徴点ＦＰの特徴量の最大値が所定の最大値閾値以上であるか否かを判断する（ステップＳ１８）。特徴点ＦＰの数が単数である場合には、当該特徴点ＦＰの特徴量が最大値となる。特徴点ＦＰの数が複数である場合には、複数の特徴点ＦＰの各特徴量のうち、最も大きな特徴量が特徴量の最大値になる。
【００５６】
特徴量の最大値が最大値閾値以上である場合（ステップＳ１８でＹｅｓ）、推定部１２３は、抽出された特徴点ＦＰの特徴量の平均値が所定の平均値閾値以上であるか否かを判断する（ステップＳ１９）。特徴点ＦＰの数が単数である場合には、当該特徴点ＦＰの特徴量が特徴量の平均値になる。特徴点ＦＰの数が複数である場合には、複数の特徴点ＦＰの特徴量の平均値が求められる。
【００５７】
特徴量の平均値が平均値閾値以上である場合（ステップＳ１９でＹｅｓ）、推定部１２３は第２算出方式で推定値の算出を行うことに決定する（ステップＳ２０）。抽出された特徴点ＦＰの中に、白線のコーナーのような信頼性の高い特徴点ＦＰが存在し、当該特徴点ＦＰのオプティカルフローを用いて精度良く推定値を求めることができると判断されるためである。
【００５８】
一方、特徴量の最大値が最大値閾値より小さい場合（ステップＳ１８でＮｏ）、および、特徴量の平均値が平均値閾値より小さい場合（ステップＳ１９でＮｏ）、推定部１２３は、推定値を求めないことに決定する（ステップＳ２１）。抽出された特徴点ＦＰの数が少なく、更に白線のコーナーのような信頼できる特徴点ＦＰが存在しないために、信頼できる推定値を求めることができないと判断されるためである。
【００５９】
以上のように、本実施形態では、推定部１２３は、特徴点ＦＰの数と、特徴量の最大値と、特徴量の平均値とに基づき移動情報の推定値を求める算出方式を切り替える。これによれば、移動情報の推定値の推定精度が高くなる算出方式を選択して推定値を求めることができる。すなわち、移動情報の推定値の信頼度を向上することができる。
【００６０】
なお、図６に示す算出方式の選択処理は例示に過ぎない。例えば、推定部１２３は、特徴点ＦＰの数と、特徴量の最大値とのみに基づいて推定値を求める算出方式を切り替える構成であってもよい。すなわち、図６において、ステップＳ１５およびステップＳ１９は省略される構成であってよい。また、例えば、推定部１２３は、特徴量の最大値が所定の最大値閾値以上となる特徴点ＦＰが存在する場合には、特徴点ＦＰの数によらず、第２算出方式で推定値を求める構成であってもよい。
【００６１】
また、以上に示したように本実施形態では、推定部１２３は、特徴点の数および特徴量に基づき、推定値は使用できないと判断することがある。詳細には、推定部１２３は、特徴点の数および特徴量に基づき信頼性の低い推定値しか得られないと判断される場合に、推定値は使用できないと判断する。これによれば、移動情報推定装置１は、信頼性の高い推定値のみを示すことができ、移動情報推定装置１から情報を受け取る装置が誤った判断を行うことを抑制できる。なお、推定値は使用できないと判断された場合には、当該フレームの特徴点ＦＰに関する情報は破棄されることが好ましい。またそのような場合には、推定値を求める処理自体を行わないことも処理コストの点で好ましい。
【００６２】
図２に戻って、算出方式の選択が行われると、推定部１２３は推定値を算出する（ステップＳ６）。第１算出方式が選択された場合、推定部１２３は、複数の第２オプティカルフローＯＦ２に基づいてヒストグラムを生成する。本実施形態では、推定部１２３は、各第２オプティカルフローＯＦ２を前後方向と左右方向との２成分に分けて、第１ヒストグラムと第２ヒストグラムとを生成する。推定部１２３は、第１ヒストグラムと第２ヒストグラムとを用いて推定値を算出する。
【００６３】
図７は、推定部１２３によって生成された第１ヒストグラムＨＧ１の一例を示す図である。図８は、推定部１２３によって生成された第２ヒストグラムＨＧ２の一例を示す図である。なお、推定部１２３は、ヒストグラムＨＧ１、ＨＧ２の生成の前後において、先に求められた全てのオプティカルフローの中から所定の条件に該当するオプティカルフローを除去対象とする除去処理を行ってもよい。この場合、除去処理によって除去対象となったオプティカルフローが除かれたヒストグラムＨＧ１、ＨＧ２を用いて移動情報の推定値が求められる。例えば、自車両の速度、舵角、シフトレバー位置等から想定されない大きさや方向を示すオプティカルフローは除去されてよい。また、例えば、ヒストグラムにおいて、度数が極端に低い階級に属するオプティカルフローは除去されてよい。
【００６４】
図７に示す第１ヒストグラムＨＧ１は、各第２オプティカルフローＯＦ２の前後方向成分に基づいて得られたヒストグラムである。第１ヒストグラムＨＧ１は、第２オプティカルフローＯＦ２の数を度数とし、前後方向への移動距離（第２オプティカルフローＯＦ２の前後方向成分の長さ）を階級とするヒストグラムである。図８に示す第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の左右方向成分に基づいて得られたヒストグラムである。第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の数を度数とし、左右方向への移動距離（第２オプティカルフローＯＦ２の左右方向成分の長さ）を階級とするヒストグラムである。
【００６５】
図７および図８は、自車両が後方に直進した場合に得られたヒストグラムである。第１ヒストグラムＨＧ１は、後方側の特定の移動距離（階級）に偏って度数が多くなる正規分布形状になっている。一方、第２ヒストグラムＨＧ２は、移動距離ゼロの近傍の階級に偏って度数が多くなる正規分布形状になっている。
【００６６】
本実施形態では、推定部１２３は、第１ヒストグラムＨＧ１の中央値（メジアン）を前後方向の移動距離の推定値とする。推定部１２３は、第２ヒストグラムＨＧ２の中央値を左右方向の移動距離の推定値とする。ただし、推定部１２３による推定値の決定方法は、これに限定されない。推定部１２３は、例えば、各ヒストグラムＨＧ１、ＨＧ２の度数が最大となる階級の移動距離（最頻値）を推定値としてもよい。なお、中央値を推定値とする場合には、中央値は、ヒストグラムの異常値をノイズとして除外する処理を行った後に求められることが好ましい。異常値は、例えば、ヒストグラムの中央から異常に離れた値であり、ヒストグラムの端の方に単独（周囲に度数を有する他の階級が殆ど存在しない）で存在する階級の移動距離が該当する。
【００６７】
一方、第２算出方式が選択された場合、推定部１２３は、特徴量が最大値閾値以上の特徴点ＦＰに絞ってオプティカルフローに基づく推定値の算出処理を行う。詳細には、特徴量が最大値閾値以上の特徴点ＦＰが単数である場合には、当該特徴点ＦＰから求められる第２オプティカルフローの前後方向成分の長さを前後方向の移動距離の推定値とする。また、第２オプティカルフローの左右方向成分の長さを左右方向の移動距離の推定値とする。特徴量が最大値閾値以上の特徴点ＦＰが複数である場合には、例えば、当該複数の特徴点ＦＰから求められる各第２オプティカルフローの前後方向成分の長さの平均値を前後方向の移動距離の推定値とする。また、各第２オプティカルフローの左右方向成分の長さの平均値を左右方向の移動距離の推定値とする。ただし、特徴量が最大値閾値以上の特徴点ＦＰが複数である場合には、特徴量が最も大きな特徴点ＦＰから求められる第２オプティカルフローのみから推定値を求めてもよい。
【００６８】
なお、本実施形態では、推定値の算出方式の選択がオプティカルフローを求めた後に行われる構成としたが、これは例示にすぎない。例えば、推定値の算出方式の選択は、オプティカルフローの算出を行う前に行われてもよい。
【００６９】
また、本実施形態では、前後方向および左右方向の移動距離の推定値を求める構成としたが、これは例示にすぎない。例えば、前後方向と左右方向とのうち、いずれか一方の移動距離の推定値を求める構成等としてもよい。
【００７０】
＜３．異常検出システム＞
図９は、本発明の実施形態に係る異常検出システムＳＹＳ２の構成を示すブロック図である。本実施形態において、異常は、車載カメラの取付けのずれが生じた状態を指す。すなわち、異常検出システムＳＹＳ２は、車載カメラの取付けのずれ（以下、「カメラずれ」と表現する）を検出するシステムである。詳細には、異常検出システムＳＹＳ２は、例えば、工場出荷時における車両へのカメラの取付け状態等の基準となる取付け状態からのカメラずれを検出するシステムである。カメラずれには、軸ずれや、軸周りの回転によるずれ等が広く含まれる。軸ずれには、取付け位置のずれや取付け角度のずれ等が含まれる。
【００７１】
図９に示すように、異常検出システムＳＹＳ２は、異常検出装置１０と、撮影部２Ａと、センサ部３とを備える。撮影部２Ａは、上述した移動情報推定システムＳＹＳ１の撮影部２と同様の構成であり、カメラ２１を含む。撮影部２Ａの説明は、移動情報推定システムＳＹＳ１の場合と同様であるために省略する。
【００７２】
異常検出装置１０は、車両に搭載されたカメラ２１の異常を検出する装置である。詳細には、異常検出装置１０は、車両に搭載されたカメラ２１からの情報に基づき当該カメラ２１自身のカメラずれを検出する装置である。異常検出装置１０を用いることによってカメラずれを迅速に検出することができ、例えば、カメラずれが生じた状態で運転支援等が行われることを防止できる。
【００７３】
本実施形態では、異常検出装置１０は、カメラずれの検出を行う対象となる車両自身に搭載される。ただし、異常検出装置１０は、カメラずれの検出を行う対象となる車両以外の場所に配置されてもよい。例えば、異常検出装置１０は、カメラ２１を有する車両と通信可能なデータセンタ等に配置されてもよい。異常検出装置１０は、撮影部２Ａが複数のカメラ２１を有する場合には、カメラ２１毎にカメラずれの検出を行う。異常検出装置１０の詳細については後述する。
【００７４】
なお、異常検出装置１０は、不図示の表示装置や運転支援装置に処理情報を出力してよい。表示装置は、異常検出装置１０から出力される情報に基づいて、適宜、カメラずれに関する警告等を画面に表示してよい。運転支援装置は、異常検出装置１０から出力される情報に基づいて、適宜、運転支援機能を停止したり、カメラ２１による撮影情報の補正を行って運転支援を行ったりしてよい。運転支援装置は、例えば自動運転を支援する装置、自動駐車を支援する装置、緊急ブレーキを支援する装置等であってよい。
【００７５】
センサ部３は、カメラ２１が搭載される車両に関する情報を検出する複数のセンサを有する。本実施形態では、センサ部３は、車速センサ３１と舵角センサ３２とを含む。車速センサ３１は、車両の速度を検出する。舵角センサ３２は、車両のステアリングホイール（ハンドル）の回転角を検出する。車速センサ３１および舵角センサ３２は、通信バス４を介して異常検出装置１０に接続される。すなわち、車速センサ３１で取得された車両の速度情報は、通信バス４を介して異常検出装置１０に入力される。舵角センサ３２で取得された車両のステアリングホイールの回転角情報は、通信バス４を介して異常検出装置１０に入力される。なお、通信バス４は、例えばＣＡＮ（Controller Area Network）バスであってよい。
【００７６】
＜４．異常検出装置＞
図９に示すように、異常検出装置１０は、画像取得部１１Ａと、制御部１２Ａと、記憶部１３Ａとを備える。画像取得部１１Ａおよび記憶部１３Ａの構成は、移動情報推定装置１の構成と同様であるために説明を省略する。
【００７７】
制御部１２Ａは、例えばマイクロコンピュータであり、異常検出装置１０の全体を統括的に制御する。制御部１２Ａは、ＣＰＵ、ＲＡＭおよびＲＯＭ等を備える。制御部１２Ａは、抽出部１２１と、算出部１２２と、推定部１２３と、取得部１２４と、判定部１２５と、を備える。制御部１２Ａが備えるこれら各部１２１〜１２５の機能は、例えば記憶部１３Ａに記憶されるプログラムに従ってＣＰＵが演算処理を行うことによって実現される。
【００７８】
抽出部１２１、算出部１２２および推定部１２３は、移動情報推定装置１の構成と同様である。すなわち、異常検出装置１０は、移動情報推定装置１を含んで構成される。異常検出装置１０は、移動情報推定装置１と、取得部１２４と、判定部１２５とを備える。
【００７９】
なお、移動情報推定装置１の場合と同様に、制御部１２Ａが備える各部１２１〜１２５の少なくともいずれか１つは、ＡＳＩＣやＦＰＧＡ等のハードウェアで構成されてもよい。また、制御部１２Ａが備える各部１２１〜１２５は、概念的な構成要素である。１つの構成要素が実行する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を１つの構成要素に統合したりしてよい。
【００８０】
取得部１２４は、推定部１２３で取得した推定値との比較に用いる比較値を取得可能に設けられる。本実施形態では、取得部１２４は、自車両に設けられるカメラ２１以外のセンサから得られる情報に基づいて比較値を取得する。詳細には、取得部１２４は、センサ部３から得られる情報に基づいて比較値を取得する。
【００８１】
本実施形態では、推定値が移動距離を表す数値であるために、推定値との比較に用いる比較値も移動距離を表す数値である。取得部１２４は、車速センサ３１から得られる車速に所定の時間を乗じて移動距離を算出する。所定の時間は、例えば、推定値と比較値とを一対一で比較する場合には、オプティカルフローを求めるために利用する２つのフレーム画像のサンプリング間隔（上述の所定周期）と同じである。また、推定部１２３で得られる推定値が前進方向の推定値と、左右方向の推定値との２種類であるので、取得部１２４は、前進方向の比較値と、左右方向の比較値とを取得する。自車両の進行方向情報は、舵角センサ３２からの情報により取得することができる。本実施形態によれば、自車両が通常備えるセンサを用いてカメラずれを検出することができるために、カメラずれを検出するために必要となる設備コストを抑制することができる。
【００８２】
なお、推定値が移動距離の代わりに移動速度を表す数値である場合には、比較値も移動速度を表す数値とすればよい。また、取得部１２４は、車速センサ３１の代わりに、例えばＧＰＳ（Global Positioning System）受信機から取得される情報に基づいて比較値を取得してもよい。また、取得部１２４は、カメラずれの検出対象となるカメラ２１以外の少なくとも１つのカメラから得られる情報に基づいて比較値を取得してもよい。この場合、取得部１２４は、カメラずれの検出対象となるカメラ以外のカメラから得られるオプティカルフローに基づいて比較値を取得してよい。すなわち、比較値の取得方法は、移動情報推定装置１による推定値の取得方法と同様であってよい。
【００８３】
判定部１２５は、推定部１２３で求められた推定値に基づきカメラ２１の異常の有無を判定する。詳細には、判定部１２５は、推定部１２３で求められた推定値と、取得部１２４で取得された比較値とに基づいてカメラ２１の異常の有無を判定する。例えば、判定部１２５は、フレーム画像ごとに、推定値と比較値とを一対一で比較してカメラずれの有無を判定する。この場合、取得部１２４により取得された比較値が自車両の移動距離の正解値とされ、当該正解値に対して推定値のずれの大きさを判定する。当該ずれの大きさが所定の閾値を超える場合に、判定部１２５はカメラずれが発生していると判断する。
【００８４】
なお、判定部１２５は、フレーム画像ごとではなく、所定数のフレーム画像の推定値が蓄積された時点でカメラずれの有無を判定してもよい。例えば、判定部１２５は、推定値を所定フレーム数だけ累積して累積推定値を求める。また、判定部１２５は、取得部１２４からの情報により、累積推定値を求めるために利用した複数フレームに対応した累積比較値を取得する。判定部１２５は、累積推定値と累積比較値と比較して、カメラずれの有無を判定する。
【００８５】
本実施形態では、推定部１２３が特徴点ＦＰの傾向に応じて算出方式を変更して推定値を求めるために、精度良く推定値を求めることができる。このために、推定値と比較値との比較によって得られるカメラずれの判定結果の信頼性を向上することができる。すなわち、本実施形態の異常検出装置１０によれば、カメラ２１の異常検出の信頼性を向上することができる。
【００８６】
図１０は、異常検出装置１０によるカメラずれの検出フローの一例を示すフローチャートである。カメラずれの検出処理は、例えば、所定期間毎（１週間毎等）、所定走行距離毎（１００ｋｍ毎等）、エンジン起動毎（イグニッション（ＩＧ）オン毎）、エンジン起動が所定回数に達した時点毎等に実行されてよい。
【００８７】
図１０に示すように、まず、制御部１２Ａは、カメラ２１を搭載する自車両が直進しているか否かを監視する（ステップＳ３１）。自車両が直進しているか否かは、例えば、舵角センサ３２から得られるステアリングホイールの回転角情報に基づいて判断することができる。例えば、ステアリングホイールの回転角がゼロの時に自車両が完全にまっすぐに進むとした場合に、回転角がゼロの場合だけでなく、回転角がプラス方向とマイナス方向の一定範囲内の回転である場合を含めて、自車両が直進していると判断してよい。なお、直進には、前進方向の直進と、後退方向の直進との両方が含まれる。
【００８８】
制御部１２Ａは、自車両の直進を検出するまで、ステップＳ３１の監視を繰り返す。制御部１２Ａは、自車両が直進走行しない限り、カメラずれの有無を判定するための処理を進めない。これによれば、自車両の進行方向が曲がっている場合の情報を用いてカメラずれの有無の判定が行われないために、カメラずれの有無を判定するための情報処理が複雑になることを避けられる。
【００８９】
自車両が直進していると判断される場合（ステップＳ３１でＹｅｓ）、制御部１２Ａは、自車両の速度が所定速度範囲内であるか否かを確認する（ステップＳ３２）。所定速度範囲は、例えば時速３ｋｍ以上５ｋｍ以下としてよい。本実施形態では、自車両の速度は車速センサ３１によって取得することができる。なお、ステップＳ２１とステップＳ２２とは、順番が入れ替わってもよい。
【００９０】
制御部１２Ａは、自車両の速度が所定速度範囲外である場合（ステップＳ３２でＮｏ）、ステップＳ３１に戻って自車両の直進判断を行う。すなわち、制御部１２Ａは、自車両の速度が所定速度範囲内でない限り、カメラずれの有無を判定するための処理を進めない。例えば、自車両の速度が速すぎると、オプティカルフローを求めるにあたって誤差が生じやすくなる。一方で、自車両の速度が遅すぎると、車速センサ３１から取得される自車両の速度の信頼性が低下する。この点、本実施形態の構成によれば、自車両の速度が速すぎる場合や遅すぎる場合を除いてカメラずれの判定を行うことができ、カメラずれの有無の判定精度を向上することができる。
【００９１】
自車両が所定速度範囲内で走行していると判断される場合（ステップＳ３２でＹｅｓ）、制御部１２Ａは、抽出部１２１、算出部１２２および推定部１２３により、自車両の移動情報の推定値を求める処理を行う（ステップＳ３３）。当該処理は、図２に示す移動情報推定処理と同様であるための説明を省略する。
【００９２】
推定部１２３で自車両の移動情報の推定値が得られると、判定部１２５は、当該推定値と、取得部１２４で取得された比較値とを比較してカメラ２１のずれ判定を行う（ステップＳ３４）。本実施形態では、前後方向の移動距離について推定値と比較値との比較が行われる。また、左右方向の移動距離について推定値と比較値との比較が行われる。これらの比較の結果に基づいてカメラずれの判定が行われる。
【００９３】
なお、本実施形態では、自車両が前後方向に直進している場合に得られる情報に基づいて、ずれの判定が行われる。このために、取得部１２４が取得する左右方向の比較値（移動距離）はゼロになる。また、取得部１２４は、オプティカルフローを導出するための２つの撮影画像の撮影時間間隔と、当該時間間隔における車速センサ３１によって得られる自車両の速度とによって、前後方向の比較値（移動距離）を算出する。
【００９４】
図１１は、判定部１２５によって行われるずれ判定処理の一例を示すフローチャートである。なお、図１１に示す処理は、図１０のステップＳ３４の詳細処理例である。
【００９５】
まず、判定部１２５は、自車両の前後方向の移動距離について、推定部１２３によって求められた推定値と、取得部１２４によって取得された比較値との差の大きさ（前後方向のずれ量）が、第１ずれ閾値より小さいか否かを確認する（ステップＳ４１）。前後方向のずれ量が第１ずれ閾値以上である場合（ステップＳ４１でＮｏ）、判定部１２５は、カメラずれ有りと判定する（ステップＳ４５）。すなわち、判定部１２５は、カメラ２１の取付け状態の異常を検出する。
【００９６】
一方、前後方向のずれ量が第１ずれ閾値より小さい場合（ステップＳ４１でＹｅｓ）、判定部１２５は、自車両の左右方向の移動距離について、推定部１２３によって求められた推定値と、取得部１２４によって取得された比較値との差の大きさ（左右方向のずれ量）が、第２ずれ閾値より小さいか否かを確認する（ステップＳ４２）。左右方向のずれ量が第２ずれ閾値以上である場合（ステップＳ４２でＮｏ）、判定部１２５は、カメラずれ有りと判定する（ステップＳ４５）。すなわち、判定部１２５は、カメラ２１の取付け状態の異常を検出する。
【００９７】
一方、左右方向のずれ量が第２ずれ閾値より小さい場合（ステップＳ４２でＹｅｓ）、判定部１２５は、自車両の前後方向および左右方向の移動距離に基づいて得られる特定値について、推定値から得られる値と、比較値から得られる値との差の大きさ（前後左右の組合せのずれ量）が、第３ずれ閾値より小さいか否かを確認する（ステップＳ４３）。本実施形態では、特定値は、前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和の平方根値である。ただし、これは例示にすぎず、特定値は、例えば、前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和であってもよい。
【００９８】
前後左右の組合せのずれ量が第３ずれ閾値以上である場合（ステップＳ４３でＮｏ）、判定部１２５は、カメラずれ有りと判定する（ステップＳ４５）。すなわち、判定部１２５は、カメラ２１の取付け状態の異常を検出する。一方、前後左右の組合せのずれ量が第３ずれ閾値より小さい場合（ステップＳ４３でＹｅｓ）、判定部１２５は、カメラ２１の取付け状態は正常であると判定する（ステップＳ４４）。すなわち、判定部１２５は、カメラずれを検出しない。
【００９９】
本実施形態では、前後方向の移動距離、左右方向の移動距離、および、特定値のうち、いずれか１つでも、異常が認められると、カメラずれが発生していると判定する。これによれば、カメラずれが発生しているにもかかわらず、カメラずれが発生していないと判定する可能性を低減できる。ただし、これは例示である。例えば、前後方向の移動距離、左右方向の移動距離、および、特定値の全てにおいて異常が認められる場合に限って、カメラずれが発生していると判定する構成としてもよい。
【０１００】
また、本実施形態では、前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成としたが、これらの比較は同じタイミングで行われてもよい。また、前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成の場合、その順番は特に限定されず、図１１に示す順番とは異なる順番で比較が行われてもよい。また、本実施形態では、前後方向の移動距離、左右方向の移動距離、および、特定値を用いてずれ判定を行う構成としたが、これは例示にすぎない。例えば、前後方向の移動距離、左右方向の移動距離、および、特定値のうちのいずれか１つ、或いは、いずれか２つを用いてずれ判定を行う構成としてもよい。
【０１０１】
また、本実施形態では、１つのフレーム画像から得られる推定値を用いた比較結果によって異常が検出された場合に、即時にカメラずれを検出する構成としている。ただし、これは例示であり、判定部１２５は、複数のフレーム画像の比較結果に基づいてカメラずれを検出する構成としてもよい。
【０１０２】
なお、カメラずれが検出された場合、異常検出装置１０は、そのことを運転者等に報知するための処理を行うことが好ましい。また、異常検出装置１０は、カメラ２１からの情報を用いて運転支援を行う運転支援装置に、カメラずれが発生していることを通知する処理を行うことが好ましい。自車両に複数のカメラ２１が搭載される場合、複数のカメラ２１のうちの１つでもカメラずれが発生した場合には、上述した運転者等への報知処理、および、運転支援装置等への通知処理を行うことが好ましい。
【０１０３】
＜５．留意事項＞
本明細書における実施形態や変形例の構成は、本発明の例示にすぎない。実施形態や変形例の構成は、本発明の技術的思想を超えない範囲で適宜変更されてもよい。また、複数の実施形態及び変形例は、可能な範囲で組み合わせて実施されてよい。
【０１０４】
以上においては、カメラ２１の異常検出に用いるデータは、自車両が直進走行している場合に収集される構成とした。ただし、これは例示であり、カメラ２１の異常検出に用いるデータは、自車両が直進走行していない場合に収集されてもよい。車速センサ３１から得られる速度情報と舵角センサ３２から得られる情報とを用いれば、自車両の前後方向および左右方向の比較値（推定値と比較する移動距離や速度）を正確に求めることができ、自車両が直進走行していない場合のデータを使ってもカメラの異常検出を行うことができる。
【０１０５】
また、以上においては、本発明の移動情報推定装置１が異常検出装置１０に適用される例を示したが、これは例示である。本発明の移動情報推定装置１は、例えば、カメラの撮影画像から得られるオプティカルフローを用いて駐車支援等の運転支援を行う装置に適用されてもよい。
【符号の説明】
【０１０６】
１・・・移動情報推定装置
１０・・・異常検出装置
２１・・・カメラ
１２１・・・抽出部
１２２・・・算出部
１２３・・・推定部
１２５・・・判定部
ＦＰ・・・特徴点
ＨＧ１・・・第１ヒストグラム
ＨＧ２・・・第２ヒストグラム
ＯＦ１・・・第１オプティカルフロー
ＯＦ２・・・第２オプティカルフロー
【図１】
2020042715.tif 000008
【図２】
2020042715.tif 000009
【図３】
2020042715.tif 000010
【図４】
2020042715.tif 000011
【図５】
2020042715.tif 000012
【図６】
2020042715.tif 000013
【図７】
2020042715.tif 000014
【図８】
2020042715.tif 000015
【図９】
2020042715.tif 000016
【図１０】
2020042715.tif 000017
【図１１】
2020042715.tif 000018