(57)【要約】【課題】移動体に搭載されたカメラの異常の有無を誤って判断する可能性を低減できる技術を提供する。【解決手段】移動体に搭載されたカメラの取付け異常を検出する異常検出装置は、前記カメラから取得するフレーム画像ごとに、当該フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに基づいて前記移動体の移動情報の推定値を求める移動情報推定部と、前記推定値の信頼度を評価する信頼度評価部と、前記推定値と前記信頼度とに基づいて前記カメラの異常判定に関する処理を行う判定処理部と、を備える。【選択図】図１
2019219719.tif 000002
【特許請求の範囲】
【請求項１】
移動体に搭載されたカメラの取付け異常を検出する異常検出装置であって、
前記カメラから取得するフレーム画像ごとに、当該フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに基づいて前記移動体の移動情報の推定値を求める移動情報推定部と、
前記推定値の信頼度を評価する信頼度評価部と、
前記推定値と前記信頼度とに基づいて前記カメラの異常判定に関する処理を行う判定処理部と、
を備える、異常検出装置。
【請求項２】
前記信頼度評価部は、予め設定された初期値と、所定の複数種類の評価項目ごとに求められる複数の評価値とを演算処理した結果に基づいて前記信頼度を決定する、請求項１に記載の異常検出装置。
【請求項３】
前記複数種類の評価項目には、前記推定値を得る処理過程で取得できる特定情報に基づいて設定される項目が含まれる、請求項２に記載の異常検出装置。
【請求項４】
前記特定情報は、複数の前記オプティカルフローに基づいて生成されるヒストグラム情報を含む、請求項３に記載の異常検出装置。
【請求項５】
前記特定情報は、複数の前記オプティカルフローの中から所定の条件に該当する前記オプティカルフローを除去対象とする除去処理情報を含み、
前記複数種類の評価項目には、除去対象とされた前記オプティカルフローの数に関する評価が含まれる、請求項３又は４に記載の異常検出装置。
【請求項６】
前記特定情報は、前記特徴点のコーナーらしさを示すコーナー度に関する情報を含み、
前記複数種類の評価項目には、前記コーナー度が所定のコーナー度閾値より大きい前記特徴点の数に関する評価が含まれる、請求項３から５のいずれか１項に記載の異常検出装置。
【請求項７】
前記特徴点は、前記フレーム画像の所定の抽出領域内から抽出され、
前記特定情報は、前記オプティカルフローと前記抽出領域の境界位置との関係情報を含み、
前記複数種類の評価項目には、前記境界位置から所定距離内に端部が存在する前記オプティカルフローの数に関する評価が含まれる、請求項３から６のいずれか１項に記載の異常検出装置。
【請求項８】
前記複数種類の評価項目には、現在の前記フレーム画像に対して時間的に連続する過去の所定数の前記フレーム画像における前記信頼度の傾向と、現在の前記フレーム画像に対する暫定的信頼度との関係性評価が含まれ、
前記暫定的信頼度は、前記複数種類の評価項目から前記関係性評価を除いた評価項目のうちの少なくとも１つの評価項目の評価結果に基づいて求められる、請求項２から７のいずれか１項に記載の異常検出装置。
【請求項９】
前記推定値との比較に用いる比較値を取得可能な比較情報取得部を更に備え、
前記複数種類の評価項目には、前記信頼度が高いと評価された前記推定値とその前記比較値とに基づいて算出される評価用算出値の過去の傾向と、現在の前記フレーム画像の前記推定値とその前記比較値とに基づいて算出される前記評価用算出値との関係性評価が含まれる、請求項２から８のいずれか１項に記載の異常検出装置。
【請求項１０】
前記判定処理部は、前記信頼度に基づいて前記推定値を前記カメラの異常判定に用いるか否かを判断する、請求項１から９のいずれか１項に記載の異常検出装置。
【請求項１１】
前記推定値との比較に用いる比較値を取得可能な比較情報取得部を更に備え、
前記判定処理部は、前記推定値と前記比較値とに基づいて前記カメラの異常の有無を判定する、請求項１から１０のいずれか１項に記載の異常検出装置。
【請求項１２】
前記比較情報取得部は、前記移動体に設けられる前記カメラ以外のセンサから得られる情報に基づいて前記比較値を取得する、請求項１１に記載の異常検出装置。
【請求項１３】
前記取付け異常は、前記カメラの取付けのずれが生じた状態である、請求項１から１２のいずれか１項に記載の異常検出装置。
【請求項１４】
移動体に搭載されたカメラの取付け異常を検出する装置による異常検出方法であって、
前記カメラから取得するフレーム画像ごとに、当該フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに基づいて前記移動体の移動情報の推定値を求める移動情報推定工程と、
前記推定値の信頼度を評価する信頼度評価工程と、
前記推定値と前記信頼度とに基づいて前記カメラの異常判定に関する処理を行う判定処理工程と、
を備える、異常検出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、異常検出装置および異常検出方法に関し、詳細には、移動体に搭載されたカメラの異常検出に関する。
【背景技術】
【０００２】
従来、車両等の移動体に、駐車支援等に利用されカメラが搭載されている。例えば車両に搭載される車載カメラは、車両を工場から出荷する前に、車両に固定状態で取り付けられる。しかしながら、車載カメラは、例えば不意の接触や経年変化等によって、工場出荷時の取付け状態からずれを起こすことがある。車載カメラの取付け位置や角度がずれると、カメラ画像を利用して判断されるハンドルの操舵量等に誤差が生じるために、車載カメラの取付けのずれを検出することは重要である。
【０００３】
特許文献１に開示される車両用走行支援装置は、後方カメラで取得した画像を画像処理部で画像処理することで車両状態量によらずに車両の移動量を算出する第１の移動量算出手段と、車輪速センサと、操舵角センサの出力を基にして車両状態量に基づいて車両の移動量を算出する第２の移動量算出手段とを備える。例えば、第１の移動量算出手段は、後方カメラで取得した画像データからエッジ抽出等の手法により特徴点を抽出し、逆射影変換によって設定した特徴点の地表面上における位置を算出し、その位置の移動量を基にして車両の移動量を算出する。特許文献１には、求めた車両の移動量を比較して、偏差が大きい場合には、第１の移動量算出手段と第２の移動量算出手段との算出結果とのうちのいずれか一方に問題が生じている可能性があることが開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００４−３３８６３７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特徴点の追跡は、例えば路面種類、路面状況、又は、車両の走行環境等の影響を受けることがある。このために、特許文献１の構成では、第１の移動量算出手段を用いて算出される車両の移動量は、ばらつきが大きくなることが懸念される。すなわち、特許文献１の構成では、第１の移動量算出手段で求めた移動量と、第２の移動量算出手段で求めた移動量との比較結果は不正確な可能性があり、誤った判断を行う可能性がある。
【０００６】
本発明は、移動体に搭載されたカメラの異常の有無を誤って判断する可能性を低減できる技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するために本発明の異常検出装置は、移動体に搭載されたカメラの取付け異常を検出する異常検出装置であって、前記カメラから取得するフレーム画像ごとに、当該フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに基づいて前記移動体の移動情報の推定値を求める移動情報推定部と、前記推定値の信頼度を評価する信頼度評価部と、前記推定値と前記信頼度とに基づいて前記カメラの異常判定に関する処理を行う判定処理部と、を備える構成（第１の構成）になっている。
【０００８】
上記第１の構成の異常検出装置において、前記信頼度評価部は、予め設定された初期値と、所定の複数種類の評価項目ごとに求められる複数の評価値とを演算処理した結果に基づいて前記信頼度を決定する構成（第２の構成）であることが好ましい。
【０００９】
上記第２の構成の異常検出装置において、前記複数種類の評価項目には、前記推定値を得る処理過程で取得できる特定情報に基づいて設定される項目が含まれる構成（第３の構成）であることが好ましい。
【００１０】
上記第３の構成の異常検出装置において、前記特定情報は、複数の前記オプティカルフローに基づいて生成されるヒストグラム情報を含む構成（第４の構成）であってよい。
【００１１】
上記第３又は第４の構成の異常検出装置において、前記特定情報は、複数の前記オプティカルフローの中から所定の条件に該当する前記オプティカルフローを除去対象とする除去処理情報を含み、前記複数種類の評価項目には、除去対象とされた前記オプティカルフローの数に関する評価が含まれる構成（第５の構成）であってよい。
【００１２】
上記第３から第５のいずれかの構成の異常検出装置において、前記特定情報は、前記特徴点のコーナーらしさを示すコーナー度に関する情報を含み、前記複数種類の評価項目には、前記コーナー度が所定のコーナー度閾値より大きい前記特徴点の数に関する評価が含まれる構成（第６の構成）であってよい。
【００１３】
上記第３から第６のいずれかの構成の異常検出装置において、前記特徴点は、前記フレーム画像の所定の抽出領域内から抽出され、前記特定情報は、前記オプティカルフローと前記抽出領域の境界位置との関係情報を含み、前記複数種類の評価項目には、前記境界位置から所定距離内に端部が存在する前記オプティカルフローの数に関する評価が含まれる構成（第７の構成）であってよい。
【００１４】
上記第２から第７のいずれかの構成の異常検出装置において、前記複数種類の評価項目には、現在の前記フレーム画像に対して時間的に連続する過去の所定数の前記フレーム画像における前記信頼度の傾向と、現在の前記フレーム画像に対する暫定的信頼度との関係性評価が含まれ、前記暫定的信頼度は、前記複数種類の評価項目から前記関係性評価を除いた評価項目のうちの少なくとも１つの評価項目の評価結果に基づいて求められる構成（第８の構成）であってよい。
【００１５】
上記第２から第８のいずれかの構成の異常検出装置は、前記推定値との比較に用いる比較値を取得可能な比較情報取得部を更に備え、前記複数種類の評価項目には、前記信頼度が高いと評価された前記推定値とその前記比較値とに基づいて算出される評価用算出値の過去の傾向と、現在の前記フレーム画像の前記推定値とその前記比較値とに基づいて算出される前記評価用算出値との関係性評価が含まれる構成（第９の構成）であってよい。
【００１６】
上記第１から第９のいずれかの構成の異常検出装置において、前記判定処理部は、前記信頼度に基づいて前記推定値を前記カメラの異常判定に用いるか否かを判断する構成（第１０の構成）であってよい。
【００１７】
上記第１から第１０のいずれかの構成の異常検出装置は、前記推定値との比較に用いる比較値を取得可能な比較情報取得部を更に備え、前記判定処理部は、前記推定値と前記比較値とに基づいて前記カメラの異常の有無を判定する構成（第１１の構成）であることが好ましい。
【００１８】
上記第１１の構成の異常検出装置において、前記比較情報取得部は、前記移動体に設けられる前記カメラ以外のセンサから得られる情報に基づいて前記比較値を取得する構成（第１２の構成）であることが好ましい。
【００１９】
上記第１から第１２のいずれかの構成の異常検出装置において、前記取付け異常は、前記カメラの取付けのずれが生じた状態である構成（第１３の構成）が好ましい。
【００２０】
上記目的を達成するために本発明の異常検出方法は、移動体に搭載されたカメラの取付け異常を検出する装置による異常検出方法であって、前記カメラから取得するフレーム画像ごとに、当該フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに基づいて前記移動体の移動情報の推定値を求める移動情報推定工程と、前記推定値の信頼度を評価する信頼度評価工程と、前記推定値と前記信頼度とに基づいて前記カメラの異常判定に関する処理を行う判定処理工程と、を備える構成（第１４の構成）になっている。
【発明の効果】
【００２１】
本発明によると、移動体に搭載されたカメラの異常の有無を誤って判断する可能性を低減できる。
【図面の簡単な説明】
【００２２】
【図１】異常検出システムの構成を示すブロック図
【図２】車載カメラが車両に配置される位置を例示する図
【図３】異常検出装置によるカメラずれの検出フローの一例を示すフローチャート
【図４】特徴点を抽出する手法を説明するための図
【図５】第１オプティカルフローを取得する手法を説明するための図
【図６】座標変換処理を説明するための図
【図７】移動情報推定部によって生成された第１ヒストグラムの一例を示す図
【図８】移動情報推定部によって生成された第２ヒストグラムの一例を示す図
【図９】カメラずれが発生した場合のヒストグラムの変化を例示する図
【図１０】判定処理部によって行われるずれ判定処理の一例を示すフローチャート
【図１１】フロントカメラで撮影された撮影画像を用いて生成された第１ヒストグラムを例示する図
【図１２】信頼度評価部による信頼度評価の手順例を示すフローチャート
【図１３】ヒストグラムに関する評価を説明するための図
【図１４】ヒストグラムに関する評価を説明するためのヒストグラムの一例
【図１５】第１オプティカルフローと抽出領域との位置関係評価について説明するための図
【図１６】推定値と比較値との関係性評価について説明するための図
【図１７】暫定信頼度と過去信頼度との関係性評価について説明するための図
【図１８】本発明の信頼度評価装置の構成を示すブロック図
【発明を実施するための形態】
【００２３】
以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。以下の説明では、移動体として車両を例にとり説明するが、移動体は車両に限定される趣旨ではない。車両には、例えば自動車、電車、無人搬送車等の車輪を有する乗り物が広く含まれる。車両以外の移動体として、例えば船舶や航空機等が挙げられる。
【００２４】
また以下の説明では、車両の直進進行方向であって、運転席からハンドルに向かう方向を「前方向」とする。また、車両の直進進行方向であって、ハンドルから運転席に向かう方向を「後方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の右側から左側に向かう方向を「左方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の左側から右側に向かう方向を「右方向」とする。
【００２５】
＜１．異常検出システム＞
図１は、本発明の実施形態に係る異常検出システムＳＹＳの構成を示すブロック図である。本実施形態において、異常は、カメラの取付けのずれが生じた状態である。すなわち、異常検出システムＳＹＳは、車両に搭載されたカメラの取付けのずれを検出するシステムである。詳細には、異常検出システムＳＹＳは、例えば、車両の工場出荷時における車両へのカメラの取付け状態等の基準となる取付け状態からのカメラのずれを検出するシステムである。カメラずれには、軸ずれや、軸周りの回転によるずれ等が広く含まれる。軸ずれには、取付け位置のずれや取付け角度のずれ等が含まれる。図１に示すように、異常検出システムＳＹＳは、異常検出装置１と、撮影部２と、入力部３と、センサ部４とを備える。
【００２６】
異常検出装置１は、車両に搭載されたカメラの異常を検出する装置である。詳細には、異常検出装置１は、車両に搭載されたカメラのずれを検出する装置である。異常検出装置１を用いることによって、車両に搭載されたカメラのずれを迅速に検出することができ、例えば、カメラずれが生じた状態で運転支援等が行われることを防止できる。以下、車両に搭載されたカメラのことを「車載カメラ」と表現することがある。
【００２７】
異常検出装置１は、車載カメラを有する各車両に備えられる。異常検出装置１は、撮影部２に含まれる車載カメラ２１〜２４で撮影された撮影画像、および、当該装置１の外部に設けられるセンサ部４からの情報を処理して、車載カメラ２１〜２４のカメラずれを検出する。異常検出装置１の詳細については後述する。
【００２８】
なお、異常検出装置１は、不図示の表示装置や運転支援装置に処理情報を出力してよい。表示装置は、異常検出装置１から出力される情報に基づいて、適宜、警告等を画面に表示してよい。運転支援装置は、異常検出装置１から出力される情報に基づいて、適宜、運転支援機能を停止したり、撮影情報の補正を行って運転支援を行ったりしてよい。運転支援装置は、例えば自動運転を支援する装置、自動駐車を支援する装置、緊急ブレーキを支援する装置等であってよい。
【００２９】
撮影部２は、車両周辺の状況を監視する目的で車両に設けられる。本実施形態では、撮影部２は、４つの車載カメラ２１〜２４を備える。各車載カメラ２１〜２４は、有線または無線によって異常検出装置１に接続される。図２は、車載カメラ２１〜２４が車両７に配置される位置を例示する図である。図２は、車両７を上から見た図である。図２に例示する車両は自動車である。
【００３０】
車載カメラ２１は車両７の前端に設けられる。このため、車載カメラ２１をフロントカメラ２１とも呼ぶ。フロントカメラ２１の光軸２１ａは車両７の前後方向に沿っている。フロントカメラ２１は車両７の前方向を撮影する。車載カメラ２２は車両７の後端に設けられる。このため、車載カメラ２２をバックカメラ２２とも呼ぶ。バックカメラ２２の光軸２２ａは車両７の前後方向に沿っている。バックカメラ２２は車両７の後方向を撮影する。フロントカメラ２１及びバックカメラ２２の取付け位置は、車両７の左右方向の中央部であることが好ましいが、当該中央部から左右方向に多少ずれた位置であってもよい。
【００３１】
車載カメラ２３は車両７の左側ドアミラー７１に設けられる。このため、車載カメラ２３を左サイドカメラ２３とも呼ぶ。左サイドカメラ２３の光軸２３ａは車両７の左右方向に沿っている。左サイドカメラ２３は車両７の左方向を撮影する。車載カメラ２４は車両７の右側ドアミラー７２に設けられる。このため、車載カメラ２４を右サイドカメラ２４とも呼ぶ。右サイドカメラ２４の光軸２４ａは車両７の左右方向に沿っている。右サイドカメラ２４は車両７の右方向を撮影する。
【００３２】
各車載カメラ２１〜２４は魚眼レンズで構成され、水平方向の画角θは１８０°以上であることが好ましい。これにより、車載カメラ２１〜２４によって、車両７の水平方向における全周囲を撮影することができる。なお、本実施形態では、車載カメラの数は４つであるが、この数は適宜変更されてよく、複数でも単数でもよい。例えば、車両７がバックで駐車することを支援する目的で車載カメラが搭載されている場合には、撮影部２が有する車載カメラは、バックカメラ２２、左サイドカメラ２３、右サイドカメラ２４の３つで構成されてよい。
【００３３】
図１に戻って、入力部３は、異常検出装置１に対する指示を入力可能とする。入力部３は、例えば、タッチパネル、ボタン、レバー等で構成されてよい。入力部３は、有線または無線によって異常検出装置１に接続される。
【００３４】
センサ部４は、車載カメラ２１〜２４が搭載される車両７に関する情報を検出する複数のセンサを有する。本実施形態では、センサ部４は、車速センサ４１と舵角センサ４２とを含む。車速センサ４１は、車両７の速度を検出する。舵角センサ４２は、車両７のステアリングホイール（ハンドル）の回転角を検出する。車速センサ４１および舵角センサ４２は、通信バス５０を介して異常検出装置１と繋がる。すなわち、車速センサ４１で取得された車両７の速度情報は、通信バス５０を介して異常検出装置１に入力される。舵角センサ４２で取得された車両７のステアリングホイールの回転角情報は、通信バス５０を介して異常検出装置１に入力される。なお、通信バス５０は、例えばＣＡＮ（Controller Area Network）バスであってよい。
【００３５】
＜２．異常検出装置＞
＜２−１．異常検出装置の概要＞
図１に示すように、異常検出装置１は、画像取得部１１と、制御部１２と、記憶部１３とを備える。
【００３６】
画像取得部１１は、４つの車載カメラ２１〜２４のそれぞれから、撮影画像（フレーム画像）を所定周期（例えば１／６０ｓ等）で取得する。画像取得部１１は、アナログの撮影画像をデジタルの撮影画像に変換するＡ／Ｄ変換機能などの基本的な画像処理機能を有する。画像取得部１１は、取得した撮影画像に対して所定の画像処理を行い、処理後の撮影画像を制御部１２に出力する。
【００３７】
制御部１２は、例えばマイクロコンピュータであり、異常検出装置１の全体を統括的に制御する。制御部１２は、ＣＰＵ、ＲＡＭおよびＲＯＭ等を備える。記憶部１３は、例えば、フラッシュメモリ等の不揮発性のメモリであり、各種の情報を記憶する。記憶部１３は、ファームウェアとしてのプログラムや各種のデータを記憶する。
【００３８】
詳細には、制御部１２は、移動情報推定部１２１と、比較情報取得部１２２と、信頼度評価部１２３と、判定処理部１２４とを備える。すなわち、異常検出装置１は、移動情報推定部１２１と、比較情報取得部１２２と、信頼度評価部１２３と、判定処理部１２４とを備える。制御部１２が備えるこれら各部１２１〜１２４の機能は、例えば記憶部１３に記憶されるプログラムに従ってＣＰＵが演算処理を行うことによって実現される。
【００３９】
なお、制御部１２が備える各部１２１〜１２４の少なくともいずれか１つは、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアで構成されてもよい。また、制御部１２が備える各部１２１〜１２４は、概念的な構成要素である。１つの構成要素が実行する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を１つの構成要素に統合したりしてよい。また、画像取得部１１は、制御部１２のＣＰＵがプログラムに従って演算処理を行うことによって実現される構成でもよい。
【００４０】
移動情報推定部１２１は、カメラから所定周期で取得するフレーム画像ごとに、オプティカルフローに基づいて車両７の移動情報の推定値を求める。なお、本実施形態では、車両７が４つの車載カメラ２１〜２４を有するために、移動情報推定部１２１は、車載カメラ２１〜２４ごとに、車両７の移動情報の推定値を求める。移動情報は、本実施形態では車両７の移動距離である。ただし、移動情報は、移動距離以外であってもよく、例えば車両７の移動速度（車速）等であってよい。
【００４１】
詳細には、移動情報推定部１２１は、取得したフレーム画像ごとに、当該フレーム画像（現在フレーム画像）と前回フレーム画像との間における特徴点の動きを示すオプティカルフローを求める。前回フレーム画像は、移動情報の推定値を求める対象になっている現在フレーム画像より１周期前に取得したフレーム画像のことである。特徴点は、フレーム画像中のエッジの交点など、フレーム画像において際立って検出できる点である。特徴点は、例えば路面に描かれた白線のエッジ、路面上のひび、路面上のしみ、路面上の砂利等である。特徴点は、通常、１つのフレーム画像の中に多数存在する。移動情報推定部１２１は、例えば、ハリスオペレータ等の公知の手法を用いてフレーム画像から特徴点を抽出する。
【００４２】
移動情報推定部１２１は、現在フレーム画像と前回フレーム画像との２つのフレーム画像を比較してフレーム画像上のオプティカルフローを求める。移動情報推定部１２１は、求めたオプティカルフローを座標変換して路面上のフロー（動きベクトル）に変換する。なお、本明細書では、路面上のフローも、現在フレーム画像と前回フレーム画像との間における特徴点の動きを示すオプティカルフローに含む。以下、フレーム画像上の特徴点の動きを第１オプティカルフロー、路面上の特徴点の動きを第２オプティカルフローと表現することがある。また、第１オプティカルフローと第２オプティカルフローとを特に区別することなく、単にオプティカルフローと表現することもある。
【００４３】
なお、移動情報推定部１２１は、フレーム画像から抽出された各特徴点について、いきなり路面上の座標に変換し、第１オプティカルフローを求めることなく第２オプティカルフローを求めてもよい。
【００４４】
移動情報推定部１２１は、第２オプティカルフローを統計処理して車両７の移動情報の推定値を求める。本実施形態において、移動情報推定部１２１が行う統計処理は、ヒストグラムを用いた処理である。ヒストグラムによって推定値を求める処理の詳細については後述する。また、本実施形態では、移動情報推定部１２１は、求めた複数のオプティカルフローの中から所定の条件に該当するオプティカルフローを除去対象とする除去処理を行う。そして、移動情報推定部１２１は、複数のオプティカルフローから除去対象とされたオプティカルフローを除いた残りのオプティカルフローに基づいて推定値を求める。除去処理の詳細については後述する。除去処理は、場合によっては行われなくてもよい。
【００４５】
比較情報取得部１２２は、推定値との比較に用いる比較値を取得可能に設けられる。本実施形態では、比較情報取得部１２２は、車両７に設けられるカメラ２１〜２４以外のセンサから得られる情報に基づいて比較値を取得する。詳細には、比較情報取得部１２２は、センサ部４から得られる情報に基づいて比較値を取得する。本実施形態では、推定値が移動距離を表す数値であるために、推定値との比較に用いる比較値も移動距離を表す数値である。比較情報取得部１２２は、車速センサ４１から得られる車速に所定の時間を乗じて移動距離を算出する。所定の時間は、例えば、推定値と比較値とを一対一で比較する場合には、オプティカルフローを求めるために利用する２つのフレーム画像のサンプリング間隔（上述の所定周期）と同じである。本実施形態によれば、車両７が通常備えるセンサを用いてカメラずれを検出することができるために、カメラずれを検出するために必要となる設備コストを抑制することができる。
【００４６】
なお、推定値が移動距離の代わりに移動速度を表す数値である場合には、比較値も移動速度を表す数値とすればよい。また、比較情報取得部１２２は、車速センサ４１の代わりに、例えばＧＰＳ（Global Positioning System）受信機から取得される情報に基づいて比較値を取得してもよい。また、比較情報取得部１２２は、カメラずれの検出対象となる車載カメラ以外の少なくとも１つの車載カメラから得られる情報に基づいて比較値を取得してもよい。この場合、比較情報取得部１２２は、カメラずれの検出対象となる車載カメラ以外の車載カメラから得られるオプティカルフローに基づいて比較値を取得してよい。
【００４７】
信頼度評価部１２３は、推定値の信頼度を評価する。信頼度評価部１２３は、移動情報推定部１２１で得られる推定値ごとに信頼度を評価する。換言すると、信頼度評価部１２３は、フレーム画像ごとに推定値の信頼度を評価する。信頼度評価部１２３の詳細については後述する。
【００４８】
判定処理部１２４は、車両７の移動情報の推定値と、推定値の信頼度とに基づいてカメラ２１〜２４の異常判定に関する処理を行う。なお、本実施形態では、車両７が４つの車載カメラ２１〜２４を有するために、判定処理部１２４は、車載カメラ２１〜２４ごとに、カメラ２１〜２４に異常判定に関する処理を行う。
【００４９】
本実施形態では、判定処理部１２４は、信頼度に基づいて推定値をカメラの異常判定に用いるか否かを判断する。詳細には、判定処理部１２４は、信頼度に基づいて推定値をカメラずれの有無の判定に用いるか否かを判断する。例えば、判定処理部１２４は、推定値が高信頼度である場合にのみ、当該推定値をカメラずれの有無の判定に用いる。判定処理部１２４は、信頼度の低い推定値は、カメラずれの有無の判定に用いることなく、所定のタイミングで破棄する。これによれば、カメラずれの有無に関して、信頼度の低い判定結果が示される可能性を抑制することができ、カメラずれを的確に検出することができる。
【００５０】
なお、判定処理部１２４は、信頼度の高い低いに関係なく、カメラずれの有無の判定を行ってもよい。ただし、この場合には、信頼度の低い推定値を用いて行ったカメラずれの有無の判定結果は、外部に通知しないか、外部に通知する場合には、信頼度が低いことを併せて通知することが好ましい。
【００５１】
判定処理部１２４は、推定値と比較値とに基づいてカメラ２１〜２４の異常の有無を判定する。例えば、判定処理部１２４は、フレーム画像ごとに、推定値と比較値とを一対一で比較してカメラずれの有無を判定する。この場合、比較情報取得部１２２により取得された比較値が車両７の移動距離の正解値とされ、当該正解値に対して推定値のずれの大きさを判定する。当該ずれの大きさが所定の閾値を超える場合に、判定処理部１２４はカメラずれが発生していると判断する。
【００５２】
なお、判定処理部１２４は、フレーム画像ごとではなく、所定の複数のフレーム画像の推定値が蓄積された時点でカメラずれの有無を判定してもよい。例えば、判定処理部１２４は、高信頼度の推定値を所定フレーム数だけ累積して累積推定値を求める。また、判定処理部１２４は、比較情報取得部１２２からの情報により、累積推定値を求めるために利用した複数フレームに対応した累積比較値を取得する。判定処理部１２４は、累積推定値と累積比較値と比較して、カメラずれの有無を判定する。
【００５３】
本実施形態によれば、フレーム画像毎に求められる車両７の移動情報の推定値に対して信頼度の評価を行う。このために、例えば、信頼度の低い推定値を用いてカメラの異常判定を行うことを防止したり、判定結果の信頼度が低いことを通知したりすることができる。すなわち、本実施形態によれば、カメラの異常の有無を誤って判断する可能性を低減することができる。
【００５４】
図３は、異常検出装置１によるカメラずれの検出フローの一例を示すフローチャートである。なお、本実施形態では、４つの車載カメラ２１〜２４のそれぞれについて、図３に示すカメラずれの検出フローが実施される。重複説明を避けるために、ここでは、フロントカメラ２１の場合を代表例として、カメラずれの検出フローを説明する。
【００５５】
図３に示すように、まず、制御部１２は、フロントカメラ２１を搭載する車両７が直進しているか否かを監視する（ステップＳ１）。車両７が直進しているか否かは、例えば、舵角センサ４２から得られるステアリングホイールの回転角情報に基づいて判断することができる。例えば、ステアリングホイールの回転角がゼロの時に車両７が完全にまっすぐに進むとした場合に、回転角がゼロの場合だけでなく、回転角がプラス方向とマイナス方向の一定範囲内の回転である場合を含めて、車両７が直進していると判断してよい。なお、直進には、前進方向の直進と、後退方向の直進との両方が含まれる。
【００５６】
制御部１２は、車両７の直進を検出するまで、ステップＳ１の監視を繰り返す。制御部１２は、車両７が直進走行しない限り、カメラずれの有無を判定するための処理を進めない。これによれば、車両７の進行方向が曲がっている場合の情報を用いてカメラずれの有無の判定が行われないために、カメラずれの有無を判定するための情報処理が複雑になることを避けられる。
【００５７】
車両７が直進していると判断される場合（ステップＳ１でＹｅｓ）、制御部１２は、車両７の速度が所定速度範囲内であるか否かを確認する（ステップＳ２）。所定速度範囲は、例えば時速３ｋｍ以上５ｋｍ以下としてよい。本実施形態では、車両７の速度は車速センサ４１によって取得することができる。なお、ステップＳ１とステップＳ２とは、順番が入れ替わってもよい。また、カメラずれの検出処理は、例えば、所定期間毎（１週間毎等）、所定走行距離毎（100ｋｍ毎等）、エンジン起動毎（IGオン毎：数回毎でも可）に実行されてよい。
【００５８】
制御部１２は、車両７の速度が所定速度範囲外である場合（ステップＳ２でＮｏ）、ステップＳ１に戻って車両７の直進判断を行う。すなわち、制御部１２は、車両７の速度が所定速度範囲内でない限り、カメラずれの有無を判定するための処理を進めない。例えば、車両７の速度が速すぎると、オプティカルフローを求めるにあたって誤差が生じやすくなる。一方で、車両７の速度が遅すぎると、車速センサ４１から取得される車両７の速度の信頼性が低下する。この点、本実施形態の構成によれば、車両７の速度が速すぎる場合や遅すぎる場合を除いてカメラずれの判定を行うことができ、カメラずれの有無の判定精度を構造することができる。
【００５９】
なお、所定速度範囲は設定変更可能であることが好ましい。これによれば、所定速度範囲を各車両に適した値にすることができ、カメラずれの有無の判定精度を向上することができる。本実施形態では、所定速度範囲の設定は入力部３によって行うことができる。
【００６０】
車両７が所定速度範囲内で走行していると判断される場合（ステップＳ２でＹｅｓ）、移動情報推定部１２１は、車両７が所定速度範囲内で走行している間に取得されたフレーム画像における特徴点の抽出処理を行う（ステップＳ３）。
【００６１】
図４は、特徴点ＦＰを抽出する手法を説明するための図である。図４は、フロントカメラ２１で撮影されたフレーム画像Ｐを模式的に示している。本実施形態では、特徴点ＦＰは画像の路面ＲＳ部分から抽出されるように構成されている。図４においては、特徴点ＦＰの数は２つとされているが、この数は便宜的なものであり、実際の数を示すものではない。通常、多数の特徴点が取得される。
【００６２】
図４に示すように、移動情報推定部１２１は、フレーム画像Ｐの所定の抽出領域（ＲＯＩ（Region of Interest）と呼ばれることがある）ＥＲ内から特徴点ＦＰを抽出する。換言すると、特徴点ＦＰは、フレーム画像Ｐの所定の抽出領域ＥＲから抽出される。所定の抽出領域ＥＲは、例えば、フレーム画像Ｐの中心部Ｃを含む広範囲に設定される。これにより、特徴点ＦＰの発生箇所が均一でなく偏った範囲に偏在する場合でも、特徴点ＦＰを抽出することができる。なお、所定の抽出領域ＥＲは、例えば、車両７のボディＢＯが映る領域は避けて設定される。
【００６３】
特徴点ＦＰが抽出されると、移動情報推定部１２１は、抽出した特徴点ＦＰごとに第１オプティカルフローを取得する（ステップＳ４）。図５は、第１オプティカルフローＯＦ１を取得する手法を説明するための図である。図５は、図４と同様に便宜的に示された模式図である。図５は、図４に示すフレーム画像（前回フレーム画像）Ｐの撮影後、所定周期が経過した後にフロントカメラ２１で撮影されたフレーム画像（現在フレーム画像）Ｐ´である。図４に示すフレーム画像Ｐの撮影後、所定時間が経過するまでの間に、車両７は後退している。なお、車両７の速度は所定速度範囲内であり、車両７は直進している。図５に示す破線の丸印は、図４に示す前回フレーム画像Ｐにおいて抽出された特徴点ＦＰの位置を示す。
【００６４】
図５に示すように、車両７が後退すると、車両７の前方に存在する特徴点ＦＰは車両７から離れる。すなわち、特徴点ＦＰは、現在フレーム画像Ｐ´と前回フレーム画像Ｐとで異なる位置に現れる。移動情報推定部１２１は、現在フレーム画像Ｐ´の特徴点ＦＰと前回フレーム画像Ｐの特徴点ＦＰとを、その近傍の画素値に基づいて対応付け、対応付けた特徴点ＦＰのそれぞれの位置に基づいて第１オプティカルフローＯＦ１を求める。
【００６５】
各特徴点ＦＰの第１オプティカルフローＯＦ１が取得されると、移動情報推定部１２１は、カメラ座標系で得られた各第１オプティカルフローＯＦ１を、ワールド座標系に変換する座標変換を行う（ステップＳ５）。この座標変換によって第２オプティカルフローが得られる。
【００６６】
図６は、座標変換処理を説明するための図である。図６に示すように、移動情報推定部１２１は、フロントカメラ２１の位置（視点ＶＰ１）から見た第１オプティカルフローＯＦ１を、車両７が存在する路面ＲＳの上方の視点ＶＰ２から見た第２オプティカルフローＯＦ２に変換する。移動情報推定部１２１は、フレーム画像Ｐにおける各第１オプティカルフローＯＦ１を、路面に相当する仮想平面ＲＳ_Ｖに投影することで、ワールド座標系の第２オプティカルフローＯＦ２に変換する。第２オプティカルフローＯＦ２は、車両７の路面ＲＳ上の動きベクトルであり、その大きさは車両７の路面ＲＳ上の移動量を示す。なお、本実施形態では、車載カメラ２１〜２４が魚眼レンズであるために座標変換には歪補正も含まれる。
【００６７】
次に、移動情報推定部１２１は、先に得られた複数の第２オプティカルフローＯＦ２に基づいてヒストグラムを生成する（ステップＳ６）。本実施形態では、移動情報推定部１２１は、各第２オプティカルフローＯＦ２を前後方向と左右方向との２成分に分けて、第１ヒストグラムと第２ヒストグラムとを生成する。図７は、移動情報推定部１２１によって生成された第１ヒストグラムＨＧ１の一例を示す図である。図８は、移動情報推定部１２１によって生成された第２ヒストグラムＨＧ２の一例を示す図である。図７および図８はカメラずれが発生していない場合に得られたヒストグラムを示す。
【００６８】
なお、本実施形態では、移動情報推定部１２１は、ヒストグラムＨＧ１、ＨＧ２の生成の前後において、先に求められた全てのオプティカルフローの中から所定の条件に該当するオプティカルフローを除去対象とする除去処理を行う。除去処理によって除去対象となったオプティカルフローが除かれたヒストグラムＨＧ１、ＨＧ２を用いて車両７の移動情報の推定値は求められる。なお、除去処理の詳細は後述する。
【００６９】
図７に示す第１ヒストグラムＨＧ１は、各第２オプティカルフローＯＦ２の前後方向成分に基づいて得られたヒストグラムである。第１ヒストグラムＨＧ１は、第２オプティカルフローＯＦ２の数を度数とし、前後方向への移動距離（第２オプティカルフローＯＦ２の前後方向成分の長さ）を階級とするヒストグラムである。図８に示す第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の左右方向成分に基づいて得られたヒストグラムである。第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の数を度数とし、左右方向への移動距離（第２オプティカルフローＯＦ２の左右方向成分の長さ）を階級とするヒストグラムである。
【００７０】
図７および図８は、カメラずれが発生しておらず、車両７が所定速度範囲内で後方に直進した場合に得られたヒストグラムである。第１ヒストグラムＨＧ１は、後方側の特定の移動距離（階級）に偏って度数が多くなる正規分布形状になっている。一方、第２ヒストグラムＨＧ２は、移動距離ゼロの近傍の階級に偏って度数が多くなる正規分布形状になっている。
【００７１】
図９は、カメラずれが発生した場合のヒストグラムの変化を例示する図である。図９は、フロントカメラ２１がチルト方向（鉛直方向）に回転してずれた場合を例示する。図９において、上段（ａ）はカメラずれが発生していない場合（正常時）の第１ヒストグラムＨＧ１であり、下段（ｂ）はカメラずれが発生した場合の第１ヒストグラムＨＧ１である。フロントカメラ２１のチルト方向の回転ずれは、主に第２オプティカルフローＯＦ２の前後方向成分に影響を与える。図９に示す例では、フロントカメラ２１のチルト方向の回転ずれによって、度数が大きくなる階級が正常時に比べて前方側にずれている。
【００７２】
なお、フロントカメラ２１のチルト方向の回転ずれは、第２オプティカルフローＯＦ２の左右方向成分に対する影響は小さい。このために、図示は省略するが、第２ヒストグラムＨＧ２のカメラずれの発生前後の変化は、第１ヒストグラムＨＧ１の場合に比べて小さい。ただし、これは、フロントカメラ２１がチルト方向にずれた場合の話であり、フロントカメラ２１が、例えばパン方向（水平方向）やロール方向（光軸を中心とする回転方向）等にずれを生じた場合には、異なったヒストグラム変化が発生する。
【００７３】
移動情報推定部１２１は、生成したヒストグラムＨＧ１、ＨＧ２によって車両７の移動情報の推定値を求める（ステップＳ７）。本実施形態では、移動情報推定部１２１は、第１ヒストグラムＨＧ１によって、車両７の前後方向の移動距離の推定値を求める。移動情報推定部１２１は、第２ヒストグラムＨＧ２によって、車両７の左右方向の移動距離の推定値を求める。すなわち、移動情報推定部１２１は、車両７の前後方向および左右方向の移動距離の推定値を求める。これによれば、車両７の前後方向および左右方向の移動距離の推定値を用いてカメラずれの有無を判定できるために、カメラずれの検出精度を向上することができる。
【００７４】
本実施形態では、移動情報推定部１２１は、第１ヒストグラムＨＧ１の中央値（メジアン）を前後方向の移動距離の推定値とする。移動情報推定部１２１は、第２ヒストグラムＨＧ２の中央値を左右方向の移動距離の推定値とする。ただし、移動情報推定部１２１による推定値の決定方法は、これに限定されない。移動情報推定部１２１は、例えば、各ヒストグラムＨＧ１、ＨＧ２の度数が最大となる階級の移動距離（ピーク値）を推定値としてもよい。また、移動情報推定部１２１は、例えば、各ヒストグラムＨＧ１、ＨＧ２において、移動距離の平均値を推定値としてもよい。なお、中央値を推定値とする場合には、中央値は、ヒストグラムの異常値をノイズとして除外する処理を行った後に求められることが好ましい。異常値は、例えば、ヒストグラムの中央から異常に離れた値であり、ヒストグラムの端の方に単独（周囲に度数を有する他の階級が殆ど存在しない）で存在する階級の移動距離が該当する。
【００７５】
なお、図９に示す例では、一点鎖線はフロントカメラ２１が正常である場合の前後方向の移動距離の推定値を示し、二点鎖線はカメラずれが発生した場合の前後方向の移動距離の推定値を示す。図９に示すように、カメラずれの発生によって、前後方向の移動距離の推定値に差Δが生じていることがわかる。
【００７６】
移動情報推定部１２１で車両７の移動情報の推定値が得られると、信頼度評価部１２３が各推定値の信頼度を評価する（ステップＳ８）。本実施形態では、前後方向の移動距離の推定値と、左右方向の移動距離の推定値が求められる。このために、各推定値に対して信頼度の評価が行われる。ただし、信頼度の評価は、前後方向の移動距離の推定値と、左右方向の移動距離の推定値とのいずれか一方のみに対して行われてよい。信頼度の評価をいずれか一方とする場合には、前後方向の移動距離の推定値に対して信頼度の評価を行うことが好ましい。信頼度の評価手法の詳細は後述する。
【００７７】
判定処理部１２４は、移動情報推定部１２１によって推定された推定値と、信頼度評価部１２３で求められた信頼度とに基づいて、フロントカメラ２１のずれの有無を判定するずれ判定に関する処理を行う（ステップＳ９）。ずれ判定に関する処理には、ずれ判定と、その他の処理が含まれる。本実施形態では、判定処理部１２４は、推定値が高信頼度であると評価された場合に、当該推定値を用いたずれ判定を行うと判断する。一方、判定処理部１２４は、推定値が低信頼度であると評価された場合には、当該推定値を用いたずれ判定は行わないと判断する。
【００７８】
なお、本実施形態では、１つのフレーム画像から２つの推定値（前後方向の推定値および左右方向の推定値）が得られ、その両者について信頼度の評価を行う。この場合、２つの推定値の一方が高信頼度で、他方が低信頼度と評価される場合が生じ得る。このような事態が生じた場合には、当該フレーム画像を用いたずれ判定は行わないと判断されてよい。
【００７９】
判定処理部１２４は、ずれ判定を行う場合、移動情報推定部１２１で得られた推定値と、比較情報取得部１２２で取得された比較値とを比較してフロントカメラ２１のずれの有無を判定する。
【００８０】
なお、移動情報推定部１２１は、センサ部４から取得される情報に基づいて車両７の前後方向および左右方向の移動距離の推定値を取得する。本実施形態では、車両７が前後方向に直進している場合に得られる画像に基づいて、カメラずれの有無の判定が行われる。このために、比較情報取得部１２２が取得する左右方向の移動距離は常にゼロとすることができる。
【００８１】
図１０は、判定処理部１２４によって行われるずれ判定処理の一例を示すフローチャートである。なお、図１０に示す処理は、図３のステップＳ９の詳細処理例である。まず、判定処理部１２４は、車両７の前後方向の移動距離について、移動情報推定部１２１によって得られた推定値と、比較情報取得部１２２によって得られた比較値との差の大きさが、閾値αより小さいか否かを確認する（ステップＳ１１）。両者の差の大きさが閾値α以上である場合（ステップＳ１１でＮｏ）、判定処理部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値αより小さい場合（ステップＳ１１でＹｅｓ）、判定処理部１２４は、車両７の前後方向の移動距離からは異常が検出されないと判定する。
【００８２】
車両７の前後方向の移動距離から異常が検出されない場合（ステップＳ１１でＹｅｓ）、判定処理部１２４は、車両７の左右方向の移動距離について、移動情報推定部１２１によって得られた推定値と、比較情報取得部１２２によって得られた比較値との差の大きさが、閾値βより小さいか否かを確認する（ステップＳ１２）。両者の差の大きさが閾値β以上である場合（ステップＳ１２でＮｏ）、判定処理部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値βより小さい場合（ステップＳ１２でＹｅｓ）、判定処理部１２４は、左右方向の移動距離からは異常が検出されないと判定する。
【００８３】
車両７の左右方向の移動距離からも異常が検出されない場合、判定処理部１２４は、車両７の前後方向および左右方向の移動距離に基づいて得られる特定値について、推定値から得られる値と、比較値から得られる値との差の大きさが、閾値γより小さいか否かを確認する（ステップＳ１３）。本実施形態では、特定値は、車両７の前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和の平方根値である。ただし、これは例示にすぎず、特定値は、例えば、車両７の前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和であってもよい。
【００８４】
推定値から得られる特定値と、比較値から得られる特定値との差の大きさが閾値γ以上である場合（ステップＳ１３でＮｏ）、判定処理部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値γより小さい場合（ステップＳ１３でＹｅｓ）、判定処理部１２４は、フロントカメラ２１の取付け状態は正常であると判定する（ステップＳ１４）。
【００８５】
本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値のうち、いずれか１つでも、異常が認められると、カメラずれが発生していると判定する。これによれば、カメラずれが発生しているにもかかわらず、カメラずれが発生していないと判定する可能性を低減できる。ただし、これは例示である。例えば、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値の全てにおいて異常が認められる場合に限って、カメラずれが発生していると判定する構成としてもよい。カメラずれの有無の判定基準は、入力部３によって適宜変更することができる構成であってもよい。
【００８６】
本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成としたが、これらの比較は同じタイミングで行われてもよい。また、前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成の場合、その順番は特に限定されず、図１０に示す順番とは異なる順番で比較が行われてもよい。また、本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値を用いてずれ判定を行う構成としたが、これは例示にすぎない。例えば、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値のうちのいずれか１つ、或いは、いずれか２つを用いてずれ判定を行う構成としてもよい。
【００８７】
本実施形態では、判定処理部１２４によって、カメラずれが生じていると一度判定されただけで、カメラずれが発生しているとの判定を確定し、カメラずれを検出する構成としている。これに限らず、判定処理部１２４によってカメラずれが生じていると判定された場合に、少なくとも１回、再判定を行い、再判定によって更にカメラずれが生じていると判定された場合に、カメラずれが発生しているとの判定を確定してもよい。
【００８８】
なお、カメラずれが検出された場合、異常検出装置１は、そのことを運転者等に報知するための処理を行うことが好ましい。また、異常検出装置１は、車載カメラ２１〜２４からの情報を用いて運転支援を行う運転支援装置に、カメラずれが発生していることを通知する処理を行うことが好ましい。本実施形態では、４つの車載カメラ２１〜２４が存在するが、４つの車載カメラ２１〜２４のうちの１つでもカメラずれが発生した場合には、上記報知処理及び通知処理を行うことが好ましい。
【００８９】
＜２−２．除去処理＞
次に、移動情報推定部１２１によって実施される除去処理について説明する。なお、異常検出装置１は、４つの車載カメラ２１〜２４のそれぞれに対してカメラずれの検出処理を行い、各車載カメラ２１〜２４の処理に対して以下に説明する除去処理を行う。
【００９０】
図１１は、フロントカメラ２１で撮影された撮影画像を用いて生成された第１ヒストグラムＨＧ１を例示する図である。なお、図１１は、除去対象となるオプティカルフローを除去することなく作成されたヒストグラムを示す。移動情報推定部１２１で求められるオプティカルフローは、路面状況等の影響を受け易く、車両７の動きを正確に反映していないオプティカルフロー（以下、「誤フロー」と記載する）を含むことがある。図１１に示す例では、誤フローが多く、ヒストグラムの分布にばらつきが見られる。
【００９１】
図１１に示すようなヒストグラムに基づいて求められた車両７の移動情報の推定値は、本来の値から大きくずれる可能性がある。このために、本実施形態では、所定の条件に基づいて誤フローと判断されるオプティカルフローを除去対象とする除去処理を行い、除去対象のオプティカルフローを除いた後に残ったオプティカルフローに基づき推定値を求める。なお、本実施形態の手法は、車載カメラ２１〜２４の大きなずれを検出するよりも、比較的小さなずれを検出するのに好適である。
【００９２】
本実施形態では、誤フローとの判断を行うための所定の条件が複数種類設定されている。すなわち、本実施形態では、複数種類の除去処理が実行される。複数種類の所定の条件として、以下に示す第１除去条件〜第５除去条件の５種類の条件が含まれる。ただし、所定の条件は、５種類である必要はなく、１種類であってもよいし、５種類以外の複数であってもよい。また、以下に示す５種類の除去条件は例示であり、他の条件が除去条件とされてもよい。
【００９３】
第１除去条件は、第２オプティカルフローＯＦ２の前後方向および左右方向の長さに関する条件である。本実施形態では、オプティカルフローは、車両７が所定速度範囲で直進している場合に取得された画像を用いて求められる。このために、所定速度範囲から予想される前後方向の長さから大きくかけ離れた第２オプティカルフローＯＦ２は誤フローの可能性が高い。このために、第２オプティカルフローＯＦ２の前後方向の長さが所定の前後方向長さ閾値以上である場合には、当該第２オプティカルフローＯＦ２は、誤フローである可能性が高いとして除去対象とする。
【００９４】
また、左右方向の長さがゼロから大きくかけ離れた第２オプティカルフローＯＦ２は誤フローである可能性が高い。このために、第２オプティカルフローＯＦ２の左右方向の長さが所定の左右方向の長さ閾値以上である場合には、当該第２オプティカルフローＯＦ２は誤フローである可能性が高いとして除去対象とする。なお、本実施形態では、第１除去条件の判断に第２オプティカルフローＯＦ２が用いられているが、場合によっては第１オプティカルフローＯＦ１が用いられてもよい。
【００９５】
第２除去条件は、オプティカルフローの位置に関する条件である。本実施形態では、特徴点ＦＰは、所定の抽出領域ＥＲ（図４参照）内から抽出される。このために、追跡元が抽出領域ＥＲの外に位置したり、追跡元又は追跡先が抽出領域ＥＲの境界位置に位置したりする第１オプティカルフローＯＦ１は信頼性が疑わしい。このために、所定の抽出領域ＥＲの内側と外側に跨がる第１オプティカルフローＯＦ１、および、所定の抽出領域ＥＲの境界上に先端又は根元が位置する第１オプティカルフローＯＦ１は、除去対象とされる。
【００９６】
第３除去条件は、第２オプティカルフローＯＦ２の前後方向と左右方向の長さの関係に関する条件である。上述のように、本実施形態では、オプティカルフローは、車両７が所定速度範囲で直進している場合に取得された画像を用いて求められる。そして、所定速度範囲は、一例として時速３ｋｍ以上５ｋｍ以下としている。このために、第２オプティカルフローＯＦ２の左右方向の長さが前後方向の長さより大きくなった場合には、当該第２オプティカルフローＯＦ２は誤フローである可能性が高い。このような第２オプティカルフローＯＦ２は除去対象とされる。なお、本実施形態では、第３除去条件の判断に第２オプティカルフローＯＦ２が用いられているが、場合によっては第１オプティカルフローＯＦ１が用いられてもよい。
【００９７】
第４除去条件は、第２オプティカルフローＯＦ２と、車両７の変速装置のシフトレバーの操作位置との関係に関する条件である。なお、シフトレバーの操作位置は、センサ部４に含まれる不図示のシフトセンサから取得することができる。シフトレバーが前進位置か後退位置かで第２オプティカルフローＯＦ２が本来向く向きは決まる。フロントカメラ２１においては、シフトレバーが前進位置である場合には、第２オプティカルフローＯＦ２の向きは前方から後方に向かう向きになり、シフトレバーが後退位置である場合には、第２オプティカルフローＯＦ２の向きは後方から前方に向かう向きになる。このために、シフトレバーの位置を確認して、当該シフトレバーの位置から予想される向きと反対方向に向く第２オプティカルフローＯＦ２は誤フローである可能性が高い。このような第２オプティカルフローＯＦ２は除去対象とされる。なお、本実施形態では、第４除去条件の判断に第２オプティカルフローＯＦ２が用いられているが、場合によっては第１オプティカルフローＯＦ１が用いられてもよい。
【００９８】
第５除去条件は、ヒストグラムＨＧ１、ＨＧ２の度数に関する条件である。ヒストグラムＨＧ１、ＨＧ２の度数が極端に小さい階級に属する第２オプティカルフローＯＦ２は信頼性が疑わしい。このために、ヒストグラムＨＧ１、ＨＧ２の度数が所定の度数閾値以下となる階級に属する第２オプティカルフローＯＦ２は除去対象とされる。なお、第５除去条件による除去処理は、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２との両方に対して実行され、第１ヒストグラムＨＧ１を用いて除去されることに決定された第２オプティカルフローＯＦ２は、第２ヒストグラムＨＧ２でも除去されることが好ましい。逆に、第２ヒストグラムＨＧ２を用いて除去されることに決定された第２オプティカルフローＯＦ２は、第１ヒストグラムＨＧ１でも除去されることが好ましい。
【００９９】
なお、複数の除去条件に応じて行われる各除去処理は、例えば順番に実施される。除去処理の順番は、特に限定されるものではない。ただし、各除去処理は並行して実施されてもよい。
【０１００】
＜２−３．信頼度評価＞
本実施形態の異常検出装置１には、カメラずれの有無を誤って判断する可能性を低減するために、信頼度評価部１２３が設けられている。上述のように、信頼度評価部１２３は、移動情報推定部１２１で求められた各推定値に対して信頼度の評価を行う。
【０１０１】
本実施形態では、信頼度評価部１２３は、予め設定された初期値と、所定の複数種類の評価項目ごとに求められる評価値とを演算処理した結果に基づいて信頼度を決定する。これによれば、複数種類の評価項目の評価結果を纏めて信頼度の評価を行うことができる。初期値は、特に限定されないが、例えば正の整数値（例えば初期値＝１０など）とされる。評価値は、例えば、加算値又は減算値であり、初期値に対して順次加減算される。信頼度評価部１２３は、評価値の加減算によって最終的に得られた演算結果に基づいて、推定値の信頼度が高いか低いかを判断する。本実施形態では、信頼度が高いか低いかのいずれかを判断する構成としているが、信頼度を３段階以上に分類して評価する構成としてもよい。
【０１０２】
本実施形態では、複数種類の評価項目には、車両７の移動情報の推定値を求める処理過程で取得できる特定情報に基づいて設定される項目が含まれる。これによると、評価項目に対する評価結果を容易に得ることができるために、推定値の評価処理を効率良く行うことができる。特定情報は、ヒストグラム情報、除去処理情報、コーナー度に関する情報、および、オプティカルフローと抽出領域（ＲＯＩ）ＥＲの境界位置との関係情報を含む。
【０１０３】
ヒストグラム情報は、複数のオプティカルフローに基づいて生成される。本実施形態では、ヒストグラム情報は複数の第２オプティカルフローを統計処理して得られる。ヒストグラム情報は、第１ヒストグラムＨＧ１および第２ヒストグラムＨＧ２を含む。推定値の信頼性は、オプティカルフローを求める処理の精度に大きく関係している。このために、求められたオプティカルフローを統計処理して得られるヒストグラム情報に基づいて推定値の信頼度を評価する評価項目を設定することによって、推定値の信頼度を正しく評価することができる。
【０１０４】
なお、除去処理情報は、上述の除去処理に関する情報である。コーナー度は、特徴点ＦＰのコーナーらしさを示す指標である。また、上述の特定情報は、ヒストグラム情報、除去処理情報、コーナー度に関する情報、および、オプティカルフローと抽出領域ＥＲの境界位置との関係情報のうち、少なくともいずれか１つを含む構成であってもよい。更に、複数種類の評価項目には、上述の特定情報以外に基づいて設定される項目があってよい。本実施形態では、以下に説明するように、複数種類の評価項目には、上述の特定情報以外に基づいて設定される項目も含まれる。
【０１０５】
図１２は、信頼度評価部１２３による信頼度評価の手順例を示すフローチャートである。なお、図１２の処理は、図３のステップＳ８の詳細処理例である。図１２に示すように、信頼度評価部１２３は、ヒストグラム情報に基づいて設定される評価項目の評価（ヒストグラムに関する評価）を行う（ステップＳ２１）。本実施形態では、ヒストグラムに関する評価の項目数は複数である。ただし、ヒストグラムに関する評価の項目数は１つであってもよい。評価によって得られた評価値は記憶部１３に記憶される。この点は、評価値が取得される他のステップについても同様である。
【０１０６】
図１３は、ヒストグラムに関する評価を説明するための図である。図１４は、ヒストグラムに関する評価を説明するためのヒストグラムＨＧ１の一例である。なお、信頼度に関する評価を行うヒストグラムは、例えば、除去処理で除去対象とされたオプティカルフローが除かれる前の全ての第２オプティカルフローＯＦ２を用いて生成されたものが使用される。ただし、信頼度に関する評価を行うヒストグラムは、除去対象となった第２オプティカルフローＯＦ２が除かれた後の残りの第２オプティカルフローＯＦ２を用いて生成されたものであってもよい。
【０１０７】
図１３に示すように、ヒストグラムに関する評価項目には、ａ）分散値評価、ｂ）ピーク値と中央値との位置関係の評価、ｃ）高度数階級の個数評価、および、ｄ）低度数階級の個数評価が含まれる。なお、本実施形態では、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２との２種類のヒストグラムが存在する。各ヒストグラムＨＧ１、ＨＧ２に対して、４つの評価項目の評価が行われる。
【０１０８】
ａ）分散値評価は、各ヒストグラムＨＧ１、ＨＧ２の分散度合の評価である。分散値は、例えば、以下の式（１）で算出される。
【数１】
2019219719.tif 000003
ｎ  ：第２オプティカルフローＯＦ２の数
ｘi ：各第２オプティカルフローＯＦ２から得られる移動距離
ｍ  ：各第２オプティカルフローＯＦ２から得られる移動距離のｎ個の平均値
なお、第２オプティカルフローＯＦ２の数ｎは、ヒストグラムＨＧ１、ＨＧ２の作成に用いられた第２オプティカルフローＯＦ２の数である。また、第２オプティカルフローＯＦ２から得られる移動距離は、第１ヒストグラムＨＧ１では第２オプティカルフローＯＦ２の前後方向の大きさであり、第２ヒストグラムＨＧ２では第２オプティカルフローＯＦ２の左右方向の大きさである。
【０１０９】
式（１）によって求まる分散値が、所定の分散閾値以下である場合には、ヒストグラムＨＧ１、ＨＧ２を生成するために使用された第２オプティカルフローＯＦ２のばらつきが小さいと判断されるために、評価値として加算値が与えられる。加算値は、例えば＋１等の正の整数値である。一方、式（１）によって求まる分散値が、所定の分散閾値より大きい場合には、ヒストグラムＨＧ１、ＨＧ２を生成するために使用された第２オプティカルフローＯＦ２のばらつきが大きいと判断されるために、評価値として減算値が与えられる。減算値は、例えば−１等の負の整数値である。図１４に示す例では、分散値が大きくなるために、減算値が与えられる。
【０１１０】
なお、所定の分散閾値は、実験やシミュレーションによって決められる値であり、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２とで同じ値でもよいし、異なる値であってもよい。また、加算値および減算値も実験やシミュレーションによって決められ、この点は以下でも同様である。加算値および減算値のそれぞれは、求めた分散値と所定の分散閾値との差の大きさに応じて複数種類準備されてよい。
【０１１１】
ｂ）ピーク値と中央値との位置関係の評価は、度数がピーク（最大）を示す階級の移動距離（ピーク値）と、中央値との差の評価である。車両７の移動情報の推定値の信頼性が高いほど、ピーク値と中央値とは近づく傾向がある。このために、ピーク値と中央値との差の絶対値が所定の差分閾値以下である場合には、評価値として加算値を与える。一方、ピーク値と中央値との差の絶対値が所定の差分閾値を超える場合には、評価値として減算値を与える。
【０１１２】
なお、所定の差分閾値は、実験やシミュレーションによって決められる値であり、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２とで同じ値でもよいし、異なる値であってもよい。また、加算値および減算値のそれぞれは、求めた差の絶対値と所定の差分閾値との差の大きさに応じて複数種類準備されてよい。
【０１１３】
ｃ）高度数階級の個数評価は、ヒストグラムＨＧ１、ＨＧ２の度数が第１度数閾値（ＴＨ１）以上となる階級の個数評価である。例えば、第１度数閾値ＴＨ１は、ヒストグラムＨＧ１、ＨＧ２における最大度数に所定割合（例えば８０％等）を乗じて得られる。所定割合は、実験やシミュレーションによって適宜決められる。第１度数閾値ＴＨ１以上となる度数を有する階級が高度数階級である。図１４において、破線の丸印で先端が囲まれている階級が高度数階級である。高度数階級の数は、車両７の移動情報の推定値の信頼性が高いほど減る傾向がある。このために、高度数階級の個数が所定の第１階級数閾値（好ましくは１つ）以下である場合には、評価値として加算値を与える。一方、高度数階級の個数が所定の第１階級数閾値より多い場合には、評価値として減算値を与える。
【０１１４】
なお、所定の第１階級数閾値は、実験やシミュレーションによって決められる値であり、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２とで同じ値でもよいし、異なる値であってもよい。また、加算値および減算値のそれぞれは、求めた高度数階級の数と所定の第１階級数閾値との差の大きさに応じて複数種類準備されてよい。
【０１１５】
ｄ）低度数階級の個数評価は、ヒストグラムＨＧ１、ＨＧ２の度数が第２度数閾値（ＴＨ２）以下となる階級の個数評価である。第２度数閾値ＴＨ２は、実験やシミュレーションによって適宜決められる。本実施形態では、第２度数閾値ＴＨ２以下の度数を有する階級を低度数階級とする。ヒストグラムＨＧ１、ＨＧ２において、車両７の移動情報の推定値の信頼性が低くなると、度数が極端に少ない低度数階級の個数が多くなる傾向がある。このために、低度数階級の個数が所定の第２階級数閾値より多い場合には、評価値として減算値を与える。一方、低度数階級の個数が所定の第２階級数閾値以下の場合は、評価値をゼロとして、減算も加算も行わない。
【０１１６】
なお、所定の第２階級数閾値は、実験やシミュレーションによって決められる値であり、第１ヒストグラムＨＧ１と第２ヒストグラムＨＧ２とで同じ値でもよいし、異なる値であってもよい。また、減算値は、求めた低度数階級の数と所定の第２階級数閾値との差の大きさに応じて複数種類準備されてよい。
【０１１７】
図１２に戻って、信頼度評価部１２３は、ヒストグラムに関する評価が終わると、除去数に関する評価を行う（ステップＳ２２）。すなわち、信頼度評価部１２３によって行われる複数種類の評価項目には、除去処理によって除去対象とされたオプティカルフローの数に関する評価が含まれる。例えば、車載カメラ２１〜２４のＡＧＣ（Auto Gain Control）機能によってゲインの調整値が大きく変動した直後等に、除去処理によって大量のオプティカルフローが除去対象とされることがある。このように大量のオプティカルフローが除去対象となった場合、除去後の残りのオプティカルフローによって求めた推定値の信頼性は低下する傾向がある。このために、除去対象とされたオプティカルフローの数に関する評価を行うことによって、車両７の移動情報の推定値の信頼性を評価することができる。
【０１１８】
信頼性の評価に際しては、除去対象とされたオプティカルフローの数そのものを所定の除去数閾値と比較する構成としてよい。所定の除去数閾値は、実験やシミュレーションによって決められる。除去対象となるオプティカルフローの数が多いほど、推定値の信頼性が低下する傾向がある。このために、除去数が所定の除去数閾値以下である場合には、評価値として加算値を与える。一方、除去数が所定の除去数閾値より大きい場合には、評価値として減算値を与える。加算値および減算値のそれぞれは、求めた除去数と所定の除去数閾値との差の大きさに応じて複数種類準備されてよい。
【０１１９】
なお、除去数そのものを用いて信頼性の評価を行う代わりに、例えば、フレーム画像の処理によって得られたオプティカルフローの全数に対する除去数の割合を用いて信頼性の評価を行ってもよい。また、本実施形態においては、除去処理は複数種類存在する。このために、除去処理ごとに、評価値を求める構成としてもよい。
【０１２０】
図１２に示すように、信頼度評価部１２３は、除去数に関する評価が終わると、コーナー度に関する評価を行う（ステップＳ２３）。詳細には、信頼度評価部１２３は、オプティカルフローを求めるために抽出した各特徴点ＦＰの中から、コーナーらしさを示すコーナー度が所定のコーナー度閾値より大きい特徴点ＦＰを探し、当該特徴点ＦＰの数に関する評価を行う。すなわち、信頼度評価部１２３によって行われる複数種類の評価項目には、コーナー度が所定のコーナー度閾値より大きい特徴点ＦＰの数に関する評価が含まれる。コーナー度は、特徴点ＦＰの抽出のし易さと関係が深いために、コーナー度を指標として推定値の信頼度を評価することによって、推定値の信頼度を適切に評価することができる。
【０１２１】
なお、コーナー度は、例えばＨａｒｒｉｓオペレータやＫＬＴ（Kanade-Lucas-Tomasi）トラッカー等の公知の検出手法を用いて求めることができる。また、コーナー度閾値は、実験やシミュレーションによって決められる値である。
【０１２２】
コーナー度が高い特徴点ＦＰは、安定して抽出できるために、その動きを追跡し易い。このために、コーナー度が高い特徴点ＦＰの数が多いほど、推定値の信頼度が高くなる傾向がある。これに鑑みて、コーナー度が所定のコーナー度閾値を超える特徴点ＦＰの数が、所定の特徴点数閾値以上である場合には、評価値として加算値を与える。一方、コーナー度が所定のコーナー度閾値を超える特徴点ＦＰの数が、所定の特徴点数閾値より少ない場合には、評価値として減算値を与える。
【０１２３】
なお、所定の特徴点数閾値は、実験やシミュレーションによって決められる。また、加算値および減算値のそれぞれは、コーナー度がコーナー度閾値より大きい特徴点ＦＰの数と、所定の特徴点数閾値との差の大きさに応じて複数種類準備されてよい。また、コーナー度が高い特徴点ＦＰの数そのものを用いて信頼性の評価を行う代わりに、例えば、フレーム画像の処理によって得られた特徴点ＦＰの全数に対するコーナー度が高い特徴点ＦＰの数の割合を用いて信頼性の評価を行ってもよい。
【０１２４】
図１２に示すように、信頼度評価部１２３は、コーナー度に関する評価が終わると、オプティカルフローと抽出領域（ＲＯＩ）との位置関係評価を行う（ステップＳ２４）。図１５は、第１オプティカルフローＯＦ１と抽出領域ＥＲとの位置関係評価について説明するための図である。
【０１２５】
信頼度評価部１２３は、推定値を求めるために取得した複数の第１オプティカルフローＯＦ１について、端部が抽出領域ＥＲの境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数に関する評価を行う。第１オプティカルフローＯＦ１の端部には、追跡元となる特徴点位置と追跡先となる特徴点位置との両方が含まれる。図１５に示す例では、３つの第１オプティカルフローＯＦ１のうち、２つの第１オプティカルフローＯＦ１が、境界位置ＢＰから所定距離Ｄ内に端部が存在している。
【０１２６】
特徴点ＦＰを所定の抽出領域ＥＲのみから抽出する構成とする場合、特徴点探索の都合上、抽出領域ＥＲの境界位置ＢＰの近傍において、求めたオプティカルフローの信頼性が低下する傾向がある。この点に鑑みて、端部が境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数が、所定のオプティカルフロー数閾値以下である場合には、評価値として加算値を与える。一方、端部が境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数が、所定のオプティカルフロー数閾値を超える場合には、評価値として減算値を与える。
【０１２７】
以上からわかるように、信頼度評価部１２３によって行われる複数種類の評価項目には、境界位置ＢＰから所定距離Ｄ内に端部が存在するオプティカルフローの数に関する評価が含まれる。これによれば、推定値を求めるために利用したオプティカルフローのうち、信頼性に不安があるオプティカルフローの数に関する評価を行って信頼度を求めることができる。このために、推定値の信頼度を適切に評価することができる。
【０１２８】
なお、所定のオプティカルフロー数閾値は、実験やシミュレーションによって決められる。また、加算値および減算値のそれぞれは、端部が境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数と、所定のオプティカルフロー数閾値との差の大きさに応じて複数種類準備されてよい。また、端部が境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数そのものを用いて信頼性の評価を行う代わりに、例えば、フレーム画像の処理によって得られた第１オプティカルフローの全数に対する、端部が境界位置ＢＰから所定距離Ｄ内に存在する第１オプティカルフローＯＦ１の数の割合を用いて信頼性の評価を行ってもよい。
【０１２９】
図１２に戻って、信頼度評価部１２３は、オプティカルフローと抽出領域ＥＲとの位置関係評価が終わると、推定値と比較値との関係性評価を行う（ステップＳ２５）。推定値は、移動情報推定部１２１によって得られる推定値であり、比較値は、これとの比較のために比較情報取得部１２２で得られる比較値である。
【０１３０】
詳細には、信頼度評価部１２３は、信頼度が高いと評価された推定値とその比較値とに基づいて算出される評価用算出値の過去の傾向と、現在のフレーム画像の推定値とその比較値とに基づいて算出される評価用算出値との関係性評価を行う。換言すると、信頼度評価部１２３によって行われる複数種類の評価項目には、信頼度が高いと評価された推定値とその比較値とに基づいて算出される評価用算出値の過去の傾向と、現在のフレーム画像の推定値とその比較値とに基づいて算出される評価用算出値との関係性評価が含まれる。これによれば、過去の信頼度の高い推定値との関係に基づいて推定値の信頼度を評価することができるために、推定値の信頼度を適切に評価することができる。
【０１３１】
図１６は、推定値と比較値との関係性評価について説明するための図である。図１６に示すグラフにおいて、横軸は時刻、縦軸は上述の評価用算出値である。評価用算出値は、詳細には、推定値Ｒｅと比較値Ｒｃとの差分を速度Ｖで割った値である。速度Ｖは、推定値Ｒｅを求めるために用いた２つのフレーム画像の撮影間隔における車両７の移動速度であり、車速センサ４１によって得られる。推定値Ｒｅおよび比較値Ｒｃを取得するに際して、車両７の速度Ｖは毎回同一とは限らない。このために、比較の基準を統一とするために、推定値Ｒｅと比較値Ｒｃとの差分値を速度Ｖで割って規格化を行っている。また、図１６において、ｔｃは現在のフレーム画像の取得時刻を指す。図１６において、黒丸は高信頼度の推定値を用いた算出結果、白丸は低信頼度の推定値を用いた算出結果を示す。
【０１３２】
現在のフレーム画像から得られる評価用算出値が、信頼度が高いと評価された過去複数回の評価用算出値と同程度であれば、現在のフレーム画像の推定値は信頼性が高いと判断できる。一方、現在のフレーム画像から得られる評価用算出値が、信頼度が高いと評価された過去複数回の評価用算出値から離れた値である場合、現在のフレーム画像から得られた推定値の信頼度が高くない可能性がある。
【０１３３】
ただし、評価用算出値は、車載カメラ２１〜２４にずれが生じた場合に、過去の値からずれるものであり、現在のフレーム画像から得られる評価用算出値が過去の評価用算出値の傾向から一度ずれたからといって、そのことのみで即座に信頼性が低いとは判断できない。そこで、評価用算出値が複数回（例えば３回等）連続して過去の信頼できる評価用算出値の傾向からずれ、ばらついていると判断される場合に、評価値として減算値を与えることにしている。なお、本評価は、複数のフレーム画像の推定値を累積した累積推定値を用いてカメラずれの判定を行う構成に好適である。
【０１３４】
図１６に示す例では、現在のフレーム画像から得られる評価用算出値は、３回連続して過去の信頼できる評価用算出値の傾向からずれたことになるために、評価値として減算値が与えられる。なお、ばらつきが所定回数連続して発生していない場合には、評価値はゼロとされる。また、ばらついているか否かの判断は、例えば、高信頼度の推定値を用いて算出された直近過去数回（この回数は実験等によって決められる）の評価用算出値の平均値と、現在のフレーム画像から得られる評価用算出値との差の大きさで判断すればよい。
【０１３５】
また、本実施形態では、ステップＳ２１〜ステップＳ２５を順番に行う構成としているが、これに限らず、例えば、ステップＳ２１〜ステップＳ２５は同時に処理が進められてもよい。また、ステップＳ２１〜ステップＳ２５を順番に行う場合、その順番は、図１２に示す順番に限らず、適宜順番を入れ替えてよい。
【０１３６】
信頼度評価部１２３は、推定値と比較値との関係性評価（ステップＳ２５）が終わると、第１演算処理を行う（ステップＳ２６）。第１演算処理は、信頼度を算出するために予め設定された初期値と、ステップＳ２１〜ステップＳ２５で得た各評価値とを順次加減算する処理である。例えば、初期値が１０であるとする。ステップＳ２１では、４つ評価項目（ａ）〜（ｄ）に対して、順に、＋１、−１、−１、−１の評価値が得られたとする。ステップＳ２２〜ステップＳ２５の順に、評価値として、＋１、−１、−１、０が得られたとする。この場合、第１演算処理によって得られる値は、（１０＋１−１−１−１＋１−１−１＋０）＝７である。
【０１３７】
なお、本実施形態では、各ステップＳ２１〜Ｓ２５で得た評価値を纏めて演算処理する構成としているが、各ステップＳ２１〜Ｓ２５において、取得した評価値を演算処理する構成としてもよい。
【０１３８】
信頼度評価部１２３は、第１演算処理が終わると、暫定信頼度を決定する（ステップＳ２７）。例えば、信頼度評価部１２３は、第１演算処理で算出した値と所定の信頼度閾値とを比較して暫定信頼度を決定する。信頼度評価部１２３は、第１演算処理で算出した値が所定の信頼度閾値以上である場合、暫定信頼度を高信頼度に決定する。信頼度評価部１２３は、第１演算処理で算出した値が所定の信頼度閾値より小さい場合、暫定信頼度を低信頼度に決定する。所定の信頼度閾値は、例えば実験又はシミュレーションによって決定される。
【０１３９】
信頼度評価部１２３は、暫定信頼度を決定すると、暫定信頼度と過去信頼度との関係性評価を行う（ステップＳ２８）。詳細には、信頼度評価部１２３は、現在のフレーム画像に対して時間的に連続する過去の所定数（この回数は実験等によって決められる）のフレーム画像における信頼度の傾向と、現在のフレーム画像に対する暫定的信頼度との関係性評価を行う。すなわち、信頼度評価部１２３によって行われる複数種類の評価項目には、現在のフレーム画像に対して時間的に連続する過去の所定数のフレーム画像における信頼度の傾向と、現在のフレーム画像に対する暫定的信頼度との関係性評価が含まれる。本実施形態によれば、過去の信頼度との関係性に基づいて推定値の信頼度を評価することができるために、推定値の信頼度評価の精度を向上することができる。
【０１４０】
なお、本実施形態では、暫定的信頼度は、複数種類の評価項目から暫定信頼度と過去信頼度との関係性評価を除いた評価項目のうちの全ての評価項目の評価結果に基づいて求められる。しかし、これは例示であり、暫定的信頼度は、複数種類の評価項目から暫定信頼度と過去信頼度との関係性評価を除いた評価項目のうちの少なくとも１つの評価項目の評価結果に基づいて求められてよい。
【０１４１】
図１７は、暫定信頼度と過去信頼度との関係性評価について説明するための図である。図１７において、（ａ）は、信頼度（暫定信頼度含む）が常に高い状態を示す。（ｂ）は、信頼度（暫定信頼度含む）が常に低い状態を示す。（ｃ）、（ｄ）、および、（ｅ）は、信頼度（暫定信頼度含む）が、常に高い状態でも低い状態でもなく、ばらついている状態を示す。信頼度が常に高い状態の場合（（ａ）の場合）、評価値として加算値が与えられる。逆に信頼度が常に低い状態の場合（（ｂ）の場合）、評価値として減算値が与えられる。
【０１４２】
信頼度がばらついている状態の場合（（ｃ）〜（ｅ））においても、評価値として減算値が与えられる。ただし、ばらついた状態の場合には、ばらつきの状態に対して減算値の大きさを変更する。図１７に示す例では、暫定信頼度が高信頼度である場合には、信頼度がばらついていると判断される場合でも、減算量を小さ目（微減算）とする。一方、暫定信頼度が低信頼度である場合には、信頼度がばらついていると判断されると、減算量を大き目とする。例えば、（ａ）の加算値は＋１、（ｂ）および（ｃ）の減算値は−２、（ｄ）および（ｅ）の微減算値は−１とされる。（ｂ）と（ｃ）との減算量は異なる値であってもよい。
【０１４３】
なお、図１７に示す評価値の決定手法は例示にすぎない。例えば、常に信頼度が低い場合（（ｂ）の状態）の減算値と、信頼度がばらついている場合（（ｃ）〜（ｅ）の状態）の減算値とは、異なる値としてよい。また、信頼度がばらついている場合のパターン分けについて、図１７に示す以外の分け方とされてもよい。
【０１４４】
信頼度評価部１２３は、暫定信頼度と過去信頼度との関係性評価が終わると、第２演算処理を行う（ステップＳ２９）。第２演算処理は、ステップＳ２８で得た評価値をステップＳ２６の第１演算処理によって得られた演算結果に対して加算又は減算する処理である。
【０１４５】
信頼度評価部１２３は、第２演算処理が終わると、信頼度を決定する（ステップＳ３０）。例えば、信頼度評価部１２３は、第２演算処理で算出した値と所定の信頼度閾値とを比較して信頼度を決定する。所定の信頼度閾値は、暫定信頼度を決定する際に用いた閾値と同じでよいが、異なってもよい。信頼度評価部１２３は、第２演算処理で算出した値が所定の信頼度閾値以上である場合、推定値の信頼度を高信頼度に決定する。信頼度評価部１２３は、第２演算処理で算出した値が所定の信頼度閾値より小さい場合、推定値の信頼度を低信頼度に決定する。上述のように、信頼度評価部１２３における推定値の信頼度の評価結果は、判定処理部１２４における処理に使用される。
【０１４６】
なお、信頼度評価部１２３が信頼度の評価に用いる複数の評価項目は、図１２に示す例と異なってもよい。例えば、図１２に示す複数種類の評価項目のうちの一部のみが推定値の信頼度の評価に用いられる構成としてもよい。
【０１４７】
＜３．留意事項＞
本明細書における実施形態や変形例の構成は、本発明の例示にすぎない。実施形態や変形例の構成は、本発明の技術的思想を超えない範囲で適宜変更されてもよい。また、複数の実施形態及び変形例は、可能な範囲で組み合わせて実施されてよい。
【０１４８】
以上においては、車載カメラ２１〜２４の異常検出に用いるデータは、車両７が直進走行している場合に収集される構成とした。ただし、これは例示であり、車載カメラ２１〜２４の異常検出に用いるデータは、車両７が直進走行していない場合に収集されてもよい。車速センサ４１から得られる速度情報と舵角センサ４２から得られる情報とを用いれば、車両７の前後方向および左右方向の比較値（推定値と比較する移動距離や速度）を正確に求めることができ、車両７が直進走行していない場合のデータを使ってもカメラの異常検出を行うことができる。
【０１４９】
また、以上においては、本発明の信頼度評価方法がカメラの異常検出を行う装置に用いられる構成としたが、本発明の信頼度評価方法は、例えば、カメラ画像のオプティカルフローを用いて駐車支援等の運転支援を行う装置に適用されてもよい。図１８は、本発明の信頼度評価装置１００の構成を示すブロック図である。
【０１５０】
信頼度評価装置１００は、本発明の信頼度評価方法を実現する装置である。信頼度評価装置１００は、制御部１０１と記憶部１０２とを備える。制御部１０１は、例えば、ＣＰＵ、ＲＡＭ、および、ＲＯＭを備えるマイクロコンピュータで構成できる。記憶部１０２は、例えば、フラッシュメモリ等の不揮発性のメモリであり、各種の情報を記憶する。記憶部１０２は、ファームウェアとしてのプログラムや各種のデータを記憶する。
【０１５１】
制御部１０１は、プログラムに従ってＣＰＵが演算処理を行うことによって、オプティカルフローに基づいて求められた移動体の移動情報の推定値の信頼度を評価する。制御部１０１は、移動体の移動情報の推定値を求める移動情報推定装置１２１Ａから、推定値の他に、推定値を求めるための行われた各種の処理結果を受け取る。制御部１０１が行う信頼度の評価処理は、上述の信頼度評価部１２３と同様の処理である。また、移動情報推定装置１２１Ａは、上述の移動情報推定部１２１と同様に構成することができ、その機能も上述の移動情報推定部１２１と同様である。信頼度評価装置１００と移動情報推定装置１２１Ａとは、同一のマイクロコンピュータで構成してよい。信頼度評価装置１００によれば、オプティカルフローに基づいて求められた移動情報の推定値の信頼度を適切に評価することができる。
【符号の説明】
【０１５２】
１・・・異常検出装置
７・・・車両（移動体）
２１・・・フロントカメラ（車載カメラ）
２２・・・バックカメラ（車載カメラ）
２３・・・左サイドカメラ（車載カメラ）
２４・・・右サイドカメラ（車載カメラ）
１２１・・・移動情報推定部
１２２・・・比較情報取得部
１２３・・・信頼度評価部
１２４・・・判定処理部
ＦＰ・・・特徴点
ＯＦ１・・・第１オプティカルフロー
ＯＦ２・・・第２オプティカルフロー
【図１】
2019219719.tif 000004
【図２】
2019219719.tif 000005
【図３】
2019219719.tif 000006
【図４】
2019219719.tif 000007
【図５】
2019219719.tif 000008
【図６】
2019219719.tif 000009
【図７】
2019219719.tif 000010
【図８】
2019219719.tif 000011
【図９】
2019219719.tif 000012
【図１０】
2019219719.tif 000013
【図１１】
2019219719.tif 000014
【図１２】
2019219719.tif 000015
【図１３】
2019219719.tif 000016
【図１４】
2019219719.tif 000017
【図１５】
2019219719.tif 000018
【図１６】
2019219719.tif 000019
【図１７】
2019219719.tif 000020
【図１８】
2019219719.tif 000021