(57)【要約】【課題】  装置構成が複雑化することを防止しつつ、撮像装置の異常状態（例えば、光学系の汚れ等）の有無を容易に検知する。【解決手段】  カメラ汚れ比較判定部１８は、第１赤外線カメラ２Ｒの輝度分散平均値と第２赤外線カメラ２Ｌの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値未満であるか否かを判定する。この判定結果が「ＹＥＳ」の場合には、第１または第２赤外線カメラ２Ｒ，２Ｌの光学系に汚れが発生することで、一方の赤外線画像のコントラスト（明暗差）が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第１および第２赤外線カメラ２Ｒ，２Ｌのうち一方は汚れ有り、他方は汚れ無しと判定する。【選択図】      図８
2006157740.tif 000002
【特許請求の範囲】
【請求項１】
車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
複数の前記撮像装置の撮像により得られた各複数の撮像装置毎の画像の輝度値に基づき前記各複数の撮像装置毎の画像の輝度分散値を算出する輝度分散値算出手段と、
前記輝度分散値算出手段により算出された複数の前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段と
を備えることを特徴とする撮像装置の異常検知装置。
【請求項２】
前記輝度分散値算出手段により算出された前記輝度分散値に応じて、前記各複数の撮像装置毎の画像同士間の前記輝度分散値の差分を算出する分散値差分算出手段を備え、
前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に応じて前記撮像装置の異常の有無を検知することを特徴とする請求項１に記載の撮像装置の異常検知装置。
【請求項３】
前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に加えて、前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知することを特徴とする請求項２に記載の撮像装置の異常検知装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、例えば可視光領域や赤外線領域にて撮像可能な撮像装置の異常状態（例えば、光学系の汚れ等）の有無を検知する撮像装置の異常検知装置に関する。
【背景技術】
【０００２】
従来、例えば車両に搭載された赤外線カメラに近接して配置されるフォトセンサにより車両のヘッドライトから出力される光の反射光の光量を検出し、検出した光量に基づいて赤外線カメラの汚れの有無を検知する装置が知られている（例えば、特許文献１参照）。
【特許文献１】特開２００１−２１１４４９号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
ところで、上記従来技術の一例に係る装置においては、赤外線カメラに加えて、赤外線カメラの汚れの有無を検知するための特別の装置としてフォトセンサを備える必要があることから、装置構成が複雑化すると共に、フォトセンサを所望の状態で作動させるために赤外線カメラの設置位置が規制されてしまう虞がある。
本発明は上記事情に鑑みてなされたもので、装置構成が複雑化することを防止しつつ、撮像装置の異常状態（例えば、光学系の汚れ等）の有無を容易に検知することが可能な撮像装置の異常検知装置を提供することを目的としている。
【課題を解決するための手段】
【０００４】
上記課題を解決して係る目的を達成するために、請求項１に記載の本発明の撮像装置の異常検知装置は、車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置（例えば、実施の形態での赤外線カメラ２Ｒ，２Ｌ）の異常検知装置であって、複数の前記撮像装置の撮像により得られた各複数の撮像装置毎の画像の輝度値に基づき前記各複数の撮像装置毎の画像の輝度分散値を算出する輝度分散値算出手段（例えば、実施の形態での輝度分散算出部１６Ｒ，１６Ｌ）と、前記輝度分散値算出手段により算出された複数の前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段（例えば、実施の形態でのカメラ汚れ判定部１７Ｒ，１７Ｌ、カメラ汚れ比較判定部１８）とを備えることを特徴としている。
【０００５】
上記の撮像装置の異常検知装置によれば、複数の画像の各輝度分散値に応じて撮像装置の異常の有無を検知することから、各撮像装置の設置状態に関わらずに各撮像装置の異常の有無を相対的に検知することができる。
【０００６】
さらに、請求項２に記載の本発明の撮像装置の異常検知装置は、前記輝度分散値算出手段により算出された前記輝度分散値に応じて、前記各複数の撮像装置毎の画像同士間の前記輝度分散値の差分を算出する分散値差分算出手段を備え、前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に応じて前記撮像装置の異常の有無を検知することを特徴としている。
【０００７】
上記の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に応じて撮像装置の異常の有無を検知することから、各撮像装置の異常の有無を容易に検知することができる。
【０００８】
さらに、請求項３に記載の本発明の撮像装置の異常検知装置では、前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に加えて、前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知することを特徴としている。
【０００９】
上記の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に加えて、輝度分散値算出手段により算出された複数の輝度分散値に応じて撮像装置の異常の有無を検知することから、例えば各複数の撮像装置毎の画像同士間の輝度分散値の差分が所定値以下であっても、複数の画像の各輝度分散値が所定値未満である場合には、対応する複数の撮像装置が異常状態であると判定することができる。
【発明の効果】
【００１０】
以上説明したように、請求項１に記載の本発明の撮像装置の異常検知装置によれば、各撮像装置の設置状態に関わらずに各撮像装置の異常の有無を相対的に検知することができる。
さらに、請求項２に記載の本発明の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に応じて撮像装置の異常の有無を検知することから、各撮像装置の異常の有無を容易に検知することができる。
さらに、請求項３に記載の本発明の撮像装置の異常検知装置によれば、例えば各複数の撮像装置毎の画像同士間の輝度分散値の差分が所定値以下であって、対応する複数の撮像装置が正常であると判定される場合であっても、複数の画像の各輝度分散値が所定値未満である場合には、対応する複数の撮像装置が異常状態であると判定することができる。
【発明を実施するための最良の形態】
【００１１】
以下、本発明の一実施形態に係る撮像装置の異常検知装置について添付図面を参照しながら説明する。
本実施の形態による撮像装置の異常検知装置は、例えば図１に示すように、撮像装置の異常検知装置を制御するＣＰＵ（中央演算装置）を備えた画像処理ユニット１と、遠赤外線を検出可能な２つの赤外線カメラ２Ｒ，２Ｌと、自車両のヨーレートを検出するヨーレートセンサ３と、自車両の走行速度（車速）を検出する車速センサ４と、運転者によるブレーキ操作の有無を検出するブレーキセンサ５と、スピーカ６と、表示装置７とを備えて構成され、例えば、画像処理ユニット１は２つの赤外線カメラ２Ｒ，２Ｌの撮影により得られる自車両周辺の赤外線画像と、各センサ３，４，５により検出される自車両の走行状態に係る検出信号とから、自車両の進行方向前方の歩行者や動物等の移動体を検出し、検出した移動体と自車両との接触が発生する可能性があると判断したときに、スピーカ６または表示装置７を介して警報を出力するようになっている。
なお、表示装置７は、例えば自車両の各種走行状態量を表示する計器類と一体化された表示装置やナビゲーション装置の表示装置、さらにフロントウィンドウにおいて運転者の前方視界を妨げない位置に各種情報を表示するＨＵＤ（Head Up Display）７ａ等を備えて構成されている。
【００１２】
また、画像処理ユニット１は、入力アナログ信号をディジタル信号に変換するＡ／Ｄ変換回路と、ディジタル化した画像信号（輝度値）を記憶する画像メモリと、各種演算処理を行うＣＰＵ（中央演算装置）と、ＣＰＵが演算途中のデータを記憶するために使用するＲＡＭ（Random Access Memory）と、ＣＰＵが実行するプログラムやテーブル、マップなどを記憶するＲＯＭ（Read Only Memory）と、スピーカ６の駆動信号やＨＵＤ７ａ等の表示信号などを出力する出力回路とを備えており、赤外線カメラ２Ｒ，２Ｌおよび各センサ３，４，５から出力される信号は、ディジタル信号に変換されてＣＰＵに入力されるように構成されている。
【００１３】
なお、例えば図２に示すように、赤外線カメラ２Ｒ，２Ｌは、自車両１０の前部に、自車両１０の車幅方向中心部に対してほぼ対象な位置に配置されており、２つの赤外線カメラ２Ｒ，２Ｌの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ２Ｒ，２Ｌは、対象物の温度が高いほど、出力信号レベルが高くなる（つまり、輝度が増大する）特性を有している。
また、ＨＵＤ７ａは、自車両１０のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【００１４】
そして、画像処理ユニット１は、例えば図３に示すように、画像メモリ１１と、判定領域設定部１２と、車両挙動推定部１３と、除外領域設定部１４と、輝度分散算出部１６と、カメラ汚れ判定部１７とを備えて構成され、特に、画像処理ユニット１の車両挙動推定部１３には、ヨーレートセンサ３および車速センサ４およびブレーキセンサ５に加えて加速度センサおよびワイパースイッチ（ワイパーＳＷ）等を具備し、各種の車両状態量を検出する車両状態量センサ２１から出力される検出信号が入力されていると共に、画像処理ユニット１のカメラ汚れ判定部１７には、スピーカ６および表示装置７を具備する報知装置２２が接続されている。
【００１５】
この画像処理ユニット１において、画像メモリ１１は赤外線カメラ２Ｒ（または２Ｌ）から受信した赤外線画像をデジタルデータとして記憶する。
判定領域設定部１２は、予め定められた赤外線カメラ２Ｒ（または２Ｌ）の光学設計（例えば、カメラ画角）および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部１３による推定結果、例えば赤外線カメラ２Ｒ（または２Ｌ）の取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
この所定の判定領域は、例えば、図４に示すように、少なくとも道路Ｒおよび道路の境界部ＢＲおよび背景部Ｂを含む領域とされている。ここで、所定の判定領域として、道路Ｒおよび道路の境界部ＢＲを含まずに赤外線画像上での上方の背景部Ｂのみを含む領域を設定すると、赤外線カメラ２Ｒ（または２Ｌ）の汚れの有無に関わらずに、走行路の変化（例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等）に応じて、判定領域での輝度値の分布状態（例えば、輝度分散値）が変動し、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
また、所定の判定領域として、背景部Ｂおよび道路の境界部ＢＲを含まずに赤外線画像上での下方の道路Ｒのみを含む領域を設定すると、判定領域での輝度値の変化が過剰に低くなり、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
【００１６】
車両挙動推定部１３は、車両状態量センサ２１から出力される検出信号に基づき、予め設定された赤外線カメラ２Ｒ（または２Ｌ）の取付位置や設置方向のずれとして、例えば車両進行方向に対する赤外線カメラ２Ｒ（または２Ｌ）の光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する赤外線カメラ２Ｒ（または２Ｌ）の光軸の上下方向のずれを示すピッチ角等を算出する。
例えば、車両挙動推定部１３は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線ＬＭＶを算出する。そして、赤外線カメラ２Ｒ（または２Ｌ）の光軸を基準とするカメラ座標系（Ｘｃ，Ｙｃ，Ｚｃ）に対して、近似直線ＬＭＶをＸｃ−Ｚｃ平面に投影した直線とＺｃ軸とのなす角をパン角とし、近似直線ＬＭＶをＹｃ−Ｚｃ平面に投影した直線とＺｃ軸とのなす角をピッチ角とする。
なお、カメラ座標系（Ｘｃ，Ｙｃ，Ｚｃ）は、例えば下記数式（１）に示すように算出され、自車両１０の前部における赤外線カメラ２Ｒ，２Ｌの取り付け位置の中点の位置を原点Ｏとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をｘ方向、垂直方向をｙ方向として設定されている。また、座標（ｘｃ，ｙｃ）は、基準画像（例えば、右画像）上の座標（ｘ，ｙ）を、赤外線カメラ２Ｒの取付位置と、実空間の原点Ｏとの相対位置関係に基づいて、実空間の原点Ｏと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式（１）において、自車両１０と対象物との距離つまり赤外線カメラ２Ｒ，２Ｌのレンズと対象物との距離（対象物距離）ｚ（ｍ）は、カメラ基線長、つまり赤外線カメラ２Ｒ，２Ｌの各撮像素子の中心位置間の水平距離Ｄ（ｍ）と、カメラ焦点距離、つまり赤外線カメラ２Ｒ，２Ｌの各レンズの焦点距離ｆ（ｍ）と、画素ピッチｐ（ｍ／ｐｉｘｅｌ）と、画素数単位での視差Δｄ（ｐｉｘｅｌ）とに基づき算出される。
【００１７】
【数１】
2006157740.tif 000003
【００１８】
除外領域設定部１４は、判定領域設定部１２にて設定された判定領域内において、輝度値が、予め設定あるいは適宜に変更される赤外線カメラ２Ｒ（または２Ｌ）の輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
例えば図５に示すように、除外領域設定部１４は赤外線画像上の判定領域内において輝度値が所定輝度値以上となる領域ＯＢ１，…，ＯＢ６を除外領域として設定する。
また、除外領域設定部１４は、物体判定部１５により検知された所定の発熱体（例えば、他車両の排気管や自動販売機等）が赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
【００１９】
輝度分散算出部１６は、判定領域設定部１２にて設定された判定領域内において除外領域設定部１４にて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散（輝度分散）を算出する。
カメラ汚れ判定部１７は、例えば所定時間内に亘って輝度分散算出部１６により算出された複数の輝度分散の平均値（輝度分散平均値）に基づき、赤外線カメラ２Ｒ（または２Ｌ）に汚れが発生したか否かを判定する。
例えば、カメラ汚れ判定部１７は、算出した輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ２Ｒ（または２Ｌ）の輝度ゲインや輝度レベル等に応じて設定された所定分散閾値（例えば、ヒステリシスを有する値等）未満であるか否かを判定する。そして、この判定結果が「ＹＥＳ」の場合には、例えば図６に示すように、赤外線カメラ２Ｒ（または２Ｌ）の光学系に汚れが発生することで、赤外線画像のコントラスト（明暗差）が低下し、輝度分散値が低下したと判断して、赤外線カメラ２Ｒ（または２Ｌ）に汚れ有りと判定する。一方、この判定結果が「ＮＯ」の場合には、赤外線カメラ２Ｒ（または２Ｌ）に汚れ無しと判定する。
【００２０】
なお、カメラ汚れ判定部１７は、輝度分散平均値を算出する際に、車両状態量センサ２１から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、カメラ汚れ判定部１７は、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
【００２１】
カメラ汚れ判定部１７にて赤外線カメラ２Ｒ（または２Ｌ）に汚れ有りと判定された場合、例えばスピーカ６を介した警報音や音声等の聴覚的警報や、例えば表示装置７を介した表示等の視覚的警報等が報知装置２２から出力される。
なお、カメラ汚れ判定部１７は、車両状態量センサ２１のワイパースイッチ（ワイパーＳＷ）から出力されるワイパーの作動のＯＮ／ＯＦＦに係る検出信号に基づき、降雨や降雪等の天候状態に起因して赤外線カメラ２Ｒ（または２Ｌ）に汚れ有りと判定される状態であるか否かを判定し、この判定結果が「ＹＥＳ」の場合には、報知装置２２による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
【００２２】
本実施の形態による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、赤外線カメラ２Ｒ（または２Ｌ）の汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図７に示すステップＳ０１においては、赤外線カメラ２Ｒ（または２Ｌ）から赤外線画像を取得する。
次に、ステップＳ０２においては、取得した赤外線画像上において、少なくとも道路Ｒおよび道路の境界部ＢＲおよび背景部Ｂを含む所定の判定領域を設定する。
次に、ステップＳ０３においては、設定した所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
【００２３】
次に、ステップＳ０４においては、車速センサ３にて検出される車速Ｖが所定閾車速Ｖｅｔｈ以上か否かを判定する。
この判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ０５に進む。
そして、ステップＳ０５においては、ヨーレートセンサ４にて検出されたヨーレートωの絶対値が所定閾値Ｙａｗｔｈ以下であるか否かを判定する。
ステップＳ０５の判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、ステップＳ０５の判定結果が「ＹＥＳ」の場合には、ステップＳ０６に進む。
【００２４】
そして、ステップＳ０６においては、ブレーキセンサ５にて検出される運転者によるブレーキ操作の有無に係るブレーキＳＷのオフ状態であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ０７に進む。
そして、ステップＳ０７においては、ワイパーＳＷがオフ状態であるか否かを判定する。
ステップＳ０７の判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、ステップＳ０７の判定結果が「ＹＥＳ」の場合には、ステップＳ０８に進む。
【００２５】
そして、ステップＳ０８においては、判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散（輝度分散）を算出する。
次に、ステップＳ０９においては、所定時間内に亘って算出された複数の輝度分散の平均値（輝度分散平均値）を算出する。
次に、ステップＳ１０においては、前回の処理にて赤外線カメラ２Ｒ（または２Ｌ）に汚れ無しと判定されたか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ１３に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ１１に進む。
【００２６】
そして、ステップＳ１１においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ２Ｒ（または２Ｌ）の輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値ＶＬ未満であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ１２に進む。
そして、ステップＳ１２においては、汚れ判定結果として汚れ有りを設定し、後述するステップＳ１５に進む。
また、ステップＳ１３においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ２Ｒ（または２Ｌ）の輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値ＶＵ以上であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、一連の処理を終了する。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ１４に進む。
そして、ステップＳ１４においては、汚れ判定結果として汚れ無しを設定し、ステップＳ１５に進む。
そして、ステップＳ１５においては、汚れ判定結果を報知装置２２を介して自車両の運転者等に報知し、一連の処理を終了する。
【００２７】
上述したように、本実施の形態による撮像装置の異常検知装置によれば、赤外線画像上における少なくとも道路Ｒおよび道路の境界部ＢＲおよび背景部Ｂを含む領域を、輝度分散値を算出する所定の判定領域して設定することから、輝度分散値に応じて赤外線カメラ２Ｒ，２Ｌの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、所定の判定領域の輝度分散値を過剰に増大させる虞がある領域つまり輝度値が所定輝度値以上となる領域、あるいは、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物（例えば、他車両の排気管や自動販売機等）を含む領域を、除外領域として設定することで、輝度分散値に応じた赤外線カメラ２Ｒ，２Ｌの汚れの有無の検知を適切に行うことができる。
また、複数回に亘って算出された輝度分散値の平均値が所定閾値（下限分散閾値ＶＬまたは上限分散閾値ＶＵ）を超えた（下限分散閾値ＶＬ未満または上限分散閾値ＶＵ以上）か否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、赤外線カメラ２Ｒ，２Ｌの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、車両の状態量が所定状態量（例えば、車速Ｖが所定閾車速Ｖｅｔｈ以上、かつ、ヨーレートωの絶対値が所定閾値Ｙａｗｔｈ以下、かつ、ブレーキＳＷのオフ状態）である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を算出することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて赤外線カメラ２Ｒ，２Ｌの汚れの有無が検知されてしまうことを防止することができる。
【００２８】
なお、上述した実施の形態においては、輝度分散平均値が所定分散閾値未満であるか否かに応じて、赤外線カメラ２Ｒ（または２Ｌ）の汚れの有無を判定したが、これに限定されず、例えば、所定の基準輝度分散値（例えば、輝度分散平均値）と、輝度分散算出部１６により算出された輝度分散との差分が、予め設定あるいは適宜に変更される赤外線カメラ２Ｒ（または２Ｌ）の輝度ゲインや輝度レベル等に応じて設定された所定の閾差分値未満であるか否かを判定し、この判定結果が「ＮＯ」の場合には、赤外線カメラ２Ｒ（または２Ｌ）に汚れ有りと判定し、一方、この判定結果が「ＹＥＳ」の場合には、赤外線カメラ２Ｒ（または２Ｌ）に汚れ無しと判定してもよい。
【００２９】
なお、上述した実施の形態においては、各赤外線カメラ２Ｒ，２Ｌ毎に独立して汚れ判定を実行したが、これに限定されず、例えば赤外線カメラ２Ｒ（以下、第１赤外線カメラ２Ｒと呼ぶ）に対する判定結果と赤外線カメラ２Ｌ（以下、第２赤外線カメラ２Ｌと呼ぶ）に対する判定結果とに基づき、汚れ判定を行ってもよい。
この変形例においては、例えば図８に示すように、画像処理ユニット１は、２つの第１および第２赤外線カメラ２Ｒ，２Ｌに対応して、画像メモリ１１Ｒ，１１Ｌと、判定領域設定部１２Ｒ，１２Ｌと、車両挙動推定部１３と、除外領域設定部１４Ｒ，１４Ｌと、物体判定部１５と、輝度分散算出部１６Ｒ，１６Ｌと、カメラ汚れ判定部１７Ｒ，１７Ｌと、カメラ汚れ比較判定部１８と、天候判定部１９を備えて構成され、特に、画像処理ユニット１の車両挙動推定部１３には、ヨーレートセンサ３および車速センサ４およびブレーキセンサ５に加えて加速度センサおよびワイパースイッチ（ワイパーＳＷ）等を具備し、各種の車両状態量を検出する車両状態量センサ２１から出力される検出信号が入力されていると共に、画像処理ユニット１のカメラ汚れ判定部１７には、スピーカ６および表示装置７を具備する報知装置２２が接続されている。
【００３０】
この画像処理ユニット１において、各画像メモリ１１Ｒ，１１Ｌは各赤外線カメラ２Ｒ，２Ｌから受信した赤外線画像をデジタルデータとして記憶する。
各判定領域設定部１２Ｒ，１２Ｌは、予め定められた各赤外線カメラ２Ｒ，２Ｌの光学設計（例えば、カメラ画角）および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部１３による推定結果、例えば各赤外線カメラ２Ｒ，２Ｌの取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
【００３１】
車両挙動推定部１３は、車両状態量センサ２１から出力される検出信号に基づき、予め設定された各赤外線カメラ２Ｒ，２Ｌの取付位置や設置方向のずれとして、例えば車両進行方向に対する各赤外線カメラ２Ｒ，２Ｌの光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する各赤外線カメラ２Ｒ，２Ｌの光軸の上下方向のずれを示すピッチ角等を、各赤外線カメラ２Ｒ，２Ｌ毎に算出する。
例えば、車両挙動推定部１３は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線ＬＭＶを算出する。そして、各赤外線カメラ２Ｒ，２Ｌの光軸を基準とするカメラ座標系（Ｘｃ，Ｙｃ，Ｚｃ）に対して、近似直線ＬＭＶをＸｃ−Ｚｃ平面に投影した直線とＺｃ軸とのなす角をパン角とし、近似直線ＬＭＶをＹｃ−Ｚｃ平面に投影した直線とＺｃ軸とのなす角をピッチ角とする。
なお、カメラ座標系（Ｘｃ，Ｙｃ，Ｚｃ）は、例えば上記数式（１）に示すように算出され、自車両１０の前部における赤外線カメラ２Ｒ，２Ｌの取り付け位置の中点の位置を原点Ｏとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をｘ方向、垂直方向をｙ方向として設定されている。また、座標（ｘｃ，ｙｃ）は、基準画像（例えば、右画像）上の座標（ｘ，ｙ）を、赤外線カメラ２Ｒの取付位置と、実空間の原点Ｏとの相対位置関係に基づいて、実空間の原点Ｏと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式（１）において、自車両１０と対象物との距離つまり赤外線カメラ２Ｒ，２Ｌのレンズと対象物との距離（対象物距離）ｚ（ｍ）は、カメラ基線長、つまり赤外線カメラ２Ｒ，２Ｌの各撮像素子の中心位置間の水平距離Ｄ（ｍ）と、カメラ焦点距離、つまり赤外線カメラ２Ｒ，２Ｌの各レンズの焦点距離ｆ（ｍ）と、画素ピッチｐ（ｍ／ｐｉｘｅｌ）と、画素数単位での視差Δｄ（ｐｉｘｅｌ）とに基づき算出される。
【００３２】
各除外領域設定部１４Ｒ，１４Ｌは、各判定領域設定部１２Ｒ、１２Ｌにて設定された各判定領域内において、輝度値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
また、各除外領域設定部１４Ｒ，１４Ｌは、物体判定部１５により検知された所定の発熱体（例えば、他車両の排気管や自動販売機等）が各赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
【００３３】
各輝度分散算出部１６Ｒ，１６Ｌは、各判定領域設定部１２Ｒ，１２Ｌにて設定された各判定領域内において各除外領域設定部１４Ｒ，１４Ｌにて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散（輝度分散）を算出する。
各カメラ汚れ判定部１７Ｒ，１７Ｌは、例えば所定時間内に亘って各輝度分散算出部１６Ｒ，１６Ｌにより算出された複数の輝度分散の平均値（輝度分散平均値）に基づき、各赤外線カメラ２Ｒ，２Ｌに汚れが発生したか否かを判定する。
例えば、各カメラ汚れ判定部１７Ｒ，１７Ｌは、算出した輝度分散平均値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定分散閾値（例えば、ヒステリシスを有する値等）未満であるか否かを、各赤外線カメラ２Ｒ，２Ｌ毎に独立して判定する。そして、この判定結果が「ＹＥＳ」の場合には、各赤外線カメラ２Ｒ，２Ｌの光学系に汚れが発生することで赤外線画像のコントラスト（明暗差）が低下することに伴い輝度分散値が低下したと判断して、各赤外線カメラ２Ｒ，２Ｌの汚れ判定結果として汚れ有りと判定する。一方、この判定結果が「ＮＯ」の場合には、各赤外線カメラ２Ｒ，２Ｌの汚れ判定結果として汚れ無しと判定する。
【００３４】
なお、各カメラ汚れ判定部１７Ｒ，１７Ｌは、輝度分散平均値を算出する際に、車両状態量センサ２１から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、各カメラ汚れ判定部１７Ｒ，１７Ｌは、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の相対距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
【００３５】
カメラ汚れ比較判定部１８は、各赤外線カメラ２Ｒ，２Ｌ毎に算出した輝度分散平均値を比較して、各赤外線カメラ２Ｒ，２Ｌに汚れが発生したか否かを判定する。
例えば、カメラ汚れ比較判定部１８は、第１赤外線カメラ２Ｒの輝度分散平均値と第２赤外線カメラ２Ｌの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値（例えば、ヒステリシスを有する値等）未満であるか否かを判定する。そして、この判定結果が「ＹＥＳ」の場合には、第１または第２赤外線カメラ２Ｒ，２Ｌの光学系に汚れが発生することで、一方の赤外線画像のコントラスト（明暗差）が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第１および第２赤外線カメラ２Ｒ，２Ｌのうち一方は汚れ有り、他方は汚れ無しと判定する。
【００３６】
カメラ汚れ判定部１７にて各赤外線カメラ２Ｒ，２Ｌに汚れ有りと判定された場合、または、カメラ汚れ比較判定部１８にて第１赤外線カメラ２Ｒまたは第２赤外線カメラ２Ｌのうち何れか一方に汚れ有りと判定された場合、例えばスピーカ６を介した警報音や音声等の聴覚的警報や、例えば表示装置７を介した表示等の視覚的警報等が報知装置２２から出力される。
なお、各カメラ汚れ判定部１７Ｒ，１７Ｌおよびカメラ汚れ比較判定部１８は、天候判定部１９の判定結果、例えば車両状態量センサ２１のワイパースイッチ（ワイパーＳＷ）から出力されるワイパーの作動のＯＮ／ＯＦＦに係る検出信号に基づく降雨や降雪等の天候状態に対する判定結果に応じて、各赤外線カメラ２Ｒ，２Ｌに汚れ有りと判定される状態であるか否かを判定し、この判定結果が「ＹＥＳ」の場合には、報知装置２２による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
【００３７】
この変形例による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、各赤外線カメラ２Ｒ，２Ｌの汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図９に示すステップＳ２１においては、各赤外線カメラ２Ｒ，２Ｌから赤外線画像を取得する。
次に、ステップＳ２２においては、取得した各赤外線画像上において、少なくとも道路Ｒおよび道路の境界部ＢＲおよび背景部Ｂを含む所定の判定領域を設定する。
次に、ステップＳ２３においては、所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
【００３８】
次に、ステップＳ２４においては、各判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散（輝度分散）を算出する。
次に、ステップＳ２５においては、各赤外線カメラ２Ｒ，２Ｌ毎に所定時間内に亘って算出された複数の輝度分散の平均値（輝度分散平均値）を算出する。
次に、ステップＳ２６においては、前回の処理にて第１赤外線カメラ２Ｒに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ２９に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ２７に進む。
【００３９】
そして、ステップＳ２７においては、第１赤外線カメラ２Ｒの輝度分散平均値が、予め設定あるいは適宜に変更される第１赤外線カメラ２Ｒの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値ＶＬ１未満であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３１に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ２８に進む。
そして、ステップＳ２８においては、第１赤外線カメラ２Ｒの汚れ判定結果として汚れ有りを設定し、後述するステップＳ３１に進む。
また、ステップＳ２９においては、第１赤外線カメラ２Ｒの輝度分散平均値が、予め設定あるいは適宜に変更される第１赤外線カメラ２Ｒの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値ＶＵ１以上であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３１に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３０に進む。
そして、ステップＳ３０においては、第１赤外線カメラ２Ｒの汚れ判定結果として汚れ無しを設定し、ステップＳ３１に進む。
【００４０】
そして、ステップＳ３１においては、前回の処理にて汚れ比較判定結果として第１赤外線カメラ２Ｒの汚れ無しと判定されたか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３５に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３２に進む。
ステップＳ３２においては、第１赤外線カメラ２Ｒの輝度分散平均値が、予め設定あるいは適宜に変更される第１赤外線カメラ２Ｒの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値ＶＬ２未満であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３８に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３３に進む。
【００４１】
そして、ステップＳ３３においては、第２赤外線カメラ２Ｌの輝度分散平均値から第１赤外線カメラ２Ｒの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Ｖｄｍａｘ以上か否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３８に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３４に進む。
そして、ステップＳ３４においては、第１赤外線カメラ２Ｒの汚れ比較判定結果として汚れ有りを設定し、後述するステップＳ３８に進む。
【００４２】
また、ステップＳ３５においては、第２赤外線カメラ２Ｌの輝度分散平均値から第１赤外線カメラ２Ｒの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Ｖｄｍｉｎ未満か否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３７に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３６に進む。
そして、ステップＳ３６においては、第１赤外線カメラ２Ｒの汚れ比較判定結果として汚れ無しを設定し、後述するステップＳ３８に進む。
また、ステップＳ３７においては、第１赤外線カメラ２Ｒの輝度分散平均値が、予め設定あるいは適宜に変更される第１赤外線カメラ２Ｒの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値ＶＵ２以上であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ３８に進む。
一方、この判定結果が「ＹＥＳ」の場合には、上述したステップＳ３６に進む。
【００４３】
次に、ステップＳ３８においては、前回の処理にて第２赤外線カメラ２Ｌに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ４１に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ３９に進む。
【００４４】
そして、ステップＳ３９においては、第２赤外線カメラ２Ｌの輝度分散平均値が、予め設定あるいは適宜に変更される第２赤外線カメラ２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値ＶＬ１未満であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ４３に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４０に進む。
そして、ステップＳ４０においては、第２赤外線カメラ２Ｌの汚れ判定結果として汚れ有りを設定し、後述するステップＳ４３に進む。
また、ステップＳ４１においては、第２赤外線カメラ２Ｌの輝度分散平均値が、予め設定あるいは適宜に変更される第２赤外線カメラ２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値ＶＵ１以上であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ４３に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４２に進む。
そして、ステップＳ４２においては、第２赤外線カメラ２Ｌの汚れ判定結果として汚れ無しを設定し、ステップＳ４３に進む。
【００４５】
そして、ステップＳ４３においては、前回の処理にて汚れ比較判定結果として第２赤外線カメラ２Ｌの汚れ無しと判定されたか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ４７に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４４に進む。
ステップＳ４４においては、第２赤外線カメラ２Ｌの輝度分散平均値が、予め設定あるいは適宜に変更される第２赤外線カメラ２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値ＶＬ２未満であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ５０に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４５に進む。
【００４６】
そして、ステップＳ４５においては、第１赤外線カメラ２Ｒの輝度分散平均値から第２赤外線カメラ２Ｌの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Ｖｄｍａｘ以上か否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ５０に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４６に進む。
そして、ステップＳ２６においては、第２赤外線カメラ２Ｌの汚れ比較判定結果として汚れ有りを設定し、後述するステップＳ５０に進む。
【００４７】
また、ステップＳ４７においては、第１赤外線カメラ２Ｒの輝度分散平均値から第２赤外線カメラ２Ｌの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ２Ｒ，２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Ｖｄｍｉｎ未満か否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ４９に進む。
一方、この判定結果が「ＹＥＳ」の場合には、ステップＳ４８に進む。
そして、ステップＳ４８においては、第２赤外線カメラ２Ｌの汚れ比較判定結果として汚れ無しを設定し、後述するステップＳ５０に進む。
また、ステップＳ４９においては、第２赤外線カメラ２Ｌの輝度分散平均値が、予め設定あるいは適宜に変更される第２赤外線カメラ２Ｌの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値ＶＵ２以上であるか否かを判定する。
この判定結果が「ＮＯ」の場合には、後述するステップＳ５０に進む。
一方、この判定結果が「ＹＥＳ」の場合には、上述したステップＳ４８に進む。
【００４８】
そして、ステップＳ５０においては、第１赤外線カメラ２Ｒの汚れ判定結果と、第１赤外線カメラ２Ｒの汚れ比較判定結果と、第２赤外線カメラ２Ｌの汚れ判定結果と、第２赤外線カメラ２Ｌの汚れ比較判定結果とのうち、少なくとも何れか１つの判定結果にて汚れ有りと判定されたか否かを判定する。
この判定結果が「ＹＥＳ」の場合には、ステップＳ５１に進み、このステップＳ５１において、汚れ判定結果に汚れ有りを設定、つまり各第１赤外線カメラ２Ｒ，２Ｌの少なくとも何れか１つに汚れ有りとして、後述するステップＳ５４に進む。
一方、この判定結果が「ＮＯ」の場合には、ステップＳ５２に進む。
ステップＳ５２においては、第１赤外線カメラ２Ｒの汚れ判定結果と、第１赤外線カメラ２Ｒの汚れ比較判定結果と、第２赤外線カメラ２Ｌの汚れ判定結果と、第２赤外線カメラ２Ｌの汚れ比較判定結果とのすべての判定結果にて汚れ無しと判定されたか否かを判定する。
この判定結果が「ＹＥＳ」の場合には、ステップＳ５３に進み、このステップＳ３３において、汚れ判定結果に汚れ無しを設定、つまり各第１赤外線カメラ２Ｒ，２Ｌに汚れ無しとして、後述するステップＳ５４に進む。
一方、この判定結果が「ＮＯ」の場合には、一連の処理を終了する。
そして、ステップＳ５４においては、汚れ判定結果を報知装置２２を介して自車両の運転者等に報知し、一連の処理を終了する。
【００４９】
上述したように、この変形例による撮像装置の異常検知装置によれば、各赤外線カメラ２Ｒ，２Ｌの設置状態に関わらずに各赤外線カメラ２Ｒ，２Ｌの異常の有無を相対的に検知することができる。さらに、各複数の各赤外線カメラ２Ｒ，２Ｌ毎の画像同士間の輝度分散平均値の差分に加えて、各複数の各赤外線カメラ２Ｒ，２Ｌ毎の画像の輝度分散平均値に応じて撮像装置の異常の有無を検知することから、例えば各複数の各赤外線カメラ２Ｒ，２Ｌ毎の画像同士間の輝度分散平均値の差分が所定値以下であって、対応する各赤外線カメラ２Ｒ，２Ｌが正常であると判定される場合であっても、複数の画像の各輝度分散平均値が所定値未満である場合には、対応する赤外線カメラ２Ｒ，２Ｌが異常状態であると判定することができる。
【図面の簡単な説明】
【００５０】
【図１】本発明の実施の形態に係る撮像装置の異常検知装置の構成を示すブロック図である。
【図２】図１に示す撮像装置の異常検知装置を搭載した車両を示す図である。
【図３】図１に示す画像処理ユニットの構成図である。
【図４】赤外線画像上に設定した所定の判定領域の一例を示す図である。
【図５】図４に示す判定領域内に設定した除外領域の一例を示す図である。
【図６】汚れの有無に応じた赤外線画像と輝度ヒストグラムとの変化の一例を示す図である。
【図７】図１に示す撮像装置の異常検知装置の動作を示すフローチャートである。
【図８】本実施形態の変形例に係る画像処理ユニットに構成図である。
【図９】本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
【図１０】本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
【図１１】本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
【図１２】本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
【符号の説明】
【００５１】
１  画像処理ユニット
２Ｒ，２Ｌ  赤外線カメラ（撮像装置）
３  ヨーレートセンサ
４  車速センサ
５  ブレーキセンサ
６  スピーカ
７  表示装置
１０  自車両
１２Ｒ，１２Ｌ  判定領域設定部（輝度値算出手段）
１６Ｒ，１６Ｌ  輝度分散算出部（輝度分散値算出手段）
１７Ｒ，１７Ｌ  カメラ汚れ判定部（異常検知手段）
１８  カメラ汚れ比較判定部（異常検知手段）
【図１】
2006157740.tif 000004
【図２】
2006157740.tif 000005
【図３】
2006157740.tif 000006
【図７】
2006157740.tif 000007
【図８】
2006157740.tif 000008
【図９】
2006157740.tif 000009
【図１０】
2006157740.tif 000010
【図１１】
2006157740.tif 000011
【図１２】
2006157740.tif 000012
【図４】
2006157740.tif 000013
【図５】
2006157740.tif 000014
【図６】
2006157740.tif 000015