(57)【要約】  本発明は、カメラからの画像をより精度良く補正することができる画像補正装置および画像補正方法を提供する。本発明は、同じ対象物を同時に撮像可能な一対のカメラ１０１，１０２と、一対のカメラ１０１，１０２のうち一方の撮像部で撮像された第１の画像と、一対の撮像部カメラ１０１，１０２のうち他方の撮像部で撮像された画像であって第１の画像よりも露光時間を長くして撮像された第２の画像とに基づいて、一対の撮像部で撮像された第２の画像のボケを補正する画像処理部１０４及び演算処理部１０５とを備える。
2018101055.tif 000002
【特許請求の範囲】
【請求項１】
同じ対象物を同時に撮像可能な一対の撮像部と、
前記一対の撮像部のうち一方の撮像部で撮像された第１の画像と、前記一対の撮像部のうち他方の撮像部で撮像された画像であって前記第１の画像よりも露光時間を長くして撮像された第２の画像とに基づいて、前記一対の撮像部で撮像された第２の画像のボケを補正するボケ補正部とを備えたことを特徴とする画像補正装置。
【請求項２】
請求項１記載の画像補正装置において、
前記一対の撮像部により撮像された第１及び第２の画像中から予め定めた検知対象を検知する検知部を備え、
前記ボケ補正部は、前記検知対象と前記一対の撮像部との相対的な移動に起因するボケを補正することを特徴とする画像補正装置。
【請求項３】
請求項１記載の画像補正装置において、
前記一対の撮像部により撮像された画像中から予め定めた検知対象を検知する検知部を備え、
前記ボケ補正部は、前記一対の撮像部により同一のタイミングで撮像された前記画像中の検知対象のボケを補正することを特徴とする画像補正装置。
【請求項４】
請求項１記載の画像補正装置において、
前記ボケ補正部は、前記第１及び第２の画像に基づいてボケ補正パラメータを生成し、前記ボケ補正パラメータを用いて前記第２の画像のボケを補正することを特徴とする画像補正装置。
【請求項５】
同じ対象物を同時に撮像可能な一対の撮像部のうち一方の撮像部で第１の画像を撮像し、前記一対の撮像部のうち他方の撮像部で撮像された画像であって前記第１の画像よりも露光時間を長くして第２の画像を撮像する撮像工程と、
前記撮像工程で撮像された第１及び第２の画像に基づいて、前記一対の撮像部で撮像された第２の画像のボケを補正するボケ補正工程とを有することを特徴とする画像補正方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、カメラにより撮像された画像の補正を行う画像補正装置および画像補正方法に関する。
【背景技術】
【０００２】
安全運転や自動運転に向けた技術の社会的認知度の向上に伴って車載カメラ装置による画像に基づいた各種物体認識や距離測定への要求内容は高度化しており、例えば、夜間やトンネル内のように外光の少ない状態において、シャッタ時間（露光時間）を長く設定することにより画像の撮像に十分な露光を確保しようとした場合に、自車の走行による移動等により画像に生じるボケを補正する技術の向上などが望まれている。【０００３】
このような画像の補正に関する技術として、例えば、特許文献１（特開２００５−３１８５６８号公報）には、車両の前方を連続して撮像するカメラと、前記カメラにより連続して撮像された各画像におけるオブジェクトの位置に基づいて、各オブジェクトの画像内における移動ベクトルを算出する移動ベクトル算出手段と、前記移動ベクトル算出手段により算出された前記移動ベクトルを用いて、前記カメラにより撮像された前記画像のぶれを補正するぶれ補正手段と、を備えた画像補正装置が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００５−３１８５６８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
車載カメラ装置の画像に基づく認識対象には、例えば、交通標識（道路標識）などがあり、交通標識の認識結果と地図情報とを連携した自動運転車の加速・減速などの運転支援が研究されている。また、先進運転支援システムの評価指標であるＥｕｒｏＮＣＡＰ（European New Car Assessment Program：ヨーロッパ新車アセスメントプログラム（２０１６年〜２０２０年アップデート））においても、ＳＡＳ（Speed Assistance Systems：速度支援システム）に関する評価項目が設けられており、交通標識の認識について重要度が増している。【０００６】
このような標識認識に関する技術では、昼・夜などの外光要件を問わず、かつ、標識の細かな模様の読み取りを必要とするため、車載カメラ装置で得られた画像の特に標識部分のボケを補正する必要がある。【０００７】
しかしながら、上記従来技術においては、ドライバーの運転操作（ブレーキ、アクセルなど）と長い露光時間に起因して生じる対象物のブレに対して、車両挙動に基づいて露光時間を設定し、オプティカルフローの算出結果に基づいて画像のぶれを補正している。このため、例えば石畳のような凹凸の多い悪路上を走行した場合には、ドライバーの運転操作に直接関係しない上下変動が短時間のうちに車載カメラに生じてしまい、オプティカルフローの算出結果に基づいて画像のぶれを補正する従来技術では対応することが難しかった。【０００８】
本発明は上記に鑑みてなされたものであり、カメラからの画像をより精度良く補正することができる画像補正装置および画像補正方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
上記目的を達成するために、本発明は、同じ対象物を同時に撮像可能な一対の撮像部と、前記一対の撮像部のうち一方の撮像部で撮像された第１の画像と、前記一対の撮像部のうち他方の撮像部で撮像された画像であって前記第１の画像よりも露光時間を長くして撮像された第２の画像とに基づいて、前記一対の撮像部で撮像された第２の画像のボケを補正するボケ補正部とを備えたものとする。
【発明の効果】
【００１０】
本発明によれば、カメラからの画像をより精度良く補正することができ、画像中における検知対象物の認識精度を向上することができる。
【図面の簡単な説明】
【００１１】
【図１】本実施の形態に係る車載カメラ装置の全体構成を概略的に示す図である。
【図２】車載カメラ装置における物体認識処理やボケ補正処理における処理内容を概略的に示す機能ブロック図である。
【図３】車載カメラ装置における物体認識処理やボケ補正処理の流れを示す図である。
【図４】本実施の形態における車載カメラ装置の画像処理を示すフローチャートである。
【図５】車載カメラ装置における認識対象の一例である交通標識を撮像した場合の短時間露光画像の一例を模式的に示す図である。
【図６】車載カメラ装置における認識対象の一例である交通標識を撮像した場合のボケのある画像（ボケ画像：長時間露光画像）の一例を模式的に示す図である。
【図７】車載カメラ装置における認識対象の一例である交通標識を撮像した場合のボケの無い合焦点の画像の一例を模式的に示す図である。
【発明を実施するための形態】
【００１２】
以下、本発明の実施の形態を図面を参照しつつ説明する。
【００１３】
図１は、本実施の形態に係る車載カメラ装置の全体構成を概略的に示す図である。
【００１４】
図１において、車載カメラ装置１００は、一対のカメラ１０１，１０２、カメラインタフェース１０３、画像処理部１０４、演算処理部１０５、記憶部１０８、制御処理部１０６、ＣＡＮインタフェース１０７、およびバス１０９などにより概略構成されている。カメラインタフェース１０３、画像処理部１０４、演算処理部１０５、記憶部１０８、制御処理部１０６、及びＣＡＮインタフェース１０７は、バス１０９により接続されており、このバス１０９を介して互いに種々の情報の授受を行うことができるほか、ＣＡＮインタフェース１０７を介して外部の車載ネットワークであるＣＡＮ（Controller Area Network）１１０に接続されており、ＣＡＮ１１０を介して自車両（車載カメラ装置１００が搭載されている車両）の他の制御システムとの間で種々の情報の授受を行う。
【００１５】
一対のカメラ１０１，１０２（左カメラ１０１、右カメラ１０２）は、撮影対象領域を撮像して画像を取得するための撮像部であり、光軸が並行になるように、かつ、同じ方向を撮像するように車載カメラ装置１００に左右に配置されている。左カメラ１０１および右カメラ１０２は、左カメラ１０１および右カメラ１０２で撮像した画像や、左カメラ１０１および右カメラ１０２への制御信号の授受を行うためのカメラインタフェース１０３を介してバス１０９に接続されている。左カメラ１０１および右カメラ１０２は、カメラインタフェース１０３を介して入力される制御信号に基づいてシャッタ時間（露光時間）を調整して撮像を行い、それぞれシャッタ時間の異なる画像を取得することができるように構成されている。
【００１６】
画像処理部１０４は、カメラ１０１，１０２の撮像素子から得られた画像の補正や、それらの画像を用いた視差情報の算出処理などを行う。画像処理部１０４は補正処理として、カメラ１０１の撮像素子から得られる画像（第１の画像）と、カメラ１０２の撮像素子から得られる画像（第２の画像）とを比較して、それぞれの画像に対して撮像素子に起因するデバイス固有の偏差を補正する補正処理（撮像素子が持つ固有の癖を吸収するための補正などの画像処理）や、ノイズ補間処理などの画像補正処理、ボケ補正パラメータ（後述）の計算処理などを行い、これらの画像を記憶部１０８に記憶する。また、画像処理部１０４は、第１及び第２の画像の間の相互に対応する箇所に基づいて視差情報の計算処理を行い、その計算結果（視差情報）を記憶部１０８に記憶する。
【００１７】
演算処理部１０５は、記憶部１０８に記憶された画像および視差情報（画像上の各点（各対象物）に対する車載カメラ装置１００（或いは自車両）からの距離情報）を使い、車両周辺の環境を知覚するために必要な、各種物体の認識処理（物体認識処理）を行う。ここで、各種物体とは、例えば、人、車、その他の障害物、信号機、標識、車のテールランプやヘッドライトなどである。これら認識結果や中間的な計算結果の一部は記憶部１０８に記憶される。また、演算処理部１０５は、撮像した画像に対して行った物体認識処理後に、それらの認識結果を用いて自車両の制御方針を計算する。計算の結果として得られた車両の制御方針や物体認識処理の結果の一部はＣＡＮインタフェース１０７を通してＣＡＮ１１０に送信され、これらの情報を用いて車両の制御（車両制御処理）が行われる。
【００１８】
制御処理部１０６は、車載カメラ装置１００の全体の動作を制御するものであり、車載カメラ装置１００の各処理部が異常動作を起こしていないか、或いは、情報の送信時（データ転送時）にエラーが発生していないかどうかなどを監視しており、異常動作を防ぐ仕掛けとなっている。
【００１９】
図２は、車載カメラ装置における物体認識処理やボケ補正処理における処理内容を概略的に示す機能ブロック図である。また、図３は、車載カメラ装置における物体認識処理やボケ補正処理の流れを示す図である。
【００２０】
図２及び図３において、カメラインタフェース１０３の画像取得部１０３ａを介して得られた左カメラ１０１及び右カメラ１０２で撮像された画像は、画像処理部１０４の画像前処理部１０４ａ及び視差情報計算処理部１０４ｂに送られてステレオ画像処理２０１や立体物検知処理２０２、左右単眼画像処理３０１が実行され、記憶部１０８に記憶される。
【００２１】
ステレオ画像処理２０１及び左右単眼画像処理３０１では、カメラ１０１の撮像素子から得られる画像（第１の画像）と、カメラ１０２の撮像素子から得られる画像（第２の画像）とを比較して、それぞれの画像に対して撮像素子に起因するデバイス固有の偏差を補正する偏差補正処理（撮像素子が持つ固有の癖を吸収するための補正などの画像処理）や、ノイズ補間処理などの画像補正処理を行う。また、ステレオ画像処理２０１では、さらに、第１及び第２の画像の間の相互に対応する箇所に基づいて視差情報の計算処理を行う視差情報計算処理を行う。なお、左右単眼画像処理３０１では、カメラ１０１とカメラ１０２で露光時間を異ならせて得られる第１の画像と第２の画像について偏差補正処理やノイズ補間処理などの画像処理を行う。
【００２２】
また、立体物検知処理２０２では、階調画像である第１の画像と第２の画像で構成されるステレオ画像において立体物を検知し、立体物を含む所定の範囲を切出し、後述する物体認識処理２０３用にエッジ画像などに加工する画像処理を行う。
【００２３】
立体物検知処理２０２を実施された画像は、記憶部１０８から読み出され、演算処理部１０５の認識処理部１０５ａにおいて、物体認識処理２０３を実施される。物体認識処理２０３では、記憶部１０８に予め記憶された物体辞書１０８ａ（物体認識処理の対象となる物体の画像等を予めデータ化したもの）を用いて画像中の物体を識別し、その物体が何であるか（何れの認識対象物であるか）を判定する処理を行う。物体認識処理２０３による物体認識結果１０８ｂは、記憶部１０８に記憶される。物体認識結果１０８ｂとなりうる認識対象物としては、標識や，人、車両，その他の立体物、信号機、テールランプなどがある。
【００２４】
物体認識結果１０８ｂは、演算処理部１０５において自車両の制御方針の計算に用いられる。自車両の制御方針は、物体認識結果１０８ｂと、自車両の状態（速度、舵角など）とを勘案して計算され、ＣＡＮインタフェース１０７を介してＣＡＮ１１０に送信されて、車両制御処理などに用いられる。車両制御処理では、演算処理部１０５で計算された制御方針に基づき、例えば、音声や警告灯などによる乗員への警告の発報や、自車両のブレーキング、舵角調整などの制御、或いは、対象物の回避制御を行う。
【００２５】
画像処理部１０４の補正判断部１０４ｃは、ボケ補正パラメータの計算処理を実行するかどうか（すなわち、ボケ補正パラメータの計算処理や、そのボケ補正パラメータを用いた画像のボケの補正処理などにより構成されるボケ補正処理を開始するかどうか）を判断する。補正判断部１０４ｃでは、例えば、カメラ１０１，１０２で得られた画像、或いは、ＣＡＮインタフェース１０７を介して得られる他のデバイスからの情報に基づいて撮像対象となる自車の周辺環境（明るさ）に係る情報を取得し、予め定めた基準よりも暗い場合にボケ補正パラメータの計算処理を実行するよう判断し、その他の場合は実行しないように判断する。また、ＣＡＮインタフェース１０７を介して得られる自車の走行速度に基づいて、予め定めた基準よりも速い場合にボケ補正パラメータの計算処理を実行するよう判断し、その他の場合は実行しないように判断するよう構成しても良い。なお、補正判断部１０４ｃにおける判断方法は上記に限られず、他の情報に基づいて適宜判断するように構成しても良い。
【００２６】
補正判断部１０４ｃでボケ補正パラメータの計算処理の実行が判断されると、露光設定部１０４ｄは、カメラ１０１，１０２の露光時間を制御し、露光時間の異なる画像を取得する。カメラ１０１，１０２では、同時に撮像を開始し、撮像終了のタイミングを異ならせることにより、一方のカメラ（例えばカメラ１０１）で撮像された第１の画像（短時間露光画像）と、他方のカメラ（例えばカメラ１０２）で撮像された画像であって第１の画像よりも露光時間を長くして撮像された第２の画像（長時間露光画像）とを取得することにより、露光時間の異なる２つの画像を取得する。なお、各カメラ１０１，１０２に設定する露光時間（露光時間の差）は、初めは予め定めておいた初期値を用い、後述する露光時間計算処理３０４での計算結果に基づいて適宜調整（再設定）する。また、カメラ１０１，１０２は露光時間が異なる状態で撮像する必要はなく、例えば、カメラ１０１，１０２の露光時間を同じに設定して撮像した画像と、露光時間を異なる設定にして撮像した画像とを交互に取得するように構成することができる。
【００２７】
また、補正判断部１０４ｃでボケ補正パラメータの計算処理の実行が判断されると、画像処理部１０４のボケ補正パラメータ取得部１０４ｅでのボケ推定計算処理３０２及び露光時間計算処理３０４と、演算処理部１０５の認識処理部１０５ａでのボケ補正計算処理３０３とが実行される。
【００２８】
ボケ推定計算処理３０２では、ステレオ画像処理２０１での視差情報計算処理の計算結果や、立体物検知処理２０２での立体物の検知結果を用いて、同一の検知物体（例えば標識など）に対する複数の異なる露光時間で撮像された画像からボケ推定を行い、ボケ量（ボケ補正パラメータ）を計算する。これにより、画像全体のボケ量といった漠然とした計算だけでなく、対象物との距離や自車の移動（自車速度）に応じたボケ量のより正確な推定が可能となる。
【００２９】
ボケ補正計算処理３０３では、ボケ推定計算処理３０２で計算されたボケ量に基づいて、物体認識処理２０３で参照する画像のボケを補正する処理を実行する。物体認識処理２０３では、ボケ補正計算処理３０３を実行された、より鮮明な画像に基づいて物体認識処理を行うので、より高い精度で画像中の検知対象物を認識することが可能となる。
【００３０】
露光時間計算処理３０４では、ボケ補正計算処理３０３での計算結果（ボケを補したボケ補正計算処理３０３後の画像の明確さなど）に基づいて、各カメラ１０１，１０２におけるより適した露光時間（露光時間の差）が計算される。露光時間計算処理３０４における露光時間の計算結果（露光時間計算結果１０８ｃ）は、露光設定部１０４ｄに送られ、カメラ１０１，１０２の露光時間の調整が行われる。
【００３１】
図４は、本実施の形態における車載カメラ装置の画像処理を示すフローチャートである。
【００３２】
図４において、車載カメラ装置１００には、カメラ１０１，１０２で得られた画像の画像データが入力され（ステップＳ４０１）、画像中における立体物（例えば標識）が検知される（ステップＳ４０２）。次に、立体物を検知した位置の画像を解析して、ボケ補正処理（ボケ補正パラメータの計算処理や、ボケ補正パラメータを用いた画像のボケの補正処理など）を実行する必要があるかどうかを判定し（ステップＳ４０３）、判定結果がＹＥＳの場合には、ボケ補正処理を実行し（ステップＳ４０４）、識別の処理（ステップＳ４０５）に進む。また、ステップＳ４０３での判定結果がＮＯの場合には、そのまま識別の処理（ステップＳ４０５）に進む。識別の処理では、画像中の物体が何であるのか（何れの識別対象物であるのか）を識別し（ステップＳ４０５）、識別された物体を時系列で得られた画像において途切れないよう画像上の遷移位置を追跡しつつ識別を繰り返し（ステップＳ４０６）、複数フレームに渡って行われた識別結果に基づいて、識別された物体が何れの識別対象物であるのかを最終的に判定し（ステップＳ４０７）、判定結果（識別結果）を認識結果として出力し（ステップＳ４０８）、処理を終了する。
【００３３】
ここで、本実施の形態における画像のボケを補正する処理の原理について説明する。
【００３４】
図５〜図７は、車載カメラ装置における認識対象の一例である交通標識を撮像した場合の画像の一例を模式的に示す図である。
【００３５】
例えば、図７に示すようなボケの無い合焦点の画像（原画像）と、図６のように原画像に対してボケのある画像（ボケ画像）とが有る場合、原画像からボケ画像になる過程（劣化過程）を表す点拡がり関数（ＰＳＦ：Point Spread Function）をｈ（ｘ，ｙ）、原画像を表す関数をｆ（ｘ，ｙ）、ボケ画像を表す関数をｇ（ｘ，ｙ）とすると、ボケ画像は、原画像と点拡がり関数とのコンボリューション（重畳）を用いて以下の（式１）で表される。
【００３６】
【数１】
2018101055.tif 000003
【００３７】
ここで、車載カメラ装置１００の一対のカメラ１０１，１０２において撮像される画像は、それぞれ、原画像が劣化したボケ画像であると考えることができるので、一方のカメラ（例えばカメラ１０１）で撮像された第１の画像（短時間露光画像：図５相当）と、他方のカメラ（例えばカメラ１０２）で撮像された画像であって第１の画像よりも露光時間を長くして撮像された第２の画像（長時間露光画像：図６相当）とにおいても、以下の（式２）及び（式３）が成り立つ。
【００３８】
【数２】
2018101055.tif 000004
【００３９】
【数３】
2018101055.tif 000005
【００４０】
ここで、（式２）において、ｇｓ（ｘ，ｙ）は第１の画像（短時間露光画像）、ｆｓ（ｘ，ｙ）は第１の画像の原画像に相当する画像、ｈｓ（ｘ，ｙ）は第１の画像の劣化過程を表す点拡がり関数である。また、（式３）において、ｇｌ（ｘ，ｙ）は第２の画像（長時間露光画像）、ｆｌ（ｘ，ｙ）は第２の画像の原画像に相当する画像、ｈｌ（ｘ，ｙ）は第２の画像の劣化過程を表す点拡がり関数である。
【００４１】
第１の画像ｇｓ（ｘ，ｙ）と第２の画像ｇｌ（ｘ，ｙ）は、同じタイミングで撮像開始されて画像取得される。車載カメラ装置１００のステレオカメラ（一対のカメラ１０１，１０２）においては、これらの画像を１フレームで取得する。第１の画像は（第２の画像と比較して）短い露光時間で撮像するため画像が暗くなり、認識対象物の認識は難しくなるが、動きによるボケは小さい。つまり、露光時間が十分に短い場合は、ボケの程度のみを考える場合には画像の暗さを無視することができるので、第１の画像ｇｓ（ｘ，ｙ）を第２の画像ｇｌ（ｘ，ｙ）における原画像ｆｌ（ｘ，ｙ）として扱うことができる。したがって、ｇｓ（ｘ，ｙ）を上記（式３）のｆｌ（ｘ，ｙ）に代入することにより下記（式４）が得られる。
【００４２】
【数４】
2018101055.tif 000006
【００４３】
上記（式４）においては、ｇｌ（ｘ，ｙ）及びｇｓ（ｘ，ｙ）が既知であるため、第２の画像の劣化過程を表す点拡がり関数であるｈｌ（ｘ，ｙ）を求めることができる。この関数ｈｌ（ｘ，ｙ）を求めることは、画像処理部１０４でボケ量（ボケ補正パラメータ）を計算することに相当する。
【００４４】
一方、第２の画像は（第１の画像と比較して）長い露光時間で撮像するため、十分な明るさがあるがボケの程度が大きい画像となる。したがって、第２の画像は、そのままでは、物体の検知はできるが物体の識別には適さない画像ということになる。ここで、第２の画像については、上記（式４）により劣化過程を表す点拡がり関数であるｈｌ（ｘ，ｙ）が得られているため、上記（式３）においてｇｌ（ｘ，ｙ）及びｈｌ（ｘ，ｙ）が既知となり、第２の画像の原画像ｇｌ（ｘ，ｙ）を求めることができる。つまり、明るさが十分にあり、かつ、ボケの無い画像、すなわち、原画像相当の画像を推定する（言い換えると、擬似的に原画像を復元する）ことができる。ここで、既知のｇｌ（ｘ，ｙ）及びｈｌ（ｘ，ｙ）から上記（式３）を用いて原画像ｇｌ（ｘ，ｙ）を得ることは、演算処理部１０５においてボケ補正パラメータを用いて画像の補正処理を実行することに相当する。
【００４５】
このように、第１の画像（短時間露光画像）を原画像と仮定して第２の画像（長時間露光画像）から劣化過程に係る点拡がり関数ｈｌ（ｘ，ｙ）を推定し、得られた点拡がり関数（ボケ補正パラメータ）を使い、第２の画像ｇｌ（ｘ，ｙ）に対して逆コンボリューションを掛けることで、原画像ｆｌ（ｘ，ｙ）に相当する画像を得ることが可能となる。
【００４６】
なお、ボケ補正処理（ボケ量の計算やボケ量を用いた画像のボケの補正処理）を画像全体では無く、検知した対象物の位置や距離に応じて行う事で、さらに高精度な推定が可能となる。すなわち、例えば、自車速度や対象物から予測される計算上のボケ量に基づいて、画像処理部１０４での計算処理により得られた関数ｈｌ（ｘ，ｙ）の補正を行うことにより、さらに精度の良い関数ｈｌ（ｘ，ｙ）を得ることができるので、この関数ｈｌ（ｘ，ｙ）を用いてさらに精度良く原画像ｆｌ（ｘ，ｙ）を推定することができる。
【００４７】
以上のように構成した本実施の形態の効果を説明する。
【００４８】
例えば一対のカメラを有する車載カメラ装置（ステレオカメラ装置）は、画像による視覚的な情報と、対象物への距離情報とを同時に計測することが可能なため、自動車周辺の様々な対象物（人、車、立体物、白線・路面、標識など）を詳細に把握できるという特徴を有しており、運転時の安全性の向上や運転支援の精度向上への寄与が期待されるデバイスである。
【００４９】
車載カメラ装置の画像に基づく認識対象には、例えば、交通標識（道路標識）などがあり、交通標識の認識結果と地図情報とを連携した自動運転車の加速・減速などの運転支援が研究されている。また、先進運転支援システムの評価指標であるＥｕｒｏＮＣＡＰ（European New Car Assessment Program：ヨーロッパ新車アセスメントプログラム（２０１６年〜２０２０年アップデート））においても、ＳＡＳ（Speed Assistance Systems：速度支援システム）に関する評価項目が設けられており、交通標識の認識について重要度が増している。
【００５０】
このような標識認識に関する技術では、昼・夜などの外光要件を問わず、かつ、標識の細かな模様の読み取りを必要とするため、車載カメラ装置で得られた画像の特に標識部分のボケを補正する必要がある。
【００５１】
しかしながら、従来技術においては、ドライバーの運転操作（ブレーキ、アクセルなど）と長い露光時間に起因して生じる対象物のブレに対して、車両挙動に基づいて露光時間を設定し、オプティカルフローの算出結果に基づいて画像のぶれを補正している。このため、例えば石畳のような凹凸の多い悪路上を走行した場合には、ドライバーの運転操作に直接関係しない上下変動が短時間のうちに車載カメラに生じてしまい、オプティカルフローの算出結果に基づいて画像のぶれを補正する従来技術では対応することが難しかった。
【００５２】
これに対して本実施の形態においては、一対の撮像部の露光時間をそれぞれ個別に設定し、一対の撮像部のうち一方の撮像部で撮像された第１の画像と、一対の撮像部のうち他方の撮像部で撮像された画像であって第１の画像よりも露光時間を長くして撮像された第２の画像とに基づいて、一対の撮像部で撮像された第２の画像のボケを補正するように構成したので、カメラからの画像をより精度良く補正することができ、画像中における検知対象物の認識精度を向上することができる。
【００５３】
なお、本発明は上記した各実施の形態に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施の形態は本願発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。
また、上記の各構成、機能等は、それらの一部又は全部を、例えば集積回路で設計する等により実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。
【符号の説明】
【００５４】
１００  車載カメラ装置
１０１  左カメラ
１０２  右カメラ
１０３  カメラインタフェース
１０３ａ  画像取得部
１０４  画像処理部
１０４ａ  画像前処理部
１０４ｂ  視差情報計算処理部
１０４ｃ  補正判断部
１０４ｄ  露光設定部
１０４ｅ  ボケ補正パラメータ取得部
１０５  演算処理部
１０５ａ  認識処理部
１０６  制御処理部
１０７  ＣＡＮインタフェース
１０８  記憶部
１０８ａ  物体辞書
１０８ｂ  物体認識結果
１０８ｃ  露光時間計算結果
１０９  バス
１１０  ＣＡＮ（Controller Area Network）
２０１  ステレオ画像処理
２０２  立体物検知処理
２０３  物体認識処理
３０１  左右単眼画像処理
３０２  ボケ推定計算処理
３０３  ボケ補正計算処理
３０４  露光時間計算処理
【図１】
2018101055.tif 000007
【図２】
2018101055.tif 000008
【図３】
2018101055.tif 000009
【図４】
2018101055.tif 000010
【図５】
2018101055.tif 000011
【図６】
2018101055.tif 000012
【図７】
2018101055.tif 000013
【国際調査報告】
2018101055.tif 000014
2018101055.tif 000015
2018101055.tif 000016