(57)【要約】【課題】モノクロ／カラー及び広角／狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現する。【解決手段】測距装置１は、広角モノクロカメラ２ａと狭角カラーカメラ２ｂと画像処理部３とを備える。画像処理部３は、広角モノクロ画像及び狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、共通の視野に含まれる被写体までの絶対的な距離を導出する。また、画像処理部３は、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出する。そして、画像処理部３は、導出された絶対的な距離を用いて、導出された相対的な三次元形状を絶対的な距離に補正した情報を距離情報として導出する。【選択図】図１
2018179911.tif 000002
【特許請求の範囲】
【請求項１】
車両に搭載される測距装置であって、
共通の視野を含む範囲を撮像するように設置されている第１撮像部（２ａ）及び第２撮像部（２ｂ）と、
前記第１撮像部及び前記第２撮像部により撮像された画像を取得し、取得された画像に基づいて、撮像された被写体までの距離を表す情報を含む距離情報と、前記被写体の色を表す情報を含む色情報とを導出するように構成された画像処理部（３）とを備え、
前記第１撮像部は、前記第２撮像部よりも広い画角によってモノクロームの画像である広角モノクロ画像を撮像するように構成されており、
前記第２撮像部は、前記第１撮像部よりも狭い画角によってカラーの画像である狭角カラー画像を撮像するように構成されており、
前記画像処理部は、
前記広角モノクロ画像及び前記狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、前記共通の視野に含まれる被写体までの絶対的な距離を導出するように構成された第１導出部（３，Ｓ１０６）と、
異なるタイミングで撮像された複数の前記広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するように構成された第２導出部（３，Ｓ１０２）と、
前記第１導出部により導出された距離を用いて、前記第２導出部により導出された相対的な三次元形状を絶対的な距離に補正した情報を前記距離情報として導出するように構成された距離補正部（３，Ｓ１０８）とを備える、
測距装置。
【請求項２】
前記第１撮像部及び前記第２撮像部は、複数の画素が水平方向及び垂直方向に配列した撮像素子をローリングシャッタ方式により駆動することにより画像を撮像するように構成されており、
前記第１撮像部において前記共通の視野に対応する前記撮像素子の画素群に対して露光を開始してから完了するまで露光期間と、前記第２撮像部において前記共通の視野に対応する前記撮像素子の画素群に対して露光を開始してから完了するまで期間とが同時性を有するように、前記第１撮像部及び前記第２撮像部において前記撮像素子の水平ラインごとに露光を行う周期が、前記第１撮像部と前記第２撮像部との画角の比に応じて異なるように構成されている、
請求項１に記載の測距装置。
【請求項３】
前記画像処理部は、
前記広角モノクロ画像について特定の物体を認識するように構成された物体認識部（３，Ｓ２００）と、
前記狭角カラー画像について特定の色を示す画像領域を認識するように構成された色認識部（３，Ｓ２０４）と、
前記色認識部によって前記狭角カラー画像の外縁部において認識された特定の色を示す画像領域に関する情報である特定色情報と、前記物体認識部により認識された物体であって、前記特定色情報で示される画像領域に対応する前記広角モノクロ画像の画像領域において認識された物体に関する情報である特定物体情報とを統合するように構成された統合部（３，Ｓ２０８）とを、
を更に備える請求項１又は請求項２に記載の測距装置。
【請求項４】
共通の視野を含む範囲を撮像するように設置されている第１撮像部及び第２撮像部であって、前記第２撮像部よりも広い画角によってモノクロームの画像を撮像するように構成された第１撮像部により撮像された広角モノクロ画像と、前記第１撮像部よりも狭い画角によってカラーの画像を撮像するように構成された第２撮像部により撮像された狭角カラー画像とを取得するステップ（Ｓ１００，Ｓ１０４）と、
前記広角モノクロ画像及び前記狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、前記共通の視野に含まれる被写体までの絶対的な距離を導出するステップ（Ｓ１０６）と、
異なるタイミングで撮像された複数の前記広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するステップ（Ｓ１０２）と、
導出された前記絶対的な距離を用いて、導出された前記相対的な三次元形状を絶対的な距離に補正した情報である距離情報を導出するステップ（Ｓ１０８）と、
を含む距離情報取得方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、車両に搭載される測距装置及び距離情報取得方法に関する。
【背景技術】
【０００２】
特許文献１には、カラー撮像装置及びモノクロ撮像装置からなるステレオカメラで構成された測距装置が記載されている。特許文献１に記載のステレオカメラは、撮像された画像を用いたステレオマッチングにより、撮像された被写体までの距離を算出するように構成されている。また、このステレオカメラは、カラー撮像装置により撮像されたカラー画像に基づいて、色を認識の特性として用いることが定められた特定の物体を認識するように構成されている。
【０００３】
一般的に、モノクロ撮像装置により撮像されたモノクロ画像と、カラー撮像装置により撮像されたカラー画像とでは、モノクロ画像の方が解像度が高く、物体認識における形状の検出精度が高いことが知られている。一方、カラー画像を用いることで、色情報を用いなければ認識できない物体を認識することができる。したがって、モノクロ撮像装置とカラー撮像装置とで構成されたステレオカメラ装置によれば、モノクロ画像及びカラー画像の両方の利点を得ることができる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１５−２１９２１２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、車載用の撮像装置として比較的画角の広い広角カメラを用いる場合、交差点等で広い範囲での物体認識を要する場面において有利である。一方、車載用の撮像装置として比較的画角の狭い狭角カメラを用いる場合、遠距離の物体が大きく写るために遠距離の信号や車両等を認識するのに有利である。
【０００６】
そこで、発明者は、車載用の測距装置において、モノクロ撮像装置とカラー撮像装置とを併用する利点に加え、更に広角の撮像装置及び狭角の撮像装置の利点を併せ持つ構成について検討した。本開示の一局面は、モノクロ／カラー及び広角／狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現することが好ましい。
【課題を解決するための手段】
【０００７】
本開示の一態様に係る測距装置は、車両に搭載される測距装置であって、共通の視野を含む範囲を撮像するように設置されている第１撮像部（２ａ）及び第２撮像部（２ｂ）と、画像処理部（３）とを備える。なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
【０００８】
第１撮像部は、第２撮像部よりも広い画角によってモノクロームの画像である広角モノクロ画像を撮像するように構成されている。第２撮像部は、第１撮像部よりも狭い画角によってカラーの画像である狭角カラー画像を撮像するように構成されている。
【０００９】
画像処理部は、第１撮像部及び第２撮像部により撮像された画像を取得し、取得された画像に基づいて、撮像された被写体までの距離を表す情報を含む距離情報と、被写体の色を表す情報を含む色情報とを導出するように構成されている。この画像処理部は、第１導出部（３，Ｓ１０６）と、第２導出部（３，Ｓ１０２）と、距離補正部（３，Ｓ１０８）とを備える。
【００１０】
第１導出部は、広角モノクロ画像及び狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、共通の視野に含まれる被写体までの絶対的な距離を導出するように構成されている。第２導出部は、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するように構成されている。距離補正部は、第１導出部により導出された距離を用いて、第２導出部により導出された相対的な三次元形状を絶対的な距離に補正した情報を距離情報として導出するように構成されている。
【００１１】
上記構成によれば、モノクロ／カラー及び広角／狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現できる。すなわち、広角モノクロ画像と狭角カラー画像とを用いることにより、ステレオマッチングの手法による距離の情報を取得できると共に、被写体の色に関する情報も取得できる。ここで、解像度の高いモノクロ画像を広角側とすることで、たとえ遠距離であっても狭角のカラー画像に対して遜色のない解像度を得ることができ、遠距離における物体の認識性能を向上できる。
【００１２】
さらに、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出することで、広角モノクロ画像と狭角カラー画像とのステレオマッチングだけでは認識できない広範囲の被写体に関する三次元形状を認識できる。ただし、複数の広角モノクロ画像から相対的な三次元形状を導出する手法においては、対応点同士の相対的な位置関係を復元することはできるが、被写体の絶対的なスケールを復元できないというスケールの不定性の問題がある。
【００１３】
そこで、本開示では、距離補正部により、ステレオマッチングにおいて導出された絶対的な距離を基準にして、広角モノクロ画像におけるステレオマッチングの対象の領域以外の相対的な三次元形状を絶対的な距離に補正することができる。
【図面の簡単な説明】
【００１４】
【図１】測距装置の全体構成を表す図。
【図２】測距装置の設置状況及び撮像範囲を表す図。
【図３】広角モノクロ画像及び狭角カラー画像の一例を表す図。
【図４】測距処理の手順を表すフローチャート。
【図５】認識情報統合処理の手順を表すフローチャート。
【図６】認識情報統合処理の概要を表す図。
【発明を実施するための形態】
【００１５】
以下、本開示の実施形態を図面に基づいて説明する。なお、本開示は下記の実施形態に限定されるものではなく様々な態様にて実施することが可能である。
［測距装置の構成の説明］
実施形態の測距装置１の構成について、図１及び図２を参照しながら説明する。図１に例示されるとおり、測距装置１は、ステレオカメラ２と画像処理部３とを備える。この測距装置１は、図２に例示されるとおり、車両５のフロントウィンドウの近傍に設置され、車両５の前方に存在する物体に関する距離情報を取得する。
【００１６】
ステレオカメラ２は、モノクロームの画像を撮像するモノクロカメラ２ａ、及びカラーの画像を撮像するカラーカメラ２ｂからなる一対の撮像装置を備える。また、モノクロカメラ２ａ及びカラーカメラ２ｂは、それぞれ画角が異なるカメラとして構成されている。具体的には、モノクロカメラ２ａは、カラーカメラ２ｂよりも画角が広い画像である広角モノクロ画像を撮像する。また、カラーカメラ２ｂは、モノクロカメラ２ａよりも画角が狭い画像である狭角カラー画像を撮像する。
【００１７】
これらのモノクロカメラ２ａ及びカラーカメラ２ｂは、共通の被写体を視差が生じるように撮影できるように、車両５の前方に向けて所定の間隔で離間させた平行等位の位置に配置されている。モノクロカメラ２ａ及びカラーカメラ２ｂは、互いに共通する領域を含む車両５の前方領域を所定の周期ごとに同一タイミングで撮像し、左右一対の画像を表す画像データを画像処理部３に入力する。
【００１８】
モノクロカメラ２ａは、広角光学系２１ａ及びモノクロ撮像素子部２２ａを備える。広角光学系２１ａは、モノクロ撮像素子部２２ａの受光面上に被写体の像を生じさせる器具であり、比較的広い画角を有する。モノクロ撮像素子部２２ａは、例えばＣＭＯＳイメージセンサ等の撮像素子と、この撮像素子を駆動して画像を得る信号処理回路とを含み、広角光学系２１ａにより撮像素子の受光面上に結像された像を、画像として撮像する。
【００１９】
このモノクロ撮像素子部２２ａは、受光面にカラーフィルタを備えず、各画素に色情報を補完してカラー画像を得るデモザイク処理が不要である。そのため、カラーフィルタを有するイメージセンサよりも解像度の高いモノクロ画像を得ることができる。以降の説明において、モノクロカメラ２ａにより撮像された画像を、広角モノクロ画像と称する。
【００２０】
カラーカメラ２ｂは、狭角光学系２１ｂ及びカラー撮像素子部２２ｂを備える。狭角光学系２１ｂは、カラー撮像素子部２２ｂの受光面上に被写体の像を生じさせる器具であり、比較的狭い画角を有する。カラー撮像素子部２２ｂは、例えばＣＭＯＳイメージセンサ等の撮像素子と、この撮像素子を駆動して画像を得る信号処理回路とを含み、狭角光学系２１ｂにより撮像素子の受光面上に結像された像を、画像として撮像する。
【００２１】
このカラー撮像素子部２２ｂは、受光面にベイヤー配列のカラーフィルタを備えている。したがって、撮像素子により撮像される画像の各画素はカラーフィルタの色に対応する単色の色情報を持つ。そこで、モノクロ撮像素子部２２ａは、撮像素子により撮像された原画像に対して、各画素に足りない色情報を補完するデモザイク処理を施すことにより、自然に近い色を再現したカラー画像を得る。このようにして得られたカラー画像は、一般的に、同等のサイズの撮像素子を有するモノクロカメラにより撮像された画像と比較して解像度が劣る。以降の説明において、カラーカメラ２ｂにより撮像された画像を、狭角カラー画像と称する。
【００２２】
なお、本実施形態では、モノクロカメラ２ａ及びカラーカメラ２ｂは、ローリングシャッタ方式により画像を撮像するように構成されていることを前提とする。ローリングシャッタ方式とは、複数の画素が水平方向及び垂直方向に配列した撮像素子について、水平方向の画素列である水平ラインごとに順次画像を取得して１枚分の画像を形成する周知の手法である。
【００２３】
図２において、符号２００は、モノクロカメラ２ａの視野（すなわち、撮像範囲）を示している。また、符号３００は、カラーカメラ２ｂの視野を示している。図２の事例では、モノクロカメラ２ａの視野２００内にカラーカメラ２ｂの視野３００が含まれている。視野２００と視野３００とが重なる範囲が、本開示における共通の視野に相当する。このような視野を持つステレオカメラ２により同時に撮像された一対のステレオ画像の一例を図３に示す。
【００２４】
図３において、符号６０は、広角モノクロ画像の一例を示している。また、符号７０は、狭角カラー画像の一例を示している。なお、狭角カラー画像７０は、実際には有彩色を含む。また、符号６２は、広角モノクロ画像６０において、狭角カラー画像７０と共通する視野に対応する画像領域を示している。なお、符号６２で示される矩形の波線自体は、実際に広角モノクロ画像６０を構成するものではなく、共通の視野の範囲を表すものとして便宜的に記載したものである。
【００２５】
広角モノクロ画像６０及び狭角カラー画像７０には、それぞれ、被写体である前方車両の画像６１及び画像７１が含まれている。仮に、モノクロカメラ２ａ及びカラーカメラ２ｂの撮像素子のサイズが同一であるとするならば、図３に例示されるとおり、広角モノクロ画像６０では、狭角カラー画像７０より視野が広い分、画角の比に応じて被写体が小さく写る。
【００２６】
このような広角モノクロ画像６０及び狭角カラー画像７０を用いて、ステレオマッチングにより距離情報を得る場合、広角モノクロ画像６０のうち狭角カラー画像７０と共通の視野に相当する画像領域６２と、狭角カラー画像７０全体との間で視差を演算すればよい。なお、モノクロカメラ２ａとカラーカメラ２ｂとが厳密にキャリブレーションされることにより、広角モノクロ画像６０と狭角カラー画像７０との画像座標が対応付けられ、共通の視野に相当する画像座標の範囲が既知であることが前提となる。
【００２７】
ただし、ローリングシャッタ方式により撮像素子の水平ラインごとに露光を行うカメラにおいては、次のような問題が生じ得る。すなわち、画像領域６２に対応する撮像素子の露光期間と、狭角カラー画像７０全体に対応する撮像素子の露光期間とが一致していない場合、広角モノクロ画像６０の画像領域６２に写る被写体と狭角カラー画像７０全体に写る被写体との間に時間差が生じる。その結果、画像領域６２と狭角カラー画像７０との間の視差に基づいて導出される距離情報に誤差が含まれ得る。なお、ここでいう露光期間とは、ある画像領域に対応する撮像素子の画素群についてローリングシャッタ方式による露光を開始してから完了するまでの期間である。
【００２８】
そこで、本実施形態では、画像領域６２に対する露光期間と、狭角カラー画像７０全体に対する露光期間とに同時性を持たせるため、モノクロ撮像素子部２２ａ及びカラー撮像素子部２２ｂが次のように構成されている。すなわち、モノクロ撮像素子部２２ａにおいて水平ラインごとに画像を取込む露光周期と、カラー撮像素子部２２ｂにおいて水平ラインごとに画像を取込む露光周期とを設計的に異ならせることで、露光期間が同期するように構成されている。
【００２９】
具体的には、モノクロカメラ２ａ及びカラーカメラ２ｂにおいて、撮像素子の水平ラインの数が等しいことを前提に、画像領域６２に対応する画素群を含む水平ラインに対する露光周期と、狭角カラー画像７０全体の水平ラインに対する露光周期とは、行数の比に応じて定まる。つまり、広角モノクロ画像６０の画像領域６２については、画角の比に応じて露光周期が相対的に長く設定し、狭角カラー画像７０全体については、画角の比に応じて露光周期が相対的に短く設定すればよい。
【００３０】
図１の説明に戻る。画像処理部３は、図示しないＣＰＵ、ＲＡＭ、ＲＯＭ、フラッシュメモリ等の半導体メモリ、入出力インタフェース等を中心に構成された情報処理装置である。画像処理部３は、例えば、コンピュータシステムとしての機能が集約されたマイクロコントローラ等により具現化される。画像処理部３の機能は、ＣＰＵがＲＯＭや、半導体メモリ等の非遷移的実体的記憶媒体に格納されたプログラムを実行することにより実現される。画像処理部３を構成するマイクロコントローラの数は１つでも複数でもよい。
【００３１】
画像処理部３は、ステレオカメラ２から入力された左右一対の画像を用いて画像認識処理を行うことにより、被写体までの距離を表す距離情報や、被写体の色を表す色情報を含む画像認識情報を、車両５に搭載された所定の車載機器に対して出力する機能を有する。画像処理部３の機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素を論理回路やアナログ回路等を組合せたハードウェアを用いて実現してもよい。
【００３２】
［測距処理の説明］
画像処理部３が実行する測距処理の手順について、図４のフローチャートを参照しながら説明する。この測距処理は所定の制御周期ごとに繰返し実行される。
【００３３】
ステップ（以降、Ｓ）１００では、画像処理部３は、モノクロカメラ２ａにより撮像された広角モノクロ画像を作業用メモリに取込む。Ｓ１０２では、画像処理部３は、Ｓ１００において取得された広角モノクロ画像と、過去に取得された広角モノクロ画像とを含む、時間において連続な複数の広角モノクロ画像を用いて、これらの広角モノクロ画像に含まれる被写体の三次元形状を導出する。
【００３４】
具体的には、画像処理部３は、公知のＳＦＭ等の手法を用いて被写体の三次元形状を導出する。なお、ＳＦＭは、Structure from motionの略語である。ＳＦＭは、カメラの視点を変えながら被写体を撮像した複数の画像の対応点から、その被写体の相対的な三次元形状を復元する手法である。ただし、ＳＦＭの手法により復元された三次元形状にはスケールの不定性があり、対応点同士の相対的な位置関係は復元できるものの、被写体の絶対的なスケールは復元できない。
【００３５】
一方、Ｓ１０４では、画像処理部３は、Ｓ１００で取得される広角モノクロ画像と同時期にカラーカメラ２ｂにより撮像された狭角カラー画像を、作業用メモリに取込む。Ｓ１０６では、画像処理部３は、Ｓ１００において取得された広角モノクロ画像と、Ｓ１０４において取得された狭角モノクロ画像とを用いて、ステレオマッチングにより被写体との距離を導出する。
【００３６】
具体的には、画像処理部３は、広角モノクロ画像から、狭角カラー画像と共通の視野に相当する画像領域を抽出する。つまり、図３の事例では、広角モノクロ画像６０から、画像領域６２の部分を抽出する。そして、画像処理部３は、抽出された画像領域と狭角カラー画像との間でステレオマッチングによる視差計算を行い、ステレオカメラ２から共通の視野内の被写体までの距離を導出する。なお、広角モノクロ画像から抽出された画像領域と、狭角カラー画像とのサイズが異なる場合、画像処理部３は、適宜な画像変換により画像のサイズを統一してからステレオマッチングを行う。
【００３７】
次のＳ１０８では、画像処理部３は、Ｓ１０２において導出された被写体の三次元形状のスケールを、Ｓ１０６のステレオマッチングにより導出された絶対的な距離を用いて補正する。つまり、広角モノクロ画像からＳＦＭの手法により得られた三次元形状のうち、共通の視野内の被写体については、ステレオマッチングによりステレオカメラ２の絶対的な距離が取得されている。そこで、画像処理部３は、共通の視野内の被写体についてステレオマッチングにより得られた距離を基準にして、三次元形状における相対的な位置関係から広角モノクロ画像６０における共通の視野以外の領域の被写体までの距離を算出する。これにより、広角モノクロ画像と狭角カラー画像との共通の視野だけでなく、広角モノクロ画像全体の視野について、被写体までの絶対的な距離が得られる。
【００３８】
Ｓ１１０では、画像処理部３は、Ｓ１１０において補正された広角領域全体の三次元形状を含む情報を距離情報として出力する。
［認識結果統合処理の説明］
画像処理部３が実行する認識結果統合処理の手順について、図５のフローチャートを参照しながら説明する。この認識結果統合処理は所定の制御周期ごとに繰返し実行される。
【００３９】
Ｓ２００では、画像処理部３は、取得された広角モノクロ画像について、周知のパターンマッチング等の手法により、特定の物体を認識する。ここでいう特定の物体とは、例えば、車両や歩行者等の他の交通移動体、道路標識、道路標示等が挙げられる。モノクロカメラ２ａは、カラーフィルタを備えてない。そのため、撮像される広角モノクロ画像は、解像度が高く物体の輪郭が鮮明に写ることから、パターンマッチング等の画像認識により物体を精度よく認識し得る。また、広角モノクロ画像は、画角が比較的広いため、広範囲にわたって物体を検出し得る。
【００４０】
一方、Ｓ２０２では、画像処理部３は、取得された狭角カラー画像について色の分布を認識する。そして、Ｓ２０４では、画像処理部３は、Ｓ２０２において認識された色の分布状況に基づき、狭角カラー画像の外縁部に相当する画像領域から、特定の色を示す画像領域を色の認識結果として取得する。ここでいう外縁部とは、狭角カラー画像の上下左右の端から所定の範囲内の画像領域を表している。また、ここでいう特定の色とは、例えば、車両の灯火や信号の灯色、標識、道路標示等に使用され得る、赤、黄、緑、白等の色が挙げられる。
【００４１】
Ｓ２０６では、画像処理部３は、Ｓ２０４において取得された色の認識結果と、当該色認識結果で示される画像領域に対応する、広角モノクロ画像上の画像領域における物体の認識結果とを統合する。Ｓ２０８では、画像処理部３は、Ｓ２０６において統合された認識結果を表す物体認識情報を出力する。
【００４２】
上述の認識結果統合処理の具体例について、図６を参照しながら説明する。図６において、符号６３は広角モノクロ画像を示している。また、符号７２は狭角カラー画像を示している。符号６２は、広角モノクロ画像６３と狭角カラー画像７２との共通の視野に相当する画像領域を示している。
【００４３】
広角モノクロ画像６３においては、画像認識によって符号６４で示される車両が検出されていることを前提とする。車両６４は、後端部が僅かに画像領域６２に含まれるものの、大半は共通の視野以外の画像領域に分布している。一方、狭角カラー画像７２においては、左端部において赤色に発光する画像領域である赤色領域７４が検出されていることを前提とする。
【００４４】
赤色領域７４は、狭角カラー画像７２の左端部に写り込んでいる車両の後端部７３の一部である。しかし、狭角カラー画像７２に写り込んだ後端部７３のみの画像では、パターンマッチング等により車両と判別することは困難である。つまり、狭角カラー画像７２から得られる情報のみでは、赤色領域７４が車両のテールランプであることを推定することは難しい。
【００４５】
そこで、画像処理部３は、広角モノクロ画像６３と狭角カラー画像７２との画像座標の対応関係に基づき、広角モノクロ画像６３において検出された車両６４の認識結果と、狭角カラー画像７２において検出された赤色領域７４の認識結果とを統合する。その結果、符合７５で示されるとおり、車両のテールランプが赤く点灯しているという認識結果が得られる。
【００４６】
［効果］
実施形態の測距装置１によれば、以下の効果を奏する。
広角モノクロ画像と狭角カラー画像とを用いることにより、ステレオマッチングの手法で距離情報を取得できると共に、被写体の色に関する情報も取得できる。特に、解像度の高いモノクロ画像を広角側とすることで、たとえ遠距離であっても狭角のカラー画像に対して遜色のない解像度を得ることができ、遠距離における物体の認識性能を向上できる。
【００４７】
また、ＳＦＭ等の手法により広角モノクロ画像から被写体の相対的な三次元形状を導出することで、広角モノクロ画像と狭角カラー画像とのステレオマッチングだけでは認識できない広範囲の被写体に関する三次元形状を認識できる。さらに、ＳＦＭ等の手法により認識された被写体の三次元形状について、ステレオマッチングにより導出された距離を基準にすることで、共通の視野以外の被写体について絶対的な距離を導出できる。
【００４８】
また、ローリングシャッタ方式による撮像について、モノクロ撮像素子部２２ａにおいて水平ラインごとに画像を取込む露光周期と、カラー撮像素子部２２ｂにおいて水平ラインごとに画像を取込む露光周期とを、画角の比に応じて異ならせる構成を適用した。これにより、広角モノクロ画像及び狭角カラー画像における共通の視野に対する露光期間に同時性を持たせることができる。
【００４９】
また、広角モノクロ画像に対する物体認識処理により得られた物体の認識結果と、狭角カラー画像に対する色認識処理により得られた色の認識結果とを統合することにより、それぞれの画像から得られる認識結果を相互に補完できる。
【００５０】
［特許請求の範囲に記載の構成との対応］
実施形態の各構成と、特許請求の範囲に記載の構成との対応は次のとおりである。
モノクロカメラ２ａが、第１撮像部の一例に相当する。カラーカメラ２ｂが、第２撮像部の一例に相当する。画像処理部３が実行するＳ１０６の処理が、第１導出部として処理の一例に相当する。画像処理部３が実行するＳ１０２の処理が、第２導出部として処理の一例に相当する。画像処理部３が実行するＳ１０８の処理が、距離補正部として処理の一例に相当する。
【００５１】
画像処理部３が実行するＳ２００の処理が、物体認識部として処理の一例に相当する。画像処理部３が実行するＳ２０４の処理が、色認識部として処理の一例に相当する。画像処理部３が実行するＳ２０８の処理が、統合部として処理の一例に相当する。
【００５２】
［変形例］
上記各実施形態における１つの構成要素が有する機能を複数の構成要素に分担させたり、複数の構成要素が有する機能を１つの構成要素に発揮させたりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。なお、特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が、本開示の実施形態である。
【００５３】
上述した測距装置１を構成要件とするシステム、画像処理部３としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、距離情報取得方法等の種々の形態で本開示を実現することもできる。
【符号の説明】
【００５４】
１…測距装置、２…ステレオカメラ、２ａ…モノクロカメラ、２１ａ…広角光学系、２２ａ…モノクロ撮像素子部、２ｂ…カラーカメラ、２１ｂ…狭角光学系、２２ｂ…カラー撮像素子部、３…画像処理部。
【図１】
2018179911.tif 000003
【図２】
2018179911.tif 000004
【図３】
2018179911.tif 000005
【図４】
2018179911.tif 000006
【図５】
2018179911.tif 000007
【図６】
2018179911.tif 000008