(57)【要約】      （修正有）【課題】正確なコスト値を導き出すことができる視差値導出装置を提供する。【解決手段】所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像から、対応領域の候補毎に第１のコスト値と第２のコスト値を算出し、選択部３３１は、第１のコスト値と第２のコスト値のうち、基準画像及び比較画像に基づいて特定のコスト値Ｃを選択する。一の基準領域に対する前記特定のコスト値と、他の基準領域に対する前記特定のコスト値における各コスト値とを合成することにより、合成コスト値を算出する合成手段３４０と、合成コスト値に基づいて、視差値を導出する導出手段３５０を有する。【選択図】図１３
2016095229.tif 000002
【特許請求の範囲】
【請求項１】
所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値導出装置であって、
前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１のコスト値を算出する第１の算出手段と、
前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１のコスト値とは異なる第２のコスト値を算出する第２の算出手段と、
前記対応領域の候補毎の第１のコスト値と、前記対応領域の候補毎の第２のコスト値のうち、前記基準画像及び前記比較画像に基づいて特定のコスト値を選択する選択手段と、
一の基準領域に対する前記特定のコスト値と、他の基準領域に対する前記特定のコスト値における各コスト値とを合成することにより、合成コスト値を算出する合成手段と、
前記合成手段による合成によって得られた合成コスト値に基づいて、前記物体に対する視差値を導出する導出手段と、
を有することを特徴とする視差値導出装置。
【請求項２】
前記選択手段は、前記基準画像及び前記比較画像の特徴量に基づいて、前記特定のコスト値を選択することを特徴とする請求項１に記載の視差値導出装置。
【請求項３】
前記選択手段は、前記第１のコスト値に基づいて前記第１のコスト値の信頼度を示す第１の信頼度を算出すると共に、前記第２のコスト値に基づいて前記第２のコスト値の信頼度を示す第１の信頼度を算出し、当該第１及び第２の信頼度に基づいて、前記特定のコスト値を選択することを特徴とする請求項１に記載の視差値導出装置。
【請求項４】
前記選択手段は、前記基準画像及び前記比較画像の特徴量、並びに、前記第１及び第２の信頼度に基づいて、前記特定のコスト値を選択することを特徴とする請求項３に記載の視差値導出装置。
【請求項５】
請求項１乃至４のいずれか一項に記載の視差値導出装置を備えたことを特徴とする移動体。
【請求項６】
前記移動体は、車両又はロボットであることを特徴とする請求項５に記載の移動体。
【請求項７】
請求項１乃至４のいずれか一項に記載の視差値導出装置を備えたことを特徴とするロボット。
【請求項８】
前記ロボットは、固定設置される工業用ロボットであることを特徴とする請求項７に記載のロボット。
【請求項９】
所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値生産方法であって、
前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１のコスト値を算出する第１の算出ステップと、
前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１のコスト値とは異なる第２のコスト値を算出する第２の算出ステップと、
前記対応領域の候補毎の第１のコスト値と、前記対応領域の候補毎の第２のコスト値のうち、前記基準画像及び前記比較画像に基づいて特定のコスト値を選択する選択ステップと、
一の基準領域に対する前記特定のコスト値と、他の基準領域に対する前記特定のコスト値における各コスト値とを合成することにより、合成コスト値を算出する合成手段と、
前記合成ステップによる合成によって得られた合成コスト値に基づいて、前記物体に対する視差値を導出する導出ステップと、
を含むことを特徴とする視差値導出方法。
【請求項１０】
コンピュータに、請求項９に記載の方法を実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、物体を撮像して得られた複数の画像から、物体に対する視差を示す視差値を導出する発明に関する。
【背景技術】
【０００２】
従来から、ステレオ画像法によって、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、三角測量の原理に基づき、ステレオカメラから物体までの距離を測定する測距方法が知られている。この測距方法により、例えば、自動車間の距離や、自動車と障害物間の距離が測定され、自動車の衝突防止に役立てられている。
【０００３】
また、視差値の求め方としては、ステレオマッチング処理が用いられている。このステレオマッチング処理は、ステレオカメラの２つのカメラのうち、一方のカメラによって得られた基準画像内の注目する基準画素に対して、他方のカメラによって得られた比較画像内の複数の対応画素の候補を順次シフトしながら、画像信号が最も類似する画素である対応画素の位置を求めることで、基準画像と比較画像の間の視差値を検出する。一般的には、２つのカメラによって得られた画像信号の輝度値を比較することで、シフト量毎に比較する輝度値のコスト値(Cost：ここでは「非類似度」)が最も低い画素の位置が求められる（特許文献１参照）。
【０００４】
上述のようなコスト値を求める方式として、比較する画像から対応画素を含む所定領域を切り出し、この領域に対する輝度差の総和(SAD:Sum of Absolute Difference)からコスト値を求めるＳＡＤ方式や、上記領域の画素を２値化した結果からコスト値を求めるＣｅｎｓｕｓ方式等がある。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、例えば、ＳＡＤ方式では、画像におけるテクスチャが強い部分では良好なコスト値が得られるが、画像におけるテクスチャが弱い部分では良好なコスト値が得られない。これに対して、Ｃｅｎｓｕｓ方式では、画像におけるテクスチャが弱い部分であっても比較的良好なコスト値が得られるが、画像におけるテクスチャが強い部分では、ＳＡＤ方式に比べて良好なコスト値が得られない。これにより、より正確なコスト値を導き出すことができないという課題が生じる。
【課題を解決するための手段】
【０００６】
上述の課題を解決するため、請求項１に係る発明は、所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値導出装置であって、前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１のコスト値を算出する第１の算出手段と、前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１のコスト値とは異なる第２のコスト値を算出する第２の算出手段と、前記対応領域の候補毎の第１のコスト値と、前記対応領域の候補毎の第２のコスト値のうち、前記基準画像及び前記比較画像に基づいて特定のコスト値を選択する選択手段と、一の基準領域に対する前記特定のコスト値と、他の基準領域に対する前記特定のコスト値における各コスト値とを合成することにより、合成コスト値を算出する合成手段と、前記合成手段による合成によって得られた合成コスト値に基づいて、前記物体に対する視差値を導出する導出手段と、を有することを特徴とする視差値導出装置である。
【発明の効果】
【０００７】
以上説明したように本発明によれば、第１のコスト値と第２のコスト値のうち、基準画像及び前記比較画像に基づいて特定のコスト値を選択する。これにより、より正確なコスト値を導き出すことができるという効果を奏する。
【図面の簡単な説明】
【０００８】
【図１】撮像装置から物体までの距離を導き出す原理の説明図である。
【図２】（ａ）は基準画像、（ｂ）は（ａ）に対する高密度視差画像、（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。
【図３】（ａ）は基準画像における基準画素を示す概念図、（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながらシフト量を算出する際の概念図である。
【図４】シフト量毎のコスト値を示すグラフである。
【図５】合成コスト値を導き出すための概念図である。
【図６】視差値毎の合成コスト値を示すグラフである。
【図７】（ａ）は本発明の一実施形態に係る視差値導出装置を搭載した自動車の側面を表す概略図、（ｂ）は自動車の正面を示す概略図である。
【図８】視差値導出装置の概観図である。
【図９】視差値導出装置の全体のハードウェア構成図である。
【図１０】Ｃｅｎｓｕｓ方式の説明図である。
【図１１】（ａ）は通常時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフ、（ｂ）は逆光時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフである。
【図１２】（ａ）は逆光時のＳＡＤ方式による高密度視差画像を示す概念図、（ｂ）は逆光時のＣｅｎｓｕｓ方式による高密度視差画像を示す概念図である。
【図１３】第１の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【図１４】第１の実施形態に係る視差値導出方法を示したフローチャートである。
【図１５】第２の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【図１６】第２の実施形態に係る視差値導出方法を示したフローチャートである。
【図１７】第３の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【図１８】コスト曲線を比較判定する際の説明図である。
【図１９】第３の実施形態に係る視差値導出方法を示したフローチャートである。
【発明を実施するための形態】
【０００９】
以下、図面を用いて、本発明の一実施形態について説明する。
【００１０】
〔ＳＧＭ法を用いた測距方法の概略〕
まず、図１乃至図６を用いて、ＳＧＭ(Semi-Global Matching)法を用いた測距方法の概略について説明する。なお、ＳＧＭ法に関しては、非特許文献(Accurate and Efficient Stereo Processing by Semi-Global Matching and Mutual Information)に開示されているため、以下では概略を説明する。
【００１１】
＜測距の原理＞
図１を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。なお、図１は、撮像装置から物体までの距離を導き出す原理の説明図である。また、以下では、説明を簡略化するため、複数の画素からなる所定領域ではなく、一画素単位で説明する。
【００１２】
なお、一画素単位ではなく、複数の画素からなる所定領域単位で処理される場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として示される。また、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれる。
【００１３】
（視差値算出）
まず、図１で示される撮像装置１０ａおよび撮像装置１０ｂによって撮像された各画像を、それぞれ基準画像Ｉａおよび比較画像Ｉｂとする。なお、図１では、撮像装置１０ａおよび撮像装置１０ｂが平行等位に設置されているものとする。図１において、３次元空間内の物体Ｅ上のＳ点は、撮像装置１０ａおよび撮像装置１０ｂの同一水平線上の位置に写像される。すなわち、各画像中のＳ点は、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）および比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）において撮像される。このとき、視差値Δは、撮像装置１０ａ上の座標におけるＳａ（ｘ，ｙ）と撮像装置１０ｂ上の座標におけるＳｂ（Ｘ，ｙ）とを用いて、（式１）のように表される。
【００１４】
Δ＝Ｘ−ｘ        （式１）
ここで、図１のような場合には、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）と撮像レンズ１１ａから撮像面上におろした垂線の交点との距離をΔａにし、比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）と撮像レンズ１１ｂから撮像面上におろした垂線の交点との距離をΔｂにすると、視差値Δ＝Δａ＋Δｂとなる。
【００１５】
（距離算出）
また、視差値Δを用いることで、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを導き出すことができる。具体的には、距離Ｚは、撮像レンズ１１ａの焦点位置と撮像レンズ１１ｂの焦点位置とを含む面から物体Ｅ上の特定点Ｓまでの距離である。図１に示されるように、撮像レンズ１１ａ及び撮像レンズ１１ｂの焦点距離ｆ、撮像レンズ１１ａと撮像レンズ１１ｂとの間の長さである基線長Ｂ、及び視差値Δを用いて、（式２）により、距離Ｚを算出することができる。
【００１６】
Ｚ＝（Ｂ×ｆ）／Δ    （式２）
この（式２）により、視差値Δが大きいほど距離Ｚは小さく、視差値Δが小さいほど距離Ｚは大きくなる。
【００１７】
＜ＳＧＭ法＞
続いて、図２乃至図６を用いて、ＳＧＭ法を用いた測距方法について説明する。なお、図２（ａ）は基準画像、図２（ｂ）は（ａ）に対する高密度視差画像、図２（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。高密度視差画像は、ＳＧＭ法によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。エッジ視差画像は、従来から用いられているブロックマッチング法によって導き出された画像であり、基準画像のエッジ部のような比較的テクスチャの強い部分のみの視差値を示した画像である。
【００１８】
ＳＧＭ法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図２（ａ）に示されている基準画像に基づいて、図２（ｂ）に示されている高密度視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図２（ａ）に示されている基準画像に基づいて、図２（ｃ）に示されているエッジ視差画像が導き出される。図２（ｂ）及び図２（ｃ）における破線の楕円内を比べると分かるように、高密度視差画像は、エッジ視差画像に比べてテクスチャが弱い道路等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。
【００１９】
このＳＧＭ法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、更に、合成非類似度である合成コスト値 (Synthesis Cost)を算出することで視差値を導出し、最終的にほぼ全ての画素における視差値を示す視差画像（ここでは、高密度視差画像）を導き出す方法である。
【００２０】
なお、ブロックマッチング法の場合は、コスト値を算出する点はＳＧＭ法と同じであるが、ＳＧＭ法のように、合成コスト値を算出せずに、エッジ部のような比較的テクスチャの強い部分の視差値のみを導出する。
【００２１】
（コスト値の算出）
まず、図３及び図４を用いて、コスト値Ｃ（ｐ，ｄ）の算出方法について説明する。図３（ａ）は基準画像における基準画素を示す概念図、図３（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながら（ずらしながら）シフト量（ずれ量）を算出する際の概念図である。図４は、シフト量毎のコスト値を示すグラフである。ここで、対応画素は、基準画像内の基準画素に最も類似する比較画像内の画素である。なお、以降、Ｃ（ｐ，ｄ）は、Ｃ（ｘ，ｙ，ｄ）を表すものとして説明する。
【００２２】
図３（ａ）に示されているように、基準画像内の所定の基準画素ｐ（ｘ，ｙ）と、この基準画素ｐ（ｘ，ｙ）に対する比較画像内におけるエピポーラ線(Epipolar Line)上の複数の対応画素の候補ｑ（ｘ＋ｄ，ｙ）との各輝度値に基づいて、基準画素ｐ（ｘ，ｙ）に対する各対応画素の候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）が算出される。ｄは、基準画素ｐと対応画素の候補ｑのシフト量（ずれ量）であり、本実施形態では、画素単位のシフト量が表されている。即ち、図３では、対応画素の候補ｑ（ｘ＋ｄ，ｙ）を予め指定された範囲（例えば、０＜ｄ＜２５）において順次一画素分シフトしながら、対応画素の候補ｑ（ｘ＋ｄ，ｙ）と基準画素ｐ（ｘ，ｙ）との輝度値の非類似度であるコスト値Ｃ（ｐ，ｄ）が算出される。コスト値Ｃの算出方法としては、コスト値Ｃが非類似度を示す場合、ＳＡＤ(Sum of Absolute Difference)等の公知の方法が適用される。
【００２３】
このようにして算出されたコスト値Ｃ（ｐ，ｄ）は、図４に示されているように、シフト量ｄ毎のコスト値Ｃの集まりであるコスト曲線のグラフによって表すことができる。図４では、コスト値Ｃは、シフト量ｄ＝５，１２，１９の場合が０（ゼロ）となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、コスト値Ｃの最小値を求めることは困難になる。
【００２４】
（合成コスト値の算出）
次に、図５及び図６を用いて、合成コスト値Ｌｓ（ｐ，ｄ）の算出方法について説明する。図５は、合成コスト値を導き出すための概念図である。図６は、視差値毎の合成コスト値を示す合成コスト曲線のグラフである。本実施形態における合成コスト値の算出方法は、コスト値Ｃ（ｐ，ｄ）の算出だけでなく、所定の基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のコスト値を、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃ（ｐ，ｄ）に集約させて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。
【００２５】
次に、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ｌｓ（ｐ，ｄ）を算出するためには、まず、経路コスト値Ｌｒ（ｐ，ｄ）を算出する必要がある。(式３)は、経路コスト値Ｌｒ（ｐ，ｄ）を算出するための式であり、（式４）は、合成コスト値Ｌｓを算出するための式である。
【００２６】
Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋ｐ２｝    （式３）
ここで、（式３）において、ｒは、集約方向の方向ベクトルを示し、ｘ方向およびｙ方向の２成分を有する。ｍｉｎ｛｝は、最小値を求める関数である。Ｌｒｍｉｎ（ｐ−ｒ）は、ｐをｒ方向に１画素シフトした座標において、シフト量ｄを変化させた際のＬｒ（ｐ−ｒ，ｄ）の最小値を示す。なお、Ｌｒは、（式３）に示されているように再帰的に適用される。また、Ｐ１及びＰ２は、予め実験により定められた固定パラメータであり、経路上で隣接する基準画素の視差値Δが連続になりやすいようなパラメータになっている。例えば、Ｐ１＝４８、Ｐ２＝９６である。
【００２７】
また、（式３）に示されているように、Ｌｒ（ｐ，ｄ）は、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃに、図５に示されているｒ方向の各画素における各画素の経路コスト値Ｌｒの最小値を加算することで求められる。このように、ｒ方向の各画素におけるＬｒを求めるため、最初は、基準画像ｐ（ｘ，ｙ）のｒ方向の一番端の画素からＬｒが求められ、ｒ方向に沿ってＬｒが求められる。
【００２８】
そして、図５に示されているように、８方向のＬｒ０，Ｌｒ４５，Ｌｒ９０，Ｌｒ１３５，Ｌｒ１８０，Ｌｒ２２５，Ｌｒ２７０，Ｌｒ３１５求められ、最終的に（式４）に基づいて、合成コスト値Ｌｓが求められる。
【００２９】
【数１】
2016095229.tif 000003
【００３０】
このようにして算出された合成コスト値Ｌｓ（ｐ，ｄ）は、図６に示されているように、シフト量ｄ毎に合成コスト値Ｌｓ（ｐ，ｄ）が示される合成コスト曲線のグラフによって表すことができる。図６では、合成コスト値Ｌｓは、シフト量ｄ＝３の場合が最小値となるため、視差値Δ＝３として算出される。
【００３１】
なお、上記説明ではｒの数を８として説明しているが、これに限られることはない。例えば、８方向を更に２つに分割して１６方向、３つに分割して２４方向等にしてもよい。
【００３２】
また、コスト値Ｃは「非類似度」として示されているが、非類似度の逆数としての「類似度」として表されてもよい。この場合、コスト値Ｃの算出方法としては、ＮＣＣ(Normalized Cross Correlation)等の公知の方法が適用される。また、この場合、合成コスト値Ｌｓが最小ではなく「最大」となる視差値Δが導出される。なお、非類似度と類似度の両者を含めて、「一致度」として表してもよい。
【００３３】
〔本実施形態の具体的な説明〕
以下、図面を用いて、本実施形態の具体的な説明を行う。ここでは、自動車に搭載される物体認識システム１について説明する。
【００３４】
なお、物体認識システム１は、車両の一例としての自動車だけでなく、車両の他の例として、バイク、自転車、車椅子、農業用の耕運機等に搭載されることができてもよい。また、移動体の一例としての車両だけでなく、移動体の他の例として、ロボット等に搭載されることができてもよい。更に、ロボットは、移動体だけでなく、ＦＡ(Factory Automation)において固定設置される工業用ロボット等の装置であってもよい。また、固定設置される装置としては、ロボットだけでなく、防犯用の監視カメラであってもよい。
【００３５】
＜実施形態の構成＞
まず、図７乃至図９用いて、本実施形態の全体構成について説明する。
【００３６】
（外観構成）
図７及び図８を用いて、本実施形態の物体認識システム１の外観構成を説明する。なお、図７（ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、図７（ｂ）は自動車の正面を示す概略図である。図８は、物体認識システムの概観図である。
【００３７】
図７（ａ），（ｂ）に示されているように、本実施形態の物体認識システム１は、撮像装置１０ａ及び撮像装置１０ｂを備えており、撮像装置１０ａ及び撮像装置１０ｂは自動車の進行方向前方の光景を撮像することができるように設置される。
【００３８】
また、図８に示されているように、物体認識システム１は、本体部２と、本体部２に対して設けられた一対の円筒状の撮像装置１０ａ及び撮像装置１０ｂとによって構成されている。
【００３９】
（全体のハードウェア構成）
次に、図９を用いて、物体認識システム１の全体のハードウェア構成について説明する。なお、図９は、物体認識システムの全体のハードウェア構成図である。
【００４０】
図９に示されているように、物体認識システム１は、本体部２において、視差値導出装置３及び物体認識装置５を備えている。このうち、視差値導出装置３は、物体Ｅを撮像して得られた複数の画像から、物体Ｅに対する視差を示す視差値Δを導出し、各画素における視差値Δを示す高密度視差画像を出力する。物体認識装置５は、視差値導出装置３から出力された高密度視差画像に基づいて、撮像装置１０ａ，１０ｂから物体Ｅまでの距離を測定する等の処理を行なう。
【００４１】
ここで、まずは、視差値導出装置３のハードウェア構成について説明する。図９に示されているように、視差値導出装置３は、撮像装置１０ａ、撮像装置１０ｂ、信号変換装置２０ａ、信号変換装置２０ｂ、及び画像処理装置３０を備えている。
【００４２】
撮像装置１０ａは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ１１ａ、絞り１２ａ、画像センサ１３ａを備えている。撮像レンズ１１ａは、撮像レンズ１１ａを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り１２ａは、撮像レンズ１１ａを通過した光の一部を遮ることによって、後述する画像センサ１３ａに入力される光の量を調整する。画像センサ１３ａは、撮像レンズ１１ａ及び絞り１２ａから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、ＣＣＤ(Charge Coupled Devices)やＣＭＯＳ(Complementary Metal Oxide Semiconductor）等によって実現される。なお、撮像装置１０ｂは撮像装置１０ａと同じ構成を備えているため、撮像装置１０ｂについての説明は省略する。また、撮像レンズ１１ａと撮像レンズ１１ｂは、それぞれのレンズ面が互いに同一平面内になるように設置されている。
【００４３】
また、信号変換装置２０ａは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、ＣＤＳ(Correlated Double Sampling)２１ａ、ＡＧＣ(Auto Gain Control)２２ａ、ＡＤＣ(Analog Digital Converter)２３ａ、及びフレームメモリ２４ａを備えている。ＣＤＳ２１ａは、画像センサ１３ａによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。ＡＧＣ２２ａは、ＣＤＳ２１ａによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ＡＤＣ２３ａは、ＡＧＣ２２ａによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ２４ａは、ＡＤＣ２３ａによって変換された画像データを記憶する。
【００４４】
同様に、信号変換装置２０ｂは、撮像装置１０ｂによって変換されたアナログの画像信号から画像データを取得するものであり、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂを有している。なお、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂはそれぞれＣＤＳ２１ａ、ＡＧＣ２２ａ、ＡＤＣ２３ａ、及びフレームメモリ２４ａと同じ構成であるため、それらについての説明は省略する。
【００４５】
更に、画像処理装置３０は、信号変換装置２０ａ及び信号変換装置２０ｂによって変換された画像データを処理するための装置である。この画像処理装置３０は、ＦＰＧＡ(Field Programmable Gate Array)３１、ＣＰＵ(Central Processing Unit)３２、ＲＯＭ(Read Only Memory)３３、ＲＡＭ(Random Access Memory)３４、Ｉ／Ｆ(Interface)３５及び上記各構成要素３１〜３５を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン３９を備えている。
【００４６】
このうち、ＦＰＧＡ３１は、集積回路であり、ここでは、ＣＰＵ３２の命令に従って、画像データが表す画像における視差値Δを算出する処理を行う。ＣＰＵ３２は、視差値導出装置３の各機能を制御する。ＲＯＭ３３は、ＣＰＵ３２が視差値導出装置３の各機能を制御するために実行される画像処理用プログラムを記憶している。ＲＡＭ３４はＣＰＵ３２のワークエリアとして使用される。
【００４７】
Ｉ／Ｆ３５は、物体認識装置５における後述Ｉ／Ｆ５５とアドレスバスやデータバス等のバスライン４を介して通信するためのインターフェイスである。
【００４８】
続いて、物体認識装置５のハードウェア構成について説明する。図９に示されているように、物体認識装置５は、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、ＣＡＤ Ｉ／Ｆ５８及び上記各構成要素５１〜５５，５８を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン５９を備えている。
【００４９】
このうち、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、及びバスライン５９は、それぞれ画像処理装置３０におけるＦＰＧＡ３１、ＣＰＵ３２、ＲＯＭ３３、ＲＡＭ３４、Ｉ／Ｆ３５、及びバスライン３９と同様の構成であるため、説明を省略する。なお、Ｉ／Ｆ５５は、画像処理装置３０におけるＩ／Ｆ３５とバスライン４を介して通信するためのインターフェイスである。また、ＲＯＭ５３は、ＣＰＵ５２が物体認識装置５の各機能を制御するために実行される物体認識用プログラムを記憶している。
【００５０】
ＣＡＮ Ｉ／Ｆ５８は、外部コントローラ等と通信するためのインターフェイスであり、例えば、自動車のＣＡＮ(Controller Area Network)等に接続されることができる。
【００５１】
このような構成により、画像処理装置３０のＩ／Ｆ３５からバスライン４を介して物体認識装置５に高密度視差画像が送信されると、物体認識装置５におけるＣＰＵ５２の命令によって、ＦＰＧＡ５１が、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを算出する。なお、物体認識装置５におけるＣＰＵ５２の命令によってＦＰＧＡ５１が距離Ｚを算出せずに、画像処理装置３０のＣＰＵ３２の命令によってＦＰＧＡ３１が距離Ｚを算出してもよい。
【００５２】
また、上記各プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)やＳＤメモリカード(Secure Digital memory card)等である。
【００５３】
＜コスト算出方式の説明＞
ここで、図１０及び図１１を用いて、コスト算出方式の一例として、ＳＡＤ方式とＣｅｎｓｕｓ方式について簡単に説明する。図１０は、Ｃｅｎｓｕｓ方式の説明図である。図１１（ａ）は逆光時のＳＡＤ方式による高密度視差画像を示す概念図、図１１（ｂ）は逆光時のＣｅｎｓｕｓ方式による高密度視差画像を示す概念図である。
【００５４】
また、(式５)は、ＳＡＤ方式によるコスト値（第１のコスト値の一例）を算出するための式であり、（式６）は、Ｃｅｎｓｕｓ方式によるコスト値（第２のコスト値の一例）を算出するための式である。ＳＡＤ方式は一般に多く使われている方式であり、比較画像から対応画素を含む所定領域を切り出し、この所定領域に対する輝度差の総和(SAD)からコスト値が算出される。一方、Ｃｅｎｓｕｓ方式は、上記所定領域の対応画素（中心画素）を除いた周辺画素を２値化等した結果から対応画素におけるコスト値が算出される。例えば、図１０（ａ）に示されているように、２値モードの場合、所定領域の８つの周辺画素のうち、所定の閾値（ここでは、輝度値８０）未満の画素は「１」、所定の閾値以上の画素は「０」とすることで、「１」と「０」のうち、多い方を対応画素（中心画素）のコスト値としている。なお、図１０（ｂ）に示されているように、３値モードの場合、所定領域の８つの周辺画素のうち、第１の閾値（ここでは、輝度値８３）を超える画素は「１０」、第２の閾値（ここでは、輝度値８０）未満の画素は「０１」、これら以外の画素は「００」とすることで、「１０」、「０１」及び「００」のうち、最も多い値を対応画素のコスト値としている。
【００５５】
【数２】
2016095229.tif 000004
【００５６】
ここで、i,jは所定領域内の画素位置、Iは基準画像の画素の輝度値、Tは比較画像の対応画素の輝度値を示す。
【００５７】
【数３】
2016095229.tif 000005
【００５８】
上記のように、ＳＡＤ方式とＣｅｎｓｕｓ方式は、それぞれ得意とするシーンが異なる。例えば、シーンが逆光の場合、ＳＡＤ方式を利用すると、図１１（ａ）に示されているように、多くのノイズが発生するが、Ｃｅｎｓｕｓ方式を利用すると、図１１（ｂ）に示されているように、ノイズの発生を抑制することができる。一方、シーンが通常の場合、ＳＡＤ方式の方がＣｅｎｓｕｓ方式よりもノイズを抑えることができる。
【００５９】
また、図１３（ａ）は通常時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフ、図１３（ｂ）は逆光時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフである。図１３（ａ）に示されているように、例えば、通常時では、Ｃｅｎｓｕｓ方式を利用した場合、ｄ＝８，１５，２１のように、非類似度が低い（類似度が高い）シフト量が複数個所存在するため、対応画素が不明確になる。これに対して、ＳＡＤ方式を利用した場合、ｄ＝８のように、非類似度が低いシフト量が１つだけ存在するため、対応画素が比較的明確になる。一方、図１３（ｂ）に示されているように、例えば、逆光時では、ＳＡＤ方式を利用した場合、ｄ＝８，２０のように、非類似度が低い（類似度が高い）シフト量が複数個所存在するため、対応画素が不明確になる。これに対して、Ｃｅｎｓｕｓ方式を利用した場合、ｄ＝８のように、非類似度が低いシフト量が１つだけ存在するため、対応画素が比較的明確になる。
【００６０】
〔各本実施形態の具体的な説明〕
以下、図面を用いて、各実施形態の具体的な説明を行う。
【００６１】
＜＜第１の実施形態＞＞
まずは、本発明の第１の実施形態について説明する。
【００６２】
＜主要部のハードウェア構成＞
図１３及び図１４を用いて、第１の実施形態に係る画像処理装置３０ａの主要部のハードウェア構成について説明する。なお、図１３は、第１の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【００６３】
画像処理装置３０ａのＦＰＧＡ３１ａは、図１３に示されているように、コスト算出部３１０ａ、コスト算出部３１０ｂ、選択部３３１、コスト合成部３４０、及び視差値導出部３５０を備えている。これらは、ＦＰＧＡ３１ａの回路の一部であるが、上記画像処理用プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。なお、コスト算出部３１０ａは、第１の算出手段の一例であり、コスト算出部３１０ｂは、第２の算出手段の一例である。
【００６４】
これらのうち、コスト算出部３１０ａは、図３に示されているように、基準画像（図３（ａ）参照）内の基準画素ｐ（ｘ，ｙ）の輝度値と、比較画像（図３（ｂ）参照）内において基準画素ｐ（ｘ，ｙ）に基づくエピポーラ線ＥＬ上でシフトさせることでシフト量ｄ毎に特定される対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値とに基づくと共にＳＡＤ方式を利用することで、基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃ１を算出する。これに対して、コスト算出部３１０ｂは、図３に示されているように、基準画像（図３（ａ）参照）内の基準画素ｐ（ｘ，ｙ）の輝度値と、比較画像（図３（ｂ）参照）内において基準画素ｐ（ｘ，ｙ）に基づくエピポーラ線ＥＬ上でシフトさせることでシフト量ｄ毎に特定される対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値とに基づくと共にＣｅｎｓｕｓ方式を利用することで、基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃ２を算出する。
【００６５】
選択部３３１は、基準画像及び比較画像に基づいて、基準画像及び比較画像の特徴量Ｃｉを算出する。この特徴量Ｃｉは、選択部３３１が目的に応じた画像特徴量算出手段を適用することによって算出される。また、選択部３３１は、選択部３３１は、下記（式７）に特徴量Ｃｉを適用することで、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する。
【００６６】
ｆｘ（Σ（輝度値(ｘ(ｉ)）−輝度値(ｘ(ｉ＋１））)，Σ（Number（輝度値（ｘ）＞輝度閾値)))    （式７）
（式７）においては、特徴量を示す指標として、隣接輝度の差分の総和と、輝度閾値を超える輝度値の総和に基づく関数を採用している。なお、これに限らず、他の式を用いても良い。例えば、外部の照度センサの情報等を利用することもできる。輝度閾値は、適宜に実験的に決定される。
【００６７】
続いて、コスト合成部３４０は、選択部３３１によって選択された特定のコスト曲線ＣＬにおける各コスト値Ｃを利用して、一の基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃと、他の基準画素ｐ’（ｘ’，ｙ’）に対する対応画素の候補ｑ’（ｘ’＋ｄ，ｙ’）の各コスト値Ｃとをシフト量ｄ毎に合成し、合成コスト値Ｌｓを出力する。なお、この合成の処理は、(式３)に基づいてコスト値Ｃから経路コスト値Ｌｒを算出した後、更に、（式４）に基づいて各方向における経路コスト値Ｌｒを加算して、最終的に合成コスト値Ｌｓを算出する処理である。
【００６８】
更に、視差値導出部３５０は、一の基準画素ｐ（ｘ，ｙ）の基準画像おける位置（ｘ，ｙ）と、コスト合成部３４０による合成後の合成コスト値Ｌｓが最小となる対応画素ｑ（ｘ＋Δ，ｙ）の比較画像における位置（ｘ＋Δ，ｙ）とに基づいて視差値Δを導出し、各画素における視差値を示す視差画像を出力する。
【００６９】
＜実施形態の処理または動作＞
次に、図１４を用いて、本実施形態の処理または動作を説明する。図１４は、第１の実施形態の視差値導出方法の処理を示したフローチャートである。なお、視差値導出方法は、視差値生産方法であるということも出来る。
【００７０】
まず、図９に示されている撮像装置１０ａは、物体Ｅを撮像してアナログの画像データを生成する（ステップＳ１１−１）。同じく、撮像装置１０ａは、物体を撮像してアナログの画像データを生成する(ステップＳ１１−２)。
【００７１】
次に、信号変換装置２０ａは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ１２−１）。同じく、信号変換装置２０ｂは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ１２−２）。
【００７２】
次に、信号変換装置２０ａは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを基準画像のデータとして出力する（ステップＳ１３−１）。この基準画像の概念図は、図２（ａ）に示されている。同じく、信号変換装置２０ｂは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを比較画像のデータとして出力する（ステップＳ１３−２）。この比較画像は、撮像装置１０ｂによって撮像された画像であるが、図２（ａ）に示されている基準画像と極端な違いはないため、比較画像の概念図は図示しないで省略する。
【００７３】
次に、図１３に示されているコスト算出部３１０ａは、ＳＡＤ方式を利用して、基準画像のデータ及び比較画像のデータに基づき、シフト量ｄ毎のコスト値Ｃ１を算出する（ステップＳ１４−１）。同じく、コスト算出部３１０ｂは、Ｃｅｎｓｕｓ方式を利用して、基準画像のデータ及び比較画像のデータに基づき、シフト量ｄ毎のコスト値Ｃ２を算出する（ステップＳ１４−２）。一方、選択部３３１は、基準画像及び比較画像に基づいて、基準画像及び比較画像の特徴量Ｃｉを算出する（ステップＳ１４−３）。
【００７４】
次に、選択部３３１は、（式７）に特徴量Ｃｉを適用することで、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する（ステップＳ１５）。
【００７５】
次に、コスト合成部３４０は、選択部３３１によって選択された特定のコスト曲線ＣＬにおける各コスト値Ｃに基づいて、例えば、図６のグラフで示されているように、シフト量ｄ毎に合成コスト値Ｌｓを出力する（ステップＳ１６）。図６の場合、合成コスト値Ｌｓが最小となるシフト量はｄ＝３であるため、視差値導出部３５０は、視差値Δ＝３を導出する（ステップＳ１７）。
【００７６】
その後、ＣＰＵ３２は、視差値Δによって示される高密度視差画像を、図９に示されているＩ／Ｆ３５からバスライン４を介して物体認識装置５のＩ／Ｆ５５に送信する。これにより、物体認識装置５におけるＣＰＵ５２の命令によって、ＦＰＧＡ５１が、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを算出する。
【００７７】
＜実施形態の主な効果＞
以上説明したように本実施形態によれば、基準画像及び比較画像に基づいて、得意なシーンが異なるコスト算出部３１０ａ及びコスト算出部３１０ｂの出力のいずれか一方を選択するため、より正確なコスト値を導き出すことができるという効果を奏する。
【００７８】
＜＜第２の実施形態＞＞
続いて、本発明の第２の実施形態について説明する。
【００７９】
＜主要部のハードウェア構成＞
図１５及び図１６を用いて、第２の実施形態に係る画像処理装置３０ｂの主要部のハードウェア構成について説明する。なお、図１５は、第２の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【００８０】
画像処理装置３０ｂのＦＰＧＡ３１ｂは、図１５に示されているように、コスト算出部３１０ａ、コスト算出部３１０ｂ、選択部３３２、コスト合成部３４０、及び視差値導出部３５０を備えている。これらは、ＦＰＧＡ３１ｂの回路の一部であるが、上記画像処理用プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。なお、本実施形態は、上記第１の実施形態に対して、選択部３３２が異なるが、その他の構成は同じであるため説明を省略し、以下では選択部３３２について説明する。
【００８１】
選択部３３２は、基準画像の１画像毎に、（式８）を適用することで、コスト算出部３１０ａから出力されたコスト値Ｃ１の信頼度ＣＣ１、及びコスト算出部３１０ｂから出力されたコスト値Ｃ２の信頼度ＣＣ２を算出する。
【００８２】
【数４】
2016095229.tif 000006
【００８３】
ここで、ｍｉｎ１は、図１８に示されているように、任意のコスト曲線ＣＬ０について説明すると、最小の極値ｍｉｎ１のコスト値を示す。ｓA、ｓBは、最小の極値（最小値）ｍｉｎ１を基点としたコスト曲線ＣＬ０の１次近似曲線fd1,fd2の傾き値を示す。ｓｈｐｍｉｍ１ａは、規定間（例えば、５つ分のスライド量間）において、最小の極値（最小値）ｍｉｎ１を頂点としたコスト曲線ＣＬ０の２次近似曲線sdの広がり度を示す。ｄｍ１ｍ２は、最小の極値のコスト値と２番目に小さい極値のコスト値との差分を示す。なお、１次近似曲線fd1,fd2の代わりに、２次近似曲線を用いてもよいし、２次近似曲線sdの代わりに、１次近似曲線を用いてもよい。即ち、(w2(sA＋sB))、(w1shpmin1a)は、コスト値Ｃの最小値を頂点とした近似曲線の広がりを示しており、この近似曲線には、１次曲線及び２次曲線の両方が含まれる。
【００８４】
また、ｗ１〜ｗ４は、それぞれ調整重み値である。ｗ１〜ｗ４のうち、少なくとも１つを０にすることができる。
【００８５】
例えば、ｗ２＝ｗ３＝ｗ４＝０の場合、ｗ１min1だけが残り、ＣＣは、両コスト曲線ＣＬ１，ＣＬ２のうち、最小の極値（最小値）が小さい方が選択される基準となる。
【００８６】
ｗ１〜ｗ４のうち、ｗ１＝ｗ３＝ｗ４＝０の場合、w2/(|sA|＋|sB|))だけが残り、ＣＣは、両コスト曲線ＣＬ１，ＣＬ２のうち、コスト値Ｃの最小値を頂点とした近似曲線の広がりが狭い方が選択される基準となる。
【００８７】
ｗ１〜ｗ４のうち、ｗ１＝ｗ２＝ｗ４＝０の場合、w3/(shpmin1a)だけが残り、ＣＣは、両コスト曲線ＣＬ１，ＣＬ２のうち、コスト値Ｃの最小値を頂点とした近似曲線の広がりが狭い方が選択される基準となる。
【００８８】
ｗ１〜ｗ４のうち、ｗ１＝ｗ２＝ｗ３＝０の場合、w4/(dm1m2))だけ残り、ＣＣは、両コスト曲線ＣＬ１，ＣＬ２のうち、最小の極値（最小値）と２番目に小さい極値との差分が大きい方が選択される基準となる。
【００８９】
また、選択部３３２は、（式９）を適用することで、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する。即ち、選択部３３２は、信頼度の合計値が大きい方を選択する。
【００９０】
ＭＡＸ（Σ信頼度ＣＣ１，Σ信頼度ＣＣ２）    （式９）
＜実施形態の処理または動作＞
次に、図１６を用いて、本実施形態の処理または動作を説明する。図１６は、第２の実施形態の視差値導出方法の処理を示したフローチャートである。なお、図１６において、ステップＳ２１−１〜Ｓ２８のうち、ステップＳ２１−１〜Ｓ２４−２は、図１４におけるステップＳ１１−１〜Ｓ１４−２とそれぞれ同じである。また、図１６において、ステップＳ２７，Ｓ２８は、図１４におけるステップＳ１６，Ｓ１７とそれぞれ同じである。よって、本実施形態では、ステップＳ２５−１，Ｓ２５−２，Ｓ２６について説明する。
【００９１】
ステップ２３−１，２の処理後、選択部３３２は、（式８）を利用することで、コスト算出部３１０ａから出力されたコスト値Ｃ１の信頼度ＣＣ１を算出すると共に、コスト算出部３１０ｂから出力されたコスト値Ｃ２の信頼度ＣＣ２を算出する（ステップＳ２５−１，２）。
【００９２】
そして、選択部３３２は、（式９）を適用することで、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する（ステップＳ２６）。その後、ステップＳ２７，Ｓ２８の処理が行なわれる。
【００９３】
＜実施形態の主な効果＞
以上説明したように本実施形態によれば、コスト値を求める方式が異なるコスト算出部３１０ａ，３１０ｂの出力に基づいて、得意なシーンが異なるコスト算出部３１０ａ及びコスト算出部３１０ｂの出力のいずれか一方を選択するため、より正確なコスト値を導き出すことができるという効果を奏する。
【００９４】
＜＜第３の実施形態＞＞
続いて、本発明の第３の実施形態について説明する。
【００９５】
＜主要部のハードウェア構成＞
図１７及び図１９を用いて、第３の実施形態に係る画像処理装置３０ｃの主要部のハードウェア構成について説明する。なお、図１７は、第３の実施形態に係る画像処理装置の主要部のハードウェア構成図である。
【００９６】
画像処理装置３０ｃのＦＰＧＡ３１ｃは、図１７に示されているように、コスト算出部３１０ａ、コスト算出部３１０ｂ、選択部３３３、コスト合成部３４０、及び視差値導出部３５０を備えている。これらは、ＦＰＧＡ３１ｃの回路の一部であるが、上記画像処理用プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。なお、本実施形態は、第１の実施形態の処理と第２の実施形態の処理を融合した処理を示している。また、本実施形態は、上記第１の実施形態に対して、選択部３３３が異なるが、その他の構成は同じであるため説明を省略し、以下では選択部３３３について説明する。
【００９７】
選択部３３３は、第１の実施形態のように、基準画像及び比較画像に基づいて、基準画像及び比較画像の特徴量Ｃｉを算出する。また、選択部３３３は、第２の実施形態のように、基準画像の１画像毎に、（式８）を適用することで、コスト算出部３１０ａから出力されたコスト値Ｃ１の信頼度ＣＣ１、及びコスト算出部３１０ｂから出力されたコスト値Ｃ２の信頼度ＣＣ２を算出する。そして、選択部３３３は、下記（式１０）に基づいて、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する。
【００９８】
ＭＡＸ（（ω１特徴量Ｃｉ＋ω２信頼度ＣＣ１），（ω１特徴量Ｃｉ＋ω３信頼度ＣＣ２））    （式１０）
ここで、ω１，ω２，ω３は、それぞれ調整重み値である。選択部３３３は、（式１０）に基づいて、（ω１特徴量Ｃｉ＋ω２信頼度ＣＣ１）の値と、（ω１特徴量Ｃｉ＋ω３信頼度ＣＣ２）の値のうち、大きい方を選択する。選択部３３３は、（ω１特徴量Ｃｉ＋ω２信頼度ＣＣ１）を選択した場合には、コスト曲線ＣＬ１を選択する。また、選択部３３３は、（ω１特徴量Ｃｉ＋ω３信頼度ＣＣ２）を選択した場合には、コスト曲線ＣＬ２を選択する。
【００９９】
＜実施形態の処理または動作＞
次に、図１９を用いて、本実施形態の処理または動作を説明する。図１９は、第３の実施形態の視差値導出方法の処理を示したフローチャートである。なお、図１９において、ステップＳ３１−１〜Ｓ３８のうち、ステップＳ３１−１〜Ｓ３４−３は、図１４におけるステップＳ１１−１〜Ｓ１４−３とそれぞれ同じである。また、図１９において、ステップＳ３５−１，２は、図１６におけるステップＳ２５−１，２とそれぞれ同じである。更に、図１９において、ステップＳ３７，Ｓ３８は、図１４におけるステップＳ１６，Ｓ１７とそれぞれ同じである。よって、本実施形態では、ステップＳ３６について説明する。
【０１００】
ステップ３５−１，２の処理後、選択部３３３は、（式１０）を利用することで、コスト算出部３１０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、コスト算出部３１０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する（ステップＳ３６）。その後、ステップＳ３７，Ｓ３８の処理が行なわれる。
【０１０１】
＜実施形態の主な効果＞
以上説明したように本実施形態によれば、基準画像及び比較画像、並びに、コスト値を求める方式が異なるコスト算出部３１０ａ，３１０ｂの出力に基づいて、得意なシーンが異なるコスト算出部３１０ａ及びコスト算出部３１０ｂの出力のいずれか一方を選択するため、より正確なコスト値を導き出すことができるという効果を奏する。
【０１０２】
＜＜実施形態の補足＞＞
上記実施形態では、コスト算出部は、ＳＡＤ方式又はＣｅｎｓｕｓ方式を利用してコスト値を算出したが、この方式に限るものではない。例えば、ＳＳＤ(Sum of Squared Difference)方式、又は、ＮＣＣ(Normalized Cross-Correlation)方式等の他の方式を用いてもよい。この場合、任意の２方式のうち、選択部３３１には得意なシーンを考慮してコスト曲線を選択するように設定される。
【符号の説明】
【０１０３】
１  視差値導出装置
２  本体部
１０ａ  撮像装置
１０ｂ  撮像装置
２０ａ  信号変換装置
２０ｂ  信号変換装置
３０  画像処理装置
３１０ａ  コスト算出部（第１の算出手段の一例）
３１０ｂ  コスト算出部（第２の算出手段の一例）
３３１  選択部（選択手段の一例）
３３２  選択部（選択手段の一例）
３３３  選択部（選択手段の一例）
３４０  コスト合成部（合成手段の一例）
３５０  視差値導出部（導出手段の一例）
【先行技術文献】
【特許文献】
【０１０４】
【特許文献１】特開２０１２−１８１１４２号公報
【図１】
2016095229.tif 000007
【図２】
2016095229.tif 000008
【図３】
2016095229.tif 000009
【図４】
2016095229.tif 000010
【図５】
2016095229.tif 000011
【図６】
2016095229.tif 000012
【図７】
2016095229.tif 000013
【図８】
2016095229.tif 000014
【図９】
2016095229.tif 000015
【図１０】
2016095229.tif 000016
【図１１】
2016095229.tif 000017
【図１２】
2016095229.tif 000018
【図１３】
2016095229.tif 000019
【図１４】
2016095229.tif 000020
【図１５】
2016095229.tif 000021
【図１６】
2016095229.tif 000022
【図１７】
2016095229.tif 000023
【図１８】
2016095229.tif 000024
【図１９】
2016095229.tif 000025