(57)【要約】【課題】メモリの消費量を低減し、画像処理の負荷を低減することができる視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラムを提供する。【解決手段】画像縮小部３１０は、比較画像に対して縮小処理を実行して縮小比較画像を生成し、基準画像に対して縮小処理を実行して、縮小基準画像を生成し、視差値導出部３４０は、コスト合成部３３０により算出された、縮小基準画像における基準画素についての縮小比較画像における画素の合成コスト値の最小値を視差値として導出し、視差画像生成部３５０は、縮小基準画像の各画素の輝度値を、その画素に対応する視差値で置換した画像である縮小視差画像を生成し、視差画像拡大部３６０は、視差画像生成部３５０により生成された縮小視差画像の画像サイズを拡大する拡大処理を実行して、視差画像を生成する。【選択図】図１０
2015207278.tif 000002
【特許請求の範囲】
【請求項１】
第１撮像手段が被写体を撮像することにより得られた第１基準画像、および該第１撮像手段の位置と異なる位置の第２撮像手段が前記被写体を撮像することにより得られた第１比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
前記第１基準画像および前記第１比較画像を第１比率で縮小して、それぞれ第２基準画像および第２比較画像を生成する縮小手段と、
前記第２基準画像の第１基準領域と、前記第２比較画像における前記第１基準領域に対応する対応領域を含む所定範囲内の複数の領域それぞれとの一致度を算出する算出手段と、
前記第１基準領域の周辺の第２基準領域についての前記第２比較画像における一致度を、前記複数の領域の一致度に集約させて、該複数の領域それぞれについて合成一致度を求める合成手段と、
前記合成一致度に基づいて、前記第１基準領域と前記対応領域との前記視差値を導出する導出手段と、
前記導出手段により導出された前記視差値に基づいて、第１視差画像を生成する生成手段と、
前記第１視差画像を構成する画素である参照元画素同士の行方向および列方向の間に、１以上の第１補正画素を配置し、かつ、該第１補正画素同士の間に生じた空隙に第２補正画素を配置することにより該第１視差画像を第２比率で拡大して第２視差画像を生成する拡大手段と、
を備えた視差値導出装置。
【請求項２】
前記拡大手段は、前記第２視差画像において、前記参照元画素同士の間に配置された前記第１補正画素の画素値を該参照元画素の画素値に基づいて求め、画素値が確定した前記第１補正画素同士の間に配置された前記第２補正画素の画素値を該第１補正画素の画素値に基づいて求める請求項１に記載の視差値導出装置。
【請求項３】
前記算出手段は、前記第１基準領域の輝度値と、前記第２比較画像における前記第１基準領域に相当する領域から、前記所定範囲内のシフト量でシフトすることにより特定される、前記対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出し、
前記導出手段は、前記第２比較画像における前記各候補領域の前記合成一致度の極値に対応する前記シフト量に基づいて前記視差値を導出し、
前記生成手段は、前記第２基準画像の輝度値を、前記導出手段により導出された前記視差値に置換することにより前記第１視差画像を生成する請求項１または２に記載の視差値導出装置。
【請求項４】
前記拡大手段は、前記第２視差画像において、前記参照元画素同士の間に配置された前記第１補正画素の画素値を該参照元画素の画素値の差に基づいて求め、画素値が確定した前記第１補正画素同士の間に配置された前記第２補正画素の画素値を該第１補正画素の画素値の差に基づいて求める請求項１〜３のいずれか一項に記載の視差値導出装置。
【請求項５】
前記拡大手段は、前記第２視差画像において、前記画素値の差が所定の閾値よりも大きい場合、２つの該画素値のうち大きい方の値または小さい方の値を、前記画素値の差が前記所定の閾値よりも小さい場合、２つの該画素値の平均値を、前記第１補正画素および前記第２補正画素の画素値とする請求項４に記載の視差値導出装置。
【請求項６】
前記拡大手段は、前記画素値の差が所定の閾値よりも大きい場合、２つの該画素値のうちいずれかを、前記第１補正画素および前記第２補正画素の画素値とするか切り替え可能とする請求項５に記載の視差値導出装置。
【請求項７】
前記第２比率は、前記第１比率の逆数である請求項１〜６のいずれか一項に記載の視差値導出装置。
【請求項８】
前記第１比率および前記第２比率は、任意に変更可能である請求項１〜７のいずれか一項に記載の視差値導出装置。
【請求項９】
第１撮像手段が被写体を撮像することにより得られた第１基準画像、および該第１撮像手段の位置と異なる位置の第２撮像手段が前記被写体を撮像することにより得られた第１比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
前記第１基準画像および前記第１比較画像を第１比率で縮小して、それぞれ第２基準画像および第２比較画像を生成する縮小手段と、
前記第２基準画像の第１基準領域と、前記第２比較画像における前記第１基準領域に対応する対応領域を含む所定範囲内の複数の領域それぞれとの一致度を算出する算出手段と、
前記一致度に基づいて、前記第１基準領域と前記対応領域との前記視差値を導出する導出手段と、
前記導出手段により導出された前記視差値に基づいて、第１視差画像を生成する生成手段と、
前記第１視差画像を構成する画素である参照元画素同士の行方向および列方向の間に、１以上の第１補正画素を配置し、かつ、該第１補正画素同士の間に生じた空隙に第２補正画素を配置することにより該第１視差画像を第２比率で拡大して第２視差画像を生成する拡大手段と、
を備えた視差値導出装置。
【請求項１０】
請求項１〜９のいずれか一項に記載の視差値導出装置と、
前記視差値導出装置によって導出される前記視差値により求まる該視差値導出装置から被写体までの距離情報によって、制御対象を制御する制御装置と、
を備えた機器制御システム。
【請求項１１】
請求項１０に記載の機器制御システムを備えた移動体。
【請求項１２】
請求項１０に記載の機器制御システムを備えたロボット。
【請求項１３】
第１撮像手段が被写体を撮像することにより得られた第１基準画像、および該第１撮像手段の位置と異なる位置の第２撮像手段が前記被写体を撮像することにより得られた第１比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出方法であって、
前記第１基準画像および前記第１比較画像を第１比率で縮小して、それぞれ第２基準画像および第２比較画像を生成する縮小ステップと、
前記第２基準画像の第１基準領域と、前記第２比較画像における前記第１基準領域に対応する対応領域を含む所定範囲内の複数の領域それぞれとの一致度を算出する算出ステップと、
前記第１基準領域の周辺の第２基準領域についての前記第２比較画像における一致度を、前記複数の領域の一致度に集約させて、該複数の領域それぞれについて合成一致度を求める合成ステップと、
前記合成一致度に基づいて、前記第１基準領域と前記対応領域との前記視差値を導出する導出ステップと、
導出した前記視差値に基づいて、第１視差画像を生成する生成ステップと、
前記第１視差画像を構成する画素である参照元画素同士の行方向および列方向の間に、１以上の第１補正画素を配置し、かつ、該第１補正画素同士の間に生じた空隙に第２補正画素を配置することにより該第１視差画像を第２比率で拡大して第２視差画像を生成する拡大ステップと、
を有する視差値導出方法。
【請求項１４】
第１撮像手段が被写体を撮像することにより得られた第１基準画像、および該第１撮像手段の位置と異なる位置の第２撮像手段が前記被写体を撮像することにより得られた第１比較画像に基づいて、前記被写体に対する視差を示す視差値を導出するためのプログラムであって、
前記第１基準画像および前記第１比較画像を第１比率で縮小して、それぞれ第２基準画像および第２比較画像を生成する縮小手段と、
前記第２基準画像の第１基準領域と、前記第２比較画像における前記第１基準領域に対応する対応領域を含む所定範囲内の複数の領域それぞれとの一致度を算出する算出手段と、
前記第１基準領域の周辺の第２基準領域についての前記第２比較画像における一致度を、前記複数の領域の一致度に集約させて、該複数の領域それぞれについて合成一致度を求める合成手段と、
前記合成一致度に基づいて、前記第１基準領域と前記対応領域との前記視差値を導出する導出手段と、
前記導出手段により導出された前記視差値に基づいて、第１視差画像を生成する生成手段と、
前記第１視差画像を構成する画素である参照元画素同士の行方向および列方向の間に、１以上の第１補正画素を配置し、かつ、該第１補正画素同士の間に生じた空隙に第２補正画素を配置することにより該第１視差画像を第２比率で拡大して第２視差画像を生成する拡大手段と、
をコンピュータに実現させるためのプログラム。
【請求項１５】
第１の撮像位置から被写体を撮像することにより得られた基準画像、および該第１の撮像位置と異なる第２の撮像位置から前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出し、前記基準画像中の物体を認識する物体認識装置に前記視差値を出力する視差値導出装置であって、
前記基準画像および前記比較画像に基づいて、前記視差値に基づき前記基準画像および前記比較画像のいずれよりも大きさが小さい縮小視差画像を生成する生成手段と、
前記縮小視差画像を、第１拡大処理および第２拡大処理の少なくとも一方により拡大して拡大視差画像を生成する拡大手段と、
を備え、
前記第１拡大処理および前記第２拡大処理は、
前記第１の撮像位置および前記第２の撮像位置に近い物体については、前記第１拡大処理での拡大視差画像における前記物体認識装置が認識する物体に対応する領域よりも、前記第２拡大処理での拡大視差画像における前記物体認識装置が認識する物体に対応する領域の方が大きくなり、
前記第１の撮像位置および前記第２の撮像位置から遠い物体については、前記第１拡大処理での拡大視差画像における前記物体認識装置が認識する物体に対応する領域よりも、前記第２拡大処理での拡大視差画像における前記物体認識装置が認識する物体に対応する領域の方が小さくなるような処理である視差値導出装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラムに関する。
【背景技術】
【０００２】
近年、自動車間の距離、または自動車と障害物との間の距離を測定することにより自動車の衝突防止を図る車載システムが一般的に利用されてきている。そのような距離を測定する方法として、２つのカメラを有するステレオカメラを使用し、三角測量の原理を用いたステレオマッチング処理による方法がある。
【０００３】
ステレオマッチング処理とは、一方のカメラで撮像された基準画像と、他方のカメラで撮像された比較画像との間で対応する領域をマッチングすることにより視差を求め、視差からステレオカメラと、画像に含まれる物体との距離を算出する処理である。このようなステレオカメラを用いたステレオマッチング処理による物体との距離の算出により、各種認識処理、ならびに衝突防止のためのブレーキ制御および操舵制御が可能となる。
【０００４】
上述のようなステレオマッチング処理として、画像間の類似性を評価するために、比較する画像から領域を切り出し、その領域に対する輝度差の総和（ＳＡＤ：Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｄｉｆｆｅｒｅｎｃｅ）、輝度差の２乗和（ＳＳＤ：Ｓｕｍ  ｏｆ  Ｓｑｕａｒｅｄ  Ｄｉｆｆｅｒｅｎｃｅ）、および正規化相互相関（ＺＮＣＣ：Ｚｅｒｏ−ｍｅａｎ  Ｎｏｒｍａｌｉｚｅｄ  Ｃｒｏｓｓ−Ｃｏｒｒｅｌａｔｉｏｎ）等を求めるブロックマッチング法がある。しかし、画像におけるテクスチャが弱い部分では、画像としての特徴を抽出することが困難であり、ブロックマッチング法によっては、精度の高い視差を得ることができない場合がある。そこで、正確な視差を導出する方法として、基準画像上の基準画素に対する比較画像上の画素のコスト値だけではなく、比較画像上の画素の周囲の画素のコスト値を集約して、テクスチャが弱い物体に対する視差値を導出する技術が提案されている（特許文献１参照）。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、特許文献１に記載された技術は、ステレオカメラで得られた画像全体に対して視差値を導出するため、メモリの消費量が高く、画像処理の負荷も大きくなるという問題点があった。
【課題を解決するための手段】
【０００６】
上述した課題を解決し、目的を達成するために、本発明は、第１撮像手段が被写体を撮像することにより得られた第１基準画像、および該第１撮像手段の位置と異なる位置の第２撮像手段が前記被写体を撮像することにより得られた第１比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、前記第１基準画像および前記第１比較画像を第１比率で縮小して、それぞれ第２基準画像および第２比較画像を生成する縮小手段と、前記第２基準画像の第１基準領域と、前記第２比較画像における前記第１基準領域に対応する対応領域を含む所定範囲内の複数の領域それぞれとの一致度を算出する算出手段と、前記第１基準領域の周辺の第２基準領域についての前記第２比較画像における一致度を、前記複数の領域の一致度に集約させて、該複数の領域それぞれについて合成一致度を求める合成手段と、前記合成一致度に基づいて、前記第１基準領域と前記対応領域との前記視差値を導出する導出手段と、前記導出手段により導出された前記視差値に基づいて、第１視差画像を生成する生成手段と、前記第１視差画像を構成する画素である参照元画素同士の行方向および列方向の間に、１以上の第１補正画素を配置し、かつ、該第１補正画素同士の間に生じた空隙に第２補正画素を配置することにより該第１視差画像を第２比率で拡大して第２視差画像を生成する拡大手段と、を備えたことを特徴とする。
【発明の効果】
【０００７】
本発明によれば、メモリの消費量を低減し、画像処理の負荷を低減することができる。
【図面の簡単な説明】
【０００８】
【図１】撮像装置から物体までの距離を導き出す原理の説明図である。
【図２】（ａ）は基準画像、（ｂ）は（ａ）に対する高密度視差画像、（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。
【図３】（ａ）は基準画像における基準画素を示す概念図、（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながらシフト量を算出する際の概念図である。
【図４】シフト量毎のコスト値を示すグラフである。
【図５】合成コスト値を導き出すための概念図である。
【図６】視差値毎の合成コスト値を示すグラフである。
【図７】（ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、（ｂ）は自動車の正面を示す概略図である。
【図８】物体認識システムの概観図である。
【図９】物体認識システムの全体のハードウェア構成図である。
【図１０】本実施の形態に係る視差値導出装置のブロック構成の一例を示す図である。
【図１１】本実施の形態におけるシフト量と合成コスト値との関係の例を示すグラフである。
【図１２】縮小画像に対するステレオマッチング処理により縮小視差画像を得ることを説明する図である。
【図１３】縮小視差画像に対する拡大処理を説明する図である。
【図１４】補正画素の視差値を求める動作の例を示すフローチャートである。
【図１５】本実施の形態に係る視差値導出装置のステレオマッチング処理の動作の例を示すフローチャートである。
【図１６】本実施形態に係る機器制御システムを車両に搭載した例を示す図である。
【発明を実施するための形態】
【０００９】
以下、図面を用いて、本発明の一実施形態について説明する。
【００１０】
［ＳＧＭ法を用いた測距方法の概略］
まず、図１乃至図６を用いて、ＳＧＭ（Ｓｅｍｉ−Ｇｌｏｂａｌ  Ｍａｔｃｈｉｎｇ）法を用いた測距方法の概略について説明する。なお、ＳＧＭ法に関しては、非特許文献（Ａｃｃｕｒａｔｅ  ａｎｄ  Ｅｆｆｉｃｉｅｎｔ  Ｓｔｅｒｅｏ  Ｐｒｏｃｅｓｓｉｎｇ  ｂｙ  Ｓｅｍｉ−Ｇｌｏｂａｌ  Ｍａｔｃｈｉｎｇ  ａｎｄ  Ｍｕｔｕａｌ  Ｉｎｆｏｒｍａｔｉｏｎ）に開示されているため、以下では概略を説明する。
【００１１】
（測距の原理）
図１を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。なお、図１は、撮像装置から物体までの距離を導き出す原理の説明図である。また、以下では、説明を簡略化するため、複数の画素からなる所定領域ではなく、一画素単位で説明する。なお、一画素単位ではなく、複数の画素からなる所定領域単位で処理される場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として示される。また、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれる。
【００１２】
＜視差値算出＞
まず、図１で示される撮像装置１０ａおよび撮像装置１０ｂによって撮像された各画像を、それぞれ基準画像Ｉａおよび比較画像Ｉｂとする。なお、図１では、撮像装置１０ａおよび撮像装置１０ｂが平行等位に設置されているものとする。図１において、３次元空間内の物体Ｅ上の点Ｓは、撮像装置１０ａおよび撮像装置１０ｂの同一水平線上の位置に写像される。すなわち、各画像中の点Ｓは、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）および比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）において撮像される。このとき、視差値Δは、撮像装置１０ａ上の座標における点Ｓａ（ｘ，ｙ）と撮像装置１０ｂ上の座標における点Ｓｂ（Ｘ，ｙ）とを用いて、（式１）のように表される。
【００１３】
Δ＝Ｘ−ｘ                                                            （式１）
【００１４】
ここで、図１のような場合には、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）と撮像レンズ１１ａから撮像面上におろした垂線の交点との距離をΔａにし、比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）と撮像レンズ１１ｂから撮像面上におろした垂線の交点との距離をΔｂにすると、視差値Δ＝Δａ＋Δｂとなる。
【００１５】
＜距離算出＞
また、視差値Δを用いることで、撮像装置１０ａ、１０ｂと物体Ｅとの間の距離Ｚを導き出すことができる。具体的には、距離Ｚは、撮像レンズ１１ａの焦点位置と撮像レンズ１１ｂの焦点位置とを含む面から物体Ｅ上の特定点Ｓまでの距離である。図１に示されるように、撮像レンズ１１ａおよび撮像レンズ１１ｂの焦点距離ｆ、撮像レンズ１１ａと撮像レンズ１１ｂとの間の長さである基線長Ｂ、および視差値Δを用いて、（式２）により、距離Ｚを算出することができる。
【００１６】
Ｚ＝（Ｂ×ｆ）／Δ                                                    （式２）
【００１７】
この（式２）により、視差値Δが大きいほど距離Ｚは小さく、視差値Δが小さいほど距離Ｚは大きくなる。
【００１８】
（ＳＧＭ法）
続いて、図２乃至図６を用いて、ＳＧＭ法を用いた測距方法について説明する。なお、図２（ａ）は基準画像、図２（ｂ）は（ａ）に対する高密度視差画像、図２（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。高密度視差画像は、ＳＧＭ法によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。エッジ視差画像は、従来から用いられているブロックマッチング法によって導き出された画像であり、基準画像のエッジ部のような比較的テクスチャの強い部分のみの視差値を示した画像である。
【００１９】
ＳＧＭ法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図２（ａ）に示されている基準画像に基づいて、図２（ｂ）に示されている高密度視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図２（ａ）に示されている基準画像に基づいて、図２（ｃ）に示されているエッジ視差画像が導き出される。図２（ｂ）および図２（ｃ）における破線の楕円内を比べると分かるように、高密度視差画像は、エッジ視差画像に比べてテクスチャが弱い道路等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。
【００２０】
このＳＧＭ法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、さらに、合成非類似度である合成コスト値（Ｓｙｎｔｈｅｓｉｓ  Ｃｏｓｔ）を算出することで視差値を導出し、最終的にほぼ全ての画素における視差値を示す視差画像（ここでは、高密度視差画像）を導き出す方法である。なお、ブロックマッチング法の場合は、コスト値を算出する点はＳＧＭ法と同じであるが、ＳＧＭ法のように、合成コスト値を算出せずに、エッジ部のような比較的テクスチャの強い部分の視差値のみを導出する。
【００２１】
＜コスト値の算出＞
まず、図３および図４を用いて、コスト値Ｃ（ｐ，ｄ）の算出方法について説明する。図３（ａ）は基準画像における基準画素を示す概念図、図３（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながら（ずらしながら）コスト値を算出する際の概念図である。図４は、シフト量毎のコスト値を示すグラフである。ここで、対応画素は、基準画像内の基準画素に最も類似する比較画像内の画素である。なお、以降、Ｃ（ｐ，ｄ）は、Ｃ（ｘ，ｙ，ｄ）を表すものとして説明する。
【００２２】
図３（ａ）に示されているように、基準画像内の所定の基準画素ｐ（ｘ，ｙ）と、この基準画素ｐ（ｘ，ｙ）に対する比較画像内におけるエピポーラ線（Ｅｐｉｐｏｌａｒ  
Ｌｉｎｅ）ＥＬ上の複数の対応画素の候補ｑ（ｘ＋ｄ，ｙ）との各輝度値に基づいて、基準画素ｐ（ｘ，ｙ）に対する各対応画素の候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）が算出される。ｄは、基準画素ｐと対応画素の候補ｑのシフト量（ずれ量）であり、本実施形態では、画素単位のシフト量が表されている。すなわち、図３では、対応画素の候補ｑ（ｘ＋ｄ，ｙ）を予め指定された範囲（例えば、０＜ｄ＜２５）において順次一画素分シフトしながら、対応画素の候補ｑ（ｘ＋ｄ，ｙ）と基準画素ｐ（ｘ，ｙ）との輝度値の非類似度であるコスト値Ｃ（ｐ，ｄ）が算出される。コスト値Ｃの算出方法としては、コスト値Ｃが非類似度を示す場合、ＳＡＤ（Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｄｉｆｆｅｒｅｎｃｅ）等の公知の方法が適用される。
【００２３】
このようにして算出されたコスト値Ｃ（ｐ，ｄ）は、図４に示されているように、シフト量ｄ毎のコスト値Ｃの集まりであるコスト曲線のグラフによって表すことができる。図４では、コスト値Ｃは、シフト量ｄ＝５，１２，１９の場合が０（ゼロ）となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、コスト値Ｃの最小値を求めることは困難になる。
【００２４】
＜合成コスト値の算出＞
次に、図５および図６を用いて、合成コスト値Ｌｓ（ｐ，ｄ）の算出方法について説明する。図５は、合成コスト値を導き出すための概念図である。図６は、視差値毎の合成コスト値を示す合成コスト曲線のグラフである。
【００２５】
本実施形態における合成コスト値の算出方法は、コスト値Ｃ（ｐ，ｄ）の算出だけでなく、所定の基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のコスト値を、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃ（ｐ，ｄ）に集約させて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。
【００２６】
次に、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ｌｓ（ｐ，ｄ）を算出するためには、まず、経路コスト値Ｌｒ（ｐ，ｄ）を算出する必要がある。（式３）は、経路コスト値Ｌｒ（ｐ，ｄ）を算出するための式であり、（式４）は、合成コスト値Ｌｓを算出するための式である。
【００２７】
Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋Ｐ２｝  （式３）
【００２８】
ここで、（式３）において、ｒは、集約方向の方向ベクトルを示し、ｘ方向およびｙ方向の２成分を有する。ｍｉｎ｛｝は、最小値を求める関数である。Ｌｒｍｉｎ（ｐ−ｒ）は、ｐをｒ方向に１画素シフトした座標において、シフト量ｄを変化させた際のＬｒ（ｐ−ｒ，ｄ）の最小値を示す。
【００２９】
なお、経路コスト値Ｌｒは、（式３）に示されているように再帰的に適用される。また、Ｐ１およびＰ２は、予め実験により定められた固定パラメータであり、経路上で隣接する基準画素の視差値Δが連続になりやすいようなパラメータになっている。例えば、Ｐ１＝４８、Ｐ２＝９６である。
【００３０】
また、（式３）に示されているように、経路コスト値Ｌｒ（ｐ，ｄ）は、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃに、図５に示されているｒ方向の各画素における各画素の経路コスト値Ｌｒの最小値を加算することで求められる。このように、ｒ方向の各画素における経路コスト値Ｌｒを求めるため、最初は、基準画素ｐ（ｘ，ｙ）のｒ方向の一番端の画素から経路コスト値Ｌｒが求められ、ｒ方向に沿って経路コスト値Ｌｒが求められる。そして、図５に示されているように、８方向のＬｒ０、Ｌｒ４５、Ｌｒ９０、Ｌｒ１３５、Ｌｒ１８０、Ｌｒ２２５、Ｌｒ２７０、Ｌｒ３１５が求められ、最終的に（式４）に基づいて、合成コスト値Ｌｓが求められる。
【数１】
2015207278.tif 000003
【００３１】
このようにして算出された合成コスト値Ｌｓ（ｐ，ｄ）は、図６に示されているように、シフト量ｄ毎に合成コスト値Ｌｓ（ｐ，ｄ）が示される合成コスト曲線のグラフによって表すことができる。図６では、合成コスト値Ｌｓは、シフト量ｄ＝３の場合が最小値となるため、視差値Δ＝３として算出される。なお、上記説明ではｒの数を８として説明しているが、これに限られることはない。例えば、８方向を更に２つに分割して１６方向、３つに分割して２４方向等にしてもよい。また、コスト値Ｃは「非類似度」として示されているが、非類似度の逆数としての「類似度」として表されてもよい。この場合、コスト値Ｃの算出方法としては、ＮＣＣ（Ｎｏｒｍａｌｉｚｅｄ  Ｃｒｏｓｓ  Ｃｏｒｒｅｌａｔｉｏｎ）等の公知の方法が適用される。また、この場合、合成コスト値Ｌｓが最小ではなく「最大」となる視差値Δが導出される。なお、非類似度と類似度の両者を含めて、「一致度」として表してもよい。
【００３２】
［本実施形態の具体的な説明］
以下、図面を用いて、本実施形態の具体的な説明を行う。ここでは、自動車に搭載される物体認識システム１について説明する。なお、物体認識システム１は、車両の一例としての自動車だけでなく、車両の他の例として、バイク、自転車、車椅子、農業用の耕運機等に搭載されることができてもよい。また、移動体の一例としての車両だけでなく、移動体の他の例として、ロボット等に搭載されることができてもよい。さらに、ロボットは、移動体だけでなく、ＦＡ（Ｆａｃｔｏｒｙ  Ａｕｔｏｍａｔｉｏｎ）において固定設置される工業用ロボット等の装置であってもよい。また、固定設置される装置としては、ロボットだけでなく、防犯用の監視カメラであってもよい。
【００３３】
（実施形態の構成）
まず、図７乃至図９用いて、本実施形態の全体構成について説明する。
【００３４】
＜外観構成＞
図７および図８を用いて、本実施形態の物体認識システム１の外観構成を説明する。なお、図７（ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、図７（ｂ）は自動車の正面を示す概略図である。図８は、物体認識システムの概観図である。
【００３５】
図７（ａ）、（ｂ）に示されているように、本実施形態の物体認識システム１は、撮像装置１０ａ（第１撮像手段）および撮像装置１０ｂ（第２撮像手段）を備えており、撮像装置１０ａおよび撮像装置１０ｂは、自動車の進行方向前方の光景を撮像することができるように設置（第１の撮像位置、第２の撮像位置）される。また、図８に示されているように、物体認識システム１は、本体部２と、本体部２に対して設けられた一対の円筒状の撮像装置１０ａおよび撮像装置１０ｂとによって構成されている。
【００３６】
＜全体のハードウェア構成＞
次に、図９を用いて、物体認識システム１の全体のハードウェア構成について説明する。なお、図９は、物体認識システムの全体のハードウェア構成図である。
【００３７】
図９に示されているように、物体認識システム１は、本体部２において、視差値導出装置３および物体認識装置５を備えている。
【００３８】
このうち、視差値導出装置３は、物体Ｅを撮像して得られた複数の画像から、物体Ｅに対する視差を示す視差値Δを導出し、各画素における視差値Δを示す高密度視差画像を出力する。物体認識装置５は、視差値導出装置３から出力された高密度視差画像に基づいて、撮像装置１０ａ、１０ｂから物体Ｅまでの距離を測定する等の処理を行なう。
【００３９】
ここで、まずは、視差値導出装置３のハードウェア構成について説明する。図９に示されているように、視差値導出装置３は、撮像装置１０ａ、撮像装置１０ｂ、信号変換装置２０ａ、信号変換装置２０ｂ、および画像処理装置３０を備えている。
【００４０】
撮像装置１０ａは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ１１ａ、絞り１２ａ、および画像センサ１３ａを備えている。
【００４１】
撮像レンズ１１ａは、撮像レンズ１１ａを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り１２ａは、撮像レンズ１１ａを通過した光の一部を遮ることによって、後述する画像センサ１３ａに入力される光の量を調整する。画像センサ１３ａは、撮像レンズ１１ａおよび絞り１２ａから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、ＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅｓ）やＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）等によって実現される。
【００４２】
なお、撮像装置１０ｂは、撮像装置１０ａと同じ構成を備えているため、撮像装置１０ｂについての説明は省略する。また、撮像レンズ１１ａおよび撮像レンズ１１ｂは、それぞれのレンズ面が互いに同一平面内になるように設置されている。
【００４３】
また、信号変換装置２０ａは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、ＣＤＳ（Ｃｏｒｒｅｌａｔｅｄ  Ｄｏｕｂｌｅ  Ｓａｍｐｌｉｎｇ）２１ａ、ＡＧＣ（Ａｕｔｏ  Ｇａｉｎ  Ｃｏｎｔｒｏｌ）２２ａ、ＡＤＣ（Ａｎａｌｏｇ  Ｄｉｇｉｔａｌ  Ｃｏｎｖｅｒｔｅｒ）２３ａ、およびフレームメモリ２４ａを備えている。
【００４４】
ＣＤＳ２１ａは、画像センサ１３ａによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。ＡＧＣ２２ａは、ＣＤＳ２１ａによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ＡＤＣ２３ａは、ＡＧＣ２２ａによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ２４ａは、ＡＤＣ２３ａによって変換された画像データを記憶する。
【００４５】
同様に、信号変換装置２０ｂは、撮像装置１０ｂによって変換されたアナログの画像信号から画像データを取得するものであり、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、およびフレームメモリ２４ｂを備えている。
【００４６】
なお、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、およびフレームメモリ２４ｂは、それぞれＣＤＳ２１ａ、ＡＧＣ２２ａ、ＡＤＣ２３ａ、およびフレームメモリ２４ａと同じ構成であるため、それらについての説明は省略する。
【００４７】
さらに、画像処理装置３０は、信号変換装置２０ａおよび信号変換装置２０ｂによって変換された画像データを処理するための装置である。この画像処理装置３０は、ＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）３１、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）３２、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）３３、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）３４、Ｉ／Ｆ（Ｉｎｔｅｒｆａｃｅ）３５および上記各構成要素３１〜３５を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン３９を備えている。
【００４８】
このうち、ＦＰＧＡ３１は、集積回路であり、ここでは、ＣＰＵ３２の命令に従って、画像データが表す画像における視差値Δを算出する処理を行う。ＣＰＵ３２は、視差値導出装置３の各機能を制御する。ＲＯＭ３３は、ＣＰＵ３２が視差値導出装置３の各機能を制御するために実行される画像処理用プログラムを記憶している。ＲＡＭ３４はＣＰＵ３２のワークエリアとして使用される。Ｉ／Ｆ３５は、物体認識装置５における後述するＩ／Ｆ５５とアドレスバスやデータバス等のバスライン４を介して通信するためのインターフェースである。
【００４９】
続いて、物体認識装置５のハードウェア構成について説明する。図９に示されているように、物体認識装置５は、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、ＣＡＮ（Ｃｏｎｔｒｏｌｌｅｒ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）  Ｉ／Ｆ５８および上記各構成要素５１〜５５、５８を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン５９を備えている。
【００５０】
このうち、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、およびバスライン５９は、それぞれ画像処理装置３０におけるＦＰＧＡ３１、ＣＰＵ３２、ＲＯＭ３３、ＲＡＭ３４、Ｉ／Ｆ３５、およびバスライン３９と同様の構成であるため、説明を省略する。なお、Ｉ／Ｆ５５は、画像処理装置３０におけるＩ／Ｆ３５とバスライン４を介して通信するためのインターフェースである。また、ＲＯＭ５３は、ＣＰＵ５２が物体認識装置５の各機能を制御するために実行される物体認識用プログラムを記憶している。ＣＡＮ  Ｉ／Ｆ５８は、外部コントローラ等と通信するためのインターフェースであり、例えば、自動車のＣＡＮ等に接続されることができる。
【００５１】
このような構成により、画像処理装置３０のＩ／Ｆ３５からバスライン４を介して物体認識装置５に高密度視差画像が送信されると、物体認識装置５におけるＣＰＵ５２の命令によって、ＦＰＧＡ５１が、撮像装置１０ａ、１０ｂと物体Ｅとの間の距離Ｚを算出する。
【００５２】
なお、物体認識装置５におけるＣＰＵ５２の命令によってＦＰＧＡ５１が距離Ｚを算出せずに、画像処理装置３０のＣＰＵ３２の命令によってＦＰＧＡ３１が距離Ｚを算出してもよい。
【００５３】
また、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｃ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）やＳＤメモリカード（Ｓｅｃｕｒｅ  Ｄｉｇｉｔａｌ  ｍｅｍｏｒｙ  ｃａｒｄ）等である。
【００５４】
＜視差値導出装置のブロック構成および各ブロックの動作＞
図１０は、本実施の形態に係る視差値導出装置のブロック構成の一例を示す図である。図１１は、本実施の形態におけるシフト量と合成コスト値との関係の例を示すグラフである。図１２は、縮小画像に対するステレオマッチング処理により縮小視差画像を得ることを説明する図である。図１３は、縮小視差画像に対する拡大処理を説明する図である。図１４は、補正画素の視差値を求める動作の例を示すフローチャートである。図１０乃至図１４を参照しながら、視差値導出装置３の要部のブロック構成および各ブロックの動作について説明する。なお、説明の便宜上、上述の図８に示す撮像装置１０ａを「右」のカメラと称し、撮像装置１０ｂを「左」のカメラと称するものとする。
【００５５】
図１０に示すように、視差値導出装置３は、画像取得部１１０と、フィルタ部２１０と、画像縮小部３１０（縮小手段）と、コスト算出部３２０（算出手段）と、コスト合成部３３０（合成手段）と、視差値導出部３４０（導出手段）と、視差画像生成部３５０（生成手段）と、視差画像拡大部３６０（拡大手段）と、を備えている。
【００５６】
画像取得部１１０は、左右２台のカメラにより前方の被写体を撮像して、それぞれアナログの画像信号を生成し、各画像信号に基づく画像である２つの輝度画像を得る処理部である。画像取得部１１０は、図９に示す撮像装置１０ａおよび撮像装置１０ｂによって実現される。
【００５７】
フィルタ部２１０は、画像取得部１１０により得られた２つの輝度画像の画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換して出力する処理部である。ここで、フィルタ部２１０が出力する２つの輝度画像の画像データ（以下、単に「輝度画像」と称する）のうち、画像取得部１１０の右のカメラ（撮像装置１０ａ）により撮像された基準画像Ｉａの画像データ（以下、単に「基準画像Ｉａ」という）とし、左のカメラ（撮像装置１０ｂ）により撮像された輝度画像を、比較画像Ｉｂの画像データ（以下、単に「比較画像Ｉｂ」という）とする。すなわち、フィルタ部２１０は、画像取得部１１０から出力された２つの輝度画像に基づいて、基準画像Ｉａ（第１基準画像）および比較画像Ｉｂ（第１比較画像）を出力する。フィルタ部２１０は、図９に示す信号変換装置２０ａ、２０ｂによって実現される。
【００５８】
画像縮小部３１０は、フィルタ部２１０から出力された比較画像Ｉｂおよび基準画像Ｉａの画像サイズを縮小する縮小処理を実行する。具体的には、画像縮小部３１０は、比較画像Ｉｂに対して縮小処理を実行して縮小比較画像Ｉｂ＿ｓ（第２比較画像）を生成し、基準画像Ｉａに対して縮小処理を実行して、縮小基準画像Ｉａ＿ｓ（第２基準画像）を生成する。ここで、縮小処理として、平均画素法、Ｌａｎｃｚｏｓ（ランチョス）法、またはバイリニア補間法等の周知の縮小アルゴリズムを適用することができる。画像縮小部３１０は、図９に示すＦＰＧＡ３１によって実現される。
【００５９】
コスト算出部３２０は、縮小基準画像Ｉａ＿ｓにおける基準画素ｐ（ｘ，ｙ）（第１基準領域）の輝度値、および、基準画素ｐ（ｘ，ｙ）に基づく縮小比較画像Ｉｂ＿ｓにおけるエピポーラ線上で、基準画素ｐ（ｘ，ｙ）の位置に相当する画素からシフト量ｄでシフトすることにより特定される、対応画素の候補ｑ（ｘ＋ｄ，ｙ）（候補領域）の各輝度値に基づいて、各候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）を算出する。コスト算出部３２０は、図９に示すＦＰＧＡ３１によって実現される。コスト算出部３２０が算出するコスト値Ｃとしては、例えば、ＳＡＤまたはＳＳＤ等を用いることができる。そして、シフト量ｄと、コスト算出部３２０により算出されたコスト値Ｃとの関係を示すグラフが、図１１に示すグラフである。このように、コスト算出部３２０は、画像縮小部３１０による縮小処理前の比較画像Ｉｂおよび基準画像Ｉａを用いてコスト値Ｃを算出するのではなく、画像サイズが縮小された縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを用いてコスト値Ｃを算出する。これによって、コスト値Ｃを算出するための演算負荷を低減することができ、かつ、メモリ（図９に示すＲＡＭ３４）の消費量を低減することができる。
【００６０】
上述のように、シフト量ｄと、コスト算出部３２０により算出されたコスト値Ｃとの関係を示すグラフ（例えば、上述の図４に示すグラフ）においては、複数のシフト量ｄにおいて、コスト値Ｃの最小値として近似した値となっている。そのため、コスト値Ｃの最小値を求めて、縮小基準画像Ｉａ＿ｓにおける基準画素に対応する縮小比較画像Ｉｂ＿ｓにおける対応画素を求めることは困難である。特に、画像におけるテクスチャが弱い部分がある場合には、このようにコスト値Ｃの最小値を求めることは困難になる。
【００６１】
コスト合成部３３０は、縮小基準画像Ｉａ＿ｓにおける基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のその基準画素（第２基準領域）についての縮小比較画像Ｉｂ＿ｓにおける画素のコスト値Ｃを、コスト算出部３２０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて、候補ｑ（ｘ＋ｄ，ｙ）の合成コスト値Ｌｓ（ｐ，ｄ）（合成一致度）を算出する。コスト合成部３３０は、図９に示すＦＰＧＡ３１によって実現される。
【００６２】
具体的には、コスト合成部３３０は、合成コスト値Ｌｓを算出するために、まず、上述の（式３）によって、所定のｒ方向の経路コスト値Ｌｒ（ｐ，ｄ）を算出する。この場合、（式３）におけるＬｒ（ｐ−ｒ，ｄ）は、基準画素ｐの座標からｒ方向に１画素シフトした座標の画素について、シフト量を変化させた場合のそれぞれの経路コスト値Ｌｒを示す。次に、コスト合成部３３０は、図５に示したように、８方向の経路コスト値ＬｒであるＬｒ０、Ｌｒ４５、Ｌｒ９０、Ｌｒ１３５、Ｌｒ１８０、Ｌｒ２２５、Ｌｒ２７０およびＬｒ３１５を算出し、最終的に上述の（式４）に基づいて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。そして、シフト量ｄと、コスト合成部３３０により算出された合成コスト値Ｌｓとの関係を示すグラフが、図１１に示すグラフである。図１１に示すように、合成コスト値Ｌｓは、シフト量ｄ＝３のとき最小値となる。このように、コスト合成部３３０は、コスト算出部３２０により画像サイズが縮小された縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを用いて算出されたコスト値Ｃを用いて合成コスト値Ｌｓを算出する。すなわち、コスト合成部３３０は、縮小処理前の比較画像Ｉｂおよび基準画像Ｉａを用いて算出されるコスト値Ｃを用いて合成コスト値Ｌｓの算出はしないものとしている。これによって、合成コスト値Ｌｓを算出するための演算負荷を低減することができ、かつ、メモリ（図９に示すＲＡＭ３４）の消費量を低減することができる。
【００６３】
視差値導出部３４０は、図１１に示すように、コスト合成部３３０により算出された、縮小基準画像Ｉａ＿ｓにおける基準画素についての縮小比較画像Ｉｂ＿ｓにおける画素の合成コスト値Ｌｓの最小値（極値）を視差値Δとして導出する。視差値導出部３４０は、図９に示すＦＰＧＡ３１によって実現される。
【００６４】
視差画像生成部３５０は、視差値導出部３４０により導出された視差値Δに基づいて、縮小基準画像Ｉａ＿ｓの各画素の輝度値を、その画素に対応する視差値Δで置換した画像である縮小視差画像Ｉｐ＿ｓ（第１視差画像）を生成する。視差画像生成部３５０は、図９に示すＦＰＧＡ３１によって実現される。図１２のうち、図１２（ａ）は、縮小比較画像Ｉｂ＿ｓの一例を示し、図１２（ｂ）は、縮小基準画像Ｉａ＿ｓの一例を示し、図１２（ｃ）は、視差画像生成部３５０により生成された縮小視差画像Ｉｐ＿ｓの模式図を示す。
【００６５】
視差画像拡大部３６０は、視差画像生成部３５０により生成された縮小視差画像Ｉｐ＿ｓの画像サイズを拡大する拡大処理を実行して、視差画像Ｉｐ（第２視差画像、拡大視差画像）を生成する。このとき、視差画像拡大部３６０の拡大処理における拡大比率（第２比率）は、画像縮小部３１０の縮小処理における縮小比率（第１比率）の逆数と同一であるものとする。すなわち、これによって、視差画像拡大部３６０は、画像縮小部３１０により縮小される前の比較画像Ｉｂおよび基準画像Ｉａと同じ画像サイズの視差画像Ｉｐを得ることができる。
【００６６】
視差画像拡大部３６０による拡大処理の一例を、図１３および図１４を参照しながら説明する。図１３では、縮小視差画像Ｉｐ＿ｓの一例として縮小視差画像Ｉｐ＿ｓ１を示し、視差画像Ｉｐの一例として視差画像Ｉｐ１を示している。また、説明を簡略にするために、図１３に示す縮小視差画像Ｉｐ＿ｓ１を構成する画素のうち、左上の４画素（Ｒ１〜Ｒ４）に着目して説明する。これらのＲ１〜Ｒ４で示す画素は、拡大処理後に追加される画素の画素値を補正して求めるために参照される画素となるので、以下、参照元画素Ｒ１〜Ｒ４と称するものとする。
【００６７】
まず、視差画像拡大部３６０は、図１３に示すように、縮小視差画像Ｉｐ＿ｓ１の最も左上の画素である参照元画素Ｒ１に対して下側、右側および右下側の位置にそれぞれ新たなＣ１、Ｃ３、Ｃ５で示す画素を配置する。これらのＣ１、Ｃ３、Ｃ５で示す画素の画素値は、後述するように、参照元画素の画素値（視差値）に基づいて補正して算出されるので、補正画素Ｃ１、Ｃ３、Ｃ５と称するものとする。視差画像拡大部３６０は、このような補正画素の配置を、参照元画素Ｒ２〜Ｒ４それぞれについても実行する。その結果、図１３の縮小視差画像Ｉｐ＿ｓ１に示す参照元画素Ｒ１〜Ｒ４の部分、すなわち、２×２の部分画像は、視差画像Ｉｐ１において４×４の部分画像に拡大されることになる。すなわち、図１３に示す画像サイズが４×４の縮小視差画像Ｉｐ＿ｓ１は、８×８の視差画像Ｉｐ１に拡大されることになる。ここで、参照元画素Ｒ１〜Ｒ４のそれぞれについて補正画素を配置した結果、視差画像Ｉｐ１において、参照元画素Ｒ２と参照元画素Ｒ４との間の画素を補正画素Ｃ２とし、参照元画素Ｒ３と参照元画素Ｒ４との間の画素を補正画素Ｃ４とする。すなわち、視差画像Ｉｐ１において、参照元画素同士の行方向および列方向の間に補正画素（第１補正画素）が配置され、配置された補正画素同士の間に生じた空隙（補正画素Ｃ５の位置）にさらに補正画素（第２補正画素）を配置させるものとしている。
【００６８】
次に、図１４を参照しながら、補正画素Ｃ１〜Ｃ５の画素値を算出する方法の一例を説明する。
【００６９】
視差画像拡大部３６０は、配置した補正画素Ｃ１〜Ｃ４のそれぞれに上下左右方向で隣接する２つの参照元画素の画素値に基づいて、補正画素Ｃ１〜Ｃ４のそれぞれの画素値を算出する。例えば、視差画像拡大部３６０は、補正画素Ｃ１の画素値を、補正画素Ｃ１に隣接する２つの参照元画素Ｒ１、Ｒ３の画素値に基づいて算出する。また、視差画像拡大部３６０は、補正画素Ｃ３の画素値を、補正画素Ｃ３に隣接する２つの参照元画素Ｒ１、Ｒ２の画素値に基づいて算出する。補正画素Ｃ２、Ｃ４についても同様である。
【００７０】
また、視差画像拡大部３６０は、配置した補正画素Ｃ５に隣接する２つの補正画素Ｃ１、Ｃ２の画素値に基づいて、補正画素Ｃ５の画素値を算出する。なお、視差画像拡大部３６０は、補正画素Ｃ５に隣接する補正画素として補正画素Ｃ１、Ｃ２を選択したが、これに限定されるものではなく、隣接する補正画素Ｃ３、Ｃ４を選択し、これらの画素値に基づいて、補正画素Ｃ５の画素値を算出するものとしてもよい。
【００７１】
ここで、画素値の算出の対象となる補正画素に隣接する２つの画素の画素値をそれぞれｄｐ１、ｄｐ２とする。視差画像拡大部３６０は、補正画素の具体的な画素値を算出するために、まず、下記の（式５）を満たすか否かを判定する（ステップＳ８１）。（式５）におけるｄｐ＿ｔｈは、所定の閾値である。
【００７２】
｜ｄｐ１−ｄｐ２｜＞ｄｐ＿ｔｈ                                        （式５）
【００７３】
（式５）を満たす場合（ステップＳ８１：Ｙｅｓ）、ステップＳ８２へ進み、（式５）を満たさない場合（ステップＳ８１：Ｎｏ）、ステップＳ８３へ進む。
【００７４】
ステップＳ８２において、視差画像拡大部３６０は、画素値ｄｐ１と画素値ｄｐ２との差が閾値ｄｐ＿ｔｈより大きいので、対象となる補正画素の画素値ｄｐ１２を下記の（式６）によって算出する。
【００７５】
ｄｐ１２＝ｍｉｎ（ｄｐ１，ｄｐ２）                                    （式６）
【００７６】
すなわち、視差画像拡大部３６０は、対象となる補正画素に隣接する２つの画素の画素値ｄｐ１、ｄｐ２のうち小さい方の画素値を、対象となる補正画素の画素値とする。これによって、拡大処理された視差画像Ｉｐのエッジ部分を明確にすることができる。なお、（式６）に示すように、画素値ｄｐ１２を、画素値ｄｐ１、ｄｐ２のうち小さい方の画素値としているが、これに限定されるものではなく、画素値ｄｐ１、ｄｐ２のうち大きい方の画素値としてもよい。
【００７７】
視差画像Ｉｐの画素値は視差値であり、視差値の値が小さければその視差値に対応する被写体は遠方に位置することを示す。したがって、例えば、高速道路等のように近くの物体よりも遠方の物体に着目するべき周辺環境においては、（式６）に従って補正画素の画素値が算出されるものとすればよい。一方、市街地等のように遠くの物体よりも近くの物体に着目するべき周辺環境においては、画素値ｄｐ１、ｄｐ２のうち大きい方の画素値を、補正画素の画素値とすればよい。したがって、上述の（式５）を満たす場合、対象となる補正値の画素値を、画素値ｄｐ１、ｄｐ２のうち大きい方の画素値とするか小さい方の画素値とするかについては、周辺環境に応じて切り替えられるものとしてもよい。ここで、（式６）に従った補正画素の画素値の算出による縮小視差画像の拡大処理を第１拡大処理と、画素値ｄｐ１、ｄｐ２のうち大きい方の画素値を補正画素の画素値とする縮小視差画像の拡大処理を第２拡大処理とする。この場合、近い物体については、第１拡大処理で拡大された視差画像Ｉｐにおける物体に対応する領域よりも第２拡大処理で拡大された視差画像Ｉｐにおける物体に対応する領域の方が大きくなる。一方、遠い物体については、第１拡大処理で拡大された視差画像Ｉｐにおける物体に対応する領域よりも第２拡大処理で拡大された視差画像Ｉｐにおける物体に対応する領域の方が小さくなる。なお、ここでいう物体は、物体認識装置５において認識される物体である。
【００７８】
ステップＳ８３において、視差画像拡大部３６０は、画素値ｄｐ１と画素値ｄｐ２との差が閾値ｄｐ＿ｔｈ以下なので、対象となる補正画素の画素値ｄｐ１２を下記の（式７）によって算出する。
【００７９】
ｄｐ１２＝（ｄｐ１＋ｄｐ２）／２                                      （式７）
【００８０】
すなわち、視差画像拡大部３６０は、対象となる補正画素に隣接する２つの画素の画素値ｄｐ１、ｄｐ２の平均値を、対象となる補正画素の画素値とする。これによって、拡大処理された視差画像Ｉｐにおいて、画素値ｄｐ１である画素と、画素値ｄｐ２である画素との間を滑らかに繋げることができる。
【００８１】
なお、図１４のフローでは、ステップＳ８１において、（式５）を満たすか否かにより、算出する補正画素の画素値（視差値）を（式６）で算出するか、（式７）で算出するかを切り替えているが、これに限定されるものではない。例えば、視差画像拡大部３６０は、ステップＳ８１およびＳ８２の処理を省略して、視差画像Ｉｐにおける補正画素の画素値（視差値）を、（式７）により一律に算出するものとしてもよい。
【００８２】
以上のように、視差画像拡大部３６０は、縮小視差画像Ｉｐ＿ｓ１を構成するそれぞれの画素を参照元画素として、その周囲に補正画素を配置する。そして、視差画像拡大部３６０は、配置した補正画素の画素値を、隣接する２つの画素値が確定した画素（参照元画素または補正画素）の画素値に基づいて、図１４に示すフローに従って算出することにより、縮小視差画像Ｉｐ＿ｓ１を拡大処理して視差画像Ｉｐ１を生成する。なお、隣接する２つの画素値が確定した画素が存在しない補正画素（例えば、図１３に示す最右列の画素）の場合、例えば、隣接する１つの画素値が確定した画素の画素値と同一の画素値とすればよい。
【００８３】
なお、図１３では、参照元画素の下側、右側および右下側の位置に補正画素を配置する例を示したが、これに限定されるものではなく、例えば、上側、左側および左上側の位置に補正画素を配置するものとしてもよい。
【００８４】
また、図１３では、１つの参照元画素について、３つの補正画素を配置し、縮小視差画像Ｉｐ＿ｓの画像サイズを２倍に拡大する例を示したが、これに限定されるものではなく、その他の拡大比率で拡大するものとしてもよい。例えば、１つの参照元画素について、８つの補正画素を配置し、図１３の縮小視差画像Ｉｐ＿ｓ１に示す参照元画素Ｒ１〜Ｒ４の部分、すなわち、２×２の部分画像を、視差画像Ｉｐ１において６×６の部分画像に拡大されるものとしてもよい。この場合、補正画素の画素値の算出方法は、上述の方法に準じるものとすればよい。すなわち、この場合、２つの隣接する補正画素の両端に、画素値が確定した２つ画素（参照元画素または補正画素）が配置されるので、この２つの画素に基づいて、対象となる２つの隣接する補正画素の画素値を算出するものとすればよい。また、拡大比率（および縮小比率）は、ユーザのニーズに応じて切り替えることができるものとしてもよく、あるいは、ＦＰＧＡ３１およびＣＰＵ３２の演算負荷に応じて切り替わるものとしてもよい。
【００８５】
また、画像縮小部３１０、コスト算出部３２０、コスト合成部３３０、視差値導出部３４０、視差画像生成部３５０、および視差画像拡大部３６０は、ＦＰＧＡ３１その他の集積回路によって実現、すなわち、ハードウェア回路によって実現されるものとしたが、これに限定されるものではない。すなわち、画像縮小部３１０、コスト算出部３２０、コスト合成部３３０、視差値導出部３４０、視差画像生成部３５０、または視差画像拡大部３６０の少なくともいずれかは、ソフトウェアであるプログラムがＣＰＵ３２によって実行されることによって実現されてもよい。また、図１０に示した物体認識システム１のブロック構成は、機能を概念的に示したものであって、このような構成に限定されるものではない。
【００８６】
（視差値導出装置の画像処理動作）
図１５は、本実施の形態に係る視差値導出装置のステレオマッチング処理の動作の例を示すフローチャートである。図１５を参照しながら、本実施の形態に係る視差値導出装置３のステレオマッチング処理に基づく画像処理の動作の流れについて説明する。
【００８７】
＜ステップＳ１−１＞
視差値導出装置３の画像取得部１１０は、左のカメラ（撮像装置１０ｂ）により前方の被写体を撮像して、それぞれアナログの画像信号を生成し、その画像信号に基づく画像である輝度画像を得る。これによって、後段の画像処理の対象となる画像が得られることになる。そして、ステップＳ２−１へ進む。
【００８８】
＜ステップＳ１−２＞
視差値導出装置３の画像取得部１１０は、右のカメラ（撮像装置１０ａ）により前方の被写体を撮像して、それぞれアナログの画像信号を生成し、その画像信号に基づく画像である輝度画像を得る。これによって、後段の画像処理の対象となる画像が得られることになる。そして、ステップＳ２−２へ進む。
【００８９】
＜ステップＳ２−１＞
視差値導出装置３のフィルタ部２１０は、撮像装置１０ｂにより撮像されて得られたアナログの画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換する。このように、デジタル形式の画像データに変換することによって、その画像データに基づく画像に対して画素ごとの画像処理が可能となる。そして、ステップＳ３−１へ進む。
【００９０】
＜ステップＳ２−２＞
視差値導出装置３のフィルタ部２１０は、撮像装置１０ａにより撮像されて得られたアナログの画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換する。このように、デジタル形式の画像データに変換することによって、その画像データに基づく画像に対して画素ごとの画像処理が可能となる。そして、ステップＳ３−２へ進む。
【００９１】
＜ステップＳ３−１＞
フィルタ部２１０は、ステップＳ２−１において変換したデジタル形式の画像データに基づく画像をステレオマッチング処理における比較画像Ｉｂとして出力する。これによって、ステレオマッチング処理において視差値を求めるための比較対象となる画像を得る。そして、ステップＳ４へ進む。
【００９２】
＜ステップＳ３−２＞
フィルタ部２１０は、ステップＳ２−２において変換したデジタル形式の画像データに基づく画像をステレオマッチング処理における基準画像Ｉａとして出力する。これによって、ステレオマッチング処理において視差値を求めるための基準となる画像を得る。そして、ステップＳ４へ進む。
【００９３】
＜ステップＳ４＞
視差値導出装置３の画像縮小部３１０は、フィルタ部２１０から出力された比較画像Ｉｂおよび基準画像Ｉａの画像サイズを縮小する縮小処理を実行する。具体的には、画像縮小部３１０は、比較画像Ｉｂに対して縮小処理を実行して縮小比較画像Ｉｂ＿ｓを生成し、基準画像Ｉａに対して縮小処理を実行して、縮小基準画像Ｉａ＿ｓを生成する。このように、比較画像Ｉｂおよび基準画像Ｉａを縮小することによって、後段のコスト値Ｃおよび合成コスト値Ｌｓを算出するための演算量を削減することができ、演算負荷を低減することができる。そして、ステップＳ５へ進む。
【００９４】
＜ステップＳ５＞
視差値導出装置３のコスト算出部３２０は、縮小基準画像Ｉａ＿ｓにおける基準画素ｐ（ｘ，ｙ）の輝度値、および、基準画素ｐ（ｘ，ｙ）に基づく縮小比較画像Ｉｂ＿ｓにおけるエピポーラ線上で、基準画素ｐ（ｘ，ｙ）の位置に相当する画素からシフト量ｄでシフトすることにより特定される、対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値に基づいて、各候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）を算出する。このように、コスト算出部３２０は、画像縮小部３１０による縮小処理前の比較画像Ｉｂおよび基準画像Ｉａを用いてコスト値Ｃを算出するのではなく、画像サイズが縮小された縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを用いてコスト値Ｃを算出する。これによって、コスト値Ｃを算出するための演算負荷を低減することができ、かつ、メモリ（図９に示すＲＡＭ３４）の消費量を低減することができる。そして、ステップＳ６へ進む。
【００９５】
＜ステップＳ６＞
視差値導出装置３のコスト合成部３３０は、縮小基準画像Ｉａ＿ｓにおける基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のその基準画素についての縮小比較画像Ｉｂ＿ｓにおける画素のコスト値Ｃを、コスト算出部３２０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて、候補ｑ（ｘ＋ｄ，ｙ）の合成コスト値Ｌｓ（ｐ，ｄ）を算出する。このように、コスト合成部３３０は、コスト算出部３２０により画像サイズが縮小された縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを用いて算出されたコスト値Ｃを用いて合成コスト値Ｌｓを算出する。すなわち、コスト合成部３３０は、縮小処理前の比較画像Ｉｂおよび基準画像Ｉａを用いて算出されるコスト値Ｃを用いて合成コスト値Ｌｓの算出はしないものとしている。これによって、合成コスト値Ｌｓを算出するための演算負荷を低減することができ、かつ、メモリ（図９に示すＲＡＭ３４）の消費量を低減することができる。そして、ステップＳ７へ進む。
【００９６】
＜ステップＳ７＞
視差値導出装置３の視差値導出部３４０は、コスト合成部３３０により算出された、縮小基準画像Ｉａ＿ｓにおける基準画素についての縮小比較画像Ｉｂ＿ｓにおける画素の合成コスト値Ｌｓの最小値を視差値Δとして導出する。導出された視差値Δは、縮小比較画像Ｉｂ＿ｓにおける基準画素に対応する被写体の部分の距離を示す値となる。そして、ステップＳ８へ進む。
【００９７】
＜ステップＳ８＞
視差値導出装置３の視差画像生成部３５０は、視差値導出部３４０により導出された視差値Δに基づいて、縮小基準画像Ｉａ＿ｓの各画素の輝度値（画素値）を、その画素に対応する視差値Δで置換した画像である縮小視差画像Ｉｐ＿ｓを生成する。この時点の縮小視差画像Ｉｐ＿ｓの画像サイズは、縮小基準画像Ｉａ＿ｓと同一の画像サイズであり、ステップＳ３−１およびＳ３−２における比較画像Ｉｂおよび基準画像Ｉａの画像サイズよりも小さい状態のままである。そして、ステップＳ９へ進む。
【００９８】
＜ステップＳ９＞
視差値導出装置３の視差画像拡大部３６０は、視差画像生成部３５０により生成された縮小視差画像Ｉｐ＿ｓの画像サイズを拡大する上述の拡大処理を実行して、視差画像Ｉｐ（高密度視差画像）を生成する。このとき、視差画像拡大部３６０の拡大処理における拡大比率は、画像縮小部３１０の縮小処理における縮小比率の逆数と同一であるものとする。すなわち、これによって、視差画像拡大部３６０は、画像縮小部３１０により縮小される前の比較画像Ｉｂおよび基準画像Ｉａと同じ画像サイズの視差画像Ｉｐを得ることができる。
【００９９】
その後、図９に示すＩ／Ｆ３５を介して、視差画像Ｉｐの画像データが出力され、物体認識装置５によって、撮像装置１０ａ、１０ｂから物体までの距離が算出される。
【０１００】
（車両に機器制御システムを搭載した場合の例）
図１６は、本実施形態に係る機器制御システムを車両に搭載した例を示す図である。以下、図１６を参照しながら、車両１００に機器制御システム６０を搭載した場合の例を説明する。
【０１０１】
図１６に示す構成では、自動車である車両１００は、機器制御システム６０を備えている。機器制御システム６０は、居室空間である車室において設置された視差値導出装置３と、制御装置６と、ステアリングホイール７と、ブレーキペダル８と、を備えている。
【０１０２】
視差値導出装置３は、車両１００の進行方向を撮像する撮像機能を有し、例えば、車両１００のフロントウィンドウ内側のバックミラー近傍に設置される。視差値導出装置３は、本体部２と、本体部２に固定された撮像装置１０ａと、撮像装置１０ｂとを備えている。撮像装置１０ａ、１０ｂは、車両１００の進行方向の被写体を撮像できるように本体部２に固定されている。
【０１０３】
制御装置６は、上述の物体認識システム１における物体認識装置５の代わりに視差値導出装置３に接続された装置であり、視差値導出装置３から受信した視差画像の画像データに基づいて求まる視差値導出装置３から被写体までの距離情報により、各種車両制御を実行する。制御装置６は、車両制御の例として、視差値導出装置３から受信した視差画像の画像データに基づいて、ステアリングホイール７を含むステアリング系統（制御対象）を制御して障害物を回避するステアリング制御、または、ブレーキペダル８（制御対象）を制御して車両１００を減速および停止させるブレーキ制御等を実行する。
【０１０４】
このような視差値導出装置３および制御装置６を含む機器制御システム６０のように、ステアリング制御またはブレーキ制御等の車両制御が実行されることによって、車両１００の運転の安全性を向上することができる。
【０１０５】
なお、上述のように、視差値導出装置３は、車両１００の前方を撮像するものとしたが、これに限定されるものではない。すなわち、視差値導出装置３は、車両１００の後方または側方を撮像するように設置されるものとしてもよい。この場合、視差値導出装置３は、車両１００の後方の後続車、または側方を並進する他の車両等の位置を検出することができる。そして、制御装置６は、車両１００の車線変更時または車線合流時等における危険を検知して、上述の車両制御を実行することができる。また、制御装置６は、車両１００の駐車時等におけるバック動作において、視差値導出装置３によって検出された車両１００の後方の障害物の視差画像に基づいて、衝突の危険があると判断した場合に、上述の車両制御を実行することができる。
【０１０６】
（本実施の形態の主な効果）
以上のように、本実施の形態に係る視差値導出装置３において、画像縮小部３１０は、比較画像Ｉｂおよび基準画像Ｉａの画像サイズを縮小する縮小処理を実行して、縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを生成する。そして、コスト算出部３２０およびコスト合成部３３０は、縮小処理された縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓを用いて、それぞれコスト値Ｃおよび合成コスト値Ｌｓを算出している。これによって、縮小処理される前の比較画像Ｉｂおよび基準画像Ｉａに対してコスト値Ｃおよび合成コスト値Ｌｓを算出する場合と比較して、コスト値Ｃおよび合成コスト値Ｌｓを算出するためのメモリ（ＲＡＭ３４）の消費量を低減し、画像処理の負荷を低減することができる。
【０１０７】
また、本実施の形態に係る視差値導出装置３において、視差値導出部３４０および視差画像生成部３５０により、縮小比較画像Ｉｂ＿ｓおよび縮小基準画像Ｉａ＿ｓに基づいて生成された縮小視差画像Ｉｐ＿ｓが生成される。そして、視差画像拡大部３６０は、縮小視差画像Ｉｐ＿ｓの画像サイズを、画像縮小部３１０の縮小処理における縮小比率と逆数の拡大比率で上述した拡大処理を実行し、視差画像Ｉｐを生成する。これによって、周知のアルゴリズムで縮小処理をして、縮小視差画像を生成し、周知のアルゴリズムで拡大処理をする場合と比較して、精度の高い視差画像を得ることができる。なお、視差画像拡大部３６０は、縮小視差画像Ｉｐ＿ｓの画像サイズを、画像縮小部３１０の縮小処理における縮小比率と逆数の拡大比率で拡大処理を実行するものとしているが、これに限定されるものではない。すなわち、視差画像拡大部３６０は、必ずしも、画像縮小部３１０の縮小処理における縮小比率と逆数の拡大比率で拡大処理をする必要がなく、少なくとも、ユーザのニーズに沿う大きさの視差画像となるように拡大処理を実行するものとしてもよい。
【０１０８】
なお、上述の実施の形態では、一致度としてのコスト値Ｃは非類似度を表す評価値としているが、類似度を表す評価値であってもよい。この場合、合成コスト値Ｌｓが最大となるシフト量ｄが視差値Δとなる。
【０１０９】
また、上述の実施の形態では、説明の簡略化のために、画素単位でのマッチングで説明したが、これに限定されるものではなく、複数の画素からなる所定領域単位でマッチングされてもよい。この場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として示され、対応画素の候補画素は候補領域として示される。また、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれ、候補領域には候補画素のみの場合も含まれる。
【０１１０】
また、上述の実施の形態では、合成コスト値Ｌｓから視差値Δを導出する方法においてより上述の効果が発揮されるものであるが、これに限定されるものではなく、コスト値Ｃから直接、視差値Δを導出する方法等であってもよい。
【０１１１】
本実施の形態は、次に示される捉え方が可能である。すなわち、本実施の形態に係る視差値導出装置は、撮像装置１０ａが被写体を撮像することにより得られた基準画像Ｉａ、および撮像装置１０ａの位置と異なる位置の撮像装置１０ｂが被写体を撮像することにより得られた比較画像Ｉｂに基づいて、被写体に対する視差を示す視差値Δを導出する視差値導出装置であって、基準画像Ｉａおよび比較画像Ｉｂを縮小比率で縮小して、それぞれ縮小基準画像Ｉａ＿ｓおよび縮小比較画像Ｉｂ＿ｓを生成する画像縮小部３１０と、縮小基準画像Ｉａ＿ｓの基準画素ｐと、縮小比較画像Ｉｂ＿ｓにおける基準画素ｐに対応する対応画素を含む所定範囲内の複数の領域それぞれとのコスト値Ｃを算出するコスト算出部３２０と、基準画素ｐの周辺の基準画素についての縮小比較画像Ｉｂ＿ｓにおけるコスト値Ｃを、複数の領域のコスト値Ｃに集約させて、複数の領域それぞれについて合成コスト値Ｌｓを求めるコスト合成部３３０と、合成コスト値Ｌｓに基づいて、基準画素ｐと対応領域との視差値Δを導出する視差値導出部３４０と、視差値導出部３４０により導出された視差値Δに基づいて、縮小視差画像Ｉｐ＿ｓを生成する視差画像生成部３５０と、縮小視差画像Ｉｐ＿ｓを構成する画素である参照元画素（図１３に示す参照元画素Ｒ１〜Ｒ４）同士の行方向および列方向の間に、１以上の補正画素（図１３に示す補正画素Ｃ１〜Ｃ４）を配置し、かつ、その補正画素同士の間に生じた空隙に補正画素（図１３に示す補正画素Ｃ５）を配置することにより縮小視差画像Ｉｐ＿ｓを拡大比率で拡大して視差画像Ｉｐを生成する視差画像拡大部３６０と、を備える。
【０１１２】
また、本実施の形態に係る視差値導出装置は、視差画像拡大部３６０が、視差画像Ｉｐにおいて、参照元画素同士の間に配置された補正画素の画素値を参照元画素の画素値に基づいて求め、画素値が確定した補正画素同士の間に配置された補正画素の画素値を画素値が確定した補正画素の画素値に基づいて求める。
【０１１３】
また、本実施の形態に係る視差値導出装置は、コスト算出部３２０が、基準画素ｐの輝度値と、縮小比較画像Ｉｂ＿ｓにおける基準画素ｐに相当する画素から、所定範囲内のシフト量ｄでシフトすることにより特定される、対応領域の候補となる複数の候補領域の輝度値と、に基づいて複数の候補領域それぞれのコスト値Ｃを算出し、視差値導出部３４０が、縮小比較画像Ｉｂ＿ｓにおける各候補領域の合成コスト値Ｌｓの最小値に対応するシフト量ｄに基づいて視差値Δを導出し、視差画像生成部３５０が、縮小基準画像Ｉａ＿ｓの輝度値を、視差値導出部３４０により導出された視差値Δに置換することにより縮小視差画像Ｉｐ＿ｓを生成する。
【０１１４】
また、本実施の形態に係る視差値導出装置は、視差画像拡大部３６０が、視差画像Ｉｐにおいて、参照元画素同士の間に配置された補正画素の画素値を参照元画素の画素値の差に基づいて求め、画素値が確定した補正画素同士の間に配置された補正画素の画素値を画素値が確定した補正画素の画素値の差に基づいて求める。
【０１１５】
また、本実施の形態に係る視差値導出装置は、視差画像拡大部３６０が、視差画像Ｉｐにおいて、画素値の差が所定の閾値よりも大きい場合、２つのその画素値のうち大きい方の値または小さい方の値を、画素値の差が所定の閾値よりも小さい場合、２つのその画素値の平均値を、補正画素の画素値とする。
【０１１６】
また、本実施の形態に係る視差値導出装置は、視差画像拡大部３６０が、画素値の差が所定の閾値よりも大きい場合、２つのその画素値のうちいずれかを、補正画素の画素値とするか切り替え可能とする。
【０１１７】
また、本実施の形態に係る視差値導出装置は、拡大比率は、縮小比率の逆数である。
【０１１８】
また、本実施の形態に係る視差値導出装置は、拡大比率および縮小比率は、任意に変更可能である。
【０１１９】
また、本実施の形態に係る視差値導出装置は、撮像装置１０ａが被写体を撮像することにより得られた基準画像Ｉａ、および撮像装置１０ａの位置と異なる位置の撮像装置１０ｂが被写体を撮像することにより得られた比較画像Ｉｂに基づいて、被写体に対する視差を示す視差値Δを導出する視差値導出装置であって、基準画像Ｉａおよび比較画像Ｉｂを縮小比率で縮小して、それぞれ縮小基準画像Ｉａ＿ｓおよび縮小比較画像Ｉｂ＿ｓを生成する画像縮小部３１０と、縮小基準画像Ｉａ＿ｓの基準画素ｐと、縮小比較画像Ｉｂ＿ｓにおける基準画素ｐに対応する対応画素を含む所定範囲内の複数の領域それぞれとのコスト値Ｃを算出するコスト算出部３２０と、コスト値Ｃに基づいて、基準画素ｐと対応画素との視差値Δを導出する視差値導出部３４０と、視差値導出部３４０により導出された視差値Δに基づいて、縮小視差画像Ｉｐ＿ｓを生成する視差画像生成部３５０と、縮小視差画像Ｉｐ＿ｓを構成する画素である参照元画素（図１３に示す参照元画素Ｒ１〜Ｒ４）同士の行方向および列方向の間に、１以上の補正画素（図１３に示す補正画素Ｃ１〜Ｃ４）を配置し、かつ、その補正画素同士の間に生じた空隙に補正画素（図１３に示す補正画素Ｃ５）を配置することにより縮小視差画像Ｉｐ＿ｓを拡大比率で拡大して視差画像Ｉｐを生成する視差画像拡大部３６０と、を備える。
【０１２０】
また、本実施の形態に係る機器制御システムは、上述の視差値導出装置のいずれかと、視差値導出装置によって導出される視差値Δにより求まる視差値導出装置から被写体までの距離情報によって、制御対象を制御する制御装置６と、を備える。
【０１２１】
また、本実施の形態に係る移動体は、上述の機器制御システムを備える。
【０１２２】
また、本実施の形態に係るロボットは、上述の機器制御システムを備える。
【０１２３】
また、本実施の形態に係る視差値導出方法は、撮像装置１０ａが被写体を撮像することにより得られた基準画像Ｉａ、および撮像装置１０ａの位置と異なる位置の撮像装置１０ｂが被写体を撮像することにより得られた比較画像Ｉｂに基づいて、被写体に対する視差を示す視差値Δを導出する視差値導出方法であって、基準画像Ｉａおよび比較画像Ｉｂを縮小比率で縮小して、それぞれ縮小基準画像Ｉａ＿ｓおよび縮小比較画像Ｉｂ＿ｓを生成する縮小ステップと、縮小基準画像Ｉａ＿ｓの基準画素ｐと、縮小比較画像Ｉｂ＿ｓにおける基準画素ｐに対応する対応画素を含む所定範囲内の複数の領域それぞれとのコスト値Ｃを算出する算出ステップと、基準画素ｐの周辺の基準画素についての縮小比較画像Ｉｂ＿ｓにおけるコスト値Ｃを、複数の領域のコスト値Ｃに集約させて、複数の領域それぞれについて合成コスト値Ｌｓを求める合成ステップと、合成コスト値Ｌｓに基づいて、基準画素ｐと対応領域との視差値Δを導出する導出ステップと、導出した視差値Δに基づいて、縮小視差画像Ｉｐ＿ｓを生成する生成ステップと、縮小視差画像Ｉｐ＿ｓを構成する画素である参照元画素（図１３に示す参照元画素Ｒ１〜Ｒ４）同士の行方向および列方向の間に、１以上の補正画素（図１３に示す補正画素Ｃ１〜Ｃ４）を配置し、かつ、その補正画素同士の間に生じた空隙に補正画素（図１３に示す補正画素Ｃ５）を配置することにより縮小視差画像Ｉｐ＿ｓを拡大比率で拡大して視差画像Ｉｐを生成する拡大ステップと、を有する。
【０１２４】
また、本実施の形態に係るプログラムは、撮像装置１０ａが被写体を撮像することにより得られた基準画像Ｉａ、および撮像装置１０ａの位置と異なる位置の撮像装置１０ｂが被写体を撮像することにより得られた比較画像Ｉｂに基づいて、被写体に対する視差を示す視差値Δを導出するためのプログラムであって、基準画像Ｉａおよび比較画像Ｉｂを縮小比率で縮小して、それぞれ縮小基準画像Ｉａ＿ｓおよび縮小比較画像Ｉｂ＿ｓを生成する画像縮小部３１０と、縮小基準画像Ｉａ＿ｓの基準画素ｐと、縮小比較画像Ｉｂ＿ｓにおける基準画素ｐに対応する対応画素を含む所定範囲内の複数の領域それぞれとのコスト値Ｃを算出するコスト算出部３２０と、基準画素ｐの周辺の基準画素についての縮小比較画像Ｉｂ＿ｓにおけるコスト値Ｃを、複数の領域のコスト値Ｃに集約させて、複数の領域それぞれについて合成コスト値Ｌｓを求めるコスト合成部３３０と、合成コスト値Ｌｓに基づいて、基準画素ｐと対応領域との視差値Δを導出する視差値導出部３４０と、視差値導出部３４０により導出された視差値Δに基づいて、縮小視差画像Ｉｐ＿ｓを生成する視差画像生成部３５０と、縮小視差画像Ｉｐ＿ｓを構成する画素である参照元画素（図１３に示す参照元画素Ｒ１〜Ｒ４）同士の行方向および列方向の間に、１以上の補正画素（図１３に示す補正画素Ｃ１〜Ｃ４）を配置し、かつ、その補正画素同士の間に生じた空隙に補正画素（図１３に示す補正画素Ｃ５）を配置することにより縮小視差画像Ｉｐ＿ｓを拡大比率で拡大して視差画像Ｉｐを生成する視差画像拡大部３６０と、をコンピュータに実現させる。
【０１２５】
また、本実施の形態に係る視差値導出装置は、撮像装置１０ａが設置された位置から被写体を撮像することにより得られた基準画像Ｉａ、および撮像装置１０ａが設置された位置と異なる撮像装置１０ｂが設置された位置から被写体を撮像することにより得られた比較画像Ｉｂに基づいて、被写体に対する視差を示す視差値Δを導出し、基準画像Ｉａ中の物体を認識する物体認識装置５に視差値Δを出力する視差値導出装置であって、基準画像Ｉａおよび比較画像Ｉｂに基づいて、視差値Δに基づき基準画像Ｉａおよび比較画像Ｉｂのいずれよりも大きさが小さい縮小視差画像Ｉｐ＿ｓを生成する視差画像生成部３５０と、縮小視差画像Ｉｐ＿ｓを、第１拡大処理および第２拡大処理の少なくとも一方により拡大して拡大視差画像（視差画像Ｉｐ）を生成する視差画像拡大部３６０と、を備え、第１拡大処理および第２拡大処理は、撮像装置１０ａ、１０ｂが設置された位置に近い物体については、第１拡大処理での拡大視差画像における物体認識装置５が認識する物体に対応する領域よりも、第２拡大処理での拡大視差画像における物体認識装置５が認識する物体に対応する領域の方が大きくなり、撮像装置１０ａ、１０ｂが設置された位置から遠い物体については、第１拡大処理での拡大視差画像における物体認識装置５が認識する物体に対応する領域よりも、第２拡大処理での拡大視差画像における物体認識装置５が認識する物体に対応する領域の方が小さくなるような処理である。
【符号の説明】
【０１２６】
１  物体認識システム
２  本体部
３  視差値導出装置
４  バスライン
５  物体認識装置
６  制御装置
７  ステアリングホイール
８  ブレーキペダル
１０ａ、１０ｂ  撮像装置
１１ａ、１１ｂ  撮像レンズ
１２ａ、１２ｂ  絞り
１３ａ、１３ｂ  画像センサ
２０ａ、２０ｂ  信号変換装置
２１ａ、２１ｂ  ＣＤＳ
２２ａ、２２ｂ  ＡＧＣ
２３ａ、２３ｂ  ＡＤＣ
２４ａ、２４ｂ  フレームメモリ
３０  画像処理装置
３１  ＦＰＧＡ
３２  ＣＰＵ
３３  ＲＯＭ
３４  ＲＡＭ
３５  Ｉ／Ｆ
３９  バスライン
５１  ＦＰＧＡ
５２  ＣＰＵ
５３  ＲＯＭ
５４  ＲＡＭ
５５  Ｉ／Ｆ
５８  ＣＡＮ  Ｉ／Ｆ
５９  バスライン
６０  機器制御システム
１００  車両
１１０  画像取得部
２１０  フィルタ部
３１０  画像縮小部
３２０  コスト算出部
３３０  コスト合成部
３４０  視差値導出部
３５０  視差画像生成部
３６０  視差画像拡大部
Ｂ  基線長
Ｃ  コスト値
Ｃ１〜Ｃ５  補正画素
ｄ  シフト量
ｄｐ＿ｔｈ  閾値
Ｅ  物体
ＥＬ  エピポーラ線
ｆ  焦点距離
Ｉａ  基準画像
Ｉａ＿ｓ  縮小基準画像
Ｉｂ  比較画像
Ｉｂ＿ｓ  縮小比較画像
Ｉｐ、Ｉｐ１  視差画像
Ｉｐ＿ｓ、Ｉｐ＿ｓ１  縮小視差画像
Ｌｒ  経路コスト値
Ｌｓ  合成コスト値
Ｒ１〜Ｒ４  参照元画素
Ｓ、Ｓａ、Ｓｂ  点
Ｚ  距離
Δ  視差値
【先行技術文献】
【特許文献】
【０１２７】
【特許文献１】特開２０１２−１８１１４２号公報
【図１】
2015207278.tif 000004
【図３】
2015207278.tif 000005
【図４】
2015207278.tif 000006
【図５】
2015207278.tif 000007
【図６】
2015207278.tif 000008
【図７】
2015207278.tif 000009
【図８】
2015207278.tif 000010
【図９】
2015207278.tif 000011
【図１０】
2015207278.tif 000012
【図１１】
2015207278.tif 000013
【図１３】
2015207278.tif 000014
【図１４】
2015207278.tif 000015
【図１５】
2015207278.tif 000016
【図１６】
2015207278.tif 000017
【図２】
2015207278.tif 000018
【図１２】
2015207278.tif 000019