(57)【要約】【課題】演算器やメモリの搭載量を低減することができる、画像処理装置、及び画像処理システムを提供する。【解決手段】基準画像における視差計算対象画素と、参照画像における視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の最大ズレ量の範囲内にあるコスト値算出対象画素のそれぞれとのコスト値を算出する、視差毎コスト値算出部１４と、参照画像において、抽出されたコスト値算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が垂直方向の最大ズレ量の範囲内にある複数の画素から最小コスト値を抽出するライン間最小コスト値抽出部１５と、抽出された１ライン分の前記コスト値算出対象画素のコスト値を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部１６と、を備える。【選択図】図２
2019056623.tif 000002
【特許請求の範囲】
【請求項１】
基準画像における視差計算対象画素と、参照画像において、前記視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある類似度算出対象画素のそれぞれとの類似度を算出する、視差毎類似度算出部と、
前記参照画像において、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素の類似度から、一つの類似度を算出して選択するライン間類似度抽出部と、
前記算出された１ライン分の前記類似度算出対象画素の類似度を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部と、
を備える画像処理装置。
【請求項２】
前記コスト最適化演算は、ＳＭＧ法による合成コスト値の算出により行われることを特徴とする、請求項１に記載の画像処理装置。
【請求項３】
前記類似度は、コスト値であることを特徴とする、請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記ライン間類似度抽出部は、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素のコスト値から、最小コスト値を抽出することを特徴とする、請求項３に記載の画像処理装置。
【請求項５】
基準画像と参照画像とを入力する画像入力装置と、
前記基準画像と前記参照画像との間の静的なズレを補正するキャリブレーション装置と、
前記キャリブレーション装置によって補正された前記基準画像と前記参照画像との間の動的なズレを補正し、距離画像を生成する、請求項１から請求項４のいずれか一項に記載の画像処理装置と、
を有することを特徴とする、画像処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本実施形態は、画像処理装置、及び、画像処理システムに関する。
【背景技術】
【０００２】
水平に二つ並べられたカメラで同じ被写体を撮影すると、カメラ位置の違いから、撮影された二つの画像における被写体の位置は、水平方向にズレが生じる。両画像における被写体の位置の差を「視差（Disparity）」と呼ぶ。カメラから被写体までの距離は、視差の逆数に比例する。すなわち、視差は、遠いものほど小さく、近いものほど大きくなる。
【０００３】
従来、視差を求める手法として、ブロックマッチングが広く用いられている。ブロックマッチングは、二つのカメラで撮影されたそれぞれの画像から小領域（ブロック）を切り出し、両画像間で小領域の類似度（相関値）が最も大きくなる箇所を探索することで視差を求める。具体的には、片方のカメラで撮影された画像（例えば、左側に配置されたカメラで撮影された左画像）を基準とした場合、他方のカメラで撮影された画像（例えば、右側に配置されたカメラで撮影された右画像）において類似度を探索する範囲は、左画像における基準ブロックの座標と同じ座標から、最大視差（例えば１２８画素）だけ水平方向左側に離れた座標までの範囲のブロックとなる。
【０００４】
このブロックマッチングは、処理がシンプルであり、基本的に各点独立に視差を求めることができるので、高速な計算が可能である。しかし、テクスチャのない領域や、繰り返しパターンが存在する領域では、視差を正確に求めるのが困難であるという問題がある。
【０００５】
一方、近年、画像中の全画素の視差に対するエネルギー関数を定義し、その関数が最小となる視差の組み合わせを求める方式（グローバルマッチング）が提案されている。このグローバルマッチングでは、大域的な視差推定を行うため、テクスチャのない領域や、繰り返しパターンが存在する領域でも、視差をより正確に求めることができる。
【０００６】
しかしながら、グローバルマッチングでは、各画素について、ブロックマッチングと同様の手法で相関値を求めた後、隣接画素の計算結果を用いて自身の計算結果を最適化する。そして、画面全体の画素について、最適化演算された計算結果を集約し、視差を算出する。すなわち、ブロックマッチングに比べ、精度が向上する一方で、演算量や、計算結果を一時的に保持するためのメモリ量が、膨大になってしまうという問題がある。
【０００７】
更に、現実的には、二つのカメラを完全に水平に配置することは難しく、垂直方向のズレや回転方向のズレが生じる。ある程度垂直方向にズレがあることを前提にして、類似度の探索範囲を、水平方向だけでなく垂直方向にも広げる方法が考えられる。この場合、相関値算出のために必要な演算器の数やメモリ量が更に増加してしまうという問題があった。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特許第５７９２６６２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００９】
本実施形態は、演算器やメモリの搭載量を低減することができる、画像処理装置、及び画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【００１０】
本実施形態の画像処理装置は、基準画像における視差計算対象画素と、参照画像において、前記視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある類似度算出対象画素のそれぞれとの類似度を算出する、視差毎類似度算出部を備える。また、前記参照画像において、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素の類似度から、一つの類似度を算出して選択するライン間類似度抽出部を備える。更に、前記算出された１ライン分の前記類似度算出対象画素の類似度を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部も備える。
【図面の簡単な説明】
【００１１】
【図１】本実施形態に係わる画像処理システムの構成の一例を示す概略ブロック図。
【図２】距離情報演算部１１の構成の一例を示すブロック図。
【図３】視差毎コスト値算出部１４の詳細な構成の一例を示すブロック図。
【図４】視差毎コスト値算出部１４におけるコスト値算出手順の一例を説明するフローチャート。
【図５】ライン間最小コスト値抽出部１５におけるコスト値抽出手順の一例を説明するフローチャート。
【図６】コスト最適化演算部１６の詳細な構成の一例を示すブロック図。
【図７】距離情報演算部１１の構成の別の一例を示すブロック図。
【発明を実施するための形態】
【００１２】
以下、図面を参照して実施形態を説明する。
【００１３】
図１は、本実施形態に係わる画像処理システムの構成の一例を示す概略ブロック図である。画像処理システムは、画像マッチング処理装置（以下、画像処理装置と示す）１と、キャリブレーション装置２と、画像入力装置３と、これらを接続するバス４とから構成されている。図１は、２台のカメラによる左右視差画像を用いてステレオマッチング処理を行う画像処理システムについて例示している。
【００１４】
画像入力装置３には、図示しないカメラで撮像された複数の画像（例えば、左目に対応するカメラで撮像されたL画像５ｌと、右目に対応するカメラで撮像されたR画像５ｒの２枚の画像）が入力される。L画像５ｌとR画像５ｒとは、バス４を介してキャリブレーション装置２に入力される。
【００１５】
キャリブレーション装置２は、設定条件やレンズの個体差などに起因するカメラ内外間の静的なズレを補正する。具体的には、事格子状のパターンなど、大きさが既知の特定図形パターンを撮像した画像を用い、内部パラメータと外部パラメータとを事前に算出しておく。そして、画像入力装置３から入力されたL画像５ｌとR画像５ｒとのそれぞれを、内部パラメータと外部パラメータとを用いて変換することで、静的なズレを補正し、補正済L画像６ｌと補正済R画像６ｒとを生成する。なお、内部パラメータとは、焦点距離や画像主点位置、レンズ歪みなど、カメラの内部特性を示すものである。また、外部パラメータとは、カメラの三次元空間における回転・平行移動のパラメータであり、ステレオ画像においては、一方の画像を基準とした場合の他方の画像の回転・平行移動の度合を表すものである。補正済L画像６ｌと補正済R画像６ｒとは、バス４を介して画像処理装置１に入力される。
【００１６】
画像処理装置１は、補正後の画像（補正済L画像６ｌ、補正済R画像６ｒ）を用いてステレオマッチングを行い、距離画像（カメラから被写体までの距離を示す画像）７を生成する。図１の画像処理装置１は、距離情報演算部１１と、L画像用ラインバッファ（以下、Lラインバッファと示す）１２と、R画像用ラインバッファ（以下、Rラインバッファと示す）１３とを有している。
【００１７】
Lラインバッファ１２は、補正済L画像６ｌにおいて、視差計算対象画素位置のラインを含む、複数ライン分の画素データを格納するバッファである。Rラインバッファ１３は、補正済R画像６ｒにおいて、視差計算対象画素位置のラインを含む、複数のライン分の画素データを格納するバッファである。
【００１８】
距離情報演算部１１は、グラフカット法などのグローバルマッチングや、ＳＧＭ法（Semi-Global Matching法）などを用い、基準画像の画素ごとに視差を算出して視差画像として出力する。図２は、距離情報演算部１１の構成の一例を示すブロック図である。距離情報演算部１１は、視差毎コスト値算出部１４と、ライン間最小コスト値抽出部１５と、コスト最適化演算部１６と、コスト最小視差抽出部１７とを有する。
【００１９】
視差毎類似度算出部としての視差毎コスト値算出部１４は、参照画像において、視差計算対象画素におけるコスト値算出画素領域を設定し、当該領域におけるコスト値を算出する。コスト値算出画素領域は、（垂直方向の最大ズレ量）×（水平方向の最大視差）の大きさを有する。例えば、参照画像において、水平方向の画素位置を表す座標をX座標、垂直方向の画素位置を表す座標をY座標とし、視差計算対象画素の位置が(X, Y)=(150, 25)の場合、コスト値算出画素領域は、以下のように設定される。
【００２０】
例えば、水平方向の最大視差が１２８画素である場合、参照画像における水平方向の探索領域はX＝150〜X＝23の範囲となる。ここで、垂直方向のズレ量が、視差計算対象画素位置のラインに対して上下１ライン以内である場合、垂直方向の最大ズレ量は３ラインとなる。従って、コスト値算出画素領域は、(X, Y)=(150, 24)〜(23, 24)、(150, 25)〜(23, 25)、(150, 26)〜(23, 26)、の範囲の画素となる。
【００２１】
図３は、視差毎コスト値算出部１４の詳細な構成の一例を示すブロック図である。視差毎コスト値算出部１４は、特徴量演算部１４１と、コスト演算部１４２と、コストバッファ１４３とを有する。
【００２２】
特徴量演算部１４１は、基準画像が格納されているラインバッファから取得する視差計算対象画素の画素データ、及び、参照画像が格納されているラインバッファから取得するコスト値算出画素領域内の画素データの特徴量を、それぞれ算出する。例えば、ＬＢＰ（Local Binary Pattern）など、既存の定量化した特徴量を算出する。特徴量としてＬＢＰを算出する場合、特徴量算出対象画素（中心画素）と、周辺画素との輝度値を比較する。当該周辺画素の中心画素の輝度値より周辺画素の輝度値のほうが大きければ“１”、中心画素の輝度値より周辺画素の輝度値のほうが小さければ“０”ビットを付与する。そして、周辺画素のビットを所定の順序で結合し、特徴量算出対象画素の特徴量（ＬＢＰ符号）とする。なお、周辺画素に付与するビットは、中心画素の輝度値より周辺画素の輝度値のほうが大きければ“０”、中心画素の輝度値より周辺画素の輝度値のほうが小さければ“１”としてもよい。
【００２３】
コスト演算部１４２は、基準画像における視差計算対象画素に関する特徴量と、参照画像におけるコスト値算出画素領域内の各画素に関する特徴量とを比較し、視差ごとのコスト値を算出する。例えば、特徴量としてＬＢＰ符号を算出した場合、基準画像と参照画像のＬＢＰ符号間のハミング距離を算出し、コスト値とする。
【００２４】
コストバッファ１４３は、コスト演算部１４２で算出されたコスト値を、参照画像における画素位置と対応付けて格納する。
【００２５】
図４は、視差毎コスト値算出部１４におけるコスト値算出手順の一例を説明するフローチャートである。なお、コスト値算出に先立ち、基準画像において視差計算対象画素がセットされており、コスト値算出に必要な特徴量が算出されているものとする。距離画像７を作成するためには、基準画像の全画素について視差を算出する必要がある。通常は、基準画像の左上に位置する画素から右下に位置する画素まで、ラスタスキャンの順に視差計算対象画素位置を順次セットし、各画素位置での視差を算出していく。
【００２６】
まず、コスト値算出対象領域を特定し、探索ライン数（垂直方向の最大ズレ量）Lnumと、水平方向の最大視差数Dnumを設定する（Ｓ１）。例えば、上述の一例の場合、Lnum＝３、Dnum＝１２８と設定する。また、最初のコスト値算出対象画素位置（探索画素位置）を設定する。最初のコスト値算出対象画素位置は、コスト値算出対象領域の左上に位置する画素である。例えば、上述の一例の場合、最初のコスト値算出対象画素位置は(X, Y)=(23, 24)と設定される。
【００２７】
次に、コスト値算出対象のラインを初期状態(L＝０)にセットする（Ｓ２）。また、コスト算出対象の水平方向の画素位置を、初期状態(D＝０)にセットする（Ｓ３）。
【００２８】
次に、コスト演算部１４２において、探索画素位置におけるコスト値を算出し、コストバッファ１４３に格納する（Ｓ４）。続いて、探索画素位置の水平方向の画素位置（D）を１増加させ、探索画素位置を隣の画素に移動させる（Ｓ５）。
【００２９】
探索画素位置がコスト値算出対象領域に含まれる場合（Ｓ６、Ｎｏ）、Ｓ４に戻って当該画素位置におけるコスト値を算出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合（Ｓ６、Ｙｅｓ）、探索画素位置の垂直方向の画素位置（L）を１増加させ、探索画素が含まれるラインを一つ下のラインに移動させる（Ｓ７）。
【００３０】
ライン移動後の探索画素位置がコスト値算出対象領域に含まれる場合（Ｓ８、Ｎｏ）、Ｓ３に戻ってコスト算出対象の水平方向の画素位置を初期状態(D＝０)にセットし、当該画素位置におけるコスト値を算出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合（Ｓ８、Ｙｅｓ）、コスト値算出対象領域内の全ての画素についてコスト値の算出が終了したと判定され、視差毎コスト値算出部１４における一連のコスト値算出手順を終了する。
【００３１】
なお、視差毎コスト値算出部１４におけるコスト値の算出方法は、上述した図４のフローチャートの手順に限定されず、コスト値算出対象領域内のすべての画素のコスト値を漏れなく算出できる手順であればよい。例えば、水平方向に画素位置を移動させるのではなく、垂直方向に画素位置を移動させながらコスト値を算出してもよい。また、例えば、コスト値算出対象領域を複数のブロックに分割し、各ブロックにおけるコスト値の算出を並列処理してもよい。
【００３２】
なお、視差毎コスト値算出部１４におけるコスト値の算出方法は、上述したＬＢＰ符号のハミング距離に限定されず、SAD関数など、既存の定量化したコスト関数を用いてもよい。SAD関数など画素データから特徴量を算出せずに直接コストを算出することが可能な方法を用いる場合、基準画像が格納されているラインバッファから取得する視差計算対象画素の画素データ、及び、参照画像が格納されているラインバッファから取得するコスト値算出画素領域内の画素データをコスト演算部１４２に直接入力してコスト値を算出することができるため、特徴量演算部１４１は省略することができる。
【００３３】
ライン間類似度抽出部としてのライン間最小コスト値抽出部１５は、視差毎コスト値算出部１４で算出されたコスト値を用い、視差ごとに最小コスト値を抽出する。上述の一例の場合、探索ライン数が３ラインなので、コスト値算出画素領域内において水平方向の視差位置が同一である画素は３画素存在する。例えば、コスト値算出画素領域が、(X, Y)=(150, 24)〜(23, 24)、(150, 25)〜(23, 25)、(150, 26)〜(23, 26)である場合、水平方向の視差位置が１０である画素は(X, Y)=(140, 24)、(140, 25)、(140, 26)、の３画素存在する。この３画素のコスト値を視差毎コスト値算出部１４から取得し、最小コスト値を抽出して、当該視差位置におけるコスト値とする。
【００３４】
図５は、ライン間最小コスト値抽出部１５における最小コスト値抽出手順の一例を説明するフローチャートである。まず、コスト値算出対象領域を特定し、水平方向の最大視差数Dnumを設定する（Ｓ１１）。例えば、上述の一例の場合、Dnum＝１２８と設定する。次に、ライン間最小コスト値抽出対象の水平方向の画素位置（探索対象画素位置）を、初期状態(D＝０)にセットする（Ｓ１２）。
【００３５】
続いて、コスト値算出対象領域内に存在し、探索対象画素位置と水平方向の位置が等しい画素を特定し、これらの画素のコスト値を比較して、最小のコスト値を抽出する（Ｓ１３）。なお、比較に用いる画素のコスト値は、コストバッファ１４３から取得してもよいし、必要に応じてコスト演算部１４２にリクエストしてもよい。
【００３６】
次に、探索画素位置の水平方向の画素位置（D）を１増加させ、探索画素位置を隣の画素に移動させる（Ｓ１４）。探索画素位置がコスト値算出対象領域に含まれる場合（Ｓ１５、Ｎｏ）、Ｓ１３に戻って当該画素位置における最小のコスト値を抽出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合（Ｓ１５、Ｙｅｓ）、全ての視差位置について最小のコスト値を抽出したと判定され、ライン間最小コスト値抽出の一連の処理手順を終了する。
【００３７】
コスト最適化演算部１６は、グラフカット法などのグローバルマッチングやＳＧＭ法（Semi-Global Matching法）などによって合成非類似度である合成コスト値Sを算出することで、基準画像の画素ごとに最適化された視差を導出する。コスト最適化演算部１６は、ライン間最小コスト値抽出部１５で抽出された１ライン分のコスト値を用いて合成コスト値Sを算出する。
【００３８】
ここで、ＳＧＭ法による合成コスト値Sの算出方法について説明する。合成コスト値Sは、参照画像の端部から視差計算対象画素に向かって集約する方向ベクトルに沿った、複数の経路を定義し、それぞれの経路におけるエネルギーの総和として算出される。エネルギーを算出する経路は、通常、視差計算対象画素に向かい、水平右方向、水平左方向、垂直上方向、垂直下方向から集約する４方向のベクトルに沿った４つの経路が設定される。または、これらの４方向に加え、視差計算対象画素に向かい、右上４５度方向、右下４５度方向、左下４５度方向、左上４５度方向から集約する４方向のベクトルに沿った４つの経路を加えた８つの経路が設定される。更に、８方向を更に分割して１６方向、３つに分割して２４方向とするなど、経路の数は特定の数に限定されない。
【００３９】
それぞれの経路ｒにおけるエネルギーLr(p, d)は、以下の（１）式を用いて算出される。
【００４０】
Lr(p, d) = C(p, d) + min{Lr(p-r, d), Lr(p-r, d-1) + P1, Lr(p-r, d+1)+P1, Lrmin(p-r) + P2}
…（１）式
（１）式において、C(p, d)は、視差計算対象画素位置から視差dの位置にある画素のコスト値、min{ }は最小値を求める関数、Lrmin(p-r)は、視差計算対象画素位置からr方向に１画素シフトした座標において、シフト量dを変化させた際の、Lr(p-r, d)の最小値を示す。また、P1、P2は予め設定されたペナルティ定数である。このように、エネルギーLr(p, d)は、コスト値C(p, d)に、ｒ方向の所定経路上における１画素前のエネルギーの値が選択されて加算される漸化式となっているので、最適化が行われる。
【００４１】
（１）式に示すエネルギー計算を、複数の方向（例えば、８方向）から行うことで、近似的に全体最適化を行う。すなわち、各方向のエネルギーLr(p, d)の総和として、合成コスト値Sを算出する。
【００４２】
図６は、コスト最適化演算部１６の詳細な構成の一例を示すブロック図である。コスト最適化演算部１６は、コスト更新値演算部１６１と、コストバッファ１６２とを有する。コスト更新値演算部１６１は、ライン間最小コスト値抽出部１５から入力されたコスト値、図示しない記憶部などから入力される所定のペナルティ定数P1、P2、及び、コストバッファ１６２に格納されている隣接画素のエネルギーを用い、上述した（１）式の演算を行ってエネルギーを算出する。演算結果は、コストバッファ１６２に格納され、コスト更新値演算部１６１でのエネルギー算出に再帰的に使用される。
【００４３】
従来の画像処理装置では、コスト値算出画素領域が複数ラインに及ぶ場合、視差毎コスト値算出部１４において算出された各ラインのコスト値をそのまま用い、コスト最適化演算部１６において３ライン分の合成コスト値Sを算出していた。これに対し、本実施形態においては、ライン間最小コスト値抽出部１５で各視差位置におけるコスト値を一つに絞り込むことで、垂直方向のズレ量にかかわらず、コスト最適化演算部１６では１ライン分の合成コスト値Sを算出すればよい。従って、演算に用いるメモリや演算器の数を削減することができ、処理時間も低減することができる。
【００４４】
なお、コスト最適化演算部１６は、一般的に、特定の一つの経路におけるエネルギー算出に用いられる。従って、距離情報演算部１１には、合成コスト値Sを算出するために設定された経路の数と同数のコスト最適化演算部１６が設置される。
【００４５】
また、コスト最適化演算部１６における合成コスト値Sの算出方法は、上述したグラフカット法などのグローバルマッチングやＳＧＭ法に限定されず、既存の他の手法を用いてもよい。
【００４６】
コスト最小視差抽出部１７は、コスト最適化演算部１６で算出された合成コスト値Sが最小となる視差を抽出する。そして、基準画像の全画素について視差を抽出し、距離画像７を生成して出力する。
【００４７】
このように、本実施形態によれば、グラフカット法などのグローバルマッチングやＳＧＭ法（Semi-Global Matching法）などを用いて視差を算出する際に、振動などに起因したカメラ間の動的なズレにより、基準画像と参照画像との間で垂直方向にズレが生じており、コスト値の探索範囲を、水平方向だけでなく垂直方向にも広げる必要がある場合において、コスト値の段階で１ライン分に削減してからエネルギー算出のためのコスト最適化演算を行っている。従って、コスト最適化演算のために必要なメモリや演算器の数を削減することができ、処理時間を低減することができる。
【００４８】
なお、上述では、基準との非類似度の度合いを表すコスト値を用いて視差を算出しているが、コスト値の逆数であり基準との類似度の度合いを表す相関値を用いてもよい。相関値を用いる場合、ライン間最小コスト値抽出部１５では、同一視差位置における複数ラインの相関値のうち、最も絶対値の大きい相関値を抽出する。また、コスト最小視差抽出部１７では、合成相関値が最大となる視差を抽出する。
【００４９】
また、コスト最小視差抽出部１７において抽出された視差位置におけるライン位置を、ラインインデックスとして出力するような構成にしてもよい。図７は、距離情報演算部１１の構成の別の一例を示すブロック図である。図７に示す距離情報演算部１１は、図２に示す構成要素に加え、ラインインデックス記憶部１８と、インデックス選択部１９とを更に備える。ラインインデックス記憶部１８は、ライン間最小コスト値抽出部１５においてコスト値を抽出したラインの情報を視差位置ごとに記憶する。インデックス選択部１９は、コスト最小視差抽出部１７において抽出した合成コスト値Sが最小となる視差位置におけるラインの情報を、ラインインデックス記憶部１８から選択して出力する。このようにラインインデックス情報を出力することで、基準画像と参照画像との間の垂直方向のズレ量を把握することができ、動的なズレの補正にフィードバックすることが可能となる。
【００５０】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、一例として示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【００５１】
１…画像処理装置、２…キャリブレーション装置、３…画像入力装置、４…バス、５ｌ…L画像、５ｒ…R画像、６ｌ…補正済L画像、６ｒ…補正済R画像、７…距離画像、１１…距離情報演算部、１２…Lラインバッファ、１３…Rラインバッファ、１４…視差毎コスト値算出部、１５…ライン間最小コスト値抽出部、１６…コスト最適化演算部、１７…コスト最小視差抽出部、１８…ラインインデックス記憶部、１９…インデックス選択部、１４１…特徴量演算部、１４２…コスト演算部、１４３、１６２…コストバッファ、１６１…コスト更新値演算部、
【図１】
2019056623.tif 000003
【図２】
2019056623.tif 000004
【図３】
2019056623.tif 000005
【図４】
2019056623.tif 000006
【図５】
2019056623.tif 000007
【図６】
2019056623.tif 000008
【図７】
2019056623.tif 000009