(57)【要約】【課題】隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる車両周辺監視装置を提供すること。【解決手段】前後左右のカメラ１，２，３，４により取得された複数の画像データを１つの画像に合成処理し、１つの合成画像をモニタ８の画面上に映し出すアラウンドビューモニタシステムにおいて、車両周辺の近景を複数の縦割り領域にて撮影する前後左右のカメラ１，２，３，４に、前後左右のカメラ１，２，３，４の画角を包含する広い画角にて車両周囲の遠景を撮影する全周囲カメラ５を加え、画像処理コントローラ７は、全周囲カメラ５によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、１つの合成画像を生成する。【選択図】図１
2010166196.tif 000002
【特許請求の範囲】
【請求項１】
複数台の車載カメラと、該車載カメラにより取得された複数の画像データを１つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された１つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、１つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項２】
請求項１に記載された車両周辺監視装置において、
前記遠景カメラは、車両の頭頂部に１台設定した画角が360度の全周囲カメラであることを特徴とする車両周辺監視装置。
【請求項３】
請求項２に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による１つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した３つの近景カメラ画像を組み合わせることで、１つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項４】
請求項２に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの全周囲カメラ画像と、４台の前後左右カメラのうち３台のカメラからの近景カメラ画像を組み合わせることで、１つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項５】
請求項１から請求項４までの何れか１項に記載された車両周辺監視装置において、
前記画像処理コントローラは、前記４台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成することを特徴とする車両周辺監視装置。
【請求項６】
請求項１から請求項５までの何れか１項に記載された車両周辺監視装置において、
前記画像処理コントローラに、複数の合成映像パターンから、前記モニタに映し出す１つの合成映像を選択するモニタ映像選択手段を接続したことを特徴とする車両周辺監視装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数台の車載カメラにより取得された複数の画像データを１つの画像に合成処理し、生成された１つの合成画像をモニタ画面に映し出す車両周辺監視装置に関する。
【背景技術】
【０００２】
従来、車両乗員にとって死角となる領域をモニタ映像にて表示することで、駐車時等において有効な運転支援情報を得ることを目的とし、４台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開2007−41791号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来の車両周辺監視装置にあっては、異なる位置にある４台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい、という問題があった。
【０００５】
この合成する映像間でのつなぎ目の矛盾は、車両の近景のみを合成する場合には比較的小さいが、４台の前後左右カメラを用い、遠景を含めた画像合成を行う場合には、映像対象物までの距離のずれ具合が、カメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。
【０００６】
本発明は、上記問題に着目してなされたもので、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するため、本発明では、複数台の車載カメラと、該車載カメラにより取得された複数の画像データを１つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された１つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、１つの合成画像を生成することを特徴とする。
【発明の効果】
【０００８】
よって、本発明の車両周辺監視装置にあっては、複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラが加えられる。そして、画像処理コントローラにおいて、遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域が近景カメラ画像領域として設定され、１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、１つの合成画像が生成される。
したがって、隣接する映像間のつなぎ目に生じる矛盾（二重写り）が問題となる遠景映像に関しては、１つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、連続性が欠ける場合があるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
この結果、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【図面の簡単な説明】
【０００９】
【図１】実施例１のアラウンドビューモニタシステム（車両周辺監視装置の一例）を示す全体システム図である。
【図２】実施例１のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。
【図３】実施例１のアラウンドビューモニタシステムにおける画像処理コントローラ７の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。
【図４】実施例１のアラウンドビューモニタシステムにおける画像処理コントローラ７の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。
【図５】アラウンドビューモニタシステムにおいて４台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。
【図６】アラウンドビューモニタシステムにおいて４台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。
【図７】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。
【図８】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。
【図９】実施例１のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。
【図１０】実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。
【図１１】実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。
【図１２】実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。
【図１３】実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。
【図１４】実施例１のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。
【発明を実施するための形態】
【００１０】
以下、本発明の車両周辺監視装置を実現する最良の形態を、図面に示す実施例１に基づいて説明する。
【実施例１】
【００１１】
まず、構成を説明する。
図１は、実施例１のアラウンドビューモニタシステム（車両周辺監視装置の一例）を示す全体システム図である。以下、図１に基づいてアラウンドビューモニタシステムの各構成要素を説明する。
【００１２】
前記アラウンドビューモニタシステムは、図１に示すように、前カメラ１（車載カメラ、近景カメラ）と、後カメラ２（車載カメラ、近景カメラ）と、左カメラ３（車載カメラ、近景カメラ）と、右カメラ４（車載カメラ、近景カメラ）と、全周囲カメラ５（車載カメラ、遠景カメラ）と、表示映像選択スイッチ６（モニタ映像選択手段）と、画像処理コントローラ７と、モニタ８と、を備えている。
【００１３】
前記４台の前後左右カメラ１，２，３，４は、車両周辺を撮像する複数台の車載カメラであると共に、車両全周の近景を４つの縦割り領域にて撮影する複数台の近景カメラの一例として設けられる。前記前カメラ１は、車両前部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両前方の近景を撮像範囲とする。前記後カメラ２は、車両後部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両後方の近景を撮像範囲とする。前記左カメラ３は、車両左側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両左側方の近景を撮像範囲とする。前記右カメラ４は、車両右側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両右側方の近景を撮像範囲とする。
【００１４】
前記全周囲カメラ５は、車両周辺を撮像する車載カメラであると共に、４台の近景カメラである前後左右カメラ１，２，３，４の画角を包含する360度の画角にて遠景を撮影する遠景カメラの一例として設けられる。この全周囲カメラ５は、車両Ｖの頭頂部に１台設定される。なお、遠景全周囲を撮影する全周囲カメラ５としては、凸型ミラーの反射映像を撮影するカメラなどが用いられる。
【００１５】
前記表示映像選択スイッチ６は、画像処理コントローラ７に接続され、合成画像の映像パターンとして複数設定された映像パターンの中から、モニタ８のモニタ画面８１に映し出す合成画像の映像パターンを選択する手段である。
実施例１での映像パターンの選択肢としては、１つの遠景映像と３つの近景映像を組み合わせた４つの映像パターンと、全周囲俯瞰映像パターンと、全周囲俯瞰映像と全周囲遠景映像の合成映像パターンと、を合わせた６種類の映像パターンを持つ。
【００１６】
前記画像処理コントローラ７は、前後左右のカメラ１，２，３，４と全周囲カメラ５により取得された５つの画像データを１つの画像に合成処理するものである。
そして、全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの全周囲カメラ画像と、４台の前後左右カメラ１，２，３，４のうち３台のカメラからの近景カメラ画像を組み合わせることで、１つの合成画像を生成する。この画像合成により、１つの遠景映像と３つの近景映像を組み合わせた４つの映像パターンが得られる（図１０〜図１３参照）。
また、画像処理コントローラ７は、４台の前後左右カメラ１，２，３，４からの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成する。この画像合成により、全周囲俯瞰映像パターンが得られる（図１参照）。
さらに、この全周囲俯瞰映像と全周囲カメラ５からの全周囲遠景映像を組み合わせることで、全周囲の俯瞰映像と遠景映像の合成映像パターンが得られる（図１４参照）。
【００１７】
前記モニタ８は、画像処理コントローラ７により生成された１つの合成画像を画面上に映し出す。ここで、モニタ８としては、車室内のインストルメントパネル位置に設けられ、例えば、出発地から目的地までの適切な車両走行ルートを、道路地図や自車マークなどを用いて案内するナビゲーションシステムのモニタと共用しても良い。
【００１８】
図２は、実施例１のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。図３は、実施例１のアラウンドビューモニタシステムにおける画像処理コントローラ７の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。図４は、実施例１のアラウンドビューモニタシステムにおける画像処理コントローラ７の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。以下、図２〜図４に基づいてアラウンドビューモニタシステムにおける画像処理制御系を説明する。
【００１９】
前記画像処理コントローラ７は、図２に示すように、画像データ変換部７１と、ＣＰＵ７２と、マップメモリ７３と、画像変形処理部７４と、画像合成処理部７５と、重畳メモリ７６と、重畳処理部７７と、画像データ変換部７８と、を備えている。
【００２０】
前記画像データ変換部７１は、前後左右の４台のカメラ１，２，３，４と全周囲カメラ５に対応する５つの画像データ変換部７１ａ，７１ｂ，７１ｃ，７１ｄ，７１ｅにより構成される。そして、各画像データ変換部７１ａ，７１ｂ，７１ｃ，７１ｄ，７１ｅでは、各カメラ１，２，３，４，５の各撮像素子（CCDやCMOSなど）からのカメラ画像データと、画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅからの座標データをそれぞれ入力し、座標位置に応じた画素データを画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅのそれぞれに出力する。
【００２１】
前記ＣＰＵ７２は、モニタ８のパネルタッチ式の表示映像選択スイッチ６からの操作信号と、シフトレバーのセレクト位置を検出するインヒビタースイッチ９からのリバースギア位置選択信号を入力し、リバースギア位置の選択時、表示映像選択操作に応じた合成映像をモニタ８に表示するため、近景マップや俯瞰マップなどのマップデータをマップメモリ７３に出力し、車両イラストなどの重畳データを重畳メモリ７６に出力する。
【００２２】
前記マップメモリ７３は、ＣＰＵ７２からのマップデータと画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅからの座標データを入力し、記憶されているマップデータのうち、座標データに対応するマップデータを画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅのそれぞれに出力する。
【００２３】
前記画像変形処理部７４は、前後左右の４台のカメラ１，２，３，４と全周囲カメラ５に対応する５つの画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅにより構成される。そして、各画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅでは、各画像データ変換部７１ａ，７１ｂ，７１ｃ，７１ｄ，７１ｅからの画素データを、マップメモリ２３からのマップデータを用いて近景画像や遠景画像や俯瞰画像を得る画像変形処理をそれぞれ行い、画像変形処理後の画素データを画像合成処理部７５に出力する。
この画像変形処理の一例を、図３に示すフローチャートにより説明すると、マップデータを取得し（ステップS31）、次に対応周辺画素データを取得し（ステップS32）、次に画素データの補間処理を行い（ステップS33）、次に座標対応の画素データを出力する（ステップS34）、という処理を、座標位置を変えながら繰り返すことで行われる。
【００２４】
前記画像合成処理部７５は、各画像変形処理部７４ａ，７４ｂ，７４ｃ，７４ｄ，７４ｅから、画像変形処理後の画素データを入力し、遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、」１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで１つの合成画像を生成し、合成画像の画素データを重畳処理部７７に出力する。
【００２５】
前記重畳メモリ７６は、ＣＰＵ７２からの重畳データを入力し、合成画像に重畳する重畳画素データを重畳処理部７７に出力する。ここで、重畳データとは、モニタ画面８１に表示する俯瞰描画による車両イラストなどをいう（図１および図１４を参照）。
【００２６】
前記重畳処理部７７は、画像合成処理部７５からの合成画像の画素データに、重畳メモリ７６からの重畳画素データを重畳し（スーパーインポーズ）、重畳処理後の画素データを画像データ変換部７８に出力する。
ここで、画像合成処理部７５と重畳処理部７７による合成・重畳表示処理の一例を、図４に示すフローチャートにより説明すると、各変形画素データを取得し（ステップS41）、次に画像合成処理を行い（ステップS42）、次に対応重畳画素データを取得し（ステップS43）、次に画素データの重畳処理を行い（ステップS44）、次に座標対応の画素データを出力する（ステップS45）、という処理により行われる。
【００２７】
前記画像データ変換部７８は、重畳処理部７７からの重畳処理後の画素データを入力し、この画素データを集合させて画像データに変換し、モニタ３へ出力する。
【００２８】
次に、作用を説明する。
まず、「近景と遠景を含む画像合成技術の課題」の説明を行い、続いて、実施例１のアラウンドビューモニタシステムにおける作用を、「リアビューモニタ作用」、「合成映像パターンの選択作用」に分けて説明する。
【００２９】
［近景と遠景を含む画像合成技術の課題］
図５は、アラウンドビューモニタシステムにおいて４台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。図６は、アラウンドビューモニタシステムにおいて４台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。図７は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。図８は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。以下、図５〜図８に基づいて近景と遠景を含む画像合成技術の課題を説明する。
【００３０】
現在、図５に示すように、４台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで、全周俯瞰合成画像を生成し、図６に示すように、前後左右の俯瞰映像を合成してモニタ表示するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が実車に搭載されている。
【００３１】
しかしながら、図５に示すように、車両の前後左右位置というように異なる位置に設置された４台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい。
【００３２】
ここで、図６に示すように、車両近景のみの合成であれば、合成する映像間のつなぎ目が連続性に欠けるという矛盾は比較的小さい。しかし、４台の前後左右カメラを用い、遠景を含めたパース画像の合成を行う場合には、合成する映像間でのつなぎ目が連続性に欠けるという矛盾が、近景のみの合成に比べて大きくなる。
【００３３】
その様子を示したのが、図７および図８であり、これは左右のカメラ映像と後方のカメラ映像を用いて、パノラマ上の映像を合成する例である。期待されるのは、図７に示すように、つなぎ目が連続している理想的な合成である。しかし、実際には、図８に示すように、つなぎ目において二重写りが生じる。この二重写りは、対象物である人物までの距離のずれ具合がカメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。原理的には、全ての対象物までの距離を計測し、動画の場合、フレーム毎に画素単位で補正量を演算しなければならない。
【００３４】
しかし、全ての対象物までの距離を計測することや補正量を演算することは、現実的に不可能であり、実際には、図８に示すように、つなぎ目において二重写りが生じることが避けられない。そして、例えば、図８の場合のように、前方の人物と後方の車両がいずれも二重写しとなっている場合、車両に近い前方の人物の二重写りのズレ幅よりも、車両から遠い後方の車両の二重写りのズレ幅が大きくなる。したがって、図８に示すようなモニタ表示映像を見るドライバーや乗員に対し、違和感を与えてしまうばかりでなく、車両の後方に存在する人物や車両の位置関係を正確に認識することができない。
【００３５】
［リアビューモニタ作用］
図９は、実施例１のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。図１０は、実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。以下、図９および図１０に基づいてリアビューモニタ作用を説明する。
【００３６】
実施例１のアラウンドビューモニタシステムは、
・近景カメラとしての前後左右のカメラ１，２，３，４に、遠景カメラとしての全周囲カメラ５を加えること。
・全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定すること。
・近景カメラ画像領域に、４台の前後左右カメラ１，２，３，４のうち３台以上のカメラからの近景カメラ画像を隣接させること。
・１つの全周囲カメラ画像と、複数の近景カメラ画像を組み合わせて１つの合成画像を生成すること。
を特徴としている。
【００３７】
すなわち、図９に示すように、遠景カメラ位置に全周囲カメラ５を設置した場合、近景部分には車体そのものが写り込んでしまう。したがって、撮影した全周囲カメラ画像にとって死角となる領域を、図９のハッチング領域にて示すように、近景カメラ画像領域として設定する。
【００３８】
そして、図１０に示すように、近景カメラ画像領域に、右カメラ映像と後カメラ映像と左カメラ映像を隣接させ、モニタ画面８１の上部全領域を、１つの遠景カメラ映像領域とし、モニタ画面８１の下部全領域を、右カメラ映像と後カメラ映像と左カメラ映像に振り分け、１つの合成映像としている。この場合、遠景カメラ画像領域と近景カメラ画像領域の間に横方向に円弧によるつなぎ目が形成され、近景カメラ画像領域内に２つの縦方向のつなぎ目が形成されることになる。
【００３９】
したがって、隣接する映像間のつなぎ目に生じる矛盾（二重写り）が問題となる遠景カメラ映像に関しては、１つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、図１０の人物の足元部分に示すように、連続性に欠ける僅かな二重写りがあるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【００４０】
実施例１では、遠景カメラとして、車両Ｖの頭頂部に１台設定した画角が360度の全周囲カメラ５を用いている。この全周囲カメラ５であれば、１台で全方位が見られるため、調整のしやすさや機材の面からもコストが低くなるメリットがある。また、唯一の視点からの映像を取得できるため、画像合成も行いやすい。
【００４１】
実施例１では、全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による１つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した３つの近景カメラ画像を組み合わせることで、１つの合成画像を生成している。したがって、車両後方映像として、ワイドなパノラマ状の映像を得ることができ、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【００４２】
［合成映像パターンの選択作用］
図１１は、実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。図１２は、実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。図１３は、実施例１のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。図１４は、実施例１のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。以下、図１および図１０〜図１４に基づいて合成映像パターンの選択作用を説明する。
【００４３】
実施例１では、全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの全周囲カメラ画像と、４台の前後左右カメラ１，２，３，４のうち３台のカメラからの近景カメラ画像を組み合わせることで、１つの合成画像を生成している。
【００４４】
このため、下記の４つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(a) 遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を合成したモニタ表示映像（図１０）
後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
(b) 遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像（図１１）
狭い道を前進走行する場合、車両前方の障害物の有無や位置を確認するために、有用なフロントビューモニタ映像を取得することができる。
(c) 遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像（図１２）
左側に側溝や壁などが存在する狭い道を前進走行する場合、車両左側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
(d) 遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像（図１３）
右側に側溝や壁などが存在する狭い道を前進走行する場合、車両右側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
【００４５】
そして、実施例１では、前後左右のカメラ１，２，３，４からの近景斜め視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに近景を視たときの視点に変換する視点変換処理により、車両周囲の近景の俯瞰画像を生成するようにしている。
【００４６】
このため、下記の２つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(e) 前映像、後映像、左映像、右映像を合成した全周囲俯瞰映像によるモニタ表示映像（図１）
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができ、有用なアラウンドビューモニタ映像を取得することができる。
(f) 全周囲カメラ映像と全周囲俯瞰映像（前映像、後映像、左映像、右映像）を合成したモニタ表示映像（図１４）
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができるばかりでなく、立体合成画像により少し離れた障害物の有無や位置を確認することができる。つまり、全周囲俯瞰映像より有用なアラウンドビューモニタ映像を取得することができる。
【００４７】
そして、画像処理コントローラ７には、表示映像選択スイッチ６を接続しているため、これらの合成映像パターンの中から、表示映像選択スイッチ６による選択操作で、走行状況などに応じて好ましい合成映像パターンを選択することができるというように、高い合成映像パターンの選択自由度を持つ。
【００４８】
次に、効果を説明する。
実施例１のアラウンドビューモニタシステムにあっては、下記に列挙する効果を得ることができる。
【００４９】
(1) 複数台の車載カメラ（前後左右のカメラ１，２，３，４）と、該車載カメラ（前後左右のカメラ１，２，３，４）により取得された複数の画像データを１つの画像に合成処理する画像処理コントローラ７と、該画像処理コントローラ７により生成された１つの合成画像を画面上に映し出すモニタ８と、を備えた車両周辺監視装置（アラウンドビューモニタシステム）において、前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラ（前後左右のカメラ１，２，３，４）に、該複数台の近景カメラ（前後左右のカメラ１，２，３，４）の画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラ（全周囲カメラ５）を加え、前記画像処理コントローラ７は、前記遠景カメラ（全周囲カメラ５）によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、１つの合成画像を生成する。このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【００５０】
(2) 前記遠景カメラは、車両の頭頂部に１台設定した画角が360度の全周囲カメラ５である。このため、１台で全方位が見られることで、調整のしやすさや機材の面からもコスト低減を図ることができると共に、唯一の視点からの映像を取得できるため、容易に画像合成を行うことができる。
【００５１】
(3) 前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラ２と、車両左側方を撮像範囲とする左カメラ３と、車両右側方を撮像範囲とする右カメラ４と、を有し、前記画像処理コントローラ７は、前記全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による１つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した３つの近景カメラ画像を組み合わせることで、１つの合成画像を生成する。このため、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【００５２】
(4) 前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラ１と、車両後方を撮像範囲とする後カメラ２と、車両左側方を撮像範囲とする左カメラ３と、車両右側方を撮像範囲とする右カメラ４と、を有し、前記画像処理コントローラ７は、前記全周囲カメラ５によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの全周囲カメラ画像と、４台の前後左右カメラのうち３台のカメラからの近景カメラ画像を組み合わせることで、１つの合成画像を生成する。このため、後退走行する場合に有用なリアビューモニタ映像、狭い道を前進走行する場合に有用なフロントビューモニタ映像、狭い道を前進走行する場合に有用な左右それぞれのサイドビューモニタ映像を取得することができる。
【００５３】
(5) 前記画像処理コントローラは、前記４台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成する。このため、前後に駐車している車両の間に縦列駐車を行う場合、立体合成画像により少し離れた障害物の有無や位置の確認を含め、全周俯瞰合成画像のみより有用なアラウンドビューモニタ映像を取得することができる。
【００５４】
(6) 前記画像処理コントローラ７に、複数の合成映像パターンから、前記モニタ８に映し出す１つの合成映像を選択するモニタ映像選択手段（表示映像選択スイッチ６）を接続した。このため、複数の合成映像パターンの中から、高い選択自由度により好ましい合成映像パターンを選択することができる。
【００５５】
以上、本発明の車両周辺監視装置を実施例１に基づき説明してきたが、具体的な構成については、この実施例１に限られるものではなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
【００５６】
実施例１では、複数台の近景カメラとして、前後左右の４台のカメラを用いる例を示した。しかし、複数台の近景カメラとして、隣接する近景を撮影する少なくとも２台のカメラを有するものであれば、本発明に含まれる。例えば、複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、のうち、少なくとも２台のカメラを有するようにしても良い。
【００５７】
実施例１では、遠景カメラとして、１台の全周囲カメラを用いる例を示した。しかし、少なくとも２台の近景カメラの画角を包含する広い画角を持つ遠景カメラであれば、複数台の遠景カメラを用いても良い。
【００５８】
実施例１では、アラウンドビューモニタシステムをベースとし、全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの全周囲カメラ画像と、４台の前後左右カメラのうち３台のカメラからの近景カメラ画像を組み合わせることで、１つの合成画像を生成する例を示した。しかし、１つの遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、１つの遠景カメラ画像と少なくとも２台の近景カメラ画像を組み合わせることで、１つの合成画像を生成するものであれば、本発明に含まれる。
【００５９】
実施例１では、表示映像選択スイッチにより、複数の合成画像の映像パターンから、１つの映像パターンを選択する例を示した。しかし、車両状態や走行状況や駐車状況などを検知し、検知された車両環境条件に応じて自動的に適切な映像パターンを選択するような例としても良い。
【産業上の利用可能性】
【００６０】
実施例１では、アラウンドビューモニタシステムへの適用例を示したが、サイドビューモニタシステムやバックビューモニタシステムやフロントビューモニタシステムなどの車両周辺監視装置に対しても適用することができる。
【符号の説明】
【００６１】
１  前カメラ（車載カメラ、近景カメラ）
２  後カメラ（車載カメラ、近景カメラ）
３  左カメラ（車載カメラ、近景カメラ）
４  右カメラ（車載カメラ、近景カメラ）
５  全周囲カメラ（車載カメラ、遠景カメラ）
６  表示映像選択スイッチ（モニタ映像選択手段）
７  画像処理コントローラ
７１  画像データ変換部
７２  ＣＰＵ
７３  マップメモリ
７４  画像変形処理部
７５  画像合成処理部
７６  重畳メモリ
７７  重畳処理部
７８  画像データ変換部
８  モニタ
８１  モニタ画面
【図１】
2010166196.tif 000003
【図２】
2010166196.tif 000004
【図３】
2010166196.tif 000005
【図４】
2010166196.tif 000006
【図５】
2010166196.tif 000007
【図６】
2010166196.tif 000008
【図７】
2010166196.tif 000009
【図８】
2010166196.tif 000010
【図９】
2010166196.tif 000011
【図１０】
2010166196.tif 000012
【図１１】
2010166196.tif 000013
【図１２】
2010166196.tif 000014
【図１３】
2010166196.tif 000015
【図１４】
2010166196.tif 000016