(57)【要約】  本開示は、車両に搭載されるステレオカメラの距離計測精度を向上させることができるようにする撮像制御装置、および撮像制御装置の制御方法、並びに移動体に関する。ステレオカメラシステムを構成する１組のカメラが、車両本体の側面で、かつ、路面に対して垂直方向に並べて配設されるようにし、さらに、撮像される画素信号が、アレイ状に配置された画素列の前方側から順に、各画素列に画素単位で垂直方向に順次読み出されるようにする。本開示は、車載システムに適用することができる。
2018180579.tif 000002
【特許請求の範囲】
【請求項１】
移動体に搭載され、ステレオカメラシステムを構成する１組のカメラと、
前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含み、
前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す
撮像制御装置。
【請求項２】
前記１組のカメラは、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に順に画素信号を読み出す
請求項１に記載の撮像制御装置。
【請求項３】
前記１組のカメラは、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出す
請求項２に記載の撮像制御装置。
【請求項４】
前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設され、前記移動体の左右のそれぞれの前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出す
請求項３に記載の撮像制御装置。
【請求項５】
前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設され、前記移動体の左右の一方の前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向に順次画素信号を読み出し、左右の他方の前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に上から下方向に順次画素信号を読み出す
請求項３に記載の撮像制御装置。
【請求項６】
前記１組のカメラは、前記移動体の前方の左右のそれぞれの側面、前記移動体の中央の左右のそれぞれの側面、および前記移動体の後方の左右のそれぞれの側面の少なくともいずれかに、それぞれ前記路面に対して垂直方向に視差が生じるように並べて配設される
請求項１に記載の撮像制御装置。
【請求項７】
前記１組のカメラが、前記移動体の前方の左右のそれぞれ側面、または、前記移動体の後方の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも狭角度のカメラである
請求項６に記載の撮像制御装置。
【請求項８】
前記１組のカメラが、前記移動体の中央の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも広角度のカメラである
請求項６に記載の撮像制御装置。
【請求項９】
前記カメラの画素の配置は、水平方向の幅が、垂直方向の幅よりも長くなるように、アレイ状に配置される
請求項１に記載の撮像制御装置。
【請求項１０】
前記カメラの画素の配置は、前記水平方向の幅と、前記垂直方向の幅との比が、略１６：９または略４：３となるようにアレイ状に配置される
請求項９に記載の撮像制御装置。
【請求項１１】
移動体に搭載され、ステレオカメラシステムを構成する１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含む撮像制御装置の制御方法であって、
前記１組のカメラが、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す
ステップを含む撮像制御装置の制御方法。
【請求項１２】
移動体に搭載されたステレオカメラシステムを構成する１組のカメラと、
前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部とを有し、
前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す撮像制御装置
を備えた移動体。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、撮像制御装置、および撮像制御装置の制御方法、並びに移動体に関し、特に、垂直方向に並べられた１組のカメラによる距離計測を、高精度に実現できるようにした撮像制御装置、および撮像制御装置の制御方法、並びに移動体に関する。
【背景技術】
【０００２】
近年、車両の周囲を撮像し、撮像した画像を用いて、自動運転や運転支援に利用する技術が注目されている。【０００３】
例えば、車両に１組のカメラを左右の水平方向に並べることにより構成されるステレオカメラシステムを搭載し、カメラ間の視差により生じる１組の画像内の同一被写体のずれを利用して被写体までの距離を計測する技術が提案されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−０７０１７７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、特許文献１のステレオカメラシステムは、車両の先端部に、１組のカメラを水平方向に並べて前方を監視する構成とされているが、１組のカメラを垂直方向に並べて側方を監視するステレオカメラシステムを実現することにより、車両の先端部からの側方の監視を有利な構成にすることが考えられる。【０００６】
ところが、特許文献１に係るステレオカメラシステムを構成するカメラにおいては、アレイ状に配置された画素の画素信号が、行単位で垂直方向に順次読み出され、かつ、各行について水平方向に順次読み出される構成とされている。【０００７】
このため、カメラの視野内において、被写体が水平方向に移動すると、行単位で画素信号の読み出しタイミングがずれてしまうため、水平方向に同一位置に存在するべき被写体がずれてしまう、いわゆる、フォーカルプレーン歪みが発生する。【０００８】
さらに、垂直方向に並べられた１組のカメラは、垂直方向に視差が生じるため、撮像される２枚の画像においては、被写体の位置が垂直方向にずれて撮像されるので、画素信号の読み出しタイミングが異なり、水平方向の同一位置に存在すべき被写体がずれてしまう。【０００９】
結果として、垂直方向に並べられた１組のカメラにより撮像される２枚の画像内において、同一の被写体を、水平方向に同一の位置の被写体として認識することができず、距離計測ができない恐れがあった。【００１０】
そこで、フォーカルプレーン歪みや、１組のカメラにより撮像される画像間の被写体の水平方向のずれを補正する構成を加えて、距離計測を実現することが考えらえるが、補正に必要な構成を加えるようにすると、装置構成が煩雑になり、かつ、高コストとなる。【００１１】
本開示は、このような状況に鑑みてなされたものであり、特に、垂直方向に並べられた１組のカメラによる距離計測を、高精度に実現させるものである。
【課題を解決するための手段】
【００１２】
本開示の一側面の撮像制御装置は、移動体に搭載され、ステレオカメラシステムを構成する１組のカメラと、前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含み、前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す撮像制御装置である。【００１３】
前記１組のカメラには、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に順に画素信号を読み出すようにさせることができる。【００１４】
前記１組のカメラには、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出すようにさせることができる。【００１５】
前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設されるようにすることができ、前記移動体の左右のそれぞれの前記１組のカメラには、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出すようにさせることができる。【００１６】
前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設されるようにすることができ、前記移動体の左右の一方の前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向に順次画素信号を読み出し、左右の他方の前記１組のカメラには、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に上から下方向に順次画素信号を読み出すようにさせることができる。【００１７】
前記１組のカメラは、前記移動体の前方の左右のそれぞれの側面、前記移動体の中央の左右のそれぞれの側面、および前記移動体の後方の左右のそれぞれの側面の少なくともいずれかに、それぞれ前記路面に対して垂直方向に視差が生じるように並べて配設されるようにすることができる。【００１８】
前記１組のカメラが、前記移動体の前方の左右のそれぞれ側面、または、前記移動体の後方の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも狭角度のカメラとすることができる。【００１９】
前記１組のカメラが、前記移動体の中央の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも広角度のカメラとすることができる。【００２０】
前記カメラの画素の配置は、水平方向の幅が、垂直方向の幅よりも長くなるように、アレイ状に配置されるようにすることができる。【００２１】
前記カメラの画素の配置は、前記水平方向の幅と、前記垂直方向の幅との比が、略１６：９または略４：３となるようにアレイ状に配置されるようにすることができる。【００２２】
本開示の一側面の撮像制御装置の制御情報は、移動体に搭載され、ステレオカメラシステムを構成する１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含む撮像制御装置の制御方法であって、前記１組のカメラが、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出すステップを含む撮像制御装置の制御方法である。【００２３】
本開示の一側面の移動体は、移動体に搭載されたステレオカメラシステムを構成する１組のカメラと、前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部とを有し、前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す撮像制御装置を備えた移動体である。【００２４】
本開示の一側面においては、移動体に搭載されたステレオカメラシステムを構成する１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離が検出され、前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号が、アレイ状に配置された画素単位で垂直方向に順次読み出される。
【発明の効果】
【００２５】
本開示の一側面によれば、特に、垂直方向に並べられた１組のカメラによる距離計測を、高精度に実現させることが可能となる。
【図面の簡単な説明】
【００２６】
【図１】本技術を適用した車載システムの一実施の形態を示すブロック図である。
【図２】カメラの設置位置の例を示す図である。
【図３】ステレオカメラシステムの外観構成例を示す図である。
【図４】撮像制御部の構成例を示すブロック図である。
【図５】ステレオ距離計測部の構成を示すブロック図である。
【図６】ステレオカメラシステムによる距離計測の原理を説明する図である。
【図７】ステレオカメラシステムのカメラによるフォーカルプレーン歪みを説明する図である。
【図８】本開示のステレオカメラシステムのカメラによる画素信号の読み出し順序例を説明する図である。
【図９】本開示のステレオカメラシステムのカメラによる画素信号の読み出し順序例を説明する図である。
【図１０】表示部の設置位置の例を示す図である。
【図１１】周辺監視処理を説明するためのフローチャートである。
【図１２】センサ情報取得処理を説明するフローチャートである。
【図１３】ステレオカメラシステムの外観構成の変形例を示す図である。
【図１４】ステレオカメラシステムの外観構成の変形例を示す図である。
【図１５】本開示のステレオカメラシステムのカメラによる画素信号の読み出し順序のその他の例を説明する図である。
【図１６】車両制御システムの概略的な構成の一例を示すブロック図である。
【図１７】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【００２７】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００２８】
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
１．実施の形態
２．変形例
３．応用例
【００２９】
＜＜１．実施の形態＞＞
＜１−１．車載システムの構成例＞
図１は、本技術を適用した車載システムの一実施の形態を示すブロック図である。
【００３０】
車載システム１は、車両に搭載され、運転支援を行うシステムである。例えば、車載システム１は、車両の周辺を監視し、周辺の車両、自転車、人等との衝突又は接触を防止するための処理を行う。より具体的には、車載システム１は、衝突又は接触の危険性の通知、及び、衝突又は接触を回避するためのブレーキシステム等の制動装置の制御等を行う。
【００３１】
なお、車載システム１が搭載される車両は、特に限定されるものではなく、例えば、三輪トラック、小型トラック、小型乗用車、大型乗用車、大型バス、大型トラック、大型特殊車、小型特殊車等を含む。また、以下、車載システム１が搭載されている車両を自車両とも称し、自車両以外の車両を他車両とも称する。
【００３２】
車載システム１は、カメラシステム１０、撮像制御部１１、車両情報センサ１２、情報処理部１３、表示部１４、制動制御部１５、及び、制動装置１６を備える。
【００３３】
カメラシステム１０は、車両の本体前方の左右の側面部に、路面に対して垂直方向に並べられた１組のカメラよりなるステレオカメラであり、車両の側方部を撮像した画像を撮像制御部１１に出力する。尚、カメラシステム１０の詳細については、図４を参照して、詳細を後述する。
【００３４】
なお、以下、カメラシステム１０により撮像された画像を周辺画像と称し、周辺画像を示すデータを周辺画像データと称する。
【００３５】
撮像制御部１１は、カメラシステム１０により撮像された周辺画像に基づいて、周辺画像における被写体（対象物）までの距離を距離データとして計測し、周辺画像データと共に情報処理部１３に出力する。
【００３６】
車両情報センサ１２は、自車両の動きの検出に用いる各種のセンサを備える。例えば、車両情報センサ１２は、速度センサ、操舵角センサ、ＧＰＳ（global positioning system）受信機等を備える。車両情報センサ１２は、それぞれ検出結果を示すデータ（以下、車両センサデータと称する）を動き予測部３２に供給する。
【００３７】
情報処理部１３は、例えば、ＥＣＵ（Electronic Control Unit）等により構成される。情報処理部１３は、周辺状況検出部３１、動き予測部３２、衝突予測部３３、及び、ＨＭＩ（Human Machine Interface）制御部３４を備える。
【００３８】
周辺状況検出部３１は、周辺画像データと距離データに基づいて、自車両の周辺の状況の検出を行う。周辺状況検出部３１は、空間生成部４１及び動体検出部４２を備える。
【００３９】
空間生成部４１は、周辺画像データと距離データに基づいて、自車両の周辺の物体の形状や位置等を示す３次元空間マップを生成する。空間生成部４１は、３次元空間マップを動き予測部３２及びＨＭＩ制御部３４に供給する。また、空間生成部４１は、周辺画像データをＨＭＩ制御部３４に供給する。
【００４０】
動体検出部４２は、周辺画像データ及び３次元空間マップに基づいて、自車両の周辺の動体の検出を行う。動体検出部４２は、動体の検出結果を動き予測部３２及びＨＭＩ制御部３４に供給する。
【００４１】
動き予測部３２は、車両センサデータに基づいて、自車両の動き予測を行う。また、動き予測部３２は、３次元空間マップ及び動体の検出結果に基づいて、自車両の周辺の動体の動き予測を行う。動き予測部３２は、自車両及び自車両の周辺の動体の動きの予測結果を衝突予測部３３及びＨＭＩ制御部３４に供給する。
【００４２】
衝突予測部３３は、自車両及び自車両の周辺の動体の動きの予測結果に基づいて、自車両の周辺の動体の衝突予測を行う。衝突予測部３３は、衝突予測の結果をＨＭＩ制御部３４及び制動制御部１５に供給する。
【００４３】
ＨＭＩ制御部３４は、自車両のＨＭＩの制御を行う。例えば、ＨＭＩ制御部３４は、３次元空間マップ、自車両の周辺の動体の検出結果、並びに、自車両の周辺の動体の動き予測及び衝突予測の結果に基づいて、自車両の周辺の状況を示す周辺監視画像を表示するための周辺監視画像データを生成する。ＨＭＩ制御部３４は、周辺監視画像データを表示部１４に供給し、周辺監視画像を表示させる。この場合、ＨＭＩ制御部３４は、画像処理部として機能する。
【００４４】
表示部１４は、例えば、各種のディスプレイ等により構成される。表示部１４は、ＨＭＩ制御部３４の制御の下に、周辺監視画像等の各種の画像を表示する。
【００４５】
制動制御部１５は、例えば、ＥＣＵ（Electronic Control Unit）等により構成される。制動制御部１５は、衝突予測部３３による衝突予測結果に基づいて、制動装置１６を制御して、自車両の緊急停止等を行う。
【００４６】
制動装置１６は、例えば、自車両のブレーキシステム等により構成される。
【００４７】
＜１−２．カメラの配置例＞
図２は、カメラシステム１０を構成するステレオカメラシステムの配置例を示している。
【００４８】
ステレオカメラシステム１１１Ａは、例えば車両１００のフロントバンパーの前方左側面部に配置される。ステレオカメラシステム１１１Ａは、運転者の死角となる領域を含む車両１００の左側方の検出範囲１１２Ａを撮像し、撮像の結果得られた画像（以下、左画像と称する）を示す画像データを撮像制御部１１に供給する。
【００４９】
ステレオカメラシステム１１１Ｂは、例えば車両１００のフロントバンパーの前方右側面部に配置される。ステレオカメラシステム１１１Ｂは、運転者の死角となる領域を含む車両１００の右方向の検出範囲１１２Ｂを撮像し、撮像の結果得られた画像（以下、右画像と称する）を示す画像データを撮像制御部１１に供給する。
【００５０】
尚、以降において、ステレオカメラシステム１１１Ａ，１１１Ｂを特に区別する必要がない場合、単に、ステレオカメラシステム１１１とも称し、その他の構成も同様に称する。
【００５１】
＜１−３．カメラの詳細な外観構成例＞
ステレオカメラシステム１１１Ａは、図３に示されるように、２台のカメラ１３１Ａ，１３２Ａを１組とした構成であり、車両１００の前方左側面に垂直方向（すなわち縦方向）に並べて配置される。すなわち、カメラ１３１Ａ，１３２Ａは、その視差が高さ（垂直）方向に生じるように、基準面（路面１０１）と垂直な面内に配置される。
【００５２】
なお、図３においては、車両１００の左側にのみステレオカメラシステム１１１Ａが設置されているが、実際には右側にも同様に、カメラ１３１Ｂ，１３２Ｂからなるステレオカメラシステム１１１Ｂが設置される。
【００５３】
カメラ１３１Ａの光軸とカメラ１３２Ａの光軸は、カメラ１３１Ａとカメラ１３２Ａを通る図３中の点線と垂直な方向（紙面手前方向）を指向している。ステレオカメラシステム１１１の中心点を通る路面１０１に対する垂線である図３中の点線は、路面１０１上の点Ｔと交差する。すなわち、点Ｔは、ステレオカメラシステム１１１Ａの真下（すなわち車両１００の真下）の路面１０１上の点である。
【００５４】
＜１−４．撮像制御部の構成＞
次に、図４のブロック図を参照して、撮像制御部１１の詳細な構成について説明する。
【００５５】
カメラシステム１０は、ステレオカメラシステム１１１Ａ，１１１Ｂを備えている。ステレオカメラシステム１１１Ａは、カメラ１３１Ａとカメラ１３２Ａを備えている。
【００５６】
同様に、ステレオカメラシステム１１１Ｂは、カメラ１３１Ｂ，１３２Ｂを備えている。
【００５７】
カメラ１３１Ａ，１３２Ａにより撮像された画像の画像データは、ステレオ距離計測部１５１Ａに供給され、撮像部１３１Ｂ，１３２Ｂにより撮像された画像の画像データは、ステレオ距離計測部１５１Ｂに供給される。
【００５８】
撮像制御部１１は、ステレオ距離計測部１５１Ａ，１５１Ｂ、および統合部１５２を備えている。
【００５９】
ステレオ距離計測部１５１Ａは車両１００の左側方の検出範囲１１２Ａ（図２）における被写体（対象物）までの距離を計測し、統合部１５２に出力する。ステレオ距離計測部１５１Ｂは車両１００の右側方の検出範囲１１２Ｂにおける被写体（対象物）までの距離を計測し、統合部１５２に出力する。
【００６０】
統合部１５２は、ステレオ距離計測部１５１Ａ，１５１Ｂの出力を取得、統合し、車両１００の周囲全体の状態を把握し、周辺画像データおよび距離データとして周辺状況検出部３１に出力する。
【００６１】
＜１−５．ステレオ距離計測部の構成＞
次に、図５のブロック図を参照して、図４のステレオ距離計測部１５１の構成例について説明する。
【００６２】
ステレオ距離計測部１５１は、画像補正部１７１，１７２と、ステレオ画像処理部１７３を備えている。ステレオカメラシステム１１１のカメラ１３１，１３２の出力は、それぞれ画像補正部１７１と画像補正部１７２に供給され、前処理としてレンズの収差等が補正される。例えば、カメラ１３１，１３２は広角レンズを有した、通常のカメラよりも視野角が広い検出範囲を撮像することが可能なカメラとした場合、撮像された画像は歪みを含んでいる。画像補正部１７１，１７２は、距離算出のため、この歪を補正し、画像を平面に投影して平面画像とする処理を実行する。ステレオ画像処理部１７３は、画像補正部１７１と画像補正部１７２の出力から、対象物までの距離を検出する。すなわち、カメラ１３１，１３２の一方の画像に映っている対象物を、他方の画像から検出し、その位置のずれから距離が算出される。
【００６３】
なお、広角カメラは、例えば、３５ミリ換算で、３５ミリ以下のレンズ、特に２８ミリ以下のレンズを備えるカメラなどである。または、広角カメラは、例えば、視野角が６０度以上、特に１２０度以上、あるいは１５０度以上の撮像が可能なカメラでもよい。視野角は１８０度以上にすることもできる。特に、視野角が広い広角のレンズ、または、カメラは、魚眼レンズ（ｆθレンズ）若しくは魚眼カメラ、或は超広角レンズ若しくは超広角カメラといわれるカメラなどでもよい。
【００６４】
＜１−６．ステレオカメラシステムの座標系＞
次に、図６を参照して、ステレオカメラシステム１１１の座標系について説明する。ステレオカメラシステム１１１の座標系は図６に示されるように定義される。
【００６５】
垂直方向に並べられた２台のカメラ１３１，１３２から構成されるステレオカメラシステム１１１の一方のカメラ１３１の中心点をＯａ、他方のカメラ１３２の中心点をＯｂ、中心点Ｏａと中心点Ｏｂの中間点（すなわちステレオカメラシステム１１１の中心点）をＯとする。撮像の対象点をＰ、中心点Ｏａと中心点Ｏｂの間の距離（基線長）をＬとする。対象点Ｐと中心点Ｏを結ぶ直線１４１と、中心点Ｏａと中心点Ｏｂを通る直線１４４のなす角度のうち、図中下側の角度（直線１４１と、直線１４４の中心点Ｏより下側の線分のなす角度）をθとする。すなわち、角度θは、撮像の対象点Ｐとステレオカメラシステム１１１とのなす角度である。なお対象点は撮像、すなわち監視する対象物（被写体）を表し、例えば車両１００の周囲の人、障害物、他の車両等を模式的に点として表したものである。
【００６６】
直線１４４と、対象点Ｐと中心点Ｏａを結ぶ直線１４２のなす角度のうち、図中下側の角度（直線１４２と、直線１４４の中心点Ｏａより図中下側の線分とのなす角度）をθａとする。直線１４４と、対象点Ｐと中心点Ｏｂを結ぶ直線１４３のなす角度のうち、図中下側の角度（直線１４３と、直線１４４の中心点Ｏｂより図中下側の線分とのなす角度）をθｂとする。直線１４２と直線１４３のなす角度をαとする。また、中心点Ｏと対象点Ｐとの距離をρ、対象点Ｐと中心点Ｏａの距離をρａ、対象点Ｐと中心点Ｏｂの距離をρｂとする。このとき、正弦定理から次の式（１）が得られる。
【００６７】
ρａ/sinθｂ＝Ｌ/sinα＝Ｌ/sin（θａ−θｂ）
ただし、α＝θａ−θｂである。
・・・（１）
【００６８】
また、中心点Ｏと対象点Ｐとの距離ρは次式（２）のように書くことができる。
ρ・sinθ＝ρａ・sin（π−θａ）＝ρａ・sinθａ
・・・（２）
【００６９】
式（１）と式（２）より式（３）が得られる。
sin（θａ−θｂ）＝Ｌ/ρ・sinθａ・sinθｂ/sinθ
・・・（３）
【００７０】
一般に、中心点Ｏａと中心点Ｏｂの間の距離（基線長）Ｌは、数ｃｍから数十ｃｍ程度であるのに対し、中心点Ｏから対象点Ｐまでの距離ρは数ｍ程度など十分に大きいことが多く、この場合、θ≒θａ、θ≒θｂが成り立つ。さらにθｂ<θ<θａが常に成り立つ。これらの条件から次の近似式（４）が成り立つ。
sinθａ・sinθｂ≒sin2θ
・・・（４）
【００７１】
式（３）と式（４）より、次の式（５）が得られる。
sin（θａ−θｂ）≒Ｌ/ρ・sinθ
・・・（５）
【００７２】
角度θａ，θｂは２台のカメラ１３１，１３２の物体光の角度なので、その差であるθａ−θｂは、入射光の角度差であり、ステレオ画像処理ではθａ−θｂによって対象物までの距離が算出される。基線長Ｌは定数なので、式（５）よりθａ−θｂは、対象物までの距離ρに反比例することが判る。そのため、対象物とステレオカメラシステム１１１の距離が離れると距離計測精度が低下する。
【００７３】
車両１００に搭載したステレオカメラシステム１１１において距離計測を行う大きな理由の１つは、車両１００の周辺の障害物を検知して、車両１００と障害物との接触を防ぐことである。そのため、車両１００と障害物の距離が近いほど距離計測精度が上がっているのは理にかなっている。
【００７４】
＜１−７．行単位で垂直方向に、かつ、各行において水平方向に画素信号を読み出すカメラを用いたステレオカメラシステム＞
次に、本開示のステレオカメラシステム１１１の画素信号の読み出し方法について説明するにあたって、行単位で順次垂直方向に、かつ、各行において水平方向に画素信号を読み出すカメラを用いたステレオカメラシステムについて説明する。
【００７５】
図７で示されるように、人間は被写体Ｈを視認する場合、例Ｅｘ１で示されるように、左右の目２２１，２２２のそれぞれで被写体Ｈを視認する。より詳細には、左右それぞれの目２２１，２２２においては、例えば、左目である目２２１は、図中の視野Ｌ内において被写体Ｈを視認し、右目である目２２２は、図中の視野Ｒ内において、被写体Ｈを視認する。人間は、この視野Ｌ，Ｒ内における被写体Ｈのずれを視差として認識し、視差に応じて被写体を空間認識する。尚、図７中において、視野Ｌ，Ｒは、目２２１，２２２からの距離が異なるが、説明の便宜上異なるのであって、現実には、同一距離であることを前提とする。
【００７６】
同様の原理で、目２２１，２２２と対応するように水平方向にカメラを並べてステレオカメラシステムが構成されるとき、それぞれのカメラにおいては、例Ｅｘ２で示されるように、画像２３１，２３２が撮像される。
【００７７】
例Ｅｘ２で示される画像２３１，２３２は、それぞれ被写体Ｈが、被写体Ｈ１，Ｈ２として撮像される。尚、例Ｅｘ２における画像２３１，２３２は、それぞれ例Ｅｘ１の視野Ｌ，Ｒに対応する。
【００７８】
画像２３１，２３２における被写体Ｈ１，Ｈ２の水平方向のずれは、それぞれの画像を撮像するカメラの視差により生じるものであり、被写体Ｈ１，Ｈ２のそれぞれの画像２３１，２３２内におけるずれに対応する視差により被写体までの距離を測定することができる。
【００７９】
ところで、画像２３１，２３２により被写体Ｈまでの距離を測距するにあたっては、それぞれの画像内における被写体Ｈ１，Ｈ２を同一の被写体Ｈであると認識する必要がある。
【００８０】
一般に、カメラは、行単位で上から下方向に順次読み出され、かつ、各行において、水平方向に左から右方向に隣接する画素から順次画素信号が読み出される。このため、同一の被写体Ｈである被写体Ｈ１，Ｈ２を認識するために、同一行の画素同士の画素信号を比較する。
【００８１】
尚、例Ｅｘ２における画像２３１，２３２を跨いた水平右方向の矢印は、同一行の画素が比較されることを表現している。
【００８２】
これに対して、本開示のステレオカメラシステム１１１は、カメラ１３１，１３２が、垂直方向に並べられているため、それぞれにより撮像される画像は、被写体Ｈが静止した状態である場合、例えば、例Ｅｘ３で示されるような画像２３３，２３４として撮像されることになる。
【００８３】
例Ｅｘ３の画像２３３，２３４の場合、画像２３３，２３４のそれぞれについて被写体Ｈ１，Ｈ２に垂直方向に対して視差が生じていても、被写体Ｈ１，Ｈ２に属する、水平方向が同一位置の画素は、同一の被写体に属していれば、視差分だけ垂直方向にずれた画素同士は同一の画素信号となるため、被写体Ｈであることを認識することができる。
【００８４】
しかしながら、被写体Ｈが静止しておらず水平方向に動いているような場合、画像２３３，２３４においては、被写体Ｈの移動に伴って、いわゆる、フォーカルプレーン歪みが生じて、例えば、Ｅｘ４で示されるように、被写体Ｈ１，Ｈ２に歪が生じた被写体Ｈ１’，Ｈ２’として撮像される。
【００８５】
例えば、画像２３３，２３４の水平方向の座標Ｘが図中の右方向に正であり、垂直方向の座標Ｙが図中の下方向に正であり、各カメラにおける画素信号が、例えば、行単位で、上から下方向に、かつ、各行において、左から右方向に読み出されるものとし、垂直方向に長い１列分の画素列からなる直線状の被写体が存在するものと仮定する。
【００８６】
ここで、直線状の被写体が１列分の画素列から構成される縦に長い移動していないものである場合、図７の例Ｅｘ３で示されるように、所定の行Ｙ＝ｙの、水平方向の列Ｘ＝ｘで読み出された画素（ｘ，ｙ）が直線上の被写体に属する画素であるとすれば、その１行下の画素（ｘ，ｙ＋１）も、直線状の被写体に属する画素であることになる。
【００８７】
しかしながら、例えば、直線状の被写体が水平右方向に移動している場合、所定の行Ｙ＝ｙの、水平方向の列Ｘ＝ｘで読み出された画素（ｘ，ｙ）が直線状の被写体に属する画素であるとすれば、その１行下の画素（ｘ，ｙ＋１）が読み出されるまでに、直線状の被写体が右方向に移動してしまうので、直線上の被写体に属する画素は、座標ｘよりも、直線上の被写体の移動速度に応じて距離αだけ右側にずれた画素（ｘ＋α，ｙ＋１）となる。
【００８８】
画像２３３，２３４についていえば、被写体Ｈ１，Ｈ２に属する各画素信号は、読み出し行が下方向に進むにつれて、被写体Ｈの移動速度に応じた距離だけ水平右方向にずれていくため、全体として被写体Ｈに属する画素は、画像内において下の行であるほど、右側へのずれが大きなフォーカルプレーン歪みとなるので、被写体Ｈ１，Ｈ２に対して被写体Ｈ１’，Ｈ２’で示されるような、左へ傾いたような歪みが生じる。
【００８９】
さらに、画像２３３，２３４においては、視差が垂直方向に生じるため、被写体Ｈ１，Ｈ２との垂直方向に大きな視差が生じるほど、画素信号の読み出しタイミングにずれが生じるため、単純に水平方向に対して同一の座標となる画素信号同士を比較しても同一被写体Ｈに属する画素であるか否かを判定することができなくなる恐れがある。
【００９０】
すなわち、例Ｅｘ４においては、画像２３４内における被写体Ｈ２’に属する画素は、画像２３３内における被写体Ｈ１’に属する画素よりも、画像内において上部の行に属している。したがって、画像２３４内における被写体Ｈ２’に属する画素の画素信号は、画像２３３内における被写体Ｈ１’に属する画素の画素信号よりも、早く読み出される。
【００９１】
このため、画像２３４内における被写体Ｈ２’は、画像２３３内における被写体Ｈ１’よりも画像内において、左側に寄った画像とされる。
【００９２】
結果として、画像２３３，２３４の水平方向に対して同一座標の画素の画素信号を比較しても、被写体Ｈに共通する画素として認識することができず、画像２３３，２３４内における被写体Ｈ１’，Ｈ２’との比較による距離の計測そのものができなくなる恐れがある。
【００９３】
すなわち、ステレオカメラシステム１１１を構成するにあたって、垂直方向に対して視差が生じるように１組のカメラを配置する場合、画素信号を、行単位で垂直方向に対して順次読み出し、かつ、各行に対して水平方向に読み出すようにしたとき、１組のカメラで撮像される画像内において、共通の同一の被写体を認識することができず、距離計測そのものができなくなる恐れがある。
【００９４】
＜１−８．本開示のステレオカメラシステムを構成するカメラの画素信号の読み出し方法＞
そこで、本開示のステレオカメラシステム１１１に属するカメラ１３１，１３２は、列単位で水平方向に順次読み出し、かつ、各列に対して垂直方向に画素信号を読み出す。
【００９５】
すなわち、図８における例Ｅｘ１１の画像２４１，２４２で示されるように、垂直方向に視差が生じるように設けられたカメラ１３１，１３２により撮像される画像については、列単位で、順次水平方向に、かつ、各列について、垂直方向に、例えば、上から下方向に順次画素信号が読み出されるようにして生成されるようにする。
【００９６】
このようにすることで、例えば、同一列の画素信号の読み出しタイミングのずれは、視差に相当する画素数分のみとなるため、フォーカルプレーン歪による影響を低減させることが可能となる。
【００９７】
また、カメラ１３１，１３２の視差により垂直方向に生じる画素信号の読み出しタイミングのずれも視差に相当する画素数分のみとなるので、被写体Ｈ１，Ｈ２のずれも低減させることができるので、水平方向に対して同一位置の画素信号を比較することで、被写体Ｈ１，Ｈ２が同一の被写体Ｈであることを認識することが可能となる。
【００９８】
さらに、上述したように、一般的なカメラは、行単位で上から下方向に、かつ、各行において左から右方向に順次画素信号が読み出されるので、例えば、図８の例Ｅｘ１２で示されるような画像２３３，２３４が読み出される。そこで、図８の例Ｅｘ１３で示されるように、一般的なカメラを９０度回転（図中では右方向に回転）させることで実現することも考えられる。
【００９９】
しかしながら、画像２３３，２３４の水平方向の長さ対垂直方向の長さの比をＡ：Ｂで表現するとき、Ａ＞Ｂであり、水平方向の長さの方が、垂直方向の長さよりも長い構成が一般的である。
【０１００】
例Ｅｘ１３で示されるように、カメラを９０度に回転させる場合、水平方向の長さの方が小さいため、水平方向の視野角が狭くなる。
【０１０１】
そこで、本開示のステレオカメラシステム１１１を構成するカメラ１３１，１３２により撮像される画像は、例Ｅｘ１４で示されるように、水平方向の長さと垂直方向の長さとの比Ａ：Ｂが、例えば、４：３や１６：９となるように、すなわち、水平方向の方が広くなるようにして、さらに、水平方向に列単位で順次画素信号を読み出し、かつ、各列において、垂直方向に画素単位で順次画素信号が読み出されるようにする。このような構成とすることで、本開示のステレオカメラシステム１１１は、水平方向の視野角を確保しつつ、読み出しタイミングのずれに起因する被写体の水平方向のずれを抑制し、距離測定を高精度に実現させる。
【０１０２】
＜１−９．具体的なカメラの画素信号の読み出し方法＞
次に、図９を参照して、カメラ１３１，１３２の画素信号の具体的な読み出し方法について説明する。尚、図９においては、カメラ１３１における画素信号の読み出し方法を説明するものとするが、カメラ１３２においても同様である。また、カメラ１３１を構成する画素アレイは、水平方向×垂直方向が８個×６個の画素２５１により構成されるものとするが、これ以外の画素数で構成されていてもよい。
【０１０３】
すなわち、カメラ１３１が、前方左側面部に設けられる場合、例えば、図９の左上部で示されるように、最初に、車両１００の前方側の列ＳＣ１の画素の画素信号が、図中の最上段の画素から下方向に順次読み出され、最下段の画素２５１の画素信号が読み出されると、隣の列ＳＣ２の最上段の画素から下方向に順次読み出される。以下、同様に、列ＳＣ３乃至ＳＣ８の順序で、各列について、最上段の画素の画素信号から、下方向に隣接する画素の画素信号が順次読み出される。このような読み出し順序により、前進状態において、特に検出範囲の前方側の画素列の画素信号をより高速に読み出すことが可能となり、進行方向の状況を、より迅速に把握させることで、進行方向における状況に対応した処理を、より迅速に実現することが可能となる。
【０１０４】
尚、図９の左上部においては、図中左部が車両１００の前方（Front）であり、図中の上部が車両１００の上方（up）であり、図中の下部が車両１００の下方（down）である。
【０１０５】
また、カメラ１３１が、前方右側面部に設けられる場合、例えば、図９の右上部で示されるように、車両１００の前方側の列ＳＣ１’の画素の画素信号が、図中の最上段の画素から下方向に順次読み出され、最下段の画素２５１の画素信号が読み出されると、隣の列ＳＣ２’の最上段の画素から下方向に順次読み出される。以下、同様に、列ＳＣ３’乃至ＳＣ８’の順序で、各列について、最上段の画素の画素信号から読み出されて、下方向に隣接する画素の画素信号が順次読み出される。
【０１０６】
尚、図９の右上部においては、図中右部が車両１００の前方（Front）であり、図中の上部が車両１００の上方（up）であり、図中の下部が車両１００の下方（down）である。
【０１０７】
また、図９の左上部および右上部のカメラ１３１においては、各列の画素信号は、最上段の画素から、下方向に隣接する画素の画素信号が順次読み出される例について説明しているが、最下段の画素から、上方向に画素信号が順次読み出されるようにしてもよい。
【０１０８】
さらに、図９の左上部におけるカメラ１３１の車両１００に対する前後方向を維持したまま、上下を反転させて設置することで、図９の右下部で示されるように、前方左側面部に設けるようにしてもよい。
【０１０９】
すなわち、この場合、前方右側面部に設けるためのカメラ１３１と左側面部に設けるためのカメラ１３１とをそれぞれ別体として構成する必要がなく、同一の構成で左右のどちらの側面部にも設けるようにさせることが可能となる。
【０１１０】
尚、図９の右上部のカメラ１３１の前後方向を維持させたまま、上下を反転させて、左側面部に設けるようにしてもよい。
【０１１１】
＜１−１０．表示部の配置例＞
次に、図１０を参照して、表示部１４の配置例について説明する。
【０１１２】
表示部１４については、自車両に予め備えられている装備を利用してもよいし、専用のディスプレイ等を設けてもよい。例えば、自車両のカーナビゲーションシステムのディスプレイ２７１や、インストルメントパネル２７２を表示部１４として用いることが可能である。また、例えば、表示部１４を自車両のウインドシールド２７３の運転席の前方の領域Ｐ１に重畳して設けられる透過型ディスプレイにより構成することが可能である。
【０１１３】
＜１−１１．周辺監視処理＞
次に、図１１のフローチャートを参照して、車載システム１０により実行される周辺監視処理について説明する。この処理は、例えば、自車両を起動し、運転を開始するための操作が行われたとき、例えば、自車両のイグニッションスイッチ、パワースイッチ、又は、スタートスイッチ等がオンされたとき開始される。また、この処理は、例えば、運転を終了するための操作が行われたとき、例えば、自車両のイグニッションスイッチ、パワースイッチ、又は、スタートスイッチ等がオフされたとき終了する。
【０１１４】
ステップＳ１において、情報処理部１３は、撮像制御部１１を制御して、車両１００の周辺画像データおよび距離データ取得処理を実行させ、周辺画像データおよび距離データを取得する。具体的には、周辺状況検出部３１は、撮像制御部１１を制御して、カメラシステム１０により撮像された画像に基づいた車両１００の周辺画像データおよび距離データを取得する。このとき、撮像制御部１１は、カメラシステム１０を制御して、周辺画像データおよび距離データ取得処理を実行させて、車両１００の周辺画像データとステレオ距離計測結果である距離データを取得させる。動き予測部３２は、車両情報センサ１２の各センサから車両センサデータを取得する。尚、周辺画像データおよび距離データ取得処理については、図１２のフローチャートを参照して、詳細を後述する。
【０１１５】
ステップＳ２において、空間生成部４１は、空間生成処理を行う。すなわち、空間生成部４１は、周辺画像データおよび距離データに基づいて、自車両の周辺の物体の形状や位置等を示す３次元空間マップを生成する（或いは、更新する）。なお、自車両の周辺の物体には、動体だけでなく、静止物（例えば、建物、路面等）も含まれる。空間生成部４１は、生成した３次元空間マップを動き予測部３２及びＨＭＩ制御部３４に供給する。
【０１１６】
なお、３次元空間マップの生成方法には、任意の方法を用いることが可能である。例えば、ＳＬＡＭ（Simultaneous Localization and Mapping）等の技術が用いられる。
【０１１７】
ステップＳ３において、動体検出部４２は、動体検出を行う。具体的には、動体検出部４２は、周辺センサデータ及び３次元空間マップに基づいて、自車両の周辺の動体の検出を行う。例えば、動体検出部４２は、自車両の周辺の動体の有無、動体の種類、大きさ、形状、位置等の検出を行う。動体検出部４２は、動体の検出結果を動き予測部３２及びＨＭＩ制御部３４に供給する。
【０１１８】
なお、動体の検出方法には、任意の方法を用いることが可能である。また、検出対象となる動体には、実際に動いている動体だけでなく、停車中の車両や自転車、停止中の歩行者等の一時的に静止している動体も含まれる。
【０１１９】
さらに、動体検出部４２は、例えば、３次元空間マップを用いずに、周辺センサデータのみに基づいて、自車両の周辺の動体の検出を行うことも可能である。この場合、ステップＳ２とステップＳ３の処理を入れ替えることが可能である。
【０１２０】
ステップＳ４において、動体検出部４２は、ステップＳ３の処理の結果に基づいて、周辺に動体が存在するか否かを判定する。周辺に動体が存在しないと判定された場合、処理はステップＳ１に戻る。
【０１２１】
その後、ステップＳ４において、周辺に動体が存在すると判定されるまで、ステップＳ１乃至ステップＳ４の処理が繰り返し実行される。
【０１２２】
一方、ステップＳ４において、周辺に動体が存在すると判定された場合、処理はステップＳ５に進む。
【０１２３】
ステップＳ５において、動き予測部３２は、動き予測を行う。具体的には、動き予測部３２は、車両センサデータに基づいて、自車両の移動速度及び移動方向等の予測を行う。また、動き予測部３２は、３次元空間マップ、及び、自車両の周辺の動体の検出結果に基づいて、自車両の周辺の動体の移動速度及び移動方向等の予測を行う。動き予測部３２は、予測結果を衝突予測部３３及びＨＭＩ制御部３４に供給する。
【０１２４】
なお、動き予測の方法には、任意の方法を用いることが可能である。
【０１２５】
ステップＳ６において、衝突予測部３３は、衝突予測を行う。具体的には、衝突予測部３３は、自車両及び自車両の周辺の動体の動きの予測結果に基づいて、自車両の周辺の動体が自車両に衝突又は接触する可能性があるか否か、並びに、衝突又は接触する可能性のある動体の衝突又は接触するまでの所要時間（以下、衝突予測時間と称する）を予測する。
【０１２６】
また、衝突予測部３３は、各動体が自車両に衝突又は接触する危険度を予測し、あらかじめ決められた定義に基づきランクを設定する。例えば、静止中の動体、及び、自車両から離れる方向に移動中の動体は、危険度１に設定される。自車両に接近する方向に移動中の動体のうち、衝突予測時間がＴ１秒（例えば、５秒）を超える動体は、危険度２に設定される。自車両に接近する方向に移動中の動体のうち、衝突予測時間がＴ１秒以内、かつ、Ｔ２秒（例えば１秒）を超える動体は、危険度３に設定される。自車両に接近する方向に移動中の動体のうち、衝突予測時間がＴ２秒以内である動体は、危険度４に設定される。
【０１２７】
なお、静止中の動体、及び、自車両から離れる方向に移動中の動体についても、衝突予測時間に基づいて、危険度２乃至４のいずれかに設定するようにしてもよい。
【０１２８】
衝突予測部３３は、衝突予測の結果をＨＭＩ制御部３４及び制動制御部１５に供給する。
【０１２９】
ステップＳ７において、衝突予測部３３は、衝突又は接触の危険性があるか否かを判定する。例えば、衝突予測部３３は、自車両の周辺に危険度３以上の動体が存在しない場合、衝突及び接触の危険性がないと判定し、処理はステップＳ１に戻る。
【０１３０】
その後、ステップＳ７において、衝突又は接触の危険性があると判定されるまで、ステップＳ１乃至ステップＳ７の処理が繰り返し実行される。
【０１３１】
一方、ステップＳ７において、例えば、衝突予測部３３は、自車両の周辺に危険度３以上の動体が存在する場合、衝突又は接触の危険性があると判定し、処理はステップＳ８に進む。
【０１３２】
ステップＳ８において、ＨＭＩ制御部３４は、動体種別を設定する。例えば、ＨＭＩ制御部３４は、動体検出部４２により検出された動体を、車両、モータバイク、自転車、歩行者、及び、その他の５種類に分類する。なお、モータバイクも車両の一種であるが、ここでは、モータバイクと、それ以外の車両とが区別されている。
【０１３３】
ステップＳ９において、ＨＭＩ制御部３４は、重畳画像の表示位置を算出する。重畳画像は、例えば、各動体の位置を示すフレーム（以下、動体フレームと称する）、及び、各動体の予測される動きを示すバー（以下、動き予測バーと称する）を含む。
【０１３４】
そこで、ＨＭＩ制御部３４は、３次元空間マップにおける各動体の位置、並びに、各動体の進行方向から見た各動体の高さ及び幅等に基づいて、各動体に対応する動体フレームの３次元空間マップにおける表示位置を算出する。
【０１３５】
また、ＨＭＩ制御部３４は、各動体の動き予測の結果に基づいて、３次元空間マップにおける各動体のｘ秒後（例えば、１秒後）の位置を算出する。次に、ＨＭＩ制御部３４は、３次元空間マップ上の各動体の現在位置とｘ秒後の位置とに基づいて、各動体に対応する動き予測バーの３次元空間マップ上の表示位置を算出する。例えば、ＨＭＩ制御部３４は、現在の各動体の進行方向の先端を始点とし、ｘ秒後の各動体の進行方向の先端を終点とすることにより、動き予測バーの長さ及び方向を算出する。
【０１３６】
ステップＳ１０において、車載システム１０は、周辺の状況を提示する。具体的には、ＨＭＩ制御部３４は、３次元空間マップにおける重畳画像（動体フレーム及び動き予測バー等）の表示位置を、運転者に提示する周辺画像における表示位置に変換する。また、ＨＭＩ制御部３４は、３次元空間マップにおける路面の位置を周辺画像における表示位置に変換し、周辺画像における路面の位置を示すグリッドの表示位置を算出する。そして、ＨＭＩ制御部３４は、周辺監視画像を示す周辺監視画像データを生成し、表示部１４に供給し、周辺監視画像を表示させる。
【０１３７】
ステップＳ１１において、制動制御部１５は、緊急停止が必要であるか否かを判定する。例えば、制動制御部１５は、自車両の周辺の動体の中に危険度４の動体が存在しない場合、緊急停止の必要がないと判定し、処理はステップＳ１に戻る。
【０１３８】
その後、ステップＳ１１において、緊急停止が必要であると判定されるまで、ステップＳ１乃至ステップＳ１１の処理が繰り返し実行される。
【０１３９】
一方、ステップＳ１１において、例えば、制動制御部１５は、自車両の周辺の動体の中に危険度４の動体が存在する場合、緊急停止の必要があると判定し、処理はステップＳ１２に進む。
【０１４０】
ステップＳ１２において、制動制御部１５は、制動装置１６を制御して、自車両を緊急停止させる。これにより、自車両の周辺の動体との衝突又は接触が防止される。
【０１４１】
その後、周辺監視処理は終了する。
【０１４２】
以上のようにして、自車両の周辺の動体との衝突又は接触の危険性を分かりやすく通知することができ、運転者が衝突又は接触の危険性を確実に認識することができる。また、危険度４の動体が存在する場合、緊急停止が行われるため、事故の発生が防止される。
【０１４３】
＜１−１２．周辺画像データおよび距離データ取得処理＞
次に、図１２のフローチャートを参照して、周辺画像データおよび距離データ取得処理について説明する。
【０１４４】
ステップＳ３１において、ステレオカメラシステム１１１を構成するカメラ１３１とカメラ１３２は観測点を撮像する。
【０１４５】
ステップＳ３２において、画像補正部１７１は、カメラ１３１により撮像された画像について、レンズ収差、カメラ画像の歪みなどを補正する。同様に、画像補正部１７２は、カメラ１３２により撮像された画像について、レンズ収差、カメラ画像の歪みなどを補正する。すなわち、距離算出のため画像の歪が補正され、画像が仮想平面に投影されて平面画像とされる。
【０１４６】
ステップＳ３３において、ステレオ画像処理部１７３は、観測点までの距離を演算し、距離データと共に、平面画像からなる撮像画像を周辺画像データとして統合部１５２に出力する。すなわち、カメラ１３１とカメラ１３２は、距離Ｌだけ垂直方向に離れた位置に配置されている。従って、カメラ１３１により撮像された画像とカメラ１３２により撮像された画像は位相差を有しており、その位相差に基づいて観測点までの距離を演算することができる。すなわち、カメラ１３１，１３２の一方の画像に映っている物体に対応する物体が他方の画像から検出され、２つの画像における物体の位置のずれから距離が算出される。尚、以上の処理は、車両１００の左右の前方側面に設けられたステレオカメラシステム１１１Ａ，１１１Ｂのそれぞれで実行される。
【０１４７】
ステップＳ３４において、統合部９３は、ステレオカメラシステム１１１Ａ，１１１Ｂのそれぞれの計測データと周辺画像データとを統合し、車両１００の全方向の距離データとして、周辺画像データと共に撮像制御部１１に出力する。
【０１４８】
ステップＳ３５において、ステレオ画像処理部１７３は処理を終了するかを判定する。使用者からまだ処理の終了が指示されていない場合、処理はステップＳ３１に戻り、それ以降の処理が繰り返される。処理の終了が指示されている場合、処理は終了される。
【０１４９】
以上の処理により、ステレオ距離計測部１５１Ａ，１５１Ｂのそれぞれにより検出範囲１１２Ａ，１１２Ｂにおける距離計測結果である距離データが、周辺画像データと共に統合部１５２に出力されて、撮像制御部１１に順次繰り返し出力される。
【０１５０】
また、ステップＳ３１において、カメラ１３１，１３２が検出範囲を撮像する際には、上述したように、車両１００の前方側の画素列から水平方向に隣接する後方の画素列に向かう順序で、かつ、各画素列において、最上段の画素から下方向に隣接する画素の画素信号が順次読み出される、または、最下段の画素から上方向に隣接する画素の画素信号が順次読み出される。
【０１５１】
このように画素信号が読み出されることにより、上述したように、カメラ１３１，１３２のそれぞれで撮像された画像内における被写体のフォーカルプレーン歪みや、読み出しタイミングのずれに伴った水平方向の被写体のずれの発生を抑制することができ、それぞれの画像内の被写体を同一の被写体として認識することができるので、高精度に視差に基づいたずれによる距離計測を実現することが可能となる。
【０１５２】
尚、以上の構成例においては、撮像制御部１１が、周辺画像における被写体（対象物）までの距離を距離データとして計測する例について説明しているが、距離データの計測そのものは、他の構成で実現するようにしてもよく、例えば、空間生成部４１が、距離データの生成と３次元空間マップの生成とを同時に実現するようにしてもよい。
【０１５３】
また、以上においては、動体の種類（例えば、歩行者、自動車などの種類）の検出処理は、動体検出部４２が実施する例について説明してきたが、それ以外の構成が実施するようにしてもよく、例えば、撮像制御部１１が実施するようにしてもよい。
【０１５４】
＜＜２．変形例＞＞
以上においては、ステレオカメラシステム１１１が、車両１００の前方側面部にカメラ１３１，１３２が垂直方向に視差が生じるように並べて配置される例について説明してきたが、車両１００の車体の前方以外の位置に、カメラ１３１，１３２の視差が垂直方向に生じるようにステレオカメラシステム１１１が配置されてもよい。
【０１５５】
例えば、ステレオカメラシステム１１１は、車両１００の中央側面部近傍の位置に、カメラ１３１，１３２が垂直方向に視差が生じるように側面方向を撮像するように設けられるようにしてもよい。
【０１５６】
より具体的には、ステレオカメラシステム１１１は、例えば、図１３で示されるように、ドアミラー３０１に、カメラ１３１，１３２の視差が垂直方向に生じるように、垂直方向に並べて取り付けられているようにしてもよい。
【０１５７】
尚、車両１００の中央側面部近傍であれば、ステレオカメラシステム１１１は、ドアミラー３０１以外の位置でもよく、例えば、ピラー（フロントピラー、センタピラー、リアピラー等）、ドア、ルーフレール等に取り付けるようにしてもよい。
【０１５８】
また、図１４で示されるように、ステレオカメラシステム１１１は、車両１００の後方側面部に、カメラ１３１，１３２が垂直方向に視差が生じるように取り付けられているようにしてもよい。
【０１５９】
さらに、図１４で示されるように、車両１００の後方側面部に、カメラ１３１，１３２が垂直方向に視差が生じるように取り付けられる場合、ステレオカメラシステム１１１は、後方に後退する際に使用される用途が多くなるので、側面後方側の検出範囲の画素信号をより高速に読み出すようにしてもよい。
【０１６０】
例えば、カメラ１３１，１３２の画素アレイの後方側の画素列から、各画素列について、最上段の画素の画素信号から、下方向に隣接する画素の画素信号が順次読み出される、または、最下段の画素の画素信号から、上方向に隣接する画素の画素信号が順次読み出されるようにしてもよい。
【０１６１】
すなわち、カメラ１３１が、後方左側面部に設けられる場合、例えば、図１５の左上部で示されるように、最初に、車両１００の後方側の列ＳＣ８の画素の画素信号が、図中の最上段の画素から下方向に順次読み出され、最下段の画素２５１の画素信号が読み出されると、隣の列ＳＣ７の最上段の画素から下方向に順次読み出される。以下、同様に、列ＳＣ６乃至ＳＣ１の順序で、各列について、最上段の画素の画素信号から、下方向に隣接する画素の画素信号が順次読み出される。
【０１６２】
尚、図１５の左上部においては、図中右部が車両１００の後方（Rear）であり、図中の上部が車両１００の上方（up）であり、図中の下部が車両１００の下方（down）である。
【０１６３】
また、カメラ１３１が、後方右側面部に設けられる場合、例えば、図１５の右上部で示されるように、車両１００の後方側の列ＳＣ８’の画素の画素信号が、図中の最上段の画素から下方向に順次読み出され、最下段の画素２５１の画素信号が読み出されると、隣の列ＳＣ７’の最上段の画素から下方向に順次読み出される。以下、同様に、列ＳＣ６’乃至ＳＣ１’の順序で、各列について、最上段の画素の画素信号から読み出されて、下方向に隣接する画素の画素信号が順次読み出される。
【０１６４】
尚、図１５の右上部においては、図中左部が車両１００の後方（Rear）であり、図中の上部が車両１００の上方（up）であり、図中の下部が車両１００の下方（down）である。
【０１６５】
また、図１５の左上部および右上部のカメラ１３１においては、各列の画素信号は、最上段の画素から、下方向に隣接する画素の画素信号が順次読み出される例について説明しているが、最下段の画素から、上方向に画素信号が順次読み出されるようにしてもよい。
【０１６６】
さらに、図１５の左上部におけるカメラ１３１の車両１００に対する前後方向を維持したまま、上下を反転させて設置することで、図１５の右下部で示されるように、後方左側面部に設けるようにしてもよい。
【０１６７】
すなわち、この場合、後方右側面部に設けるためのカメラ１３１と左側面部に設けるためのカメラ１３１とをそれぞれ別体として構成する必要がなく、同一の構成で左右のどちらの側面部にも設けるようにさせることが可能となる。
【０１６８】
尚、図１５の右上部のカメラ１３１の前後方向を維持させたまま、上下を反転させて、左側面部に設けるようにしてもよい。
【０１６９】
このような読み出し順序により、後進状態において、特に検出範囲の後方側の画素列の画素信号をより高速に読み出すことが可能となり、進行方向の状況を、より迅速に把握させることで、進行方向における状況に対応した処理を、より迅速に実現することが可能となる。
【０１７０】
すなわち、ステレオカメラシステム１１１は、車両１００の側面部であれば、前方、中央、後方のいずれに設置されてもよいし、それらの少なくともいずれかを組み合わせて設置されるようにしてもよい。
【０１７１】
また、車両１００の前方側面部、および後方側面部にステレオカメラシステム１１１が設置される場合、カメラ１３１，１３２として、視野角をやや狭くした狭角度で、かつ、遠方を撮像できるカメラを採用するようにしてもよい。すなわち、車両１００の前方側面部、および後方側面部にステレオカメラシステム１１１が設置される場合、狭角度のカメラを採用することにより、より迅速な交差点内の状況把握を実現することが可能となる。
【０１７２】
さらに、車両１００の中央側面部にステレオカメラシステム１１１が設置される場合、カメラ１３１，１３２として、視野角をやや広くした広角度で、かつ、近傍をよく撮像できるカメラを採用するようにしてもよい。すなわち、車両１００の中央側面部にステレオカメラシステム１１１が設置される場合、広角度のカメラを採用することにより、前方および後方を含めた広い範囲の側方における状況把握を実現することが可能となる。
【０１７３】
＜＜３．応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
【０１７４】
図１６は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図１６に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller  Area  Network）、ＬＩＮ（Local  Interconnect  Network）、ＬＡＮ（Local  Area  Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
【０１７５】
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図１６では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
【０１７６】
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock  Brake  System）又はＥＳＣ（Electronic  Stability  Control）等の制御装置としての機能を有してもよい。
【０１７７】
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
【０１７８】
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【０１７９】
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
【０１８０】
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time  Of  Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
【０１８１】
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light  Detection  and  Ranging、Laser  Imaging  Detection  and  Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
【０１８２】
ここで、図１７は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【０１８３】
なお、図１７には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
【０１８４】
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
【０１８５】
図１６に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
【０１８６】
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
【０１８７】
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
【０１８８】
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal  Digital  Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
【０１８９】
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read  Only  Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random  Access  Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard  Disc  Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
【０１９０】
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global  System  of  Mobile  communications）、ＷｉＭＡＸ、ＬＴＥ（Long  Term  Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer  To  Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine  Type  Communication）端末）と接続してもよい。
【０１９１】
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless  Access  in  Vehicle  Environment）、ＤＳＲＣ（Dedicated  Short  Range  Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle  to  Vehicle）通信、路車間（Vehicle  to  Infrastructure）通信、車両と家との間（Vehicle  to  Home）の通信及び歩車間（Vehicle  to  Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
【０１９２】
測位部７６４０は、例えば、ＧＮＳＳ（Global  Navigation  Satellite  System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global  Positioning  System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
【０１９３】
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
【０１９４】
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）又はＷＵＳＢ（Wireless  USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal  Serial  Bus）、ＨＤＭＩ（High-Definition  Multimedia  Interface）、又はＭＨＬ（Mobile  High-definition  Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
【０１９５】
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
【０１９６】
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced  Driver  Assistance  System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
【０１９７】
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
【０１９８】
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図１６の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented  Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
【０１９９】
なお、図１６に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
【０２００】
なお、図１を用いて説明した本実施形態に係る撮像制御部１１および情報処理部１３の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
【０２０１】
以上説明した車両制御システム７０００において、図１を用いて説明した本実施形態に係る撮像制御部１１および情報処理部１３は、図１６に示した応用例の統合制御ユニット７６００に適用することができる。例えば、撮像制御部１１のステレオ距離計測部１５１Ａ，１５１Ｂ、統合部１５２は、統合制御ユニット７６００のマイクロコンピュータ７６１０に相当する。例えば、統合制御ユニット７６００がカメラシステム１０により撮像された画像に基づいて、距離データおよび周辺画像データ取得処理を実行することにより、周辺の対象物との距離データおよび周辺画像データを取得することができる。
【０２０２】
また、図１を用いて説明した撮像制御部１１および情報処理部１３の少なくとも一部の構成要素は、図１６に示した統合制御ユニット７６００のためのモジュール（例えば、一つのダイで構成される集積回路モジュール）において実現されてもよい。あるいは、図１を用いて説明した撮像制御部１１および情報処理部１３が、図１６に示した車両制御システム７０００の複数の制御ユニットによって実現されてもよい。
【０２０３】
尚、本開示は、以下のような構成も取ることができる。
＜１＞  移動体に搭載され、ステレオカメラシステムを構成する１組のカメラと、
前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含み、
前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す
撮像制御装置。
＜２＞  前記１組のカメラは、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に順に画素信号を読み出す
＜１＞に記載の撮像制御装置。
＜３＞  前記１組のカメラは、それぞれ前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出す
＜２＞に記載の撮像制御装置。
＜４＞  前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設され、前記移動体の左右のそれぞれの前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向、または、上から下方向に順次画素信号を読み出す
＜３＞に記載の撮像制御装置。
＜５＞  前記１組のカメラは、前記移動体の左右の側面のそれぞれに、かつ、前記路面に対して垂直方向に並べて配設され、前記移動体の左右の一方の前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に下から上方向に順次画素信号を読み出し、左右の他方の前記１組のカメラが、前記移動体の前方側の画素の列から順に、かつ、各列について、垂直方向に上から下方向に順次画素信号を読み出す
＜３＞に記載の撮像制御装置。
＜６＞  前記１組のカメラは、前記移動体の前方の左右のそれぞれの側面、前記移動体の中央の左右のそれぞれの側面、および前記移動体の後方の左右のそれぞれの側面の少なくともいずれかに、それぞれ前記路面に対して垂直方向に視差が生じるように並べて配設される
＜１＞乃至＜５＞のいずれかに記載の撮像制御装置。
＜７＞  前記１組のカメラが、前記移動体の前方の左右のそれぞれ側面、または、前記移動体の後方の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも狭角度のカメラである
＜６＞に記載の撮像制御装置。
＜８＞  前記１組のカメラが、前記移動体の中央の左右のそれぞれの側面に、前記路面に対して垂直方向に並べて配設される場合、前記カメラは、それぞれ所定の角度よりも広角度のカメラである
＜６＞のいずれかに記載の撮像制御装置。
＜９＞  前記カメラの画素の配置は、水平方向の幅が、垂直方向の幅よりも長くなるように、アレイ状に配置される
＜１＞乃至＜８＞のいずれかに記載の撮像制御装置。
＜１０＞  前記カメラの画素の配置は、前記水平方向の幅と、前記垂直方向の幅との比が、略１６：９または略４：３となるようにアレイ状に配置される
＜９＞に記載の撮像制御装置。
＜１１＞  移動体に搭載され、ステレオカメラシステムを構成する１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部を含む撮像制御装置の制御方法であって、
前記１組のカメラが、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す
ステップを含む撮像制御装置の制御方法。
＜１２＞  移動体に搭載されたステレオカメラシステムを構成する１組のカメラと、
前記１組のカメラにより撮像された画像に基づいて、検出範囲における観測点の距離を検出する検出部とを有し、
前記１組のカメラは、前記移動体の側面で、かつ、路面に対して垂直方向に並べて配設され、撮像される画素信号を、アレイ状に配置された画素単位で垂直方向に順次読み出す撮像制御装置
を備えた移動体。
【符号の説明】
【０２０４】
１  車載システム，  １０  カメラシステム，  １１  撮像制御部，  １２  車両情報センサ，  １３  情報処理部，  １４  表示部，  １５  制動制御部，  １６  制動装置，  ３１  周辺状況検出部，  ３２  動き予測部，  ３３  衝突予測部，  ３４  ＨＭＩ制御部，  １００  車両，  １１１，１１１Ａ，１１１Ｂ  ステレオカメラシステム，  １３１，１３１Ａ，１３１Ｂ，１３２，１３２Ａ，１３２Ｂ  カメラ，  １５１，１５１Ａ，１５１Ｂ  ステレオ距離計測部，  １５２  統合部，  １７１，１７２  画像補正部，  １７３  ステレオ画像処理部
【図１】
2018180579.tif 000003
【図２】
2018180579.tif 000004
【図３】
2018180579.tif 000005
【図４】
2018180579.tif 000006
【図５】
2018180579.tif 000007
【図６】
2018180579.tif 000008
【図７】
2018180579.tif 000009
【図８】
2018180579.tif 000010
【図９】
2018180579.tif 000011
【図１０】
2018180579.tif 000012
【図１１】
2018180579.tif 000013
【図１２】
2018180579.tif 000014
【図１３】
2018180579.tif 000015
【図１４】
2018180579.tif 000016
【図１５】
2018180579.tif 000017
【図１６】
2018180579.tif 000018
【図１７】
2018180579.tif 000019
【国際調査報告】
2018180579.tif 000020
2018180579.tif 000021
2018180579.tif 000022
2018180579.tif 000023