(57)【要約】【課題】複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像する。【解決手段】第１の画素アレイ部には、第１の画素信号を生成する第１の画素が配列される。第２の画素アレイ部には、第２の画素信号を生成する第２の画素が配列される。第１の設定部は、適正露出値に基づいて露光時間と第１の画素信号に対する第１のゲインとを設定する。第２の設定部は、第１の画素アレイ部が設けられた第１の単眼カメラモジュールと第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて第１のゲインを調整して第２の画素信号に対する第２のゲインとして設定する。制御部は、露光時間に亘って前記第１および第２の画素アレイ部を露光させる。増幅部は、出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する。【選択図】図１１
2018170656.tif 000002
【特許請求の範囲】
【請求項１】
第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と
を具備する撮像装置。
【請求項２】
前記適正露出値は、前記第１の画素信号から演算された第１の適正露出値と前記第２の画素信号から演算された第２の適正露出値とを含み、
前記第１の設定部は、前記第１の適正露出値に基づいて前記露光時間と前記第１のゲインとを設定し、
前記第２の設定部は、前記第１の適正露出値と前記感度差と前記露光時間とから前記第２のゲインを演算する
請求項１記載の撮像装置。
【請求項３】
前記第２の設定部は、前記第１の適正露出値と前記感度差と前記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと前記露光時間とから新たな露光時間を取得するとともに前記第２のゲインを零に設定し、
前記第１の設定部は、前記新たな露光時間が取得された場合には前記新たな露光時間と前記第１の適正露出値とから演算したゲインを前記第１のゲインとして設定する
請求項２記載の撮像装置。
【請求項４】
前記第２の設定部は、
前記第１の適正露出値と前記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、
前記基準露出値に基づいて前記第２の適正露出値を補正して補正済み適正露出値として出力する補正部と、
前記補正済み適正露出値と前記露光時間を露出値に換算した値との差分から前記第２のゲインを演算するゲイン演算部と
を備える請求項２記載の撮像装置。
【請求項５】
前記補正部は、前記基準露出値を含む所定の許容範囲内の値に前記第２の適正露出値を補正する請求項４記載の撮像装置。
【請求項６】
前記補正部は、前記基準露出値と前記第２の適正露出値とを重み付け加算した値を前記基準露出値を含む所定の許容範囲内の値に補正する
請求項４記載の撮像装置。
【請求項７】
前記第１の画素は、互いに異なる波長の光を受光する複数の画素を含み、
前記第２の画素のそれぞれは、同一の波長の光を受光する
請求項１記載の撮像装置。
【請求項８】
光を集光して前記第１の画素アレイ部に導く第１の撮像レンズと、
光を集光して前記第２の画素アレイ部に導く第２の撮像レンズと
をさらに具備し、
前記第１の撮像レンズは、前記第２の撮像レンズと画角が異なる
請求項１記載の撮像装置。
【請求項９】
前記第１および第２の画素信号を第１および第２の画素データに変換するアナログデジタル変換部とをさらに具備し、
前記第１のゲインは、第１のアナログゲインと第１のデジタルゲインとを含み、
前記第２のゲインは、第２のアナログゲインと第２のデジタルゲインとを含み、
前記増幅部は、
前記第１および第２の画素信号を第１および第２のアナログゲインにより増幅するアナログ信号増幅部と、
前記第１および第２の画素データを第１および第２のデジタルゲインにより増幅するデジタル信号増幅部とを備える
請求項１記載の撮像装置。
【請求項１０】
第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と、
前記第１および第２の画素信号から生成された画像データを出力する画像出力部と
を具備する撮像モジュール。
【請求項１１】
第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と、
前記第１および第２の画素信号から生成された画像データを記録する記録部と
を具備する撮像システム。
【請求項１２】
第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部とのうち前記第２の画素アレイ部からの前記第１の画素信号に対する第１のゲインと露光時間とを適正露出値に基づいて設定する第１の設定手順と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素信号に対する第２のゲインとして設定する第２の設定手順と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御手順と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅手順と
を具備する撮像装置の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は、撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法に関する。詳しくは、複数の撮像素子を設けた複眼の撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法に関する。
【背景技術】
【０００２】
従来より、複数の画像データを同時に撮像するために、複数の撮像素子を設けた複眼型の撮像装置が用いられている。例えば、２つの撮像素子により、同一のアナログゲインおよびシャッタースピードを用いて２枚の撮像データを同時に撮像する２眼型の撮像装置が提案されている（例えば、特許文献１参照。）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−２９５５０６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述の従来技術では、２つの撮像素子の画素の感度が同一である場合には、同一の撮像条件により、同一の画質の２枚の画像データを撮像することができる。しかしながら、カラーフィルタの有無などの光学的条件の相違や、製品ばらつきなどに起因して撮像素子のそれぞれの画素の感度が異なる場合には、２枚の画像データの明るさが揃わないおそれがある。また、感度のほか、２つの光学系のそれぞれのＦ値が異なる場合にも明るさが揃わないおそれがある。両者の画素の感度やＦ値が異なる場合であっても一方のシャッタースピードを変更して明るさを揃えることはできるが、その場合、シャッタースピードの相違によって動被写体のブレの度合いが異なる画像となってしまう。このように、２つの撮像素子のそれぞれの感度や各光学系の光学特性が異なる場合に、同じ画質の２枚の画像データを撮像することが困難になるという問題がある。
【０００５】
本技術はこのような状況に鑑みて生み出されたものであり、複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像することを目的とする。
【課題を解決するための手段】
【０００６】
本技術は、上述の問題点を解消するためになされたものであり、その第１の側面は、第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、適正露出値に基づいて露光時間と上記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、上記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと上記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて上記第１のゲインを調整して上記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、上記露光時間に亘って上記第１および第２の画素アレイ部を露光させる制御部と、上記出力された第１および第２の画素信号を上記第１および第２のゲインにより増幅する増幅部とを具備する撮像装置および、その制御方法である。これにより、第１および第２の単眼カメラモジュールの感度差に基づいて調整されたゲインにより画素信号が増幅されるという作用をもたらす。
【０００７】
また、この第１の側面において、上記適正露出値は、上記第１の画素信号から演算された第１の適正露出値と上記第２の画素信号から演算された第２の適正露出値とを含み、上記第１の設定部は、上記第１の適正露出値に基づいて上記露光時間と上記第１のゲインとを設定し、上記第２の設定部は、上記第１の適正露出値と上記感度差と上記露光時間とから上記第２のゲインを演算してもよい。これにより、第１の適正露出値と感度差と露光時間とから演算された第２のゲインにより第２の画素信号が増幅されるという作用をもたらす。
【０００８】
また、この第１の側面において、上記第２の設定部は、上記第１の適正露出値と上記感度差と上記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと上記露光時間とから新たな露光時間を取得するとともに上記第２のゲインを零に設定し、上記第１の設定部は、上記新たな露光時間が取得された場合には上記新たな露光時間と上記第１の適正露出値とから演算したゲインを上記第１のゲインとして設定してもよい。これにより、ゲインがマイナス値になる場合には、そのゲインと露光時間とから新たな露光時間が取得されるという作用をもたらす。
【０００９】
また、この第１の側面において、上記第２の設定部は、上記第１の適正露出値と上記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、上記基準露出値に基づいて上記第２の適正露出値を補正して補正済み適正露出値として出力する補正部と、上記補正済み適正露出値と上記露光時間を露出値に換算した値との差分から上記第２のゲインを演算するゲイン演算部とを備えてもよい。これにより、第１の適正露出値と感度差換算値との差分に基づいて第２のゲインが演算されるという作用をもたらす。
【００１０】
また、この第１の側面において、上記補正部は、上記基準露出値を含む所定の許容範囲内の値に上記第２の適正露出値を補正してもよい。これにより、許容範囲内に補正された適正露出値により第２のゲインが演算されるという作用をもたらす。
【００１１】
また、この第１の側面において、上記補正部は、上記基準露出値と上記第２の適正露出値とを重み付け加算した値を上記基準露出値を含む所定の許容範囲内の値に補正してもよい。これにより、重み付け加算した値が許容範囲内の値に補正されるという作用をもたらす。
【００１２】
また、この第１の側面において、上記第１の画素は、互いに異なる波長の光を受光する複数の画素を含み、上記第２の画素のそれぞれは、同一の波長の光を受光してもよい。これにより、モノクロ画像データとカラー画像データとが撮像されるという作用をもたらす。
【００１３】
また、この第１の側面において、光を集光して上記第１の画素アレイ部に導く第１の撮像レンズと、光を集光して上記第２の画素アレイ部に導く第２の撮像レンズとをさらに具備し、上記第１の撮像レンズは、上記第２の撮像レンズと画角が異なるものであってもよい。これにより、画角の異なる２枚の画像データが撮像されるという作用をもたらす。
【００１４】
また、この第１の側面において、上記第１および第２の画素信号を第１および第２の画素データに変換するアナログデジタル変換部とをさらに具備し、上記第１のゲインは、第１のアナログゲインと第１のデジタルゲインとを含み、上記第２のゲインは、第２のアナログゲインと第２のデジタルゲインとを含み、上記増幅部は、上記第１および第２の画素信号を第１および第２のアナログゲインにより増幅するアナログ信号増幅部と、上記第１および第２の画素データを第１および第２のデジタルゲインにより増幅するデジタル信号増幅部とを備えてもよい。これにより、アナログゲインにより増幅された画素信号をアナログデジタル変換した画素データがデジタルゲインにより増幅されるという作用をもたらす。
【００１５】
また、本技術の第２の側面は、第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、適正露出値に基づいて露光時間と上記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、上記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと上記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて上記第１のゲインを調整して上記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、上記露光時間に亘って上記第１および第２の画素アレイ部を露光させる制御部と、上記出力された第１および第２の画素信号を上記第１および第２のゲインにより増幅する増幅部と、上記第１および第２の画素信号から生成された画像データを出力する画像出力部とを具備する撮像モジュールである。これにより、第１および第２の単眼カメラモジュールの感度差に基づいて調整されたゲインにより増幅された画像信号から生成された画像データが出力されるという作用をもたらす。
【００１６】
また、本技術の第３の側面は、第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、適正露出値に基づいて露光時間と上記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、上記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと上記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて上記第１のゲインを調整して上記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、上記露光時間に亘って上記第１および第２の画素アレイ部を露光させる制御部と、上記出力された第１および第２の画素信号を上記第１および第２のゲインにより増幅する増幅部と、上記第１および第２の画素信号から生成された画像データを記録する記録部とを具備する撮像システムである。これにより、第１および第２の単眼カメラモジュールの感度差に基づいて調整されたゲインにより増幅された画像信号から生成された画像データが記録されるという作用をもたらす。
【発明の効果】
【００１７】
本技術によれば、複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１８】
【図１】本技術の第１の実施の形態における撮像装置の一構成例を示すブロック図である。
【図２】本技術の第１の実施の形態における２眼カメラモジュールの外観の構成例を示す図である。
【図３】本技術の第１の実施の形態における２眼カメラモジュールの一構成例を示すブロック図である。
【図４】本技術の第１の実施の形態におけるサブ側固体撮像素子の一構成例を示すブロック図である。
【図５】本技術の第１の実施の形態におけるメイン側固体撮像素子の一構成例を示すブロック図である。
【図６】本技術の第１の実施の形態におけるサブ側画素アレイ部およびメイン側画素アレイ部の平面図の一例である。
【図７】本技術の第１の実施の形態における露光制御部の一構成例を示すブロック図である。
【図８】本技術の第１の実施の形態におけるプログラム線図の一例を示す図である。
【図９】本技術の第１の実施の形態におけるサブ側露光パラメータ設定部の一構成例を示すブロック図である。
【図１０】本技術の第１の実施の形態における画像合成部の一構成例を示すブロック図である。
【図１１】本技術の第１の実施の形態における露光制御に関連する構成をまとめたブロック図である。
【図１２】本技術の第１の実施の形態における露光パラメータの設定方法について説明するための図である。
【図１３】比較例における露光パラメータの設定方法について説明するための図である。
【図１４】本技術の第１の実施の形態における２眼カメラモジュールの動作の一例を示すフローチャートである。
【図１５】本技術の第１の実施の形態におけるメイン側露光制御処理を示すフローチャートである。
【図１６】本技術の第１の実施の形態におけるサブ側露光制御処理を示すフローチャートである。
【図１７】本技術の第１の実施の形態におけるサブ側適正露出値補正処理を示すフローチャートである。
【図１８】本技術の第１の実施の形態の変形例におけるサブ側露光制御処理を示すフローチャートである。
【図１９】本技術の第２の実施の形態における露光制御部の一構成例を示すブロック図である。
【図２０】本技術の第２の実施の形態における露光パラメータの設定方法について説明するための図である。
【図２１】本技術の第２の実施の形態における２眼カメラモジュールの動作の一例を示すフローチャートである。
【図２２】本技術の第２の実施の形態におけるサブ側露光制御処理を示すフローチャートである。
【図２３】本技術の第２の実施の形態における切替制御処理を示すフローチャートである。
【図２４】本技術の第３の実施の形態における２眼カメラモジュールの一構成例を示すブロック図である。
【図２５】本技術の第４の実施の形態における撮像システムの一構成例を示すブロック図である。
【図２６】車両制御システムの概略的な構成の一例を示すブロック図である。
【図２７】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【００１９】
以下、本技術を実施するための形態（以下、実施の形態と称する）について説明する。説明は以下の順序により行う。
１．第１の実施の形態（感度差に基づいてゲインを調整する例）
２．第２の実施の形態（メイン側とサブ側とを切り替え、感度差に基づいてゲインを調整する例）
３．第３の実施の形態（感度差に基づいてゲインを調整して２枚のカラー画像を撮像する例）
４．第４の実施の形態（３眼以上の撮像システムにおいて感度差に基づいてゲインを調整する例）
５．移動体への応用例
【００２０】
＜１．第１の実施の形態＞
［撮像装置の構成例］
図１は、本技術の第１の実施の形態における撮像装置１００の一構成例を示すブロック図である。この撮像装置１００は、画像データを撮像することができる装置であり、カメラモジュール制御部１１０、２眼カメラモジュール２００および記録部１２０を備える。撮像装置１００として、撮像機能を持つスマートフォンやパーソナルコンピュータなどの汎用型の機器や、デジタルスチルカメラやデジタルビデオカメラなどのデジタルカメラが想定される。
【００２１】
カメラモジュール制御部１１０は、ユーザの操作に従って２眼カメラモジュール２００を制御するものである。例えば、カメラモジュール制御部１１０は、ユーザの操作に従い、撮像の開始や停止を指示する制御信号を生成して、信号線１１９を介して２眼カメラモジュール２００に供給する。
【００２２】
２眼カメラモジュール２００は、２つの固体撮像素子により２枚の画像データを同時に撮像するものである。この２眼カメラモジュール２００は、撮像した画像データを信号線２０９を介して記録部１２０に供給する。記録部１２０は、画像データを記録するものである。なお、２眼カメラモジュール２００は、特許請求の範囲に記載の撮像モジュールの一例である。
［２眼カメラモジュールの構成例］
図２は、本技術の第１の実施の形態における２眼カメラモジュールの外観の構成例を示す図である。同図におけるａは、２眼カメラモジュール２００の斜視図であり、同図におけるｂは、２眼カメラモジュール２００の正面図である。
【００２３】
２眼カメラモジュール２００は、複眼方式のカメラモジュールであって、単眼カメラモジュール２０１と単眼カメラモジュール２０２が、矩形の板状の形状からなる連結部材２０３により固定されることで構成される。
【００２４】
単眼カメラモジュール２０１には、ＣＭＯＳ(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子やレンズユニット等が搭載されている。
【００２５】
単眼カメラモジュール２０１において、固体撮像素子は、複数の画素が２次元状に配列される画素部や、画素の駆動やA/D(Analog/Digital)変換等を行う周辺回路部などから構成されている。この固体撮像素子では、レンズユニット内のレンズから入射される光（像光）が画素部の受光面に結像され、結像された像の光が光電変換されることで、画素信号が生成される。
【００２６】
単眼カメラモジュール２０２は、単眼カメラモジュール２０１と同様に、ＣＭＯＳイメージセンサやレンズユニット等が搭載されて構成される。例えば、２眼カメラモジュール２００においては、単眼カメラモジュール２０２をメインカメラとする一方で、単眼カメラモジュール２０１をサブカメラとすることができる。
【００２７】
連結部材２０３は、単眼カメラモジュール２０１のレンズユニットと、単眼カメラモジュール２０２のレンズユニットを並べたときの平面方向のサイズよりも大きな輪郭の矩形の板状の形状からなる。また、連結部材２０３には、単眼カメラモジュール２０１のレンズユニットが挿入される矩形の挿入孔部と、単眼カメラモジュール２０２のレンズユニットが挿入される矩形の挿入孔部とが、対称に貫通形成されている。
【００２８】
２眼カメラモジュール２００においては、連結部材２０３に貫通形成された２つの矩形の挿入孔部に対し、単眼カメラモジュール２０１のレンズユニットと、単眼カメラモジュール２０２のレンズユニットとがそれぞれ挿入されて固定されている。これにより、２眼カメラモジュール２００は、単眼カメラモジュール２０１と単眼カメラモジュール２０２を有する、複眼方式のカメラモジュールとして構成される。２眼カメラモジュール２００は、以上のように構成される。
【００２９】
なお、単眼カメラモジュール２０１と単眼カメラモジュール２０２とは、連結部材２０３により連結される、複数の単眼カメラモジュールの一例であって、以下、それらを特に区別する必要がない場合には、単に、単眼カメラモジュール２０１と称して説明する。
【００３０】
また、単眼カメラモジュールとは、１つの固体撮像素子（イメージセンサ）が搭載されたカメラモジュールである。一方で、２眼カメラモジュールは、２つの単眼カメラモジュールを連結させることで、２つの固体撮像素子（イメージセンサ）が搭載されたカメラモジュールである。ただし、モジュールは、パッケージなどの他の名称で呼ばれる場合がある。
【００３１】
図３は、本技術の第１の実施の形態における２眼カメラモジュール２００の一構成例を示すブロック図である。この２眼カメラモジュール２００は、撮像レンズ２１１および２１２と、サブ側固体撮像素子２２０、メイン側固体撮像素子２４０、測光部２６０、露光制御部２７０、同期信号供給部２８０、画像合成部２９０および画像出力部２１３を備える。
【００３２】
図３における撮像レンズ２１１およびサブ側固体撮像素子２２０は、図２における単眼カメラモジュール２０１内に配置され、図３における撮像レンズ２１２およびメイン側固体撮像素子２４０は、図２における単眼カメラモジュール２０２内に配置される。また、図３における測光部２６０内のメイン側の回路とサブ側の回路とは、図２における単眼カメラモジュール２０１および２０２に分散して配置される。図３における露光制御部２７０、同期信号供給部２８０、画像合成部２９０および画像出力部２１３は、図２における単眼カメラモジュール２０１および２０２のいずれに配置してもよい。
【００３３】
撮像レンズ２１１は、被写体からの光を集光してサブ側固体撮像素子２２０に導くものである。撮像レンズ２１２は、被写体からの光を集光してメイン側固体撮像素子２４０に導くものである。撮像レンズ２１１および２１２のそれぞれの絞りの絞り値は、例えば、固定値である。なお、絞り値が可変で、その値を露光制御部２７０が制御する構成であってもよい。絞り値が可変である場合においては、メイン側およびサブ側のそれぞれの画角および被写界深度を考慮し、メイン側およびサブ側のそれぞれにおいて適切な値となるように絞り値が制御される。
【００３４】
サブ側固体撮像素子２２０は、画像データを撮像するものである。このサブ側固体撮像素子２２０は、色情報を含まない画素データからなる画像データであるモノクロ画像データを撮像する。そして、サブ側固体撮像素子２２０は、モノクロ画像データを測光部２６０および画像合成部２９０に供給する。
【００３５】
メイン側固体撮像素子２４０は、画像データを撮像するものである。このメイン側固体撮像素子２４０は、色情報を含む画素データからなる画像データであるカラー画像データを撮像する。このカラー画像データは、Ｒ（Red）、Ｇ(Green)およびＢ(Blue)の画素データがベイヤ配列により配列されたものであり、ＲＡＷ画像データとも呼ばれる。また、カラー画像データの総画素数は、モノクロ画像データと同じであるものとする。メイン側固体撮像素子２４０は、カラー画像データを測光部２６０および画像合成部２９０に供給する。
【００３６】
測光部２６０は、画像データの輝度値の積算や加重平均などにより、光量を測定するものである。この測光部２６０は、モノクロ画像データを用いてサブ側の光量をサブ側測光量として測定し、カラー画像データを用いてメイン側の光量をメイン側測光量として測定する。そして、測光部２６０は、サブ側測光量およびメイン側測光量を露光制御部２７０に供給する。
【００３７】
露光制御部２７０は、測光部２６０からの測光量に基づいて、露光制御を行うものである。この露光制御部２７０は、測光量から適正露出値を演算し、その適正露出値に基づいて露光時間（言い換えれば、シャッタースピード）と画素信号に対するゲインとを求める。露光制御部２７０の機能は、例えば、ＭＰＵ（Micro-Processing Unit）がプログラムを実行することにより実現することができる。
【００３８】
ここで、ゲインは、アナログの画素信号に対するアナログゲインと、デジタルの画素データに対するデジタルゲインとの少なくとも一方を含む。また、デジタルゲインは、サブ側固体撮像素子２２０およびメイン側固体撮像素子２４０の内部で用いられるデジタルゲインと、それらの外部で用いられるデジタルゲインとの少なくとも一方を含む。以下、サブ側のアナログゲインをＳＡＧとし、メイン側のアナログゲインをＭＡＧとする。また、サブ側固体撮像素子２２０の内部のデジタルゲインをＳＤＧ_ＩＭＧとし、画像合成部２９０で用いられるサブ側のデジタルゲインをＳＤＧ_ＤＳＰとする。メイン側固体撮像素子２４０の内部のデジタルゲインをＭＤＧ_ＩＭＧとし、画像合成部２９０で用いられるメイン側のデジタルゲインをＭＤＧ_ＤＳＰとする。
【００３９】
露光制御部２７０は、アナログゲインＳＡＧおよびデジタルゲインＳＤＧ_ＩＭＧと露光時間とのそれぞれの設定値をサブ側固体撮像素子２２０に供給する。また、露光制御部２７０は、アナログゲインＭＡＧおよびデジタルゲインＭＤＧ_ＩＭＧと露光時間とのそれぞれの設定値をメイン側固体撮像素子２４０に供給する。そして、露光制御部２７０は、デジタルゲインＳＤＧ_ＤＳＰおよびＭＤＧ_ＤＳＰを画像合成部２９０に供給する。
【００４０】
同期信号供給部２８０は、モジュール制御信号に従って所定周波数（例えば、６０ヘルツ）の垂直同期信号ＶＳＹＮＣを生成するものである。この同期信号供給部２８０は、生成した垂直同期信号ＶＳＹＮＣをサブ側固体撮像素子２２０およびメイン側固体撮像素子２４０に供給する。
【００４１】
画像合成部２９０は、モノクロ画像データとカラー画像データとを合成するものである。ベイヤ配列のカラー画像データは、デモザイク処理により補間を行う必要があり、この処理により、Ｇの解像度は、総画素数の１／２となり、ＲおよびＢの解像度は、総画素数の１／４となる。一方、モノクロ画像データでは、デモザイク処理は不要であるため、デモザイク後のカラー画像データよりも解像度が高い。したがって、モノクロ画像データの合成により、カラー画像データで不足する画素情報を補って、合成画像データの画質を、合成しない場合よりも向上させることができる。画像合成部は、合成画像データを画像出力部２１３に供給する。
【００４２】
画像出力部２１３は、合成画像データを記録部１２０に出力するものである。例えば、ＤｉｓｐｌａｙＰｏｒｔなどの内部インターフェースの規格に従って、データを伝送する回路が画像出力部２１３として用いられる。
【００４３】
［サブ側固体撮像素子の構成例］
図４は、本技術の第１の実施の形態におけるサブ側固体撮像素子２２０の一構成例を示すブロック図である。このサブ側固体撮像素子２２０は、ドライバ２２１、サブ側画素アレイ部２３０、アナログ信号増幅部２２２、ＡＤ（Analog to Digital）変換部２２３およびデジタル信号増幅部２２４を備える。
【００４４】
ドライバ２２１は、サブ側画素アレイ部２３０を走査するものである。このドライバ２２１には、垂直同期信号ＶＳＹＮＣに同期したタイミング信号と、サブ側露光時間とが入力される。ドライバ２２１は、タイミング信号に同期してサブ側画素アレイ部２３０内のラインを順に選択し、そのラインをサブ側露光時間に亘って露光させる。
【００４５】
サブ側画素アレイ部２３０には、二次元格子状に複数の画素が配列される。画素のそれぞれは、ドライバ２２１の制御に従って、アナログの画素信号を生成してアナログ信号増幅部２２２に供給する。なお、サブ側画素アレイ部２３０は、特許請求の範囲に記載の第２の画素アレイ部の一例である。
【００４６】
アナログ信号増幅部２２２は、画素信号を増幅するものである。このアナログ信号増幅部２２２には、アナログゲインＳＡＧが入力される。アナログ信号増幅部２２２は、そのアナログゲインＳＡＧにより、サブ側画素アレイ部２３０からの画素信号を増幅してＡＤ変換部２２３に供給する。
【００４７】
ＡＤ変換部２２３は、アナログの画素信号のそれぞれを、デジタルの画素データに変換するものである。このＡＤ変換部２２３は、画素データのそれぞれをデジタル信号増幅部２２４に供給する。
【００４８】
デジタル信号増幅部２２４は、画素データを増幅するものである。このデジタル信号増幅部２２４には、デジタルゲインＳＤＧ_ＩＭＧが入力される。デジタル信号増幅部２２４は、そのデジタルゲインＳＤＧ_ＩＭＧにより画素データを増幅して測光部２６０および画像合成部２９０に出力する。
【００４９】
なお、サブ側固体撮像素子２２０は、上述の増幅処理およびＡＤ変換の他、必要に応じて相関二重サンプリング（CDS：Correlated Double Sampling）処理などの信号処理を実行してモノクロ画像データを生成する。
【００５０】
［メイン側固体撮像素子の構成例］
図５は、本技術の第１の実施の形態におけるメイン側固体撮像素子２４０の一構成例を示すブロック図である。このメイン側固体撮像素子２４０は、ドライバ２４１、メイン側画素アレイ部２５０、アナログ信号増幅部２４２、ＡＤ変換部２４３およびデジタル信号増幅部２４４を備える。
【００５１】
ドライバ２４１は、メイン側露光時間を用いる点以外は、サブ側のドライバ２２１と同様の構成である。メイン側画素アレイ部２５０には、Ｒ、ＧおよびＢ画素がベイヤ配列により設けられる。アナログ信号増幅部２４２は、アナログゲインＭＡＧにより増幅する点以外は、サブ側のアナログ信号増幅部２２２と同様の構成である。デジタル信号増幅部２４４は、デジタルゲインＭＤＧ_ＩＭＧにより増幅する点以外は、サブ側のデジタル信号増幅部２２４と同様の構成である。なお、メイン側画素アレイ部２５０は、特許請求の範囲に記載の第１の画素アレイ部の一例である。
【００５２】
［画素アレイ部の構成例］
図６は、本技術の第１の実施の形態におけるサブ側画素アレイ部２３０およびメイン側画素アレイ部２５０の平面図の一例である。同図におけるａは、サブ側画素アレイ部２３０の平面図の一例であり、同図におけるｂは、メイン側画素アレイ部２５０の平面図の一例である。
【００５３】
サブ側画素アレイ部２３０には、複数の画素２３１が二次元格子状に配列される。そして、画素２３１のそれぞれには、カラーフィルタが設けられない。このため、このサブ側画素アレイ部２３０により、色情報を含まないモノクロ画像データが撮像される。
【００５４】
一方、メイン側画素アレイ部２５０には、所定数のＲ画素２５１、Ｇ画素２５２およびＢ画素２５３がベイヤ配列により二次元格子状に配列される。メイン側画素アレイ部２５０の総画素数は、サブ側画素アレイ部２３０と同じである。Ｒ画素２５１には、赤色の光を透過するカラーフィルタが設けられ、Ｇ画素２５２には、緑色の光を透過するカラーフィルタが設けられる。また、Ｂ画素２５３には、青色の光を透過するカラーフィルタが設けられる。カラーフィルタの透過率は、１００％に満たないため、カラーフィルタを設けたＲ画素２５１、Ｇ画素２５２およびＢ画素２５３の光感度は、画素２３１よりも低い。
【００５５】
このようにメイン側とサブ側との画素の光感度が異なるため、メイン側とサブ側とのそれぞれの単眼カメラモジュール全体の感度は異なる。また、メイン側とサブ側とのそれぞれの光学系の光学特性（Ｆ値など）が異なる場合には、その特性の相違も単眼カメラモジュールの感度差に影響を与える。
【００５６】
［露光制御部の構成例］
図７は、本技術の第１の実施の形態における露光制御部２７０の一構成例を示すブロック図である。この露光制御部２７０は、適正露出値演算部２７１、メイン側露光パラメータ設定部２７２、メモリ２７３およびサブ側露光パラメータ設定部２７４を備える。
【００５７】
適正露出値演算部２７１は、メイン側測光量およびサブ側測光量から、メイン側およびサブ側のそれぞれの適正露出値を演算するものである。適正露出値演算部２７１は、メイン側測光量を所定の関数に入力して、メイン側適正露出値を演算する。また、適正露出値演算部２７１は、サブ側測光量を、その関数に入力して、サブ側適正露出値を演算する。
【００５８】
ここで、「適正露出値」とは、画像データを所望の明るさにするために必要な露出値を意味する。そして、露出値は、一般に、絞り値、露光時間、および、ゲインにより決定される。ここで、前述したように絞り値は固定であるため、適正露出値演算部２７１は、その固定の絞り値を露出値に換算した値をオフセットとして、メイン側適正露出値およびサブ側適正露出値からオフセットを減算する。
【００５９】
適正露出値演算部２７１は、オフセット減算後のメイン側適正露出値をメイン側露光パラメータ設定部２７２およびサブ側露光パラメータ設定部２７４に供給し、オフセット減算後のサブ側適正露出値をサブ側露光パラメータ設定部２７４に供給する。
【００６０】
メイン側露光パラメータ設定部２７２は、メイン側の露光時間およびゲインを設定するものである。このメイン側露光パラメータ設定部２７２は、プログラム線図を参照して、メイン側適正露出値から、メイン側露光時間およびゲインを求める。このゲインは、アナログゲインＭＡＧと、デジタルゲインＭＤＧ_ＩＭＧおよびＭＤＧ_ＤＳＰとの少なくとも１つを含む。これらのうち例えば、アナログゲインＭＡＧが優先的に設定される。アナログゲインＭＡＧのみにより必要なゲインに達する場合には、アナログゲインＭＡＧのみに有意な値が設定される。言い換えれば、アナログゲインＭＡＧに「０」デシベルより大きな値が設定され、デジタルゲインには「０」デシベルに設定される。また、アナログゲインＭＡＧのみではゲインが不足する場合には、デジタルゲインＭＤＧ_ＩＭＧやＭＤＧ_ＤＳＰがさらに設定される。
【００６１】
メイン側露光パラメータ設定部２７２は、メイン側露光時間をサブ側露光パラメータ設定部２７４と、メイン側固体撮像素子２４０とに供給する。また、メイン側露光パラメータ設定部２７２は、アナログゲインＭＡＧおよびデジタルゲインＭＤＧ_ＩＭＧをメイン側固体撮像素子２４０に供給し、デジタルゲインＭＤＧ_ＤＳＰを画像合成部２９０に供給する。なお、メイン側露光パラメータ設定部２７２は、特許請求の範囲に記載の第１の設定部の一例である。
【００６２】
サブ側露光パラメータ設定部２７４は、サブ側の露光時間およびゲインを設定するものである。このサブ側露光パラメータ設定部２７４は、メイン側露光時間と同一の値をサブ側露光時間として設定する。また、サブ側露光パラメータ設定部２７４は、次の式により基準露出値を演算する。
ＳＥＢ＝ＭＥ−Ｄ                                    ・・・式１
上式において、ＳＥＢは、基準露出値を示す。ＭＥは、メイン側適正露出値を示し、Ｄは、単眼カメラモジュール２０１と単眼カメラモジュール２０２との感度差を露出値に換算した値を示す。
【００６３】
そして、サブ側露光パラメータ設定部２７４は、基準露出値ＳＥＢ±ｄＥを許容範囲として設定し、その許容範囲内の値にサブ側適正露出値ＳＥ１を補正して補正済みサブ側適正露出値ＳＥ３とする。次いで、サブ側露光パラメータ設定部２７４は、次の式を使用してサブ側ゲイン換算値を求める。このサブ側ゲイン換算値は、サブ側の画素信号に対するゲインを露出値に換算した値である。
ＳＧＡ＝ＳＥ３−ＳＳＴ                            ・・・式２
上式において、ＳＧＡは、サブ側ゲイン換算値であり、ＳＳＴは、サブ側露光時間換算値である。このサブ側露光時間換算値は、サブ側の露光時間を露出値に換算した値である。なお、上式では、サブ側の方が感度が高いことを前提として減算をおこなっているが、逆にメイン側の方が感度が高い場合には加算が行われる。
【００６４】
サブ側露光パラメータ設定部２７４は、サブ側ゲイン換算値ＳＧＡから、サブ側のアナログゲインＳＡＧ、デジタルゲインＳＤＧ_ＩＭＧおよびデジタルゲインＳＤＧ_ＤＳＰを求めて設定する。そして、サブ側露光パラメータ設定部２７４は、アナログゲインＳＡＧおよびデジタルゲインＭＤＧ_ＩＭＧをサブ側固体撮像素子２２０に供給し、デジタルゲインＳＤＧ_ＤＳＰを画像合成部２９０に供給する。
【００６５】
メモリ２７３は、感度差換算値Ｄ、ｄＥおよびプログラム線図を保持するものである。
【００６６】
図８は、本技術の第１の実施の形態におけるプログラム線図の一例を示す図である。同図における縦軸は、露光時間またはゲインを示し、横軸は適正露出値を示す。また、一点鎖線は、露光時間の軌跡を示し、実線は、ゲインの軌跡を示す。メイン側露光パラメータ設定部２７２は、このプログラム線図を参照して、メイン側適正露出値に対応する、メイン側の露光時間およびゲインを取得することができる。なお、プログラム線図上の軌跡を関数で表し、その関数の係数のみをメモリ２７３が保持する構成であってもよい。また、プログラム線図に基づいて、適正露出値ごとに露光時間およびゲインの組合せを記載したテーブルをメモリ２７３に保持する構成であってもよい。
【００６７】
図９は、本技術の第１の実施の形態におけるサブ側露光パラメータ設定部２７４の一構成例を示すブロック図である。このサブ側露光パラメータ設定部２７４は、演算器２７５、サブ側適正露出値補正部２７６およびサブ側ゲイン演算部２７７を備える。
【００６８】
演算器２７５は、式１を用いて基準露出値ＳＥＢを演算するものである。この演算器２７５は、基準露出値ＳＥＢをサブ側適正露出値補正部２７６に供給する。
【００６９】
サブ側適正露出値補正部２７６は、基準露出値ＳＥＢ±ｄＥを許容範囲として設定し、その許容範囲内の値にサブ側適正露出値ＳＥ１を補正するものである。このサブ側適正露出値補正部２７６は、サブ側適正露出値ＳＥ１が許容範囲外の値であれば、基準露出値＋ｄＥまたは基準露出値−ｄＥを補正済みサブ側適正露出値ＳＥ３としてサブ側ゲイン演算部２７７に供給する。一方、サブ側適正露出値ＳＥ１が許容範囲内の値であれば、サブ側適正露出値補正部２７６は、サブ側適正露出値ＳＥ１をそのまま、補正済みサブ側適正露出値ＳＥ３としてサブ側ゲイン演算部２７７に供給する。なお、サブ側適正露出値補正部２７６は、特許請求の範囲に記載の補正部の一例である。
【００７０】
サブ側ゲイン演算部２７７は、式２により、サブ側のゲインを演算するものである。なお、サブ側ゲイン演算部２７７は、特許請求の範囲に記載のゲイン演算部の一例である。
【００７１】
［画像合成部の構成例］
図１０は、本技術の第１の実施の形態における画像合成部２９０の一構成例を示すブロック図である。この画像合成部２９０は、デジタル信号増幅部２９１および２９２と、合成処理部２９３とを備える。デジタル信号増幅部２９１および２９２は、例えば、ＤＳＰ（Digital Signal Processing）回路により実現される。
【００７２】
デジタル信号増幅部２９１は、サブ側のモノクロ画像データ内の画素データのそれぞれをデジタルゲインＳＤＧ_ＤＳＰにより増幅するものである。このデジタル信号増幅部２９１は、増幅後のモノクロ画像データを合成処理部２９３に供給する。
【００７３】
デジタル信号増幅部２９２は、サブ側のカラー画像データ内の画素データのそれぞれをデジタルゲインＭＤＧ_ＤＳＰにより増幅するものである。このデジタル信号増幅部２９２は、増幅後のカラー画像データを合成処理部２９３に供給する。なお、画像合成部２９０においては、デジタル信号増幅部２９１および２９２による増幅合成の他、ホワイトバランス補正や、デモザイク処理などの様々なデジタル信号処理が必要に応じて実行される。
【００７４】
合成処理部２９３は、増幅後のモノクロ画像データおよびカラー画像データを合成して合成画像データを生成するものである。合成処理部２９３は、合成画像データを画像出力部２１３に供給する。
【００７５】
図１１は、本技術の第１の実施の形態における露光制御に関連する構成をまとめたブロック図である。適正露出値演算部２７１は、サブ側測光量およびメイン側測光量に基づいて、サブ側適正露出値およびメイン側適正露出値を演算する。
【００７６】
メイン側露光パラメータ設定部２７２は、メイン側適正露出値から、メイン側の露光時間およびゲインを求めて設定する。サブ側露光パラメータ設定部２７４は、メイン側と同一の露光時間をサブ側に設定し、感度差に基づいてゲインを調整してサブ側に設定する。
【００７７】
ドライバ２２１は、サブ側露光時間に亘ってサブ側画素アレイ部２３０を露光させ、ドライバ２４１は、メイン側露光時間に亘ってメイン側画素アレイ部２５０を露光させる。なお、ドライバ２２１および２４１を含む回路は、特許請求の範囲に記載の制御部の一例である。
【００７８】
そして、アナログ信号増幅部２２２は、サブ側画素アレイ部２３０からの画素信号をサブ側のアナログゲインにより増幅し、アナログ信号増幅部２４２は、メイン側画素アレイ部２５０からの画素信号をメイン側のアナログゲインにより増幅する。なお、アナログ信号増幅部２２２および２４２を含む回路は、特許請求の範囲に記載の増幅部の一例である。
【００７９】
図１２は、本技術の第１の実施の形態における露光パラメータの設定方法について説明するための図である。適正露出値演算部２７１は、サブ側適正露出値およびメイン側適正露出値を演算する。メイン側露光パラメータ設定部２７２は、プログラム線図を参照して、メイン側適正露出値に対応する露光時間およびゲインを求めてメイン側に設定する。
【００８０】
そして、サブ側露光パラメータ設定部２７４は、メイン側適正露出値から感度差換算値を減算して基準露出値とする。そして、この基準露出値±ｄＥの許容範囲内の値にサブ側適正露出値を補正する。例えば、図１２においては、サブ側適正露出値が、許容範囲の最大値よりも大きい。この場合にサブ側露光パラメータ設定部２７４は、その最大値に露出値を制限して補正済み適正露出値とする。
【００８１】
メイン側とサブ側との視差や画角の違いにより、サブ側とメイン側との明るさの差が大きくなることがあるが、このような場合であっても許容範囲内に適正露出値を制限することにより、メイン側とサブ側との露出値の乖離を抑制することができる。また、画像合成部２９０の仕様により、メイン側とサブ側との露出量の差が一定以下でないと合成することができない場合、仕様に応じた許容範囲の設定により、その仕様の要求を満たすことができる。
【００８２】
また、サブ側露光パラメータ設定部２７４は、メイン側露光時間と同じ値をサブ側露光時間に設定する。そして、サブ側露光パラメータ設定部２７４は、補正済み適正露出値から、サブ側露光時間の換算値を減じてサブ側ゲイン換算値を求め、サブ側のゲインを設定する。
【００８３】
上述の露光制御により、メイン側と同じ露光時間がサブ側に設定される。また、感度差に基づいてメイン側のゲインを調整した値が、サブ側のゲインとして設定される。これにより、撮像装置１００は、同じ明るさのモノクロ画像データおよびカラー画像データを撮像することができる。
【００８４】
なお、サブ側露光パラメータ設定部２７４は、サブ側適正露出値を、許容範囲内に制限しているが、サブ側適正露出値を用いず、メイン側適正露出値から感度差換算値およびサブ側露光時間換算値を減算した値をそのままサブ側ゲイン換算値として用いてもよい。
【００８５】
図１３は、比較例における露光パラメータの設定方法について説明するための図である。この比較例では、撮像装置は、感度差を考慮せずに、メイン側とサブ側とで別個に、適正露出値から露光時間およびゲインを設定するものとする。
【００８６】
比較例の撮像装置は、プログラム線図を参照して、メイン側適正露出値に対応する露光時間およびゲインを求めてメイン側に設定する。また、この撮像装置は、プログラム線図を参照して、サブ側適正露出値に対応する露光時間およびゲインを求めてサブ側に設定する。
【００８７】
メイン側とサブ側とで感度が異なる場合、同じ撮像条件であっても、メイン側とサブ側とで異なる測光量が得られるため、メイン側適正露出値とサブ側適正露出値とは異なる値になる。このため、メイン側とサブ側とで異なる露光時間が設定されることがある。この場合には、明るさが略同一であるものの、露光時間の相違により、動被写体のブレ量の異なる２枚の画像データが撮像される。この結果、合成画像データの画質が低下してしまう。
【００８８】
撮像装置が、メイン側の適正露出値をそのままサブ側に適用すれば、露光時間およびゲインをメイン側とサブ側とで同一にすることができる。しかしながら、メイン側とサブ側とで感度差があるため、同一の露光時間およびゲインを設定すると、２枚の画像データの明るさが異なるものとなってしまう。
【００８９】
これに対して、撮像装置１００では、メイン側とサブ側とで露光時間を同じ値に設定し、感度差に基づいてサブ側のゲインを調整するため、メイン側とサブ側とで、画像データの明るさと露光時間とを略同一に揃えることができる。これにより、合成画像データの画質を向上させることができる。
【００９０】
［２眼カメラモジュールの動作例］
図１４は、本技術の第１の実施の形態における２眼カメラモジュール２００の動作の一例を示すフローチャートである。この動作は、例えば、カメラモジュール制御部１１０により撮像開始が指示されたときに開始される。
【００９１】
２眼カメラモジュール２００は、メイン側とサブ側とで測光し、メイン側測光量およびサブ側測光量を生成する（ステップＳ９０１）。そして、２眼カメラモジュール２００は、メイン側の露光パラメータを設定するためのメイン側露光制御処理を実行し（ステップＳ９１０）、サブ側の露光パラメータを設定するためのサブ側露光制御処理を実行する（ステップＳ９２０）。
【００９２】
そして、２眼カメラモジュール２００は、設定した露光パラメータに基づいて、カラー画像およびモノクロ画像を撮像する（ステップＳ９０２）。２眼カメラモジュール２００は、設定されたゲインにより画素信号を増幅し（ステップＳ９０３）、２枚の画像を合成する合成処理を実行する（ステップＳ９０４）。
【００９３】
図１５は、本技術の第１の実施の形態におけるメイン側露光制御処理を示すフローチャートである。露光制御部２７０は、メイン側測光量からメイン側適正露出値を演算する（ステップＳ９１１）。そして、露光制御部２７０は、プログラム線図を参照し、メイン側適正露出値に対応するゲインを求めてメイン側に設定し（ステップＳ９１２）、また、対応する露光時間を求めてメイン側に設定する（ステップＳ９１３）。ステップＳ９１３の後に露光制御部２７０は、メイン側露光制御処理を終了する。
【００９４】
図１６は、本技術の第１の実施の形態におけるサブ側露光制御処理を示すフローチャートである。露光制御部２７０は、サブ側測光量からサブ側適正露出値を演算する（ステップＳ９２１）。そして、露光制御部２７０は、メイン側適正露出値と感度差換算値との差分を基準露出値として演算し（ステップＳ９２２）、サブ側適正露出値を補正するためのサブ側適正露出値補正処理を実行する（ステップＳ９３０）。露光制御部２７０は、メイン側と同じ露光時間をサブ側に設定し（ステップＳ９２３）、補正済みサブ側適正露出値とサブ側露光時間換算値との差分からサブ側のゲインを求めて設定する（ステップＳ９２４）。ステップＳ９２４の後に露光制御部２７０は、サブ側露光制御処理を終了する。
【００９５】
図１７は、本技術の第１の実施の形態におけるサブ側適正露出値補正処理を示すフローチャートである。露光制御部２７０は、サブ側適正露出値が、基準露出値＋ｄＥよりも大きいか否かを判断する（ステップＳ９３１）。サブ側適正露出値が基準露出値＋ｄＥよりも大きい場合に（ステップＳ９３１：Ｙｅｓ）、露光制御部２７０は、基準露出値＋ｄＥの値を補正済みサブ側適正露出値とする（ステップＳ９３２）。
【００９６】
一方、サブ側適正露出値が基準露出値＋ｄＥ以下の場合に（ステップＳ９３１：Ｎｏ）、露光制御部２７０は、サブ側適正露出値が基準露出値−ｄＥよりも小さいか否かを判断する（ステップＳ９３３）。サブ側適正露出値が基準露出値−ｄＥよりも小さい場合に（ステップＳ９３３：Ｙｅｓ）、露光制御部２７０は、基準露出値−ｄＥの値を補正済みサブ側適正露出値とする（ステップＳ９３４）。
【００９７】
一方、サブ側適正露出値が基準露出値−ｄＥ以上の場合に（ステップＳ９３３：Ｎｏ）、露光制御部２７０は、サブ側適正露出値をそのまま補正済みサブ側適正露出値とする（ステップＳ９３５）。ステップＳ９３２、Ｓ９３４またはＳ９３５の後に露光制御部２７０は、サブ側適正露出値補正処理を終了する。
【００９８】
このように、本技術の第１の実施の形態によれば、撮像装置１００は、メイン側およびサブ側の露光時間を同一にし、感度差に基づいて調整してゲインを調整するため、同一の露光時間により同じ明るさの２枚の画像を撮像することができる。
【００９９】
［変形例］
上述の第１の実施の形態では、撮像装置１００は、メイン側適正露出値から求めた基準露出値±ｄＥ内にサブ側適正露出値を補正していたが、この方法では、サブ側のゲインの設定においてサブ側適正露出値の反映の度合いを調整することができない。撮像装置１００が基準露出値とサブ側適正露出値とを重み付け加算すれば、重み係数の調整により、サブ側適正露出値の反映の度合いを変更することができる。この第１の実施の形態の変形例の撮像装置１００は、基準露出値とサブ側適正露出値とを重み付け加算する点において第１の実施の形態と異なる。
【０１００】
図１８は、本技術の第１の実施の形態の変形例におけるサブ側露光制御処理を示すフローチャートである。この第１の実施の形態の変形例のサブ側露光制御処理は、ステップＳ９２５をさらに実行する点において第１の実施の形態と異なる。
【０１０１】
露光制御部２７０は、式１により基準露出値ＳＥＢを計算し（ステップＳ９２２）、次の式による重み付け加算を行って重み付け加算値ＳＥ２を演算する（ステップＳ９２５）。
ＳＥ２＝（Ａ×ＳＥＢ＋Ｂ×ＳＥ１）／（Ａ＋Ｂ）        ・・・式３
上式において、ＡおよびＢは、重み係数であり、実数が設定される。
【０１０２】
そして、露光制御部２７０は、サブ側適正露出値補正処理において、基準露出値ＳＥＢ±ｄＥ内の値に重み付け加算値ＳＥ２を補正して補正済みサブ側適正露出値ＳＥ３とする（ステップＳ９３０）。
【０１０３】
メイン側とサブ側との視差や画角の影響により、メイン側とサブ側との測光エリアがずれてしまうことがあり、その影響を抑制するために重み係数が調整される。例えば、サブ側の測光エリアがメイン側に対してずれているが、エリアの一部が一致する場合には、そのずれ量に応じて、重み係数ＡおよびＢが設定される。例えば、重み係数Ａに「１」、重み係数Ｂに「２」が設定される。
【０１０４】
また、サブ側の測光エリアが、メイン側に対して完全にずれている場合には、重み係数Ａに「０」、重み係数Ｂに「１」が設定される。また、メイン側の測光エリアがサブ側とで一致している場合には、重み係数Ａに「１」、重み係数Ｂに「０」が設定される。
【０１０５】
また、メイン側とサブ側との視差や画角の影響の他、画像合成部２９０の仕様に応じて、重み係数が調整される。例えば、画像合成部２９０の仕様上、メイン側とサブ側との露出量の完全一致が要求されている場合、重み係数Ａに「１」、重み係数Ｂに「０」が設定される。また、サブ側の露出量が重視される場合には、重み係数Ｂに「０」以外の値が設定される。例えば、重み係数Ａに「０」や「２」、重み係数Ｂに「１」が設定される。
【０１０６】
このように、本技術の第１の実施の形態の変形例では、撮像装置１００は、メイン側適正露出値ＳＥＢおよびサブ側適正露出値ＳＥ１の重み付け加算を行うため、サブ側の設定におけるサブ側適正露出値の反映の度合いを調整することができる。
【０１０７】
＜２．第２の実施の形態＞
上述の第１の実施の形態では、メイン側適正露出値からメイン側の露光時間およびゲインを演算し、露光時間に合わせてサブ側のゲインを演算していた。しかし、この演算方法では、サブ側のゲインをマイナス値にしないと露出値がメイン側に一致しなくなることがある。一般的な固体撮像素子では、増幅のためのアンプは設けられているが、減衰のための素子や回路は設けられていないため、マイナス値のゲインを設定することができない。この場合には、サブ側でゲインがマイナス値にならないように露光時間を設定し、そのサブ側の露光時間をメイン側に適用すればよい。この第２の実施の形態の撮像装置１００は、サブ側のゲインがマイナス値になるときにサブ側の露光時間をメイン側に適用する点において第１の実施の形態と異なる。
【０１０８】
図１９は、本技術の第２の実施の形態における露光制御部２７０の一構成例を示すブロック図である。この第２の実施の形態の露光制御部２７０の構成は、メイン側露光パラメータ設定部２７２の代わりにメイン側露光パラメータ設定部２７８を備える点において第１の実施の形態と異なる。また、第２の実施の形態の露光制御部２７０の構成は、サブ側露光パラメータ設定部２７４の代わりにサブ側露光パラメータ設定部２７９を備える点において第１の実施の形態と異なる。
【０１０９】
サブ側露光パラメータ設定部２７９は、第１の実施の形態と同様の方法でサブ側のゲインを求め、そのゲインがマイナス値になるか否かを判断する。マイナス値になる場合にサブ側露光パラメータ設定部２７９は、そのマイナスのサブ側ゲイン換算値と、メイン側露光時間換算値とを加算した値をサブ側露光時間換算値として求める。すなわち、サブ側露光パラメータ設定部２７９は、マイナスのゲインの分だけ、露光時間を短くする。また、サブ側のゲインは「０」デシベル（ｄＢ）に設定される。そして、サブ側露光パラメータ設定部２７９は、メイン側露光パラメータ設定部２７８に、サブ側露光時間換算値を供給する。
【０１１０】
サブ側露光時間換算値を受け取るとメイン側露光パラメータ設定部２７８は、サブ側と同じ露光時間をメイン側に設定する。そして、メイン側露光パラメータ設定部２７８は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する。
【０１１１】
図２０は、本技術の第２の実施の形態における露光パラメータの設定方法について説明するための図である。露光制御部２７０は、プログラム線図を参照してメイン側適正露出値からメイン側の露光時間およびゲインを設定する。そして、露光制御部２７０は、サブ側の露光時間をサブ側と同一とした際のサブ側のゲインを演算する。ここで、サブ側のゲインがマイナス値となることがある。例えば、メイン側露光時間換算値がサブ側適正露出値より大きいと、サブ側のアナログゲインをマイナス値にしないと、露出値がメイン側に一致しなくなってしまう。
【０１１２】
そのような場合に露光制御部２７０は、マイナスのサブ側ゲイン換算値と、メイン側露光時間換算値とを加算した値をサブ側露光時間換算値として求める。次いで露光制御部２７０は、サブ側露光時間換算値に対応する露光時間をサブ側に設定し、メイン側にもサブ側と同一の露光時間を設定する。そして、露光制御部２７０は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する。また、露光制御部２７０は、サブ側のゲインを「０」デシベル（ｄＢ）に設定する。
【０１１３】
図２１は、本技術の第２の実施の形態における２眼カメラモジュール２００の動作の一例を示すフローチャートである。この第２の実施の形態の２眼カメラモジュール２００の動作は、ステップＳ９０５およびＳ９５０をさらに実行する点において第１の実施の形態と異なる。
【０１１４】
２眼カメラモジュール２００は、サブ側露光制御処理（ステップＳ９２０）の後に、切替フラグがオンであるか否かを判断する（ステップＳ９０５）。切替フラグがオンである場合に（ステップＳ９０５：Ｙｅｓ）、２眼カメラモジュール２００は、サブ側の露光時間をメイン側に適用するための切替制御処理を実行する（ステップＳ９５０）。
【０１１５】
切替フラグがオフである場合に（ステップＳ９０５：Ｎｏ）、またはＳ９５０の後に２眼カメラモジュール２００は、ステップＳ９０２以降の処理を実行する。
【０１１６】
図２２は、本技術の第２の実施の形態におけるサブ側露光制御処理を示すフローチャートである。この第２の実施の形態のサブ側露光制御処理は、ステップＳ９２４乃至Ｓ９２８をさらに実行する点において第１の実施の形態と異なる。露光制御部２７０は、サブ側のゲインを設定し（ステップＳ９２４）、そのゲインがマイナス値であるか否かを判断する（ステップＳ９２５）。
【０１１７】
ゲインがマイナス値でない場合に（ステップＳ９２５：Ｎｏ）、露光制御部２７０は、切替フラグをオフにし（ステップＳ９２６）、メイン側と同じ露光時間をサブ側に設定する（ステップＳ９２３）。一方、ゲイン換算値がマイナス値である場合に（ステップＳ９２５：Ｙｅｓ）、露光制御部２７０は、切替フラグをオンにする（ステップＳ９２７）。そして、露光制御部２７０は、メイン側適正露出値と感度差換算値との差分に対応するゲインをサブ側に設定し、サブ側のゲインを「０」デシベル（ｄＢ）に設定する（ステップＳ９２８）。ステップＳ９２３またはＳ９２８の後に露光制御部２７０は、メイン側露光制御処理を終了する。なお、第２の実施の形態において、重み付け加算を行う変形例を適用することもできる。
【０１１８】
図２３は、本技術の第２の実施の形態における切替制御処理を示すフローチャートである。露光制御部２７０は、サブ側と同一の露光時間をメイン側に設定する（ステップＳ９５１）。また、露光制御部２７０は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する（ステップＳ９５２）。ステップＳ９５２の後に露光制御部２７０は、切替制御処理を終了する。
【０１１９】
このように、本技術の第２の実施の形態では、露光制御部２７０は、サブ側のゲインがマイナス値になる場合に、サブ側の露光時間を短くしてメイン側に適用するため、サブ側のゲインがマイナス値になる場合であっても明るさを揃えることができる。
【０１２０】
＜３．第３の実施の形態＞
上述の第１の実施の形態では、撮像装置１００は、カラーフィルタを設けないサブ側固体撮像素子２２０とカラーフィルタを設けたメイン側固体撮像素子２４０とによりモノクロ画像データおよびカラー画像データを撮像して合成していた。しかし、この構成では、合成する２枚の画像の両方をいずれもカラー画像とするアプリケーションを実行することができない。２枚のカラー画像データを撮像する際には、サブ側固体撮像素子２２０にもカラーフィルタを設ければよい。この第３の実施の形態の２眼カメラモジュール２００は、２枚のカラー画像データを撮像して合成する点において第１の実施の形態と異なる。
【０１２１】
図２４は、本技術の第３の実施の形態における２眼カメラモジュール２００の一構成例を示すブロック図である。この第３の実施の形態の２眼カメラモジュール２００は、撮像レンズ２１１および２１２の代わりに、望遠レンズ２１４および広角レンズ２１５を設け、サブ側固体撮像素子２２０にカラーフィルタを設けた点において第１の実施の形態と異なる。
【０１２２】
望遠レンズ２１４は、広角レンズ２１５よりも画角が狭いレンズである。この望遠レンズ２１４は、集光した光をサブ側固体撮像素子２２０に導く。広角レンズ２１５は、望遠レンズ２１４よりも画角が広いレンズである。この広角レンズ２１５は、集光した光をメイン側固体撮像素子２４０に導く。
【０１２３】
また、サブ側固体撮像素子２２０およびメイン側固体撮像素子２４０のいずれにもカラーフィルタが設けられているが、メイン側とサブ側とで画素の感度が異なるものとする。
【０１２４】
第３の実施の形態の画像合成部２９０は、ユーザが所定値Ｔｈ１以上にズーム倍率を上げる操作を行った際に、合成せずに望遠側のカラー画像データを選択して出力する。また、ユーザが所定値Ｔｈ２以下にズーム倍率を下げる操作を行った際に、画像合成部２９０は、広角側のカラー画像データを選択して出力する。ユーザが所定値Ｔｈ１からＴｈ２の間にズーム倍率を操作した際に、画像合成部２９０は、広角側のカラー画像データ内に、望遠側のカラー画像データをはめ込む処理を行い、そのズーム倍率に応じた画像を生成する。
【０１２５】
このように、本技術の第３の実施の形態では、サブ側固体撮像素子２２０にもカラーフィルタを設けたため、撮像装置１００は、２枚のカラー画像データを撮像して合成することができる。
【０１２６】
＜４．第４の実施の形態＞
上述の第１の実施の形態では、２眼の撮像装置１００において、ゲインの調整により２枚の画像データの明るさを同一にしていたが、３眼以上の複眼の撮像システムにおいて、３枚以上の画像データの明るさを揃えることもできる。この第４の実施の形態の撮像システムは、複眼の撮像システムにおいて、３枚以上の画像データの明るさを同一に制御する点において第１の実施の形態と異なる。
【０１２７】
図２５は、本技術の第４の実施の形態における撮像システムの一構成例を示すブロック図である。この撮像素子ステムは、単眼撮像装置３０１、３０２および３０３などの３つ以上の単眼撮像装置と、同期制御装置３０４と、記録装置３０５とを備える。
【０１２８】
同期制御装置３０４は、垂直同期信号ＶＳＹＮＣの供給により、単眼撮像装置３０１等の動作を同期させるものである。
【０１２９】
単眼撮像装置３０１の構成は、第１の実施の形態のメイン側の単眼カメラモジュール２０１と同様である。単眼撮像装置３０２等の他の単眼撮像装置の構成は、第１の実施の形態のサブ側の単眼カメラモジュール２０２と同様である。ただし、第４の実施の形態の単眼撮像装置３０１等には、記録部１２０、同期信号供給部２８０および画像合成部２９０は設けられない。
【０１３０】
記録装置３０５は、単眼撮像装置３０１等で撮像された画像データを記録するものである。なお、記録装置３０５は、特許請求の範囲に記載の記録部の一例である。
【０１３１】
例えば、工場内の所定の監視位置に単眼撮像装置３０１等を配置し、画像データを解析することにより、撮像システムは、工場内の異常を検知することができる。この撮像システムでは、露光時間および明るさが同一の３枚以上の画像データを撮像することができるため、画像データの解析の精度を高くすることができる。
【０１３２】
このように、本技術の第４の実施の形態では、３つ以上の単眼撮像装置３０１等においてゲインを調整するため、露光時間および明るさが同一の３枚以上の画像データを撮像することができる。
【０１３３】
＜５．移動体への応用例＞
本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【０１３４】
図２６は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【０１３５】
車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図２６に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（ｉｎｔｅｒｆａｃｅ）１２０５３が図示されている。
【０１３６】
駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【０１３７】
ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【０１３８】
車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【０１３９】
撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【０１４０】
車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【０１４１】
マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Ａｄｖａｎｃｅｄ  Ｄｒｉｖｅｒ  Ａｓｓｉｓｔａｎｃｅ  Ｓｙｓｔｅｍ）の機能実現を目的とした協調制御を行うことができる。
【０１４２】
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【０１４３】
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【０１４４】
音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２６の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【０１４５】
図２７は、撮像部１２０３１の設置位置の例を示す図である。
【０１４６】
図２７では、車両１２１００は、撮像部１２０３１として、撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５を有する。
【０１４７】
撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２，１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。撮像部１２１０１及び１２１０５で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【０１４８】
なお、図２７には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
【０１４９】
撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【０１５０】
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０ｋｍ／ｈ以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【０１５１】
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【０１５２】
撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
【０１５３】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１に適用され得る。具体的には、図３の２眼カメラモジュール２００を図２６の撮像部１２０３１に適用することができる。撮像部１２０３１に本開示に係る技術を適用することにより、同一の画質の複数の画像データを撮像することができるため、合成画像データの画質を向上させることができる。
【０１５４】
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【０１５５】
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、ＣＤ（Compact Disc）、ＭＤ（MiniDisc）、ＤＶＤ（Digital Versatile Disc）、メモリカード、ブルーレイディスク（Blu-ray（登録商標）Disc）等を用いることができる。
【０１５６】
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
【０１５７】
なお、本技術は以下のような構成もとることができる。
（１）第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と
を具備する撮像装置。
（２）前記適正露出値は、前記第１の画素信号から演算された第１の適正露出値と前記第２の画素信号から演算された第２の適正露出値とを含み、
前記第１の設定部は、前記第１の適正露出値に基づいて前記露光時間と前記第１のゲインとを設定し、
前記第２の設定部は、前記第１の適正露出値と前記感度差と前記露光時間とから前記第２のゲインを演算する
前記（１）記載の撮像装置。
（３）前記第２の設定部は、前記第１の適正露出値と前記感度差と前記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと前記露光時間とから新たな露光時間を取得するとともに前記第２のゲインを零に設定し、
前記第１の設定部は、前記新たな露光時間が取得された場合には前記新たな露光時間と前記第１の適正露出値とから演算したゲインを前記第１のゲインとして設定する
前記（２）記載の撮像装置。
（４）前記第２の設定部は、
前記第１の適正露出値と前記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、
前記基準露出値に基づいて前記第２の適正露出値を補正して補正済み適正露出値として出力する補正部と、
前記補正済み適正露出値と前記露光時間を露出値に換算した値との差分から前記第２のゲインを演算するゲイン演算部と
を備える前記（２）または（３）に記載の撮像装置。
（５）前記補正部は、前記基準露出値を含む所定の許容範囲内の値に前記第２の適正露出値を補正する前記（４）記載の撮像装置。
（６）前記補正部は、前記基準露出値と前記第２の適正露出値とを重み付け加算した値を前記基準露出値を含む所定の許容範囲内の値に補正する
前記（４）記載の撮像装置。
（７）前記第１の画素は、互いに異なる波長の光を受光する複数の画素を含み、
前記第２の画素のそれぞれは、同一の波長の光を受光する
前記（１）から（６）のいずれかに記載の撮像装置。
（８）光を集光して前記第１の画素アレイ部に導く第１の撮像レンズと、
光を集光して前記第２の画素アレイ部に導く第２の撮像レンズと
をさらに具備し、
前記第１の撮像レンズは、前記第２の撮像レンズと画角が異なる
前記（１）から（７）のいずれかに記載の撮像装置。
（９）前記第１および第２の画素信号を第１および第２の画素データに変換するアナログデジタル変換部とをさらに具備し、
前記第１のゲインは、第１のアナログゲインと第１のデジタルゲインとを含み、
前記第２のゲインは、第２のアナログゲインと第２のデジタルゲインとを含み、
前記増幅部は、
前記第１および第２の画素信号を第１および第２のアナログゲインにより増幅するアナログ信号増幅部と、
前記第１および第２の画素データを第１および第２のデジタルゲインにより増幅するデジタル信号増幅部とを備える
前記（１）から（８）のいずれかに記載の撮像装置。
（１０）第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と、
前記第１および第２の画素信号から生成された画像データを出力する画像出力部と
を具備する撮像モジュール。
（１１）第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と、
第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部と、
適正露出値に基づいて露光時間と前記第１の画素信号に対する第１のゲインとを設定する第１の設定部と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素により生成された第２の画素信号に対する第２のゲインとして設定する第２の設定部と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御部と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅部と、
前記第１および第２の画素信号から生成された画像データを記録する記録部と
を具備する撮像システム。
（１２）第１の画素信号を生成する第１の画素が配列された第１の画素アレイ部と第２の画素信号を生成する第２の画素が配列された第２の画素アレイ部とのうち前記第２の画素アレイ部からの前記第１の画素信号に対する第１のゲインと露光時間とを適正露出値に基づいて設定する第１の設定手順と、
前記第１の画素アレイ部が設けられた第１の単眼カメラモジュールと前記第２の画素アレイ部が設けられた第２の単眼カメラモジュールとの感度差に基づいて前記第１のゲインを調整して前記第２の画素信号に対する第２のゲインとして設定する第２の設定手順と、
前記露光時間に亘って前記第１および第２の画素アレイ部を露光させる制御手順と、
前記出力された第１および第２の画素信号を前記第１および第２のゲインにより増幅する増幅手順と
を具備する撮像装置の制御方法。
【符号の説明】
【０１５８】
１００  撮像装置
１１０  カメラモジュール制御部
１２０  記録部
２００  ２眼カメラモジュール
２０１、２０２  単眼カメラモジュール
２０３  連結部材
２１１、２１２  撮像レンズ
２１３  画像出力部
２１４  望遠レンズ
２１５  広角レンズ
２２０  サブ側固体撮像素子
２２１、２４１  ドライバ
２２２、２４２  アナログ信号増幅部
２２３、２４３  ＡＤ変換部
２２４、２４４、２９１、２９２  デジタル信号増幅部
２３０  サブ側画素アレイ部
２３１  画素
２４０  メイン側固体撮像素子
２５０  メイン側画素アレイ部
２５１  Ｒ画素
２５２  Ｇ画素
２５３  Ｂ画素
２６０  測光部
２７０  露光制御部
２７１  適正露出値演算部
２７２、２７８  メイン側露光パラメータ設定部
２７３  メモリ
２７４、２７９  サブ側露光パラメータ設定部
２７５  演算器
２７６  サブ側適正露出値補正部
２７７  サブ側ゲイン演算部
２８０  同期信号供給部
２９０  画像合成部
２９３  合成処理部
３０１、３０２、３０３  単眼撮像装置
３０４  同期制御装置
３０５  記録装置
１２１０１、１２１０２、１２１０３、１２１０４、１２１０５  撮像部
【図１】
2018170656.tif 000003
【図２】
2018170656.tif 000004
【図３】
2018170656.tif 000005
【図４】
2018170656.tif 000006
【図５】
2018170656.tif 000007
【図６】
2018170656.tif 000008
【図７】
2018170656.tif 000009
【図８】
2018170656.tif 000010
【図９】
2018170656.tif 000011
【図１０】
2018170656.tif 000012
【図１１】
2018170656.tif 000013
【図１２】
2018170656.tif 000014
【図１３】
2018170656.tif 000015
【図１４】
2018170656.tif 000016
【図１５】
2018170656.tif 000017
【図１６】
2018170656.tif 000018
【図１７】
2018170656.tif 000019
【図１８】
2018170656.tif 000020
【図１９】
2018170656.tif 000021
【図２０】
2018170656.tif 000022
【図２１】
2018170656.tif 000023
【図２２】
2018170656.tif 000024
【図２３】
2018170656.tif 000025
【図２４】
2018170656.tif 000026
【図２５】
2018170656.tif 000027
【図２６】
2018170656.tif 000028
【図２７】
2018170656.tif 000029