(57)【要約】【課題】輝度差が非常に大きいシーンにおいて、点滅する撮影対象を確実に撮影することができるようにする。【解決手段】異なる露光時間で撮影された複数の画像間における差分を検出し、その差分に基づいて、複数の画像の合成割合を示す合成係数を算出し、その合成係数に基づいて複数の画像を合成することで、輝度差が非常に大きいシーンにおいて、点滅する撮影対象を確実に撮影することができる。本技術は、例えば、画像を撮影するカメラユニット等に適用することができる。【選択図】図７
2018019387.tif 000002
【特許請求の範囲】
【請求項１】
異なる露光時間で撮影された複数の画像間における差分を検出する検出部と、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、
前記合成係数に基づいて前記複数の画像を合成する合成部と、
を備える信号処理装置。
【請求項２】
前記複数の画像の露光時間を制御する制御部をさらに備え、
前記複数の画像は、第１露光時間を有する第１画像と、前記第１露光時間とは異なる第２露光時間を有する第２画像と、を含み、
前記制御部は、前記第１画像に続いて前記第２画像を撮影するよう制御するとともに、前記第１画像の露光終了と前記第２画像の露光開始との間隔を極小化する
請求項１記載の信号処理装置。
【請求項３】
前記制御部は、前記第１露光時間を前記第２露光時間よりも長くする
請求項２記載の信号処理装置。
【請求項４】
前記複数の画像それぞれの合成基準信号を生成する合成基準信号生成部をさらに備え、
前記検出部は、前記合成基準信号に基づいて前記差分を検出する
請求項１記載の信号処理装置。
【請求項５】
前記合成係数算出部は、前記合成基準信号に基づいて中間合成係数を算出し、前記中間合成係数と前記差分とに基づいて前記合成係数を算出する
請求項４記載の信号処理装置。
【請求項６】
前記合成基準信号生成部は、前記第１画像に対応する第１合成基準信号と前記第２画像に対応する第２合成基準信号とを生成し、
前記検出部は、前記差分として前記第１合成基準信号と前記第２合成基準信号との大小関係を検出し、
前記合成係数算出部は、前記第１合成基準信号と前記第２合成基準信号とのうち、大きな合成基準信号に対応する画像の合成割合を多くするよう合成係数を算出する
請求項４記載の信号処理装置。
【請求項７】
前記合成基準信号は輝度値である
請求項４記載の信号処理装置。
【請求項８】
前記複数の画像は、前記第１露光時間及び前記第２露光時間のいずれとも異なる第３露光時間を有する第３画像をさらに含み、
前記制御部は、前記第２画像に続いて前記第３画像を撮影するよう制御するとともに、前記第２画像の露光終了と前記第３画像の露光開始との間隔を極小化する
請求項２記載の信号処理装置。
【請求項９】
前記制御部は、前記第１露光時間を前記第２露光時間よりも長くするとともに、前記第２露光時間を前記第３露光時間よりも長くするよう制御し、
前記合成部は、前記第１画像と前記第２画像とを合成した中間合成画像に対して前記第３画像を合成する
請求項８記載の信号処理装置。
【請求項１０】
前記合成係数算出部は、前記第１画像と前記第２画像との合成割合を示す第１合成係数と、前記中間合成画像と前記第３画像との合成割合を示す第２合成係数と、を算出し、
前記合成部は、前記第１合成係数に基づいて前記第１画像と前記第２画像とを合成するとともに、前記第２合成係数に基づいて前記中間合成画像と前記第３画像とを合成する
請求項９記載の信号処理装置。
【請求項１１】
前記制御部は、前記複数の画像それぞれの露光時間の合計時間を、明滅する被写体の消灯時間よりも長くなるよう制御する
請求項２記載の信号処理装置。
【請求項１２】
異なる露光時間で撮影された複数の画像を生成する画像生成部と、
前記複数の画像間における差分を検出する検出部と、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、
前記合成係数に基づいて前記複数の画像を合成する合成部と、
を備える撮影装置。
【請求項１３】
異なる露光時間で撮影された複数の画像間における差分を検出することと、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出することと、
前記合成係数に基づいて前記複数の画像を合成することと、
を含む信号処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は、信号処理装置、撮影装置、及び、信号処理方法に関し、特に、例えば、輝度差が非常に大きいシーンにおいて、点滅する撮影対象を確実に撮影することができるようにした信号処理装置、撮影装置、及び、信号処理方法に関する。
【背景技術】
【０００２】
近年、自動運転など高度な運転制御を実現する事を目的として自動車に車載カメラが搭載されるケースが増えている。
【０００３】
しかしながら、車載カメラでは安全性を確保するため、トンネルの出口など輝度差が非常に大きい条件においても視認性を担保する事が求められており、画像の白飛びを抑えて広ダイナミックレンジ化するための技術が必要な状況である。このような白飛びの対策としては、例えば、特許文献１に開示されている技術が知られている。
【０００４】
また、近年、信号機や、電子的な道路標識の光源が、白熱電球等からLED(Light Emitting Diode)に置き換わりつつある。
【０００５】
LEDは、白熱電球に比較して、明滅の応答速度が高速であるため、例えば、自動車等に搭載される車載カメラ等で、LEDの信号機や道路標識を撮影すると、フリッカが発生し、信号機や道路標識が消灯した状態で撮影される。このようなフリッカの対策としては、例えば、特許文献２に開示されている技術が知られている。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開平５−６４０７５号公報
【特許文献２】特開２００７−１６１１８９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
ところで、トンネルの出口など輝度差が非常に大きいシーンにおいて、明滅の応答速度が高速なLEDの信号機や道路標識などを確実に撮影するための技術は確立されておらず、そのような技術が求められていた。
【０００８】
本技術はこのような状況に鑑みてなされたものであり、輝度差が非常に大きいシーンにおいて、点滅する撮影対象を確実に撮影することができるようにするものである。
【課題を解決するための手段】
【０００９】
本技術の一側面の信号処理装置は、異なる露光時間で撮影された複数の画像間における差分を検出する検出部と、前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、前記合成係数に基づいて前記複数の画像を合成する合成部と、を備える信号処理装置である。
【００１０】
本技術の一側面の撮影装置は、異なる露光時間で撮影された複数の画像を生成する画像生成部と、前記複数の画像間における差分を検出する検出部と、前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、前記合成係数に基づいて前記複数の画像を合成する合成部と、を備える撮影装置である。
【００１１】
本技術の一側面の信号処理方法は、異なる露光時間で撮影された複数の画像間における差分を検出することと、前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出することと、前記合成係数に基づいて前記複数の画像を合成することと、を含む信号処理方法である。
【００１２】
本技術の一側面の信号処理装置、撮影装置、及び信号処理方法においては、異なる露光時間で撮影された複数の画像間における差分が検出され、前記差分に基づいて、前記複数の画像の合成割合を示す合成係数が算出され、前記合成係数に基づいて前記複数の画像が合成される。
【００１３】
信号処理装置や撮影装置は、独立した装置であってもよいし、１つの装置を構成している内部ブロックであってもよい。
【発明の効果】
【００１４】
本技術の一側面によれば、輝度差が非常に大きいシーンにおいて、点滅する撮影対象を確実に撮影することができる。
【００１５】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１６】
【図１】輝度差が非常に大きい撮影対象の撮影の例を説明する図である。
【図２】点滅する撮影対象の撮影の例を説明する図である。
【図３】輝度差が非常に大きい撮影対象に対する対処方法を説明する図である。
【図４】信号機の点灯状態が記録されるべきであるにも関わらず、消灯状態が記録されてしまう場合の例を示す図である。
【図５】点滅光源の消灯期間を上回る露光時間で撮影を行う場合の例を示す図である。
【図６】光源の点滅周期をN等分割したタイミングでN回撮影を行い、N枚の撮影データを取得する場合の例を示す図である。
【図７】本技術を適用した撮影装置としてのカメラユニットの一実施の形態の構成例を示すブロック図である。
【図８】タイミング制御部によるシャッタ制御の例を示す図である。
【図９】タイミング制御部によるシャッタ制御の例を示す図である。
【図１０】信号処理部の構成例を示す図である。
【図１１】2枚合成を行う場合の信号処理を説明するフローチャートである。
【図１２】信号処理部による信号処理の処理結果の例を示す図である。
【図１３】信号処理部による信号処理の処理結果の例を示す図である。
【図１４】3枚合成を行う場合の信号処理部の構成例を示す図である。
【図１５】3枚合成を行う場合の信号処理を説明するフローチャートである。
【図１６】3枚合成を行う場合の信号処理を説明するフローチャートである。
【図１７】3枚合成を行う場合の信号処理部の他の構成例を示す図である。
【図１８】動き検出部による動き検出処理の変形例を示す図である。
【図１９】動き検出部による動き検出処理の他の変形例を示す図である。
【図２０】本技術の信号処理の詳細な内容を説明する図である。
【図２１】本技術の信号処理の詳細な内容を説明する図である。
【図２２】本技術の信号処理の詳細な内容を説明する図である。
【図２３】本技術の信号処理の詳細な内容を説明する図である。
【図２４】積層型の固体撮像装置の構成例を示す図である。
【図２５】画素領域と信号処理回路領域の詳細な構成例を示す図である。
【図２６】積層型の固体撮像装置の他の構成例を示す図である。
【図２７】画素領域と信号処理回路領域とメモリ領域の詳細な構成例を示す図である。
【図２８】コンピュータの構成例を示す図である。
【図２９】車両制御システムの概略的な構成の一例を示すブロック図である。
【図３０】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【００１７】
以下、図面を参照しながら本技術の実施の形態について説明する。なお、説明は以下の順序で行うものとする。
【００１８】
１．本技術の概要
２．本技術の実施の形態
３．本技術の実施の形態の変形例
４．本技術の信号処理の詳細な内容
５．固体撮像装置の構成例
６．コンピュータの構成例
７．応用例
【００１９】
＜１．本技術の概要＞
【００２０】
（輝度差が非常に大きい撮影対象の撮影の例）
近年、自動運転など高度な運転制御を実現する事を目的として自動車に車載カメラが搭載されるケースが増えている。しかしながら、車載カメラでは安全性を確保するため、トンネルの出口など輝度差が非常に大きい条件においても視認性を担保する事が求められており、画像の白飛びを抑えて広ダイナミックレンジ化するための技術が必要な状況である。
【００２１】
図１は、輝度差が非常に大きい撮影対象の撮影の例を説明する図である。図１においては、トンネルの出口の撮影の例を示しているが、トンネルの出口の状況が認識できないと、安全を確保するための運転制御を行うことができない。
【００２２】
（点滅する撮影対象の撮影の例）
また、近年において、信号機や標識の光源が電球からLEDに置き換わりつつある。しかしながらLEDは明滅の応答速度が従来式の電球に比べて高速であるため、撮影装置でLEDの信号機や標識を撮影するとフリッカが発生し消灯して見えてしまうという問題があり、ドライブレコーダの証拠能力の担保や自動車の運転自動化に向けて大きな課題となっている。
【００２３】
図２は、点滅する撮影対象の撮影の例を説明する図である。図２において、第１フレーム（Frame1）と第２フレーム（Frame2）の画像では、青（左端）が点灯している信号機が映っているが、第３フレーム（Frame3）と第４フレーム（Frame4）の画像では、消灯している状態の信号機が映っている。
【００２４】
このように、信号機が消灯した状態で映ることは、例えば、ドライブレコーダに利用されている場合に、映像（画像）の証拠能力に支障をきたす原因になる。また、信号機が消灯した状態で映ることは、その画像が、例えば、自動車の自動運転に利用されている場合に、自動車の停止等の運転制御に支障をきたす原因になる。
【００２５】
（輝度差が非常に大きいシーンにおいて、点滅する撮影対象に対する対処方法）
ここで、上述した特許文献１には、複数の異なる露光量で撮影された画像を合成する事で白飛びを抑制し、見かけのダイナミックレンジを拡大する手法が提案されている。この手法においては、図３に示すように、露光時間の長い長時間露光画像（長蓄画像）の輝度値を参照し、明るさが所定の閾値を下回れば長時間露光画像（長蓄画像）、上回れば短時間露光画像（短蓄画像）を出力する事で、広いダイナミックレンジを持つ画像を生成する事が可能となる。
【００２６】
一方で、図２に示したように、LED信号機など高輝度な被写体が点滅をしている場合に、長時間露光画像（長蓄画像）と短時間露光画像（短蓄画像）の合成を行う事で、本来信号機の点灯状態が記録されるべきであるにも関わらず消灯状態が記録されてしまう場合がある。図４には、信号機の点灯状態が記録されるべきであるにも関わらず、消灯状態が記録されてしまう場合の例を示している。
【００２７】
図４の例においては、長蓄画像にのみ、LED点灯状態が映っている場合に、光源が明るいため、信号が飽和して閾値を上回っている。そのため、長蓄画像から短蓄画像への置き換えが生じることになるが、短蓄画像には、LED点灯状態が映っていないため、消灯状態が発生してしまう。また、図４の例においては、短蓄画像にのみ、LED点灯状態が映っている場合に、長蓄画像の明るさが、閾値を下回っているため、長蓄画像から短蓄画像への置き換えは発生しない。その結果、長蓄画像にはLEDの点灯状態が映っていないため、消灯状態が発生してしまう。
【００２８】
また、図２に示したLEDのフリッカに対しては、点滅光源の消灯期間を上回る露光時間で撮影を行う事で、発光期間の撮り逃しを防ぐ手法がある。例えば、光源の点滅周波数が100Hz、発光Duty比が60%であれば消灯期間4msを露光時間の下限値とし、常にそれ以上の露光時間を確保する事で光源の点灯状態を撮影し続ける事ができる（上述した特許文献２参照）。図５には、点滅光源の消灯期間を上回る露光時間で撮影を行う場合の例を示している。図５の例では、消灯期間4msの場合において、4ms ＜ 露光時間となっている。
【００２９】
しかしながら、車載カメラなどレンズF値を固定で使用しなければならないシステムの場合、晴天時の屋外など照度の高い状況下では、露光時間を光源の消灯期間よりも短くできないため、露光過多となり、被写体の視認性が低下してしまう。そのため、図１に示した画像の白飛びが発生するような輝度差の大きいシーンにおいては、画像のダイナミックレンジを拡大する効果は得られない。
【００３０】
さらに、図２に示したLEDのフリッカに対しては、撮像素子において光源の点滅周期をN等分割したタイミングでN回撮影を行い、N枚の撮影データを取得した後、それらの画像の平均値ないし最大値を選択する手法がある。
【００３１】
この手法を用いることで、例えば100Hzで点滅している光源の点滅周期10msを3等分割したタイミングで3回撮影を行い、3枚の撮影データの平均値ないし最大値を選択する事で、LEDの消灯状態が記録されてしまう事を抑制する事が可能となる。
【００３２】
図６には、光源の点滅周期をN等分割したタイミングでN回撮影を行い、N枚の撮影データを取得する場合の例を示している。図６においては、点滅周期（Tb）の光源に対して、点滅周期を3等分したタイミングで3回撮影を行う場合を例示している。また、図６においては、S0，S1，S2は、1フレーム以内で3回撮影を行う際のそれぞれの露光タイミングを示している。それぞれの露光における露光時間（Tc）は同一である。
【００３３】
S0の露光開始時間を、0とすると、S0，S1，S2のそれぞれの露光タイミングは、以下の通りとなる。
【００３４】
S0の露光開始時間：0，S0の露光終了時間：0 + Tc
S1の露光開始時間：Tb/3，S1の露光終了時間：Tb/3 + Tc
S2の露光開始時間：(Tb/3) × 2，S2の露光終了時間：(Tb/3) × 2 + Tc
【００３５】
しかしながら、図６に示した手法は、複数回の撮影を行う際に、それぞれの露光時間を同一にする事を前提とした技術であるため、図２に示したLEDのフリッカに対しては効果があるものの、図１に示した画像の白飛びが発生するような輝度差の大きいシーンにおいて、画像のダイナミックレンジを拡大する効果を得るまでは至らない。
【００３６】
以上のように、現状の技術では、図１に示した画像の白飛びが発生するような輝度差の大きいシーンにおいて、画像のダイナミックレンジを拡大することと、図２に示したLEDのフリッカの対策とを両立が可能な技術は、まだ確立されていない。本技術では、これらを両立させるために、以下の3つの技術的特徴を有する点をポイントとしている。
【００３７】
（１）映像信号のダイナミックレンジを拡大するため、撮像素子において複数の異なる露光量で撮影を行う際に、それらの露光期間を可能な限り近接させる露光制御を行う事で実効的な露光時間を伸ばし、高速点滅被写体の点灯期間を捕捉しやすくする。
（２）信号処理部において異なる露光量で撮影した複数の画像を合成する際に、露光比を加味したそれぞれの画像の最大値を同一座標の画素値の差分量に応じてブレンドする。その際に、ノイズ量を加味して動き判定を行う。
（３）上記の露光制御と信号処理の組み合わせによって、輝度差の大きなシーンにおいても白飛び、黒潰れを抑制すると同時に、LED信号機等の高速点滅被写体の点灯状態を正しく出力する事が可能な撮影装置を提供する。
【００３８】
本技術では、このような技術的特徴を有することで、輝度差が非常に大きいシーンにおいて、点滅（高速に点滅）する撮影対象を確実に撮影することが可能となり、その結果として、図１に示した画像の白飛びが発生するような輝度差の大きいシーンにおいて、画像のダイナミックレンジを拡大することと、図２に示したLEDのフリッカの対策とを両立することができる。
【００３９】
以下、このような本技術の技術的特徴を、具体的な実施の形態を参照しながら説明する。
【００４０】
＜２．本技術の実施の形態＞
【００４１】
（カメラユニットの構成例）
図７は、本技術を適用した撮影装置としてのカメラユニットの一実施の形態の構成例を示すブロック図である。
【００４２】
図７において、カメラユニット１０は、レンズ１０１、撮像素子１０２、ディレイライン１０３、信号処理部１０４、出力部１０５、及びタイミング制御部１０６から構成される。
【００４３】
レンズ１０１は、被写体からの光を集光し、撮像素子１０２に入射させて結像させる。
【００４４】
撮像素子１０２は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサである。撮像素子１０２は、レンズ１０１からの入射光を受光し、光電変換を行うことにより、入射光に対応する撮影画像（の画像データ）を撮影する。
【００４５】
すなわち、撮像素子１０２は、タイミング制御部１０６から指定される撮影タイミングで撮影を行う撮影部として機能し、出力部１０５が出力する出力画像のフレームレートの期間に、N回の撮影を行い、そのN回の撮影により得られるN枚の撮影画像を、順次出力する。
【００４６】
ディレイライン１０３は、撮像素子１０２が順次出力するN枚の撮影画像を順次記憶し、そのN枚の撮影画像を、同時に、信号処理部１０４に供給する。
【００４７】
信号処理部１０４は、ディレイライン１０３からのN枚の撮影画像を処理し、１フレーム（枚）の出力画像を生成する。その際、信号処理部１０４は、撮影画像の画素値の差分量に応じてN枚の撮影画像の画像データの最大値をブレンドして、出力画像を生成する。
【００４８】
さらに、信号処理部１０４は、出力画像に対して、例えば、ノイズの除去や、WB（ホワイトバランス）の調整等の処理を行い、出力部１０５に供給する。また、信号処理部１０４は、ディレイライン１０３からのN枚の撮影画像の明るさから露光レベルを検出（検波）し、タイミング制御部１０６に供給する。
【００４９】
出力部１０５は、信号処理部１０４からの出力画像（映像データ）を出力する。
【００５０】
タイミング制御部１０６は、撮像素子１０２の撮影タイミングを制御する。すなわち、タイミング制御部１０６は、信号処理部１０４で検出された露光レベルに基づいて、撮像素子１０２の露光時間の調整を行う。その際に、タイミング制御部１０６は、N枚の撮影画像の露光タイミングを可能な限り近接させるようにシャッタ制御を行う。
【００５１】
カメラユニット１０は、以上のように構成される。
【００５２】
（タイミング制御部のシャッタ制御の例）
次に、図８及び図９を参照して、図７のタイミング制御部１０６によるシャッタ制御について説明する。
【００５３】
図７のカメラユニット１０において、撮像素子１０２は、露光時間の異なるN枚の撮影画像の撮影データを取得する。その際、タイミング制御部１０６は、それらの撮影期間を可能な限り近接させる事で実効的な露光時間を伸ばし、LED等の高速点滅被写体の点滅周期をカバーしやすくするための制御を行う。
【００５４】
ここでは、図８を参照しながら、その具体例として3枚の撮影画像を取得する際の露光タイミングについて説明する。図８において、T0，T1，T2は、1フレーム以内で3回撮影を行う際のそれぞれの露光タイミングを示している。それぞれの露光における露光時間の比率は、信号のダイナミックレンジを確保するために、例えば、T0：T1：T2 = 4：2：1の比率とすることができる。
【００５５】
この際、タイミング制御部１０６は、T0の露光が完了次第、すぐにT1の露光を開始し、T1の露光が完了次第、すぐにT2の露光を開始するように露光タイミングの制御を行う。すなわち、T0の露光終了とT1の露光開始との間隔、及びT1の露光終了とT2の露光開始との間隔が極小化されている。このような露光タイミング制御を行う事で、高速点滅被写体の点灯期間がT0，T1，T2のいずれかの露光期間とオーバーラップしやすくなり、点灯期間の画像を捕捉できる確率を上げることができる。
【００５６】
また、N枚の撮影画像の撮影期間を近接させることで、次のような効果が得られる。すなわち、図９Ａと図９Ｂを比較して説明すれば、図９Ａに示すように、T0，T1，T2の露光タイミングを離して設定する場合には、点灯期間が短い（発光Duty比が小さい）点滅光源の場合に、露光タイミングと発光タイミングがオーバーラップしない可能性がある。
【００５７】
一方で、図９Ｂに示すように、T0，T1，T2の露光タイミングを近接させる場合には、実効的な露光時間が伸びるため、点灯期間が短い点滅光源に対して露光タイミングと発光タイミングがオーバーラップする可能性を向上させることができる。なお、例えば、LED信号機の消灯期間は、典型的には3ms前後が想定されるので、タイミング制御部１０６は、この消灯期間に応じて、T0，T1，T2の露光タイミングを近接させる制御を行うことができる。
【００５８】
さらに、後述の信号処理部１０４にて、T0，T1，T2の最大値を出力する制御を行う場合に、T0，T1，T2の画素値が異なるような動体を撮影する場合は、二重エッジ像などのアーチファクトを発生させてしまうケースがあるが、T0，T1，T2の露光タイミングを近接させる事で、動体の見た目の動き量を小さく抑える事ができ、最大値出しの弊害を抑える効果も期待できる。
【００５９】
なお、T0，T1，T2の露光タイミングを近接させるシャッタ制御は、例えばフレーム間の読み出し動作とシャッタ動作とを時間的にオーバーラップさせるタイプのセンサを用いる事で実現できる。また、関連する技術としては、下記の特許文献３が開示されている。
【００６０】
特許文献３：特開２００８−２２４８５号公報
【００６１】
しかしながら、N枚の撮影期間を近接させて露光するだけでは、図２に示したLEDのフリッカの対策としては不十分である。すなわち、特許文献３に開示されている技術であると、例えば、第１サブフレームの信号のみにLEDの点灯状態が記録され、かつ画素値が飽和している場合に、信号のダイナミックレンジを拡大するために第２サブフレームの信号に値を置き換える合成処理を行ったとき、LEDの消灯が発生してしまうことになる。そこで、以下、このようなLEDの消灯が生じないようにするための信号処理部１０４の構成について説明する。
【００６２】
（信号処理部の構成例）
図１０は、図７の信号処理部１０４の構成例を示す図である。
【００６３】
図１０の信号処理部１０４においては、撮像素子１０２で取得されたN枚の撮影画像の画像データを処理し、1フレーム（枚）の出力画像に合成している。その際に、信号処理部１０４は、常にN枚の撮影画像の画像データ間で合成を行い、トータルN-1回の合成処理が行われるようにする。
【００６４】
図１０においては、その最も単純な例として、2枚の撮影画像を、1枚の出力画像に合成する際の信号処理について説明する。
【００６５】
なお、図１０においては、T0，T1は、1フレーム以内で2回撮影を行った際のそれぞれの露光時間に対応する撮影画像を示している。また、図１０において、それぞれの露光における露光時間の比率は、信号のダイナミックレンジを確保するために、例えば、T0：T1 = 16：1の比率であると仮定する。T1の明るさをT0に合わせるための露光比ゲインを、SGAIN1と定義すると、SGAIN1 = T0の露光時間 / T1の露光時間 = 16[倍]となる。以下、このT0，T1に対応する撮影画像をそれぞれ、画像信号T0，画像信号T1とも記述する。
【００６６】
図１０において、信号処理部１０４は、合成基準信号生成部１２１、合成係数算出部１２２、動き検出部１２３、合成係数変調部１２４、及び合成部１２５から構成される。
【００６７】
合成基準信号生成部１２１は、画像信号T0と画像信号T1を合成するための基準となる信号（基準信号S0，基準信号S1）を生成する。その際、合成基準信号生成部１２１は、画像信号T0から基準信号S0を、画像信号T1から基準信号S1を生成する。なお、基準となる基準信号S0，S1の生成方法としては、例えば、あらかじめ定められたタップ数でフィルタをかけて簡易的な輝度値を算出することで生成することができる。
【００６８】
合成基準信号生成部１２１は、画像信号T0と画像信号T1を、合成部１２５に供給する。また、合成基準信号生成部１２１は、基準信号S0を、合成係数算出部１２２及び動き検出部１２３に供給し、基準信号S1を、動き検出部１２３に供給する。
【００６９】
合成係数算出部１２２は、合成基準信号生成部１２１からの基準信号S0を参照して、画像信号T0と画像信号T1を合成するための合成係数を算出する。合成係数算出部１２２は、合成係数を、合成係数変調部１２４に供給する。
【００７０】
動き検出部１２３は、合成基準信号生成部１２１からの基準信号S0と、基準信号S1に露光比SGAIN1を信号の間の差分を動き量と定義して、動き判定を行う。その際、動き検出部１２３は、信号のノイズとLED等の高速点滅体の点滅を区別するために、動き量をセンサ特性から想定されるノイズ量と比較して動き係数を算出する。
【００７１】
ただし、その際、動き検出部１２３においては、例えば、S0＜S1の場合と、S1＜S0の場合で、動き判定の判定基準を分けるものとする。なお、動き検出部１２３での動き判定の詳細については、図１８及び図１９を参照して後述する。動き検出部１２３は、動き係数を、合成係数変調部１２４に供給する。
【００７２】
合成係数変調部１２４は、合成係数算出部１２２からの合成係数に対して、動き検出部１２３からの動き係数を加味した変調を行い、動き補償後合成係数を算出する。その際、合成係数変調部１２４は、動き量が大きい場合には、画像信号T0と、画像信号T1に露光比SGAIN1を乗じた信号のうち、どちらか大きい方が多く合成されるようにする。合成係数変調部１２４は、動き補償後合成係数を、合成部１２５に供給する。
【００７３】
合成部１２５は、合成基準信号生成部１２１からの画像信号T0と画像信号T1を、合成係数変調部１２４からの動き補償後合成係数で合成（アルファブレンド）して、その結果得られるHDR(High Dynamic Range)合成後信号としての合成後画像信号を出力する。
【００７４】
信号処理部１０４は、以上のように構成される。
【００７５】
（2枚合成を行う場合の信号処理）
次に、図１１のフローチャートを参照して、図１０の信号処理部１０４により実行される、2枚合成を行う場合の信号処理の流れを説明する。
【００７６】
ステップＳ１１において、合成基準信号生成部１２１は、そこに入力される画像信号T0から、基準信号S0を生成する。
【００７７】
ステップＳ１２において、合成基準信号生成部１２１は、そこに入力される画像信号T1から、基準信号S1を生成する。
【００７８】
なお、T0とT1の露光時間の比率は、例えば、T0：T1 = 16：1の比率とすることができる。したがって、画像信号T0は、長時間露光画像（長蓄画像）である一方で、画像信号T1は、短時間露光画像（短蓄画像）であるとも言える。
【００７９】
ステップＳ１３において、合成係数算出部１２２は、ステップＳ１１の処理で得られる基準信号S0から、合成係数を算出する。
【００８０】
ステップＳ１４において、動き検出部１２３は、S0 ＜ S1×S1露光比の関係を満たすかどうかを判定する。
【００８１】
ステップＳ１４において、S0 ＜ S1×S1露光比の関係を満たしていると判定された場合、処理は、ステップＳ１５に進められる。ステップＳ１５において、動き検出部１２３は、ノイズ正規化ゲイン１を用いて動き判定を行う。
【００８２】
一方で、ステップＳ１４において、S0 ＜ S1×S1露光比の関係を満たしていない、すなわち、S0 ≧ S1×S1露光比の関係になると判定された場合、処理は、ステップＳ１６に進められる。ステップＳ１６において、動き検出部１２３は、ノイズ正規化ゲイン０を用いて動き判定を行う。
【００８３】
ステップＳ１５又はＳ１６の処理で、動き判定が行われると、処理は、ステップＳ１７に進められる。ステップＳ１７において、動き検出部１２３は、ステップＳ１５又はＳ１６の処理で得られる動き判定の結果に基づいて、動きがあるかどうかを判定する。
【００８４】
ステップＳ１７において、動きがあると判定された場合、処理は、ステップＳ１８に進められる。ステップＳ１８において、動き検出部１２３は、ステップＳ１５又はＳ１６の処理等で得られる動き量に応じて、動き係数を算出する。
【００８５】
なお、動き検出部１２３により実行されるステップＳ１４乃至Ｓ１８の処理の詳細は、図１９を参照して後述するが、動き評価値の符号と露光比に応じたノイズ正規化ゲイン（０，１）を乗算した後に、動き判定処理を行うことで、動き検出の精度を向上させることができる。
【００８６】
ステップＳ１９において、合成係数変調部１２４は、ステップＳ１３の処理で得られる合成係数に対し、ステップＳ１８の処理で得られる動き係数を用いて変調を行い、動き補償後合成係数を生成する。
【００８７】
一方で、ステップＳ１７において、動きがないと判定された場合、処理は、ステップＳ２０に進められる。ステップＳ２０において、合成係数変調部１２４は、ステップＳ１３の処理で得られる合成係数をそのまま、動き補償後合成係数として使用するようにする。
【００８８】
ステップＳ１９又はＳ２０の処理で、動き補償後合成係数が得られると、処理は、ステップＳ２１に進められる。
【００８９】
ステップＳ２１において、合成部１２５は、ステップＳ１９又はＳ２０の処理で得られる動き補償後合成係数を参照して、画像信号T0と画像信号T1とを合成する。すなわち、合成部１２５では、動き補償後合成係数を用いることで、動き量が大きい場合に、画像信号T0と、画像信号T1に露光比SGAIN1（= 16）を乗じた信号のうち、どちらか大きい方が多く合成されることになる。
【００９０】
ステップＳ２２において、合成部１２５は、ステップＳ２１の処理で得られる合成後画像信号を出力する。
【００９１】
以上、2枚合成を行う場合の信号処理の流れを説明した。
【００９２】
（信号処理部の処理結果の例）
次に、図１２及び図１３を参照して、図７の信号処理部１０４による信号処理（図１１）の処理結果について説明する。
【００９３】
図１２には、LED信号機が映っている撮影画像に対する信号処理の処理結果を示している。なお、ここでは、図１２Ａに、従来の手法を用いた場合の処理結果を示して、図１２Ｂの本技術の手法を用いた場合の処理結果と比較している。
【００９４】
図１２Ａの従来の手法の場合、長蓄画像（画像信号T0）にのみLED信号機の点灯状態が記録されており、かつ長蓄（T0）の画素値が飽和している状況で、信号のダイナミックレンジを拡大するために、長蓄（T0）の飽和レベルを超えた画素値を短蓄（T1）に置き換えると、短蓄画像（画像信号T1）では、LED信号機が消灯しているため、置き換え後の信号も消灯が発生することになる。
【００９５】
一方で、図１２Ｂの本技術の手法の場合、信号のダイナミックレンジを拡大するために、長蓄（T0）の飽和レベルを超えた画素値を短蓄（T1）に置き換える際に、長蓄と短蓄×露光比（S0とS1×S1露光比）の信号に大きな差分がある場合には、高速点滅体の点滅が発生していると判断して、どちらか大きい値を出力することになる。そのため、LED信号機の点灯状態が記録されている長蓄画像（画像信号T0）が選択され、図１２Ｂの本技術の手法の場合には、LED信号機の消灯が発生しないことになる。
【００９６】
図１３には、LED速度規制標識が映っている撮影画像に対する信号処理の処理結果を示している。なお、ここでは、図１３Ａに、従来の手法を用いた場合の処理結果を示して、図１３Ｂの本技術の手法を用いた場合の処理結果と比較している。
【００９７】
図１３Ａの従来の手法の場合、長蓄画像（画像信号T0）にのみLED速度規制標識の点灯状態が記録されており、かつ長蓄（T0）の画素値が飽和している状況で、信号のダイナミックレンジを拡大するために、長蓄（T0）の飽和レベルを超えた画素値を短蓄（T1）に置き換えると、短蓄画像（画像信号T1）では、LED速度規制標識が消灯しているため、置き換え後の信号も消灯が発生することになる。
【００９８】
一方で、図１３Ｂの本技術の手法の場合、信号のダイナミックレンジを拡大するために、長蓄（T0）の飽和レベルを超えた画素値を短蓄（T1）に置き換える際に、長蓄と短蓄×露光比（S0とS1×S1露光比）の信号に大きな差分がある場合には、高速点滅体の点滅が発生していると判断して、どちらか大きい値を出力することになる。そのため、LED速度規制標識の点灯状態が記録されている長蓄（S0とS1×S1露光比）が選択され、図１３Ｂの本技術の手法の場合には、LED速度規制標識の消灯が発生しないことになる。
【００９９】
＜３．本技術の実施の形態の変形例＞
【０１００】
（3枚合成を行う場合の信号処理部の構成例）
図１４は、3枚合成を行う場合の信号処理部１０４の構成例を示す図である。
【０１０１】
すなわち、上述した説明では、最も単純な例として、2枚の撮影画像を、1枚の出力画像に合成する際の信号処理について説明したが、図１４においては、3枚の撮影画像を、1枚の出力画像に合成する際の信号処理について説明する。
【０１０２】
なお、図１４においては、T0，T1，T2は、1フレーム以内で3回撮影を行った際のそれぞれの露光時間に対応する撮影画像を示している。また、図１４において、それぞれの露光における露光時間の比率は、信号のダイナミックレンジを確保するために、例えば、T0：T1：T2 = 4：2：1の比率であると仮定する。T1の明るさをT0に合わせるための露光比ゲインをSGAIN1、T2の明るさをT0に合わせるための露光比ゲインをSGAIN2と定義する。上記の例では、SGAIN1 = 2，SGAIN2 = 4となる。以下、このT0，T1，T2に対応する撮影画像をそれぞれ、画像信号T0，画像信号T1，画像信号T2とも記述する。
【０１０３】
図１４において、信号処理部１０４は、合成基準信号生成部１４１、第１動き検出・合成係数算出部１４２、第１合成部１４３、第２動き検出・合成係数算出部１４４、及び第２合成部１４５から構成される。
【０１０４】
合成基準信号生成部１４１は、画像信号T0，画像信号T1，画像信号T2を合成するための基準となる信号（基準信号S0，基準信号S1，基準信号S2）を生成する。その際、合成基準信号生成部１４１は、画像信号T0から基準信号S0を、画像信号T1から基準信号S1を、画像信号T2から基準信号S2をそれぞれ生成する。なお、基準となる基準信号S0，S1，S2の生成方法としては、例えば、あらかじめ定められたタップ数でフィルタをかけて簡易的な輝度値を算出することで生成することができる。
【０１０５】
合成基準信号生成部１４１は、画像信号T0と画像信号T1を、第１合成部１４３に供給し、画像信号T2を、第２合成部１４５に供給する。また、合成基準信号生成部１４１は、基準信号S0と基準信号S1を、第１動き検出・合成係数算出部１４２に供給し、基準信号S1と基準信号S2を、第２動き検出・合成係数算出部１４４に供給する。
【０１０６】
第１動き検出・合成係数算出部１４２は、合成基準信号生成部１４１からの基準信号S0を参照して、画像信号T0と画像信号T1を合成するための第１合成係数を算出する。また、第１動き検出・合成係数算出部１４２は、合成基準信号生成部１４１からの基準信号S0と、S1に露光比SGAIN1を乗じた信号の間の差分を第１動き量と定義して動き判定を行う。
【０１０７】
その際、第１動き検出・合成係数算出部１４２は、信号のノイズとLED等の高速点滅体の点滅を区別するために、第１動き量をセンサ特性から想定されるノイズ量と比較して第１動き係数を算出する。ただし、動き判定を行う際には、例えば、S0 ＜ S1となる場合と、S1 ＜ S0となる場合で、動き判定の判定基準を分けるものとする。なお、第１動き検出・合成係数算出部１４２での動き判定の詳細については、図１８及び図１９を参照して後述する。
【０１０８】
第１動き検出・合成係数算出部１４２は、第１合成係数に対して第１動き係数を加味した変調を行い、第１動き補償後合成係数を算出する。その際、第１動き検出・合成係数算出部１４２は、動き量が大きい場合には、画像信号T0と、画像信号T1に露光比SGAIN1を乗じた信号のうち、どちらか大きい方が多く合成されるようにする。第１動き検出・合成係数算出部１４２は、第１動き補償後合成係数を、第１合成部１４３に供給する。
【０１０９】
また、第１動き検出・合成係数算出部１４２は、第１動き補償後合成係数を参照して、基準信号S0と基準信号S1とを合成（アルファブレンド）して、その結果得られるS0-S1合成信号を、第２動き検出・合成係数算出部１４４に供給する。
【０１１０】
第１合成部１４３は、合成基準信号生成部１４１からの画像信号T0と画像信号T1を、第１動き検出・合成係数算出部１４２からの第１動き補償後合成係数で合成（アルファブレンド）して、その結果得られるT0-T1合成信号を、第２合成部１４５に供給する。
【０１１１】
第２動き検出・合成係数算出部１４４は、合成基準信号生成部１４１からの基準信号S1を参照して、T0-T1合成信号と画像信号T2を合成するための第２合成係数を算出する。また、第２動き検出・合成係数算出部１４４は、S0-S1合成信号と、S2に露光比SGAIN2を乗じた信号の間の差分を第２動き量と定義して動き判定を行う。
【０１１２】
その際、第２動き検出・合成係数算出部１４４は、信号のノイズとLED等の高速点滅体の点滅を区別するために、第２動き量をセンサ特性から想定されるノイズ量と比較して第２動き係数を算出する。ただし、動き判定を行う際には、例えば、S0-S1合成信号 ＜ S2となる場合と、S2 ＜ S0-S1合成信号となる場合で、動き判定の判定基準を分けるものとする。なお、第２動き検出・合成係数算出部１４４での動き判定の詳細については、図１８及び図１９を参照して後述する。
【０１１３】
第２動き検出・合成係数算出部１４４は、第２合成係数に対して第２動き係数を加味した変調を行い、第２動き補償後合成係数を算出する。その際、第２動き検出・合成係数算出部１４４は、動き量が大きい場合には、T0-T1合成信号と、画像信号T2に露光比SGAIN2を乗じた信号のうち、どちらか大きい方が多く合成されるようにする。第２動き検出・合成係数算出部１４４は、第２動き補償後合成係数を、第２合成部１４５に供給する。
【０１１４】
第２合成部１４５は、第１合成部１４３からのT0-T1合成信号と、合成基準信号生成部１４１からの画像信号T2とを、第２動き検出・合成係数算出部１４４からの第２動き補償後合成係数で合成（アルファブレンド）して、その結果得られるHDR合成後信号としての合成後画像信号を出力する。
【０１１５】
図１４の信号処理部１０４は、以上のように構成される。図１４の信号処理部１０４においては、2段階の合成に分離する事で、T0-T1信号間のブレンドを行う第一段階の合成に対して、露光時間が短く光源の点灯状態が記録されていない可能性が高いT2信号をブレンドする第二段階の合成を行う際に、本補正を適用する強度を下げるといった調整が可能となり、弊害を抑える効果が期待される。
【０１１６】
（3枚合成を行う場合の信号処理）
次に、図１５及び図１６のフローチャートを参照して、図１４の信号処理部１０４により実行される、3枚合成を行う場合の信号処理の流れを説明する。
【０１１７】
ステップＳ５１において、合成基準信号生成部１４１は、そこに入力される画像信号T0から、基準信号S0を生成する。
【０１１８】
ステップＳ５２において、合成基準信号生成部１４１は、そこに入力される画像信号T1から、基準信号S1を生成する。
【０１１９】
ステップＳ５３において、合成基準信号生成部１４１は、そこに入力される画像信号T2から、基準信号S2を生成する。
【０１２０】
なお、T0とT1とT2の露光時間の比率は、例えば、T0：T1：T2 = 4：2：1の比率とすることができる。したがって、画像信号T0は、長時間露光画像（長蓄画像）であり、画像信号T1は、中時間露光画像（中蓄画像）であり、画像信号T2は、短時間露光画像（短蓄画像）であるとも言える。
【０１２１】
ステップＳ５４において、第１動き検出・合成係数算出部１４２は、ステップＳ５１の処理で得られる基準信号S0から、第１合成係数を算出する。
【０１２２】
ステップＳ５５において、第１動き検出・合成係数算出部１４２は、S0 ＜ S1×S1露光比の関係を満たすかどうかを判定する。
【０１２３】
ステップＳ５５において、S0 ＜ S1×S1露光比の関係を満たしていると判定された場合、処理は、ステップＳ５６に進められる。ステップＳ５６において、第１動き検出・合成係数算出部１４２は、ノイズ正規化ゲイン１を用いて動き判定を行う。
【０１２４】
一方で、ステップＳ５５において、S0 ＜ S1×S1露光比の関係を満たしていない、すなわち、S0 ≧ S1×S1露光比の関係になると判定された場合、処理は、ステップＳ５７に進められる。ステップＳ５７において、第１動き検出・合成係数算出部１４２は、ノイズ正規化ゲイン０を用いて動き判定を行う。
【０１２５】
ステップＳ５６又はＳ５７の処理で、動き判定が行われると、処理は、ステップＳ５８に進められる。ステップＳ５８において、第１動き検出・合成係数算出部１４２は、ステップＳ５６又はＳ５７の処理で得られる動き判定の結果に基づいて、動きがあるかどうかを判定する。
【０１２６】
ステップＳ５８において、動きがあると判定された場合、処理は、ステップＳ５９に進められる。ステップＳ５９において、第１動き検出・合成係数算出部１４２は、ステップＳ５６又はＳ５７の処理等で得られる動き量に応じて、第１動き係数を算出する。
【０１２７】
なお、第１動き検出・合成係数算出部１４２により実行されるステップＳ５５乃至Ｓ５９の処理の詳細は、図１９を参照して後述するが、動き評価値の符号と露光比に応じたノイズ正規化ゲイン（０，１）を乗算した後に、動き判定処理を行うことで、動き検出の精度を向上させることができる。
【０１２８】
ステップＳ６０において、第１動き検出・合成係数算出部１４２は、ステップＳ５４の処理で得られる第１合成係数に対し、ステップＳ５９の処理で得られる第１動き係数を用いて変調を行い、第１動き補償後合成係数を生成する。
【０１２９】
一方で、ステップＳ５８において、動きがないと判定された場合、処理は、ステップＳ６１に進められる。ステップＳ６１において、第１動き検出・合成係数算出部１４２は、ステップＳ５４の処理で得られる第１合成係数をそのまま、第１動き補償後合成係数として使用するようにする。
【０１３０】
ステップＳ６０又はＳ６１の処理で、第１動き補償後合成係数が得られると、処理は、ステップＳ６２に進められる。
【０１３１】
ステップＳ６２において、第１動き検出・合成係数算出部１４２は、ステップＳ６０又はＳ６１の処理で得られる第１動き補償後合成係数を参照して、基準信号S0と基準信号S1とを合成し、S0-S1合成信号を生成する。
【０１３２】
ステップＳ６３において、第１合成部１４３は、ステップＳ６０又はＳ６１の処理で得られる第１動き補償後合成係数を参照して、画像信号T0と画像信号T1とを合成し、T0-T1合成信号を生成する。
【０１３３】
ステップＳ６４において、第２動き検出・合成係数算出部１４４は、ステップＳ５２の処理で得られる基準信号S1から、第２合成係数を算出する。
【０１３４】
ステップＳ６５において、第２動き検出・合成係数算出部１４４は、S0-S1合成信号 ＜ S2×S2露光比の関係を満たすかどうかを判定する。
【０１３５】
ステップＳ６５において、S0-S1合成信号 ＜ S2×S2露光比の関係を満たしていると判定された場合、処理は、ステップＳ６６に進められる。ステップＳ６６において、第２動き検出・合成係数算出部１４４は、ノイズ正規化ゲイン２を用いて動き判定を行う。
【０１３６】
一方で、ステップＳ６５において、S0-S1合成信号 ＜ S2×S2露光比の関係を満たしていない、すなわち、S0-S1合成信号 ≧ S2×S2露光比の関係になると判定された場合、処理は、ステップＳ６７に進められる。ステップＳ６７において、第２動き検出・合成係数算出部１４４は、ノイズ正規化ゲイン１を用いて動き判定を行う。
【０１３７】
ステップＳ６６又はＳ６７の処理で、動き判定が行われると、処理は、ステップＳ６８に進められる。ステップＳ６８において、第２動き検出・合成係数算出部１４４は、ステップＳ６６又はＳ６７の処理で得られる動き判定の結果に基づいて、動きがあるかどうかを判定する。
【０１３８】
ステップＳ６８において、動きがあると判定された場合、処理は、ステップＳ６９に進められる。ステップＳ６９において、第２動き検出・合成係数算出部１４４は、ステップＳ６６又はＳ６７の処理等で得られる動き量に応じて、第２動き係数を算出する。
【０１３９】
なお、第２動き検出・合成係数算出部１４４により実行されるステップＳ６５乃至Ｓ６９の処理の詳細は、図１９を参照して後述するが、動き評価値の符号と露光比に応じたノイズ正規化ゲイン（１，２）を乗算した後に、動き判定処理を行うことで、動き検出の精度を向上させることができる。
【０１４０】
ステップＳ７０において、第２動き検出・合成係数算出部１４４は、ステップＳ６４の処理で得られる第２合成係数に対し、ステップＳ６９の処理で得られる第２動き係数を用いて変調を行い、第２動き補償後合成係数を生成する。
【０１４１】
一方で、ステップＳ６８において、動きがないと判定された場合、処理は、ステップＳ７１に進められる。ステップＳ７１において、第２動き検出・合成係数算出部１４４は、ステップＳ６４の処理で得られる第２合成係数をそのまま、第２動き補償後合成係数として使用するようにする。
【０１４２】
ステップＳ７０又はＳ７１の処理で、第２動き補償後合成係数が得られると、処理は、ステップＳ７２に進められる。
【０１４３】
ステップＳ７２において、第２合成部１４５は、ステップＳ７０又はＳ７１の処理で得られる第２動き補償後合成係数を参照して、T0-T1合成信号と画像信号T2とを合成する。
【０１４４】
ステップＳ７３において、第２合成部１４５は、ステップＳ７２の処理で得られる合成後画像信号を出力する。
【０１４５】
以上、3枚合成を行う場合の信号処理の流れを説明した。
【０１４６】
（3枚合成を行う場合の信号処理部の他の構成例）
図１７は、3枚合成を行う場合の信号処理部１０４の他の構成例を示す図である。
【０１４７】
図１７においては、3枚の撮影画像を、1枚の出力画像に合成する際の信号処理について説明する。
【０１４８】
ここで、上述した図１４の信号処理部１０４では、3枚の撮影画像を1枚に合成する際に、2回に分けて合成を行い、その都度動き検出を行う構成となっていた。
【０１４９】
一方で、図１７の信号処理部１０４では、2回に分けて合成を行う点は、図１４と同じであるが、合成する際に動き検出を行わず、T0-T1-T2合成信号を先に生成するようにする。そして、図１７の信号処理部１０４では、その処理と平行して、3枚の撮影画像の最大値を選択する処理と、3枚の撮影画像で動き検出を行う処理を追加し、動き情報を加味していないT0-T1-T2合成信号に対して、T0-T1-T2の最大値を最終段で合成する事を特徴としている。
【０１５０】
図１７において、信号処理部１０４は、合成基準信号生成部１６１、第１合成係数算出部１６２、第２合成係数算出部１６３、動き検出・合成係数算出部１６４、最大値選択部１６５、第１合成部１６６、第２合成部１６７、及び第３合成部１６８から構成される。
【０１５１】
合成基準信号生成部１６１は、画像信号T0，画像信号T1，画像信号T2を合成するための基準となる信号（基準信号S0，基準信号S1，基準信号S2）を生成する。その際、合成基準信号生成部１６１は、画像信号T0から基準信号S0を、画像信号T1から基準信号S1を、画像信号T2から基準信号S2をそれぞれ生成する。
【０１５２】
合成基準信号生成部１６１は、画像信号T0と画像信号T1を、第１合成部１６６に供給し、画像信号T2を、第２合成部１６７に供給する。また、合成基準信号生成部１６１は、画像信号T0乃至画像信号T2を、最大値選択部１６５に供給する。
【０１５３】
また、合成基準信号生成部１６１は、基準信号S0を、第１合成係数算出部１６２に供給し、基準信号S1を、第２合成係数算出部１６３に供給する。また、合成基準信号生成部１６１は、基準信号S0乃至基準信号S2を、動き検出・合成係数算出部１６４に供給する。
【０１５４】
第１合成係数算出部１６２は、合成基準信号生成部１６１からの基準信号S0を参照して、画像信号T0と画像信号T1を合成するための第１合成係数を算出し、第１合成部１６６に供給する。
【０１５５】
第２合成係数算出部１６３は、合成基準信号生成部１６１からの基準信号S1を参照して、T0-T1合成信号と画像信号T2を合成するための第２合成係数を算出し、第２合成部１６７に供給する。
【０１５６】
動き検出・合成係数算出部１６４は、合成基準信号生成部１６１からの基準信号S0乃至基準信号S2に基づいて、動き判定を行い、その動き判定の結果に応じた動き補償後合成係数を算出し、第３合成部１６８に供給する。
【０１５７】
第１合成部１６６は、合成基準信号生成部１６１からの画像信号T0と画像信号T1を、第１合成係数算出部１６２からの第１合成係数で合成（アルファブレンド）して、その結果得られるT0-T1合成信号を、第２合成部１６７に供給する。
【０１５８】
第２合成部１６７は、第１合成部１６６からのT0-T1合成信号と、合成基準信号生成部１６１からの画像信号T2とを、第２合成係数算出部１６３からの第２合成係数で合成（アルファブレンド）して、その結果得られるT0-T1-T2合成信号を、第３合成部１６８に供給する。
【０１５９】
最大値選択部１６５は、合成基準信号生成部１６１からの画像信号T0乃至画像信号T2に基づいて、3枚の撮影画像の最大値を選択し、その結果得られるT0-T1-T2最大値を、第３合成部１６８に供給する。
【０１６０】
第３合成部１６８は、第２合成部１６７からのT0-T1-T2合成信号に対し、最大値選択部１６５からのT0-T1-T2最大値を、動き検出・合成係数算出部１６４からの動き補償後合成係数で合成（アルファブレンド）して、その結果得られるHDR合成後信号としての合成後画像信号を出力する。
【０１６１】
図１７の信号処理部１０４は、以上のように構成される。
【０１６２】
（動き検出処理の変形例）
図１８は、図１０の動き検出部１２３や、図１４の第１動き検出・合成係数算出部１４２などによる動き検出処理の変形例を示す図である。
【０１６３】
本技術を適用して高速点滅体の点灯状態を捉えるためには、動き検出を精度良く行う事が必須である。ここでは、そのための手法の例を提示する。
【０１６４】
例えば、図１８の動き検出処理では、長蓄（S0）と、中蓄（S1）×露光比ゲイン（長蓄露光時間（T0）÷中蓄露光時間（T1））の差分信号が、ノイズレベル以上の時に、動き判定閾値に応じて動き若しくは高速点滅被写体の消灯ありと判断して、補正を行うための動き係数を算出する。
【０１６５】
その際に、この差分信号に対して正規化ゲインを乗じる事で、差分信号がノイズの何倍かを表す評価値を生成する。ここで、このノイズ正規化ゲインは、入力信号に対してかかるゲイン（例えば、AGC(Automatic Gain Control)、キャリブレーションゲイン、レベルバランスゲイン、露光比ゲインなど）を色別に考慮して算出を行う。
【０１６６】
例えば、ノイズ正規化ゲインを適切に設定せず、動き量が正しい値に対して過大となる場合には、画像のノイズを動きであると誤判定することにより、ノイズが出力されて画質の劣化が発生する。また、例えば、ノイズ正規化ゲインを適切に設定せず、動き量が正しい値に対して過小となる場合には、LEDの明滅をノイズであると誤判定することにより、点灯状態を正しく出力する事ができない。そのため、図１８の動き検出処理では、適切なノイズ正規化ゲインが設定されるようにしている。
【０１６７】
（動き検出処理の他の変形例）
図１９は、図１０の動き検出部１２３や、図１４の第１動き検出・合成係数算出部１４２などによる動き検出処理の他の変形例を示す図である。
【０１６８】
動き検出処理においては、動き検出の精度を向上させるため、動き評価値の符号と露光比に応じた動き判定ゲイン（ノイズ正規化ゲイン）を乗算した後に動き判定を行う方法が考えられる。
【０１６９】
ここで、例えば、図１９の動き検出処理においては、ノイズ正規化ゲイン１として、例えば1.0を設定し、ノイズ正規化ゲイン２として、例えば露光比の逆数を設定することができる。図１９の動き検出処理では、動き量の符号判定に応じてこのようなノイズ正規化ゲインの設定を行う事で、動き判定閾値を動き量の符号によらず共通化することが出来、ノイズが抜けてしまう等の最大値出しの弊害を抑える事ができる。
【０１７０】
なお、図１８及び図１９においては、図１０の動き検出部１２３や、図１４の第１動き検出・合成係数算出部１４２による動き検出処理として説明したが、ここで説明した動き検出処理は、図１４の第２動き検出・合成係数算出部１４４や、図１７の動き検出・合成係数算出部１６４で行われる動き検出処理に適用するようにしてもよい。
【０１７１】
例えば、上述した図１５と図１６のフローチャートを参照して説明した3枚合成を行う場合の信号処理では、図１５のステップＳ５８の処理と、図１６のステップＳ６８の処理で、2段階の動き判定を行っているが、この3枚合成を行う場合には、ノイズ正規化ゲイン０，１，２の3つの正規化ゲインが用いられることになる。
【０１７２】
すなわち、第１動き検出・合成係数算出部１４２においては、ステップＳ５５の判定処理で、S0 ≧ S1×S1露光比の関係になると判定された場合、ノイズ正規化ゲイン０が選択されて動き判定が行われる（図１５のＳ５７）一方で、S0 ＜ S1×S1露光比の関係になると判定された場合には、ノイズ正規化ゲイン１が選択されて動き判定が行われる（図１５のＳ５６）。
【０１７３】
また、第２動き検出・合成係数算出部１４４においては、ステップＳ６５の判定処理で、S0-S1合成信号 ≧ S2×S2露光比の関係になると判定された場合、ノイズ正規化ゲイン１が選択されて動き判定が行われる（図１６のＳ６７）一方で、S0-S1合成信号 ＜ S2×S2露光比の関係になると判定された場合には、ノイズ正規化ゲイン２が選択されて動き判定が行われる（図１６のＳ６６）。
【０１７４】
ただし、第１動き検出・合成係数算出部１４２で選択されるノイズ正規化ゲイン１（図１５のＳ５６）と、第２動き検出・合成係数算出部１４４で選択されるノイズ正規化ゲイン１（図１６のＳ６７）は、同一の値とされ、この2段階の動き判定では、3つのノイズ正規化ゲインが用いられることになる。そして、このような動き評価値の符号と露光比に応じたノイズ正規化ゲインを乗算した後に、動き判定処理を行うことで、動き検出の精度を向上させることができる。
【０１７５】
＜４．本技術の信号処理の詳細な内容＞
【０１７６】
次に、図２０乃至図２３を参照して、信号処理部１０４により行われる信号処理の詳細な内容について説明する。
【０１７７】
図２０には、3枚の撮影画像（L，M，S）を、１枚の出力画像に合成する際の信号処理が示されている。図２０の信号処理では、動き検出処理と合成処理（アルファブレンド）が、2段階で行われている。また、図２１には、縦軸を、Linearized signal[LSB]とし、横軸を、Illuminance[lux]としたときの3種類の露光（L：Long Exposure，M：Medium Exposure，S：Short Exposure）とゲイン（Gain_M，Gain_S）との関係を表している。
【０１７８】
なお、図２０においては、3枚合成を行う場合の信号処理として、3枚の撮影画像（L，M，S）が入力されるが、L，M，Sのうち、長蓄（L：Long Exposure）が、T0に相当し、中蓄（M：Medium Exposure）が、T1に相当し、短蓄（S：Short Exposure）が、T2に相当している。すなわち、長蓄画像（L）は、長時間露光画像であって、上述の画像信号T0の画像に相当するものである。また、中蓄画像（M）は、中時間露光画像である画像信号T1の画像に相当し、短蓄画像（S）は、短時間露光画像である画像信号T2の画像に相当している。
【０１７９】
また、図２０において、「Motion Detection1」、「Alpha Blend1」、「Motion Detection2」、及び「Alpha Blend2」は、例えば、図１４に示した第１動き検出・合成係数算出部１４２、第１合成部１４３、第２動き検出・合成係数算出部１４４、及び第２合成部１４５にそれぞれ相当している。つまり、図２０において、「alpha_L」は、第１動き補償後合成係数に相当し、「alpha_M」は、第２動き補償後合成係数に相当している。また、「HDR1」は、T0-T1合成信号（S0-S1合成信号）に相当し、「HDR_OUT」は、合成後画像信号に相当している。
【０１８０】
ここで、例えば、図２２に示すように、長蓄画像（L）にのみ、光源の点灯状態が記録され、中蓄画像（M）と短蓄画像（S）には、光源の点灯状態が記録されていない場合、本技術の信号処理では、次のような処理が行われる。すなわち、本技術の信号処理では、例えば、長蓄画像の信号（Level of L）と、中蓄画像の信号（Level of M）との差分の信号を取ることで、長蓄画像と中蓄画像のどちらに光源の点灯状態が含まれているかを特定し、その特定結果に応じて、合成係数（ブレンド率：Blend rate）を変化させる。
【０１８１】
例えば、図２３に示すように、本技術の信号処理では、長蓄画像の信号と中蓄画像の信号のうち、長蓄画像の信号のほうが大きい場合（長蓄画像に光源が含まれる場合）には、長蓄画像の信号の合成割合（ブレンド率）を増加させる。一方で、本技術の信号処理では、長蓄画像の信号と中蓄画像の信号のうち、中蓄画像の信号のほうが大きい場合（中蓄画像に光源が含まれる場合）には、中蓄画像の信号の合成割合（ブレンド率）を増加させる。
【０１８２】
すなわち、図２３に示した合成割合（ブレンド率）の制御は、例えば、第１動き検出・合成係数算出部１４２（図２０の「Motion Detection1」）により実行される、図１５のステップＳ６０の処理に対応するものとなる。そして、図２２の例では、長蓄画像の信号と中蓄画像の信号のうち、長蓄画像の信号のほうが大きい（長蓄画像に光源が含まれる）ので、第１合成係数に対し、長蓄画像の信号の合成割合が増加されて、第１動き補償後合成係数が得られることになる。
【０１８３】
以上のように、本技術によれば、従来技術では被写体が白飛びしてしまうような高照度条件下においても、明部から暗部まで視認性を確保したまま、LED等の高速点滅被写体の点灯状態をも撮り逃がすことなく、記録可能な撮影装置を実現することができる。
【０１８４】
なお、本技術は、車載カメラや監視カメラなどの撮影装置全般に適用することができる。また、撮影対象としては、LED信号機やLED速度規制標識に限らず、輝度差が非常に大きいものや、点滅するもの（例えば高速に点滅する発光体）などを撮影対象とすることができる。
【０１８５】
＜５．固体撮像装置の構成例＞
【０１８６】
図７に示したカメラユニット１０は、例えば、裏面照射型のCMOSイメージセンサなど、積層型の固体撮像装置として構成することができる。
【０１８７】
具体的には、図２４に示すように、画素領域２０１が形成された半導体基板２００Ａと、信号処理回路領域２０２が形成された半導体基板２００Ｂとが積層された構成とすることができる。なお、図２４において、半導体基板２００Ａと半導体基板２００Ｂとは、例えば貫通ビアや金属結合等により電気的に接続される。
【０１８８】
図２５には、図２４の画素領域２０１と信号処理回路領域２０２の詳細な構成を示している。図２５において、信号処理回路領域２０２は、カメラ信号処理部２１１や、各種の信号処理を行う信号処理部２１２乃至２１４などから構成される。
【０１８９】
ここで、カメラ信号処理部２１１は、上述の信号処理部１０４（図７）を含んで構成することができる。すなわち、カメラ信号処理部２１１は、図１１や、図１５と図１６のフローチャートに示した信号処理を行うことができる。なお、カメラ信号処理部２１１には、ディレイライン１０３やタイミング制御部１０６などを含めるようにしてもよい。また、画素領域２０１には、撮像素子１０２の画素アレイ部などが含まれる。
【０１９０】
また、図２６に示すように、画素領域２０１が形成された半導体基板２００Ａと、信号処理回路領域２０２が形成された半導体基板２００Ｂとの間に、メモリ領域２０３が形成された半導体基板２００Ｃが積層されるようにしてもよい。
【０１９１】
図２７には、図２６の画素領域２０１と、信号処理回路領域２０２と、メモリ領域２０３の詳細な構成を示している。図２７において、信号処理回路領域２０２は、カメラ信号処理部３１１や、各種の信号処理を行う信号処理部３１２乃至３１４などから構成される。また、メモリ領域２０３は、メモリ部３２１乃至３２２などから構成される。
【０１９２】
ここで、カメラ信号処理部３１１は、図２５のカメラ信号処理部２１１と同様に、信号処理部１０４（図７）等を含んで構成される。なお、メモリ領域２０３に、ディレイライン１０３を含めるようにして、当該ディレイライン１０３が、画素領域２０１（撮像素子１０２）からの画像データを順次記憶し、適宜、カメラ信号処理部３１１（信号処理部１０４）に供給するようにしてもよい。
【０１９３】
＜６．コンピュータの構成例＞
【０１９４】
上述した一連の処理（図１１の信号処理や、図１５と図１６の信号処理）は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【０１９５】
図２８は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【０１９６】
コンピュータ１０００において、CPU(Central Processing Unit)１００１、ROM(Read Only Memory)１００２、RAM(Random Access Memory)１００３は、バス１００４により相互に接続されている。バス１００４には、さらに、入出力インタフェース１００５が接続されている。入出力インタフェース１００５には、入力部１００６、出力部１００７、記録部１００８、通信部１００９、及びドライブ１０１０が接続されている。
【０１９７】
入力部１００６は、キーボード、マウス、マイクロフォンなどよりなる。出力部１００７は、ディスプレイ、スピーカなどよりなる。記録部１００８は、ハードディスクや不揮発性のメモリなどよりなる。通信部１００９は、ネットワークインタフェースなどよりなる。ドライブ１０１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブル記録媒体１０１１を駆動する。
【０１９８】
以上のように構成されるコンピュータ１０００では、CPU１００１が、例えば、記録部１００８に記憶されているプログラムを、入出力インタフェース１００５及びバス１００４を介して、RAM１００３にロードして実行することにより、上述した一連の処理が行われる。
【０１９９】
コンピュータ１０００（CPU１００１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体１０１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の伝送媒体を介して提供することができる。
【０２００】
コンピュータ１０００では、プログラムは、リムーバブル記録媒体１０１１をドライブ１０１０に装着することにより、入出力インタフェース１００５を介して、記録部１００８にインストールすることができる。また、プログラムは、有線又は無線の伝送媒体を介して、通信部１００９で受信し、記録部１００８にインストールすることができる。その他、プログラムは、ROM１００２や記録部１００８に、あらかじめインストールしておくことができる。
【０２０１】
なお、コンピュータ１０００が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０２０２】
ここで、本明細書において、コンピュータ１０００に各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含むものである。
【０２０３】
また、プログラムは、１のコンピュータにより処理されるものであってもよいし、複数のコンピュータによって分散処理されるものであってもよい。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであってもよい。
【０２０４】
さらに、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０２０５】
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。例えば、本技術は、１つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０２０６】
＜７．応用例＞
【０２０７】
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
【０２０８】
図２９は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図２９に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller  Area  Network）、ＬＩＮ（Local  Interconnect  Network）、ＬＡＮ（Local  Area  Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
【０２０９】
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図２９では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
【０２１０】
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock  Brake  System）又はＥＳＣ（Electronic  Stability  Control）等の制御装置としての機能を有してもよい。
【０２１１】
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
【０２１２】
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【０２１３】
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
【０２１４】
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time  Of  Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
【０２１５】
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light  Detection  and  Ranging、Laser  Imaging  Detection  and  Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
【０２１６】
ここで、図３０は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【０２１７】
なお、図３０には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
【０２１８】
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
【０２１９】
図２９に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
【０２２０】
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
【０２２１】
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
【０２２２】
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal  Digital  Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
【０２２３】
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read  Only  Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random  Access  Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard  Disc  Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
【０２２４】
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global  System  of  Mobile  communications）、ＷｉＭＡＸ、ＬＴＥ（Long  Term  Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer  To  Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine  Type  Communication）端末）と接続してもよい。
【０２２５】
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless  Access  in  Vehicle  Environment）、ＤＳＲＣ（Dedicated  Short  Range  Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle  to  Vehicle）通信、路車間（Vehicle  to  Infrastructure）通信、車両と家との間（Vehicle  to  Home）の通信及び歩車間（Vehicle  to  Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
【０２２６】
測位部７６４０は、例えば、ＧＮＳＳ（Global  Navigation  Satellite  System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global  Positioning  System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
【０２２７】
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
【０２２８】
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）又はＷＵＳＢ（Wireless  USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal  Serial  Bus）、ＨＤＭＩ（High-Definition  Multimedia  Interface）、又はＭＨＬ（Mobile  High-definition  Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
【０２２９】
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
【０２３０】
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced  Driver  Assistance  System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
【０２３１】
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
【０２３２】
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２９の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented  Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
【０２３３】
なお、図２９に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
【０２３４】
なお、図７を用いて説明した本実施形態に係るカメラユニット１０の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
【０２３５】
以上説明した車両制御システム７０００において、図７を用いて説明した本実施形態に係るカメラユニット１０は、図２９に示した応用例の統合制御ユニット７６００に適用することができる。例えば、カメラユニット１０の信号処理部１０４及びタイミング制御部１０６は、統合制御ユニット７６００のマイクロコンピュータ７６１０に相当する。例えば、統合制御ユニット７６００が、異なる露光量で撮影した複数の画像を合成する際に、露光比を加味したそれぞれの画像の最大値を同一座標の画素値の差分量に応じてブレンドし、さらに、複数の異なる露光量で撮影を行う際に、それらの露光期間を可能な限り近接させる露光制御を行う事で、輝度差が非常に大きいシーンにおいて、点滅（高速に点滅）する撮影対象を確実に撮影することができる。
【０２３６】
また、図７を用いて説明したカメラユニット１０の少なくとも一部の構成要素は、図２９に示した統合制御ユニット７６００のためのモジュール（例えば、一つのダイで構成される集積回路モジュール）において実現されてもよい。あるいは、図７を用いて説明したカメラユニット１０が、図２９に示した車両制御システム７０００の複数の制御ユニットによって実現されてもよい。
【０２３７】
なお、本技術は、以下のような構成をとることができる。
【０２３８】
（１）
異なる露光時間で撮影された複数の画像間における差分を検出する検出部と、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、
前記合成係数に基づいて前記複数の画像を合成する合成部と、
を備える信号処理装置。
（２）
前記複数の画像の露光時間を制御する制御部をさらに備え、
前記複数の画像は、第１露光時間を有する第１画像と、前記第１露光時間とは異なる第２露光時間を有する第２画像と、を含み、
前記制御部は、前記第１画像に続いて前記第２画像を撮影するよう制御するとともに、前記第１画像の露光終了と前記第２画像の露光開始との間隔を極小化する
前記（１）記載の信号処理装置。
（３）
前記制御部は、前記第１露光時間を前記第２露光時間よりも長くする
前記（２）記載の信号処理装置。
（４）
前記複数の画像それぞれの合成基準信号を生成する合成基準信号生成部をさらに備え、
前記検出部は、前記合成基準信号に基づいて前記差分を検出する
前記（１）乃至（３）のいずれかに記載の信号処理装置。
（５）
前記合成係数算出部は、前記合成基準信号に基づいて中間合成係数を算出し、前記中間合成係数と前記差分とに基づいて前記合成係数を算出する
前記（４）記載の信号処理装置。
（６）
前記合成基準信号生成部は、前記第１画像に対応する第１合成基準信号と前記第２画像に対応する第２合成基準信号とを生成し、
前記検出部は、前記差分として前記第１合成基準信号と前記第２合成基準信号との大小関係を検出し、
前記合成係数算出部は、前記第１合成基準信号と前記第２合成基準信号とのうち、大きな合成基準信号に対応する画像の合成割合を多くするよう合成係数を算出する
前記（４）又は（５）記載の信号処理装置。
（７）
前記合成基準信号は輝度値である
前記（４）乃至（６）のいずれかに記載の信号処理装置。
（８）
前記複数の画像は、前記第１露光時間及び前記第２露光時間のいずれとも異なる第３露光時間を有する第３画像をさらに含み、
前記制御部は、前記第２画像に続いて前記第３画像を撮影するよう制御するとともに、前記第２画像の露光終了と前記第３画像の露光開始との間隔を極小化する
前記（２）記載の信号処理装置。
（９）
前記制御部は、前記第１露光時間を前記第２露光時間よりも長くするとともに、前記第２露光時間を前記第３露光時間よりも長くするよう制御し、
前記合成部は、前記第１画像と前記第２画像とを合成した中間合成画像に対して前記第３画像を合成する
前記（８）記載の信号処理装置。
（１０）
前記合成係数算出部は、前記第１画像と前記第２画像との合成割合を示す第１合成係数と、前記中間合成画像と前記第３画像との合成割合を示す第２合成係数と、を算出し、
前記合成部は、前記第１合成係数に基づいて前記第１画像と前記第２画像とを合成するとともに、前記第２合成係数に基づいて前記中間合成画像と前記第３画像とを合成する
前記（９）記載の信号処理装置。
（１１）
前記制御部は、前記複数の画像それぞれの露光時間の合計時間を、明滅する被写体の消灯時間よりも長くなるよう制御する
前記（２）記載の信号処理装置。
（１２）
異なる露光時間で撮影された複数の画像を生成する画像生成部と、
前記複数の画像間における差分を検出する検出部と、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出する合成係数算出部と、
前記合成係数に基づいて前記複数の画像を合成する合成部と、
を備える撮影装置。
（１３）
異なる露光時間で撮影された複数の画像間における差分を検出することと、
前記差分に基づいて、前記複数の画像の合成割合を示す合成係数を算出することと、
前記合成係数に基づいて前記複数の画像を合成することと、
を含む信号処理方法。
【符号の説明】
【０２３９】
１０  カメラユニット，  １０１  レンズ，  １０２  撮像素子，  １０３  ディレイライン，  １０４  信号処理部，  １０５  出力部，  １０６  タイミング制御部，  １２１  合成基準信号生成部，  １２２  合成係数算出部，  １２３  動き検出部，  １２４  合成係数変調部，  １２５  合成部，  １４１  合成基準信号生成部，  １４２  第１動き検出・合成係数算出部，  １４３  第１合成部，  １４４  第２動き検出・合成係数算出部，  １４５  第２合成部，  １６１  合成基準信号生成部，  １６２  第１合成係数算出部，  １６３  第２合成係数算出部，  １６４  動き検出・合成係数算出部，  １６５  最大値選択部，  １６６  第１合成部，  １６７  第２合成部，  １６８  第３合成部，  ２０１  画素領域，  ２０２  信号処理回路領域，  ２０３  メモリ領域，  ２１１  カメラ信号処理部，  ３１１  カメラ信号処理部，  １０００  コンピュータ，  １００１  CPU，  ７０００  車両制御システム，  ７６００  統合制御ユニット，  ７６１０  マイクロコンピュータ
【図１】
2018019387.tif 000003
【図２】
2018019387.tif 000004
【図３】
2018019387.tif 000005
【図４】
2018019387.tif 000006
【図５】
2018019387.tif 000007
【図６】
2018019387.tif 000008
【図７】
2018019387.tif 000009
【図８】
2018019387.tif 000010
【図９】
2018019387.tif 000011
【図１０】
2018019387.tif 000012
【図１１】
2018019387.tif 000013
【図１２】
2018019387.tif 000014
【図１３】
2018019387.tif 000015
【図１４】
2018019387.tif 000016
【図１５】
2018019387.tif 000017
【図１６】
2018019387.tif 000018
【図１７】
2018019387.tif 000019
【図１８】
2018019387.tif 000020
【図１９】
2018019387.tif 000021
【図２０】
2018019387.tif 000022
【図２１】
2018019387.tif 000023
【図２２】
2018019387.tif 000024
【図２３】
2018019387.tif 000025
【図２４】
2018019387.tif 000026
【図２５】
2018019387.tif 000027
【図２６】
2018019387.tif 000028
【図２７】
2018019387.tif 000029
【図２８】
2018019387.tif 000030
【図２９】
2018019387.tif 000031
【図３０】
2018019387.tif 000032