(57)【要約】【課題】被写体に動いている物体が含まれる場合でも自然なＨＤＲ画像を生成することが可能な撮像制御装置を提供する。【解決手段】第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成する制御部と、前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成する合成部と、を備え、前記制御部は、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて前記合成部で前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定する、撮像制御装置が提供される。【選択図】図１
2017184094.tif 000002
【特許請求の範囲】
【請求項１】
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成する制御部と、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成する合成部と、
を備え、
前記制御部は、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて前記合成部で前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定する、撮像制御装置。
【請求項２】
前記制御部は、前記第１露光と前記第２露光との間に空き時間を入れない条件で前記画素へ露光させる、請求項１に記載の撮像制御装置。
【請求項３】
前記合成部で合成された画像もしくは前記選択画像の少なくともいずれか一方を出力する出力部をさらに備え、
前記出力部は、前記第１露光のリード時間と前記第２露光時間とが時間的に重なる場合では、前記選択画像のみを出力する、請求項１に記載の撮像制御装置。
【請求項４】
前記第１露光時間は、前記第２露光時間以下である、請求項１に記載の撮像制御装置。
【請求項５】
前記露光比が２より大きい場合は、前記選択画像として前記第１画像が選択され、前記露光比が２より小さい場合は、前記選択画像として前記第２画像が選択される、請求項４に記載の撮像制御装置。
【請求項６】
前記制御部は、前記合成部で前記選択画像として選択される画像が切り替わる際にヒステリシスが生じるよう前記第１露光時間及び前記第２露光時間を決定する、請求項１に記載の撮像制御装置。
【請求項７】
第１半導体基板、第２半導体基板、第３半導体基板からなる３枚の半導体基板を積層して構成され、
前記第１半導体基板には、前記画素が少なくとも形成され、
前記第２半導体基板には、前記第１画像及び前記第２画像を記憶する記憶部が形成され、
前記第３半導体基板には、前記制御部が少なくとも形成されている、請求項１に記載の画像処理装置。
【請求項８】
前記第２半導体基板が、前記第１半導体基板と前記第３半導体基板との間に設けられる、請求項７に記載の画像処理装置。
【請求項９】
前記第３半導体基板が、前記第１半導体基板と前記第２半導体基板との間に設けられる、請求項７に記載の画像処理装置。
【請求項１０】
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、
前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、
を含む、撮像制御方法。
【請求項１１】
コンピュータに、
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、
前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、
を実行させる、コンピュータプログラム。
【請求項１２】
請求項１に記載の撮像制御装置を備える、電子機器。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器に関する。
【背景技術】
【０００２】
ＣＣＤイメージセンサやＣＭＯＳイメージセンサを備えたデジタルカメラには、ダイナミックレンジの幅を広げるＨＤＲ（Ｈｉｇｈ  Ｄｙｎａｍｉｃ  Ｒａｎｇｅ）という機能が備えられているものがある。ＨＤＲ画像を撮像する技術として、互いに異なる露光時間で撮像された複数枚の画像を用いてＨＤＲ画像を生成する方法がある（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１１−４３５３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
長時間露光で撮像された画像と短時間露光で撮像された画像とを合成してＨＤＲ画像を生成する場合、露光時間の比率によっては画像の撮像間でブランクが生じる。被写体に動いている物体が含まれる場合、ＨＤＲ画像の生成時に、その動いている被写体が不自然なものなる。
【０００５】
そこで、本開示では、被写体に動いている物体が含まれる場合でも自然なＨＤＲ画像を生成することが可能な、新規かつ改良された撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器を提案する。
【課題を解決するための手段】
【０００６】
本開示によれば、第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成する制御部と、前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成する合成部と、を備え、前記制御部は、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて前記合成部で前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定する、撮像制御装置が提供される。
【０００７】
また本開示によれば、第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、を含む、撮像制御方法が提供される。
【０００８】
また本開示によれば、コンピュータに、第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、を実行させる、コンピュータプログラムが提供される。
【０００９】
また本開示によれば、上記撮像制御装置を備える、電子機器が提供される。
【発明の効果】
【００１０】
以上説明したように本開示によれば、被写体に動いている物体が含まれる場合でも自然なＨＤＲ画像を生成することが可能な、新規かつ改良された撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器を提供することが出来る。
【００１１】
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
【図面の簡単な説明】
【００１２】
【図１】既存のＨＤＲ画像の撮像技術を説明するための説明図である。
【図２】既存のＨＤＲ画像の撮像技術を説明するための説明図である。
【図３】本開示の実施の形態に係る電子機器１０の機能構成例を示す説明図である。
【図４】撮像部１１に含まれるセンサモジュール１００の構成例を示す説明図である。
【図５】本開示の実施の形態に係るセンサモジュール１００の機能構成例を示す説明図である。
【図６】本開示の実施の形態に係るセンサモジュール１００の動作例を示す流れ図である。
【図７】露光比による短蓄画像の選択例を示す説明図である。
【図８】極めて短い時間で２つのフレームの露光を行う例を示す説明図である。
【発明を実施するための形態】
【００１３】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１４】
なお、説明は以下の順序で行うものとする。
１．本開示の実施の形態
１．１．概要
１．２．撮像装置の機能構成例
１．３．センサモジュールの構成例
１．４．動作例
２．まとめ
【００１５】
［１．１．概要］
本開示の実施の形態について詳細に説明する前に、まず本開示の実施の形態の概要について説明する。
【００１６】
上述したように、ＣＣＤイメージセンサやＣＭＯＳイメージセンサを備えたデジタルカメラには、ダイナミックレンジの幅を広げるＨＤＲという機能が備えられているものがある。ＨＤＲ画像を撮像する技術として、互いに異なる露光時間で撮像された複数枚の画像を用いてＨＤＲ画像を生成する方法がある。
【００１７】
以下では、既存のＨＤＲ画像の撮像技術を説明する。図１及び図２は、既存のＨＤＲ画像の撮像技術を説明するための説明図である。図１及び図２では、２枚の画像を互いに異なる、または同じ露光時間で撮像することでＨＤＲ画像を生成する例が示されている。また図１及び図２では、２つのフレームを加算することで長時間露光による画像（長蓄画像）を生成し、長蓄画像の基となるフレームのいずれか１つを短時間露光による画像（短蓄画像）とする場合の例が示されている。
【００１８】
なお、以下の実施の形態の説明では、ＨＤＲ画像の生成に際し、２枚の画像それぞれにおいて設定される露光時間のうち、長い方の露光時間を長露光時間と称し、短い方の露光時間を短露光時間と称する。また、長露光時間で露光して得られる１枚の画像を長露光画像、短露光時間で露光して得られる１枚の画像を短露光画像、長露光時間で露光して得られる画素信号を長露光信号、短露光時間で露光して得られる画素信号を短露光信号とも称する。
【００１９】
図１は、短蓄画像を２番目のフレームに固定した場合の、露光比と露光タイミングとの関係を例示したものである。ここで露光比とは、短蓄画像の露光時間を１とした場合の長蓄画像の露光時間を現している。すなわち、露光比２とは、長蓄画像の露光時間：短蓄画像の露光時間＝２：１であることを示している。
【００２０】
ＣＭＯＳイメージセンサなどの撮像素子からは、例えば垂直方向にＨ行の画素からなる場合、１行目からＨ行目まで順次データを読み出すことが出来るが、最後のＨ行目のデータを読み出し終えてからでないと、次のフレームの１行目からの読み出しを開始することができない。
【００２１】
そのため、イメージセンサからの画像の出力フレームレートが３０ｆｐｓ（１フレームあたりの時間がおよそ３３．３ミリ秒）の場合に、露光比をおよそ５としようとすると、２番目のフレームの露光時間を６．６ミリ秒とすればよい。そして、明るい被写体と暗い被写体が混在するような場合に、撮像された画像においてどちらの被写体も適切に表示できるよう、露光比を５以上にしようとすると、２番目のフレームの露光時間を６．６ミリ秒より短くすれば良い。しかし、１番目のフレームの露光時間は、上述の読み出しの制限から、２６．７ミリ秒より長くすることができない。従って、短蓄画像を２番目のフレームに固定した場合、露光比を５以上にしようとすると、１番目のフレームと２番目のフレームにブランクが生じてしまう。１番目のフレームと２番目のフレームにブランクが生じると、被写体に動いている物体が含まれる場合、ＨＤＲ画像の生成時に、その動いている被写体が不自然なものなる。
【００２２】
図２は、短蓄画像を１番目のフレームに固定した場合の、露光比と露光タイミングとの関係を例示したものである。
【００２３】
短蓄画像を１番目のフレームに固定すると、イメージセンサからの画像の出力フレームレートが３０ｆｐｓの場合に、露光比をおよそ１．２５としようとすると、２番目のフレームの露光時間を６．６ミリ秒とすればよい。そして、明るい被写体と暗い被写体が混在するような場合に、撮像された画像においてどちらの被写体も適切に表示できるよう、露光比を１．２５以下にしようとすると、２番目のフレームの露光時間を６．６ミリ秒より短くすれば良い。しかし、１番目のフレームの露光時間は、上述の読み出しの制限から、２６．７ミリ秒より長くすることができない。従って、短蓄画像を１番目のフレームに固定した場合、露光比を１．２５以下にしようとすると、１番目のフレームと２番目のフレームにブランクが生じてしまう。１番目のフレームと２番目のフレームにブランクが生じると、被写体に動いている物体が含まれる場合、ＨＤＲ画像の生成時に、その動いている被写体が不自然なものなる。
【００２４】
そこで本件開示者は、上述した内容に鑑み、露光比によってＨＤＲ画像の生成時に被写体が不自然な画像とならないようにＨＤＲ画像を生成出来る技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、露光比によってＨＤＲ画像の生成時に被写体が不自然な画像とならないようにＨＤＲ画像を生成出来る技術を考案するに至った。
【００２５】
以上、本開示の実施の形態の概要について説明した。
【００２６】
［１．２．機能構成例］
続いて、本開示の実施の形態に係る電子機器の機能構成例について説明する。図３は、本開示の実施の形態に係る電子機器１０の機能構成例を示す説明図である。以下、図３を用いて本開示の実施の形態に係る電子機器１０の機能構成例について説明する。
【００２７】
図３に示したように、本開示の実施の形態に係る電子機器１０は、撮像部１１と、画像処理部１２と、表示部１３と、制御部１４と、記憶部１５と、操作部１６と、を含んで構成される。
【００２８】
撮像部１１は、レンズや、センサモジュール等を含んで構成され、レンズを通じてセンサモジュールの受光面に結像される像に応じて、所定期間電子を蓄積する。撮像部１１は、その蓄積された電子に応じた信号に対して所定の信号処理を行う。そして撮像部１１は、信号処理を行った後の信号を画像処理部１２に出力する。なお、撮像部１１に含まれるセンサモジュールの構成については後に詳述する。
【００２９】
撮像部１１は、上記所定の信号処理として、電子式手振れ補正方式による手振れ補正処理、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理などの信号処理を実行しうる。
【００３０】
画像処理部１２は、例えばアプリケーションプロセッサ（ＡＰ）で構成され、撮像部１１から出力される信号を用いて画像処理を実行する。画像処理部１２が実行する画像処理には、例えば撮像部１１から出力される信号を用いたデモザイク処理、デモザイク処理後の画像の表示部１３への表示処理や、記憶部１５への記憶処理などがある。
【００３１】
表示部１３は、例えば液晶ディスプレイ、有機ＥＬディスプレイなどで構成される表示デバイスである。表示部１３は、制御部１４によって表示内容が制御される。例えば、表示部１３は、撮像部１１によって撮像されて、画像処理部１２によって画像処理が行われた画像を、制御部１４の制御に基づいて表示する。
【００３２】
制御部１４は、例えばＣＰＵ（Central Processing Unit）等のプロセッサや、ＲＯＭ、ＲＡＭなどで構成され、電子機器１０の各部の動作を制御する。
【００３３】
記憶部１５は、例えばフラッシュメモリその他の不揮発性メモリなどの記憶媒体で構成される。記憶部１５は、撮像部１１によって撮像されて、画像処理部１２によって画像処理が行われた画像を記憶する。記憶部１５が記憶した画像は、電子機器１０のユーザの操作に応じて表示部１３に表示されうる。
【００３４】
操作部１６は、電子機器１０の操作のためのデバイスであり、例えばボタンやタッチパネルなどで構成される。操作部１６がタッチパネルを含む場合、タッチパネルは表示部１３の表示面に設けられる。電子機器１０のユーザは、撮像部１１が撮像する画像を電子機器１０に記録したい場合には、操作部１６の所定のボタンを操作することでシャッタトリガを発生させる。撮像部１１や画像処理部１２は、シャッタトリガの発生を検知すると、そのシャッタトリガの発生に応じて画像を電子機器１０に記録するための処理を実行する。
【００３５】
図３に示した電子機器１０は、特定の機器に限定されるものでは無く、例えばデジタルカメラ、スマートフォン、タブレット型携帯端末、携帯型音楽再生装置、ゲーム機などの様々な形態をとりうる。
【００３６】
以上、本開示の実施の形態に係る電子機器１０の機能構成例について説明した。続いて、本開示の実施の形態に係る電子機器１０の、撮像部１１に含まれるイメージセンサの構成例について説明する。
【００３７】
［１．３．センサモジュールの構成例］
図４は、撮像部１１に含まれるセンサモジュール１００の構成例を示す説明図である。本開示の実施の形態に係るセンサモジュール１００は、本開示の画像処理装置の一例で有り、図４に示したように、３つの基盤が積層されて構成されている。本開示の実施の形態に係るセンサモジュール１００は、画素基板１１０と、メモリ基板１２０と、信号処理基板１３０と、の順に積層された構成を有する。
【００３８】
画素基板１１０は、単位画素がアレイ状に形成された画素領域からなる撮像素子を有する基板である。各単位画素は、被写体からの光を受光し、その入射光を光電変換して電荷を蓄積し、所定のタイミングにおいて、その電荷を画素信号として出力する。画素基板１１０が出力する画素信号は、メモリ基板１２０に蓄えられ、また信号処理基板１３０において信号処理が施される。なお、画素基板１１０は、アナログ信号をデジタル信号に変換するＡＤ変換器を備える。すなわち画素基板１１０が出力する画素信号はデジタル信号である。
【００３９】
メモリ基板１２０は、画素基板１１０が出力する画素信号を一時的に蓄えるＤＲＡＭ（Dynamic Random Access Memory）などのメモリを有する基板である。メモリ基板１２０は、複数フレーム、例えば、信号処理基板１３０において電子式手振れ補正方式による手振れ補正処理を実行することが出来るだけのフレームの画素信号を一時的に蓄えることができる容量を有する。メモリ基板１２０に蓄えられた画素信号は、信号処理基板１３０からの読出し命令に基づいて読み出される。
【００４０】
信号処理基板１３０は、メモリ基板１２０に蓄えられた画素信号に対する各種信号処理を実行する。信号処理基板１３０が実行する信号処理は、メモリ基板１２０に蓄えられた画素信号に対する画質に関する信号処理であり、例えば、電子式手振れ補正方式による手振れ補正処理、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理などの信号処理を実行しうる。
【００４１】
なお、図４にはセンサモジュール１００が画素基板１１０と、メモリ基板１２０と、信号処理基板１３０と、の順に積層された構成の図を示したが、本開示は係る例に限定されない。例えば、センサモジュール１００が画素基板１１０と、信号処理基板１３０と、メモリ基板１２０と、の順に積層された構成を有していても良い。
【００４２】
以上、図４を用いてセンサモジュール１００の構成例について説明した。続いて、センサモジュール１００の機能構成例について説明する。
【００４３】
図５は、本開示の実施の形態に係るセンサモジュール１００の機能構成例を示す説明図である。以下、図５を用いて本開示の実施の形態に係るセンサモジュール１００の機能構成例について説明する。
【００４４】
画素基板１１０は、単位画素がアレイ状に形成された画素領域からなる撮像素子１１１と、所定のクロック信号やタイミング信号を撮像素子１１１に供給する制御部１１２と、を備える。制御部１１２からの信号に応じて撮像素子１１１が出力する画素信号は信号処理基板１３０に一旦送られた後に、メモリ基板１２０に送られる。
【００４５】
本実施形態では、制御部１１２は、ＨＤＲ画像の撮像の際に、フレーム間でブランクが生じないように２つの露光信号が撮像素子１１１から出力されるよう、タイミング信号を撮像素子１１１に供給する。そして制御部１１２は、ＨＤＲ画像の撮像の際に設定される露光比となるようにタイミング信号を撮像素子１１１に供給する。
【００４６】
メモリ基板１２０は、ＤＲＡＭ（Dynamic Random Access Memory）などで構成される画像記憶部１２１を有する。画像記憶部１２１は、撮像素子１１１が出力する画素信号を一時的に蓄える。画像記憶部１２１は、複数フレームの画素信号を一時的に蓄えることができる容量を有する。画像記憶部１２１に蓄えられた画素信号は、信号処理基板１３０からの読出し命令に基づいて読み出される。
【００４７】
信号処理基板１３０は、前処理部１３１と、後処理部１３２と、を含んで構成される。
【００４８】
前処理部１３１は、撮像素子１１１が出力する画素信号に対する信号処理を施す。前処理部１３１は、信号処理を施した後の画素信号を画像記憶部１２１に記憶させる。前処理部１３１が実行する信号処理には、例えば、ゲイン調整処理やクランプ処理、画素加算処理などが含まれうる。
【００４９】
後処理部１３２は、画像記憶部１２１に記憶された画素信号に対する信号処理を実行する。後処理部１３２は、画像記憶部１２１に記憶された画素信号に対する信号処理を実行すると、信号処理後の画素信号を画像処理部１２へ出力する。後処理部１３２が実行する信号処理としては、例えば、自動ホワイトバランス処理、自動露出処理、歪補正処理、欠陥補正処理、ノイズ低減処理、ハイダイナミックレンジ合成処理などが含まれうる。また後処理部１３２は、複数フレームで撮像された画像の合成処理を実行しうる。
【００５０】
本実施形態では、後処理部１３２は、ＨＤＲ画像を生成する際に、長蓄画像として、撮像素子１１１から出力された長時間露光と短露光画像とをフレーム合成したものを使用する。そして後処理部１３２は、短蓄画像として、露光比に応じて、１番目のフレームの露光信号による画像を使用するか、２番目のフレームの露光信号による画像を使用するか、を決定する。従って、後処理部１３２は、本開示の制御部及び合成部の一例として機能しうる。
【００５１】
本開示の実施の形態に係るセンサモジュール１００は、係る構成を有することで、露光比によってＨＤＲ画像の生成時に被写体が不自然な画像とならないようにＨＤＲ画像を生成することができる。
【００５２】
以上、本開示の実施の形態に係るセンサモジュール１００の機能構成例について説明した。
【００５３】
［１．４．動作例］
続いて、本開示の実施の形態に係るセンサモジュール１００の動作例を説明する。図６は、本開示の実施の形態に係るセンサモジュール１００の動作例を示す流れ図である。図６に示したのは、ＨＤＲ画像を生成する際の、本開示の実施の形態に係るセンサモジュール１００の流れ図である。以下、図６を用いて本開示の実施の形態に係る本開示の実施の形態に係るセンサモジュール１００の動作例について説明する。
【００５４】
本開示の実施の形態に係るセンサモジュール１００は、ＨＤＲ画像を生成する際に、ＨＤＲ画像の基となる長蓄画像と短蓄画像との露光比が２より大きいかどうかを判定する（ステップＳ１０１）。ステップＳ１０１の判定処理は、例えば制御部１１２が実行する。
【００５５】
ステップＳ１０１の判定の結果、ＨＤＲ画像の基となる長蓄画像と短蓄画像との露光比が２より大きい場合は（ステップＳ１０１、Ｙｅｓ）、続いてセンサモジュール１００は、第１フレームの露光信号を短蓄画像とするよう、第１フレーム及び第２フレームの露光時間を決定する（ステップＳ１０２）。ステップＳ１０２の決定処理は、例えば制御部１１２が実行する。
【００５６】
一方、ステップＳ１０１の判定の結果、ＨＤＲ画像の基となる長蓄画像と短蓄画像との露光比が２以下の場合は（ステップＳ１０１、Ｎｏ）、続いてセンサモジュール１００は、第２フレームの露光信号を短蓄画像とするよう、第１フレーム及び第２フレームの露光時間を決定する（ステップＳ１０３）。ステップＳ１０３の決定処理は、例えば制御部１１２が実行する。
【００５７】
第１フレーム及び第２フレームの露光時間を決定すると、続いてセンサモジュール１００は、ステップＳ１０２またはステップＳ１０３で決定した露光時間で撮像素子１１１を露光し、撮像素子１１１から第１フレームの露光信号を読み出す（ステップＳ１０４）。ステップＳ１０４の処理は、例えば制御部１１２が撮像素子１１１に対して露光信号を読み出すための信号を供給することによって行われる。
【００５８】
撮像素子１１１から第１フレームの露光信号を読み出すと、続いてセンサモジュール１００は、読み出した第１フレームの露光信号を画像記憶部１２１に一時記憶する（ステップＳ１０５）。露光比が２より大きい場合は、この第１フレームの露光信号が短蓄画像となる。
【００５９】
読み出した第１フレームの露光信号を画像記憶部１２１に一時記憶すると、続いてセンサモジュール１００は、ステップＳ１０２またはステップＳ１０３で決定した露光時間で撮像素子１１１を露光し、撮像素子１１１から第２フレームの露光信号を読み出す（ステップＳ１０６）。ステップＳ１０６の処理は、例えば制御部１１２が撮像素子１１１に対して露光信号を読み出すための信号を供給することによって行われる。
【００６０】
撮像素子１１１から第２フレームの露光信号を読み出すと、続いてセンサモジュール１００は、読み出した第２フレームの露光信号を画像記憶部１２１に一時記憶する（ステップＳ１０７）。露光比が２以下の場合は、この第２フレームの露光信号が短蓄画像となる。
【００６１】
読み出した第２フレームの露光信号を画像記憶部１２１に一時記憶すると、続いてセンサモジュール１００は、画像記憶部１２１に記憶されている第１フレームの露光信号及び第２フレームの露光信号を取得し、取得した第１フレームの露光信号及び第２フレームの露光信号を加算した加算信号を生成する（ステップＳ１０８）。ステップＳ１０５の加算信号の生成処理は、例えば後処理部１３２が実行する。センサモジュール１００は、加算信号を生成すると、生成した加算信号を画像記憶部１２１に一時記憶する。
【００６２】
加算信号を生成すると、続いてセンサモジュール１００は、ステップＳ１０８で生成した加算信号を長蓄画像として、長蓄画像と短蓄画像と合成することでＨＤＲ画像を生成する（ステップＳ１０９）。ステップＳ１０９のＨＤＲ画像の生成処理は、例えば後処理部１３２が実行する。
【００６３】
本開示の実施の形態に係るセンサモジュール１００は、係る動作を実行することで、露光比によってＨＤＲ画像の生成時に被写体が不自然な画像とならないようにＨＤＲ画像を生成することができる。
【００６４】
ここで、上記一連の処理のステップＳ１０６で、長蓄画像と短蓄画像との露光比が２より大きいかどうかで処理を分けていることを説明する。
【００６５】
図７は、本開示の実施の形態に係るセンサモジュール１００によるＨＤＲ画像の生成時の、露光比による短蓄画像の選択例を示す説明図である。図７に示した例では、いずれも、第１フレームと第２フレームとの間に空き時間が無いように露光を行っている。
【００６６】
センサモジュール１００は、露光比が２以下の場合は、第２フレームの露光信号を短蓄画像に選択する。一方、センサモジュール１００は、露光比が２を超える場合は、第１フレームの露光信号を短蓄画像に選択する。
【００６７】
このようにセンサモジュール１００は、露光比が２以下の場合と、２を超える場合とで、短蓄画像に選択するフレームを切り替えることで、長蓄画像の生成時に１番目のフレームと２番目のフレームにブランクが生じることを防ぐことが出来る。すなわち、本開示の実施の形態に係るセンサモジュール１００は、露光比が２以下の場合と、２を超える場合とで、短蓄画像に選択するフレームを切り替えることで、露光比によってＨＤＲ画像の生成時に被写体が不自然な画像とならないようにＨＤＲ画像を生成することができる。
【００６８】
なお、上述した例では、センサモジュール１００は、露光比が２以下の場合と、２を超える場合とで、短蓄画像に選択するフレームを切り替えていたが、短蓄画像に選択するフレームを切り替える露光比は、係る例に限定されるものではない。
【００６９】
また上述した例では、センサモジュール１００は、露光比が２以下の場合と、２を超える場合とで、短蓄画像に選択するフレームを切り替えていたが、被写体の明るさによって露光比が２前後となるような状況では、短蓄画像に選択するフレームが頻繁に切り替わってしまう。短蓄画像に選択するフレームが頻繁に切り替わると、生成するＨＤＲ画像に動く被写体が含まれている場合、被写体のブレの方向が頻繁に切り替わる。
【００７０】
そこで、センサモジュール１００は、短蓄画像に選択するフレームが頻繁に切り替わることを回避するため、短蓄画像に選択するフレームが切り替わる露光比の近辺で、短蓄画像に選択するフレームの切り替わりにヒステリシスを設けても良い。例えば、センサモジュール１００は、露光比が大きくなる方向に変わっていく場合は、露光比が２倍ではなく例えば２．１倍となったところで第１フレームの露光信号を短蓄画像とするよう決定し、露光比が小さくなる方向に変わっていく場合は、露光比が２倍ではなく例えば１．９倍となったところで第２フレームの露光信号を短蓄画像とするよう決定してもよい。
【００７１】
このように短蓄画像に選択するフレームが切り替わる露光比の近辺で、短蓄画像に選択するフレームの切り替わりにヒステリシスを設けることで、センサモジュール１００は、短蓄画像に選択するフレームが頻繁に切り替わることを回避することができる。
【００７２】
露光時間の条件によっては、極めて短い時間で露光しなければ被写体が白飛びしてしまう場合もありうる。そして露光時間の条件によっては、第１フレームと第２フレームとの間にブランクが生じてしまう場合もあり得る。例えば、第１フレームのリード時間と第２フレームの露光時間とが重なる場合である。図８は、極めて短い時間で２つのフレームの露光を行う例を示す説明図である。例えば、センサモジュール１００は、露光比が高い場合では第１フレームを短蓄画像とするが、図８のように第１フレームと第２フレームとの間にブランクが生じてしまうと、長蓄画像として使用する画像に動きのある被写体が含まれていれば、その被写体が不自然なものとなる。
【００７３】
そこでセンサモジュール１００は、露光時間の条件によっては、第１フレームと第２フレームとの間にブランクが生じてしまう場合、長蓄画像と短蓄画像との合成を行わず、短蓄画像だけを出力しても良い。センサモジュール１００は、露光時間の条件によっては長蓄画像と短蓄画像との合成を行わないようにすることで、動きのある被写体を撮像する場合であっても被写体が不自然なものとならないような画像を生成することが出来る。
【００７４】
＜２．まとめ＞
以上説明したように本開示の実施の形態によれば、複数の画像を合成することでダイナミックレンジを拡張したＨＤＲ画像を生成する際に、露光比に応じて短蓄画像として使用するフレームを選択するセンサモジュール１００が提供される。
【００７５】
本開示の実施の形態に係るセンサモジュール１００は、第１露光時間による第１露光で画素へ露光することで第１画像を生成し、第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成する。本開示の実施の形態に係るセンサモジュール１００は、第１画像及び第２画像を合成した合成画像と、第１画像または第２画像のいずれかから選択される選択画像と、を合成する際に、選択画像として選択する画像を、第１露光時間と第２露光時間との関係が所定の条件を満たした時点を境に切り替える。
【００７６】
本開示の実施の形態に係るセンサモジュール１００は、係る構成を有することで、ＨＤＲ画像を生成する際に、露光比に応じて短蓄画像として使用するフレームを選択することで、動きのある被写体を撮像する場合であっても被写体が不自然なものとならないようなＨＤＲ画像を生成することが出来る。
【００７７】
本明細書の各装置が実行する処理における各ステップは、必ずしもシーケンス図またはフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、各装置が実行する処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
【００７８】
また、各装置に内蔵されるＣＰＵ、ＲＯＭおよびＲＡＭなどのハードウェアを、上述した各装置の構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供されることが可能である。また、機能ブロック図で示したそれぞれの機能ブロックをハードウェアまたはハードウェア回路で構成することで、一連の処理をハードウェアまたはハードウェア回路で実現することもできる。
【００７９】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【００８０】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【００８１】
なお、以下のような構成も本開示の技術的範囲に属する。
（１）
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成する制御部と、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成する合成部と、
を備え、
前記制御部は、前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて前記合成部で前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定する、撮像制御装置。
（２）
前記制御部は、前記第１露光と前記第２露光との間に空き時間を入れない条件で前記画素へ露光させる、前記（１）に記載の撮像制御装置。
（３）
前記合成部で合成された画像もしくは前記選択画像の少なくともいずれか一方を出力する出力部をさらに備え、
前記出力部は、前記第１露光のリード時間と前記第２露光時間とが時間的に重なる場合では、前記選択画像のみを出力する、前記（１）または（２）に記載の撮像制御装置。
（４）
前記第１露光時間は、前記第２露光時間以下である、請求項１に記載の撮像制御装置。
前記（１）〜（３）のいずれかに記載の撮像制御装置。
（５）
前記露光比が２より大きい場合は、前記選択画像として前記第１画像が選択され、前記露光比が２より小さい場合は、前記選択画像として前記第２画像が選択される、前記（４）に記載の撮像制御装置。
（６）
前記制御部は、前記合成部で前記選択画像として選択される画像が切り替わる際にヒステリシスが生じるよう前記第１露光時間及び前記第２露光時間を決定する、前記（１）〜（５）のいずれかに記載の撮像制御装置。
（７）
第１半導体基板、第２半導体基板、第３半導体基板からなる３枚の半導体基板を積層して構成され、
前記第１半導体基板には、前記画素が少なくとも形成され、
前記第２半導体基板には、前記第１画像及び前記第２画像を記憶する記憶部が形成され、
前記第３半導体基板には、前記制御部が少なくとも形成されている、前記（１）〜（６）のいずれかに記載の画像処理装置。
（８）
前記第２半導体基板が、前記第１半導体基板と前記第３半導体基板との間に設けられる、前記（７）に記載の画像処理装置。
（９）
前記第３半導体基板が、前記第１半導体基板と前記第２半導体基板との間に設けられる、前記（７）に記載の画像処理装置。
（１０）
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、
前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、
を含む、撮像制御方法。
（１１）
コンピュータに、
第１露光時間による第１露光で画素へ露光することで第１画像を生成し、該第１画像に続いて第２露光時間による第２露光で画素へ露光することで第２画像を生成することと、
前記第１画像及び前記第２画像を合成した合成画像と、前記第１画像または前記第２画像のいずれかから選択される選択画像と、を合成することと、
前記合成画像の露光時間と前記選択画像の露光時間との比である露光比に基づいて、前記選択画像として選択される画像が切り替わるよう前記第１露光時間及び前記第２露光時間を決定することと、
を実行させる、コンピュータプログラム。
（１２）
前記（１）〜（１０）のいずれかに記載の撮像制御装置を備える、電子機器。
【符号の説明】
【００８２】
１０      電子機器
１００    センサモジュール
【図１】
2017184094.tif 000003
【図２】
2017184094.tif 000004
【図３】
2017184094.tif 000005
【図４】
2017184094.tif 000006
【図５】
2017184094.tif 000007
【図６】
2017184094.tif 000008
【図７】
2017184094.tif 000009
【図８】
2017184094.tif 000010