(57)【要約】【課題】フラッシュバンドを補正する際に、画像の雰囲気に違和感を与えず、また、画像内で部分的にノイズ量が変化することを抑制した全面閃光画像を生成する。【解決手段】撮像装置１００は、外部装置のフレームレートよりも高速に信号を読み出すことができる撮像素子１０２からフレームレートと露光期間とを合わせて信号を読み出し、フレーム毎に画像を生成し、画像にフラッシュバンドがあるか否かを検出すると共に、少なくとも連続する３フレーム分の画像をフレームメモリ１１０に記憶する。画像補正部１０５が、フラッシュバンドが発生したフレームの画像を用いてフラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正し、フォーマット変換部１０８が、画像補正部１０５から取得した画像の中からフラッシュバンドが発生していないフレームの画像と全面閃光画像を選択し、外部装置のフレームレートで外部装置へ出力する。【選択図】図３
2015177303.tif 000002
【特許請求の範囲】
【請求項１】
映像を撮影する撮像装置であって、
外部装置へ出力する映像のフレームレートよりも高速に信号を読み出すことができる撮像素子と、
前記撮像素子のフレームレートと露光期間とを合わせて前記撮像素子から信号を読み出す制御手段と、
前記撮像素子から出力される信号からフレーム毎に画像を生成する生成手段と、
前記生成手段により生成されたフレームの画像にフラッシュバンドが発生しているか否かを検出する検出手段と、
前記生成手段により生成された少なくとも連続する３フレーム分の画像を記憶する記憶手段と、
前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生したフレームの画像を用いて前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正する補正手段と、
前記撮像素子のフレームレートと同じフレームレートで前記補正手段から取得したフレームの画像の中から前記フラッシュバンドが発生していないフレームの画像及び前記全面閃光画像を選択して前記外部装置へ出力することにより、前記外部装置へ出力する映像のフレームレートに変換する変換手段とを備えることを特徴とする撮像装置。
【請求項２】
前記補正手段は、前記撮像素子のフレームレートを前記外部装置へ出力する映像のフレームレートに変換するための所定のパターンに従うと前記フラッシュバンドが発生したフレームが前記外部装置へ出力されるフレームとなる場合に、前記フラッシュバンドが発生したフレームに時系列で近く、且つ、前記フラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正することを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記変換手段は、前記全面閃光画像のフレームを取得したときには、必ず、前記全面閃光画像のフレームを前記外部装置へ出力することを特徴とする請求項１又は２に記載の撮像装置。
【請求項４】
前記補正手段は、前記フラッシュバンドが発生していないフレームの輝度を前記フラッシュバンドが発生したフレームの画像におけるフラッシュバンドが発生している領域の輝度に合わせるように、前記フラッシュバンドが発生していないフレームの画像にかけるゲインとオフセット量を決定することを特徴とする請求項１乃至３のいずれか１項に記載の撮像装置。
【請求項５】
前記撮像素子は、ＣＭＯＳセンサであることを特徴とする請求項１乃至４のいずれか１項に記載の撮像装置。
【請求項６】
外部装置へ出力する映像のフレームレートよりも高速に信号を読み出すことができる撮像素子を用いて映像を撮影する撮像装置の制御方法であって、
前記撮像素子のフレームレートと露光期間とを合わせて前記撮像素子から信号を読み出してフレーム毎に画像を生成する生成ステップと、
前記生成ステップで生成された画像に外部閃光がフラッシュバンドとして現れているか否かを検出する検出ステップと、
前記生成ステップで生成された少なくとも連続する３フレーム分の画像を記憶手段に記憶する記憶ステップと、
前記記憶ステップで前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生したフレームの画像を用いて前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正する補正ステップと、
前記撮像素子のフレームレートと同じフレームレートで前記補正ステップを通して取得したフレームの画像の中から前記フラッシュバンドが発生していないフレームの画像及び前記全面閃光画像を選択して前記外部装置へ出力することにより、前記外部装置へ出力する映像のフレームレートに変換する変換ステップとを有することを特徴とする撮像装置の制御方法。
【請求項７】
前記補正ステップでは、前記撮像素子のフレームレートを前記外部装置へ出力する映像のフレームレートに変換するための所定のパターンに従うと前記フラッシュバンドが発生したフレームが前記外部装置へ出力されるフレームとなる場合に、前記フラッシュバンドが発生したフレームに時系列で近く、且つ、前記フラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正することを特徴とする請求項６に記載の撮像装置の制御方法。
【請求項８】
前記変換ステップでは、前記全面閃光画像のフレームを取得したときには、必ず、前記全面閃光画像のフレームを前記外部装置へ出力することを特徴とする請求項６又は７に記載の撮像装置の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタル一眼レフカメラやデジタルビデオカメラ等の撮像装置及びその制御方法に関し、特に、特に動画を撮影する際の制御技術に関する。
【背景技術】
【０００２】
近年、デジタルビデオカメラに代表される撮像装置の撮像素子として、ＣＭＯＳ型イメージセンサ（以下「ＣＭＯＳセンサ」という）が広く用いられるようになってきている。ＣＭＯＳセンサは、水平ラインを順次露光し、ライン毎に映像信号を順次読み出して１つのフレームを生成するローリングシャッタ方式を採用したものが主流である。
【０００３】
このようなローリングシャッタ方式のＣＭＯＳセンサでは、ライン毎の露光タイミングと読み出し時間とにずれが生じる。そのため、撮影中にストロボ光のような発光期間の短い外部閃光が被写体に対して照射されると、画面の上下で明るさが分割されたような画像が生成することがある。このような外部閃光によってフレーム内に発生する帯状の明るさの段差は「フラッシュバンド」と呼ばれており、フラッシュバンドを補正するための技術が、種々、提案されている。
【０００４】
例えば、特許文献１には、フラッシュバンドが発生している２又はそれ以上のフレームの輝度を比較し、その比較結果に基づいて画像合成処理を行い、全面閃光画像を生成する方法が記載されている。また、特許文献２には、映像撮影用の撮像素子とは別に、フラッシュバンド検出用の光量センサを設けてフラッシュバンドを検出し、映像上のフラッシュバンド位置にゲインをかけることによってフラッシュバンドを補正する方法が記載されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１２−１５６６３４号公報
【特許文献２】特開２０１０−２６３５３３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、画像合成に用いる２フレームの間には時間的なずれがある。そのため、上記特許文献１に記載された技術では、特に高速で動いている動体を被写体に含む場合には、合成処理によって、動体が離散されたような、画像の雰囲気に違和感のある画像が生成されることがある。一方、上記特許文献２に記載された技術では、フラッシュバンドが発生している領域と発生していない領域に別々にゲインをかけるため、画面によっては一部だけノイズが多い画像になってしまうという問題がある。また、白飛びしている領域に負のゲインをかけることによって、違和感のある映像になってしまうという問題もある。
【０００７】
本発明は、フラッシュバンドを補正する際に、被写体に動体を含む場合でも画像の雰囲気に違和感を与えることなく、また、画像内で部分的にノイズ量が変化することを抑制した全面閃光画像を生成することを可能にする技術を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明に係る撮像装置は、映像を撮影する撮像装置であって、外部装置へ出力する映像のフレームレートよりも高速に信号を読み出すことができる撮像素子と、前記撮像素子のフレームレートと露光期間とを合わせて前記撮像素子から信号を読み出す制御手段と、前記撮像素子から出力される信号からフレーム毎に画像を生成する生成手段と、前記生成手段により生成されたフレームの画像にフラッシュバンドが発生しているか否かを検出する検出手段と、前記生成手段により生成された少なくとも連続する３フレーム分の画像を記憶する記憶手段と、前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生したフレームの画像を用いて前記記憶手段に記憶された画像のうちの前記フラッシュバンドが発生していないフレームの画像を全面閃光画像へ補正する補正手段と、前記撮像素子のフレームレートと同じフレームレートで前記補正手段から取得したフレームの画像の中から前記フラッシュバンドが発生していないフレームの画像及び前記全面閃光画像を選択して前記外部装置へ出力することにより、前記外部装置へ出力する映像のフレームレートに変換する変換手段とを備えることを特徴とする。
【発明の効果】
【０００９】
本発明では、フラッシュバンドが発生したフレームの輝度情報を用いてフラッシュバンドが発生していないフレームの画像を補正することによって全面閃光画像を生成し、記憶や表示等を行う。こうして、複数のフレームを合成する従来手法を採らないことにより、被写体に動体を含む場合でも画像の雰囲気に違和感を与えることない映像を記憶、表示等することができる。また、フラッシュバンドが発生していないフレームの画像全体を補正するため、画像内で部分的にノイズ量が変化することを抑制することができ、違和感のない質感の全面閃光画像を生成することができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施形態に係る撮像装置１００の概略構成を示すブロック図である。
【図２】撮像素子（高速読み出し可能なＣＭＯＳセンサ）からの読み出したフレームを記憶・出力部へ入力する形態の一例を模式的に示す図である。
【図３】図２の形態において撮影中に外部閃光が発生した場合に撮像素子から読み出されて記憶・出力部へ至るまでのフレーム処理の流れを模式的に示す図である。
【図４】図３に示したフレーム処理を説明するフローチャートである。
【図５】フラッシュバンドが発生していないフレームから全面閃光画像を生成する方法を模式的に示す図である。
【図６】撮像素子（高速読み出し可能なＣＭＯＳセンサ）からの読み出したフレームを記憶・出力部へ入力する形態の別の例を模式的に示す図である。
【図７】図６の形態において撮影中に外部閃光が発生した場合に撮像素子から読み出されて記憶・出力部へ至るまでのフレーム処理の流れを模式的に示す図である。
【発明を実施するための形態】
【００１１】
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。
【００１２】
図１は、本発明の実施形態に係る撮像装置１００の概略構成を示すブロック図である。撮像装置１００は、典型的には、動画撮影機能を備えるデジタルスチルカメラやデジタルビデオカメラであるが、これに限られず、カメラ機能（撮像素子を用いて映像を取得する撮影機能）を備える各種の電子機器であってもよい。例えば、撮像装置１００は、カメラ機能付き携帯通信端末（携帯電話、スマートフォン等）、カメラ機能付き携帯型コンピュータ（タブレット端末）、カメラ機能付き携帯ゲーム機等であってもよい。
【００１３】
撮像装置１００は、光学レンズ１０１、撮像素子１０２、画像取得部１０３、閃光検出部１０４、画像補正部１０５、システム制御部１０６、撮像素子制御部１０７、フォーマット変換部１０８、記憶・出力部１０９及びフレームメモリ１１０を備える。
【００１４】
光学レンズ１０１は、被写体からの反射光を取り込み、被写体像を撮像素子１０２に結像させる。光学レンズ１０１は、具体的には、被写体に対してピントを合わせるためのフォーカスレンズ、焦点距離を変化させるためのズームレンズ等を含む。光学レンズ１０１を撮影光学系は、不図示であるが、光量や被写界深度を調節する絞り機構等を備える。
【００１５】
撮像素子１０２は、光学レンズ１０１により結像した被写体像（光学像）を電気信号に変換して、画像取得部１０３へ供給する。本実施形態では、撮像素子１０２はＣＭＯＳセンサであるとし、その特性の詳細については後述する。
【００１６】
画像取得部１０３は、撮像素子１０２から取得した映像信号であるアナログ信号をＡ／Ｄ変換によりデジタル信号に変換し、更に輝度レベル補正処理やホワイトバランス処理等を含む所定の現像処理を行って、フレーム毎に画像（画像情報、画像データ）を生成する。閃光検出部１０４は、画像取得部１０３から取得した画像に、ストロボ光（フラッシュ光）等の外部閃光がフレッシュバンドとして現れているか否かを検出し、検出結果をシステム制御部１０６へ送信する。また、閃光検出部１０４は、フラッシュバンドを検出したフレームに対して、フラッシュバンドが発生していることを示すフラグ（以下「ＦＢ検出フラグ」という）を付加する。
【００１７】
画像補正部１０５は、閃光検出部１０４によってフラッシュバンドが発生しているとの検出結果を受けた場合に、フラッシュバンドが発生しているフレームの画像情報を用いて、フラッシュバンドが発生していないフレームの画像から全面閃光画像を生成する。システム制御部１０６は、不図示のＣＰＵと、ＣＰＵが実行する各種のプログラムを格納したＲＯＭと、ＣＰＵのワークエリアとして用いられると共にＣＰＵの演算処理中の各種の演算値やパラメータを記憶するＲＡＭ等を有する。システム制御部１０６は、撮像装置１００に対する使用者の操作に応じて撮像装置１００の動作を決定し、各機能ブロックの動作を制御することにより撮像装置１００の全体的動作の制御を行う。
【００１８】
撮像素子制御部１０７は、システム制御部１０６の制御下において、撮像素子１０２の駆動に関する制御を行う。例えば、露光期間（シャッタスピード、信号（電荷）の蓄積時間）を決定し、垂直同期信号ＶＤを撮像素子１０２へ入力する制御等を行う。フォーマット変換部１０８は、画像補正部１０５から取得する画像のフレームレートと記憶・出力部１０９のフレームレートとが異なる場合に、記憶・出力部１０９のフレームレートに合うように、撮像素子１０２から出力されたフレームの間引き処理等を行う。画像補正部１０５から出力される画像のフレームレートは、撮像素子１０２から信号を読み出すフレームレートと同じである。記憶・出力部１０９は、フォーマット変換部１０８から供給される映像信号（画像信号）を、不図示の記憶媒体へ記憶する処理や不図示の表示装置へ出力する処理を行う。フレームメモリ１１０は、少なくとも３フレーム分の画像を記憶する。
【００１９】
撮像装置１００が備える撮像素子１０２は、前述の通り、ＣＭＯＳセンサである。本実施形態では、１フレーム分の信号を読み出すことができる時間を一般的な表示装置に用いられるフレームレートである５９．９４ｆｐｓ（垂直同期信号ＶＤが１６．６７ｍｓ）よりも速い、高速読み出し可能なＣＭＯＳセンサを使用する。
【００２０】
＜第１のフラッシュバンド補正例＞
図２は、撮像素子１０２（高速読み出し可能なＣＭＯＳセンサ）からの読み出したフレームを記憶・出力部１０９へ入力する形態の一例を模式的に示す図である。図２では、横軸に時間を、縦軸に垂直方向ライン数を取っており、外部閃光の発生タイミングと出力画像との関係が示されている。横軸に示されている垂直同期信号ＶＤは、撮像素子１０２に入力されるタイミングで示されている。
【００２１】
図２は、撮像素子１０２のフレームレート（信号読み出しレート）を１２０ｆｐｓとし、記憶・出力部１０９へのフレームの入力レート（記憶・出力部１０９からのフレームの出力レートと同じ）を６０ｆｐｓとした場合の形態を示している。つまり、撮像素子１０２は、記憶・出力部１０９のフレームレートの２倍の高速読み出しを行う。
【００２２】
本実施形態では、撮像素子制御部１０７は、撮像素子１０２の露光期間とフレームレートとを合わせて、撮像素子１０２からの信号読み出しを行う。図２の例では、撮像素子１０２の露光期間と撮像素子１０２のフレームレートとは共に１／１２０秒に設定されており、そのため、画像取得部１０３には、１／１２０秒毎にフレームが入力される。記憶・出力のためのフレームレートは１／６０秒であるから、フォーマット変換部１０８では、画像取得部１０３に入力された２フレームのうちの１フレームを記憶・出力部１０９へ出力する。即ち、フォーマット変換部１０８は、取得したフレームを１つ飛びに間引くパターンで記憶・出力部１０９へ出力し、これにより、連続する２フレームのうちの１フレームは使用しないフレームとなる。
【００２３】
図３は、図２の形態において撮影中に外部閃光が発生した場合に撮像素子１０２から読み出されて記憶・出力部１０９へ至るまでのフレームに対する処理（画像処理）の流れを模式的に示す図である。図３では「フラッシュバンド」を「ＦＢ」と略記しており、後述する図４，６，７においても同様の表記を用いている。
【００２４】
撮像素子１０２のフレームレートと露光期間とが同一である撮影中に外部閃光が発生すると、２フレームにまたがってフラッシュバンドが発生する。したがって、図３に示すように外部閃光１及び外部閃光２のタイミングで外部閃光が発生すると、画像取得部１０３により生成されるフレーム３０１，３０２，３０３，３０４にはフラッシュバンドが発生する。なお、フレーム３０１，３０２，３０３，３０４の出力画像の下部の黒く塗り潰した部分が、フラッシュバンドの発生領域（高輝度領域）を示しており、以下の説明では、他の出力画像でも同様の表示を用いるものとする。
【００２５】
閃光検出部１０４は、フレーム３０１〜３０４にフラッシュバンドが発生したことを示す情報をシステム制御部１０６及び画像補正部１０５へ通知する。フレームメモリ１１０は、閃光検出部１０４から画像補正部１０５へ入力されるフレームを過去の３フレームにわたって記憶することができる。そこで、画像補正部１０５は、記憶・出力部１０９に出力する予定であったフレームがフラッシュバンド発生フレームとなった場合に、フラッシュバンド発生フレームに最も時系列が近く、且つ、フラッシュバンドが発生していないフレームから、全面閃光画像（生成方法については後述する）を生成する。
【００２６】
具体的には、図２に示したフレームの間引きパターンに従えば、フレーム３２０の次に記憶・出力部１０９に出力する予定のフレームは、フレーム３０１となる。しかし、フレーム３０１にはフラッシュバンドが発生している。そこで、画像補正部１０５は、フレーム３０１に時系列で近く、且つ、フラッシュバンドが発生していないフレーム３２１を、フレーム３０１，３０２の輝度情報に基づいて補正することにより、全面閃光画像であるフレーム３１１を生成する。同様に、フレーム３１１の次に記憶・出力部１０９に出力する予定のフレーム位置にフラッシュバンドが発生したフレーム３０４が来ている。よって、画像補正部１０５は、フレーム３０４に時系列で近く、且つ、フラッシュバンドが発生していないフレーム３２２を、フレーム３０３，３０４の輝度情報に基づいて補正することにより、全面閃光画像であるフレーム３１２を生成する。
【００２７】
フォーマット変換部１０８は、画像補正部１０５から、フレームと共にそのフレームについての情報（フラッシュバンドが発生したフレームであることや補正により生成された全面閃光画像であること等）を取得する。フォーマット変換部１０８は、取得したフレームからフラッシュバンドが発生していないフレーム（全面閃光画像のフレームを含む）を選択し、定められたフレームレートで記憶・出力部１０９へ供給する。
【００２８】
図４は、図３に示したフレーム処理を説明するフローチャートである。図４の各処理は、システム制御部１０６が有するＣＰＵが、ＲＯＭに格納された所定のプログラムをＲＡＭに展開し、撮像装置１００の各機能ブロックを制御することにより実行される。
【００２９】
ステップＳ４０１において、システム制御部１０６は、撮像装置１００がフラッシュバンド補正モードに設定されているか否かを判定する。システム制御部１０６は、フラッシュバンド補正モードである場合（Ｓ４０１でＹＥＳ）、処理をステップＳ４０２へ進め、フラッシュバンド補正モードではない場合（Ｓ４０１でＮＯ）、処理をステップＳ４０６へ進める。
【００３０】
ステップＳ４０２では、画像補正部１０５が、閃光検出部１０４からの受信フレームにＦＢ検出フラグが付加されているか否かを判定する。画像補正部１０５は、ＦＢ検出フラグが付加されている場合（Ｓ４０２でＹＥＳ）、処理をステップＳ４０３へ進め、ＦＢ検出フラグが付加されていない場合（Ｓ４０２でＮＯ）、処理をステップＳ４０６へ進める。ステップＳ４０３において、画像補正部１０５は、ＦＢ検出フラグが付加されている受信フレームが、記憶・出力対象であるか否かを判定する。画像補正部１０５は、記憶・出力対象である場合（Ｓ４０３でＹＥＳ）、処理をステップＳ４０４へ進め、記憶・出力対象でない場合（Ｓ４０３でＮＯ）、処理をステップＳ４０８へ進める。
【００３１】
ステップＳ４０４では、画像補正部１０５が、フレームメモリ１１０に記憶されているフレームから、フラッシュバンドの発生しておらず、且つ、ＦＢ検出フラグが付加された受信フレームに時系列で最も近いフレームを抜き出し、全面閃光画像を生成する。続くステップＳ４０５では、フォーマット変換部１０８が、ステップＳ４０４で生成した全面閃光画像を記憶・出力部１０９へ出力する。
【００３２】
一方、ステップＳ４０６では、フォーマット変換部１０８が、画像補正部１０５から受信したフレームが記憶・出力対象であるか否かを判定する。画像補正部１０５は、記憶・出力対象である場合（Ｓ４０６でＹＥＳ）、処理をステップＳ４０７へ進め、記憶・出力対象でない場合（Ｓ４０６でＮＯ）、処理をステップＳ４０８へ進める。ステップＳ４０７では、フォーマット変換部１０８が、ステップＳ４０６の判定を行ったフレームを記憶・出力部１０９へ出力する。
【００３３】
ステップＳ４０５，Ｓ４０７の後に、処理はステップＳ４０８へ進められる。ステップＳ４０８の「次フレームへ」は、次のフレームについてステップＳ４０１からの処理を行うことを示しており、次のフレームがなくなると（撮影が終了すると）、本処理は終了となる。
【００３４】
図５を参照して、ステップＳ４０４でのフラッシュバンドが発生したフレームの画像を用いてフラッシュバンドが発生していないフレームの画像から全面閃光画像を生成する方法について説明する。図５には、フレームメモリ１１０に記憶された連続した３フレームが横軸の時間軸に沿って模式的に示されている。
【００３５】
図５（ａ）は、フラッシュバンドが発生した１フレーム目が記憶・出力対象フレームである場合を表している。図５（ａ）の左フレーム、中央フレーム、右フレームはそれぞれ、図３のフレーム３２１，３０１，３０２に対応する。この場合、時系列で最も近いフラッシュバンドの発生していないフレームは左フレームである。よって、フラッシュバンドの発生していない左フレームを全面閃光画像に補正するために、中央フレームと右フレームにおいてフラッシュバンドが発生している各領域との輝度差を比較する。そして、得られた輝度差を用いて左フレームの画像データにかけるゲイン及びオフセット量を決定し、全面閃光画像を生成する。
【００３６】
図５（ｂ）は、フラッシュバンドが発生した２フレーム目が記憶・出力対象フレームである場合を表している。図５（ｂ）の左フレーム、中央フレーム、右フレームはそれぞれ、図３のフレーム３０３，３０４，３２２に対応する。この場合、時系列で最も近いフラッシュバンドの発生していないフレームは右フレームである。よって、フラッシュバンドの発生していない右フレームを全面閃光画像に補正するために、中央フレームと左フレームにおいてフラッシュバンドが発生している各領域との輝度差を比較する。そして、得られた輝度差を用いて右フレームの画像データにかけるゲイン及びオフセット量を決定し、全面閃光画像を生成する。
【００３７】
以上の説明の通り、本例では、外部閃光によりフレームの画像にフラッシュバンドが発生したとき、複数フレームの合成方法を用いずに、時系列で最も近く、フラッシュバンドが発生していないフレームの画像から全面閃光画像を生成して、記憶や表示を行う。これにより、フレーム内に時間差とノイズの異なる領域がなくなるため、被写体に動きの速い動体等を含む場合でも、違和感のない映像を得ることができる。
【００３８】
＜第２のフラッシュバンド補正例＞
第１のフラッシュバンド補正例では、撮像素子１０２が記憶・出力部１０９のフレームレートの２倍の高速読み出しを行う場合について説明した。これに対して、ここでは、撮像素子１０２が記憶・出力部１０９のフレームレートの４倍の高速読み出しを行う場合について説明する。
【００３９】
図６は、撮像素子１０２のフレームレートを１２０ｆｐｓとし、記憶・出力部１０９へのフレームの入力レートを３０ｆｐｓとした場合の形態を示している。つまり、撮像素子１０２は、記憶・出力部１０９のフレームレートの４倍の高速読み出しを行う。図６では、図２と同様に、横軸に時間を、縦軸に垂直方向ライン数を取っており、外部閃光の発生タイミングと出力画像との関係が示されている。また、横軸に示されている垂直同期信号ＶＤは、撮像素子１０２に入力されるタイミングで示されている。
【００４０】
撮像素子制御部１０７は、図２の例と同様に、撮像素子１０２の露光期間と撮像素子１０２のフレームレートとを合わせて、撮像素子１０２からの信号読み出しを行う。図６の例でも、撮像素子１０２の露光期間と撮像素子１０２のフレームレートとは共に１／１２０秒に設定されており、そのため、画像取得部１０３には、１／１２０秒毎にフレームが入力される。記憶・出力のためのフレームレートは１／３０秒であるから、フォーマット変換部１０８は、画像取得部１０３に入力された４フレームのうちの３フレームを間引いて、残りの１フレームを記憶・出力部１０９へ出力する。
【００４１】
図７は、図６の形態において撮影中に外部閃光が発生した場合に撮像素子１０２から読み出されて記憶・出力部１０９へ至るまでのフレームに対する処理（画像処理）の流れを模式的に示す図である。撮像素子１０２の１フレーム分の信号読み出し時間と露光期間とが同一である撮影中に外部閃光が発生すると、２フレームにまたがってフラッシュバンドが発生する。したがって、図７に示すように外部閃光１及び外部閃光２のタイミングで外部閃光が発生すると、画像取得部１０３により生成されるフレーム７０１，７０２，７０３，７０４にはフラッシュバンドが発生する。
【００４２】
フレームメモリ１１０は、先に説明した第１のフラッシュバンド補正例と同様に、閃光検出部１０４から画像補正部１０５へ入力されるフレームを過去の３フレームにわたって記憶する。外部閃光１のタイミングでは、フラッシュバンドが発生したフレーム７０１，７０２のいずれも記憶・出力対象フレームではない。しかし、外部閃光があったことを映像に残すために、画像補正部１０５は、記憶・出力対象フレームに時系列的に最も近いフレーム７２１から全面閃光画像のフレーム７１１を生成し、フォーマット変換部１０８（記憶・出力部１０９）へと出力するようにする。
【００４３】
外部閃光２のタイミングでは、フラッシュバンドが発生したフレーム７０３，７０４のうち、時系列で後ろに位置するフレーム７０４が記憶・出力対象フレームとなっている。そのため、フラッシュバンドが発生したフレーム７０３，７０４とフラッシュバンドが発生していないフレーム７２２について、図３に示したフレーム３０３，３０４，３２２に対する処理と同じ対処がなされる。つまり、フレーム７２２から全面閃光画像のフレーム７１２が生成され、記憶・出力部１０９へ入力される。
【００４４】
以上の説明の通り、本例では、外部閃光によりフラッシュバンドが発生したフレームが画像補正部１０５に入力されると、画像補正部１０５は、フラッシュバンドが発生したフレームが記憶・出力対象フレームではない場合でも、全面閃光画像を生成する。生成された全面閃光画像のフレームはフォーマット変換部１０８へと出力され、フォーマット変換部１０８は、全面閃光画像のフレームを必ず記憶・出力部１０９へと出力するようにする。これにより、外部閃光が発生したことを確実に映像に残すことができ、例えば、記者会見の場等のように頻繁にストロボ光が焚かれるシーンでの撮影において、その臨場感を損ねることのない映像の記憶が可能になる。また、本例でも、先に説明した第１のフラッシュバンド補正例と同じ効果を得ることができる。
【００４５】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
【００４６】
本発明は以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（又はＣＰＵやＭＰＵ等）がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
【符号の説明】
【００４７】
１０２    撮像素子
１０３    画像取得部
１０４    閃光検出部
１０５    画像補正部
１０６    システム制御部
１０７    撮像素子制御部
１０８    フォーマット変換部
１０９    記憶・出力部
１１０    フレームメモリ
【図１】
2015177303.tif 000003
【図２】
2015177303.tif 000004
【図３】
2015177303.tif 000005
【図４】
2015177303.tif 000006
【図５】
2015177303.tif 000007
【図６】
2015177303.tif 000008
【図７】
2015177303.tif 000009