(57)【要約】【課題】フレームバッファを備える撮像装置において高速撮影を連続して複数回行う。【解決手段】撮像素子は、バッファ、画像生成部、管理部、および、出力部を具備する。画像生成部は、バッファ内の複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する。管理部は、複数の領域のうち空き容量が所定の閾値を超える領域に画像をバッファリング画像として保持させる。出力部は、バッファリング画像が保持された順にバッファからバッファリング画像を取り出して出力する。【選択図】図２
2017192100.tif 000002
【特許請求の範囲】
【請求項１】
複数の領域が設けられたバッファと、
前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理部と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力部と
を具備する撮像素子。
【請求項２】
前記画像生成部は、所定の通常撮影期間内において所定の周期が経過するたびに前記画像をプレビュー画像として生成し、前記所定の通常撮影期間と異なる高速撮影期間内において前記複数の領域のいずれかの空き容量が前記所定の閾値を超える場合には前記所定の周期より短い周期が経過するたびに前記画像を高速撮影画像として生成し、
前記管理部は、前記高速撮影画像を前記バッファリング画像として保持させる
請求項１記載の撮像素子。
【請求項３】
前記出力部は、前記所定の周期が経過するたびに前記バッファリング画像とともに前記プレビュー画像をさらに出力する
請求項２記載の撮像素子。
【請求項４】
前記管理部は、前記バッファリング画像とともに前記プレビュー画像を前記バッファに保持させ、
前記出力部は、前記バッファリング画像および前記プレビュー画像を当該画像が保持された順に前記バッファから取り出して出力する
請求項２記載の撮像素子。
【請求項５】
前記出力部は、所定の操作が行われたときに前記バッファから前記バッファリング画像を取り出して出力する
請求項２記載の撮像素子。
【請求項６】
前記出力部は、前記高速撮影期間が終了すると前記バッファから前記バッファリング画像を取り出して出力する
請求項２記載の撮像素子。
【請求項７】
前記出力部は、前記所定の周期が経過するたびに前記バッファリング画像を複数枚取り出して出力する
請求項２記載の撮像素子。
【請求項８】
複数の領域が設けられたバッファと、
前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理部と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力部と
前記出力された画像を記録する記録部と
を具備する撮像装置。
【請求項９】
複数の領域が設けられたバッファ内の前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成手順と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理手順と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力手順と
を具備する撮像素子の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は、撮像素子、撮像装置、および、撮像素子の制御方法に関する。詳しくは、フレームバッファを備える撮像素子、撮像装置、および、その撮像素子の制御方法に関する。
【背景技術】
【０００２】
従来より、高速で動く被写体を撮像する際において、再生時のフレームレートよりも高いフレームレートで動画を高速撮影する撮像装置が用いられている。この動画を、録画時よりも低いフレームレートで再生することにより、滑らかなスローモーションの映像が得られる。例えば、６００ヘルツ（Ｈｚ）の高フレームレートで撮像された動画を、６０ヘルツ（Ｈｚ）の低フレームレートで再生すると、再生時間は録画時間の１０倍に引き伸ばされ、再生動画中の被写体の動作速度は１／１０に低下する。このように高速撮影した画像データ（フレーム）を、高フレームレートのまま信号処理部に出力すると、処理速度の遅い信号処理部ではフレームを処理しきれないおそれがある。そこで、高速撮影したフレームをメモリに一時的に保持（すなわち、バッファリング）しておき、低フレームレートで信号処理部に出力する撮像装置が提案されている（例えば、特許文献１参照。）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００８−１１３１２６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述の従来技術では、メモリが溢れることを防止するため、メモリに十分な空きがあるならば高速撮影を行い、録画停止時などにバッファリングしたフレームをメモリから取り出して出力している。このため、高速撮影を２回行う場合において１回目の高速撮影によりメモリに十分な空きがなくなると、メモリに空きができるまで撮像装置は、２回目の高速撮影を開始することができない。このように、高速撮影を連続して複数回行うことが困難であるという問題がある。
【０００５】
本技術はこのような状況に鑑みて生み出されたものであり、フレームバッファを備える撮像装置において高速撮影を連続して複数回行うことを目的とする。
【課題を解決するための手段】
【０００６】
本技術は、上述の問題点を解消するためになされたものであり、その第１の側面は、複数の領域が設けられたバッファと、上記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、上記複数の領域のうち空き容量が上記所定の閾値を超える領域に上記画像をバッファリング画像として保持させる管理部と、上記バッファリング画像が保持された順に上記バッファから上記バッファリング画像を取り出して出力する出力部とを具備する撮像素子、および、その制御方法である。これにより、バッファ内の複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像が生成されるという作用をもたらす。
【０００７】
また、この第１の側面において、上記画像生成部は、所定の通常撮影期間内において所定の周期が経過するたびに上記画像をプレビュー画像として生成し、上記所定の通常撮影期間と異なる高速撮影期間内において上記複数の領域のいずれかの空き容量が上記所定の閾値を超える場合には上記所定の周期より短い周期が経過するたびに上記画像を高速撮影画像として生成し、上記管理部は、上記高速撮影画像を上記バッファリング画像として保持させてもよい。これにより、所定の周期が経過するたびにプレビュー画像が生成され、所定の周期より短い周期が経過するたびにバッファリング画像が保持されるという作用をもたらす。
【０００８】
また、この第１の側面において、上記出力部は、上記所定の周期が経過するたびに上記バッファリング画像とともに上記プレビュー画像をさらに出力してもよい。これにより、所定の周期が経過するたびにバッファリング画像とともにプレビュー画像が出力されるという作用をもたらす。
【０００９】
また、この第１の側面において、上記管理部は、上記バッファリング画像とともに上記プレビュー画像を上記バッファに保持させ、上記出力部は、上記バッファリング画像および上記プレビュー画像を当該画像が保持された順に上記バッファから取り出して出力してもよい。これにより、バッファリング画像および上記プレビュー画像が、保持された順に上記バッファから取り出されるという作用をもたらす。
【００１０】
また、この第１の側面において、上記出力部は、所定の操作が行われたときに上記バッファから上記バッファリング画像を取り出して出力してもよい。これにより、所定の操作が行われたときにバッファリング画像が取り出されるという作用をもたらす。
【００１１】
また、この第１の側面において、上記出力部は、上記高速撮影期間が終了すると上記バッファから上記バッファリング画像を取り出して出力してもよい。これにより、高速撮影期間が終了するとバッファリング画像が取り出されるという作用をもたらす。
【００１２】
また、この第１の側面において、上記出力部は、上記所定の周期が経過するたびに上記バッファリング画像を複数枚取り出して出力してもよい。これにより、所定の周期が経過するたびにバッファリング画像が複数枚取り出されるという作用をもたらす。
【００１３】
また、本技術の第２の側面は、複数の領域が設けられたバッファと、上記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、上記複数の領域のうち空き容量が上記所定の閾値を超える領域に上記画像をバッファリング画像として保持させる管理部と、上記バッファリング画像が保持された順に上記バッファから上記バッファリング画像を取り出して出力する出力部と上記出力された画像を記録する記録部とを具備する撮像装置である。これにより、バッファ内の複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像が記録されるという作用をもたらす。
【発明の効果】
【００１４】
本技術によれば、画像を保持する撮像装置において高速撮影を連続して複数回行うことができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１５】
【図１】本技術の第１の実施の形態における撮像装置の一構成例を示すブロック図である。
【図２】本技術の第１の実施の形態における撮像素子の一構成例を示すブロック図である。
【図３】本技術の第１の実施の形態における前処理部の一構成例を示すブロック図である。
【図４】本技術の第１の実施の形態におけるフレームバッファの一構成例を示す図である。
【図５】本技術の第１の実施の形態における管理部の一構成例を示すブロック図である。
【図６】本技術の第１の実施の形態における後処理部の一構成例を示すブロック図である。
【図７】本技術の第１の実施の形態における撮像装置の状態遷移図の一例である。
【図８】本技術の第１の実施の形態における撮像装置の動作の一例を示すタイミングチャートである。
【図９】本技術の第１の実施の形態における撮影時のフレームバッファの容量の変動の一例を示す図である。
【図１０】本技術の第１の実施の形態における撮影終了後のフレームバッファの容量の変動の一例を示す図である。
【図１１】本技術の第１の実施の形態における領域ごとのアクセス先の変動の一例を示すグラフである。
【図１２】本技術の第１の実施の形態における撮像装置の動作の一例を示すフローチャートである。
【図１３】本技術の第１の実施の形態におけるアクセス処理の一例を示すフローチャートである。
【図１４】本技術の第１の実施の形態における高速撮影処理の一例を示すフローチャートである。
【図１５】本技術の第１の実施の形態の第１の変形例における撮像素子の動作の一例を示すタイミングチャートである。
【図１６】本技術の第１の実施の形態の第２の変形例における撮像素子の動作の一例を示すタイミングチャートである。
【図１７】本技術の第２の実施の形態における撮像装置の動作の一例を示すタイミングチャートである。
【発明を実施するための形態】
【００１６】
以下、本技術を実施するための形態（以下、実施の形態と称する）について説明する。説明は以下の順序により行う。
１．第１の実施の形態（複数の領域のいずれかにバッファリングする例）
２．第２の実施の形態（録画フレームを複数の領域のいずれかにバッファリングして撮影順に出力する例）
【００１７】
＜１．第１の実施の形態＞
［撮像装置の構成例］
図１は、第１の実施の形態における撮像装置１００の一構成例を示すブロック図である。この撮像装置１００は、画像データ（フレーム）を撮像するものであり、撮像レンズ１１０、表示部１２０、制御部１３０、記録部１４０、アプリケーション実行部１５０および再生部１６０を備える。撮像装置１００としては、デジタルスチルカメラやデジタルビデオカメラなどのデジタルカメラの他、撮像機能を持つスマートフォンやパーソナルコンピュータなどが想定される。
【００１８】
撮像レンズ１１０は、光を集光して撮像素子２００に導くものである。撮像素子２００は、撮像レンズ１１０からの光を光電変換してフレームを撮像するものである。この撮像素子２００は、一定のフレームレートでフレームを撮像してプレビューフレームとして表示部１２０および記録部１４０の少なくとも一方に出力する。
【００１９】
また、撮像素子２００は、プレビューフレームのフレームレートより高いフレームレートでフレームを生成してバッファリングフレームとして保持する。そして、所定の操作（撮像停止ボタンの押下など）が行われた際にバッファリングフレームを記録部１４０に出力する。ただし、バッファリングフレームの出力中においても、プレビューフレームの出力は継続される。
【００２０】
表示部１２０は、プレビューフレームを表示するものである。制御部１３０は、撮像装置１００全体を制御するものである。記録部１４０は、フレームを記録するものである。アプリケーション実行部１５０は、所定のアプリケーションを実行するものである。このアプリケーション実行部１５０は、記録部１４０内のフレームを編集して、録画フレームからなる動画を生成する。再生部１６０は、動画を再生するものである。この再生部１６０は、バッファリングフレームが撮像されたときよりも低いフレームレートで録画フレームを再生フレームとして表示部１２０に供給する。
【００２１】
ここで、撮像装置１００の状態は、撮影モードおよびプレビューモードを含む。この撮影モードは、通常撮影モードおよび高速撮影モードに分類される。通常撮影モードは、高速撮影モードよりも低いフレームレートでフレームを生成して記録および表示を行うモードである。高速撮影モードは、通常撮影モードよりも高いフレームレートでフレームを生成するモードである。プレビューモードは、高速撮影モードよりも低いフレームレートでフレームを生成して記録せずに表示のみを行うモードである。
【００２２】
撮像装置１００の電源が投入されると、撮像装置１００はプレビューモードに移行する。このプレビューモードにおいて制御部１３０は、高速撮影モードよりも低いフレームレートで撮像素子２００にプレビューフレームを生成させて表示部１２０に出力させる。また、プレビューモードにおいて制御部１３０は、撮像素子２００がバッファリングフレームを保持していれば、そのフレームを記録部１４０に出力させる。
【００２３】
そして、録画を開始させる操作（録画開始ボタンの押下など）が行われると、撮像装置１００はプレビューモードから通常撮影モードに移行する。この通常撮影モードにおいて制御部１３０は、高速撮影モードよりも低いフレームレートで撮像素子２００にプレビューフレームを生成させて表示部１２０および記録部１４０に出力させる。
【００２４】
また、通常撮像モードにおいて、所定の条件（シーンが変化した場合など）が満たされると、撮像装置１００は高速撮影モードに移行する。この高速撮影モードにおいて撮像素子２００は、通常撮影モードよりも高いフレームレートでフレームを生成してバッファリングする。また、高速撮影モードにおいて制御部１３０は、通常撮影モードと同じフレームレートで撮像素子２００にプレビューフレームを表示部１２０に出力させる。
【００２５】
通常撮影モードにおけるフレームレートは、例えば、３０ｆｐｓ（frames per second）であり、通常撮影モードにおけるフレームレートは、例えば、９６０ｆｐｓである。なお、それぞれのモードにおけるフレームレートは、高速撮影モードの方が通常撮影モードよりも高ければ、３０ｆｐｓや９６０ｆｐｓに限定されない。
【００２６】
なお、撮像レンズ１１０、表示部１２０、制御部１３０、記録部１４０、アプリケーション実行部１５０および再生部１６０の全てを撮像装置１００内に配置しているが、これらを複数の装置に分散して配置してもよい。例えば、撮像レンズ１１０、制御部１３０、記録部１４０およびアプリケーション実行部１５０をカメラモジュールに配置し、表示部１２０および再生部１６０を再生装置に配置してもよい。
【００２７】
［撮像素子の構成例］
図２は、第１の実施の形態における撮像素子２００の一構成例を示すブロック図である。この撮像素子２００は、走査部２１０、画素アレイ部２２０、ＡＤ（Analog to Digital）変換部２３０、前処理部２４０および管理部２５０を備える。また、撮像素子２００は、メモリコントローラ２６０、フレームバッファ２７０、後処理部２８０および出力インターフェース２９０を備える。
【００２８】
走査部２１０は、画素アレイ部２２０を駆動するものである。この走査部２１０は、制御部１３０からの制御信号に従って画素アレイ部２２０の駆動を開始する。この制御信号は、例えば、撮像装置１００がプレビューモードおよび撮影モードのいずれであるかを示す信号を含む。
【００２９】
画素アレイ部２２０は、画像信号を生成するものである。この画素アレイ部２２０には、複数の画素が二次元格子状に配置される。それぞれの画素は、アナログの画素信号を生成する。画素アレイ部２２０は、それらの画素信号からなるアナログの画像信号をＡＤ変換部２３０に供給する。
【００３０】
なお、走査部２１０および画素アレイ部２２０を含む回路は、特許請求の範囲に記載の画像生成部の一例である。
【００３１】
ＡＤ変換部２３０は、画像信号をデジタルの画像データ（フレーム）に変換するものである。このＡＤ変換部２３０は、生成したフレームを前処理部２４０に供給する。
【００３２】
前処理部２４０は、フレームに対して所定の処理を前処理として実行するものである。この前処理部２４０は、前処理後のフレームをメモリコントローラ２６０に供給する。また、前処理部２４０は、前処理において動画内のシーンの変化を検出し、その変化のタイミングを含む一定の期間を高速撮影期間として設定する。そして、前処理部２４０は、高速撮影期間であるか否かを示す高速撮影期間フラグを生成して管理部２５０に供給する。この高速撮影期間フラグは、例えば、高速撮影期間においてオン状態に設定され、それ以外の期間においてオフ状態に設定される。
【００３３】
管理部２５０は、撮像素子２００全体を管理するものである。この管理部２５０は、高速撮影期間内において、フレームバッファ２７０に空き領域があれば、走査部２１０を制御して高速撮影モードで画素アレイ部２２０を駆動させる。一方、空き領域がない場合、または、高速撮影期間外において管理部２５０は、通常撮影モードで画素アレイ部２２０を駆動させる。
【００３４】
また、管理部２５０は、高速撮影モードにおいてメモリコントローラ２６０にライトアドレスを供給してフレームバッファ２７０にフレームを保持させる。また、管理部２５０は、フレームの再生時刻を示すタイムスタンプをフレームごとに生成して出力インターフェース２９０に供給する。そして、管理部２５０は、プレビューモードにおいてメモリコントローラ２６０にリードアドレスを供給してフレームバッファ２７０からのフレームの取り出しを実行させる。
【００３５】
メモリコントローラ２６０は、フレームバッファ２７０を制御するものである。このメモリコントローラ２６０は、管理部２５０からライトアドレスが供給されると、そのアドレスにフレームをバッファリングフレームとして格納する。そして、メモリコントローラ２６０は、管理部２５０からリードアドレスが供給されると、そのアドレスからバッファリングフレームを読み出して後処理部２８０に供給する。また、メモリコントローラ２６０は、前処理部２４０からの低フレームレートのフレームをプレビューフレームとして後処理部２８０に供給する。
【００３６】
フレームバッファ２７０は、フレームを保持するものである。例えば、ＤＲＡＭ（Dynamic Random Access Memory）がフレームバッファ２７０として用いられる。なお、フレームバッファ２７０は、特許請求の範囲に記載のバッファの一例である。
【００３７】
後処理部２８０は、メモリコントローラ２６０からのバッファリングフレームおよびプレビューフレームに対して所定の処理を後処理として実行するものである。この後処理部２８０は、後処理後のフレームを出力インターフェース２９０に供給する。
【００３８】
出力インターフェース２９０は、フレームを出力するものである。この出力インターフェース２９０は、プレビューモードにおいてプレビューフレームを表示部１２０に出力し、バッファリングフレームを記録部１４０に出力する。一方、撮影モードにおいて出力インターフェース２９０は、プレビューフレームを表示部１２０および記録部１４０に出力する。なお、出力インターフェース２９０は、特許請求の範囲に記載の出力部の一例である。
【００３９】
［前処理部の構成例］
図３は、第１の実施の形態における前処理部２４０の一構成例を示すブロック図である。この前処理部２４０は、ゲイン調整部２４１、クランプ処理部２４２およびシーン変化検出部２４３を備える。
【００４０】
ゲイン調整部２４１は、画素データのレベルを所定のゲインにより調整するものである。このゲイン調整部２４１は、調整後の画素データをクランプ処理部２４２に供給する。
【００４１】
クランプ処理部２４２は、画素データの黒レベルを固定するクランプ処理を実行するものである。このクランプ処理部２４２は、クランプ処理後の画素データをシーン変化検出部２４３に供給するものである。
【００４２】
シーン変化検出部２４３は、シーンの変化の有無を検出するものである。このシーン変化検出部２４３は、連続する複数のフレームを比較し、シーンの変化の有無を検出する。そして、シーン変化検出部２４３は、シーンが変化したタイミングを含む一定の期間を高速撮影期間として設定し、高速撮影期間フラグを生成する。シーン変化検出部２４３は、高速撮影期間フラグを管理部２５０に供給し、フレームをメモリコントローラ２６０に供給する。
【００４３】
なお、前処理部２４０は、ゲイン調整処理、クランプ処理およびシーン変化検出を行っているが、これらのいずれか１つ以上を実行しない構成としてもよい。また、前処理部２４０は、これら以外の処理をさらに行ってもよい。また、撮像素子２００は、シーンの変化を検出した際に高速撮影モードに移行しているが、ユーザの操作に従って、高速撮影モードに移行してもよい。この場合に前処理部２４０は、シーンの変化を検出する必要がない。また、シーン変化検出部２４３は、高速撮影中にフレームバッファに溜めこんだフレームを参照し、被写体の動きに基づいて出力の対象となるフレームを選択してもよい。この場合には、バッファリングされたフレームの全てが出力されるとは限らず、それらのうち、動きの激しい区間内のフレームのみが出力インターフェース２９０により出力される。バッファリングされたフレームのうち、出力されないフレームは、削除または上書きされる。
【００４４】
［フレームバッファの構成例］
図４は、第１の実施の形態におけるフレームバッファ２７０の一構成例を示す図である。このフレームバッファ２７０は、Ａ領域２７１およびＢ領域２７２を含む。Ａ領域２７１およびＢ領域２７２のそれぞれには、Ｎ（Ｎは整数）枚のフレームを保持することができる。
【００４５】
［管理部の構成例］
図５は、第１の実施の形態における管理部２５０の一構成例を示すブロック図である。この管理部２５０は、タイムスタンプ生成部２５１およびアドレス管理部２５２を備える。
【００４６】
アドレス管理部２５２は、高速撮影期間において、Ａ領域２７１およびＢ領域２７２のいずれかの空き容量が所定の閾値を超えるか否かを判断する。閾値を超える空き容量がある場合にアドレス管理部２５２は、高速撮影イネーブル信号をイネーブルに設定して高速撮影モードでフレームを生成させる。ここで、高速撮影イネーブル信号は、画素アレイ部２２０を高フレームレートで駆動させるか否かを指示する信号である。また、いずれかの領域に閾値を超える空き容量がある場合にアドレス管理部２５２は、その領域内の空いているライトアドレスを生成してメモリコントローラ２６０に供給する。このライトアドレスは、フレームが生成されるたびに生成され、フレームは生成された順にフレームバッファ２７０に保持される。
【００４７】
高速撮影期間外、または、高速撮影期間内であっても閾値を超える空き容量がない場合にアドレス管理部２５２は、高速撮影イネーブル信号をディセーブルに設定して通常撮影モードでフレームを生成させる。
【００４８】
そして、プレビューモードにおいてアドレス管理部２５２は、バッファリングフレームの保持されたリードアドレスを、フレームが保持された順に生成してメモリコントローラ２６０に供給する。このリードアドレスにより、フレームは保持された順に読み出される。メモリコントローラ２６０は、読み出したフレームをフレームバッファ２７０から削除する。
【００４９】
タイムスタンプ生成部２５１は、走査制御信号および高速撮影イネーブル信号に基づいて、フレームごとにタイムスタンプを生成するものである。このタイムスタンプ生成部２５１は、生成したスタンプを出力インターフェース２９０に供給する。このタイムスタンプは、出力インターフェース２９０において、対応するフレームに付加される。
【００５０】
［後処理部の構成例］
図６は、第１の実施の形態における後処理部２８０の一構成例を示すブロック図である。この後処理部２８０は、リモザイク処理部２８１およびスケーリング処理部２８２を備える。
【００５１】
リモザイク処理部２８１は、バッファリングフレームおよびプレビューフレームのそれぞれに対して、リモザイク処理を行うものである。このリモザイク処理部２８１は、リモザイク処理後のフレームをスケーリング処理部２８２に供給する。
【００５２】
スケーリング処理部２８２は、フレームのサイズを変更するスケーリング処理を行うものである。このスケーリング処理部２８２は、スケーリング処理後のフレームを出力インターフェース２９０に供給する。
【００５３】
なお、後処理部２８０は、リモザイク処理およびスケーリング処理を実行しているが、これらのいずれかを実行しない構成としてもよい。また、後処理部２８０は、これら以外の処理（欠陥の補正処理など）をさらに実行してもよい。
【００５４】
図７は、第１の実施の形態における撮像装置１００の状態遷移図の一例である。撮像装置１００の状態は、通常撮影モード６１０、高速撮影モード６２０およびプレビューモード６３０を含む。
【００５５】
電源が投入されると撮像装置１００は、プレビューモード６３０に移行する。プレビューモード６３０において、撮像装置１００は、バッファリングフレームをフレームバッファ２７０から、高速撮影モードよりも低いフレームレート（３０ｆｐｓなど）で取り出して記録部１４０に記録する。また、撮像装置１００は、高速撮影モードよりも低いフレームレート（３０ｆｐｓなど）でプレビューフレームを生成して表示する。
【００５６】
そして、プレビューモード６３０において録画開始ボタンが押下されると、撮像装置１００は、通常撮影モード６１０に移行する。この通常撮影モード６１０において撮像装置１００は、高速撮影モードよりも低いフレームレート（３０ｆｐｓなど）でプレビューフレームを撮影して表示しつつ、記録する。
【００５７】
そして、通常撮影モード６１０において、高速撮影期間フラグがオン状態となり、かつ、Ａ領域またはＢ領域に空きがあると、撮像装置１００は、高速撮影モード６２０に移行する。この高速撮影モードにおいて撮像装置１００は、通常撮影モードよりも高いフレームレート（９６０ｆｐｓなど）でフレームを撮影してバッファリングする。また、撮像装置１００は、プレビューフレームを低フレームレート（３０ｆｐｓなど）で表示する。
【００５８】
また、高速撮影モード６２０において高速撮影期間フラグがオフ状態になると、撮像装置１００は、通常撮影モード６１０に移行する。ここで、高速撮影期間の長さは、バッファリング対象の領域が溢れない程度の値に設定される。例えば、Ａ領域およびＢ領域のそれぞれに９６０フレームを保持することができ、９６０ｆｐｓで高速撮影される場合には１秒間を超えない期間が高速撮影期間として設定される。
【００５９】
また、通常撮影モード６１０および高速撮影モード６２０において録画停止ボタンが押下されると撮像装置１００は、プレビューモード６３０に移行する。
【００６０】
なお、撮像装置１００は、録画が停止したときにバッファリングフレームの取り出しを開始しているが、プレビューフレームの表示が停止したときにバッファリングフレームの取り出しを開始してもよい。この場合には例えば、プレビュー停止モードがさらに追加される。そして、設定画面を表示させるボタンの押下時や、操作が行われない期間が一定以上経過した際に撮像装置１００は、プレビュー停止モードに移行する。プレビュー停止モードにおいて撮像装置１００は、プレビューフレームの撮影および表示を停止し、バッファリングフレームを取り出す。
【００６１】
図８は、第１の実施の形態における撮像装置１００の動作の一例を示すタイミングチャートである。録画開始ボタンが押下されると撮像装置１００は、垂直同期信号ＶＳＹＮＣなどの同期信号の周期が経過するたびにプレビューフレームを生成する。この垂直同期信号ＶＳＹＮＣは、フレームを生成するタイミングを示す周期信号である。そして、撮像装置１００は、プレビューフレームを表示し、記録する。
【００６２】
タイミングＴｃにおいてシーンが変化すると、そのタイミングを含むＴｈｓからＴｈｅまでの期間が高速撮影期間として設定される。この期間において撮像装置１００は、通常撮影時よりも短い周期が経過するたびにフレームを生成し、バッファリングする。また、撮像装置１００は、通常撮影時と同じ周期が経過するたびにプレビューフレームを表示し、記録する。
【００６３】
高速撮影期間が経過すると撮像装置１００は、垂直同期信号ＶＳＹＮＣの周期が経過するたびにプレビューフレームを生成して表示し、記録する。
【００６４】
そして、タイミングＴｏｓにおいて録画停止の操作が行われた後に、撮像装置１００は、プレビューフレームを垂直同期信号ＶＳＹＮＣの周期が経過するたびに生成して表示する。また、撮像装置１００は、垂直同期信号ＶＳＹＮＣの周期が経過するたびにバッファリングフレームをフレームバッファ２７０から取り出して記録部１４０に記録する。
【００６５】
そして、アプリケーション実行部１５０は、記録されたプレビューフレームおよびバッファリングフレームのそれぞれのタイムスタンプを参照し、撮影された順に並び替えて録画フレームとする。例えば、「２」番目のプレビューフレームが撮影されてから、「４」番目のプレビューフレームが撮影されるまでの１／１５秒間に１２０ｆｐｓで高速撮影された場合を想定する。この場合に、「２_１」、「２_２」、「２_３」、「３」、「３_１」、「３_２」および「３_３」の７枚のフレームがバッファリングされる。アプリケーション実行部１５０は、プレビューフレームと重複する「３」のバッファリングフレームを削除し、「２_１」、「２_２」および「２_３」のバッファリングフレームを「２」と「３」のプレビューフレームの間に挿入する。また、アプリケーション実行部１５０は、「３_１」、「３_２」および「３_３」のバッファリングフレームを「３」と「４」のプレビューフレームの間に挿入する。
【００６６】
なお、高速撮影中に撮像素子２００は、プレビューフレームと重複するフレームもバッファリングフレームとしてバッファリングしているが、重複するフレームをバッファリングしない構成としてもよい。この場合、例えば、「２_１」、「２_２」、「２_３」、「３」、「３_１」、「３_２」および「３_３」のうち「３」のフレームが重複するため、保持されない。これにより、高速撮影の継続時間を長くすることができる。この場合には、アプリケーション実行部１５０は、プレビューフレームと重複するバッファリングフレームを削除する必要は無い。
【００６７】
図８に例示するように、録画停止時に撮像素子２００は、垂直同期信号ＶＳＹＮＣに同期してバッファリングフレームを出力しつつ、プレビューフレームも出力する。これにより、表示部１２０は、バッファリングフレームの出力中においても、プレビューフレームの表示を中断せずに継続することができる。
【００６８】
ここで、仮に、録画停止時に撮像素子２００がプレビューフレームの生成を中断してバッファリングフレームのみを出力すると、プレビューフレームの表示が中断し、次の撮影に支障が生じる。これに対して、撮像素子２００は、バッファリングフレームを出力しつつ、プレビューフレームも出力しているため、表示部１２０は、プレビューフレームの表示を継続することができる。
【００６９】
図９は、第１の実施の形態における撮影時のフレームバッファ２７０の容量の変動の一例を示す図である。タイミングＴｃ１においてシーンが変化すると、そのタイミングを含むＴｈｓ１からＴｈｅ１までの期間が高速撮影期間として設定される。タイミングＴｈｓ１において、Ａ領域およびＢ領域がエンプティであるため、撮像装置１００は、高速撮影を開始する。タイミングＴｈｅ１までの間において、撮像装置１００は、例えば、Ａ領域にフレームをバッファリングする。
【００７０】
タイミングＴｓｅ１の後に、タイミングＴｃ２においてシーンが変化すると、そのタイミングを含むＴｈｓ２からＴｈｅ２までの期間が２回目の高速撮影期間として設定される。タイミングＴｈｓ２において、Ｂ領域がエンプティであるため、撮像装置１００は、高速撮影を開始する。タイミングＴｈｅ２までの間において、撮像装置１００は、Ｂ領域にフレームをバッファリングする。
【００７１】
図１０は、第１の実施の形態における撮影終了後のフレームバッファの容量の変動の一例を示す図である。タイミングＴｈｅ２の後にタイミングＴｏｓにおいて録画停止の操作が行われると、撮像素子２００は、低フレームレートでバッファリングフレームをフレームバッファ２７０から取り出して記録部１４０に出力する。
【００７２】
ここで、フレームバッファ２７０をＡ領域およびＢ領域に分割しない構成を比較例として想定する。この比較例では、図９において１回目の高速撮影が終了したタイミングＴｈｅ１においてフレームバッファ２７０内に空きがなくなる。このため、２回目の高速撮影を開始させたい場合にユーザは、録画停止ボタンを押下してフレームバッファ２７０に空きができるのを待ってから、再度録画開始ボタンを押下しなくてはならない。このように、比較例では高速撮影を連続して複数回行うことができない。
【００７３】
これに対して、フレームバッファ２７０内に２つの領域を設け、いずれかに空きがある場合に高速撮影を開始することにより、図９および図１０に例示したように、撮像装置１００は連続して複数回の高速撮影を行うことができる。
【００７４】
なお、フレームバッファ２７０内に２つの領域を設けているが、３つ以上の領域をもうけることもできる。フレームバッファ２７０の容量が一定の下では、領域数を多くするほど、一度の高速撮影の期間が短くなるが、高速撮影を連続して行う回数を多くすることができる。
【００７５】
図１１は、第１の実施の形態における領域ごとのアクセス先の変動の一例を示すグラフである。１回目の高速撮影において、高フレームレートでフレームが生成されるたびにＡ領域内のアドレスを示すライトアドレスが順に生成され、それらのアドレスにフレームが保持される。
【００７６】
２回目の高速撮影において、高フレームレートでフレームが生成されるたびにＢ領域内のアドレスを示すライトアドレスが順に生成され、それらのアドレスにフレームが保持される。そして、録画が終了すると、保持された順にリードアドレスが生成され、フレームが読み出される。
【００７７】
［撮像装置の動作例］
図１２は、第１の実施の形態における撮像装置１００の動作の一例を示すフローチャートである。この動作は、例えば、録画開始の操作が行われたときに開始する。撮像装置１００は、通常撮影モードで撮影を行い（ステップＳ９０１）、フレームバッファ２７０にアクセスするアクセス処理（ステップＳ９１０）を行う。
【００７８】
そして、撮像装置１００は、高速撮影期間が開始したか否かを判断する（ステップＳ９０２）。高速撮影期間が開始した場合に（ステップＳ９０２：Ｙｅｓ）、撮像装置１００は、Ａ領域およびＢ領域のいずれかに空きがあるか否かを判断する（ステップＳ９０３）。
【００７９】
Ａ領域およびＢ領域のいずれかに空きがある場合に（ステップＳ９０３：Ｙｅｓ）、撮像装置１００は、高フレームレートで撮影する高速撮影処理（ステップＳ９２０）を実行する。
【００８０】
高速撮影期間が開始していない場合（ステップＳ９０２：Ｎｏ）、Ａ領域およびＢ領域のいずれかにも空きがない場合（ステップＳ９０３：Ｎｏ）、または、ステップＳ９２０の後に撮像装置１００は、録画停止の操作が行われたか否かを判断する（ステップＳ９０４）。
【００８１】
録画停止の操作が行われた場合に（ステップＳ９０４：Ｙｅｓ）、撮像装置１００は、プレビューモードに移行し（ステップＳ９０５）、アクセス処理（ステップＳ９１０）を行う。そして、撮像装置１００は、録画開始の操作が行われたか否かを判断する（ステップＳ９０６）。
【００８２】
録画開始の操作が行われていない場合に（ステップＳ９０６：Ｎｏ）、撮像装置１００は、ステップＳ９１０を繰り返し実行する。一方、録画開始の操作が行われた場合に（ステップＳ９０６：Ｙｅｓ）、撮像装置１００は、ステップＳ９０１以降を繰り返し実行する。
【００８３】
図１３は、第１の実施の形態におけるアクセス処理の一例を示すフローチャートである。撮像素子２００は、高速撮影モードであるか否かを判断する（ステップＳ９１１）。高速撮影モードである場合に（ステップＳ９１１：Ｙｅｓ）、撮像素子２００は、生成したフレームがプレビューフレームであるか否かを判断する（ステップＳ９１２）。プレビューフレームである場合に（ステップＳ９１２：Ｙｅｓ）、撮像素子２００は、プレビューフレームを出力しつつ、そのプレビューフレームをバッファリングフレームとしてバッファリングする（ステップＳ９１３）。
【００８４】
一方、プレビューフレームでない場合に（ステップＳ９１２：Ｎｏ）、撮像素子２００は、フレームをバッファリングフレームとしてバッファリングする（ステップＳ９１４）。
【００８５】
高速撮影モードでない場合に（ステップＳ９１１：Ｎｏ）、撮像素子２００は、プレビューモードであるか否かを判断する（ステップＳ９１５）。プレビューモードである場合に（ステップＳ９１５：Ｙｅｓ）、撮像素子２００は、バッファリングフレームを出力する（ステップＳ９１６）。
【００８６】
また、通常撮影モードである場合に（ステップＳ９１５：Ｎｏ）、撮像素子２００は、プレビューフレームを出力する（ステップＳ９１７）。ステップＳ９１３、Ｓ９１４、Ｓ９１６またはＳ９１７の後に撮像素子２００は、アクセス処理を終了する。
【００８７】
図１４は、第１の実施の形態における高速撮影処理の一例を示すフローチャートである。撮像装置１００は、高速撮影モードで撮影し（ステップＳ９２１）、アクセス処理（ステップＳ９１０）を実行する。そして、撮像装置１００は、高速撮影期間が終了したか否かを判断する（ステップＳ９２２）。高速撮影期間が終了していない場合に（ステップＳ９２２：Ｎｏ）、撮像装置１００は、ステップＳ９２１以降を繰り返し実行する。一方、高速撮影期間が終了している場合に（ステップＳ９２２：Ｙｅｓ）、撮像装置１００は、高速撮影処理を終了する。
【００８８】
このように、本技術の第１の実施の形態によれば、撮像素子２００は、フレームバッファ２７０内の複数の領域のいずれかに空きがあれば、高速撮影を開始するため、高速撮影を連続して複数回に亘って行うことができる。
【００８９】
［第１の変形例］
上述の第１の実施の形態では、撮像素子２００は、垂直同期信号ＶＳＹＮＣの周期が経過するたびにバッファリングフレームを１枚ずつ出力していた。しかし、バッファリングフレームの枚数が多くなるほど、フレームバッファ２７０に空きができるまでの時間が長くなる。この第１の実施の形態の第１の変形例の撮像素子２００は、フレームバッファ２７０に空きができるまでの時間を短くした点において第１の実施の形態と異なる。
【００９０】
図１５は、第１の実施の形態の第１の変形例における撮像素子２００の動作の一例を示すタイミングチャートである。この第１の変形例の撮像素子２００は、プレビューモードにおいて垂直同期信号ＶＳＹＮＣの周期が経過するたびにバッファリングフレームを２枚ずつ出力する点において第１の実施の形態と異なる。なお、撮像素子２００は、垂直同期信号ＶＳＹＮＣの周期が経過するたびに３枚以上のフレームを出力してもよい。
【００９１】
このように、本技術の第１の実施の形態の第１の変形例によれば、撮像素子２００は、バッファリングフレームを垂直同期信号の周期が経過するたびに複数枚のフレームを出力するため、フレームバッファ２７０に空きができるまでの時間を短くすることができる。
【００９２】
［第２の変形例］
上述の第１の実施の形態では、撮像素子２００は、録画停止の操作が行われると、バッファリングフレームを出力していた。しかし、この構成では、フレームバッファ２７０に空きがなくなると、録画が停止されない限り、次の高速撮影を開始することができない。この第１の実施の形態の第２の変形例における撮像素子２００は、録画中にフレームバッファ２７０に空き領域を生じさせる点において第１の実施の形態と異なる。
【００９３】
図１６は、第１の実施の形態の第２の変形例における撮像素子２００の動作の一例を示すタイミングチャートである。この第２の変形例の撮像素子２００は、通常撮影モードにおいて垂直同期信号ＶＳＹＮＣの周期が経過するたびにバッファリングフレームを出力する点において第１の実施の形態と異なる。これにより、録画中にフレームバッファ２７０に空き領域を生じさせることができる。
【００９４】
このように、本技術の第１の実施の形態の第２の変形例によれば、撮像素子２００は、通常撮影モードで録画中にバッファリングフレームを出力するため、録画を停止しなくてもフレームバッファ２７０に空き領域を生じさせることができる。
【００９５】
＜２．第２の実施の形態＞
上述の第１の実施形態では、撮像素子２００は、プレビューフレームとバッファリングフレームとを撮影された順に出力していなかった。このため、アプリケーション実行部１５０は、撮影された順に並び変える編集処理を行う必要があり、録画時間が長くなるほど、アプリケーション実行部１５０の処理量が増大してしまう。この第２の実施の形態の撮像装置１００は、アプリケーション実行部１５０の処理量を低減した点において第１の実施の形態と異なる。
【００９６】
図１７は、第２の実施の形態における撮像装置１００の動作の一例を示すタイミングチャートである。撮像素子２００は、通常撮影モードにおいて垂直同期信号ＶＳＹＮＣに同期してフレームを撮影してプレビューフレームとして表示部１２０に出力するとともに録画フレームとして記録部１４０にも出力する。
【００９７】
高速撮影モードにおいて、撮像素子２００は、低フレームレートでプレビューフレームを表示部１２０に出力する。また、撮像素子２００は、高フレームレートでフレームを生成してフレームバッファ２７０に保持し、保持した順に低フレームレートでフレームを取り出して録画フレームとして出力する。
【００９８】
そして、高速撮像モードの後の通常撮影モードにおいて撮像素子２００は、プレビューフレームを生成するたびにフレームバッファ２７０に保持する。そして、撮像素子２００は、保持した順に低フレームレートでフレームをフレームバッファ２７０から取り出して録画フレームとして出力する。また、撮像素子２００は、低フレームレートでプレビューフレームを表示部１２０に出力する。
【００９９】
そして、プレビューモードにおいて撮像素子２００は、フレームバッファ２７０がエンプティになるまで、保持した順に低フレームレートでフレームバッファ２７０からフレームを取り出して録画フレームとして出力する。
【０１００】
このように、本技術の第２の実施の形態によれば、撮像素子２００は、高速撮影後にプレビューフレームを保持し、保持した順に低フレームレートでフレームを取り出して録画フレームとして出力するため、撮影順に録画フレームを出力することができる。このため、アプリケーション実行部１５０は、録画フレームを撮影順に並び替える処理を行う必要がなくなり、アプリケーション実行部１５０の処理量を低減することができる。
【０１０１】
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【０１０２】
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、ＣＤ（Compact Disc）、ＭＤ（MiniDisc）、ＤＶＤ（Digital Versatile Disc）、メモリカード、ブルーレイディスク（Blu-ray（登録商標）Disc）等を用いることができる。
【０１０３】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【０１０４】
なお、本技術は以下のような構成もとることができる。
（１）複数の領域が設けられたバッファと、
前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理部と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力部と
を具備する撮像素子。
（２）前記画像生成部は、所定の通常撮影期間内において所定の周期が経過するたびに前記画像をプレビュー画像として生成し、前記所定の通常撮影期間と異なる高速撮影期間内において前記複数の領域のいずれかの空き容量が前記所定の閾値を超える場合には前記所定の周期より短い周期が経過するたびに前記画像を高速撮影画像として生成し、
前記管理部は、前記高速撮影画像を前記バッファリング画像として保持させる
前記（１）記載の撮像素子。
（３）前記出力部は、前記所定の周期が経過するたびに前記バッファリング画像とともに前記プレビュー画像をさらに出力する
前記（２）記載の撮像素子。
（４）前記管理部は、前記バッファリング画像とともに前記プレビュー画像を前記バッファに保持させ、
前記出力部は、前記バッファリング画像および前記プレビュー画像を当該画像が保持された順に前記バッファから取り出して出力する
前記（２）または（４）に記載の撮像素子。
（５）前記出力部は、所定の操作が行われたときに前記バッファから前記バッファリング画像を取り出して出力する
前記（２）から（４）のいずれかに記載の撮像素子。
（６）前記出力部は、前記高速撮影期間が終了すると前記バッファから前記バッファリング画像を取り出して出力する
前記（２）から（５）のいずれかに記載の撮像素子。
（７）前記出力部は、前記所定の周期が経過するたびに前記バッファリング画像を複数枚取り出して出力する
前記（２）から（６）のいずれかに記載の撮像素子。
（８）複数の領域が設けられたバッファと、
前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成部と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理部と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力部と
前記出力された画像を記録する記録部と
を具備する撮像装置。
（９）複数の領域が設けられたバッファ内の前記複数の領域のいずれかの空き容量が所定の閾値を超える場合には画像を生成する画像生成手順と、
前記複数の領域のうち空き容量が前記所定の閾値を超える領域に前記画像をバッファリング画像として保持させる管理手順と、
前記バッファリング画像が保持された順に前記バッファから前記バッファリング画像を取り出して出力する出力手順と
を具備する撮像素子の制御方法。
【符号の説明】
【０１０５】
１００  撮像装置
１１０  撮像レンズ
１２０  表示部
１３０  制御部
１４０  記録部
１５０  アプリケーション実行部
１６０  再生部
２００  撮像素子
２１０  走査部
２２０  画素アレイ部
２３０  ＡＤ変換部
２４０  前処理部
２４１  ゲイン調整部
２４２  クランプ処理部
２４３  シーン変化検出部
２５０  管理部
２５１  タイムスタンプ生成部
２５２  アドレス管理部
２６０  メモリコントローラ
２７０  フレームバッファ
２８０  後処理部
２８１  リモザイク処理部
２８２  スケーリング処理部
２９０  出力インターフェース
【図１】
2017192100.tif 000003
【図２】
2017192100.tif 000004
【図３】
2017192100.tif 000005
【図４】
2017192100.tif 000006
【図５】
2017192100.tif 000007
【図６】
2017192100.tif 000008
【図７】
2017192100.tif 000009
【図８】
2017192100.tif 000010
【図９】
2017192100.tif 000011
【図１０】
2017192100.tif 000012
【図１１】
2017192100.tif 000013
【図１２】
2017192100.tif 000014
【図１３】
2017192100.tif 000015
【図１４】
2017192100.tif 000016
【図１５】
2017192100.tif 000017
【図１６】
2017192100.tif 000018
【図１７】
2017192100.tif 000019