(57)【要約】  補間処理部３１は、画像信号における間引き画素の補間処理を行う。信号生成画素判別部補間処理部３２は、補間処理部３１で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する。信号生成制御部３４は、その後の画像信号の生成時に、信号生成画素判別部３２で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する。特徴量に基づき平坦な画像領域で間引きを行うことで、画質の劣化を抑えて消費電力を削減できるようになる。
2016147508.tif 000002
【特許請求の範囲】
【請求項１】
画像信号における間引き画素の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された前記信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える画像処理装置。
【請求項２】
前記特徴量は、前記注目画素の領域の平坦度を示す情報である
請求項１記載の画像処理装置。
【請求項３】
前記特徴量として、前記注目画素を基準とした所定範囲における信号のダイナミックレンジまたは前記注目画素と隣接画素との差分絶対値和を用いる
請求項２記載の画像処理装置。
【請求項４】
前記注目画素の画素位置に応じて閾値を設定する判定基準設定部をさらに備え、
前記信号生成画素判別部は、前記注目画素の特徴量と前記閾値を比較して、比較結果に基づき前記信号生成画素判別情報を生成する
請求項１記載の画像処理装置。
【請求項５】
前記信号生成画素判別情報を生成に用いた画像信号と、その後生成する画像信号とで画像サイズが異なる場合に、前記信号生成画素判別情報を前記その後生成する画像信号の画像サイズに対応した信号生成画素判別情報とするスケーラー部をさらに備える
請求項１記載の画像処理装置。
【請求項６】
被写体光学像に応じた画像信号を生成する撮像素子からの画像信号のアナログ／デジタル変換処理を行うＡ／Ｄ変換部をさらに備え、
前記補間処理部は、前記Ａ／Ｄ変換部でアナログ／デジタル変換処理された画像信号を用いて補間処理を行い、
前記信号生成制御部は、前記信号生成画素判別情報に基づき前記Ａ／Ｄ変換部を制御して、間引き画素と判別された画素に対する前記アナログ／デジタル変換処理を停止させる
請求項１記載の画像処理装置。
【請求項７】
被写体光学像に応じた画像信号を生成する撮像素子を駆動する撮像素子駆動部をさらに備え、
前記信号生成制御部は、前記信号生成画素判別情報に基づき前記撮像素子駆動部を制御して、間引き画素と判別された画素の信号の生成を停止させる
請求項１記載の画像処理装置。
【請求項８】
補間処理部で、画像信号における間引き画素の補間処理を行うことと、
信号生成画素判別部で、前記補間処理後の画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成することと、
信号生成制御部で、その後の画像信号の生成時に、前記信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御することと
を含む画像処理方法。
【請求項９】
被写体光学像に応じた画像信号を生成する撮像素子と、
前記撮像素子で生成された画像信号の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える撮像装置。
【請求項１０】
撮像動作の制御を行う動作制御部と
撮像動作状態に応じて閾値を設定する判定基準設定部とをさらに備え、
前記信号生成画素判別部は、前記特徴量と前記閾値との比較結果に基づき前記注目画素を間引き画素とするかの判別を行い、前記閾値を前記撮像動作状態に応じて設定する
請求項９記載の撮像装置。
【請求項１１】
前記動作制御部は、静止画撮像前にプレビュー画像表示を行い、
前記判定基準設定部は、前記静止画撮像時と前記プレビュー画像表示とで前記閾値を変更する
請求項１０記載の撮像装置。
【請求項１２】
前記動作制御部は、手振れ補正動作を行い、
前記判定基準設定部は、前記手振れ補正動作が行われている場合と行われていない場合とで前記閾値を変更する
請求項１０記載の撮像装置。
【請求項１３】
前記動作制御部は、被写体検出動作を行い、
前記判定基準設定部は、前記動作制御部における被写体検出結果に応じて前記閾値を設定する
請求項１０記載の撮像装置。
【請求項１４】
前記判定基準設定部は、前記被写体検出結果に基づき被写体が所定の被写体でないことを判別した場合または被写体の動きが所定の速度よりも高速であることを判別した場合、信号の生成を行う画素が少なくなるように前記閾値を設定する
請求項１３記載の撮像装置。
【請求項１５】
前記判定基準設定部は、撮像モードまたは被写体の明るさに応じて前記閾値を設定する
請求項１０記載の撮像装置。
【請求項１６】
前記判定基準設定部は、前記補間処理部で補間処理が行われた画像信号の出力モードに応じて前記閾値を設定する
請求項１０記載の撮像装置。
【請求項１７】
時刻情報を取得する時計部をさらに備え、
前記判定基準設定部は、撮像時刻に応じて前記閾値を設定する
請求項９記載の撮像装置。
【請求項１８】
前記信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備え、
前記判定基準設定部は、指定された消費電力と前記消費電力推定部で推定された推定消費電力との比較結果に応じて前記閾値を設定する
請求項９記載の撮像装置。
【請求項１９】
当該撮像装置を動作させるためのバッテリーの残量を検出する残量検出部をさらに備え、
前記判定基準設定部は、前記残量検出部の検出結果に応じて前記閾値を設定する
請求項９記載の撮像装置。
【請求項２０】
前記信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備え、
前記判定基準設定部は、撮像終了までの時間と前記残量検出部の検出結果と前記消費電力推定部の推定結果に基づき、撮像終了まで撮像動作が可能となるように前記閾値を設定する
請求項１９記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この技術は、画像処理装置と画像処理方法および撮像装置に関し、画質の劣化を抑えて消費電力を削減できるようにする。
【背景技術】
【０００２】
撮像装置では、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）撮像素子やＣＣＤ（Charge Coupled Device）撮像素子が用いられており、高精細な撮影画像を取得するために撮像素子の多画素化等が進められている。このため、撮像素子の駆動回路や信号処理回路では、多画素化に伴って消費電力が増大している。【０００３】
このため、例えば特許文献１では、動画像撮像時に、撮像素子で複数画素を加算して１画素を生成する間引きを行い、消費電力を削減することが行われている。また、特許文献２では、アナログ／デジタル（Ａ／Ｄ）変換処理の動作モードを複数用意しておき、事前の画素情報を元に消費電力が最小となる動作モードを選択することが行われている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００７−１５０４３９号公報
【特許文献２】特許第４９５２４９８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、消費電力を削減するため間引きを行うと画像の画素数が少なくなるため、間引き前の画素数の画像を取得するためにはアップコンバートを行う必要がある。しかし、複数画素を加算して１画素を生成する間引きでは、複数画素を平均化した画素が新たに生成されることにより、高域成分が失われてしまうことがある。また、所定間隔で画素を間引いた場合には、間引かれた画素の情報が失われてしまう。したがって、アップコンバート後の画像は、画質の劣化した画像となってしまうおそれがある。【０００６】
また、事前の画素情報を元にＡ／Ｄ変換処理の動作モードを選択する場合、Ａ／Ｄ変換処理は全画素に対して行われて、消費電力は概ね中間レベルの画素信号を処理しているときと同等に平準化されており、消費電力の削減効果は限定的である。【０００７】
そこで、この技術では画質の劣化を抑えて消費電力を削減できる画像処理装置と画像処理方法および撮像装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
この技術の第１の側面は
画像信号における間引き画素の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された前記信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える画像処理装置にある。【０００９】
この技術において、補間処理部は、画像信号における間引き画素の補間処理を行う。信号生成画素判別部は、補間処理部で補間処理が行われた画像信号から注目画素の特徴量として注目画素の領域の平坦度、例えば注目画素を基準とした所定範囲における信号のダイナミックレンジまたは注目画素と隣接画素との差分絶対値和等を算出する。また、信号生成画素判別部は、算出した注目画素の特徴量と判定基準設定部で設定された閾値を比較して、比較結果に基づき注目画素を間引き画素と非間引き画素のいずれとするか示した信号生成画素判別情報を生成する。信号生成制御部は、その後の画像信号の生成時に、信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する。例えば、被写体光学像に応じた画像信号を生成する撮像素子からの画像信号のアナログ／デジタル変換処理を行うＡ／Ｄ変換部を制御して、間引き画素と判別された画素に対するアナログ／デジタル変換処理を停止させる。また、撮像素子を駆動する撮像素子駆動部を制御して、間引き画素と判別された画素について信号の生成を停止させる。さらに、信号生成画素判別情報を生成に用いた画像信号と、その後生成する画像信号とで画像サイズが異なる場合、スケーラー部は信号生成画素判別情報をその後生成する画像信号の画像サイズに対応した信号生成画素判別情報とする。また、判定基準設定部は注目画素の画素位置に応じて閾値を設定する。【００１０】
この技術の第２の側面は
補間処理部で、画像信号における間引き画素の補間処理を行うことと、
信号生成画素判別部で、前記補間処理後の画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成することと、
信号生成制御部で、その後の画像信号の生成時に、前記信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御することと
を含む画像処理方法にある。【００１１】
この技術の第３の側面は
被写体光学像に応じた画像信号を生成する撮像素子と、
前記撮像素子で生成された画像信号の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える撮像装置にある。【００１２】
この技術において、被写体光学像に応じて撮像素子で生成された画像信号の補間処理を補間処理部で行い、信号生成画素判別部は補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量と例えば撮像動作状態に応じて判定基準設定部で設定される閾値との比較結果に基づき、注目画素を間引き画素と非間引き画素のいずれとするか判別して信号生成画素判別情報を生成する。信号生成制御部は、その後の画像信号の生成時に、信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止する。例えば、動作制御部は、静止画撮像前にプレビュー画像表示を行い、判定基準設定部は静止画撮像時とプレビュー画像表示とで閾値を変更する。また、動作制御部は手振れ補正動作を行い、判定基準設定部は手振れ補正動作が行われている場合と行われていない場合とで閾値を変更する。また、動作制御部は被写体検出動作を行い、判定基準設定部は被写体検出結果に応じて閾値を設定する。また、判定基準設定部は、被写体検出結果に基づき被写体が所定の被写体でないことを判別した場合または被写体の動きが所定の速度よりも高速であることを判別した場合、信号の生成を行う画素が少なくなるように閾値を設定する。さらに、判定基準設定部は撮像モードまたは被写体の明るさに応じて閾値を設定する。また、判定基準設定部は、補間処理部で補間処理が行われた画像信号の出力モードに応じて閾値を設定する。また、時刻情報を取得する時計部を備えており、判定基準設定部は、撮像時刻に応じて閾値を設定する。また、信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備え、判定基準設定部は、指定された消費電力と消費電力推定部で推定された推定消費電力との比較結果に応じて閾値を設定する。また、当該撮像装置を動作させるためのバッテリーの残量を検出する残量検出部をさらに備え、判定基準設定部は、残量の検出結果に応じて閾値を設定する。さらに、信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備えて、判定基準設定部は、撮像終了までの時間と残量検出部の残量検出結果と消費電力推定部の推定結果に基づき、撮像終了まで撮像動作が可能となるように閾値を設定する。
【発明の効果】
【００１３】
この技術によれば、画像信号における間引き画素の補間処理が行われて、補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報が生成される。その後の画像信号の生成時には、信号生成画素判別情報で間引き画素と判別された画素の信号を生成しないよう制御が行われる。このため、画質の劣化を抑えて消費電力を削減できるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
【図面の簡単な説明】
【００１４】
【図１】第１の実施の形態の構成を示す図である。
【図２】単板モノクロセンサである場合の補間処理動作を説明するための図である。
【図３】カラーフィルタの一部領域を示す図である。
【図４】色配列がベイヤー配列である場合の補間処理動作を説明するための図である。
【図５】ダイナミックレンジの算出動作を説明するための図である。
【図６】第１の実施の形態の動作を示すフローチャートである。
【図７】第２の実施の形態の構成を示す図である。
【図８】第２の実施の形態の動作を示すフローチャートである。
【図９】他の実施の形態の構成を示す図である。
【図１０】スケーリング処理を例示した図である。
【発明を実施するための形態】
【００１５】
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態
２．第２の実施の形態
３．他の実施の形態
【００１６】
＜１．第１の実施の形態＞
図１は、この技術の画像処理装置と撮像装置の第１の実施の形態の構成を示している。この技術の撮像装置１０は、撮像部２０、画像処理部３０、カメラ信号処理部４０、ユーザインタフェース（Ｉ／Ｆ）部４１、動作制御部５０を有しており、この技術の画像処理装置は画像処理部３０に対応する。
【００１７】
撮像部２０は撮像素子２１、撮像素子駆動部２２、Ａ／Ｄ変換部２３を有しており、画像処理部３０は、補間処理部３１、信号生成画素判別部３２、信号生成制御部３４、判定基準設定部３５を有している。
【００１８】
撮像素子２１は、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）撮像素子またはＣＣＤ（Charge Coupled Device）撮像素子を用いて構成されている。撮像素子２１は、被写体光画像に応じた画像信号を光電変換によって生成してＡ／Ｄ変換部２３に出力する。
【００１９】
撮像素子駆動部２２は、動作制御部５０からの制御信号に基づき駆動信号を生成する。撮像素子駆動部２２は生成した駆動信号を撮像素子２１に供給して画像信号を生成させる。
【００２０】
Ａ／Ｄ変換部２３は、Ａ／Ｄ変換処理を行い、撮像素子２１から供給されたアナログの画像信号をデジタルの画像信号に変換して画像処理部３０へ出力する。また、Ａ／Ｄ変換部２３は、画像処理部３０から供給された画素制御信号に基づき非間引き画素のＡ／Ｄ変換処理を行う。したがって、Ａ／Ｄ変換部２３から画像処理部３０へ出力される画像信号は、画素制御信号に応じて画素の間引きが行われた信号となる。ここで、非間引き画素は画像信号の生成を行う画素であり、間引き画素は画像信号の生成を行わない画素である。
【００２１】
画像処理部３０の補間処理部３１は、間引き画素について補間処理を行い、画素信号を生成する。補間処理部３１は、後述する信号生成画素判別部３２から供給された信号生成画素判別情報に基づき、画素信号を生成しないと判別した間引き画素について、線形補間（バイリニアフィルタ）等の方法を用いて画素信号を生成する。
【００２２】
図２は、撮像素子２１が単板モノクロセンサである場合の補間処理動作を説明するための図である。例えば図２の（ａ）は、１画素の間引きが行われた場合を示している。なお、図では、間引き画素を破線の丸印で示している。
【００２３】
補間処理部３１は、非間引き画素の画素信号ｐ0，ｐ2を用いて式（１）に基づき、間引き画素の画素信号ｐ1を生成する。
ｐ1＝（ｐ0＋ｐ2）／２        ・・・（１）
【００２４】
また、図２の（ｂ）に示すように、間引き画素が２画素連続している場合、非間引き画素の画素信号ｐ0，ｐ3から間引き画素の画素信号ｐ1，ｐ2を生成する。また、間引き画素の画素信号の生成では、非間引き画素から間引き画素までの距離に応じた重み付けを行って画素信号を生成する。例えば、非間引き画素の画素信号ｐ0，ｐ3を用いて式（２）に基づき、間引き画素の画素信号ｐ1を生成する。また、非間引き画素の画素信号ｐ0，ｐ3を用いて式（３）に基づき、間引き画素の画素信号ｐ2を生成する。
ｐ1＝（２ｐ0＋ｐ3）／３      ・・・（２）
ｐ2＝（ｐ0＋２ｐ3）／３      ・・・（３）
【００２５】
また、間引き画素が３画素以上連続している場合にも、２画素連続している場合と同様に、非間引き画素から間引き画素までの距離に応じた重み付けを行って画素信号を生成すればよい。また、信号生成画素判別部３２は、間引きが行われても補間処理を行えるように、側端部の画素を非間引き画素と判別する。
【００２６】
次に、撮像素子２１が単板カラーセンサである場合の補間処理動作について説明する。図３は、撮像素子２１で用いられたカラーフィルタの一部領域を示している。カラーフィルタは、赤色画素Ｒと緑色画素Ｇと青色画素Ｂを用いて、色配列がベイヤー配列とされている。
【００２７】
補間処理部３１は、単板カラーセンサが用いられた場合、色成分毎に補間処理を行う。図４は、色配列がベイヤー配列である場合の補間処理動作を説明するための図である。なお、図４では、赤色画素Ｒ1，Ｒ3と緑色画素Ｇ2が間引き画素である場合を例示している。
【００２８】
補間処理部３１は、赤色画素Ｒ1の補間処理を行う場合、非間引き画素の画素信号ｒ0，ｒ2を用いて式（１）と同様な演算を行い、画素信号ｒ1を生成する。また、補間処理部３１は、緑色画素Ｇ2の補間処理を行う場合、非間引き画素Ｇ1，Ｇ2の画素信号ｇ1，ｇ3を用いて式（１）と同様な演算を行い、画素信号ｇ2を生成する。また、信号生成画素判別部３２は、間引きが行われても補間処理を行えるように、色毎に側端部の画素を非間引き画素と判別する。また、色配列がベイヤー配列の場合、局所的に色信号の割合が一定と見なして例えば赤色画素Ｒを補間する際に緑色画素Ｇ情報を利用することもできる。この場合、色毎に同一色の画素を用いた線形補間に比べて、高精度な補間処理を行うことが可能となる。さらに、カラーフィルタは原色系のフィルタに限らず補色系のフィルタであってもよく、色配列はベイヤー配列に限らず他の色配置であってもよい。
【００２９】
また、補間処理部３１は、バイリニアフィルタを用いた補間処理に限らず、他のフィルタ例えばバイ・キュービックフィルタ、ランチョスフィルタ、ウィナーフィルタなどの一次元フィルタを用いて補間処理を行うようにしてもよい。また、補間処理部３１は、上述のように左右の画素を用いる場合に限らず、上下方向の画素や斜め方向の画素等を用いた二次元フィルタで補間処理を行うようにしてもよい。
【００３０】
さらに、補間処理部３１は、機械学習を用いた適応フィルタ補間処理を行うようにしてもよい。この場合、補間処理部３１は、他の処理等で算出した画像の特徴を用いて学習・適応処理をすることも可能である。
【００３１】
信号生成画素判別部３２は、補間処理後の画像信号から特徴量を算出して、特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別する。補間処理部３１で補間処理を行う場合、画像が平坦な領域では画素間の信号差が少なく、間引き画素の補間において周辺画素の画素信号を用いて生成された画素信号は、真の画素信号との差が少ない。すなわち、画像の平坦部は、補間処理による画質への影響が少ないことが想定される。したがって、信号生成画素判別部３２は、注目画素の領域の平坦度を示す情報を特徴量として、この特徴量に基づき注目画素を間引き画素とするか非間引き画素とするか判別する。この技術における平坦度は、注目画素の領域の信号ばらつきや信号が領域内で連続して増加または減少する場合の変化量を示す情報であり、信号生成画素判別部３２は、例えば注目画素の位置を基準とした所定範囲におけるダイナミックレンジを特徴量として算出する。
【００３２】
図５は、ダイナミックレンジの算出動作を説明するための図である。信号生成画素判別部３２は、注目画素を中心とした所定範囲内の画素の最大値と最小値の差をダイナミックレンジとする。信号生成画素判別部３２は、単板カラーセンサが用いられた場合、図５に示すように、例えば赤色画素Ｒである注目画素（二重線の枠で示す画素）を基準として、注目画素と同一色の３×３画素範囲内の画素（太線の枠で示す画素）の最大値と最小値の差をダイナミックレンジとする。なお、単板モノクロセンサが用いられた場合、注目画素を基準として、注目画素と隣接する３×３画素範囲内の最大値と最小値の差をダイナミックレンジとする。また、注目画素を中心とした所定範囲は、３×３画素に限らずさらに広い領域であってもよく、領域の形状も矩形状に限らず他の形状例えば十字状等であってもよい。
【００３３】
また、特徴量は、注目画素の領域の平坦度を示す情報であれば上述のダイナミックレンジに限られない。信号生成画素判別部３２は、一次微分系の特徴量例えば画素間の信号ばらつきに応じた特徴量である注目画素と各隣接画素との差分絶対値の和（差分絶対値和）、周波数成分に基づく特徴量等を用いてもよい。信号生成画素判別部３２は、１つの特徴量を用いる場合に限らず複数の特徴量を組み合わせて利用して、これらの特徴量から補間処理で真の値との差が大きいか小さいかを推測する方法もある。
【００３４】
次に、信号生成画素判別部３２は、注目画素を間引き画素と非間引き画素のいずれとするか特徴量に基づいて判別する。信号生成画素判別部３２は、補間処理後の画像信号から算出した特徴量と閾値を比較して、注目画素の領域が平坦で特徴量が閾値以下となる場合、注目画素を間引き画素と判別する。また、信号生成画素判別部３２は、注目画素の領域が平坦でなく特徴量が閾値よりも大きくなる場合、注目画素を非間引き画素と判別する。信号生成画素判別部３２は、間引き画素と非間引き画素のいずれであるかを示す判別結果を信号生成画素判別情報として記憶する。信号生成画素判別部３２は、１画面の全画素について判別が完了した場合、１画面の全画素の判別結果を示す信号生成画素判別情報を信号生成制御部３４へ出力する。
【００３５】
また、信号生成画素判別部３２は、記憶した信号生成画素判別情報を、次の画像信号の生成で用いることができるように補間処理部３１と信号生成制御部３４へ出力する。信号生成画素判別部３２は、例えば動画撮像の場合、サンプリングレート時間経過後（例えばフレーム期間経過後）、次の画像信号の生成で信号生成画素判別情報を用いて処理や制御動作を行えるように補間処理部３１と信号生成制御部３４へ出力する。また、静止画撮像の場合、近年のデジタルカメラやスマートホン等では、撮像前にプレビュー画像が表示され、もしくはオートフォーカスのために撮像部２０を駆動して画像信号を生成する場合がある。このような状況においては、静止画撮像の直前の画像信号から信号生成画素判別情報を生成して、この信号生成画素判別情報を静止画の画像信号の生成で用いることができるように補間処理部３１と信号生成制御部３４へ出力する。
【００３６】
信号生成制御部３４は、信号生成画素判別部３２から供給された信号生成画素判別情報に基づき画素制御信号を生成してＡ／Ｄ変換部２３へ出力することで、間引き画素に対するＡ／Ｄ変換処理を停止させる。したがって、Ａ／Ｄ変換部２３から画像処理部３０へ出力される画像信号は、信号生成画素判別情報に基づき画素の間引きが行われた信号となる。また、上述したように、信号生成画素判別情報は補間処理部３１に出力されており、補間処理部３１では、Ａ／Ｄ変換処理が停止された間引き画素に対して補間処理を行う。
【００３７】
判定基準設定部３５は、信号生成画素判別部３２で信号生成画素判別情報の生成時に用いる閾値を設定して信号生成画素判別部３２へ出力する。閾値は予め設定された値でもよく、変更可能としてもよい。また、閾値は例えば画面単位で設定してもよく、後述する他の実施の形態のように、画素毎または隣接した複数画素で構成される画素領域毎に設定してもよい。
【００３８】
カメラ信号処理部４０は、補間処理部３１から出力される画像信号に対して、例えばデモザイク処理、明るさやコントラストおよび色再現を最適化する処理等のカメラ信号処理を行う。ユーザインタフェース部４１は、ユーザ操作に応じた操作信号を生成して動作制御部５０へ出力する。
【００３９】
動作制御部５０は、ユーザインタフェース部４１からの操作信号に基づき各部を制御して、撮像装置がユーザ操作に応じた動作となるように各部を制御する。
【００４０】
図６は、第１の実施の形態の動作を示すフローチャートである。ステップＳＴ１で撮像素子２１は画素信号を生成してステップＳＴ３に進む。
【００４１】
ステップＳＴ２で信号生成制御部３４は、信号生成画素判別情報を取得する。信号生成制御部３４は、信号生成画素判別部３２から供給される信号生成画素判別情報を取得して、信号生成画素判別情報に基づき画素制御信号を生成してステップＳＴ３に進む。
【００４２】
ステップＳＴ３でＡ／Ｄ変換部２３はＡ／Ｄ変換処理を行う。Ａ／Ｄ変換部２３は、信号生成制御部３４から供給された画素制御信号に基づき、ステップＳＴ１で画素信号を生成した画素が間引き画素である場合はＡ／Ｄ変換処理を停止し、非間引き画素である場合はＡ／Ｄ変換処理行ってステップＳＴ４に進む。
【００４３】
ステップＳＴ４で補間処理部３１は補間処理を行う。補間処理部３１は、信号生成画素判別部３２から供給された信号生成画素判別情報を取得する。また、補間処理部３１は、取得した信号生成画素判別情報に基づき、Ａ／Ｄ変換処理後の画像信号に対して、間引き画素の補間処理を行いステップＳＴ５に進む。
【００４４】
ステップＳＴ５で信号生成画素判別部３２は、特徴量を算出する。信号生成画素判別部３２は、補間処理部３１で処理された画像信号を用いて画素毎に特徴量を算出してステップＳＴ６に進む。
【００４５】
ステップＳＴ６で信号生成画素判別部３２は、画素判別を行う。信号生成画素判別部３２は、ステップＳＴ５で算出した特徴量と判定基準設定部３５で設定された閾値と比較して、画素毎に間引き画素または非間引き画素のいずれとするか判別する。また、信号生成画素判別部３２は、判別結果を示す信号生成画素判別情報を生成してステップＳＴ７に進む。
【００４６】
ステップＳＴ７で信号生成画素判別部３２は、信号生成画素判別情報を記憶する。信号生成画素判別部３２は、信号生成画素判別情報を次の画像信号の生成で用いることができるように記憶してステップＳＴ８に進む。
【００４７】
ステップＳＴ８で動作制御部５０は、全画素の処理が終了したか判別する。動作制御部５０は、１画面の全画素に対して、ステップＳＴ１からステップＳＴ７の処理が完了したか判別する。動作制御部５０は、全画素に対する処理が完了していない場合にステップＳＴ１に戻り、次の画素に対してステップＳＴ１からステップＳＴ７の処理を行わせる。また、動作制御部５０は、全画素に対する処理が完了した場合にステップＳＴ９に進む。なお、全画素の処理の終了判別は、動作制御部５０で行う場合に限らず、１画面の全画素に対する処理が完了するまで、ステップＳＴ１からステップＳＴ７の処理を各部で自動的に行うようにしてもよい。
【００４８】
ステップＳＴ９で信号生成画素判別部３２は、信号生成画素判別情報を出力する。信号生成画素判別部３２は、１画面の全画素について間引き画素または非間引き画素のいずれであるか判別されたことから、１画面分の判別結果を示す信号生成画素判別情報を補間処理部３１と信号生成制御部３４へ出力してステップＳＴ１０に進む。したがって、補間処理部３１と信号生成制御部３４では、例えば次のフレームにおいて、新たな信号生成画素判別情報を用いて処理が行われる。
【００４９】
ステップＳＴ１０で動作制御部５０は、撮像終了であるか判別する。動作制御部５０は、動画や静止画の撮像の終了を判別していない場合はステップＳＴ１に戻り、撮像の終了例えば動画や静止画の撮像を終了するユーザ操作が行われた場合に動作を終了する。
【００５０】
なお、ステップＳＴ１１でカメラ信号処理部４０は画像信号を出力する。カメラ信号処理部４０は、補間処理部３１から供給された画像信号に対して種々の信号処理を行って出力する。
【００５１】
このような第１の実施の形態によれば、平坦な画像領域に間引き画素が設けられて、間引き画素ではＡ／Ｄ変換処理が停止されるので、良好な画質の撮像画の生成と撮像装置の消費電力の削減を両立できる。また、信号生成画素判別情報は順次更新されることから、被写体の変化に応じた信号生成画素判別情報が生成されて、画質の劣化を抑えて撮像装置の消費電力を削減できる。
【００５２】
＜２．第２の実施の形態＞
次に、第２の実施の形態について説明する。上述の第１の実施の形態では、閾値を指定することで、画質の劣化を抑えて撮像装置の消費電力を削減する構成について説明したが、第２の実施の形態では、指定した消費電力となるように撮像装置を制御する場合について説明する。
【００５３】
図７は、この技術の画像処理装置を用いた撮像装置の第２の実施の形態の構成を示している。なお、図７において、第１の実施の形態と対応するブロックについては同一符号を伏している。
【００５４】
撮像装置１０ａは、撮像部２０、画像処理部３０、カメラ信号処理部４０、ユーザインタフェース（Ｉ／Ｆ）部４１、時計部４２、消費電力推定部４３、指定消費電力算出部４４、動作制御部５０を有している。
【００５５】
撮像部２０は撮像素子２１、撮像素子駆動部２２、Ａ／Ｄ変換部２３を有しており、画像処理部３０は、補間処理部３１、信号生成画素判別部３２、信号生成制御部３４、判定基準設定部３５を有している。
【００５６】
撮像素子２１は、被写体光画像に応じた画像信号を光電変換によって生成してＡ／Ｄ変換部２３に出力する。
【００５７】
撮像素子駆動部２２は、動作制御部５０からの制御信号に基づき駆動信号を生成する。撮像素子駆動部２２は生成した駆動信号を撮像素子２１に供給して画像信号を生成させる。
【００５８】
Ａ／Ｄ変換部２３は、Ａ／Ｄ変換処理を行い、撮像素子２１から供給されたアナログの画像信号をデジタルの画像信号に変換して画像処理部３０へ出力する。また、Ａ／Ｄ変換部２３は、画像処理部３０から供給された画素制御信号に基づき非間引き画素のＡ／Ｄ変換処理を行い、画素制御信号に応じて画素の間引きが行われた画像信号を画像処理部３０へ出力する。
【００５９】
画像処理部３０の補間処理部３１は、間引き画素について補間処理を行い、画素信号を生成する。補間処理部３１は、後述する信号生成画素判別部３２から供給された信号生成画素判別情報に基づき、画素信号を生成しないと判別した間引き画素について、線形補間等の方法を用いて画素信号を生成する。
【００６０】
信号生成画素判別部３２は、補間処理後の画像信号から特徴量を算出して、特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別する。信号生成画素判別部３２は、注目画素の領域の平坦度を示す情報を特徴量とする。信号生成画素判別部３２は、補間処理後の画像信号から算出した特徴量と閾値を比較して、比較結果を間引き画素と非間引き画素のいずれであるかを示す信号生成画素判別情報として記憶する。信号生成画素判別部３２は、１画面の全画素について判別が完了した場合、１画面の全画素の判別結果を示す信号生成画素判別情報を、次の画像信号の生成で用いられるように補間処理部３１と信号生成制御部３４へ出力する。
【００６１】
信号生成制御部３４は、信号生成画素判別部３２から供給された信号生成画素判別情報に基づき画素制御信号を生成してＡ／Ｄ変換部２３へ出力して、間引き画素に対するＡ／Ｄ変換処理を停止させる。したがって、Ａ／Ｄ変換部２３から画像処理部３０へ出力される画像信号は、信号生成画素判別情報に基づき画素の間引きが行われた信号となる。また、上述したように、信号生成画素判別情報は補間処理部３１に出力されており、補間処理部３１では、Ａ／Ｄ変換処理が停止された間引き画素に対して補間処理を行う。
【００６２】
判定基準設定部３５は、信号生成画素判別部３２で信号生成画素判別情報の生成時に用いる閾値を設定して、信号生成画素判別部３２へ出力する。判定基準設定部３５は、後述する消費電力推定部４３で推定された推定消費電力が、後述する指定消費電力算出部４４で算出された指定消費電力以下となるように閾値を設定する。
【００６３】
カメラ信号処理部４０は、補間処理部３１から出力される画像信号に対してカメラ信号処理を行う。また、ユーザインタフェース部４１は、ユーザ操作に応じた操作信号を生成して動作制御部５０へ出力する。時計部４２は、時間情報を生成して動作制御部５０へ出力する。
【００６４】
消費電力推定部４３は、信号生成画素判別部３２で生成された信号生成画素判別情報に基づき、撮像装置の消費電力を推定する。消費電力推定部４３には、間引き画素の画素数と消費電力の関係を示す情報が予め記憶されており、信号生成画素判別情報で示された間引き画素の画素数に対応する消費電力を推定消費電力として判定基準設定部３５へ出力する。また、消費電力推定部４３は、間引き画素の画素数と削減可能な消費電力の関係を示す情報を予め記憶しており、間引き画素を設けることによって削減される消費電力を推定して、推定消費電力としてもよい。
【００６５】
指定消費電力算出部４４は、撮像時における消費電力をどの程度の電力値とするか算出して、算出した消費電力を指定消費電力として判定基準設定部３５へ出力する。例えば、バッテリーからの電力で撮像装置１０ａが動作している場合、指定消費電力算出部４４は、撮像を所望の時間だけ行えるように、撮像時間とバッテリーの残量に基づき消費電力を算出して、算出した消費電力を指定消費電力とする。また、指定消費電力算出部４４は、消費電力推定部４３において推定消費電力として削減された消費電力を推定する場合、必要となる消費電力の削減量を算出して、算出した電力削減量を指定消費電力として判定基準設定部３５へ出力してもよい。
【００６６】
動作制御部５０は、ユーザインタフェース部４１からの操作信号に基づき各部を制御して、撮像装置がユーザ操作に応じた動作となるように各部を制御する。また、動作制御部５０は、時計部４２から供給された時間情報を利用して、所望の時刻で撮像を開始または終了、所定期間の撮像を行う。
【００６７】
図８は、第２の実施の形態の動作を示すフローチャートである。ステップＳＴ２１で撮像素子２１は画素信号を生成してステップＳＴ２３に進む。
【００６８】
ステップＳＴ２２で信号生成制御部３４は、信号生成画素判別情報を取得する。信号生成制御部３４は、信号生成画素判別部３２から供給される信号生成画素判別情報を取得して、信号生成画素判別情報に基づき画素制御信号を生成してステップＳＴ２３に進む。
【００６９】
ステップＳＴ２３でＡ／Ｄ変換部２３はＡ／Ｄ変換処理を行う。Ａ／Ｄ変換部２３は、信号生成制御部３４から供給された画素制御信号に基づき、ステップＳＴ２１で画素信号を生成した画素が間引き画素である場合はＡ／Ｄ変換処理を停止し、非間引き画素である場合はＡ／Ｄ変換処理行ってステップＳＴ２４に進む。
【００７０】
ステップＳＴ２４で補間処理部３１は補間処理を行う。補間処理部３１は、信号生成画素判別部３２に記憶されている信号生成画素判別情報を取得する。また、補間処理部３１は、取得した信号生成画素判別情報に基づき、Ａ／Ｄ変換処理後の画像信号に対して、間引き画素の補間処理を行いステップＳＴ２５に進む。
【００７１】
ステップＳＴ２５で信号生成画素判別部３２は、特徴量を算出する。信号生成画素判別部３２は、補間処理部３１で処理された画像信号を用いて画素毎の特徴量を算出してステップＳＴ２６に進む。
【００７２】
ステップＳＴ２６で信号生成画素判別部３２は、画素判別を行う。信号生成画素判別部３２は、ステップＳＴ２５で算出した特徴量と判定基準設定部３５によって設定されている閾値と比較して、画素毎に間引き画素または非間引き画素のいずれとするか判別する。また、信号生成画素判別部３２は、判別結果を示す信号生成画素判別情報を生成してステップＳＴ２７に進む。
【００７３】
ステップＳＴ２７で信号生成画素判別部３２は、信号生成画素判別情報を記憶する。信号生成画素判別部３２は、信号生成画素判別情報を次の画像信号の生成で用いることができるように記憶してステップＳＴ２８に進む。
【００７４】
ステップＳＴ２８で動作制御部５０は、全画素の処理が終了したか判別する。動作制御部５０は、１画面の全画素に対して、ステップＳＴ２１からステップＳＴ２７の処理が完了したか判別する。動作制御部５０は、全画素に対する処理が完了していない場合にステップＳＴ２１に戻り、次の画素に対してステップＳＴ２１からステップＳＴ２７の処理を行わせる。また、動作制御部５０は、全画素に対する処理が完了した場合にステップＳＴ２９に進む。なお、全画素の処理の終了判別は、動作制御部５０で行う場合に限らず、１画面の全画素に対する処理が完了するまで、ステップＳＴ２１からステップＳＴ２７の処理を各部で自動的に行うようにしてもよい。
【００７５】
ステップＳＴ２９で信号生成画素判別部３２は、信号生成画素判別情報を出力する。信号生成画素判別部３２は、１画面分の判別結果を示す信号生成画素判別情報を補間処理部３１と信号生成制御部３４および消費電力推定部４３へ出力してステップＳＴ３０に進む。したがって、補間処理部３１と信号生成制御部３４では、例えば次のフレームにおいて、新たな信号生成画素判別情報を用いて処理が行われる。
【００７６】
ステップＳＴ３０で消費電力推定部４３は、消費電力を推定する。消費電力推定部４３は、信号生成画素判別部３２から供給された信号生成画素判別情報に基づいて消費電力の推定を行いステップＳＴ３１に進む。
【００７７】
ステップＳＴ３１で指定消費電力算出部４４は、指定消費電力を算出する。指定消費電力算出部４４は、撮像時における消費電力をどの程度にするか算出して、算出結果を指定消費電力としてステップＳＴ３２に進む。
【００７８】
ステップＳＴ３２で判定基準設定部３５は、閾値制御を行う。判定基準設定部３５は、ステップＳＴ３０で推定した消費電力が、ステップＳＴ３１で算出した指定消費電力以下となるように閾値を制御する。すなわち、判定基準設定部３５は、推定消費電力が指定消費電力より大きい場合、間引き画素を増やして消費電力が少なくなるように、閾値を大きくする。また、判定基準設定部３５は、推定消費電力が指定消費電力以下の場合、閾値の値を保持してもよく、間引き画素が少なくなるように閾値を小さくしてもよい。判定基準設定部３５は、このように閾値を制御してステップＳＴ３３に進む。
【００７９】
ステップＳＴ３３で動作制御部５０は、撮像終了であるか判別する。動作制御部５０は、動画や静止画の撮像の終了を判別していない場合はステップＳＴ２１に戻り、撮像の終了例えば動画や静止画の撮像を終了するユーザ操作が行われた場合に動作を終了する。
【００８０】
なお、ステップＳＴ３４でカメラ信号処理部４０は画像信号を出力する。カメラ信号処理部４０は、補間処理部３１から供給された画像信号に対して種々の信号処理を行って出力する。
【００８１】
このような第２の実施の形態によれば、平坦な被写体の画像領域に間引き画素が設けられて、間引き画素ではＡ／Ｄ変換処理が停止されるので、良好な画質の撮像画の生成と撮像装置の消費電力の制御を両立できる。また、信号生成画素判別情報は順次更新されることから、被写体の変化に応じた信号生成画素判別情報が生成されて、画質の劣化を抑えて撮像装置を所望の消費電力の動作とすることができる。
【００８２】
＜３．他の実施の形態＞
次に、他の実施の形態について説明する。他の実施の形態では、撮像装置の動作に応じて閾値や指定消費電力を制御する場合について説明する。
【００８３】
図９は、撮像装置の他の実施の形態の構成を示している。なお、図９において、第１の実施の形態および第２の実施の形態と対応するブロックについては同一符号を伏している。
【００８４】
撮像装置１０ｂは、撮像部２０、画像処理部３０、カメラ信号処理部４０、ユーザインタフェース部（ユーザＩ／Ｆ部）４１、時計部４２、消費電力推定部４３、指定消費電力算出部４４、センサ部４５、動作制御部５０を有している。
【００８５】
撮像部２０は撮像素子２１、撮像素子駆動部２２、Ａ／Ｄ変換部２３を有しており、画像処理部３０は、補間処理部３１、信号生成画素判別部３２、信号生成制御部３４、判定基準設定部３６を有している。
【００８６】
撮像素子２１は、被写体光画像に応じた画像信号を光電変換によって生成してＡ／Ｄ変換部２３に出力する。
【００８７】
撮像素子駆動部２２は、動作制御部５０からの制御信号に基づき駆動信号を生成する。撮像素子駆動部２２は生成した駆動信号を撮像素子２１に供給して画像信号を生成させる。
【００８８】
Ａ／Ｄ変換部２３は、Ａ／Ｄ変換処理を行い、撮像素子２１から供給されたアナログの画像信号をデジタルの画像信号に変換して画像処理部３０へ出力する。また、Ａ／Ｄ変換部２３は、画像処理部３０から供給された画素制御信号によって指定された非間引き画素のＡ／Ｄ変換処理を行い、画素制御信号に応じて画素の間引きが行われた画像信号を画像処理部３０へ出力する。
【００８９】
画像処理部３０の補間処理部３１は、間引き画素について補間処理を行う。補間処理部３１は、後述するスケーラー部３３から供給された信号生成画素判別情報に基づき、間引き画素について線形補間等の補間処理を行う。
【００９０】
信号生成画素判別部３２は、補間処理後の画像信号から特徴量を算出して、特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別する。信号生成画素判別部３２は、注目画素の領域の平坦度を示す情報を特徴量とする。信号生成画素判別部３２は、補間処理後の画像信号から算出した特徴量と閾値を比較して、比較結果を間引き画素と非間引き画素のいずれであるかを示す信号生成画素判別情報として記憶する。信号生成画素判別部３２は、１画面の全画素について判別が完了した場合、１画面の全画素の判別結果を示す信号生成画素判別情報をスケーラー部３３へ出力する。
【００９１】
スケーラー部３３は、信号生成画素判別情報の生成に用いた画像信号とその後生成される画像信号との画像サイズが異なる場合、信号生成画素判別情報に対してスケーリング処理を行う。スケーラー部３３は、スケーリング処理によって、信号生成画素判別部３２から供給された信号生成画素判別情報を、その後生成される画像信号の画像サイズに対応した信号生成画素判別情報に変換して補間処理部３１と信号生成制御部３４へ出力する。
【００９２】
図１０はスケーリング処理を例示している。図１０の（ａ）はスケーリング前の信号生成画素判別情報を示しており、画素信号の生成を行わない間引き画素の判別値を「１」、画素信号を生成する画素の判別値を「０」としている。ここで、画素間に新たに２画素分の信号生成画素判別情報を生成する場合、例えば図１０の（ｂ）に示すように、バイリニアフィルタを用いた補間処理によって、信号生成画素判別情報を新たに生成する２画素の補間値を算出する。さらに、補間値「０．３３」「０．６６」を予め設定した閾値（例えば「０．５」）を比較して、図１０の（ｃ）に示すように、補間値が閾値以下である画素は判別値を「０」、補間値が閾値よりも大きい画素は判別値を「１」とする。このようにして、スケーラー部３３は、スケーリング処理を行う。また、撮像部で生成される画像がベイヤー配列等である色配列の画像である場合、色毎にスケーリング処理を行う。なお、スケーリング処理では、論理和法、最近傍(ニアレストネイバー)法、９分割法、投影法および距離反比例法などを利用してもよい。
【００９３】
信号生成制御部３４は、スケーラー部３３から供給された信号生成画素判別情報に基づき画素制御信号を生成してＡ／Ｄ変換部２３へ出力して、間引き画素に対するＡ／Ｄ変換処理を停止させる。したがって、Ａ／Ｄ変換部２３から画像処理部３０へ出力される画像信号は、信号生成画素判別情報に基づき画素の間引きが行われた信号となる。また、上述したように、信号生成画素判別情報は補間処理部３１に出力されており、補間処理部３１では、Ａ／Ｄ変換処理が停止された画素に対して補間処理を行う。
【００９４】
判定基準設定部３６は、信号生成画素判別情報の生成時に用いる閾値を設定して信号生成画素判別部３２へ出力する。また、判定基準設定部３６は、撮像装置１０ｂの動作に応じて閾値を設定する。例えば、判定基準設定部３６は、撮像装置１０ｂの撮像動作状態に応じて動作制御部５０で生成された動作情報に基づき閾値を設定する。さらに、判定基準設定部３６は、消費電力推定部４３で推定された推定消費電力と指定消費電力算出部４４で指定された消費電力に基づいて閾値を設定してもよい。
【００９５】
カメラ信号処理部４０は、補間処理部３１から出力される画像信号に対してカメラ信号処理を行う。また、ユーザインタフェース部４１は、ユーザ操作に応じた操作信号を生成して動作制御部５０へ出力する。時計部４２は、時間情報を生成して動作制御部５０へ出力する。
【００９６】
消費電力推定部４３は、信号生成画素判別部３２で生成された信号生成画素判別情報に基づき、撮像装置の消費電力を推定して推定消費電力を判定基準設定部３６へ出力する。
【００９７】
指定消費電力算出部４４は、撮像時における消費電力をどの程度にするか算出して、算出した消費電力を指定消費電力値として判定基準設定部３６へ出力する。
【００９８】
センサ部４５は、例えば加速度センサや傾斜センサ等を用いて構成されており、撮像装置の移動や姿勢変化等を検出する。また、センサ部４５は、露出センサ等を設けて被写体の明るさを検出する。センサ部４５は、検出結果を示すセンサ信号を動作制御部５０へ出力する。なお、撮像装置の移動や姿勢変化や被写体の明るさは、撮像部２０から出力される画像信号から判別してもよい。例えば、撮像装置の移動や姿勢変化は、複数フレームの画像を用いて算出した動きベクトルを利用して判別できる。また、被写体の明るさは、画像信号の信号レベルまたは一部の画像領域の信号レベルの平均値、画像信号のゲイン調整に用いたゲイン値等を利用して判別できる。
【００９９】
動作制御部５０は、ユーザインタフェース部４１からの操作信号やセンサ部４５からのセンサ信号に基づき各部を制御して、ユーザ操作に応じた動作モードへの切り換えやセンサ信号に基づく各種制御動作を行う。また、動作制御部５０は、時計部４２から取得した時刻情報を利用して動作モードの切り換え等を行う。また、動作制御部５０は、撮像装置１０ｂの撮像動作状態例えば動作モードや制御動作状態に応じて動作情報を生成して判定基準設定部３６へ出力する。
【０１００】
次に、判定基準設定部３６における閾値設定動作について説明する。判定基準設定部３６は、上述のように、動作制御部５０から供給された動作情報に基づいて閾値を設定する。
【０１０１】
判定基準設定部３６は、動作情報によってカメラ信号処理部４０から出力される画像信号の出力モードが示された場合、出力モードに応じて閾値を設定する。例えばカメラ信号処理部４０から出力される画像信号を非可逆高圧縮処理して低画質の状態で記録媒体に記録する場合、閾値を高くして間引き画素を多く設定する。したがって、低画質で撮像画が記録される場合に消費電力を少なくできる。
【０１０２】
また、判定基準設定部３６は、動作情報によってプレビュー画表示であることが示された場合、静止画記録時のように画質を優先する必要がないので閾値を高くする。したがって、プレビュー画表示時における消費電力を少なくできる。なお、プレビュー画の表示を容易とするため、プレビュー画が静止画よりも小さい画像サイズとされている場合、信号生成画素判別情報の生成時に用いた画像信号と、信号生成画素判別情報を利用して生成される画像信号では画像サイズが異なる。したがって、スケーラー部３３は、プレビュー画の画像サイズに対応する信号生成画素判別情報を静止画の画像サイズに対応する信号生成画素判別情報に変換する。
【０１０３】
また、判定基準設定部３６は、動作情報によって被写体検出やシーン検出等を行う動作モードであることが示された場合、人物など重要な被写体を撮像することが想定されるので、閾値を低くして消費電力の削減よりも撮像画の画質を優先させる。
【０１０４】
また、判定基準設定部３６は、動作情報によって高速で動く物体を撮像する動作モードであることか示された場合、高速で動く物体を高画質で撮影することが難しいことから、閾値を高くして撮像画の画質よりも消費電力の削減を優先させる。
【０１０５】
判定基準設定部３６は、動作情報によって手振れ補正動作中であることが示された場合、手振れ時には高画質な撮像画を得ることが難しいので、閾値を高くして撮像画の画質よりも消費電力の削減を優先する。
【０１０６】
また、判定基準設定部３６は、動作情報によって撮像時間帯が示された場合、例えば撮影画の重要性がない時間帯の撮像では、閾値を高くして撮像画の画質よりも消費電力の削減を優先する。
【０１０７】
また、判定基準設定部３６は、動作情報によって示されたバッテリー残量に応じて閾値を設定して、消費電力を削減してもよい。なお、バッテリー残量は例えば動作制御部５０で検出する。
【０１０８】
さらに、撮像動作時間が設定されており、動作情報によってバッテリー残量と撮像動作終了までの動作時間が示されているとする。この場合、判定基準設定部３６は、バッテリー残量と撮像動作終了までの動作時間および推定消費電力に基づき、撮像終了まで撮像動作が可能となるように、閾値を高くして消費電力の削減を行うようにしてもよい。
【０１０９】
また、動作情報に基づき判定基準設定部３６で閾値を設定する場合に限らず、動作情報に基づき指定消費電力算出部４４で指定消費電力を制御することで、閾値が変更されるようにしてもよい。
【０１１０】
さらに、判定基準設定部３６は、画面単位で閾値を設定する場合に限らず、画素毎または隣接した複数画素で構成される画素領域毎に閾値を設定してもよい。また、画素毎や画素領域毎の閾値の設定と画面全体の閾値の設定を組み合わせて行ってもよい。画素毎や画素領域毎の閾値の設定と画面全体の閾値の設定を組み合わせて行う場合、例えば全画面均一の閾値は絶対値として算出して、画素毎や画素領域毎の閾値の算出では全画面均一の閾値からの差分値を算出し、その合算結果を画素毎に適用する。また、画素毎の差分値だけでなく、割合で指定するなど、実施方法はこれらに限らない。
【０１１１】
画素毎または画素領域毎に閾値を設定する場合、判定基準設定部３６は、注目画素が画面内のいずれの位置であるかに応じて閾値を設定する。判定基準設定部３６は、例えば画面中央部で画質が低下しないように閾値を低くして、消費電力を少なくする場合は画面周辺部の閾値を高くする。このように閾値を制御すれば、画面中央部を高画質の状態に維持しながら消費電力を削減することが可能となる。
【０１１２】
また、所望の被写体を撮像する場合、所望の被写体は、背景と同等の明るさまたは背景よりも明るくなるように撮像される場合が多い。したがって、判定基準設定部３６は、明るい画像領域では閾値を低く、暗い画像領域では閾値を高くする。このようにすれば、所望の被写体を高画質の状態に維持しながら消費電力を削減することが可能となる。
【０１１３】
さらに、撮像装置で風景を撮像する場合、例えば空は画像の上部位置となる。したがって、判定基準設定部３６は、撮像装置の動作モードが風景モードである場合、画像の上部位置の閾値を高くして消費電力を削減すれば、画質の低下による影響が少ない撮像画を生成できる。また、被写体認識によって例えば人物の顔等が認識される場合、人物の顔の領域で閾値を低くすれば、認識された被写体を高画質の状態に保ちながら消費電力を削減できる。
【０１１４】
また、上述の第１および第２の実施の形態では、信号生成画素判別情報に基づきＡ／Ｄ変換動作を制御したが、信号生成制御部３４は撮像素子駆動部２２の動作を制御して、間引き画素の画素信号を撮像素子２１で生成しないように制御してもよい。また、信号生成画素判別情報に基づき撮像素子駆動部２２とＡ／Ｄ変換部２３の動作を制御すれば、さらに消費電力を削減することも可能となる。
【０１１５】
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
【０１１６】
例えば、プログラムは記録媒体としてのハードディスクやＳＳＤ（Solid State Drive）、ＲＯＭ（Read Only Memory）に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、ＣＤ−ＲＯＭ（Compact Disc Read Only Memory），ＭＯ（Magneto optical）ディスク，ＤＶＤ（Digital Versatile Disc）、ＢＤ（Blu-Ray Disc（登録商標））、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
【０１１７】
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからＬＡＮ（Local Area Network）やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【０１１８】
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
【０１１９】
また、本技術の画像処理装置は以下のような構成も取ることができる。
（１）  画像信号における間引き画素の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された前記信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える画像処理装置。
（２）  前記特徴量は、前記注目画素の領域の平坦度を示す情報である（１）に記載の画像処理装置。
（３）  前記特徴量として、前記注目画素を基準とした所定範囲における信号のダイナミックレンジまたは前記注目画素と隣接画素との差分絶対値和を用いる（２）に記載の画像処理装置。
（４）  前記注目画素の画素位置に応じて閾値を設定する判定基準設定部をさらに備え、前記信号生成画素判別部は、前記注目画素の特徴量と前記閾値を比較して、比較結果に基づき前記信号生成画素判別情報を生成する（１）乃至（３）のいずれかに記載の画像処理装置。
（５）  前記信号生成画素判別情報を生成に用いた画像信号と、その後生成する画像信号とで画像サイズが異なる場合に、前記信号生成画素判別情報を前記その後生成する画像信号の画像サイズに対応した信号生成画素判別情報とするスケーラー部をさらに備える（１）乃至（４）のいずれかに記載の画像処理装置。
（６）  被写体光学像に応じた画像信号を生成する撮像素子からの画像信号のアナログ／デジタル変換処理を行うＡ／Ｄ変換部をさらに備え、
前記補間処理部は、前記Ａ／Ｄ変換部でアナログ／デジタル変換処理された画像信号を用いて補間処理を行い、
前記信号生成制御部は、前記信号生成画素判別情報に基づき前記Ａ／Ｄ変換部を制御して、間引き画素と判別された画素に対する前記アナログ／デジタル変換処理を停止させる（１）乃至（５）のいずれかに記載の画像処理装置。
（７）  被写体光学像に応じた画像信号を生成する撮像素子を駆動する撮像素子駆動部をさらに備え、
前記信号生成制御部は、前記信号生成画素判別情報に基づき前記撮像素子駆動部を制御して、間引き画素と判別された画素の信号の生成を停止させる（１）乃至（６）のいずれかに記載の画像処理装置。
【０１２０】
また、本技術の撮像装置は以下のような構成も取ることができる。
（１）  被写体光学像に応じた画像信号を生成する撮像素子と、
前記撮像素子で生成された画像信号の補間処理を行う補間処理部と、
前記補間処理部で補間処理が行われた画像信号から注目画素の特徴量を算出して、算出した特徴量に基づき前記注目画素を間引き画素と非間引き画素のいずれとするか判別して、判別結果を示す信号生成画素判別情報を生成する信号生成画素判別部と、
その後の画像信号の生成時に、前記信号生成画素判別部で生成された信号生成画素判別情報で間引き画素と判別された画素の信号生成動作を停止するように制御する信号生成制御部と
を備える撮像装置。
（２）  撮像動作の制御を行う動作制御部と
撮像動作状態に応じて閾値を設定する判定基準設定部とをさらに備え、
前記信号生成画素判別部は、前記特徴量と前記閾値との比較結果に基づき前記注目画素を間引き画素とするかの判別を行い、前記閾値を前記撮像動作状態に応じて設定する（１）に記載の撮像装置。
（３）  前記動作制御部は、静止画撮像前にプレビュー画像表示を行い、
前記判定基準設定部は、前記静止画撮像時と前記プレビュー画像表示とで前記閾値を変更する（２）に記載の撮像装置。
（４）  前記動作制御部は、手振れ補正動作を行い、
前記判定基準設定部は、前記手振れ補正動作が行われている場合と行われていない場合とで前記閾値を変更する（２）または（３）に記載の撮像装置。
（５）  前記動作制御部は、被写体検出動作を行い、
前記判定基準設定部は、前記動作制御部における被写体検出結果に応じて前記閾値を設定する（２）乃至（４）のいずれかに記載の撮像装置。
（６）  前記判定基準設定部は、前記被写体検出結果に基づき被写体が所定の被写体でないことを判別した場合または被写体の動きが所定の速度よりも高速であることを判別した場合、信号の生成を行う画素が少なくなるように前記閾値を設定する（５）に記載の撮像装置。
（７）  前記判定基準設定部は、撮像モードまたは被写体の明るさに応じて前記閾値を設定する（２）乃至（６）のいずれかに記載の撮像装置。
（８）  前記判定基準設定部は、前記補間処理部で補間処理が行われた画像信号の出力モードに応じて前記閾値を設定する（２）乃至（６）のいずれかに記載の撮像装置。
（９）  時刻情報を取得する時計部をさらに備え、
前記判定基準設定部は、撮像時刻に応じて前記閾値を設定する（１）乃至（８）のいずれかに記載の撮像装置。
（１０）  前記信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備え、
前記判定基準設定部は、指定された消費電力と前記消費電力推定部で推定された推定消費電力との比較結果に応じて前記閾値を設定する（１）乃至（９）のいずれかに記載の撮像装置。
（１１）  当該撮像装置を動作させるためのバッテリーの残量を検出する残量検出部をさらに備え、
前記判定基準設定部は、前記残量検出部の検出結果に応じて前記閾値を設定する（１）乃至（１０）のいずれかに記載の撮像装置。
（１２）  前記信号生成画素判別部で生成された信号生成画素判別情報を用いて消費電力の推定を行う消費電力推定部をさらに備え、
前記判定基準設定部は、撮像終了までの時間と前記残量検出部の検出結果と前記消費電力推定部の推定結果に基づき、撮像終了まで撮像動作が可能となるように前記閾値を設定する（１１）に記載の撮像装置。
【産業上の利用可能性】
【０１２１】
この技術の画像処理装置と画像処理方法および撮像装置では、画像信号における間引き画素の補間処理が行われて、補間処理が行われた画像信号から注目画素の特徴量が算出される。また、算出された特徴量に基づき注目画素を間引き画素と非間引き画素のいずれとするか判別されて、判別結果を示す信号生成画素判別情報が生成される。その後の画像信号の生成時には、信号生成画素判別情報で間引き画素と判別された画素の信号を生成しないよう制御が行われる。したがって、画質の劣化を抑えて消費電力を削減できるようになり、例えば撮像機能を有する携帯型の電子機器等に適している。
【符号の説明】
【０１２２】
１０，１０ａ，１０ｂ・・・撮像装置
２０・・・撮像部
２１・・・撮像素子
２２・・・撮像素子駆動部
２３・・・Ａ／Ｄ変換部
３０・・・画像処理部
３１・・・補間処理部
３２・・・信号生成画素判別部
３３・・・スケーラー部
３４・・・信号生成制御部
３５，３６・・・判定基準設定部
４０・・・カメラ信号処理部
４１・・・ユーザインタフェース（Ｉ／Ｆ）部
４２・・・時計部
４３・・・消費電力推定部
４４・・・指定消費電力算出部
４５・・・センサ部
５０・・・動作制御部
【図１】
2016147508.tif 000003
【図２】
2016147508.tif 000004
【図３】
2016147508.tif 000005
【図４】
2016147508.tif 000006
【図５】
2016147508.tif 000007
【図６】
2016147508.tif 000008
【図７】
2016147508.tif 000009
【図８】
2016147508.tif 000010
【図９】
2016147508.tif 000011
【図１０】
2016147508.tif 000012
【国際調査報告】
2016147508.tif 000013
2016147508.tif 000014
2016147508.tif 000015
2016147508.tif 000016