(57)【要約】【課題】  大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができるブレ判定システムを提供する。【解決手段】  画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部１６と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部１６と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部２０とを備えることを特徴とする。【選択図】  図１
2011009921.tif 000002
【特許請求の範囲】
【請求項１】
画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部と、
算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部と、
前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部と
を備えることを特徴とするブレ判定システム。
【請求項２】
前記特徴量演算部は、前記画像データの前記画素毎に前記画素の輝度値と近傍画素の輝度値との勾配を求めてから、前記画像データの全体における前記勾配の角度と強度に関する分布を求め、前記特徴量とすることを特徴とする請求項１記載のブレ判定システム。
【請求項３】
前記特徴量演算部は、前記勾配の前記角度と前記強度に関する前記分布において、単位角度毎の前記強度の平均値を前記角度全域に渡って求め、前記単位角度毎の前記平均値を要素とする数値群からなるベクトルを特徴量とすることを特徴とする請求項２記載のブレ判定システム。
【請求項４】
既知の前記画像データにおいてブレが発生しているか否かの情報と前記特徴量とを対応付けたデータに対して機械学習または統計処理を行うことにより作成された判定ルールを記憶する判定ルール記憶部を更に備え、
前記ブレ判定部は、前記判定ルールを用いて未知の前記画像データにブレが発生しているか否かを判定することを特徴とする請求項１〜３の何れか一項に記載のブレ判定システム。
【請求項５】
前記ブレ判定部による判定結果を出力する出力制御部を備えることを特徴とする請求項１〜４の何れか一項に記載のブレ判定システム。
【請求項６】
前記ブレ判定部により前記画像データにブレが発生していると判定された場合には判定結果を出力しないことを特徴とする請求項１〜５の何れか一項に記載のブレ判定システム。
【請求項７】
前記ブレ判定部による判定結果を前記画像データに対応付けて記憶する画像記憶部を備えることを特徴とする請求項１〜６の何れか一項に記載のブレ判定システム。
【請求項８】
請求項１〜７の何れか一項に記載のブレ判定システムを備えることを特徴とするカメラ。
【請求項９】
コンピュータを
画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外手段と、
算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算手段と、
前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定手段として機能させるためのブレ判定プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ブレ判定システム、ブレ判定プログラム及びカメラに関するものである。
【背景技術】
【０００２】
加速度センサ等のセンサを用いずにカメラ等で撮像された画像の手ブレを画像処理により判定するブレ判定システムが知られている（例えば、非特許文献１参照）。このブレ判定システムにおいては、撮像素子により計測される光エネルギーが手ブレの軌跡に応じて分散する現象を利用して、光エネルギーの分散によるなだらかな輝度勾配を検知することにより手ブレ判定を行っている。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】Ping Hsu and Bing-Yu Chen, "Blurred Image Detection and Classification," Lecture Notes in Computer Science (International MultiMedia Modeling 2008 Conference Proceedings), vol. 4903, pp. 277-286, 2008, Kyoto, Japan
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、このブレ判定システムにおいては、フラッシュ等の影響により大きな光エネルギーの分散が生じた場合には強い輝度勾配が生じるため、フラッシュの周辺等においては手ブレの判定を行うことが困難であった。
【０００５】
本発明の目的は、大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができるブレ判定システム、ブレ判定プログラム及びカメラを提供することである。
【課題を解決するための手段】
【０００６】
本発明のブレ判定システムは画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部とを備えることを特徴とする。
【０００７】
また、本発明のカメラは、本発明のブレ判定システムを備えることを特徴とする。
【０００８】
また、本発明のブレ判定プログラムは、コンピュータを画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外手段と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算手段と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定手段として機能させる。
【発明の効果】
【０００９】
本発明のブレ判定システム、ブレ判定プログラム及びカメラによれば、大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施の形態に係るブレ判定システムを備えるカメラのシステム構成を示すブロック図である。
【図２】本発明の実施の形態に係るブレ判定システムを備えるカメラのブレ判定処理を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下、図面を参照して本発明の実施の形態に係るブレ判定システムを備えるカメラについて説明する。図１は、実施の形態に係るカメラのシステム構成を示すブロック図である。カメラ２はＣＰＵ３を備え、ＣＰＵ３には操作部４、図示しない撮影レンズを介した被写体光を撮像し撮像信号（蓄積電荷としてのアナログ信号）を生成する撮像素子を備える撮像部８、撮像素子から出力された撮像信号をＡ／Ｄ変換して画像データを生成するＡ／Ｄ変換部１０、撮像画像の画像データや外部記憶装置２４から取得した画像データを記憶する画像データ記憶部１２、画像データに対して手ブレ判定を行う際に用いるサイズにするためのリサイズ処理を行う画像データ前処理部１４、リサイズ処理が行われた画像データの特徴量を算出する特徴量演算部１６、判定ルール作成部２６により作成された判定ルールのデータベースを記憶する判定ルール記憶部１８、特徴量演算部１２により算出された画像データの特徴量から判定ルールを参照して手ブレが発生しているか否かを判定する手ブレ判定部２０、画像データの画像や手ブレ判定部２０による判定結果を表示するＴＦＴ等で構成される表示部２２が接続されている。
【００１２】
ここで、操作部４はレリーズ指示を行うレリーズボタン２８、画像データ記憶部１２に記憶された画像を表示部２２に再生表示するための指示を行う再生ボタン３０、画像データに対して手ブレ判定を実行するための指示を行う手ブレ判定実行ボタン３２等を備えている。また、外部記憶装置２４は、メモリカードや外付ハードディスク等であり、判定ルール作成部２６は、ＰＣやサーバ等カメラ２の外部に設けられた外部装置に備えられている。判定ルール作成部２６においては、既知の画像データについて手ブレが発生しているか否かの情報をユーザが入力し、入力された情報と既知の画像データの特徴量とを対応付けたデータに対してサポートベクターマシン（ＳＶＭ）等の機械学習または統計的手法による統計処理を行い、学習結果または統計処理結果を手ブレ判定を行うための判定ルールのデータベースとして作成する。
【００１３】
次に、図２に示すフローチャートを参照して実施の形態に係るブレ判定システムを備えたカメラのブレ判定処理について説明する。本実施の形態に係るカメラにおいてはブレ判定システムによるブレ判定を行うためのブレ判定プログラムが予め組み込まれている。
【００１４】
ＣＰＵ３は、操作部４の手ブレ判定実行ボタン３２が操作されると画像データ記憶部１２から判定対象の画像データを取得する（ステップＳ１）。ここで、画像データ記憶部１２に記憶された画像を表示部２２に再生表示している場合においては手ブレ判定実行ボタン３２が操作されると再生表示を行っている画像の画像データを取得する。また、レリーズボタン２８の操作により撮像を行った場合には撮像した画像データを取得する。
【００１５】
次に画像データ前処理部１４において、手ブレ判定システムにおいて判定を行う画像データの画像サイズを統一させるために画像全体の画素数を例えば６４０ピクセル×４８０ピクセル等とする取得した画像データに対してリサイズ処理を行う（ステップＳ２）。そして、特徴量演算部１６においてリサイズ処理が行われた画像データの画像全体について特徴量を算出する（ステップＳ３）。
【００１６】
特徴量の算出には画像データの画素毎の輝度値（Ｉｍｇ）を用いる。輝度値から局所勾配値（勾配強度（Ｍａｇｎｉｔｕｄｅ）及び勾配角度（Ｄｉｒｅｃｔｉｏｎ））を求め、局所勾配値の算出を行った全画素について勾配角度毎の度数分布（ヒストグラム）Ｈｉｓｔ（θ）を算出する。また、全画素について勾配角度θ毎の勾配強度の積算値Ａｄｄ（θ）についても算出し、勾配角度毎の勾配強度平均値（Ａｄｄ（θ）／Ｈｉｓｔ（θ））を求め、特徴量とする。
【００１７】
ここで、局所勾配値はそれぞれの画素について周辺４近傍の輝度値に基づいて算出する。従って、画像の最外周１ピクセルは局所勾配値の算出対象から除外する。また、輝度が飽和点に達している等所定の閾値よりも大きい画素についても算出対象から除外する。また、本実施の形態においては勾配角度を１°刻みとし、０°〜３５９°の範囲で上述の値を算出する。
【００１８】
以下、式を用いて特徴量の算出について説明する。最外周１ピクセルではない任意の画素座標（ｘ，ｙ）の輝度値をＩｍｇ（ｘ，ｙ）とすると当該画素におけるｘ方向の勾配Ｇｘ（ｘ，ｙ）及びｙ方向の勾配Ｇｙ（ｘ、ｙ）は、
【数１】
2011009921.tif 000003
【数２】
2011009921.tif 000004
で表され、当該画素における勾配強度Ｍａｇｎｉｔｕｄｅ（ｘ，ｙ）及び勾配角度Ｄｉｒｅｃｔｉｏｎ（ｘ，ｙ）は次式により表される。
【数３】
2011009921.tif 000005
【数４】
2011009921.tif 000006
【００１９】
次に、局所勾配値の算出対象とした全画素について勾配角度の度数分布Ｈｉｓｔ（θ）及び勾配強度の積算値Ａｄｄ（θ）を算出する。勾配角度の度数分布Ｈｉｓｔ（θ）及び勾配強度の積算値Ａｄｄ（θ）は、
【数５】
2011009921.tif 000007
としたとき、
【数６】
2011009921.tif 000008
【数７】
2011009921.tif 000009
で表される。特徴量は、特徴量ベクトルＦとして式（６）、式（７）より以下の式で算出される。
【数８】
2011009921.tif 000010
即ち、特徴量ベクトルＦは勾配角度毎の勾配強度平均値を表す数値群からなるベクトルである。ただし、式（８）においてＨｉｓｔ（θ）＝０のときは、Ｈｉｓｔ（θ）＝１に置き換える。
【００２０】
次に、手ブレ判定部２０は、式（８）により求めた数値群からなる特徴量ベクトルＦと判定ルール記憶部１８に記憶された判定ルールのデータベースとを比較し手ブレ判定を行う（ステップＳ４）。
【００２１】
ここで、予めＰＣ等を介して判定ルール作成部２６に対して既知の画像データにブレが発生しているか否かが入力されている。また、判定ルール作成部２６は、上述の式を用いて既知の画像データについても特徴量ベクトルＦを算出しブレが発生しているか否かの入力内容と対応付ける。そして、特徴量ベクトルＦと入力内容とが対応付けられた複数の既知の画像データをサンプルとしてサポートベクターマシン（ＳＶＭ）により判定ルールのデータベースを作成する。このとき、サンプルとした画像データにおいて特徴量ベクトルＦと入力内容と近似する重畳サンプルを除き例えば数百のサンプルをサポートベクターとした判定ルールのデータベースが作成される。また、ＳＶＭにおけるアルゴリズムを用いてサポートベクターに対して重み付けを行う。重み付けにおいてはブレが発生していない画像データは陽性サンプルであり正の値とし、ブレが発生している画像データは陰性サンプルであり負の値とする。
【００２２】
判定ルール作成部２６により作成された判定ルールのデータベースは判定ルール記憶部１８に記憶され、手ブレ判定部２０は各サポートベクターと判定対象の画像データの特徴量を比較して各サポートベクターとの距離をそれぞれ算出する。そして、算出された距離に対してカーネル法等により距離が小さいほど値が大きくなる処理を行った近接度を算出し、その後近接度に対して各サポートベクターに付された重み付けの値を乗じた判定値を算出する。手ブレ判定部２０は、判定値の絶対値が最も大きいサポートベクターに対応付けられた入力内容に基づいて判定対象の画像データにブレが発生しているか否かを判定する。即ち、絶対値が最も大きいサポートベクターの判定値が正の値であればブレが発生していないと判定し、負の値であればブレが発生していると判定する。
【００２３】
そして、表示部２２に判定対象の画像データにブレが発生している否かの判定結果を出力表示する（ステップＳ５）。このとき表示部２２に判定対象の画像データが示す画像を表示し、判定結果を文字または図形により重畳表示してもよい。また、判定対象の画像データにブレが発生していると判定された場合には、画像データが示す画像の表示を行わなくてもよい。この場合においては判定結果の表示は行わない。また、画像データ記憶部１２に記憶されている判定対象の画像データのＥｘｉｆ形式のデータのタグ情報としてブレが発生しているか否かの判定結果を記憶させてもよい。
【００２４】
本実施の形態に係るカメラによれば、輝度が飽和点等の閾値以上である画素を判定対象から除くことにより大きな光エネルギーの分散が生じた場合においてもブレ判定を行うことができる。また、輝度が飽和点等の閾値以上である画素を判定対象から除いた場合でも判定対象とした画素における勾配強度の平均値を勾配角度毎に算出するためブレ判定の精度を維持することができる。
【００２５】
なお、上述の実施の形態においては、サポートベクターマシン（ＳＶＭ）により機械学習を行う構成を例としたが、ＳＶＭは機械学習の一例であって他の機械学習または統計的手法を用いて既知の画像データから判定ルールを作成してもよい。
【００２６】
また、上述の実施の形態においては、各サポートベクターと判定対象の画像データとの距離を算出し比較する構成としたが、特徴量ベクトルＦが近似する１のサンプルと比較する構成としてもよい。
【００２７】
また、上述の実施の形態においてはブレ判定システムを備えるカメラを例に説明したが、カメラは一例であり画像データの示す画像を印刷出力するプリンタ等がブレ判定システムを備える構成としてもよい。
【００２８】
また、上述の実施の形態においてはブレ判定を輝度値に基づいて行う構成を例に説明したが、ＲＧＢやＹＣｒＣｂ等の色空間を示す各要素の値を用いる構成としてもよい。
【００２９】
また、上述の実施の形態においては、飽和点等の閾値以上の輝度の画素及び外周１ピクセルを除いて画像データの画像全体の画素を用いてブレ判定を行う構成としたが、例えば画像中に写っている顔の周辺等所定の領域を切り取った部分画像を用いてブレ判定を行う構成としてもよい。
【００３０】
また、上述の実施の形態においては、判定対象の画像データのブレ判定を行う場合に、カメラに予め組み込まれたブレ判定プログラムを用いて判定対象の画像データのブレ判定を行っているが、該プログラムをインターネット等のネットワークを介してダウンロードし、コンピュータに組み込むことによって、上述の表示処理を行うことができるようにコンピュータを機能させるようにしてもよい。
【００３１】
また、該プログラムはフレキシブルディスク、ＣＤ−ＲＯＭ、ＤＶＤ等のコンピュータ読み取り可能な記録媒体に記録されていてもよい。即ち、コンピュータ読み取り可能な記録媒体から読み取り、コンピュータに組み込むことによって、上述のブレ判定処理を行うことができるようにコンピュータを機能させるようにしてもよい。
【符号の説明】
【００３２】
２…カメラ、３…ＣＰＵ、１２…画像データ記憶部、１４…画像データ前処理部、１６…特徴量演算部、１８…判定ルール記憶部、２０…手ブレ判定部、２２…表示部、２６…判定ルール作成部。
【図１】
2011009921.tif 000011
【図２】
2011009921.tif 000012