(57)【特許請求の範囲】
【請求項１】
被写体を撮像する撮像装置であって、
前記被写体の画像を撮像する撮像部と、
前記撮像部が撮像した前記画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した２つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部と
を備えることを特徴とする撮像装置。
【請求項２】
前記画像処理部は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項１または請求項２に記載の撮像装置。
【請求項４】
前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項３に記載の撮像装置。
【請求項５】
与えられた画像を画像処理する画像処理装置であって、
与えられた画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した２つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部と
を備えることを特徴とする画像処理装置。
【請求項６】
前記画像処理部は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項５に記載の画像処理装置。
【請求項７】
前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項５または請求項６に記載の画像処理装置。
【請求項８】
前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項７に記載の画像処理装置。
【請求項９】
与えられた画像を画像処理する画像処理方法であって、
与えられた画像を格納する画像記憶手順と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶手順と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した２つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理手順と
を備えることを特徴とする画像処理方法。
【請求項１０】
前記画像処理手順は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項９に記載の画像処理方法。
【請求項１１】
前記画像記憶手順において格納された、前記幾何学的ずれの総和を最小にした前記画像を表示する表示手順をさらに備えることを特徴とする請求項９または請求項１０に記載の画像処理方法。
【請求項１２】
前記表示手順は、前記画像記憶手順において格納された、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項１１に記載の画像処理方法。
【請求項１３】
画像処理装置に画像処理を実行させるためのプログラムであって、
コンピュータを、
画像処理するべき画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した２つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部
として機能させることを特徴とするプログラム。
【請求項１４】
前記画像処理部は、前記幾何学的ずれに基づいて、前記画像に対する、画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項１３に記載のプログラム。
【請求項１５】
前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項１３または請求項１４に記載のプログラム。
【請求項１６】
前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項１５に記載のプログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、撮像装置、画像処理装置、画像処理方法、及びプログラムに関する。特に、画像に基づいて画像処理する撮像装置、画像処理装置、画像処理方法、及びプログラムに関する。
【０００２】
【従来の技術】
従来の撮像装置において撮像した画像には、幾何学的ずれが生じている場合がある。例えば、撮像時において撮像装置が傾いていた場合には、撮像した画像に天地のずれが生じる。また、レンズ等の特性により、撮像した画像に歪みが生じる場合もある。また、撮像しようとした被写体が画像の端に寄りすぎていたり、例えば空のような、不要な被写体が画像の大半を占めてしまう場合があった。
【０００３】
【発明が解決しようとする課題】
従来、幾何学的ずれが生じている画像に対して、当該幾何学的ずれを修正するためには、撮像者が、撮像した画像のそれぞれに対し、当該幾何学的ずれを確認し、それぞれの画像に対し、複雑な画像処理を行う必要があった。この場合、撮像者がそれぞれの画像について確認及び画像処理を行うため、時間と手間がかかっていた。
【０００４】
そこで本発明は、上記の課題を解決することのできる撮像装置、画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。この目的は、特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
【０００５】
【課題を解決するための手段】
上記課題を解決するために、本発明の第１の形態においては、被写体を撮像する撮像装置であって、被写体の画像を撮像する撮像部と、撮像部が撮像した画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部とを備えることを特徴とする撮像装置を提供する。
【０００６】
画像処理部は、幾何学的ずれに基づいて、画像に対する、画像の切り出し領域を算出し、算出した切り出し領域に基づいて、画像を切り出してよい。また、条件記憶部は、複数の被写体要素を検出するための複数の検出条件を格納してよい。また、画像処理部は、複数の画像要素を検出し、検出した複数の画像要素の画像における位置と、位置に関する基準との幾何学的ずれを小さくしてよい。また、画像処理部は、検出した複数の画像要素のうち、画素領域が最も大きい画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。また、画像処理部は、検出した複数の画像要素のうち、画像の中央に最も近い画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。また、複数の画像要素のうち、いずれを使用者が選択したかを受け取る入力手段を更に備え、画像処理部は、入力手段が受け取った、使用者がいずれの画像要素を選択したかに関する情報に基づく画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。
【０００７】
また、条件記憶部は、画像における消失点を検出するための検出条件を更に格納し、画像処理部は、検出条件に基づいて消失点を検出し、検出した消失点の位置と、位置に関する基準とのずれを小さくしてよい。また、画像記憶部は、画像処理部が幾何学的ずれを小さくした画像を、格納してよい。また、画像記憶部は、撮像部が撮像した画像と、画像処理部が検出した幾何学的ずれとを対応づけて格納してよい。
【０００８】
また、画像記憶部が格納した、幾何学的ずれを小さくした画像を表示する表示部を更に備えてよい。また、画像記憶部が格納した、画像と、画像に対応した幾何学的ずれに関する情報とを表示する表示部を更に備えてよい。また、表示部は、幾何学的ずれを小さくした複数の画像を縮小して表示してよい。また、表示部は、複数の画像を縮小した画像と、複数の画像にそれぞれ対応した幾何学的ずれに関する情報とを表示してよい。
【０００９】
本発明の第２の形態においては、与えられた画像を画像処理する画像処理装置であって、与えられた画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部とを備えることを特徴とする画像処理装置を提供する。
【００１０】
本発明の第３の形態においては、与えられた画像を画像処理する画像処理方法であって、与えられた画像を格納する画像記憶手順と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶手順と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理手順とを備えることを特徴とする画像処理方法を提供する。
【００１１】
本発明の第４の形態においては、画像処理装置に画像処理を実行させるためのプログラムであって、画像処理装置を、画像処理するべき画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部として機能させることを特徴とするプログラムを提供する。
【００１２】
尚、上記の発概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションも又、発明となりうる。
【００１３】
【発明の実施の形態】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、又実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１４】
図１は、本発明に係る撮像装置１０の構成の一例を示すブロック図である。撮像装置１０は、一例として、ディジタルカメラであってよい。以下、撮像装置１０がディジタルカメラである場合について、説明する。撮像装置１０は、主に撮像ユニット２０、撮像補助ユニット３８、撮像制御ユニット４０、処理ユニット６０、表示ユニット１００、及び操作ユニット１１０を備える。
【００１５】
撮像ユニット２０は、撮影および結像に関する機構部材および電気部材を有する。撮像ユニット２０は、映像を取り込んで処理を施す光学系２２、絞り２４、シャッタ２６、光学ＬＰＦ（ローパスフィルタ）２８、ＣＣＤ（電荷結合素子イメージセンサー）３０、および撮像信号処理部３２を含む。光学系２２は、フォーカスレンズやズームレンズ等を有してよい。この構成により、被写体像がＣＣＤ３０の受光面上に結像する。結像した被写体像の光量に応じ、ＣＣＤ３０の各センサエレメント（図示せず）に電荷が蓄積される（以下その電荷を「蓄積電荷」という）。蓄積電荷は、リードゲートパルスによってシフトレジスタ（図示せず）に読み出され、レジスタ転送パルスによって電圧信号として順次読み出される。
【００１６】
撮像装置１０が、ディジタルカメラである場合、撮像装置１０は、一般に電子シャッタ機能を有するので、シャッタ２６のような機械式シャッタは必須ではない。この場合、電子シャッタ機能を実現するために、ＣＣＤ３０にシャッタゲートを介してシャッタドレインが設けられる。シャッタゲートを駆動すると蓄積電荷がシャッタドレインに掃き出される。シャッタゲートの制御により、各センサエレメントに電荷を蓄積するための時間、すなわちシャッタスピードが制御できる。
【００１７】
ＣＣＤ３０から出力される電圧信号、すなわちアナログ信号は撮像信号処理部３２でＲ、Ｇ、Ｂ成分に色分解され、まずホワイトバランスが調整される。つづいて撮像信号処理部３２はガンマ補正を行い、必要なタイミングでＲ、Ｇ、Ｂ信号を順次Ａ／Ｄ変換（アナログ／ディジタル変換）し、その結果得られたデジタルの画像データ（以下単に「ディジタル画像データ」とよぶ）を処理ユニット６０へ出力する。
【００１８】
撮像補助ユニット２０は、ファインダ３４とストロボ３６を有する。ファインダ３４には図示しないＬＣＤ（液晶ディスプレイ）を内装してもよく、その場合、後述のメインＣＰＵ（中央演算装置）６２等からの各種情報をファインダ３４内に表示できる。ストロボ３６は、コンデンサ（図示せず）に蓄えられたエネルギが放電管３６ａに供給されたときそれが発光することで機能する。
【００１９】
撮像制御ユニット４０は、ズーム駆動部４２、フォーカス駆動部４４、絞り駆動部４６、シャッタ駆動部４８、それらを制御する撮像系ＣＰＵ５０、測距センサ５２、および測光センサ５４をもつ。ズーム駆動部４２などの駆動部は、それぞれステッピングモータ等の駆動手段を有する。後述のレリーズスイッチ１１４の押下に応じ、測距センサ５２は被写体までの距離を測定し、測光センサ５４は被写体輝度を測定する。測定された距離のデータ（以下単に「測距データ」という）および被写体輝度のデータ（以下単に「測光データ」という）は撮像系ＣＰＵ５０へ送られる。撮像系ＣＰＵ５０は、ユーザから指示されたズーム倍率等の撮影情報に基づき、ズーム駆動部４２とフォーカス駆動部４４を制御して光学系２２のズーム倍率とピントの調整を行う。
【００２０】
撮像系ＣＰＵ５０は、１画像フレームのＲＧＢのデジタル信号積算値、すなわちＡＥ情報に基づいて絞り値とシャッタスピードを決定する。決定された値にしたがい、絞り駆動部４６とシャッタ駆動部４８がそれぞれ絞り量の調整とシャッタ２６の開閉を行う。
【００２１】
撮像系ＣＰＵ５０はまた、測光データに基づいてストロボ３６の発光を制御し、同時に絞り２４の絞り量を調整する。ユーザが映像の取込を指示したとき、ＣＣＤ３０が電荷蓄積を開始し、測光データから計算されたシャッタ時間の経過後、蓄積電荷が撮像信号処理部３２へ出力される。
【００２２】
処理ユニット６０は、撮像装置１０全体、とくに処理ユニット６０自身を制御するメインＣＰＵ６２と、これによって制御されるメモリ制御部６４、ＹＣ処理部７０、オプション装置制御部７４、圧縮伸張処理部７８、通信Ｉ／Ｆ部８０、及び画像処理部２２０を有する。メインＣＰＵ６２は、シリアル通信などにより、撮像系ＣＰＵ５０との間で必要な情報をやりとりする。メインＣＰＵ６２の動作クロックは、クロック発生器８８から与えられる。クロック発生器８８は、撮像系ＣＰＵ５０、表示ユニット１００に対してもそれぞれ異なる周波数のクロックを提供する。
【００２３】
メインＣＰＵ６２には、キャラクタ生成部８４とタイマ８６が併設されている。タイマ８６は電池でバックアップされ、つねに日時をカウントしている。このカウント値から撮影日時に関する情報、その他の時刻情報がメインＣＰＵ６２に与えられる。キャラクタ生成部８４は、撮影日時、タイトル等の文字情報を発生し、この文字情報が適宜撮影画像に合成される。
【００２４】
メモリ制御部６４は、不揮発性メモリ６６とメインメモリ６８を制御する。不揮発性メモリ６６は、ＥＥＰＲＯＭ（電気的消去およびプログラム可能なＲＯＭ）やＦＬＡＳＨメモリなどで構成され、ユーザーによる設定情報や出荷時の調整値など、撮像装置１０の電源がオフの間も保持すべきデータが格納されている。不揮発性メモリ６６には、場合によりメインＣＰＵ６２のブートプログラムやシステムプログラムなどが格納されてもよい。一方、メインメモリ６８は一般にＤＲＡＭのように比較的安価で容量の大きなメモリで構成される。メインメモリ６８は、撮像ユニット２０から出力されたデータを格納するフレームメモリとしての機能、各種プログラムをロードするシステムメモリとしての機能、その他ワークエリアとしての機能をもつ。不揮発性メモリ６６とメインメモリ６８は、処理ユニット６０内外の各部とメインバス８２を介してデータのやりとりを行う。
【００２５】
ＹＣ処理部７０は、ディジタル画像データにＹＣ変換を施し、輝度信号Ｙと色差（クロマ）信号Ｂ−Ｙ、Ｒ−Ｙを生成する。輝度信号と色差信号はメモリ制御部６４によってメインメモリ６８に一旦格納される。圧縮伸張処理部７８はメインメモリ６８から順次輝度信号と色差信号を読み出して圧縮する。こうして圧縮されたデータ（以下単に「圧縮データ」という）は、オプション装置制御部７４を介してオプション装置７６の一種であるメモリカードへ書き込まれる。
【００２６】
処理ユニット６０はさらにエンコーダ７２を有する。エンコーダ７２は輝度信号と色差信号を入力し、これらをビデオ信号（ＮＴＳＣやＰＡＬ信号）に変換してビデオ出力端子９０から出力する。オプション装置７６に記録されたデータからビデオ信号を生成する場合、そのデータはまずオプション装置制御部７４を介して圧縮伸張処理部７８へ与えられる。つづいて、圧縮伸張処理部７８で必要な伸張処理が施されたデータはエンコーダ７２によってビデオ信号へ変換される。
【００２７】
オプション装置制御部７４は、オプション装置７６に認められる信号仕様およびメインバス８２のバス仕様にしたがい、メインバス８２とオプション装置７６の間で必要な信号の生成、論理変換、または電圧変換などを行う。撮像装置１０は、オプション装置７６として前述のメモリカードのほかに、例えばＰＣＭＣＩＡ準拠の標準的なＩ／Ｏカードをサポートしてもよい。その場合、オプション装置制御部７４は、ＰＣＭＣＩＡ用バス制御ＬＳＩなどで構成してもよい。
【００２８】
通信Ｉ／Ｆ部８０は、撮像装置１０がサポートする通信仕様、たとえばＵＳＢ、ＲＳ−２３２Ｃ、イーサネット（商標）などの仕様に応じたプロトコル変換等の制御を行う。通信Ｉ／Ｆ部８０は、必要に応じてドライバＩＣを含み、ネットワークを含む外部機器とコネクタ９２を介して通信する。そうした標準的な仕様のほかに、例えばプリンタ、カラオケ機、ゲーム機等の外部機器との間で独自のＩ／Ｆによるデータ授受を行う構成としてもよい。
【００２９】
画像処理部２２０は、ディジタル画像データに対して、所定の画像処理をする。例えば、画像処理部２２０は、ディジタル画像データに対して、撮像しようとした被写体が画像の端に寄りすぎていたり、例えば空のような、不要な被写体が画像の大半を占めてしまう場合のトリミング等の画像処理をする。画像処理部２２０は、撮像ユニット２０が出力したディジタル画像データに対して画像処理し、画像処理したディジタル画像データをＹＣ処理部又はメインメモリ６８に出力してよく、また、ＹＣ処理部がＹＣ変換処理を施し、メインメモリ６８に格納したディジタル画像データに対して画像処理し、画像処理したディジタル画像データを、メインメモリ６８に格納してよい。
【００３０】
画像処理部２２０は、不揮発性メモリ６６又はメインメモリ６８に格納されたプログラムに基づいて動作する。また、メモリ制御部６４は、通信Ｉ／Ｆ部８０を介して、外部機器から画像処理部２２０を動作させるためのプログラムを受け取り、不揮発性メモリ６６に格納してよい。また、メモリ制御部６４は、オプション装置７６から画像処理部２２０を動作させるためのプログラムを受け取り、不揮発性メモリ６６に格納してよい。不揮発性メモリ６６又はメインメモリ６８に格納されたプログラムは、一例として処理ユニット６０を、画像処理するべき画像を格納する画像記憶部と、画像から予め定められた被写体要素を検出するための、検出条件を格納する条件記憶部と、検出条件に基づいて、画像から被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれにもとづいて、幾何学的ずれが小さくなるように、画像に対して画像処理を行う画像処理部として機能させる。また、当該プログラムは、例えばコンピュータ等の画像処理装置を、上述した機能動作させてもよい。当該プログラムが、処理ユニット６０に行わせる処理は、後述する画像処理部２２０、画像記憶部２１０、及び条件記憶部２３０の機能及び動作、画像処理装置３００の機能及び動作、又は画像処理方法の機能と同一又は同様である。
【００３１】
表示ユニット１００は、液晶モニタ１０２とＬＣＤパネル１０４を有する。それらはＬＣＤドライバであるモニタドライバ１０６、パネルドライバ１０８によってそれぞれ制御される。液晶モニタ１０２は、例えば２インチ程度の大きさでカメラ背面に設けられ、現在の撮影や再生のモード、撮影や再生のズーム倍率、電池残量、日時、モード設定のための画面、被写体画像などを表示する。ＬＣＤパネル１０４は例えば小さな白黒ＬＣＤでカメラ上面に設けられ、画質（ＦＩＮＥ／ＮＯＲＭＡＬ／ＢＡＳＩＣなど）、ストロボ発光／発光禁止、標準撮影可能枚数、画素数、電池容量などの情報を簡易的に表示する。
【００３２】
本実施形態の場合、表示ユニット１００は、さらに照明部１５６，１５８を含む。先に説明したように、本実施形態の照明部１５６、１５８は、液晶モニタ１０２の光源を利用して照明を行うからである。なお、照明部１５６，１５８は、独自の光源を有する、液晶モニタ１０２から独立した構成要素として撮像装置１０に備えてもよい。
【００３３】
操作ユニット１１０は、ユーザーが撮像装置１０の動作やそのモードなどを設定または指示するために必要な機構および電気部材を含む。パワースイッチ１１２は、撮像装置１０の電源のオンオフを決める。レリーズスイッチ１１４は、半押しと全押しの二段階押し込み構造になっている。一例として、半押しでＡＦおよびＡＥがロックし、全押しで撮影画像の取込が行われ、必要な信号処理、データ圧縮等の後、メインメモリ６８、オプション装置７６等に記録される。操作ユニット１１０はこれらのスイッチの他、回転式のモードダイヤルや十字キーなどによる設定を受け付けてもよく、それらは図１において機能設定部１１６と総称されている。操作ユニット１１０で指定できる動作または機能の例として、「ファイルフォーマット」、「特殊効果」、「印画」、「決定／保存」、「表示切換」等がある。ズームスイッチ１１８は、ズーム倍率を決める。
【００３４】
以上の構成による主な動作は以下のとおりである。まず、撮像装置１０のパワースイッチ１１２がオンされ、カメラ各部に電力が供給される。メインＣＰＵ６２は、機能設定部１１６の状態を読み込むことで、撮像装置１０が撮影モードにあるか再生モードにあるかを判断する。
【００３５】
次に、メインＣＰＵ６２はレリーズスイッチ１１４の半押し状態を監視する。スタンドが閉じた位置にある場合、メインＣＰＵ６２は、半押し状態を検出すると、測光センサ５４および測距センサ５２からそれぞれ測光データと測距データを得る。得られたデータに基づいて撮像制御ユニット４０が動作し、光学系２２のピント、絞りなどの調整が行われる。メインＣＰＵ６２は、半押し状態を検出すると、測光センサ５４のみから測光データを得る。そして、撮像制御ユニット４０は、光学系２２の絞りを調整する。
【００３６】
調整が完了すると、ＬＣＤモニタ１０２に「スタンバイ」などの文字を表示してユーザーにその旨を伝え、つづいてレリーズスイッチ１１４の全押し状態を監視する。レリーズスイッチ１１４が全押しされると、所定のシャッタ時間をおいてシャッタ２６が閉じられ、ＣＣＤ３０の蓄積電荷が撮像信号処理部３２へ掃き出される。撮像信号処理部３２による処理の結果生成されたディジタル画像データはメインバス８２へ出力される。
【００３７】
ディジタル画像データは一旦メインメモリ６８へ格納され、この後、画像処理部２２０、ＹＣ処理部７０、及び圧縮伸張処理部７８で処理を受け、オプション装置制御部７４を経由してオプション装置７６へ記録される。記録された画像は、フリーズされた状態でしばらくＬＣＤモニタ１０２に表示され、ユーザーは撮影画像を知ることができる。以上で一連の撮影動作が完了する。
【００３８】
一方、撮像装置１０が再生モードの場合、メインＣＰＵ６２は、メモリ制御部６４を介してメインメモリ６８から最後に撮影した画像を読み出し、これを表示ユニット１００のＬＣＤモニタ１０２へ表示する。この状態でユーザーが機能設定部１１６にて「順送り」、「逆送り」を指示すると、現在表示している画像の前後に撮影された画像が読み出され、ＬＣＤモニタ１０２へ表示される。表示ユニット１００は、画像処理部２２０において画像処理された画像を表示してよく、また、画像処理前の画像を表示してよい。例えば、表示ユニット１００は、画像処理部２２０において、画像要素の位置と位置に関する基準との幾何学的ずれを修正した画像を表示してよく、また、画像処理前の画像と、画像要素の位置と位置に関する基準との幾何学的ずれに関する情報を合わせて表示してよい。次に、画像処理部２２０における画像処理について説明する。
【００３９】
図２は、撮像装置１０における画像処理の一例を説明するためのブロック図である。撮像装置１０は、撮像部２００、画像記憶部２１０、画像処理部２２０、条件記憶部２３０、及び表示部２４０を備える。
【００４０】
撮像部２００は一例として、図１において説明した、撮像ユニット２０、撮像制御ユニット４０、及び撮像補助ユニット３８と同一又は同様の機能及び構成を有し、被写体２５０の画像を撮像する。画像記憶部２１０は一例として、図１において説明した、メモリ制御部６４、及び不揮発性メモリ６６と同一又は同様の機能及び構成を有し、撮像部２００が撮像した画像を格納する。条件記憶部２３０は一例として、図１において説明したメモリ制御部６４、不揮発性メモリ６６、及びメインメモリ６８と同一又は同様の機能及び構成を有し、画像処理部２２０において、画像から予め定められた被写体要素を検出するための検出条件を格納する。
【００４１】
画像処理部２２０は、図１において説明した画像処理部２２０と同一又は同様の機能及び構成を有し、条件記憶部２３０に格納された検出条件に基づいて、画像から当該被写体要素に対応する画像要素を検出し、検出した画像要素の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、当該幾何学的ずれが小さくなるように、画像に対して画像処理をする。表示部２４０は、図１において説明した表示ユニット１００と同一又は同様の機能及び構成を有し、画像処理部２２０が画像処理した画像又は撮像部２００が撮像した画像を表示する。また、画像記憶部２１０は、画像処理部２２０が画像処理した画像を格納してよい。例えば、画像記憶部２１０は、画像処理部２２０が画像要素と位置に関する基準との幾何学的ずれを小さくした画像を格納してよい。また、画像記憶部２１０は、撮像部が撮像した画像と、画像処理部２２０が検出した画像要素と位置に関する基準との幾何学的ずれの情報とを対応づけて格納してもよい。
【００４２】
また、表示部２４０は、画像記憶部２１０が格納した、幾何学的ずれを小さくした画像を表示してよい。また、表示部２４０は、画像記憶部２１０が格納した、画像と、画像に対応した幾何学的ずれに関する情報とを表示してもよい。つまり、表示部２４０は、撮像部２００が撮像し、画像記憶部２１０が格納した画像処理していない画像と、画像処理部２２０が検出した画像に対応した幾何学的ずれに関する情報を表示してよい。また、表示部２４０は、画像記憶部２１０が格納した、幾何学的ずれを小さくした複数の画像を縮小して表示してよい。また、表示部２４０は、縮小した複数の画像と、複数の画像にそれぞれ対応した幾何学的ずれに関する情報とを表示してよい。
【００４３】
図３は、画像処理部２２０における画像処理の一例を説明する図である。本例において、画像処理部２２０は、撮像部２００が撮像した画像要素の位置と、位置に関する基準との幾何学的ずれを検出し、当該幾何学的ずれを小さくする画像処理を行う。
【００４４】
図３（ａ）は、撮像部２００が撮像した被写体の画像の一例を示す。図３（ａ）に示す画像には、被写体として、人物、建物、空、地面等が撮像されている。図３（ａ）に示すように、当該画像において、主要な被写体である人物が、画像の下方に寄りすぎ、重要でない被写体である空の領域が大きく、バランスの悪い構図となっている。本例における画像処理部２２０は、このように、バランスの悪い構図の画像に対して、被写体の位置を修正する。
【００４５】
まず、画像処理部２２０は、条件記憶部２３０に格納された検出条件に基づいて、画像から、予め定められた被写体要素に対応する画像要素を検出する。一例として、図３（ｂ）に示すように、画像処理部２２０は、人物の顔に対応する画像要素２５２を検出する。画像処理部２２０は、画像における各被写体要素のエッジに基づいて、検出条件に適合する画像要素を検出してよい。また、画像処理部２２０は、各被写体要素の色情報に基づいて、画像要素を検出してよい。例えば、画像処理部２２０が人物の顔を検出する場合、各被写体要素のエッジに基づいて、各被写体要素の形、色情報、及び目、鼻、口らしき物が有るか否かに基づいて、画像処理部２２０は、人物の顔に対応する画像要素４０４を検出する。この場合、条件記憶部２３０は、人物の顔を検出するための、人物の顔の形状情報、色情報、及び顔の構成情報等と、人物の顔の天地情報を格納する。
【００４６】
次に、画像処理部２２０は、検出した画像要素の位置と、予め定められた被写体の位置に関する基準とのずれを検出する。本例において、条件記憶部２３０は、当該予め定められた被写体の位置に関する基準を格納する。例えば、条件記憶部２３０は、被写体の位置に関する基準として、いわゆる黄金比に基づいた位置を格納してよく、また、使用者が予め定めた位置を格納してもよい。
【００４７】
次に、画像処理部２２０は、検出した幾何学的ずれに基づいて、画像に対する、画像の切り出し領域であるトリミング枠を算出し、算出したトリミング枠に基づいて、画像を切り出す。例えば、図３（ｂ）に示すように、画像処理部２２０は、被写体の位置に関する基準と、検出した画像要素４０２の位置との幾何学的ずれが小さくなるように、画像を切り出すトリミング枠を設定する。つまり、画像処理部２２０は、設定したトリミング枠に基づいて、画像を切り出し、所定の大きさに拡大した画像において、画像要素４０２と、被写体の位置に関する基準とがほぼ一致するように画像処理する。本例において、条件記憶部２３０は、使用者によって予め定められた位置を、被写体の位置に関する基準として、トリミング後の画像要素４０２の位置が、当該被写体の位置に関する基準とほぼ一致するように、画像に対して画像処理する。
【００４８】
本例において説明した撮像装置１０によれば、画像要素の位置と、位置に関する基準との幾何学的ずれに基づいて、トリミングを行うことにより、容易に画像の構図のバランスを修正することができる。また、本例においては、画像処理部２２０は、一つの画像要素を検出して、検出した画像要素に基づいて画像処理を行ったが、他の例においては、画像処理部２２０は、複数の画像要素を検出し、検出した複数の画像要素の画像における位置と、位置に関する基準との幾何学的ずれを小さくしてよい。この場合、条件記憶部２３０は、複数の被写体要素を検出するための複数の検出条件を格納してよい。例えば、条件記憶部２３０は、人物の顔、建物、木等にそれぞれ対応した複数の検出条件を格納し、画像処理部２２０は、当該検出条件に基づいて、画像要素を検出してよい。
【００４９】
条件記憶部２３０は、複数の検出条件の一例として、人物の顔、空、地面、建物等を検出するための検出条件を格納してよい。条件記憶部２３０は、空、又は地面を検出するための検出条件として、一例として色情報を格納してよい。画像処理部２２０は、画像の被写体の色情報において、所定の色が所定の画素数連続した場合に、当該被写体を空、又は地面として画像処理をしてよい。また、条件記憶部２３０は、建物を検出するための検出条件として、一例として、被写体の形状の情報を格納してよい。画像処理部２２０は、被写体のエッジを検出して、検出したエッジと、被写体の形状の情報とに基づいて、建物に対応する画像要素を検出してよい。
【００５０】
また、画像処理部２２０は、一つの検出条件に適合する複数の画像要素を検出してもよい。例えば、画像処理部２２０は、人物の顔を検出するための検出条件に基づいて、人物の顔に対応する複数の画像要素を検出してよい。画像処理部２２０は、複数の被写体の位置に関する基準と、複数の画像要素の位置とのずれの総和が最も小さくなるように、画像処理してよく、また、複数の画像要素のうち、主要画像要素を一つ選択し、選択した主要被写体に対応する画像要素に基づいて、画像処理してよい。
【００５１】
画像処理部２２０は、例えば、検出した複数の画像要素のうち、画素領域が最も大きい画像要素と、位置に関する基準との幾何学的ずれを小さくするように、画像処理してよい。また、画像処理部２２０は、例えば、検出した複数の画像要素のうち、画像の中央に最も近い画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理してよい。また、撮像装置１０は、画像処理部２２０が検出した複数の画像要素のうち、いずれを使用者が選択したかを受け取る入力手段を更に備え、画像処理部２２０は、入力手段が受け取った、使用者がいずれの画像要素を選択したかに関する情報に基づく画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理してよい。また、画像処理部２２０は、画像における消失点を検出し、検出した消失点の位置と、位置に関する基準とのずれを小さくするように画像処理してよい。例えば、消失点とは、透視図法における無限遠点を指してよく、被写体の実空間内にある平行な直線が、画像上で交わる点を指してよい。以下、画像処理部２２０が、消失点に基づいて画像処理する場合について説明する。
【００５２】
図４は、画像処理部２２０が、画像の消失点に基づいて画像処理する場合を説明する図である。本例において、条件記憶部２３０は、画像における消失点を検出するための検出条件を更に格納し、画像処理部２２０は、検出条件に基づいて消失点を検出し、検出した消失点の位置と、位置に関する基準との幾何学的ずれを小さくするように画像処理する。また、前述したように、画像処理部２２０は、主要な画像要素を検出し、検出した画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理する。この場合、条件記憶部２３０は、複数の位置に関する基準を格納することが好ましい。
【００５３】
図４（ａ）は、撮像部２００が撮像した画像の一例である。図４（ａ）に示す画像には、被写体として複数の人物と、壁が撮像されている。まず、画像処理部２２０は、画像から、主要被写体と、画像の消失点とを検出する。画像処理部２２０は、図２及び図３に関連して説明した画像処理部２２０と同様に、検出条件に基づいて、主要な被写体に対応する画像要素を検出する。本例において、図４（ｂ）に示すように、画像処理部２２０は、人物の顔に対応する画像要素５０６を検出する。また、画像処理部２２０は、画像の消失点を検出する。例えば、画像処理部２２０は、画像から、平行な直線成分に対応する２つの画像要素を検出し、当該２つの画像要素の交点を、画像の消失点５０８として検出する。この場合、画像処理部２２０は、傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出してよい。また、画像要素までの距離情報を検出し、検出した距離情報と、画像要素の傾きに基づいて、画像要素に対応する被写体要素の、実空間における傾きを算出し、実空間における傾きの差が予め定められた範囲内である２つの画像要素を、平行な直線成分に対応する画像要素として検出してもよい。
【００５４】
画像処理部２２０は、検出した主要な被写体５０６及び消失点５０８と、予め定められた位置に関する基準との幾何学的ずれが小さくなるように画像処理する。例えば、画像処理部２２０は、図４（ｃ）に示すような、予め定められた位置に関する基準である点５１０、点５１２、点５１４、又は点５１６のいずれかの位置に、被写体５０６及び消失点５０８が配置されるように、画像に対してトリミングを行う。本例においては、画像処理部２２０は、点５１０に、被写体５０６が、点５１２に消失点５０８が配置されるように、画像を切り出し、切り出した画像を所定の大きさに拡大する。本例において、位置に関する基準は、図４（ｃ）に示したような位置を示しているが、他の例においては、他の位置を当該位置に関する基準としてよいことは明らかである。例えば使用者が、位置に関する基準を予め撮像装置１０に入力していてもよい。また、本例においては、画像処理部２２０は、画像要素と、消失点とに基づいて、画像処理したが、他の例においては、画像処理部２２０は、消失点の位置と、位置に関する基準との幾何学的ずれを小さくする画像処理をしてよい。本例において説明した撮像装置１０によれば、画像の消失点を検出し、検出した消失点の位置と、位置に関する基準との幾何学的ずれを小さくすることにより、バランスのよい画像を得ることができる。
【００５５】
図５は、本発明に係る画像処理装置３００の構成の一例を示すブロック図である。画像処理装置３００は、例えば、表示装置を備えるコンピュータ等であって、与えられた画像を画像処理する。画像処理装置３００は、画像記憶部２１０と、画像処理部２２０と、条件記憶部２３０と、表示部２４０とを備える。画像記憶部２１０は、図２から図４に関連して説明した画像記憶部２１０と同一又は同様の機能及び構成を有し、与えられた画像を格納する。条件記憶部２３０は、図２から図４に関連して説明した条件記憶部２３０と同一又は同様の機能及び構成を有し、画像記憶部２１０が格納した画像から、予め定められた被写体要素を検出するための検出条件を格納する。
【００５６】
画像処理部２２０は、図２から図４に関連して説明した画像処理部２２０と同一又は同様の機能及び構成を有し、条件記憶部２４０に格納された被写体要素を検出するための検出条件に基づいて、画像記憶部２１０が格納した画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する。
【００５７】
表示部２４０は、図２から図４に関連して説明した表示部２４０と同一又は同様の機能及び構成を有し、画像処理部２２０が画像処理した画像を表示する。また、表示部２４０は、与えられた画像と、与えられた画像に対応した幾何学的ずれに関する情報とをあわせて表示してもよい。
【００５８】
本例における画像処理装置３００によれば、検出した画像要素の位置に関する情報に基づいて、画像処理することにより、画像における構図バランスを容易に修正することができる。また、位置に関する基準として所望の位置を指定することにより、使用者にとって、所望の構図バランスを有する画像を容易に生成することができる。
【００５９】
図６は、本発明に係る画像処理方法のフローチャートの一例を示す。本例における画像処理方法は、図５に関連して説明した画像処理装置３００における画像処理と同一又は同様の処理を行う。まず、画像記憶手順で、与えられた画像を格納する（Ｓ３０２）。画像記憶手順は、図５に関連して説明した画像記憶部２１０における処理と同様の処理を行う。また、条件記憶手順で、与えられた画像から、予め定められた被写体要素を検出するための検出条件を格納する（Ｓ３０４）。条件記憶手順は、図５に関連して説明した条件記憶部２３０における処理と同様の処理を行う。画像記憶手順と、条件記憶手順とは、いずれを先に行ってもよい。
【００６０】
次に、画像処理手順で、画像の幾何学的ずれを小さくする。画像処理手順（Ｓ３０６〜Ｓ３１２）では、図５に関連して説明した画像処理部２２０における処理と同様の処理を行う。画像処理手順は、まず検出条件に基づいて、画像から被写体要素に対応する画像要素又は／及び消失点を検出する（Ｓ３０６）。次に、検出した画像要素又は／及び消失点の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれを検出する（Ｓ３０８）。Ｓ３０８では図３又は図４に関連して説明した方法で当該幾何学的ずれを検出する。次に、画像要素又は／及び消失点の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれが有るか否かを判定する（Ｓ３０８）。当該幾何学的ずれが無い場合、画像処理方法の処理を終了する。また、当該幾何学的ずれが有る場合、当該幾何学的ずれが小さくなるように、画像に対して画像処理する（Ｓ３１２）。Ｓ３１２では、図３又は図４に関連して説明した方法で、当該幾何学的ずれが小さくなるように、画像に対して画像処理する。
【００６１】
以上説明した画像処理方法によれば、与えられた画像から検出した画像要素又は／及び消失点の位置に関する情報に基づいて、与えられた画像の構図バランスを容易に修正することができる。また、使用者が、位置に関する基準を予め与えることにより、所望の構図バランスの画像を容易に得ることができる。
【００６２】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【００６３】
【発明の効果】
上記説明から明らかなように、本発明に係る撮像装置、画像処理装置、画像処理方法、及びプログラムによれば、画像要素の位置と、位置に関する基準との幾何学的ずれを検出し、当該幾何学的ずれを容易に修正し、バランスのよい画像を得ることができる。
【図面の簡単な説明】
【図１】  本発明に係る撮像装置１０の構成の一例を示すブロック図である。
【図２】  撮像装置１０における画像処理の一例を説明するためのブロック図である。
【図３】  画像処理部２２０における画像処理の一例を説明する図である。
【図４】  画像処理部２２０が、画像の消失点に基づいて画像処理する場合を説明する図である。
【図５】  本発明に係る画像処理装置３００の構成の一例を示すブロック図である。
【図６】  本発明に係る画像処理方法のフローチャートの一例を示す。
【符号の説明】
１０・・・撮像装置、２０・・・撮像ユニット、２２・・・光学系、２４・・・絞り、２６・・・シャッタ、２８・・・光学ＬＰＦ、３０・・・ＣＣＤ、３２・・・撮像信号処理部、３４・・・ファインダ、３６・・・ストロボ、３８・・・撮像補助ユニット、４０・・・撮像制御ユニット、４２・・・ズーム駆動部、４４・・・フォーカス駆動部、４６・・・絞り駆動部、４８・・・シャッタ駆動部、５０・・・撮像系ＣＰＵ、５２・・・測距センサ、５４・・・測光センサ、６２・・・メインＣＰＵ、６４・・・メモリ制御部、６６・・・不揮発性メモリ、６８・・・メインメモリ、７０・・・ＹＣ処理部、７２・・・エンコーダ、７４・・・オプション装置制御部、７６・・・オプション装置、７８・・・圧縮伸張処理部、８０・・・通信Ｉ／Ｆ部、８２・・・メインバス、８４・・・キャラクタ生成部、８６・・・タイマ、８８・・・クロック発生器、１００・・・表示ユニット、１０２・・・液晶モニタ、１０４・・・ＬＣＤパネル、１０６・・・モニタドライバ、１０８・・・パネルドライバ、１１０・・・操作ユニット、１１２・・・パワースイッチ、１１４・・・レリーズスイッチ、１１６・・・機能設定部、１１８・・・ズームスイッチ、１５８・・・照明部、２００・・・撮像部、２１０・・・画像記憶部、２２０・・・画像処理部、２３０・・・条件記憶部、２４０・・・表示部、２５０・・・被写体、４０２・・・画像要素、４０４・・・トリミング枠、５０６・・・画像要素、５０８・・・消失点
【図１】
0004421788.tif 000002
【図２】
0004421788.tif 000003
【図３】
0004421788.tif 000004
【図４】
0004421788.tif 000005
【図５】
0004421788.tif 000006
【図６】
0004421788.tif 000007