(57)【要約】  鮮鋭度を向上させつつ、色収差を低減した画像を得ることを課題とする。  本発明の画像処理装置は、入力画像を取得する画像取得手段と、前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する画像回復処理手段とを有し、前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする。
2011122283.tif 000002
【特許請求の範囲】
【請求項１】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理装置。
【請求項２】
前記画像回復処理手段は、前記入力画像の画素に対して前記画像回復フィルタを畳み込み積分することにより画像回復を行うことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
被写体像を入力画像として取得する撮像系と、
前記入力画像と前記撮像系の伝達関数に基づいた画像回復フィルタを演算することにより回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする撮像装置。
【請求項４】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと、該入力画像を演算することにより回復画像を生成する画像回復処理工程を情報処理装置に実行させる画像処理プログラムであって、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理プログラム。
【請求項５】
入力画像を取得する工程と、
前記入力画像と、該入力画像を取得するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する工程とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理方法。
【請求項６】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分の伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項７】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは前記撮像系の伝達関数と、２つの色成分の伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする画像処理装置。
【請求項８】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を演算することにより第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理装置。
【請求項９】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を演算することにより生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像を演算することにより生成された第２回復画像と、の差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理装置。
【請求項１０】
前記第１の画像回復フィルタは、前記撮像系の２つの色成分の伝達関数と、該２つの色成分の伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする請求項８または９に記載の画像処理装置。
【請求項１１】
前記回復調整画像生成手段は、前記撮像系と前記第１の画像回復フィルタとを含む系の２つの色成分の伝達関数の振幅成分の差が、前記撮像系の該２つの色成分の伝達関数の振幅成分の差よりも減少するように回復することを特徴とする請求項８乃至１０いずれか１項に記載の画像処理装置。
【請求項１２】
前記調整係数は、前記第１回復画像に対する前記入力画像の演算量を調整する回復強度調整係数であることを特徴とする請求項８乃至１１いずれか１項に記載の画像処理装置。
【請求項１３】
前記調整係数は、前記第１回復画像に対する前記第２回復画像の演算量を調整する回復強度調整係数であることを特徴とする請求項９乃至１１いずれか１項に記載の画像処理装置。
【請求項１４】
前記調整係数は、前記差分情報の前記色成分ごとの合成比を決める色合成比調整係数であることを特徴とする請求項８乃至１３いずれか１項に記載の画像処理装置。
【請求項１５】
撮影画像を前記入力画像として処理する請求項８乃至１４いずれか１項に記載の画像処理装置とを有することを特徴とする撮像装置。
【請求項１６】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像を演算することにより生成された第１回復画像と、前記入力画像との差分情報を取得する差分情報取得工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理プログラム。
【請求項１７】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像を演算することにより生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像を演算することにより生成された第２回復画像と、の差分情報を取得する差分情報取得工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理プログラム。
【請求項１８】
入力画像を取得する工程と、
撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を用いて生成された第１回復画像と、前記入力画像との差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理方法。
【請求項１９】
入力画像として取得する工程と、
前記入力画像を取得するために用いた撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を演算することにより生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像を演算することにより生成された第２回復画像と、の差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理方法。
【請求項２０】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと、前記入力画像を演算することにより第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
前記第１の画像回復フィルタは、前記撮像系の２つの色成分の伝達関数の絶対値の差を減少させるように回復することを特徴とする画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像処理を行う画像処理装置に関する発明であり、特に画像回復（復元）を行う画像処理装置に関する。
【背景技術】
【０００２】
デジタルカメラ等の撮像装置により得られた画像はボケによって、画質が劣化している。画像のボケが起こる要因は、撮像光学系の球面収差、コマ収差、像面湾曲および非点収差等である。これら収差は、点像分布関数（ＰＳＦ、Point Spread Function）により表すことができる。点像分布関数（以下、ＰＳＦ）をフーリエ変換することにより得ることができる光学伝達関数（ＯＴＦ、Optic Transfer Function）は、収差の周波数空間における情報である。この光学伝達関数（以下、ＯＴＦ）は複素数で表すことができ、ＯＴＦの絶対値、即ち、振幅成分はＭＴＦ（Modulation Transfer Function）、位相成分はＰＴＦ（Phase Transfer Function）と呼ばれる。ここでは、位相成分を位相角として以下の式１で表す。Ｒｅ（ＯＴＦ）、Ｉｍ（ＯＴＦ）はそれぞれＯＴＦの実数部と虚数部である。
ＰＴＦ＝ｔａｎ−１（Ｉｍ（ＯＴＦ）／Ｒｅ（ＯＴＦ））【０００３】
このように、撮像光学系の光学伝達関数は画像の振幅成分と位相成分に劣化を与えるため、劣化画像は被写体の各点がコマ収差のように非対称にぼけた状態になっている。また、倍率色収差は、光の波長ごとの結像倍率の相違により結像位置がずれ、これを撮像装置の分光特性に応じて、例えばＲＧＢの色成分として取得することで発生する。したがって、ＲＧＢ間で結像位置がずれることで像の広がりが発生するだけでなく、各色成分内で波長ごとの結像位置のずれ、すなわち位相ずれによっても像の広がりが発生する。このため、点像分布関数を主光線（撮像光学系の瞳の中心を通る光線）と直交する各方向（アジムス方向）の１次元断面で見たときに、収差の位相成分の劣化（位相劣化成分）は点像分布関数に非対称性を発生させる。また、振幅成分の劣化（振幅劣化成分）はアジムス方向ごとのＰＳＦの広がりの大きさに影響する。【０００４】
したがって、撮像光学系による画像劣化を画像処理にて高精度に補正するためには、収差の位相劣化成分と振幅劣化成分を補正することが必要である。【０００５】
さらに、振幅劣化成分と位相劣化成分を補正する方法として、撮像光学系の光学伝達関数（ＯＴＦ）の情報を用いて補正するものが知られている。この方法は、画像回復や画像復元と呼ばれており、以下、この光学伝達関数の情報を用いて画像の劣化成分を補正（低減）する処理を画像回復処理と称する。【０００６】
以下に画像回復処理の概要を示す。
劣化した画像をｇ（ｘ，ｙ）、もとの画像をｆ（ｘ，ｙ）、ｇ（ｘ、ｙ）を取得するために用いた撮像光学系の点像分布関数（ＰＳＦ）をｈ（ｘ，ｙ）としたとき、以下の式が成り立つ。ただし、＊はコンボリューション（畳み込み積分、積和）を示し、（ｘ，ｙ）は実空間における画像の座標を示す。
（式１）
ｇ（ｘ，ｙ）＝ｈ（ｘ，ｙ）＊ｆ（ｘ，ｙ）
式１をフーリエ変換して周波数空間での表示形式に変換すると、式２のように表すことができる。
（式２）
Ｇ（ｕ，ｖ）＝Ｈ（ｕ，ｖ）・Ｆ（ｕ，ｖ）
ここで、Ｈ（ｕ，ｖ）は点像分布関数（ＰＳＦ）ｈ（ｘ，ｙ）をフーリエ変換した光学伝達関数（ＯＴＦ）である。Ｇ（ｕ，ｖ）、Ｆ（ｕ，ｖ）はそれぞれｇ（ｘ，ｙ）、ｆ（ｘ，ｙ）をフーリエ変換したものである。（ｕ，ｖ）は２次元周波数空間での周波数（座標）を示す。劣化画像から元の画像（元画像）を得るためには、式２の両辺をＨ（ｕ，ｖ）で除算すればよい。
（式３）
Ｇ（ｕ，ｖ）／Ｈ（ｕ，ｖ）＝Ｆ（ｕ，ｖ）
このＦ（ｕ，ｖ）、即ちＧ（ｕ，ｖ）／Ｈ（ｕ，ｖ）を逆フーリエ変換して実空間に戻すことで元画像ｆ（ｘ，ｙ）を回復画像として得ることができる。
式３の両辺を逆フーリエ変換すると式３は式４で表される。
（式４）
ｇ（ｘ，ｙ）＊Ｒ（ｘ，ｙ）＝ｆ（ｘ，ｙ）
ここで、１／Ｈ（ｕ，ｖ）を逆フーリエ変換したものをＲ（ｘ，ｙ）表した。このＲ（ｘ，ｙ）が画像回復フィルタである。【０００７】
この画像回復フィルタは光学伝達関数（ＯＴＦ）に基づいているため、振幅成分および位相成分の劣化を補正することができる。【０００８】
この画像回復フィルタとして、ノイズが増幅を制御することができるウィナーフィルタが知られている。ウィナーフィルタは入力画像のノイズを低減させるため、入力信号（画像信号）とノイズ信号の強度比（ＳＮＲ、Sound by Noise Ratio）に応じて回復度合いを変える画像回復フィルタである。【０００９】
また特許文献１は、上記ウィナーフィルタを応用して画像回復フィルタに調整係数αを設けている。パラメータαを調整することにより、入力画像をそのまま出力するフィルタ（何も作用しないフィルタ）から最大に画像回復を行うフィルタ（逆フィルタ）までの範囲で画像の回復度合いを変更可能な画像回復フィルタを開示している。【００１０】
また特許文献２には、位相の劣化を補正する方法として、画像のエッジ部分を検出してエッジを強調するエッジ強調処理が開示されている。
【先行技術文献】
【特許文献】
【００１１】
【特許文献１】特開２００７−１８３８４２号公報
【特許文献２】特開２０００−１５６８１６号公報
【発明の概要】
【発明が解決しようとする課題】
【００１２】
しかしながら、撮像光学系による画像の劣化を、画像回復フィルタを用いて高精度に補正（回復）するためには、収差の振幅成分と位相成分を補正する（鮮鋭度を向上させる）と供に、色成分間でのＰＳＦの差異を低減して色収差を補正することが必要である。【００１３】
上記のウィナーフィルタまたは特許文献１に開示されている画像回復フィルタは、劣化画像の振幅成分および位相成分を補正（回復）することはできる。しかし、色成分ごとのボケの現れ方の相違（差異）を考慮していないため、画像回復処理を行ったにも限らず、回復画像に色付きが残ってしまう、あるいは色付きが拡大してしまう場合があった。【００１４】
この課題について、具体的に図１８を用いて説明する。図１８の破線（ａ）、実線（ｂ）は回復前の２つの色成分のＭＴＦである。破線（ｃ）、実線（ｄ）は、それぞれ（ａ）、（ｂ）で表された色成分の回復後のＭＴＦである。ウィナーフィルタを用いて回復処理を行うと、回復前の２つの色成分のＭＴＦ（ａ）、（ｂ）の差よりも回復後の２つの色成分のＭＴＦ（ｃ）、（ｄ）の差が広がってしまう。回復後の（ｃ）、（ｄ）共に（ａ）、（ｂ）に比べＭＴＦが向上しているため画像の鮮鋭度は向上している。しかし色付き（色収差）として画像に表れてしまう各色成分間のＭＴＦの差は拡大してしまう。【００１５】
そこで本発明は、画像の鮮鋭度を向上させつつ、色収差を低減することが可能な画像処理装置を提供することを課題とする。
【課題を解決するための手段】
【００１６】
上記課題を解決するために本発明は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタを演算することにより、回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理装置。
【発明の効果】
【００１７】
鮮鋭度を向上させつつ、色収差を低減した画像を得ることが可能となる。
【図面の簡単な説明】
【００１８】
【図１】画像回復処理の説明図
【図２Ａ】画像回復フィルタの説明図
【図２Ｂ】画像回復フィルタの説明図
【図３】各色成分のＭＴＦの差を一致させる場合の説明図
【図４】各色成分のＭＴＦの差を低減させる場合の説明図
【図５】画像処理装置を搭載した撮像装置の構成を示すブロック図
【図６】画像回復フィルタの選択、補正に関する説明図
【図７】実施例１の画像処理のフローチャート
【図８】画像処理前後のＭＴＦ変化を示す図
【図９】エッジ強調フィルタの説明図
【図１０Ａ】エッジ強調フィルタを適用した場合のエッジ断面図
【図１０Ｂ】エッジ強調フィルタを適用した場合のエッジ断面図
【図１０Ｃ】エッジ強調フィルタを適用した場合のエッジ断面図
【図１１】実施例２の画像処理フロー説明図
【図１２】画像回復工程までのフローチャート
【図１３】調整パラメータ設定のフローチャート
【図１４】画像処理全体のフローチャート
【図１５】実施例３の画像処理フロー説明図
【図１６Ａ】画像処理システムの説明図
【図１６Ｂ】画像処理システムの説明図
【図１７】補正情報セットの説明図
【図１８】従来の画像回復についての説明図
【発明を実施するための形態】
【００１９】
まず、具体的な実施例の説明に先立って、本発明の画像処理のフロー概要について、図１を用いて説明する。
【００２０】
まずステップＳ１１の画像取得工程において、入力画像を取得する。次にステップＳ１２において、ステップＳ１１で取得された入力画像の撮像条件を取得する。次にステップ１３において、撮像条件に対応する画像回復フィルタをメモリから選択する。予めメモリに用意された撮像条件と異なる場合には、適宜補正して用いることもできる。次にステップＳ１４の画像回復処理工程では、ステップＳ１３の画像回復フィルタを用いて画像回復処理を実行する。そしてステップＳ１４で補正された補正画像を出力画像として出力する。ステップＳ１３に用いられる画像回復フィルタは撮像光学系（撮像系）の光学伝達関数（ＯＴＦ）と色収差補正係数に基づいて生成される。
【００２１】
尚、図１の処理の前後、あるいは途中に例えば倍率色収差補正、歪曲収差補正、周辺光量補正などの電子収差補正やデモザイキング、ガンマ変換、画像圧縮などの処理を挿入しても良い。次に、図１に示した各処理についてより詳細に説明する。
【００２２】
（画像取得工程）
ステップＳ１１の画像取得工程により取得される画像（以下、入力画像）は、撮像光学系を介して撮像素子で撮像することで得られたデジタル画像であり、レンズと各種の光学フィルタ類を含む撮像系の収差による光学伝達関数（ＯＴＦ）により劣化している。撮像光学系はレンズの他にも曲率を有するミラー（反射面）を用いることもできる。
【００２３】
また、入力画像は色空間により表される。色空間の表し方には、例えばＲＧＢがあるが、ＲＧＢ以外にもＬＣＨで表現される明度、色相、彩度や、ＹＣｂＣｒで表現される輝度、色差信号などがある。その他の色空間として、ＸＹＺ、Ｌａｂ、Ｙｕｖ、ＪＣｈや色温度がある。これら一般に用いられている色空間により表される値を、色成分として本発明を適用することができる。
【００２４】
また、入力画像は各画素に一つの色成分の信号値を有するモザイク画像でも良いし、このモザイク画像を色補間処理（デモザイキング処理）して各画素に複数の色成分の信号値を有したデモザイク画像でも良い。モザイク画像は色補間処理（デモザイキング処理）やガンマ変換やＪＰＥＧ等の画像圧縮などの画像処理を行う前の画像として、ＲＡＷ画像とも呼ぶ。例えば単板の撮像素子で複数の色成分の情報を得る場合には、各画素に分光透過率の異なるカラーフィルタを配置して、各画素に一つの色成分の信号値を有するモザイク画像を取得する。このモザイク画像に色補間処理を行うことで各画素に複数の色成分の信号値を有した画像を取得することができる。また、多板、例えば３板の撮像素子を用いる場合には各撮像素子ごとに分光透過率の異なるカラーフィルタを配置して、撮像素子ごとに異なる色成分の画像信号値を有したデモザイク画像を取得することになる。この場合、各撮像素子間で、対応する画素に対してそれぞれの色成分の信号値を有しているので、特に色補間処理を行わなくとも各画素に複数の色成分の信号値を有した画像を取得することができる。
【００２５】
また入力画像には、入力画像を補正するための各種の補正情報を付帯することができる。該補正情報には、レンズの焦点距離（ズーム位置）、絞り値、撮影距離（合焦距離）、露光時間、ＩＳＯ感度などの撮像条件に関する情報（撮像条件情報）が含まれる。撮像から画像の出力までの一連の処理を一つの撮像装置で行う場合には、入力画像に撮像条件情報や補正情報を付帯しなくとも装置内で取得することもできる。しかし、撮像装置からＲＡＷ画像を取得し、撮像装置とは別体の画像処理装置で画像回復処理や現像処理等を行う場合には、上記のように画像に補正情報を付帯することが好ましい。ただしこれに限られず、画像処理装置に予め補正情報を記憶させ、入力画像に付帯された撮像条件情報から補正情報を選択可能なシステムを構成すれば、必ずしも画像に補正情報を付帯する必要はない。
【００２６】
尚、入力画像は撮像光学系を介して撮像素子で撮像することで得られたデジタル画像と記述したが、入力画像は撮像光学系を含まない撮像系により得られたデジタル画像でも良い。例えば、被写体面に撮像素子を密着させて撮像を行うスキャナ（読み取り装置）やＸ線撮像装置はレンズのような撮像光学系を持たない撮像装置により得られた画像であってもよい。これら、撮像光学系を持たないが、撮像素子による画像サンプリングによって生成された画像は少なからず劣化する。この場合の劣化特性は、撮像光学系の光学伝達関数（狭義の光学伝達関数）によるものではないが、撮像系のシステム伝達関数によるものであり、このシステム伝達関数は光学伝達関数に相当するものと言える。あるいは、複屈折を有する光学ローパスフィルタは光学伝達関数の周波数特性に対して高周波成分を抑制するものであるので、この特性を光学伝達関数に含めても良い。また、撮像素子の画素開口の形状や開口率も周波数特性に影響している。他にも光学伝達関数として含めることが可能な特性として、光源の分光特性や各種波長フィルタの分光特性がある。これらを含めた広義の光学伝達関数に基づいて、画像回復フィルタを作成することが望ましい。このため、本発明の実施例にいう「光学伝達関数」は、このような撮像光学系および撮像光学系を持たない系のシステム伝達関数を含む広義の光学伝達関数である。以下、これら広義の光学伝達関数の主体となる系を撮像系とする。
【００２７】
（画像回復フィルタ生成工程）
次に、ステップＳ１３で用いられる画像回復フィルタの生成について図２Ａ、Ｂを参照しながら説明する。図２Ａは実空間において入力画像の画素に対してコンボリューション処理が行われる画像回復フィルタの模式図である。画像回復フィルタのタップ（セル）数は、撮像系の収差特性や要求される回復精度に応じて決めることができ、画像が２次元のときは、一般的に画像の各画素に対応したタップ数を有する２次元の画像回復フィルタとなる。図２Ａには、例として１１×１１タップの２次元画像回復フィルタを示した。また、画像回復フィルタのタップ数に関しては、一般的に多いほど回復精度が向上するので、タップ数は要求画質、画像処理能力、収差の特性等に応じて設定される。
【００２８】
図２Ａでは各タップ内の値を省略しているが、この画像回復フィルタの１断面を図２Ｂに示す。この画像回復フィルタの各タップのもつ値（係数値）の分布が、コンボリューション処理の際に、収差によって空間的に広がった信号値を理想的には元の１点に戻す役割を果たしている。
【００２９】
この画像回復フィルタを生成するためには、まず、撮像系の光学伝達関数を計算若しくは計測する。劣化画像が撮像光学系を持たない撮像系により得られた画像である場合には、光学伝達関数としてシステムの伝達関数を用いればよい。
【００３０】
そして光学伝達関数を取得後、その光学伝達関数の逆数に基づいた関数を逆フーリエ変換することにより画像回復フィルタが生成される。尚、この光学伝達関数（以下、ＯＴＦと記す）の逆数は逆フィルタと呼ばれる。
【００３１】
被写体として点光源を仮定した場合は、撮像系を介して取得された画像の周波数特性はＯＴＦそのものとなる。従って、入力画像（劣化画像）の周波数特性に、画像回復フィルタの周波数特性を掛け合わせれば、回復画像の周波数特性を知ることができる。
【００３２】
式５に画像回復フィルタの周波数特性を表わす式を示す。式５における回復画像の周波数特性は[ｒＯＴＦ]の部分である。
【００３３】
【数１】
2011122283.tif 000003
【００３４】
ここで、Ｍ（ｕ，ｖ）は画像回復フィルタの周波数特性、Ｈ（ｕ，ｖ）は入力画像（劣化画像）の周波数特性（ＯＴＦ）であり、[ｒＯＴＦ]は白色点光源を撮影した画像の回復後の周波数特性である。つまり、画像回復フィルタは撮像系の２つの色成分の伝達関数（１／Ｈ（ｕ，ｖ））と、該２つの色成分のＭＴＦ（ＯＴＦの絶対値）の差が減少するように補正した補正伝達関数と（[ｒＯＴＦ]）に基づいて生成される。言い換えれば、本実施例の画像回復フィルタは被写体から回復画像を得る際の２つの色成分の伝達関数の絶対値の差が、撮像系の２つの色成分の伝達関数の絶対値の差よりも小さくなるように構成される。尚、ＭＴＦは撮像系の伝達関数（撮像光学系の光学伝達関数）の絶対値（振幅成分）であるが、被写体が白色点光源の場合は、ＭＴＦは画像のスペクトルとして捉えることもできる。
【００３５】
また、式５の[ｒＯＴＦ]の部分を色成分間の差が減少するようにした画像回復フィルタは、色収差補正機能を有する。
【００３６】
また、回復画像の位相劣化は零であることが望ましいので、ｒＯＴＦは位相成分を持たないようにすれば更によい。つまり、ｒＯＴＦは実数部のみを有する関数とし、実質的にはＭＴＦと等しくなるようにする。ただし、ｒＯＴＦには許容可能な範囲で、虚数部に値を持たせてもよい。
【００３７】
式５に示した画像回復フィルタを用いれば、点光源に限らず、どのような被写体でも、あたかも光学伝達関数（ＯＴＦ）がｒＯＴＦの特性（点光源を撮影した画像の回復後の周波数特性）を持った撮像系を介して取得することができる。また、色成分間で共通のＯＴＦ（ｒＨ（ｕ，ｖ））を用いることで、あたかも色成分間にＭＴＦの差が無い撮像系で撮影したような画像を得ることができる。
【００３８】
式６に、色収差補正機能を有する、より具体的な画像回復フィルタの周波数特性の一例を示す。
【００３９】
【数２】
2011122283.tif 000004
【００４０】
式６で示した色収差補正の機能を有する画像回復フィルタＭ（ｕ，ｖ）は、右辺の｜ｒＨ（ｕ，ｖ）｜がＯＴＦの絶対値（ＭＴＦ）であるため、回復度合いを決定するパラメータＳＮＲの値に限らず位相成分は消滅する。ＰＳＦは対称な形状に補正することができ、さらに画像の先鋭度も向上させることができる。
【００４１】
式６で示した画像回復フィルタの機能について、図３を用いて説明する。図３の破線（ａ）、実線（ｂ）はそれぞれ第１色成分、第２色成分に対応する回復前のＭＴＦを、破線（ｃ）、実線（ｄ）はそれぞれ第１色成分、第２色成分に対応する回復後のＭＴＦを表している。回復前の画像のＭＴＦは図３（ａ）、（ｂ）のように色成分ごとに異なっているが、回復後のＭＴＦは（ｃ）、（ｄ）のように色成分間で揃っている（差が減少している）。
【００４２】
言い換えれば、本実施例の画像処理方法に用いる画像回復フィルタは、被写体が白色点光源の場合、回復画像における２つの色成分のスペクトルの差が、入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する。この画像回復フィルタを用いることにより画像の色収差を低減しつつ、鮮鋭度を向上させる（回復する）ことができる。ここで、スペクトルの差とはスペクトルの周波数平均の差である。
【００４３】
また、式６では色成分間で共通なｒＨ（ｕ、ｖ）を用いたが、各色成分の回復後のＭＴＦの差が、回復前のＭＴＦの差よりも低減するように各色成分の画像回復フィルタのｒＨ（ｕ、ｖ）を設定することで、色収差の補正量を制御することができる。式７にその方法を表した式を示す。
【００４４】
【数３】
2011122283.tif 000005
【００４５】
式７は色収差補正係数Ｃｎｍ（ｎ、ｍ＝１、２、３）を用いたｒＨ（ｕ、ｖ）の補正方法であり、付帯記号Ｒ、Ｇ、Ｂは各色成分を示している。式８から式１０に色収差補正係数の例を示す。
【００４６】
【数４】
2011122283.tif 000006
【００４７】
式８の場合、ｒＨ（ｕ、ｖ）Ｒ、ｒＨ（ｕ、ｖ）Ｇ、ｒＨ（ｕ、ｖ）Ｂは各色成分のＭＴＦの平均値が共通の画像回復フィルタ生成に用いる値になる。
【００４８】
式９の場合、ｒＨ（ｕ、ｖ）Ｒ、ｒＨ（ｕ、ｖ）Ｇ、ｒＨ（ｕ、ｖ）ＢともにＧ成分を５０％の割合で、Ｒ成分およびＢ成分を２５％ずつの割合で合成（合算）した値が、共通の画像回復フィルタ生成に用いる値になる。
【００４９】
式１０の場合、自分の色成分を５０％の割合で、残りの２つの色成分を２５％ずつの割合で合成（合算）した値が、各色成分ごとの画像回復フィルタが生成に用いる値になる。式１０は各色成分ごとにｒＨ（ｕ、ｖ）の値は異なっているが、他の色成分と混合させているため色収差を低減させることができる。
【００５０】
式１０に挙げたような、ｒＨ（ｕ、ｖ）Ｒ、ｒＨ（ｕ、ｖ）Ｇ、ｒＨ（ｕ、ｖ）Ｂがそれぞれ異なっている場合の、回復前と回復後のＭＴＦの変化を図４に示す。図４の破線（ａ）、実線（ｂ）はそれぞれ第１色成分、第２色成分の回復前のＭＴＦ、破線（ｃ）、実線（ｄ）はそれぞれ第１色成分、第２色成分の回復後のＭＴＦを表している。図３の実線（ｃ）、破線（ｄ）のように一致しなくとも、回復前の図４の破線（ａ）、実線（ｂ）に対して色成分間のＭＴＦ差が低減し、色収差を低減することができる。より好ましくは、第１色成分と第２色成分の、回復前のＭＴＦの差の周波数平均に対して、回復後のＭＴＦの差の周波数平均が、１／２以下となるように補正する。図４の場合、（ａ）と（ｂ）の差の周波数平均に対して、（ｃ）と（ｄ）の差の周波数平均を１／２とすることが好ましい。周波数平均を計算する周波数の範囲は、センサのナイキスト周波数の範囲とする。
【００５１】
つまり、画像回復フィルタを用いて撮像系の２つの色成分のＭＴＦの差を減少させるように回復することにより、色収差を低減することができ、良質な画像を得ることができる。
【００５２】
その他、入力画像がＲＧＢの色成分からなる場合、比視感度の高い色成分（例えば、ＧあるいはＲ）のＭＴＦとその他の色成分（例えば、Ｂ）のＭＴＦの差を減少させる画像回復フィルタとすることにより、視覚的な色付きを低減することができる。
【００５３】
尚、式６で示した画像回復フィルタのＨ（ｕ、ｖ）の部分が色成分ごとに異なるため、ｒＨ（ｕ、ｖ）が色成分間で共通であっても色成分ごとに特性の異なる画像回復フィルタとなる。
【００５４】
本発明の画像回復フィルタは式５以外の変形も可能である。式５の右辺は、１／Ｈ（ｕ、ｖ）と、ｒＯＴＦから成っており、ｒＯＴＦの部分を色成分間で共通にすればよい。
【００５５】
（画像回復処理工程）
次に、生成した画像回復フィルタを用いて、ステップＳ１４において回復画像を得る方法について説明する。
【００５６】
既に説明しているが、画像回復工程においては劣化画像に画像回復フィルタをコンボリューションすることにより、回復画像を得ることができる。ここでは、画像回復フィルタのタップ内に含まれる各画素に対してコンボリューション（畳み込み積分、積和）処理が行われる。コンボリューションは、ある画素の信号値を改善するために、その画素を画像回復フィルタの中心と一致させる。そして、画像と画像回復フィルタの対応画素ごとに画像の信号値と画像回復フィルタの係数値の積をとり、その総和を中心画素の信号値として置き換える処理である。
【００５７】
入力画像に対して画像回復フィルタを作用させたり、コンボリューション処理を行ったりすることの利点は、画像回復処理で画像のフーリエ変換や逆フーリエ変換を行うことなく画像を回復することができる。一般的にコンボリューション処理の負荷は、フーリエ変換を行う負荷に比べると小さい。したがって、画像回復処理を行うにあたって、処理負担を軽減することができる。
【００５８】
尚、画像回復フィルタの縦横のタップ数について既に述べたが、縦横のタップ数が必ずしも同じである必要はなく、コンボリューションの処理を行う際に考慮するようにすれば任意に変更することができる。
【００５９】
その他、本発明の画像回復処理は、画像の劣化過程が線形である方が劣化前の元画像に回復するための逆過程を高精度に処理できるため、入力画像は諸々の適応的な非線形処理が行われていないことが好ましい。つまり、モザイク画像（ＲＡＷ画像）に対して行うことがより好ましい。しかし、入力画像がモザイク画像であってもデモザイク画像であっても本発明の画像回復処理を適用することができる。理由は、色補間処理による劣化過程が線形であれば、画像回復フィルタの生成において、この劣化関数を考慮することで画像回復処理を行うことができるからである。また、回復の要求精度が低い場合や諸々の画像処理が行われた画像しか入手できない場合には、デモザイク画像に対して画像回復処理を行っても色収差を低減するという効果を得ることができる。
【００６０】
（画像出力工程）
以上の処理により取得した回復画像を出力画像として、所望のデバイスに出力する。撮像装置であれば表示部あるいは記録媒体等に出力する。画像回復処理を行った画像に対して、その他の画像処理などを行うのであれば、後の工程を実行するデバイスに画像を出力すればよい。
【００６１】
以上、本発明の画像処理について各工程に分けて順に説明してきたが、各工程のうち、いくつかの工程を同時に処理できる場合はまとめて処理することができる。また、各工程の前後に適宜必要な処理工程を追加することも可能である。さらに、説明に用いた式や等号記号は本発明の画像処理の具体的なアルゴリズムをこれに限定するものではなく、目的を達成しうる範囲で必要に応じた変形が可能である。
【００６２】
以下、上述した画像処理を適用した実施例について説明する。
【実施例１】
【００６３】
図５は実施例１における撮像装置の構成概略図である。不図示の被写体像を撮像光学系１０１で撮像素子１０２に結像する。撮像素子１０２は、結像した光を電気信号に変換（光電変換）し、該電気信号をＡ／Ｄコンバータ１０３がデジタル信号に変換する。そして画像処理部１０４は、該デジタル信号（入力画像）に対して所定の処理と併せて画像処理を行う。ここでの所定の処理とは、例えば、倍率色収差補正、歪曲収差補正、周辺光量補正などの電子収差補正やデモザイキング、ガンマ変換、画像圧縮などの処理である。【００６４】
まず、状態検知部１０７から撮像装置の撮像条件（撮像状態）の情報を得る。状態検知部１０７はシステムコントローラ１１０から直接、撮像条件の情報を得ても良いし、例えば撮像光学系１０１に関する撮像条件情報は撮像光学系制御部１０６から得ることもできる。次に撮像条件に応じた画像回復フィルタを記憶部１０８から選択し、画像処理部１０４に入力された画像に対して画像回復処理を行う。画像回復フィルタは撮像状態に応じて記憶部１０８から選択したものをそのまま用いても良いし、予め用意した画像回復フィルタを補正して、より撮像状態に適した画像回復フィルタに補正したものを用いることもできる。【００６５】
そして、画像処理部１０４で処理した出力画像を画像記録媒体１０９に所定のフォーマットで保存する。この出力画像は色収差が補正され先鋭度が向上した画像である。また、表示部１０５には、画像回復処理後の画像に表示のための所定の処理（補正処理）を行った画像を表示しても良いし、高速表示のために補正処理を行わない、又は簡易的な補正処理を行った画像を表示しても良い。【００６６】
上述した一連の制御はシステムコントローラ１１０で行われ、撮像系の機械的な駆動はシステムコントローラ１１０の指示により撮像光学系制御部１０６で行う。絞り１０１ａは、Ｆナンバーの撮影条件設定として開口径が制御される。フォーカスレンズ１０１ｂは、撮影距離に応じてピント調整を行うために不図示のオートフォーカス（ＡＦ）機構や手動のマニュアルフォーカス機構によりレンズの位置が制御される。【００６７】
先に述べたように、この撮像系にはローパスフィルタや赤外線カットフィルタ等の光学素子を入れても構わない。ローパスフィルタ等のＯＴＦの特性に影響を与える素子を用いる場合には画像回復フィルタを作成する時点でこの素子の影響を考慮すれば、より高精度に回復処理を行うことが可能である。赤外カットフィルタにおいても、分光波長の点像分布関数（ＰＳＦ）の積分値であるＲＧＢチャンネルの各ＰＳＦ、特にＲチャンネルのＰＳＦに影響するため、画像回復フィルタを作成する時点で考慮するとより好ましい。【００６８】
また、撮像光学系１０１は撮像装置の一部として構成されているが、一眼レフカメラにあるような交換式のものであっても良い。絞りの開口径制御やマニュアルフォーカスなどの機能は撮像装置の目的に応じて用いなくても良い。【００６９】
また、ＯＴＦは１つの撮像条件においても撮像系の像高（画像の位置）に応じて変化するので、本発明の画像回復処理を像高に応じて、画像回復フィルタを変更して行うことが望ましい。【００７０】
また、画像処理部１０４は少なくとも演算部と一時的記憶部（バッファー）を有する。上記の画像処理の各工程ごとに必要に応じて一時的に記憶部に対して画像の書き込み（記憶）および読み出しを行う。また、一時的に記憶するための記憶部は前記一時的記憶部（バッファー）に限定せず、記憶部１０８でも良く、記憶機能を有する記憶部のデータ容量や通信速度に応じて好適なものを適宜選択して用いることができる。その他、記憶部１０８には色収差補正係数、画像回復フィルタ、補正情報などのデータが記憶されている。【００７１】
図６を用いて、画像回復フィルタの選択と補正について説明する。図６には、撮像状態情報（撮像条件情報）と該撮像状態情報に基づいて記憶部１０８に格納された複数の画像回復フィルタ（黒丸）を説明するための概念図を模式的に示す。記憶部１０８に格納された画像回復フィルタは、焦点位置（状態Ａ）、絞り値（状態Ｂ）および被写体距離（撮影距離）（状態Ｃ）の３つの撮像状態を軸とした撮像状態空間中に離散的に配置されている。撮像状態空間中の各点（黒丸）の座標が、記憶部１０８に記憶されている画像回復フィルタを示す。尚、図６では、画像回復フィルタを各撮像状態に対して直交した線上の格子点に配置しているが、画像回復フィルタを格子点から外して配置しても構わない。また、撮像状態の種類は、焦点距離、絞り値および被写体距離に限らず、その数も３つでなくてもよく、４つ以上の撮像状態による４次元以上の撮像状態空間を構成して、その中に画像回復フィルタを離散的に配置してもよい。【００７２】
図６において、大きな白丸で示した撮像状態が、状態検知部１０７により検知された実際の撮像状態であるとする。実際の撮像状態位置に対応する位置、またはその近傍に予め格納された画像回復フィルタが存在する場合には、その画像回復フィルタを選択して画像回復処理に用いることができる。実際の撮像状態に対応する位置の近傍の画像回復フィルタを選択する際の１つの方法は、実際の撮像状態と画像回復フィルタが格納された複数の撮像状態との間の撮像状態空間で距離（撮像状態の相違量）を算出する。そして、最も距離の短い位置の画像回復フィルタを選択する方法である。この方法により、図６に小さな白丸で示した位置の画像回復フィルタが選択される。【００７３】
また、他の方法として、画像回復フィルタ選択に撮像状態空間中の方向による重み付けをする方法がある。すなわち、撮像状態空間中の距離と重み付けした方向の積を評価関数として、該評価関数の値が最も高い画像回復フィルタを選択する方法である。【００７４】
次に、選択された画像回復フィルタを補正することで、新たな画像回復フィルタを生成する方法について説明する。画像回復フィルタを補正するにあたり、まず実際の撮像状態と画像回復フィルタが格納された撮像状態との間の撮像状態空間での距離（状態相違量）を算出し、最も距離の短い（状態相違量が最も小さい）位置の画像回復フィルタを選択する。状態相違量が最も小さい画像回復フィルタを選択することで、画像回復フィルタの補正量も少なくすることができ、撮像状態での本来の画像回復フィルタに近い画像回復フィルタを生成することができる。【００７５】
図６では、小さな白丸で示した位置の画像回復フィルタが選択される。この選択された画像回復フィルタに対応する撮像状態と、実際の撮像状態との状態相違量ΔＡ、ΔＢ、ΔＣを算出する。この状態相違量に基づいて状態補正係数を算出し、該状態補正係数を用いて選択された画像回復フィルタを補正する。これにより、実際の撮像状態に対応した画像回復フィルタを生成することができる。【００７６】
また、他の方法として、実際の撮像状態の近傍に位置する複数の画像回復フィルタを選択し、該複数の画像回復フィルタと実際の撮像状態との状態相違量に応じて補間処理することで、撮像状態に適した画像回復フィルタを生成することができる。ここでの補間処理は、２次元の画像回復フィルタ同士の対応タップの係数値を線形補間、多項式補間およびスプライン補間等等を用いて補間すれば良い。【００７７】
また、画像回復フィルタの生成に用いるＯＴＦは、光学設計ツールや光学解析ツールを用いて計算により求めることができる。さらに、撮像光学系単体や撮像装置の実際の状態におけるＯＴＦを、計測して求めることもできる。【００７８】
図７に画像処理部１０４で実行される実施例１の画像回復処理のフローチャートを示す。図中の●印は画像等の画素データを少なくとも一時的に記憶するステップを表す。【００７９】
画像処理部１０４は画像取得工程で入力画像を取得する。次に状態検知部１０７から撮像状態情報を得る（ステップＳ７２）。そして、記憶部１０８から撮像状態に応じた画像回復フィルタを選択し（ステップＳ７３）、画像回復処理工程でこの画像回復フィルタを用いて入力画像に対して回復処理を行い、回復画像を出力する（ステップＳ７４）。【００８０】
次に画像形成に必要なその他の処理を行い回復された画像を出力する（ステップＳ７６）。ここでのその他の処理としては、回復画像がモザイク画像の状態であれば、色補間処理（デモザイキング処理）、シェーディング補正（周辺光量補正）、歪曲収差補正などがある。また、ここで説明したその他の処理を含めた諸々の画像処理は、上記フローの前後や中間に必要に応じて挿入することもできる。【００８１】
ここで、画像回復処理の流れとしてより好ましい例について図８を用いて説明する。図８は、回復処理を行う前と後のＭＴＦの変化を表す。破線（ａ）、実線（ｂ）はそれぞれ画像回復処理を行う前の第１色成分、第２色成分のＭＴＦであり、破線（ｃ）、実線（ｄ）は回復処理を行った後の第１色成分、第２色成分のＭＴＦである。図８に示すように、回復前の２つの色成分のＭＴＦ（ａ）、（ｂ）に対して、画像回復処理を図３、図４で示した回復度合いよりも低い回復度合いで行う。これにより、（ｃ）、（ｄ）のように、ＭＴＦはあまり向上されない（ＭＴＦは低い）状態で、色収差が補正された状態になる。【００８２】
この状態は、収差の位相成分および色収差は補正されているが、先鋭度は低い状態である。このような回復処理を行った回復画像に対してエッジ強調処理を行うことで、エッジ部のみの先鋭度を向上することができるので、画像全体に対して回復処理を行うよりも、ノイズ増幅を抑制することができる。【００８３】
つまり、回復度合いが低い（ＭＴＦの回復量が小さい）回復画像に、エッジ強調処理を行うことにより、色収差を低減しつつ、ノイズの増幅を抑制した画像を得ることができる。【００８４】
さらに好ましくは、ナイキスト周波数内において、画像回復処理において各色成分の回復後のＭＴＦの周波数平均が、回復前の最大のＭＴＦの１．５倍以下とすることが好ましい。以上の処理により、ノイズ増幅を抑制しつつ、色収差が低減された良質な画像を得ることができる。【００８５】
その他に、位相や色収差が補正された画像に対してエッジ強調処理を行うことにより、従来の位相や色収差が補正されていない画像に対してエッジ強調処理を行うよりも対称性が高く色付きの無い高画質な画像を得ることができる。【００８６】
エッジ強調処理については図９を用いて説明する。エッジ強調フィルタの一例を図９に示す。エッジ強調を行うためのフィルタは、図９に示すように、入力画像をそのまま出力するフィルタと微分フィルタの差分によって生成することができる。微分フィルタは１次微分を行うソーベルフィルタや２次微分を行うラプラシアンフィルタなどがよく知られている。図９の微分フィルタはラプラシアンフィルタである。エッジ強調フィルタは隣接画素との画素値の関係により処理を行うため、図のようにタップ数が３×３程度のフィルタがよく用いられている。【００８７】
図１０に図９に示したエッジ強調フィルタを用いた場合のエッジ部分の強調効果を示す。図１０Ａ、Ｂ、Ｃは画像中のエッジ部の輝度をある断面で見たとき図である。横軸は座標、縦軸は振幅を表している。図１０Ａは、画像中のエッジ部分の輝度断面であり、これに微分フィルタでエッジ部を抽出して符号反転したものが図１０Ｂである。元の画像図１０Ａに図１０Ｂを足し合わせることで図１０Ｃのように、エッジの傾きを急峻に強調することができる。エッジ強調処理は特にエッジの急峻な部分にのみ作用し、先鋭化するので画像全体に対してはノイズ増幅の影響が少ないという利点やフィルタのタップ数が比較的小さいため高速な処理が可能であるという利点がある。よって、低い回復度合いの画像回復処理を行った後に、エッジ強調処理をするのがより好ましい。このようにエッジ強調処理と組み合わせる場合には、図７のその他必要な処理にエッジ強調処理を含めれば良い。画像のエッジ部が強調処理が可能なその他の処理としては、シャープネス処理等が挙げられる。【００８８】
以上、各処理工程の好ましい前後関係や考慮すべき処理について説明したが、処理工程の順序に対して別の観点での制約がある場合にはこれに限るものではなく、処理上の制約条件や要求画質に応じて変更しても構わない。また、撮像装置に関する実施例を示したが、その要旨の範囲内で種々の変形及び変更が可能である。
【実施例２】
【００８９】
実施例２では、実施例１で説明した画像回復フィルタを用いて、回復画像の色収差の出具合を調整可能な画像処理方法について説明する。【００９０】
図１１には、実施例２において実行される画像処理方法のフローを示す。以下の説明において、記号ｍは、画像の色成分（例えばＲ，Ｇ，Ｂ）を表す。つまり、Ａｍは（ＡＲ，ＡＧ，ＡＢ）を示し、それぞれＡのＲ成分、ＡのＧ成分、ＡのＢ成分を表す。Ａは図１１のｇ，ｆ，ｆｄ，Ｓ，Ｓｄ等に相当する。【００９１】
ＲＧＢの色成分を有する入力画像ｇｍに対して、色成分ごとに選択又は生成された画像回復フィルタ（第１の画像回復フィルタ）を演算することにより、第１の回復処理を行い、第１の画像ｆｄ１ｍ（第１回復画像）を得る。【００９２】
第１の画像ｆｄ１ｍ（第１回復画像）は、ＯＴＦ（光学伝達関数）の位相成分が補正されているため、鮮鋭度が向上している。また、色成分ごとのＭＴＦが相対的に揃うように補正されているため、色収差が低減している。つまり、被写体が白色点光源の場合、第１の画像ｆｄ１ｍの画像の第１色成分のスペクトルの周波数平均と第２色成分のスペクトルの周波数平均の差が、回復前の画像の第１色成分のスペクトルの周波数平均と第２色成分のスペクトルの周波数平均の差よりも減少する。ただし、第１の画像ｆｄ１ｍには上述したようにノイズや偽色等が含まれている。【００９３】
一方、入力画像ｇｍに対して色成分ごとに選択又は生成された画像回復フィルタ（第２の画像回復フィルタ）を演算することにより、第２の回復処理を行い、第２の画像ｆｄ２ｍ（第２回復画像）を得る。第２の画像ｆｄ２ｍは、第１の画像ｆｄ１ｍよりもＭＴＦの補正量を低く設定する。言い換えれば、被写体が白色点光源の場合、第２の画像ｆｄ２ｍの特定の色成分の画像のスペクトルの周波数平均が、第１の画像ｆｄ１ｍの該特定の色成分の画像のスペクトルの周波数平均よりも低い。ただし、第２の回復処理も、第１の回復処理のように色成分ごとのＯＴＦの振幅成分（ＭＴＦ）の差が、回復前より低減するように回復することがより好ましい。【００９４】
尚、第２の画像ｆｄ２ｍとしては上述した第２の回復処理を行わずに、入力画像を用いることもできる。【００９５】
第１の画像ｆｄ１ｍから第２の画像ｆｄ２ｍを式１１のように対応する画素ごとに信号値を減算することで、第１の画像ｆｄ１ｍと第２の画像ｆｄ２ｍの色成分ごとの差分情報としての回復成分情報Ｓｍ（差分情報）を生成する。【００９６】
【数５】
2011122283.tif 000007
【００９７】
そして、式１２のように、色成分ごとに回復成分情報Ｓｍを回復強度調整係数μｍに応じて第２の画像ｆｄ２ｍに合成することで、回復調整画像（出力画像）としての補正画像ｆｍを得る。【００９８】
【数６】
2011122283.tif 000008
【００９９】
補正画像ｆｍは、式１２から分かるように、回復強度調整係数μｍが０のときに第２の画像ｆｄ２ｍとして得られ、回復強度調整係数μｍが１のときに第１の画像ｆｄ１ｍとして得られる。また、回復強度調整係数μｍが０から１の間においては、第２の画像ｆｄ２ｍから第１の画像ｆｄ１ｍの間で連続的に回復度合いが調整される。【０１００】
ここで、回復成分情報Ｓｍの演算量（加算量）を調整することで回復度合いが制御できる。尚、回復強度調整係数μは負の係数であってもよい。【０１０１】
従来の方法では、回復度合いを変更する度に画像回復フィルタの再計算や画像回復フィルタと入力画像とのコンボリューション処理が必要となってしまう。しかし、以上説明した画像処理方法によれば、回復度合いを変更しても、画像回復フィルタの再計算や画像回復フィルタと画像の再コンボリューション処理を行う必要が無いので、画像処理の負担を軽減することができる。以下に図１１の各工程や画像について順に説明する。【０１０２】
「入力画像ｇｍ、出力画像ｆｍ」
入力画像ｇｍや出力画像ｆｍには、レンズの焦点距離（ズーム位置）、絞り値、撮影距離（合焦距離）等の撮像状態を含む画像を補正するための各種の補正情報を付帯することができる。特に、本実施例では、補正情報に回復強度調整係数μ、色合成比調整係数ωを含む。【０１０３】
撮像から出力までの一連の処理を１つの閉じた撮像装置で行う場合には、画像に撮像状態情報や補正情報を付帯しなくとも装置内で取得することもできる。撮像装置からＲＡＷ画像を取得し、別の画像処理装置で補正処理や現像処理を行う場合には、上記のように画像に撮像状態情報や補正情報を付帯することが好ましい。【０１０４】
ただし、画像処理装置側に予め補正情報が記憶されており、撮像状態情報から補正係数を選択可能なシステムを構成すれば、必ずしも画像に補正情報を付帯する必要はない。補正情報は初期値として上記のように補正係数を得ることができるが、ユーザーが補正係数値を変更することもできる。撮像装置に装備されたモニタや、画像処理装置が撮像装置とは別の装置である場合に、画像処理システムの一部として装備されたモニタを用いてユーザーが出力画像を評価しながら補正係数を変更することで、好みの出力画像を得ることができる。【０１０５】
「第１の画像（第１回復画像）ｆｄ１ｍ」
第１の画像ｆｄ１ｍは、撮像系と画像回復フィルタを含めた系の２つの色成分に対する伝達関数のＭＴＦの差が、撮像系の２つの色成分に対する伝達関数のＭＴＦの差よりも減少するように回復する画像回復フィルタにより生成される。この画像回復フィルタの詳細については実施例１で述べた画像回復フィルタである。【０１０６】
言い換えれば、被写体像が合焦した白色点光源である場合、２つの色成分の回復画像のスペクトルの差を、入力画像のスペクトルの差よりも低減させる画像回復フィルタを用いた画像回復処理により、第１の画像ｆｄ１ｍが得られる。第１の画像ｆｄ１ｍが必要な画質を満たしていれば、補正画像ｆｍ（回復調整画像）として用いることができる。【０１０７】
図１２に画像の入力から第１の画像ｆｄ１ｍが生成されるまでの処理工程のフローを示す。図中●印は画像データをメモリ等の記憶手段に記憶する工程を表している。【０１０８】
まず画像取得工程で、入力画像を取得する。画像回復フィルタ取得工程で、入力画像の撮像状態に対応する画像回復フィルタを選択、または補正して取得する。この画像回復フィルタの選択、補正に関しては後述する。次の画像回復工程では、画像回復フィルタを用いて、画像の劣化した位相成分を低減する（好ましくは零にする）ように、また振幅成分を向上させるとともに、色成分間の差を低減する（色成分間で揃う）ように補正する。この画像回復工程により第１の画像ｆｄ１ｍを得る。言い換えれば、被写体像が合焦した白色点光源である場合、該画像回復フィルタは、回復画像（第１の画像ｆｄ１ｍ）における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する。【０１０９】
「第２の画像（第２回復画像）ｆｄ２ｍ」
第２の画像ｆｄ２ｍは、位相成分のみを回復する画像回復フィルタ、あるいは位相成分、振幅成分ともに回復するが第１の画像ｆｄ１ｍより、（振幅成分の）回復度合いの低い画像回復フィルタを用いた画像回復処理（第２の画像回復処理）により得られる。【０１１０】
好ましくは、第２の画像ｆｄ２ｍは、第１の画像ｆｄ１ｍのように、入力画像と比べて色成分間の振幅成分（ＭＴＦ）の差が減少するように、あるいは相対的に揃うように回復処理が行われていることがより好ましい。【０１１１】
さらに好ましくは、第２の画像ｆｄ２ｍは、位相の劣化成分が零に補正され、振幅成分が色成分間で揃っていることが好ましい。【０１１２】
第１の画像ｆｄ１ｍ、第２の画像ｆｄ２ｍがともに色成分間の振幅成分の差が回復により減少、あるいは回復後に揃っていれば（色収差が補正されていれば）、回復度合いの高低に関わらず、色収差が低減された補正画像を得ることができる。【０１１３】
また、第２の画像ｆｄ２ｍとして入力画像を用いることもできる。この場合、回復度合いを最も低くした状態では補正画像ｆｍ（回復調整画像）として入力画像が得られ、回復度合いを高くするに従って、ＭＴＦが向上し鮮鋭度が向上するとともに、色成分間のＭＴＦの差が減少し色収差も補正される。【０１１４】
例えば、図８において説明した画像回復フィルタを、第２の画像ｆｄ２ｍを得るための画像回復処理における画像回復フィルタとして用いればよい。この画像回復フィルタを用いれば、ＭＴＦを２つの色成分間で揃えることで色収差を補正することができる。この状態は、収差の位相成分および色収差は補正されているが、鮮鋭度が低い（ＭＴＦが低い）状態である。【０１１５】
言い換えれば、第２の画像ｆｄ２ｍを生成する画像回復フィルタは、撮像系（撮像光学系）の２つの色成分の伝達関数（光学伝達関数）と、該２つの色成分の伝達関数の絶対値成分（ＭＴＦ）の差が減少するように補正したＯＴＦとに基づいて生成される。該画像回復フィルタは、前記第１の画像ｆｄ１ｍを生成する画像回復フィルタよりも低い回復度合い（第１の画像ｆｄ１ｍを生成する際のＭＴＦより第２の画像ｆｄ２ｍを生成する際のＭＴＦの方が低い）ことを特徴とする。さらに限定すれば、特定の色成分のＭＴＦの周波数平均が前記第１回復画像よりも前記第２回復画像の方が小さい。画像の入力から第２の画像ｆｄ２ｍが生成されるまでの処理工程のフローは図１２に示した第１の画像を生成するまでと同じである。【０１１６】
「回復成分情報Ｓｍ」
第１の画像ｆｄ１ｍから第２の画像ｆｄ２ｍを式１１のように減算する（色成分および画素ごとの減算処理を行う）ことで、色成分ごとの回復成分情報Ｓｍ（差分情報）を生成することができる。撮像系（撮像光学系）で劣化した位相成分（位相劣化成分）が揃うように補正されている場合、第１の画像ｆｄ１ｍおよび第２の画像ｆｄ２ｍの位相成分の状態は実質的に等しいが、振幅成分の状態は異なっている。したがって、回復成分情報Ｓｍは、第１の画像ｆｄ１ｍと第２の画像ｆｄ２ｍの振幅成分の差分情報ということができる。【０１１７】
ここで、位相成分の状態は、第１の画像ｆｄ１ｍおよび第２の画像ｆｄ２ｍともに、撮像系による位相劣化成分が十分に除去された状態として揃っていることが望ましい。一方、振幅成分の状態は、後述する回復強度調整係数により回復度合いを制御できるため、異なった状態である必要がある。【０１１８】
このため、回復成分情報Ｓｍは、第２の画像ｆｄ２ｍの位相ずれ以外の収差成分と画像回復処理により発生したノイズ（ノイズの増加成分）やリンギングの成分、さらに偽色の成分も含んでいる。【０１１９】
「回復強度調整係数μｍおよび補正画像ｆｍ」
上記、色成分間の色収差の差を低減される画像回復フィルタを用いて回復処理を行った回復画像は、色収差が低減されている。しかし、一般的に被写体は奥行きがあり、実際に撮像された状態で発生している収差特性と画像回復フィルタが想定している収差特性とに相違がある場合には、回復画像にアーティファクトとしてリンギング等の弊害が発生することがある。【０１２０】
さらに、２つの色成分で回復度合いが想定しているものと異なると、回復画像に色付き、すなわち偽色が発生してしまうことがある。この偽色も、ノイズやリンギングと同様にアーティファクトの１つである。偽色は、製造誤差によりエッジ部が回復処理前の画像よりも色付いた状態になることで発生する。あるいはは、太陽の反射光が強いために発生した輝度飽和により、輝度飽和部の周辺が回復処理前の画像よりも色付いた状態になることで発生する。あるいは、ピントずれによりエッジ部が回復処理前の画像よりも色付いた状態になることで発生する。【０１２１】
そこで、回復度合い（回復強度）を調整可能な回復強度調整係数μを用いる。これにより、画像回復に伴う色付き（偽色）、ノイズ、リンギング等の弊害発生リスクと回復度合いとのバランスを制御することが可能となる。画像回復フィルタの補正特性に対応した収差特性と画像の収差特性が異なっている場合においても、偽色やリンギング等のアーティファクトの発生を抑えた良質な画質をえることができる。以下、回復強度調整係数μについて説明する。【０１２２】
式１２に示すように、色成分ごとに回復成分情報Ｓｍを回復強度調整係数μｍに応じて第２の画像ｆｄ２ｍに合成することで、補正画像ｆｍを得る。補正画像ｆｍは回復強度調整係数μｍが０のときに、補正画像ｆｍとして第２の画像ｆｄ２ｍが得られ、回復強度調整係数μｍが１のときに第１の画像ｆｄ１ｍが得られる。また、回復強度調整係数μｍが０から１の間で調整可能であるので、第２の画像ｆｄ２ｍから第１の画像ｆｄ１ｍの間で連続的に回復度合いを調整することができる。【０１２３】
第２の画像ｆｄ２ｍと回復成分情報Ｓｍは共に位相成分と色収差が補正され、振幅成分（ぼけ量）のみが異なる状態である。このため、回復度合いの調整量（回復強度調整係数μの値）を変えても位相成分や色収差が変動することは無く、色収差が補正された状態を維持しながらも、鮮鋭度を調整することができる。【０１２４】
つまり、色収差を補正しつつ、画像回復処理による弊害（偽色、リンギング、ノイズの増幅）を考慮しながら鮮鋭度を高めることができるので、より質の高い画像を得ることができる。【０１２５】
また、ユーザが所望の画質を有する画像を処理負担の増大を抑えつつ提供することができる。【０１２６】
また、回復強度調整係数μの基本範囲は、０≦μ≦１であるが、μ＞１とすることで強調補正した画像を得ることもできる。つまり、回復強度調整係数μは、可変に設定可能である。【０１２７】
さらに、回復強度調整係数μを色成分ごとに変更すると、色成分ごとに回復度合いを調整することができる。これは、被写体の照明光源の分光変動や撮像光学系の製造誤差等の要因で、色成分ごとに光学伝達関数（ＯＴＦ）が変化し、色収差のバランスが変化した場合に、色成分ごとの回復度合いの強弱を調整するのに有効である。照明光源の分光特性が変化することは、波長ごとの強度比が変化することであるため、色成分ごとに収差量が変化する。したがって、撮影時の分光特性に応じて回復強度調整係数μを色成分ごとに設定することで、各色成分に適した補正画像ｆｍを得ることができる。【０１２８】
また、撮像光学系に製造誤差がある場合の影響の１つに、例えば、画像の左右対称な位置で劣化度合いが異なることがあり、この劣化度合いの差異は、画像上でのぼけ成分やその相対的な色付き成分の差異として現れる。ぼけ成分については、回復強度調整係数μを画像の位置によるぼけ量の変動に応じて設定することで、製造誤差を吸収することができる。また、画像の位置による色付き量の変動に応じて回復強度調整係数μを色成分ごとに設定することで、製造誤差を吸収することができる。【０１２９】
出力画像の画質の評価は目的に応じて異なる。例えば、ポートレートの場合、ノイズやリンギングは非常に邪魔な存在である。一方、監視カメラなどで、車のナンバープレートから数字を読み取りたい場合にはノイズやリンギングがあっても、数字を特定することが最重要となる。また、何らかの要因でノイズやリンギングや偽色等の弊害が画像に大きく現れた場合、出力画像として回復度合いが低くても十分に弊害の無い画像を出力できることは出力画像の保障として重要である。これらの場合に対して、回復強度調整係数μを調整することで対応を行うことができる。【０１３０】
また、一般の写真撮影においても、収差が残っていることでフレアが存在する柔らか味のある画像から収差を除去した鮮鋭な画像まで出力画像として要求される画質はユーザーや被写体によって様々である。この場合に対しても回復強度調整係数μを調整することで対応を行うことができる。【０１３１】
また、式１１を変形して、第２の画像ｆｄ２ｍから第１の画像ｆｄ１ｍを減算して回復成分情報を抽出してもよい。この場合、式１１を変形して、第２の画像ｆｄ２ｍからこの回復成分情報を回復強度調整係数に応じて減算（これも「合成」に含む）しても、数式上は等価であり、同じ効果が得られる。【０１３２】
上記のように回復度合いを変更するためには、従来は画像回復フィルタを生成する際のパラメータを変更する必要があったため、回復度合いを変更する度に画像回復フィルタを再計算する必要があった。さらに、再計算した画像回復フィルタを用いて入力画像に対してコンボリューション処理を行う必要があった。これは画像処理を高速に行うための大きな障壁となっていた。【０１３３】
しかし、実施例２の画像処理方法では、回復度合いを調整する場合にも、画像の合成比を変化させるだけであるので、画像回復フィルタを再計算する必要がない。さらに、調整パラメータの変更の度に入力画像に対してコンボリューション処理を行う必要もない。また、回復度合いを下げても収差の非対称性が少なくとも点対称な状態に補正されているため、倍率色収差が除去された状態で変動が無く、コマ収差の特徴である像の流れも補正される。【０１３４】
図１３は本実施例の画像処理方法（画像回復処理）のフロー、特に調整パラメータ設定に関するフローである。撮影画像を入力画像とし、初期値としての回復パラメータを用いて画像回復フィルタを生成するか、初期値として予め用意された画像回復フィルタを用いて入力画像に対して画像回復処理を行う。この回復画像に対して予め用意された調整パラメータか、ユーザーが設定した調整パラメータか、画像情報から自動的に決定された調整パラメータを用いて画像合成処理を行い、回復調整画像とする。この回復調整画像を評価して、そのまま出力画像とするか再度、回復度合いを変更するかを判定する。回復度合いを変更する場合には、調整パラメータを変更し、再度、画像合成処理を行う。ここにいう調整パラメータが、上述した回復強度調整係数μである。【０１３５】
このように、従来の画像回復処理と本実施例の画像回復処理では、調整時の画像回復フィルタの再計算の必要の有無および画像回復処理である入力画像と画像回復フィルタのコンボリューション処理の必要の有無の点で大きく異なる。【０１３６】
また、出力画像としての採用の可否の判定や、回復度合いの変更に伴う調整パラメータの変更は、ユーザーが主観的な評価に基づいて行ってもよいし、予め画像の評価関数を設定しておいて自動的に行ってもよい。【０１３７】
さらに、入力画像の画素の特徴量に応じて自動的に調整パラメータを変更することもできる。「画素の特徴量」とは、入力画像の部分的なコントラストや輝度レベル等である。画像の部分的なコントラストの高低を検出する方法として、例えば微分フィルタを用いる方法が知られている。これを用いることで、画像中のエッジ部とそうでない部分を分離することができる。エッジ部の鮮鋭度は画像全体の鮮鋭度に影響するので、エッジ部については回復度合いが高くなるように調整パラメータを設定する。一方、エッジ部でない比較的濃淡の少ない部分は回復度合いを高くしても画像全体の鮮鋭度には影響せず、むしろこの部分のノイズを増強してしまうと弊害となるので、回復度合いが低くなるように調整パラメータを設定する。【０１３８】
また、輝度レベルが低い部分は、本来の画像信号とノイズ信号のＳＮ比が低いため、回復度合いを高くするとノイズが目立ち易いので、回復度合いが低くなるように調整パラメータを設定する。一方、輝度飽和をしている部分は、本来の画像信号が撮像素子のレンジの上限でクリップ（制限）されており、ここでは収差の状態も想定している状態とは大きく異なるので、画像回復による弊害が発生し易い。そこで、回復度合いが低くなるように調整パラメータを設定することで弊害を回避することができる。【０１３９】
その他にも、被写体を認識して被写体の種別に応じた回復度合いの調整を行うことができる。例として、近年のデジタルカメラには顔認識機能が搭載されている。しかし、画像回復により人物の顔にノイズや偽色などのアーティファクトが発生すると、非常に不自然な画像になってしまうため、回復度合いを適度に調整することが好ましい。【０１４０】
また、画素の特徴量に応じて調整パラメータを変更することは、画像の位置によって調整パラメータを変更することを意味している。本実施例では、画像合成処理において画像を画素単位で合成するので、その際の混合比を変更するだけで比較的容易に調整することができる。このように画素単位で回復度合いを調整できることも本実施例の特徴の１つである。【０１４１】
調整パラメータの設定値は、他にもＩＳＯ感度、焦点距離（ズーム位置）、被写体距離（合焦距離）、絞り値等の撮像状態に応じて変更することもできる。【０１４２】
また、本発明の画像処理方法の基本的なフローを説明したが、ここで説明した工程のうちいくつかの工程を一括して同時に行ってもよい。また、各工程の前後に適宜必要な処理工程を追加することも可能である。さらに、説明に用いた式や等号記号は本発明の画像処理方法の具体的なアルゴリズムをこれに限定するものではなく、必要に応じて変形が可能である。【０１４３】
本実施例の画像回復処理（画像処理方法）を撮像装置にて実行させる場合は、図５に示した画像処理部１０４で実行される。図１４に、画像処理部１０４で実行される本実施例の画像回復処理に関わる具体的なフローを示す。図中の●印は画像等の画素データを少なくとも一時的に記憶するステップを表す。【０１４４】
画像処理部１０４は、画像取得工程（画像取得ステップ）で入力画像を取得する。次に、画像処理部１０４は、状態検知部１０７から撮像状態情報を得て、記憶部１０８から撮像状態に応じた画像回復フィルタを選択する。そして、画像回復工程（画像回復ステップ）で、画像処理部１０４は、画像回復フィルタを用いて入力画像に対して回復処理を行う。画像回復工程では、振幅成分および位相成分を補正（回復）した第１の画像と、位相成分のみを補正（回復）した第２の画像とを生成する。【０１４５】
回復成分情報生成工程（回復成分情報生成ステップ）では、画像処理部１０４は、第１の画像と第２の画像の各画素の信号値の差分から回復成分情報を生成する。回復成分情報は、第１の画像と第２の画像との差分情報であるため、値としては正の値や負の値を持っている。【０１４６】
そして、この回復成分情報生成工程（差分情報取得工程）では、画像処理部１０４は、回復強度調整係数μとしての調整パラメータの設定値を取得する。調整パラメータの設定方法としては、撮像状態や像高に応じて予め用意された設定値から自動的に選択して用いることができる。また、画像から画素の特徴量を判別して自動的に調整パラメータを変更して設定することができる。または、ユーザーが任意に設定することもできる。【０１４７】
次に、回復画像生成工程（回復調整画像生成工程）で、画像処理部１０４は、調整パラメータに応じて回復成分情報を第２の画像に合成して補正画像を生成する。具体的には、回復成分情報の各画素値に回復強度調整係数μを乗じた画素値を画素ごとに第２の画像に加えることで補正画像を得る。【０１４８】
次に、画像処理部１０４は、画像形成に必要なその他の処理を行い、回復された画像（補正画像）を出力する。ここでの「その他の処理」としては、補正処理を受けた画像がモザイク画像であれば、色補間処理（デモザイキング処理）を行う。その他、エッジ強調処理、シェーディング補正（周辺光量補正）、歪曲収差補正等がある。また、ここで説明したその他の処理を含めた種々の画像処理は、上記フローの前後や中間に必要に応じて挿入することもできる。【０１４９】
以上、各処理工程の好ましい前後関係や考慮すべき処理について説明したが、処理工程の順序はこれに限るものではなく、処理上の制約条件や要求画質に応じて変更しても構わない。また、本実施例では、補正処理において位相成分のみを回復する処理を行っているが、前述したように、ノイズ増幅が許容範囲である場合には振幅成分に多少の変化を与えてもよい。【０１５０】
また、画像処理部１０４は、少なくとも演算部と一時記憶部（バッファー）とを有する。上記の画像処理の工程ごとに必要に応じて一時記憶部に対して画像の書き込み（記憶）および読み出しを行う。一時的記憶部として、記憶部１０８を用いてもよい。
【実施例３】
【０１５１】
実施例３では、画像回復処理に伴う偽色の発生をさらに抑制する画像処理方法について説明する。図１５は、色成分ごとの回復成分情報Ｓｍを色合成比調整係数ωに応じて色合成することで、色成分ごとの色合成回復成分情報Ｓｄｍを生成し、この色合成回復成分情報Ｓｄｍを第２の画像Ｓｍに合成する処理のフローを示している。【０１５２】
色合成比調整係数ωは、各色成分について全ての色成分の回復成分情報（差分量）Ｓｍをこの色合成比調整係数ωに応じて色合成することにより色合成回復成分情報（差分情報）Ｓｄｍを生成するための係数であり、色成分の混合比である。したがって、回復成分情報Ｓｍから色合成回復成分情報Ｓｄｍを生成する処理は、式１３およびこれを色成分ｍ，ｎについて展開して記した式１４として表現することができる。【０１５３】
【数７】
2011122283.tif 000009
【０１５４】
【数８】
2011122283.tif 000010
【０１５５】
次に、式１４の９つの色合成比調整係数ωの決定方法について説明する。はじめに、色合成比調整係数ωの２つの例について説明する。【０１５６】
１つ目は、回復強度調整係数μを１とした場合に、補正画像として第１の画像ｆｄ１ｍと同じ画像を得るための色合成比調整係数ωである。式１４の色合成比調整係数ωの対角成分を１として残りの成分を０として単位行列をとすると、色合成回復成分情報Ｓｄｍは、それ自身の色成分の回復成分情報Ｓｍと等しくなる。これは、補正画像ｆｍを第１の画像ｆｄ１ｍと同じ画像として出力する場合の係数設定である。この場合、前述した通り、補正画像としては収差成分を最大限に補正しようとするものであるが、同時に偽色の発生リスクも大きい。【０１５７】
２つ目は、偽色を発生させないための色合成比調整係数ωである。式１４の色合成比調整係数ωの全要素を１／３とおくと、色合成回復成分情報Ｓｄｍは全ての色成分の回復成分情報Ｓｍを平均化したものになり、色合成回復成分情報ＳｄＲ，ＳｄＧ，ＳｄＢともに同じものになる。色合成回復成分情報Ｓｄｍが全ての色成分で等しいということは、この後の工程で第２の画像ｆｄ２ｍに色合成回復成分情報Ｓｄｍを合成する際に、色成分に関する付加情報の相違が無いことになるので、偽色が発生しない。【０１５８】
ただし、各色成分の収差情報を平均化しているので、１つ目の第１の画像ｆｄ１ｍを出力画像とする場合に比べて回復度合い、すなわち鮮鋭度は低下することになる。しかし、回復成分情報Ｓｍを平均化しても、各色成分の回復成分情報ＳＲ，ＳＧ，ＳＢの間には少なからず正の相関（類似性）があるので、入力画像ｇｍに対して補正画像の鮮鋭度は向上している。したがって、これが偽色の発生リスクを除去した回復条件となる。【０１５９】
上では、偽色の発生リスクを最大化した場合と最小化した場合の色合成比調整係数ωの設定について説明した。この色合成比調整係数ωを連続的に変化させることで、偽色の発生リスクと回復度合いのバランスを連続的に調整することができる。【０１６０】
式１４の色合成比調整係数ωを単位行列とした場合と全て１／３とした場合以外の中間的な色合成比調整係数ωの決定方法の例を以下に説明する。色合成比調整係数ωは、９つの設定自由度を有しているため、各要素値の設定が難しい場合がある。色合成比調整係数ωは可変に設定可能であり、例えば、撮像装置や画像処理システム上で一般ユーザーがこの色合成比調整係数ωを可変に設定する場合がその一つの例である。【０１６１】
この困難性を解決するために、色合成比調整係数ωの各要素間に従属関係を持たせて、制御する自由度を低減する。ただし、この従属関係は、回復度合いと偽色の発生リスクとのバランスを調整できる関係である必要がある。また、撮像装置や画像処理システムを提供する側としても好適な調整パラメータを少ない自由度で制御できることは、装置の開発工程や生産工程での作業効率を向上することができる。【０１６２】
色合成比調整係数ωの決定方法の例として、はじめに２つの制約条件を設ける。１つ目の制約条件は、式１５のように、式１４の行列ωの行ごとの和をそれぞれ１とするものである。これは、例えばＲ成分の色合成回復成分情報ＳｄＲを生成するための回復成分情報ＳＲ，ＳＧ，ＳＢの混合比を正規化していることを意味している。このように混合比を正規化することで、異なる色合成回復成分情報Ｓｄｍ間でそれぞれ如何なる比率で重み付けされているかが容易に比較できるようになる。【０１６３】
【数９】
2011122283.tif 000011
【０１６４】
２つ目の制約条件は、式１６のように、式１４の行列ωの列ごとの和を１とするものである。これは、各色合成回復成分情報ＳｄＲ，ＳｄＧ，ＳｄＢを生成する際に、回復成分情報ＳＲ，ＳＧ，ＳＢを各色成分に分配してそれぞれ使い果たすことを意味している。【０１６５】
【数１０】
2011122283.tif 000012
【０１６６】
上記の２つの制約条件を設けると、色合成比調整係数ωは式１７のように表現することができる。【０１６７】
【数１１】
2011122283.tif 000013
【０１６８】
さらに、本実施例の目的は、回復度合いを確保しながら偽色の発生リスクを抑制することであるので、各色合成回復成分情報Ｓｄｍは色成分間での類似性が高い、すなわち相違が小さい方が好ましいことになる。前述したω＝１／３とした場合の説明は、各色合成回復成分情報Ｓｄｍの色成分間での相違が無いために偽色の発生リスクが最小、すなわち偽色の発生が無い状態であった。したがって、ある色成分の回復成分情報Ｓｍを各色成分の色合成回復成分情報Ｓｄｍにできるだけ均等に配分すればよいことになるので、式１７の各列の分散が小さい方が偽色の発生リスクを低減できる。【０１６９】
これに基づいて、式１７の各列の分散を最小化すると、式１８のように記すことができる。式１８は、設定パラメータがωの１つになっているので、回復度合いと偽色の発生リスクのバランスの調整を容易に制御することができる。【０１７０】
【数１２】
2011122283.tif 000014
【０１７１】
式１８においてω＝１とすると、行列ωは単位行列となり、回復度合いと偽色の発生リスクがともに最大になる。また、ω＝１／３とすると、行列ωは全ての要素が１／３となり、回復度合いが低下するとともに偽色の発生リスクが無くなる。したがって、１／３≦ω≦１の範囲で色合成比調整係数ωを低下させていくと、偽色の発生リスクを低減していく調整が可能となる。【０１７２】
ここでは、色合成比調整係数ωの決定方法の例を示したが、決定方法に関してはこれに限るものではない。例えば、行列ωの全要素を０（ゼロ）にすると、色合成回復成分情報Ｓｄｍが全ての色成分で０（ゼロ）になるので、補正画像ｆｍは第２の画像ｆｄ２ｍそのものとなる。このように、０≦ω≦１の範囲で色合成比調整係数ωを調整することで、位相成分のみ回復した第２の画像ｆｄ２ｍから、振幅成分および位相成分を回復した第１の画像ｆｄ１ｍまでの範囲で出力画像を調整して得ることができる。また、式１４を１よりも大きく設定することで、さらに補正を強調させることも可能である。【０１７３】
このように、行列ωの各要素の設定自由度は１つに限定せず、９つの自由度や別の制約条件に基づいて低減された自由度で調整することもできる。例えば、式１６に基づいて設定すれば自由度は６である。【０１７４】
また、色合成比調整係数ωの範囲についても、上記した補正画像ｆｍとして入力画像や強調画像を得る場合のように、１／３≦ω≦１に限定せず設定することもできる。すなわち、式１８は、回復度合いと偽色の発生リスクを１つの設定パラメータωで容易に決定するための例にすぎない。本実施例の本質は、回復成分情報Ｓｍを色成分間で合成し、色合成回復成分情報Ｓｄｍの色成分間の類似性を制御することで、偽色の発生リスクを抑制することである。【０１７５】
また、式１９のように色合成比調整係数ωと回復成分調整係数μを組み合わせて制御することもできる。これらを組み合わせることにより、色合成比調整係数ωは１／３≦ω≦１の範囲として偽色の発生を抑制し、回復成分調整係数μの範囲を０≦ω≦１として回復度合いを制御することが可能である。【０１７６】
【数１３】
2011122283.tif 000015
【０１７７】
回復成分調整係数μを色成分で共通にして、式２０のようにすることもできる。【０１７８】
【数１４】
2011122283.tif 000016
【０１７９】
また、上記のように色成分間の回復成分情報Ｓｍを色合成する際には、各画素に複数の色成分情報を持っていることが必要になる。したがって、上記の画像回復処理を各画素に１つの色成分情報しか持たないモザイク画像で行う場合には、この色合成処理を行う前に色補間処理（デモザイキング処理）を行う必要がある。そのために、各色成分の回復成分情報Ｓｍに対して色補間処理を行うか、あるいは第１の画像ｆｄ１ｍと第２の画像ｆｄ２ｍに対してそれぞれ色補間処理を行うことで、各画素に複数の色成分情報をもった回復成分情報Ｓｍを生成すればよい。【０１８０】
以上説明したように、色合成比調整係数ωを用いることで、色収差を補正しつつ、画像回復処理により生じてしまう偽色の発生リスクも低減することが可能となり、より良質な画像を得ることができる。
【実施例４】
【０１８１】
図１６Ａには、本発明の実施例２である画像処理システムの構成図を示した。画像処理装置１１１は、情報処理装置により構成され、実施例１から３にて説明した画像処理方法を該情報処理装置に実行させるための画像処理ソフトウェア（画像処理プログラム）１１２を搭載している。撮像装置１１３は、カメラ、顕微鏡、内視鏡、スキャナ等を含む。記憶媒体１１４は、半導体メモリ、ハードディスク、ネットワーク上のサーバー等、撮像により生成された画像（撮影画像データ）を記憶する。【０１８２】
画像処理装置１１１は、撮像装置１１３または記憶媒体１１４から画像データを取得して、所定の画像処理を行った出力画像（補正画像）データを出力機器１１６、撮像装置１１３および記憶媒体１１４の少なくとも１つに出力する。また、出力先を画像処理装置１１１に内蔵された記憶部にし、該記憶部に出力画像データを保存しておくこともできる。出力機器１１６としては、プリンタ等が挙げられる。画像処理装置１１１には、モニタである表示機器１１５が接続されており、ユーザはこの表示機器１１５を通して画像処理作業を行うとともに、回復調整画像（出力画像）を評価することができる。画像処理ソフトウェア１１２は、画像回復処理機能および回復度合い調整機能の他に、必要に応じて現像機能やその他の画像処理機能を有している。【０１８３】
また、図１６Ｂには、別の画像処理システムの構成を示している。実施例１のように、撮像装置１１８単体で実施例１の画像処理を行う場合は、撮像装置１１８から直接、出力機器１１９に回復調整画像を出力することができる。【０１８４】
また、出力機器１１９に、実施例１の画像処理方法を実行する画像処理装置を搭載することで、出力機器１１９で画像の特徴量に応じて調整係数を設定し、回復度合いの調整を行うことも可能である。さらに、出力機器１１９の出力画像の劣化特性に応じて回復度合いを調整することで、より高画質な画像を提供することができる。【０１８５】
ここで、位相劣化成分および振幅劣化成分の補正処理を含む画像回復処理および回復度合いの調整を含む画像処理を行うための補正情報の内容と、その受渡しについて説明する。図１７に補正情報の一例を示し、この複数の補正情報を補正情報セットと記す。各補正情報について以下に説明する。【０１８６】
「補正制御情報」
補正制御情報は、撮像装置１１３、画像処理装置１１１および出力機器１１６のどれで補正処理を行うかを示す設定情報と、該設定情報に応じて他の機器に伝送するデータを選択するための選択情報である。例えば、撮像装置１１３で画像回復処理のみ行い、画像処理装置１１１で回復度合いの調整を行う場合、画像回復フィルタを画像処理装置１１１に伝送する必要は無いが、少なくとも第２の画像と第１の画像又は回復成分情報とを伝送する必要がある。【０１８７】
「撮像装置情報」
撮像装置情報は、製品名称に相当する撮像装置１１３の識別情報である。レンズとカメラ本体が交換可能な場合はその組み合わせを含む識別情報である。【０１８８】
「撮像状態情報」
撮像状態情報は、撮影時の撮像装置１１１の状態に関する情報である。例えば、焦点距離（ズーム位置）、絞り値、被写体距離（合焦距離）、ＩＳＯ感度、ホワイトバランス設定等である。【０１８９】
「撮像装置個別情報」
撮像装置個別情報は、上記の撮像装置情報に対して、個々の撮像装置の識別情報である。製造誤差のばらつきにより撮像装置の光学伝達関数（ＯＴＦ）は個体ばらつきがあるため、撮像装置個別情報は個々に最適な回復度合い調整パラメータを設定するために有効な情報である。回復度合い調整パラメータとは、回復強度調整係数μや色合成比調整係数ωである。【０１９０】
「画像回復フィルタ群」
画像回復フィルタ群は、画像回復処理に用いる画像回復フィルタのセットである。画像回復処理を行う装置が画像回復フィルタを有していない場合は、別の装置（機器）から画像回復フィルタを伝送する必要がある。【０１９１】
「回復成分情報」
すでに画像回復処理が行われ、回復成分情報が生成されている場合、位相が補正された第２の画像と回復成分情報を別の機器に伝送すれば、該別の機器で回復度合い調整処理を行うことができる。【０１９２】
「調整パラメータ群」
調整パラメータ群は、色合成比調整係数ωおよび回復強度調整係数μのセットである。色合成比調整係数ωおよび回復強度調整係数μは、前述したように、画像上の位置に応じて変更可能である。また、撮影状態に応じて変更することも可能である。調整パラメータ群のデータとしては、調整係数そのもののテーブルデータでもよいし、調整係数を決定するための関数でもよい。【０１９３】
「色収差補正係数」
色収差補正係数は、式７で説明したように、色成分ごとのｒＨ（ｕ，ｖ）を生成するためのＨ（ｕ，ｖ）の色成分間の混合比に関する係数である。色収差補正係数を決定した機器（装置）と画像回復処理を行う機器（装置）が別の場合には、色収差補正係数を機器間で伝送する。【０１９４】
「ユーザー設定情報」
ユーザー設定情報は、ユーザーの好みに応じた回復度合いに調整するための調整パラメータまたは調整パラメータの補正関数である。ユーザーは調整パラメータを可変に設定可能であるが、ユーザー設定情報を用いれば、常に初期値として好みの出力画像を得ることができる。また、ユーザー設定情報は、ユーザーが調整パラメータを決定した履歴から最も好む鮮鋭度を学習機能により更新することが好ましい。【０１９５】
さらに、撮像装置の提供者（メーカー）がいくつかの鮮鋭度パターンに応じたプリセット値をネットワークを介して提供することもできる。【０１９６】
上記の補正情報セットは、個々の画像データに付帯させることが好ましい。必要な補正情報を画像データに付帯させることで、画像処理装置を搭載した装置又は機器は画像回復処理および回復度合い調整処理を行うことができる。また、補正情報セットの内容は必要に応じて、自動および手動で取捨選択可能である。例えば、別の機器で回復度合い調整処理を行う場合に、補正情報セットに第２の画像と回復成分情報が含まれていれば、画像回復フィルタ群は基本的には必要ない。【０１９７】
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。【０１９８】
本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために以下の請求項を添付する。
【符号の説明】
【０１９９】
１０１  撮像光学系
１０２  撮像素子
１０４  画像処理部
１０６  撮像光学系制御部
１０８  記憶部
１１０  システムコントローラ
【図１】
2011122283.tif 000017
【図２Ａ】
2011122283.tif 000018
【図２Ｂ】
2011122283.tif 000019
【図３】
2011122283.tif 000020
【図４】
2011122283.tif 000021
【図５】
2011122283.tif 000022
【図６】
2011122283.tif 000023
【図７】
2011122283.tif 000024
【図８】
2011122283.tif 000025
【図９】
2011122283.tif 000026
【図１０Ａ】
2011122283.tif 000027
【図１０Ｂ】
2011122283.tif 000028
【図１０Ｃ】
2011122283.tif 000029
【図１１】
2011122283.tif 000030
【図１２】
2011122283.tif 000031
【図１３】
2011122283.tif 000032
【図１４】
2011122283.tif 000033
【図１５】
2011122283.tif 000034
【図１６Ａ】
2011122283.tif 000035
【図１６Ｂ】
2011122283.tif 000036
【図１７】
2011122283.tif 000037
【図１８】
2011122283.tif 000038
【手続補正書】
【提出日】平成24年10月5日(2012.10.5)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理装置。
【請求項２】
前記画像回復処理手段は、前記入力画像の画素に対して前記画像回復フィルタを畳み込み積分することにより画像回復を行うことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
被写体像を入力画像として取得する撮像系と、
前記入力画像と前記撮像系の伝達関数に基づいた画像回復フィルタを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする撮像装置。
【請求項４】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと、該入力画像を用いて回復画像を生成する画像回復処理工程を情報処理装置に実行させる画像処理プログラムであって、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理プログラム。
【請求項５】
入力画像を取得する工程と、
前記入力画像と、該入力画像を取得するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する工程とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理方法。
【請求項６】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項７】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは前記撮像系の伝達関数と、２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする画像処理装置。
【請求項８】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと、前記入力画像とを用いて第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理装置。
【請求項９】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理装置。
【請求項１０】
前記第１の画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数と、該２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする請求項８または９に記載の画像処理装置。
【請求項１１】
前記回復調整画像生成手段は、前記撮像系と前記第１の画像回復フィルタとを含む系の２つの色成分に対する伝達関数の振幅成分の差が、前記撮像系の該２つの色成分に対する伝達関数の振幅成分の差よりも減少するように回復することを特徴とする請求項８乃至１０いずれか１項に記載の画像処理装置。
【請求項１２】
前記調整係数は、前記第１回復画像に対する前記入力画像の演算量を調整する回復強度調整係数であることを特徴とする請求項８乃至１１いずれか１項に記載の画像処理装置。
【請求項１３】
前記調整係数は、前記第１回復画像に対する前記第２回復画像の演算量を調整する回復強度調整係数であることを特徴とする請求項９乃至１１いずれか１項に記載の画像処理装置。
【請求項１４】
前記調整係数は、前記差分情報の前記色成分ごとの合成比を決める色合成比調整係数であることを特徴とする請求項８乃至１３いずれか１項に記載の画像処理装置。
【請求項１５】
撮影画像を前記入力画像として処理する請求項８乃至１４いずれか１項に記載の画像処理装置とを有することを特徴とする撮像装置。
【請求項１６】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像とを用いて生成された第１回復画像と、前記入力画像との差分情報を取得する差分情報取得工程と、
前記差分情報を、調整係数に応じて前記入力画像に合成することで、回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理プログラム。
【請求項１７】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像とを用いて生成された第１回復画像と、前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理プログラム。
【請求項１８】
入力画像を取得する工程と、
撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を用いて生成された第１回復画像と、前記入力画像との差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする画像処理方法。
【請求項１９】
入力画像を取得する工程と、
前記入力画像を取得するために用いた撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像を演算することにより生成された第２回復画像と、の差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理方法。
【請求項２０】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと前記入力画像とを用いて回復画像を生成する回復処理手段と、
前記入力画像と前記回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復することを特徴とする画像処理装置。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
上記課題を解決するために本発明の画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする。
上記特徴を有する撮像装置、画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする。
本発明の他の一側面としての画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは前記撮像系の伝達関数と、２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと、前記入力画像とを用いて第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復することを特徴とする。
上記特徴を有する画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復し、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする。
上記特徴を有する画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと前記入力画像とを用いて回復画像を生成する回復処理手段と、
前記入力画像と前記回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復することを特徴とする。
【手続補正書】
【提出日】平成25年2月15日(2013.2.15)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項２】
前記画像回復処理手段は、前記入力画像の画素に対して前記画像回復フィルタを畳み込み積分することにより画像回復を行うことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
被写体像を入力画像として取得する撮像系と、
前記入力画像と前記撮像系の伝達関数に基づいた画像回復フィルタを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする撮像装置。
【請求項４】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと、該入力画像を用いて回復画像を生成する画像回復処理工程を情報処理装置に実行させる画像処理プログラムであって、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする画像処理プログラム。
【請求項５】
入力画像を取得する工程と、
前記入力画像と、該入力画像を取得するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する工程とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする画像処理方法。
【請求項６】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項７】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは前記撮像系の伝達関数と、２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする画像処理装置。
【請求項８】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと、前記入力画像とを用いて第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項９】
前記調整係数は、前記第１回復画像に対する前記入力画像の演算量を調整する回復強度調整係数であることを特徴とする請求項８に記載の画像処理装置。
【請求項１０】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記第２回復画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理装置。
【請求項１１】
前記調整係数は、前記第１回復画像に対する前記第２回復画像の演算量を調整する回復強度調整係数であることを特徴とする請求項１０に記載の画像処理装置。
【請求項１２】
前記第１の画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数と、該２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする請求項８乃至１１いずれか１項に記載の画像処理装置。
【請求項１３】
前記回復調整画像生成手段は、前記撮像系と前記第１の画像回復フィルタとを含む系の２つの色成分に対する伝達関数の振幅成分の差が、前記撮像系の該２つの色成分に対する伝達関数の振幅成分の差よりも減少するように回復することを特徴とする請求項８乃至１２いずれか１項に記載の画像処理装置。
【請求項１４】
前記調整係数は、前記差分情報の前記色成分ごとの合成比を決める色合成比調整係数であることを特徴とする請求項８乃至１３いずれか１項に記載の画像処理装置。
【請求項１５】
撮影画像を前記入力画像として処理する請求項８乃至１４いずれか１項に記載の画像処理装置とを有することを特徴とする撮像装置。
【請求項１６】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像とを用いて生成された第１回復画像と、前記入力画像との差分情報を取得する差分情報取得工程と、
前記差分情報を、調整係数に応じて前記入力画像に合成することで、回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする画像処理プログラム。
【請求項１７】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと該入力画像とを用いて生成された第１回復画像と、前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得工程と、
前記差分情報を調整係数に応じて前記第２回復画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理プログラム。
【請求項１８】
入力画像を取得する工程と、
撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像を用いて生成された第１回復画像と、前記入力画像との差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復するする画像回復フィルタであることを特徴とする画像処理方法。
【請求項１９】
入力画像を取得する工程と、
前記入力画像を取得するために用いた撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像を演算することにより生成された第２回復画像と、の差分情報を取得する工程と、
前記差分情報を調整係数に応じて前記第２回復画像に合成することで回復調整画像を生成する工程とを有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする画像処理方法。
【請求項２０】
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと前記入力画像とを用いて回復画像を生成する回復処理手段と、
前記入力画像と前記回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理装置。
【請求項２１】
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする撮像装置。
【請求項２２】
入力画像を取得する画像取得工程と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理工程とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理方法。
【請求項２３】
入力画像を取得する画像取得工程と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理工程とを情報処理装置に実行させる画像処理プログラムであって、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする画像処理プログラム。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本発明は画像処理を行う画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置に関する発明であり、特に画像回復（復元）を行うものに関する。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００２
【補正方法】変更
【補正の内容】
【０００２】
デジタルカメラ等の撮像装置により得られた画像はボケによって、画質が劣化している。画像のボケが起こる要因は、撮像光学系の球面収差、コマ収差、像面湾曲および非点収差等である。これら収差は、点像分布関数（ＰＳＦ、Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）により表すことができる。点像分布関数（以下、ＰＳＦ）をフーリエ変換することにより得ることができる光学伝達関数（ＯＴＦ、Ｏｐｔｉｃ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）は、収差の周波数空間における情報である。この光学伝達関数（以下、ＯＴＦ）は複素数で表すことができ、ＯＴＦの絶対値、即ち、振幅成分はＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）、位相成分はＰＴＦ（Ｐｈａｓｅ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）と呼ばれる。ここでは、位相成分を位相角として以下の式１で表す。Ｒｅ（ＯＴＦ）、Ｉｍ（ＯＴＦ）はそれぞれＯＴＦの実数部と虚数部である。
ＰＴＦ＝ｔａｎ−１（Ｉｍ（ＯＴＦ）／Ｒｅ（ＯＴＦ））
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
上記課題を解決するために本発明の画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、被写体が白色点光源である場合、前記回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする。
上記特徴を有する撮像装置、画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする。
上記特徴を有する撮像装置、画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。本発明の他の一側面としての画像処理装置は、
入力画像を取得する画像取得手段と、
前記入力画像と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいた画像回復フィルタとを用いて回復画像を生成する画像回復処理手段とを有し、
前記画像回復フィルタは前記撮像系の伝達関数と、２つの色成分に対する伝達関数の絶対値の差が減少するように補正した補正伝達関数とに基づいて生成されることを特徴とする。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと、前記入力画像とを用いて第１回復画像を生成する第１の回復処理手段と、
前記入力画像と前記第１回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであることを特徴とする。
上記特徴を有する画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた第１の画像回復フィルタと前記入力画像とを用いて生成された第１回復画像と、
前記撮像系の伝達関数に基づいた第２の画像回復フィルタと前記入力画像とを用いて生成された第２回復画像と、の差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記第２回復画像に合成することで回復調整画像を生成する回復調整画像生成手段を有し、
前記第１の画像回復フィルタは、被写体が白色点光源である場合、前記第１回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、
前記第２の画像回復フィルタは、被写体が白色点光源である場合、前記第２回復画像における２つの色成分のスペクトルの差が、前記入力画像における該２つの色成分のスペクトルの差よりも減少するように回復する画像回復フィルタであり、且つ、
前記第２回復画像の回復度合いは前記第１回復画像の回復度合いよりも低いことを特徴とする。
上記特徴を有する画像処理方法、画像処理プログラムも本発明の他の一側面を構成する。
本発明の他の一側面としての画像処理装置は、
被写体像を入力画像として取得する撮像系の伝達関数に基づいた画像回復フィルタと前記入力画像とを用いて回復画像を生成する回復処理手段と、
前記入力画像と前記回復画像との差分情報を取得する差分情報取得手段と、
前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
前記画像回復フィルタは、前記撮像系の２つの色成分に対する伝達関数の絶対値の差を減少させるように回復する画像回復フィルタであることを特徴とする。
【国際調査報告】
2011122283.tif 000039
2011122283.tif 000040