(57)【要約】【課題】より広い範囲にまで被写界深度を拡張することができる撮像装置、撮像システムおよび撮像方法を提供する。【解決手段】フィルタ処理部１４３は、複数のデフォーカス位置において、逆変換処理後の画像の各画素の周波数特性と、理想画像の各画素の周波数特性との平均二乗誤差を最小とする逆変換フィルタによって、入力した画素についてコンボリューション演算による逆変換処理を行って、演算値を出力部１４４８から出力する。【選択図】図８
2015005933.tif 000002
【特許請求の範囲】
【請求項１】
入射した光に収差を与える光学系と、
前記光学系を通過した前記光を画素に変換して画像を撮像する撮像手段と、
前記光学系の光軸上の所定範囲内の２箇所以上のデフォーカス位置における出力画像の画素の周波数特性が、被写体の理想画像の画素の周波数特性に対して、大きい値をとる周波数特性および小さい値をとる周波数特性を少なくともそれぞれ１つ以上含むようにする逆変換フィルタによって、前記所定範囲において前記撮像手段により撮像された前記画像に対して逆変換処理を行う逆変換手段と、
を備える撮像装置。
【請求項２】
前記逆変換フィルタは、前記所定範囲における２箇所以上の前記デフォーカス位置において、前記被写体の理想画像の画素と、前記出力画像の画素との平均二乗誤差を最小にするフィルタである請求項１記載の撮像装置。
【請求項３】
前記逆変換フィルタは、前記被写体の前記理想画像の画素の周波数特性と、前記逆変換手段の前記出力画像の画素の周波数特性との平均二乗誤差を最小にするフィルタである請求項１または２に記載の撮像装置。
【請求項４】
前記撮像手段によって撮像された前記画像の画素は、ノイズを含む請求項１〜３のいずれか一項に記載の撮像装置。
【請求項５】
前記逆変換フィルタの周波数特性Ｒは、下記の式（１）で算出される請求項１〜４のいずれか一項に記載の撮像装置。
【数１】
2015005933.tif 000023
【請求項６】
前記理想画像の画素の周波数特性Ｓは、入射した前記被写体から出る光に収差を与えない光学系を通過した光に対して前記撮像手段が変換した画素の周波数特性である請求項５に記載の撮像装置。
【請求項７】
前記理想画像の画素の周波数特性Ｓは、定数である請求項５に記載の撮像装置。
【請求項８】
前記光学系は、前記被写体から出る前記光に前記収差を与える位相板を含む請求項１〜７のいずれか一項に記載の撮像装置。
【請求項９】
前記光学系は、前記被写体から出る前記光に前記収差として球面収差を与えるレンズを含む請求項１〜８のいずれか一項に記載の撮像装置。
【請求項１０】
請求項１〜９のいずれか一項に記載の撮像装置と、
前記撮像装置から前記逆変換処理が行われた前記画像を受信する通信手段と、該画像を表示する表示手段とを備える情報処理装置と、
を備える撮像システム。
【請求項１１】
入射した光に収差を与えるステップと、
前記収差を与えた前記光を画素に変換して画像を撮像するステップと、
前記光学系の光軸上の所定範囲内の２箇所以上のデフォーカス位置における出力画像の画素の周波数特性が、被写体の理想画像の画素の周波数特性に対して、大きい値をとる周波数特性および小さい値をとる周波数特性を少なくともそれぞれ１つ以上含むようにする逆変換フィルタによって、前記所定範囲において撮像した前記画像に対して逆変換処理を行うステップと、
を有する撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置、撮像システムおよび撮像方法に関する。
【背景技術】
【０００２】
近年、情報のデジタル化の発展に伴い、撮像装置に分野においてもデジタル化の発展が著しい。特に、デジタルカメラに代表される撮像装置において、撮像面は従来のフィルムに置き換わって固体撮像素子が使用されている。固体撮像素子（以下、単に撮像素子という）として、ＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ）センサまたはＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）センサ等が使用されている。
【０００３】
このように、撮像素子を使用した撮像装置は、被写体からの光を光学系によって取り込み、固体撮像素子によって光を電気信号に変換して抽出するものである。このような撮像装置として、デジタルカメラの他、ビデオカメラ、バーコードリーダ、携帯電話機、携帯情報端末（ＰＤＡ：Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）および産業用カメラ等が挙げられる。
【０００４】
上述のような撮像装置においては、光学系によって、被写界深度を拡張するいわゆる被写界深度拡張カメラ（ＥＤｏＦ：Ｅｘｔｅｎｄｅｄ  Ｄｅｐｔｈ  ｏｆ  Ｆｉｅｌｄ）がある。被写界深度とは、カメラのレンズからある距離にある被写体に対して、焦点が合っていると許容できるレンズの光軸方向の距離範囲のことをいう。
【０００５】
上述の光学系による被写界深度の拡張について具体的に説明する。光学系に含まれるレンズおよび位相板は、撮像素子に入射される被写体の光に収差を与えて点像分布関数（ＰＳＦ：Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）を付加する働きをする。例えば、レンズは、収差として、撮像素子に入射される被写体の光に球面収差を与える。光学系は、収差によって撮像素子で撮像する画像がぼけた状態にする代わりに広い被写界深度でそのぼけが一定となるようにする。したがって、光学系によってぼけた画像は、所定のＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）の値が得られるように補正する必要がある。ＭＴＦは、被写体の持つコントラストを、どれくらい忠実に再現できるかを数値化した値、すなわちコントラストの再現率を示す。このような、光学系によってぼけた画像に対して、ぼけを補正する撮像装置として、点像分布関数の逆変換処理を施すことによって、ＭＴＦを向上させ、高解像度の画像に補正する装置が提案されている（特許文献１参照）。逆変換処理は、光学系によってぼけた画像を形成する各画素の情報（以下、画素から出力される情報（値）自体を画素というものとする）に対して、逆変換フィルタによるフィルタ処理を施すことにより画像のぼけを補正することによって実現される。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、特許文献１に記載された撮像装置は、光学的に収差を与えて被写界深度を拡張し、画像のぼけを逆変換フィルタによって補正しているが、一点のフォーカス位置におけるＭＴＦに基づいて逆変換フィルタを導出している。したがって、被写界深度において光学的に拡大されたスポットのうち逆変換フィルタを導出したフォーカス位置のスポットの形状からはずれた位置においては、正常に補正ができないという問題点があった。つまり、正常に逆変換フィルタによる補正が可能な範囲はスポットの形状が変化しない範囲にとどまり、その範囲までしか被写界深度を拡張することができないという問題点があった。
【０００７】
本発明は、上記に鑑みてなされたものであって、より広い範囲にまで被写界深度を拡張することができる撮像装置、撮像システムおよび撮像方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
上述した課題を解決し、目的を達成するために、本発明に係る撮像装置は、入射した光に収差を与える光学系と、前記光学系を通過した前記光を画素に変換して画像を撮像する撮像手段と、前記光学系の光軸上の所定範囲内の２箇所以上のデフォーカス位置における出力画像の画素の周波数特性が、前記被写体の理想画像の画素の周波数特性に対して、大きい値をとる周波数特性および小さい値をとる周波数特性を少なくともそれぞれ１つ以上含むようにする逆変換フィルタによって、前記所定範囲において前記撮像手段により撮像された画像に対して逆変換処理を行う逆変換手段と、を備えることを特徴とする。
【発明の効果】
【０００９】
本発明によれば、より広い範囲にまで被写界深度を拡張することができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施の形態の撮像システムの全体構成の一例を示す図である。
【図２】図２は、実施の形態の情報処理装置の構成の一例を示す図である。
【図３】図３は、実施の形態の撮像装置の構成の一例を示す図である。
【図４】図４は、実施の形態の撮像装置の画像処理部の構成の一例を示す図である。
【図５】図５は、実施の形態の撮像装置の撮像素子によって検出される画像の一例を示す図である。
【図６】図６は、実施の形態の画像処理部の画像バッファ部の構成の一例を示す図である。
【図７】図７は、撮像素子から出力される画素が画像バッファ部に入力される動作を示すタイミングチャートである。
【図８】図８は、実施の形態の画像処理部のフィルタ処理部の構成の一例を示す図である。
【図９】図９は、逆変換フィルタの構成の一例を示す図である。
【図１０】図１０は、画像を逆変換フィルタによってフィルタ処理することを説明する図である。
【図１１】図１１は、画像において逆変換フィルタのフィルタ処理の対象となる対象部分画像をスキャンする動作を説明する図である。
【図１２】図１２は、実施の形態の画像処理部のフィルタ処理部の逆変換フィルタを決定するための周波数特性を演算する流れを示すフローチャートである。
【図１３】図１３は、光学系を通過した光によって検出された画像の空間周波数特性を示す図である。
【図１４】図１４は、逆変換処理が行われた画像の空間周波数特性を示す図である。
【発明を実施するための形態】
【００１１】
以下に、図面を参照しながら、本発明に係る撮像装置、撮像システムおよび撮像方法の実施の形態を詳細に説明する。また、以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換および変更を行うことができる。
【００１２】
（実施の形態）
＜撮像システムの全体構成＞
図１は、実施の形態の撮像システムの全体構成の一例を示す図である。図１を参照しながら、本実施の形態の撮像システム５００の構成について説明する。
【００１３】
図１に示すように、本実施の形態の撮像システム５００は、撮像装置１と、ＰＣ２と、を備えている。撮像装置１とＰＣ２とは、Ｅｔｈｅｒｎｅｔ（登録商標）ケーブル等の通信ケーブル３によって通信可能に接続されている。
【００１４】
撮像装置１は、被写体４から出る光を電気信号に変換することによって被写体４を撮像し、画像の情報（以下、単に画像という）にして通信ケーブル３を介してＰＣ２へ送信する。ＰＣ２は、撮像装置１から受信した画像に対して所定の処理を実行する。
【００１５】
例えば、撮像装置１は、生産ラインを流れる製品に添付されたバーコードを撮像して、バーコードの画像をＰＣ２に送信する。ＰＣ２は、受信した画像からバーコードの情報を読み出して解析する。
【００１６】
なお、図１に示すように、撮像システム５００は、撮像装置１とＰＣ２とが通信ケーブル３を介してデータを通信する有線通信方式のシステムとしているが、これに限定されるものではない。例えば、撮像装置１とＰＣ２とは、Ｗｉ−Ｆｉ（ＷｉｒｅｌｅｓｓＦｉｄｅｌｉｔｙ）等の無線通信方式によって互いにデータが通信可能であってもよい。
【００１７】
また、撮像装置１およびＰＣ２が生産ラインにおいて使用される場合、撮像システム５００は、ＰＣ２がＰＬＣ（Ｐｒｏｇｒａｍｍａｂｌｅ  Ｌｏｇｉｃ  Ｃｏｎｔｒｏｌｌｅｒ）等に通信可能に接続されている構成としてもよい。この場合、撮像システム５００の動作として、以下の動作が一例として挙げられる。撮像装置１は、生産ラインを流れる製品に添付されたバーコードを撮像して、バーコードの画像をＰＣ２に送信する。ＰＣ２は、受信したバーコードの画像から、生産ラインを流れている製品の品番を判定する。ＰＣ２は、判定した品番が、生産ラインにおいて段替えされている品番と不一致である場合、判定した品番に対応する製品は異なる品番の製品であることを示す信号をＰＬＣに送信する。ＰＬＣは、ＰＣ２から異なる品番の製品であることを示す信号を受信した場合、その製品を生産ラインから除去するように生産ラインの動作を制御する。
【００１８】
＜情報処理装置の構成＞
図２は、実施の形態の情報処理装置の構成の一例を示す図である。図２を参照しながら、情報処理装置の一例であるＰＣ２の構成について説明する。
【００１９】
図２に示すように、情報処理装置の一例であるＰＣ２は、通信部２１と、操作部２２と、表示部２３と、記憶部２４と、外部記憶装置２５と、制御部２６と、を備えている。上記の各部は、バス２７によって接続され、互いにデータの送受信が可能となっている。
【００２０】
通信部２１は、通信ケーブル３を介して、撮像装置１と通信する装置である。通信部２１は、例えば、ＮＩＣ（Ｎｅｔｗｏｒｋ  Ｉｎｔｅｒｆａｃｅ  Ｃａｒｄ）等の通信装置によって実現される。通信部２１の通信プロトコルは、例えば、ＴＣＰ（Ｔｒａｎｓｍｉｓｓｉｏｎ  Ｃｏｎｔｒｏｌ  Ｐｒｏｔｏｃｏｌ）／ＩＰ（Ｉｎｔｅｒｎｅｔ  Ｐｒｏｔｏｃｏｌ）またはＵＤＰ（Ｕｓｅｒ  Ｄａｔａｇｒａｍ  Ｐｒｏｔｏｃｏｌ）／ＩＰ等によって実現される。
【００２１】
操作部２２は、ユーザによって制御部２６に対して所定の処理を実行させるための操作入力を行う装置である。操作部２２は、例えば、マウス、キーボード、テンキー、タッチパッドまたはタッチパネルにおける操作入力機能によって実現される。
【００２２】
表示部２３は、制御部２６により実行されているアプリケーション画像等を表示する装置である。表示部２３は、例えば、ＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）ディスプレイ、液晶ディスプレイ、プラズマディスプレイまたは有機ＥＬ（Ｅｌｅｃｔｒｏｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ等によって実現される。
【００２３】
記憶部２４は、ＰＣ２で実行される各種プログラムおよびＰＣ２で行われる各種処理に使用されるデータ等を記憶する装置である。記憶部２４は、例えば、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）およびＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）等の記憶装置によって実現される。
【００２４】
外部記憶装置２５は、画像、プログラムおよびフォントデータ等を蓄積して記憶する記憶装置である。外部記憶装置２５は、例えば、ＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）、光ディスク、または光磁気ディスク（ＭＯ：Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  Ｄｉｓｋ）等の記憶装置によって実現される。
【００２５】
制御部２６は、ＰＣ２の各部の動作を制御する装置である。制御部２６は、例えば、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）およびＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）等で実現される。
【００２６】
＜撮像装置の構成＞
図３は、実施の形態の撮像装置の構成の一例を示す図である。図３を参照しながら、本実施の形態の撮像装置１の構成について説明する。
【００２７】
図３に示すように、撮像装置１は、レンズユニット１１（光学系）と、撮像素子１２（撮像手段）と、画像処理部１４と、通信部１５と、を備えている。
【００２８】
レンズユニット１１は、被写体４から出る光を集光し、撮像素子１２に対して結像させるユニットである。レンズユニット１１は、１枚以上のレンズで構成された光学系によって実現される。レンズユニット１１は、位相板１１ａと、絞り１１ｂとを備えている。被写体４は、例えば、人物、被監視物、バーコード、２次元コードまたは文字列等である。
【００２９】
位相板１１ａは、レンズユニット１１に入射する光に対して収差を与える作用を有する。その結果、位相板１１ａは、撮像素子１２に入射される光に対して点像分布関数を付加する作用を奏し、撮像素子１２で撮像される画像がぼけた状態とする代わりに広い被写界深度でそのぼけが一定となるようにする。
【００３０】
絞り１１ｂは、レンズユニット１１に入射する光の量を自在に調整する部材であり、位相板１１ａの近傍に配置されている。
【００３１】
撮像素子１２は、レンズユニット１１に入射する被写体からの光を電気信号に変換することによって被写体４を撮像して画像を生成する固体撮像素子である。撮像素子１２は、固体撮像素子を構成する各画素によって撮像した画像を構成する画素を出力する。撮像素子１２は、例えば、ＣＣＤセンサまたはＣＭＯＳセンサ等によって実現される。
【００３２】
画像処理部１４は、撮像素子１２から出力される画像から、フィルタ処理を施した画像を生成する装置である。
【００３３】
通信部１５は、通信ケーブル３を介して、ＰＣ２と通信する装置である。通信部１５は、例えば、画像処理部１４から出力される画像をＰＣ２に対して送信する。通信部１５は、例えば、ＮＩＣ等の通信装置によって実現される。通信部１５の通信プロトコルは、例えば、ＴＣＰ／ＩＰまたはＵＤＰ／ＩＰ等によって実現される。
【００３４】
＜画像処理部の構成および動作＞
図４は、実施の形態の撮像装置の画像処理部の構成の一例を示す図である。図５は、実施の形態の撮像装置の撮像素子によって検出される画像の一例を示す図である。図４を参照しながら、本実施の形態の撮像装置１の画像処理部１４の構成について説明する。
【００３５】
撮像素子１２は、上述のように、レンズユニット１１に入射する被写体からの光を電気信号に変換することにより被写体４を撮像し、画像を生成する固体撮像素子である。以下、撮像素子１２は、ＶＧＡの画像を形成して出力するものとして説明する。具体的には、撮像素子１２は、図５に示すように、Ｘ方向に６４０個、Ｙ方向に４８０個の検出素子によって、６４０×４８０のマトリックス状に配列された画素で構成される画像である検出画像１０１を検出する。
【００３６】
なお、撮像素子１２が検出する画像の大きさは６４０×４８０のＶＧＡの画像であるものとしたが、これに限定されるものではなく、異なる大きさの画像であってもよい。
【００３７】
図４に示すように、本実施の形態の画像処理部１４は、画像バッファ部１４１と、フィルタ処理部１４３（逆変換手段）とを備えている。
【００３８】
画像バッファ部１４１は、撮像素子１２から出力される画素を順に入力してバッファリングする装置である。画像バッファ部１４１の具体的な構成および動作については、図６および７において後述する。
【００３９】
フィルタ処理部１４３は、画像バッファ部１４１から出力される画素に対して、フィルタ回路によって、所定のフィルタ処理を行う。本実施の形態においては、フィルタ処理に使用するフィルタとして、位相板１１ａの作用によって点像分布関数を与えられたぼけた画像に対して、ぼけを補正する逆変換処理をするための逆変換フィルタを例に説明する。フィルタ処理部１４３の具体的な構成および動作については、図８〜１１において後述する。
【００４０】
＜＜画像バッファ部１４１の構成および動作＞＞
図６は、実施の形態の画像処理部の画像バッファ部の構成の一例を示す図である。図７は、撮像素子から出力される画素が画像バッファ部に入力される動作を示すタイミングチャートである。図６および７を参照しながら、画像処理部１４の画像バッファ部１４１の構成および動作について説明する。
【００４１】
画像バッファ部１４１は、図６に示すように、レジスタ１４１１ａ〜１４１１ｄと、ラインバッファ１４１２ａ〜１４１２ｄと、を備えている。画像バッファ部１４１は、撮像素子１２から出力される画素を入力部１４１０から入力し、バッファリングした画素を出力部１４１３ａ〜１４１３ｅから出力する。撮像素子１２によって検出される画像の６４０×４８０の各画素について、Ｘ方向のＸ番目およびＹ方向のＹ番目の画素を（Ｘ，Ｙ）の画素というものとする。
【００４２】
図６に示すように、レジスタ１４１１ａの入力側は、入力部１４１０および出力部１４１３ａに接続されている。レジスタ１４１１ａ〜１４１１ｄの出力側は、それぞれラインバッファ１４１２ａ〜１４１２ｄの入力側に接続されている。ラインバッファ１４１２ａ〜１４１２ｃの出力側は、それぞれレジスタ１４１１ｂ〜１４１１ｄの入力側に接続されている。そして、ラインバッファ１４１２ａ〜１４１２ｄの出力側は、それぞれ出力部１４１３ｂ〜１４１３ｅに接続されている。
【００４３】
次に、図７を参照しながら、撮像素子１２によって検出された画像の出力動作について説明する。撮像素子１２は、検出した画素をＸ方向の１水平ラインずつ走査しながら、その１水平ラインに含まれる画素を出力する。具体的には、撮像素子１２は、Ｙ方向の１番目の水平ラインに含まれる画素を、Ｘ方向の１番目の画素から６４０番目の画素まで順に出力する。撮像素子１２は、上記の動作を、Ｙ方向の４８０番目までの水平ラインに含まれる画素の出力をそれぞれ行う。
【００４４】
上記の動作を図７に示すタイミングチャートに基づいて説明する。図７に示すように、撮像素子１２は、有効フレーム信号がオン状態のとき、１フレーム分、すなわち１画像分の画素を出力する。撮像素子１２において、有効フレーム信号がオン状態になってからフレーム開始期間Ａを経て、Ｙ方向の１番目の水平ラインの画素の出力許可を示す有効ライン信号Ｌ１がオン状態になる。撮像素子１２は、有効ライン信号Ｌ１がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の１番目の水平ラインを走査し、その水平ラインに含まれるＸ方向の１〜６４０番目の画素（（１，１）〜（６４０，１）の画素）を順に出力する。撮像素子１２によってＹ方向の１番目の水平ラインの画素が出力された後、有効ライン信号Ｌ１がオフ状態になる。
【００４５】
撮像素子１２において、有効ライン信号Ｌ１がオフ状態になってから水平ブランキング期間Ｂを経て、Ｙ方向の２番目の水平ラインの画素の出力許可を示す有効ライン信号Ｌ２がオン状態になる。撮像素子１２は、有効ライン信号Ｌ２がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の２番目の水平ラインを走査し、その水平ラインに含まれるＸ方向の１〜６４０番目の画素（（１，２）〜（６４０，２）の画素）を順に出力する。撮像素子１２によってＹ方向の２番目の水平ラインの画素が出力された後、有効ライン信号Ｌ２がオフ状態になる。
【００４６】
撮像素子１２は、以上の動作について、有効ライン信号Ｌ４８０がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の４８０番目の水平ラインに含まれるＸ方向の１〜６４０番目の画素を出力するまで行う。撮像素子１２において、有効ライン信号Ｌ４８０がオフ状態になってからフレーム終了期間Ｃを経て、有効フレーム信号がオフ状態になる。以上の動作によって、撮像素子１２による１フレーム分の画素の出力が終了する。また、撮像素子１２において、有効フレーム信号がオフ状態になってから垂直ブランキング期間Ｄを経て、再び有効フレーム信号がオン状態になり、次の１フレーム分の画素の出力が開始される。
【００４７】
次に、図６を参照しながら、画像バッファ部１４１における撮像素子１２から出力される画素のバッファリング処理について説明する。画像バッファ部１４１は、撮像素子１２から出力される画素を入力部１４１０から入力する。具体的には、画像バッファ部１４１は、まず、Ｙ方向の１番目の水平ラインについて、撮像素子１２から入力した（１，１）の画素を、出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。
【００４８】
画像バッファ部１４１は、次のタイミングで、レジスタ１４１１ａに格納した画素をラインバッファ１４１２ａの記憶領域１ａに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（２，１）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。
【００４９】
画像バッファ部１４１は、次のタイミングで、記憶領域１ａに格納した画素をラインバッファ１４１２ａの記憶領域２ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（３，１）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。
【００５０】
以上の動作を繰り返すことにより、画像バッファ部１４１は、撮像素子１２から入力したＹ方向の１番目の水平ラインの画素を出力部１４１３ａから出力する。それと共に、画像バッファ部１４１は、Ｙ方向の１番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ａの記憶領域６３９ａ〜１ａにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ａに格納する。
【００５１】
次に、画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（１，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、Ｙ方向の２番目の水平ラインについて、撮像素子１２から入力した（１，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。すなわち、画像バッファ部１４１は、Ｘ方向の値が同一の画素である（１，１）および（１，２）の画素を、出力部１４１３ｂおよび１４１３ａからそれぞれ出力する。
【００５２】
画像バッファ部１４１は、次のタイミングで、レジスタ１４１１ｂに格納した画素をラインバッファ１４１２ｂの記憶領域１ｂに格納する。画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（２，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（２，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。
【００５３】
画像バッファ部１４１は、次のタイミングで、記憶領域１ｂに格納した画素をラインバッファ１４１２ｂの記憶領域２ｂにシフトして格納し、レジスタ１４１１ｂに格納した画素を記憶領域１ｂに格納する。画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（３，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（３，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。
【００５４】
以上の動作を繰り返すことにより、画像バッファ部１４１は、撮像素子１２から入力したＹ方向の１および２番目の水平ラインの画素についてＸ方向の値が同一の画素を、出力部１４１３ａおよび１４１３ｂからそれぞれ同一のタイミングで出力する。それと共に、画像バッファ部１４１は、Ｙ方向の１番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ｂの記憶領域１ｂ〜６３９ｂにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ｂに格納する。さらに、画像バッファ部１４１は、Ｙ方向の２番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ａの記憶領域１ａ〜６３９ａにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ａに格納する。
【００５５】
以上の動作のように、画像バッファ部１４１は、撮像素子１２から入力した各水平ラインの画素をラインバッファ１４１２ａ〜１４１２ｄにバッファリングする。それと共に、画像バッファ部１４１は、Ｘ方向の値が同一の画素、すなわち、（Ｘ，Ｙ−４）、（Ｘ，Ｙ−３）、（Ｘ，Ｙ−２），（Ｘ，Ｙ−１）および（Ｘ，Ｙ）の画素を、出力部１４１３ａ〜１４１３ｅからそれぞれ同一のタイミングで出力する。
【００５６】
なお、図６は画像バッファ部１４１の構成の一例を示すものであり、この構成に限定されるものではなく、上述した画像バッファ部１４１のバッファリング処理と同様の作用を奏する構成であればよい。
【００５７】
＜＜フィルタ処理部１４３の構成および動作＞＞
図８は、実施の形態の画像処理部のフィルタ処理部の構成の一例を示す図である。図９は、逆変換フィルタの構成の一例を示す図である。図１０は、画像を逆変換フィルタによってフィルタ処理することを説明する図である。図１１は、画像において逆変換フィルタのフィルタ処理の対象となる対象部分画像をスキャンする動作を説明する図である。図８〜１１を参照しながら、画像処理部１４のフィルタ処理部１４３の構成および動作について説明する。
【００５８】
フィルタ処理部１４３は、図８に示すように、レジスタ１４３２ａ〜１４３２ｅ、１４３３ａ〜１４３３ｅ、１４３４ａ〜１４３４ｅ、１４３５ａ〜１４３５ｅ、１４３６ａ〜１４３６ｅおよび１４３７ａ〜１４３７ｅを備えている。フィルタ処理部１４３は、乗算器１４３８ａ〜１４３８ｅ、１４３９ａ〜１４３９ｅ、１４４０ａ〜１４４０ｅ、１４４１ａ〜１４４１ｅおよび１４４２ａ〜１４４２ｅを備えている。フィルタ処理部１４３は、加算器１４４３ａ〜１４４３ｅ、１４４４ａ〜１４４４ｅ、１４４５ａ〜１４４５ｅ、１４４６ａ〜１４４６ｅおよび１４４７ａ〜１４４７ｃを備えている。フィルタ処理部１４３は、画像バッファ部１４１から出力される画素を入力部１４３１ａ〜１４３１ｅから入力する。そして、フィルタ処理部１４３は、入力した画素について、導出方法を後述するフィルタ係数を有する逆変換フィルタによってコンボリューション演算（畳み込み演算）を行い、演算値を出力部１４４８から出力する。
【００５９】
乗算器１４３８ａ〜１４３８ｅ、１４３９ａ〜１４３９ｅ、１４４０ａ〜１４４０ｅ、１４４１ａ〜１４４１ｅおよび１４４２ａ〜１４４２ｅは、入力側から入力される画素の値とフィルタ係数との乗算値を出力する回路である。具体的には、乗算器１４３８ａ〜１４４２ａは、それぞれフィルタ係数ａ５５〜ａ５１と画素との乗算値を出力する。乗算器１４３８ｂ〜１４４２ｂは、それぞれフィルタ係数ａ４５〜ａ４１と画素との乗算値を出力する。乗算器１４３８ｃ〜１４４２ｃは、それぞれフィルタ係数ａ３５〜ａ３１と画素との乗算値を出力する。乗算器１４３８ｄ〜１４４２ｄは、それぞれフィルタ係数ａ２５〜ａ２１と画素との乗算値を出力する。乗算器１４３８ｅ〜１４４２ｅは、それぞれフィルタ係数ａ１５〜ａ１１と画素との乗算値を出力する。加算器１４４３ａ〜１４４３ｅ、１４４４ａ〜１４４４ｅ、１４４５ａ〜１４４５ｅ、１４４６ａ〜１４４６ｅ、ならびに１４４７ａおよび１４４７ｃは、入力側から入力される２つのデータの値の加算値を出力する回路である。加算器１４４７ｂは、入力側から入力される３つのデータの値の加算値を出力する回路である。
【００６０】
図８に示すように、入力部１４３１ａ〜１４３１ｅは、それぞれレジスタ１４３２ａ〜１４３２ｅの入力側に接続されている。レジスタ１４３２ａ〜１４３７ａは、直列に接続している。レジスタ１４３２ｂ〜１４３７ｂ、１４３２ｃ〜１４３７ｃ、１４３２ｄ〜１４３７ｄおよび１４３２ｅ〜１４３７ｅのそれぞれについても同様である。
【００６１】
入力部１４３１ａ〜１４３１ｅは、それぞれ乗算器１４３８ａ〜１４３８ｅの入力側に接続されている。レジスタ１４３２ａ〜１４３５ａの出力側は、それぞれ乗算器１４３９ａ〜１４４２ａの入力側に接続されている。レジスタ１４３２ｂ〜１４３５ｂと乗算器１４３９ｂ〜１４４２ｂとの接続関係、レジスタ１４３２ｃ〜１４３５ｃと乗算器１４３９ｃ〜１４４２ｃとの接続関係、レジスタ１４３２ｄ〜１４３５ｄと乗算器１４３９ｄ〜１４４２ｄとの接続関係、およびレジスタ１４３２ｅ〜１４３５ｅと乗算器１４３９ｅ〜１４４２ｅとの接続関係もそれぞれ同様である。
【００６２】
乗算器１４３８ａ〜１４３８ｅの出力側は、それぞれ加算器１４４３ａ〜１４４３ｅの入力側に接続されている。加算器１４４３ａ〜１４４６ａは、直列に接続している。加算器１４４３ｂ〜１４４６ｂ、１４４３ｃ〜１４４６ｃ、１４４３ｄ〜１４４６ｄおよび１４４３ｅ〜１４４６ｅのそれぞれについても同様である。
【００６３】
乗算器１４３９ａ〜１４４２ａの出力側は、それぞれ加算器１４４３ａ〜１４４６ａの入力側に接続されている。乗算器１４３９ｂ〜１４４２ｂと加算器１４４３ｂ〜１４４６ｂとの接続関係、乗算器１４３９ｃ〜１４４２ｃと加算器１４４３ｃ〜１４４６ｃとの接続関係、乗算器１４３９ｄ〜１４４２ｄと加算器１４４３ｄ〜１４４６ｄとの接続関係、および乗算器１４３９ｅ〜１４４２ｅと加算器１４４３ｅ〜１４４６ｅとの接続関係もそれぞれ同様である。
【００６４】
加算器１４４６ａおよび１４４６ｂの出力側は、加算器１４４７ａの入力側に接続されている。加算器１４４６ｄおよび１４４６ｅの出力側は、加算器１４４７ｃの入力側に接続されている。加算器１４４６ｃ、１４４７ａおよび１４４７ｃの出力側は、加算器１４４７ｂの入力側に接続されている。加算器１４４７ｂの出力側は、出力部１４４８に接続されている。
【００６５】
次に、図８〜１１を参照しながら、フィルタ処理部１４３における逆変換処理について説明する。逆変換処理に使用されるフィルタは、図９に示すように、上述したフィルタ係数ａ１１〜ａ１５、ａ２１〜ａ２５、ａ３１〜ａ３５、ａ４１〜ａ４５およびａ５１〜ａ５５によって構成されるタップ数が５×５の線形フィルタである逆変換フィルタ１２１である。逆変換フィルタ１２１による逆変換処理の対象となる画像の部分を、図１０に示す対象部分画像１３１であるものとする。対象部分画像１３１は、画素Ａ１１〜Ａ１５、Ａ２１〜Ａ２５、Ａ３１〜Ａ３５、Ａ４１〜Ａ４５およびＡ５１〜Ａ５５によって構成された５×５の部分画像である。
【００６６】
レジスタ１４３２ａ〜１４３２ｅ、１４３３ａ〜１４３３ｅ、１４３４ａ〜１４３４ｅ、１４３５ａ〜１４３５ｅ、１４３６ａ〜１４３６ｅおよび１４３７ａ〜１４３７ｅには、データが格納されていない状態、すなわち、０の値が格納された状態であるものとする。フィルタ処理部１４３は、入力部１４３１ａ〜１４３１ｅから対象部分画像１３１の画素Ａ５１、Ａ４１、Ａ３１、Ａ２１およびＡ１１を入力し、それぞれレジスタ１４３２ａ〜１４３２ｅに格納すると共に、乗算器１４３８ａ〜１４３８ｅに入力させる。乗算器１４３８ａ〜１４３８ｅは、それぞれのフィルタ係数であるａ５５、ａ４５、ａ３５、ａ２５およびａ１５と、それぞれ入力した画素Ａ５１、Ａ４１、Ａ３１、Ａ２１およびＡ１１との乗算値を出力する。乗算器１４３８ａ〜１４３８ｅによって演算された乗算値は、加算器１４４７ａ〜１４４７ｃによって加算される。加算値は、加算器１４４７ｂから出力され、出力部１４４８からフィルタ処理部１４３の外部に出力される。
【００６７】
フィルタ処理部１４３は、次のタイミングで、レジスタ１４３２ａ〜１４３２ｅに格納した画素Ａ５１、Ａ４１、Ａ３１、Ａ２１およびＡ１１を、それぞれレジスタ１４３３ａ〜１４３３ｅにシフトして格納し、乗算器１４３９ａ〜１４３９ｅに入力させる。フィルタ処理部１４３は、入力部１４３１ａ〜１４３１ｅから対象部分画像１３１の画素Ａ５２、Ａ４２、Ａ３２、Ａ２２およびＡ１２を入力し、それぞれレジスタ１４３２ａ〜１４３２ｅに格納すると共に、乗算器１４３８ａ〜１４３８ｅに入力させる。乗算器１４３９ａ〜１４３９ｅは、それぞれのフィルタ係数であるａ５４、ａ４４、ａ３４、ａ２４およびａ１４と、それぞれ入力した画素Ａ５１、Ａ４１、Ａ３１、Ａ２１およびＡ１１との乗算値を出力する。乗算器１４３８ａ〜１４３８ｅは、それぞれのフィルタ係数であるａ５５、ａ４５、ａ３５、ａ２５およびａ１５と、それぞれ入力した画素Ａ５２、Ａ４２、Ａ３２、Ａ２２およびＡ１２との乗算値を出力する。乗算器１４３９ａ〜１４３９ｅによって演算された乗算値、および乗算器１４３８ａ〜１４３８ｅによって演算された乗算値は、加算器１４４３ａ〜１４４３ｅおよび１４４７ａ〜１４４７ｃによって加算される。加算値は、加算器１４４７ｂから出力され、出力部１４４８からフィルタ処理部１４３の外部に出力される。
【００６８】
そして、以上の動作が繰り返された結果、レジスタ１４３２ａ〜１４３６ａ、１４３２ｂ〜１４３６ｂ、１４３２ｃ〜１４３６ｃ、１４３２ｄ〜１４３６ｄおよび１４３２ｅ〜１４３６ｅに、それぞれ画素Ａ５５〜Ａ５１、Ａ４５〜Ａ４１、Ａ３５〜Ａ３１、Ａ２５〜Ａ２１およびＡ１５〜Ａ１１が格納されたものとする。また、乗算器１４３８ａ〜１４４２ａ、１４３８ｂ〜１４４２ｂ、１４３８ｃ〜１４４２ｃ、１４３８ｄ〜１４４２ｄおよび１４３８ｅ〜１４４２ｅに、それぞれ画素Ａ５５〜Ａ５１、Ａ４５〜Ａ４１、Ａ３５〜Ａ３１、Ａ２５〜Ａ２１およびＡ１５〜Ａ１１が入力されたものとする。乗算器１４４２ａ〜１４４２ｅは、それぞれのフィルタ係数であるａ５１、ａ４１、ａ３１、ａ２１およびａ１１と、それぞれ入力した画素Ａ５１、Ａ４１、Ａ３１、Ａ２１およびＡ１１との乗算値を出力する。乗算器１４４１ａ〜１４４１ｅは、それぞれのフィルタ係数であるａ５２、ａ４２、ａ３２、ａ２２およびａ１２と、それぞれ入力した画素Ａ５２、Ａ４２、Ａ３２、Ａ２２およびＡ１２との乗算値を出力する。乗算器１４４０ａ〜１４４０ｅは、それぞれのフィルタ係数であるａ５３、ａ４３、ａ３３、ａ２３およびａ１３と、それぞれ入力した画素Ａ５３、Ａ４３、Ａ３３、Ａ２３およびＡ１３との乗算値を出力する。乗算器１４３９ａ〜１４３９ｅは、それぞれのフィルタ係数であるａ５４、ａ４４、ａ３４、ａ２４およびａ１４と、それぞれ入力した画素Ａ５４、Ａ４４、Ａ３４、Ａ２４およびＡ１４との乗算値を出力する。乗算器１４３８ａ〜１４３８ｅは、それぞれのフィルタ係数であるａ５５、ａ４５、ａ３５、ａ２５およびａ１５と、それぞれ入力した画素Ａ５５、Ａ４５、Ａ３５、Ａ２５およびＡ１５との乗算値を出力する。
【００６９】
乗算器１４３８ａ〜１４３８ｅ、１４３９ａ〜１４３９ｅ、１４４０ａ〜１４４０ｅ、１４４１ａ〜１４４１ｅおよび１４４２ａ〜１４４２ｅによって演算された乗算値は、図８に示す全ての加算器によって加算される。加算値は、加算器１４４７ｂから出力され、出力部１４４８からフィルタ処理部１４３の外部に出力される。この加算値は、図１０に示すように、対象部分画像１３１に対して逆変換フィルタ１２１によってコンボリューション演算した値、すなわち、式（１）で表される演算値と同一である。コンボリューション演算の演算値は、対象部分画像１３１の中央に位置する画素である中央データに対して逆変換処理を実行した値となる。すなわち、コンボリューションの演算値は、逆変換処理後の画像において、逆変換処理前の画像の中央データに相当する位置の画素となる。
【００７０】
次に、フィルタ処理部１４３の逆変換処理について、図１１を参照しながら、画像１０５においてＸ方向の水平ラインを走査しながら逆変換処理をする動作の概略を説明する。図１１（ａ）は、フィルタ処理部１４３が、画像１０５における（１，１）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１１（ａ）に示すように、（１，１）の画素を中央データ１３５ａとしてコンボリューション演算するためには、（１，１）の画素を中央データとする対象部分画像１３１ａと、画像１０５とが重複している部分の画素が必要になる。すなわち、対象部分画像１３１ａのうち、図１０に示す対象部分画像１３１の画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５に相当する画素が必要である。
【００７１】
そのためには、画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５に相当する画素が、画像バッファ部１４１の出力部１４１３ａ〜１４１３ｃから出力されている必要がある。さらに、画素Ａ３５〜Ａ３３、Ａ４５〜Ａ４３およびＡ５５〜Ａ５３に相当する画素が、フィルタ処理部１４３のレジスタ１４３２ｃ〜１４３４ｃ、１４３２ｂ〜１４３４ｂおよび１４３２ａ〜１４３４ａに格納されている必要がある。そして、対象部分画像１３１ａにおいて、画像１０５と重複していない部分の画素は「０」として取り扱うものとする。
【００７２】
以上の状態において、フィルタ処理部１４３は、図１０に示したコンボリューション演算と同様に、対象部分画像１３１ａに対して逆変換フィルタ１２１によってコンボリューション演算を行う。フィルタ処理部１４３は、画像１０５の対象部分画像１３１ａの中央データ１３５ａである（１，１）の画素に対してコンボリューション演算した値を、逆変換処理後の画像の（１，１）の画素として出力する。
【００７３】
次に、フィルタ処理部１４３は、図１１（ｂ）に示すように、コンボリューション演算の対象となる画素をＸ方向にひとつシフトし、対象部分画像１３１ｂの中央データ１３５ｂである（２，１）の画素に対して逆変換処理をする。そして、フィルタ処理部１４３は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、図１１（ｃ）に示すように、Ｘ方向の水平ラインの最後の画素である（６４０，１）の画素に対して逆変換処理をする。（６４０，１）の画素は、図１１（ｃ）に示すように、対象部分画像１３１ｃの中央データ１３５ｃである。
【００７４】
以上のように、フィルタ処理部１４３は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、水平ラインの最後の画素に対する逆変換処理が終了すると、Ｙ方向の次の水平ラインに対して同様に逆変換処理を行う。
【００７５】
図１１（ｄ）〜１１（ｆ）は、フィルタ処理部１４３が、画像１０５におけるＹ方向の４番目の水平ラインの画素に対して逆変換処理を行う状態を示している。図１１（ｄ）は、フィルタ処理部１４３が、画像１０５における（１，４）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１１（ｄ）に示すように、（１，４）の画素を中央データ１３５ｄとしてコンボリューション演算するためには、（１，４）の画素を中央データとする対象部分画像１３１ｄと、画像１０５とが重複している部分の画素が必要になる。そして、対象部分画像１３１ｄにおいて、画像１０５と重複していない部分の画素は、上述と同様に「０」として取り扱うものとする。
【００７６】
図１１（ｅ）は、フィルタ処理部１４３が、画像１０５における（５，４）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１１（ｅ）に示すように、（５，４）の画素を中央データ１３５ｅとする対象部分画像１３１ｅは全体が画像１０５と重複しているので、フィルタ処理部１４３は、対象部分画像１３１ｅに含まれる画素をすべて利用した逆変換処理が可能となる。
【００７７】
そして、フィルタ処理部１４３は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、図１１（ｆ）に示すように、Ｘ方向の水平ラインの最後の画素である（６４０，４）の画素に対して逆変換処理をする。（６４０，４）の画素は、図１１（ｆ）に示すように、対象部分画像１３１ｆの中央データ１３５ｆである。
【００７８】
以上のように、フィルタ処理部１４３は、画像１０５を構成する各画素に対して逆変換フィルタ１２１によるコンボリューション演算を行って逆変換処理をするので、位相板１１ａによってぼけた画像を補正し、画像の解像度を向上させることができる。
【００７９】
なお、上述のように、画像１０５における逆変換フィルタ１２１によるコンボリューション演算の対象となる対象部分画像について、画像１０５と重複していない部分の画素は「０」としたが、これに限定されるものではない。例えば、対象部分画像の画像１０５と重複していない部分の画素は、対象部分画像の中央データを基準にして、対象部分画像の画像１０５と重複している部分の画素を折り返した場合の画素を用いるものとしてもよい。
【００８０】
具体的に、図１１（ａ）の対象部分画像１３１ａを例にして説明する。対象部分画像１３１ａのそれぞれの画素の名称を、仮に図１０に示す対象部分画像１３１の画素の名称と同様とする。この場合、対象部分画像１３１ａの画像１０５と重複していない部分の画素は、画素Ａ１１〜Ａ１５、Ａ２１〜Ａ２５、Ａ３１、Ａ３２、Ａ４１、Ａ４２、Ａ５１およびＡ５２である。また、対象部分画像１３１ａの画像１０５と重複している部分の画素は、画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５である。
【００８１】
このとき、画素Ａ３１、Ａ３２、Ａ４１、Ａ４２、Ａ５１およびＡ５２は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素を折り返し、それぞれ画素Ａ３５、Ａ３４、Ａ４５、Ａ４４、Ａ５５およびＡ５４の値を用いる。また、画素Ａ１３〜Ａ１５およびＡ２３〜Ａ２５は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素を折り返し、それぞれ画素Ａ５３〜Ａ５５およびＡ４３〜Ａ４５の値を用いる。そして、画素Ａ１１、Ａ１２、Ａ２１およびＡ２２は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素のうち点対象の位置関係にある画素、すなわち、それぞれＡ５５、Ａ５４、Ａ４５およびＡ４４の値を用いる。以上のような方法によって、対象部分画像の各画素を決定するものとしてもよい。
【００８２】
また、図９および１０に示すように、フィルタ処理部１４３が有する逆変換フィルタはタップ数が５×５のフィルタとしているが、これに限定されるものではない。すなわち、フィルタのタップ数は３×３、１５×１５または２１×２１等異なるタップ数としてもよい。この場合、フィルタのタップ数に合わせて、対象部分画像の大きさも一致させる必要がある。また、フィルタによる逆変換処理の対象となる中央データが存在するように、フィルタのタップ数は奇数である必要がある。
【００８３】
また、逆変換フィルタは、例えば１５×１５以上のタップ数であることが好ましい。逆変換フィルタは、タップ数が多いほど、位相板によって被写界深度が拡張されてぼけが加えられた画像に対して、ぼけを補正できる光軸上の幅を大きくすることができる。したがって、タップ数が多い逆変換フィルタを用いることによって、位相板およびレンズの被写界深度についての設計のバリエーションを増やすことができる。
【００８４】
＜逆変換フィルタの周波数特性の導出＞
まず、１箇所のフォーカス位置において光学系であるレンズユニット１１によって広がったスポットを一点に集まるように復元する逆変換処理に使用される逆変換フィルタの周波数特性の導出方法について説明する。上述の周波数特性を実現するフィルタとしては、２次元の線形フィルタかつＦＩＲ（Ｆｉｎｉｔｅ  Ｉｍｐｕｌｓｅ  Ｒｅｓｐｏｎｓｅ）フィルタが好適である。
【００８５】
まず、撮像素子１２によって撮像された画像への光学系による影響のモデルを以下の式（２）に示す２次元のコンボリューション演算（畳み込み演算）の式によって表す。
【００８６】
【数１】
2015005933.tif 000003
【００８７】
ここで、ｉｍａｇｅｃａｐｔｕｒｅｄは光学系を通って検出された２次元の撮像画像の画素であり、ｉｍａｇｅｉｄｅａｌは被写体４そのものを示す理想画像の画素であり、ｈは光学系のＰＳＦを示す。
【００８８】
以下、画像処理系（撮像素子１２および画像処理部１４）に加わるノイズの影響を考慮して、逆変換処理後の画像の各画素と、理想画像の各画素との誤差についての平均二乗誤差を最小とする逆変換フィルタの周波数特性の導出を考える。平均二乗誤差は、以下の式（３）によって表される。
【００８９】
【数２】
2015005933.tif 000004
【００９０】
ここで、Ｅ［］は期待値（平均値）を示し、ｎは画像上の位置を示し、ｉｍａｇｅｐｒｏｃｅｓｓｅｄ（ｎ）は、ｉｍａｇｅｃａｐｔｕｒｅｄに対して逆変換処理をした画像の画素を示す。なお、ｉｍａｇｅｃａｐｔｕｒｅｄは、ノイズが含まれていることを考慮する。
【００９１】
波形ｘ（ｎ）が持つ全エネルギーのｎの全領域についての総和と、波形ｘ（ｎ）のエネルギーのフーリエ変換Ｘ（ω）の全周波数成分についての総和とが等しいとするパーセバルの定理より、式（３）は、周波数領域における平均二乗誤差として以下の式（４）で表される。
【００９２】
【数３】
2015005933.tif 000005
【００９３】
ここで、ＩＭＡＧＥｉｄｅａｌ（ω）はｉｍａｇｅｉｄｅａｌ（ｎ）の周波数特性を示し、ＩＭＡＧＥｐｒｏｃｅｓｓｅｄ（ω）はｉｍａｇｅｐｒｏｃｅｓｓｅｄ（ｎ）の周波数特性を示し、ωは空間周波数を示す。
【００９４】
逆変換フィルタの周波数特性をＲ（ω）とすると、以下の式（５）の最小値を与える周波数特性Ｒ（ω）が最適の逆変換フィルタとなる。
【００９５】
【数４】
2015005933.tif 000006
【００９６】
ここで、ＩＭＡＧＥｃａｐｔｕｒｅｄ（ω）は、ｉｍａｇｅｃａｐｔｕｒｅｄ（ｎ）の周波数特性である。
【００９７】
式（５）において、ＩＭＡＧＥｉｄｅａｌ（ω）＝Ｓ（ω）、およびＩＭＡＧＥｃａｐｔｕｒｅｄ（ω）＝Ｘ（ω）とし、式（５）の最小値をもとめるため、式（５）をＲ＊によって微分すると、下記の式（６）が得られる。
【００９８】
【数５】
2015005933.tif 000007
【００９９】
ここで、Ｅ［｜Ｘ（ω）｜２］は、ノイズを含んだ撮像画像のパワースペクトルであり、Ｅ［Ｓ（ω）・Ｘ（ω）＊］は、ノイズを含んだ撮像画像と理想画像との相互パワースペクトルである。
【０１００】
式（５）の最小値をもとめるため式（６）の最右辺を０とすると下記の式（７）が得られる。
【０１０１】
【数６】
2015005933.tif 000008
【０１０２】
式（７）から下記の式（８）が得られる。
【０１０３】
【数７】
2015005933.tif 000009
【０１０４】
この式（８）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、上述の式（３）に示す平均二乗誤差を最小とする最適のフィルタとなる。
【０１０５】
ここで、ノイズの周波数特性をＷ（ω）とし、光学系のＰＳＦであるｈの周波数特性をＨ（ω）として、上述の式（２）を周波数空間で示すと下記の式（９）で示される。
【０１０６】
【数８】
2015005933.tif 000010
【０１０７】
ノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であるとすると、Ｅ［Ｓ（ω）・Ｗ（ω）＊］＝０であるので、上述の式（８）の右辺の分母に、式（９）を代入すると、下記の式（１０）が得られる。
【０１０８】
【数９】
2015005933.tif 000011
【０１０９】
同じくノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であるとすると、Ｅ［Ｗ（ω）・Ｓ（ω）＊］＝０およびＥ［Ｓ（ω）＊・Ｗ（ω）］＝０であるので、上述の式（８）の右辺の分母に、式（９）を代入すると、下記の式（１１）が得られる。
【０１１０】
【数１０】
2015005933.tif 000012
【０１１１】
上述の式（８）、（１０）および（１１）から、下記の式（１２）に示す周波数特性Ｒ（ω）が得られる。
【０１１２】
【数１１】
2015005933.tif 000013
【０１１３】
この式（１２）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、画像処理系のノイズを考慮した場合の上述の式（３）に示す平均二乗誤差を最小とする最適なフィルタとなる。ここで、Ｅ［｜Ｓ（ω）｜２］は理想画像のパワースペクトルの平均値であり、Ｅ［｜Ｗ（ω）｜２］はノイズのパワースペクトルの平均値であり、｜Ｈ（ω）｜２は光学系の周波数特性のパワースペクトルである。
【０１１４】
また、上述の式（１２）に示す周波数特性Ｒ（ω）を適用した場合において、逆変換処理後の画像の各画素と、理想画像の各画素との二乗誤差についての周波数領域における積分を取ると、下記の式（１３）が得られる。
【０１１５】
【数１２】
2015005933.tif 000014
【０１１６】
上記の式（１３）の演算においては、上述のように、ノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であることを利用している式（１３）の最右辺の第１項は、逆変換処理後の画像の復元しきれなかった誤差量を示している。第２項は、ノイズによる誤差量を示している。
【０１１７】
式（１３）の積分値が最小となるように、光学系の周波数特性Ｈ（ω）を設計することによって、上述の式（５）に示す周波数領域においての平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。また、パーセバルの定理より、上述の式（３）に示す実空間における平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。
【０１１８】
ただし、上述の式（１２）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタは、１箇所のフォーカス位置（すなわち１箇所の周波数特性Ｈ）において、光学系によって広がったスポットを復元することができるものである。したがって、式（１２）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタは、スポットの形状が異なるその他のデフォーカス位置においては、スポットを復元するための最適なフィルタにはならない。
【０１１９】
次に、光軸上のあるデフォーカス位置範囲内において光学系であるレンズユニット１１によって広がったスポットを復元する逆変換処理に使用される逆変換フィルタの周波数特性の導出方法について説明する。これによって、１箇所のフォーカス位置における最適な逆変換フィルタではなく、複数の位置において最適な逆変換フィルタをもとめることができる。
【０１２０】
まず、２箇所のデフォーカス位置を想定し、上述の式（５）を変形して、２つの画像についての周波数領域における平均二乗誤差の和は、下記の式（１４）で表される。
【０１２１】
【数１３】
2015005933.tif 000015
【０１２２】
２つの画像は、それぞれＩＭＡＧＥ１およびＩＭＡＧＥ２に対応する。
【０１２３】
式（１４）において、ＩＭＡＧＥ１ｉｄｅａｌ（ω）＝Ｓ１（ω）、ＩＭＡＧＥ１ｃａｐｔｕｒｅｄ（ω）＝Ｘ１（ω）、ＩＭＡＧＥ２ｉｄｅａｌ（ω）＝Ｓ２（ω）およびＩＭＡＧＥ２ｃａｐｔｕｒｅｄ（ω）＝Ｘ２（ω）とする。そして、式（１４）の最小値をもとめるため、式（１４）をＲ＊によって微分すると、下記の式（１５）が得られる。
【０１２４】
【数１４】
2015005933.tif 000016
【０１２５】
式（１５）の最小値をもとめるため式（１５）の最右辺を０として、周波数特性Ｒ（ω）について解くと、下記の式（１６）が得られる。
【０１２６】
【数１５】
2015005933.tif 000017
【０１２７】
撮像装置１によって同一の画像を撮像しているものと仮定すると、Ｓ１（ω）＝Ｓ２（ω）となり、これをＳ（ω）とおき、さらに、上述の式（９）の関係式から下記の式（１７）が得られる。
【０１２８】
【数１６】
2015005933.tif 000018
【０１２９】
この式（１７）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、上述の式（１４）に示す周波数領域の平均二乗誤差を最小とする最適なフィルタとなる。
【０１３０】
以上は２つの画像の場合であったが、Ｎ個の画像、すなわち、Ｎ箇所のデフォーカス位置に一般化した周波数特性Ｒ（ω）は、下記の式（１８）で表される。
【０１３１】
【数１７】
2015005933.tif 000019
【０１３２】
この式（１８）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、画像処理系のノイズを考慮し、式（１４）に基づく複数のデフォーカス位置に対応する周波数領域の平均二乗誤差を最小とする最適なフィルタとなる。なお、できるだけ多くのデフォーカス位置、すなわち、できるだけ大きなＮの値によって周波数特性Ｒを導出するのが好ましい。
【０１３３】
また、上述の式（１７）に示す周波数特性Ｒ（ω）を適用した場合において、逆変換処理後の画像の各画素と、理想画像の各画素との二乗誤差についての周波数領域における積分を取ると、下記の式（１９）が得られる。
【０１３４】
【数１８】
2015005933.tif 000020
【０１３５】
上記の式（１９）の演算においては、上述のように、ノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であることを利用している。
【０１３６】
上述の式（１９）について、Ｎ個の画像、すなわち、Ｎ箇所のデフォーカス位置に一般化すると、下記の式（２０）が得られる。
【０１３７】
【数１９】
2015005933.tif 000021
【０１３８】
式（２０）に示す値をＮで割った値である下記の式（２１）で示される値をＮ箇所のデフォーカス位置に一般化した場合の周波数領域における平均二乗誤差ＭＳＥ（Ｍｅａｎ  Ｓｑｕａｒｅ  Ｅｒｒｏｒ）であると定義する。
【０１３９】
【数２０】
2015005933.tif 000022
【０１４０】
式（２１）に示すＭＳＥが最小となるように、光学系の周波数特性Ｈ（ω）を設計することによって、上述の式（１４）に示す周波数領域においての平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。また、パーセバルの定理により、実空間においての平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。したがって、式（１８）に示す周波数特性Ｒ（ω）に基づいて、例えば、画像処理部１４の画像バッファ部１４１が有する逆変換フィルタ１２１を導出するものとすればよい。
【０１４１】
以上のように、Ｎ箇所のデフォーカス位置、すなわち、複数のデフォーカス位置について、式（１８）に示す周波数特性Ｒ（ω）から最適な逆変換フィルタをもとめることができる。これによって、デフォーカス位置によってスポットの形状が変わっても、同一の逆変換フィルタによって復元することができるので、より広い範囲にまで被写界深度を拡張することができる。
【０１４２】
図１２は、実施の形態の画像処理部のフィルタ処理部の逆変換フィルタを決定するための周波数特性を演算する流れを示すフローチャートである。図１２を参照しながら、式（１８）に示す周波数特性Ｒを具体的に演算する流れについて説明する。
【０１４３】
＜＜ステップＳ１＞＞
まず、レンズユニット１１における面曲率および面間隔等、ならびに位相板１１ａの特性等の光学系パラメータに基づいて、レンズユニット１１に対する光線追跡演算によりＰＳＦを導出する。ここで、複数のデフォーカス位置における光学系パラメータによって光線追跡演算を行い、ＰＳＦを導出する。そして、ステップＳ２へ進む。
【０１４４】
＜＜ステップＳ２＞＞
ステップＳ１で導出したＰＳＦをフーリエ変換することによって、光学系の周波数特性Ｈを導出する。そして、ステップＳ５へ進む。
【０１４５】
＜＜ステップＳ３＞＞
画像処理系（撮像素子１２および画像処理部１４）に加わるノイズ特性を測定する。そして、ノイズ特性をフーリエ変換することによって、ノイズの周波数特性Ｗを導出する。なお、ノイズ特性の測定が困難である場合は、空間周波数によらず、撮像素子１２のＳ／Ｎ比の値を定数としてノイズの周波数特性Ｗを導出するものとしてもよい。そして、ステップＳ５へ進む。
【０１４６】
＜＜ステップＳ４＞＞
撮像装置１により、自然風景またはバーコード等を様々な大きさおよび撮影条件によって撮像された画像を理想画像とする。理想画像を構成する画素の値をフーリエ変換し、空間周波数ωについての平均値を被写体の周波数特性Ｓとして導出する。なお、被写体の周波数特性Ｓは、被写体から出る光に収差を与えない光学系を通過した光に基づく撮像画像の画素の周波数特性としてもよい。また、被写体の周波数特性Ｓは、定数としてもよい。そして、ステップＳ５へ進む。
【０１４７】
＜＜ステップＳ５＞＞
ステップＳ２で導出した光学系の周波数特性Ｈ、ステップＳ３で導出したノイズの周波数特性Ｗ、およびステップＳ４で導出した被写体の周波数特性Ｓから、上述の式（１８）を使用して、逆変換フィルタの周波数特性Ｒを演算する。
【０１４８】
＜ＭＴＦの空間周波数特性＞
図１３は、光学系を通過した光によって検出された画像の空間周波数特性を示す図である。図１４は、逆変換処理が行われた画像の空間周波数特性を示す図である。図１３および１４を参照しながら、画像の空間周波数特性について説明する。
【０１４９】
まず、図１３を参照しながら、レンズユニット１１（光学系）を通過した光が撮像素子１２によって撮像された画像についての空間周波数ωに対するＭＴＦについて説明する。図１３に示される目標空間周波数特性２０１は、被写体の撮像画像のコントラストが完全に再現された場合のＭＴＦの空間周波数ωについての特性（ＭＴＦ＝１）を示す。
【０１５０】
上述したように、レンズユニット１１を通過した光は、収差を与えるレンズおよび位相板１１ａの作用によって点像分布関数（ＰＳＦ）が付加される。図１３における空間周波数特性２０２は、レンズユニット１１を通過した光に基づいて、撮像素子１２によりフォーカス位置において撮像された撮像画像のＭＴＦの空間周波数ωについての特性を示す。図１３における空間周波数特性２０３は、レンズユニット１１を通過した光に基づいて撮像素子１２によってあるデフォーカス位置において撮像された撮像画像のＭＴＦの空間周波数ωについての特性を示す。レンズユニット１１を通過した光はＰＳＦが付加されているので、フォーカス位置における空間周波数特性２０２、およびデフォーカス位置における空間周波数特性２０３は、図１３に示すように、何れも目標空間周波数特性２０１よりも低い値となる。
【０１５１】
次に、図１４（ａ）を参照しながら、図８に示すフィルタ処理部１４３が有する逆変換フィルタが、上述の式（１２）に示す周波数特性Ｒによってもとめられた場合を考える。この場合において、撮像素子１２によって撮像された画像がフィルタ処理部１４３によって逆変換処理が行われた画像についての空間周波数ωに対するＭＴＦについて説明する。
【０１５２】
図１４（ａ）における空間周波数特性２０２ａは、撮像素子１２によりフォーカス位置において撮像された撮像画像について、フィルタ処理部１４３により逆変換処理された画像のＭＴＦの空間周波数ωについての特性を示す。図１４（ａ）における空間周波数特性２０３ａは、撮像素子１２によりあるデフォーカス位置において撮像された撮像画像について、フィルタ処理部１４３により逆変換処理された画像のＭＴＦの空間周波数ωについての特性を示す。上述のように、式（１２）は１箇所のフォーカス位置において、レンズユニット１１によってＰＳＦが付加された画像を復元する逆変換フィルタの周波数特性Ｒなので、空間周波数特性２０２ａのように、ＭＴＦ＝１となり、目標空間周波数特性２０１と一致する。しかし、式（１２）に示す周波数特性Ｒから導出された逆変換フィルタは、フォーカス位置におけるスポットとは形状の異なるデフォーカス位置には対応していないので、空間周波数特性２０３ａのＭＴＦは、空間周波数特性２０２ａのＭＴＦよりも低くなる。
【０１５３】
次に、図１４（ｂ）を参照しながら、図８に示すフィルタ処理部１４３が有する逆変換フィルタが、上述の式（１８）に示す周波数特性Ｒに基づいてもとめられた場合を考える。この場合において、撮像素子１２によって撮像された画像がフィルタ処理部１４３によって逆変換処理が行われた画像についての空間周波数ωに対するＭＴＦについて説明する。
【０１５４】
図１４（ｂ）における空間周波数特性２０２ｂは、撮像素子１２によってあるデフォーカス位置Ｐ１において撮像された撮像画像について、フィルタ処理部１４３により逆変換処理された画像のＭＴＦの空間周波数ωについての特性を示す。図１４（ｂ）における空間周波数特性２０３ｂは、撮像素子１２によってあるデフォーカス位置Ｐ２において撮像された撮像画像について、フィルタ処理部１４３により逆変換処理された画像のＭＴＦの空間周波数ωについての特性を示す。上述のように、式（１８）は複数のデフォーカス位置において、すなわち、光軸上の所定の位置範囲（被写界深度）において、レンズユニット１１によってＰＳＦが付加された画像を復元する逆変換フィルタの周波数特性Ｒである。したがって、被写界深度に含まれる何れのデフォーカス位置においても、撮像素子１２により撮像され、かつ、フィルタ処理部１４３により逆変換処理された画像の空間周波数特性におけるＭＴＦは、目標空間周波数特性２０１のＭＴＦに近接することになる。すなわち、上述の逆変換フィルタによって複数のデフォーカス位置における画像が逆変換処理された画像の周波数特性は、図１４（ｂ）に示すように、目標空間周波数特性２０１よりも大きい値であったり、小さい値であったりする。いずれにしても、上述の逆変換フィルタによって逆変換処理された画像の周波数特性は、図１４（ｂ）に示すように、目標空間周波数特性２０１に近接する。
【０１５５】
以上のように、フィルタ処理部１４３は、式（１８）に示す周波数特性Ｒ（ω）に基づいてもとめられた逆変換フィルタによる逆変換処理によって、所定の位置範囲において、レンズユニット１１によってＰＳＦが付加された画像を復元することができる。したがって、所定の位置範囲においてスポットの形状が変わっても、同一の逆変換フィルタによって復元することができるので、より広い範囲にまで被写界深度を拡張することができる。
【符号の説明】
【０１５６】
１  撮像装置
２  ＰＣ
３  通信ケーブル
４  被写体
１１  レンズユニット
１１ａ  位相板
１１ｂ  絞り
１２  撮像素子
１４  画像処理部
１５  通信部
２１  通信部
２２  操作部
２３  表示部
２４  記憶部
２５  外部記憶装置
２６  制御部
２７  バス
１０１  検出画像
１０５  画像
１２１  逆変換フィルタ
１３１、１３１ａ〜１３１ｆ  対象部分画像
１３５ａ〜１３５ｆ  中央データ
１４１  画像バッファ部
１４３  フィルタ処理部
２０１  目標空間周波数特性
２０２、２０２ａ、２０２ｂ  空間周波数特性
２０３、２０３ａ、２０３ｂ  空間周波数特性
５００  撮像システム
１４１０  入力部
１４１１ａ〜１４１１ｄ  レジスタ
１４１２ａ〜１４１２ｄ  ラインバッファ
１４１３ａ〜１４１３ｅ  出力部
１４３１ａ〜１４３１ｅ  入力部
１４３２ａ〜１４３２ｅ  レジスタ
１４３３ａ〜１４３３ｅ  レジスタ
１４３４ａ〜１４３４ｅ  レジスタ
１４３５ａ〜１４３５ｅ  レジスタ
１４３６ａ〜１４３６ｅ  レジスタ
１４３７ａ〜１４３７ｅ  レジスタ
１４３８ａ〜１４３８ｅ  乗算器
１４３９ａ〜１４３９ｅ  乗算器
１４４０ａ〜１４４０ｅ  乗算器
１４４１ａ〜１４４１ｅ  乗算器
１４４２ａ〜１４４２ｅ  乗算器
１４４３ａ〜１４４３ｅ  加算器
１４４４ａ〜１４４４ｅ  加算器
１４４５ａ〜１４４５ｅ  加算器
１４４６ａ〜１４４６ｅ  加算器
１４４７ａ〜１４４７ｃ  加算器
１４４８  出力部
Ａ  フレーム開始期間      
Ｂ  水平ブランキング期間
Ｃ  フレーム終了期間
Ｄ  垂直ブランキング期間
Ｔ  有効データ期間
【先行技術文献】
【特許文献】
【０１５７】
【特許文献１】特開２０１１−１５１４４８号公報
【図１】
2015005933.tif 000024
【図２】
2015005933.tif 000025
【図３】
2015005933.tif 000026
【図４】
2015005933.tif 000027
【図５】
2015005933.tif 000028
【図６】
2015005933.tif 000029
【図７】
2015005933.tif 000030
【図８】
2015005933.tif 000031
【図９】
2015005933.tif 000032
【図１０】
2015005933.tif 000033
【図１１】
2015005933.tif 000034
【図１２】
2015005933.tif 000035
【図１３】
2015005933.tif 000036
【図１４】
2015005933.tif 000037