(57)【特許請求の範囲】
【請求項１】
劣化等の変化が生じた原信号のデータから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号（以下、元信号という）の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記復元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項２】
劣化等の変化が生じた原信号のデータから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号（以下、元信号という）の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記復元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和の最小値をＭｉｎとしたとき、その移動エネルギーがＭｉｎを超え、Ｍｉｎ×１．２以下となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項３】
前記復元手段は、前記処理部が信号変化の要因となる前記変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと上記比較用のデータとを比較し、得られた差分のデータを前記原点位置が設定された前記変化要因情報のデータを利用して上記任意の信号データに配分することで前記復元データを生成し、この復元データを上記任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段であることを特徴とする請求項１または２記載の信号処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、信号処理装置に関する。
【背景技術】
【０００２】
従来から、カメラ等の信号処理装置で撮影した際には、信号には時々劣化が生ずることが知られている。信号劣化の要因としては撮影時の手ブレ、光学系の各種の収差、レンズの歪み等がある。
【０００３】
本出願人は、過去に、撮影時の手ブレによって劣化した画像（信号）を復元する方法を提案した（特許文献１参照）。この特許文献１記載の技術は、信号を処理する処理部を有する信号処理装置において、処理部が、復元データを生成する処理を行うに際して、露光時間が最も長い位置に対応させる技術である。この技術を採用することで、撮影画像のブレの軌跡の途中または終端部において露光時間が長くなるような露光が行われた撮影画像を復元する場合に、撮影画像と復元画像との位置ずれを小さくし、見た目で自然な感じに復元画像が生成される画像処理装置を提供できる。
【０００４】
なお、一般の撮影画像以外にも、Ｘ線写真、顕微鏡画像等、種々の画像や信号が、ブレやその他の原因によって劣化したり、変化したりすることが知られている。
【０００５】
【特許文献１】国際公開第２００７／０７７７３３号パンフレット
【発明の開示】
【発明が解決しようとする課題】
【０００６】
特許文献１記載のような信号処理を含め、画像の復元処理を行うと、画像中に存在するエッジ部の近傍でリンギングが発生しやすくなる。このリンギングの発生の抑制は困難である。また、画像におけるリンギングと同様な現象が一般の信号にも生ずる。
【０００７】
そこで、本発明の課題は、信号を復元するに当たり、リンギング等の発生を抑えることができる信号処理装置を提供することである。
【課題を解決するための手段】
【０００８】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号のデータから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号（以下、元信号という）の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび復元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をする。
【０００９】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さくし、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【００１０】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号のデータから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号（以下、元信号という）の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび復元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和の最小値をＭｉｎとしたとき、その移動エネルギーがＭｉｎを超え、Ｍｉｎ×１．２以下となる位置に設定して復元処理をする。
【００１１】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さい範囲に設定し、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【００１２】
他の発明に係る信号処理装置は、上述した発明に加え、復元手段は、処理部が信号変化の要因となる変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと比較用のデータとを比較し、得られた差分のデータを原点位置が設定された変化要因情報のデータを利用して任意の信号データに配分することで復元データを生成し、この復元データを任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段である。この繰り返し処理を極めて多数回行えば、リンギングが発生していない画像等の信号を復元できる。よって、この構成を採用することで、より確実にリンギング等の発生を抑えることができる。
【発明の効果】
【００１３】
本発明では、リンギングの発生等を抑えることができる信号処理装置を提供することができる。
【発明を実施するための最良の形態】
【００１４】
以下、本発明の実施の形態に係る信号処理装置を、図を参照しながら説明する。なお、この信号処理装置は、民生用のカメラとしているが、監視用カメラ、テレビ用カメラ、ハンディタイプのビデオカメラ、内視鏡カメラ、等他の用途のカメラとしたり、顕微鏡、双眼鏡、さらにはＮＭＲ撮影等の画像診断装置、画像を印刷するプリンタの画像調節機能の一部を構成する装置等、カメラ以外の機器にも適用できる。
【００１５】
図１には信号処理装置１の構成の概要を示している。信号処理装置１は、人物等の画像を撮影する撮影部２と、その撮影部２を駆動する制御系部３と、撮影部２で撮影された画像を処理する処理部４と、を有している。また、この実施の形態に係る信号処理装置１は、さらに処理部４で処理された画像を記録する記録部５と、角速度センサ等からなり、画像劣化など変化の要因となる変化要因情報を検知する検出部６と、画像劣化等を生じさせる既知の変化要因情報を保存する要因情報保存部７を有する。
【００１６】
撮影部２は、レンズを有する撮影光学系やレンズを通過した光を電気信号に変換するＣＣＤやＣ−ＭＯＳ等の撮影素子を備える部分である。制御系部３は、撮影部２，処理部４，記録部５，検出部６，および要因情報保存部７等、信号処理装置内の各部を制御するものである。
【００１７】
処理部４は、画像処理プロセサで構成されており、ＡＳＩＣ(Application Specific Integrated Circuit)のようなハードウェアで構成されている。処理部４は、検出する手ブレ等の振動検出のためのサンプリング周波数を発生させていると共にそのサンプリング周波数を検出部６に供給している。また処理部４は、振動検出の開始と終了を制御している。さらに処理部４は、その振動検出の開始と終了までのブレの軌跡（履歴）と、その軌跡上の各点にとどまっていた時間（重み）を検出し記憶する。そして、処理部４は、後述する光エネルギーの移動エネルギーが最小値となるようにブレ軌跡の原点位置を設定する。
【００１８】
また、この処理部４には、後述する比較用データを生成する際の元となる画像のデータが保管されることもある。さらに処理部４は、ＡＳＩＣのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。記録部５は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段、またはＤＶＤ等を使用する光記録手段等を採用しても良い。
【００１９】
検出部６は、図２に示すように、信号処理装置１の光軸であるＺ軸に対して垂直方向となるＸ軸、Ｙ軸の回りの速度を検出する２つの角速度センサを備えるものである。ところで、カメラで撮影する際の手ブレは、Ｘ方向、Ｙ方向、Ｚ方向の各方向への移動、Ｚ軸回りの回動も生ずるが、各変動により最も大きな影響を受けるのは、Ｙ軸回りの回転とＸ軸回りの回転である。これら２つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図２のＸ軸回りとＹ軸回りの２つの角速度センサのみを配置している。よって、カメラに与えられたブレは、Ｘ−Ｙ平面上における座標の経時変化のデータとして出力される。しかし、より完全を期すためＺ軸回りの角速度センサをさらに付加したり、Ｘ方向やＹ方向への移動を検出するセンサを付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。
【００２０】
要因情報保存部７は、既知の劣化要因情報などの変化要因情報、たとえば光学系の収差および／または検出された振動に基づいて算出された伝達関数等を保存しておく記録部である。要因情報保存部７で記録された伝達関数は、上述のＸ−Ｙ平面上における座標の経時変化のデータを含み、たとえばその算出後の直近に撮影された原画像（劣化等の変化が生じた画像）から元画像（変化する前の画像もしくは本来撮影されるべきであった画像またはそれらの近似画像）への復元処理の際に、処理部４で用いられる。
【００２１】
ここで、保存されるＸ−Ｙ平面上における座標データの経時変化は、図３に示すＸ−Ｙ平面で表されるようなブレの軌跡の情報およびその軌跡上の各位置にどの程度の期間とどまっていたかの情報を含む。図３に示すＸ−Ｙ平面の始点Ａ（Ｘ１，Ｙ１）は、撮影開始位置であり、軌跡の終点Ｂ（ＸＮ，ＹＮ）は、撮影終了位置である。
【００２２】
ブレによる画像の劣化は、光エネルギーが１点に集中せずに、光エネルギーが図３に示す軌跡Ａ−Ｂ上に分散する現象である。よって分散した光エネルギーを１点に集中させることが、原画像を元画像へと復元することとなる。その光エネルギーを集中させる１点は、自由に決定できる。たとえば図３におけるＡ点、Ｂ点、Ａ−Ｂの軌跡上またはＡ−Ｂの軌跡を外れた点に決定できる。
【００２３】
ここで、分散した光エネルギーを集中させる点を「原点位置」と言うこととし、原点位置は、図３に示すＸ−Ｙ平面上の点０座標（０ｘ，０ｙ）で表すこととする。また、上述した伝達関数である点像分布関数（ＰＳＦ）をＧ（Ｘｎ，Ｙｎ）で表すこととする。これは、各位置（Ｘｎ，Ｙｎ）においてどの程度の期間とどまっていたかの情報である「重さ」を示す。なお、（Ｘｎ，Ｙｎ）は、図３に示すＸ−Ｙ平面上の座標である。
0005007245.tif 000002
【００２４】
また、分散した光エネルギーを原点位置である点０へ集中させる移動エネルギーをＥ（０ｘ，０ｙ）で表すこととする。すると分散したエネルギーを原点位置（０ｘ、０ｙ）に集中させる移動エネルギーは、移動距離と重さの積となり以下の式（２）（ｎ＝１，２，・・・Ｎ：Ｎは分散して広がった領域数）で表わすことができる。
0005007245.tif 000003
【００２５】
そして、移動エネルギーＥ（０ｘ，０ｙ）を最小値とする原点位置（０ｘ，０ｙ）を設定する。この設定は、処理部４で行われる。
【００２６】
ここで、原画像の元画像への復元処理を実行する時期は、撮影用の電源がオフされている時、処理部４が稼働していない時、処理部４の稼働率が低い時等、原画像を撮影した時期から遅らせた時期とすることができる。その場合には、記録部５に保存された原画像データおよび、要因情報保存部７に保存された、その原画像についての伝達関数等の変化要因情報が、それぞれが関連づけられた状態で長期間に渡り保存される。このように、原画像の復元処理を実行する時期を、原画像を撮影した時期から遅らせる利点は、種々の処理を伴う撮影時の処理部４の負担を軽減できることである。
【００２７】
次に、以上のように構成された本実施の形態に係る信号処理装置１の処理部４の画像復元処理方法（復元手段）の概要を、図４、図５および図６に基づいて説明する。
【００２８】
図４中、「Ｉ０」は、任意の初期画像であって、処理部４の記録部に予め保存されている画像のデータである。「Ｉ０’」は、その初期画像のデータのＩ０の劣化画像のデータを示し、比較のための比較用データである。「Ｇ」は、検出部６で検出された変化要因情報（＝劣化要因情報（伝達関数））のデータで、処理部４の記録部に保存されるものである。「Ｉｍｇ’」は、原画像のデータである。
【００２９】
「δ」は、原画像データＩｍｇ’と、比較用データＩ０’との差分のデータである。「ｋ」は、変化要因情報のデータに基づく配分比である。「Ｉ０＋ｎ」は、初期画像のデータＩ０に、差分のデータδを変化要因情報のデータＧに基づいて配分して新たに生成した復元画像のデータ（復元データ）である。「Ｉｍｇ」は、元画像のデータである。ここで、ＩｍｇとＩｍｇ’の関係は、次の（３）式で表されるものとする。
Ｉｍｇ’＝Ｉｍｇ＊Ｇ  ……（３）
ここで、「＊」は、重畳積分を表す演算子である。
【００３０】
なお、差分のデータδは、対応する画素の単純な差分でも良い場合もあるが、一般的には、変化要因情報のデータＧにより異なり、次の（４）式で表される。
δ＝ｆ（Ｉｍｇ’，Ｉｍｇ，Ｇ）  …（４）
【００３１】
処理部４の処理ルーチンは、まず、分散した光エネルギーを集中させる原点位置を決定する（ステップＳ１００）。そして、任意の画像データＩ０を用意する（ステップＳ１０１）。この初期画像のデータＩ０としては、劣化している原画像のデータＩｍｇ’を用いても良く、また、黒ベタ、白ベタ、灰色ベタ、市松模様等どのような画像のデータを用いても良い。ステップＳ１０２で、（３）式のＩｍｇの代わりに初期画像となる任意の画像のデータＩ０を入れ、劣化画像である比較用データＩ０’を求める。次に、原画像データＩｍｇ’と比較用データＩ０’とを比較し、差分のデータδを算出する（ステップＳ１０３）。
【００３２】
そして、差分のデータδの各々の絶対値が所定値未満であるか否かを判断する（ステップＳ１０４）。ステップＳ１０４で差分のデータδが所定値以上であれば、ステップＳ１０５で新たな復元画像のデータ（＝復元データ）を生成する処理を行う。すなわち、個々の信号要素が得られた個々の差分のデータδを変化要因情報のデータＧに基づいて、任意の画像データＩ０に配分し、新たな復元データＩ０＋ｎを生成する。
【００３３】
その後、図４のステップＳ１０２〜Ｓ１０５を繰り返す。ステップＳ１０４において、各画素の差分のデータδの各々の絶対値が所定値未満となったら、繰り返し処理を終了する。そして、繰り返し処理を終了した時点での復元データＩ０＋ｎを元画像のデータＩｍｇと推定する。すなわち、各画素の差分のデータδの各々の絶対値が所定値より小さくなった場合、比較用データＩ０＋ｎ’の元となった復元データＩ０＋ｎは元画像のデータＩｍｇと非常に近似したものとなることから、その復元データＩ０＋ｎを元画像のデータＩｍｇと推定するのである。なお、記録部５には、初期画像のデータＩ０、変化要因情報のデータＧ、を記録しておき、必要により処理部４に渡すようにしても良い。
【００３４】
上述した繰り返し処理方法（復元手段）の考え方をまとめると以下のようになる。すなわち、この処理方法においては、処理の解を逆問題としては解かず、合理的な解を求める最適化問題として解くのである。逆問題として解く場合、理論上は可能であるが、現実問題としては困難である。
【００３５】
最適化問題として解く場合において、本実施の形態では、次のような条件を前提としている。
すなわち、
（１）入力に対する出力は、一意に決まる。
（２）出力が同じであれば、入力は同じである。
（３）出力が同じになるように、入力を更新し解を収束させていく。
【００３６】
このことを換言すれば、図５（Ａ）（Ｂ）に示すように、原画像のデータＩｍｇ’と近似である比較用データＩ０’（Ｉ０＋ｎ’）を生成できれば、その生成の元データとなる初期画像のデータＩ０または復元データＩ０＋ｎは、元画像のデータＩｍｇに近似したものとなる。
【００３７】
なお、この実施の形態では、角速度検出センサのサンプリング周波数を６０Ｈｚから２４０Ｈｚ内としているが、高周波数を検出できるように５μｓｅｃ毎に角速度を検出してもよい。また、差分のデータδの判定基準となる値は、各データを８ビット（０〜２５５）で表した場合に、この実施の形態では「６」としている。すなわち、６より小さい、つまり５以下の時は、処理を終了している。また、角速度検出センサで検出したブレの生データは、センサ自体の校正が不十分なときは、実際のブレとは対応しない。よって実際のブレに対応させるため、センサが校正されていないときは、センサで検出した生データに所定の倍率をかけたりする補正が必要とされる。
【００３８】
次に、図４に示す手ブレの復元処理方法（ステップＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５の反復処理（復元手段））の詳細を、図６，図７，図８，図９，図１０，図１１，図１２および図１３に基づいて説明する。
【００３９】
（手ブレの復元アルゴリズム）
手ブレが無いとき、所定の画素に対応する光エネルギーは、露光時間中、その画素に集中する。また、手ブレがある場合、光エネルギーは、露光時間中にブレた画素に分散する。さらに、露光時間中のブレがわかれば、露光時間中のエネルギーの分散の仕方がわかるため、ブレた画像からブレの無い画像を作ることが可能となる。
【００４０】
以下、簡単のため、横一次元で説明する。画素を左から順にＳ−１，Ｓ，Ｓ＋１，Ｓ＋２，Ｓ＋３，…，とし、ある画素Ｓに注目する。ブレが無いとき、露光時間中のエネルギーは、その画素に集中するため、エネルギーの集中度は「１．０」である。この状態を図６に示す。このときの撮影結果を、図７の表に示す。図７に示すものが、劣化しなかった場合の正しい画像データＩｍｇとなる。なお、各データは、８ビット（０〜２５５）のデータで表している。
【００４１】
露光時間中にブレがあり、露光時間中の５０％の時間はＳ番目の画素に、３０％の時間はＳ＋１番目の画素に、２０％の時間はＳ＋２番目の画素にそれぞれブレていたとする。エネルギーの分散の仕方は、図８に示す表のとおりとなる。これが変化要因情報のデータＧとなる。上述の式（１）における「Ｎ」の値は「３」となり、「重み」としての５０％、３０％、および２０％の総和が「１」となる。よって、この変化要因情報Ｇ（ここでは、横一次元で考えるため、Ｇ（Ｘｎ）となる）は、上述の式（１）を満たす。
【００４２】
この図８および式（２）に基づいて、移動エネルギーＥ（０ｘ，０ｙ）を算出する。ここでは、横一次元で考えるため、移動エネルギーは、Ｅ（０ｘ）となる。また、移動距離は、画素一つ分の移動距離を「１」として計算する。すると、分散した光エネルギーを画素「Ｓ」に集中させる場合の移動エネルギーは、Ｅ（０ｘ）は、以下のように計算され、求められる。
（１×０）＋（０×０．５）＋（１×０．３）＋（２×０．２）＝０．７
【００４３】
同様に、分散した光エネルギーを画素「Ｓ＋１」に集中させる場合の移動エネルギーは、Ｅ（０ｘ）は、以下のように計算され、求められる。
（１×０．５）＋（０×０．３）＋（１×０．２）＝０．７
【００４４】
同様に、分散した光エネルギーを画素「Ｓ＋２」に集中させる場合の移動エネルギーは、Ｅ（０ｘ）は、以下のように計算され、求められる。
（２×０．５）＋（１×０．３）＋（０×０．２）＝１．３
【００４５】
以上の結果から、図８の場合は、分散した光エネルギーを画素「Ｓ」または「Ｓ１」に集中させることで、移動エネルギーを最小値の「０．７」とすることができる。また、図８の代わりに「Ｓ＝０．４５」「Ｓ＋１＝０．３」「Ｓ＋２＝０．２５」の場合は、画素「Ｓ＋１」への移動エネルギーの総和が最も小さくなる。すなわち、画素「Ｓ」への移動は「０．８」となり画素「Ｓ＋１」への移動は「０．７」となり、画素「Ｓ＋２」への移動が「１．２」となるためである。以下、分散した光エネルギーを移動エネルギーが最も小さい位置、すなわち上述の図８の例で画素「Ｓ」へと、集中させる場合の繰り返し処理の詳細について説明する。
【００４６】
ブレは、全ての画素で一様であり、線形問題として把握される。そして、上ブレ（縦ブレ）が無いとすると、ブレの状況は、図９に示す表のとおりとなる。図９中の「ブレ画像」として示されるデータが、劣化している原画像のデータＩｍｇ’となる。具体的には、たとえば「Ｓ−３」の画素の「１２０」は、ブレ情報である変化要因情報のデータＧの「０．５」「０．３」「０．２」の配分比に従い、「Ｓ−３」の画素に「６０」、「Ｓ−２］の画素に「３６」、「Ｓ−１」の画素に「２４」というように分散する。同様に、「Ｓ−２」の画素データである「６０」は、「Ｓ−２」に「３０」、「Ｓ−１」に「１８」、「Ｓ」に「１２」として分散する。この劣化している原画像データＩｍｇ’と、図８に示す変化要因情報のデータＧから元画像データＩｍｇを算出することとなる。以上の処理が、信号要素のデータの一部または全部を移動させる処理となる。
【００４７】
ステップＳ１０１に示す任意の画像データＩ０としては、どのようなものでも採用できるが、この説明に当たっては、原画像データＩｍｇ’を用いる。すなわち、Ｉ０＝Ｉｍｇ’として処理を開始する。図１０の表中に「入力」とされたものが初期画像のデータＩ０に相当する。このデータＩ０すなわちＩｍｇ’と、ステップＳ１０２で変化要因情報のデータＧとを重畳積分する。すなわち、たとえば、初期画像のデータＩ０の「Ｓ−３」の画素の「６０」は、Ｓ−３の画素に「３０」が、「Ｓ−２」の画素に「１８」が、「Ｓ−１」の画素に「１２」がそれぞれ割り振られる。他の画素についても同様に配分され、「出力Ｉ０’」として示される比較用データＩ０’が生成される。このため、ステップＳ１０３の差分のデータδは、図１０の最下欄に示すようになる。
【００４８】
差分のデータδの配分は、図１１に示すように、たとえば「Ｓ−３」の画素データ「３０」に、自分の所（＝「Ｓ−３」の画素）の配分比である０．５をかけた「１５」を「Ｓ−３」の画素に配分し、また「Ｓ−２」の画素のデータ「１５」にその「Ｓ−２」の画素にきているはずの配分比である０．３をかけた「４．５」を配分し、さらに、「Ｓ−１」の画素のデータ「９．２」に、その「Ｓ−１」の画素にきているはずの配分比である０．２をかけた「１．８４」を配分する。「Ｓ−３」の画素に配分された総量は、「２１．３４」となり、この値を図４における初期画像のデータＩ０（ここでは原画像データＩｍｇ’を使用）にプラスして、図４における復元データＩ０＋１が算出される。この例では、図１１に示すように「８１．３４」となる。このように、差分のデータδを変化要因情報のデータＧを使用して、任意の画像のデータＩ０に配分して、図１１中の「次回入力」として示される復元データＩ０＋ｎを生成する。この場合、第１回目であるため、図１１では、Ｉ０＋１と表している。
【００４９】
図１２に示すように、この復元データＩ０＋１（Ｉａ'）がステップＳ１０２の入力画像のデータ（＝初期画像のデータＩ０）になり、ステップＳ１０２が実行され、ステップＳ１０３へと移行し、新しい差分のデータδを得る。その差分のデータδの大きさをステップＳ１０４で判断し、所定値より大きい場合、ステップＳ１０５で新しい差分のデータδを前回の復元データＩ０＋１に配分し、新しい復元データＩ０＋２を生成する（図１３参照）。
【００５０】
その後、復元データＩ０＋２を用いてステップＳ１０２を遂行することにより、復元データＩ０＋２から新しい比較用データＩ０＋２’が生成される。このように、ステップＳ１０２，Ｓ１０３が実行された後、ステップＳ１０４へ行き、そこでの判断によりステップＳ１０５へ移行する。このような処理を繰り返す。
【００５１】
以上のように、ステップＳ１０２〜ステップＳ１０５が繰り返されることで、差分のデータδが徐々に小さくなっていき、所定値より小さくなると、ブレていない元画像データＩｍｇが得られる。この元画像データＩｍｇは、図８に示す例では、分散したエネルギーを画素「Ｓ」に戻す（移動させる）ことで得られたものである。
【００５２】
以上に述べた図４に示す手ブレの復元処理方法（ステップＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５の反復処理）においては、処理部４で行った処理は、ソフトウェアで構成しているが、それぞれ、一部の処理を分担して行うようにした部品からなるハードウェアで構成しても良い。また、変化要因情報のデータＧとしては、劣化要因情報のデータのみではなく、単に画像を変化させる情報や、劣化とは逆に、画像を良くする情報を含むものとする。
【００５３】
また、処理の反復回数が信号処理装置１側で自動的にまたは固定的に設定されている場合、その設定された回数を変化要因情報のデータＧによって変更するようにしても良い。たとえば、ある画素のデータがブレにより多数の画素に分散している場合は、反復回数を多くし、分散が少ない場合は反復回数を少なくするようにしても良い。
【００５４】
さらに、反復処理中に、差分のデータδが発散してきたり、エネルギーが移動した後の画像データのエネルギーが小さくならず大きくなってきたら、処理を中止させるようにしても良い。発散しているか否かは、たとえば差分のデータδの平均値を見てその平均値が前回より大きくなったら発散していると判断する方法を採用できる。また、反復処理中に、入力を異常な値に変更しようとしたときには、処理を中止させるようにしても良い。たとえば８ビットの場合、変更されようとする値が２５５を超える値であるときには、処理を中止させる。また、反復処理中、新たなデータである入力を異常な値に変更しようとしたとき、その値を使用せず、正常な値とするようにしても良い。たとえば、８ビットの０〜２５５の中で、２５５を超える値を入力データとしようとした際は、マックスの値である２５５として処理するようにする。
【００５５】
また、出力画像となる復元データを生成する際、変化要因情報のデータＧによっては、復元させようとする画像の領域外へ出てしまうようなデータが発生する場合がある。このような場合、領域外へはみ出るデータは反対側へ入れる。また、領域外から入ってくるべきデータがある場合は、そのデータは反対側から持ってくるようにするのが好ましい。たとえば、領域内の最も下に位置する画素ＸＮ１のデータから、さらに下の画素に割り振られるデータが発生した場合、その位置は領域外になる。そこで、そのデータは画素ＸＮ１の真上で最も上に位置する画素Ｘ１１に割り振られる処理をする。画素ＸＮ１の隣の画素Ｎ２についても同様に真上で最上覧の画素Ｘ１２（＝画素Ｘ１１の隣り）に割り振ることとなる。
【実施例】
【００５６】
分散した光エネルギーを図８の変形例である画素「Ｓ」が０．８５、画素「Ｓ＋１」が０．３、画素「Ｓ＋２」が０．２５の場合、画素「Ｓ」、「Ｓ＋１」、「Ｓ＋２」に各々集中させ原点位置とし、図４に示す繰り返し処理を行った。それらの各場合の復元画像を目視で観察し、リンギングの有無を判定した。また、式（２）の計算範囲である「Ｎ＝３」を若干拡大し、分散した光エネルギーを図８における画素「Ｓ−１」、「Ｓ＋３」に各々集中させ原点位置とし、図４に示す繰り返し処理を行った場合の、復元画像のリンギングの有無を同様に判定した。表１に判定結果を示した。
【００５７】
なお、分散した光エネルギーを画素「Ｓ−１」に集中させる場合の移動エネルギーは、画素「Ｓ」、「Ｓ＋１」、「Ｓ＋２」の場合と略同様に以下のように計算され、求められる。
（０×０）＋（１×０．４５）＋（２×０．３）＋（３×０．２５）＋（４×０）＝１．８０
また、同様に、分散した光エネルギーを画素「Ｓ＋３」に集中させる場合の移動エネルギーは、以下のように計算され、求められる。
（４×０）＋（３×０．４５）＋（２×０．３）＋（１×０．２５）＋（０×０）＝２．２０
【００５８】
【表１】
0005007245.tif 000004
【００５９】
表１の結果および多数の他の例から、移動エネルギー値が所定値を超えるとリンギングが観測され、移動エネルギー値を所定値以内に抑えるとリンギングの発生を抑えることができることがわかった。すなわち、式（２）から導かれる移動エネルギーの総和の最小値をＭｉｎとしたとき、その移動エネルギーがＭｉｎを超えた場合であってもＭｉｎ×１．２以下となる値であればリンギングの発生を従来に比べかなり抑えることができた。
【００６０】
以上、本実施の形態における信号処理装置１および実施例について説明したが、本発明の要旨を逸脱しない限り種々変更実施可能である。たとえば、本実施の形態では、移動エネルギーＥ（０ｘ，０ｙ）の総和を最小とする原点位置（０ｘ，０ｙ）を設定しているが、移動エネルギーＥ（０ｘ，０ｙ）の最小値を超え、所定値以下となる原点位置（０ｘ，０ｙ）を設定しても良い。図８の変形例である「Ｓ＝０．４５」「Ｓ＋１＝０．３」「Ｓ＋２＝０．２５」の場合、移動エネルギーが最も小さい画素「Ｓ＋１」ではなく、画素「Ｓ」を原点位置（０ｘ，０ｙ）としても良い。このときの各移動エネルギーは、画素「Ｓ」が０．８、画素「Ｓ＋１」が０．７、画素「Ｓ＋２」が１．２となる。画素「Ｓ」は最小値である０．７に１．２を乗じた値である０．８４より小さい値となっている。
【００６１】
また、本実施の形態では、復元手段として上述の繰り返し処理を採用しているが、信号要素のデータの一部または全部を移動させる手段であれば、他の復元手段を採用しても良い。
【００６２】
また、本実施の形態では、原点位置を図３におけるＸ−Ｙ平面のいずれかの位置としている。しかし、原点位置は、図３のＡ−Ｂの軌跡上の範囲内で決定するものとしても良い。すなわち、たとえば図３におけるＡ−Ｂの軌跡上の範囲内である図８における画素「Ｓ」「Ｓ＋１」「Ｓ＋２」のいずれかとすること、または画素「Ｓ−１」もしくは「Ｓ＋３」を原点位置とすることが、移動エネルギーの総和を小さくするのであれば、そのようにすることが好ましい。また、図３のＸ−Ｙ平面で表されるブレの軌跡をＸ軸またはＹ軸に投影したものをブレの軌跡とし、その軌跡上で移動エネルギーの最小値や上述の実施例のような値となる位置を求めるようにしても良い。
【００６３】
また、本実施の形態に係る繰り返し処理では、処理部４は、図４におけるステップＳ１０４の判断では、画像を構成する複数の各画素毎の差分のデータδの絶対値が全て所定値か否かを判断している。しかし、所定値との比較の対象を、画像を構成する複数の各画素毎の差分のデータとし、各画素毎に繰り返し処理を停止するか否かを判断するようにしたりしても良い。また、所定値との比較対象を、各画素の差分のデータδの総和、もしくは各画素の差分のデータδの絶対値の総和、または以上の４つのうちの２つ以上とすることができる。たとえば、各画素毎の差分のデータδの中で零から最も離れた値と、各画素毎の差分のデータδの総和の値とが、別々の基準を共に満たすか否かを判断するようにしても良い。このように、所定値と比較する値を適宜選択することで、原画像の種類、変化の状態または復元処理の状況に応じて、適切な処理を行うことができる。
【００６４】
上述の実施の形態では、復元対象を画像データとしている。しかし、これらの復元処理の考え方および手法は、あらゆるデジタルデータの復元処理に適用できる。たとえば、デジタルの音声データの復元等への適用が可能である。その適用の結果、リンギングのように一部に不正確な音声データ等が発生することを抑制でき、また変化要因情報のデータが不正確であっても、妥当な結果が得られる復元処理が可能となる。
【００６５】
また、上述の実施の形態では、信号処理装置１を民生用のカメラとしているが、信号処理装置１は、デジタルカメラ等で撮影した画像のデータを図４に示す処理を実行した上で印刷するプリンタ機器としても良い。また、信号処理装置１は、プリンタ機器に対して図４に示す処理を実行させつつ操作するソフトウェアがインストールされたコンピュータ、さらには図４に示す処理を実行するソフトウェアがインストールされたコンピュータ等としても良い。
【００６６】
また、上述した各処理方法は、プログラム化されても良い。また、プログラム化されたものが記憶媒体、たとえばＣＤ、ＤＶＤ、ＵＳＢメモリに入れられ、コンピュータによって読みとり可能とされても良い。この場合、信号処理装置１は、その記憶媒体内のプログラム化されたものが信号処理装置１の外部サーバに入れられ、必要によりダウンロードされ、使用されるようにしても良い。この場合、信号処理装置１は、その記憶媒体内のプログラムをダウンロードする通信手段を持つこととなる。
【図面の簡単な説明】
【００６７】
【図１】本発明の実施の形態に係る信号処理装置の主要構成を示すブロック図である。
【図２】図１に示す信号処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。
【図３】図１に示す信号処理装置で扱うブレの例を示す図で、Ｘ−Ｙ平面で表されるブレの軌跡を示す図である。
【図４】図１に示す信号処理装置の処理部で行う画像復元処理方法（反復処理）に係る処理ルーチンを説明するための処理フロー図である。
【図５】図４に示す処理方法の概念を説明するための図である。
【図６】図３に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときのエネルギーの集中を示す表である。
【図７】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときの画像データを示す図である。
【図８】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレが生じたときのエネルギーの分散を示す図である。
【図９】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、任意の画像から比較用データを生成する状況を説明するための図である。
【図１０】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、比較用データと、処理対象となるブレた原画像とを比較して、差分のデータを生成する状況を説明するための図である。
【図１１】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、差分のデータを配分し任意の画像に加えることで復元データを生成する状況を説明するための図である。
【図１２】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、生成された復元データから新たな比較用データを生成し、そのデータと処理対象となるブレた原画像とを比較して差分のデータを生成する状況を説明するための図である。
【図１３】図４に示す処理方法を、手ブレを例にして具体的に説明するための図で、新たに生成された差分のデータを配分し、新たな復元データを生成する状況を説明するための図である。
【符号の説明】
【００６８】
１  信号処理装置
４  処理部
Ｉｏ  初期画像のデータ（任意の信号データ）
Ｉｏ’  比較用データ
Ｇ  変化要因情報のデータ
Ｉｍｇ’  原画像のデータ（原信号のデータ）
Ｉ０＋ｎ  復元データ
Ｉｍｇ  元画像（元信号）
δ  差分のデータ
【図１】
0005007245.tif 000005
【図２】
0005007245.tif 000006
【図３】
0005007245.tif 000007
【図４】
0005007245.tif 000008
【図５】
0005007245.tif 000009
【図６】
0005007245.tif 000010
【図７】
0005007245.tif 000011
【図８】
0005007245.tif 000012
【図９】
0005007245.tif 000013
【図１０】
0005007245.tif 000014
【図１１】
0005007245.tif 000015
【図１２】
0005007245.tif 000016
【図１３】
0005007245.tif 000017