(57)【要約】      （修正有）【課題】マルチバンド画像に基づいて、高精度に分光画像を生成する画像処理装置を提供する。【解決手段】画像処理装置１０１は、互いに異なる分光特性を有する複数のバンド画像を撮影可能なマルチバンド撮像装置２０１から、複数のバンド画像を取得するバンド画像取得部１０２と、複数のバンド画像それぞれについて、ノイズ量に関連するノイズ評価値を取得するノイズ評価値取得部１０３と、ノイズ評価値に基づいて、複数のバンド画像のうち、分光画像の生成に用いるバンド画像を決定するバンド画像決定部１０４と、バンド画像決定部１０４により決定されたバンド画像を用いて、分光画像を生成する分光画像生成部１０６と、を有する。【選択図】図１
2020086982.tif 000002
【特許請求の範囲】
【請求項１】
互いに異なる分光特性を有する複数のバンド画像を撮影可能なマルチバンド撮像装置から、前記複数のバンド画像を取得する画像取得手段と、
前記複数のバンド画像それぞれについて、ノイズ量に関連するノイズ評価値を取得する評価値取得手段と、
前記ノイズ評価値に基づいて、前記複数のバンド画像のうち、分光画像の生成に用いるバンド画像を決定する決定手段と、
前記決定手段により決定されたバンド画像を用いて、分光画像を生成する生成手段と、を有することを特徴とする画像処理装置。
【請求項２】
前記決定手段は、前記ノイズ評価値が所定の条件を満たすバンド画像を、前記分光画像の生成に用いると決定することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記決定手段は、前記ノイズ評価値が閾値以上か否かを前記所定の条件として、前記複数のバンド画像それぞれに対して、前記分光画像の生成に用いるか否かを判定することを特徴とする請求項２に記載の画像処理装置。
【請求項４】
さらに、前記生成手段は、前記決定手段が決定したバンド画像それぞれに対応する分光推定パラメータを取得し、前記分光推定パラメータと前記決定手段が決定したバンド画像それぞれとを用いて前記分光画像を生成することを特徴とする請求項１乃至３の何れか一項に記載の画像処理装置。
【請求項５】
前記画像取得手段は、少なくとも４つ以上のバンド画像を取得し、
前記決定手段は、少なくとも４つ以上のバンド画像を、前記分光画像の生成に用いると決定することを特徴とする請求項１乃至４の何れか一項に記載の画像処理装置。
【請求項６】
前記決定手段は、前記複数のバンド画像それぞれの撮影感度に応じたゲイン補正値を参照し、ゲイン補正値が同一となるバンド画像の組み合わせを前記分光画像の生成に使用するバンド画像として決定することを特徴とする請求項１に記載の画像処理装置。
【請求項７】
さらに、前記画像取得手段が取得する各バンド画像の組み合わせ毎に、分光反射率を推定した際の実測値と推定値との誤差を表す分光推定誤差を取得する推定誤差取得手段と、を有し、
前記決定手段は、前記ノイズ評価値と前記分光推定誤差に基づいて、前記分光画像の生成に用いるバンド画像を決定することを特徴とする請求項１乃至６の何れか一項に記載の画像処理装置。
【請求項８】
前記決定手段は、前記ノイズ評価値に基づいて前記複数のバンド画像からバンド画像の候補を決定し、前記バンド画像の候補を用いて分光反射率を推定した場合に分光推定誤差が予め定めた閾値以上となる場合には、推定誤差への寄与率が最も高いバンド画像を前記バンド画像の候補に追加することを特徴とする請求項７に記載の画像処理装置。
【請求項９】
前記決定手段は、前記ノイズ評価値に基づいて前記複数のバンド画像からバンド画像の候補を決定し、前記バンド画像の候補を用いて分光反射率を推定した場合に分光推定誤差が予め定めた閾値以上となる場合には、ノイズ評価値の最も少ない画像を前記バンド画像の候補に追加することを特徴とする請求項７に記載の画像処理装置。
【請求項１０】
前記決定手段は、画素毎に前記分光画像の生成に用いるバンド画像を決定することを特徴とする請求項１乃至９の何れか一項に記載の画像処理装置。
【請求項１１】
コンピュータを請求項１乃１０のいずれか１項に記載の画像処理装置として機能させるためのプログラム。
【請求項１２】
互いに異なる分光特性を有する複数のバンド画像を撮影可能なマルチバンド撮像装置から、前記複数のバンド画像を取得し、
前記複数のバンド画像それぞれについて、ノイズ量に関連するノイズ評価値を取得し、
前記ノイズ評価値に基づいて、前記複数のバンド画像のうち、分光画像の生成に用いるバンド画像を決定し、
前記決定されたバンド画像を用いて、分光画像を生成する画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、マルチバンド画像に基づいて分光画像を生成する画像処理技術に関する。
【背景技術】
【０００２】
複数種類のカラーフィルタを用いて、４バンド以上に分離したスペクトル領域の画像（以下、マルチバンド画像）を取得するマルチバンドカメラがある。マルチバンドカメラが取得する各バンドの撮影感度は波長に応じて異なる。撮影感度の高いバンド画像はノイズの影響が小さく画質の劣化が少ない一方、撮影感度の低いバンドの画像はノイズの影響により画質が大きく劣化する。そのため、マルチバンド画像はカメラの各バンドの撮影感度によって撮影画像に生じるノイズ量が異なる。特許文献１は、マルチバンド画像のうち、撮影感度の低いチャンネルの画像ほど、ノイズ抑制の強度を強くするノイズ抑制画像処理を施した後に、分光反射率を推定する方法について記載している。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００１−８４３６０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ノイズ抑制処理としては、メディアンフィルタを用いたフィルタ処理を用いる。そのため、画素毎に分光反射率が保存された分光反射率のスペクトル画像（以下、分光画像と呼ぶ）は、エッジやコントラストなどの細やかなディテールがぼけてしまい画質が劣化してしまう。そこで本発明は、マルチバンド画像をぼけさせることなく、高精度に分光画像を生成することを目的とする。
【課題を解決するための手段】
【０００５】
上記課題を解決するため本発明に係る画像処理装置は、互いに異なる分光特性を有する複数のバンド画像を撮影可能なマルチバンド撮像装置から、前記複数のバンド画像を取得する画像取得手段と、前記複数のバンド画像それぞれについて、ノイズ量に関連するノイズ評価値を取得する評価値取得手段と、前記ノイズ評価値に基づいて、前記複数のバンド画像のうち、分光画像の生成に用いるバンド画像を決定する決定手段と、前記決定手段により決定されたバンド画像を用いて、分光画像を生成する生成手段と、を有することを特徴とする。
【発明の効果】
【０００６】
本発明によれば、マルチバンド画像をぼけさせることなく、高精度に分光画像を生成することができる。
【図面の簡単な説明】
【０００７】
【図１】画像処理装置１０１の論理構成を示すブロック図
【図２】画像処理装置１０１が実行する処理のフローチャート
【図３】ノイズ評価値が記述されたファイルを示す図
【図４】バンド画像決定部１０４が実行する処理のフローチャート
【図５】画像処理装置１０１の論理構成を示すブロック図
【図６】画像処理装置１０１が実行する処理のフローチャート
【図７】バンド画像の組み合わせと分光推定誤差が記述されたファイルを示す図
【図８】バンド画像決定部１０４が実行する処理のフローチャート
【図９】画像処理装置１０１が実行する処理のフローチャート
【図１０】色毎にバンド画像の組み合わせと分光推定誤差が記述されたファイルを示す図
【図１１】バンドパスフィルタを装着させることで得る分光特性を説明する図
【図１２】画像処理装置のハードウェア構成を示す図
【発明を実施するための形態】
【０００８】
以下、添付の図面を参照して、本発明を好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例にすぎず、本発明は図示された構成に必ずしも限定されるものではない。
【０００９】
＜第１実施形態＞
本実施形態では、外部のマルチバンド撮影装置２０１が撮影可能な９バンドのバンド画像それぞれについて、各バンド画像がノイズに関連する所定の条件を満たすか否かを判定し、分光画像の生成に用いるか否かを決定する画像処理装置について説明する。なお分光画像とは、４つ以上のバンド画像を用いて、画素毎に被写体の分光を推定することにより得られる画像である。またマルチバンド画像とは、一般的なＲＧＢごとのカラー画像に加えて、異なる分光特性を有する画像を少なくとも１つ加えた、４つ以上の画像である。以下、各分光特性の画像をバンド画像、各バンド画像に対応する分光特性をバンドと呼ぶ。
【００１０】
図１２は、第１実施形態に適用可能な画像処理装置１０１のハードウェア構成の一例を示す図である。画像処理装置１０１は、パーソナルコンピュータ等により実現される。画像処理装置１０１は、ＣＰＵ１２０１と、ＲＯＭ１２０２と、ＲＡＭ１２０３と、入出力インタフェース（Ｉ／Ｆ）１２０４と、表示部１２０５と、通信Ｉ／Ｆ１２０６と、を有する。ＣＰＵ１２０１は、ＲＡＭ１２０３をワークメモリとして、ＲＯＭ１２０２、外部記憶装置１１０などに格納されたＯＳ（オペレーティングシステム）や各種プログラムを実行する。また、ＣＰＵ１２０１は、システムバス１２０７を介して各構成を制御する。尚、後述するフローチャートによる処理は、ＲＯＭ１２０２や外部記憶装置１２０９などに格納されたプログラムコードがＲＡＭ１２０３に展開され、ＣＰＵ１２０１によって実行される。入出力Ｉ／Ｆ１２０４には、シリアルバス１２０８を介して、外部記憶装置１２０９が接続される。外部記憶装置１２０９は、ＨＤＤ（ハードディスクドライブ）である。表示部１２０５は、画像の表示を行うディスプレイである。
【００１１】
本実施形態において画像処理装置１０１は、マルチバンド撮影装置２０１と接続されている。マルチバンド撮像装置２０１は、４種類以上のカラーフィルタを備える撮像装置である。本実施形態において使用するマルチバンド撮影装置は、ＲＧＢカメラにバンドパスフィルタを着脱して撮像することによりマルチバンド画像を取得する。なおＲＧＢとは、レッド、グリーン、ブルーを意味する。図１１は、バンドパスフィルタを装着させることで得る分光特性を説明する図である。図１１（ａ）は、一般的なディジタルカメラのＲ、Ｇ、Ｂの３バンドの分光特性を模式的に表した図である。図１１（ｂ）は、バンドパスフィルタの分光透過率を表す。本実施形態では、図１１（ａ）のフィルタ特性よりも波長の半値幅が狭く、かつ、波長のピーク位置が異なるバンドパスフィルタを用いる。図１１（ｃ）は、図１１（ａ）の分光特性を持つカメラに図１１（ｂ）のバンドパスフィルタを装着したときの分光特性を表す。バンドパスフィルタを装着して被写体を撮影することで、図１１（ａ）とは異なるフィルタ特性を用いて被写体を撮影することになる。図１１（ｂ）のバンドパスフィルタを装着するとＲに対応する分光特性は、分光特性Ｒ’になる。同様に、Ｇに対応する分光特性は、分光特性Ｇ’に、Ｂに対応する分光特性は、分光特性Ｂ’になる。
【００１２】
このように本実施形態では、ＲＧＢカメラにバンドパスフィルタを着脱して撮影を行うことで、４バンド以上のマルチバンド撮影画像を取得する。尚、マルチバンド撮影装置はこれに限定されず、モノクロセンサを搭載したカメラにバンドパスフィルタや液晶チューナブルフィルタを組み合わせた撮影装置でもよい。また、解像度は低くなるものの、撮像センサ上に複数色のカラーフィルタを配置してマルチバンド画像を得る撮影装置でもよい。
【００１３】
本実施形態における画像処理装置１０１の論理構成を説明する。図１は、本実施形態における画像処理装置１０１の論理構成を示すブロック図である。画像処理装置１０１は、ＣＰＵ１２０１がＲＡＭ１２０３をワークメモリとして用い、ＲＯＭ１２０２に格納されたプログラムを実行することによって、図１に示す論理構成として機能する。尚、以下に示す処理の全てが必ずしもＣＰＵ１２０１によって実行される必要はなく、処理の一部または全てがＣＰＵ１２０１以外の一つまたは複数の処理回路によって行われるように画像処理装置１０１が構成されていてもよい。
【００１４】
バンド画像取得１０２は、マルチバンド撮像装置２０１からマルチバンド画像を取得する。ノイズ評価値取得部１０３は、ノイズ評価値保持部３０１から、各バンドに対応するノイズ評価値を取得する。ノイズ評価値とは、各バンド画像におけるノイズ量に関連する値である。バンド画像決定部１０４は、取得可能なバンド画像のうち、分光画像の生成に使用するバンド画像を決定する。分光推定パラメータ取得部１０５は、バンド画像決定部１０４で決定されたバンド画像に対応する分光推定パラメータを取得する。分光画像生成部１０６は、バンド画像決定部１０４において決定されたバンド画像と分光推定パラメータ取得部１０５において取得された分光推定パラメータを用いて、分光画像を生成する。なお、ノイズ評価値保持部３０１は、マルチバンド撮影装置が取得可能な各バンド画像のノイズ量を表すノイズ評価値を保持している。また、分光推定パラメータ保持部４０１は、バンド画像から分光反射率を推定するための分光推定パラメータが保持されている。
【００１５】
図２は、画像処理装置１０１が実行する処理のフローチャートである。ＣＰＵ１００１が、図２に示すフローチャートを実現可能なプログラムを読み出し実行することで、各構成（機能）が実現される。なお、以下の説明において、フローチャートにおける各ステップを「Ｓ」と表記することとする。
【００１６】
Ｓ１１においてバンド画像取得部１０２は、マルチバンド撮影装置２０１が撮影したマルチバンド画像を取得する。ここでは９バンドのマルチバンド画像を取得するものとする。マルチバンド撮影装置２０１は、バンドパスフィルタを用いない撮影、第１のバンドパスフィルタを用いた撮影、第２のバンドパスフィルタを用いた撮影、計３回、同じシーンを撮影する。バンドパスフィルタなしのＲＧＢそれぞれに対応する分光特性を、Ｒ１、Ｇ１、Ｂ１とする。また、第１のバンドパスフィルタを用いた場合にＲ２、Ｇ２、Ｂ２それぞれの分光特性を得られるとし、第２のバンドパスフィルタを用いた場合にはＲ３、Ｇ３、Ｂ３の分光特性を得られるとする。従って本実施形態では、Ｒ１、Ｇ１、Ｂ１、Ｒ２、Ｇ２、Ｂ２、Ｒ３、Ｇ３、Ｂ３それぞれのバンド画像を取得する。
【００１７】
Ｓ１２においてノイズ評価値取得部１０３は、ノイズ評価値保持部３０１に保持されているノイズ評価値が記述されたファイルを取得する。ファイルには例えば、図３のように各バンド画像に対応するノイズ評価値がそれぞれ記述されている。ノイズ評価値は、本実施形態では、ノイズ評価チャートを撮影した際の画像における各画素の画素値の標準偏差を用いる。ノイズ評価値の値が大きいほど、画像のおけるノイズ量が多く、画質劣化が生じやすいことを示す。ノイズ評価値として分散やＳ／Ｎ比などをノイズとして定義してもよい。
【００１８】
Ｓ１３においてバンド画像決定部１０４は、Ｓ１２において取得したノイズ評価値に基づいてＳ１１で取得したマルチバンド画像から分光推定に使用するバンド画像を決定する。なお、バンド画像決定部１０４の処理の詳細は後述する。
【００１９】
Ｓ１４において分光推定パラメータ取得部１０５は、Ｓ１３においてバンド画像決定部１０４が決定したバンド画像に対応する分光推定パラメータを、分光推定パラメータ保持部４０１から取得する。ここで、分光推定パラメータとは、マルチバンド画像における各画素の画素値を分光反射率データへと変換する行列式である。本実施形態では、分光反射率が既知のチャートを撮影し、マルチバンド撮影で取得された各バンド画像の画素値と、３８０ｎｍから７３０ｎｍまでを１０ｎｍ間隔で刻んだ３６次元の分光反射率データを用いたＷｉｎｎｅｒ推定により、この行列式が算出される。分光推定パラメータは、予め各バンド画像の組み合わせに応じてそれぞれ算出し、分光推定パラメータ保持部４０１に保持しておく。なお、本実施例では分光反射率が既知のチャートとして、マクベスチャートのような自然界に存在する代表的な分光反射率を近似した汎用チャートを用いるが、撮影対象である被写体の分光反射率を近似したチャートであることが望ましい。
【００２０】
Ｓ１５において分光画像生成部１０６は、Ｓ１３において決定したバンド画像に対応する分光推定パラメータを用いて分光画像を生成してバッファメモリ１０７へ保存して処理を終了する。なお、分光画像は１画素あたり３６次元の値を持つデータであるが、例えばＤ５０などの所定の光源の分光分布を乗算してＸＹＺ値へ変換し、さらにＡｄｏｂｅＲＧＢ変換式などでＲＧＢ値へ変換して保存してもよく、その保存形式は問わない。
【００２１】
以下にＳ１３について詳細に説明する。図４は、Ｓ１３にて実行される処理のフローチャートである。Ｓ１３１においてバンド画像決定部１０４は、Ｓ１２において取得した各バンド画像に応じたノイズ評価値のうち、処理対象のバンド画像のノイズ評価値を取得する。
【００２２】
Ｓ１３２において、バンド画像決定部１０４は、Ｓ１３１にて取得したノイズ評価値と予め設定した閾値とを比較し、閾値未満であればＳ１３３の処理へ進み、閾値以上であればＳ１３４の処理へ進む。本実施形態では、閾値として３の数値を用いるが他の数値を用いても良い。Ｓ１３３においてバンド画像決定部１０４は、Ｓ１３２の判定条件を満たすバンド画像を、分光推定に使用する使用バンド画像としてバッファメモリ１０７に保存する。
【００２３】
Ｓ１３４においてバンド画像決定部１０４は、全てのバンド画像についてノイズ評価値の比較を行ったかどうかの判定を行い、判定を終えていればＳ１３５の処理へ進み、終えていなければＳ１３１の処理へ戻る。
【００２４】
Ｓ１３５においてバンド画像決定部１０４は、分光推定に使用する使用バンド画像の組み合わせをバッファメモリ１０７へ保存し処理を終える。本実施例で例えば図３のファイルに記載のノイズ評価値とＳ１３２の閾値３とを用いた場合、９バンドのバンド画像のうち、バンド画像Ｂ２及びＢ３を除いた７バンドが分光推定に使用するバンド情報としてバッファメモリ１０７に保存される。
【００２５】
尚、本実施形態ではバンド画像決定部１０４の処理としてノイズ評価値が閾値以上となるバンド画像を除外して使用バンドの組み合わせを決定したが、他の方法を用いてもよい。例えば、マルチバンド画像のバンド間のノイズ差を抑えるために、図３のファイルに各バンド画像の撮影感度に応じたゲイン補正値を記述しておき、当該ゲイン補正値が同一となるバンドの組み合わせを採用してもよい。また、任意の被写体で分光推定時の誤差をなるべく小さくさせるために、可視領域の波長をなるべくカバーさせるよう使用バンドの組み合わせに必ずＲ（赤領域），Ｇ（緑領域），Ｂ（青領域）に対応する３バンドを入れるなどの拘束条件を設定してもよい。
【００２６】
マルチバンド撮影において、分光感度の低いバンド画像は、ノイズの影響が大きく、画質劣化が目立ちやすい。特にバンドパスフィルタを用いた場合のＢに対応するバンドは、分光感度が低くなりやすい。そこで、各バンド画像のノイズを評価し、所定の条件を満たしたバンド画像を用いることで、全バンド画像を用いる場合よりも高画質な分光画像を生成することができる。以上説明したように第１実施形態よれば、ノイズ評価値に基づいて、分光推定に使用するマルチバンド画像のバンド画像を決定することで、ノイズの少ない分光画像を生成する効果を有する。
【００２７】
なお、図３のファイルでは９バンドのノイズ評価値がそれぞれ記載されているがバンド数はこれに限定されず、マルチバンドカメラにて撮影した際のマルチバンド画像に対応するバンド数が記載されていればよい。
【００２８】
＜第２実施形態＞
第１実施形態では、ノイズ評価値に基づいて使用バンド画像を決定する方法について説明した。本実施形態では、ノイズ評価値と分光推定誤差とに基づいて使用バンド画像を決定する方法について説明する。なお、第１実施形態と同様の構成については、同一の符号を付し、詳細な説明を省略する。
【００２９】
図５は第２実施形態に適用可能な画像処理装置５０１の構成を示す図である。分光推定誤差保持部４０１は、マルチバンド画像から分光反射率を推定した際の実測値と推定値との誤差を表す分光推定誤差を保持している。推定誤差取得部５０４は、分光推定誤差保持部４０１にて保持する分光推定誤差を取得する。バンド画像決定部５０５は、ノイズ評価値と分光推定誤差とに基づいて、分光推定に使用するバンド画像を決定する。
【００３０】
図６は、第２実施形態における画像処理装置５０１が実行する処理のフローチャートである。Ｓ２１においてバンド画像取得部５０２は、マルチバンド撮影装置２０１にて撮影したバンド画像を取得する。Ｓ２２においてノイズ評価値取得部５０３は、ノイズ評価値保持部３０１に保持されている各バンドに対応するノイズ評価値を取得する。
【００３１】
Ｓ２３において推定誤差取得部５０４は、分光推定誤差保持部４０１に保持されている分光推定誤差が記述されたファイルを取得する。分光推定誤差は、マルチバンド撮像装置２０１を用いて予め評価用チャートを撮影し、撮影により得られた撮影画像における各画素の画素値と分光推定パラメータを用いて分光反射率を推定した際の実測値と推定値との誤差を表す。本実施形態では、評価用チャートはマクベスチャートを用いる。３６次元の分光反射率のＲＭＳ誤差の２４サンプルの平均値を分光推定誤差として使用する。図７は、分光推定誤差が記述されたファイルを例示する図である。分光推定誤差は、マルチバンド撮影装置２０１が取得可能なバンドの組み合わせ毎に記述されている。
【００３２】
Ｓ２４においてバンド画像決定部５０５は、Ｓ２２において取得したノイズ評価値とＳ２３において取得した分光推定誤差とに基づいて、分光推定に使用するバンド画像を決定する。なお、バンド画像決定部５０５の処理の詳細は後述する。
【００３３】
Ｓ２５において分光推定パラメータ取得部５０６は、Ｓ２４においてバンド画像決定部５０５が決定したバンド画像に対応する分光推定パラメータを分光推定パラメータ保持部６０１から取得する。Ｓ２６において分光画像生成部５０７は、Ｓ２４において決定したバンド画像に対応する分光推定パラメータを用いて分光画像を生成する。
【００３４】
Ｓ２４について詳細に説明する。図８はＳ２４にて実行される処理の詳細なフローチャートである。Ｓ２４１においてバンド画像決定部５０５は、Ｓ２２で取得した各バンド画像のノイズ評価値のうち、処理対象のバンドに対応するノイズ評価値を取得する。Ｓ２４２においてバンド画像決定部５０５は、Ｓ２４１において取得したノイズ評価値と予め設定した閾値と比較し、閾値未満であればＳ２４３の処理へ進み、閾値以上であればＳ２４１の処理へ戻る。
【００３５】
Ｓ２４３においてバンド画像決定部５０５は、Ｓ２４２の判定条件を満たすバンド画像を分光推定に使用する使用候補バンドとしてバッファメモリに保存する。Ｓ２４４においてバンド画像決定部５０５は、全てのバンド画像についてノイズ評価値の比較を行ったかどうかの判定を行い、判定を終えていればＳ２４５の処理へ進み、終えていなければＳ２４１の処理へ戻る。
【００３６】
Ｓ２４５においてバンド画像決定部５０５は、Ｓ２４３でバッファメモリに保存した使用候補バンド画像の中から、分光推定誤差が最も小さくなる組み合わせでの分光推定誤差を取得する。Ｓ２４６において、バンド画像決定部５０５は、Ｓ２４５にて取得した分光推定誤差と予め設定した閾値とを比較し、閾値未満であればＳ２４８の処理へ進み、閾値以上であればＳ２４７の処理へ進む。本実施形態では閾値として０．０１の数値を用いるが他の数値を用いても良い。
【００３７】
Ｓ２４７においてバンド画像決定部５０５は、Ｓ２４３で保存されたバンド画像では所望の推定精度が得られないため、Ｓ２４３で保存されたバンド画像に使用バンド画像を追加する。本実施形態では、推定誤差への寄与率が最も高いバンド画像を追加する。例えば、Ｓ２４３において使用候補バンドとして決定されなかったバンドのうち、ノイズ評価値の最も小さいバンド画像を追加するなど他の方法を用いてよい。Ｓ２４８においてバンド画像決定部５０５は、使用候補バンド画像を推定に使用するバンド情報としてバッファメモリに保存して処理を終了する。
【００３８】
以上説明したように第２実施形態によれば、ノイズ評価値と分光推定誤差とに基づいて、マルチバンド画像のうち、分光推定に使用するバンド画像を決定することで、ノイズが少なく、かつ分光推定精度の高い分光画像を生成する効果を有する。
【００３９】
＜第３実施形態＞
前述の実施形態においては画像単位で分光推定に使用するバンド画像を決定した。被写体の分光反射特性（色）によって最適なバンド画像の組み合わせは変化する。そこで本実施形態では、画素単位で分光推定に使用するバンド画像を決定する方法について説明する。なお、画像処理装置の構成は実施例２と同じ構成を用いて差分についてのみ説明する。図９は、第３実施形態における画像処理装置１０１が実行する処理の詳細なフローチャートである。
【００４０】
Ｓ３１においてバンド画像取得部５０２は、マルチバンド撮影装置２０１が撮影したバンド画像を取得する。Ｓ３２において、ノイズ評価値取得部５０３は、ノイズ評価値保持部３０１に保持されているノイズ評価値を取得する。Ｓ３３において、推定誤差取得部５０４は、分光推定誤差保持部４０１に保持されている分光推定誤差が記述されたファイルを取得する。ファイルには図１０のように色値毎に、バンド画像の組み合わせとその分光推定誤差とが対応付けられて記述されている。本実施形態では、色値としてＬａｂ値を使用するが、ＸＹＺ値やｘｙ色度値など他の色値を使用してもよい。
【００４１】
Ｓ３４において、バンド画像決定部５０５は、Ｓ３１で取得したバンド画像から処理対象とする１画素を特定し、特定した画素のＲ１，Ｇ１、Ｂ１の画素値を取得する。つまりここでは、バンドパスフィルタを用いずに撮影された各画像の画素値を取得する。Ｓ３５においてバンド画像決定部５０５は、Ｓ３４で取得した画素値から色値を算出する。本実施形態ではバンド画像決定部５０５はまず、マルチバンド撮影装置２０１にて撮影されたＲ１，Ｇ１，Ｂ１の値からｓＲＧＢやＡｄｏｂｅＲＧＢ等の所定の変換式を用いてＸＹＺ値へ変換する。さらにバンド画像決定部５０５は、ＸＹＺ値をＬａｂ値へと変換し、Ｌａｂ値を色値として用いる。尚、マルチバンド撮影装置２０１に一般的なＲＧＢカメラを使用しない場合は、予め色値が既知のチャートを撮影して撮影値と色値の対応関係を作成しておくことで色値を算出する。
【００４２】
Ｓ３６においてバンド画像決定部５０５は、Ｓ３２において取得したノイズ評価値とＳ３３において取得した分光推定誤差に基づいて、Ｓ２１で取得したマルチバンド画像から、分光推定に使用するバンド画像を決定する。決定する方法は分光推定誤差の参照方法以外はＳ２４と同一の方法である。第３実施形態においてバンド画像決定部５０５は、Ｓ３５で算出する色値に最も近い値の色値をＳ３３で取得するファイルの色値から参照し、参照された色値に対応するバンド画像の組み合わせとその分光推定誤差を参照する。
【００４３】
Ｓ３７においてバンド画像決定部５０５は、全ての画素において使用バンド画像を決定したかどうかを判定する。全ての画素を決定していればＳ３８の処理へ進み、決定していなければＳ３４の処理へ進む。Ｓ３８において、分光推定パラメータ取得部５０６は、Ｓ３６でバンド画像決定部５０５が決定したバンド画像に対応する分光推定パラメータを分光推定パラメータ保持部６０１から取得する。Ｓ３９において、分光画像生成部５０７は、Ｓ３６で決定したバンド画像と対応する分光推定パラメータを用いて分光画像を生成する。
【００４４】
以上説明したように第３実施形態によれば、ノイズ評価値と分光推定誤差に基づいて、画素毎に分光推定に使用するバンド画像が決定される。これにより、ノイズが少なく、かつ分光推定精度の高い分光画像を被写体の色分布に合わせて生成することができる。
【００４５】
本発明は、上述した実施形態の構成に制限されず、本発明の趣旨を逸脱しない範囲で種々の変更が可能である。本発明の構成としてコンピュータ、及び前述した実施形態の機能を実現するプログラム、該プログラムを記憶したコンピュータ読み取り可能な記憶媒体をシステムに供給し、そのシステムが実行することによっても構成されることは言うまでもない。尚、上述した実施例は、適宜組み合わせてもよい。
【符号の説明】
【００４６】
１０２  バンド画像取得部
１０３  ノイズ評価値取得部
１０４  バンド画像決定部
１０５  分光推定パラメータ取得部
１０６  分光画像生成部
【図１】
2020086982.tif 000003
【図２】
2020086982.tif 000004
【図３】
2020086982.tif 000005
【図４】
2020086982.tif 000006
【図５】
2020086982.tif 000007
【図６】
2020086982.tif 000008
【図７】
2020086982.tif 000009
【図８】
2020086982.tif 000010
【図９】
2020086982.tif 000011
【図１０】
2020086982.tif 000012
【図１１】
2020086982.tif 000013
【図１２】
2020086982.tif 000014