(57)【要約】  注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる画像処理装置、画像処理方法およびプログラムを提供する。画像処理装置３０は、ＲＴＳノイズ情報記録部１１２ｂが記録する点滅欠陥ノイズに関する特徴量と注目画素の画素値とに基づいて、注目画素におけるランダムノイズ量を推定する代表値算出部３２３と、代表値算出部３２３が推定したランダムノイズ量に基づいて、注目画素の画素値を補正する補正値算出部３２５と、を備える。
2016147325.tif 000002
【特許請求の範囲】
【請求項１】
２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置であって、
前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する情報取得部と、
前記情報取得部が取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定部と、
前記推定部が推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正部と、
を備えたことを特徴とする画像処理装置。
【請求項２】
前記情報取得部が取得した前記特徴量と前記注目画素の画素値とに基づいて、前記ランダムノイズ量を推定する際に用いる参照値を算出する算出部をさらに備え、
前記推定部は、前記算出部が算出した前記参照値と前記ランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記算出部は、
前記注目画素を基準に設定した算出範囲における画素の画素値を用いて算出された基準値と前記注目画素の画素値とに応じて、前記注目画素の画素値から前記特徴量をオフセットした値を前記参照値として算出することを特徴とする請求項２に記載の画像処理装置。
【請求項４】
前記算出部は、前記注目画素の画素値が前記基準値より小さい場合、前記注目画素の画素値に前記特徴量を加算することによって前記参照値を算出することを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記算出部は、前記注目画素の画素値が前記基準値より大きい場合、前記注目画素の画素値から前記特徴量を減算することによって前記参照値を算出することを特徴とする請求項３に記載の画像処理装置。
【請求項６】
前記算出部は、前記注目画素を基準に設定した算出範囲において前記点滅欠陥ノイズが発生しない画素の画素値を用いて算出された基準値に応じて、前記参照値を算出する算出方法を変更することを特徴とする請求項２に記載の画像処理装置。
【請求項７】
前記算出部は、前記注目画素の画素値が前記基準値より小さい場合、前記注目画素の画素値に前記特徴量を加算することによって前記参照値を算出することを特徴とする請求項６に記載の画像処理装置。
【請求項８】
前記算出部は、前記注目画素の画素値が前記基準値より大きい場合、前記注目画素の画素値から前記特徴量を減算することによって前記参照値を算出することを特徴とする請求項６に記載の画像処理装置。
【請求項９】
前記算出部は、前記注目画素の画素値を前記参照値として算出することを特徴とする請求項６に記載の画像処理装置。
【請求項１０】
前記注目画素のノイズを優先して低減するノイズ低減モードおよび前記注目画素の過補正を防止する過補正防止モードのいずれか一方を選択する選択信号の入力を受け付ける操作部をさらに備え、
前記算出部は、
前記操作部から入力された前記選択信号が前記ノイズ低減モードの場合、前記注目画素の画素値に前記特徴量を減算することによって前記参照値を算出する一方、前記操作部から入力された前記選択信号が前記過補正防止モードの場合、前記注目画素の画素値から前記特徴量を加算することによって前記参照値を算出することを特徴とする請求項２に記載の画像処理装置。
【請求項１１】
互いに異なる複数の前記ランダムノイズモデルを記録するランダムノイズモデル情報記録部と、
前記注目画素を基準に設定した算出範囲において前記注目画素以外の画素の画素値を用いて算出された基準値に応じて、前記ランダムノイズモデル情報記録部が記録する複数の前記ランダムノイズモデルのいずれか１つを選択する選択部と、
をさらに備え、
前記推定部は、前記選択部が選択した前記ランダムノイズモデルに基づいて、前記注目画素における前記ランダムノイズ量を推定することを特徴とする請求項１に記載の画像処理装置。
【請求項１２】
前記選択部は、前記注目画素の周辺に位置する周辺画素の画素値を用いて算出された基準値と前記注目画素の画素値とに基づいて、前記ランダムノイズモデルを変更することを特徴とする請求項１１に記載の画像処理装置。
【請求項１３】
前記選択部は、前記注目画素の周辺に位置する周辺で前記点滅欠陥ノイズが発生しない画素の画素値を用いて算出された基準値と前記注目画素の画素値とに基づいて、前記ランダムノイズモデルを変更することを特徴とする請求項１１に記載の画像処理装置。
【請求項１４】
前記補正部は、
前記注目画素の画素値と前記推定部が推定した前記ランダムノイズ量とに基づいて、前記注目画素の画素値を補正するか否かを判定することを特徴とする請求項１〜１３のいずれか一つに記載の画像処理装置。
【請求項１５】
前記補正部は、前記注目画素の周辺に位置する周辺画素の画素値と前記推定部が推定した前記ランダムノイズ量とに基づいて代表値を算出し、該代表値を用いて前記注目画素の画素値を補正することを特徴とする請求項１４に記載の画像処理装置。
【請求項１６】
前記特徴量は、点滅欠陥ノイズのノイズレベルおよびノイズレベルに基づき算出された値のいずれかであることを特徴とする請求項１〜１５のいずれか一つに記載の画像処理装置。
【請求項１７】
前記点滅欠陥ノイズは、ランダムテレグラフシグナルノイズであることを特徴とする請求項１〜１６のいずれか一つに記載の画像処理装置。
【請求項１８】
２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置が実行する画像処理方法であって、
前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する取得ステップと、
前記取得ステップにおいて取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定ステップと、
前記推定ステップにおいて推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正ステップと、
を含むことを特徴とする画像処理方法。
【請求項１９】
２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置に、
前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する取得ステップと、
前記取得ステップにおいて取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定ステップと、
前記推定ステップにおいて推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正ステップと、
を実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、２次元状に配置された複数の画素を有する撮像素子に生じるＲＴＳノイズのような画素値が一定範囲内で変動する点滅欠陥ノイズを補正する画像処理装置、画像処理方法およびプログラムに関する。
【背景技術】
【０００２】
近年、ＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）等の撮像素子は、画素および該画素から信号を読み出す読み出し回路の微細化が進んでいる。このような微細化では、感度の低下および様々なノイズの増加が問題となっている。感度の低下に対しては、複数の画素を１つの読み出し回路で共有させて信号を読み出す共有画素構造をとることで、撮像素子における回路に必要な面積を削減し、各画素の開口率（受光部の割合）を向上させることによって、感度を向上させている。【０００３】
一方、撮像素子で発生するノイズには、暗電流による暗電流ショットノイズおよび読み出し回路での熱雑音等に起因するランダムノイズ以外にも、画素値が常に異常値を示す欠陥画素、および画素値がランダムに変動する点滅欠陥ノイズ等がある。このような点滅欠陥ノイズの中には、読み出し回路に起因するＲＴＳ（Random  Telegraph  Signal）ノイズがある。このＲＴＳノイズを補正する技術として、撮影された画像における注目画素の画素値、該注目画素の周辺画素の画素値および予め撮像素子の画素毎に検出したＲＴＳノイズのノイズレベル（以下、「ＲＴＳノイズレベル」という）に基づいて、注目画素に対してＲＴＳノイズの影響があるか否かを判定し、ＲＴＳノイズの影響があると判定された場合、この注目画素の画素値に対してＲＴＳノイズレベルだけ加算または減算する技術が知られている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１２−１０５０６３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、ＲＴＳノイズは、画素値が一定範囲内で変動するので、ＲＴＳノイズレベルが小さい場合、ランダムノイズに紛れる可能性がある。このため、一般的には、輝度に応じたランダムノイズ特性を用いて注目画素近傍において発生するランダムノイズ量を推定し、この推定したランダムノイズ量よりもＲＴＳノイズのＲＴＳノイズレベルが大きければ、ＲＴＳノイズを補正することが好ましい。【０００６】
しかしながら、注目画素においてＲＴＳノイズが発生した場合、ＲＴＳノイズが画素値に加わるため、ＲＴＳノイズのＲＴＳノイズレベルの値だけ画素値も異なるので、ランダムノイズ量を正しく推定することができないという問題点があった。【０００７】
本発明は、上記に鑑みてなされたものであって、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる画像処理装置、画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置であって、前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する情報取得部と、前記情報取得部が取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定部と、前記推定部が推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正部と、を備えたことを特徴とする。【０００９】
また、本発明に係る画像処理装置は、上記発明において、前記情報取得部が取得した前記特徴量と前記注目画素の画素値とに基づいて、前記ランダムノイズ量を推定する際に用いる参照値を算出する算出部をさらに備え、前記推定部は、前記算出部が算出した前記参照値と前記ランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定することを特徴とする。【００１０】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素を基準に設定した算出範囲における画素の画素値を用いて算出された代表値と前記注目画素の画素値とに応じて、前記注目画素の画素値から前記特徴量をオフセットした値を前記参照値として算出することを特徴とする。【００１１】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素の画素値が前記代表値より小さい場合、前記注目画素の画素値に前記特徴量を加算することによって前記参照値を算出することを特徴とする。【００１２】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素の画素値が前記代表値より大きい場合、前記注目画素の画素値から前記特徴量を減算することによって前記参照値を算出することを特徴とする。【００１３】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素を基準に設定した算出範囲において前記点滅欠陥ノイズが発生しない画素の画素値を用いて算出された代表値に応じて、前記参照値を算出する算出方法を変更することを特徴とする。【００１４】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素の画素値が前記代表値より小さい場合、前記注目画素の画素値に前記特徴量を加算することによって前記参照値を算出することを特徴とする。【００１５】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素の画素値が前記代表値より大きい場合、前記注目画素の画素値から前記特徴量を減算することによって前記参照値を算出することを特徴とする。【００１６】
また、本発明に係る画像処理装置は、上記発明において、前記算出部は、前記注目画素の画素値を前記参照値として算出することを特徴とする。【００１７】
また、本発明に係る画像処理装置は、上記発明において、前記注目画素のノイズを優先して低減するノイズ低減モードおよび前記注目画素の過補正を防止する過補正防止モードのいずれか一方を選択する選択信号の入力を受け付ける操作部をさらに備え、前記算出部は、前記操作部から入力された前記選択信号が前記ノイズ低減モードの場合、前記注目画素の画素値に前記特徴量を減算することによって前記参照値を算出する一方、前記操作部から入力された前記選択信号が前記過補正防止モードの場合、前記注目画素の画素値から前記特徴量を加算することによって前記参照値を算出することを特徴とする。【００１８】
また、本発明に係る画像処理装置は、上記発明において、互いに異なる複数の前記ランダムノイズモデルを記録するランダムノイズモデル情報記録部と、前記注目画素を基準に設定した算出範囲において前記注目画素以外の画素の画素値を用いて算出された代表値に応じて、前記ランダムノイズモデル情報記録部が記録する複数の前記ランダムノイズモデルのいずれか１つを選択する選択部と、をさらに備え、前記推定部は、前記選択部が選択した前記ランダムノイズモデルに基づいて、前記注目画素における前記ランダムノイズ量を推定することを特徴とする。【００１９】
また、本発明に係る画像処理装置は、上記発明において、前記選択部は、前記注目画素の周辺に位置する周辺画素の画素値を用いて算出された代表値と前記注目画素の画素値とに基づいて、前記ランダムノイズモデルを変更することを特徴とする。【００２０】
また、本発明に係る画像処理装置は、上記発明において、前記選択部は、前記注目画素の周辺に位置する周辺で前記点滅欠陥ノイズが発生しない画素の画素値を用いて算出された代表値と前記注目画素の画素値とに基づいて、前記ランダムノイズモデルを変更することを特徴とする。【００２１】
また、本発明に係る画像処理装置は、上記発明において、前記補正部は、前記注目画素の画素値と前記推定部が推定した前記ランダムノイズ量とに基づいて、前記注目画素の画素値を補正するか否かを判定することを特徴とする。【００２２】
また、本発明に係る画像処理装置は、上記発明において、前記補正部は、前記注目画素の周辺に位置する周辺画素の画素値と前記推定部が推定した前記ランダムノイズ量とに基づいて代表値を算出し、該代表値を用いて前記注目画素の画素値を補正することを特徴とする。【００２３】
また、本発明に係る画像処理装置は、上記発明において、前記特徴量は、点滅欠陥ノイズのノイズレベルおよびノイズレベルに基づき算出された値のいずれかであることを特徴とする。【００２４】
また、本発明に係る画像処理装置は、上記発明において、前記点滅欠陥ノイズは、ランダムテレグラフシグナルノイズであることを特徴とする。【００２５】
また、本発明に係る画像処理方法は、２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置が実行する画像処理方法であって、前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する取得ステップと、前記取得ステップにおいて取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定ステップと、前記推定ステップにおいて推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正ステップと、を含むことを特徴とする。【００２６】
また、本発明に係るプログラムは、２次元状に配置され、外部から光を受光し、受光量に応じた信号を生成する複数の画素と、前記信号を画素値として読み出す複数の読み出し回路と、を有する撮像素子が生成した画像データに含まれる点滅欠陥ノイズを補正する画像処理装置に、前記読み出し回路の位置情報または前記複数の画素の各々の位置情報と、前記読み出し回路に起因する点滅欠陥ノイズに関する特徴量と、を対応付けたノイズ情報を取得する取得ステップと、前記取得ステップにおいて取得した前記特徴量と注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、前記注目画素における前記ランダムノイズ量を推定する推定ステップと、前記推定ステップにおいて推定した前記ランダムノイズ量に基づいて、前記注目画素の画素値を補正する補正ステップと、を実行させることを特徴とする。
【発明の効果】
【００２７】
本発明によれば、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができるという効果を奏する。
【図面の簡単な説明】
【００２８】
【図１】図１は、本発明の実施の形態１に係る撮像システムの構成を模式的に示すブロック図である。
【図２】図２は、本発明の実施の形態１に係る撮像素子の要部の構成を模式的に示す概略図である。
【図３】図３は、本発明の実施の形態１に係る代表値算出部の詳細な構成を示すブロック図である。
【図４】図４は、本発明の実施の形態１に係る補正値算出部の詳細な構成を示すブロック図である。
【図５】図５は、本発明の実施の形態１に係る撮像素子に光が当たらないように遮光した場合において、ＲＴＳノイズが発生するときに、アンプ部から出力されるアンプ出力の変動の例を示す図である。
【図６】図６は、本発明の実施の形態１に係るＲＴＳノイズが発生するアンプ部を用いて読み出された画素値の分布の例を示す図である。
【図７】図７は、本発明の実施の形態１に係る画像処理装置が実行する処理の概要を示すフローチャートである。
【図８】図８は、図７の代表値算出処理の概要を示すフローチャートである。
【図９】図９は、本発明の実施の形態１に係るランダムノイズモデルの一例を示す図である。
【図１０】図１０は、図７の補正値算出処理の概要を示すフローチャートである。
【図１１】図１１は、本発明の実施の形態１の変形例１に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。
【図１２】図１２は、本発明の実施の形態１の変形例２に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。
【図１３】図１３は、本実施の形態１の変形例３に係る画像処理装置が実行する補正値算出処理の概要を示すフローチャートである。
【図１４】図１４は、本発明の実施の形態２に係る代表値算出部の詳細な構成を示すブロック図である。
【図１５】図１５は、本発明の実施の形態２に係る補正値算出部の詳細な構成を示すブロック図である。
【図１６】図１６は、本発明の実施の形態２に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。
【図１７】図１７は、本発明の実施の形態２に係るランダムノイズモデルの一例を示す図である。
【図１８】図１８は、本発明の実施の形態３に係る撮像システムの構成を模式的に示すブロック図である。
【図１９】図１９は、本発明の実施の形態３に係る撮像システムが実行する処理の概要を示すフローチャートである。
【図２０】図２０は、図１９の画像処理の概要を示すフローチャートである。
【発明を実施するための形態】
【００２９】
以下、図面を参照して、本発明を実施するための形態（以下、「実施の形態」という）について説明する。なお、以下に説明する実施の形態によって本発明が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付して説明する。
【００３０】
（実施の形態１）
〔撮像システムの構成〕
図１は、本発明の実施の形態１に係る撮像システムの構成を模式的に示すブロック図である。図１に示す撮像システム１は、撮像装置１０と、画像処理装置３０と、表示装置４０と、を備える。
【００３１】
〔撮像装置の構成〕
まず、撮像装置１０の構成について説明する。撮像装置１０は、図１に示すように、光学系１０１と、絞り１０２と、シャッタ１０３と、ドライバ１０４と、撮像素子１０５と、アナログ処理部１０６と、Ａ／Ｄ変換部１０７と、操作部１０８と、メモリＩ／Ｆ部１０９と、記録媒体１１０と、揮発メモリ１１１と、不揮発メモリ１１２と、バス１１３と、撮像制御部１１４と、第１外部Ｉ／Ｆ部１１５と、を備える。
【００３２】
光学系１０１は、単数または複数のレンズを用いて構成される。光学系１０１は、例えばフォーカスレンズとズームレンズとを用いて構成される。
【００３３】
絞り１０２は、光学系１０１が集光した光の入射量を制限することで露出の調整を行う。絞り１０２は、撮像制御部１１４の制御のもと、光学系１０１が集光した光の入射量を制限する。なお、絞り１０２を用いずに、シャッタ１０３や撮像素子１０５における電子シャッタを用いて光の入射量を制御するようにしてもよい。なお、光学系１０１、絞り１０２は、撮像装置１０に対して着脱可能であってもよい。
【００３４】
シャッタ１０３は、撮像素子１０５の状態を露光状態または遮光状態に設定する。シャッタ１０３は、例えばフォーカルプレーンシャッタ等を用いて構成される。なお、シャッタ１０３を用いずに、撮像素子１０５における電子シャッタを用いてもよい。
【００３５】
ドライバ１０４は、後述する撮像制御部１１４の制御のもと、光学系１０１、絞り１０２およびシャッタ１０３を駆動する。例えば、ドライバ１０４は、光学系１０１を光軸Ｏ１に沿って移動させることによって、撮像装置１０のズーム倍率の変更またはピント位置の調整を行う。
【００３６】
撮像素子１０５は、後述する撮像制御部１１４の制御のもと、光学系１０１が集光した光を受光して画像データ（電気信号）に変換して出力する。撮像素子１０５は、複数の画素が二次元状に配置されたＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）等を用いて構成される。この各画素の前面には、ベイヤー配列のＲＧＢフィルタが配置されている。なお、撮像素子１０５は、ベイヤー配列に限定されず、例えばＦｏｖｉｏｎのような積層型の形式でも勿論かまわない。また、用いるフィルタはＲＧＢに限定されず、補色フィルタ等任意のフィルタを適用できる。また、別途、異なるカラー光を時分割で照射可能な光源を配置し、撮像素子１０５には、フィルタを配置せず、照射する色を変更しながら順次取り込んだ画像を使用してカラー画像を構成できるようにしてもよい。また、撮像素子１０５は、受光量を電子的に制御可能な電子シャッタ機能を有する。
【００３７】
ここで、撮像素子１０５の構成について詳細に説明する。図２は、撮像素子１０５の要部の構成を模式的に示す概略図である。なお、図２に示す撮像素子１０５は、画素の開口率向上により感度を向上させるため、複数の画素で読み出し回路を共有している例を示している。なお、図２に示す撮像素子１０５は、水平方向（横方向）に２画素×垂直方向（縦方向）に４画素の８画素に対して、１つの読み出し回路が配置されている。なお、図２においては、水平方向（横方向）に２画素×垂直方向（縦方向）に４画素の８画素に対して、１つの読み出し回路を１グループとする例を説明したが、本実施の形態１の撮像素子１０５上には、上述した画素および読み出し回路が、水平方向および垂直方向に並んで配置されているものとする。
【００３８】
図２に示すように、撮像素子１０５は、露光により光を受光し、光電変換を行うことによって、露光量に対応した電荷を発生する複数の画素１０５ａ（フォトダイオード）と、複数の画素１０５ａの各々に設けられ、撮像制御部１１４の制御に応じて開閉する第１スイッチ１０５ｂと、複数の画素１０５ａの各々から出力された信号（電荷）を垂直方向に転送する垂直転送線１０５ｃと、複数の画素１０５ａの各々から出力された信号を蓄積するＦＤ部１０５ｄ（Floating  Diffusion）と、ＦＤ部１０５ｄから出力された信号を増幅するアンプ部１０５ｅと、撮像制御部１１４の制御に応じて開閉する第２スイッチ１０５ｆと、第２スイッチ１０５ｆを制御する制御線１０５ｇと、アンプ部１０５ｅで増幅された電気信号を転送する転送線１０５ｈと、を備える。
【００３９】
このように構成された撮像素子１０５は、画素１０５ａ（１）〜１０５ａ（８）における露光量に対応する信号を画素値として読み出す場合、まず、ＦＤ部１０５ｄをリセット状態にして、撮像制御部１１４が第１スイッチ１０５ｂ（１）のみをオンとすることで、画素１０５ａ（１）に発生した電荷をＦＤ部１０５ｄに転送する。その後、撮像素子１０５は、撮像制御部１１４が第２スイッチ１０５ｆをオンとすることで、ＦＤ部１０５ｄに蓄積された電荷をアンプ部１０５ｅによって増幅させて画素値として読み出す（出力する）。次に、撮像素子１０５は、ＦＤ部１０５ｄをリセット状態にして、撮像制御部１１４が第１スイッチ１０５ｂ（２）のみをオンとすることで、画素１０５ａ（２）に発生した電荷をＦＤ部１０５ｄに転送する。その後、撮像素子１０５は、撮像制御部１１４が第２スイッチ１０５ｆをオンとすることで、ＦＤ部１０５ｄに蓄積された電荷をアンプ部１０５ｅによって増幅させて画素値として読み出す。撮像素子１０５は、このような読み出し動作を順次行うことによって、画素１０５ａ（１）〜１０５ａ（８）における露光量に対応する信号を順次画素値として出力することができる。なお、本実施の形態１では、アンプ部１０５ｅが複数の画素１０５ａの各々から電荷を読み出す読み出し回路として機能する。
【００４０】
図１に戻り、撮像装置１０の構成の説明を続ける。
アナログ処理部１０６は、撮像素子１０５から入力されるアナログ信号に対して、所定のアナログ処理を施してＡ／Ｄ変換部１０７へ出力する。具体的には、アナログ処理部１０６は、撮像素子１０５から入力されるアナログ信号に対して、ノイズ低減処理およびゲインアップ処理等を行う。例えば、アナログ処理部１０６は、アナログ信号に対して、リセットノイズ等を低減した上で波形整形を行い、さらに目的の明るさとなるようにゲインアップを行う。
【００４１】
Ａ／Ｄ変換部１０７は、アナログ処理部１０６から入力されるアナログ信号に対して、Ａ／Ｄ変換を行うことによってデジタルの画像データ（以下、「ＲＡＷ画像データ」という）を生成し、バス１１３を介して揮発メモリ１１１に出力する。なお、Ａ／Ｄ変換部１０７は、後述する撮像装置１０の各部に対してＲＡＷ画像データを直接出力するようにしてもよい。なお、上述したアナログ処理部１０６とＡ／Ｄ変換部１０７を撮像素子１０５に設け、撮像素子１０５がデジタルのＲＡＷ画像データを直接出力するようにしても良い。
【００４２】
操作部１０８は、撮像装置１０の各種の指示を与える。具体的には、操作部１０８は、撮像装置１０の電源状態をオン状態またはオフ状態に切り替える電源スイッチ、静止画撮影の指示を与えるレリーズスイッチ、撮像装置１０の各種設定を切り替える操作スイッチおよび動画撮影の指示を与える動画スイッチ等を有する。
【００４３】
記録媒体１１０は、撮像装置１０の外部から装着されるメモリカードを用いて構成され、メモリＩ／Ｆ部１０９を介して撮像装置１０に着脱自在に装着される。また、記録媒体１１０は、撮像制御部１１４の制御のもと、メモリＩ／Ｆ部１０９を介してプログラムおよび各種情報それぞれを不揮発メモリ１１２に出力してもよい。
【００４４】
揮発メモリ１１１は、バス１１３を介してＡ／Ｄ変換部１０７から入力される画像データを一時的に記憶する。例えば、揮発メモリ１１１は、アナログ処理部１０６、Ａ／Ｄ変換部１０７およびバス１１３を介して、撮像素子１０５が１フレーム毎に順次出力する画像データを一時的に記憶する。揮発メモリ１１１は、ＳＤＲＡＭ（Synchronous  Dynamic  Random  Access  Memory）等を用いて構成される。
【００４５】
不揮発メモリ１１２は、Ｆｌａｓｈメモリ等を用いて構成され、撮像装置１０を動作させるための各種プログラム、プログラムの実行中に使用される各種データを記録する。また、不揮発メモリ１１２は、プログラム記録部１１２ａと、画素値を読み出す読み出し回路（アンプ部１０５ｅ）の位置情報または複数の画素１０５ａの各々の位置情報と読み出し回路（アンプ部１０５ｅ）に起因するＲＴＳノイズに関する特徴量とを対応付けたＲＴＳノイズ位置情報を記録するＲＴＳノイズ情報記録部１１２ｂと、一または複数のランダムノイズモデルを記録するランダムノイズモデル情報記録部１１２ｃと、を有する。ここで、特徴量とは、ＲＴＳノイズの振幅（ＲＴＳ＿Ｖａｌｕｅ）、点滅欠陥ノイズの発生頻度およびＲＴＳノイズの振幅未満のＲＴＳノイズにおける発生頻度のいずれである。
【００４６】
バス１１３は、撮像装置１０の各構成部位を接続する伝送路等を用いて構成され、撮像装置１０の内部で発生した各種データを撮像装置１０の各構成部位に転送する。
【００４７】
撮像制御部１１４は、ＣＰＵ（Central  Processing  Unit）等を用いて構成され、操作部１０８からの指示信号やレリーズ信号に応じて撮像装置１０を構成する各部に対する指示やデータの転送等を行って撮像装置１０の動作を統括的に制御する。例えば、撮像制御部１１４は、操作部１０８からセカンドレリーズ信号が入力された場合、撮像装置１０における撮影動作の制御を開始する。ここで、撮像装置１０における撮影動作とは、撮像素子１０５の露光タイミング、アナログ信号の出力タイミング、および撮像素子１０５が出力したアナログ信号に対し、アナログ処理部１０６かつＡ／Ｄ変換部１０７が所定の処理を施す動作をいう。このように処理が施された画像データは、撮像制御部１１４の制御のもと、バス１１３およびメモリＩ／Ｆ部１０９を介して記録媒体１１０に記録される。
【００４８】
第１外部Ｉ／Ｆ部１１５は、バス１１３を介して外部の機器から入力される情報を不揮発メモリ１１２または揮発メモリ１１１へ出力する一方、バス１１３を介して外部の機器へ揮発メモリ１１１が記録する情報、不揮発メモリ１１２が記憶する情報および撮像素子１０５が生成した画像データを出力する。具体的には、第１外部Ｉ／Ｆ部１１５は、バス１１３を介して画像処理装置３０に撮像素子１０５が生成した画像データ、ＲＴＳノイズ情報およびランダムノイズモデル情報を出力する。
【００４９】
〔画像処理装置の構成〕
次に、画像処理装置３０の構成について説明する。画像処理装置３０は、第３外部Ｉ／Ｆ部３１と、ＲＴＳノイズ補正部３２と、画像処理部３３と、操作部３４と、を備える。
【００５０】
第３外部Ｉ／Ｆ部３１は、撮像装置１０の第１外部Ｉ／Ｆ部１１５を介して撮像素子１０５によって生成された画像データ、不揮発メモリ１１２内のＲＴＳノイズ情報記録部１１２ｂが記録するＲＴＳノイズに関するＲＴＳノイズ情報およびランダムノイズモデル情報記録部１１２ｃが記録するランダムノイズモデル情報を取得する情報取得部として動作し、取得した画像データ、ＲＴＳノイズ情報およびランダムノイズモデル情報をＲＴＳノイズ補正部３２へ出力する。第３外部Ｉ／Ｆ部３１および第１外部Ｉ／Ｆ部１１５は、例えば双方向に情報をやり取り可能な制御ケーブルや無線通信等を介して接続されている。なお、本実施の形態では、第３外部Ｉ／Ｆ部３１が情報取得部として機能する。
【００５１】
ＲＴＳノイズ補正部３２は、撮像装置１０の不揮発メモリ１１２のＲＴＳノイズ情報記録部１１２ｂに記録されているＲＡＷ画像に対してＲＴＳノイズを補正するＲＴＳノイズ補正処理を行い、この補正を行ったＲＡＷ画像を画像処理部３３へ出力する。ＲＴＳノイズ補正部３２は、ＲＴＳノイズ画素判定部３２１と、候補値算出部３２２と、代表値算出部３２３と、ランダムノイズ量推定部３２４と、補正値算出部３２５と、を有する。
【００５２】
ＲＴＳノイズ画素判定部３２１は、撮像装置１０のＲＴＳノイズ情報記録部１１２ｂに記録されているＲＴＳノイズ情報を、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介して取得し、取得したＲＡＷ画像上の画素においてＲＴＳノイズが発生する可能性があるか否かを判定し、判定結果を候補値算出部３２２および代表値算出部３２３へ出力する。具体的には、ＲＴＳノイズ画素判定部３２１に対して画素の位置を入力されると、その画素に対応するＲＴＳノイズ情報が撮像装置１０のＲＴＳノイズ情報記録部１１２ｂに記録されているか判定し、記録されていればＲＴＳノイズ情報（ＲＴＳノイズが有りを示す情報）を出力する一方、撮像装置１０のＲＴＳノイズ情報記録部１１２ｂに記録されていなければ、ＲＴＳノイズが発生しない画素と見なし、ＲＴＳノイズ情報を出力しない。
【００５３】
候補値算出部３２２は、注目画素の画素値と、ＲＴＳノイズ画素判定部３２１の判定結果とに基づいて、ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生する可能性があると判定されている場合、注目画素の画素値に対する補正量の候補値を複数算出し、注目画素の画素値と、算出した複数の候補値を代表値算出部３２３、ランダムノイズ量推定部３２４および補正値算出部３２５それぞれへ出力する。
【００５４】
代表値算出部３２３は、ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生する可能性があると判定されている場合には、注目画素における周囲の少なくともＲＴＳノイズ画素判定部３２１によってＲＴＳノイズが発生しないと判定されている画素と、後述するランダムノイズ量推定部３２４が算出した注目画素に対応するランダムノイズ量の参照値とに基づいて、ＲＴＳノイズが発生しない場合の画素値に相当する代表値を算出する。代表値算出部３２３は、注目画素の画素値と、複数の候補値と、上述で算出した代表値と、を補正値算出部３２５へ出力する。なお、本実施の形態１では、代表値算出部３２３が推定部として機能する。
【００５５】
ここで、代表値算出部３２３の詳細な構成について説明する。図３は、代表値算出部３２３の詳細な構成を示すブロック図である。図３に示すように、代表値算出部３２３は、第１参照値算出部３２３ａと、第１ランダムノイズ量推定部３２３ｂと、許容範囲算出部３２３ｃと、代表値決定部３２３ｄと、を有する。
【００５６】
第１参照値算出部３２３ａは、ランダムノイズ量を推定する際に用いる参照値を算出する。具体的には、第１参照値算出部３２３ａは、注目画素の画素値に、ＲＴＳ＿Ｖａｌｕｅを加算した値または注目画素の画素値に、補正量の候補値のうち最大値を換算した値を参照値として算出する。
【００５７】
第１ランダムノイズ量推定部３２３ｂは、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃに記録されているランダムノイズモデルを取得し、取得したランダムノイズモデルと第１参照値算出部３２３ａが算出した参照値とに基づいて、ランダムノイズ量を算出する。
【００５８】
許容範囲算出部３２３ｃは、注目画素を基準に設定した算出範囲内にある画素の画素値と第１ランダムノイズ量推定部３２３ｂで算出したランダムノイズ量とに基づいて、代表値算出処理に使用可能な画素値の範囲である許容範囲（有効範囲）を算出する。
【００５９】
代表値決定部３２３ｄは、算出範囲内における注目画素以外の画素値に対して、許容範囲内（有効範囲内）に含まれている画素値（カラーフィルタを用いた撮像素子１０５の場合、注目画素と同色の画素値）を選択し、選択した画素数が所定の値以上の場合、この選択した画素値の中央値を代表値として決定する。
【００６０】
図１に戻り、画像処理装置３０の説明を続ける。
ランダムノイズ量推定部３２４は、撮像装置１０のランダムノイズモデル情報記録部１１２ｃが記録するランダムノイズモデルに基づいて、画素値に対応するランダムノイズ量を推定し、推定結果を候補値算出部３２２、代表値算出部３２３および補正値算出部３２５それぞれへ出力する。即ち、ランダムノイズ量推定部３２４に対して画素値を入力すると、その画素値に対応するランダムノイズ量が出力される。
【００６１】
補正値算出部３２５は、ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生する可能性がある画素と判定されている場合、候補値算出部３２２が算出した複数の候補値に基づいて、注目画素の画素値を補正する。具体的には、補正値算出部３２５は、注目画素の画素値と、候補値算出部３２２によって算出された複数の候補値と、代表値算出部３２３によって算出された代表値と、に基づいて、ＲＴＳノイズを補正した画素値を算出して画像処理部３３へ出力する。より具体的には、補正値算出部３２５は、候補値算出部３２２が算出した複数の候補値の中から、代表値算出部３２３が算出した代表値に補正結果が最も近くなるような候補値に基づいて、注目画素の画素値を補正する。これに対して、補正値算出部３２５は、ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生しない画素と判定されている場合、注目画素の画素値をそのまま出力する。なお、本実施の形態１では、補正値算出部３２５が補正部として機能する。
【００６２】
ここで、補正値算出部３２５の詳細な構成について説明する。図４は、補正値算出部３２５の詳細な構成を示すブロック図である。図４に示すように、補正値算出部３２５は、第２参照値算出部３２５ａと、第２ランダムノイズ量推定部３２５ｂと、補正量決定部３２５ｃと、画素値補正部３２５ｄと、を有する。
【００６３】
第２参照値算出部３２５ａは、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを減算した値または注目画素の画素値から補正量の候補値のうち最大値を減算した値を参照値として算出する。
【００６４】
第２ランダムノイズ量推定部３２５ｂは、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃに記録されているランダムノイズモデルを取得し、取得したランダムノイズモデルと第２参照値算出部３２５ａが算出した参照値とに基づいて、ランダムノイズ量を算出する。
【００６５】
補正量決定部３２５ｃは、第２ランダムノイズ量推定部３２５ｂが算出したランダムノイズ量に、一定の係数を乗じた値を閾値として算出し、候補値算出部３２２によって算出された補正量の候補値の中における最大候補値が閾値以上であるか否かを判定後、代表値算出部３２３が算出した代表値と、注目画素の絶対値に最も近い補正量の候補値を、補正量として選択する。
【００６６】
画素値補正部３２５ｄは、代表値に近づくように、注目画素の画素値に対して補正量分加算または減算することによって、補正した注目画素の画素値を算出する。
【００６７】
図１に戻り、画像処理装置３０の説明を続ける。
画像処理部３３は、ＲＴＳノイズ補正部３２によってＲＴＳノイズが補正された画像データに対して、所定の画像処理を行って表示装置４０へ出力する。ここで、所定の画像処理とは、少なくとも、オプティカルブラック減算処理、ホワイトバランス調整処理、撮像素子がベイヤー配列の場合には画像データの同時化処理、カラーマトリクス演算処理、γ補正処理、色再現処理およびエッジ強調処理、ノイズ低減処理等を含む基本の画像処理を行う。また、画像処理部３３は、予め設定された各画像処理のパラメータに基づいて、自然な画像を再現する画像処理を行う。ここで、各画像処理のパラメータとは、コントラスト、シャープネス、彩度、ホワイトバランスおよび階調の値である。
【００６８】
操作部３４は、画像処理装置３０に関する各種操作信号の入力を受け付ける。操作部３４は、例えば十次ボタン、プッシュボタンおよびタッチパネル等を用いて構成される。
【００６９】
〔表示装置の構成〕
次に、表示装置４０の構成について説明する。表示装置４０は、画像処理装置３０から入力される画像データに対応する画像を表示する。表示装置４０は、液晶または有機ＥＬ（Electro  Luminescence）等の表示パネル等を用いて構成される。
【００７０】
以上の構成を有する撮像システム１は、画像処理装置３０が撮像素子１０５において発生するＲＴＳノイズを補正し、表示装置４０が画像処理装置３０によって画像処理が施された画像データに対応する画像を表示する。
【００７１】
〔ＲＴＳノイズの発生原因と特性〕
次に、ＲＴＳノイズの発生原因とＲＴＳノイズの特性について説明する。
図５は、撮像素子１０５に光が当たらないように遮光した場合において、ＲＴＳノイズが発生するときに、アンプ部１０５ｅから出力されるアンプ出力の変動の例を示す図である。図６は、ＲＴＳノイズが発生するアンプ部１０５ｅを用いて読み出された画素値の分布の例を示す図である。
【００７２】
ＲＴＳノイズは、アンプ部１０５ｅにおけるゲート酸化膜にトラップ準位が存在した場合、ランダムなタイミングで、このトラップ準位に電荷が捕獲されたり、放出されたりすることで発生する。このため、図５に示すように、ＲＴＳノイズが発生するアンプ部１０５ｅでは、アンプ出力が約Ｖｒｔｓの範囲でランダムに変動する。また、電位の変動は、一瞬で起こらず、わずかな時間τを要する。
【００７３】
一般に、撮像素子１０５では、画素１０５ａから読み出した画素値からノイズを低減するため、相関二重サンプリング処理（以下、「ＣＤＳ処理」という）が行われる。ＣＤＳ処理では、撮像制御部１１４が撮像素子１０５のリセットスイッチ（図示せず）をオンにして、ＦＤ部１０５ｄの電荷をリセットさせ、さらに、撮像制御部１１４が第２スイッチ１０５ｆをオンにして、リセット状態を作り、リセット状態の信号（基準信号）を読み出す（出力する）。次に、ＣＤＳ処理では、撮像制御部１１４が第１スイッチ１０５ｂ（または第１スイッチ１０５ｂ（１）〜１０５ｂ（８）のいずれか）のみをオンにして、画素１０５ａで発生した電荷をＦＤ部１０５ｄに転送し、さらに第２スイッチ１０５ｆをオンにした読み出し状態（出力状態）を作り、読み出し状態の信号を読み出す（出力する）。続いて、ＣＤＳ処理では、読み出し状態の信号からリセット状態の信号（基準信号）を減算することで得られる信号を画素値として変換する。
【００７４】
図５に示すように、撮像素子１０５は、ＣＤＳ処理により、時間ｔｒ１（リセット状態）および時間ｔｓ１（読み出し状態）それぞれの信号を読み出すと、時間ｔｒ１および時間ｔｓ１それぞれのアンプ出力Ｖがほぼ同様であるため、主にランダムノイズによる影響を受け、読み出された画素値が図６に示す分布Ａのような０を中心とした分布となる。同様に、撮像素子１０５は、時間ｔｒ２（リセット状態）と時間ｔｓ２（読み出し状態）でも、時間ｔｒ２および時間ｔｓ２それぞれのアンプ出力Ｖがほぼ同様であるため、読み出された画素値が図６に示す分布Ａのようになる。
【００７５】
一方、撮像素子１０５は、ＣＤＳ処理により、時間ｔｒ３（リセット状態）および時間ｔｓ３（読み出し状態）それぞれの信号を読み出すと、時間ｔｒ３のアンプ出力と比べ時間ｔｓ３のアンプ出力が約Ｖｒｔｓ低いため、２つの信号の差をとると、アンプ出力の変化量であるＶｒｔｓに対応する画素値であるＲＴＳ＿Ｖａｌｕｅ分マイナス方向にシフトし、読み出された画素値が−ＲＴＳ＿Ｖａｌｕｅを中心とした分布Ｂとなる。
【００７６】
これに対して、撮像素子１０５は、ＣＤＳ処理により、時間ｔｒ４（リセット状態）および時間ｔｓ４（読み出し状態）それぞれの信号を読み出すと、時間ｔｒ４のアンプ出力に比べて時間ｔｓ４のアンプ出力が約Ｖｒｔｓ高いため、２つの信号の差をとるとアンプ出力の変化量であるＶｒｔｓに対応する画素値であるＲＴＳ＿Ｖａｌｕｅ分プラス方向にシフトし、読み出された画素値がＲＴＳ＿Ｖａｌｕｅを中心とした分布Ｃとなる。
【００７７】
ここで、図５のアンプ出力の変動は、時間τを要して生じるため、電位が変動している途中で信号を読み出す場合もある。この場合、リセット状態の読み出し時間および読み出し状態の読み出し時間の間で、アンプ出力差が−Ｖｒｔｓより大きく、Ｖｒｔｓより小さい。この結果、撮像素子１０５から読み出された画素値も、−ＲＴＳ＿Ｖａｌｕｅより大きく、ＲＴＳ＿Ｖａｌｕｅより小さな値となる。時間τは、撮像素子１０５の条件（例えば温度や駆動電圧等）が一定であれば、ほぼ一定になると考えられるため、−ＲＴＳ＿Ｖａｌｕｅより大きくＲＴＳ＿Ｖａｌｕｅより小さな画素値が同様の確率で発生する。ここでは、これらの画素値の発生頻度をαｎｏｉｓｅと定義する。また、分布Ｂおよび分布Ｃの各々は、中央値のみ異なるが、それ以外は同様の分布となる。このため、以下においては、分布Ａに対する分布Ｂまたは分布Ｃの割合をαｒｔｓと定義する。このαｒｔｓは、アンプ部１０５ｅのアンプ出力の変動周期が短いほど、大きくなる。
【００７８】
このように、ＣＤＳ処理によりＲＴＳノイズが発生するアンプ部１０５ｅを用いて読み出された画素値は、図６のような分布となる。なお、撮像素子１０５に光が当たっている条件では、読み出し状態の電位が露光量に応じて変化する。しかしながら、ＲＴＳノイズによる電位の変化は、露光量によらず一定である。即ち、ＲＴＳノイズは、露光量に依存せず、−ＲＴＳ＿Ｖａｌｕｅ以上、ＲＴＳ＿Ｖａｌｕｅ以下の範囲で正常な画素値に対してランダムに変動する特性を有する。なお、図６において、分布Ａ、分布Ｂ、分布Ｃを模式的に示したが、一般には正規分布となる。
【００７９】
また、ＲＴＳノイズは、読み出し回路（アンプ部１０５ｅ）に起因するノイズであるため、図２に示すように、複数の画素１０５ａの各々が１つの読み出し回路を共有している場合、全ての共有画素（画素１０５ａ（１）〜１０５ａ（８））において同様の特性のＲＴＳノイズが発生する。
【００８０】
また、図２に示した読み出し回路（アンプ部１０５ｅ）以外にも、撮像素子１０５の列方向で共有しているカラムアンプやソースフォロア等においても、ＲＴＳノイズが発生する場合がある。この場合、同じカラムアンプおよびソースフォロアを共有する列方向の全ての画素においても同様の特性のＲＴＳノイズが発生する。本実施の形態では、読み出し回路（アンプ部１０５ｅ）以外の回路で発したＲＴＳノイズにも適用することができる。
【００８１】
このようにＲＴＳノイズは、被写体を固定して同じ条件で撮影した場合、撮影により得られた画像の画素値が一定範囲内（−ＲＴＳ＿Ｖａｌｕｅ以上、ＲＴＳ＿Ｖａｌｕｅ以下）で振幅（変動）するような点滅欠陥ノイズの一種となる。
【００８２】
〔画像処理装置の処理〕
次に、画像処理装置３０が実行する処理について説明する。図７は、画像処理装置３０が実行する処理の概要を示すフローチャートであり、画像処理装置３０が実行するメインルーチンのフローチャートである。
【００８３】
まず、ＲＴＳノイズ補正部３２は、後述するステップＳ１０２〜ステップＳ１０５の処理を順次行うための注目画素を設定する（ステップＳ１０１）。なお、ＲＴＳノイズ補正部３２は、画素毎に左上から右下に向かってラスタ順に、０より大きい整数を１、２、３、・・・と順にインデックスとして割り当てる。次に、ＲＴＳノイズ補正部３２は、ステップＳ１０１が実行される毎に、カウンタを１ずつ増加させる（図７の処理が開始される時点でカウンタは０にリセットする）。ＲＴＳノイズ補正部３２は、カウンタが示しているインデックスが割り当てられている画素を注目画素として設定する。即ち、ＲＴＳノイズ補正部３２によってステップＳ１０１が最初に実行されると、ＲＴＳノイズ補正部３２が０にリセットされたカウンタを１増加させるため、カウンタが１を示し、左上の画素が注目画素となる。ＲＴＳノイズ補正部３２がステップＳ１０１の処理を２回（２回目）実行すると、カウンタが２を示すため、左上の画素の右側の画素が注目画素となる。
【００８４】
続いて、ＲＴＳノイズ画素判定部３２１は、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介して、撮像装置１０の不揮発メモリ１１２のＲＴＳノイズ情報記録部１１２ｂが記録するＲＴＳノイズ情報を取得し、取得したＲＴＳノイズ情報に基づいて、注目画素においてＲＴＳノイズが発生する可能性があるか否かを判定する（ステップＳ１０２）。即ち、ＲＴＳノイズ画素判定部３２１は、注目画素が含まれる共有画素ブロックの位置情報が、ＲＴＳノイズ情報に含まれているか否か判定する。具体的には、ＲＴＳノイズ画素判定部３２１は、注目画素が含まれる共有画素ブロックの位置情報が、ＲＴＳノイズが発生する可能性がある共有画素ブロックとしてＲＴＳノイズ情報に含まれているか否かを判定する。ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生する可能性があると判定（注目画素が含まれる共有画素ブロックの位置情報が、ＲＴＳノイズ情報に含まれていると判定）された場合（ステップＳ１０２：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ１０３へ移行する。これに対して、ＲＴＳノイズ画素判定部３２１によって注目画素においてＲＴＳノイズが発生する可能がないと判定（注目画素が含まれる共有画素ブロックの位置情報が、ＲＴＳノイズ情報に含まれていないと判定）された場合（ステップＳ１０２：Ｎｏ）、画像処理装置３０は、後述するステップＳ１０６へ移行する。この場合において、ＲＴＳノイズ画素判定部３２１は、注目画素においてＲＴＳノイズが発生する可能性がないと判定した場合、この注目画素の画素値をそのまま補正後の画素値として代表値算出部３２３へ出力する。
【００８５】
ステップＳ１０３において、候補値算出部３２２は、ＲＴＳノイズを補正するための補正量の候補値を複数算出する。具体的には、候補値算出部３２２は、注目画素に対応するＲＴＳ＿Ｖａｌｕｅ（ＲＴＳノイズ画素判定部３２１から出力されるＲＴＳノイズ情報に含まれている）に基づいて、０以上ＲＴＳ＿Ｖａｌｕｅ以下の画素値として取り得る値全て（ＲＡＷ画像として整数のみを取り得る場合、０以上ＲＴＳ＿Ｖａｌｕｅ以下の全ての整数）を候補値とする。なお、候補値算出部３２２は、撮像制御部１１４によって撮像素子１０５のカラムアンプ等に設定されたアンプゲイン値が、ＲＴＳノイズ検出時（アンプゲイン値＝Ｇ０とする）と、ＲＴＳノイズ補正時（アンプゲイン値＝Ｇ１とする）とで異なる場合、ＲＴＳ＿Ｖａｌｕｅを、ＲＴＳノイズ補正時のアンプゲイン値とＲＴＳノイズ検出時のアンプゲイン値との比（Ｇ＝Ｇ１/Ｇ０）に対してＲＴＳ＿Ｖａｌｕｅを乗算した値に置き換えてもよい。また、候補値算出部３２２は、予め設定しうるアンプゲイン値毎のＲＴＳ＿ＶａｌｕｅをＲＴＳノイズ情報に持たせ、この設定しているアンプゲイン値に応じたＲＴＳ＿Ｖａｌｕｅを用いてもよい。
【００８６】
続いて、代表値算出部３２３は、注目画素の周辺画素の画素値に基づいて、代表値（注目画素において、ＲＴＳノイズが発生していない場合における予測される画素値）を算出する代表値算出処理を実行する（ステップＳ１０４）。なお、代表値算出部３２３は、ＲＴＳノイズが発生する画素を含めるようにしてもよい。
【００８７】
図８は、図７のステップＳ１０４の代表値算出処理の概要を示すフローチャートである。
【００８８】
図８に示すように、まず、代表値算出部３２３は、注目画素を基準に、代表値算出の対象とする最小の算出範囲を設定する（ステップＳ２０１）。具体的には、代表値算出部３２３は、例えば注目画素を中心として対象の範囲で最大７×７の範囲を算出範囲とする場合、７×７以下の最小の範囲である３×３を最小の算出範囲として設定する。
【００８９】
続いて、第１参照値算出部３２３ａは、注目画素の画素値に、ＲＴＳ＿Ｖａｌｕｅを加算した値または注目画素の画素値に補正量の最大値を加算した値を参照値として算出する（ステップＳ２０２）。
【００９０】
その後、第１ランダムノイズ量推定部３２３ｂは、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃに記録されているランダムノイズモデルを取得し、取得したランダムノイズモデルとステップＳ２０２で第１参照値算出部３２３ａが算出した参照値とに基づいて、ランダムノイズ量を算出する（ステップＳ２０３）。
【００９１】
図９は、ランダムノイズモデルの一例を示す図である。図９において、縦軸がノイズ量を示し、横軸が画素値を示す。なお、図９においては、縦軸のランダムノイズ量として画素値の標準偏差を用い、撮像素子１０５の特性に応じたランダムノイズモデルを示す。
【００９２】
図９の曲線Ｌ１０に示すように、撮像素子１０５におけるランダムノイズ量は、画素値が大きくなるに従って増加する。このため、本実施の形態１における第１ランダムノイズ量推定部３２３ｂは、図９の曲線Ｌ１０のランダムノイズモデルと第１参照値算出部３２３ａが算出した参照値とに基づいて、ランダムノイズ量を算出する（標準偏差を算出する）。なお、図９に示した曲線以外にも、ランダムノイズモデルを近似式や折れ線で近似した特性であってもよい。
【００９３】
ステップＳ２０３の後、許容範囲算出部３２３ｃは、算出範囲内にある画素の画素値に基づいて、代表値算出処理に使用可能な画素値の範囲である許容範囲（有効範囲）を算出する（ステップＳ２０４）。具体的には、許容範囲算出部３２３ｃは、許容範囲（有効範囲）の上限を以下の式（１）によって算出する。
参照値＋ランダムノイズ量（標準偏差）×Ｒ＋ＲＴＳ＿Ｖａｌｕｅ  ・・・（１）
ここで、Ｒは、所定の係数であり、ランダムノイズに対してＲＴＳノイズが視覚的にどの程度把握できるかに応じて設定する。例えばＲの係数としては、２前後の値が好ましい。また、代表値算出部３２３は、許容範囲の下限を以下の式（２）によって算出する。
参照値−ランダムノイズ量（標準偏差）×Ｒ−ＲＴＳ＿Ｖａｌｕｅ  ・・・（２）
なお、ＲＴＳ＿Ｖａｌｕｅに代えて、複数の候補値の最大値を用いてもよい。また、式（１）および式（２）における参照値は、上述したステップＳ２０３において第１ランダムノイズ量推定部３２３ｂによるランダムノイズ量を推定するために使用された参照値と異なる参照値方法により得られた参照値としてもよい。このように、許容範囲算出部３２３ｃは、注目画素のＲＴＳノイズと、この注目画素周辺のランダムノイズを考慮した許容範囲を算出することができる。
【００９４】
その後、許容範囲算出部３２３ｃは、算出範囲内において注目画素以外の画素の画素値（カラーフィルタを用いた撮像素子１０５の場合、注目画素と同色の画素値）の各々に対して、上述したステップＳ２０４で算出した許容範囲内であるか否かを判定し、この許容範囲内の画素値の個数をカウントする（ステップＳ２０５）。このステップＳ２０５で得られるカウント値は、平坦な被写体の場合ほど大きく、エッジを含む被写体の場合ほど小さくなる傾向がある。なお、算出範囲内においてＲＴＳノイズが発生する可能性がある画素は、カウントしないようにしても良い。
【００９５】
続いて、上述したステップＳ２０５でカウントしたカウント値（画素数）が所定の値ＴｈＲｅｆより大きい場合（ステップＳ２０６：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ２０９へ移行する。ここで、所定の値ＴｈＲｅｆは、代表値算出部３２３が注目画素の周辺画素から代表値を算出するため、１以上とすることが好ましい。これに対して、上述したステップＳ２０５でカウントしたカウント値が所定の値ＴｈＲｅｆより大きくない場合（ステップＳ２０６：Ｎｏ）、画像処理装置３０は、後述するステップＳ２０７へ移行する。
【００９６】
ステップＳ２０７において、代表値算出の対象とする算出範囲が最大である場合（ステップＳ２０７：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ２０９へ移行する。これに対して、代表値算出の対象とする算出範囲が最大でない場合（ステップＳ２０７：Ｎｏ）、画像処理装置３０は、後述するステップＳ２０８へ移行する。
【００９７】
ステップＳ２０８において、許容範囲算出部３２３ｃは、代表値を算出する算出範囲を拡大する（ステップＳ２０８）。具体的には、許容範囲算出部３２３ｃは、代表値算出の対象とする算出範囲を最大の範囲内に収まる範囲で、水平または垂直方向に１画素以上拡大する。例えば、許容範囲算出部３２３ｃは、算出範囲として注目画素を中心とした３×３の範囲を設定している場合、注目画素を中心とした５×５の範囲を算出範囲に設定し直す。ステップＳ２０８の後、画像処理装置３０は、ステップＳ２０２へ戻る。なお、ステップＳ２０８においては、許容範囲算出部３２３ｃは、３×３または５×５の範囲を算出範囲に設定していたが、例えば、水平または垂直だけ拡大し、５×３や３×５の範囲を算出範囲に設定するようにしても良い。
【００９８】
ステップＳ２０９において、代表値決定部３２３ｄは、代表値を決定する（ステップＳ２０９）。具体的には、代表値決定部３２３ｄは、まず、算出範囲内における注目画素以外の画素の画素値に対して、許容範囲内（有効範囲内）に含まれている画素値（カラーフィルタを用いた撮像素子１０５の場合、注目画素と同色の画素値）を選択する。その後、代表値決定部３２３ｄは、選択した画素数が所定の値ＴｈＲｅｆ以上の場合、この選択した画素値の中央値を代表値として決定する。なお、代表値決定部３２３ｄは、選択した画素値の数が偶数の場合、注目画素の画素値に近い側の中央値を代表値として算出する。この場合、過補正を防止することができる。また、代表値決定部３２３ｄは、選択した画素数が所定の値ＴｈＲｅｆ未満の場合、注目画素の画素値に最も近い画素値を有する算出範囲内における注目画素以外の画素の画素値を代表値とする。なお、代表値決定部３２３ｄは、中央値を用いて代表値を算出していたが、例えば平均や分布の中間値等の他の方法で算出するようにしてもよい。また、代表値決定部３２３ｄは、算出範囲内のエッジ方向判別を行い、このエッジ方向判別の結果に基づいて、最も相関の高い方向の周辺画素値を代表値として算出してもよい。さらに、代表値決定部３２３ｄは、注目画素以外の算出範囲内の画素においてＲＴＳノイズが発生する可能性がある画素は除外するようにしても良い。このとき、代表値決定部３２３ｄは、ステップＳ２０９が実行される時点での算出範囲内において、ＲＴＳノイズが発生する可能性がない画素が全くない場合には、注目画素のＲＡＷ画像における画素値を代表値とする。ステップＳ２０９の後、画像処理装置３０は、上述した図７のメインルーチンへ戻る。
【００９９】
このように、代表値算出部３２３は、上述した代表値算出処理において、注目画素の近傍を優先して代表値を算出する。さらに、代表値算出部３２３は、エッジ等により代表値が変動しないように、第１ランダムノイズ量推定部３２３ｂが推定したランダムノイズ量に基づいて、注目画素の周辺画素の画素値の範囲を制限して、代表値を算出する。なお、代表値算出部３２３は、ＲＴＳノイズが発生する可能性がある近傍画素は除外して代表値を算出するようにしても良い。
【０１００】
図７に戻り、ステップＳ１０５以降の説明を続ける。
ステップＳ１０５において、補正値算出部３２５は、上述したステップＳ１０３で候補値算出部３２２によって算出された複数の候補値と、上述したステップＳ１０４で代表値算出部３２３によって算出された代表値とに基づいて、注目画素におけるＲＴＳノイズが補正された画素値を算出する補正値算出処理を実行する。ステップＳ１０５の後、画像処理装置３０は、後述するステップＳ１０６へ移行する。
【０１０１】
図１０は、図７のステップＳ１０５の補正値算出処理の概要を示すフローチャートである。
【０１０２】
図１０に示すように、まず、第２参照値算出部３２５ａは、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅ（補正量の最大値）を減算した値を参照値として算出する（ステップＳ３０１）。
【０１０３】
続いて、第２ランダムノイズ量推定部３２５ｂは、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃに記録されているランダムノイズモデルを取得し、取得したランダムノイズモデルとステップＳ３０１で第２参照値算出部３２５ａが算出した参照値とに基づいて、ランダムノイズ量を算出する（ステップＳ３０２）。
【０１０４】
その後、補正量決定部３２５ｃは、上述したステップＳ３０２で第２ランダムノイズ量推定部３２５ｂが算出したランダムノイズ量に、一定の係数を乗じた値を閾値として算出する（ステップＳ３０３）。ここで、閾値は、以下の式（３）によって算出する。
ランダムノイズ量×Ｒｍ      ・・・（３）
Ｒｍは、ランダムノイズに対してＲＴＳノイズが視覚的にどの程度見えるかに応じて決定される。例えば、Ｒｍの値は、２前後が好ましい。
【０１０５】
続いて、補正量決定部３２５ｃは、上述した図７のステップＳ１０３で候補値算出部３２２によって算出された補正量の候補値の中における最大候補値が上述したステップＳ３０３で算出した閾値以上であるか否かを判定する（ステップＳ３０４）。補正量決定部３２５ｃが上述した図７のステップＳ１０３で候補値算出部３２２によって算出された補正量の候補値の中における最大候補値が閾値以上であると判定した場合（ステップＳ３０４：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ３０５へ移行する。これに対して、補正量決定部３２５ｃが上述した図７のステップＳ１０３で候補値算出部３２２によって算出された補正量の候補値の中における最大候補値が閾値以上でないと判定した場合（ステップＳ３０４：Ｎｏ）、画像処理装置３０は、後述するステップＳ３０６へ移行する。
【０１０６】
ステップＳ３０５において、補正量決定部３２５ｃは、上述した図７のステップＳ１０４で代表値算出部３２３が算出した代表値と注目画素の画素値との差の絶対値に最も近い補正量の候補値を、補正量として選択する。ステップＳ３０５の後、画像処理装置３０は、後述するステップＳ３０７へ移行する。
【０１０７】
ステップＳ３０６において、補正量決定部３２５ｃは、補正量として０を設定する。ステップＳ３０６の後、画像処理装置３０は、ステップＳ３０７へ移行する。
【０１０８】
続いて、画素値補正部３２５ｄは、代表値に近づくように、注目画素の画素値に対して補正量分加算または減算することによって、補正した注目画素の画素値を算出する（ステップＳ３０７）。ステップＳ３０７の後、画像処理装置３０は、図７のメインルーチンへ戻る。
【０１０９】
図７に戻り、ステップＳ１０６以降の説明を続ける。
ステップＳ１０６において、ＲＴＳノイズ補正部３２は、全画素に対して上述したステップＳ１０１〜ステップＳ１０５の処理が終了したか否かを判定する。ＲＴＳノイズ補正部３２が全画素に対して上述したステップＳ１０１〜ステップＳ１０５の処理が終了したと判定した場合（ステップＳ１０６：Ｙｅｓ）、画像処理装置３０は、本処理を終了する。これに対して、ＲＴＳノイズ補正部３２が全画素に対して上述したステップＳ１０１〜ステップＳ１０５の処理が終了していないと判定した場合（ステップＳ１０６：Ｎｏ）、画像処理装置３０は、上述したステップＳ１０１へ戻る。
【０１１０】
以上説明した本発明の実施の形態１によれば、代表値算出部３２３がＲＴＳノイズ情報記録部１１２ｂによって記録されたＲＴＳノイズに関するＲＴＳ＿Ｖａｌｕｅと注目画素で発生するランダムノイズ量を推定するためのランダムノイズモデルとに基づいて、注目画素におけるランダムノイズ量を推定し、補正値算出部３２５が代表値算出部３２３によって推定されたランダムノイズ量に基づいて、注目画素の画素値を補正するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１１１】
また、本発明の実施の形態１によれば、第１参照値算出部３２３ａがＲＴＳノイズ情報記録部１１２ｂによって記録されたＲＴＳノイズに関するＲＴＳ＿Ｖａｌｕｅと注目画素の画素値に基づいて、注目画素で発生するランダムノイズ量を推定するための参照値を算出し、第１ランダムノイズ量推定部３２３ｂが第１参照値算出部３２３ａによって算出した参照値とランダムノイズモデル情報記録部１１２ｃによって記録されたランダムノイズモデルとに基づいて、注目画素におけるランダムノイズ量を推定するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１１２】
（実施の形態１の変形例１）
次に、本発明の実施の形態１の変形例１について説明する。本実施の形態１の変形例１は、上述した実施の形態１に係る撮像システム１と同様の構成を有し、画像処理装置３０が実行する代表値算出処理のみが異なる。このため、以下においては、本実施の形態１の変形例１に係る画像処理装置３０が実行する代表値算出処理について説明する。なお、上述した実施の形態１に係る撮像システム１と同一の構成には同一の符号を付して説明を省略する。
【０１１３】
図１１は、本実施の形態１の変形例１に係る画像処理装置３０が実行する代表値算出処理の概要を示すフローチャートである。
【０１１４】
図１１に示すように、まず、代表値算出部３２３は、注目画素を基準に、代表値算出の対象となる最小の算出範囲を設定する（ステップＳ４０１）。
【０１１５】
続いて、第１参照値算出部３２３ａは、上述したステップＳ４０１で設定された算出範囲において、注目画素以外の画素値の平均値を基準値として算出する（ステップＳ４０２）。例えば、第１参照値算出部３２３ａは、注目画素以外の画素値の平均値を、相加平均や相乗平均等、種々の平均算出方法に基づき算出する。なお、第１参照値算出部３２３ａは、ステップＳ４０１で設定された算出範囲において、注目画素以外の画素値の重み付け平均（加重平均）を算出してもよい。さらに、第１参照値算出部３２３ａは、ステップＳ４０１で設定された算出範囲において、注目画素以外の画素値の中央値や最頻値を用いて算出してもよい。また、第１参照値算出部３２３ａは、平均値の算出において、注目画素を含めるようにしてもよい。この場合において、第１参照値算出部３２３ａは、注目画素においてＲＴＳノイズが発生していたときであっても、算出範囲内の画素値に基づき平均値を算出するため、後述のステップＳ４０４やステップＳ４０６における閾値との比較に大きな影響は無い。
【０１１６】
その後、第１参照値算出部３２３ａは、閾値を算出する（ステップＳ４０３）。具体的には、第１参照値算出部３２３ａは、注目画素のＲＴＳ＿Ｖａｌｕｅ（補正量の最大値）に１以下の所定係数、例えば０．５を乗じた値を閾値として算出する。
【０１１７】
続いて、第１参照値算出部３２３ａは、上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した閾値以上であるか否かを判定する（ステップＳ４０４）。第１参照値算出部３２３ａが上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した閾値以上であると判定した場合（ステップＳ４０４：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ４０５へ移行する。これに対して、上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した閾値以上でないと判定した場合（ステップＳ４０４：Ｎｏ）、画像処理装置３０は、後述するステップＳ４０６へ移行する。
【０１１８】
ステップＳ４０５において、第１参照値算出部３２３ａは、マイナス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、注目画素の画素値にＲＴＳ＿Ｖａｌｕｅを加算した値を参照値（その１）として算出する。ステップＳ４０５の後、画像処理装置３０は、後述するステップＳ４０９へ移行する。
【０１１９】
ステップＳ４０６において、第１参照値算出部３２３ａは、上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した−閾値以下であるか否かを判定する。第１参照値算出部３２３ａが上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した−閾値以下であると判定した場合（ステップＳ４０６：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ４０７へ移行する。これに対して、上述したステップＳ４０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ４０３で算出した閾値以下でないと判定した場合（ステップＳ４０６：Ｎｏ）、画像処理装置３０は、後述するステップＳ４０８へ移行する。
【０１２０】
ステップＳ４０７において、第１参照値算出部３２３ａは、プラス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを減算した値を参照値（その２）として算出する。ステップＳ４０７の後、画像処理装置３０は、後述するステップＳ４０９へ移行する。
【０１２１】
ステップＳ４０８において、第１参照値算出部３２３ａは、注目画素の画素値を参照値（その３）として算出する。ステップＳ４０８の後、画像処理装置３０は、後述するステップＳ４０９へ移行する。
【０１２２】
ステップＳ４０９において、第１ランダムノイズ量推定部３２３ｂは、上述したステップＳ４０５、ステップＳ４０７およびステップＳ４０８のいずれかで第１参照値算出部３２３ａが算出した参照値とランダムノイズモデルとに基づいて、ランダムノイズ量を推定する。ステップＳ４０９の後、画像処理装置３０は、ステップＳ４１０へ移行する。
【０１２３】
ステップＳ４１０〜ステップＳ４１５は、上述した図８のステップＳ２０４〜ステップＳ２０９それぞれに対応するため、説明を省略する。ステップＳ４１５の後、画像処理装置３０は、図７のメインルーチンへ戻る。
【０１２４】
以上説明した本発明の実施の形態１の変形例１によれば、第１参照値算出部３２３ａが注目画素を基準に代表値算出の対象となる算出範囲において算出範囲内の画素値の平均値である代表値（閾値）に応じて、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを調整した値を参照値として算出するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１２５】
また、本発明の実施の形態１の変形例１によれば、第１参照値算出部３２３ａが注目画素の画素値が代表値算出の対象となる算出範囲において算出範囲内の画素値の平均値である閾値より小さい場合、注目画素の画素値にＲＴＳ＿Ｖａｌｕｅを加算する一方、閾値より大きい場合、注目画素のＲＡＷ画像の画素値からＲＴＳ＿Ｖａｌｕｅを減算するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１２６】
（実施の形態１の変形例２）
次に、本発明の実施の形態１の変形例２について説明する。本実施の形態１の変形例２は、上述した実施の形態１に係る撮像システム１と同様の構成を有し、画像処理装置３０が実行する代表値算出処理のみが異なる。このため、以下においては、本実施の形態１の変形例２に係る画像処理装置３０が実行する代表値算出処理について説明する。なお、上述した実施の形態１に係る撮像システム１と同一の構成には同一の符号を付して説明を省略する。
【０１２７】
図１２は、本実施の形態１の変形例２に係る画像処理装置３０が実行する代表値算出処理の概要を示すフローチャートである。
【０１２８】
まず、代表値算出部３２３は、注目画素を基準に、代表値算出の対象となる最小の算出範囲を設定する（ステップＳ５０１）。
【０１２９】
第１参照値算出部３２３ａは、上述したステップＳ５０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値を基準値として算出する（ステップＳ５０２）。例えば、第１参照値算出部３２３ａは、注目画素以外の画素値の平均値を、相加平均や相乗平均等、種々の平均算出方法に基づき算出する。なお、第１参照値算出部３２３ａは、ステップＳ５０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における重み付け平均（加重平均）を算出してもよい。さらに、第１参照値算出部３２３ａは、ステップＳ５０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における中央値や最頻値を用いて算出してもよい。
【０１３０】
ステップＳ５０３は、上述した図１１のステップＳ４０３に対応する。ステップＳ５０３の後、画像処理装置３０は、ステップＳ５０４へ移行する。
【０１３１】
続いて、第１参照値算出部３２３ａは、上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以上であるか否かを判定する（ステップＳ５０４）。第１参照値算出部３２３ａが上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以上であると判定した場合（ステップＳ５０４：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ５０５へ移行する。これに対して、上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以上でないと判定した場合（ステップＳ５０４：Ｎｏ）、画像処理装置３０は、後述するステップＳ５０６へ移行する。
【０１３２】
ステップＳ５０５において、第１参照値算出部３２３ａは、マイナス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、注目画素の画素値にＲＴＳ＿Ｖａｌｕｅを加算した値を参照値（その１）として算出する。ステップＳ５０５の後、画像処理装置３０は、後述するステップＳ５０９へ移行する。
【０１３３】
ステップＳ５０６において、第１参照値算出部３２３ａは、上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以下であるか否かを判定する。第１参照値算出部３２３ａが上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以下であると判定した場合（ステップＳ５０６：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ５０７へ移行する。これに対して、上述したステップＳ５０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ５０３で算出した閾値以下でないと判定した場合（ステップＳ５０６：Ｎｏ）、画像処理装置３０は、後述するステップＳ５０８へ移行する。
【０１３４】
ステップＳ５０７において、第１参照値算出部３２３ａは、プラス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを減算した値を参照値（その２）として算出する。ステップＳ５０７の後、画像処理装置３０は、後述するステップＳ５０９へ移行する。
【０１３５】
ステップＳ５０８において、第１参照値算出部３２３ａは、注目画素の画素値を参照値（その３）として算出する。ステップＳ５０８の後、画像処理装置３０は、後述するステップＳ５０９へ移行する。
【０１３６】
ステップＳ５０９において、第１ランダムノイズ量推定部３２３ｂは、上述したステップＳ５０５、ステップＳ５０７およびステップＳ５０８のいずれかで第１参照値算出部３２３ａが算出した参照値とランダムノイズモデルとに基づいて、ランダムノイズ量を推定する。ステップＳ５０９の後、画像処理装置３０は、ステップＳ５１０へ移行する。
【０１３７】
ステップＳ５１０〜ステップＳ５１５は、上述した図８のステップＳ２０４〜ステップＳ２０９それぞれに対応する。ステップＳ５１５の後、画像処理装置３０は、図７のメインルーチンへ戻る。
【０１３８】
以上説明した本発明の実施の形態１の変形例２によれば、第１参照値算出部３２３ａが注目画素を基準に代表値算出の対象となる算出範囲においてＲＴＳノイズが発生しない画素の画素値を用いて算出された平均値である基準値（閾値）に応じて、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを調整した値を参照値として算出するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１３９】
また、本発明の実施の形態１の変形例２によれば、第１参照値算出部３２３ａが注目画素を基準に代表値算出の対象となる算出範囲においてＲＴＳノイズが発生しない画素の画素値を用いて算出された平均値である閾値より小さい場合、注目画素の画素値にＲＴＳ＿Ｖａｌｕｅを加算する一方、閾値より大きい場合、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを減算するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１４０】
（実施の形態１の変形例３）
次に、本発明の実施の形態１の変形例３について説明する。本実施の形態１の変形例３は、上述した実施の形態１に係る撮像システム１と同様の構成を有し、画像処理装置３０が実行する補正値算出処理のみが異なる。このため、以下においては、本実施の形態１の変形例３に係る画像処理装置が実行する補正値算出処理について説明する。なお、上述した実施の形態１に係る撮像システム１と同一の構成には同一の符号を付して説明を省略する。
【０１４１】
図１３は、本実施の形態１の変形例３に係る画像処理装置３０が実行する補正値算出処理の概要を示すフローチャートである。
【０１４２】
図１３に示すように、補正値算出部３２５は、画像処理装置３０に対してノイズ低減モードが設定されているか否かを判断する（ステップＳ６０１）。具体的には、補正値算出部３２５は、ユーザが操作部３３４を操作することによって、画素の画素値に重畳されたノイズを優先的に低減するノイズ低減モードが設定されているか否かを判断する。補正値算出部３２５が画像処理装置３０に対してノイズ低減モードが設定されていると判断した場合（ステップＳ６０１：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ６０２へ移行する。これに対して、補正値算出部３２５が画像処理装置３０に対してノイズ低減モードが設定されていない、即ち、注目画素の過補正を防止する過補正防止モードが選択されていると判断した場合（ステップＳ６０１：Ｎｏ）、画像処理装置３０は、後述するステップＳ６０３へ移行する。
【０１４３】
ステップＳ６０２において、第２参照値算出部３２５ａは、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅ（補正量の最大値）を減算した値を参照値として算出する。ステップＳ６０２の後、画像処理装置３０は、後述するステップＳ６０４へ移行する。
【０１４４】
ステップＳ６０３において、第２参照値算出部３２５ａは、注目画素の画素値からＲＴＳ＿Ｖａｌｕｅ（補正量の最大値）を加算した値を参照値として算出する。ステップＳ６０３の後、画像処理装置３０は、後述するステップＳ６０４へ移行する。
【０１４５】
ステップＳ６０４〜ステップＳ６０９は、図１０のステップＳ３０２〜ステップＳ３０７それぞれに対応する。ステップＳ６０９の後、画像処理装置３０は、図７のメインルーチンへ戻る。
【０１４６】
以上説明した本発明の実施の形態１の変形例３によれば、操作部３４の操作に応じてノイズ低減優先モードが選択された場合、第２参照値算出部３２５ａが注目画素の画素値にＲＴＳ＿Ｖａｌｕｅを減算することによって参照値を算出する一方、操作部３４の操作に応じて過補正防止モードが選択された場合、第２参照値算出部３２５ａが注目画素の画素値からＲＴＳ＿Ｖａｌｕｅを加算することによって参照値を算出する。そして、第２参照値算出部３２５ａが算出した参照値を用いてノイズモデルを参照し、補正量を決定するので、注目画素にＲＴＳノイズが発生する場合であっても、ユーザの所望に応じて補正を行うことができる。
【０１４７】
（実施の形態２）
次に、本発明の実施の形態２について説明する。本実施の形態２に係る撮像システムは、画像処理装置における代表値算出部および補正値算出部の構成が異なるうえ、代表値算出処理が異なる。このため、以下においては、本実施の形態２に係る代表値算出部および補正値算出部の構成を説明後、代表値算出処理について説明する。なお、上述した実施の形態１に係る撮像システム１と同一の構成には同一の符号を付して説明を省略する。
【０１４８】
まず、代表値算出部の構成について説明する。図１４は、本実施の形態２に係る代表値算出部の詳細な構成を示すブロック図である。図１４に示す代表値算出部３２６は、上述した実施の形態１に係る代表値算出部３２３の第１参照値算出部３２３ａに換えて、第１ランダムノイズモデル選択部３２６ａを有する。
【０１４９】
第１ランダムノイズモデル選択部３２６ａは、注目画素を基準に設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値に基づいて、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルのいずれかを選択する。
【０１５０】
次に、補正値算出部の構成について説明する。図１５は、本実施の形態２に係る補正値算出部の詳細な構成を示すブロック図である。図１５に示す補正値算出部３２７は、上述した補正値算出部３２５の第２参照値算出部３２５ａに換えて、第２ランダムノイズモデル選択部３２７ａを有する。
【０１５１】
第２ランダムノイズモデル選択部３２７ａは、設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値に基づいて、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルのいずれかを選択する。
【０１５２】
〔画像処理装置の処理〕
次に、画像処理装置３０が実行する代表値算出処理について説明する。図１６は、画像処理装置３０が実行する代表値算出処理の概要を示すフローチャートである。
【０１５３】
図１６に示すように、まず、代表値算出部３２６は、注目画素を基準に、代表値算出の対象となる最小の算出範囲を設定する（ステップＳ７０１）。
【０１５４】
続いて、第１ランダムノイズモデル選択部３２６ａは、上述したステップＳ７０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値を基準値として算出する（ステップＳ７０２）。例えば、第１ランダムノイズモデル選択部３２６ａは、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値を、相加平均や相乗平均等、種々の平均算出方法に基づき算出する。なお、第１ランダムノイズモデル選択部３２６ａは、ステップＳ７０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における重み付け平均（加重平均）を算出してもよい。さらに、第１ランダムノイズモデル選択部３２６ａは、ステップＳ７０１で設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における中央値や最頻値を用いて算出してもよい。また、第１ランダムノイズモデル選択部３２６ａは、ステップＳ７０１で設定された算出範囲において。ＲＴＳノイズが発生する可能性がある画素や注目画素を含めて平均値、重み付け平均、中央値および最頻値等を算出してもよい。
【０１５５】
その後、第１ランダムノイズモデル選択部３２６ａは、閾値を算出する（ステップＳ７０３）。具体的には、第１ランダムノイズモデル選択部３２６ａは、注目画素のＲＴＳ＿Ｖａｌｕｅ（補正量の最大値）に１以下の所定係数、例えば０．５を乗じた値を閾値として算出する。
【０１５６】
続いて、第１ランダムノイズモデル選択部３２６ａは、上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した閾値以上であるか否かを判定する（ステップＳ７０４）。第１ランダムノイズモデル選択部３２６ａが上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した閾値以上であると判定した場合（ステップＳ７０４：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ７０５へ移行する。これに対して、第１ランダムノイズモデル選択部３２６ａが上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した閾値以上でないと判定した場合（ステップＳ７０４：Ｎｏ）、画像処理装置３０は、後述するステップＳ７０６へ移行する。
【０１５７】
ステップＳ７０５において、第１ランダムノイズモデル選択部３２６ａは、マイナス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルから全体的に画素値がマイナス方向にシフトしたランダムノイズモデル１を選択して取得する。
【０１５８】
図１７は、ランダムノイズモデルの一例を示す図である。図１７において、縦軸がノイズ量を示し、横軸が画素値を示す。なお、図１７においては、縦軸のランダムノイズ量として画素値の標準偏差を用い、撮像素子１０５の特性に応じた複数のランダムノイズモデルを示す。
【０１５９】
図１７に示すように、第１ランダムノイズモデル選択部３２６ａは、ランダムノイズモデル情報記録部１１２ｃがＲＴＳノイズの振幅と対応づけて記録する複数のランダムノイズモデルＬ１０〜Ｌ１２から、マイナス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されている場合に対応するランダムノイズモデルＬ１２を選択し、この選択したランダムノイズモデルＬ１２をランダムノイズモデル情報記録部１１２ｃから取得する。ステップＳ７０５の後、画像処理装置３０は、後述するステップＳ７０９へ移行する。
【０１６０】
ステップＳ７０６において、第１ランダムノイズモデル選択部３２６ａは、上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した−閾値以下であるか否かを判定する。第１ランダムノイズモデル選択部３２６ａが上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した−閾値以下であると判定した場合（ステップＳ７０６：Ｙｅｓ）、画像処理装置３０は、後述するステップＳ７０７へ移行する。これに対して、第１ランダムノイズモデル選択部３２６ａが上述したステップＳ７０２で算出した平均値から注目画素の画素値を減算した値が上述したステップＳ７０３で算出した−閾値以下でないと判定した場合（ステップＳ７０６：Ｎｏ）、画像処理装置３０は、後述するステップＳ７０８へ移行する。
【０１６１】
ステップＳ７０７において、第１ランダムノイズモデル選択部３２６ａは、プラス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されていると判断し、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルから全体的に画素値がプラス方向にシフトしたランダムノイズモデル２を選択して取得する。具体的には、第１ランダムノイズモデル選択部３２６ａは、ランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルＬ１０〜Ｌ１２から、プラス方向にＲＴＳ＿Ｖａｌｕｅ振られたＲＴＳノイズが重畳されている場合に対応するランダムノイズモデルＬ１１を選択し、この選択したランダムノイズモデルＬ１１をランダムノイズモデル情報記録部１１２ｃから取得する。ステップＳ７０７の後、画像処理装置３０は、後述するステップＳ７０９へ移行する。
【０１６２】
ステップＳ７０８において、第１ランダムノイズモデル選択部３２６ａは、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルから通常のランダムノイズモデル３を選択して取得する。具体的には、図１７に示すように、第１ランダムノイズモデル選択部３２６ａは、ランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルＬ１０〜Ｌ１２から、通常の場合に対応するランダムノイズモデルＬ１０を選択し、この選択したランダムノイズモデルＬ１０をランダムノイズモデル情報記録部１１２ｃから取得する。ステップＳ７０８の後、画像処理装置３０は、後述するステップＳ７０９へ移行する。
【０１６３】
ステップＳ７０９において、第１ランダムノイズ量推定部３２３ｂは、上述したステップＳ７０５、ステップＳ７０７およびステップＳ７０８のいずれかで第１ランダムノイズモデル選択部３２６ａが選択したランダムノイズモデルと注目画素の画素値に基づいて、注目画素の画素値のランダムノイズ量を推定する。
【０１６４】
ステップＳ７１０〜ステップＳ７１５は、上述した図８のステップＳ２０４〜ステップＳ２０９それぞれに対応する。ステップＳ７１５の後、画像処理装置３０は、図７のメインルーチンへ戻る。
【０１６５】
以上説明した本発明の実施の形態２によれば、第１ランダムノイズモデル選択部３２６ａが注目画素を基準に設定された算出範囲において、注目画素以外でＲＴＳノイズが発生しない画素の画素値における平均値に基づいて、第３外部Ｉ／Ｆ部３１、第１外部Ｉ／Ｆ部１１５およびバス１１３を介してランダムノイズモデル情報記録部１１２ｃが記録する複数のランダムノイズモデルのいずれかを選択し、第１ランダムノイズ量推定部３２３ｂが第１ランダムノイズモデル選択部３２６ａによって選択されたランダムノイズモデルと注目画素の画素値とに基づいて、注目画素におけるランダムノイズ量を推定するので、注目画素にＲＴＳノイズが発生する場合であっても、ランダムノイズ量を正しく推定することができる。
【０１６６】
（実施の形態３）
次に、本発明の実施の形態３について説明する。上述した実施の形態１は、画像処理装置３０が個別に設けられていたが、本実施の形態３では、撮像装置本体に画像処理装置を設ける。このため、以下においては、上述した実施の形態１に係る撮像システム１と同様の構成には同一の符号を付して説明を省略する。
【０１６７】
〔撮像システムの構成〕
図１８は、本発明の実施の形態３に係る撮像システム２の構成を模式的に示すブロック図である。図１８に示す撮像システム２は、本体部３と、本体部３に着脱自在に接続可能なレンズ部４と、を備える。
【０１６８】
〔本体部の構成〕
本体部３は、シャッタ１０３と、撮像素子１０５と、アナログ処理部１０６と、Ａ／Ｄ変換部１０７と、操作部１０８と、メモリＩ／Ｆ部１０９と、記録媒体１１０と、揮発メモリ１１１と、不揮発メモリ１１２と、バス１１３と、撮像制御部１１４と、ＡＥ処理部１１６と、ＡＦ処理部１１７と、外部Ｉ／Ｆ部１１８と、表示部１１９と、ドライバ１２０と、ＲＴＳノイズ補正部３２と、を備える。ドライバ１２０は、撮像制御部１１４の制御のもと、シャッタ１０３を駆動する。
【０１６９】
ＡＥ処理部１１６は、バス１１３を介して揮発メモリ１１１に記憶された画像データを取得し、この取得した画像データに基づいて、静止画撮影または動画撮影を行う際の露出条件を設定する。具体的には、ＡＥ処理部１１６は、画像データから輝度を算出し、算出した輝度に基づいて、例えば絞り値、露光時間、ＩＳＯ感度等を決定することで撮像システム２の自動露出（Ａｕｔｏ  Ｅｘｐｏｓｕｒｅ）を行う。
【０１７０】
ＡＦ処理部１１７は、バス１１３を介して揮発メモリ１１１に記憶された画像データを取得し、取得した画像データに基づいて、撮像システム２の自動焦点の調整を行う。例えば、ＡＦ処理部１１７は、画像データから高周波成分の信号を取り出し、高周波成分の信号に対してＡＦ(Ａｕｔｏ  Ｆｏｃｕｓ)演算処理を行うことによって、撮像システム２の合焦評価を決定することで撮像システム２の自動焦点の調整を行う。なお、撮像システム２の自動焦点の調整方法は、撮像素子１０５で位相差信号を取得するものであってもよい。
【０１７１】
外部Ｉ／Ｆ部１１８は、本体部３における各種ブロックにおけるデータの読み書きや、専用のコマンド等による制御などを行える。外部Ｉ／Ｆ部１１８は、ＦＰＧＡ、ＤＳＰまたはＧＰＵ等を搭載した専用の回路やパーソナルコンピュータ（ＰＣ）等の外部機器を接続することで、本体部３における各種ブロックを制御が可能なインターフェースである。
【０１７２】
表示部１１９は、液晶または有機ＥＬ（Electro  Luminescence）等からなる表示パネルを用いて構成される。表示部１１９は、撮像素子１０５が生成した画像データに対応する画像を表示する。
【０１７３】
〔レンズ部の構成〕
図１８に示すように、レンズ部４は、所定の視野領域から集光した被写体像を撮像素子１０５に結像する。光学系１０１と、絞り１０２と、ドライバ１０４と、を備える。
【０１７４】
〔撮像システムの処理〕
次に、撮像システム２が実行する処理について説明する。図１９は、撮像システム２が実行する処理の概要を示すフローチャートである。
【０１７５】
図１９に示すように、まず、ユーザによって操作部１０８の電源ボタン（図示せず）が操作されて、本体部３の電源がオンになると、撮像制御部１１４は、撮像システム２の初期化を行う（ステップＳ８０１）。具体的には、撮像制御部１１４は、動画の記録中を示す記録中フラグをオフ状態にする初期化を行う。この記録中フラグは、動画の撮影中にオン状態になり、動画を撮影していないときにオフ状態となるフラグであり、揮発メモリ１１１に記憶されている。
【０１７６】
続いて、操作部１０８の動画ボタンが押された場合（ステップＳ８０２：Ｙｅｓ）、撮像制御部１１４は、オン状態で動画の記録中であることを示す記録中フラグを反転し（ステップＳ８０３）、撮像制御部１１４は、撮像システム２が動画記録中であるか否かを判断する（ステップＳ８０４）。具体的には、撮像制御部１１４は、揮発メモリ１１１に記憶された記録中フラグがオン状態であるか否かを判定する。撮像制御部１１４によって撮像システム２が動画記録中であると判断された場合（ステップＳ８０４：Ｙｅｓ）、撮像システム２は、後述するステップＳ８０５へ移行する。これに対して、撮像制御部１１４によって撮像システム２が動画記録中でないと判断された場合（ステップＳ８０４：Ｎｏ）、撮像システム２は、後述するステップＳ８０６へ移行する。
【０１７７】
ステップＳ８０５において、撮像制御部１１４は、記録媒体１１０に画像データを時系列に沿って記録するための動画ファイルを生成する。ステップＳ８０５の後、撮像システム２は、後述するステップＳ８０６へ移行する。
【０１７８】
ステップＳ８０２において、操作部１０８の動画ボタンが押されていない場合（ステップＳ８０２：Ｎｏ）、撮像システム２は、ステップＳ８０６へ移行する。
【０１７９】
続いて、撮像制御部１１４は、撮像システム２が動画の記録中であるか否かを判断する（ステップＳ８０６）。撮像制御部１１４によって撮像システム２が動画の記録中であると判断された場合（ステップＳ８０６：Ｙｅｓ）、撮像システム２は、後述するステップＳ８１７へ移行する。これに対して、撮像制御部１１４によって動画の記録中でないと判断された場合（ステップＳ８０６：Ｎｏ）、撮像システム２は、後述するステップＳ８０７へ移行する。
【０１８０】
ステップＳ８０７において、操作部１０８の再生ボタンが押された場合（ステップＳ８０７：Ｙｅｓ）、撮像システム２は、記録媒体１１０に記録された画像データに対応する画像を表示部１１９に再生させて表示させる（ステップＳ８０８）。ステップＳ８０８の後、撮像システム２は、後述するステップＳ８０９へ移行する。
【０１８１】
ステップＳ８０７において、操作部１０８の再生ボタンが押されていない場合（ステップＳ８０７：Ｎｏ）、撮像システム２は、ステップＳ８０９へ移行する。
【０１８２】
続いて、操作部１０８のメニューボタンが押された場合（ステップＳ８０９：Ｙｅｓ）、撮像システム２は、各種設定を行う設定処理を実行する（ステップＳ８１０）。ステップＳ８１０の後、撮像システム２は、後述するステップＳ８１１へ移行する。
【０１８３】
ステップＳ８０９において、操作部１０８のメニューボタンが押されていない場合（ステップＳ８０９：Ｎｏ）、撮像システム２は、ステップＳ８１１へ移行する。
【０１８４】
ステップＳ８１１において、操作部１０８のレリーズボタンがオフ状態から１ｓｔ状態に遷移した場合（ステップＳ８１１：Ｙｅｓ）、撮像制御部１１４は、ＡＥ処理部１１６に露出を調整するＡＥ処理およびＡＦ処理部１１７にピントを調整するＡＦ処理それぞれを実行させる（ステップＳ８１２）。その後、撮像システム２は、後述するステップＳ８２４へ移行する。
【０１８５】
ステップＳ８１１において、操作部１０８のレリーズボタンがオフ状態から１ｓｔ状態に遷移していない場合（ステップＳ８１１：Ｎｏ）、撮像システム２は、ステップＳ８１３へ移行する。
【０１８６】
続いて、操作部１０８のレリーズボタンが２ｎｄ状態に遷移した場合（ステップＳ８１３：Ｙｅｓ）、撮像制御部１１４は、メカシャッタによる撮影を実行する（ステップＳ８１４）。具体的には、撮像制御部１１４は、シャッタ１０３を制御することによって、撮像素子１０５に撮影を実行させる。
【０１８７】
続いて、撮像システム２は、撮像素子１０５が生成した画像データに対して、ＲＴＳノイズの補正を行った後に、所定の処理を行う画像処理を実行する（ステップＳ８１５）。なお、画像処理の詳細は後述する。
【０１８８】
その後、撮像制御部１１４は、画像処理部３０３が画像処理を施した画像データを記録媒体１１０に記録する（ステップＳ８１６）。ステップＳ８１６の後、撮像システム２は、後述するステップＳ８２４へ移行する。
【０１８９】
ステップＳ８１３において、操作部１０８のレリーズボタンが２ｎｄ状態に遷移していない場合（ステップＳ８１３：Ｎｏ）、撮像システム２は、ステップＳ８１７へ移行する。
【０１９０】
続いて、撮像制御部１１４は、ＡＥ処理部１１６に露出を調整するＡＥ処理を実行させ（ステップＳ８１７）、ＡＦ処理部１１７にピントを調整するＡＦ処理を実行させる（ステップＳ８１８）。
【０１９１】
その後、撮像制御部１１４は、ドライバ１２０を介して撮像素子１０５に露光時間を電子的に制御する、所謂、電子シャッタによる撮影を実行させる（ステップＳ８１９）。電子シャッタによる撮影によって撮像素子１０５が生成した画像データは、アナログ処理部１０６およびＡ／Ｄ変換部１０７およびバス１１３を介して揮発メモリ１１１に出力される。
【０１９２】
続いて、撮像システム２は、ステップＳ８１５と同様の画像処理を実行する（ステップＳ８２０）。なお、画像処理の詳細は後述する。
【０１９３】
その後、撮像システム２は、電子シャッタによる撮影によって撮像素子１０５が生成した画像データに対応するライブビュー画像を表示部１１９に表示させる（ステップＳ８２１）。
【０１９４】
続いて、撮像システム２が動画記録中である場合（ステップＳ８２２：Ｙｅｓ）、撮像制御部１１４は、画像データをステップＳ１０１０の設定処理により設定した記録形式で図示ない画像圧縮展開部に圧縮させ、この圧縮した画像データを記録媒体１１０に作成された動画ファイルに動画として記録させる（ステップＳ８２３）。ステップＳ８２３の後、撮像システム２は、ステップＳ８２４へ移行する。
【０１９５】
ステップＳ８２２において、撮像システム２が動画記録中でない場合（ステップＳ８２２：Ｎｏ）、撮像システム２は、ステップＳ８２４へ移行する。
【０１９６】
続いて、操作部１０８の電源ボタンが押されて撮像システム２の電源がオフ状態になった場合（ステップＳ８２４：Ｙｅｓ）、撮像システム２は、本処理を終了する。これに対して、撮像システム２の電源がオフ状態になっていない場合（ステップＳ８２４：Ｎｏ）、撮像システム２は、ステップＳ８０２へ戻る。
【０１９７】
次に、図１９のステップＳ８１５およびステップＳ８２０で説明した画像処理について説明する。図２０は、画像処理の概要を示すフローチャートである。
【０１９８】
図１８に示すように、ＲＴＳノイズ補正部３２は、撮像素子１０５が生成した画像データに対してＲＴＳノイズを補正するＲＴＳノイズ補正処理を実行する（ステップＳ９０１）。ここで、ＲＴＳノイズ補正処理は、上述した実施の形態１に係る画像処理装置３０が実行する処理に対応するため、説明を省略する。
【０１９９】
続いて、画像処理部３０３は、ＲＴＳノイズ補正部３２がＲＴＳノイズを補正した画像データに対して基本画像処理を実行する（ステップＳ９０２）。ステップＳ９０２の後、撮像システム２は、図１９のメインルーチンへ戻る。
【０２００】
以上説明した本発明の実施の形態３によれば、上述した実施の形態１と同様の効果を有する。
【０２０１】
（その他の実施の形態）
本発明は上述した実施の形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、本発明の説明に用いた撮像装置以外にも、携帯電話やスマートフォンにおける撮像素子を備えた携帯機器、ビデオカメラ、内視鏡、監視カメラ、顕微鏡のような光学機器を通して被写体を撮影する撮像装置等、被写体を撮像可能ないずれの機器にも適用できる。
【０２０２】
本発明では、ランダムノイズモデルの参照値、もしくは参照するノイズモデルを、ＲＴＳノイズの特徴量であるＲＴＳ＿Ｖａｌｕｅや、ＲＴＳ＿Ｖａｌｕｅに基づく値である候補値の最大値に応じて変更していたが、これらを組み合わせ、ＲＴＳノイズの特徴量に応じてランダムノイズモデルを選択し、さらに参照値を変更してランダムノイズ量を推定するようにしてもよい。また、温度に応じてランダムノイズ量が異なるため、画像データを撮影した際の撮像素子の温度に応じてランダムノイズモデルを選択し、さらに上記の方法を適用するようにしてもよい。
【０２０３】
また、本発明では、ＲＴＳノイズ情報記録部が撮像装置内に設けられていたが、上述した画像処理装置内に設けられていてもよし、ネットワークを介して双方向に通信可能なサーバ内にＲＴＳノイズ情報記録部を設け、ネットワークを介してＲＴＳノイズ情報を取得するようにしてもよい。
【０２０４】
また、本発明は、表示または記録に用いる画像データ以外の画像データ、例えばＯＢ領域の画像データまたは光学的に設計保証されていないイメージサークル外の領域の画像データ等の画像データであっても適用可能である。
【０２０５】
また、本明細書において、前述の各動作フローチャートの説明において、便宜上「まず」、「次に」、「続いて」、「その後」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
【０２０６】
また、上述した実施の形態における画像処理装置による各処理の手法、即ち、各フローチャートに示す処理は、いずれもＣＰＵ等の制御部に実行させることができるプログラムとして記憶させておくこともできる。この他、メモリカード（ＲＯＭカード、ＲＡＭカード等）、磁気ディスク（フロッピー（登録商標）ディスク、ハードディスク等）、光ディスク（ＣＤ−ＲＯＭ、ＤＶＤ等）、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、ＣＰＵ等の制御部は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。
【０２０７】
また、本発明は、上述した実施の形態および変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上述した実施の形態に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上述した実施の形態および変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、各実施例および変形例で説明した構成要素を適宜組み合わせてもよい。
【０２０８】
また、明細書または図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書または図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【０２０９】
１,２  撮像システム
３  本体部
４  レンズ部
１０  撮像装置
３０  画像処理装置
３１  第３外部Ｉ／Ｆ部
３２  ＲＴＳノイズ補正部
３３  画像処理部
４０  表示装置
１０１  光学系
１０２  絞り
１０３  シャッタ
１０４,１２０  ドライバ
１０５  撮像素子
１０５ａ  画素
１０５ｂ  第１スイッチ
１０５ｃ  垂直転送線
１０５ｄ  ＦＤ部
１０５ｅ  アンプ部
１０５ｆ  第２スイッチ
１０５ｇ  制御線
１０５ｈ  転送線
１０６  アナログ処理部
１０７  Ａ／Ｄ変換部
１０８  操作部
１０９  メモリＩ／Ｆ部
１１０  記録媒体
１１１  揮発メモリ
１１２  不揮発メモリ
１１２ａ  プログラム記録部
１１２ｂ  ＲＴＳノイズ情報記録部
１１２ｃ  ランダムノイズモデル情報記録部
１１３  バス
１１４  撮像制御部
１１５  第１外部Ｉ／Ｆ部
１１６  ＡＥ処理部
１１７  ＡＦ処理部
１１８  外部Ｉ／Ｆ部
１１９  表示部
３０３  画像処理部
３２１  ＲＴＳノイズ画素判定部
３２２  候補値算出部
３２３  代表値算出部
３２３ａ  第１参照値算出部
３２３ｂ  第１ランダムノイズ量推定部
３２３ｃ  許容範囲算出部
３２３ｄ  代表値決定部
３２４  ランダムノイズ量推定部
３２５  補正値算出部
３２５ａ  第２参照値算出部
３２５ｂ  第２ランダムノイズ量推定部
３２５ｃ  補正量決定部
３２５ｄ  画素値補正部
３２６  代表値算出部
３２６ａ  第１ランダムノイズモデル選択部
３２７  補正値算出部
３２７ａ  第２ランダムノイズモデル選択部
３３４  操作部
【図１】
2016147325.tif 000003
【図２】
2016147325.tif 000004
【図３】
2016147325.tif 000005
【図４】
2016147325.tif 000006
【図５】
2016147325.tif 000007
【図６】
2016147325.tif 000008
【図７】
2016147325.tif 000009
【図８】
2016147325.tif 000010
【図９】
2016147325.tif 000011
【図１０】
2016147325.tif 000012
【図１１】
2016147325.tif 000013
【図１２】
2016147325.tif 000014
【図１３】
2016147325.tif 000015
【図１４】
2016147325.tif 000016
【図１５】
2016147325.tif 000017
【図１６】
2016147325.tif 000018
【図１７】
2016147325.tif 000019
【図１８】
2016147325.tif 000020
【図１９】
2016147325.tif 000021
【図２０】
2016147325.tif 000022
【国際調査報告】
2016147325.tif 000023
2016147325.tif 000024
2016147325.tif 000025
2016147325.tif 000026